Por el equipo de Smili Phone
El lunes 12 de octubre, Microsoft anunció la nueva generación de su chip de IA personalizado, el Maia 300. La empresa planea desplegar más de un millón de estas unidades el próximo año para alimentar sus servicios internos de IA. El número importa menos que lo que representa: las grandes empresas de la nube ya no se conforman con alquilar el hardware que ejecuta la IA. Lo están construyendo ellas mismas.
El Maia 300 es la tercera generación de silicio personalizado de Microsoft. Su predecesor ya ejecuta los modelos de IA internos de Microsoft y los modelos de OpenAI en el servicio en la nube de Azure, y la empresa dice que los despliegues multi-gigavatio comenzarán el próximo año. Esta ola de chips personalizados, de rivales de la nube y de empresas de IA por igual, busca aflojar el dominio que Nvidia ha tenido sobre el mercado de computación de IA durante años.
Cómo funciona el Maia 300
Microsoft tomó un camino técnico distinto al de Nvidia. En lugar de un chip de cómputo masivo rodeado de chips de memoria de alto ancho de banda, el Maia 300 está construido con "chiplets": chips pequeños y especializados unidos entre sí. Las funciones clave de cómputo usan tecnología de 2 nanómetros de TSMC, mientras que chiplets más baratos de 3 nanómetros se encargan de mover los datos. Es un intercambio deliberado: precisión donde cuenta, ahorro donde no.
Los bastidores completos también son hardware serio: 96 chips por bastidor que consumen unos 167 kilovatios de potencia. Microsoft dice que el Maia 300 logra alrededor de un 40 por ciento más de cómputo útil por megavatio que los principales sistemas basados en GPU. Rani Borkar, presidenta de sistemas e infraestructura de hardware de Azure, dijo a Reuters que el diseño ofrece más inteligencia por cada vatio y cada byte de memoria.
Por qué le importa a tu teléfono
Esta no es solo una historia de centros de datos. Cada vez que le preguntas algo al asistente de tu teléfono, la respuesta se calcula en hardware como este. La computación de IA más barata y eficiente es lo que hace que los asistentes inteligentes sean más rápidos y lleva más funciones de IA directamente a tu dispositivo en lugar de a la nube. La carrera de los chips también es la razón por la que más IA del futuro se ejecutará localmente en tu teléfono: respuestas más rápidas y más de tus datos permanecen en el dispositivo.
- Mantén actualizado el software de tu teléfono para recibir las funciones de IA en el dispositivo más recientes.
- Si tu asistente se siente lento, libera almacenamiento y reinicia el teléfono. Las funciones de IA necesitan espacio para trabajar.
- Recuerda que cada respuesta de IA en la nube le cuesta electricidad y hardware a alguien. Esa es exactamente la razón por la que existe esta carrera de chips.
Aquí en Escondido, la noticia de los chips se nota en formas prácticas: teléfonos que se calientan más a medida que se multiplican las funciones de IA, baterías que se agotan más rápido con asistentes siempre activos y personas que nos preguntan si es hora de cambiar de teléfono. Si tu teléfono se siente lento bajo el peso de las nuevas funciones de IA, tráelo a 1882 W El Norte Pkwy antes de comprar uno nuevo. Una puesta a punto o un cambio de batería a menudo le da años más de vida a un teléfono mayor.
Relacionado: la apuesta de OpenAI por los agentes de IA · ejecutar IA en tu propia computadora
