Tecnología

Por qué Google está desarrollando su propio chip de IA, y qué significaría para Gemini

TechCrunchhace 6 h
Primer plano de un chip procesador de computadora en una placa de circuito
Primer plano de un chip procesador de computadora en una placa de circuitoPhoto: Jakub Pabis / Pexels

La matriz de Google, Alphabet, estaría trabajando, según personas familiarizadas con el proyecto, en un nuevo chip diseñado específicamente para que sus modelos de IA Gemini funcionen de forma más eficiente. Aunque la empresa no ha detallado formalmente el proyecto, la información encaja en un patrón que se ha vuelto cada vez más central en la estrategia competitiva de todos los grandes laboratorios de IA: el control sobre el hardware que hace funcionar sus modelos.

Para entender por qué esto importa, conviene separar dos tareas distintas que un chip puede realizar para un sistema de IA. Entrenar un gran modelo de lenguaje, el proceso de alimentarlo con enormes cantidades de datos para que aprenda patrones, exige un cómputo intensivo y tradicionalmente ha sido dominio de unidades de procesamiento gráfico especializadas, o GPU, cuya inmensa mayoría produce Nvidia. Ejecutar un modelo ya entrenado para responder a la pregunta de un usuario, conocido como inferencia, es un costo distinto y cada vez más dominante a medida que los productos de IA escalan a cientos de millones de usuarios.

Es ahí donde chips de eficiencia como el que supuestamente está en desarrollo importan más. Cada vez que alguien le hace una pregunta a Gemini, la empresa que ejecuta el modelo paga la potencia de cómputo, la electricidad y la refrigeración necesarias para generar esa respuesta. A la escala de Google, incluso pequeñas ganancias de eficiencia por consulta se traducen en enormes ahorros al multiplicarse por miles de millones de interacciones diarias, razón por la cual el hardware específicamente optimizado para la inferencia se ha convertido en una prioridad en todo el sector.

Google no es nuevo en este terreno. La empresa lleva casi una década desarrollando sus propios chips de IA, llamados Unidades de Procesamiento Tensorial o TPU, inicialmente para uso interno y más tarde ofrecidos a clientes externos a través de su división de computación en la nube. Las TPU le han dado a Google un grado de independencia de hardware que pocos de sus competidores en IA pueden igualar, ya que la mayoría de los demás laboratorios dependen en gran medida de comprar GPU de Nvidia, un mercado donde la demanda ha superado con creces la oferta y los precios han subido en consecuencia.

Un nuevo chip, presuntamente optimizado específicamente para Gemini, ampliaría esa estrategia, adaptando el hardware no solo a las cargas de trabajo de IA en general sino a la arquitectura y los patrones de cómputo específicos de los propios modelos de Google. Este tipo de integración estrecha entre el diseño del modelo y el diseño del chip, a veces llamado codiseño, puede desbloquear ganancias de eficiencia que un chip de propósito general no puede igualar, ya que el hardware se construye en torno a las operaciones exactas que el modelo realmente ejecuta con mayor frecuencia.

La lógica estratégica va más allá del ahorro de costos. Reducir la dependencia de las GPU de Nvidia, cuyo suministro sigue siendo ajustado ante la creciente demanda global de IA, le da a Google mayor control sobre la rapidez con la que puede escalar la capacidad de Gemini sin verse limitado por el calendario de producción o las decisiones de precios de otra empresa. También refuerza la posición negociadora de Google en un sector donde el acceso a las GPU se ha convertido en un auténtico cuello de botella tanto para laboratorios de IA más pequeños como para clientes de la nube.

Otros grandes actores de la IA han seguido estrategias similares. Amazon ha desarrollado sus propios chips Trainium e Inferentia para su división de nube, Microsoft cuenta con su proyecto de chip Maia, e incluso OpenAI habría explorado asociaciones para chips personalizados, lo que subraya cuán central se ha vuelto la independencia en chips para los mayores actores del sector, incluso mientras Nvidia sigue dominando por un amplio margen el mercado más amplio de GPU.

Para los usuarios comunes, el efecto directo de un chip más eficiente probablemente no será visible de forma espectacular; las ganancias suelen traducirse en tiempos de respuesta más rápidos, menores costos operativos que las empresas pueden trasladar o no a los clientes, y la capacidad de ejecutar modelos más capaces sin costos energéticos proporcionalmente más altos. Las ganancias de eficiencia también son relevantes para el impulso más amplio de Google por integrar Gemini en toda su gama de productos, desde la búsqueda hasta las herramientas de trabajo y Android, donde ejecutar funciones de IA de forma económica y a gran escala resulta esencial para que sean viables.

El consumo de energía es otra dimensión donde las ganancias de eficiencia pesan más allá del balance financiero. Los centros de datos que ejecutan cargas de trabajo de IA han recibido un escrutinio creciente por su uso de electricidad y agua, y los chips que ofrecen más cómputo por vatio reducen directamente la huella ambiental de ejecutar modelos como Gemini a la escala en que opera Google.

Google no ha confirmado un calendario para el chip mencionado ni ha detallado en qué se diferencia técnicamente de las generaciones actuales de TPU, y los informes que describen proyectos de hardware en etapas iniciales en grandes empresas tecnológicas no siempre se traducen en productos lanzados en el plazo inicialmente sugerido. Aun así, este esfuerzo refleja una realidad más amplia del sector: a medida que la IA pasa de ser una carrera por quién tiene el modelo más inteligente a una carrera por quién puede ejecutar ese modelo de forma más barata y a mayor escala, el chip que hay debajo se ha vuelto tan estratégicamente importante como el software que hay encima.

Este artículo es un resumen editorial asistido por IA basado en TechCrunch. La imagen es una foto de archivo de Jakub Pabis en Pexels.

Para seguir leyendo

Un mazo de juez sobre una pila de libros de derecho
Tecnología

El histórico acuerdo de 1.500 millones de dólares de Anthropic por derechos de autor recibe la aprobación final

Un tribunal estadounidense ha dado la aprobación final al acuerdo de 1.500 millones de dólares de Anthropic por el uso de libros protegidos por derechos de autor para entrenar sus modelos de IA, cerrando uno de los casos legales más seguidos del sector. El acuerdo resuelve esta disputa concreta, pero deja sin resolver la cuestión más amplia del entrenamiento de IA y el derecho de autor.

TechCrunchhace 6 h