Para reducir los costos de inteligencia artificial, Google quiere deshacerse de Broadcom como su proveedor de chips de servidor de TPU. Los ejecutivos del gigante de internet ha debatido y están valorando la posibilidad de abandonar al proveedor de chips de Inteligencia Artificial (IA) a partir del año 2027. Precisamente Broadcom es la empresa fabricante de microchips que ha anunciado que instalará en España una planta de semiconductores con una inversión de 1.000 millones de dólares (920 millones de euros) y la creación de unos 500 puestos de trabajo.
Si finalmente toma esa decisión, Google diseñaría completamente los chips, conocidos como unidades de procesamiento tensorial, internamente. La decisión podría ayudar a Google a ahorrar miles de millones de dólares en costos anualmente, ya que invierte fuertemente en el desarrollo de IA, que es especialmente cara en comparación con otros tipos de computación. Los ejecutivos de Alphabet establecieron como objetivo a principios de 2023 de deshacerse de Broadcom tras discutir durante un sobre el precio que el fabricante estaba cobrando por los chips de TPU, según ha publicado Bloomberg a través de una investigación realizada en La Información.
Broadcom es la empresa fabricante de microchips que ha anunciado que instalará en España una planta de semiconductores
Previamente, Google se ha preparado para reemplazar a Broadcom con Marvell Technology como proveedor de los chips de interfaz de red, los que conectan los servidores a los conmutadores ethernet en los centros de datos del buscador. La medida se produjo después de que Broadcom aumentara los precios hasta en un 30% para estos chips en 2021, durante una escasez global de chips durante la pandemia de COVID 19. Google ha trabajado recientemente para lanzar con Marvell para el próximo año un chip de red mejorado, llamado internamente Granite Redux.
El objetivo de Google de romper con Broadcom en TPU y los chips de red, y cuando se iban a producir estos cambios no se han conocido hasta ahora. Google calculó en su momento que Broadcom genera un margen de ganancia del 70% de su trabajo en las TPU, según se ha publicado una firma de investigación de chips. La portavoz de Google, Leonora Fleming, declinó hacer comentarios sobre estas decisiones futuras y afirmó que la compañía de Mountain View no haría comentarios, al igual que han evitado pronunciarse los portavoces de Broadcom, el fabricante de chips con sede en San José, California.
GOOGLE DARÁ PROBLEMAS A BROADCOM
La ruptura con Broadcom podría ayudar a Google a controlar un gasto clave del software de IA. El gigante tecnológico está desarrollando IA generativa, conocida como LLM, para nuevos productos como su chatbot Bard y servicios de IA para clientes de Google Cloud. En julio, la directora financiera, Ruth Porat, aseguró a los analistas que las inversiones en hardware del centro de datos para IA crecerían en la segunda mitad de 2023 y hasta 2024, incluido el gasto en unidades de procesamiento gráfico fabricadas por Nvidia, así como en TPU. Google gastó 13.200 millones de dólares (12.202 millones de euros) en gastos de capital, incluidos centros de datos, en el primer semestre de 2023.
Mientras tanto, el equipo de Google que desarrolla su software de IA cuesta al menos 600 millones de dólares (563 millones de euros) por trimestre, 2.400 millones de dólares (2.252 millones de euros) por año, según datos que ha divulgado la compañía. Si Google logra desarrollar el TPU interno completamente, podría ahorrarle a la multinacional miles de millones de dólares al año y perjudicaría, y mucho, el negocio de Broadcom de fabricar chips especializados para los clientes.
el equipo de Google que desarrolla su software de IA cuesta al menos 600 millones de dólares (563 millones de euros) por trimestre
La demanda de chips de IA convirtió inesperadamente a Broadcom en el mayor vendedor de chips de IA del mundo después de Nvidia por ingresos durante el año pasado, según los analistas de esta industria. Google tenía previsto anteriormente que pagaría a Broadcom alrededor de 2.000 millones por las TPU este año. El analista de JPMorgan, Harlan Sur, calculó en mayo que Google pagará a Broadcom 3.000 millones por las TPU en 2023, teniendo en cuenta la «reciente aceleración de pedidos». Se espera que esa cifra aumentará 7.000 millones para finales del próximo año, debido al auge de la inteligencia artificial.
La demanda de chips de IA convirtió inesperadamente a Broadcom en el mayor vendedor de chips de IA del mundo después de Nvidia por ingresos durante el año pasado
La decisión de Google de fabricar sus propios chips de IA internamente lo pondría en el mismo campo que Amazon, que hace años desarrolló chips especiales para IA, y Microsoft, que según se ha publicado, está tratando de hacer lo mismo. Google y Amazon ya usan esos chips propios para servidores que alimentan sus productos de IA, y además también los alquilan a clientes de la nube. En el caso de Google, generalmente reserva sus TPU de última generación para su uso interno, mientras que generalmente ofrece TPU de generación anterior a los clientes de la nube.
Aunque las TPU de Google y los chips de servidor de inteligencia artificial de Amazon no han sido populares entre los clientes de la nube en comparación con las GPU de Nvidia, pero forman parte de una estrategia a largo plazo de Google Cloud y Amazon Web Services para disminuir la dependencia de Nvidia. Los suministros de chips Nvidia se han reducido durante el año pasado a medida que el desarrollo de LLM se ha disparado, tras el lanzamiento de la IA generativa de OpenAI, ChatGPT.
CON BROADCOM DESDE 2016
En abril de este año, Google trasladó el equipo de ingeniería detrás de las TPU a Google Cloud para mejorar su capacidad de alquilar servidores de TPU a clientes en la nube. Google co-diseña dos tipos de TPU con Broadcom: chips de entrenamiento para desarrollar modelos de aprendizaje automático y chips de inferencia, que impulsan esos modelos.
Por ejemplo, las TPU de Google ayudan a la compañía a analizar miles de millones de fotos de su aplicación Fotos para entrenar un modelo de inteligencia artificial que pueda reconocer automáticamente caras y objetos. Google también está utilizando una cantidad significativa de TPU para capacitar a Gemini, su colección de LLM avanzados, que pronto impulsará todos sus productos clave de IA para consumidores y empresas.
Google y Broadcom han trabajado juntos en TPU desde 2016. Con esos chips impulsaron las funciones de aprendizaje automático de Google, que van desde la publicación de anuncios hasta la traducción y la comprensión de consultas de búsqueda. En 2017, Google puso las TPU a disposición de los clientes de la nube interesados en entrenar sus propios modelos de IA.
Con esos chips impulsaron las funciones de aprendizaje automático de Google
Debido a que la multinacional solo requería un pequeño volumen de chips en ese momento y quería producirlos lo más rápido posible, optó por no desarrollarlos completamente internamente, ya que eso habría requerido cientos de empleados más. En cambio, compró chips de Broadcom que la compañía de chips personalizó según los diseños de Google.
Con esos chips impulsaron las funciones de aprendizaje automático de Google, que van desde la publicación de anuncios hasta la traducción y la comprensión de consultas de búsqueda
Broadcom también proporcionó a Google tecnología crucial que permite que múltiples chips funcionen al unísono para completar tareas, comunicarse con el resto de la computadora del servidor y trabajar con chips de memoria especializados para acelerar los cálculos. Desde que Google y Broadcom comenzaron a trabajar juntos, Google ha lanzado una nueva generación de TPU aproximadamente cada dos años.
En 2020, Google informó a Broadcom de que planeaba manejar más del diseño físico de las TPU para hacerlas más eficientes. En 2021, la compañía contrató a Uri Frank, un ejecutivo de Intel, con sede en Israel, para supervisar los esfuerzos de chips de Google.
Un año después, contrató a otro ejecutivo de chips, Nikhil Jayaram, de AMD para supervisar las operaciones diarias del equipo de TPU y otros proyectos de chips en Mountain View, California, donde Google tiene su sede. A mediados de 2022 comenzaron en Google a discutir la eliminación de Broadcom como proveedor de TPU y finalmente comenzaron el diseño de los chips internamente debido a la creciente demanda y los altos costos de los chips de IA.
Para los chips Ghostfish y Ghostlite, la sexta generación de TPU, Google ha planeado reemplazar algunas partes de la tecnología de Broadcom con la suya propia y, al mismo tiempo, reelaborar el diseño del chip para que Google pueda cambiar más fácilmente la tecnología de Broadcom en el futuro, aunque no hay garantías de que Google pueda cumplir con su objetivo de reemplazar la tecnología de Broadcom con la suya propia para la séptima generación de TPU en 2027.
