El CEO de Nvidia, Huang, anuncia la nueva generación de chips en producción completa
LAS VEGAS: Jensen Huang, CEO de Nvidia, anunció el lunes que la próxima generación de chips de la compañía está en «producción completa», afirmando que estos pueden ofrecer cinco veces más capacidad de computación en inteligencia artificial que los chips anteriores de la empresa al servir chatbots y otras aplicaciones de IA.
En un discurso en el Consumer Electronics Show en Las Vegas, el líder de la empresa más valiosa del mundo reveló nuevos detalles sobre sus chips, que llegarán más tarde este año y que, según ejecutivos de Nvidia, ya están siendo probados por empresas de IA en los laboratorios de la compañía, mientras Nvidia enfrenta una creciente competencia de rivales y de sus propios clientes.
La plataforma Vera Rubin, compuesta por seis chips distintos de Nvidia, se espera que debutará más adelante este año, con el servidor insignia conteniendo 72 unidades gráficas de la compañía y 36 de sus nuevos procesadores centrales.
Huang mostró cómo pueden ser enlazados en «pods» con más de 1,000 chips Rubin, indicando que podrían mejorar la eficiencia en la generación de “tokens” – la unidad fundamental de los sistemas de IA – en 10 veces.
Para obtener estos nuevos resultados de rendimiento, Huang destacó que los chips Rubin utilizan un tipo de datos patentado que la compañía espera que la industria adopte ampliamente.
«Así es como pudimos lograr un aumento tan gigantesco en el rendimiento, a pesar de tener solo 1.6 veces el número de transistores», afirmó Huang.
Aunque Nvidia aún domina el mercado para el entrenamiento de modelos de IA, enfrenta más competencia de rivales tradicionales como Advanced Micro Devices, así como de clientes como Google de Alphabet, para entregar los resultados de esos modelos a cientos de millones de usuarios de chatbots y otras tecnologías.
Gran parte del discurso de Huang se centró en cómo los nuevos chips funcionarían para esa tarea, incluyendo la incorporación de una nueva capa de tecnología de almacenamiento denominada «almacenamiento de memoria de contexto», destinada a ayudar a los chatbots a ofrecer respuestas más rápidas a preguntas y conversaciones extensas.
Nvidia también promocionó una nueva generación de conmutadores de red con un nuevo tipo de conexión llamada óptica co-empaquetada.
La tecnología, clave para enlazar miles de máquinas en una sola, compite con ofertas de Broadcom y Cisco Systems.
Nvidia mencionó que CoreWeave será una de las primeras en tener los nuevos sistemas Vera Rubin, y que espera que Microsoft, Oracle, Amazon y Alphabet los adopten también.
En otros anuncios, Huang destacó un nuevo software que puede ayudar a los autos autoconducidos a tomar decisiones sobre qué camino tomar, dejando un rastro de datos para que los ingenieros lo usen posteriormente.
Nvidia mostró investigación sobre el software, llamado Alpamayo, a finales del año pasado, y Huang dijo que se lanzaría más ampliamente, junto con los datos usados para entrenarlo, permitiendo que los fabricantes de autos puedan realizar evaluaciones.
«No solo compartimos los modelos, también compartimos los datos usados para entrenar esos modelos, porque solo así se puede confiar realmente en cómo fueron creados», dijo Huang desde Las Vegas.
El mes pasado, Nvidia adquirió talento y tecnología de chips de la startup Groq, incluidos ejecutivos que fueron fundamentales en ayudar a Google a diseñar sus propios chips de inteligencia artificial.
Mientras Google es un gran cliente de Nvidia, sus propios chips han surgido como una de las mayores amenazas para Nvidia, ya que Google trabaja estrechamente con Meta Platforms y otros para desafiar el dominio de Nvidia en IA.
Durante una sesión de preguntas con analistas financieros después de su discurso, Huang dijo que el acuerdo con Groq «no afectará nuestro negocio principal» pero podría resultar en nuevos productos que amplíen su línea.
Al mismo tiempo, Nvidia ansía demostrar que sus últimos productos pueden superar a chips más antiguos como el H200, que el expresidente de EE.UU., Donald Trump, permitió exportar a China.
Reuters ha informado que el chip, antecesor del actual chip «Blackwell» de Nvidia, está en alta demanda en China, lo que ha alarmado a los halcones políticos en EE.UU.
Huang dijo a los analistas financieros después de su presentación que la demanda de los chips H200 en China es fuerte, y la directora financiera Colette Kress dijo que Nvidia ha solicitado licencias para enviar los chips a China, pero está esperando las aprobaciones de EE.UU. y otros gobiernos para hacerlo.
Fuente: Brecorder
