La división de chips de Broadcom lanzó un nuevo procesador de redes el martes, diseñado para potenciar las cargas de trabajo de inteligencia artificial que exigen una coordinación estrecha entre cientos de unidades de cálculo.
El anuncio marca otro ataque en su lucha con el líder en fabricación de chips de IA, Nvidia. Este último dispositivo de Broadcom, conocido como Tomahawk Ultra, actúa como un controlador de tráfico, transportando vastos volúmenes de datos entre docenas o incluso cientos de chips de silicio alojados dentro de un solo rack de servidor.
Tomahawk Ultra desafía directamente a Nvidia
El entrenamiento y la inferencia de IA dependen de la computación de “escalado”, donde los chips se agrupan estrechamente para compartir datos a velocidades vertiginosas. Hasta ahora, el NVLink Switch de Nvidia reinaba supremo para esa tarea, pero Broadcom afirma que su nuevo competidor puede conectar hasta cuatro veces más procesadores en una sola red.
En lugar de apoyarse en una interconexión propietaria, el Ultra aprovecha una versión turboalimentada de Ethernet, mejorada para baja latencia y alto rendimiento. Ram Velaga, vicepresidente senior y gerente general del Grupo de Conmutación Central de Broadcom, dijo a los reporteros que el chip puede gestionar comunicaciones entre muchas más unidades que el producto rival de Nvidia, todo mientras utiliza un protocolo ampliamente soportado.
“Tomahawk Ultra es un testimonio de la innovación, que implica un esfuerzo de varios años por parte de cientos de ingenieros que reimaginaron cada aspecto del conmutador Ethernet.”
Velaga.
“Esto destaca el compromiso de Broadcom de invertir en el avance de Ethernet para redes de alto rendimiento y escalado de IA”, agregó Velaga.
Broadcom ya ha estado suministrando servicios de fabricación de chips a clientes como Google, ayudando al gigante de las búsquedas a ensamblar sus propios aceleradores de IA como alternativa a las GPU de Nvidia.
Con Tomahawk Ultra ahora en envío, la compañía espera erosionar aún más el dominio de Nvidia al ofrecer a los arquitectos de centros de datos un conmutador que escala a clústeres más grandes a velocidades similares o mejores.
Los ingenieros de Broadcom pasaron aproximadamente tres años en desarrollo
Los procesadores serán fabricados por Taiwan Semiconductor Manufacturing Co. utilizando su nodo de cinco nanómetros, el mismo proceso avanzado detrás de muchos de los chips más rápidos del mundo. Velaga señaló que los equipos de ingeniería de Broadcom pasaron aproximadamente tres años en desarrollo, originalmente apuntando a mercados de computación de alto rendimiento antes de pivotar hacia el próspero sector de IA generativa.
“Las cargas de trabajo de IA y HPC se están convergiendo en clústeres de aceleradores estrechamente acoplados que exigen una latencia de clase supercomputadora, crítica para la inferencia, la fiabilidad y la inteligencia en la red desde la propia infraestructura”, dijo Kunjan Sobhani, analista principal de semiconductores de Bloomberg Intelligence.
“Demostrar que Ethernet de estándares abiertos puede ahora ofrecer conmutación de sub-microsegundos, transporte sin pérdidas y colectivas en chip marca un paso fundamental hacia satisfacer las demandas de un stack de escalado de IA, proyectado en miles de millones a doble dígito en unos pocos años.”
Sobhani.
En configuraciones tradicionales de escalado, los servidores están distribuidos en racks y conectados a través de redes estándar, lo que añade latencia. El escalado, en contraste, mantiene los elementos de cálculo dentro de una huella física estrecha, a menudo un solo rack, por lo que los bits rebotan de un lado a otro en microsegundos. Esa velocidad es vital al entrenar redes neuronales masivas o ejecutar inferencias en tiempo real.
A medida que los modelos de IA crecen cada vez más, la carrera está en diseñar infraestructura que pueda manejar exabytes de parámetros mientras se mantiene rentable y eficiente en energía. Al adoptar Ethernet, un estándar abierto y bien comprendido, y empujar su límite de rendimiento, Broadcom espera ofrecer a los operadores de centros de datos un camino más fácil para expandir sus granjas de IA sin estar atados al ecosistema de un solo proveedor.
Con Tomahawk Ultra ahora en manos de los clientes, la competencia sobre quién suministra los motores de IA del mundo está entrando en una nueva fase, más concurrida, donde la apertura y el escalado podrían inclinar la balanza tanto como la pura potencia de los chips. Esto también coloca a Broadcom en el camino de convertirse en una fuerza a tener en cuenta en la industria de la IA.
La compañía fue en el primer trimestre señalada como una de las principales empresas para poseer una participación y operar las fábricas de Intel junto con TSMC, Nvidia y AMD, en un acuerdo que supuestamente fue propuesto por TSMC.
Tus noticias de criptomonedas merecen atención - KEY Difference Wire te coloca en más de 250 sitios principales