El problema radica en la física dura. Cuando se combinan 100.000 GPU en una sola supercomputadora, la latencia y la acumulación de calor al transmitir datos a través de buses de cobre se vuelven fatales. La fotónica de silicio permite transmitir terabytes de datos entre racks de servidores utilizando luz (láseres), lo que reduce radicalmente el consumo de energía y aumenta el ancho de banda. Nvidia no solo está comprando acciones; está cimentando el acceso exclusivo a los transceptores ópticos de próxima generación para mantener su monopolio sobre la arquitectura del centro de datos de IA. Sin la óptica, el escalado de LLM simplemente se estancará.
Fuente: Reuters / NVIDIA
HardwareNVIDIAFotónicaLumentumCoherent