NVIDIA представила сетевую платформу Spectrum-6 с пропускной способностью 102.4 Тбит/с. Решение предназначено для объединения сотен тысяч графических процессоров в единую вычислительную систему.
3 мин
Индустрия искусственного интеллекта перешла в эпоху гигамасштаба (gigascale). Сегодня самые передовые ИИ-фабрики объединяют сотни тысяч графических и центральных процессоров для обучения передовых моделей и обеспечения работы автономных агентов. На этом уровне масштабирования сетевая инфраструктура перестает быть просто средством связи и становится критическим множителем вычислительной мощности.
Компания NVIDIA объявила о начале поставок Spectrum-6 — системы коммутаторов Ethernet с пропускной способностью 102.4 терабит в секунду. Это решение, обеспечивающее двукратное увеличение емкости по сравнению с предыдущим поколением, создано как часть новой вычислительной платформы NVIDIA Vera Rubin. Spectrum-6 ложится в основу следующего поколения платформы Spectrum-X Ethernet, предоставляя пропускную способность и масштабируемость, необходимые для управления ИИ-фабрикой как единым целым.
At SIGGRAPH, NVIDIA Advances Graphics and Simulation With Agentic and Physical AI
Исторически стандартный протокол Ethernet разрабатывался преимущественно для корпоративных приложений и трафика «север-юг» — передачи данных между пользователями, серверами и хранилищами. Он не был рассчитан на синхронизированные, интенсивные коммуникации, характерные для обучения масштабных нейросетей. В задачах ИИ преобладает трафик «восток-запад» — непрерывный обмен данными между тысячами ускорителей.
Коллективные вычисления требуют строгой синхронизации. Если хотя бы одно сетевое соединение работает медленно, весь процесс обучения может остановиться в ожидании данных. Платформа Spectrum-X Ethernet решает эту проблему, превращая традиционный Ethernet в высокопроизводительную масштабируемую сеть, специально спроектированную для бесперебойного снабжения данными каждого графического процессора.
С технической точки зрения чип коммутатора Spectrum-6 работает в связке с сетевыми адаптерами NVIDIA ConnectX-9 SuperNIC. Вместе с центральным процессором Vera, графическим процессором Rubin, коммутатором NVLink 6 и процессором обработки данных BlueField-4 DPU они формируют комплексную архитектуру. Spectrum-6 поддерживает как подключаемые, так и интегрированные оптические модули, а также системы жидкостного охлаждения, что повышает общую энергоэффективность дата-центра.
Изображение из источника
По данным NVIDIA, технология Spectrum-X Ethernet обеспечивает до 1.6 раза более высокую производительность в задачах ИИ по сравнению со стандартными решениями Ethernet. Сеть способна поддерживать эффективность на уровне 95% даже в развертываниях, превышающих 100 000 графических процессоров. Аппаратно-ускоренные многоуровневые топологии позволяют сократить необходимое количество коммутаторов в 1.7 раза, оптимизируя затраты на инфраструктуру.
Ведущие разработчики ИИ-инфраструктуры уже начали внедрение новой технологии. Компании CoreWeave, Microsoft, Nebius, SpaceXAI и Tesla станут одними из первых, кто использует Spectrum-6 для ускорения своих вычислительных центров. Для облачных провайдеров это означает возможность предоставлять клиентам унифицированный высокопроизводительный ресурс, сокращая время вывода новых ИИ-сервисов на рынок.
Пиковая производительность отдельного графического процессора больше не является надежным предиктором скорости работы всей ИИ-фабрики. Сегодня производительность определяется тем, насколько эффективно тысячи чипов могут работать в унисон. Интеграция программного и аппаратного обеспечения на сетевом уровне становится главным полем битвы за снижение стоимости генерации токенов и ускорение обучения базовых моделей.
Nemotron Labs: How Open Models Give Enterprises and Nations AI They Can Trust, Control and Customize
How Open Models Are Driving AI Research
How Nations Are Deploying AI for Strategic Priorities
NVIDIA выпустила сетевую платформу Spectrum-6, которая решает проблему узких мест при обмене данными между сотнями тысяч процессоров в современных дата-центрах.
В индустрии ИИ фокус сместился с мощности отдельных чипов на скорость и надежность сетевых соединений между ними: один медленный канал связи способен затормозить работу всей гигантской ИИ-фабрики.
