18, апрель 2023  — 

Новый Jericho3-AI обеспечивает высокопроизводительный Ethernet для кластера из 32 000 графических процессоров

Broadcom Inc. (NASDAQ:AVGO) объявила сегодня о выпуске Jericho3-AI, обеспечивающего самую производительную в отрасли фабрику для сетей искусственного интеллекта (ИИ). Jericho3-AI революционизирует сеть ИИ благодаря лучшим в своем классе возможностям, таким как идеальная балансировка нагрузки, работа без перегрузок, сверхвысокая система счисления и аварийное переключение с нулевым воздействием, что приводит к значительному сокращению времени выполнения задач для любой рабочей нагрузки ИИ.

Jericho3-AI выходит на рынок в то время, когда использование ИИ стремительно растет. Согласно новому прогнозу от International Data Corporation (IDC) , глобальные расходы на ИИ достигнут154 миллиарда долларовв 2023 году и300 миллиардов долларовили более к 2026 году. Показатель 2023 года представляет собой увеличение на 26,9 процента по сравнению с 2022 годом1 .

Коммутационные сети на основе Jericho3-AI помогут сетевым операторам справляться с постоянно растущими рабочими нагрузками, связанными с искусственным интеллектом.

«Эталон для сетей ИИ — это сокращение времени и усилий, необходимых для завершения обучения и вывода крупномасштабных моделей ИИ», — сказал он.Рам Велага, старший вице-президент и генеральный директор,Основная группа коммутации, Бродком. «Jericho3-AI обеспечивает значительное сокращение времени выполнения задания по сравнению с любой другой альтернативой на рынке».

Рабочие нагрузки ИИ обладают уникальными характеристиками, такими как небольшое количество больших, долгоживущих потоков, которые запускаются одновременно после завершения цикла вычислений ИИ. Ткань Jericho3-AI обеспечивает высочайшую производительность для этих рабочих нагрузок благодаря уникальной функциональности, разработанной специально для рабочих нагрузок ИИ:

•  Идеальная балансировка нагрузки равномерно распределяет трафик по всем звеньям матрицы, обеспечивая максимальное использование сети при самых высоких сетевых нагрузках.

•  Работа без перегрузок со сквозным планированием трафика гарантирует отсутствие коллизий потоков и джиттера.

•  Уникальная основа позволяет фабрике Jericho3-AI масштабировать подключение до 32 000 графических процессоров, каждый со скоростью 800 Гбит/с, в одном кластере.

•  Функция Zero-Impact Failover обеспечивает автоматическую конвергенцию пути менее чем за 10 нс, что не влияет на время выполнения задания.

Используя эту уникальную функциональность, фабрика Jericho3-AI обеспечивает как минимум на 10 % более короткое время выполнения заданий по сравнению с альтернативными сетевыми решениями для ключевых эталонных тестов ИИ, таких как All-to-All. Это повышение производительности оказывает мультипликативный эффект на снижение стоимости выполнения рабочих нагрузок ИИ, поскольку подразумевает, что дорогие ускорители ИИ используются на 10% эффективнее. Сеть, по сути, окупает себя.

Коммутатор Jericho3-AI обеспечивает пропускную способность Ethernet 26 петабит в секунду, что почти в четыре раза превышает пропускную способность предыдущего поколения, при одновременном снижении энергопотребления на 40% на гигабит.

«Операторы облачных вычислений модернизируют свою инфраструктуру искусственного интеллекта, чтобы справиться с резким ростом пропускной способности, обусловленным новым поколением высокопроизводительных графических процессоров и появлением больших языковых моделей», — говорится в сообщении.Боб Уилер, главный аналитик Wheeler's Network . «Jericho3-AI предлагает выбор с высокой пропускной способностью, малой задержкой и низким энергопотреблением для сетей, соединяющих десятки тысяч графических процессоров, революционизируя экономику создания и обслуживания кластеров ИИ в эту захватывающую новую эру».

Уникальная особенность фабрики Jericho3-AI заключается в том, что она обеспечивает высочайшую производительность при минимальной совокупной стоимости владения. Это достигается за счет таких атрибутов, как дальний SerDes, распределенная буферизация и расширенная телеметрия, которые предоставляются с использованием стандартного для отрасли Ethernet. Эти факторы обеспечивают высокую степень гибкости сетевых архитектур и вариантов развертывания с крупнейшей экосистемой поставщиков аппаратного и программного обеспечения.

Доступность

Подробнее узнать о Jericho3-AI можно здесь . Jericho3-AI теперь доступен для квалифицированных клиентов. Для получения дополнительной информации обо всех продуктах Broadcom посетите сайт www.broadcom.com .

О Broadcom
Broadcom Inc. (NASDAQ: AVGO), корпорация штата Делавэр со штаб-квартирой в Сан-Хосе, Калифорния, является мировым технологическим лидером, который проектирует, разрабатывает и поставляет широкий спектр полупроводниковых и инфраструктурных программных решений. Лидирующий в категории портфель продуктов Broadcom обслуживает критически важные рынки, включая центры обработки данных, сетевое оборудование, корпоративное программное обеспечение, широкополосную связь, беспроводную связь, системы хранения данных и промышленность. Наши решения включают в себя сетевое оборудование и системы хранения для центров обработки данных, программное обеспечение для предприятий, мэйнфреймов и кибербезопасности, ориентированное на автоматизацию, мониторинг и безопасность, компоненты смартфонов, телекоммуникации и автоматизацию производства. Для получения дополнительной информации перейдите на https://www.broadcom.com .

Broadcom, логотип пульса и Connecting Everything являются товарными знаками Broadcom. Термин «Broadcom» относится к Broadcom Inc. и/или ее дочерним компаниям. Другие товарные знаки являются собственностью соответствующих владельцев.

Комментарии:

Майкл К.Т. Ли, старший вице-президент по исследованиям и разработкам, Accton
«Благодаря доступности Jericho3-AI компания Accton может создавать строительные блоки для кластеров ИИ следующего поколения, еще раз расширяя границы масштаба, значительно увеличивая основание и пропускную способность фабрики ИИ и резкое повышение энергоэффективности мегамасштабных кластеров графических процессоров».

Аншул Садана, главный операционный директор и старший вице-президент, Arista
«Arista 7800R3 под управлением EOS — это ведущая опора ИИ, поддерживающая экспоненциальный рост рабочих нагрузок ИИ и сетевого трафика в петабитном масштабе. Мы рады сотрудничать с Broadcom и совершить революцию в области искусственного интеллекта, используя инновационный кластерный подход на основе Ethernet, демонстрирующий новаторскую производительность в сокращении времени выполнения рабочих нагрузок обучения искусственного интеллекта и логических выводов».

Гэвин Като, руководитель и главный технический директор, решения для аппаратных платформ, Celestica
«Архитектура фабрики Jericho3-AI представляет новый способ построения крупномасштабных сетей. Celestica рада видеть строительные блоки следующего поколения архитектуры на основе коммерческого кремния и внедрение передовых кластеров обучения и логического вывода ИИ для поддержки открытых технологий».

Да Сьюзан, главный исполнительный директор DriveNets
«DriveNets успешно сотрудничает с Broadcom для развертывания крупнейших в мире основных маршрутизаторов на основе архитектуры распределенного дезагрегированного шасси (DDC). Ткань Jericho3-AI поднимает планку масштабирования кластеров ИИ. Уникальные свойства этой ткани, идеальная балансировка нагрузки и аварийное переключение с нулевым воздействием в сочетании с технологиями DriveNets.ДКДсоздает лучшее в отрасли использование для обучения ИИ и рабочих мест логического вывода. DriveNets NOS, работающая на платформе Jericho J3, предоставляет как гиперскейлерам, так и поставщикам услуг уникальное, беспрецедентное технологическое решение для будущих крупномасштабных сетей и сетей с искусственным интеллектом».

Винсент Хо, генеральный директор, Ufispace
«Ufispace занимается созданием оборудования, необходимого для поддержки успеха архитектуры распределенного дезагрегированного шасси в основных и граничных сетях поставщика услуг. Мы рады использовать фабрику Jericho3-AI для расширения решений для высокопроизводительных кластеров ИИ, что позволяет обучать большие модели ИИ с кратчайшим временем выполнения задач».

(1) IDC, Всемирное руководство по расходам на искусственный интеллект,март 2023 г.