5, ноябрь 2020  —  На международной площадке MLPerf провели тестирование архитектуры ускорителя расчета нейронных сетей IVA TPU , разработанной компанией IVA Technologies . Успешная аттестация продукта позволит повысить степень доверия к разработчику, в частности со стороны коммерческого и исследовательского зарубежных сообществ, и обеспечит ему достойное место в ряду международных гигантов на рынке микроэлектроники в области поддержки искусственного интеллекта.

Результаты тестирования архитектуры IVA TPU , реализованной в FPGA , подтверждены и опубликованы на официальной странице сайта MLPerf ( https://mlperf.org/inference-results/ ) в разделах инференса на оконечных устройствах Edge, Closed Division ( ID 0.7-156) и Edge, Open Division ( ID 0.7-396). MLPerf – международная площадка аттестации и тестирования оборудования в сфере машинного обучения и искусственного интеллекта. Решение квалифицировали в самую сложную группу Closed Division – закрытый список сетей с ограничениями на модификации, время ожидания и точность.

«Данное событие без преувеличения уникально для современной России. Трудно вспомнить примеры, когда отечественная разработка в микроэлектронике, получала аттестат зрелости аппаратной и программной составляющих у зарубежных экспертов, – отметил заместитель генерального директора I VA Technologies, руководитель направления Евгений Терентьев . – Мы показали, что сравнительно небольшая коммерческая молодая компания, при правильно выстроенной стратегии развития и рабочих процессах, способна реализовать потенциал своей команды, создать успешный продукт в одной из самых сложных областей микроэлектроники – микропроцессорах».

Edge AI – это самый быстрорастущий сегмент на рынке, и в группе Closed Division Edge представлено всего 5 поставщиков: Nvidia, ARM, Centaur, Xilinx и, с сентября 2020г., IVA Technologies .

Из анализа результатов видно, что для одной из самых распространенных нейронных сетей (Resnet-50), архитектура IVA TPU обеспечивает задержку в 3 раза меньше, чем лучшее решение от Xilinx. Планируется, что при реализации ускорителя с архитектурой IVA TPU в ASIC (ожидаются в первом квартале 2021г.), результаты будут лучше, чем у нашего ближайшего конкурента NVIDIA Jetson Xavier NX несмотря на отставание в технологии (28 нм против 12 нм).

«Это было серьезное испытание и оценка уровня зрелости аппаратных и программных стеков архитектуры IVA TPU , которое наша команда успешно прошла, подтвердив свой высокий профессионализм. Российская разработка заняла достойное место в одном ряду с международными гигантами с сфере микроэлектроники для поддержки искусственного интеллекта», – добавил Евгений Терентьев .

В ближайшее время на базе IP-ядра IVA TPU запускается в производство две конфигурации микропроцессоров – для оконечных устройств (IVA E) и облачных сервисов (IVA H). Ни базе микропроцессоров разрабатывается несколько реализаций модулей, которые будут непосредственно применяться в электронных устройствах заказчиков.

Таким образом IVA Technologies сможет сформировать широкую продуктовую линейку, которая позволит удовлетворить потребности в вычислительных ресурсах для ускоренного расчета нейронных сетей, у совершенно разных производственных и сервисных компаний. Речь идет о производителях смарт устройств (умные камеры, IoT, промышленная и городская безопасность), о разработчиках автономных машин (ADAS, дроны), о крупных операторах сервисов и ЦОД (обработка фото- и видеоданных, текста, голоса, информационная безопасность). Кроме того, в планах компании начало продаж вычислительных ресурсов для инференса нейронных сетей через облачный сервис.

Рис . 1. Edge, Closed Division (ID 0.7-156)

Рис . 2. Edge, Open Division (ID 0.7-396)

О компании IVA Technologies

IVA Technologies – высокотехнологичное ИТ-оборудование и программное обеспечение российского производства, позволяющее выстраивать безопасную и высокопроизводительную ИТ-инфраструктуру различных масштабов — начиная от небольшого офиса и заканчивая крупными корпоративными решениями с центрами обработки данных.

Подробнее на сайте: www .iva-tech.ru

О консорциуме MLPerf

Международный консорциум MLPerf создан в 2018 году для разработки универсальных тестов, позволяющих измерить эффективность систем искусственного интеллекта. Его учредителями MLPerf являются : Baidu, Google, Harvard University, Stanford University, University of California, Berkeley.

В состав аттестующих рабочих групп входят сотрудники компаний : ARM, Facebook, Google, Microsoft, Cadence, Synopsys, HP, IBM, Intel, Nvidia, Cisco, MediaTek, Berkeley Lab, Brookhaven National Lab, Cerebrus, Cray, Harvard University, In-Q-Tel, Landing.AI, Myrtle.AI, Real World Insights, Stanford University, University of Toronto.

Подробнее на сайте: www.mlperf.org