NVIDIA BlueField 2 DPU

Интеллектуальный сетевой адаптер представлен под именем BlueField 2 компанией NVIDIA в 2020.
«SmartNIC» уже не отражает богатства возможностей контроллера, потому введены «модуль обработки данных» (Data Processing Unit (DPU) и «инфраструктура датацентра в чипе» (Data Center Infrastructure on a Chip).
Краткое описание:
https://www.nvidia.com/en-us/networking/products/data-processing-unit/

Говоря о целой инфраструктуре в контроллере, компания недалеко уходит от реальности, поскольку потенциал системы-на-чипе действительно впечатляет!

Обзор возможностей NVIDIA BlueField 2 DPU

Сетевой интерфейс

BlueField 2 платформа (семейство адаптеров BF 2500) строится на базе NVIDIA Mellanox ConnectX-6 Dx (первое поколение — на базе ConnectX-5) адаптеров сети. Соответственно, предоставляется один или два канала со скоростью передачи до 100Гб/с по интерфейсу Ethernet или Infiniband (VPI контроллеры) или до 200Гб/с Ethernet. При этом доступны все возможные технологии аппаратного ускорения операций передачи данных и виртуализации, например:

• RoCE, Zero Touch RoCE
• Аппаратная разгрузка TCP/UDP/IP
• SR-IOV
• Accelerated Switching and Packet Processing® (ASAP2)
• VirtIO-net
• Multi-function per port
• Аппаратная разгрузка технологий туннелирования NVGRE, VXLAN, Geneve

Хранение

Поддерживаются: интерфейс NVMe over Fabric (NVMe-oF), Storage Direct, шифрование, elastic storage, контроль целостности данных, сжатие, дедупликация. Для некоторых контроллеров опционально докупается лицензия NVMe SNAP (Software-defined Network Accelerated Processing), добавляющая аппаратную виртуализацию NVMe хранилища. Для систем машинного обучения и обработки данных с GPU введена поддержка технологии GPUDirect Storage.
Контроллер поддерживает подключение до восьми SSD-накопителей с интерфейсом NVMe без необходимости использования внешнего коммутатора PCIe.

Безопасность

Межсетевой экран нового поколения, IDS / IPS, микросегментация, предотвращение DDOS атак.
В марте 2020 г. объявлено о приобретении компанией Mellanox ведущего мирового разработчика технологий сетевого интеллекта и безопасности — Titan IC. Благодаря этому, BlueField 2 DPU обретает аппаратное ускорение операций с регулярными выражениями RegEx Acceleration, которое дает существенное преимущество для анализа проходящего трафика в реальном времени. Опция предоставляется в виде докупаемой лицензии.

Встроенный микрокомпьютер

Вычислительная часть платформы содержит до восьми 64-битных ядер процессора Armv8 A72 с расширенным набором команд Arm NEON 128b SIMD.
Оперативная память DDR4 размером 8 или 16ГБ с коррекцией ошибок ECC работающая на скорости 3200 мегатранзакций/с распаяна на плате контроллера.
Для хранения исполняемого клиентского кода контроллер имеет область постоянной флеш памяти eMMC размером 8ГБ.

«Микрокомпьютерная» составляющая контроллеров имеет свою операционную систему, набор драйверов и утилит — как у полноценного компьютера:
– BlueOS: коммерческая версия дистрибутива Yocto-based Arm Linux
– Поддержка коммерческих дистрибутивов Linux
– Окружение производится с использованием OpenFabrics Enterprise Distribution
(OFED)
– Arm-адаптированные версии драйверов Mellanox и программного стека
– Ускоренный стек таргета NVMe over Fabrics
– Оптимизированные Arm DPDK и ConnectX PMD
– NVMe SNAP framework (Software-defined Network Accelerated Processing. Необходима лицензия).

BlueField SmartNIC могут работать под управлением всех распространенных операционных систем:
– Linux
– Windows
– FreeBSD
– VMware
– OpenFabrics Enterprise Distribution (OFED)
– OpenFabrics Windows Distribution (WinOF-2).

GPU

Наглядный плод союза Mellanox с NVIDIA — в контроллеры BlueField-2X AI-Powered DPU из семейства BlueField-2 интегрирован графический процессор NVIDIA Ampere. Основанный на тензорных ядрах NVIDIA третьего поколения, он может использовать искусственный интеллект для анализа безопасности в реальном времени, включая определение аномального трафика, который может указывать на кражу конфиденциальных данных, анализ зашифрованного трафика на лету, самоанализ хоста для выявления вредоносной активности.

Этот тип контроллеров пока только обозначен как будущий продукт (на осень 2020). Еще не представлено ни конкретных моделей, ни подробностей технических характеристик.

Экосистема

Компьютер (приставку «микро-» как-то даже неудобно к нему применять) со столь богатыми аппаратными возможностями снабжается целой системой разработки приложений NVIDIA DOCA SDK.

DOCA SDK позволяет разработчикам создавать приложения и сервисы для сетей, хранилищ, безопасности, управления, искусственного интеллекта и высокопроизводительных вычислений для NVIDIA BlueField DPU. DOCA предоставляет очень гибкую среду для разработки контейнерных приложений и сервисов, которые эффективно используют встроенные аппаратные ускорители и программируемые механизмы для достижения максимальной производительности.

Таблица моделей и технических характеристик NVIDIA BlueField-2 DPU (на осень 2020 года)

Ethernet/VPI модели BlueField-2 DPU

Для этих моделей не реализована аппаратная поддержка Root of Trust (RoT).
Все модели доступны в варианте без шифрования.

Опционально докупаются следующие лицензии, расширяющие функционал контроллеров:

Ускоритель RegEx описан в пункте «Безопасность» раздела «Обзор возможностей» выше.

Ethernet модели BlueField-2 DPU

Для этих моделей не реализована аппаратная поддержка Root of Trust (RoT).

Хотите ознакомиться с другим оборудованием — перейдите в раздел «Оборудование NVMe«
Первое поколение контроллеров описано в заметке Mellanox BlueField SmartNIC