Сервер искусственного интеллекта DEPO Storm 6470G6A

Сервер искусственного интеллекта DEPO Storm 6470G6A отличается масштабируемостью, высокой производительностью, энергоэффективностью и возможностями гибкого развертывания.

Благодаря вычислительной мощности до 5 петаФЛОПС он идеально подходит для приложений искусственного интеллекта, таких как обработка изображений / видео, распознавание речи, финансовый анализ и интеллектуальное обслуживание клиентов.

DEPO Storm 6470G6A использует усовершенствованную структуру прямых соединений между GPU (NGX) и обеспечивает оптимальное соотношение между вычислительными мощностями, передачей данных и хранением (GPU-IB-NVMe) 1:1:1 на основе превосходной аппаратной топологии.

Сервер оснащен 8 самыми мощными графическими процессорами SXM4 A100 с тензорным ядром, что позволяет осуществлять прямую передачу данных P2P со скоростью 600 Гбит/с между любыми двумя из них.

Сочетание двух процессоров Ice Lake, а также технологии Ultra Path Interconnect (UPI) обеспечивает DEPO Storm 6470G6A высочайшую производительность вычислений с использованием искусственного интеллекта для сценариев глубокого обучения.

Стандартный форм-фактор 6U и резервные источники питания 3 +3 позволяют применять систему в крупных центрах обработки данных, обеспечивая повышенную надежность и стабильность.

Кроме того, DEPO Storm 6470G6A предоставляет множество гибких вариантов развертывания вычислительного кластера, позволяя пользователям искусственного интеллекта эффективно создавать инфраструктуры искусственного интеллекта и среды разработки с высокой вычислительной производительностью и низкими затратами на развертывание и эксплуатацию.

Технические характеристики

Процессоры и сокет:

*2 процессора Ice lake (до 40 ядер на процессор) c TDP до 270 Вт

Межпроцессорная шина:

• 3 канала xUPI (производительность каждой до 11.2 GТ/с)

Количество слотов для установки оперативной памяти:

• 32 слота для установки оперативной памяти

Память:

• Поддерживается DDR4 RDIMM (3200MT/c). Максимальный объем памяти - до 4 ТБ

Предустановленные GPU:

• 8 предустановленных GPU SXM4 A100

Слоты расширения для сетевых адаптеров:

• 10 стандартных слота PCIe 4.0 x16 HHHL
• 2 слота PCIe 4.0 x8 HHHL
• 1 слот для карты OCP 3.0 с фронтальной стороны

Распределение GPU, NVME и слотов расширения по процессорами и коммутаторам PCIe:

• CPU0 по линиям PCIe 4.0 соединяется с 2 коммутаторами PCIe (PEX 88096) (по x16 на каждый коммутатор)
• CPU1 по линиям PCIe 4.0 соединяется с 2 коммутаторами PCIe (PEX 88096) (по x16 на каждый коммутатор
• Каждый коммутатор PEX88096 имеет соединения по PCIe x16 c 2мя GPU, c 2 слотами x16 HHHL (предназначенными для высокоскоростных сетевых адаптеров Infiniband) и по 2 соединения x4 для подключения NVME
• Дополнительно 2 коммутатора PEX88096, подключенных к CPU1, имеют по одному соединению x8 со слотом HHHL

Порты ввода-вывода с фронтальной стороны:

• 1 x USB 2.0
• 1 x USB 3.0
• 1 х VGA
• 1 x Cистемный последовательный порт
• 1 х Порт управления BMC 1GbE RJ-45
• 1 x Последовательный порт BMC

Порты ввода-вывода с тыльной стороны:

• 1 x USB 3.0
• 1 x VGA

Накопители:

• 8x 2.5” NVME SSD) с горячей заменой с фронтальной стороны
• 2x M2 SSD (внутренняя установка)

Корпус

• 6 отсеков для установки блоков питания 3000W с резервированием 3+3 и горячей заменой (80Plus Platinum)
• Размеры без упаковки: 447 × 263.9 × 850 мм (ШВГ)
• Рекомендуется использовать шкафы для установки с глубиной более 1000 мм.
• Размеры в упаковке: 800 × 570 × 1200 мм (ШВГ)
• Вес при полной загрузке: До 126 кг