Сервер для ИИ ThinkSystem SR680a V3 H200 GPU Base+X H200

ThinkSystem SR680a V3 представляет собой высокопроизводительный сервер, специально разработанный для масштабируемых решений на базе графических процессоров (GPU). Данная модель предназначена для решения сложных задач искусственного интеллекта (ИИ), высоких производительных вычислений (HPC) и обработки больших объемов данных.

Основные характеристики базовой платформы

• Конфигурация: 8U, предназначен для установки в стандартный 19-дюймовые стойки.
• Процессор: Intel Xeon Scalable 5-го поколения, поддержка до двух CPU, каждый из которых может содержать до 48 ядер с максимальным тепловым пакетом (TDP) до 350 Вт.
• Память: Поддерживает до 4 ТБ оперативной памяти формата DDR5, работающей на частоте до 5600 МГц. Доступно 32 слота DIMM.
• Слоты расширения: Сервер оснащен десятью слотами PCI Express версии 5.0 (x16), восемь из которых предназначены для подключения видеокарт, обеспечивая поддержку технологии GPU Direct.

Ключевой компонент: видеокарта NVIDIA HGX H200 141 GB 700 W 8-GPU Board (C1HM)

Эта плата разработана для достижения большой отдачи в приложениях, использующих "АИ" и высокие вычислительные мощности. Она оснащена восемью мощнейшими GPU-моделями HGX H200.

• Модель GPU: NVIDIA HGX H200.
• Объем памяти: 141 ГБ HBM3 на каждом GPU.
• Потребляемая мощность: 700 Вт.
• Форм-фактор: SXM5.

Платформа также отличается эффективной системой коммутации с использованием интерфейсов NVIDIA NVLink, обеспечивающих скорость передачи данных до 900 ГБ/с.

Дополнительные компоненты системы

Для полноценной работы сервера предусмотрены дополнительные модули и аксессуары:

• Процессор: Intel Xeon Platinum 8568Y+, поддерживающий работу с массивом GPU.
• Системы питания: Блоки питания 80 PLUS Titanium мощностью до 2600 Вт, организованные по схеме резервирования N+N.
• Система сетевых адаптеров: NVIDIA BlueField-3 B3220 и NVIDIA ConnectX-7 NDR обеспечивают высокую производительность сети вплоть до 200 Гбит/с.
• Накопители: NVMe SSD объемом от 3.84 ТБ до 960 ГБ, предназначенные для хранения и быстрой загрузки данных.
• Охлаждение: Мощные вентиляционные системы обеспечивают эффективную циркуляцию воздуха внутри корпуса, предотвращая перегрев компонентов.

Применение

Данная конфигурация позволяет эффективно решать широкий спектр задач, включая:

• Обучение и развертывание крупных языковых моделей (LLM).
• Моделирование физических процессов и инженерных расчетов.
• Разработка и внедрение приложений машинного зрения и глубокого обучения.

Преимущества

• Максимальная плотность размещения GPU (8 карт HGX H200).
• Высокая пропускная способность сетей благодаря поддержке InfiniBand и Ethernet.
• Масштабируемость подсистем хранения данных с возможностью организации RAID-массивов.
• Надежность инфраструктуры питания с резервированными источниками энергии.
• Продвинутые средства управления и мониторинга состояния оборудования.