Обзор продукта

Вычислительный сервер NVIDIA HGX H100 8-GPU — флагманская интегрированная система для обучения больших моделей, глубокого обучения и высокопроизводительных вычислений (HPC). Восемь GPU NVIDIA H100 80GB SXM5, соединённых NVLink и NVSwitch, обеспечивают беспрецедентную производительность ИИ-вычислений. Двухпроцессорная платформа на Intel Xeon Scalable 4/5-го поколения, скоростная память DDR5 и NVMe all-flash накопители оптимизированы для предобучения моделей на триллионы параметров, научных вычислений и кластеров ИИ-инференса.

Ключевые особенности

• 8× GPU NVIDIA H100 80GB SXM5, HBM3e, интерконнект NVLink 4-го поколения 900 ГБ/с
• Полносвязная топология NVSwitch с высокоскоростным P2P-доступом между всеми GPU
• Два процессора Intel Xeon Scalable, до 64 ядер на узел
• До 2 ТБ памяти DDR5-4800 ECC RDIMM
• 8× NVMe U.2 SSD с горячей заменой, до 61.44 ТБ локального хранения
• Резервируемые платиновые БП, интеллектуальная система охлаждения

Типовые задачи

• Предобучение и дообучение больших языковых моделей (LLM)
• Кластеры ИИ-инференса для онлайн- и пакетных нагрузок
• Научные вычисления, молекулярное моделирование, вычислительная гидродинамика
• Платформы обучения беспилотных автомобилей и мультимодальных моделей

Гарантия и сервис

Включена ограниченная гарантия на оборудование 3 года; опционально — обслуживание 24/7 с выездом. Доступны индивидуальные конфигурации, поставка кластеров и пусконаладка на объекте. Свяжитесь с нашей инженерной командой для детального расчёта.