Синьчуаньский сервер | Поставщик оборудования для корпоративных серверов
Десять графических процессоров. Один узел. Нулевой компромисс.
xFusion FusionServer G5500 V7 — это сервер высотой 4U с графическим ускорением, который расширяет границы плотности вычислений ИИ на одном узле. — поддержка до 10 графические процессоры двойной ширины, включая NVIDIA H100, А100, и ускорители нового поколения. С 18 Слоты PCIe (10 выделенные линии графического процессора x16 Gen5), два процессора Xeon 4/5 поколения, и 12 отсеки NVMe, G5500 V7 специально создан для обучения на больших языковых моделях, вывод глубокого обучения в масштабе, и HPC с ускорением на графическом процессоре.
Ключевые характеристики
| Компонент | Спецификация |
|---|---|
| Фактор формы | 4U стоечный сервер |
| Процессор | 2x Масштабируемый процессор Intel Xeon 4-го или 5-го поколения (макс. 385 Вт TDP) |
| Память | 32 DDR5 DIMMS, вплоть до 8 ТБ |
| Поддержка графического процессора | До 10 графических процессоров двойной ширины (NVIDIA H100/A100/L40S) |
| Слоты PCIe | 18 общий (10x PCIe, выделенный для графического процессора 5.0 х16) |
| Хранилище | 24х 2,5/3,5 дюйма + вплоть до 12 твердотельные накопители NVMe |
| Источник питания | 2+2 или 3+1 избыточный, 4x 3000 Вт Титан/Платина |
| Управление | iBMC с API Redfish, SNMP, и прогнозирующий анализ отказов |
Рекомендуемые конфигурации
| Сценарий | графический процессор | Процессор | Память | Хранилище | сеть |
|---|---|---|---|---|---|
| Обучение LLM (70B+) | 10х H100 80 ГБ SXM | 2х Ксеон Платинум 8480+ (56С) | 4ТБ DDR5 (16х 256 ГБ) | 8x 7,68 ТБ NVMe | 8x 400G InfiniBand NDR |
| Многопользовательский вывод | 10х H100 80 ГБ (МИГ включен) | 2х Xeon Gold 6448Y (32С) | 2ТБ DDR5 (16х 128 ГБ) | 4х 3,84 ТБ NVMe | 4х 200G Ethernet |
| HPC-моделирование | 10х А100 80 ГБ | 2х Ксеон Платинум 8470 (52С) | 2ТБ DDR5 (32х 64 ГБ) | 4x 7,68 ТБ NVMe (RAID 10) | 4х 200G InfiniBand HDR |
| Песочница для разработки ИИ | 8х L40S 48 ГБ | 2х Ксеон Голд 6430 (32С) | 1ТБ DDR5 (16х 64 ГБ) | 4х 3,84 ТБ NVMe | 2х 100G Ethernet |
Идеальные рабочие нагрузки
- Обучение большой языковой модели: 10-способ создания матрицы графического процессора с PCIe 5.0 x16 линий на каждый графический процессор обеспечивает максимальную пропускную способность межсоединений для распределенного обучения моделей с более чем 70 миллиардами параметров на одном узле..
- Мультитенантный вывод ИИ: Разделение графического процессора с помощью MIG на NVIDIA H100 обеспечивает безопасность, изолированный вывод, обслуживаемый несколькими командами.
- Научный высокопроизводительный компьютер: Молекулярная динамика, моделирование погоды, и CFD, которые масштабируются для массивов графических процессоров.
- Аналитика видео и изображений: Транскодирование в реальном времени, обнаружение объектов, и конвейеры компьютерного зрения.
Миграция с G5500 V6 на V7
| Элемент | G5500 V6 | G5500 V7 | Влияние |
|---|---|---|---|
| Слоты графического процессора | 8x PCIe Gen4 x16 | 10x PCIe Gen5 x16 | +25% Мощность графического процессора, 2х пропускная способность |
| Процессор | Масштабируемый Xeon 3-го поколения | Масштабируемый процессор Xeon 4/5 поколения | DDR4 ? DR5, варианты с большим количеством ядер |
| Память | 32х DDR4 (до 8 ТБ) | 32х DDR5 (до 8 ТБ) | Более высокие скорости при той же мощности |
| NVMe | Вплоть до 8 диски | Вплоть до 12 диски | 50% большая емкость флэш-памяти |
| Власть | 4х 3000 Вт (3+1) | 4х 3000 Вт (2+2 или 3+1) | Гибкое резервирование; поддерживает 10x H100 |
| Управление | iBMC (V5) | iBMC (V7) с окунем | Улучшенная телеметрия, прогнозирующий анализ отказов |
Примечание о миграции: Модули графического процессора из V6 (А100, А40) физически совместимы со слотами V7 PCIe, но проверьте бюджет мощности и охлаждение — шасси V7 поддерживает более высокий TDP на слот графического процессора. Модули DIMM DDR4 несовместимы с V7. (только DDR5). Перед миграцией прошивку и инструменты управления iBMC следует обновить до версий, совместимых с V7..
Что в коробке
Каждый G5500 V7 поставляется с: 4U-образное шасси, Корзины для адаптеров графического процессора и силовые кабели (количество зависит от конфигурации графического процессора), стойки рельсы (регулируемая глубина 800-1200 мм), рычаг управления кабелем, 4х силовые кабели (С19), передняя панель, Краткое руководство, и безопасность & Нормативная документация. графические процессоры, процессоры, Память, диски, и сетевые адаптеры установлены в соответствии с вашей конфигурацией. Примечание: из-за веса (до 80 кг при полной загрузке), для установки в стойку требуется серверный подъемник или работа двух человек — соответствующим образом спланируйте логистику вашего центра обработки данных.
Часто задаваемые вопросы о покупке
Вопрос: 10 Графические процессоры против 8 графические процессоры — это лишний 2 стоило того?
В масштабе одного узла: скромный. В масштабе кластера: значительный. Пять узлов G5500 V7 обеспечивают 50 Графические процессоры в корпусе 20U. Шесть серверов с 8 графическими процессорами обеспечивают 48 Графические процессоры в корпусе 36U. То есть 44% больше места в стойке для меньшего количества графических процессоров. Для клиентов колокейшн с оплатой за стойку, Преимущество плотности G5500 V7 напрямую приводит к снижению ежемесячных затрат.
Вопрос: H100 против A100 против L40S — какой графический процессор мне выбрать?
H100 для обучения и высокопроизводительного вывода (Трансформаторный двигатель, РП8). A100 для смешанных рабочих нагрузок HPC+AI, где важен FP64. L40S для доминирования вывода, бюджетные развертывания, где достаточно 48 ГБ. Наши инженеры могут провести анализ рабочей нагрузки, чтобы порекомендовать оптимальный графический процессор..
Вопрос: Нужно ли жидкостное охлаждение для 10x H100??
Нет. G5500 V7 предназначен для воздушного охлаждения благодаря оптимизированной тепловой архитектуре и высокопроизводительным вентиляторам.. 10x H100 по 700 Вт каждый = мощность графического процессора 7 кВт + ~1 кВт ЦП/платформа. Убедитесь, что холодный коридор вашего центра обработки данных обеспечивает достаточный приток воздуха.. Для периферийных или ограниченных сред, проконсультируйтесь с нашей командой теплотехников.
Почему лучше использовать Xincuan??
Мы настраиваем серверы G5500 V7 с выбранными вами графическими ускорителями., Многоуровневое хранение данных NVMe, и высокоскоростная сеть. Прямые цены с завода, 3-гарантия производителя год, глобальная логистика с полной страховкой, и бесплатная консультация по архитектуре инфраструктуры искусственного интеллекта.
