DellPowerEdge XE9680 | 6Servidor de treinamento GenAI U 8-GPU

Contabilização do tempo de treinamento：Por que os nós de 8 GPU vencem os relógios de parede

O custo do treinamento LLM pode ser simplificado em uma questão：mesmo 1,000 Horas de trabalho da GPU，usar 4 Executando e usando um servidor dual-SIM 1 torre 8 Servidor de cartão em execução，Qual é a diferença no horário do relógio de parede? A resposta é mais do que 4 Tempos - porque A comunicação entre GPUs é um caminho crítico para o treinamento。PowerEdge XE9680 8 As GPUs são totalmente interconectadas via NVLink (NVIDIA) ou Infinity Fabric (AMD)，O atraso de comunicação do paralelismo de modelo (TP/PP) é uma ordem de grandeza menor que o da rede entre nós。8 Comunicação interna do nó do cartão，4 Os nós dual-SIM de Taiwan precisam executar os mesmos dados em redes 100GbE/IB – hora do relógio de parede、Consumo de energia、Largura de banda da rede dobrou。

É por isso que o XE9680 existe：O primeiro da Dell 8 Servidor GPU，Projetado para IA generativa、Treinamento de ML/DL e criação de HPC，Suporta modelos de linguagem grandes、Mecanismo de recomendação、Dinâmica molecular e sequenciamento do genoma。

Especificações principais

A escolha da GPU: Cinco aceleradores, Um chassi

O XE9680 é incomum por aceitar todas as principais gerações de aceleradores:

Um chassi, cinco gerações de GPU – a escolha da plataforma segue o modelo e a linha de fornecimento, não é um bloqueio.

Armazenamento e expansão de dados de treinamento

Até 8 x unidades NVMe/SAS/SATA de 2,5 polegadas (122.88 tb) ou 16 x E3.S NVMe alimentam o pipeline de treinamento sem um salto de armazenamento separado; BOSS-N1 lida com tarefas de inicialização em RAID de hardware 1. Dez slots PCIe Gen5 x16 frontais aceitam HBAs, NICs de alta velocidade ou alvos NVMe-of-F, e o OCP 3.0 slot (x8) adiciona uma placa 100/400 GbE para escalonamento de vários nós. PERC H965i cobre RAID SAS (não suportado por Gaudi 3).

Segurança & Gerenciamento

Segurança. Raiz de confiança de silício, Botagem segura, firmware assinado criptograficamente, Verificação de componentes seguros, Apagar seguro, Bloqueio do sistema (iDRAC9 Empresarial/Datacenter), Criptografia de dados em repouso via SEDs, e TPM 2.0 (Certificação FIPS/CC-TCG, Variante da China).

Gerenciamento. iDRAC9 com porta dedicada, console virtual HTML5, mídia virtual e Redfish; OpenManage Enterprise com Power Manager, Plug-ins de serviço e atualização, além de integrações para Ansible, Terraforma, ServiceNow e BMC TrueSight – a mesma frota de aviões que qualquer outro PowerEdge.

Poder, Resfriamento & Físico

• fonte de alimentação: 3200W Titanium (277 VAC ou 260-400 CCV, EUA/Canadá) ou 2800W Titânio (200-240 Vac / 240 CCV), redundante de troca a quente.
• Resfriamento: Refrigerado a ar com até 6 Ventiladores HPR Gold na bandeja intermediária + até 10 na parte traseira (12 com Gaudí 3) – projetado para aceleradores de 700-900W.
• Físico: 263.2 x 482 x 1008.77 milímetros (com moldura), até 114.05 kg – planejar carga de piso e classificações de trilhos.

SO & Programas

Servidor canônico Ubuntu LTS, Red Hat Enterprise Linux, SUSE Linux Enterprise Server e VMware ESXi; Os designs validados da Dell para IA generativa abrangem os fluxos de trabalho de referência de ponta a ponta.

Perguntas frequentes sobre compras

• Qual GPU? H200 (141GB) para os maiores modelos; H100/H20 para níveis de custo; MI300X para propriedades AMD; Gaudí 3 para malhas somente Ethernet.
• Treinamento ou inferência? Construído para treinamento/HPC; cargas de trabalho de inferência podem ser melhor dimensionadas em nós da classe L40S – veja nosso L40S.
• Vários nós? 100/400GBE via OCP 3.0; Gaudí 3 compilações incorporadas 6 OSFP de 800 GbE.
• Peso? Até 114.05 kg totalmente carregado – planejamento de rack necessário.
• Gerenciamento remoto? IDRAC9 + OpenManage, idêntico ao resto da frota.

Dimensionando seu patrimônio de IA? O XE9680 ancora o nível de treinamento; xFusion 5885H V7 cobre computação de 4 soquetes. As an authorized Dell partner we offer competitive pricing, configuração personalizada, 3-ano de garantia e envio global – Contate-nos para uma cotação de infraestrutura de IA.

Observação: A disponibilidade e os prazos de entrega da GPU variam de acordo com a região e o acelerador – confirme a alocação atual com nossa equipe antes de planejar a construção.