H200 (141GB) for the largest models; H100/H20 for cost tiers; MI300X for AMD estates; Gaudi 3 for Ethernet-only fabrics.

Training or inference?

Built for training/HPC; inference workloads may scale better on L40S-class nodes - see our L40S.

100/400GbE via OCP 3.0; Gaudi 3 builds embed 6 x 800GbE OSFP.

Up to 114.05 kg fully loaded - rack planning required.

iDRAC9 + OpenManage, identical to the rest of the fleet.

Dell PowerEdge XE9680 6U 8-GPU 서버 | GenAI & 훈련

훈련 시간 계산：8-GPU 노드가 벽시계를 압도하는 이유

LLM 교육 비용은 질문으로 단순화될 수 있습니다.：같은 1,000 GPU 작업 시간，사용 4 듀얼 SIM 서버 실행 및 사용 1 탑 8 카드 서버 실행 중，벽시계 시간의 차이점은 무엇입니까? 대답은 그 이상이다. 4 타임즈 - 왜냐면 GPU 간 통신은 훈련을 위한 중요한 경로입니다.。PowerEdge XE9680의 8 GPU는 NVLink(NVIDIA) 또는 Infinity Fabric(AMD)을 통해 완전히 상호 연결됩니다.，모델 병렬성(TP/PP)의 통신 지연은 교차 노드 네트워크의 통신 지연보다 훨씬 낮습니다.。8 카드 노드 내부 통신，4 대만의 듀얼 SIM 노드는 100GbE/IB 네트워크에서 동일한 데이터를 실행해야 합니다 - 벽시계 시간、에너지 소비、네트워크 대역폭이 두 배로 늘어났습니다.。

이것이 XE9680이 존재하는 이유입니다.：Dell의 첫 번째 8 GPU 서버，생성적 AI를 위해 설계됨、ML/DL 교육 및 HPC 빌드，대규모 언어 모델 지원、추천 엔진、분자 역학 및 게놈 서열 분석。

핵심사양

기인하다	사양
폼 팩터	6U 랙 서버
프로세서	2 x 5세대 Intel Xeon 확장 가능 (64 코어) 또는 2 x 4세대 (56 코어)
메모리	32 x DDR5 RDIMM 슬롯, 까지 4 결핵, 5600 MT/s (5세대) / 4800 MT/s (4세대)
GPU 옵션	8 x H100 80GB 700W / 8 x H200 141GB 700W / 8 x H20 96GB 500W (모든 NVLink), 8 x MI300X 192GB 750W (인피니티 패브릭), 8 x 가우디 3 128GB 900W (년도)
공유 GPU 메모리	까지 1.5 결핵 일관성 (MI300X 구성)
드라이브 베이	까지 8 x 2.5인치 NVMe/SAS/SATA (122.88 결핵) 또는 16 x E3.S NVMe
신병	보스 -N1: 하드웨어 RAID 1, 2 x M.2 NVMe
PCIe	까지 10 x Gen5 x16 슬롯 (8 가우디와 함께 3)
회로망	2 x 1GbE 내장 + 1 x OCP 3.0 (x8); 6 x 800GbE OSFP(Gaudi 포함) 3
파워서플라이	3200W 티타늄 (277VAC/260-400VDC) 또는 2800W 티타늄, 핫스왑 중복
관리	iDRAC9, iDRAC 다이렉트, Redfish RESTful API, OpenManage 엔터프라이즈
치수 / 무게	263.2 엑스 482 엑스 1008.77 mm (베젤 포함); 까지 114.05 킬로그램

GPU 선택: 5개의 액셀러레이터, 섀시 1개

XE9680은 모든 주요 가속기 세대를 수용하는 데 있어 특이합니다.:

촉진 신경	메모리	힘	구조
엔비디아 H100 SXM5	80 GB	700 승	NV링크
엔비디아 H200 SXM5	141 GB	700 승	NV링크
엔비디아 H20 SXM5	96 GB	500 승	NV링크
AMD MI300X OAM	192 GB	750 승	인피니티 패브릭
인텔 가우디 3 OAM	128 GB	900 승	이더넷 RoCE (내장형 800GbE)

섀시 1개, 5개의 GPU 세대 – 플랫폼 선택은 모델과 공급 라인을 따릅니다., 락인이 아닌.

\"작은 — 파워엣지 XE9680: 6NVLink/Infinity Fabric/RoCE 가속기 옵션을 갖춘 U 8-GPU 훈련 노드.

학습 데이터 저장 및 확장

까지 8 x 2.5인치 NVMe/SAS/SATA 드라이브 (122.88 결핵) 또는 16 x E3.S NVMe 드라이브는 별도의 스토리지 홉 없이 교육 파이프라인을 제공합니다.; BOSS-N1은 하드웨어 RAID에서 부팅 작업을 처리합니다. 1. 10개의 전면 PCIe Gen5 x16 슬롯이 HBA를 사용합니다., 고속 NIC 또는 NVMe-of-F 대상, 그리고 OCP 3.0 슬롯 (x8) 다중 노드 확장을 위해 100/400GbE 카드 추가. PERC H965i는 SAS RAID를 포함합니다. (Gaudi에서는 지원되지 않습니다. 3).

보안 & 관리

보안. 실리콘 루트 오브 트러스트, 보안 부트, 암호화 서명된 펌웨어, 보안 구성 요소 확인, 보안 삭제, 시스템 잠금 (iDRAC9 엔터프라이즈/데이터센터), SED를 통한 미사용 데이터 암호화, 그리고 TPM 2.0 (FIPS/CC-TCG 인증, 중국 변종).

관리. 전용 포트가 있는 iDRAC9, HTML5 가상 콘솔, 가상 미디어와 Redfish; Power Manager가 포함된 OpenManage Enterprise, 서비스 및 업데이트 플러그인, 그리고 Ansible 통합, 테라폼, ServiceNow 및 BMC TrueSight – 다른 모든 PowerEdge와 동일한 제품군.

힘, 냉각 & 물리적

파워서플라이: 3200W 티타늄 (277 VAC 또는 260-400 VDC, 미국/캐나다) 또는 2800W 티타늄 (200-240 VAC / 240 VDC), 핫스왑 중복.
냉각: 최대 공냉식 6 중간 트레이의 HPR Gold 팬 + 까지 10 뒤쪽에 (12 가우디와 함께 3) – 700-900W 가속기용으로 설계됨.
물리적: 263.2 엑스 482 엑스 1008.77 mm (베젤 포함), 까지 114.05 킬로그램 – 바닥 하중 및 레일 등급 계획.

운영체제 & 소프트웨어

정식 우분투 서버 LTS, 레드햇 엔터프라이즈 리눅스, SUSE Linux Enterprise Server 및 VMware ESXi; Generative AI를 위한 Dell 검증 설계는 참조 워크플로를 포괄적으로 포괄합니다..

구매 FAQ

어떤 GPU? H200 (141GB) 가장 큰 모델의 경우; 비용 등급용 H100/H20; AMD 자산용 MI300X; 가우디 3 이더넷 전용 패브릭용.
훈련 또는 추론? 교육/HPC용으로 제작됨; 추론 워크로드는 L40S급 노드에서 더 잘 확장될 수 있습니다. – 우리를 보아라 L40S.
다중 노드? 100/400OCP를 통한 GbE 3.0; 가우디 3 빌드 삽입 6 x 800GbE OSFP.
무게? 까지 114.05 kg 완전 적재 – 랙 계획 필요.
원격 관리? iDRAC9 + 오픈매니지, 나머지 함대와 동일.

AI 자산 확장? XE9680은 교육 계층을 고정합니다.; 엑스퓨전 5885H V7 4소켓 컴퓨팅 포함. 공인 Dell 파트너로서 우리는 경쟁력 있는 가격을 제공합니다., 맞춤 구성, 3-1년 보증 및 글로벌 배송 – 저희에게 연락주세요 AI 인프라 견적.