Синьчуаньский сервер | Поставщик оборудования для корпоративных серверов
Ваш сервер имеет 32 Слоты DIMM. Все заселено. Использование памяти в 94 Процент. Кластеру нужно больше оперативной памяти, Не больше серверов.
Этот момент знает каждый администратор VMware.. Кластер показывает 94 процент использования памяти. Бюджетное совещание состоится через три дня. Варианты мрачны: купить другой $40,000 сервер, плотность дроссельной ВМ, или позвольте производительности ухудшиться. Модуль памяти Samsung CXL емкостью 512 ГБ добавляет четвертый вариант.: подключите PCIe 5.0 карту в пустой слот, и гипервизор видит 512 ГБ дополнительной системной памяти — с байтовой адресацией, Поддержка NUMA, и управляется тем же контроллером памяти, что и DDR5..
Технические характеристики
| Параметр | Спецификация |
|---|---|
| Емкость | 512 ГБ (также: 256 вариант ГБ) |
| Протокол | CXL 2.0 (Тип 3 расширитель памяти), обратная совместимость с CXL 1.1 |
| Хост-интерфейс | PCIe 5.0 х8 (или х16, настраиваемый) |
| Технология памяти | Оперативная память DDR5 Samsung 1а-класса (высокая плотность, не NAND — настоящий профиль задержки DRAM) |
| Задержка (CXL 2.0, локальный узел NUMA) | ~250–300 нс (против ~90 нс для локальной памяти DDR5, против ~ 140 нс для DDR5 с удаленным сокетом на двухпроцессорном процессоре) |
| Пропускная способность | ~32 ГБ/с (PCIe 5.0 х8) это ~64 ГБ/с (х16) |
| Фактор формы | PCIe полной высоты, полудлина (ФХХЛ) дополнительная карта |
| Власть | ~25 Вт типично, ~40 Вт макс. |
| ЕСС | Внутримодульный ECC (Исправление ошибок в модуле Samsung, независимо от хоста ECC) |
| Возможности РАН | Экономия памяти, зеркалирование памяти (уровень модуля), патрульный скраб, требовать скраб |
| Горячее подключение | Не поддерживается. Изменение объема памяти требует перезагрузки. |
| НУМА | Представлен как отдельный узел NUMA для ОС.. Диспетчер памяти ОС балансирует распределение. |
| Поддержка ОС | РЕЛ 9.2+ (ядро 5.14+ Подсистема CXL), SLES 15 СП5+, Убунту 24.04 LTS, VMware ESXi 8.0 U2+ (Многоуровневое распределение памяти CXL в предварительной версии) |
| Совместимые процессоры | Intel Xeon 4-го поколения (CXL 1.1), Ксеон 6 (CXL 2.0), AMD ЭПИК 9005 (CXL 2.0) |
| Совместимые серверы | Делл Р660, 760 рэндов, 770 рэндов, Р7715, 860 рэндов, 960 рэндов, xFusion 2288H V7, 2488Х V7, 5885Х V7 (CXL BIOS включен) |
| Физический | Стандартная карта PCIe FHHL, 168 Икс 111 мм |
| Гарантия | 3-год (с сервером) |
Память CXL против добавления модулей DIMM — математика расширения
| Сценарий | Добавьте модули DIMM DDR5 | Добавить модули CXL | Победитель |
|---|---|---|---|
| На сервере пусты слоты DIMM | 16Икс 64 ГБ DDR5 = 1 добавлен туберкулез. Расходы: ~$8000. Слоты PCIe не используются. | 2Икс 512 ГБ CXL = 1 добавлен туберкулез. Расходы: ~5000 долларов США. 2 Слоты PCIe заняты. | DR5 (дешевле за ГБ, нет штрафа PCIe) |
| Слоты DIMM сервера ЗАПОЛНЕНЫ | Невозможно без замены сервера. | 2Икс 512 ГБ CXL = 1 добавлен туберкулез. Расходы: ~5000 долларов США. | CXL (единственный вариант) |
| Need > 8 Всего ТБ на двухсокетном сервере | Невозможный. 32 Слоты DIMM x 256 ГБ = 8 потолок ТБ. | 8 ТБ DDR5 + 2 ТБ CXL = 10 Всего ТБ на двухпроцессорном сервере. | CXL ломает 8 потолок ТБ |
Когда память CXL имеет смысл
- Кластеры VMware при насыщении памяти. Добавьте модули CXL к существующим хостам вместо покупки дополнительных хостов.. 512 ГБ памяти CXL на хост x 10 хосты = 5 ТБ дополнительной памяти кластера примерно 60% стоимости добавления двух новых серверов.
- Базы данных в памяти, которые переросли потолок DIMM. Редис, Мемкеш, SAP HANA, and Oracle In-Memory that need >8 TB on a dual-socket server. CXL — единственный путь выйти за пределы потолка с 32 модулями DIMM без перехода на 4-процессорный процессор R860..
- Вывод ИИ с большими контекстными окнами. Вывод LLM с контекстными окнами более 100 тыс. токенов потребляет VRAM для весов модели и системную RAM для кэша KV.. Память CXL обеспечивает экономичный уровень расширения для предотвращения переполнения кэша KV..
Когда память CXL не имеет смысла
- Если у вас пустые слоты DIMM. Сначала заполните их. DDR5 быстрее и дешевле за гигабайт.
- Если ваша рабочая нагрузка чувствительна к задержкам на уровне наносекунд. CXL добавляет 150-200 нс задержки по сравнению с локальной памятью DDR5. Для высокочастотной торговли, системы управления в реальном времени, и OLTP со строгими соглашениями об уровне обслуживания по задержкам., родная DDR5 — единственный вариант.
- Если ваша ОС или гипервизор не поддерживает многоуровневое распределение памяти CXL. VMware ESXi 8.0 U2 поддерживает память CXL в предварительной версии (не ГА). РЕЛ 9.2+ поддерживает это, GA. Перед заказом проверьте версию вашего гипервизора.
Источник через Синькуань
Мы поставляем модули Samsung CXL, предварительно установленные на серверах Dell и xFusion с включенным CXL BIOS.. Прямые цены с завода, 3-год гарантии, и бесплатная консультация по планированию памяти CXL.
