GS8280 AI服务器

高性能 · 灵活高效 · 安全可靠 · 易维护

产品描述

GS8280 AI 服务器为 AI/ML/DL 训练和计算提供高性能和可靠性。 该系统设置有 8 个 Intel Habana Gaudi 2 处理器和双 Xeon Sapphire-Rapids 处理器。Gaudi 2 处理器集成了 96GB HBM 内存和 24 个 100GbE RoCEv2 RDMA 网卡。24 个 100G NIC 提供多对多连接，并在内部和外部横向扩展，用于训练、微调和其他 DL 处理。
GS8280AI正面图片 GS8280AI侧图 GS8280AI背面图GS8280AI反侧图
应用
适用于训练、微调或推理的 AI/ML
  • 大型语言模型
  • 目标检测
  • 对象分类和识别
  • 其他自动化使用案例
主要特点
  • 6*400G 以太网，支持 RoCEv2 横向扩展
  • 16*HDD/SSD + 8*NVME or 8*HDD/SSD + 16*NVME
  • 支持 0/1/10/5/6/50/60 的 RAID HBA
  • 每个 CPU 支持 16*DDR5，内存大小高达 128 GB
  • 支持 PSU 冗余和热插拔
  • Ubuntu Linux
  • 支持 PyTorch 和 TensorFlow 框架的 SynapseAI 设计包
网络和存储
  • 以太网：每个 Gaudi2 处理器都有 21*100GbE 无阻塞、多对多连接，可连接到服务器内的其他 Gaudi2 处理器
  • 存储：服务器包括 24*HDD/SSD 或 16*HDD/SSD + 8*NVME
  • NIC：通过 PCIe Gen 5 NIC 支持数据中心连接。横向扩展带宽
  • 每个 GS-8280 支持 6 个 QSFP-DD 端口，用于横向扩展。400G 端口可以分成 24 个 100GbE 链路到其他服务器。
GS8280 AI数据
产品特征 配置描述
样式 8U AI 服务器
计算节点 CPU： Sapphire Rapids， 2 插槽
PCH: Emmitsburg
内存：16*DDR5/CPU。每个 DDR5 可以是 32G/64G/128GB，最高可达 2TB
操作系统： Ubuntu 20.04
BIOS：32MB 闪存
GPU 8*OAM (Intel Habana HL-225H/C/D)
IO 正面：2*USB 2.0/3.0、1*VGA、1*UID、1*PWR背面：2*USB 2.0/3.0、1*VGA、1*RJ45、1*UID
Scale-Out 接口 RDMA (RoCE v2) 24*100 GbE 6*QSFP-DD
存储 内部： 2*M.2正面：16 * HDD / SSD + 8 * NVME或8 * HDD / SSD + 16 * NVME
BMC AST2600
TPM TPM 2.0
CD-ROM 支持外部 USB CD-ROM
PSU 系统：1+1 CRPS 2700W 冗余/热插拔 AC/DC GPU：3+3 CRPS 3000W 冗余/热插拔 AC/DC
风扇 14+1 热插拔风扇
尺寸 900mm * 447mm * 352mm
温度 5oC – 35oC
扩展槽 1*OCP 3.0 8*PCIe 插槽8*NIC 插槽
软件 SynapseAI：1.13.0 版本
内核:5.4.0 及以上Python: 3.10
PyTorch:2.1.0 版本TensorFlow: 2.13.1 Open MPI: 4.1.5
Libfabric:1.16.1 及更高版本
变压器:>= 4.33.0，< 4.35.0
热线电话
↑