澎 湃 算 力

超 強(qiáng) 架 構(gòu)

聯(lián)想問(wèn)天WA7780 G3 大模型訓(xùn)練GPU服務(wù)器, 為了滿足AI超大模型訓(xùn)練場(chǎng)景下，GPU服務(wù)器間高速數(shù)據(jù)通信的需求，支持IB，RoCE等多種對(duì)外網(wǎng)絡(luò)連接方案?？梢灾С?張RDMA 高速網(wǎng)卡，提供3.2Tb/s聚合帶寬。充分滿足了超大模型訓(xùn)練并行計(jì)算時(shí)，跨節(jié)點(diǎn)的通信需求。同時(shí)，在本地存儲(chǔ)的設(shè)計(jì)上，采用了GPU Direct Storage （GDS）技術(shù)。通過(guò)GDS技術(shù)，GPU與NVMe實(shí)現(xiàn)了快速低延遲互聯(lián)，能夠提高訓(xùn)練數(shù)據(jù)載入的速度，提升大模型訓(xùn)練的性能。

聯(lián)想問(wèn)天WA7780 G3 AI大模型訓(xùn)練服務(wù)器，在產(chǎn)品設(shè)計(jì)中采用了三重獨(dú)立風(fēng)道設(shè)計(jì)，針對(duì)不同部件的散熱特征，進(jìn)行了系統(tǒng)性的優(yōu)化，有效降低了由風(fēng)扇帶來(lái)的散熱功耗。相比同級(jí)別產(chǎn)品，聯(lián)想問(wèn)天WA7780G3功耗降低約10%。

 

外形

7U機(jī)架

性能

2.4 petaFLOPS FP8

處理器

2個(gè)第四代或五代英特爾至強(qiáng)可擴(kuò)展處理器，，可達(dá)64個(gè)核心數(shù)與350W TDP

芯片組

Intel C741 "Emmitsburg" 芯片組, 平臺(tái)代號(hào) "Eagle Stream"

內(nèi)存

32 DDR5 DIMM，每個(gè)CPU支持8個(gè)通道，1DPC頻率為4800MHz;2DPC頻率為4400MHz

存儲(chǔ)

8 x 前面板可熱插拔 2.5 英寸存儲(chǔ)設(shè)備插槽

- PCIe direct ：8 x NVMe SSD

2 x 后面板可熱插拔 2.5 英寸存儲(chǔ)設(shè)備插槽

-CPU2 direct： 2 x NVMe/SATA(PCH)/SAS* SSD(* SAS 支持需搭配選配 HBA/RAID 卡)

2 x 內(nèi)置M.2 SSD

GPU

NVIDIA HGX 8-GPU NVLink

I/O擴(kuò)展

SKU1 12+1 PCIe Slo（單上行）： 

- 8 x PCIe（Gen5x16，LP，PCIe direct）

- 2 x PCIe（Gen5 x16 link FH/HL，CPU1 and CPU2 direct）

- 2 x PCIe（Gen5 x8 link FH/HL，CPU1 and CPU2 direct）

- 1 x PCIe（Gen4 x8 HH/HL，CPU2 direct）供 RAID 卡

SKU2 10+1 PCIe Slot（雙上行）：

- 8 x PCIe（Gen5x16，LP，PCIe switch direct）

- 2 x PCIe（Gen5 x16 link FH/HL，CPU1 and CPU2 direct）

- 1 x PCIe（Gen4 x8 HH/HL，CPU2 direct）供 RAID 卡

散熱

風(fēng)冷 ,系統(tǒng)風(fēng)扇: 10 x fans (80*80, 54V) + 6 x fans (60*56, 12V) + 4 x fans(40*56, 12V)

管理網(wǎng)絡(luò)

集成 2 x 10GbE RJ45 LAN module (Intel-x710 Based-T) + 1 x Mgmt LAN

操作系統(tǒng)支持

Microsoft SUSE Red Hat VMware Ubuntu

電源

3+3 3000W 80 PLUS Tiannium電源（PSU）

運(yùn)行溫度

操作溫度：10℃ ~ 35℃

未操作溫度：-40℃ ~~ 70℃

未操作濕度：20% ~ 90%

尺寸

885 mm x 447 mm x 306.65 mm 7U

重量

毛重：154kg

凈重：99kg

（此內(nèi)容由www.zyseoyouhua.com提供）