大模型與生成式AI應(yīng)用的快速發(fā)展，持續(xù)推升高性能計(jì)算需求。面對日益復(fù)雜的大規(guī)模訓(xùn)練與推理任務(wù)，GPU服務(wù)器作為核心基礎(chǔ)設(shè)施，正向更高性能與更優(yōu)能效加速演進(jìn)。安擎新一代6U GPU服務(wù)器EG8621G4應(yīng)勢而生，以突破性硬件架構(gòu)為高負(fù)載AI計(jì)算提供堅(jiān)實(shí)底座。
圖1-1：EG8621G4后置8 GPU配置
EG8621G4是安擎自主研發(fā)的新一代6U高密度GPU服務(wù)器?；贗ntel Eagle Stream平臺，支持搭載兩顆英特爾?至強(qiáng)?第四代或第五代可擴(kuò)展處理器（最高TDP 385W）。服務(wù)器提供16個內(nèi)存通道，最多可配置32條DDR5內(nèi)存。通過直通拓?fù)湓O(shè)計(jì)，最大支持11個標(biāo)準(zhǔn)PCIe 5.0擴(kuò)展插槽，兼容多種形態(tài)的新一代600W高性能GPU。EG8621G4集卓越算力、極致擴(kuò)展性與靈活部署能力于一身，為AI云計(jì)算、深度學(xué)習(xí)、AIGC、視頻加速等高性能AI業(yè)務(wù)場景提供堅(jiān)實(shí)的硬件基礎(chǔ)。
圖1-2：EG8621G4前置4 GPU+后置4 GPU配置
豐富擴(kuò)展，靈活適配
GPU支持： 模組化設(shè)計(jì)靈活搭配不同寬度的加速卡，最大支持8塊雙槽位或4槽位的最新600W功耗GPU。
存儲靈活： 提供多種存儲配置選項(xiàng)，前置可選支持8/16/24個2.5英寸熱插拔硬盤 或 12個3.5英寸熱插拔硬盤；后置可選支持4/6個2.5英寸熱插拔硬盤(搭配4槽位GPU)。
靈活拓?fù)洌咝Щヂ?lián)
高速擴(kuò)展能力：采用直通拓?fù)湓O(shè)計(jì)，可配置 9至11個標(biāo)準(zhǔn)PCIe 5.0擴(kuò)展插槽。
模組化兼容設(shè)計(jì)： 搭配4槽位GPU時，其中最多5個PCIe 5.0插槽可靈活調(diào)整為前置。
澎湃性能，多元適配
異構(gòu)計(jì)算支持： 適配多種高性能GPU，提供強(qiáng)大的計(jì)算能力，滿足訓(xùn)練、推理等多樣化AI應(yīng)用需求。
智能網(wǎng)絡(luò)擴(kuò)展： 提供多種網(wǎng)卡選配方案，支持?jǐn)U展智能網(wǎng)卡，滿足智算云平臺對高效網(wǎng)絡(luò)傳輸?shù)囊蟆?/span>
同時，EG8621G4服務(wù)器在算力、通信效率、功耗控制與系統(tǒng)可靠性方面實(shí)現(xiàn)顯著提升，為高負(fù)載計(jì)算場景提供堅(jiān)實(shí)基礎(chǔ)：
高密度算力： 搭載8塊主流GPU加速卡，提供3.35P FLOPS FP16算力（Tensor核心加速）及256GB GDDR7顯存，滿足百億參數(shù)模型的推理需求。
通信加速： 深度優(yōu)化NCCL性能，實(shí)測alltoall_perf busbw總線帶寬達(dá)37.5 GB/s（較上一代主流GPU提升98%），allreduce_perf busbw總線帶寬達(dá)41.1 GB/s（提升90%），還在持續(xù)優(yōu)化中。
智能功耗管理： BMC支持依據(jù)環(huán)境溫度與GPU負(fù)載動態(tài)調(diào)節(jié)風(fēng)扇轉(zhuǎn)速，在確保GPU穩(wěn)定運(yùn)行的同時，有效降低整機(jī)功耗與TCO。
增強(qiáng)可靠性： 每路GPU供電配備獨(dú)立Efuse芯片，可在供電線路異常時實(shí)現(xiàn)毫秒級響應(yīng)并精準(zhǔn)切斷對應(yīng)GPU電源。
產(chǎn)品規(guī)格
公眾號
公網(wǎng)安備 12011402001065號 
