北京2022年7月25日 /美通社/ -- 近期，一系列針對浪潮NF5468A5服務(wù)器的專業(yè)測評不斷發(fā)布，報告顯示這款GPU服務(wù)器在典型的AI計算場景擁有超乎預(yù)期的卓越性能，在MLPerf Training、MLPerf Inference、Alphafold2、NAMD、HPL、Stream等各種典型應(yīng)用評測中展示出了讓人驚嘆的領(lǐng)先性能，因而被媒體稱贊為"算力猛獸"。浪潮信息官網(wǎng)顯示，NF5468A5正在進行"超值機型 限免試用"活動，對算力有強大需求的用戶都可以免費申請。
NF5468A5是浪潮信息推出的一款面向AI訓(xùn)練、AI推理、HPC、視頻處理等多種應(yīng)用場景的GPU服務(wù)器，在4U空間內(nèi)搭載2顆AMD EPYC處理器，支持多達8張雙寬加速卡，巧妙的分區(qū)散熱設(shè)計有效實現(xiàn)CPU與GPU模組的分流，同時通過PCIE 4.0直連有效降低CPU和GPU間的通信延遲。該服務(wù)器支持高達8T的DDR4內(nèi)存、409.6 GB/s的內(nèi)存總帶寬，并且提供了8個全高全長雙寬PCIe x16的物理插槽。其強勁的處理器性能、巨大的內(nèi)存容量和帶寬、豐富的IO擴展，特別適合AI計算、云計算、HPC以及企業(yè)各類業(yè)務(wù)的工作負載。
媒體對NF5468A5進行了一系列測評。其中HPL測試結(jié)果表明，NF5468A5搭載2顆AMD EPYC 7543處理器，浮點計算速度為2.69 TFLOPS，根據(jù)AMD平臺理論浮點計算速度，處理器計算效率達到93.74%。在STREAM測試中，由于采用多線程并行，實測結(jié)果內(nèi)存帶寬373 GB/s，對比平臺內(nèi)存理論帶寬，實測內(nèi)存帶寬效率同樣達到驚人的91.1%。
NF5468A5 HPL測試結(jié)果
NF5468A5內(nèi)存帶寬測試結(jié)果
在AI訓(xùn)練性能測試中，浪潮NF5468A5搭配8張NVIDIA A100 PCIE 40GB GPU，使用MLPerf Training V1.0代碼訓(xùn)練卷積神經(jīng)網(wǎng)絡(luò)ResNet50，每秒處理的圖片數(shù)量可以達到21486張，單臺機器35分鐘即可完成Resnet50模型訓(xùn)練。參考最近幾期MLPerf訓(xùn)練榜單，搭載8張NVIDIA A100 40G GPU卡的服務(wù)器的最好成績是36.2分鐘?？梢哉f，在同等GPU配置的服務(wù)器中，浪潮NF5468A5的ResNet50訓(xùn)練性能是最好的。
ResNet50訓(xùn)練測試結(jié)果
在AI推理性能測試中，搭載1張NVIDIA Tesla T4 GPU的NF5468A5，使用MLPerf Inference V1.0代碼，ResNet50測試結(jié)果為每秒處理5671.9張圖片，這份成績也是非常出色的。同時，NF5468A5能夠很好地支持寒武紀MLU270-S4推理加速卡，Caffe框架下的ResNet18計算性能每秒超過7000張圖片。
ResNet50推理測試結(jié)果
同時，媒體還對浪潮信息自研的專用加速器M10A進行了性能測試，結(jié)果表明，浪潮NF5468A5搭配1張M10A，可實現(xiàn)480fps 1080P視頻的流暢轉(zhuǎn)碼，一張M10A的視頻處理能力相當(dāng)于一臺雙路服務(wù)器的性能。此外，NF5468A5搭載1張RTX3090顯卡，ETHASH算法性能突破100MH/s。
M10A視頻轉(zhuǎn)碼性能測試結(jié)果
浪潮NF5468A5+單卡RTX3090 HASH算法測試結(jié)果
算法 |
ETHASH |
ETCHASH |
AUTOLYKOS2 |
BLAKE3 |
MTP |
MTP-TCR |
OCTOPUS |
性能 |
108MH/s |
108MH/s |
232MH/s |
2.44GH/s |
7.23MH/s |
28.78MH/s |
103.07MH/s |
算法 |
KAWPOW |
PROGPOW |
PROGPOW-VEIL |
PROGPOW-VERIBLOCK |
PROGPOWZ |
FIROPOW |
/ |
性能 |
55MH/s |
54.4MH/s |
54.85MH/s |
27.31MH/s |
54.37MH/s |
54.91MH/s |
/ |
NF5468A5在HPC應(yīng)用性能方面同樣有非常優(yōu)秀的表現(xiàn)。媒體在NF5468A5平臺上搭載了2顆AMD Milan-X 7773X運行常見的氣象應(yīng)用WRF和計算流體力學(xué)應(yīng)用OpenFOAM進行性能基準測試。測試數(shù)據(jù)顯示，WRF測試其性能相比同平臺搭載兩顆Rome 7742處理器的計算性能提升23%~34%；而在OpenFOAM測試中，其性能相比同平臺Rome 7742處理器計算性能提升34%~80%。
WRF在不同AMD處理器上的性能對比
OpenFOAM motorbike算例在不同AMD處理器上的性能對比
在最新一期評測中，媒體還對NF5468A5服務(wù)器在AI+Science應(yīng)用場景的表現(xiàn)進行了全面的測評。測試選擇了兩項近期大熱的應(yīng)用AlphaFold2和NAMD。評測結(jié)果發(fā)現(xiàn)，對于長度在1000以內(nèi)的蛋白序列，結(jié)構(gòu)預(yù)測的完整時間基本在半小時以內(nèi)，意味著一臺NF5468A5服務(wù)器一天可以完成至少384個Alphafold2蛋白序列的預(yù)測任務(wù)；對于分子動力學(xué)模擬來說，STMV算例在NF5468A5上可以實現(xiàn)90.6ns/day的計算速度，一臺服務(wù)器一天就能實現(xiàn)100萬原子近100ns的模擬。浪潮NF5468A5 GPU服務(wù)器可以滿足絕大多數(shù)科研團隊在AlphaFold2、NAMD等科學(xué)應(yīng)用領(lǐng)域的AI加速計算需求。
NF5468A5+單張A100預(yù)測得到的AlphaFold2 top1模型計算性能
NAMD在NF5468A5平臺的測試結(jié)果
通過多次不同配置、不同場景的深度評測，媒體認為浪潮NF5468A5是一款性能強大、應(yīng)用場景廣泛的GPU服務(wù)器。該服務(wù)器硬件設(shè)計合理，可最大化發(fā)揮核心組件的性能優(yōu)勢，并通過分區(qū)散熱設(shè)計保障服務(wù)器穩(wěn)定運行。同時，NF5468A5廣泛兼容主流加速卡，以更靈活的計算架構(gòu)最大程度地滿足用戶在圖像識別、自然語言處理、語音識別等多場景應(yīng)用需求。
目前，據(jù)浪潮官網(wǎng)顯示NF5468A5正在推出 "超值機型 限免試用"活動，感興趣的用戶不妨申請，一試究竟。
