omniture

OCP China Day 2023發(fā)布《開放加速規(guī)范AI服務器設計指南》

2023-08-14 11:05

 

2023年開放計算社區(qū)中國峰會(OCP China Day 2023)上發(fā)布了《開放加速規(guī)范AI服務器設計指南》,該指南旨在進一步發(fā)展和完善開放加速規(guī)范AI服務器的設計理論和設計方法,以助力社區(qū)成員高效地開發(fā)符合規(guī)范的AI加速卡,并縮短與AI服務器的適配周期此指南的發(fā)布將有望為業(yè)界提供更多關于生成式AI算力產(chǎn)業(yè)的巨大機遇。

2019年OCP成立了OAI小組,對適用于超大規(guī)模深度學習訓練的AI加速卡進行了定義,并發(fā)布了OAI-UBB1.0設計規(guī)范,為開放加速規(guī)范AI服務器的產(chǎn)業(yè)化實踐奠定了基礎。

《開放加速規(guī)范AI服務器設計指南》提出了四大設計原則:應用導向、多元開放、綠色高效、統(tǒng)籌設計。此外,該指南還倡導多維協(xié)同設計、全面系統(tǒng)測試和性能測評調(diào)優(yōu)等設計方法。多維協(xié)同設計強調(diào)系統(tǒng)和芯片廠商在規(guī)劃初期的全面協(xié)同,以最大程度減少定制開發(fā)的內(nèi)容,從而提高適配部署效率。

全面系統(tǒng)測試則強調(diào)對異構加速計算節(jié)點進行更全面、嚴格的測試,以降低系統(tǒng)故障風險。性能測評調(diào)優(yōu)關注多層次的性能評測和軟硬件深度調(diào)優(yōu),以確保開放加速規(guī)范AI服務器能夠有效支持當前主流大模型的創(chuàng)新應用。(美通社頭條)