omniture

2022 ASC世界大學(xué)生超級計(jì)算機(jī)競賽初賽正式開啟 | 美通社

2022-01-06 16:28

2022年1月5日,2022 ASC世界大學(xué)生超級計(jì)算機(jī)競賽(ASC22)初賽正式開啟。來自全球五大洲的300多支參賽隊(duì)伍將在接下來的近兩個月中,挑戰(zhàn)“源”AI語言大模型、2020年戈登·貝爾獎獲獎應(yīng)用DeePMD-kit等尖端應(yīng)用賽題。

今年的AI賽題聚焦當(dāng)前業(yè)界前沿AI大模型。“源”是2021年發(fā)布的一個面向中文的巨量語言模型,參數(shù)量達(dá)2457億,刷新了業(yè)界多個中文榜單的記錄,且在眾多的語言處理任務(wù)場景中表現(xiàn)出了廣闊的應(yīng)用前景。AI大模型的訓(xùn)練面臨著計(jì)算量和并行策略設(shè)計(jì)的雙重挑戰(zhàn),因此也是參賽隊(duì)展示超算性能優(yōu)化能力的絕佳試驗(yàn)場。ASC22組委會提供了100GB的高質(zhì)量中文數(shù)據(jù)集,要求參賽隊(duì)基于這一數(shù)據(jù)集實(shí)現(xiàn)一個47億參數(shù)的小號“源”模型。值得一提的是,組委會并沒有提供模型設(shè)計(jì)的參考代碼,這意味著參賽隊(duì)需要自行完成模型結(jié)構(gòu)構(gòu)建和全部訓(xùn)練過程,并合理設(shè)計(jì)模型訓(xùn)練策略,以期得到最佳的計(jì)算性能。

DeePMD-kit賽題將引導(dǎo)大學(xué)生進(jìn)行一場人工智能+科學(xué)研究(AI+Science)的前沿探索??茖W(xué)研究與人工智能結(jié)合被視為當(dāng)前最值得期待的創(chuàng)新趨勢之一,機(jī)器學(xué)習(xí)分子動力學(xué)DeePMD-kit的出現(xiàn)成功推動了相關(guān)領(lǐng)域的跨越式發(fā)展。而高性能計(jì)算的加入將機(jī)器學(xué)習(xí)分子動力學(xué)的潛力持續(xù)釋放:DeePMD-kit在超級計(jì)算機(jī)頂點(diǎn)(Summit)上達(dá)到了雙精度91P的峰值性能,到解時間快于之前基線水平1000倍以上,相關(guān)成果獲得了2020年戈登·貝爾獎??梢哉fDeePMD-kit的出現(xiàn)定義了科學(xué)研究+機(jī)器學(xué)習(xí)+高性能計(jì)算的新范式。本次賽題聚焦DeePMD-kit的訓(xùn)練效率優(yōu)化,通過高性能優(yōu)化提升訓(xùn)練速度對于用戶來說至關(guān)重要。參賽選手將對DeePMD-kit的模型構(gòu)建過程有一個直觀認(rèn)識,并可以使用高性能優(yōu)化的手段優(yōu)化整個訓(xùn)練過程。(美通社,2022年1月6日北京)