北京2023年7月3日 /美通社/ -- 當(dāng)前,以大模型為代表的生成式AI技術(shù)正在加速發(fā)展并革新各行業(yè)智能轉(zhuǎn)型路徑,"千模百態(tài)"帶動"千行百業(yè)"走向新一輪發(fā)展浪潮,數(shù)實相融迎來了新紀元。新型智算產(chǎn)業(yè)變革之下,日趨豐富的人工智能應(yīng)用對多元化算力的需求激增,驅(qū)動人工智能計算系統(tǒng)向多元算力計算架構(gòu)轉(zhuǎn)化。日前,浪潮信息元腦伙伴北京傳奇天地,通過元腦生態(tài)AIStation資源平臺,助力某創(chuàng)新軟件技術(shù)有限公司構(gòu)建高性能、高可靠、可擴展的軟硬件系統(tǒng)架構(gòu),實現(xiàn)AI訓(xùn)練場景下算力資源的統(tǒng)一管理與智能化調(diào)度。
AI視頻分析意為利用技術(shù)對視頻片段進行數(shù)字化分析,通過檢測精度和分類能力的提升進而來增加對于關(guān)鍵事件和可疑活動的識別。基于技術(shù)層面,大致可分為"物體檢測"、"物體識別"、"目標(biāo)跟蹤"、"實時視頻分析",面向交通、旅游、生產(chǎn)制造、城市管理、環(huán)保等領(lǐng)域場景,提供"車牌自動識別、交通監(jiān)控、車流量統(tǒng)計"等預(yù)警識別?;诖?,相較于圖像識別,視頻識別則面向于一個分布范圍更廣、應(yīng)用場景更多的任務(wù)。
近年來,得益于人工智能與深度學(xué)習(xí)技術(shù)的進步與飛躍式的產(chǎn)業(yè)變革,基于視頻識別的算法與精度調(diào)優(yōu)取得了較佳提升,如 TSM、SlowFast、I3D 等,由此一來,則對底層算力系統(tǒng)提出了更高的要求。以及,當(dāng)模型與應(yīng)用走向真正的場景部署時,用戶使用多元AI芯片系統(tǒng)時則會碰到系統(tǒng)適配、芯片驅(qū)動、互聯(lián)互通、功耗管理、安全傳輸、易用性等各類瓶頸問題,利用軟件平臺對算力實現(xiàn)更精細的調(diào)度,成為滿足算力增長需求的另一個關(guān)鍵要素:通過構(gòu)建高性能、高可靠、可擴展的軟硬件系統(tǒng)架構(gòu),實現(xiàn)AI訓(xùn)練場景下算力資源的統(tǒng)一管理與智能化調(diào)度。
浪潮信息元腦生態(tài)平臺,旨在通過連接左右手伙伴的能力協(xié)同,盡己所長,形成優(yōu)勢互補,面向生態(tài)復(fù)雜離散、產(chǎn)業(yè)AI落地困難的行業(yè)挑戰(zhàn),以持續(xù)共贏的主張,聚合具備AI開發(fā)核心能力的左手伙伴和具備行業(yè)AI整體方案交付能力的右手伙伴,提供"AI算力平臺、AI資源平臺、AI算法平臺"全面融合的生態(tài)全棧能力,加速行業(yè)智能的構(gòu)建,助力最終用戶實現(xiàn)業(yè)務(wù)的智能轉(zhuǎn)型升級。
基于AI資源平臺層面,浪潮信息AIStation通過訓(xùn)練與推理兩大平臺,實現(xiàn)異構(gòu)算力集群的統(tǒng)一池化管理和多策略調(diào)度,進而保證客戶"視頻識別分析、目標(biāo)檢測與跟蹤"等模型應(yīng)用場景的算力資源使用和調(diào)度,提升整體利用率;在保障全生命周期管理方面,提升故障容錯、集群監(jiān)控運維等一體化能力,實現(xiàn)大規(guī)模分布式訓(xùn)練任務(wù)的健壯性、穩(wěn)定性要求,降低大模型訓(xùn)練門檻和成本。
作為元腦生態(tài)的左手伙伴,北京傳奇天地深耕于云計算領(lǐng)域多年,立足于元腦生態(tài)的全棧協(xié)同優(yōu)勢,為某創(chuàng)新軟件技術(shù)公司提供"一站式智能識別監(jiān)控 "解決方案,針對視頻識別的業(yè)務(wù)端海量數(shù)據(jù)處理、模型訓(xùn)練、模型應(yīng)用等環(huán)節(jié)實現(xiàn)全鏈條全面提速,通過多種資源的高效管理和調(diào)度策略,幫助某創(chuàng)新軟件技術(shù)有限公司實現(xiàn)資源使用率與分配效率的全線提升,實現(xiàn)萬卡集群的毫秒級調(diào)度,整體資源利用率提升至75%以上。
基于視頻識別"高實時、高準確、高擴展、高安全"的多方面屬性需求,要求平臺系統(tǒng)在實現(xiàn)數(shù)據(jù)安全與隱私并行的原則之下,實現(xiàn)大量數(shù)據(jù)的實時處理與數(shù)據(jù)的準確識別及信息提取。從擴展性看,平臺也需隨著監(jiān)控系統(tǒng)的規(guī)模和需求變化而變化。方案基于AIStation平臺,通過有效的數(shù)據(jù)緩存機制為模型后續(xù)訓(xùn)練鋪平道路,實現(xiàn)200%-300%的效率提升,利用視覺算法庫對視頻進行編解碼處理、圖像去噪、增強等預(yù)處理,并打標(biāo)簽形成訓(xùn)練樣本庫。
在模型訓(xùn)練方面,保障"健壯性"與"穩(wěn)定性"是模型定制開發(fā)時的首要強要求。對此,針對模型定制訓(xùn)練當(dāng)中所遇算力網(wǎng)絡(luò)搭建、數(shù)據(jù)加速、網(wǎng)絡(luò)通信優(yōu)化等瓶頸,AIStation通過提供TensorFlow,Caffe,MXnet等深度學(xué)習(xí)框架鏡像,實現(xiàn)鏡像分發(fā)加速與資源動態(tài)彈性伸縮,在提高計算資源利用率的同時加速整個訓(xùn)練過程。
千模聚集的"百團大戰(zhàn)"仍在繼續(xù),語音、圖像和視頻識別與分析仍亟需算力作為基底,智能算力市場龐大,人工智能應(yīng)用的高效落地將成為智能算力產(chǎn)業(yè)發(fā)展的重要推手,驅(qū)動智能算力規(guī)模高速增長。"在場景中創(chuàng)新,在創(chuàng)新中再謀新",浪潮信息始終致力于與合作伙伴攜手,共同推動多元算力的融合及新興市場的開拓,構(gòu)建融合開放的基礎(chǔ)架構(gòu),實現(xiàn)計算產(chǎn)業(yè)發(fā)展方式的轉(zhuǎn)型,開創(chuàng)智算產(chǎn)業(yè)新格局。