頭圖 | 視覺(jué)中國(guó)
極度缺乏AI人才，已成為中國(guó)人工智能產(chǎn)業(yè)發(fā)展道路上的瓶頸。在國(guó)家政策的支持下，眾高校初建AI專業(yè)者甚多，但高校教師應(yīng)掌握哪些知識(shí)儲(chǔ)備來(lái)傳道授業(yè)，大家都是“摸著石頭過(guò)河”。
將高校AI人才培養(yǎng)教學(xué)大綱與廠商成熟落地實(shí)踐相結(jié)合，無(wú)疑是一個(gè)合理的教學(xué)方式。
華為昇騰學(xué)院師資培訓(xùn)沙龍，就為中國(guó)產(chǎn)學(xué)研相結(jié)合提供了一個(gè)高校教師和華為專家的交流平臺(tái)！
8月11-12日，華為昇騰學(xué)院在深圳舉行了為期兩天的師資培訓(xùn)沙龍活動(dòng)，面向廣大高校教師提供昇騰全棧全場(chǎng)景AI技術(shù)知識(shí)點(diǎn)賦能培訓(xùn)。與會(huì)老師學(xué)完課程后，可以把學(xué)習(xí)到的昇騰AI知識(shí)融入到高校學(xué)生的課程培養(yǎng)體系中。
華為的專家們?yōu)楦咝＝處煄?lái)了哪些精彩分享呢？我們來(lái)總結(jié)一下這兩天的課程集錦。
Day 1
華為云與計(jì)算BG高?？蒲信c人才發(fā)展部部長(zhǎng) 曾偉勝：AI教育者是先行者，是領(lǐng)路人
為了讓學(xué)生緊跟最新的技術(shù)潮流，華為希望能夠與高校合作，從教學(xué)、科研、學(xué)生就業(yè)，乃至整個(gè)產(chǎn)業(yè)落地形成一個(gè)完整的閉環(huán)。為推進(jìn)產(chǎn)學(xué)研結(jié)合，華為將聯(lián)合教育界廣大力量，把實(shí)踐基地、大賽、慕課等結(jié)合在一起，在場(chǎng)的各位教師將會(huì)是華為與高校教學(xué)合作的第一批實(shí)踐者。
智能是新基建的底座，AI教育從業(yè)者就是種子，以星星之火燎原，不斷影響其他學(xué)科。在座的AI教育者是先行者，是領(lǐng)路人，希望華為能夠與教育領(lǐng)域的頂尖人才一起，從事這項(xiàng)有意義和使命感的事。
華為昇騰計(jì)算業(yè)務(wù)CTO周斌：這10年，是計(jì)算架構(gòu)創(chuàng)新的黃金時(shí)代
華為昇騰計(jì)算業(yè)務(wù)CTO周斌以主題演講正式開(kāi)啟了培訓(xùn)課程。他表示，因?yàn)槠浔旧硪苍且幻咝＠蠋?，所以更明確應(yīng)該如何利用華為昇騰計(jì)算產(chǎn)業(yè)中提供的資源與高校的教學(xué)科研結(jié)合起來(lái)。
計(jì)算產(chǎn)業(yè)是一個(gè)變化非?？斓漠a(chǎn)業(yè)，新的技術(shù)層出不窮，尤其是以AI為代表的新計(jì)算體系的出現(xiàn)，讓以前學(xué)習(xí)的知識(shí)很快落伍。
為這10年的計(jì)算機(jī)體系結(jié)構(gòu)做一個(gè)定義，是計(jì)算架構(gòu)創(chuàng)新的黃金時(shí)代。原因也很簡(jiǎn)單，芯片級(jí)摩爾定律基本上將走到盡頭，物理限制導(dǎo)致單芯片計(jì)算性能提升遇到瓶頸。所以，AI計(jì)算面臨的核心問(wèn)題，在于如何與教學(xué)和產(chǎn)業(yè)結(jié)合，讓計(jì)算系統(tǒng)最大化地發(fā)揮價(jià)值。
全愛(ài)科技 王中山：華為&全愛(ài)科技機(jī)器視覺(jué)平臺(tái)聯(lián)合解決方案
華為&全愛(ài)科技機(jī)器視覺(jué)平臺(tái)聯(lián)合解決方案是全愛(ài)科技基于Atlas200研發(fā)的一款教育平臺(tái)和半導(dǎo)體AI開(kāi)發(fā)平臺(tái)。
在AI+云+大數(shù)據(jù)+5G的快速發(fā)展下，機(jī)器視覺(jué)產(chǎn)業(yè)正在經(jīng)歷第四次新物種爆炸，在這個(gè)背景下，全愛(ài)基于華為昇騰Atlas200和全流程開(kāi)發(fā)工具鏈MindStudio 2.0創(chuàng)建了全愛(ài)機(jī)器視覺(jué)平臺(tái)。這是一個(gè)國(guó)產(chǎn)自主、開(kāi)源開(kāi)放、模塊化、平臺(tái)化的產(chǎn)品，華為提供半導(dǎo)體和嵌入式/AI教育開(kāi)發(fā)工具，可實(shí)現(xiàn)教育平臺(tái)自主可控，廣泛應(yīng)用于教學(xué)科研、智能硬件、智慧安防、自動(dòng)駕駛等產(chǎn)業(yè)應(yīng)用。
全愛(ài)與華為的聯(lián)合解決方案展示了昇騰處理器應(yīng)用的廣泛可能性，希望未來(lái)會(huì)有更多人認(rèn)識(shí)和了解昇騰處理器可以用來(lái)做什么，預(yù)祝開(kāi)發(fā)者和教育從業(yè)者能夠與鯤鵬共展翅昇騰九萬(wàn)里！
人工智能課程套件
人工智能課程套件是華為提供的輔助高校人工智能專業(yè)多門專業(yè)課程教學(xué)實(shí)踐的方案套件。基于華為豐富的人工智能項(xiàng)目實(shí)踐經(jīng)驗(yàn)，匯集昇騰AI前沿技術(shù)，融合實(shí)驗(yàn)環(huán)境為高校提供的一站式、多領(lǐng)域的實(shí)驗(yàn)案例集和通用參考課件，輔助專業(yè)學(xué)科建設(shè)，攜手高校共塑精品課堂。
講師：王豪聰 華為人工智能高級(jí)培訓(xùn)講師
昇騰課程設(shè)計(jì)理論與實(shí)踐相結(jié)合，產(chǎn)業(yè)落地與高校教學(xué)大綱緊密聯(lián)系，尤其強(qiáng)調(diào)實(shí)踐，共設(shè)計(jì)了10門課程的知識(shí)點(diǎn)，包括人工智能導(dǎo)論、機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理、語(yǔ)音識(shí)別智能芯片與應(yīng)用、智能系統(tǒng)與應(yīng)用等。
昇騰AI處理器之所以厲害，在于其獨(dú)特的軟硬件架構(gòu)！
下午，培訓(xùn)課程介紹了昇騰AI全棧全場(chǎng)景解決方案、昇騰AI處理器硬件和軟件架構(gòu)、以及昇騰AI處理器產(chǎn)品形態(tài)和Mind Studio 2.0 工具鏈。
講師：圖靈解決方案架構(gòu)師符秋杰
昇騰AI處理器的硬件架構(gòu)基于達(dá)芬奇AI技術(shù)架構(gòu)。達(dá)芬奇架構(gòu)的獨(dú)特之處，主要在于它3D cube的三維彈性立方體設(shè)計(jì)，這樣的設(shè)計(jì)能夠極大地提高計(jì)算性能。另外，達(dá)芬奇架構(gòu)在端、邊、云側(cè)共用一套架構(gòu)，這意味著軟件棧統(tǒng)一，在任意場(chǎng)景下開(kāi)發(fā)的應(yīng)用都可以很便利地遷移到其他場(chǎng)景。
昇騰AI處理器的軟件架構(gòu)由若干子系統(tǒng)組成：
GE子系統(tǒng)
FE子系統(tǒng)
AICPU子系統(tǒng)
HCCL子系統(tǒng)，這是一個(gè)集成通信的引擎，包括適配器等部分。
TBE子系統(tǒng)，算子層架構(gòu)，定義圖推導(dǎo)算子信息，管理算子信息，算子融合規(guī)則等，使應(yīng)用在各種場(chǎng)景可以運(yùn)行。
Runtime&TS子系統(tǒng)，運(yùn)行時(shí)和任務(wù)調(diào)度系統(tǒng)，主要為神經(jīng)網(wǎng)絡(luò)任務(wù)分配提供資源管理通道。
DVPP子系統(tǒng)，視覺(jué)處理模塊，為AI core和AICPU提供服務(wù)，作為整個(gè)軟件流程中的編解碼和圖像處理模塊，為神經(jīng)網(wǎng)絡(luò)發(fā)揮預(yù)處理輔助功能。
ACL子系統(tǒng)，接口調(diào)用流程，根據(jù)應(yīng)用開(kāi)發(fā)中的典型功能抽象出主要的接口調(diào)用流程，寶庫(kù)ACL初始化、運(yùn)行管理資源申請(qǐng)、算子調(diào)用、模型推理、運(yùn)行管理資源釋放、ACL去初始化。
如今，昇騰AI處理器已廣泛應(yīng)用于Atlas 200、Atlas 300、Atlas 800 AI 服務(wù)器等華為AI解決方案中，并在政府、醫(yī)療、公共安全和制造等多個(gè)領(lǐng)域有成熟的行業(yè)應(yīng)用落地。
昇騰開(kāi)發(fā)環(huán)境搭建與工具鏈Mind Studio 2.0
這一節(jié)課程介紹了昇騰的開(kāi)發(fā)&運(yùn)行環(huán)境搭建（基于Atlas200DK或者Ai1）與工具鏈（昇騰軟件棧集成開(kāi)發(fā)工具M(jìn)ind Studio），并基于具體案例進(jìn)行應(yīng)用開(kāi)發(fā)實(shí)戰(zhàn)，講解了使用ACL接口進(jìn)行應(yīng)用開(kāi)發(fā)的基本流程和實(shí)現(xiàn)方法。
講師：昇騰布道師 毛紅朝
在具體開(kāi)發(fā)過(guò)程中，高校教學(xué)場(chǎng)景用到最多的是基于Atlas 300的Ai1推理彈性云服務(wù)和Atlas 200 DK開(kāi)發(fā)者套件。
推理平臺(tái)Ai1彈性云服務(wù)器
講師在現(xiàn)場(chǎng)展示了基于Ai1推理云服務(wù)的昇騰開(kāi)發(fā)環(huán)境部署方法，包括安裝驅(qū)動(dòng)包、固件、環(huán)境依賴、環(huán)境驗(yàn)證等?，F(xiàn)場(chǎng)與會(huì)老師在30分鐘左右即可完成整個(gè)開(kāi)發(fā)環(huán)境部署。
Atlas 200 DK（開(kāi)發(fā)者套件）
Atlas開(kāi)發(fā)者套件 Atlas 200 Developer Kit是一個(gè)以Ascend 310處理器為核心的開(kāi)發(fā)者板形態(tài)的產(chǎn)品，主要功能是將Ascend310處理器的核心功能通過(guò)板上的外圍接口開(kāi)放出來(lái)，方便用戶快速簡(jiǎn)捷地接入并使用Ascend 310強(qiáng)大的計(jì)算能力。
Atlas 200 DK的環(huán)境部署流程包括環(huán)境準(zhǔn)備、系統(tǒng)SD卡制作、Mind Studio 部署等幾個(gè)步驟。
運(yùn)行環(huán)境即Atlas200DK開(kāi)發(fā)者板環(huán)境，此環(huán)境系統(tǒng)是基于ubuntu-arm的小型片上系統(tǒng)，運(yùn)行環(huán)境需要通過(guò)制作SD卡，將運(yùn)行代碼和系統(tǒng)程序燒寫到開(kāi)發(fā)者板上。
開(kāi)發(fā)板制卡并啟動(dòng)成功后，需要將開(kāi)發(fā)板連接到開(kāi)發(fā)環(huán)境的ubuntu服務(wù)器，然后在ubuntu服務(wù)器上通過(guò)ssh登錄開(kāi)發(fā)者板，進(jìn)行運(yùn)行環(huán)境配置。
Mind Studio工具鏈
在本周剛剛結(jié)束的華為HAI 2020大會(huì)上，華為正式發(fā)布了最新的MindStudio 2.0版本，宣布了一些重大功能更新與增加。
Mind Studio是一套基于IntelliJ框架的開(kāi)發(fā)工具鏈平臺(tái)，提供了應(yīng)用開(kāi)發(fā)、調(diào)試、Profiling工具、模型轉(zhuǎn)換、模型可視化功能，以及對(duì)開(kāi)發(fā)者來(lái)說(shuō)至關(guān)重要的精度對(duì)比、自定義算子開(kāi)發(fā)等重要功能，同時(shí)還提供了網(wǎng)絡(luò)移植、優(yōu)化和分析功能，方便用戶開(kāi)發(fā)應(yīng)用程序。
講師在培訓(xùn)中講到，Mind Studio只能安裝在Ubuntu服務(wù)器上，開(kāi)發(fā)者可以在Ubuntu服務(wù)器上使用原生桌面自帶的終端gnome-terminal進(jìn)行安裝，也可以在Windows PC上通過(guò)SSH登錄到Ubuntu服務(wù)器進(jìn)行安裝。另外，因?yàn)镸ind Studio是一款GUI程序，所以在Windows PC上通過(guò)SSH登錄到Ubuntu服務(wù)器進(jìn)行安裝時(shí)，需要使用集成了X schmerver的SSH終端（比如MobaXterm)。
昇騰應(yīng)用案例實(shí)戰(zhàn)
最后，毛紅朝現(xiàn)場(chǎng)展示并講解了部分昇騰應(yīng)用案例，例如黑白電影上色，其實(shí)現(xiàn)是在基于昇騰AI處理器在神經(jīng)網(wǎng)絡(luò)上進(jìn)行模型訓(xùn)練和上色處理。
Day 2
基于昇騰Ai1推理云服務(wù)的ACL開(kāi)發(fā)實(shí)踐
昇騰AI處理器分為訓(xùn)練和推理兩種，其中推理芯片支持將訓(xùn)練好的離線模型通過(guò)ACL（Ascend Computing Language）編程框架部署到具體業(yè)務(wù)場(chǎng)景，并對(duì)深度神經(jīng)網(wǎng)絡(luò)進(jìn)行特殊優(yōu)化。本節(jié)課程主要介紹如何基于昇騰Ai1推理云服務(wù)的ACL進(jìn)行開(kāi)發(fā)。
講師：華為海思技術(shù)專家 杜鵬
ACL有Python和C++兩套接口，主要處理離線模型，與訓(xùn)練是解耦的。
ACL開(kāi)發(fā)流程包括模型初始化、申請(qǐng)計(jì)算資源、加載模型等步驟。
TBE算子開(kāi)發(fā)實(shí)踐
對(duì)于不支持的算子，華為提供TBE算子開(kāi)發(fā)工具，用戶可以用TBE自定義開(kāi)發(fā)算子，嵌入到應(yīng)用中，幫助開(kāi)發(fā)者高效完成目前主流深度神經(jīng)網(wǎng)絡(luò)計(jì)算。
TBE基于開(kāi)源的TVM深度學(xué)習(xí)編譯棧，有兩種開(kāi)發(fā)方式可供選擇，一是TBE DSL，適用于入門開(kāi)發(fā)者，TBE工具提供自動(dòng)優(yōu)化機(jī)制，給出較優(yōu)的調(diào)度流程；二是TIK，適用于高級(jí)開(kāi)發(fā)者，接口偏底層，用戶需要自己控制數(shù)據(jù)流和算子的硬件調(diào)度。
現(xiàn)場(chǎng)還展示了TBE算子開(kāi)發(fā)流程、代碼結(jié)構(gòu)、執(zhí)行環(huán)境等，現(xiàn)場(chǎng)教師聯(lián)網(wǎng)實(shí)操和練習(xí)。
MindSpore開(kāi)源AI計(jì)算框架
針對(duì)業(yè)界AI開(kāi)發(fā)者所面臨的開(kāi)發(fā)門檻高、運(yùn)行成本高、部署難度大等挑戰(zhàn)，MindSpore提出對(duì)應(yīng)的三點(diǎn)技術(shù)創(chuàng)新點(diǎn)：新編程范式、新執(zhí)行模式、新協(xié)同模式，幫助開(kāi)發(fā)者更簡(jiǎn)單、更高效實(shí)現(xiàn)AI應(yīng)用的開(kāi)發(fā)和部署。
講師：華為中央軟件院技術(shù)專家 劉微
MindSpore集成與借鑒了業(yè)界主流框架的優(yōu)勢(shì)，能夠提供全場(chǎng)景統(tǒng)一的API，可進(jìn)行自動(dòng)微分、自動(dòng)并行、自動(dòng)調(diào)優(yōu)；MindSpore IR計(jì)算圖表達(dá)可以執(zhí)行深度圖優(yōu)化等。
相比同類產(chǎn)品，MindSpore有三個(gè)特點(diǎn)，一是開(kāi)發(fā)態(tài)友好，AI算法即代碼；運(yùn)行高效，與昇騰芯片對(duì)接；部署靈活，全場(chǎng)景按需協(xié)同。
在架構(gòu)層面，MindSpore由Mind Extend、MindExpress、MindCompiler、MIndRT等部分組成。
MindExpress是一個(gè)Python前端，包含High-Level和Low-Level兩層API設(shè)計(jì)，高級(jí)API提供訓(xùn)練推理接口，Low-Level提供基礎(chǔ)的Tensor、優(yōu)化器等API，Executor則提供計(jì)算的執(zhí)行控制。
MindCompiler是MindSpore的一個(gè)重要的子系統(tǒng)，很多核心系統(tǒng)基于這個(gè)系統(tǒng)，提供面向Mind IR的圖級(jí)即時(shí)編譯能力。
Mind IR是MindSpore的一個(gè)核心中間表達(dá)，通過(guò)嵌套式的表達(dá)，很簡(jiǎn)便地支持不同語(yǔ)言的推導(dǎo)。
MindRT 子系統(tǒng)是一個(gè)統(tǒng)一的運(yùn)行時(shí)系統(tǒng)，可與昇騰芯片進(jìn)行深度優(yōu)化，整圖下沉到卡上（on-device執(zhí)行），減小host-device交互開(kāi)銷，提高深度學(xué)習(xí)訓(xùn)練的效率。
MindData子系統(tǒng)負(fù)責(zé)高效執(zhí)行訓(xùn)練數(shù)據(jù)處理pipeline，與計(jì)算形成流水，數(shù)據(jù)及時(shí)導(dǎo)入訓(xùn)練。它的關(guān)鍵功能包括用流水線+并行方式，可提高數(shù)據(jù)處理吞吐量。數(shù)據(jù)加載上，MindRecord自帶元數(shù)據(jù)，通過(guò)聚合存儲(chǔ)讓數(shù)據(jù)檢索更快。用戶還可以自定義Python算子，進(jìn)行靈活定制。
MindInsight子系統(tǒng)是MindSpore的調(diào)試調(diào)優(yōu)子系統(tǒng)，提供訓(xùn)練過(guò)程可視化、模型溯源、debugger和性能profiling功能。
MindArmour子系統(tǒng)可針對(duì)可信AI的各個(gè)領(lǐng)域提供全面、有效、易用的評(píng)測(cè)工具和增強(qiáng)方法
目前，基于MindSpore的華為云訓(xùn)練服務(wù)，已服務(wù)于華為內(nèi)部各AI部門，并成為華為數(shù)據(jù)通信網(wǎng)絡(luò)平臺(tái)智能控流的支撐，解決擁塞精準(zhǔn)控制的難題。
ModelArts AI開(kāi)發(fā)平臺(tái)及環(huán)境配置
ModelArts是華為的一站式AI開(kāi)發(fā)平臺(tái)，提供數(shù)據(jù)預(yù)處理、模型訓(xùn)練、自動(dòng)學(xué)習(xí)和模型部署等能力，為不同級(jí)別開(kāi)發(fā)者提供AI開(kāi)發(fā)方案。MindSpore支持ModelArts和本地硬件平臺(tái)等多種使用方式，最佳匹配Ascend硬件平臺(tái)，同時(shí)也支持在CPU和GPU硬件平臺(tái)上安裝使用。
講師：昇騰布道師 董永漢
ModelArts模型訓(xùn)練模塊中包含ExeML引擎，可自動(dòng)學(xué)習(xí)三步創(chuàng)建AI模型，適合沒(méi)有基礎(chǔ)的小白開(kāi)發(fā)者。另外，ModelArts提供大量預(yù)置算法進(jìn)行遷移學(xué)習(xí)，所有模型基于開(kāi)源或行業(yè)數(shù)據(jù)及訓(xùn)練完畢，實(shí)現(xiàn)精度和速度優(yōu)化，一鍵訓(xùn)練，簡(jiǎn)化模型創(chuàng)建的過(guò)程。
MindSpore環(huán)境配置
MindSpore開(kāi)源社區(qū)官網(wǎng)有安裝指導(dǎo)，目前有多種版本供選擇：https://www.mindspore.cn/
MindSpore開(kāi)發(fā)實(shí)踐
在最后的開(kāi)發(fā)實(shí)踐課上，講師介紹了MindSpore實(shí)驗(yàn)指導(dǎo)及model_zoo的使用方法，現(xiàn)場(chǎng)教師也在講師的指導(dǎo)下完成了在本地CPU和ModelArts平臺(tái)上進(jìn)行了LeNet、checkpoint、Liner Regression、KNN等模型開(kāi)發(fā)、訓(xùn)練、驗(yàn)證和推理。
至此，為期兩天的深圳站華為師資培訓(xùn)沙龍活動(dòng)正式結(jié)束！培訓(xùn)課程中干貨滿滿，理論與實(shí)踐緊密結(jié)合，相信讓與會(huì)高校教師滿載而歸！
學(xué)無(wú)止境，還有5站等你打卡！
還沒(méi)看過(guò)癮或想了解更多培訓(xùn)詳情？沒(méi)關(guān)系，還有機(jī)會(huì)。接下來(lái)，華為還將在杭州、武漢、上海、南京、成都5站繼續(xù)精彩培訓(xùn)課程！
