智東西5月25日消息,今天,匯聚了16位AI與物聯(lián)網(wǎng)行業(yè)大佬的GTIC 2021嵌入式AI創(chuàng)新峰會(huì)在北京舉辦,現(xiàn)場(chǎng)座無虛席,十分火爆!
當(dāng)下,隨著AI落地進(jìn)入深水期,越來越多的AI需要從云端,擴(kuò)展到設(shè)備端和邊緣端——智能耳機(jī)、智能手環(huán)、智能門鎖、智能攝像機(jī)、AI無人機(jī)、掃地機(jī)器人、物流機(jī)器人等設(shè)備層出不窮。而在一個(gè)信息安全問題日益凸顯的時(shí)代,將AI部署在端側(cè)、邊緣側(cè),也成為產(chǎn)業(yè)亟待關(guān)注的需求。
而這,正是嵌入式AI要做的事情——將AI部署到嵌入式的設(shè)備端和邊緣端。人工智能真正業(yè)務(wù)落地的大舞臺(tái),已經(jīng)越來越轉(zhuǎn)向物聯(lián)網(wǎng)端側(cè)的AI嵌入這一新戰(zhàn)場(chǎng)!
作為今年首場(chǎng)聚焦嵌入式AI的創(chuàng)新峰會(huì),今天,來自產(chǎn)業(yè)鏈上下游的16位大佬共聚一堂,圍繞嵌入式AI的軟硬件生態(tài)創(chuàng)新、家居AIoT、移動(dòng)機(jī)器人和工業(yè)制造產(chǎn)業(yè)4大版塊地圖,帶來了深入淺出的分享。現(xiàn)場(chǎng)觀眾時(shí)而安靜傾聽,時(shí)而掌聲熱烈,線上直播觀看人數(shù)也超150萬!
▲峰會(huì)現(xiàn)場(chǎng)座無虛席,十分火爆
智一科技聯(lián)合創(chuàng)始人/CEO龔倫常代表主辦方發(fā)言稱,據(jù)相關(guān)機(jī)構(gòu)統(tǒng)計(jì),2020年智能設(shè)備迎來拐點(diǎn),活躍的物聯(lián)網(wǎng)連接數(shù)量第一次超過了非物聯(lián)網(wǎng)連接的數(shù)量。同時(shí),國(guó)家十四五規(guī)劃也首次明確提出了生產(chǎn)、生活以及社會(huì)治理的全面數(shù)字化。隨著設(shè)備算力的大幅度提升,嵌入式AI迎來了快速發(fā)展的機(jī)遇期。
在這樣的大環(huán)境下,于端側(cè)、邊緣測(cè)智能爆發(fā)前夜,當(dāng)下AI在物聯(lián)網(wǎng)領(lǐng)域落地的深度和廣度如何?背后又有什么樣的痛點(diǎn),以及對(duì)應(yīng)出現(xiàn)了什么樣的前沿技術(shù)創(chuàng)新和商業(yè)化邏輯?AI與物聯(lián)網(wǎng)產(chǎn)業(yè)未來發(fā)展的方向又在何方?
我們?yōu)榇蠹沂崂砹?6位大咖分享的干貨,以助大家以點(diǎn)帶面地把握AI落地物聯(lián)網(wǎng)產(chǎn)業(yè)的發(fā)展新趨勢(shì)。
一、技術(shù)創(chuàng)新:算法“減重”、芯片攻關(guān),讓嵌入式AI開發(fā)降本增效
大會(huì)上午,在第一大板塊——嵌入式AI的軟硬件生態(tài)創(chuàng)新版塊,來自商湯科技、大華股份、知存科技、安謀中國(guó)、恩智浦、睿賽德電子及OPEN AI LAB的專家都帶來了前沿分享。
知無不言,深入淺出,專家們的分享話題覆蓋了輕量級(jí)神經(jīng)網(wǎng)絡(luò)模型設(shè)計(jì)、模型壓縮、AI推理引擎、AI芯片架構(gòu)創(chuàng)新等多個(gè)熱門領(lǐng)域。
1、商湯科技:打造媲美在線量化的離線量化算法
商湯科技副總裁、研究院副院?、通?智能負(fù)責(zé)?閆俊杰博?帶來了題為《極致靈活的深度學(xué)習(xí)模型優(yōu)化與部署》的演講。
▲商湯科技副總裁、研究院副院?、通?智能負(fù)責(zé)?閆俊杰
他認(rèn)為,當(dāng)下深度學(xué)習(xí)模型部署面臨三大核心挑戰(zhàn),包括:(1)硬件設(shè)備逐漸多樣化,模型需要匹配多種設(shè)備;(2)需要思考如何提高模型在特定硬件上的性能,?持模型壓縮算法;(3)市場(chǎng)AI模型需求變大,供應(yīng)商需要提高模型自動(dòng)化部署能力。
為此,商湯推出Spring.NART模型部署框架,支持代碼級(jí)別、算子級(jí)別及網(wǎng)絡(luò)級(jí)別等不同的接入級(jí)別,以通過統(tǒng)一的接入框架適配多種深度學(xué)習(xí)芯片。據(jù)稱,該框架支持16類不同硬件設(shè)備,能保證算法方案靈活跑在各類設(shè)備上。
同時(shí),商湯通過編譯優(yōu)化技術(shù)及一套量化模型?產(chǎn)?具,使模型在Arm框架和英偉達(dá)GPU上都能實(shí)現(xiàn)低bit量化;同時(shí),除了系統(tǒng)層面的優(yōu)化,商湯今年還提出了媲美在線量化的離線量化算法BRECQ,?次將4bit離線量化的效果做到接近量化訓(xùn)練,以此實(shí)現(xiàn)高效地模型自動(dòng)化部署。
另外,在軟硬件協(xié)同方面,商湯兼顧結(jié)構(gòu)、推理庫(kù)和硬件,建立了一個(gè)計(jì)算數(shù)據(jù)庫(kù)Spring.GPDB (Graph Performance DataBase),基于這一軟硬件協(xié)同的數(shù)據(jù)庫(kù)幫訓(xùn)練好的模型做診斷,使模型得到較好的精度提升。
總的來說,針對(duì)硬件多樣化、模型壓縮、模型自動(dòng)化部署三大挑戰(zhàn),商湯試圖讓深度學(xué)習(xí)模型在嵌入式設(shè)備上靈活優(yōu)化和部署。
2、大華股份:聚焦模型微服務(wù)化,降低嵌入式AI開發(fā)門檻
會(huì)上,大華股份先進(jìn)技術(shù)研究院科學(xué)家朱樹磊以《嵌入式AI算法模型微服務(wù)的設(shè)計(jì)與實(shí)踐》為題帶來了深入的演講。
▲大華股份先進(jìn)技術(shù)研究院科學(xué)家朱樹磊
微服務(wù)并不是一個(gè)新概念,它是一個(gè)SOA軟件架構(gòu)的變種。簡(jiǎn)單來說,微服務(wù)把一些功能模塊拆分出來,運(yùn)行在不同的進(jìn)程中或不同的服務(wù)器上。相比于單體式架構(gòu),微服務(wù)具有開發(fā)難度降低、維護(hù)成本低、開發(fā)周期短、可擴(kuò)展性較強(qiáng)等優(yōu)點(diǎn)。
為什么要強(qiáng)調(diào)微服務(wù)?朱樹磊認(rèn)為,當(dāng)下,行業(yè)AI智能需求快速增長(zhǎng)的背景下,嵌入式算法產(chǎn)品架構(gòu)設(shè)計(jì)和開發(fā)流程亟需變革,嵌入式平臺(tái)模型微服務(wù)能夠降低嵌入式開發(fā)的工程門檻,使算法人員有效參與到工程落地,提升算法效果、有效分配算力,高效滿足客戶的碎片化需求。與此同時(shí),嵌入式AI算法模型微服務(wù)能促進(jìn)端邊云一體化,使得模型一致、服務(wù)一致,從而使整個(gè)系統(tǒng)的可維護(hù)性更高、成本更低。
但是,相比于云原生微服務(wù),嵌入式微服務(wù)在功耗、內(nèi)存、算力等資源方面都受限,無法復(fù)用成熟的云原生生態(tài),需要自己打造。
朱樹磊認(rèn)為,打造模型、接口、代碼三大編譯器是嵌入式平臺(tái)模型微服務(wù)化的關(guān)鍵。為此,大華股份基于組件規(guī)劃、技術(shù)棧選擇、架構(gòu)設(shè)計(jì)三大環(huán)節(jié),打造模型編譯器DNNX、接口編譯器IDLC、通用交叉編譯器UCC三大編譯器,將代碼開發(fā)轉(zhuǎn)化為編譯器、中間件等核心標(biāo)準(zhǔn)件的開發(fā),實(shí)現(xiàn)微服務(wù)。
此外,朱樹磊還提到,要因地制宜實(shí)踐嵌入式算法開發(fā)的DevOps流程,始終把性能作為嵌入式平臺(tái)模型服務(wù)化的核心關(guān)注點(diǎn)。
3、知存科技:行業(yè)面臨存儲(chǔ)墻瓶頸,存算一體是最高效AI計(jì)算
知存科技CEO王紹迪主要以《存算一體AI芯片:AIoT設(shè)備的算力新選擇》為題,解讀存算一體技術(shù)如何帶來更加高效的AI計(jì)算。
▲知存科技CEO王紹迪在發(fā)表演講
作為存算一體AI芯片賽道的領(lǐng)軍者,知存科技主要研發(fā)基于Flash的存算一體芯片。王紹迪談到,現(xiàn)在行業(yè)已經(jīng)進(jìn)入到了后摩爾時(shí)代,尤其當(dāng)芯片進(jìn)入到7nm和5nm階段后,研發(fā)進(jìn)度放緩,芯片研發(fā)成本急劇增高,每一次迭代單個(gè)芯片成本增加1倍。
但碎片化的IoT市場(chǎng)對(duì)先進(jìn)工藝芯片的需求并不強(qiáng)烈,反而更青睞于低成本、低功耗、易開發(fā)的芯片。不過,目前芯片都都采用傳統(tǒng)的馮諾伊曼架構(gòu),最先進(jìn)的存儲(chǔ)器仍采用1X工藝,“所以摩爾定律走到這個(gè)階段,存儲(chǔ)器的速度很難滿足現(xiàn)在行業(yè)的需求。”王紹迪說。
在他看來,現(xiàn)在行業(yè)大多都面臨著存儲(chǔ)墻問題,存儲(chǔ)器的數(shù)據(jù)搬運(yùn)慢、搬運(yùn)能耗大,緩存的大小和密度都很難提升。為了解決存儲(chǔ)器瓶頸的問題,許多公司都采用了不同的方案,包括3D Xpoint、近內(nèi)存計(jì)算、近存儲(chǔ)計(jì)算和存內(nèi)計(jì)算。
其中,王紹迪認(rèn)為存算一體是最高效率的AI計(jì)算。今年知存科技發(fā)布了基于存算一體技術(shù)開發(fā)的第二代芯片WTM2101,算力相比第一代提高10倍,主要面向智能語(yǔ)音和智能健康領(lǐng)域,AI算力達(dá)50Gops,預(yù)計(jì)今年第四季度實(shí)現(xiàn)量產(chǎn)。
4、安謀中國(guó):專用架構(gòu)正興起,主流AI算法呈輕量化趨勢(shì)
安謀中國(guó)AI技術(shù)高級(jí)市場(chǎng)經(jīng)理吳彤以《構(gòu)建AI智能“芯”生態(tài)》為題,對(duì)當(dāng)前AI芯片發(fā)展趨勢(shì)以及安謀自研人工智能專用處理器IP“周易”AIPU進(jìn)行解讀。
▲安謀中國(guó)AI技術(shù)高級(jí)市場(chǎng)經(jīng)理吳彤
如今行業(yè)已進(jìn)入以數(shù)據(jù)為驅(qū)動(dòng)的計(jì)算時(shí)代,也稱為第五波計(jì)算浪潮,從網(wǎng)絡(luò)架構(gòu)到計(jì)算架構(gòu)都產(chǎn)生了大量需求。依托Arm世界領(lǐng)先的生態(tài)系統(tǒng)資源與技術(shù)優(yōu)勢(shì),安謀中國(guó)面向國(guó)內(nèi)市場(chǎng)獨(dú)立研發(fā)了“周易”AIPU。
吳彤談到當(dāng)下AI芯片市場(chǎng)有四大發(fā)展趨勢(shì),一是端側(cè)芯片市場(chǎng)增速非常高,二是未來5-10年端側(cè)推理市場(chǎng)的增速最快,三是ASIC定制化芯片將成為未來的主流,四是細(xì)分市場(chǎng)規(guī)模將會(huì)保持高速增長(zhǎng)。
另一方面,AI芯片行業(yè)專用架構(gòu)(DSA)正在興起,主流AI算法也呈現(xiàn)輕量化趨勢(shì)。 在這些趨勢(shì)下,安謀中國(guó)自研的“周易”AIPU擁有完全自主可控、完整生態(tài)等特點(diǎn),目前已經(jīng)推出兩代產(chǎn)品,分別為“周易”Z1和“周易”Z2。
其中,“周易”Z1是邊緣計(jì)算通用的AI IP,面向IoT&Edge,基于“周易”Z1研發(fā)的全志R329智能語(yǔ)音芯片即將大規(guī)模商用;“周易”Z2面向邊緣計(jì)算中高性能場(chǎng)景,基于“周易”Z2開發(fā)的芯片也即將應(yīng)用落地,主要覆蓋中高端安防和自動(dòng)駕駛/智能座艙領(lǐng)域。
此外,吳彤還介紹了兩款A(yù)I IP的應(yīng)用案例,包括人體關(guān)鍵點(diǎn)檢測(cè)、駕駛員疲勞監(jiān)測(cè) (DMS) 和DTV超級(jí)分辨率應(yīng)用等。
5、恩智浦:用AI工具鏈讓MCU煥發(fā)智能“魔力”
前面的嘉賓提到了AI工具鏈概念,恩智浦AI-IoT方案資深研發(fā)經(jīng)理秦建峰在會(huì)上則進(jìn)一步探討了《如何設(shè)計(jì)高效率MCU AI 工具鏈》這一細(xì)分領(lǐng)域的核心問題。
▲恩智浦AI-IoT方案資深研發(fā)經(jīng)理秦建峰
MCU(微控制單元)具有低算力、低功耗、低成本的特點(diǎn),在MCU上做AI開發(fā)面臨眾多限制。秦建峰談到,一方面,MCU硬件限制了推理引擎規(guī)模,另一方面,已有的開源工具對(duì)算法優(yōu)化仍缺乏標(biāo)準(zhǔn),都阻礙了在MCU上做AI應(yīng)用。
如何提升MCU邊緣端AI運(yùn)算性能和精度 ?
秦建峰認(rèn)為,需要選取成熟及高效率總線架構(gòu)設(shè)計(jì)的MCU;同時(shí)避免采用大內(nèi)核的卷積運(yùn)算,找到精度和性能的平衡點(diǎn);另外,要采用適當(dāng)?shù)牧炕惴ɑ蛘呤腔旌狭炕惴?,以保持精度并減少冗余運(yùn)算,等等。
恩智浦內(nèi)部有一套持續(xù)維護(hù)優(yōu)化的Nano.AI工具鏈,包括Nano.AI PC端工具和Nano.AI MCU邊緣端推理引擎兩大部分。開發(fā)者首先在PC端針對(duì)現(xiàn)有MCU完成精度和性能的仿真,當(dāng)PC仿真效果達(dá)標(biāo)后,再將最后生成的代碼全部放上來,做真實(shí)環(huán)境下的驗(yàn)證,最后得到加速庫(kù),包括模型和轉(zhuǎn)化過的文件。這樣一來,集成到MCU上花的時(shí)間會(huì)大大節(jié)省,使開發(fā)效率得到提升。
6、睿賽德電子:革新物聯(lián)網(wǎng)操作系統(tǒng),直擊碎片化痛點(diǎn)
在峰會(huì)上,多位嘉賓都提到了AI落地場(chǎng)景的碎片化。上海睿賽德電子科技有限公司RT-Thread人工智能總監(jiān)楊武認(rèn)為,解決碎片化的最好方法,是采用一套物聯(lián)網(wǎng)操作系統(tǒng)。
▲睿賽德電子人工智能總監(jiān)楊武
在題為《讓設(shè)備更聰明:物聯(lián)網(wǎng)操作系統(tǒng)推動(dòng)嵌入式AI開發(fā)》的演講中,楊武談到,當(dāng)下,隨著AI模型本身對(duì)算力的渴求直線上升,盡管人們不斷用輕量化技術(shù)進(jìn)行模型壓縮,但一旦騰出一點(diǎn)點(diǎn)空間,人們就想用它解決更多問題。
在這種背景下,突破算力瓶頸需要專用處理器,AI芯片市場(chǎng)一片火熱。但同時(shí),這也導(dǎo)致智能物聯(lián)產(chǎn)業(yè)進(jìn)一步呈現(xiàn)碎片化態(tài)勢(shì)。對(duì)于算法開發(fā)者來說,在端側(cè)進(jìn)行AI開發(fā)面臨的首要問題,就是上手太難,尤其在算法部署方面力不從心。
為了支持AI算法在嵌入式設(shè)備中的便捷部署,睿賽德電子公司推出一套支持嵌入式AI落地的軟件包,并更進(jìn)一步推出RT-Thread AIKit軟件包——一套易用、開放的邊緣AI落地解決方案,這一方案能讓開發(fā)者感到集成運(yùn)用AI算法模型就跟普通代碼庫(kù)一樣簡(jiǎn)單。
7、OPEN AI LAB:破解邊緣異構(gòu)計(jì)算難題的AI計(jì)算框架
OPEN AI LAB聯(lián)合創(chuàng)始人&CTO?明?以《Tengine:加速邊緣計(jì)算中的AI部署與落地》為題,分享了Tengine的優(yōu)勢(shì)與生態(tài)發(fā)展。
▲OPEN AI LAB聯(lián)合創(chuàng)始人&CTO?明?在發(fā)表演講
?明?談到,邊緣計(jì)算作為一種特殊的信息/數(shù)據(jù)處理方式,擁有本地操作、時(shí)延低、成本低、安全隱私性高等優(yōu)勢(shì),而邊緣計(jì)算的爆發(fā)是大勢(shì)所趨,眾多的基礎(chǔ)技術(shù)和應(yīng)用將基于邊緣原生(Edge Native)。
相比云原生(Cloud Native),邊緣原生擁有連接與計(jì)算并重的特點(diǎn),同時(shí)還能實(shí)現(xiàn)遠(yuǎn)程管理、邊緣自治和跨節(jié)點(diǎn)編排,重視物聯(lián)網(wǎng)和5G無線接入。
“邊緣計(jì)算的核心還是計(jì)算本身,但由于SoC種類各不相同,也帶來了不少問題。”黃明飛談到,為了解決不同芯片平臺(tái)部署的問題,OPEN AI LAB開發(fā)的AI邊緣計(jì)算框架Tengine已服務(wù)多家邊緣智能芯片企業(yè),并持續(xù)拓展開源生態(tài)。
其中,Tengine Framework是OPEN AI LAB自主設(shè)計(jì)的邊緣AI計(jì)算框架,是一個(gè)開源的AI推理框架,能高效地解決邊緣AI異構(gòu)計(jì)算的難題;Tengine MLOps是一個(gè)商用級(jí)邊云自動(dòng)化部署平臺(tái),具有易開發(fā)、快部署的優(yōu)點(diǎn),能幫助集成商加速行業(yè)智能化。
最后談及Tengine的開放生態(tài),?明?提到Tengine已經(jīng)和行業(yè)最大的機(jī)器視覺項(xiàng)目OpenCV達(dá)成戰(zhàn)略合作,還成為了ONNX的官方認(rèn)證合作伙伴。同時(shí),Tengine已和20+主流芯片廠商SoC的底層全面適配,對(duì)多種最新NPU的早期介入適配并實(shí)現(xiàn)了最優(yōu)化支持。
通過第一版塊嘉賓的演講,我們看到無論是來自AI物聯(lián)網(wǎng)產(chǎn)業(yè)鏈的哪一環(huán)節(jié),這些代表性的企業(yè)都在通過技術(shù)創(chuàng)新將開發(fā)者、工程師的工作化繁為簡(jiǎn),從而讓AI在端側(cè)、邊緣側(cè)設(shè)備端實(shí)現(xiàn)更高的精度和性能。
而這些產(chǎn)業(yè)鏈上下游星星點(diǎn)點(diǎn)的技術(shù)革新,將在以智慧家居、移動(dòng)機(jī)器人、工業(yè)制造、智慧城市等行業(yè)領(lǐng)域中,讓AI及物聯(lián)網(wǎng)技術(shù)爆發(fā)出令人驚艷的智能“魔力”。
二、深耕行業(yè):家居、機(jī)器人、工業(yè)領(lǐng)域玩家各顯神通
本次峰會(huì),我們也邀請(qǐng)了來自智能家居AIoT、移動(dòng)機(jī)器人及工業(yè)制造領(lǐng)域的行業(yè)代表玩家?guī)砹松钊敕窒怼?/p>
1、全屋智能時(shí)代來臨,AI技術(shù)及生態(tài)面臨痛點(diǎn)
在峰會(huì)下午第一場(chǎng)、整個(gè)峰會(huì)第二大板塊——智能家居AIoT領(lǐng)域,來自閱面科技、騰訊云、地平線公司的專家就嵌入式視覺AI落地、全屋智能規(guī)?;逃?、邊緣AI芯片落地等話題帶來了精彩解讀。
(1)閱面科技:自然人機(jī)交互成智能家居主題,多模態(tài)技術(shù)融合日益重要
智能家居正朝著全屋智能方向發(fā)展,對(duì)多模態(tài)傳感技術(shù)的需求進(jìn)一步提高。針對(duì)當(dāng)下智能家居的發(fā)展,閱面科技聯(lián)合創(chuàng)始人&CEO丁小羽帶來題為《面向智能家居的嵌入式視覺之旅》的演講。
▲閱面科技聯(lián)合創(chuàng)始人&CEO丁小羽
作為我國(guó)嵌入式視覺識(shí)別技術(shù)領(lǐng)域的新銳玩家,閱面科技從2015年成立后就一直專注嵌入式視覺技術(shù)的民用落地探索。丁小羽談到,閱面科技的嵌入式視覺技術(shù)發(fā)展經(jīng)歷了四個(gè)階段:
一是AI和算力的適配階段,二是AI和傳感的融合階段,三是行為/健康A(chǔ)I智能終端階段,四是全屋智能的感知基礎(chǔ)階段。
其中在行為/健康A(chǔ)I智能終端階段,閱面科技主要開發(fā)創(chuàng)新型硬件,整體地設(shè)計(jì)人機(jī)交互,以智能終端的形式部署,讓設(shè)備能主動(dòng)感知人體行為動(dòng)作和生理體征等狀態(tài)。
而在全屋智能的感知基礎(chǔ)階段,閱面科技的目標(biāo)是實(shí)現(xiàn)智慧的人居環(huán)境。丁小羽認(rèn)為,家庭AI擁有隱私數(shù)據(jù)規(guī)范、應(yīng)用形態(tài)靈活、交互親切自然等特點(diǎn),超越人眼視覺的AI傳感融合有很大機(jī)會(huì)。
“盡管目前智能家居還處于初期發(fā)展階段,但智能家居服務(wù)最終會(huì)從數(shù)字化空間走到機(jī)器人服務(wù)的物理空間階段。”他談到,在這一階段,人和系統(tǒng)的自然交互已成為智能家居發(fā)展的主題,超聲波雷達(dá)、熱成像等傳感技術(shù)的融合越來越重要。
(2)騰訊云:發(fā)揮資源與技術(shù)優(yōu)勢(shì),從四大層面使能全屋智能
當(dāng)下,智能家居正從單品階段進(jìn)化到主動(dòng)智能階段,更關(guān)注用戶體驗(yàn),主動(dòng)為客戶提供個(gè)性化的服務(wù)。騰訊云智能終端行業(yè)首席架構(gòu)師馬英奎對(duì)此深以為然,在會(huì)上帶來以《智能家居新階段,騰訊云AIoT使能全屋智能》為主題的演講。
▲騰訊云智能終端行業(yè)首席架構(gòu)師馬英奎
馬英奎認(rèn)為,當(dāng)下全屋智能有四大關(guān)鍵要素,包括連接、交互、服務(wù)和計(jì)算。騰訊云自身不會(huì)做智能硬件,更多是開放騰訊的內(nèi)部資源和技術(shù)能力,賦能智能家居客戶。
具體而言,騰訊云面向智能家居客戶,在平臺(tái)層面,提供騰訊云服務(wù);在能力層面,提供一站式的物聯(lián)網(wǎng)開發(fā)平臺(tái);在服務(wù)層面,將QQ音樂、騰訊視頻等海量?jī)?nèi)容資源覆蓋智能家居場(chǎng)景;在體驗(yàn)層面,基于微信生態(tài)提供騰訊連連小程序,幫客戶實(shí)現(xiàn)更多能力,提升用戶體驗(yàn)。
其中,一站式物聯(lián)網(wǎng)開發(fā)平臺(tái)能夠?qū)崿F(xiàn)開箱即用,能提供消息通訊、視頻通訊、安全認(rèn)證、智能語(yǔ)音、NLP等眾多服務(wù),目前已落地生活消費(fèi)、健康醫(yī)療、城市政務(wù)、工業(yè)制造等多個(gè)消費(fèi)物聯(lián)網(wǎng)及產(chǎn)業(yè)物聯(lián)網(wǎng)領(lǐng)域。
另外值得一提的是,在體驗(yàn)層面,騰訊連連會(huì)提供小程序配網(wǎng)能力,開放微信掃一掃入口,提升設(shè)備配網(wǎng)率和用戶體驗(yàn)。目前微信已有12億用戶入口,能助力品牌最快觸達(dá)用戶,并帶來“用完即走”的流暢體驗(yàn)。在開發(fā)層面,客戶可直接選擇騰訊連連,降低開發(fā)成本,提升家電、安防傳感、運(yùn)動(dòng)健康等設(shè)備智能化效率。
可以看到,隨著嵌入式AI落地進(jìn)入廣大消費(fèi)者的生活領(lǐng)域,像騰訊這樣的云廠商將發(fā)揮自身社交媒體及內(nèi)容服務(wù)的優(yōu)勢(shì)深入物聯(lián)網(wǎng)產(chǎn)業(yè)鏈,充當(dāng)重要的入口及平臺(tái)角色。
(3)地平線:解讀智能家居市場(chǎng)的技術(shù)和生態(tài)痛點(diǎn)
地平線不僅是知名汽車智能芯片獨(dú)角獸,也面向智能家居場(chǎng)景打造了多代AIoT芯片。地平線AIoT產(chǎn)品線總經(jīng)理王叢以《加速智能家居產(chǎn)業(yè)爆發(fā),構(gòu)建AIoT開放應(yīng)用生態(tài)》為題,為大家分享了地平線在智能家居領(lǐng)域的幾點(diǎn)思考。
▲地平線AIoT產(chǎn)品線總經(jīng)理王叢
現(xiàn)階段,地平線研發(fā)的旭日AI芯片主要面向掃地機(jī)、智能電視、智能會(huì)議,以及其他傳統(tǒng)IoT邊緣計(jì)算場(chǎng)景。同時(shí),地平線還為傳統(tǒng)芯片提供標(biāo)準(zhǔn)工具,包括配套的算法和方案。
王叢談到,智能家居的不同細(xì)分賽道各有發(fā)展趨勢(shì)。在掃地機(jī)器人領(lǐng)域,近兩年市場(chǎng)發(fā)展速度非常快,其中多傳感器融合是產(chǎn)品發(fā)展的重要趨勢(shì),例如激光+視覺+ToF感知技術(shù)的融合。
在智能電視領(lǐng)域,盡管近幾年電視市場(chǎng)規(guī)模已經(jīng)飽和,但市場(chǎng)需求已開始發(fā)生變化,結(jié)合攝像頭開發(fā)應(yīng)用的智能電視滲透率正逐年增加,智能交互功能將會(huì)成為主流。
整體來看,王叢提到了當(dāng)下智能家居行業(yè)發(fā)展的本質(zhì)。一是消費(fèi)者開始擁抱智能化,愿意為附加值買單;二是在所有產(chǎn)品品類中,人機(jī)交互是多類產(chǎn)品的共通性需求,存在標(biāo)準(zhǔn)化的可能性。
但王叢認(rèn)為,整個(gè)市場(chǎng)仍存在技術(shù)和生態(tài)兩個(gè)層面的痛點(diǎn)。尤其在生態(tài)層面,目前OEM還需要更多元的AI算法生態(tài)配合,而應(yīng)用方也希望有標(biāo)準(zhǔn)化的硬件土壤來適配。
“針對(duì)這些行業(yè)痛點(diǎn),地平線將提供更多相應(yīng)的解決方案,在人機(jī)交互和算法方面做提前性的預(yù)研。”王叢說,作為供應(yīng)商,地平線會(huì)進(jìn)一步將芯片做好,把探索AI的價(jià)值做大。同時(shí),也將更加開放地和更多合作伙伴一起把生態(tài)做大。
2、機(jī)器人進(jìn)入生活生產(chǎn),AI+多傳感器成新突破口
看完智能家居大佬分享,在峰會(huì)第三大板塊——移動(dòng)機(jī)器人領(lǐng)域,來自極智嘉、360人工智能研究院、迦智科技的大牛帶來了在物流機(jī)器人、掃地機(jī)器人等領(lǐng)域的嵌入式AI技術(shù)落地應(yīng)用及經(jīng)驗(yàn)。
(1)極智嘉:深耕行業(yè)場(chǎng)景,克服物流機(jī)器人的視覺感知技術(shù)挑戰(zhàn)
在機(jī)器人應(yīng)用專場(chǎng),極智嘉研發(fā)總監(jiān)陳超帶來了題為《物流機(jī)器人視覺感知技術(shù)的挑戰(zhàn)與創(chuàng)新》的開場(chǎng)演講。
▲極智嘉研發(fā)總監(jiān)陳超
物流行業(yè)是一個(gè)巨大市場(chǎng),但行業(yè)長(zhǎng)期面臨用人難、市場(chǎng)需求變化快等痛點(diǎn)。物流機(jī)器人在這樣的背景下應(yīng)運(yùn)而生,目前已經(jīng)演化出智能分揀、智能搬運(yùn)、智能叉車、智能倉(cāng)儲(chǔ)等多場(chǎng)景的產(chǎn)品形態(tài),并在眾多實(shí)際場(chǎng)景中落地。
陳超回顧,在極智嘉物流機(jī)器人落地行業(yè)過程中,在視覺感知技術(shù)方面克服了眾多挑戰(zhàn)。
在倉(cāng)儲(chǔ)AMR移動(dòng)機(jī)器人領(lǐng)域,場(chǎng)景相對(duì)簡(jiǎn)單,主要包括貨架到人的揀選和貨箱到人的揀選兩大場(chǎng)景。針對(duì)用于導(dǎo)航的地面二維碼,團(tuán)隊(duì)遇到了污損/反光、運(yùn)動(dòng)模糊等問題,以及成本降低的訴求。為此,極智嘉在最新機(jī)器人上引入了基于地紋融合的V1.5,彌補(bǔ)二維碼易污損的問題;更進(jìn)一步,極智嘉基于Marker-Net的V2.0解決方案將故障率降低兩個(gè)數(shù)量級(jí)。
在工業(yè)AMR移動(dòng)機(jī)器人領(lǐng)域,面臨的場(chǎng)景和挑戰(zhàn)也更加復(fù)雜多樣。比如,針對(duì)行業(yè)樣本少的問題,極智嘉采取學(xué)習(xí)仿真方案,快速擴(kuò)充樣本;針對(duì)未知目標(biāo)檢測(cè)問題,極智嘉引入深度相機(jī),使得深度學(xué)習(xí)模型有機(jī)結(jié)合深度數(shù)據(jù),提高目標(biāo)檢測(cè)性能。
而針對(duì)魯棒性要求高的問題,極智嘉采用復(fù)合模型方法,并通過地圖更新和語(yǔ)義地圖,從而得到魯棒性更高的結(jié)果;針對(duì)端側(cè)設(shè)備低算力的需求,極智嘉通過算法優(yōu)化及加速引擎來突破算力限制。
可以看到,作為自2015年就成立的物流機(jī)器人頭部企業(yè),極智嘉已經(jīng)針對(duì)倉(cāng)儲(chǔ)及工業(yè)特定應(yīng)用場(chǎng)景,攻克了嵌入式AI開發(fā)的一座座山頭。
(2)360人工智能研究院:AI能力比拼是掃地機(jī)器人下一個(gè)比拼賽道
針對(duì)掃地機(jī)器人市場(chǎng)的發(fā)展和技術(shù)創(chuàng)新,360人工智能研究院運(yùn)動(dòng)引擎算法負(fù)責(zé)人潘俊威帶來了題為《嵌入式AI快速發(fā)展,掃地機(jī)器人進(jìn)入感知決策新賽道》的演講。
▲360人工智能研究院運(yùn)動(dòng)引擎算法負(fù)責(zé)人潘俊威
潘俊威提到,我國(guó)掃地機(jī)器人市場(chǎng)規(guī)模已從2013年的8.4億元,增長(zhǎng)到2020年的93.8億元,正不斷快速增長(zhǎng)。同時(shí),掃地機(jī)器人產(chǎn)品中高端化明顯,智能已成為高附加值特征。
不過,掃地機(jī)器人在易用性上還有較大提升空間。“尤其是用戶對(duì)避障的需求越來越強(qiáng)烈,將3D深度相機(jī)應(yīng)用在掃地機(jī)器人上也變得水到渠成。”潘俊威說,將3D深度相機(jī)和多傳感器融合,能讓機(jī)器人獲取環(huán)境信息的能力從二維提升到三維,大大增強(qiáng)設(shè)備的環(huán)境感知能力。
為了進(jìn)一步滿足消費(fèi)者需求,360提出了掃地機(jī)器人的無人駕駛大腦概念,重點(diǎn)是提升移動(dòng)機(jī)器人在環(huán)境感知、場(chǎng)景理解、決策規(guī)劃三個(gè)方面的能力。
例如,基于360無人駕駛大腦研發(fā)的三雷達(dá)融合避障技術(shù),采用多傳感器融合感知算法,結(jié)合聚類和分割算法,能讓掃地機(jī)器人識(shí)別門檻、推拉軌道、厚地毯和普通障礙物,做到避障的同時(shí)順暢通行門檻軌道等區(qū)域。
目前掃地機(jī)器人年銷量為600萬臺(tái),是洗衣機(jī)銷量的15%,市場(chǎng)滲透率不足8%,仍存在廣闊空間。潘俊威認(rèn)為,想要推動(dòng)這一市場(chǎng)的發(fā)展,要持續(xù)升級(jí)掃地機(jī)器人的導(dǎo)航、避障和清潔三大核心要素。
“隨著嵌入式端側(cè)的AI能力不斷提升,AI能力也將成為下一個(gè)比拼賽道。”他說。
(3)迦智科技:攻堅(jiān)AMR落地制造業(yè)挑戰(zhàn),打造室內(nèi)外全流程智能工業(yè)物流解決方案
就在本月,迦智科技剛完成了億元級(jí)B輪融資。本次,迦智科技產(chǎn)品總監(jiān)吳俊翔在峰會(huì)上帶來了以《AMR機(jī)器人多傳感器融合定位的發(fā)展趨勢(shì)》主題的分享。
▲迦智科技產(chǎn)品總監(jiān)吳俊翔在發(fā)表演講
吳俊翔回顧道,從基于磁釘、磁條的自動(dòng)導(dǎo)引車(AGV)到新一代移動(dòng)機(jī)器人(AMR),迦智科技開始基于地圖的環(huán)境感知能力與智能決策,尋求差異化的自主導(dǎo)航能力。通過AI機(jī)器視覺與激光雷達(dá)融合建圖與定位,團(tuán)隊(duì)產(chǎn)品實(shí)現(xiàn)了更加精準(zhǔn)及時(shí)的定位導(dǎo)航以及多機(jī)器人協(xié)作。
吳俊翔認(rèn)為,在AMR逐漸成為越來越多制造業(yè)標(biāo)配的當(dāng)下,技術(shù)本身依然面臨著新的挑戰(zhàn)。首先,計(jì)算資源受限條件下的大場(chǎng)景地圖構(gòu)建,帶來了性能問題;其次,環(huán)境動(dòng)態(tài)變化也會(huì)對(duì)定位導(dǎo)航精度與穩(wěn)定性產(chǎn)生影響;此外,核心部件成本過高,影響產(chǎn)品快速推廣落地,等等。
為了應(yīng)對(duì)眾多挑戰(zhàn),迦智科技不斷攻堅(jiān)技術(shù)難關(guān)。比如在地圖構(gòu)建能力方面,公司突破運(yùn)行場(chǎng)景的尺寸限制,進(jìn)一步壓榨硬件與算法極限;在算法性能方面,發(fā)力語(yǔ)義特征與激光點(diǎn)云融合的地圖構(gòu)建,從而提高系統(tǒng)魯棒性;此外,公司也在布局面向室內(nèi)外綜合感知場(chǎng)景的新一代AMR技術(shù)棧與工具鏈,以促進(jìn)更安全的人車物交互。
展望未來技術(shù)布局,迦智科技也明確了方向,依托合伙人團(tuán)隊(duì)與浙江大學(xué)機(jī)器人實(shí)驗(yàn)室的長(zhǎng)期技術(shù)積淀,公司將繼續(xù)布局和深挖智能感知與定位導(dǎo)航技術(shù),打造室內(nèi)外全流程智能工業(yè)物流解決方案。
3、工業(yè)制造數(shù)字化,AI賦能視覺升維
在峰會(huì)第四大板塊——工業(yè)制造產(chǎn)業(yè)領(lǐng)域,來自圖麟科技、賽靈思及圖漾科技的高管也帶來了關(guān)于工業(yè)質(zhì)檢轉(zhuǎn)型、工業(yè)視覺軟件及解決方案、3D視覺工業(yè)應(yīng)用等話題帶來的深入探討分享。
(1)圖麟科技:用通用視覺平臺(tái)降低工業(yè)質(zhì)檢的數(shù)智化門檻
專注于機(jī)器視覺研發(fā)與應(yīng)用的圖麟科技,是國(guó)內(nèi)率先實(shí)現(xiàn)“AI+工業(yè)質(zhì)檢”落地應(yīng)用的AI供應(yīng)商之一。圖麟科技聯(lián)合創(chuàng)始人&副總裁張險(xiǎn)峰以《工業(yè)質(zhì)檢數(shù)智化轉(zhuǎn)型新思維》為題,向大家分享了圖麟科技推動(dòng)工業(yè)質(zhì)檢降本增效的創(chuàng)新思路。
▲圖麟科技聯(lián)合創(chuàng)始人&副總裁張險(xiǎn)峰
他談到,據(jù)中商產(chǎn)業(yè)研究院數(shù)據(jù),2020年中國(guó)智能制造市場(chǎng)規(guī)模已超過27000億元,預(yù)計(jì)2025年將超過55000億元,行業(yè)場(chǎng)景化特征明顯。其中,工業(yè)質(zhì)檢是數(shù)智化熱門場(chǎng)景之一。
“隨著下游市場(chǎng)對(duì)產(chǎn)品質(zhì)量要求越來越高,工業(yè)質(zhì)檢領(lǐng)域需求已呈現(xiàn)明顯變化。”張險(xiǎn)峰說,以外觀缺陷檢測(cè)為例,外觀缺陷檢測(cè)涉及的領(lǐng)域豐富多樣,生產(chǎn)流程中的質(zhì)量管理需求逐漸增加,質(zhì)檢標(biāo)準(zhǔn)不斷提升。
但現(xiàn)階段,工業(yè)質(zhì)檢的難點(diǎn)在于,人工檢測(cè)存在效率低、良品率不穩(wěn)定等難點(diǎn),而數(shù)智化的技術(shù)門檻也很高。
針對(duì)這些難點(diǎn),圖麟科技基于光學(xué)系統(tǒng)、機(jī)電控制、視覺算法和大數(shù)據(jù)四大核心技術(shù),推出能快速開發(fā)部署的Tunicorn通用視覺平臺(tái),面向跨行業(yè)、跨領(lǐng)域的工業(yè)質(zhì)檢場(chǎng)景,并融合了兩大系統(tǒng),可實(shí)現(xiàn)算法多模型場(chǎng)景下的調(diào)度管理方案。
張險(xiǎn)峰提到,依托Tunicorn通用視覺平臺(tái),圖麟科技從手機(jī)、車載、TV、筆電等終端蓋板玻璃檢測(cè),擴(kuò)展至顯示模組外觀檢測(cè),推出了國(guó)內(nèi)首個(gè)成熟的屏幕貼合后智能化檢測(cè)方案,不斷推動(dòng)工業(yè)質(zhì)檢的數(shù)智化。
此外,張險(xiǎn)峰還分享了Tunicorn通用視覺平臺(tái)在蓋板玻璃檢測(cè)、顯示模組外觀檢測(cè)、顯示玻璃電路檢測(cè)、半導(dǎo)體/類半導(dǎo)體外觀檢測(cè)、通用膜材外觀檢測(cè)等細(xì)分垂直領(lǐng)域的解決方案。
(2)賽靈思:兼顧計(jì)算加速與安全,為工業(yè)場(chǎng)景打造自適應(yīng)可編程硬件
作為下午場(chǎng)唯一家硬件平臺(tái)廠商代表,賽靈思公司的軟件和解決方案市場(chǎng)部高級(jí)經(jīng)理劉珊珊帶來了以《MPSoC平臺(tái)加速工業(yè)視覺應(yīng)用創(chuàng)新》為題的深入分享。
▲賽靈思公司的軟件和解決方案市場(chǎng)部高級(jí)經(jīng)理劉珊珊
劉珊珊回顧,近些年賽靈思在不斷地加速轉(zhuǎn)型,從傳統(tǒng)的FPGA,到延續(xù)FPGA核心價(jià)值的片上系統(tǒng),再到最新一代的自適應(yīng)計(jì)算加速平臺(tái)(ACAP平臺(tái)),公司研發(fā)出更易于軟件編程的體系結(jié)構(gòu),同時(shí)也為客戶提供更廣泛的部署方法。
據(jù)劉珊珊分享,MPSoC平臺(tái)最大的優(yōu)勢(shì)是具備整體應(yīng)用協(xié)同優(yōu)化的能力。談到AI在工業(yè)場(chǎng)景的應(yīng)用,她提到了安全生產(chǎn)、工業(yè)質(zhì)檢、AGV/AMR三大領(lǐng)域,并列舉了測(cè)量、識(shí)別、引導(dǎo)、檢測(cè)等工業(yè)質(zhì)檢領(lǐng)域的的細(xì)分場(chǎng)景,指出其中都可能嵌入視覺AI應(yīng)用。
劉珊珊談到,賽靈思的工業(yè)和視覺解決方案堆棧提供包括功能安全、網(wǎng)絡(luò)安全、控制、通信、視覺處理、機(jī)器學(xué)習(xí)和邊緣分析等解決方案,支持實(shí)時(shí)決策。硬件可編程的MPSoC使通用處理子系統(tǒng)與可編程邏輯相結(jié)合,從而適應(yīng)多種工業(yè)場(chǎng)景解決方案的定制開發(fā),并通過單芯片邊緣平臺(tái)方案降低成本。
最后,劉珊珊介紹了一款賽靈思最新發(fā)布的系統(tǒng)化模組K26 SOM,這正是基于MPSoC架構(gòu)為工業(yè)視覺打造的芯片。該模組即插即用,無FPGA開發(fā)經(jīng)驗(yàn)的人也能在一小時(shí)內(nèi)啟動(dòng)運(yùn)行;針對(duì)這一標(biāo)準(zhǔn)平臺(tái),賽靈思還向用戶推出應(yīng)用商城,提供標(biāo)準(zhǔn)化的軟件開發(fā)流程。
(3)圖漾科技:3D機(jī)器視覺商用潛力大,嵌入式AI是機(jī)會(huì)點(diǎn)
成立于2011年的圖漾科技是我國(guó)3D機(jī)器視覺領(lǐng)域的新銳玩家。圖漾科技創(chuàng)始人&CEO費(fèi)浙平以《3D機(jī)器視覺在工業(yè)制造領(lǐng)域的前景與實(shí)踐》為題,分享了圖漾科技在3D機(jī)器視覺發(fā)展的幾點(diǎn)思考。
▲圖漾科技創(chuàng)始人&CEO費(fèi)浙平
“圖漾科技全球3D機(jī)器視覺行業(yè)的領(lǐng)頭企業(yè),出貨量全球領(lǐng)先,其中公司有20%的收入來自海外市場(chǎng)。”費(fèi)浙平說。
基于過去的技術(shù)積累和市場(chǎng)經(jīng)驗(yàn),費(fèi)浙平對(duì)行業(yè)進(jìn)行了一些分析和展望。從實(shí)際落地來看,他認(rèn)為3D機(jī)器視覺是2D機(jī)器視覺的補(bǔ)充和延伸,更多的價(jià)值在于完成2D機(jī)器視覺做不到的任務(wù)。
在他看來,3D機(jī)器視覺在消費(fèi)、安防、工業(yè)和商業(yè)領(lǐng)域都有許多應(yīng)用方向,尤其是商業(yè)領(lǐng)域的應(yīng)用潛力巨大。與此同時(shí),費(fèi)浙平還分享了圖漾科技對(duì)當(dāng)下3D機(jī)器視覺市場(chǎng)現(xiàn)狀的內(nèi)部分析數(shù)據(jù),涉及工業(yè)自動(dòng)化、工業(yè)檢測(cè)、物流科技和商業(yè)應(yīng)用四大垂直領(lǐng)域。
其中,工業(yè)檢測(cè)是現(xiàn)階段行業(yè)3D機(jī)器視覺滲透率最高的領(lǐng)域,但也意味著它的增長(zhǎng)空間較少;3D機(jī)器視覺在物流科技領(lǐng)域還有很大發(fā)展?jié)摿?,至少?00倍以上的增長(zhǎng)空間;而在商業(yè)應(yīng)用場(chǎng)景,3D機(jī)器視覺甚至能達(dá)到1000倍的增長(zhǎng)空間。
費(fèi)浙平認(rèn)為,現(xiàn)在3D機(jī)器視覺還處于創(chuàng)新產(chǎn)品的創(chuàng)新應(yīng)用落地階段,擁有100倍的成長(zhǎng)空間,但還面臨著傳感器、算法軟件、算力單元三大方向的發(fā)展挑戰(zhàn),而算力單元的最大挑戰(zhàn)是成本。
“總地來看,3D機(jī)器視覺正在興起,它將會(huì)來到我們每個(gè)人的身邊。”費(fèi)浙平談到,“相機(jī)+軟件+算力”三大件仍在不斷迭代演進(jìn),而嵌入式AI在3D視覺的應(yīng)用剛剛起步,這將是一個(gè)重大的機(jī)會(huì)點(diǎn)。
結(jié)語(yǔ):物聯(lián)網(wǎng)端側(cè)AI嵌入新戰(zhàn)場(chǎng)進(jìn)入爆發(fā)前夜!
通過本次峰會(huì),在底層技術(shù)創(chuàng)新方面,我們看到在輕量級(jí)神經(jīng)網(wǎng)絡(luò)模型設(shè)計(jì)、模型壓縮、AI推理引擎、AI芯片架構(gòu)創(chuàng)新等領(lǐng)域的最新創(chuàng)新實(shí)踐。
而在行業(yè)落地層面,我們也洞察了智能家居、移動(dòng)機(jī)器人、工業(yè)互聯(lián)網(wǎng)、智能安防等多個(gè)領(lǐng)域面臨的挑戰(zhàn)和應(yīng)對(duì)舉措,看到AI落地的火苗正煥發(fā)出多樣化的智能“魔力”。
總的來說,當(dāng)AI落地從云端擴(kuò)展到更加寬廣的端側(cè)、邊緣側(cè)領(lǐng)域,一個(gè)更加廣闊的物聯(lián)網(wǎng)端側(cè)的AI嵌入新戰(zhàn)場(chǎng)正在爆發(fā)前夜,AI也將真正進(jìn)入普羅大眾生產(chǎn)、生活的方方面面!