上海2024年8月27日 /美通社/ -- 近來,具有強大學習、理解和多模態(tài)處理能力的大模型迅猛發(fā)展,正在給人類的生產、生活帶來革命性的變化。在這一變革浪潮中,物聯網成為了大模型技術發(fā)揮作用的重要陣地。
作為全球領先的物聯網整體解決方案供應商的移遠通信,于近日正式對外宣布將推出全新大模型解決方案。該方案將融合強大的算力平臺、技術和服務,為眾多垂直行業(yè)提供標準化、定制化及智能化的大模型服務,全面賦能產業(yè)升級。
技術融合 量身定制
當下,大模型技術發(fā)展迅猛,但其背靠海量信息資訊,若無專業(yè)的方案設計會導致使用過程中面臨信息檢索精準性差、可控性低等風險。此次,移遠通信推出的大模型解決方案則是基于高通QCS8550算力平臺,融合最前沿的LLM(大語言模型)、RAG(檢索增強生成)與Agent(智能體)等業(yè)界主流技術,對模型進行深度優(yōu)化與增強,揚長避短,以實現能力的全面提升。
其中,RAG通過實時檢索整合外部最新準確信息,顯著提升信息處理準確性與時效性,廣泛應用于問答、創(chuàng)作、客服、金融分析及醫(yī)療咨詢等領域,提供高效精準服務。Agent技術則憑其自主學習、決策執(zhí)行能力,在復雜環(huán)境中靈活應對任務,提升體驗與效率,廣泛應用于智能客服、個性化推薦、智能家居及自動駕駛輔助等,為用戶打造更智能、個性化的生活與工作環(huán)境。
此外,大模型方案所依靠的核心技術仍離不開智能算力,此方案內置移遠通信新一代旗艦級安卓智能模組SG885G-WF,其基于高通®QCS8550處理器開發(fā)而成,具有高達48 TOPS 的綜合算力。在此基礎上,移遠更巧妙融合NPU與CPU等多元算力優(yōu)勢,在經過精細設計與優(yōu)化后,確保大模型方案能夠跨越不同硬件界限,展現卓越性能,進而拓寬其應用邊界。大模型應用的流暢運行還離不開高性能CPU和內存的支撐,SG885G-WF擁有最高主頻3.2GHz的8核CPU,最大支持24GB LPDDR5X內存,保證了大模型各種應用場景下設備的流暢運行。同時,SG885G-WF支持Wi-Fi 7、藍牙5.3以及2×2 Wi-Fi MIMO技術,帶來了更強的數據連接性能,為大模型應用提供更加穩(wěn)定、暢快的網絡能力。
全棧工程化能力 助力行業(yè)升級
為進一步提高方案與客戶行業(yè)的適配程度,在前沿技術賦能后的移遠通信大模型解決方案將從感知、規(guī)劃、決策、執(zhí)行四大階段提供全方位的工程化服務,助力大模型方案以更快速度、更低成本、更完善的服務體驗應用實踐。
在感知階段,移遠將深入不同行業(yè)的業(yè)務場景,精準把握客戶需求,繼而提供多樣化、定制化的模型選擇規(guī)劃,如移遠大模型方案可以提供文本、語音和視覺三種模態(tài)支持,并根據客戶場景需求進行模型的選擇與優(yōu)化;而在規(guī)劃、決策和執(zhí)行階段,移遠將進行具體的方案設計,包含模型增強、Agent框架制定、工作流搭建、應用開發(fā)等工作,提升整體方案中模型與場景的適配性,最大程度提高模型的實用性。最后,在模型部署環(huán)節(jié),移遠大模型方案支持端側/混合型等多種部署方式,并在其算力平臺上提供模型壓縮、算力優(yōu)化等服務。值得一提的是,移遠采用的端側大模型方案更將從數據安全、實時響應、無網運行及成本等方面為客戶提供更完善的體驗。
目前,移遠大模型方案將可為智慧醫(yī)療、智慧教育、娛樂、智慧家居、智能駕駛等行業(yè),提供包含"情景理解、知識融合、智能交互、自主決策、任務執(zhí)行"等在內的多種能力。后續(xù),移遠將持續(xù)探索與創(chuàng)新,與上下游通力合作,以更加全面、成熟的技術服務,推動算力與大模型產業(yè)蓬勃發(fā)展。
移遠通信大模型方案Demo將于8月27日——【高通&移遠通信邊緣智能技術進化日】首次展出,歡迎蒞臨現場互動體驗!