omniture

浪潮信息:元腦EPAI已接入DeepSeek,大幅提升DeepSeek企業(yè)應用準確率

2025-02-21 19:05 4337

北京2025年2月21日 /美通社/ -- 浪潮信息宣布元腦企智EPAI企業(yè)大模型開發(fā)平臺已全面接入支持DeepSeek大模型。通過元腦企智EPAI,企業(yè)用戶能夠將業(yè)務數(shù)據(jù)與DeepSeek大模型結合,深度開發(fā)模型潛力,快速實現(xiàn)本地化部署DeepSeek,構建準確率高、安全穩(wěn)定的專屬智能應用。實測數(shù)據(jù)顯示,DeepSeek在元腦企智EPAI上開發(fā)的企業(yè)應用回答準確率達到95%。


企業(yè)落地DeepSeek挑戰(zhàn)重重

DeepSeek R1 671B大模型憑借其卓越性能和廣泛應用前景廣受關注。然而,企業(yè)在實際落地DeepSeek的過程中卻面臨私有知識適配不足、知識動態(tài)變化、大模型幻覺等諸多挑戰(zhàn),限制了其在特定場景中的應用潛力。

首先,企業(yè)的應用場景往往具有高度的獨特性和專業(yè)性,尤其是金融、醫(yī)療等行業(yè),其業(yè)務邏輯復雜,涉及大量專業(yè)術語、法規(guī)政策以及內部流程。這些企業(yè)需要能夠理解并運用其私有知識的智能工具,然而DeepSeek大模型的訓練數(shù)據(jù)主要來源于通用領域的公開信息,缺乏針對專業(yè)領域的深度適配,這種先天的知識不匹配導致DeepSeek在處理企業(yè)內部專業(yè)問題時難以提供精準答案,無法滿足企業(yè)對高精度回答的需求。

其次,企業(yè)內部知識并非靜態(tài)不變,而是會隨著業(yè)務發(fā)展和技術迭代不斷更新。如果模型未能及時學習和適應這些動態(tài)變化,其輸出結果的準確性將進一步下降。尤其是在涉及實時數(shù)據(jù)分析或快速決策支持的應用場景中,模型的滯后性可能帶來嚴重后果。

此外,大模型在生成內容時,難免會出現(xiàn)"幻覺"問題,即生成與事實不符或缺乏依據(jù)的信息。這種現(xiàn)象在通用場景下可能影響有限,但在法律、醫(yī)學等對準確性要求極高的領域,幻覺問題將帶來潛在風險。如何有效降低大模型的幻覺發(fā)生率,提升生成內容的可靠性和準確性,已成為行業(yè)共同關注的焦點。

因此,要真正實現(xiàn)DeepSeek的落地應用,必須將企業(yè)自身積累的知識與DeepSeek深度結合,通過模型微調、Prompt工程、知識庫等方式優(yōu)化模型表現(xiàn),而這一過程對企業(yè)的技術能力的要求極高。此外,企業(yè)還面臨數(shù)據(jù)安全與隱私保護的雙重壓力。

元腦EPAI+DeepSeek,企業(yè)大模型應用開發(fā)如虎添翼

面對上述挑戰(zhàn),元腦企智EPAI與DeepSeek R1 671B全面適配,幫助企業(yè)用戶將業(yè)務數(shù)據(jù)與DeepSeek深度融合,快速打造高準確率、安全穩(wěn)定的企業(yè)專屬智能應用。元腦企智EPAI是浪潮信息的大模型應用落地解決之道,能夠為企業(yè)AI大模型落地應用提供高效、易用、安全的端到端開發(fā)平臺,幫助企業(yè)高效開發(fā)部署生成式AI應用、打造智能生產(chǎn)力。


  • 四大核心工具,DeepSeek回答準確率大幅提升
    回答準確率優(yōu)化方面,元腦企智EPAI構建了從模型微調到應用開發(fā)全鏈路質量提升體系。元腦企智EPAI支持企業(yè)將私有業(yè)務數(shù)據(jù)與DeepSeek深度結合,通過領域微調形成高專業(yè)度的私有模型,從根本上提升知識問答精度。針對DeepSeek"幻覺"問題,元腦企智EPAI集成知識檢索、插件管理、提示詞工程和智能體編排四大核心工具。知識檢索模塊采用端到端優(yōu)化的RAG pipeline架構,內置專為增強中文文本檢索能力而設計的嵌入式模型(Embedding模型)Yuan-EB,在權威的嵌入模型測試榜單C-MTEB中斬獲檢索任務冠軍,能夠有效提升RAG系統(tǒng)的檢索精度。結合領先的混合檢索與結果重排技術,端到端檢索精度超過90%。插件模塊支持實時接入企業(yè)知識庫和業(yè)務系統(tǒng),確保信息獲取的準確性和時效性。智能體編排模塊可建立多模型協(xié)同工作機制,通過決策鏈設計降低單一模型偏差風險。實測數(shù)據(jù)顯示,DeepSeek在元腦企智 EPAI上開發(fā)的企業(yè)應用回答準確率達到95%。
  • 低代碼+可視化,顯著提升開發(fā)效率
    開發(fā)效率方面,元腦企智EPAI創(chuàng)新性地構建了"低代碼+可視化"的全棧開發(fā)環(huán)境。集成vLLM、transformer等主流框架,實現(xiàn)DeepSeek全參數(shù)模型服務分鐘級上線。模型微調上,元腦企智EPAI支持通過低代碼完成微調數(shù)據(jù)制作、領域模型微調和評估。應用開發(fā)上提供雙模構建體系,對話式應用支持通過自然語言配置助手參數(shù),可視化工作流編輯器支持拖拽式搭建復雜業(yè)務邏輯,二者均可自動生成標準化API接口。某制造企業(yè)實踐表明,使用元腦企智EPAI開發(fā)質檢智能體應用,需求響應周期從傳統(tǒng)編碼開發(fā)的3周縮短至3天,開發(fā)效率提升5倍以上。
  • 多層防護機制,確保DeepSeek安全穩(wěn)定
    系統(tǒng)穩(wěn)定性保障方面,元腦企智EPAI采用智能彈性架構設計。資源調度系統(tǒng)實時監(jiān)測QPS波動,可在1秒內完成計算資源動態(tài)擴縮,實現(xiàn)高并發(fā)的穩(wěn)定處理。元腦企智EPAI引入服務容錯能力,硬件故障時可實現(xiàn)服務無縫切換,保障全年可用性達99.99%。安全體系構建多層防護機制,涵蓋模型輸入過濾、輸出審核、數(shù)據(jù)加密傳輸?shù)拳h(huán)節(jié),保障生成內容的安全性與隱私性,從而確保企業(yè)能夠安全、穩(wěn)定地使用DeepSeek。


浪潮信息是全球領先的IT基礎設施產(chǎn)品、方案和服務提供商,通過發(fā)展新一代以系統(tǒng)為核心的計算架構,打造開放、多元、綠色的元腦智算產(chǎn)品和方案。浪潮信息致力于AI計算平臺、資源平臺和算法平臺的研發(fā)創(chuàng)新,并通過元腦生態(tài)攜手領先伙伴,加速人工智能的創(chuàng)新和應用落地。

消息來源:浪潮信息
China-PRNewsire-300-300.png
全球TMT
微信公眾號“全球TMT”發(fā)布全球互聯(lián)網(wǎng)、科技、媒體、通訊企業(yè)的經(jīng)營動態(tài)、財報信息、企業(yè)并購消息。掃描二維碼,立即訂閱!
collection
分享至X
分享至X