omniture

源大模型AIPC助手YuanChat煥新!支持12種文檔構建知識庫+聯網檢索

2024-08-28 18:17 2302

北京2024年8月28日 /美通社/ -- 超高"模算效率"的源2.0-M32大模型開源開放以來,已經在諸多伙伴企業(yè)內進行了內測上崗,收獲了醫(yī)療、金融和IT等行業(yè)伙伴的一眾好評!

對于不想在開發(fā)環(huán)境中使用大模型的"源"粉們來說,如何能夠在自己的PC上更方便地獲取和使用M32大模型的智能力呢?

現在!AI PC大模型效率工具YuanChat全面升級!簡潔直觀的交互界面,搭配聯網搜索、搭建個人知識庫(RAG)、模型參數個性化定制等豐富強大的插件功能,讓你在個人PC上可以輕松部署和使用"源2.0-M32"大模型,完成各類各類編程、數理計算、文檔解析和公文寫作等任務,激發(fā)你的創(chuàng)造力和生產力!


YuanChat一鍵下載及教程:
https://github.com/IEIT-Yuan/YuanChat/blob/main/docs/YuanChat%E5%85%A8%E9%9D%A2%E5%8D%87%E7%BA%A7%E9%80%9A%E7%94%A8%E7%89%88%E6%9C%AC.md


配置需求:
1、無需GPU,單CPU/XPU 即可運行
2、可使用內存:4GB 以上
3、系統(tǒng): windows10/11 64


  • 高敏業(yè)務無憂:在本地環(huán)境中安全、高效地使用M32完成任務

源2.0-M32具備超高的模算效率,在算力需求僅為1/19的情況下,性能全面對標Llama 3-70B,對大模型運行部署的硬件要求大幅降低。

現在,無需GPU,您在單CPU和XPU環(huán)境下即可輕松簡單地部署YuanChat以使用源2.0-M32大模型,所有交互數據均在本地處理,無需擔心數據泄露的風險。這對于涉及核心代碼、金融數據處理等敏感業(yè)務的場景來說,提供了一種既安全又私密的大模型應用方案。

讓M32大模型在您的本地PC上完成任務,無需擔心數據泄露風險
讓M32大模型在您的本地PC上完成任務,無需擔心數據泄露風險

  • 構建個人知識庫,讓M32學習和管理您的海量文檔知識

在YuanChat上,只需點擊鼠標就可以將本地存儲的豐富文檔資源文件轉化為一個高度定制化的個人專屬知識庫。YuanChat內置多種向量模型(Embedding),可以支持包括pdf、docx、pptx、txt、html、htm、md、json、jsonl、epub、mobi、xml在內的12種文檔。

您可以與M32大模型基于特定的知識庫進行對話,通過接入和學習專屬知識庫內容,M32能夠更加精準地理解和回應查詢,顯著提升任務處理的準確性和可靠性。

輕松搭建知識庫,讓M32大模型基于知識庫完成任務
輕松搭建知識庫,讓M32大模型基于知識庫完成任務

  • 聯網檢索,讓M32與世界即時同步

YuanChat支持谷歌(serper)和bing兩種方式進行網絡檢索,打開網絡檢索插件,即可讓M32大模型訪問互聯網,在全網為您檢索并總結相關信息,精準獲取信息,高效完成任務。

讓M32大模型訪問互聯網為您檢索并總結最新信息

讓M32大模型訪問互聯網為您檢索并總結最新信息
讓M32大模型訪問互聯網為您檢索并總結最新信息

  • 個性化定制模型參數,讓M32大模型更適合您的任務

YuanChat提供了豐富的參數設定功能,支持在使用M32大模型的過程中根據任務情況自定義生成文本長度、生成文本多樣性、生成下一個詞之前考慮的備選詞數量,使得用戶能夠精細調節(jié)大模型的創(chuàng)造性、可靠性、速度和成本,從而更加靈活高效地利用M32大模型的強大能力。

探索大模型能力的多種邊界
探索大模型能力的多種邊界

  • One More Thing

YuanChat支持API Server功能,可將模型能力以及YuanChat的功能(Rag檢索、敏感詞識別、網絡檢索等)接入已有的應用平臺。模型輸出數據支持openAI格式,使開發(fā)人員更好理解,降低二次開發(fā)成本和對接工作量。

一鍵開啟/關閉API Server功能,設置API Server服務的端口號
一鍵開啟/關閉API Server功能,設置API Server服務的端口號

 

消息來源:浪潮信息
China-PRNewsire-300-300.png
全球TMT
微信公眾號“全球TMT”發(fā)布全球互聯網、科技、媒體、通訊企業(yè)的經營動態(tài)、財報信息、企業(yè)并購消息。掃描二維碼,立即訂閱!
collection