Mistral AI入駐Amazon Bedrock 新增模型已正式可用

北京2024年3月8日 /美通社/ -- 亞馬遜云科技宣布Mistral AI的兩款高性能模型Mistral 7B和Mixtral 8x7B在Amazon Bedrock上正式可用。Mistral AI是一家總部位于法國的AI公司，致力于將公開可用的模型提升至最先進(jìn)的性能水平。他們專注于構(gòu)建快速而安全的大語言模型（LLM），此類模型可用于從聊天機(jī)器人到代碼生成等各種任務(wù)。Mistral AI入駐Amazon Bedrock，成為其第七家基礎(chǔ)模型提供商，與AI21 Labs、Anthropic、Cohere、Meta、Stability AI和Amazon這些領(lǐng)先的 AI公司一起提供生成式AI服務(wù)。新模型的入駐進(jìn)一步提高了用戶在Amazon Bedrock上選擇高性能基礎(chǔ)模型的自由度，助力企業(yè)落地生成式AI。

Mistral 7B是Mistral AI推出的首個(gè)基礎(chǔ)模型，支持英語文本生成任務(wù)并具備自然編碼能力。它經(jīng)過調(diào)優(yōu)，在同等規(guī)模模型中具備低延遲、低內(nèi)存要求和高吞吐量等優(yōu)點(diǎn)。Mixtral 8x7B是前沿且優(yōu)質(zhì)的稀疏混合專家（Mixture-of-Experts, MoE）模型，非常適用于文本摘要、問題解答、文本分類、文本完善和代碼生成等應(yīng)用場景。

借助Amazon Bedrock，企業(yè)可以輕松使用Mistral AI的模型，解鎖多種生成式AI用例。

文本摘要：Mistral AI模型善于從長文章中提取必要信息，幫助用戶快速掌握文章主旨和核心要義。

個(gè)性化回答：Mistral AI模型具備卓越的語言理解、推理和學(xué)習(xí)能力，能夠?qū)栴}給出個(gè)性化答案，內(nèi)容更接近于人類回答。Mistral AI模型準(zhǔn)確性高、可解釋性好、功能全面，善于個(gè)性化任務(wù)，模型輸出的內(nèi)容與用戶所需高度一致。

代碼生成：Mistral AI模型對自然語言和代碼相關(guān)任務(wù)的理解力都很卓越，這使其非常適用于同時(shí)面向編程代碼和自然語言的項(xiàng)目。Mistral AI模型可幫助生成代碼片段，給出修復(fù)漏洞（bug）的建議，優(yōu)化既有代碼，加速開發(fā)流程。

選擇合適的基礎(chǔ)模型是成功構(gòu)建生成式AI應(yīng)用程序的關(guān)鍵。Mistral AI模型具備如下優(yōu)勢：

• 卓越的性價(jià)比：Mistral AI模型的亮點(diǎn)之一是在成本和性能之間實(shí)現(xiàn)了卓越的平衡。采用稀疏混合專家技術(shù)使這些模型變得高效、普惠且可擴(kuò)展，同時(shí)還能控制成本。
• 快速推理：Mistral AI模型推理速度極快，專門為低延遲響應(yīng)進(jìn)行了優(yōu)化。在同等規(guī)模的模型中，Mistral AI模型對內(nèi)存要求更低、吞吐量更大。這一優(yōu)勢對于希望在生產(chǎn)中擴(kuò)展用例的企業(yè)來說尤為重要。
• 透明而可信賴：Mistral AI模型透明且可自定義，便于企業(yè)滿足嚴(yán)格的監(jiān)管要求。
• 面向廣泛用戶：Mistral AI模型可供所有用戶使用。這有助于任何規(guī)模的企業(yè)將生成式AI功能集成到他們的應(yīng)用程序當(dāng)中。
• 降低微調(diào)門檻：Mistral AI模型可通過用戶的自定義數(shù)據(jù)快速輕松地實(shí)現(xiàn)模型微調(diào)，以解決特定任務(wù)，顯著提升性能，進(jìn)而提供業(yè)務(wù)洞察。

Amazon Bedrock上的Mixtral 8x7B和Mistral 7B 模型已在美西（俄勒岡州）正式可用。