Mistral AI入駐Amazon Bedrock 新增模型已正式可用

北京2024年3月8日 /美通社/ -- 亞馬遜云科技宣布Mistral AI的兩款高性能模型Mistral 7B和Mixtral 8x7B在Amazon Bedrock上正式可用。Mistral AI是一家總部位于法國的AI公司，致力于將公開可用的模型提升至最先進的性能水平。他們專注于構建快速而安全的大語言模型（LLM），此類模型可用于從聊天機器人到代碼生成等各種任務。Mistral AI入駐Amazon Bedrock，成為其第七家基礎模型提供商，與AI21 Labs、Anthropic、Cohere、Meta、Stability AI和Amazon這些領先的 AI公司一起提供生成式AI服務。新模型的入駐進一步提高了用戶在Amazon Bedrock上選擇高性能基礎模型的自由度，助力企業落地生成式AI。

Mistral 7B是Mistral AI推出的首個基礎模型，支持英語文本生成任務并具備自然編碼能力。它經過調優，在同等規模模型中具備低延遲、低內存要求和高吞吐量等優點。Mixtral 8x7B是前沿且優質的稀疏混合專家（Mixture-of-Experts, MoE）模型，非常適用于文本摘要、問題解答、文本分類、文本完善和代碼生成等應用場景。

借助Amazon Bedrock，企業可以輕松使用Mistral AI的模型，解鎖多種生成式AI用例。

文本摘要：Mistral AI模型善于從長文章中提取必要信息，幫助用戶快速掌握文章主旨和核心要義。

個性化回答：Mistral AI模型具備卓越的語言理解、推理和學習能力，能夠對問題給出個性化答案，內容更接近于人類回答。Mistral AI模型準確性高、可解釋性好、功能全面，善于個性化任務，模型輸出的內容與用戶所需高度一致。

代碼生成：Mistral AI模型對自然語言和代碼相關任務的理解力都很卓越，這使其非常適用于同時面向編程代碼和自然語言的項目。Mistral AI模型可幫助生成代碼片段，給出修復漏洞（bug）的建議，優化既有代碼，加速開發流程。

選擇合適的基礎模型是成功構建生成式AI應用程序的關鍵。Mistral AI模型具備如下優勢：

• 卓越的性價比：Mistral AI模型的亮點之一是在成本和性能之間實現了卓越的平衡。采用稀疏混合專家技術使這些模型變得高效、普惠且可擴展，同時還能控制成本。
• 快速推理：Mistral AI模型推理速度極快，專門為低延遲響應進行了優化。在同等規模的模型中，Mistral AI模型對內存要求更低、吞吐量更大。這一優勢對于希望在生產中擴展用例的企業來說尤為重要。
• 透明而可信賴：Mistral AI模型透明且可自定義，便于企業滿足嚴格的監管要求。
• 面向廣泛用戶：Mistral AI模型可供所有用戶使用。這有助于任何規模的企業將生成式AI功能集成到他們的應用程序當中。
• 降低微調門檻：Mistral AI模型可通過用戶的自定義數據快速輕松地實現模型微調，以解決特定任務，顯著提升性能，進而提供業務洞察。

Amazon Bedrock上的Mixtral 8x7B和Mistral 7B 模型已在美西（俄勒岡州）正式可用。