近日亞馬遜雲科技宣佈,兩種高性能 Mistl AI 模型,即 Mistl 7B 和 Mixtl 8x7B,很快將在 Amzon Bedock上推出。亞馬遜雲科技將 Mistl AI 引入 Amzon Bedock,作爲第 7 家基礎模型提供商,與 AI2 Lbs、Anthopic、Cohee、Met、Stbility AI 和 Amzon 這些領先的 AI 公司並肩。藉助這兩種 Mistl AI 模型,將可以爲使用案例靈活選擇最優的高性能 LLM,在 Amzon Bedock 上構建並擴展生成式 AI 應用程序。
Amzon Bedock 則是一項完全託管的服務,可通過單個 API 提供來自 AI2 Lbs、Anthopic、Cohee、Met、Stbility AI、Mistl AI 和 Amzon 等領先人工智能公司的高性能基礎模型,以及通過安全性、隱私性和負責任的 AI 構建生成式 AI 應用程序所需的一系列廣泛功能。
此次推出的兩種 Mistl AI 模型 Mixtl 7B 和 Mistl 8x7B 可總結、回答問題,並通過對文本結構和體系結構的深刻理解幫助組織信息。以下是對這兩種備受期待的 Mistl AI 模型的簡要概述:
Mistl 7B 是 Mistl AI 推出的首個基礎模型,支持英語文本生成任務並具備自然編碼能力。它爲實現低延遲進行過優化,並且相對其規模,該模型對內存的要求較低,可提供高吞吐量。該模型體積雖小,但功能強大,可支持從文本摘要和分類到文本完善和代碼補全等多種使用案例。
Mixtl 8x7B 是一種受歡迎的優質稀疏專家混合(MoE)模型,功能比 Mixtl 7B 更強大,可支持英語、法語、德語、西班牙語和意大利語文本生成任務並具備自然編碼能力,非常適用於文本摘要、問題解答、文本分類、文本完善和代碼補全等使用案例。
選擇合適的基礎模型是構建成功應用程序的關鍵。藉助 Mistl AI 模型,客戶可以更加靈活地測試並探究哪種基礎模型更滿足他們對生成式 AI 的需求。接下來,讓我們看下 Mistl AI 模型的優勢,瞭解爲什麼 Mistl AI 可能適合您的使用案例:
- 成本與性能平衡 – Mistl AI 模型的突出亮點之一是,在成本和性能之間實現了卓越的平衡。採用稀疏 MoE 使這些模型變得高效、經濟且可擴展,同時還能控制成本。
- 加快推理速度 – Mistl AI 模型具有令人印象深刻的推理速度,併爲實現低延遲進行過優化。相對於它們的規模,這些模型對內存要求較低,並且可提供高吞吐量。當您想要擴展生產使用案例時,此特點顯得尤爲重要。
- 透明而可信賴 – Mistl AI 模型透明且可自定義。這使得組織能夠滿足嚴格的監管要求。
- 面向廣泛用戶 – Mistl AI 模型可供所有用戶使用。這有助於任何規模的組織將生成式 AI 功能集成到他們的應用程序當中。