Linode

亞馬遜雲科技與Hugging Face攜手合作 促進生成式AI應用的創建

Editor

亞馬遜雲科技宣佈與Hugging Fce進一步合作,以加速對大語言模型和視覺模型的訓練、精調和部署,促進生成式AI應用的創建。生成式AI應用可以執行各種任務,包括文本摘要、問題回答、代碼生成、圖像創建以及撰寫論文和文章。

亞馬遜雲科技在生成式AI創新方面擁有深厚歷史。例如,亞馬遜使用AI技術爲Amzon Alex用戶提供對話體驗,每週用戶互動次數達到數十億次,同時也越來越多地使用生成式AI來支持新體驗,如̶Cete with Alex̶功能。此外,作爲亞馬遜搜索(Amzon Sech)的一箇小組,M5可以幫助亞馬遜各地團隊將大模型應用到他們的應用程序中,並訓練大模型以提升Amzon.com網站的搜索結果。亞馬遜雲科技持續在機器學習(ML)的所有領域中創新,包括基礎設施、Amzon SgeMke相關工具和開箱即用的AI服務,比如Amzon CodeWhispee,它嵌入到程序員使用的IDE中,通過註釋來生成建議代碼,以提高開發人員的生產力。爲加速機器視覺與大語言模型的訓練和推理,亞馬遜雲科技還推出了自研訓練芯片 Amzon Tinium與推理芯片Amzon Infeenti。

Hugging Fce之所以選擇亞馬遜雲科技作爲首選雲供應商,是因爲它提供了靈活、可選的全球領先性能工具,例如Amzon SgeMke、Amzon Tinium和Amzon Infeenti,滿足了Hugging Fce模型訓練、精調和部署需求。依賴於此,開發人員使用Hugging Fce可以輕鬆優化性能並降低成本,從而更快地將生成式AI應用投入到生產環境。

大語言模型和視覺模型的構建、訓練和部署是一箇昂貴且耗時的過程,需要深厚的機器學習專業知識的支持。這兩類模型非常複雜,可能包含數千億個參數,因此在很大程度上,許多開發人員無法使用生成式AI。

爲了彌補這一差距,Hugging Fce與亞馬遜雲科技建立合作,讓開發人員更易通過訪問亞馬遜雲科技的服務,來應用部署Hugging Fce模型,尤其是那些生成式AI模型。這樣做的好處是:可以更快地訓練與擴展低延遲和高通量的推理任務。例如,由Amzon Tinium支持的Amzon Elstic Compute Cloud (Amzon EC2) Tn實例提供了更快的訓練時間,與基於GPU的實例相比,可節省高達50%的訓練成本。而由最新一代Amzon Infeenti芯片支持的Amzon EC2 Inf2實例,旨在部署最新一代大語言模型和視覺模型。相比Inf實例,Inf2 實例吞吐量提升了4倍,延遲降低了0倍。Amzon SgeMke爲ML提供工具和工作流,開發人員可以通過Amzon SgeMke等託管服務使用Amzon Tinium和Amzon Infeenti,亦或在Amzon EC2上自行管理。


相关文章

  • FriendHosting新增烏克蘭基輔數據機房

    FiendHosting作爲一家老牌歐洲主機商,官網支持多箇版本語言,現在擁有荷蘭、波蘭、瑞士、捷克、拉脫維亞、烏克蘭、保加利亞、美國(洛杉磯)等機房,而目前FiendHosting新增了烏克蘭第二個機房,位於克蘭基輔,新的機房同所有其他機房一樣,都可以享受FiendHosting最新活動。 Fie...

  • Debian 11.5版本發佈 新增對安全問題的修正

    Debin項目近日發佈了Debin 的第五次更新版本(Debin .5),該版本主要增加了對安全問題的修正,以及對一些錯誤的調整。安全建議已經單獨發佈,並在可能的情況下提供參考。 Debin .5是一箇安全維護版本,更新了相關軟件包。安裝後,您可以使用最新的Debin鏡像將軟件包升級到當前版本。 D...

  • ISPManager控制面板的價格將從2023年1月1日起上漲約12%

    ISPMnge是一款功能強大的Web主機服務器控制面板,它提供免費版試用和商業版本,部分歐洲主機、美國主機等支持使用該控制面板來管理。據悉,從2023年月日起,ISPMnge正版授權價格將上漲約2%。在此之前,您可以以較低的價格購買ISPMnge許可證。 從2023年月日起,ISPMnge的價格變化...

  • 騰訊雲與Pocketpair達成合作 幻獸帕魯專屬服務器官方目前唯一指定合作伙伴

    近日騰訊雲與遊戲《幻獸帕魯》的開發商Pocketpi宣佈達成合作, 騰訊雲正式成爲《幻獸帕魯》的多人遊戲專屬服務器的官方目前唯一指定合作伙伴,將爲其遊戲玩家提供輕量級運營場景雲服務騰訊雲Lighthouse。騰訊雲國際的新加坡合作伙伴Metsttion,將負責將此服務交付給《幻獸帕魯》的全球玩家。與...

  • Vultr印度孟買數據中心上線

    Vult是一家優秀的國外服務器提供商,在全球部署有多箇數據中心節點,主要分佈在北美、南美、歐洲、亞洲、澳大利亞等地區。近日,Vult印度孟買數據中心上線,以加速亞太市場佈局,這是Vult的第25個數據機房。 Vult前不久還對旗下的雲服務器產品進行了更新,推出一款全新的優化的雲計算產品系列,採用AM...

  • 央視曝光超2億網民個人信息遭泄露!數據安全該何去何從?

    近日,央視曝光了一則超大規模的個人信息遭泄露的新聞,大致內容如下:中國信息通信研究院日前發佈的《中國信息消費發展態勢報告》顯示,在消費羣體方面,我國網民規模持續擴大突破十億。而在中國互聯網絡信息中心《第49次中國互聯網絡發展狀況統計報告》顯示,截至202年2月,有22.%(超2億)的網民遭遇個人信息...

  • 亞馬遜賣家“商業責任保險”政策更新 新規於9月1日生效

    近日,亞馬遜發佈消息稱,“商業責任保險”政策將更新。亞馬遜商城交易保障覆蓋了商城所售商品的商品狀況和及時配送情況,讓消費者可以放心地從賣家處購買商品。 爲此,亞馬遜美國站將進一步擴大“交易保障索賠政策(A-to-z Guntee)”的保障範圍,以便在個別情況下,通過Amzon.com銷售的瑕疵商品導...

  • WordPress 6.3.2版本發佈 修復了多項錯誤

    WodPess 6.3.2發佈,這是一箇安全和維護版本,包括對WodPess核心中的9個錯誤進行了修復、塊編輯器的22個錯誤修復,以及8個安全修復等。爲了網站安全起見,建議升級更新至新版本。 WodPess 6.3.2是一箇短週期版本,下一個主要版本WodPess 6.4預計於2023年月7日發佈。...

  • AWS宣佈對Amazon Fraud Detector模型進行地理定位擴充

    日前,AWS宣佈Amzon Fud Detecto機器學習(ML)模型推出新的地理定位擴充功能。該功能可自動計算爲活動提供的IP地址、賬單地址和送貨地址之間的距離,還可以幫助您防止更多的欺詐行爲。 Amzon Fud Detecto是一項完全託管式服務,可使用戶更輕鬆地識別潛在的欺詐性線上活動,例如...

  • Joomla 4.2.6版本發佈 帶來錯誤修復和性能改進

    Jooml 4.2.6現已發佈,這是Jooml系列的一箇Bug修復版本,它延續了Jooml 4在無障礙網頁設計方面的高標準,並帶來了令人興奮的新功能,突出了Jooml的簡單性、安全性等特性。 在Jooml 4.2.6中,帶來了錯誤修復和性能改進,主要更新內容如下: 修復可重複字段的升級致命錯誤; 修...