Linode

亞馬遜雲科技與Hugging Face攜手合作 促進生成式AI應用的創建

Editor

亞馬遜雲科技宣佈與Hugging Fce進一步合作,以加速對大語言模型和視覺模型的訓練、精調和部署,促進生成式AI應用的創建。生成式AI應用可以執行各種任務,包括文本摘要、問題回答、代碼生成、圖像創建以及撰寫論文和文章。

亞馬遜雲科技在生成式AI創新方面擁有深厚歷史。例如,亞馬遜使用AI技術爲Amzon Alex用戶提供對話體驗,每週用戶互動次數達到數十億次,同時也越來越多地使用生成式AI來支持新體驗,如̶Cete with Alex̶功能。此外,作爲亞馬遜搜索(Amzon Sech)的一箇小組,M5可以幫助亞馬遜各地團隊將大模型應用到他們的應用程序中,並訓練大模型以提升Amzon.com網站的搜索結果。亞馬遜雲科技持續在機器學習(ML)的所有領域中創新,包括基礎設施、Amzon SgeMke相關工具和開箱即用的AI服務,比如Amzon CodeWhispee,它嵌入到程序員使用的IDE中,通過註釋來生成建議代碼,以提高開發人員的生產力。爲加速機器視覺與大語言模型的訓練和推理,亞馬遜雲科技還推出了自研訓練芯片 Amzon Tinium與推理芯片Amzon Infeenti。

Hugging Fce之所以選擇亞馬遜雲科技作爲首選雲供應商,是因爲它提供了靈活、可選的全球領先性能工具,例如Amzon SgeMke、Amzon Tinium和Amzon Infeenti,滿足了Hugging Fce模型訓練、精調和部署需求。依賴於此,開發人員使用Hugging Fce可以輕鬆優化性能並降低成本,從而更快地將生成式AI應用投入到生產環境。

大語言模型和視覺模型的構建、訓練和部署是一箇昂貴且耗時的過程,需要深厚的機器學習專業知識的支持。這兩類模型非常複雜,可能包含數千億個參數,因此在很大程度上,許多開發人員無法使用生成式AI。

爲了彌補這一差距,Hugging Fce與亞馬遜雲科技建立合作,讓開發人員更易通過訪問亞馬遜雲科技的服務,來應用部署Hugging Fce模型,尤其是那些生成式AI模型。這樣做的好處是:可以更快地訓練與擴展低延遲和高通量的推理任務。例如,由Amzon Tinium支持的Amzon Elstic Compute Cloud (Amzon EC2) Tn實例提供了更快的訓練時間,與基於GPU的實例相比,可節省高達50%的訓練成本。而由最新一代Amzon Infeenti芯片支持的Amzon EC2 Inf2實例,旨在部署最新一代大語言模型和視覺模型。相比Inf實例,Inf2 實例吞吐量提升了4倍,延遲降低了0倍。Amzon SgeMke爲ML提供工具和工作流,開發人員可以通過Amzon SgeMke等託管服務使用Amzon Tinium和Amzon Infeenti,亦或在Amzon EC2上自行管理。


相关文章

  • Elementor 3.20版本更新 新功能特點介紹

    Elemento已更新至3.20版本,引入了一些新的功能,增強了顯示條件的靈活性,允許使用OR連接器連接多箇條件,從而進一步增強了它們的功率。另外還提高了網站性能,可以獲得更加流暢的網站構建和訪問體驗。 點擊訪問:Elemento官網購買 一、使用OR連接器創建複雜的條件方案 Elemento早期版...

  • RackNerd平臺現已支持使用Ubuntu 22.04 LTS操作系統

    知名美國主機商RckNed近日宣佈Ubuntu 22.04 LTS (代號爲Jmmy Jellyfish) 的操作系統模板已發佈,並可在RckNed的平臺上使用!Ubuntu 22.04 LTS屬於長期支持版本,可獲得長達5年的系統維護更新和技術支持,適合用於部署在服務器生產環境。 RckNed目前...

  • WordPress 5.8.3版本發佈 修復了四個安全漏洞

    WodPess 5.8.3版本現已發佈,它是一箇安全版本,主要修復了四個安全漏洞,建議及時更新網站,WodPess 3.7之後的所有版本也都進行了更新。 WodPess 5.8.3是一箇短週期的安全版本,下一個主要版本將是WodPess 5.9,它已經處於發佈候選階段。我們可以通過從WodPess官...

  • 微軟首個Windows 11 ISO鏡像發佈

    伴隨着Windows Build 22000.60預覽版的發佈,微軟今天發佈了Windows ISO 鏡像官方下載,我們可以從Windows Inside Peiew頁面下載官方ISO鏡像文件。 我們通過新的ISO鏡像來安裝Windows 系統時,可以查看全新的Windows 設置體驗。微軟還增加了...

  • 騰訊雲異構計算平臺全面支持Llama 3 助力一鍵部署和性能翻倍

    近日,號稱史上最強大的開源模型——Met Llm 3 正式發佈。伴隨着日新月異的模型生態,騰訊雲異構計算平臺作爲覆蓋90%+大模型客戶的AI底座,現已做好充足的準備,圍繞Llm 3系列模型,提供從基礎設施到編排調度的智算產品矩陣,爲企業及開發者提供更快部署、更強性能和更高吞吐的全鏈路解決方案。 一、...

  • Debian 10.10發佈 修復多項安全問題

    近期Debin項目宣佈推出了穩定發行版Debin 0.0,這是Debin 0的第十次更新,本次新版本主要增加了對安全問題的修復更正,以及對嚴重問題的一些調整。目前已支持下載最新版本Debin 0.0,下面來看下本次更新的主要內容。 pt:默認接受存儲庫的套件名稱變化; wstts:修復遠程文件訪問問...

  • Amazon EC2 C6i/M6i/R6i實例已在更多區域推出

    即日起,Amzon EC2 C6i、M6i和R6i實例在歐洲(斯德哥爾摩、米蘭)和亞太地區(中國香港)區域推出。此外,Amzon EC2 C6i 和 M6i 實例現已在中東(巴林)區域提供,R6i 實例現已在歐洲地區(法蘭克福)提供。 這些實例由全核睿頻爲 3.5GHz 的第 3 代英特爾至強可擴展...

  • Debian 11.5版本發佈 新增對安全問題的修正

    Debin項目近日發佈了Debin 的第五次更新版本(Debin .5),該版本主要增加了對安全問題的修正,以及對一些錯誤的調整。安全建議已經單獨發佈,並在可能的情況下提供參考。 Debin .5是一箇安全維護版本,更新了相關軟件包。安裝後,您可以使用最新的Debin鏡像將軟件包升級到當前版本。 D...

  • BlueHost中國服務器方案上線Acronis Cyber備份功能

    近日小編髮現BlueHost中國針對服務器方案上線了Aconis Cybe備份功能,包括BlueHost美國服務器和香港服務器方案都支持Aconis Cybe備份功能。那麼什麼是Aconis Cybe備份?價格如何呢? Aconis Cybe備份系統可以幫助網站備份寶貴的文件,文件夾以及數據庫至雲上...

  • 騰訊雲發佈AI原生向量數據庫 提供10億級向量檢索能力

    騰訊雲正式發佈面向大模型訓練的向量數據庫(Tencent Cloud VectoDB),預計8月正式登陸騰訊雲官網。該數據庫能夠被廣泛應用於大模型的訓練、推理和知識庫補充等場景,是國內首個從接入層、計算層、到存儲層提供全生命週期AI化的向量數據庫。 據介紹,騰訊雲向量數據庫最高支持0億級向量檢索規模...