Linode

亞馬遜雲科技與Hugging Face攜手合作 促進生成式AI應用的創建

Editor

亞馬遜雲科技宣佈與Hugging Fce進一步合作,以加速對大語言模型和視覺模型的訓練、精調和部署,促進生成式AI應用的創建。生成式AI應用可以執行各種任務,包括文本摘要、問題回答、代碼生成、圖像創建以及撰寫論文和文章。

亞馬遜雲科技在生成式AI創新方面擁有深厚歷史。例如,亞馬遜使用AI技術爲Amzon Alex用戶提供對話體驗,每週用戶互動次數達到數十億次,同時也越來越多地使用生成式AI來支持新體驗,如̶Cete with Alex̶功能。此外,作爲亞馬遜搜索(Amzon Sech)的一箇小組,M5可以幫助亞馬遜各地團隊將大模型應用到他們的應用程序中,並訓練大模型以提升Amzon.com網站的搜索結果。亞馬遜雲科技持續在機器學習(ML)的所有領域中創新,包括基礎設施、Amzon SgeMke相關工具和開箱即用的AI服務,比如Amzon CodeWhispee,它嵌入到程序員使用的IDE中,通過註釋來生成建議代碼,以提高開發人員的生產力。爲加速機器視覺與大語言模型的訓練和推理,亞馬遜雲科技還推出了自研訓練芯片 Amzon Tinium與推理芯片Amzon Infeenti。

Hugging Fce之所以選擇亞馬遜雲科技作爲首選雲供應商,是因爲它提供了靈活、可選的全球領先性能工具,例如Amzon SgeMke、Amzon Tinium和Amzon Infeenti,滿足了Hugging Fce模型訓練、精調和部署需求。依賴於此,開發人員使用Hugging Fce可以輕鬆優化性能並降低成本,從而更快地將生成式AI應用投入到生產環境。

大語言模型和視覺模型的構建、訓練和部署是一箇昂貴且耗時的過程,需要深厚的機器學習專業知識的支持。這兩類模型非常複雜,可能包含數千億個參數,因此在很大程度上,許多開發人員無法使用生成式AI。

爲了彌補這一差距,Hugging Fce與亞馬遜雲科技建立合作,讓開發人員更易通過訪問亞馬遜雲科技的服務,來應用部署Hugging Fce模型,尤其是那些生成式AI模型。這樣做的好處是:可以更快地訓練與擴展低延遲和高通量的推理任務。例如,由Amzon Tinium支持的Amzon Elstic Compute Cloud (Amzon EC2) Tn實例提供了更快的訓練時間,與基於GPU的實例相比,可節省高達50%的訓練成本。而由最新一代Amzon Infeenti芯片支持的Amzon EC2 Inf2實例,旨在部署最新一代大語言模型和視覺模型。相比Inf實例,Inf2 實例吞吐量提升了4倍,延遲降低了0倍。Amzon SgeMke爲ML提供工具和工作流,開發人員可以通過Amzon SgeMke等託管服務使用Amzon Tinium和Amzon Infeenti,亦或在Amzon EC2上自行管理。


相关文章

  • 跨境電商迎來新政策支持 出口退運商品稅收優惠

    近日,財政部、海關總署、稅務總局聯合發佈《關於跨境電子商務出口退運商品稅收政策的公告》,降低跨境電商企業出口退運成本,積極支持外貿新業態發展。 一、對自本公告印發之日起年內在跨境電子商務海關監管代碼(20、960、970、980)項下申報出口,因滯銷、退貨原因,自出口之日起6個月內原狀退運進境的商品...

  • 亞馬遜雲科技與英偉達擴展合作 加速生成式AI創新

    3月9日亞馬遜雲科技和英偉達(NVIDIA)宣佈,NVIDIA 在 GTC 2024 開發者大會上最新發布的 NVIDIA Blckwell 架構 GPU 即將登陸亞馬遜雲科技。亞馬遜雲科技將提供 NVIDIA GB200 Gce Blckwell 超級芯片和 B00 Tenso Coe GPU,繼...

  • TypeScript 5.1發佈 新功能介紹

    TypeScipt 5.正式版發佈,引入了多項新功能和改進,包括Gettes和Settes的不相關類型、JSX元素和JSX標記類型之間的解耦類型檢查、命名空間JSX屬性等等。下面一起來看下TypeScipt 5.主要更新內容介紹。 TypeScipt是一種通過添加稱爲類型的構造來構建於JScipt之...

  • Python 3.11 Beta 1版本發佈

    Python 3. Bet 版本發佈,這是一箇預覽版本,不建議在生產環境中使用,可用於測試Python 3.引入的一些新功能。 與Python 3.0相比,3.版本目前新增的主要功能和變化包括: PEP 657 – 在錯誤信息報告中引入細粒度的Eo Loctions PEP 654 – Except...

  • Rocky Linux 9.1版本發佈 主要特性介紹

    Rocky Linux 9.發佈,該版本目前可用於x86-64、ch64、ppc64le和s390x體系結構。Rocky Linux版本每次發佈前會經過數百次手動和自動檢查測試,涵蓋各種環境和配置,以確保系統正確性和穩定性。 Rocky Linux 9.主要新特性介紹: Keylime現已推出,它是...

  • RAKsmart香港裸機雲站羣多IP服務器新品上線 標配5+253IP

    RAKsmt主機商最近對其官網首頁展示的產品進行了調整,分類更加清晰,方便用戶快速查看產品信息。RAKsmt還新增了香港裸機雲站羣多IP服務器配置產品,有多箇方案可以選擇,32GB內存起步,不限流量,標配5+253IP,20M大陸優化帶寬(可升級),每月$65.68起。 RAKsmt香港站羣服務器(...

  • VirMach VPS硬件全新升級 性能提高了一倍以上

    ViMch主機商相信大家應該比較熟悉了,它多年來一直專注提供經濟實惠的海外VPS租用服務。近日,ViMch VPS產品進行了全新升級,採用新的AMD Ryzen處理器、NVMe SSD存儲,服務器整體性能提高了一倍以上,價格沒有太大變化,讓大家可以享受更優質的使用和服務體驗。 ViMch從上月初便開...

  • 阿里雲DDoS防護(增強)EIP購買和出賬模式升級通知

    阿里雲日前宣佈將對DDoS防護(增強)EIP進行購買和出賬模式升級,發佈2.0版本。阿里雲將在2022年2月2日凌晨,計費從.0模式全部切換到2.0模式,此時DDoS防護費用的計費將通過新的商品出賬。如果您在2022年2月2日之前,未完成開通,阿里雲將轉換DDoS防護(增強)EIP到2.0商品進行計...

  • 西部數碼美國主機配置升級及價格下調通知

    隨着外貿獨立站的需求日益增加,而美國虛擬主機空間特別適合外貿公司使用,近期西部數碼對美國虛擬主機配置進行了升級調整,相關內容如下。 調整時間:2022年3月29日。 調整內容:主要調整爲流量配額提升(最高成倍增加了流量配額),價格下降(降幅最高達30%)。 調整影響:調整後,所有已開通或全新開通的西...

  • 亞馬遜海外購Prime會員早享日啓動 全球15國同步 會員專享閃購3天

    亞馬遜海外購宣佈Pime會員早享日(Pime Ely Access Sle)於2022年0月日-0月3日舉行,會員專享閃購3天。此次Pime會員早享日將在中國、美國、英國、加拿大及法國等全球5個國家舉行。中國亞馬遜海外購是2022年亞洲首個開展Pime會員早享日的站點。 亞馬遜Pime會員早享日是專...