當前位置: 主頁 > 新聞 >
 

AWS和NVIDIA擴大合作 推動生成式AI創新

本文作者:AWS       點擊: 2024-03-19 16:56
前言:
AWS將支援NVIDIA的最新AI頂尖算力Blackwell GPU平台,雙方的合作將AWS在生成式AI創新推向新高度。
 
AWS將提供基於 NVIDIA Grace Blackwell GPU 的 Amazon EC2 實例和 NVIDIA DGX Cloud,以提高在數萬億參數 LLM 上建構和運行推論的效能。
 
NVIDIA的超強運算晶片系統與AWS強大的Elastic Fabric Adapte(EFA)網路連接能力、高級虛擬化(Amazon Nitro System)和超大規模叢集(Amazon EC2 UltraClusters)等領先技術的結合,使得該平台在加速資源密集型、數萬億參數語言模型的推論工作負載方面實現了巨大進步。
 
在安全性方面,AWS的Nitro 系統、AWS KMS、EFA加密和 Blackwell 加密的整合將為客戶提供對其訓練資料和模型權重的端到端控制,進而為客戶在AWS上的生成式AI應用程式提供更強的安全性。
 
Blackwell也加入了雙方合作的Project Ceiba,該專案專為NVIDIA自身的AI研發工作設計,是一台AWS上託管的採用DGX Cloud的AI超級電腦,它搭載了20,736顆GB200 Superchips晶片,並透過第四代EFA網路擴展,為每個Superchip提供高達800 Gbps的低延遲、高頻寬網路傳輸量,能夠提供414 exaflops的運算能力,與之前計畫在Hopper架構上建構的Ceiba相比,效能提升了6倍。
 
詳情請參考此連結, 我們稍後也會分享進一步的新聞資料,如有任何疑問也歡迎與我們聯繫,謝謝!
 
關於Amazon Web Services
自2006年來,Amazon Web Services一直在提供世界上服務最豐富、應用廣泛的雲端服務。AWS不斷擴展可支持幾乎任何雲端工作負載的服務,為客戶提供超過240種功能全面的雲端服務,包括運算、儲存、資料庫、聯網、分析、機器學習與人工智慧、物聯網、行動、安全、混合雲、媒體,以及應用開發、部署和管理等方面,遍及33個地理區域內的105個可用區域(Availability Zones),並已公佈計畫在馬來西亞、墨西哥、紐西蘭、沙烏地阿拉伯和泰國等建立6個AWS地理區域、18個可用區域。全球超過百萬客戶信任AWS,包含發展迅速的新創公司、大型企業和政府機構。AWS協助客戶強化自身基礎設施,提高營運上的彈性與應變能力,同時降低成本。欲瞭解更多AWS的相關資訊,請至:aws.amazon.com

電子郵件:look@compotechasia.com

聯繫電話:886-2-27201789       分機請撥:11