AWS 生成式人工智慧 生成式AI Generative Artificial Intelligence GenAI 基礎設施 雲端

AWS re:Invent 2024 雲端科技發表會台灣站 重塑企業生成式 AI 和雲端創新

2025-01-20
AWS在2024年AWS re:Invent全球大會上發布一系列新技術,聚焦於生成式人工智慧(AI)、資料策略及基礎設施技術三大領域,加上涵蓋模型和應用程式的全方位創新,助力企業運用生成式AI,全面重塑企業的雲端創新體驗。

!此為分頁標誌前台不顯示!

全方位創新,升級基礎設施技術

作為全球雲端運算的開創者和領導者,AWS在運算、網路、儲存和資料庫等核心領域持續創新,為各類工作負載提供更強大的底層架構支援。

  • 自研晶片引領運算力創新:基於AWS Trainium2的Amazon Elastic Compute Cloud(Amazon EC2)Trn2執行個體正式可用,相較於目前GPU執行個體性價比提升30%至40%;推出配備64個Trainium2晶片的EC2 Trn2 UltraServers伺服器,提供高達83.2 Petaflops浮點運算力,運算力是單一執行個體的四倍。在大規模訓練方面,Project Rainier叢集搭載數十萬個Trainium2晶片,運算力超越以往叢集五倍以上。採用3奈米工藝的下一代AWS Trainium3晶片預計在2025年末上線,將使叢集效能提升四倍,並在效能、能效和密度上樹立新標準。
  • 網路基礎設施升級:推出第二代UltraCluster網路架構,也稱為10p10u網路,支援超過20,000個GPU同步工作,頻寬達10Pb/s,延遲低於10ms,這項突破性升級將模型訓練時間縮短至少15%。
  • 儲存服務強化資料處理能力:雲端可大規模擴展的物件儲存服務Amazon Simple Storage Service(Amazon S3)新增Metadata中繼資料功能,實現自動獲取和即時更新資料;推出專為Iceberg表格優化的S3 Tables儲存類型,將查詢效能提升三倍,交易處理能力提升10倍。
  • 資料庫服務新突破:全新的無伺服器分散式SQL資料庫Amazon Aurora DSQL採用active-active架構並具備自動故障修復功能,支援應用程式在任意端點進行讀寫。不僅提供99.999%的多區域可用性,還能實現近乎無限的可擴展性,且無需進行資料庫分區(sharding)或執行個體升級。同時,快速NoSQL鍵值資料庫Amazon DynamoDB global tables新功能新增支援橫跨多區域的強大一致性,進一步升級分散式資料庫服務。
  • 資料中心設計重塑基礎設施:透過簡化電力分配和機械系統,使基礎設施可用性達99.9999%,並將受電力問題影響的機架數量減少89%。創新的「液體到晶片」冷卻系統無縫整合空氣和液體冷卻功能,使機械能耗降低46%,全新的設計更讓每個站點增加12%的運算能力。同時,在永續方面取得重要突破,採用可再生柴油作為備用發電系統燃料,與傳統化石柴油相比,溫室氣體排放可減少90%,而資料中心建築的混凝土固有碳排放量相較於業界平均水準最高可降低35%。

助力全球企業在AWS上重塑未來

眾多新創企業與產業領袖正在使用AWS持續創新,從AI前瞻探索到金融風險管控、從數位娛樂體驗優化到生技製藥科學發展,AWS正助力各行各業加速創新,突破既有模式、重塑未來。

在亞馬遜,Amazon Kindle的技術支援工程師採用Amazon Q Developer的營運調查功能後,問題解決速度提升65%至80%,這使他們能夠更快地回應企業需求,確保提供卓越的用戶體驗。Amazon Music的開發人員將Amazon Q視為全天待命的得力助理,能自動調查並辨識各種潛在問題,大幅提升了回應速度。初步的使用資料顯示,Amazon Music的問題解決速度提升了一倍,確保聽眾能不間斷地享受喜愛的音樂。

Anthropic專注於AI安全和研究,致力於打造可靠、可判斷和可控的AI系統,Anthropic的旗艦產品Claude是全球數百萬使用者信賴的大型語言模型。Anthropic已開始優化Claude模型,以便在亞馬遜最先進的AI硬體Trainium2上運行。Anthropic也計畫使用數十萬個Trainium2晶片,為在Amazon Bedrock上使用Claude的客戶提供卓越的效能表現,此規模超越以往叢集五倍以上。


追蹤我們Featrue us

本站使用cookie及相關技術分析來改善使用者體驗。瞭解更多

我知道了!