AWS re:Invent 2024 雲端科技發表會台灣站　重塑企業生成式 AI 和雲端創新

AWS台灣暨香港專業解決方案架構師總監楊仲豪表示，不僅在雲端核心服務層面持續創新，更從晶片到模型，再到應用程式的每一層技術堆疊都取得突破，讓不同層級的創新相互賦能、共同進化。只有這樣全方位的大規模創新才能真正滿足現今客戶的發展需求，加速釋放前瞻技術的價值，助力各行各業重塑未來。

生成式AI全方位創新，訓練推論、模型和應用程式全面進化

在生成式AI領域，AWS全面強化基礎設施、模型和應用程式三層技術堆疊，幫助企業更輕鬆、更經濟實惠地將生成式AI應用於實際業務場景。此次新發布包括：推出Amazon Nova六款基礎模型；生成式AI基礎模型託管服務Amazon Bedrock新增100多款模型，並推出AI安全防護機制、多代理合作（multi-agent collaboration）和模型蒸餾等重磅更新，全面優化推論場景的準確性、成本和回應速度；生成式AI支援助理Amazon Q更加深入軟體開發和商業應用場景，並為傳統工作負載轉型開闢新途徑；完全託管的機器學習平台Amazon SageMaker AI將幫助客戶更快、更輕鬆地建構、訓練及部署模型。

• Amazon Nova大幅降低基礎模型成本：一發布即成為基礎模型的重要系列，包括Nova Micro、Nova Lite、Nova Pro和Nova Premier基礎模型，以及用於生成高品質圖片的Nova Canvas和生成高品質影片的Nova Reel。在各自的類別中，Amazon Nova Micro、Lite和Pro的應用成本比Amazon Bedrock中表現最佳的模型至少降低75%，同時也是Amazon Bedrock上相同級別的模型中，速度最快的模型。
• Amazon Bedrock平台能力全面升級：Amazon Bedrock模型選擇全面升級，AWS成為首家提供Luma AI和poolside模型的雲端服務供應商，並且新增Stability AI的最新模型，還透過新推出的Amazon Bedrock Marketplace功能為企業提供100多個熱門、新興及專業模型；同時，Amazon Bedrock推出低延遲優化推論、模型蒸餾、提示詞快取等功能，大幅提升推論效率；支援GraphRAG等知識庫功能，提升資料運用能力；透過自動推理檢查（Automated Reasoning checks）功能和多代理合作等創新，進一步提升AI安全性，並推動智慧代理發展。
• Amazon Q擴展應用場景：Amazon Q Developer增加三款新的智慧代理，能自動執行單元測試、文檔生成及程式碼檢查流程，並透過與GitLab深度整合，擴展應用場景；推出轉型功能，以加速Windows.NET、VMware和大型主機工作負載的遷移和現代化，縮短轉型時間並降低成本；強化Amazon Q Business和Amazon Q in QuickSight的洞察能力，並自動化複雜的工作流程。
• 基礎設施創新：推出Amazon SageMaker的四項AI創新，包括Amazon SageMaker HyperPod新的訓練配方（recipe）功能、彈性訓練計畫和任務治理功能，以及在Amazon SageMaker中使用AWS合作夥伴的熱門AI應用程式。這些功能將幫助客戶更快開始訓練熱門模型，透過彈性訓練計畫節省數周時間，並將成本降低高達40%。

資料體驗升級，統一平台釋放資料價值

現今，越來越多企業不再分開使用不同的資料分析工具，而是正在將分析、機器學習（ML）和生成式AI互相結合來獲取洞察。AWS推出的新一代Amazon SageMaker提供一個新的、統一的編輯器，為客戶提供單一的資料和AI開發環境，用戶可以在其中尋找和使用組織中的所有資料，為各種常見的資料應用案例選擇最佳工具，並與不同團隊和角色合作，以擴展資料和AI專案。

• 新一代Amazon SageMaker：將快速SQL分析、PB級資料處理、資料探索和整合、模型開發和訓練以及生成式AI等功能統一到一個平台。透過全新的Amazon SageMaker Unified Studio，企業可以輕鬆尋找和使用組織內的所有資料資源，並借助Amazon Q Developer選擇最適合的工具來處理資料。Amazon SageMaker Catalog和內建的治理功能則能確保資料、模型和開發套件的使用合規。此外，透過零ETL（zero-ETL）與領先SaaS應用程式的整合，企業無需建構複雜的資料管道，即可在Amazon SageMaker Lakehouse和雲端資料倉儲Amazon Redshift中分析合作廠商的應用程式資料。
• 推出Amazon SageMaker Lakehouse：實現資料湖、資料倉儲、營運資料庫和企業應用程式資料的統一管理，支援客戶使用熟悉的AI和ML工具或與Apache Iceberg相容的查詢引擎來使用和處理資料。