Dell AMD PowerEdge 伺服器 AI 生成式人工智慧 生成式AI Generative Artificial Intelligence

全新 Dell PowerEdge 伺服器 加速企業 AI 採用

2024-10-18
戴爾科技集團擴展全球最廣泛之生成式AI(GenAI)解決方案產品組合,推出專為AMD環境量身打造的Dell AI Factory新增功能。這些解決方案為企業提供更強大的AI功能,包括更高的可擴展性和靈活性,幫助企業在不斷發展的技術環境中保持競爭力。

戴爾科技集團基礎架構解決方案事業群總裁Arthur Lewis表示,藉由Dell AI Factory將AMD技術整合到最新的戴爾伺服器、AI解決方案和服務中,為企業提供當前及未來所需的效能與效率。與AMD一起,正在為AI效能樹立新標準,為企業提供現代數據驅動環境中不可或缺之強大並具成本效益的解決方案。

新款Dell PowerEdge伺服器可推動大規模處理嚴苛的AI工作負載

新增的Dell PowerEdge產品組合可推動處理廣泛的AI應用場景與傳統工作負載,以及簡化伺服器管理和安全性。這些平台提供客製化且高效的解決方案,能簡化管理工作並支援處理現代企業的高效能工作負載:

  • Dell PowerEdge XE7745專為企業AI工作負載設計,搭載AMD第五代EPYC 處理器,採用4U氣冷式機箱而最多可支援8個雙寬或16個單寬PCIe GPU。專為AI推論、模型微調與高效能運算打造,內部GPU插槽搭配用於網路連接的額外8個Gen 5.0 PCIe插槽,形成高密度、靈活的配置,使DW PCIe GPU容量增加2倍。
  •  PowerEdge R6725與R7725伺服器搭載高效能AMD第五代EPYC處理器,而具備最佳可擴展性。全新的DC-MHS 機箱設計可強化氣冷效果與雙模組500W CPU,克服電源與效率方面嚴峻的散熱挑戰。這些平台透過為優化可擴展性的配置,可維持嚴謹的數據分析與AI工作負載,並為虛擬化、資料庫與AI等工作負載提供創紀錄的效能。R7725在堆疊頂端提供高達66%的效能提升,及高達33%的效率提高。

這三種平台皆可支援多達50% 更多的核心,單核心效能提升高達37%,而創造出更高效能、效率及更佳的總體擁有成本(TCO)。這些增益可將多達七台使用五年的伺服器整合成當今的一台伺服器,使CPU 的功耗降低達65%。

  • PowerEdge R6715和R7715伺服器搭載AMD第五代EPYC處理器,具有更高的效能、效率表現,硬碟容量增加37%,具備更高的儲存密度。這兩款單插槽伺服器提供多種配置選項,將記憶體增加一倍,配備24個DIMM(2DPC),滿足各種工作負載需求,以及在體積小巧的1U和2U機箱中發揮最大效能。R6715在處理AI和虛擬化任務方面的效能創下世界紀錄。

針對大規模部署AI的客戶,戴爾將持續支援Dell PowerEdge XE伺服器中所有最新的AMDInstinct加速器。

IT團隊可透過更新的Integrated Dell Remote Access Controller(iDRAC),從遠端監控、管理和更新Dell PowerEdge伺服器。iDRAC使用更高速的處理器、更強大的記憶體和專用安全輔助處理器,簡化伺服器管理與安全性,使IT團隊能以更高的可靠性和效率作出回應。

Dell AI Factory的強化功能簡化並加速GenAI部署

Dell AI Factory旨在支援多元的AI需求,透過全球最廣泛的AI解決方案產品組合,涵蓋桌上型電腦至資料中心再到雲端,使組織可依需求調整期AI投資規模:

  • 與AMD合作的Dell生成式AI解決方案,使用搭載AMD Instinct MI300X 加速器的Dell PowerEdge XE9680伺服器,提供AI推論、檢索增強生成(RAG)與客製化功能。這一整合簡化AI部署、提升安全性、支援可擴展與模組化架構,且將價值實驗時間縮短最多86%,幫助組織優化其AI投資。
  • Dell Enterprise Hub在Hugging Face上現在支援搭載AMD Instinct MI300X加速器的Dell PowerEdge XE9680,提供自訂容器和腳本,以便能輕鬆安全的部署Llama和Mixtral等模型。這些容器化模型經過特殊優化,以根據模型和伺服器提高推理效能,並利用Hugging Face文本生成推理(Text Generation Inference,TGI)後端。
  • Dell適用於生成式AI 的專業服務正在擴展以支援AMD環境。與AMD合作適用於GenAI平台的全新Dell Implementation Services提供了量身打造的作業平台,包括Kubernetes配置、部署先進AI架構部署,以及將客戶資訊轉為最佳實踐作法,以最大化投資報酬率。從策略開發到數據準備、平台和模型實施及解決方案擴展,戴爾專業人員協助企業在整個生命週期中實現AI相關業務成果。

追蹤我們Featrue us

本站使用cookie及相關技術分析來改善使用者體驗。瞭解更多

我知道了!