NVIDIA推出搭載NVIDIA Grace Blackwell平台的NVIDIA DGX個人人工智慧(AI)超級電腦。
前身為Project DIGITS的DGX Spark,以及由NVIDIA Blackwell Ultra平台驅動的全新高效能NVIDIA Grace Blackwell桌上型超級電腦DGX Station,可以讓AI開發人員、研究人員、資料科學家與學生在桌上型電腦上進行大型模型的原型設計、微調與推理。使用者能夠在本機端運行這些模型,或是將其部署在NVIDIA DGX Cloud或任何其他加速雲端或資料中心基礎設施上。
DGX Spark與 DGX Station將過往只能在資料中心使用的Grace Blackwell架構的強大功能帶到桌上型電腦上。開發DGX Spark和DGX Station的全球系統製造商包括華碩、戴爾、惠普和聯想。
NVIDIA創辦人暨執行長黃仁勳表示,AI已經改變了每一層運算堆疊,因此理所當然地會出現全新一類的電腦,專為AI原生開發人員所設計,並可以運行AI原生應用。有了這些全新的DGX個人AI電腦,AI能從雲端服務跨足到桌面與邊緣應用。
DGX Spark是世界上最小的AI超級電腦,能夠讓數百萬名研究人員、資料科學家、機器人開發人員和學生,以強大的效能和功能,推動生成式AI和實體AI的發展。
DGX Spark的核心是NVIDIA GB10 Grace Blackwell超級晶片,針對桌上型電腦的外型尺寸進行最佳化。GB10採用強大的NVIDIA Blackwell GPU,搭載第五代Tensor核心與FP4支援,為最新AI推理模型進行微調與推論提供每秒高達1,000兆次的AI運算能力,其中包括NVIDIA Cosmos-Reason 世界基礎模型與NVIDIA GR00T N1機器人基礎模型等。
GB10超級晶片採用NVIDIA NVLink-C2C互連技術,提供CPU與GPU一致性記憶體模型,其頻寬是第五代PCIe的5倍。這可以讓超級晶片存取GPU與CPU之間的資料,以最佳化開發人員處理記憶體密集型AI工作負載的效能。
NVIDIA的全端AI平台可以讓DGX Spark的使用者幾乎不用修改程式碼,便能將模型從桌上型電腦無縫轉移到DGX Cloud或任何加速雲端或資料中心基礎設施。這讓工作流程的原型設計、微調與反覆調整變得比以往更加輕鬆。
NVIDIA DGX Station為桌上型電腦帶來資料中心等級的效能,適合用於開發AI。DGX Station是首款採用NVIDIA GB300 Grace Blackwell Ultra桌上型電腦超級晶片打造的桌上型電腦系統,擁有784GB的龐大一致性記憶體空間,可加速大規模的訓練與推理工作負載。GB300桌上型電腦超級晶片搭載NVIDIA Blackwell Ultra GPU,擁有最新一代的Tensor核心與FP4精度,並透過NVLink-C2C技術連接至高效能的NVIDIA Grace CPU,提供同級最佳的系統通訊與效能表現。
DGX Station亦搭載NVIDIA ConnectX-8 SuperNIC,專為超大規模AI運算工作負載進行最佳化。ConnectX-8 SuperNIC支援高達每秒800 gigabits的網路速度,提供極快和高效率的網路連線能力,能夠高速連接多個DGX Station,以處理更大規模的工作負載,並且透過網路加速技術AI工作負載的資料傳輸。
將DGX Station這些最先進的功能與NVIDIA CUDA-X AI平台結合,團隊就能達成極為出色的桌上型AI開發效能。
此外,使用者還能透過NVIDIA AI Enterprise軟體平台存取NVIDIA NIM微服務,提供在企業支援下高度最佳化又易於部署的推論微服務。
