NVIDIA推出個人AI超級電腦NVIDIA Project DIGITS,為全球的AI研究人員、資料科學家和學生提供NVIDIA Grace Blackwell平台的強大功能。
Project DIGITS搭載全新的NVIDIA GB10 Grace Blackwell超級晶片,提供petaflop等級的AI運算效能,適用於原型設計、微調與運行大型AI模型。
擁有Project DIGITS,使用者便能在自己的桌上型電腦系統開發與執行模型推論,並在加速的雲端或資料中心基礎架構上流暢部署模型。
NVIDIA創辦人暨執行長黃仁勳表示,AI將成為各行業主流的應用,藉由Project DIGITS,Grace Blackwell超級晶片將走向數百萬開發者使用。每位資料科學家、AI研究人員與學生的桌上將擁有一台AI超級電腦,讓他們有能力參與與塑造AI時代。
GB10超級晶片是一款採用NVIDIA Grace Blackwell架構的系統單晶片(SoC),可在FP4精度下提供高達1 petaflop的AI效能。
GB10搭載NVIDIA Blackwell GPU內建最新一代CUDA核心與第五代Tensor核心,透過NVLink-C2C晶片至晶片互連技術,與高效能的NVIDIA Grace CPU相連,其中包含20個以Arm架構建構的省電核心。聯發科做為Arm架構SoC設計的市場領導者,與其合作設計的GB10,擁有同等級產品中最佳的省電效能、執行效能與連接能力。
GB10超級晶片讓Project DIGITS只需使用標準電源插座即可提供強大效能。每個Project DIGITS均統一配備128GB的記憶體和高達4TB的NVMe儲存空間。開發者有了這台超級電腦,便能運行高達2,000億個參數的大型語言模型,為創新AI注入強大動力。此外,利用NVIDIA ConnectX 網路技術可連接兩台Project DIGITS AI超級電腦,運行多達4,050億個參數的模型。
借助Grace Blackwell架構,企業和研究人員可以在運行基於Linux的NVIDIA DGX OS的本機端Project DIGITS系統上對模型進行原型設計、微調和測試,然後再將其無縫部署到NVIDIA DGX Cloud來加速雲端執行個體或資料中心基礎架構上。
這使得開發者能夠在Project DIGITS上建立AI原型,並使用相同的Grace Blackwell架構與NVIDIA AI Enterprise軟體平台,在雲端或資料中心基礎架構上擴大其規模。
Project DIGITS的用戶可以使用龐大的NVIDIA AI軟體資料庫,進行實驗與設計原型,包括,NVIDIA NGC目錄與NVIDIA開發者入口網站提供的軟體開發套組、協調工具、框架與模型。開發者可以利用NVIDIA NeMo框架微調模型,利用NVIDIA RAPIDS函式庫加速推動資料科學的發展,以及執行PyTorch、Python 和Jupyter notebooks等常見框架。
使用者也可以利用NVIDIA Blueprints及NVIDIA NIM微服務,透過NVIDIA開發者計畫進行研究、開發與測試,以建立代理型AI應用程式。當 AI 應用程式準備好從實驗階段進入生產階段時,NVIDIA AI Enterprise授權可提供企業級的安全性、支援以及NVIDIA AI軟體的產品發行。