Google Cloud NVIDIA AI

Google Cloud 與 NVIDIA 擴展合作 推動 AI 運算、軟體和服務的進步

2023-09-04
Google Cloud與NVIDIA宣布推出新的人工智慧基礎架構和軟體,提供企業建立和部署大規模的生成式人工智慧模型,並加速資料科學工作負載。

在Google Cloud Next的一場爐邊對談中,Google Cloud執行長Thomas Kurian與NVIDIA創辦人暨執行長黃仁勳討論了這個合作夥伴關係如何將端到端的機器學習服務帶給全球最大型的人工智慧客戶,包括在基於NVIDIA 技術建構的Google Cloud服務中,使運行人工智慧超級電腦變得更加容易。新的軟硬體整合使用了過去兩年來Google DeepMind和Google研究團隊所使用的相同NVIDIA技術。

黃仁勳表示,正處於一個加速運算和生成式人工智慧相結合的轉折點,以前所未有的速度推動創新。與Google Cloud的擴大合作將幫助開發人員加速他們在基礎架構、軟體和服務等方面的工作,從而提高能源效率並降低成本。

Kurian表示,Google Cloud在人工智慧創新方面有著悠久的歷史,旨在促進和加速企業的創新。許多Google產品都是基於NVIDIA GPU建構和提供服務的,許多使用者正在尋求NVIDIA的加速運算,以高效開發大型語言模型,從而推動生成式人工智慧的發展。

NVIDIA的整合加速人工智慧和資料科學開發

Google用於建立大型語言模型(LLM)的框架PaxML,現已經優化以支援NVIDIA加速運算。

PaxML最初是為了跨越多個Google TPU加速器切片而構建的,現在使開發人員能夠使用NVIDIA H100和A100 Tensor Core GPU進行先進且完全可配置的實驗和規模。NVIDIA NGC軟體目錄中即刻起提供GPU優化的PaxML容器。此外,PaxML在JAX上運行,JAX已針對利用OpenXLA編譯器的GPU進行了優化。

Google DeepMind和其他Google研究人員是首批使用PaxML與NVIDIA GPU進行探索性研究的團隊。

NVIDIA NGC容器登錄服務中將立即提供用於PaxML的NVIDIA優化容器,提供全球正在構建新一代人工智慧應用的研究人員、新創公司和企業使用。

此外,兩家公司還宣布Google透過Google Dataproc服務將無伺服器Spark與NVIDIA GPU整合。這將幫助資料科學家加速Apache Spark的工作負載,以準備進行人工智慧開發所需的資料。

這些新的整合是NVIDIA和Google廣泛合作歷史中最新的進展。雙方發布多項軟硬體產品,包括:

  • Google Cloud將在由NVIDIA H100提供動力的A3虛擬機器上運行—Google Cloud宣布其以NVIDIA H100 GPU提供動力、專門構建的Google Cloud A3虛擬機器將正式推出,使NVIDIA人工智慧平台更易用於廣泛的工作負載。與前一代相比,A3虛擬機器的訓練速度提高了3倍,網路頻寬也有顯著的提升。
  • NVIDIA H100 GPU為Google Cloud的Vertex人工智慧平台提供動力—預計未來幾週內,在VertexAI上將普遍可用H100 GPU,使企業能夠快速開發生成式人工智慧大型語言模型。
  • Google Cloud將可使用NVIDIA DGX GH200—Google Cloud將成為首批使用NVIDIA DGX GH200人工智慧超級電腦的公司之一,該超級電腦搭載了NVIDIA Grace Hopper 超級晶片,可用於探索其在生成式人工智慧工作負載方面的能力。
  • NVIDIA DGX Cloud將於Google Cloud上運行—NVIDIA DGX Cloud人工智慧超級運算和軟體將可供企業直接從網頁瀏覽器中使用,以提供高速和大規模的進階訓練工作負載。
  • Google Cloud Marketplace上提供NVIDIA AI Enterprise —使用者能使用NVIDIA AI Enterprise,它是一個安全的雲端原生軟體平台,可簡化開發和部署企業級應用程式,包括生成式人工智慧、語音人工智慧、電腦視覺等等。
  • Google Cloud率先提供NVIDIA L4 GPU—Google Cloud隨著G2虛擬機器的推出,成為提供NVIDIA L4 Tensor Core GPU的雲端服務供應商。當企業從CPU切換至L4 GPU以處理人工智慧影片工作負載,可提升高達120倍的效能、效率提升99%。L4 GPU廣泛用於影像和文字的生成,以及虛擬桌面基礎架構(VDI)和人工智慧加速的音訊/影片轉碼。

追蹤我們Featrue us

本站使用cookie及相關技術分析來改善使用者體驗。瞭解更多

我知道了!