此外,HPE也與NVIDIA合作提供企業級的全堆疊生成式AI解決方案,透過此共同開發並預先配置的AI調校和推論解決方案,大小規模的企業皆能加速使用私有資料自訂基礎模型,並在邊緣至雲端的任何位置部署生產力應用程式。
HPE Hybrid IT事業群資深產品經理翁宛鈴指出,人工智慧的運用其實很早便已經開始推展,例如大家熟悉的語音辨識、人臉辨識等均是訓練模型來識別或分類資料,可謂是分辨式AI(Discriminative AI)。但生成式AI則是聚焦在文件、圖片或影音等領域,多數都是非結構化的影音、影像以及檔案等等,所需的運算以及資料量都較大。因此,HPE也特別依據生成式AI的生命週期,推出相關解決方案。
MLDE跨異質GPU 資源統一分配
她提到,從生命週期的角度來看,企業在想好了應用場景之後,便需要準備相對應的資料,而HPE Ezmeral Data Fabric Software就是為了因應資料準備所需,其可以整合各式不同的資料來源,不管是雲端、Edge端、伺服器端或第三方的來源,通通可以在這個資料湖內收攏。
在此資料平台底下,企業還可選擇HPE GreenLake for File作為儲存方案,這是全快閃的NAS方案,不僅能提高AI模型訓練和調校速度,還能加速資料彙整和準備。「這款儲存方案比較特別之處是可以支援GPU Direct。以往在存取資料的時候,就算GPU負責訓練工作,還是要透過處理器,資料才會經過記憶體到儲存設備端,如今有了GPU Direct後,無須再透過CPU,因此讀寫速度可以非常快。」翁宛鈴說。
有了資料後,HPE機器學習資料管理軟體(HPE Machine Learning Data Management Software,簡稱MLDM)便能對非結構化資料進行即時處理,協助企業精簡資料,進行資料清洗,並且提供版本管控的功能,即使是為了建立資料管線(Data Pipeline)而由資料科學家特別編寫的程式,都能提供版本控管。
HPE機器學習開發環境(HPE Machine Learning Development Environment,簡稱MLDE),則是可以協助企業在建立模型時分配GPU資源,她進一步說明,常聽到企業為了建立模型而採購GPU伺服器,但是往往單一模型就獨佔了所有資源,隨著AI的應用越來越多,資源分配就是一大問題,MLDE的優勢是可以跨異質GPU把資源統整在一起並且加以分配,例如將一台GPU伺服器的資源分給2至3位資料科學家來共用。另一種共享方式是把模型內的資料進行切割,讓每顆GPU都能運行一部分的資料,而後再統整匯集,這兩種方式,MLDE都能實現。
全堆疊生成式AI方案開箱即用
自2022年11月ChatGPT發布以來,生成式AI儼然有躍升主流的趨勢,HPE總裁暨執行長Antonio Neri在其發表的文章中提到,生成式AI是HPE視為最複雜且是由資料驅動的混合雲工作負載。生成式AI對基礎架構的要求會比傳統工作負載更高,因為它需要更多的運算能力,以處理大量分散式資料來進行訓練和學習。企業也需要創建資料優先的管道架構(Data-first Pipeline Architecture),傳統軟體處理的是組織過(Organized)的資料,而生成式AI須分析大量資料,其中有些是非結構且不可預測的資料,因此需要更先進的檔案儲存設備以及運算系統。而且生成式AI部署到業務流程中也很複雜,因為需要調整組織的營運模式,而且還要培訓團隊,以便能夠有效地合作。
對此,HPE也與NVIDIA合作,推出開箱即用的全堆疊AI調校和推論解決方案,協助迅速展開AI旅程。如果企業資料量較大、運算需求也高,可以選擇HPE Cray超級電腦,搭配HPE Slingshot高效能乙太網路架構或NVIDIA Quantum Switches,若是只有一、兩個模型需要訓練,就可以選擇HPE ProLiant DL380a伺服器、預先配置的NVIDIA L40S GPU與NVIDIA BlueField-3 DPU,以及NVIDIA Spectrum-x乙太網路平台作為底層架構。中間層則搭配HPE的AI軟體,即MLDE模型訓練軟體或者HPE Ezmeral軟體。最後還可整合NVIDIA AI Enterprise(專門為AI解決方案推出的框架式架構)以及NVIDIA NeMo。
若是企業有儲存的需求,企業也能選擇HPE GreenLake for File作為儲存方案。除此之外,有鑑於資安以及ESG的重要性,企業也能搭配Zerto Cyber Resilient Vault,以及OpsRamp,前者是資料保護方案,後者是ITOM的解決方案,可監控、觀察、自動化並管理混合多雲端環境的IT基建、雲端資源、工作負載及應用程式。
全新AI服務助企業找尋使用場景
根據麥肯錫最新的調查,三分之一的企業組織經常在至少一項業務職能中使用生成式人工智慧。除此之外,40%的企業表示,隨著技術的進步,預估將增加人工智慧投資。而這也意謂著,如何運用生成式AI找到新的機遇與商業價值,甚至進一步帶動營收成長,保有未來競爭力,已是未來企業亟需應對的課題。然而,對企業而言,將成生式AI引入到企業環境中可能是一項複雜的工作,別的不說,光是找到具有意義且可行的應用場景可能就令企業頭痛不已。
對此,HPE也提供諮詢、人才培訓和解決方案部署等廣泛的服務。全新的AI服務會引導企業完成從GenAI和LLM的探索到執行的完整流程,讓企業可以開發最佳的操作模型和混合雲資料策略,以建置、部署和擴展解決方案,進而創造革命性的成果。舉例來說,生成式AI探索工作坊可以協助企業探索業務需求來評估檢查可能的使用場景;而轉型工作坊則涵蓋人工智慧、機器學習、大數據以及分析相關主題,好處是可以快速地啟動AI項目,協調業務、數據和IT營運團隊,探索機會、優先事項並選擇相關場景,確定資料來源以及準備程度,並且制定更高層級的策略藍圖;走到執行面後,也有AI專家可協助企業將預先訓練的AI模型整合到現有IT環境中,以協助企業使用進階最佳化技術部署AI解決方案。