redhat GenAI RHEL AI OpenShift AI InstructLab Podman

三階段逐步應用 降低企業資本支出

以開源為核心 混合型AI有前景

2024-12-05
基於開源陣營技術發展解決方案的Red Hat(紅帽),成立迄今已超過30年。面對生成式人工智慧(GenAI)受到企業高度關注,Red Hat亦積極跟進,發布跨混合雲環境的Red Hat Enterprise Linux AI(RHEL AI)與OpenShift AI平台,並提出「企業AI應用三部曲」策略,幫助企業運用開源技術實踐混合型AI應用場景。

Red Hat全球副總裁暨大中華區總裁曹衡康指出,AI雖然已有悠久的發展歷史,但在ChatGPT崛起後,再次掀起應用的熱潮。然而,AI的普及並非僅依賴運算能力或基礎架構的發展,而是需要一個完整的生態系統,包括穩固的運算基礎、演算法和實際應用的支持。這些元素相輔相成,才能真正將AI的價值帶入企業。

他提到,AI發展的關鍵在於「算法」與「算力」。早在1997年,IBM的超級電腦「深藍」戰勝西洋棋冠軍,為AI技術創下里程碑,但由於當時運算能力不足,導致AI未能廣泛應用。如今,隨著科技巨擘大規模投資建置GPU基礎架構,AI算力瓶頸逐漸突破。但企業也開始面臨成本高昂的挑戰,因此曹衡康認為,混合型AI架構有助於提升效率並降低概念驗證成本。

在基礎架構上,Red Hat認為企業無須一味地投入資本支出建置大量的GPU,利用混合雲的特性,可使AI應用既能在公司內部的資料中心運行,也能部署到公有雲平台,甚至擴展至邊緣運算場域。

針對安全與透明性方面,曹衡康指出開源技術的優勢,在於全球技術專家共同參與開發,比閉源系統更具透明性和可解釋性,因此開源模式更有助於企業完整掌控AI應用。「Red Hat推崇的混合雲架構為AI部署提供了擴展性,而開源軟體所帶來的靈活性則能有效降低部署成本。透過容器和Kubernetes等技術,企業可以依據應用需求將AI工作負載部署於雲端或邊緣,這樣的架構為企業帶來了生產力提升、投資報酬率增長和智慧決策等具體效益。」

至於如何將開源方法帶入企業,曹衡康建議企業可採取AI應用三部曲的策略,以實驗、發展與擴展三階段來逐步導入。他進一步說明,初期可在本地環境內進行小規模實驗,僅需透過一台筆電安裝Podman Desktop容器管理工具,便可利用Red Hat和IBM共同提出的開源工具InstructLab進行初步測試。Podman Desktop支援多種作業系統,並提供圖形化介面,簡化管理容器叢集的門檻。

經過實驗後再將應用服務部署於RHEL的Hypervisor或容器集群環境上,最終利用OpenShift進行大規模部署。這樣的分階段方法,使企業能夠循序漸進地採用AI技術,降低風險並提升靈活性。

Red Hat全球副總裁暨大中華區總裁曹衡康認為,以開源為核心,利用跨領域的合作,將促使AI技術的發展更具協作性與包容性,藉此合作模式成為各種應用場景的基石。

在AI技術的未來發展方向上,曹衡康認為,無需依賴大量GPU資源的小模型將成為主流,並可望透過InstructLab社群提供的開源解決方案實現AI模型的創新。此外,開源技術有利於多方協作,Red Hat與Intel、AMD、NVIDIA和Arm等合作夥伴的跨領域支持,將為AI技術在未來的蓬勃發展奠定基礎,以協助企業打造出具競爭力的AI應用模式。


追蹤我們Featrue us

本站使用cookie及相關技術分析來改善使用者體驗。瞭解更多

我知道了!