將此篇文章跟 Facebook 上的朋友分享將此篇文章跟 Plurk 上的朋友分享將此篇文章跟 Twitter 上的朋友分享列印轉寄
2019/2/22

高速GPU互連 獨家技術共享記憶體

超級電腦級主機 助AI產業應用

余采霏
IBM Power System AC922採用的是NVLink 2.0架構,頻寬可達300GB/s,不僅支援GPU與GPU之間高速互連,還能做到記憶體共享。在進行高解析識別時,遇到GPU的記憶體容量不足,便可存取主記憶體,無須犠牲品質或速度。
人工智慧(AI)漸成顯學,AI業應用也不斷地擴大,從運動員的投打表現、癌症腫瘤的自動判讀,到養殖池的產收、路面交通管理,到處可見人工智慧投入的身影,這背後,除了軟體技術之外,更需要強大的IT基礎架構來支持,畢竟人工智慧的基礎便是大數據,不管是機器學習,還是洞察龐大資料所隱藏的訊息,均需要運算力來加以提煉。

▲ IBM與群環科技在去年攜手打造IBM PowerAI Demo Center,創造實驗場域,IBM Power System AC922已進駐在此場域中,透過群環專業人力與加值服務,可為企業加速實踐AI,進一步落實數位轉型。
為了因應此一需求,企業市場上也開始催生出AI專用伺服器,典型的例子當屬IBM的Power Systems伺服器。2018年拿下超級電腦龍頭寶座的美國能源局橡樹嶺實驗室新一代Summit超級電腦,就是採用IBM Power System Accelerated Compute Server(AC922),這款伺服器除了搭載專為AI量身打造的POWER9處理器外,最多還可整合6張NVIDIA Tesla V100 GPU顯示卡,藉由NVIDIA NVLink架構,處理器與GPU之間得以高速互連。

IBM大中華區硬體系統部首席技術長暨傑出工程師李永輝指出,IBM Power System AC922採用的是NVLink 2.0架構,不僅支援CPU與GPU之間高速互連,同時還可讓加速的應用程式將系統記憶體做為GPU記憶體充分利用,「許多人工智慧的應用都是跑在GPU自帶的記憶體上,但目前最高只有32GB的記憶體空間,極為有限,而IBM Power System AC922可提供TB等級的記憶體,在進行高解析識別時,遇到GPU的記憶體容量不足,還可以存取主記憶體,如此便能解決過去解決不了的問題,也無須犧牲品質或速度。」

雲象科技共同創辦人葉肇元醫師便坦承,在進行醫療影像AI的過程中,遇到了非常多的挑戰,除了領域知識深厚、醫療資料極為龐雜之外,醫療影像的運算也是非常大的負擔。

而這也是為何硬體在AI應用中非常關鍵的原因,「平心而論,現在的AI晶片與硬體設計離最後的理想階段還有一大段距離,尤其是記憶體的需求,即便是NVIDIA Tesla V100也只有32GB的記憶體而已,如何將數位病理這麼大的影像塞進32GB內,更不用說GPU上的記憶體其實非常昂貴。」雲象科技在近期選擇採用IBM Power System AC922,即是看重其可運用到主記憶體的優勢,大型模型訓練的獨家技術—Large Model Support(LMS)可以加快深度學習模型的訓練時間,經過嘗試,AC922的運算速度是其他平台的5倍。

有鑑於AI場景應用遍地開花,目前IBM也鎖定醫療業、製造業、運輸業、金融業以及零售業等產業領域,以具體落地、務實可行的應用案例印證AI的差異化價值,舉例而言,醫療業可用於快速精準的癌細胞檢測、血液細胞檢測、腦癌3D影像檢測,協助醫療院所提升病理判斷與醫療決策的品質;零售業則可用於零售影像分析,分析人流與貨物狀態,以精準行銷提升營業額、監測產品品質以確保商譽,並優化營運與人力管理。另外,金融業也能以AI為核心的期貨與匯市預測,協助投資人做出更精準的判斷。

這篇文章讓你覺得滿意不滿意
送出
相關文章
建生態系組合方案更全面 壓低成本跨越推廣障礙
數位工作智慧化 事務機變聰明
2019企業儲存趨勢預測 從雲到端資料變革演進
Sophos Home 新增預測性人工智慧功能
數位潮流帶動新機會 電信業重新譜寫賽局劇本
留言
顯示暱稱:
留言內容:
送出