規格大戰轉向工作負載　硬體卸載定義軟體成趨勢

今年初，戴爾科技發表2021年十大主要趨勢，而這些趨勢同時也反映在伺服器發展的發展與產品設計，除了採購行為的轉變外，新興技術如人工智慧（AI）／機器學習（ML）、處理器與相關元件的發展以及對於安全性的重視，在在都進一步影響伺服器設計。

十大影響伺服器的趨勢

首先，即服務（as-a-Service）將成為企業的主流政策。隨著科技持續發展，企業面臨預算緊縮與陳舊技術的窘境，同時還需要將部署與維護成本降至最低，因此，企業將愈來愈習慣於消費模式（Consumption Model），從原本以硬體為中心的思維轉成以服務層級協議（SLA）為導向，而不是拘泥於硬體規格。

其次，伺服器已朝垂直領域發展。企業期盼能從基礎架構中獲取最有效的成果，將會有更多垂直化與客製化的整合方案出現，而軟體生態系以及專業領域的加速器，更將展現獨特的效能與功能，並針對特定商業目標進行最佳化。台灣戴爾科技集團技術副總經理梁匯華解釋，從廠商的角度來看，伺服器成長垂直化有點像是應用伺服器，軟體與硬體將會愈來愈緊密的結合，從而提供一個完整的服務。

隨著資料被快速創建與累積，許多企業採用人工智慧（AI）／機器學習（ML）進行分析，所談論的範圍都是圍繞在如何運用資料協助企業變得更智慧化，如何整合資料管理模型（Data Curation Model）、傳輸方式、保存以及安全性架構，搭配更快的分析運算，將是行為網路（Internet of Behaviors）與獲利的致勝關鍵。另外，也有愈來愈多伺服器運用遙測、分析與策略運用的自動化系統管理基礎架構，自駕式伺服器將會興起，AIOps功能將開創一個將自動化任務轉為自動化決策的嶄新時代。

在軟體定義一切的趨勢下，硬體角色逐漸被淡化，但實況是還是有些工作負載需要硬體卸載，「硬體卸載定義軟體」將是另一個值得關注的方向。而經過多年的企盼與努力，5G開始在通訊建設、遠端管理模式與連網能力等領域帶動根本性轉變，進而影響伺服器的規格與功能。其他還包含了重新思考「以數據為中心」的記憶體與儲存，伺服器不僅是CPU競賽更是整合能力的競賽，以及衡量IT信心指數。另外，因為遠距工作，企業在工具、流程與基礎架構之間，需要從遠端進行快速地數位轉移，也促使企業必須評估新的伺服器技術與資源需求，包含遠端除錯、遙測以及分析的功能也不可少。

梁匯華指出，不少處理器業者正在強化自身於CPU、DPU與加速器的產品，隨著半導體業者動作更為積極，應用架構演進成控制平面與資料平台的拆分也將更為明確，在軟體定義的時代下，邊界已經被打破，企業毋須再像以前一樣，思索一台伺服器主機可以承載多少個應用程式，甚至只需要一個容器就可以運行得很好。然而，運算還是有其重要性，就算有軟體的堆疊，沒有運算與伺服器平台，依舊無法運行。「其實硬體的需求並沒有消失，只是變成大家希望的面貌，變得更彈性、更方便地因應需求改變而已。」

另一方面，隨著產業從以運算為中心的架構過渡到以資料為中心的架構，預料也將會催生出連結記憶體及儲存模式的新型伺服器。他提到，除了持續性、加密和分層記憶體以及NVMe與SCM技術之外，未來處理器與記憶體很可能是解構的狀態。「傳統的x86架構，記憶體都是依附在主機上，很難被別台主機來取用，但如果有專門的節點各自負責記憶體與處理器，就能夠打破x86架構的先天隔閡，如此，記憶體就可以宛如現今的儲存一樣被使用。而這也是Gen-Z聯盟現在正在推動的方向，雖然這個概念能否成功還有待觀察，但是就趨勢發展來看，其實很有可能。」他說。

另外，隨著伺服器存取與資料保護的安全性將面臨比以往更嚴峻的挑戰，因此，企業須量化其資料安全信心指數，以便衡量基礎架構的可信任度，並辨別各種數位風險。所謂衡量IT信心指數指的是企業亦需要分析其產品的來源、功能、安全性技術以及伴隨數位化而來的風險，以因應日趨嚴格的法規，並從邊際、核心到雲端，規劃出一套IT可信度評估量表。

從規格之爭到工作負載

從上述的趨勢其實不難想見，影響伺服器設計的因素，並不僅只於各式零組件的發展，而這些因素也驅動了伺服器Form Factor的變化。時間如果倒轉回到十年前，幾乎所有的伺服器都有一個共同的特點，就是在有限的伺服器空間內，塞進更多的元件或是資源，A廠牌的伺服器可能比B廠牌的伺服器硬是多了兩顆硬碟，或是在固定的空間內塞進了更多的節點，或是支援更多的擴充槽，簡而言之，就是規格的戰爭。

回顧十年前，高密度配置是一項潮流，有鑑於資料中心的空間有限，為了在42U的機櫃中盡可能地擺放最多台的伺服器，各式變型機種，例如刀鋒伺服器（Blade Server）、多節點伺服器（Multi-node Server），甚至是微型伺服器（Small Form Factor），都在當時傾巢而出，進入企業市場。現今雖然在有限的空間下提供最多資源的想法並沒有改變，但在設計上卻慢慢轉往工作負載靠攏，而且在機種的選擇性也有所收斂，更對應到現今的應用場景。

梁匯華認為，這些變化其實都與工作負載有關。「Dell是一家很早就談及『工作負載』的業者，約莫在2013年就開始從工作負載的角度來看待伺服器，」他提到，早期因為大家都不關心工作負載，沒有花時間理解企業環境到底運行了什麼樣子的平台或服務，所以在策略上採取產品多樣化的方式，藉由推出非常多樣的Form Factor讓企業選擇，有些企業會考量未來的擴展性，可能會選擇記憶體插槽較多的型號，但如此一來也可能買到一個超乎預算的規格，卻不知道未來到底會不會有相關的擴充。

「但是，現在的思維已經與過往不同，更強調可擴展的設計，」梁匯華以超融合基礎架構為例進行說明，十年前許多企業可能不會接受這樣的產品，換算下來，也沒有特別便宜，而且外型就像是一台普通的伺服器，還不如按照傳統三層式架構來部署，後來才瞭解，超融合基礎架構的價值就在於企業不必再購買超額的設備，真的不夠用也只需要再添購一個節點，而且空間與效能都呈現線性成長。當伺服器業者愈專注在了解企業工作負載，就愈容易設計出對應實際需求的伺服器，而不是以多樣化來取勝，甚至於可以定位出哪些工作負載特別適合哪些伺服器機種，「舉例而言，高效能運算的工作負載，追求的是每1U的核心數，所以一定會往高密度發展，像是2U四節點的設計就很常見。而人工智慧的應用環境大多會追求GPU的密度，一般在2U伺服器內最多只能支援2張或者是3張250W以上PCIe介面卡版本的GPU，但是新一代Dell EMC PowerEdge R750xa就支援到四張GPU卡，原因便在於Dell觀察到企業的需求是以4的倍數起跳。」

另一個導致伺服器產業線精簡的原因是源自於雲端虛擬化以及軟體定義的影響，他提到，現今只要是輕工作負載，基本上都已經被整合到較大型的設備上了，過往那些短縱深、只要一顆低階處理器就能運行的Web伺服器，幾乎都大量被取代了，因為企業只需要幾台較大型的主機，就可以藉由虛擬化或容器技術服務過去100至200台的工作負載。

新一代PowerEdge因應AI與邊際運算

伴隨著Intel、AMD分別發表新款處理器平台，戴爾科技也一口氣推出17款新一代Dell EMC PowerEdge伺服器系列，協助企業分析與處理儲存在任何地方的資料。舉例而言，搭載第三代AMD EPYC處理器的PowerEdge R6515，在Hadoop大數據資料庫中，可讓數據處理能力提升高達60%，協助企業更快獲取洞察。而搭載第三代Intel Xeon Scalable處理器的PowerEdge R750則在處理大規模平行線性公式方面提升高達43%的效能。

同樣的，在AI優化因應數據密集型的工作負載，也有兩款全新伺服器。PowerEdge XE8545是一款支援AI工作負載的強大機種，能支援最新的AI和數據分析的高速運算，企業能更輕鬆地在同一個系統中運行AI、分析以及高階運算等工作負載。這款雙插槽4U規格的機架式伺服器，最高能搭載128顆第三代AMD EPYC處理器的核心、四顆NVIDIA A100 GPU，並透過NVIDIA vGPU軟體達到最佳化效能。

而PowerEdge R750xa伺服器則是一款為特殊用途打造且能提升加速器效能的機種，針對機器學習訓練、推理以及AI應用提供GPU密集運算效能，並支援專為VMware vSphere 7 Update 2推出的NVIDIA AI Enterprise軟體套件。此款雙插槽2U伺服器搭載第三代Intel Xeon Scalable處理器，最高支援四個雙寬GPU以及六個單寬GPU。針對邊際運算的強固型伺服器也有PowerEdge XR11與XR12兩款伺服器，藉由強固型機箱、最小的機身體積以及支援多個加速器的功能，來滿足邊際工作負載需求。

風冷壓制有極限

另外，在這17款伺服器中，也不乏配備直接液冷系統（Direct Liquid Cooling）搭配專利滲漏偵測技術的機種。梁匯華認為，未來液冷式伺服器將會慢慢成為一個主流，因為風冷技術很難再壓制機器所產生出來的熱。」

「我們發現，高密度伺服器特別是2U四節點機種，若是採用超過240W的處理器，基本上風冷就無法壓制，一定要往液冷的方向設計，」他進一步解釋，Dell的作法是每個機櫃上方都會有一個泵浦，因為液冷管內的水並不會流動，所以需要透過泵浦的加壓，讓水可以帶動。而泵浦的上方還有一個熱交換器，當冰水從外部進入機櫃內的熱交換器，經由液冷管進到各個主機進行熱交換，之後再透過熱交換器再流出到外部，形成一個循環的過程。

至於沉浸式的冷卻系統，梁匯華認為要進入企業級市場可能還需要一些時間，主要原因是對於傳統的IT維運人員來說，難度太高。非導電性液體還是有一些安全性的考量，反觀雲端服務供應商的市場，相對會比較有機會。