當AI應用快速演進,研發資料中心正成為半導體企業投入AI研發的重要基礎設施,並直接影響電子設計自動化(EDA)、晶片專案開發、模型訓練、推論測試與全球研發協作效率。聯發科技近期於苗栗銅鑼科學園區啟用研發資料中心,主要因應全球營運規模擴張,以及邊緣人工智慧(Edge AI)與雲端人工智慧(Cloud AI)解決方案研發需求升高。
聯發科技全球人力資源本部設施管理與工程處處長丁祖望表示,這座研發資料中心採自建模式規劃,任務在於支援公司既有與未來全球營運需求,並為AI世代的新產品與新市場機會預先配置基礎設施能力。
丁祖望說明,銅鑼基地位於園區南側,占地約25,000平方公尺(2.5公頃),整體採三期模組化建置,2023年宣布啟動,2026年第一期正式啟用,後續第二期與第三期將依業務成長與實際需求彈性投入建置資源。聯發科技資訊工程本部全球資訊服務副處長黃博揚補充,第一期電力容量約15MW,若後續兩期依同等規模規劃,三期合計可達45MW。這項規劃顯示,資料中心投資已被納入中長期研發基礎設施布局,而非僅以短期硬體採購需求作為擴充依據。
自建算力底座支撐研發與營運
聯發科技新啟用銅鑼研發資料中心的核心目標之一,是支援全球AI研發需求的高算力訓練與推論平台。黃博揚說明,該中心建置全台首座以NVIDIA DGX B200平台驅動之NVIDIA DGX SuperPOD運算叢集,作為AI訓練與推論平台的基礎。團隊透過節點擴充架構與系統調校,讓多個運算節點形成可擴展的運算叢集。
聯發科技研發資料中心採用單相浸沒式冷卻技術,讓能源使用效率優化至PUE 1.1,提升冷卻效率2.6倍。
就實際負載來看,黃博揚表示,該平台每月可處理高達1,380億個Token,達成超過2.4萬次模型訓練迭代。不過他也指出,Token只能反映部分AI語言模型運算負載,聯發科技相當大一部分算力需求仍是為了滿足積體電路(IC)設計流程中的電子設計自動化(EDA)。由於EDA軟體工作負載無法用Token單一指標衡量,但它是支援晶片設計、驗證與模擬的重要基礎。因此,算力平台的投資重點在於工作負載適配,未來若不同加速運算架構更適合特定研發場景,也會依內部需求規格、供應鏈成熟度與維運條件納入評估。
節能冷卻與供電韌性同步設計
隨著AI GPU與高效能伺服器功耗升高,資料中心的散熱與供電設計直接影響總持有成本與可用性。黃博揚指出,第一期機房同時採用氣冷與單相浸沒式冷卻技術,其中一樓為採氣冷架構的AI GPU算力中心,承載NVIDIA DGX B200平台驅動的DGX SuperPOD運算叢集;三樓則導入以x86 CPU架構伺服器為主的單相浸沒式冷卻機房,作為高效能運算與節能驗證場域。聯發科技透過風道設計與高效率空調製冷系統優化,使氣冷區電源使用效率(PUE)降至低於1.36。面對未來高效能運算的散熱挑戰,團隊自2023年開始研究與驗證浸沒式冷卻,並於第一期正式導入。
聯發科技研發資料中心透過中控室即時監測全區能源使用與設備運作狀況。
黃博揚說明,單相浸沒式冷卻的核心包含槽體、非導電絕緣冷卻液、運算伺服器與熱交換器。伺服器浸入冷卻液後,熱能由冷卻液帶走,再透過熱交換器轉移至外部冷卻水塔。經聯發科技內部測試,單相浸沒式冷卻可使冷卻效率提升2.6倍,能源使用效率最佳化至PUE 1.1。由於伺服器隔絕空氣中的灰塵,也移除風扇噪音與震動,長期有助於提升系統穩定性與設備壽命。至於GPU是否全面採用浸沒式冷卻,黃博揚表示,CPU伺服器已經過技術驗證,但GPU世代變化很快,仍須配合生態系、規格與工作負載持續評估。
聯發科技打造NVIDIA DGX B200 SuperPOD運算叢集的AI訓練與推論平台。
在供電規格上,丁祖望表示,銅鑼研發資料中心採晶圓廠等級穩定供電系統,台電161kV特高壓環路供電具備兩個外線迴路,外線異常時可由另一迴路承接。全區電力系統採2N雙備援設計,並搭配UPS、不斷電切換、備用發電機與機櫃雙迴路供電。黃博揚補充,廠區內外線、機櫃與發電機均以備援為原則,目的在於讓研發資料中心的算力不因供電異常中斷。
永續設計也是這座資料中心的重要規劃。丁祖望指出,第一期建築依綠建築鑽石級最高規格建置,已取得候選標章,並導入雨水回收、外殼節能、生態綠網與再生能源等設計。基地綠覆蓋率達30%,以原生種為主規劃280棵喬木,屋頂可用面積設置太陽能板。聯發科技提供資料進一步揭露,自用太陽能板規劃235kW容量,年發電量可達28萬度;除民生用水維持使用自來水外,廠區空調與冷卻系統也開始採用銅鑼科學園區再生水,透過精密循環系統降低自然水資源消耗。