AI高速運算,資料中心碳排放相當於航空業!專家選股策略關鍵字:散熱系統
我們正進入生成式人工智慧的時代(AI),不過,AI是高速運算,需要用電很大,所以要講究資料中心的電力使用效率(PUE - Power Usage Effectiveness),是指資料中心之總電力除以IT使用電力,因為資料中心還會產生很大的熱量,需要有效排出。
生成式AI伺服器因高速運算對熱設計功耗(TDP)要求較高,意思是處理器達到最高功率上限所釋放的熱量,越高的熱設計功耗,散熱系統負擔就越大,目前資料中心的散熱導管已接近極限,為了ESG和降低能耗,需提升AI的散熱成效。
過去散熱大都採用風扇,因為生成式AI伺服器的機架厚度是2U,為60x60x56mm或60x60x76mm,需要再增加一顆風扇,會增加成本,單價需提高80%~90%,採氣冷式散熱的伺服器需要很大的空間,才能有很好的通風,這是不利邊緣運算的發展。
液冷式散熱系統可以節省空間和能耗
以輝達公司 (NVIDIA) H100的TDP 700W來看,如果採氣冷式的散熱,例如3DVC(採用均熱片和熱導管),則需要4U以上的空間,雖然解熱效能未來可以提升,成本具優勢,但難脫傳統空氣調節系統(HVAC),PUE無法下降,目前無法符合高密度架構的散熱系統,散熱系統占資料中心耗能約33%,同時目前 TDP達350W~400W是散熱的極限,所以電力使用效率必須再提升,過去大部分資料中心傳統散熱PUE大約是1.6~1.8,未來歐盟和中國要求興建的資料中心PUE則要低於1.3。
水的熱容量是空氣的4倍,如果導入液冷式散熱系統,液冷板只需要1U的空間,是採用液體冷卻管和散熱系統。根據輝達公司測試,液冷所需的機櫃量可以減少66%,能耗減少28%,PUE可由1.6降為1.15,同時提升運算效能。但是採用液冷式的散熱,必須開始建置資料中心時,就要納入設計和準備,這是一個裝置門檻,但可裝置在狹小的空間內,腹地有限的資料中心即能採用。
液冷和氣冷混合系統則可以用於不打算更改現有資料中心的架構,可以採用液對氣或液對液,散熱效果很好,不需安裝如氣冷式的散熱零組件,例如散熱片和風扇,可以讓液冷式伺服器增加更多處理器,增加運算能力。
資料中心碳排放猶如航空業 台灣有最強的散熱供應商
資料中心碳排放相當於航空業,能源用量也很高,需要新一代的解熱技術,根據台達電的資料,由台積電攜手國內供應商設計可裝載低沸點絕緣冷卻液氣密槽,將需散熱的伺服器泡於槽中,運用相變散熱原理,自然循環散熱,浸沒式液冷散熱系統PUE已可從1.35降至1.08,冷卻能力達100kW以上,減少15%~30%的能耗,CPU效能提升10%~15%,讓其95%效能運行,未來只需抽換主機板,可達減廢50%。
同時,移除風扇,使機房安靜,減少震動,電子品質可以穩定,相比傳統散熱,溫度控制在35度C以下,CPU效能則受限達80%。一個先進的資料中心講究可擴充性,液冷式和浸沒式液冷方案逐漸普及,才能因應ChatGPT和更高階的伺服器,而其TDP達700W以上者。
目前台灣上市櫃公司採用或供應資料中心伺服器具浸沒式液冷散熱系統相關的廠商有台達電、緯穎和技嘉;採用或供應資料中心混合式(液冷和氣冷)散熱系統為雙鴻、技嘉、英業達和廣達,採用或供應氣冷式(3DVC)散熱系統為奇鋐,投資人可以多留意。(作者為前元大金控集團證券公司自營部主管,現任麒鑫投資公司研究部資深副總經理)
9 小時前 — AI高速運算,資料中心碳排放相當於航空業!專家選股策略關鍵字:散熱系統. AI效能不斷提升,資料中心「散熱」成為當務之急!投資人可. 撰文: 孫慧芳 ...
10 小時前 — 澳洲清淨能源管理組織(Clean Energy Regulator)指出,2023 年上半年電網新增來自16 萬戶、容量達1.4 GW 屋頂太陽能系統,預計今年可上看3GW。執行長 ...
2023年4月28日 — 操作品牌質形力的關鍵在「形千萬不可勝於質」,消費型企業的預算配比建議是質七形三。愈是接近消費者的品牌,愈要避免讓實際的消費體驗(質力)和形諸 ...
11 小時前 — 專家預測CBAM將導致產業外移至非歐盟國家,如鋼鐵業。儘管CBAM符合WTO ... 運算,資料中心碳排放相當於航空業!專家選股策略關鍵字:散熱系統 · 日照資源 ...
中文關鍵詞: 航空產業、五力分析模型、活動體系圖、競爭策略、創新票價產品、定價 ... 本系統共收集:論文全文:40163 筆、摘要:40189 筆目前上線人數:35 / 訪客人次(自 ...
航空 餐 勤 管理人員星宇航空徵才機場英文對話C 語言 運算星宇航空地勤dcard專家系統應用c++ +低 碳 航班航空業職位華航碳排放計算 [no_relate_sql.name;block=a]
有燒香有保庇?專家:小心增心血管疾病風險!環保供香無汙染救地球-華人健康網
但是,臺大醫學院毒理學研究所教授姜至剛指出,燒香產生的懸浮微粒(PM2.5)含有甲醛、乙醛等重金屬物質,高機率可能誘發心血...
張効維牙醫博士矯正專家談牙齒矯正的重要性及過程
張効維[1]牙醫博士專精牙齒矯正,技術精湛,服務馬州洛城(Rockville,MD)已有20多年,一直以來,贏得了廣大顧客的愛戴,為了...
心臟病患全家都確診只有他沒事原是「三高護體」防疫專家打三劑高端臨慘況
嚴重心臟病人全家都確診,但他卻完全沒事,原來他有「三高護體」!不是高血壓高血糖的三高,而是三劑疫苗都打高端疫苗。心臟...
立冬轉運好時機!命理專家曝4招立冬轉運大法家中這裡擺橘子、橘皮招好運
準備入冬了,11月7日為一年一度的「立冬」。星座命理專家艾菲爾指出,立冬是年尾交年運重要的節氣,也是年運交接之時,一定...
基因算命!次世代基因定序將納健保健保署長石崇良曝「三層次規劃」
基因定序的功能有如「算命」,健保署署長石崇良今(26)日表示,健保署針對次世代基因定序(NGS),已召開專家會議討論是否...
法國也吹起內服膠原蛋白補充食品的風潮?讓專家教你怎麼吃最有效!加碼Google熱搜...
膠原蛋白對於肌膚跟軟骨都非常重要,但研究指出膠原蛋白從20歲就會從體內開始急速減少,隨著歲月流逝,但可以透過每天穩定補...
全國最短命、女性高血壓最多!日本3大「不健康縣」這樣吃出癌症、糖尿病、中風-早...
日本長壽縣市的養生、延壽習慣始終是人們關注的焦點。不過,若排序全日本的行政區,也有不少縣市居民的健康狀況敬陪末座。日...
老年人蛋白質攝取標準提高,營養專家推薦一份食譜-Yes-Pick
近日,中國營養學會編著的《中國居民膳食營養素參考攝取量(2023年版)》(以下簡稱《參考建議》)正式發表。與10年前的版...
孩子確診康復後又高燒不退?醫建議盡速就醫恐是孩童多系統炎症徵候群!
一名11歲的小冠,今年5月底全家一起確診,在發燒兩天後病況好轉回復正常,但1個月後突然高燒到39度,服藥後仍反覆發燒,還嘔...