研發 AI 差點跳電?台科大校長揭露大學算力與用電雙重困境

30 秒看重點

  • 事件:台科大校長指出,大學研發 AI 面臨電網老舊與電費高昂的實質物理限制。
  • 意義:這揭示了台灣高教在追求 AI 轉型時,基礎設施與經費的嚴重脫節。
  • 影響:若不解決,大學將難以自主訓練模型,導致台灣 AI 研發與人才出現斷層。

台灣要當「AI 矽島」,但大學實驗室可能先面臨跳電危機!台科大校長近日指出,高階 AI 伺服器耗電量極大,大學若要自主研發 AI,不僅電費無法負擔,校園老舊電網更難以承受,這場「搶電與搶預算」的隱形戰爭,正考驗著台灣高教的科技研發實力。

關鍵數據:台科大校長顏家鈺指出,跑高階 AI 運算的電力與冷氣消秏驚人,高教預算根本難以長期支應。

為什麼頂尖大學蓋不起自己的「AI 算力中心」?

跑 AI 模型就像在老舊公寓裡同時開啟十台氣炸鍋與微波爐,脆弱的校園電網根本無法承受如此龐大的瞬間電流。台科大校長顏家鈺指出,現在大學要發展 AI,硬體「買得起卻養不起」已成為公開的秘密。一台搭載高階 GPU(如 NVIDIA H100)的伺服器,運作時的耗電量與發熱量極其驚人,學校不僅要支付高額的運算電費,還必須斥巨資升級實驗室的冷氣散熱系統與電力配線,否則隨時有跳電走火的風險。

除了電力這隻「吃電怪獸」,「經費」則是另一個殘酷的現實。政府雖然鼓勵大學發展 AI,但補助通常只夠買設備(資本門),後續維護、電費等(經常門)卻要學校自理。在電價調漲、高教經費凍結的現狀下,學校根本無力負擔一年動輒數百萬的電費,導致許多昂貴的 AI 伺服器只能「省省地用」,無法發揮最大效益。

  1. 2023-05:生成式 AI 在全球爆發,台灣各大專院校紛紛成立 AI 研究中心、搶購 GPU 設備。
  2. 近期:台科大校長等高教領袖公開示警,校園電網老化與運算電費已成為大學研發 AI 的最大物理瓶頸。

台灣怎麼看這件事?

台灣雖然身為半導體硬體強國,但如果高教端因為「怕跳電、付不起電費」而無法訓練模型,台灣未來的 AI 高階人才將會出現斷層。學生如果只能透過 API 調用國外的現成模型(如 OpenAI),而無法親手從底層訓練模型,台灣將失去培養「架構級 AI 人才」的機會,未來在軟體與演算法的競爭中恐落後他國。

編輯觀點

AI 研發不是只靠熱血,而是現實的基礎建設與資源戰。政府在編列 AI 教育預算時,不應只盲目補助學校「買硬體」,更該針對「校園電網升級」與「營運電費」進行專案補貼,或由國家主導建立「綠能學術算力池」讓學校共享,才能避免台灣的 AI 夢碎在電費單前。

常見問題

Q1:為什麼大學研發 AI 這麼耗電?
因為訓練 AI 模型需要成千上萬顆 GPU 同時進行高強度運算,這些晶片發熱量極高,需要強大的冷氣系統持續散熱,兩者相加產生極高耗電量。
Q2:大學不能用雲端算力避開用電問題嗎?
雲端算力(如 AWS、Azure)租用費用極其昂貴,對於需要長期、反覆測試的研究團隊來說,長期租用的經費甚至高於自己買設備,學校同樣難以負擔。
Q3:電價上漲對大學 AI 研發有什麼影響?
電價上漲會直接壓縮學校的學術預算,導致實驗室必須限制 AI 伺服器的運轉時間,進而拉長研究週期,減緩科研成果的產出。
Q4:老舊校園電網對 AI 設備有何風險?
高階 AI 伺服器需要穩定的高功率電流,老舊電網容易因負載過重而跳電,這不僅會中斷數天甚至數周的訓練進度,更可能燒毀價值數百萬的昂貴晶片。
Q5:政府目前有什麼解決方案嗎?
目前政府主要提供設備採購補助,但高教界呼籲應進一步放寬經費流用限制,並由國家建置共享的學術算力中心,以減輕各校電力與維護負擔。

名詞小教室

算力(Computing Power)
就像大腦的運算速度。算力越高,AI 思考和學習的速度就越快,能處理的問題也越複雜。