AI基建燒錢大戰!輝達、博通搶攻CPO新藍海

30 秒看重點

  • 事件:輝達、博通等科技巨頭,正積極搶佔AI伺服器關鍵零組件CPO市場。
  • 意義:AI算力爆炸式成長,帶動對更高速、更節能的資料傳輸需求。
  • 影響:台灣半導體產業有望受惠,但需跟上技術演進,確保關鍵地位。

AI科技的野心勃勃,正悄悄推升著硬體成本的極限。為了餵飽這些越來越聰明的AI模型,龐大的資本支出成了必要之惡。現在,目光焦點轉向了AI伺服器裡頭那些默默工作、卻至關重要的「傳輸心臟」——CPO,這場圍繞著AI基建的軍備競賽,台灣的地位與未來,繫於此役。

關鍵數據:AI帶動的資本開支激增,高盛報告指出,AI伺服器每台成本已達數萬美元,CPO是其中一塊重要且快速成長的市場。

AI運算大爆炸,誰來扛住傳輸的龐大壓力?

這場讓全球科技界為之瘋狂的AI革命,就像在為一個超大型的數位大腦不斷餵食資訊、訓練進化,而這個大腦需要的「電」和「能量」可不是小數目。隨著AI模型越來越複雜,需要處理的數據量也呈指數級增長,這不僅對算力晶片(就像大腦的思考核心)提出了極高的要求,更對負責在各個「思考核心」之間,以及伺服器與外部之間傳遞數據的「神經系統」——也就是高速傳輸介面,造成前所未有的壓力。

傳統的銅線傳輸,已經快要「塞車」了!想像一下,一個超級跑車在高速公路上,如果前方只有兩線道,即使引擎再強勁,也無法全速前進。AI伺服器內部的數據流,就是這麼一個極度擁擠的場景。因此,業界開始將目光投向更先進的技術:也就是「共封裝光學」(Co-Packaged Optics, CPO)。

CPO這個聽起來有點學術的名詞,其實一點也不難懂。簡單來說,它就像是把原本分散在伺服器主機板上、負責把訊號轉換成光訊號再傳出去的「光模組」,跟處理訊號的晶片(像是CPU或GPU)「黏」在一起,放在同一個封裝裡。這樣做有什麼好處呢?

第一,距離變近了,數據傳輸的「跑道」變得極短。原本可能要走好幾公分的銅線,現在變成幾毫米的光纖,數據傳輸的速度大幅提升,而且「延遲」也跟著降低,就像家門口就有個快遞站,東西送得又快又準。第二,更節能!光傳輸本來就比電傳輸更有效率,加上距離縮短,省電效果更顯著。在AI伺服器動輒耗費數千瓦電力的情況下,這可是省下可觀的電費,也降低了散熱的負擔,這對動輒數千、上萬台伺服器組成的AI資料中心來說,是巨大的成本優勢。

這也是為什麼高盛在最新的報告中,不只關注AI晶片的獲利,還把「資本開支」(CAPEX)和相關的關鍵績效指標(KPI)拉到檯面上來檢視。畢竟,再厲害的AI模型,如果沒有足夠的硬體基礎設施來支援,都是空談。而CPO,正是構築這個新一代AI基建的關鍵拼圖之一。輝達(Nvidia)、博通(Broadcom)等晶片巨頭,都已經在這個領域投入大量資源,積極佈局,目標就是掌握AI時代下的「高速公路」經營權。

台灣半導體,能從這場CPO軍備競賽中分到多少羹?

對於台灣科技產業,特別是半導體供應鏈來說,這絕對是個值得關注的重大議題。我們的護國神山台積電,在先進製程的領先地位,是發展CPO技術的基石。CPO的製程往往需要整合不同類型的材料和元件,台積電的先進封裝技術,如CoWoS(Chip-on-Wafer-on-Substrate),在整合邏輯晶片與先進光學元件方面,扮演著至關重要的角色。

此外,像是日月光、力成等封測廠,也在CPO的封裝和測試環節中,有潛在的發展空間。而生產光通訊模組、光收發模組的廠商,或是開發相關材料、設備的業者,也將有機會搭上這班AI列車。不過,這場競賽的關鍵在於「整合」與「客製化」。CPO的設計需要高度客製化,以滿足不同AI晶片和伺服器架構的需求。台灣廠商除了生產製造能力,更需要提升設計、整合的know-how,才能在價值鏈中取得更有利的地位。

我們不能只是扮演代工的角色,而是要思考如何從CPO的設計、驗證到量產,都能提供完整的解決方案。這對台灣的半導體工程師來說,也是一個學習和轉型的機會,需要不斷吸收光學、電子、材料等跨領域的知識。畢竟,AI的未來,不僅是算力的比拼,更是傳輸效率的極致追求。

編輯觀點

AI的發展,就像一場停不下來的軍備競賽,每一次技術的飛躍,都伴隨著巨額的資本投入。CPO的崛起,正是為了滿足這場軍備競賽最前線的需求。這不僅關乎輝達、博通等大廠的戰略佈局,更牽動著全球半導體產業的下一個十年。台灣若能抓住CPO的契機,鞏固其在AI基建中的關鍵地位,將能進一步鞏固「護國神山」的榮光。但挑戰也隨之而來,技術整合、客製化能力的提升,將是我們能否在這場高科技軍備競賽中脫穎而出的關鍵。

常見問題

CPO是什麼?
CPO(Co-Packaged Optics)是一種將光學傳輸元件與電子處理晶片整合在同一個封裝裡的技術,旨在大幅提升數據傳輸速度和效率,同時降低功耗。
為什麼AI需要CPO?
AI運算產生龐大的數據流量,傳統銅線傳輸速度和能耗已無法滿足需求。CPO透過光訊號傳輸,解決了AI伺服器內部的「數據傳輸瓶頸」。
CPO對台灣有什麼影響?
台灣在先進製程和封裝技術上有優勢,有潛力在CPO的材料、元件、封裝和測試等環節扮演重要角色,但也需提升整合與客製化能力。
輝達和博通在這場競賽中扮演什麼角色?
輝達和博通是AI晶片巨頭,它們積極佈局CPO,是推動CPO技術發展和市場採用的關鍵力量,旨在確保其AI伺服器解決方案的完整性與領先地位。
CPO和傳統光模組有什麼不同?
傳統光模組是獨立的元件,透過線纜連接到伺服器。CPO則是將光學引擎直接整合到處理晶片旁邊的封裝內,距離更短、效率更高。

名詞小教室

共封裝光學 (Co-Packaged Optics, CPO)
就像是把原本分散在不同房間的光學傳輸設備,直接搬進了電腦裡,跟CPU或GPU做鄰居,讓資訊傳輸的路徑大大縮短,跑起來更快也更省電。
資本開支 (CAPEX)
公司為了購買、升級或維護有形資產(像是廠房、設備)而花費的錢,對於需要大量硬體投資的AI產業來說,這是衡量其發展規模的重要指標。
關鍵績效指標 (KPI)
衡量公司或專案是否達成預期目標的關鍵數值,就像運動員的成績單,用來判斷AI投資的回報是否符合預期。