30 秒看重點
- 事件:AI「Token(詞元)」消耗戰吹向智慧型手機與車載系統,逼使晶片廠調整架構。
- 意義:這代表AI競爭從「雲端」走向「邊緣端」,晶片設計必須兼顧速度、功耗與成本。
- 影響:台灣消費者未來購買的AI手機與智慧座艙,其流暢度與價格將受此戰略轉移直接影響。
AI Token(詞元)消耗量已成為衡量AI成本與效率的核心指標,這股「Token經濟學」正強烈衝擊手機與車用晶片市場,讓台灣IC設計龍頭聯發科在算力升級與功耗成本之間,陷入了前所未有的戰略兩難。
AI Token經濟是什麼?為什麼逼得晶片龍頭陷入兩難?
AI 時代的計費與運行邏輯,是由「Token(詞元)」所主導。就像我們出國租網路分享器計流量一樣,AI 讀取圖片、回答問題,背後都是用 Token 來計算資源消耗。現在,這股風潮正從微軟、Google 等大型資料中心,吹向我們口袋裡的手機、以及每天開的汽車座艙,這就是所謂的「Edge AI(邊緣人工智慧)」。然而,這對擅長打造「高性價比、省電」晶片的聯發科來說,卻是一個極巨大的硬體設計挑戰。
聯發科的核心兩難在於:使用者既想要「反應極快」的生成式AI,又無法接受手機「發燙」與「電池續航力雪崩」。為了讓手機在不連網的情況下,每秒吐出足夠流暢的 Token,晶片必須配備極大頻寬與最新規格的 LPDDR5X 甚至 LPDDR6 記憶體。這不僅導致硬體成本高昂,更會讓手機功耗飆升。如果不跟進,就會在 AI 手機的軍備競賽中落後;如果全力跟進,又可能因為價格過高、手機過熱而失去主流市場,這讓聯發科在技術路線的選擇上顯得格外小心翼翼。
另一個技術瓶頸是業內俗稱的「記憶體牆(Memory Wall)」。讀取 AI 模型參數需要極高頻寬,但手機的物理空間與散熱能力極其有限,這使得聯發科不得不與台積電、高通等強敵,在 3 奈米乃至更先進製程上進行昂貴的架構豪賭。如何在有限的硬體預算中,壓榨出最多的 Token 輸出量,已成為當前晶片設計最頭痛的難題。
- 2023-10 聯發科發表天璣 9300,首度將端側生成式 AI 大模型引入旗艦手機晶片,開啟端側 AI 戰局。
- 2024-10 天璣 9400 發表,強調高效率 NPU 與端側 AI 「LoRA」訓練能力,積極應對 Token 經濟。
- 2025-2026 預期 LPDDR6 記憶體標準落地,終端 AI 晶片將迎來全新架構轉型,多模態 AI 成為手機標配。
台灣怎麼看這件事?
台灣作為全球半導體與電子代工的「矽島」,聯發科的兩難正是台灣供應鏈轉型的縮影。隨著邊緣端 AI Token 需求爆發,不僅聯發科需要重新思考晶片架構,台灣的記憶體大廠(如南亞科、華邦電)、封測龍頭日月光,以及 IC 載板廠(如欣興、景碩),都必須配合這波「高頻寬、低功耗」的封裝與設計技術升級。誰能幫客戶用更低的成本突破記憶體牆,誰就能在即將到來的 Edge AI 換機潮中,搶先奪下高利潤的訂單紅利。
編輯觀點
Edge AI 的聖杯,從來不是誰的跑分最高,而是誰能在「口袋裡的暖暖包」與「秒讀秒回的超級助理」之間找到黃金平衡。聯發科擁有強大的低功耗基因,這場 Token 兩難雖然痛苦,但也是擺脫與高通價格戰、重新定義「AI 晶片性價比」的絕佳契機。誰能先用平價架構解決頻寬問題,誰就是下一個手機時代的霸主。
常見問題
- 什麼是 AI Token 經濟?
- AI Token 經濟是指生成式 AI 以「Token(詞元)」作為基本計量單位,來計算模型運算成本、速度與商業價值的商業模式,類似手機上網流量計費。
- 聯發科在 AI 晶片上面臨什麼具體挑戰?
- 聯發科必須在提供高 Token 輸出速度(高算力、高記憶體頻寬)的同時,維持晶片的低功耗與低成本,避免手機因運行 AI 而過熱或耗電過快。
- 這對我們購買 AI 手機有什麼影響?
- 未來手機的 AI 效能不只看處理器核心數,更看「端側 Token 輸出速率」。優化得當的手機,不連網也能流暢地進行即時語音翻譯或影像生成。
- 記憶體頻寬對邊緣運算晶片為什麼這麼重要?
- 因為運行 AI 大模型需要頻繁地從記憶體讀取龐大的數據參數。如果記憶體頻寬不夠寬(即記憶體牆),處理器算力再強也無法發揮作用。
- 這波趨勢對台灣半導體產業有何好處?
- 這將帶動台灣高階先進封裝、高頻寬記憶體介面 IP 設計,以及相關載板與測試廠的長期需求,促使台灣半導體產業向高附加價值轉型。
名詞小教室
- Token (詞元)
- AI 理解文字的「最小拼圖」,例如英文的一個單字、或中文的一到兩個字,會被拆解成一個 Token 來讓電腦運算。
- 邊緣運算 (Edge AI)
- 不把資料傳回雲端伺服器,直接在手機、汽車等終端設備的晶片上進行 AI 模型運算,速度更快且保障隱私。