輝達下一代AI晶片變革：3D堆疊DRAM是關鍵

30 秒看重點

• 事件：輝達下一代AI晶片架構大轉向，改用3D堆疊DRAM。
• 意義：此舉旨在大幅提升AI運算效能與記憶體頻寬。
• 影響：台灣半導體產業鏈面臨技術升級挑戰與新機遇。

AI算力為何急需「高速公路」升級？

大家都知道AI就像一個超級大腦，而晶片就是這個大腦的運算核心。過去，輝達的AI晶片多半仰賴「SRAM」（靜態隨機存取記憶體）來暫存運算時所需的數據。你可以想像SRAM就像是辦公桌上的筆記本，隨時可以快速查找與寫入，對於處理大量、零散的資訊很有效率。然而，隨著AI模型越來越龐大、複雜，需要處理的數據量也呈指數級增長，SRAM的「桌面空間」和「筆記速度」開始變得不敷使用。

這時候，「3D堆疊DRAM」（動態隨機存取記憶體）就登場了。DRAM，我們日常用的電腦記憶體就是它，相較於SRAM，它雖然存取速度不是最快，但「容量」大，而且「成本」相對較低。而「3D堆疊」則是把它們垂直堆疊起來，就像把你的筆記本從平放變成堆高，在有限的空間內塞進更多紙張，同時還能讓不同樓層之間的高速公路（記憶體匯流排）更短，傳輸更有效率。輝達這次的策略轉向，就是為了克服AI運算對記憶體頻寬的嚴苛需求，就好比是為AI大腦打造了一條更寬、更快的「記憶體高速公路」，讓數據能夠奔馳得更快、更順暢，進而大幅提升AI模型處理複雜任務的速度與能力。

這項技術的轉變，其實是AI發展進入新階段的必然結果。越來越多的AI應用，從生成式AI的圖像、文本創作，到自動駕駛、科學研究，都對算力提出了前所未有的要求。傳統的晶片架構，即使不斷提升時脈速度，也難以完全滿足現今AI訓練與推理的龐大需求。因此，從記憶體架構的根本上進行革新，就成了兵家必爭之地。輝達選擇3D堆疊DRAM，顯示出他們對未來AI算力發展方向的判斷，並試圖藉此鞏固其在AI晶片市場的領導地位，這也是對手如AMD、英特爾，甚至其他新創公司如Groq（輝達可能已實質收購的對象，這也解釋了為何此次新聞會特別提及）等，積極競爭的領域。

台灣怎麼看這件事？

對於台灣的半導體產業來說，輝達的這一技術轉向，既是挑戰也是巨大的機會。台灣在先進製程、封裝技術上全球領先，包括台積電的先進製程，以及日月光、美光等在封裝領域的深厚實力，都與3D堆疊DRAM的發展息息相關。台積電的高階製程是生產先進AI晶片的基石，而先進的CoWoS（Chip on Wafer on Substrate）等異質整合封裝技術，正是實現3D堆疊DRAM封裝的關鍵。美光作為DRAM大廠，其DRAM技術的發展與提升，更是直接影響著輝達新一代晶片的供應能力。

更重要的是，這代表著台灣的半導體生態系，從晶圓代工、記憶體製造，到後段的封裝測試，都能在AI晶片技術演進的每一個環節中扮演關鍵角色。這不僅能為台灣帶來龐大的訂單，更能將台灣推向AI價值鏈的上游，從單純的「代工製造」晉升為「關鍵技術夥伴」。未來，如何在高密度、多晶片堆疊的複雜封裝技術上持續創新，以及如何確保DRAM的供應穩定性與性能最佳化，將是台灣業者需要持續關注並投入的重點。

編輯觀點

輝達的3D堆疊DRAM策略，可謂是一石二鳥。一方面，這是對AI算力瓶頸的務實解決方案，另一方面，也是對整個AI晶片生態系的一次強力牽引。從矽光子、先進製程到異質整合，這場AI晶片軍備競賽的烈度只會不斷升高。台灣半導體產業若能緊抓住這波浪潮，積極佈局相關技術與產能，不僅能鞏固其在全球科技供應鏈的關鍵地位，更有機會在新一輪的AI革命中，扮演更加舉足輕重的角色，成為真正的「AI大腦」的推手。

常見問題

什麼是SRAM？

SRAM就像辦公桌上的筆記本，能快速讀寫，適合暫存運算中常用的小量資料，但容量較小且成本高。

什麼是DRAM？

DRAM是日常電腦記憶體，容量大且成本較SRAM低，但存取速度較慢，適合儲存大量資料。

「3D堆疊」是什麼意思？

將多個晶片或記憶體單元垂直堆疊起來，能在更小的面積內容納更多東西，並縮短訊號傳輸路徑，提升效率。

為何AI晶片需要記憶體頻寬？

AI模型運算時需要快速讀取大量數據，記憶體頻寬就是數據從記憶體傳輸到處理器上的「傳輸速度」，越高越好。

這對台灣的半導體廠有何影響？

台灣廠商如台積電、美光、日月光等，將因先進製程、DRAM技術及先進封裝需求而受惠，但也需不斷技術創新以維持優勢。

名詞小教室

SRAM (Static Random-Access Memory)

就像是隨身攜帶的「隨身碟」，速度飛快但容量不大，適合放暫時要用的東西。

DRAM (Dynamic Random-Access Memory)

就像是大型的「外接硬碟」，容量大但讀寫速度比隨身碟慢，適合長期儲存大量資料。

3D堆疊

把多層餅乾疊起來，用垂直空間來增加總量，而不是只能一層層鋪開。

記憶體頻寬

就是記憶體到CPU之間傳輸資料的「馬路寬度」，路越寬，一次能載運的車子（數據）就越多，速度自然更快。