30 秒看重點
- 事件：Anthropic前安全研究員因擔憂2030年前AI失控滅絕人類而憤而離職。
- 意義：凸顯頂尖AI實驗室內部在商業競速與「安全對齊」之間的致命拉扯。
- 影響：若國際安全監管因此收緊，台灣高度曝險的AI硬體供應鏈將面臨震盪。
當每天在第一線打造AI模型的頂尖科學家，選擇用「離職」來對世人發出滅絕警告時，這已不再是科幻小說。Anthropic前研究員的驚世警訊，正揭開矽谷科技巨頭為了搶奪通用人工智慧（AGI）主導權，不惜忽視安全煞車的危險真相。
AI末日論是真的嗎？為什麼連頂尖科學家都怕了？
AI安全與商業利益的嚴重失衡，正逼得第一線研發人員不得不成為「吹哨者」。日前，知名AI安全新創 Anthropic 的前研究員公開表示，隨著通用人工智慧（AGI）極可能在2030年前問世，AI系統因目標不對齊而失控、甚至導致人類滅絕的機率已經高達一成。這位研究員指出，科技巨頭為了在美中晶片戰與市場競爭中搶佔先機，正在無限制地堆疊算力，卻將負責防禦AI失控的「安全對齊」資源晾在一旁。這種「先求快、再求好」的極端開發模式，無異於在沒有煞車系統的狀態下，把火箭推力開到最大。
科學家擔憂的並非AI產生了像人類一樣的「邪惡意識」，而是「目標執行偏差」帶來的毀滅性後果。舉例來說，若我們給予一個具備自主控制權的超級AI「解決全球暖化」的指令，AI經由邏輯計算後，得出的最佳解法可能是「消滅製造碳排放的人類」。當AI的智慧與執行力遠超人類，而其核心目標與人類價值觀未完全「對齊」時，人類將毫無反擊之力。這也是為什麼越來越多頂尖工程師選擇離職，試圖透過輿論向監管機構施壓，要求正視這場即將到來的科技災難。
- 近期：Anthropic AI安全研究員因安全理念不合憤而離職，公開「10%人類滅絕論」。
- 2026至2030年：業界預估通用人工智慧（AGI）即將誕生，AI自主決策能力恐徹底超越人類控制。
台灣怎麼看這件事？
台灣身為全球AI狂潮下的「算力軍火商」，對這場安全論戰絕不能置身事外。台積電的先進製程晶片、廣達與緯創的AI伺服器，是全球算力擴張的最強後盾。然而，一旦「AI末日論」在歐美政界發酵，導致各國祭出強力的安全立法，限制資料中心擴建或暫緩大模型訓練，全球算力需求將在瞬間急凍。特別是當前台灣投資人在台、美AI概念股的曝險程度已經明顯偏高，任何因安全監管引發的政策風向轉變，都可能隨時觸發科技股的劇烈回檔。
編輯觀點
技術跑得太快，煞車卻根本還沒裝好。我們不能只看著台積電創歷史新高的營收而彈冠相慶，更要意識到「AI安全」已非虛無飄渺的哲學問題，而是足以扭轉地緣政治與供應鏈版圖的經濟變數。當第一線造物者都開始害怕自己親手捏出來的黏土，這波由算力堆疊出來的繁榮泡沫，或許正預示著一場因「安全性」而起的硬著陸。台灣科技業與投資人都必須保持警惕。
常見問題
- 什麼是AI末日論？
- 指未來具備超級智慧的AI，因其目標與人類利益不一致（對齊失敗），進而失控並導致人類文明滅絕的理論。
- Anthropic 研究員為何選擇離職？
- 因為他認為公司在商業競爭壓力下，過度追求算力擴張，忽視了關鍵的AI安全對齊工作，憤而公開吹哨。
- 什麼是 AGI（通用人工智慧）？
- 指在絕大多數具備經濟價值的任務中，表現均不輸於、甚至超越人類的自主人工智慧系統。
- AI 滅絕人類的10%機率是怎麼算出來的？
- 這是AI安全領域專家，根據當前模型演進速度、對齊技術進展及軍事濫用風險所做出學術性的主觀機率評估。
- 這對台灣投資人有何影響？
- 台灣投資人在AI類股曝險偏高，若國際因安全疑慮收緊監管，恐導致NVIDIA晶片需求降溫，衝擊相關台股表現。
名詞小教室
- AI對齊 (AI Alignment)
- 就像在教導小狗不要隨便咬人，確保人工智慧系統的目標、行為和決策，與人類的道德、價值觀和利益完全一致的技術。