30 秒看重點
- 事件：國泰金控推出台灣首創的開源小型語言模型（SLM），專門用於辨識金融客戶意圖。
- 意義：打破大模型壟斷，證明去雲端化的「地端自建 AI」在高度規管行業完全可行。
- 影響：為台灣重視個資安全的金融、醫療與製造業，提供低成本且免上雲的 AI 落地範本。
國泰金控日前發表台灣金融業首個開源小型語言模型（SLM），這項技術讓企業不需依賴微軟或 Google 等雲端巨頭的大型模型，即可在本地端安全、快速地處理客戶敏感資料，正式拉開台灣企業「AI 去雲端化」的序幕。
為什麼萬能的大模型，不再是企業的唯一選擇？
過去一年，企業一窩蜂追求參數量破千億的通用大語言模型（LLM），但對於法規嚴格的台灣金融業來說，這存在著「個資上雲」的巨大合規風險。國泰金控這次另闢蹊徑，選擇開發並開源專攻「意圖辨識」的小型語言模型（SLM）。這就像是請一位不需要懂天文地理，但對金融業務、信用卡阻刷、貸款申辦流程倒背如流的「專科助理」，而不是聘請一位收費昂貴、什麼都懂卻可能洩漏商業機密的「全能科學家」。
這款 SLM 專門針對繁體中文與台灣金融用語進行微調，能精準判斷客戶打電話或傳訊息來的真正目的。由於參數量小，它不需要部署在動輒百萬元的 NVIDIA H100 伺服器上，甚至在一般的企業地端伺服器上就能流暢運作。國泰金選擇將其「開源」（Open Source），不僅展現其技術實力，更是為了在台灣金融科技生態圈中建立標準，吸引更多同業與開發者加入，共同降低台灣 AI 應用的開發門檻。
台灣怎麼看這件事？
這項進展對台灣眾多的中小企業、醫療院所與政府機關具有高度啟發性。台灣企業長期受限於預算與嚴格的個資法，對於將機密資料上傳至國外雲端平台始終有所顧忌。國泰金的金融 SLM 實踐，證實了「地端 AI（Edge AI）」的可行性，未來台灣企業可以利用這類開源模型，在廠區、醫院或分行內自建專屬的 AI 助理。這將帶動台灣硬體供應鏈中「AI PC」與「企業級私有雲 NAS」的實質需求，讓 AI 不再只是科技巨頭的專利，而是真正走入台灣各產業的日常工作流中。
編輯觀點
國泰金控這次開源是極為高明的一手。它不僅解決了同業「不敢上雲、買不起算力」的集體痛點，更讓自己從「技術導入者」搖身一變成為「規格制定者」。當台灣多數金融應用都基於國泰的模型去修改時，國泰在金融 AI 領域的話語權將無可撼動。這也給台灣其他產業一個啟示：與其盲目追逐矽谷的 AI 軍備競賽，不如深耕在地化、垂直領域的輕量化模型，才是最接地氣的 AI 戰略。
常見問題
- 什麼是小型語言模型（SLM）？
- SLM 是指參數量較少（通常在 100 億以下）的 AI 模型，專注於特定、單一的專業任務，具備運算需求低、反應速度快的優勢。
- 為什麼金融業不直接用 ChatGPT 就好？
- 金融業受到嚴格的個資法與金融監管，客戶的交易紀錄和個人隱私絕不能上傳到外部雲端，因此能自建在地端的 AI 模型是首選。
- 國泰金開源這個模型，其他企業拿得到嗎？
- 可以，開源意味著該模型的代碼與權重已公開，其他企業或開發者可以直接下載，並根據自身需求進行微調，省下百萬元的研發成本。
- 小型模型的精準度會比大型模型差嗎？
- 在處理一般常識時大模型較佳；但在特定的專業領域（如辨識客戶想辦哪種信用卡），經過專業訓練的 SLM 表現往往不輸甚至超越大模型。
- 運行這種小型模型需要買很貴的 AI 晶片嗎？
- 不需要。這正是 SLM 的優勢，它對硬體要求低，一般的企業伺服器甚至高階個人電腦（AI PC）即可流暢運行。
名詞小教室
- 小型語言模型 (SLM)
- 就像是「專科診所的護理師」，雖然不會寫程式、寫詩（不擅長跨領域任務），但對特定科別（如金融客服）的業務流程倒背如流，服務速度快且收費便宜。