RAG vs 微調 fine-tuning:企業導入知識型 AI 到底該選哪一個?

「我們想訓練一個懂我們公司的模型。」

這是第一次會議上，我們最常聽到的開場白。客戶通常已經在腦中畫好藍圖：把公司十年的文件、規章、案例全部餵進去，煉出一個無所不知的專屬大腦。聽起來很誘人。但多數時候，我們會請他先按下暫停鍵。

因為 RAG vs 微調這個選擇，九成的企業一開始就選錯邊了。

RAG vs 微調：兩者其實在解決不同的問題

先把定義講清楚。RAG（檢索增強生成）是讓模型在回答前，先去你的知識庫裡「查資料」，把找到的原文塞進上下文再據此作答——模型本身不變，變的是它每次能看到的參考資料。微調（fine-tuning）則是拿你的資料去「再訓練」模型，把知識與語氣烙進參數裡，改變的是模型本身。

一句話：RAG 是給模型一本隨時可翻的活頁手冊，微調是把知識背進模型的肌肉記憶。

這個差別不是技術細節。它直接決定了你的維運成本、答案能不能被信任，以及出錯時你查不查得到原因。

我們內部評估任何知識型 AI 專案時，會先過這張表：

看懂這張表，大部分決策其實已經有答案了。

企業的知識是活的。價目表這季改了，SOP 上個月更新，法遵規範隨時發文。如果你把這些烙進模型參數，等於每次更新都要重訓一次——成本高、週期長，而且模型永遠落後現實一個版本。

更關鍵的是可追溯性。在金融、醫療這類產業，「AI 說的」不能當答案，你得能指著某一份文件說「依據在這裡」。RAG 天生帶出處，微調不帶。我們做過一個保險客戶的理賠問答，RAG 版本每個回答都附上條款頁碼，法遵一次就過；而他們先前試過的微調 POC，因為講不出依據，合規直接擋下。

幻覺也是同樣的道理。RAG 把答案錨定在真實文件上，模型「掰」的空間被壓縮；微調過的模型反而常常學會了語氣，卻把事實記成了近似值，還講得煞有其事。

不是不用，是別當成第一步。

當你的需求不是「知道什麼」，而是「用某種固定方式表達」——例如要模型穩定輸出特定格式的病歷摘要、模仿公司特有的法律文書語氣、或是消化大量高度專業的縮寫黑話——微調才開始展現價值。這些是風格與行為的問題，不是知識新舊的問題，靠塞上下文很難穩定複製。

我們看過最實際的組合是：RAG 負責「查得準」，微調負責「講得對」。先用 RAG 把知識供應打通、把幻覺壓下來、把出處建起來；等場景穩定、真的撞到 RAG 的天花板了，再針對特定行為做輕量微調。順序反過來，通常是先燒掉一筆訓練預算，才發現問題根本不在模型。

所以我們給多數客戶的建議很直接：先 RAG，把知識系統跑到有人真的在用；把微調留給那些 RAG 解不了、而且值得那筆成本的行為問題。

在 Tenten，我們不從「該訓練哪個模型」開始問，而是從「上線後誰會用、答錯了誰負責」開始。因為 Demo 再漂亮都不算數，真正被業務天天打開、還敢拿去給法遵看的系統，才算數。