什麼是 RAG 檢索增強生成?企業知識落地的白話完整解釋

RAG(檢索增強生成,Retrieval-Augmented Generation)是一種讓大型語言模型先從你指定的知識庫檢索相關資料、再根據這些資料生成答案的技術。 講白一點:讓 AI 先查過你的文件,再開口回答,而不是憑記憶硬掰。

去年底我們陪一家壽險公司做內部問答助理。他們先自己接了通用大模型,問「這張保單的等待期是幾天」,模型答得斬釘截鐵——可惜答錯了,講的是別家商品的規則。問題不在模型笨,而在它從沒讀過這家公司的條款,只能拿網路上學過的通則來猜。這就是為什麼企業知識場景,幾乎繞不開 RAG。

什麼是 RAG 檢索增強生成?用一個比喻說清楚

把大型語言模型想成一個很會寫作文、記性也不錯的實習生。他讀過海量的書,語感很好,但他沒讀過你公司的合約、SOP、產品規格、昨天的會議記錄。你直接問他公司內規,他會憑印象回答,聽起來很順,細節卻不一定對——這叫「幻覺」。

RAG 做的事,是在他開口之前,先塞給他一份「開卷小抄」。系統會根據你的問題,從公司知識庫裡撈出最相關的幾段文件,連同問題一起交給模型,要求他「只根據這些資料回答」。於是實習生從閉卷憑記憶,變成開卷照重點抄。答案準不準,取決於你給的資料對不對。

技術上它分三步:先把文件切成小段、轉成向量存進資料庫(建索引);使用者提問時,把問題也轉成向量,撈出語意最接近的段落(檢索);最後把這些段落當成上下文,交給模型生成答案(生成)。麻煩集中在前兩步,不在最後一步。

為什麼企業知識場景一定需要 RAG

純靠大模型,在企業裡有三個過不去的坎,而 RAG 剛好各補一刀。

第一,可追溯。老闆問「這個數字哪來的」,RAG 能指回原始那份 Q3 財報第幾頁;純模型只會說「我覺得是這樣」。在金融、醫療這種錯一次就出事的產業,能不能舉證,就是能不能上線的底線。

第二,更新成本。你的產品每月改規格,重訓一次模型要花的時間和錢,沒人扛得住。RAG 只要把新文件丟進知識庫,下一秒就生效。

第三,權限。行銷不該看到 HR 的敘薪資料。檢索這一層天生就能做存取控制,模型永遠只看得到「這個人有權限看」的內容。

難的從來不是 Demo,是上線後檢索得準

我得誠實說:RAG 的 Demo 特別好看,也特別騙人。拿十份乾淨文件、問十題想好的問題,幾乎都會過。真正的坑在資料一多就冒出來——文件切太碎,一句話的上下文被切斷;切太大,一段塞進太多雜訊,模型抓錯重點。表格、掃描 PDF、同義詞、內部黑話,每一個都會讓檢索撈錯段落。而檢索一撈錯,後面模型再強,也只是照著錯資料一本正經地胡說。

所以真正決定成敗的,是那些不性感的工:文件怎麼切、向量怎麼選、檢索要不要加關鍵字混合、答完要不要強制附出處,以及最重要的——建一套題庫持續量測答對率,而不是憑感覺說「好像變準了」。

我們在 Tenten 做 RAG 知識系統,通常第一週不急著寫程式,而是先蹲在客戶的文件和真實問句裡,把「什麼樣的答案才算對」定義清楚,再回頭調檢索。Demo 很美不算數,員工每天真的拿它查東西、而且信得過那個答案,才算真的上線。