SERVICE · RAG KNOWLEDGE
RAG 知識系統
讓企業文件與資料變成你真的敢信的答案。每個答案都附出處,檢索沿用你的權限,檢索品質是你盯著評測基準看的一個數字。
DEFINITION · RAG 是什麼
RAG 知識系統是什麼?
RAG 知識系統(Retrieval-Augmented Generation,檢索增強生成)是一種讓大型語言模型在回答前,先從企業自有文件庫即時檢索相關內容、再據以生成答案的架構。它的核心不是「讓模型更聰明」,而是讓答案可被驗證:每句話都附帶逐句出處(document/page/chunk 級別)、檢索完全沿用既有 AD/SSO 權限、品質以 retrieval recall、citation accuracy 與 answer faithfulness 等指標量化評測,並透過增量索引維持資料新鮮度。簡言之,RAG 把「模型的記憶」換成「你可以稽核的知識」。
檢索先於生成
模型不靠訓練時記住的知識作答,而是在每次查詢時先從你的文件庫檢索最相關片段,把原文當成答案依據——知識更新只需重新索引,不必重新訓練模型。
答案附逐句出處
每個結論都回扣到具體文件、頁碼與段落,點開即可核對原文;找不到可靠依據時系統明說「找不到」,而不是用聽起來合理的話填補空白。
權限與資料隔離內建
檢索層直接套用你既有的存取控制,使用者只會檢索到本就有權限的內容;資料可留在你的 VPC 或地端,不因導入 AI 而新增外洩面。
品質可被量化驗收
以領域專家共建的 golden set 為基準,用 recall、citation accuracy、faithfulness 把「答得準不準」變成數字,每次調參都有 benchmark 佐證,而非憑感覺。
COMPARISON · RAG vs 通用 LLM / 關鍵字搜尋
RAG 跟直接問 LLM 或關鍵字搜尋差在哪?
直接問通用 LLM,你得到的是「聽起來很對、但無從查證」的答案;用關鍵字搜尋,你得到的是「一堆連結,要自己讀完」。RAG 知識系統介於兩者之間又超越兩者:它用語意檢索找到正確段落,再用模型組裝成帶出處、可稽核的答案。下表逐維度說明 Tenten 交付的 RAG 與這些替代方案的差異。
通用 LLM / 關鍵字搜尋 / 純微調
RAG 知識系統(Tenten 交付)
答案出處/可追溯
通用 LLM 不附出處,無從查證;關鍵字搜尋只給連結,答案要自己拼湊
每句結論附 document/page/chunk 級出處,點開回到原文核對
幻覺控制
模型會用聽起來合理的內容填補空白,且語氣自信、難以辨識
答案受限於檢索到的原文,無可靠依據時明確回答「找不到」
權限感知
通用模型與多數關鍵字搜尋對權限無感,易讓人看到不該看的內容
檢索層沿用既有 AD/SSO/群組,使用者只檢索到有權限的文件
資料新鮮度/更新
模型知識凍結在訓練截止日;要更新只能重新訓練或微調,成本高、週期長
與來源系統增量同步,過期版本被降權或重索引,更新即時且低成本
品質可量化評測
好不好憑主觀感覺,無法用一致指標追蹤回歸或進步
以 golden set 量化 recall/citation accuracy/faithfulness,每次迭代可比對
多格式/表格解析
關鍵字搜尋難處理掃描件與表格;通用模型常打亂條款編號與欄位結構
結構化解析 PDF/掃描件/Excel/長合約,保留條款編號與表格欄位精度
部署/資料隔離
公有 API 把機敏文件送出邊界;微調更等於把資料烘進模型權重
可部署於你的 VPC 或地端,資料不離開邊界,符合 SOC 2/GDPR
當答案無法被追溯,沒有人敢用
多數企業導入 RAG 的真正障礙,不是「模型答不出來」,而是「答出來也沒人敢信」。合約條款、SOP、專案紀錄、客服工單散落在 SharePoint、Confluence、Google Drive、工單系統與郵件附件中,版本不一、權限混亂。當系統給出一個答案卻說不清楚「這句話出自哪份文件、哪一頁、哪一版」,法務、稽核與業務團隊只能退回人工查找,導入很快就停在 PoC。
我們的工程師進駐現場(FDE),把 RAG 當成一套你能驗收的檢索系統交付,而不是一個聊天機器人 demo。每個答案都帶逐句出處,細到 document、page、chunk,你點開就能回原文核對。檢索層沿用你既有的存取控制(AD、SSO、權限群組),使用者只會檢索到他本來就有權限看的內容,AI 不會變成繞過權限的後門。
最重要的是,它可以被量化。第一天我們就和你的領域專家一起建好評測題庫(golden set),之後每一次調整都對著 retrieval recall、citation accuracy、answer faithfulness 來追。資料新鮮度靠增量索引與來源同步維持,過期內容會被標記或降權,於是「這個答案還算不算數」變成一個你盯著看的數字,而不是事後才聽到的一句抱怨。
核心能力
01
100% 逐句出處追溯
每個答案都對應到具體的文件、頁碼與段落,使用者可一鍵展開原文核對;無法找到可靠來源時系統會明確回答「找不到依據」,而非自行編造。
02
權限感知檢索
直接沿用你既有的 AD / SSO / 權限群組,在檢索與回答層同時套用存取控制,使用者只會看到他本就有權限存取的文件,不會因 AI 而繞過權限。
03
可量化的檢索品質評測
和領域專家共建 golden set 評測題庫,持續追蹤 retrieval recall、citation accuracy、answer faithfulness,每一次調參都有 benchmark 數字佐證,而非憑感覺。
04
資料新鮮度與增量索引
與來源系統(SharePoint、Confluence、Drive、工單、合約庫)做增量同步,過期或被取代的版本會被標記、降權或重新索引,避免回答引用到失效內容。
05
多格式與表格解析
處理 PDF、掃描件、Word、Excel 與長合約的結構化解析,保留條款編號、表格欄位與章節階層,讓檢索能定位到「第幾條第幾項」這種精度。
06
私有部署與資料隔離
可部署於你的 VPC 或地端,模型可選 Anthropic、OpenAI 或地端開源;資料不離開你的邊界,符合 SOC 2、GDPR 與內部稽核要求。
應用場景
法務合約查詢
法務與業務在數千份合約中即時查詢「自動續約條款」「賠償責任上限」「資料保護義務」,每個答案附原始合約段落出處,談判與盡職調查不再靠人工翻找。
製造業 SOP 與設備手冊
產線人員以自然語言查詢機台故障排除、保養週期與安規條款,系統從 SOP、設備手冊與 MES 工單紀錄中檢索,並標明出自哪一版作業指導書。
客服與技術支援知識庫
客服 Agent 從歷史工單、產品文件與 FAQ 中取得帶出處的建議答案,縮短首次回覆時間,並確保回覆內容與最新政策一致。
金融合規 KYC/AML 查詢
合規團隊查詢內部政策、監理函令與作業流程,答案沿用權限控管(不同層級看不同文件),並完整留存查詢與出處紀錄供稽核回溯。
專案知識與交接
顧問或工程團隊查詢過往專案紀錄、決策文件與會議結論,新進成員可快速掌握脈絡,避免知識隨人員流動而流失。
交付節奏
WEEK 1
資料盤點與評測基準
盤點來源系統、權限模型與文件格式,和領域專家共建 golden set 評測題庫,先把「什麼叫答對」定義清楚,再開始建系統。
WEEK 2–3
索引、權限與檢索管線
建立解析與增量索引管線,串接既有存取控制,實作帶出處的檢索與回答,並用評測題庫跑出第一版 benchmark。
WEEK 4–5
調優與試運行
依評測指標迭代調整 chunking、排序與提示策略,導入內部試用者回饋,持續提升 citation accuracy 與 faithfulness。
WEEK 6
上線與交接
完成私有部署、監控儀表板與資料新鮮度告警,交付評測流程與維運文件,讓你的團隊能自行迭代。
100%
答案附出處
6 weeks
上線交付週期
SOC 2 / GDPR
合規部署
常見問題
你們怎麼確保答案不會引用到過期或舊版文件?
我們和來源系統做增量同步,當文件更新或被取代時,舊版會被重新索引、降權或標記為失效,不再被檢索引用。資料新鮮度會以指標被監控,並可設定告警,讓「答案是否仍然有效」成為可追蹤的數字,而不是等到有人投訴才發現。
權限怎麼處理?會不會讓員工看到他本來看不到的內容?
不會。系統直接沿用你既有的 AD / SSO 與權限群組,在檢索與回答兩個層面同時套用存取控制,使用者只能檢索到他本來就有權限存取的文件。我們不會為了 RAG 另建一套寬鬆的權限,避免 AI 成為資料外洩的破口。
你們如何證明檢索結果是準確的,而不是聽起來很對?
交付第一天就會和你的領域專家共建評測題庫(golden set),用 retrieval recall、citation accuracy、answer faithfulness 等指標量化每一次調整。準確度是以 benchmark 數字呈現的,每次迭代都看得到進步或退步,而不是靠感覺判斷。
我們的合約與內部文件機敏,資料會外流嗎?
可部署於你的 VPC 或地端環境,資料不離開你的邊界。模型可選 Anthropic、OpenAI 或地端開源方案,依你的合規要求而定,整體設計符合 SOC 2 與 GDPR,並可配合內部稽核留存查詢與出處紀錄。
可以處理掃描的 PDF 和複雜表格嗎?
可以。我們的解析管線處理 PDF、掃描件、Word 與 Excel,並保留條款編號、表格欄位與章節階層,讓檢索能定位到「第幾條第幾項」這種精度,特別適合長合約與技術手冊。
為什麼是 6 週?跟一般 PoC 有什麼不同?
因為我們以 FDE 模式進駐,從第一週就以「可被驗收」為目標,先定義評測標準再建系統,避免卡在沒有指標的 demo 階段。6 週交付的是有出處、有權限、有 benchmark、可上線維運的系統,而不是一個展示用的聊天視窗。
KNOWLEDGE BASE · 延伸閱讀
RAG 知識系統的知識資料庫
我們把企業級 RAG 的設計取捨整理在這裡——從 Tenten AI 的第一手交付經驗,到定義這個領域的原始研究與官方文件,方便你建立自己的判斷框架。
Tenten AI 白皮書與觀點
INSIGHTS · 最新文章
企業 AI 與導入的最新觀點
來自 Tenten AI 交付現場的第一手觀察與方法論。
