RAG 部署資料流:六層處理、外部傳輸與營運權責
從原始文件到查詢日誌,逐項記錄傳給誰、在哪處理、保留多久及誰能存取。元件部署相互牽動;敏感度、地端、VPC、去識別化或認證不能單獨決定處理許可。
作者
Tenten AI 研究團隊
AI 基礎設施
發布日期
更新日期
閱讀時間
4 分鐘

選擇 RAG 元件的地點之前,先畫出資料流。原文、切片、向量、查詢、檢索內容、模型輸出和日誌,可能送到不同服務;其中一層留在內網,不代表其他處理也留在內網。
這篇提供元件與權限的檢視方式。需要比較託管方案和完整成本時,閱讀地端與雲端方案比較。
六層清單要連起來看
部署選項會互相影響。Embedding 服務可能接收文件切片;生成服務可能接收查詢與檢索段落;日誌又可能留住輸入或輸出。不要把六層當成互不相關的地點開關。
| 處理層 | 可能處理的內容 | 需要確認的傳輸與責任 |
|---|---|---|
| 原始文件 | 文件、附件、來源與版本 | 取得、匯出、備份、支援存取及使用依據 |
| 切片與前處理 | 擷取文字、影像、標籤及中間檔 | 前處理服務接收內容、暫存與刪除 |
| 向量與索引 | Embedding、文件識別、來源及權限資訊 | 儲存、搜尋、備份與權限更新 |
| Embedding 模型 | 文件或查詢文字 | 模型服務接收者、地點、保留及用途 |
| 生成模型 | 查詢、檢索段落、提示與輸出 | 許可傳輸、處理條款、回覆與失效行為 |
| 日誌與觀測 | 操作、錯誤、輸入輸出或其他紀錄 | 必要內容、敏感資訊控制、存取、保留與匯出 |
對每個傳輸記錄來源、目的地、實際處理者、地點、內容、用途與保留期限。管理、支援、備份和觀測服務也要列入,不能只看主資料庫。
以實際許可判斷外部處理
先確認資料與用途的適用條件、契約及負責角色。敏感資訊需要評估,但不直接推論一定得用地端模型。反過來,公開文件集合也不表示查詢、混入的附件或日誌必然都是公開內容。
金融機構委外規範於 2026 年 4 月 13 日修正,其涵蓋機構的境外與雲端委外有具體條件及管理責任。依機構、作業、資料與條文確認,不把它改寫成所有金融與醫療資料禁止出境,也不據此核准本案傳輸。
依個人資料保護法確認目的、個人與醫療資料條件、接收者及保護措施。去識別化片段、網路隔離或認證名稱,都不能單獨代替這項確認。
NIST 的雲端定義區分服務控制與部署模型,私有雲也可能由第三方營運、位於外部。VPC 不是「沒有第三方」的證明;地端設備也可能呼叫外部 API。
向量也需要資訊暴露評估
2023 年 EMNLP 的原始研究在特定模型與資料中展示文字重建及個人資訊風險。它支持保護 embedding 與檢查暴露,不表示所有向量都能反推,也不提供某家客戶或當前系統的重建比例。
不要因為去掉姓名、改存向量或使用加密,就推論資料一定無法識別個人。評估實際內容、存取、接收者及可能的重建風險;也不把「絕對不能反推」寫成這些來源未建立的通用法律測試。
四項確認,落到測試與操作
| 確認項目 | 建置前約定什麼 | 如何留下可查核的操作證據 |
|---|---|---|
| 資料與處理許可 | 哪些內容可傳給哪個服務、用途與保留 | 實際資料流與未許可傳輸的處理 |
| 使用者與服務權限 | 可查來源、可執行動作、變更與撤回 | 拒絕存取、角色改變與來源撤回測試 |
| 效能與失效 | 任務需要、主要路徑與可接受限制 | 檢索、模型、網路、排隊及失敗結果 |
| 營運與復原 | 更新、事件、備份、接手與停止角色 | 演練、版本、問題與修正紀錄 |
假設一套核准的內部手冊查詢,需要限制可見文件並禁止部分段落送給外部服務。檢查實際檢索、提示與日誌,不只測正常回覆;也測存取被撤回、來源移除、服務失效或錯誤路由時的行為。這是待驗證的設計,不是已有自動安全功能。
日誌只保留工作需要的內容,控制敏感輸入與輸出,不把「完整可回溯」解讀成無限制保存所有資料。確認誰能查看、何時刪除,以及事件調查的合法需要。
再決定元件與營運安排
把核准資料流、控制、依賴及未解問題帶到現有RAG 知識系統規劃。每項控制有接受證據與責任人,版本或供應商條件改變後查看受影響範圍。稽核、日常使用、答案品質與營運接受分別判斷;混合或全地端的名稱不替你完成這些工作。

從一條工作流程開始。
釐清值得做的下一步。
留下聯絡方式與問題類型,我們會再透過 Email 了解現況,討論流程、整合與開發範圍。