從零建立企業 AI 治理框架:政策、風險分級、審查關卡與紅線清單

上季我們進一家製造業客戶的內部稽核會議。他們的法遵主管把一疊列印資料拍在桌上,問了一句讓全場安靜的話:「我們公司到底有幾個部門在用生成式 AI?用在哪?」沒有人答得出來。行銷用它寫文案、工程用它讀規格書、客服偷偷把客訴內容貼進去問回覆建議——全部發生,全部沒人管。這不是特例。多數企業導入 AI 的順序是先用起來,再回頭問「這樣安全嗎」,而那個回頭,往往是在出事之後。

治理框架的價值,就是把「回頭」提前。

企業 AI 治理框架是什麼

一句話定義:**企業 AI 治理框架是一套讓組織能夠決定「什麼 AI 用途可以做、由誰核可、承擔多少風險、越過哪條線就停」的制度骨架。**它不是一份放在雲端硬碟沒人看的政策 PDF,而是四個能被日常決策直接呼叫的元件——使用政策、風險分級矩陣、上線審查關卡、use-case 紅線清單。下面這副骨架可以直接複製改寫成你自己的版本。

第一層:使用政策(誰能用、能用什麼、資料怎麼進出)

使用政策回答三個問題。第一,授權範圍:哪些角色能存取哪些工具,個人免費帳號與企業租戶要分清楚。第二,資料分級對應:公開、內部、機密、法規受管四級資料,分別允許或禁止進入哪類模型。原則很簡單——機密與個資不進入未簽 DPA 的公開模型,不做模型訓練回饋。第三,產出責任:AI 生成的內容誰簽名負責。政策要短到一頁能讀完,否則沒人遵守。

第二層:風險分級矩陣

不是所有 AI 用途都該用同一套審查力度。用寫周報的標準去管信用核貸,會拖垮所有人;反過來則會出大事。我們用兩個軸把用途分級:一是決策影響(是否直接影響人的權益、金流、安全),二是自主程度(AI 是輔助建議,還是自動執行)。

風險等級	典型場景	自主程度	審查與控制要求
L1 低	內部文案、會議摘要、程式碼草稿	人類全程主導	團隊自管,記錄使用工具即可
L2 中	對外行銷、知識庫問答、客服草擬回覆	AI 建議、人審後發	事實查核關卡、可追溯來源、抽樣稽核
L3 高	徵信、核保、醫療分診建議、合約審閱	AI 建議、專業人員複核	上線審查、留存決策日誌、可解釋性要求
L4 禁區	自動最終否決、無人複核的高風險決策	AI 自動執行	原則禁止,需最高層專案豁免

矩陣的用處在於:一個新用途進來,五分鐘內就能被歸到某一格,對應的控制要求立刻明確,不必每次重開一場辯論。

第三層:上線審查關卡

Demo 很美不算數,上線且真的有人在用才算數——而上線前需要一道關卡,擋掉「看起來會動」的東西。中高風險用途上線前,至少過四關:資料關(來源合法、去識別化到位、不外洩)、準確關(在真實樣本上量過錯誤率與幻覺率,不是憑感覺)、安全關(prompt injection、越權存取、輸出過濾都測過)、責任關(出錯時的回退機制與人工介入路徑寫清楚)。四關各設一名負責人簽核,而不是全丟給資安一個人扛。關卡通過與否要留書面紀錄,這份紀錄日後就是稽核與追責的依據。

第四層:use-case 紅線清單

紅線清單是最短、也最該貼在牆上的一頁——列出無論商業誘因多大都不做的用途。我們給客戶的預設紅線包括:不用 AI 對個人做無人複核的最終不利決定(拒貸、拒保、解僱);不把客戶個資或營業秘密送進未受約束的公開模型;不生成可能誤導的醫療、法律、投資具體指示而不加專業把關;不用 AI 冒充真人進行未揭露的互動;不在缺乏來源的情況下對外發布 AI 生成的事實性內容。紅線之所以是紅線,是因為它不進入成本效益的討論——踩到就是停,沒有例外談判。

怎麼讓它真的運轉

框架最容易死在「發布即結束」。一份沒有 owner、沒有審查節奏、不隨新工具更新的政策,三個月就過期。可行的做法是先讓四個元件各有明確負責人,選一到兩個中風險用途走完整套流程當試點,再逐步覆蓋全公司,每季回顧一次紅線與矩陣。

我們在協助企業落地 AI 時,治理從來不是上線後補的文件,而是跟著工程師一起進場、與第一個生產用途同步長出來的東西——因為真正管得住風險的,是嵌在工作流裡的關卡,不是躺在硬碟裡的規範。