Agentic AI 治理

Agentic AI 系统——能够自主在现实世界中采取行动、浏览网页、编写并执行代码、调用 API、修改文件的系统——带来了传统软件系统或被动式 AI 系统（如只提供信息、不采取行动的聊天机器人）所没有的治理挑战。

问题的核心在于不可逆。一个设计欠周的 Agentic 系统可能在没有人工复核的情况下就发出一封邮件、改写一条数据库记录，或执行一笔资金交易。这些动作往往难以撤销，甚至无法撤销。一次失败的智能体动作，代价可能远高于一次失败的问答响应。

这份手册说明 Agentic AI 的治理控制：行动权限、人工批准、审计记录、监控与恢复。请依自己的环境与风险评估，选择并测试所需控制。