Agentic AI のガバナンス

Agentic AI システム——自律的に世界へ働きかけ、ウェブを閲覧し、コードを書いて実行し、API を呼び出し、ファイルを書き換えるシステム——は、従来のソフトウェアや受動的な AI システム（行動を起こさず情報だけを返すチャットボットのようなもの）には存在しなかったガバナンス上の課題を持ち込みます。

核心にあるのは「取り消せない」という問題です。設計の甘い agentic システムは、人間のレビューを経ずにメールを送り、データベースのレコードを書き換え、金融取引を実行してしまうことがあります。こうした行動は、取り消すのが難しい、あるいは不可能であることも少なくありません。agentic な行動が失敗したときのコストは、問い合わせへの回答が失敗したときのコストよりも、はるかに高くつきうるのです。

本ランブックは、行動権限、人による承認、監査記録、監視、復旧といった agentic AI の統制を説明します。自社の環境とリスク評価に合わせて必要な統制を選び、検証してください。