Agentic AI のガバナンス

Agentic AI システム——自律的に世界へ働きかけ、ウェブを閲覧し、コードを書いて実行し、API を呼び出し、ファイルを書き換えるシステム——は、従来のソフトウェアや受動的な AI システム（行動を起こさず情報だけを返すチャットボットのようなもの）には存在しなかったガバナンス上の課題を持ち込みます。

核心にあるのは「取り消せない」という問題です。設計の甘い agentic システムは、人間のレビューを経ずにメールを送り、データベースのレコードを書き換え、金融取引を実行してしまうことがあります。こうした行動は、取り消すのが難しい、あるいは不可能であることも少なくありません。agentic な行動が失敗したときのコストは、問い合わせへの回答が失敗したときのコストよりも、はるかに高くつきうるのです。

本ランブックは、規制下のエンタープライズにおける本番 agentic AI 導入に向けて、Tenten AI が実装しているガバナンスアーキテクチャを扱います。これはフレームワークを語る文書ではなく、あくまで実務の文書です。ここで述べるすべての構成要素は、実際の本番環境ですでに動いています。