AIエージェントの行為を分類する「Action Class Matrix」：責任経路を維持するための設計指針

本記事は、AIエージェントが外部ツールを利用して多様な行為を行う際、その行為の種類に応じて適切な「責任経路（Responsibility Pathway）」を設計するためのフレームワーク「Action Class Matrix」について解説している。AIエージェントがWeb閲覧、ファイル更新、メール送信、API呼び出しなど多岐にわたる行為を行うと、単に「AIがやった」という認識では責任の重さや必要な管理プロセスを定義できないため、行為の分類が不可欠となる。

Action Class Matrixは、行為を「影響範囲」「可逆性」「外部性」「承認要否」に基づいて6つのクラスに分類する。具体的には、以下の6分類が定義されている。

1. **Observe-Only (A)**：読む・見る・取得する行為（例：Webページ閲覧、ログ参照）。原則許可だが、入力汚染に注意が必要。

2. **Suggest-Only (B)**：要約・分析・提案する行為（例：下書き作成、選択肢提示）。提案と実行を明確に分離する必要がある。

3. **Approval-Required (C)**：内部状態を変更する行為（例：ドキュメント更新、チケットステータス変更）。変更の根拠、承認者、可逆性、履歴の明確化が求められる。

4. **Reversible External Action (D)**：外部へ影響するが戻せる行為（例：外部共有ドキュメント更新、通知送信）。承認者、実行ログ、ロールバック方法の確保が必須。

5. **Irreversible or High-Impact Action (E)**：不可逆または高影響の行為（例：外部メール送信、本番DB更新、権限設定変更）。強い人間承認、二重確認、修復責任者の明示が必須であり、自律実行は困難。

6. **Emergency Stop (F)**：停止・隔離・無効化の行為。実行権限とは独立した「止める権限」として定義され、安全責任者による管理が重要。

この分類表に基づき、各クラスごとに「意思決定者」「承認ゲート」「実行主体」「証拠ログ」「人間による戻り点」といった責任経路の要素を割り当てることで、AIの行為を単なる「実行」として扱うのではなく、責任の重さに応じた適切な管理プロセスを適用することが可能となる。これにより、AIエージェントの運用におけるリスク管理と説明責任の確保を目指す。

---

背景

AIエージェントが単なるチャットボットから進化し、外部ツール（API、データベースなど）を操作する「自律的な実行主体」となるにつれ、その行為の責任範囲が複雑化している。従来のシステム設計では想定されていなかった「AIによる実行」という新しい責任構造を定義する必要が生じた。

重要用語解説

• Action Class Matrix: AIエージェントの行為を、影響範囲、可逆性、外部性など複数の軸で分類するための設計図。行為ごとに必要な責任レベルを定義する。
• Responsibility Pathway Layer: AIエージェントの行為を、人間社会の責任構造（承認、ログ、修復など）に結びつけるための概念的な層。行為分類の土台となる。
• 入力汚染: 外部から取得したデータ（Webページの内容など）に、AIへの誤った命令や誘導文が含まれている状態。単なる観測行為でも、この汚染が実行の危険性を高める。

今後の影響

本フレームワークの導入は、AIエージェントの信頼性と実用性を飛躍的に向上させる。行為の分類と責任経路の明確化により、企業はAIの自律的な実行に伴う法的・業務的なリスクを事前に特定し、適切なガバナンスを構築できる。今後のAIシステム開発における必須の設計指針となることが予想される。