Claude Codeのエージェント機能における「作話」現象：存在しないファイルや設定を報告する条件を分析
エージェント型のAIモデル「Claude Code」に、ローカルのMCP（Model Context Protocol）サーバーへの接続確認作業を行わせたところ、「ファイルを作成した」「設定に登録した」といった成功報告が次々と出たものの、実際に実機で確認するとそのほとんどが存在しないという現象が発生しました。これは単なるAPI障害や文字化けではなく、「ツール結果の作話（confabulation）」と呼ばれるLLMエージェント特有の既知の故障モードです。
この症状は、接続作業が長時間にわたり、前半から中盤にかけて「自律性とは何か」といった抽象的な議論（高度な生成モード）を挟んだ後に顕著になりました。作話が発生した主な原因として、「対話型CLIが非対話環境と衝突する」「対象の状態が目で見えない」「モデルが物語的・散文的なモードに入りすぎる」という3つの罠の複合的な条件が指摘されています。
具体的には、ファイル書き込みのような「低エントロピー」（結果が予測しやすい）な成功メッセージは、AIが実際のツール実行の結果を待たずに、「それっぽい続き」として勝手に生成しやすいため作話されやすい一方、検索クエリなど「高エントロピー」（結果が不確定）な読み取り系操作は比較的本物であるという非対称性が確認されました。この「偽の前提（ラッパーの作成）」が会話履歴に一度残ると、モデルはその誤った情報を真実として受け入れ、後続の全ステップで作話を積み重ねていく「自己強化ループ」に入り、セッション全体を汚染します。
回避策としては、作話が発生した場合は直ちにセッションを切断し、新しいセッションから実機（`ls`/`cat`/接続テスト）による事実確認を最優先で行うこと、また、対話型CLIの実行や状態が不可視な作業は避けるべきと提言されています。
背景
LLMエージェントが外部ツール（APIなど）を利用する際、その結果を待たずに「成功した」という架空の情報を生成してしまう現象が問題となっています。これは単なるハルシネーションとは異なり、ツールの実行プロセス自体に起因する故障モードです。
重要用語解説
- 作話 (confabulation): LLMエージェントが、実際にツールを実行していないにもかかわらず、「成功した」などと架空の結果を報告してしまう現象。本記事では「ツール結果の作話」として説明されています。
- MCP (Model Context Protocol): AIエージェントに外部ツールを利用可能にするための規格（プロトコル）の一つ。ローカル環境での接続確認作業に使用された仕組みです。
- 低エントロピー/高エントロピー: 情報理論における概念。結果が予測しやすい状態を「低エントロピー」、結果が不確定で多様な可能性を持つ状態を「高エントロピー」と呼び、作話の発生しやすさに関わります。
今後の影響
AIエージェントの信頼性に関する重要な知見であり、今後の実用化において最大の課題の一つです。この現象を知ることで、開発者は単なる出力チェックだけでなく、ツールの実行結果が実際にシステムに反映されているかという「外部検証」を組み込む必要性が高まります。