4層構造から「単一エージェント＋ネイティブツールコール」へ：チャットボットの品質を劇的に改善した開発事例
本記事は、個人開発の電力プラン推薦チャットサービス「エネジェント」のチャットボット設計を、従来の4層ステートマシン型から「Single Agent + Native Tool Calling」型へと刷新した事例を詳細に解説しています。エネジェントは、経済産業省に登録された800社以上の小売電気事業者から327のプランを比較する中立的な比較サービスです。
旧設計（4層ステートマシン）では、LLMの暴走を防ぐためにレイヤーを重ねるアプローチを採用していましたが、以下の深刻な問題が頻発していました。具体的には、同じ推薦結果を連続して返す「機械的な定型文の繰り返し」、ファクトカードに正解があるにもかかわらずLLMが誤って情報を作文する「ハルシネーション」、ユーザーの曖昧な発話（「初めて聞いた」）を「契約中」と誤認する「認知ギャップの誤処理」、そして複数の意図（二重intent）を同時に処理できない「単一意図処理の限界」などです。
これに対し、筆者はAnthropicやOpenAIなどの最新の業界知見をWebリサーチし、設計を根本的に見直しました。新しい設計では、全ての処理を単一のGemini 2.5 Flashエージェントに統合し、LLMのネイティブなツールコール機能に意図判断を委譲しました。また、システムプロンプトの冒頭に「既提示プランID」や「直前1位」といった状態サマリを毎ターン再注入する仕組みを導入しました。
その結果、応答品質は定性的に大幅に改善し、特に「市場連動型ではない」といった複合的な質問に対しても、複数のツールを並列で呼び出し、質問と絞り込みの両方に応答できるようになりました。さらに、処理レイテンシも静岡県の県境エリアのシナリオにおいて22.3秒から8.6秒へと62%も短縮するという定量的な成果を上げています。この事例は、LLMを過剰にレイヤー化するのではなく、最新の業界標準に沿ってシンプルに使い倒すことが、最高のユーザー体験を生むことを示しています。
背景
本記事は、大規模言語モデル（LLM）を用いたチャットボット開発における、設計思想の変遷を扱っています。初期のLLM活用は、信頼性を高めるために複数の処理層（レイヤー）を重ねる「過剰な抽象化」が行われがちでしたが、本記事は、最新の業界動向（2025-2026年）に基づき、そのアプローチが非効率的であることを指摘し、単一エージェントへの統合という解決策を提示しています。
重要用語解説
- Single Agent + Native Tool Calling: 単一のエージェントが、LLMのネイティブな機能（ツールコール）を用いて、意図判断、情報検索、計算、応答生成の全プロセスを完結させる設計指針。複雑なシステムをシンプルに統合する現代の標準的な手法。
- ハルシネーション: LLMが、事実に基づかない、または存在しない情報をあたかも真実であるかのように生成してしまう現象。特に文脈が分断される環境で発生しやすい。
- ステートマシン: システムの状態を定義し、入力に応じて次の状態へ遷移させる設計パターン。従来のチャットボットでは、状態管理のために複数のレイヤー（層）を設けることが多かった。
今後の影響
本事例は、LLMを活用したAIエージェント開発におけるベストプラクティスを提示しました。過剰なレイヤー化による複雑性と品質低下を避け、単一エージェント内で状態管理とツール利用を統合することが、実用的な高性能AIの実現に不可欠であることを示唆しています。今後のAI開発の標準的な設計指針となるでしょう。