本記事では、LLM（大規模言語モデル）を用いたAIエージェント開発における主要な設計パターンを解説します。具体的には、外部ツールを安全に呼び出す仕組み、複数ステップにわたる推論の制御方法、そして実運用で避けられないエラーへの対処法という3つの観点から、実務者がすぐに応用できるベストプラクティスを紹介します。エージェント開発は単にLLMにプロンプトを投げるだけでは完結せず、システム全体の堅牢性を意識した設計が成功の鍵となります。
ツール呼び出し設計の基本パターン
AIエージェントの実用性は、外部ツール（API、DB、検索エンジンなど）をどれだけ的確に呼び出せるかに大きく依存します。ツール呼び出し設計では以下の点を意識する必要があります。
- ツールの入出力スキーマを明確に定義し、LLMが誤った引数を生成しにくい構造にする
- ツールの説明文（description）は簡潔かつ具体的に書き、類似ツールとの混同を避ける
- 1つのツールが担う責務を最小限にし、単一責任の原則に従う
例えば、天気取得と観光地検索を1つのツールにまとめてしまうと、LLMがパラメータの組み立てを誤りやすくなります。機能ごとにツールを分割し、必要に応じて複数呼び出しを組み合わせる設計の方が安定します。
{
"name": "get_weather",
"description": "指定した都市の現在の天気を取得する",
"parameters": {
"city": { "type": "string", "description": "都市名（例: Tokyo）" }
}
}マルチステップ推論の制御
複雑なタスクでは、単一のツール呼び出しでは完結せず、複数ステップの推論と実行を繰り返す必要があります。代表的なアプローチが「ReAct（Reasoning + Acting）」パターンです。これは、モデルが「思考（Thought）」「行動（Action）」「観察（Observation）」を交互に繰り返しながらタスクを進める手法です。
Thought: ユーザーの依頼を達成するには、まず現在の在庫を確認する必要がある。
Action: check_inventory(item="A001")
Observation: 在庫数は3個
Thought: 在庫があるため注文処理に進める。
マルチステップ推論を安定させるためのポイントは以下の通りです。
- 最大ステップ数（max_iterations）を設定し、無限ループを防止する
- 各ステップの中間結果をログとして保持し、デバッグ可能にする
- タスクが完了したかどうかを判定する明示的な終了条件をプロンプトに含める
- 長い履歴によるコンテキスト肥大化を防ぐため、要約や履歴の圧縮を導入する
プランニングと実行の分離
より複雑なタスクでは、最初に全体の計画（Plan）を立ててから各ステップを実行する「Plan-and-Execute」パターンも有効です。計画立案と実行を分離することで、途中で計画を見直しやすくなり、エラー発生時のリカバリも容易になります。
エラーハンドリングのベストプラクティス
AIエージェントは、ツール実行時のAPIエラー、タイムアウト、想定外のレスポンス形式など、様々な障害に直面します。エラーハンドリング設計を怠ると、エージェントが誤った情報を元に処理を継続してしまうリスクがあります。
リトライとフォールバック
- 一時的なエラー（レートリミット、タイムアウト）には指数バックオフによるリトライを実装する
- リトライ上限を超えた場合は、代替ツールやデフォルト値へのフォールバックを用意する
- 致命的なエラーはユーザーに明確に通知し、エージェントが誤魔化した回答を生成しないようにする
エラー内容をLLMにフィードバックする
ツール実行が失敗した場合、そのエラーメッセージをそのままLLMに渡し、次のアクションを再考させる設計も有効です。これにより、エージェント自身が「別のパラメータで再試行する」「別の手段を試す」といった自己修復的な振る舞いを取れるようになります。
Observation: Error - Invalid parameter "city": not found
Thought: 都市名の指定が誤っていた可能性がある。表記を英語に修正して再試行する。
Action: get_weather(city="Tokyo")バリデーションによる事前防御
LLMが生成した引数をツール実行前にスキーマ検証（JSON Schemaなど）することで、明らかに不正な呼び出しを未然に防げます。実行後のエラーハンドリングだけでなく、実行前のバリデーションを組み合わせることが重要です。
まとめ
AIエージェントの設計では、ツール呼び出しの明確なスキーマ設計、ReActやPlan-and-Executeによるマルチステップ推論の制御、そしてリトライ・フォールバック・LLMへのエラーフィードバックを組み合わせたエラーハンドリングが不可欠です。これらのパターンを組み合わせることで、単なるチャットボットを超えた、実運用に耐えるエージェントシステムを構築できます。まずは小規模なツール群から実装を始め、ログとエラー処理を丁寧に整備しながら段階的にスケールさせていくことをお勧めします。