68c725f942
This pull request improves the translation pipeline, which was introduced by #460. Now the document generation works pretty well with gpt-4o model.
4.3 KiB
4.3 KiB
複数エージェントのオーケストレーション
オーケストレーションとは、アプリ内でのエージェントの流れを指します。どのエージェントが実行され、どの順序で、次に何が起こるかをどのように決定するかです。エージェントをオーケストレーションする主な方法は2つあります。
- LLM に決定を任せる: これは LLM の知能を利用して、計画、推論し、それに基づいてどのステップを取るかを決定します。
- コードによるオーケストレーション: コードを通じてエージェントの流れを決定します。
これらのパターンを組み合わせて使用することができます。それぞれに独自のトレードオフがあり、以下で説明します。
LLM によるオーケストレーション
エージェントは、指示、ツール、ハンドオフを備えた LLM です。これにより、オープンエンドなタスクが与えられた場合、LLM は自律的にタスクに取り組む方法を計画し、ツールを使用してアクションを実行し、データを取得し、ハンドオフを使用してサブエージェントにタスクを委任できます。例えば、リサーチエージェントは次のようなツールを備えることができます。
- Web 検索でオンライン情報を見つける
- ファイル検索と取得で独自データや接続を検索する
- コンピュータ操作でコンピュータ上でアクションを実行する
- コード実行でデータ分析を行う
- 計画やレポート作成に優れた専門エージェントへのハンドオフ
このパターンは、タスクがオープンエンドであり、LLM の知能に依存したい場合に最適です。ここでの最も重要な戦術は次のとおりです。
- 良いプロンプトに投資する。利用可能なツール、使用方法、および操作するパラメーターを明確にします。
- アプリを監視し、反復する。問題が発生する箇所を確認し、プロンプトを改善します。
- エージェントに内省と改善を許可する。例えば、ループで実行し、自己批評させるか、エラーメッセージを提供して改善させます。
- 一つのタスクに優れた専門エージェントを持つこと。何でも得意とされる汎用エージェントを持つのではなく。
- evals に投資する。これにより、エージェントを訓練してタスクの改善と向上を図ることができます。
コードによるオーケストレーション
LLM によるオーケストレーションは強力ですが、コードによるオーケストレーションは、速度、コスト、パフォーマンスの面でタスクをより決定的で予測可能にします。ここでの一般的なパターンは次のとおりです。
- structured outputs を使用して、コードで検査できる適切な形式のデータを生成します。例えば、エージェントにタスクをいくつかのカテゴリーに分類させ、そのカテゴリーに基づいて次のエージェントを選択することができます。
- 複数のエージェントをチェーンして、一つの出力を次の入力に変換します。ブログ記事を書くタスクを、リサーチ、アウトライン作成、記事執筆、批評、改善という一連のステップに分解できます。
whileループでタスクを実行するエージェントと、評価とフィードバックを提供するエージェントを実行し、評価者が出力が特定の基準を満たすと判断するまで続けます。- 複数のエージェントを並行して実行します。例えば、Python の基本コンポーネントである
asyncio.gatherを使用します。これは、互いに依存しない複数のタスクがある場合に速度のために役立ちます。
examples/agent_patterns には多くのコード例があります。