5639606163
This pull request introduces the following changes: 1. **Exclude translated pages from search**: I explored ways to make the search plugin work with the i18n plugin, but it would require extensive custom JavaScript hacks. So for now, I’m holding off on this work. 2. **Switch from GPT-4.1 to o3 for even better translation quality**: While 4.1 performs well, o3 shows even greater quality for this task, and there’s no reason to avoid using it.
91 lines
No EOL
4 KiB
Markdown
91 lines
No EOL
4 KiB
Markdown
---
|
||
search:
|
||
exclude: true
|
||
---
|
||
# ストリーミング
|
||
|
||
ストリーミングを使用すると、 エージェント の実行が進行するにつれて発生する更新を購読できます。これにより、エンド ユーザーに進捗状況や部分的な応答を表示するのに役立ちます。
|
||
|
||
ストリーミングを行うには、 [`Runner.run_streamed()`][agents.run.Runner.run_streamed] を呼び出します。これにより [`RunResultStreaming`][agents.result.RunResultStreaming] が返されます。続いて `result.stream_events()` を呼び出すと、後述する [`StreamEvent`][agents.stream_events.StreamEvent] オブジェクトの非同期ストリームを取得できます。
|
||
|
||
## raw response イベント
|
||
|
||
[`RawResponsesStreamEvent`][agents.stream_events.RawResponsesStreamEvent] は、 LLM から直接渡される raw なイベントです。これらは OpenAI Responses API 形式であり、各イベントには `response.created` や `response.output_text.delta` などの type とデータが含まれます。生成されたメッセージを即座にユーザーへストリーミングしたい場合に便利です。
|
||
|
||
たとえば、以下のコードは LLM が生成したテキストをトークンごとに出力します。
|
||
|
||
```python
|
||
import asyncio
|
||
from openai.types.responses import ResponseTextDeltaEvent
|
||
from agents import Agent, Runner
|
||
|
||
async def main():
|
||
agent = Agent(
|
||
name="Joker",
|
||
instructions="You are a helpful assistant.",
|
||
)
|
||
|
||
result = Runner.run_streamed(agent, input="Please tell me 5 jokes.")
|
||
async for event in result.stream_events():
|
||
if event.type == "raw_response_event" and isinstance(event.data, ResponseTextDeltaEvent):
|
||
print(event.data.delta, end="", flush=True)
|
||
|
||
|
||
if __name__ == "__main__":
|
||
asyncio.run(main())
|
||
```
|
||
|
||
## Run item イベントと エージェント イベント
|
||
|
||
[`RunItemStreamEvent`][agents.stream_events.RunItemStreamEvent] は、より高レベルなイベントです。アイテムが完全に生成されたタイミングを通知するため、トークン単位ではなく「メッセージが生成された」「ツールが実行された」といったレベルで進捗をプッシュできます。同様に、 [`AgentUpdatedStreamEvent`][agents.stream_events.AgentUpdatedStreamEvent] はハンドオフなどで現在の エージェント が変わった際に更新を提供します。
|
||
|
||
たとえば、以下のコードは raw イベントを無視し、ユーザーへ更新のみをストリーミングします。
|
||
|
||
```python
|
||
import asyncio
|
||
import random
|
||
from agents import Agent, ItemHelpers, Runner, function_tool
|
||
|
||
@function_tool
|
||
def how_many_jokes() -> int:
|
||
return random.randint(1, 10)
|
||
|
||
|
||
async def main():
|
||
agent = Agent(
|
||
name="Joker",
|
||
instructions="First call the `how_many_jokes` tool, then tell that many jokes.",
|
||
tools=[how_many_jokes],
|
||
)
|
||
|
||
result = Runner.run_streamed(
|
||
agent,
|
||
input="Hello",
|
||
)
|
||
print("=== Run starting ===")
|
||
|
||
async for event in result.stream_events():
|
||
# We'll ignore the raw responses event deltas
|
||
if event.type == "raw_response_event":
|
||
continue
|
||
# When the agent updates, print that
|
||
elif event.type == "agent_updated_stream_event":
|
||
print(f"Agent updated: {event.new_agent.name}")
|
||
continue
|
||
# When items are generated, print them
|
||
elif event.type == "run_item_stream_event":
|
||
if event.item.type == "tool_call_item":
|
||
print("-- Tool was called")
|
||
elif event.item.type == "tool_call_output_item":
|
||
print(f"-- Tool output: {event.item.output}")
|
||
elif event.item.type == "message_output_item":
|
||
print(f"-- Message output:\n {ItemHelpers.text_message_output(event.item)}")
|
||
else:
|
||
pass # Ignore other event types
|
||
|
||
print("=== Run complete ===")
|
||
|
||
|
||
if __name__ == "__main__":
|
||
asyncio.run(main())
|
||
``` |