🐛 This fixes a bug when using a StreamingResponse and dependencies with yield or UploadFile.
Details: Now the exit code of dependencies with yield runs after the response is sent back.
If you want to read more: fastapi.tiangolo.com/advanced/adv...
🐛 This fixes a bug when using a StreamingResponse and dependencies with yield or UploadFile.
Details: Now the exit code of dependencies with yield runs after the response is sent back.
If you want to read more: fastapi.tiangolo.com/advanced/adv...
but I know @jimmyvanveen.com has asked for something along those lines, and github.com/reduxjs/redu... is a similar issue.
but I know @jimmyvanveen.com has asked for something along those lines, and github.com/reduxjs/redu... is a similar issue.
【Langgraph+FastAPI】LanggraphのAPI化の技術選定で苦戦した話
LanggraphアプリのAPI化で、当初WebSocketを用いたが、CloudRunのタイムアウトやコスト、UXの課題からSSEへ移行した。
SSEは一方向通信で実装が容易であり、OpenAI APIのStreamingと同様の体験を提供できる。
実装では、FastAPIでStreamingResponseを利用し、Langgraphの出力をyieldで指定。
フロントエンド側では、ストリームデータを順次処理する。
【Langgraph+FastAPI】LanggraphのAPI化の技術選定で苦戦した話
LanggraphアプリのAPI化で、当初WebSocketを用いたが、CloudRunのタイムアウトやコスト、UXの課題からSSEへ移行した。
SSEは一方向通信で実装が容易であり、OpenAI APIのStreamingと同様の体験を提供できる。
実装では、FastAPIでStreamingResponseを利用し、Langgraphの出力をyieldで指定。
フロントエンド側では、ストリームデータを順次処理する。