https://bit.ly/4rxeWqD
#AnthropicAPI #Claude #AI모델 #인공지능 #AlternativeAI #ArtificialIntelligence #Developer
https://bit.ly/4rxeWqD
#AnthropicAPI #Claude #AI모델 #인공지능 #AlternativeAI #ArtificialIntelligence #Developer
🔍 #Anthropic introduces Citations #API feature, enabling #Claude to ground responses in source documents with precise references
🧵 ↓ #ai
🔍 #Anthropic introduces Citations #API feature, enabling #Claude to ground responses in source documents with precise references
🧵 ↓ #ai
短いFAQ応答が大半で、そこに毎回思考トークンを払うのは割に合わない。込み入った質問だけ thinking に回す出し分けを考えています。全部に効かせる機能ではない、と。
#Claude #AnthropicAPI #生成AI
短いFAQ応答が大半で、そこに毎回思考トークンを払うのは割に合わない。込み入った質問だけ thinking に回す出し分けを考えています。全部に効かせる機能ではない、と。
#Claude #AnthropicAPI #生成AI
定期的なバッチ処理(記事の自動要約、ナレッジベースの定期更新など)で効果大。月数十ドルの差になる。
#Claude #AnthropicAPI
定期的なバッチ処理(記事の自動要約、ナレッジベースの定期更新など)で効果大。月数十ドルの差になる。
#Claude #AnthropicAPI
レスポンスに付くリクエスト識別子を控えておけば、問い合わせのとき話が早い。「失敗しました」より「このIDが」のほうが、原因に近づけます。
#AnthropicAPI #Claude
レスポンスに付くリクエスト識別子を控えておけば、問い合わせのとき話が早い。「失敗しました」より「このIDが」のほうが、原因に近づけます。
#AnthropicAPI #Claude
生成させずに測れるので、上限内かを事前に確認できる。429 を踏んでから気づくより、投げる前に分かるほうが運用が楽です。
#AnthropicAPI #Claude
生成させずに測れるので、上限内かを事前に確認できる。429 を踏んでから気づくより、投げる前に分かるほうが運用が楽です。
#AnthropicAPI #Claude
キャッシュしたい静的部分(システムプロンプト・長い文脈)を必ず先頭に置き、動的な user 入力は後ろに。順序を逆にすると、毎回キャッシュミスして 90% 削減の恩恵を取りこぼす。
#Claude #AnthropicAPI #生成AI
キャッシュしたい静的部分(システムプロンプト・長い文脈)を必ず先頭に置き、動的な user 入力は後ろに。順序を逆にすると、毎回キャッシュミスして 90% 削減の恩恵を取りこぼす。
#Claude #AnthropicAPI #生成AI
検索結果を受けて「次に何を調べるか」を挟む流れ。ツールを跨いで進めるタスクほど、思考の継続が結果に効いてきます。
#Claude #AnthropicAPI #生成AI
検索結果を受けて「次に何を調べるか」を挟む流れ。ツールを跨いで進めるタスクほど、思考の継続が結果に効いてきます。
#Claude #AnthropicAPI #生成AI
大きい画像をそのまま投げると、テキストより重くなることがある。精度を保てる範囲で事前にリサイズすると、トークンがだいぶ節約できます。
#AnthropicAPI #Claude
大きい画像をそのまま投げると、テキストより重くなることがある。精度を保てる範囲で事前にリサイズすると、トークンがだいぶ節約できます。
#AnthropicAPI #Claude
相手が混んでいる最中に等間隔で叩くと、混雑を長引かせるだけ。少しずつ引くのが、全体では早く終わります。
#AnthropicAPI #Claude
相手が混んでいる最中に等間隔で叩くと、混雑を長引かせるだけ。少しずつ引くのが、全体では早く終わります。
#AnthropicAPI #Claude
429 はこちら側のレート超過、529 はサーバー側の過負荷。リトライ戦略を分けないと、無駄な再送でさらに詰まる。
#AnthropicAPI #生成AI
429 はこちら側のレート超過、529 はサーバー側の過負荷。リトライ戦略を分けないと、無駄な再送でさらに詰まる。
#AnthropicAPI #生成AI
生成が途中まで進んで切れたケースを丸ごと再送すると、二重処理になり得る。冪等な範囲に絞る。全部を無条件で再送、にしないのが安全です。
#AnthropicAPI #Claude
生成が途中まで進んで切れたケースを丸ごと再送すると、二重処理になり得る。冪等な範囲に絞る。全部を無条件で再送、にしないのが安全です。
#AnthropicAPI #Claude
考える量に上限を設けるイメージ。難所には多め、軽い処理には少なめと配分すれば、青天井にならずコストが読める。難度に合わせて振るのがコツです。
#Claude #AnthropicAPI #生成AI
考える量に上限を設けるイメージ。難所には多め、軽い処理には少なめと配分すれば、青天井にならずコストが読める。難度に合わせて振るのがコツです。
#Claude #AnthropicAPI #生成AI
usage の cache_creation_input_tokens が0なら、hit/miss 以前にキャッシュ未登録。短いシステムプロンプトでキャッシュ効かない時はまずトークン数を確認。
#Claude #AnthropicAPI
usage の cache_creation_input_tokens が0なら、hit/miss 以前にキャッシュ未登録。短いシステムプロンプトでキャッシュ効かない時はまずトークン数を確認。
#Claude #AnthropicAPI
end_turn は自然終了、max_tokens は上限切れ、stop_sequence は指定文字列、tool_use はツール要求。max_tokens を end_turn と取り違えるのが怖い所です。
#AnthropicAPI #Claude
end_turn は自然終了、max_tokens は上限切れ、stop_sequence は指定文字列、tool_use はツール要求。max_tokens を end_turn と取り違えるのが怖い所です。
#AnthropicAPI #Claude
だから、途中経過に副作用(DB書き込みなど)を持たせず、完了時にまとめて確定する設計にしておくと、切断に強くなります。
#AnthropicAPI #Claude
だから、途中経過に副作用(DB書き込みなど)を持たせず、完了時にまとめて確定する設計にしておくと、切断に強くなります。
#AnthropicAPI #Claude
サーバの指示に従うのが、結局いちばん早く復帰します。無視して叩くほど遠のきます。
#AnthropicAPI #Claude
サーバの指示に従うのが、結局いちばん早く復帰します。無視して叩くほど遠のきます。
#AnthropicAPI #Claude
スキーマ指定(構造化出力)に切り替えると、パースしやすい出力に固定できる。プロンプトでお願いするより仕組みで縛るほうが安定する。
#生成AI #AnthropicAPI
スキーマ指定(構造化出力)に切り替えると、パースしやすい出力に固定できる。プロンプトでお願いするより仕組みで縛るほうが安定する。
#生成AI #AnthropicAPI
条件を並べてトレードオフを潰してから結論を出す、という流れを内部でやってくれる。一発で答えさせるより抜け漏れが減る、というのが触っての印象です。
#Claude #AnthropicAPI #生成AI
条件を並べてトレードオフを潰してから結論を出す、という流れを内部でやってくれる。一発で答えさせるより抜け漏れが減る、というのが触っての印象です。
#Claude #AnthropicAPI #生成AI
https://papoo.work/doc/59ad4059a4b0fe52
#claudehowto #claudecode #rate_limit_error #anthropicapi
https://papoo.work/doc/59ad4059a4b0fe52
#claudehowto #claudecode #rate_limit_error #anthropicapi
auto は任せる、any はどれか必ず、tool は特定の一つを強制、none は使わせない。構造化出力を必ず欲しいなら tool 強制、雑談に紛れさせたくないなら none、と使い分けます。
#AnthropicAPI #Claude
auto は任せる、any はどれか必ず、tool は特定の一つを強制、none は使わせない。構造化出力を必ず欲しいなら tool 強制、雑談に紛れさせたくないなら none、と使い分けます。
#AnthropicAPI #Claude
静的な部分(システムプロンプトや長い文脈)を必ず先頭に、動的な user 入力は後ろに置く。順序が逆だと毎回キャッシュミスして、90%削減の恩恵を取りこぼします。
#Claude #AnthropicAPI
静的な部分(システムプロンプトや長い文脈)を必ず先頭に、動的な user 入力は後ろに置く。順序が逆だと毎回キャッシュミスして、90%削減の恩恵を取りこぼします。
#Claude #AnthropicAPI
裏で大量に考えさせれば、その分そのまま乗る。「精度のために考えさせる」と「払う」はセット。budget で釣り合いを取る、が現実的な落としどころです。
#Claude #AnthropicAPI #生成AI
裏で大量に考えさせれば、その分そのまま乗る。「精度のために考えさせる」と「払う」はセット。budget で釣り合いを取る、が現実的な落としどころです。
#Claude #AnthropicAPI #生成AI
スキーマ指定(構造化出力)に切り替えると、パースしやすい出力に固定できる。プロンプトでお願いするより仕組みで縛るほうが安定する。
#生成AI #AnthropicAPI
スキーマ指定(構造化出力)に切り替えると、パースしやすい出力に固定できる。プロンプトでお願いするより仕組みで縛るほうが安定する。
#生成AI #AnthropicAPI
キャッシュしたい静的部分(システムプロンプト・長い文脈)を必ず先頭に置き、動的な user 入力は後ろに。順序を逆にすると、毎回キャッシュミスして 90% 削減の恩恵を取りこぼす。
#Claude #AnthropicAPI #生成AI
キャッシュしたい静的部分(システムプロンプト・長い文脈)を必ず先頭に置き、動的な user 入力は後ろに。順序を逆にすると、毎回キャッシュミスして 90% 削減の恩恵を取りこぼす。
#Claude #AnthropicAPI #生成AI