バッチAPI
この説明で扱う言葉: Batch API ／ バッチAPI
ほかの呼び方: Batch processing / asynchronous batch requests / batch job
ひとことでいうと
多数のソフト同士がやり取りする窓口リクエストをJSONL入力ファイルとしてまとめて非同期処理するソフト同士がやり取りする窓口実行方式。OpenAI Batch ソフト同士がやり取りする窓口ではcompletion_windowは現在24hのみで、同期ソフト同士がやり取りする窓口より低コスト・高いrate-limit headroomを提供する。
原資料の説明を確認する
多数のAPIリクエストをJSONL入力ファイルとしてまとめて非同期処理するAPI実行方式。OpenAI Batch APIではcompletion_windowは現在24hのみで、同期APIより低コスト・高いrate-limit headroomを提供する。
含むこと・含まないこと: Batch APIという名称・料金割引率・対応endpoint・request/file上限はproviderおよび時点依存。辞典でprovider共通概念として採用する場合の境界は未確定。current canonical TERM_ID集合の安全な取得も未完了。
混同に注意する言葉: 通常の同期API呼び出し / streaming / client-side concurrency/queueing
説明の出所を確認する
外部一次資料と候補台帳を照合した定義を掲載しています。
https://developers.openai.com/api/docs/guides/batch; https://developers.openai.com/api/reference/resources/batches/methods/create
照合用の番号と原文
TERM-EXT-0003 · TERM_CANDIDATE_QUEUE!A4:T4:4
SHA-256: ba079c1c4cbcbf0897dd25eda2c821b918ae39825600b1e9539382202f05f90c
多数のAPIリクエストをJSONL入力ファイルとしてまとめて非同期処理するAPI実行方式。OpenAI Batch APIではcompletion_windowは現在24hのみで、同期APIより低コスト・高いrate-limit headroomを提供する。 Batch APIという名称・料金割引率・対応endpoint・request/file上限はproviderおよび時点依存。辞典でprovider共通概念として採用する場合の境界は未確定。current canonical TERM_ID集合の安全な取得も未完了。