AI Gateway大全

AI GatewayはAI trafficを共通のcontrol/enforcement pointへ集約する実装パターンとして扱う。単一の標準化済み製品カテゴリではない。共通Coreでは routing/fallback、provider/model abstraction、credential/auth boundary、rate/quota/budget control、AI-specific telemetry、policy hooks、MCP/tool mediationを分離して記述する。

• ROUTING_FALLBACK: model/provider route、conditional route、fallback。
• PROVIDER_MODEL_ABSTRACTION: provider translation、model virtualization等。
• CREDENTIAL_AUTH_BOUNDARY: credential mediationとbackend security policy。
• RATE_QUOTA_BUDGET: rate、quota、budget enforcement。
• AI_TELEMETRY: request、token、cost、error、latency等。
• POLICY_HOOKS: request/response policy、redaction等。
• MCP_TOOL_MEDIATION: MCP/tool traffic routingとprotocol handling。

これらは実装パターンの分解であり、全AI Gateway製品が全機能を備えるとは主張しない。

Cloudflare current Limits pageは2026-09-24変更を反映する。旧numeric log-limit wordingはcurrent source readbackなしに公開固定しない。CloudflareとEnvoyの二系統は独立にsubstantiatedだが、三系統以上のfeature-parity comparisonが完了したとは扱わない。

• Gateway配置だけでpolicy enforcementやsecurityを保証しない。
• Gatewayを迂回するdirect provider/tool pathが残ればcontrol coverageは不完全になり得る。
• translation/parser差、protocol version差、streaming/tool-call semantics差がpolicy bypassや破損を生み得る。
• 集中化はsingle point of failure / high-blast-radius compromiseを作り得る。
• logging/telemetryはprompt、tool argument、response等のsensitive dataを保持し得るため、retention/redaction/access controlを別に設計する。
• cache、semantic cache、routing、billing、GUI等の個別機能を全製品共通へ一般化しない。
• provider/product limits、plan、region、logging backend、retention、pricingはPRODUCT_VOLATILE。
• Gatewayの存在を「全AI経路が統制済み」の証明にしない。

provider/product / deployment topology / plan-region / supported upstream providers-models / auth mode / logging backend / retention / rate-budget primitive / MCP-tool support / protocol version / streaming / cache / organization policy / direct-path bypass inventoryを分離する。

APPLICATION / AGENT → AI GATEWAY → auth/credential boundary → route/provider translation → rate/quota/budget policy → request/response policy hooks → provider/model or MCP/tool backend → telemetry/readback。

direct pathが存在する場合はBYPASS_PATHとして明示し、Gateway coverageへ暗黙算入しない。

UNEXECUTED。非機密fixtureでprimary provider success、fallback route、rate/quota/budget deny、malformed/ambiguous MCP or tool message、provider translation差、gateway outage、direct-path bypass attempt、logging/redaction、retry時のduplicate side effect防止、policy update後のreadbackを検証する。実Production credential、実決済、実外部副作用は使用しない。未実施結果を推測しない。

publication-timeの各製品feature matrix、limits、pricing、plan/region availability、managed gateway内部translation/parser、tenant固有logging/retention/data residency、direct provider path封鎖、三系統以上のcurrent feature-parity comparison。UNKNOWNを推測で閉じない。

AI Gateway is an implementation pattern, not a standardized single category. Current packet independently supports Cloudflare + Envoy only; do not represent three-family parity as completed. Preserve Cloudflare limits/log behavior currentness, Envoy security/version gate, privacy/logging limits, and all OPEN_UNKNOWN.