AI Gateway の概要
1 つの API キーと 1 つのアドレスで、Claude、GPT、自社のモデルを使えます。Gateway がモデルを選び、送信前に各リクエストの費用を上限に対して確保し、すべてのリクエストを記録します。
Gateway の役割#
ツールはモデルプロバイダーを直接呼び出す代わりに、Gateway の API キーを使って https://api.agentlab.cresclab.com を呼び出します。Gateway はリクエストごとに次のことを行います。
- キーを確認 キーはワークスペースに属し、部門に費用を計上できます。
- モデルを選択 指定したモデルはそのまま使われます。
autoではタスクの難しさに応じてモデルを選びます。 - 費用を確保 リクエストにかかりうる最大の費用を、送信前に上限に対して確保します。収まらないリクエストは拒否され、費用はかかりません。
- 記録 キー、モデル、トークン、費用、所要時間を記録します。プロンプトと応答のテキストは記録しません。
3 つのプロトコルに対応しているので、既存のクライアントはベース URL を変えるだけで接続できます。
| エンドポイント | プロトコル | 主な利用元 |
|---|---|---|
POST /v1/messages | Anthropic Messages | Claude Code、Anthropic SDK |
POST /v1/responses | OpenAI Responses | Codex、OpenAI SDK(responses) |
POST /v1/chat/completions | OpenAI Chat Completions | OpenAI SDK、多くのフレームワーク、HTTP 直接呼び出し |
GET /v1/models | OpenAI または Anthropic の一覧 | すべてのクライアント:auto と許可されたモデル |
はじめに#
クイックスタートClaude Code、Codex、OpenAI SDK、Anthropic SDK、curl を、コピーできる数ステップで接続します。API キーキーの作成、部門への費用計上、制限、ローテーション、取り消し。モデルの自動選択
auto がモデルを選ぶ仕組みと、どのモデルが応答したかを応答から確認する方法。上限と予算月間予算、部門の上限、レート制限、3 種類の 429。使用量とエクスポート使用量のページ、エンドユーザーごとの記録、月ごとの CSV エクスポート。エラーすべてのエラーコードと、そのステータス、再試行の可否、対処法。リファレンス#
- API リファレンス:エンドポイント、ヘッダー、OpenAPI ドキュメント。
- データの取り扱い:リクエストについて保存するものと、保存しないもの。
- セルフホスト:自社のネットワーク内で Gateway を動かす方法。