AI Gateway 概覽
一把 API 金鑰、一個網址,就能使用 Claude、GPT 和你自己的模型。Gateway 會挑選模型,在送出前先把每個請求的費用預留在你的額度裡,並記錄每一個請求。
Gateway 做什麼#
你的工具改用 Gateway API 金鑰呼叫 https://api.agentlab.cresclab.com,不再直接呼叫模型供應商。每個請求,Gateway 會:
- 檢查金鑰 金鑰屬於你的工作區,可以把花費歸屬到部門。
- 挑選模型 指定了模型就照指定的用;
auto會依任務難度挑一個。 - 預留費用 送出前,先把這個請求最多可能花的費用預留在你的額度裡。放不下的請求會被拒絕,不收任何費用。
- 記錄下來 記錄金鑰、模型、token、費用和耗時,不記錄提示詞和回覆的內容。
Gateway 支援三種協定,現有的用戶端只要改 base URL 就能接上:
| 端點 | 協定 | 誰在用 |
|---|---|---|
POST /v1/messages | Anthropic Messages | Claude Code、Anthropic SDK |
POST /v1/responses | OpenAI Responses | Codex、OpenAI SDK(responses) |
POST /v1/chat/completions | OpenAI Chat Completions | OpenAI SDK、大多數框架、直接送 HTTP |
GET /v1/models | OpenAI 或 Anthropic 清單 | 所有用戶端:列出 auto 和允許使用的模型 |
從這裡開始#
快速入門幾個可以直接複製的步驟,接上 Claude Code、Codex、OpenAI SDK、Anthropic SDK 或 curl。API 金鑰建立金鑰、歸屬到部門、設定限制、輪替和撤銷。自動選擇模型
auto 怎麼挑模型,以及回覆怎麼告訴你是哪個模型回答的。額度與預算每月預算、部門上限、速率上限,以及三種 429。用量與匯出用量頁、終端使用者歸屬和每月 CSV 匯出。錯誤代碼每個錯誤代碼的狀態碼、能不能重試、怎麼修。