自行架設 Gateway
Gateway 可以在你自己的網路裡，以「僅 Gateway」模式用一個容器映像檔執行，搭配你的 PostgreSQL 和你的模型。每個案子都由 Crescendo Lab 協助架設。
你要執行什麼#
自行架設的 Gateway 和託管的是同一個映像檔，以「僅 Gateway」模式啟動。它只提供 API 參考裡的 /v1 端點，金鑰、auto、額度、帳本和錯誤代碼都一樣。裡面沒有登入、主控台或 Agent Lab 的其他產品。
| 元件 | 說明 |
|---|---|
| Gateway 容器 | 以非 root 使用者、唯讀檔案系統執行。沒有對外連網的路由，也沒有 Docker socket。 |
| PostgreSQL | 你自己的。存放金鑰、帳本和用量紀錄，只有 Gateway 的儲存網路連得到。 |
| 模型 | 你自己的 OpenAI 相容模型伺服器（vLLM、Ollama 等），位在內部推論網路上。這套部署設定沒有連到網際網路的路由，所以要用雲端模型，需要和我們另外約定。 |
| 入口 | 由另一個 proxy 把 Gateway 發布在本機的一個通訊埠。對外名稱和 TLS 由你自己的反向 proxy 加上。 |
| 設定 | 一份部署檔，寫明模型和它們的端點；密鑰放在映像檔之外。 |
就緒檢查#
伺服器連上資料庫、也有已發布的設定之後，GET /v1/gateway/readiness 會回 200；正在啟動、重新載入或排空連線時回 503。它不會檢查模型有沒有回應。新的設定無效時，伺服器會繼續使用上一份有效的設定，並回報 configuration: rejected_replacement。
怎麼開始架設#
自行架設由你和 Crescendo Lab 一起完成：我們提供以 digest 驗證過的映像檔、部署設定，並替你建立工作區、金鑰和模型目錄，再和你約定升級與備份的方式。請寫信到 info@cresclab.com。
會儲存哪些資料，以及唯一一個必須保持關閉的錄製器，見資料處理。