litellm-proxy-gateway
Installation
SKILL.md
LiteLLM Proxy Gateway
工作流程
- 判斷單一應用程式是否使用 SDK 即可;只有集中權限、治理或共用入口才採 Proxy。
- 查核 LiteLLM 版本與 config schema。
- 建立最小
model_list,以穩定model_name對應 provider-prefixed model。 - 從環境變數注入 provider key、master key、database URL 與 Redis secret。
- 啟動 Proxy,以 OpenAI SDK 驗證 alias 與錯誤路徑。
- 依需求載入
litellm-routing-reliability、litellm-cost-governance、litellm-observability、litellm-guardrails-safety或litellm-mcp-skills-gateway。 - 交付開發、測試、正式環境差異及驗證證據。
需要 config、client smoke test 或版本注意事項時,讀取 實驗與參考。