LiteLLM Guardrails Safety

工作流程

1. 建立 threat model，分類輸入、輸出、tool、MCP、資料外洩與越權風險。
2. 查核 LiteLLM 版本、guardrail provider、mode、授權與失敗語意。
3. 選擇 pre_call、post_call、pre_mcp_call 等正確執行點。
4. 必須執行的防護設為 default-on；工具權限採預設拒絕及最小 allowlist。
5. 對工具名稱與參數同時限制，避免只允許名稱卻放任高風險 arguments。
6. 明確定義 provider error 與 guardrail error 的 fail-open 或 fail-closed 行為。
7. 測試 allow、deny、mask、rewrite、provider error 與 guardrail error。

需要 tool permission config、PII config 與測試規格時，讀取 實驗與參考。

安全底線