LiteLLM Observability

工作流程

1. 定義診斷問題、必要欄位、資料分類、保留期限與存取者。
2. 選擇 SDK callback、Proxy logging、OpenTelemetry 或外部平台。
3. 查核 LiteLLM 版本、callback schema、OpenTelemetry v1/v2 與額外套件。
4. 預設不傳完整 prompt、response、secret 或敏感 metadata 到第三方。
5. 建立 request ID 關聯 client、Proxy、provider、guardrail、MCP 與 DB 事件。
6. 測試成功、provider error、timeout、budget exceeded、fallback 與 guardrail blocked。
7. 交付查詢方式、重現步驟與實際 trace 證據。

需要安全設定、OpenTelemetry 注意事項與實驗規格時，讀取 實驗與參考。

安全底線