项目介绍
LiteLLM 提供兼容 OpenAI 的统一接口，并补充路由、负载均衡、成本追踪、限流与 Guardrails，帮助团队避免业务代码与单一模型供应商深度耦合。
适合用来做什么
多模型统一接入
成本与限流治理
供应商容灾
为什么值得关注
模型网关正成为企业 AI 架构中控制成本与风险的关键入口。
LiteLLM 提供兼容 OpenAI 的统一接口，并补充路由、负载均衡、成本追踪、限流与 Guardrails，帮助团队避免业务代码与单一模型供应商深度耦合。
模型网关正成为企业 AI 架构中控制成本与风险的关键入口。