工具简介
开源的模型调用适配层，把 OpenAI、Anthropic、Gemini、Bedrock 与各类托管服务统一成 OpenAI 兼容的 Python SDK，并可作为代理网关提供鉴权、限流、重试与成本追踪。适合需要在多供应商之间切换、或为团队集中管理模型密钥与预算的工程团队。
本页内容来自 KGABC 结构化知识库。带「未验证」标记的字段表示官方资料未明确说明，不等同于「不支持」。
核心功能
- 统一上百种模型供应商的调用格式
- Proxy 模式提供虚拟密钥与限流
- 内置重试、回退与负载均衡
- 记录请求成本与用量日志
适用场景
- 团队集中管理模型密钥与预算
- 为现有 OpenAI 代码替换或新增后端
优势
- 适配范围广，切换供应商改动极小
- 自托管代理便于统一治理
技术能力
APISDKMCP 支持未验证开源可自托管云服务本地运行
部署与平台
macOSWindowsLinuxDockerCLI
信息来源与可信度
| 来源类型 | 依据 | 状态 |
|---|---|---|
| LiteLLM 官方网站 https://www.litellm.ai | 官网说明统一模型调用与代理网关定位 | 已验证 |
| LiteLLM 官方仓库 https://github.com/BerriAI/litellm | 仓库 README 与 LICENSE 确认开源实现 | 已验证 |
| LiteLLM 官方文档 https://docs.litellm.ai | 文档说明 SDK 与 Proxy 的用法及供应商清单 | 已验证 |
最后验证时间：Sun Nov 01来源优先级：官网 > 官方文档 > 官方 GitHub > 官方定价页 > 第三方资料