工具简介
开源的本地大模型运行工具，把模型权重、推理运行时与配置打包成统一命令行体验，内置模型库可拉取 Llama、Qwen、Mistral 等权重，并提供兼容 OpenAI 格式的 REST API。适合想在笔记本或内网环境离线调试、做原型验证的开发者，也是桌面 AI 应用常用的本地后端。
本页内容来自 KGABC 结构化知识库。带「未验证」标记的字段表示官方资料未明确说明，不等同于「不支持」。
核心功能
- 一行命令拉取并运行模型
- 提供 OpenAI 兼容的本地 REST 接口
- 支持 Modelfile 自定义系统提示与参数
- 内置模型库与 GPU、CPU 自动调度
适用场景
- 离线环境下调试 LLM 应用
- 为桌面应用提供零成本的本地推理后端
优势
- 安装与使用门槛低，跨平台一致
- 数据不出本机，适合隐私场景
技术能力
APISDKMCP 支持未验证开源可自托管云服务本地运行
部署与平台
macOSWindowsLinuxDockerCLI
信息来源与可信度
| 来源类型 | 依据 | 状态 |
|---|---|---|
| Ollama 官方网站 https://ollama.com | 官网说明本地运行开源模型的产品定位 | 已验证 |
| Ollama 官方 GitHub 仓库 https://github.com/ollama/ollama | 仓库 LICENSE 确认开源许可 | 已验证 |
最后验证时间：Sun Nov 01来源优先级：官网 > 官方文档 > 官方 GitHub > 官方定价页 > 第三方资料