工具简介
面向开源模型的云推理平台，提供 Llama、Qwen、DeepSeek、Mistral 等模型的 Serverless 端点、专用实例与微调能力，接口兼容 OpenAI 格式。适合需要以较低成本规模化运行开源模型、又不想自建 GPU 集群的团队，也支持 LoRA 微调与批量推理任务。
本页内容来自 KGABC 结构化知识库。带「未验证」标记的字段表示官方资料未明确说明，不等同于「不支持」。
核心功能
- Serverless 与专用端点两种部署形态
- 支持 LoRA 与全参数微调
- 批量推理与嵌入接口
- OpenAI 兼容接口便于替换后端
适用场景
- 规模化托管开源模型推理服务
- 用自有数据微调后部署定制模型
优势
- 开源模型选择多，按量计费灵活
- 推理与微调可在同一平台完成
技术能力
APISDKMCP 支持未验证开源可自托管云服务本地运行
部署与平台
WebmacOSWindowsLinuxCLI
信息来源与可信度
| 来源类型 | 依据 | 状态 |
|---|---|---|
| Together AI 官方网站 https://www.together.ai | 官网说明推理、微调与专用端点服务 | 已验证 |
| Together AI 官方文档 https://docs.together.ai | 文档列出推理与微调 API 及模型清单 | 已验证 |
最后验证时间：Sun Nov 01来源优先级：官网 > 官方文档 > 官方 GitHub > 官方定价页 > 第三方资料