AI 工具目录

在本地一行命令运行开源大模型

为 AI 代理接入大量第三方应用的工具层

面向 RAG 的数据索引与检索编排框架

通过 REST API 调用 GPT 系列模型能力

基于 LPU 的低延迟大模型推理云服务

开源模型推理、微调与托管服务平台

高性能生成式 AI 推理与微调云平台

统一路由多家模型供应商的 API 网关

用统一 OpenAI 格式调用上百种模型

开源 LLM 应用可观测与提示管理平台