AI 工具目录

开源模型推理、微调与托管服务平台

高性能生成式 AI 推理与微调云平台

统一路由多家模型供应商的 API 网关

高吞吐大模型推理与服务引擎

用统一 OpenAI 格式调用上百种模型

开源 LLM 应用可观测与提示管理平台

早期自主 Agent 的代表性开源项目

以角色协作方式编排多智能体的框架

微软开源的多智能体对话与编排框架

类型安全、可测试的 Python Agent 框架