AI 工具目录

纯 C/C++ 的本地大模型推理引擎

用统一 OpenAI 格式调用上百种模型

开源 LLM 应用可观测与提示管理平台

全托管向量数据库，适合生产级语义检索

面向海量向量数据的分布式数据库

面向原型开发的轻量开源向量库

基于 Lance 列式格式的嵌入式多模态向量库

支持大规模在线检索与排序的引擎

轻量开源搜索引擎，支持向量混合检索

基于 Milvus 的全托管向量云服务

面向检索质量优化的 Embedding 与重排序模型

提升检索结果排序质量的重排序 API