AI 工具目录

纯 C/C++ 的本地大模型推理引擎

用统一 OpenAI 格式调用上百种模型

开源 LLM 应用可观测与提示管理平台

面向海量向量数据的分布式数据库

面向原型开发的轻量开源向量库

基于 Lance 列式格式的嵌入式多模态向量库

支持大规模在线检索与排序的引擎

轻量开源搜索引擎，支持向量混合检索

提供 Embedding、重排序与网页读取的检索基础设施

把 PDF、HTML、PPT 解析为结构化文本的开源库

用于构建生产级 RAG 流水线的开源框架

强调文档理解与可追溯引用的开源 RAG 引擎