RAGFlow

RAGFlow

基于深度文档理解、回答带引用溯源的 RAG 引擎

核心功能

RAGFlow 由 InfiniFlow 开源,核心是 DeepDoc 深度文档理解模块,能从 PDF、扫描件、表格等复杂版式里抽出可检索内容。它提供多套模板化分块策略,切片结果可视化且允许人工修改,回答附带可追溯引用以降低幻觉。用 Docker Compose 自托管,默认 80 端口访问。

功能亮点

版式解析

对扫描件、表格和幻灯片做版面识别,把复杂 PDF 还原成可检索文本

切片可视

在 Chunk 页逐条查看切片快照,双击补关键词或直接改写内容

引用溯源

答案中标注来源片段,可点开核对原文位置判断结论是否可信

检索测试

上线前用 Test text 试问,验证嵌入模型与分块模板的召回效果

自定义模型 / 模型接入

多厂商支持

官方清单收录50余家,含通义千问、DeepSeek、智谱AI、腾讯混元、火山引擎;清单外选OpenAI-API-Compatible填Base URL。

接入方式
  • User settings→Model providers选供应商,建实例
  • 实例中填API Key与Base URL,网关或本地模型填实际地址
  • 点Add custom model加模型,名称须与厂商模型ID一致
  • 本地部署可绑定Ollama、Xinference、LocalAI、VLLM
  • Set default models里设Default LLM与embedding
支持模型
通义千问DeepSeek智谱AI腾讯混元火山引擎Moonshot硅基流动Ollama
bash
接入OpenAI兼容端点(以DeepSeek为例)
进入 User settings → Model providers
在Available models中选择OpenAI-API-Compatible
填写实例名称并保存,再填连接信息
API Key: <your-key>
Base URL: https://api.deepseek.com/v1
通过连接校验后点Add custom model
Model name: deepseek-chat(须与厂商API的模型ID一致)
选模型类型、填Max tokens,支持工具调用则开启Tool call
最后在Set default models中把Default LLM设为该模型

适用场景

• 扫描件与复杂 PDF 的知识库问答
• 合同、标书等强版式文档检索
• 需要引用溯源的合规问答场景
• 对切片质量要求高的私有知识库

安装配置

bash
# 前置:CPU >= 4 核(x86),RAM >= 16 GB,磁盘 >= 50 GB,Docker >= 24.0.0
sysctl vm.max_map_count            # 必须 >= 262144
sudo sysctl -w vm.max_map_count=262144   # 永久生效请写入 /etc/sysctl.conf
git clone https://github.com/infiniflow/ragflow.git
cd ragflow/docker
git checkout -f v0.26.4
docker compose -f docker-compose.yml up -d
docker logs -f docker-ragflow-cpu-1   # 出现 RAGFLOW ASCII 字样即启动成功

使用方法

bash
1) 日志出现 Running on all addresses (0.0.0.0) 后,浏览器访问 http://IP_OF_YOUR_MACHINE(默认 80 端口可省略)
2) 右上角头像 > Model providers 填入 LLM API Key,再在 System Model Settings 指定 Chat / Embedding / Image-to-text 模型
3) Dataset > Create dataset,选定嵌入模型与分块模板(模板一旦解析过文件,嵌入模型不可再改)
4) Add file > Local files 上传 PDF、DOCX、XLSX、图片等,点播放按钮开始解析
5) 在 Chunk 页核对切片并用 Retrieval testing 试检索,最后 Chat > Create chat 绑定数据集开始问答

关键指标

尚未核验对标产品,此处只列本工具自身指标,不做对比结论。

指标RAGFlow
价格免费
开源
上手难度专家
Token 消耗

相关工具

同类工具

优点

  • DeepDoc 针对复杂版式与扫描件做解析,比通用文本切分更贴近真实文档
  • 切片结果可视化并支持人工改写、补关键词,检索质量能持续调优
  • 回答附带可点击的引用片段,方便核对来源
  • 仓库采用 Apache-2.0 许可,自托管没有附加商用条款

缺点

  • 官方前置要求 CPU >= 4 核、内存 >= 16 GB、磁盘 >= 50 GB,普通个人机器难以承载
  • 启动前必须把 vm.max_map_count 调到 262144,否则检索存储起不来
  • 官方只维护 x86 镜像,ARM64 平台需要按文档自行构建镜像
  • v0.22.0 起只发布 slim 镜像(约 2 GB),不再内置嵌入模型,必须外接 LLM 与 Embedding 服务
  • 镜像解压后约占 7 GB 磁盘,加上索引数据后空间消耗明显