返回顶部
热门问答 更多热门问答
技术文章 更多技术文章

开源RAG工具kotaemon搭建私域ChatQA

[复制链接]
链载Ai 显示全部楼层 发表于 昨天 11:12 |阅读模式 打印 上一主题 下一主题
今天介绍一个涨star贼快的项目kotaemon,它是一个开源的干净且可定制的RAG UI,可用于构建自己的文档聊天应用。开发人员可以从项目中学习RAG整个流程实战;终端使用人员可以0代码部署自己个人基于RAG的QA应用。
这个项目为想要对文档进行QA的最终用户和想要构建自己的RAG管道的开发人员提供功能性的RAG UI:
  • 对于最终用户:
    • 一个干净且简约的用户界面,用于基于RAG的QA。
    • 支持 LLM API 提供程序(OpenAI、AzureOpenAI、Cohere 等)和本地 LLM (ollama和llama-cpp-python的模型)
    • 简单的安装脚本。
  • 对于开发人员:
    • 用于构建您自己的基于 RAG 的文档 QA 管道的框架。
    • 使用提供的 UI(使用 Gradio 构建)自定义并查看 RAG 管道的运行情况。

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;border-left: 4px solid rgb(248, 57, 41);">ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: var(--articleFontsize);letter-spacing: 0.034em;text-align: justify;">使用界面

基于 Gradio 构建,您可以根据需要自由自定义/添加任何 UI 元素。此外,我们的目标是支持多种文档索引和检索策略。GraphRAG索引管道作为示例提供。

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;border-left: 4px solid rgb(248, 57, 41);">ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: var(--articleFontsize);text-align: justify;">主要特点

  • 托管您自己的文档 QA (RAG) web-UI。支持多用户登录,在私人/公共收藏中组织您的文件,与他人协作并分享您最喜欢的聊天。

  • 整理你的LLM和嵌入模型。支持本地LLMs和流行的API提供商(OpenAI, Azure, Ollama, Groq)。

  • 混合 RAG 管道。Sane 默认的 RAG 管道,带有混合(全文和向量)检索器 + 重新排名,以确保最佳检索质量。

  • 多模式 QA 支持。通过数字和表格支持在多个文档上执行问答。支持多模态文档解析(UI 上的可选选项)。

  • 通过文档预览推进引文。默认情况下,系统会提供详细的引文以确保 LLM 答案的正确性。直接在浏览器内的 PDF 查看器中查看您的引文(包括相关分数),并突出显示。当检索管道返回低相关文章时发出警告。

  • 支持复杂的推理方法。使用问题分解来回答复杂/多跃点问题。使用 ReAct、ReWOO 和其他代理支持基于代理的推理。

  • 可配置的设置 UI。您可以在UI上调整检索和生成过程的最重要方面(包括提示)。

  • 可扩展。基于 Gradio 构建,您可以根据需要自由自定义/添加任何 UI 元素。此外,我们的目标是支持多种文档索引和检索策略。GraphRAG索引管道作为示例提供。

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;border-left: 4px solid rgb(248, 57, 41);">ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: var(--articleFontsize);letter-spacing: 0.034em;">使用起来

在新的 python 环境中克隆并安装所需的软件包。

# optional (setup env)conda create -n kotaemon python=3.10conda activate kotaemon
# clone this repogit clone https://github.com/Cinnamon/kotaemoncd kotaemon
pip install -e "libs/kotaemon[all]"pip install -e "libs/ktem"

启动 Web 服务器:

pythonapp.py

默认用户名/密码为:admin/admin .您可以直接在 UI 上设置其他用户。

进一步配置请查看:(可以方便的复制到新机器上,也可以在系统中替换自己的RAG模块)

https://github.com/Cinnamon/kotaemon

体验地址:

https://huggingface.co/spaces/taprosoft/kotaemon

回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

链载AI是专业的生成式人工智能教程平台。提供Stable Diffusion、Midjourney AI绘画教程,Suno AI音乐生成指南,以及Runway、Pika等AI视频制作与动画生成实战案例。从提示词编写到参数调整,手把手助您从入门到精通。
  • 官方手机版

  • 微信公众号

  • 商务合作

  • Powered by Discuz! X3.5 | Copyright © 2025-2025. | 链载Ai
  • 桂ICP备2024021734号 | 营业执照 | |广西笔趣文化传媒有限公司|| QQ