项目简介RAGapp[1] 是一个基于 Agentic RAG(Retrieval-Augmented Generation)模型的企业级应用,旨在简化企业使用 Agentic RAG 模型的过程。 项目提供了一个简单的 Docker 部署方式,允许用户在自己的云基础设施中部署和配置 RAGapp,项目由 LlamaIndex[2] 构建。  使用场景- 企业内部需要使用先进的 AI 模型来增强业务流程或提供智能服务。
- 需要在本地云基础设施中部署 AI 模型,以保证数据安全和合规性。
使用方法快速开始要运行RAGapp,可以使用以下命令启动一个Docker容器: dockerrun-p8000:8000ragapp/ragapp
启动后,可以通过访问http://localhost:8000/admin来配置你的RAGapp的Admin UI。 支持的AI模型可以使用OpenAI或Gemini提供的托管AI模型,也可以使用Ollama[3]提供的本地模型。 暴露的端点Docker容器公开了以下端点: - Admin UI:
http://localhost:8000/admin - Chat UI:
http://localhost:8000 - API:
http://localhost:8000/docs
请注意,Chat UI和API只有在RAGapp配置完成后才能正常工作。 安全性RAGapp默认不包含任何认证层。为了确保你的RAGapp安全,请在你的环境中保护/admin路径。 部署方式使用Docker ComposeRAGapp提供了一个docker-compose.yml文件,以便在自己的基础设施中轻松部署RAGapp与Ollama和Qdrant[4]。 使用MODEL环境变量,可以指定要使用的模型,例如llama3: MODEL=llama3docker-composeup
如果没有指定MODEL变量,默认使用的模型是phi3,它比llama3功能较弱,但下载速度更快。 注意:docker-compose.yml文件中的setup容器将把选定的模型下载到ollama文件夹中,这可能需要几分钟时间。
使用OLLAMA_BASE_URL环境变量,可以指定要使用的Ollama主机。如果没有指定OLLAMA_BASE_URL变量,默认指向由Docker Compose启动的Ollama实例(http://ollama:11434)。 如果正在运行本地Ollama实例,可以通过设置OLLAMA_BASE_URL变量将其连接到RAGapp: MODEL=llama3OLLAMA_BASE_URL=http://host.docker.internal:11434docker-composeup
如果在macOS上运行RAGapp,这将非常有用,因为Docker for Mac不支持GPU加速。 Kubernetes在自己的云基础设施中部署RAGapp也很容易。定制的Kubernetes部署即将推出。
注:本文内容仅供参考,具体项目特性请参照官方 GitHub 页面的最新说明。
|