|
最近体验了一下RAGFlow的RAG能力,体验下来,它给我的感觉总结两点:1)知识检索方面能力很强;2)Agent工作流搭建很反人性,跟Coze或者dify比,有点复杂。 本文主要包含两部分:RAGFlow部署和RAG项目实操。声明下:为了节省字数,内容为精简版,整体较为粗糙,但保真! 一、RAGFlow部署 按量付费,4c16g40G, ubuntu 22.04 apt安装Docker 启动docker服务 systemctlstartdockersystemctlenabledocker 设置docker加速器 sudomkdir-p/etc/dockersudotee/etc/docker/daemon.json<<-'EOF'{"registry-mirrors":["https://docker.m.daocloud.io","https://dockerhub.timeweb.cloud"]}EOFsudosystemctldaemon-reloadsudosystemctlrestartdockercurl-L"https://github.com/docker/compose/releases/download/v2.36.2/docker-compose-$(uname-s)-$(uname-m)"-o/usr/bin/docker-compose 要保证内核参数 vm.max_map_count >= 262144 vi/etc/sysctl.conf#最后面增加一行vm.max_map_count=262144 使其生效 sysctl-p检查 sysctlvm.max_map_count gitclonehttps://github.com/infiniflow/ragflow.git 进到docker目录下 cdragflow/docker配置文件为.env,这里面可以配置各组件密码,比如mysql、minio、elastcsearch等服务的密码以及端口 直接访问阿里云的公网ip即可访问到RAGFlow, 初次访问需要设置邮箱、用户名和密码。 点击右上角头像,然后选择“模型提供商” 找到DeepSeek,点击“添加模型” 输入api-key 找到硅基流动,点击“添加模型” 输入api-key 设置默认模型 二、RAG项目实操 做一个公司内部员工智能问答助手,我们 可以将公司内部员工手册以及各部门新员工 入职培训手册,比如技术部各内部资源 使用指南导入到RAGFlow的知识库里, 然后做一个基于知识库+LLM的智能对话助手, 再将该助手发布到公司内部OA平台 借助coze空间https://space.coze.cn/生成 提示词1如下: 帮我做一份用来作为RAG系统的知识库文档,这个文档主要内容为一家公司的内部员工手册,手册内容字数不少于10000字。提示词2如下: 我还需要一份技术部同事使用的内部员工培训手册,这份手册需要包含公司所有内部IT平台的介绍和访问方式 右上角点击“+创建知识库” 点击“数据集” 然后新增文件,选择本地文件 搜索测试 点击“Agent”,然后点击“+创建Agent” 点击“知识检索”卡片,设置Rerank模型 点击“生成回答”卡片,设置系统提示词 试运行 调试完,没问题点击“保存”。 1)获取API 单击右上角头像,选择API,单击“API KEY”, 点击“创建新密钥”,然后复制新创建的key 2)嵌入网站 回到上面创建的Agent,点击“嵌入网站” 3)将代码嵌入OA系统 这里,我们还是让豆包做一个模拟的OA网页 借用豆包的编程能力,帮我们写一个简单的 OA网页。 https://www.doubao.com/chat/ 提示词: 帮我写一个公司OA平台,只需要提供一个静态网页即可,但需要嵌入我这段代码:<iframesrc="http://47.105.99.194/chat/share?shared_id=e90421d665fe11f09b8a0242ac120006&from=agent&auth=ViZGNlZWNlNjYwNzExZjBiZTkzMDI0Mm&visible_avatar=1&locale=zh"style="width:100%;height:100%;min-height:600px"frameborder="0"></iframe>
最后介绍下我的大模型课:我的运维大模型课上线了,目前还是预售期,有很大优惠。AI越来越成熟了,大模型技术需求量也越来越多了,至少我觉得这个方向要比传统的后端开发、前端开发、测试、运维等方向的机会更大,而且一点都不卷! |