在很多问答(Q&A)应用中,用户希望和机器人进行自然的多轮对话。这意味着应用不仅要能回答单个问题,还需要具备“记忆”功能,把过去的问题和答案利用起来,才能让对话连贯。
本文将介绍如何在RAG(Retrieval-Augmented Generation,检索增强生成)的基础上,扩展支持对话交互。
传统的 RAG 通常是这样的流程:
👉 用户输入问题 → 检索文档 → 生成答案
在对话场景中,我们需要把历史消息纳入考虑。本文介绍了两种方式:
链(Chain):只执行一次检索步骤;
智能体(Agent):允许模型根据需要多次检索,直到找到合适的答案。
在对话式应用里,不同类型的消息都会被记录:
HumanMessage:用户输入
AIMessage:助手回复
ToolMessage:工具返回结果(比如检索到的文档)
整个对话过程就像一条消息链,模型不仅能看到用户和助手的对话,还能结合工具调用结果来生成更合理的答案。
在多轮对话中,用户的问题往往需要结合上下文才能理解。比如:
用户:耐克在美国有多少个配送中心?
AI:耐克在美国有 8 个配送中心。
用户:在美国之外有哪些?
这时模型会自动把用户模糊的问题改写为完整的检索查询:
👉 “耐克在美国之外有哪些配送中心?”
这样即使用户没说全,模型也能自动补全上下文。
应用的核心流程可以抽象为三个节点:
用户输入节点:生成检索请求或直接回复;
检索工具节点:执行向量数据库查询;
响应生成节点:基于检索结果生成最终答案。
这种设计保证了灵活性:
用户打招呼时,可以直接回复;
用户提问时,则会触发检索和推理。
要支持多轮对话,应用需要保存历史对话。文章中介绍了使用LangGraph 的持久化机制:
每一轮消息都会追加到状态中;
通过设置thread_id,不同会话线程能被独立保存;
用户可以随时继续之前的对话,机器人还能记住上下文。
输入:“你好” → 系统直接回复,不触发检索。
输入:“耐克,包括匡威在美国有多少个配送中心?” → 检索并回答。
输入:“在美国之外有哪些?” → 自动补全查询,并基于历史对话给出答案。
这让应用更像一个真正的对话助手,而不是“单问单答”的工具。
对话式 RAG 的关键点:
用消息序列管理对话状态;
借助工具调用让模型自动生成检索查询;
利用持久化机制,让应用拥有“记忆”。
通过这些改造,你的问答机器人就能更自然地理解上下文、灵活检索信息,并保持连贯对话。
✨ 未来我们还可以进一步探索:如何在对话中结合更复杂的多工具协作,甚至让智能体像人一样自由选择信息来源。
| 欢迎光临 链载Ai (https://www.lianzai.com/) | Powered by Discuz! X3.5 |