基于微软Prompt-Flow的应用落地（技术分享）

本篇基于Prompt-Flow和GPT-4o。

1. RAG（Retrieval-Augmented Generation）的两种选择：Chunk vs QA

   
   

• 覆盖率提升：使用Chunk检索能有效提高覆盖率，且噪声的影响较小。尽管此前认为QA是最佳方案，但Chunk的效果反而更好。

• 泛化问题：QA的泛化能力有限。一段200字的文本Chunk可能包含A、B、C三类信息，如果QA索引需要标注多种业务场景，成本会非常高。但Chunk检索可直接覆盖多个业务。

• 混合方案：可以同时使用Chunk和QA，或基于相似度进行筛选，但对最终效果的提升有限。

1. 问题扩写与原问题检索并行

   
   

• 背景：用户常提出缺乏上下文的简短问题，如“你觉得呢？”、“推荐哪个？”这种问题无法直接检索，需要扩写成更完整的上下文问题。

• 方案：向量检索对完整问题效果更好，但在用户频繁变更话题或内容过长时，扩写可能出现误删或误改。因此，仅依赖扩写会提高大模型生成错误答案的风险。

• 解决方式：同时对原问题和扩写后的问题进行检索，将结果合并去重，再根据最终文本进行回答。

1. 多业务流路由分发

   
   

• 背景：当核心Agent提示词过长时，可能出现逻辑矛盾，导致输出错误。

• 方案：使用路由Agent解耦核心节点，通过其他任务Agent生成的变量来填充核心Agent中的内容。特定任务仅在触发路由时执行，不干扰关键流程。

• 
  

• 
  

• 

1. 自动化测试

   
   

• 背景：自动化测试能够省时省力。

• 方案：构建测试流程，设置两个Flow之间的交互，通过历史会话检测业务漏洞。但要设置终止条件，避免无休止的对话循环。