大部分复杂生成任务无法靠一段提示词完成,在面对复杂的应用编排时,迫切需要一款多任务编排工具,非代码侧的开发者一定很有感触。如互联网线上问诊场景中,常遇到大量类似的Workflow组合:
 
此外,吴恩达在4月初曾进行演讲,讨论了关于AI-Agents的四种开发模式: 1.Reflection反思:将LLM生成结果,搭配Prompt重新返回,让LLM自己检查错误; 如:“你是一名软件测试工程师,请你检查代码{result_code},并修正错误。” 2.Tool工具:通过Plugin方式调用其他工具,如OCR补足LLM的视觉弱势; 3.Planning计划:通过Workflow规范LLM生成流程,从而获得更好的Cot推理生成; 4.MultiAgent-Collaboration多代理合作:典型代表是斯坦福的Smallville项目,是Agents的最终形态。 保证复杂任务Agent生成质量有两个重要因素:1.单任务高质量生成;2. Workflow最佳优化。经过大量实践,本文认为:一款兼具提示词工程和任务流编排的产品将是最佳的大模型开发方案。 与传统低代码平台的Workflow编排相似。由于大模型具有生成结果均为文本的特性,使用和编排会更加灵活。此外,将复杂任务进行拆分也有助于大模型Cot思维链的优化。 传统Cot指通过提示词工程,避免大模型出现“跳步”,从而提高生成准确度。但此黑盒工程并不利于提示词的调优。
基于Workflow的Cot则是通过组件化构建任务,该方法具备更强的可控性,单节点可更加专注细分任务的生成。 |