链载Ai

标题: 一个Prompt小技巧,提升大模型复杂任务处理能力3%-20% [打印本页]

作者: 链载Ai    时间: 2 小时前
标题: 一个Prompt小技巧,提升大模型复杂任务处理能力3%-20%

Step-Back Prompting是一种提升大模型处理复杂任务能力的提示词技巧。

它将一步到位的Prompt拆分为两个环节:先让大模型提炼出问题涉及的抽象概念和原则,再让大模型进行具体问题的处理。

这种方式有助于防止中间步骤的错误,从而提升内容生成的精准性。在诸如PaLM-2L、GPT-4和Llama2-70B等模型上进行了测试,显著优于传统方法(如链式思维(CoT)提示)。

该方法分为两步:

  1. 抽象:询问解决问题所涉及的概念或原则;

  2. 推理:将上一步得到的概念和原则 + 原始问题一并提供给大模型进行处理。

例如:

我们想要给第一人称射击游戏的关卡编写一段故事情节,如果直接将问题询问大模型,得到反馈如下:

使用Step-Back Prompting的方法

我们首先让大模型提炼概念和要点:“参考流行的第一人称射击游戏,给第一人称射击游戏的关卡编写一段故事情节的5个要点是什么?” 大模型就会返回编写关卡剧情的核心要素。

然后,我们要求大模型基于它提炼出的5个要点,来进一步处理原问题。比较可见,新的方式产出的内容,结构性和针对性都变得更强。

在诸多数据集上,使用Step-back prompting的技巧都带来了显著的效果提升。

先抽象再具体,这就是Step-back prompting的核心思想所在。

这个技巧就像我们在辅导学生完成复杂任务的场景一样,先引导学生回答解决特定问题需要用到什么概念和方法,再要求他根据对应的概念和方法进行求解,从而提升准确性。






欢迎光临 链载Ai (https://www.lianzai.com/) Powered by Discuz! X3.5