|
Step-Back Prompting是一种提升大模型处理复杂任务能力的提示词技巧。 它将一步到位的Prompt拆分为两个环节:先让大模型提炼出问题涉及的抽象概念和原则,再让大模型进行具体问题的处理。 这种方式有助于防止中间步骤的错误,从而提升内容生成的精准性。在诸如PaLM-2L、GPT-4和Llama2-70B等模型上进行了测试,显著优于传统方法(如链式思维(CoT)提示)。 该方法分为两步: 抽象:询问解决问题所涉及的概念或原则; - 推理:将上一步得到的概念和原则 + 原始问题一并提供给大模型进行处理。
例如: 我们想要给第一人称射击游戏的关卡编写一段故事情节,如果直接将问题询问大模型,得到反馈如下: 使用Step-Back Prompting的方法 我们首先让大模型提炼概念和要点:“参考流行的第一人称射击游戏,给第一人称射击游戏的关卡编写一段故事情节的5个要点是什么?” 大模型就会返回编写关卡剧情的核心要素。 然后,我们要求大模型基于它提炼出的5个要点,来进一步处理原问题。比较可见,新的方式产出的内容,结构性和针对性都变得更强。在诸多数据集上,使用Step-back prompting的技巧都带来了显著的效果提升。 先抽象再具体,这就是Step-back prompting的核心思想所在。 这个技巧就像我们在辅导学生完成复杂任务的场景一样,先引导学生回答解决特定问题需要用到什么概念和方法,再要求他根据对应的概念和方法进行求解,从而提升准确性。 |