链载Ai

标题: 探索 Prompt:从基础概念到高级工程技术 [打印本页]

作者: 链载Ai    时间: 7 小时前
标题: 探索 Prompt:从基础概念到高级工程技术


写点废话:最近在做一些业务需求时,需要频繁调整Prompt来优化业务效果,不同的propmt对大模型输出影响还是很大的,书写prompt既是一门技术也是一门艺术,真正研究prompt的同学应该对prompt是一种既爱又恨的状态,爱是因为通过调整prompt我们可以实时优化模型回答效果,恨是模型“太不听话了”,有时候还傻傻的,接下来几天写一些关于prompt相关的内容,希望对大家有所帮助。

Prompt是引导模型生成所需输出的关键输入,随着技术的发展,围绕 Prompt 产生了一系列复杂且有效的工程技术。今天我们梳理一下目前 Prompt 的相关知识,包括其基本概念、一些先进的prompt技术以及为何需要以及多种先进的 Prompt 工程技术等。

一、Prompt 的基本概念

定义
Prompt 是给予大型语言模型(LLM)的输入或查询,它指示模型应生成何种类型的响应或输出。例如,当我们输入 “List the first three planets in our solar system.” 作为 Prompt 时,模型会输出 “The first three planets in our solar system are Mercury, Venus, and Earth.”

作用

    ingFang SC", "Hiragino Sans GB", "Microsoft YaHei", "Helvetica Neue", Helvetica, Arial, sans-serif;font-size: 16px;letter-spacing: normal;text-align: start;text-wrap: wrap;background-color: rgb(255, 255, 255);">
  1. 引导输出
    通过明确的指令,Prompt 帮助模型聚焦于特定的主题或任务,从而生成符合用户期望的回答。

  2. 挖掘模型能力
    它能够激发模型利用其预训练知识和算法来处理各种不同的问题,无论是简单的事实查询还是复杂的逻辑推理和故事创作。


二、为什么需要 Prompt

LLM 的局限性

    ingFang SC", "Hiragino Sans GB", "Microsoft YaHei", "Helvetica Neue", Helvetica, Arial, sans-serif;font-size: 16px;letter-spacing: normal;text-align: start;text-wrap: wrap;background-color: rgb(255, 255, 255);">
  1. 不一致性
    LLMs 使用概率方法生成文本,每次选择下一个单词时并非总是选择最可能的那个,而是从可能的下一个单词分布中采样。这导致对于相同的查询可能会产生不同的响应。

  2. 上下文敏感性
    LLMs 对上下文高度敏感,对话历史或查询方式的微小变化都可能导致不同的回答。

  3. 幻觉现象

    由于其概率性质,LLM 有时会给出不正确或不符合事实的响应。


Prompt 的弥补作用
为了克服这些局限性,我们需要更好的 Prompt 来提高模型的输出性能。通过精心设计 Prompt,可以引导模型更准确地理解任务,减少不一致性和幻觉现象,并更好地适应上下文。

三、PromptEngineering

(一)Zero - shot Prompting

    ingFang SC", "Hiragino Sans GB", "Microsoft YaHei", "Helvetica Neue", Helvetica, Arial, sans-serif;font-size: 16px;letter-spacing: normal;text-align: start;text-wrap: wrap;background-color: rgb(255, 255, 255);">
  1. 定义
    Zero - shot prompting 是一种机器学习范式,指 LLM 模型在其训练阶段未遇到的场景下,能够依靠其预先存在的知识来理解、解释并有效地响应 Prompt 的能力。

  2. 示例如前面提到的 “List the first three planets in our solar system.” 的例子,模型无需额外示例就能给出正确答案。


(二)Few - shot Prompting

    ingFang SC", "Hiragino Sans GB", "Microsoft YaHei", "Helvetica Neue", Helvetica, Arial, sans-serif;font-size: 16px;letter-spacing: normal;text-align: start;text-wrap: wrap;background-color: rgb(255, 255, 255);">
  1. 定义
    Few - shot prompting 涉及为模型提供少量(通常在 1 到 10 个之间)的示例来指导其生成响应或执行特定任务。

  2. 模型学习方式






欢迎光临 链载Ai (https://www.lianzai.com/) Powered by Discuz! X3.5