返回顶部
热门问答 更多热门问答
技术文章 更多技术文章

白话上下文工程系列【一】--为什么需要上下文工程?

[复制链接]
链载Ai 显示全部楼层 发表于 1 小时前 |阅读模式 打印 上一主题 下一主题

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;display: table;padding: 0px 1em;color: rgb(63, 63, 63);">上下文工程:给AI配个"超级外挂"

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 16px;font-style: normal;padding: 1em;border-radius: 6px;color: rgba(0, 0, 0, 0.5);background: rgb(247, 247, 247);">

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 1em;display: block;letter-spacing: 0.1em;color: rgb(63, 63, 63);">想象大模型是个知识渊博但记性差的学生,"上下文工程"就是帮它整理笔记、划重点、找外援的"学霸同桌"。

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;display: table;padding: 0px 0.2em;color: rgb(255, 255, 255);background: rgb(15, 76, 129);">1. 为啥需要这个"同桌"?

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 16px;letter-spacing: 0.1em;color: rgb(63, 63, 63);">传统"提示词工程"(靠几句话指挥模型)不够用了,因为大模型有三大毛病:

    ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 16px;color: rgb(63, 63, 63);" class="list-paddingleft-1">
  • ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 16px;text-indent: -1em;display: block;margin: 0.2em 8px;color: rgb(63, 63, 63);">
    ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: inherit;color: rgb(15, 76, 129);">记性差处理长文时"中间内容记不住"(Lost-in-the-Middle),像看书只记得开头结尾。
  • ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 16px;text-indent: -1em;display: block;margin: 0.2em 8px;color: rgb(63, 63, 63);">
    ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: inherit;color: rgb(15, 76, 129);">算不动文章越长计算越慢(O(n²)复杂度),读一本书比读段落的耗时多上百倍。
  • 爱瞎编容易"幻觉"(编造事实),还容易受提问方式影响答案(比如换个问法就答错)。

2. 上下文工程是啥?

官方定义:系统性优化大模型输入信息的技术
说人话:把"扔给模型一句话"升级成"打造一套信息供应链",动态组装最相关的知识包,让模型吃得少、干得好。

它分三步走:

  • 找资料(检索与生成):
    • • 不光给指令("解释量子力学"),还教方法("先列概念再举例")。
    • • 外挂"实时查资料"功能(如RAG技术),让模型随时翻书、查数据库。
  • 加工信息(处理):
    • • 攻克长文本:用位置插值(Position Interpolation)压缩长文,避免"中间失忆"。
    • • 自我纠错:让模型像人一样"写完初稿再修改"(Self-Refinement)。
  • 管内存(管理):
    • • 建"记忆宫殿":分短期记忆(聊天上下文)和长期知识库(压缩存储关键信息)。
    • • 智能清理:像手机清缓存,丢掉无用信息(Context Compression)。

3. 实际效果咋样?

  • 性能飙升:某些任务提升18倍(比如导航长文档找答案)。
  • 省时省力:用压缩和选择性记忆,处理百万字比原来快22倍。
  • 解锁新技能
    • • 灵活适应新任务(如看几个例子就会翻译小众语言)。
    • • 支撑复杂系统(如多AI协作、调用工具的程序员Agent)。

4. 未来挑战:理解强,输出弱?

当前大模型存在"理解-生成鸿沟":

  • • 能读懂百万字合同(理解力强),但自己写报告就啰嗦或跑题(生成力弱)。

好比能消化满汉全席,却只会煮泡面,这是上下文工程下一步要攻克的难题。

5. 总结

上下文工程不是"高级提问术",而是给大模型造了一套信息物流系统。它解决的是AI的"先天缺陷",让模型从"死记硬背"进化到"会查资料、会反思、会合作",这才是真"人工智能"。

附-上下文工程进化时间线

回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

链载AI是专业的生成式人工智能教程平台。提供Stable Diffusion、Midjourney AI绘画教程,Suno AI音乐生成指南,以及Runway、Pika等AI视频制作与动画生成实战案例。从提示词编写到参数调整,手把手助您从入门到精通。
  • 官方手机版

  • 微信公众号

  • 商务合作

  • Powered by Discuz! X3.5 | Copyright © 2025-2025. | 链载Ai
  • 桂ICP备2024021734号 | 营业执照 | |广西笔趣文化传媒有限公司|| QQ