导读：
硅谷大神Andrej Karpathy，在今年6月一场主题为“Software in the Era of AI”的演讲中指出：与其构建很多自主Agent的炫目Demo，不如更多构建半自主产品。 是的，AI应用的最大价值之一，其实恰恰是“确定性”。 上下文工程（Context Engineering），其使命正是为了不断将LLM的“概率性”，最大程度优化为“确定性”。 说人话，就是让以AI Agent为代表的Apps，可落地，更靠谱。
ingFang SC", Cambria, Cochin, Georgia, Times, "Times New Roman", serif;display: table;padding: 0.3em 1.2em;color: rgb(255, 255, 255);background: rgb(15, 76, 129);border-radius: 8px 24px;box-shadow: rgba(0, 0, 0, 0.06) 0px 2px 6px;">从“简单提示”到“认知空间”ingFang SC", Cambria, Cochin, Georgia, Times, "Times New Roman", serif;font-size: 16px;letter-spacing: 0.1em;color: rgb(63, 63, 63);">在构建可落地AI Agent的实践中，我们的视角必须超越单一的“提示工程”。ingFang SC", Cambria, Cochin, Georgia, Times, "Times New Roman", serif;font-size: 16px;letter-spacing: 0.1em;color: rgb(63, 63, 63);">正如 Andrej Karpathy 所言，如果大型语言模型（LLM）是新时代的“操作系统”，如下图：
当Agent执行长耗时任务时，其上下文会不断累积，这不仅会超出窗口限制、增加成本与延迟，更会引发一系列性能衰退问题。
这些问题可以归结为长上下文的“四宗罪”：
•上下文中毒 (Context Poisoning):当一次错误的生成（幻觉）被写入上下文后，它会像毒药一样污染后续的每一步推理，导致Agent偏离正确的轨道，最终得出错误结论。 •上下文干扰 (Context Distraction):当上下文中充斥了大量信息时，即使这些信息都是正确的，也可能压倒（overwhelm）模型在预训练阶段学到的核心指令或能力，使其“分心”，忘记了最初的目标。。 •上下文混淆 (Context Confusion):当上下文中包含了与当前任务不相关，但形式上又可能产生关联的冗余信息时，模型会被这些“噪音”所迷惑，从而影响其决策的准确性。 研究发现，即使是像“猫一生中大部分时间都在睡觉”这样的简单短语，也会大大破坏先进的推理模型，使其错误率增加三倍。【参考论文：《Cats Confuse Reasoning LLM: Query Agnostic Adversarial Triggers for Reasoning Models》(https://arxiv.org/pdf/2503.01781)】
•上下文冲突 (Context Clash):当上下文中的不同部分包含了相互矛盾或不一致的信息时，模型会陷入决策困境，不知道应该相信哪一部分，导致行为的不可预测性。
管理上下文，本质上就是管理AI的注意力与记忆力，是构建可靠Agent的基石。
四大支柱：上下文工程的实现策略
为应对上述挑战，业界已发展出四种核心的上下文工程策略，堪称四大支柱：写入（Write）、选择（Select）、压缩（Compress）和隔离（Isolate）。
如下图所示，这些策略构成了上下文工程的通用类别：
支柱一：写入 (Write) - 构建Agent的外部记忆
定义：将信息从即时上下文窗口中移出，保存至外部存储，为Agent构建一个超越单次交互的持久化信息基础。
1.1 便笺
•目的：在Agent的单个任务会话（Session）内持久化中间状态和思考过程。 •机制：Agent在执行任务时，将中间的思考、计划或关键发现写入临时存储（如文件或运行时状态对象）。这确保了Agent的“思考链”不会因为上下文长度限制而中断。便笺的实现方式多样，可以是一个简单地写入文件的工具调用，也可以是会话期间持续存在的运行时状态对象中的一个字段，该字段在会话期间持续存在。 •应用：Anthropic 的multi-agent研究表明，主Agent（LeadResearcher）会将任务规划写入“记忆”（即便笺），以防止上下文窗口超出200,000个token时被截断，从而保留重要的计划。LangGraph 的检查点（Checkpoint）机制也是这一理念的技术实现，允许将信息写入状态并在Agent轨迹的任何步骤中获取，从而方便了“便笺”的实现。
1.2 记忆
•目的：实现跨会话的信息持久化，使Agent能够从过去的交互中学习，从而在多个会话中受益。 •机制：通过“读取-更新-写入”循环，结合新旧信息，利用LLM自身能力生成更新后的记忆，并写回长期存储。 •应用：Reflexion 框架引入了在每次Agent回合后进行反思并重用这些自生成记忆的理念。Generative Agents 则创建了定期从Agent过去反馈集合中合成的记忆。这些概念已融入流行的产品，如 ChatGPT 的自定义指令、Cursor 和 Windsurf 的规则文件，它们都具备基于用户与Agent交互自动生成并持久化长期记忆的机制。
支柱二：选择 (Select) - 给予Agent此刻最需的洞察
定义：从外部存储中，智能地检索与当前任务最相关的信息，并将其动态载入LLM的上下文窗口。
2.1 从记忆/便笺中选择
•机制：选择便笺上下文的机制取决于其实现方式。如果它是一个工具，Agent可以通过调用工具来读取。如果它是Agent运行时状态的一部分，开发者可以选择在每个步骤中向LLM暴露状态的哪些部分。这提供了对LLM在后续回合中暴露便笺上下文的细粒度控制。对于大规模记忆，通常采用向量检索或知识图谱进行查询。 •挑战：选择的艺术在于“精准”而非“丰富”。错误的记忆选择会导致上下文污染。 在AI Engineer World's Fair 上，Simon Willison 分享了一个记忆选择出错的案例：ChatGPT 从记忆中获取了他的位置，并意外地将其注入到请求的图像中。这种意外或不希望的记忆检索可能会让一些用户感觉上下文窗口“不再属于他们”！
2.2 从工具 (Tools) 中选择
•机制：Agent使用工具，但如果提供的工具过多，它们可能会不堪重负，通常是因为工具描述重叠，导致模型对使用哪个工具感到困惑。一种方法是对工具描述应用 RAG（检索增强生成）思想，仅为任务获取最相关的工具，并将其载入上下文。 •效果：一些最新研究表明，此方法能将工具选择的准确率提升高达3倍。例如，LangGraph 的 Bigtool 库正是通过对工具描述进行语义搜索来实现工具选择，尤其适用于处理大量工具集的情况。
2.3 从知识 (Knowledge) 中选择
•机制：这是最经典的 RAG 场景，通过检索外部知识库为Agent提供事实依据。 •挑战与实践：RAG 是一个丰富的话题，它可能是核心的上下文工程挑战。有关RAG的大量研究与实践表明，对于复杂知识的检索，需要多层次、多模态的混合策略。
支柱三：压缩 (Compress) - 在信息保真度与成本间取得平衡
定义：在保留核心信息的前提下，对上下文进行精简，以减少token消耗、降低延迟。
3.1 上下文总结 (Context Summarization)
•机制：利用LLM自身能力，将冗长的信息（如对话历史、工具输出）提炼成摘要。 •应用：可用于对全局轨迹进行总结（如 Claude Code 的“自动压缩”功能，当上下文窗口使用超过95%时触发，它会总结用户与Agent交互的完整轨迹），也可用于对局部信息（如某个工具的输出）进行后处理。 •挑战：总结是有损压缩，关键细节可能在提炼中丢失。如果需要捕获特定事件或决策，总结可能是一个挑战。Cognition 公司甚至为此步骤专门微调模型，这凸显了其难度与重要性，表明“在信息保真度与压缩效率之间取得平衡，是上下文总结的艺术所在”。
3.2 上下文裁剪 (Context Trimming)
•机制：与总结通常使用LLM提炼最相关的上下文片段不同，裁剪通常采用更直接的、基于启发式规则的过滤方法，如移除最旧的消息，或使用一个训练好的模型来“修剪”无关信息（如 Drew Breunig 提到的 Provence，一个用于问答的训练有素的上下文修剪器）。
支柱四：隔离 (Isolate) - 为专注与安全划分认知边界
定义：通过逻辑或物理方式划分上下文，帮助Agent更专注地处理子任务，或在安全环境中执行操作。
4.1 Multi-Agent架构
•机制：将复杂任务分解，分配给拥有独立上下文的多个子Agent并行或串行工作。这是用“分而治之”的思想来管理上下文的复杂度。OpenAI Swarm 库的动机之一就是关注点分离，即一个Agent团队可以处理特定的子任务，每个Agent拥有自己特定的工具集、指令和上下文窗口。 •优势：Anthropic 的multi-agent研究表明，具有隔离上下文的多个Agent在性能上往往优于一个处理庞大上下文的单一Agent，因为每个子Agent的上下文窗口可以分配给更聚焦的子任务。 •挑战：Multi-Agent架构的挑战包括token使用量（Anthropic 报告称可能比聊天多达15倍！），需要精心设计的提示工程来规划子Agent的工作，以及子Agent之间的协调机制。例如，LangGraph 提供了对构建多Agent架构的强大支持，例如通过 supervisor 和 swarm 库，使得这种复杂的上下文管理模式得以实现。
4.2 通过环境进行隔离
•机制：让Agent（特别是代码Agent）在一个沙箱（Sandbox）环境中执行代码，仅将摘要式结果传回给LLM。HuggingFace 的 Deep Researcher 展示了通过 CodeAgent 和沙箱隔离上下文的例子。CodeAgent 输出包含所需工具调用的代码，这些代码随后在沙箱中运行，然后将选定的上下文（例如返回值）从工具调用中传回LLM。 •优势：这允许上下文在环境中与LLM隔离。HuggingFace 指出，这是隔离token密集型对象的绝佳方式：“[代码Agent允许]更好地处理状态……需要存储此图像/音频/其他以供以后使用？没问题，只需将其作为变量分配到您的状态中，您就可以[稍后使用它]。”这极大地节约了上下文空间。
4.3 通过状态对象进行隔离
•机制：在Agent的运行时状态（State）中定义结构化模式，仅将部分字段暴露给LLM，从而在架构层面实现轻量级的上下文隔离。 •优势：状态对象可以设计为具有特定模式的字段，其中上下文可以写入，只有部分字段（例如消息）在Agent的每个回合中暴露给LLM，从而实现更具选择性的使用。这与沙箱的目的相同，但提供了一种更轻量级的、架构层面的上下文隔离方式。
结语：请成为「上下文架构师」
上下文工程正在成为构建高阶AI Agent的核心技艺。它要求我们从一个单纯的“提问者”或“提示工程师”，转变为一个深思熟虑的“上下文架构师”。
系统性地运用写入、选择、压缩、隔离这四大策略，去主动设计和管理AI的认知空间。这不仅是技术的挑战，更是思维模式的转变。
未来，最强大的AI Agent，必定与最优秀的上下文架构师密不可分。