链载Ai
标题:
如何通俗的理解上下文工程?
[打印本页]
作者:
链载Ai
时间:
1 小时前
标题:
如何通俗的理解上下文工程?
这是基于提示词工程(Prompt Engineering)发展出来的一个新概念,ContextEngineering
在提示词时代,整个系统就是两方交互,人和LLM。人给输入,LLM给回应。人通过提示词控制输入从而控制LLM的输出,所以提示词重要。
随着AI Agent在实际场景中落地应用,与LLM的交互变得越来复杂。交互方增加:人、历史资料、工具、数据库、会话记忆、LLM等。
虽然LLM在整个系统中仍然占据着主要位置,但需要处理的已经不再仅是调整一下发给LLM的提示词了。而且随着大模型能力的提升,对于提示词的敏感度也在下降,所以单次call的提示词也不那么重要了。(不是说不重要)
上下文工程更多的是站在系统设计的角度,如何保持这个多方交互的系统的稳定性与准确性。
比如,如何应对召回内容过长/混淆/冲突?工具触发加载及返回内容的处理?会话历史的管理和过滤?multi-agent的分工及交互?等等。
上面问题的解决方案可能因场景而异,或许都还在探索中,可以参考Refs中资料获取一些灵感。Manus的分享纯干货!
因此:提示词工程更多是站在面向LLM的角度,上下文工程则是更多站在面向整个业务系统设计的角度。
欢迎光临 链载Ai (https://www.lianzai.com/)
Powered by Discuz! X3.5