上下文工程(Context Engineering)
14600
画布
|大纲
内容详情
核心概念
定义
- 管理与优化输入给语言模型的上下文内容,使其高效完成任务
本质
- 自动化、系统化的 Prompt Engineering
目标
- 避免冗余与过长,提升模型判断准确性
上下文组成
用户指令(User Prompt)
- 明确、具体的任务描述
系统提示(System Prompt)
- 模型身份、风格、知识截止时间等设定
对话历史
- 短期记忆,维持多轮对话连贯
长期记忆
- 用户偏好与过往交互记录
搜索结果(RAG)
- 检索增强生成:外部知识补充
工具使用说明与结果
- 调用搜索、计算、日历等工具及其返回
模型自我思考过程
- 深度思考模型的内部推演步骤
必要性
输入长度限制(Context Window)
- 过长输入→模型理解力下降
中间遗忘效应
- 模型对上下文中间部分记忆薄弱
挤牙膏式提问
- 分次追加降低整体表现
上下文腐烂(Context Rot)
- 混淆、遗忘、复制错误
三大套路
选择(Selection)
- RAG
- 先检索后生成,仅输入相关片段
- 关键词提取
- 自动抽取核心搜索词
- 句子级筛选
- 只保留高相关句子
- 工具筛选
- 动态挑选当前任务所需工具
- 记忆筛选
- 提取与任务相关的历史记忆
- 正面示例优先,避免负面示例干扰
压缩(Compression)
- 摘要
- 长对话→几句话核心
- 递归压缩
- 每100轮交互自动总结一次
- 硬盘+RAG
- 冷数据落盘,需要时再检索
- 线索式摘要
- 保留“详情见某文件”等指针
- 适用于Computer Use场景,过滤无效操作记录
多智能体(Multi-Agent)
- 任务分片
- 每Agent只处理子任务
- 示例
- 行程规划Agent、订餐厅Agent、订旅馆Agent
- 总Agent
- 仅汇总结果,不存储细节
- 优势
- 上下文更短、更清晰,适合复杂任务
实用速查表
回答不准
- 检查缺失关键信息
混乱出错
- 精简过长过杂上下文
记不住
- 启用RAG或长期记忆
复杂任务
- 采用Multi-Agent分工
记录冗余
- 摘要压缩,仅留关键结果
