上下文工程(Context Engineering)

AAI脑图#5109222025-09-30 07:03
14600

内容详情

核心概念

定义

  • 管理与优化输入给语言模型的上下文内容,使其高效完成任务

本质

  • 自动化、系统化的 Prompt Engineering

目标

  • 避免冗余与过长,提升模型判断准确性

上下文组成

用户指令(User Prompt)

  • 明确、具体的任务描述

系统提示(System Prompt)

  • 模型身份、风格、知识截止时间等设定

对话历史

  • 短期记忆,维持多轮对话连贯

长期记忆

  • 用户偏好与过往交互记录

搜索结果(RAG)

  • 检索增强生成:外部知识补充

工具使用说明与结果

  • 调用搜索、计算、日历等工具及其返回

模型自我思考过程

  • 深度思考模型的内部推演步骤

必要性

输入长度限制(Context Window)

  • 过长输入→模型理解力下降

中间遗忘效应

  • 模型对上下文中间部分记忆薄弱

挤牙膏式提问

  • 分次追加降低整体表现

上下文腐烂(Context Rot)

  • 混淆、遗忘、复制错误

三大套路

选择(Selection)

  • RAG
    • 先检索后生成,仅输入相关片段
  • 关键词提取
    • 自动抽取核心搜索词
  • 句子级筛选
    • 只保留高相关句子
  • 工具筛选
    • 动态挑选当前任务所需工具
  • 记忆筛选
    • 提取与任务相关的历史记忆
    • 正面示例优先,避免负面示例干扰

压缩(Compression)

  • 摘要
    • 长对话→几句话核心
  • 递归压缩
    • 每100轮交互自动总结一次
  • 硬盘+RAG
    • 冷数据落盘,需要时再检索
  • 线索式摘要
    • 保留“详情见某文件”等指针
    • 适用于Computer Use场景,过滤无效操作记录

多智能体(Multi-Agent)

  • 任务分片
    • 每Agent只处理子任务
  • 示例
    • 行程规划Agent、订餐厅Agent、订旅馆Agent
  • 总Agent
    • 仅汇总结果,不存储细节
  • 优势
    • 上下文更短、更清晰,适合复杂任务

实用速查表

回答不准

  • 检查缺失关键信息

混乱出错

  • 精简过长过杂上下文

记不住

  • 启用RAG或长期记忆

复杂任务

  • 采用Multi-Agent分工

记录冗余

  • 摘要压缩,仅留关键结果