← 交互式学习ReAct token 如何累积Agent · 动画演示 · 整理于 2026-10-27沿着五轮模型调用,观察工具结果如何进入上下文,以及输入 token 为什么会反复累积。 暂停重播看完整结果20 秒循环 · 输入逐轮累积 · 可离线打开用“暂停”和“看完整结果”控制演示;窄屏可左右滑动图表。 一次任务,五轮 ReAct:输入如何累计到 208k token 数值为示例。每轮将已有历史、模型输出和新增工具结果拼为下一轮上下文。五轮输入为2k、20.2k、44.4k、60.6k、80.8k,累计208k。模型输出累计2k,输入约占99%。20秒循环动画。 ReAct 上下文累积示意 一次对话,为什么会消耗大量 token? 每轮都带上已有上下文;读入的代码、文档和工具结果,会继续进入后续轮次。 同一任务 · 5 次模型调用 · 数值为示例 · 1k = 1,000 token 轮次 本轮输入:已有上下文 + 上轮输出 + 新增工具结果 输入量 模型 模型输出 第 1 轮 ReAct 初始提示:2k token 2k 模型 0.2k 工具调用 读取代码 A:工具返回 +18k → 拼入下一轮,再与历史一起送入模型 第 2 轮 ReAct 初始提示:2k token 第1轮输出:0.2k token 代码 A:18k token 代码 A 18k 20.2k 模型 0.2k 工具调用 读取文档:工具返回 +24k → 拼入下一轮,再与历史一起送入模型 第 3 轮 ReAct 初始提示:2k token 第1轮输出:0.2k token 代码 A:18k token 代码 A 18k 第2轮输出:0.2k token 文档:24k token 文档 24k 44.4k 模型 0.2k 工具调用 读取代码 B:工具返回 +16k → 拼入下一轮,再与历史一起送入模型 第 4 轮 ReAct 初始提示:2k token 第1轮输出:0.2k token 代码 A:18k token 代码 A 18k 第2轮输出:0.2k token 文档:24k token 文档 24k 第3轮输出:0.2k token 代码 B:16k token 代码 B 16k 60.6k 模型 0.2k 工具调用 运行测试:工具返回日志 +20k → 拼入下一轮,再与历史一起送入模型 第 5 轮 完成 初始提示:2k token 第1轮输出:0.2k token 代码 A:18k token 代码 A 18k 第2轮输出:0.2k token 文档:24k token 文档 24k 第3轮输出:0.2k token 代码 B:16k token 代码 B 16k 第4轮输出:0.2k token 测试日志:20k token 测试日志 20k 80.8k 模型 1.2k 最终回答 任务完成:向用户返回最终答案 这一轮输入已达初始 2k 的 40.4 倍 初始提示 代码 A 文档 代码 B 测试日志 前几轮模型输出 累计用量 = 各轮用量相加 输入 输出 2k 0.2k 22.2k 0.4k 66.6k 0.6k 127.2k 0.8k 208k 2k 完成后:208k 输入 + 2k 输出 = 210k 输入约 99%|输出约 1% 208k = 2k + 20.2k + 44.4k + 60.6k + 80.8k;同一段历史可在多轮中重复计入输入。 说明:示例假设每轮保留全部历史,未压缩或截断。工具返回归入下一轮输入;输出含工具调用与最终回答。 若启用推理,思考 token 也可能计入输出;缓存命中仍可计入输入统计,但价格更低。此图展示数量,不代表费用。 继续学习大模型是怎样学会与回答的? →AIME:交互式中文论文解读 →Pi 上下文压缩流程 →← 全部交互式学习
评论
评论由 GitHub Discussions 提供。