如何控制 OpenSRE 的 Token 成本:/cost 每会话成本追踪实用指南
【免费下载链接】opensreBuild your own AI SRE agents. The open source toolkit for the AI era.项目地址: https://gitcode.com/GitHub_Trending/op/opensre
OpenSRE是开源的 AI SRE Agent 工具包,让告警自动调查成为可能。但每次 LLM 调用都会消耗 token 产生费用——内置的/cost命令可以追踪当前会话的 token 用量与 LLM 调用次数,是控制 token 成本的第一道防线。
OpenSRE /cost 每会话 token 成本追踪面板
为什么 OpenSRE 需要 Token 成本管理
OpenSRE 的每一次告警调查都是一次"ReAct 循环":Agent 思考 → 调用工具 → 读取结果 → 继续推理,多轮 LLM 调用叠加下来,token 消耗会快速累积。
作为新手,你可能会遇到这类困惑:
- 🔍 这次调查到底花了多少 token?
- 📊 哪些工具返回的大段日志撑大了输入 token?
- 🧮 数字是真实计量还是估算?
/cost命令就是为这些场景设计的。
快速上手:三步查看当前会话成本
- 启动交互式 Shell,进入 OpenSRE 会话;
- 执行
/cost,即可看到"Session cost"面板; - 随时重复执行,面板按当前会话累计值实时刷新。
面板由 diagnostics_cmds.py 中的_cmd_cost渲染,包含三类核心指标:
| 字段 | 含义 |
|---|---|
| history entries | 当前会话的交互轮数 |
| llm calls | 已记录的 LLM 调用次数(call_count) |
| input / output tokens | 输入与输出 token 累计用量 |
OpenSRE token 成本概览图表
读懂 /cost 输出:真实计量与估算值
很多新手会注意到面板标题有时显示"Session cost (includes estimates)"——这是关键细节:
- 当 LLM 提供方返回了精确用量时,token 计入
*_measured(实测)桶; - 当提供方没有返回用量时,OpenSRE 会按本地方式估算,并计入
*_estimated桶; - 只要存在估算值,标题就会加上提示,避免你误以为全是精确账单。
这套记账逻辑集中在core/agent_harness/accounting/token_usage.py的TokenUsage类中:每次 LLM 调用通过record()累加 input/output 计数,同时维护"实测/估算"分桶。官方命令参考见 interactive-shell-commands.mdx。
💡 小提示:
/cost显示为零时,说明本会话还没有 LLM 轮次——先聊一轮再查即可。
控制 OpenSRE Token 成本的 4 个实用技巧
OpenSRE 按工具维度的 token 成本分布
- 按会话记账,定期清零:每次调查结束后执行
/new开启新会话,TokenUsage.reset()会清空累计值,让每段工作的成本独立可归因,而不是混在一个大数字里。 - 用
/context配合/cost找"大头":/context展示会话累积的基础设施上下文键值。如果某些键持续膨胀(如反复拉取的日志),说明输入 token 被上下文撑大,可考虑精简调查范围。 - 调低推理强度(reasoning effort):
/status面板会显示当前 reasoning effort。低推理强度偏向速度与更低的推理成本(见config/llm_reasoning_effort.py),日常轻量排查完全够用。 - 关注 llm calls 增长率:调用次数 × 平均每次输入 token ≈ 总成本。若某次调查的调用数异常偏高,多半是工具返回内容过多导致 Agent 反复循环,检查工具输出精简度往往比换更便宜的模型更有效。
常见问题(FAQ)
Q1:/cost和/status有什么区别?/status偏"运行状态"(交互数、trust mode、provider 等),/cost专注 token 用量与 LLM 调用次数,二者配合使用最方便。
Q2:估算值会影响计费判断吗?不影响趋势判断。OpenSRE 明确标注估算来源(标题带 "includes estimates"),适合做会话级成本对比;精确账单请以 LLM 提供方后台为准。
Q3:在哪里能看懂 /cost 的完整用法?官方文档 interactive-shell-commands.mdx 有/cost的完整输出示例与故障排查表(如显示为零的处理方法)。
小结
掌握/cost之后,你的 OpenSRE 使用路径就变成了:先查用量 → 定位膨胀点 → 调整策略 → 新会话清零再验证。配合/new、/context、/status三个命令,普通用户也能像看账单一样管理自己的 AI SRE 成本,让开源 AI Agent 既好用又"可控烧钱"。🚀
【免费下载链接】opensreBuild your own AI SRE agents. The open source toolkit for the AI era.项目地址: https://gitcode.com/GitHub_Trending/op/opensre
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考