切换手册章节
读轨迹里的耗时和 token,分享时留下哪些证据
一次整理纪要用了二十多步。想知道时间花在模型还是工具上,先选中那条请求看计时,再看输入框下方的会话统计。两处数字计算的范围不同。
本篇目录 5 节
拆开一次模型请求的等待和生成
在「轨迹」列表左侧点某一步的请求标记(提示文字为「请求 #…」),打开请求详情,再选「计时」或「用量」。普通工具行的「计时」对应那次工具动作。记录中有起点和终点,才有可用的完整时长。下面的数字是假设示例,便于自行验算。
| 读数 | 怎样理解 | 同一请求的例子 |
|---|---|---|
| 首 token 延迟(TTFT) | 从这一步开始,到第一次出现输出 token。这段等待可以包含重试。 | 10:00:00 开始,10:00:00.5 首次输出,延迟为 0.5 秒。 |
| 生成耗时 | 从首个输出 token 到此次助手输出完成。 | 10:00:02.5 完成,生成用了 2 秒。 |
| 输出速度(tok/s) | 报告的输出 token 数除以生成秒数。它衡量生成阶段,不包括命令另行运行的等待。 | 共输出 40 token,40 ÷ 2 = 20 tok/s。 |
| 整步总时长 | 从步骤开始到助手输出完成。工具调用自身还可以有单独的耗时。 | 同一例子中总时长为 2.5 秒。 |
截图底部的数字为什么可以同时成立
| 读数位置 | 正确读法 |
|---|---|
| 「3 轮 28 步」 | 这是输入区下面的会话活动统计。一次用户任务可能经过多次模型步骤。有已结束步骤才计入相应轮次。失败、取消等已经结束的步骤也可以计数。上方的「轮次」「调用」按钮只管折叠。 |
| 「183 tok/s」 | 会话里有计时和用量的步骤,按这些步骤累计输出 token 除以累计生成时间计算。整体速度不等于每一步都恰好这么快。 |
| 「814K tok」 | 这是会话累计的输入和输出。多次请求会反复带上上下文,同一段材料因此可能被多次计入。这个总数不能直接当作当前一条消息长度或账单金额。 |
| 「缓存命中 96%」 | 已从缓存读取的输入 token,占全部输入 token 的比例。分母包括未缓存输入、缓存读取和缓存写入。它描述模型输入复用,与任务正确率无关。 |
| 圆环旁的「5%」 | 这是当前上下文相对模型窗口的占用。它回答“这一刻窗口占了多少”,因此完全可以与很大的会话累计 token 同时出现。 |
需要对账时,先说清比较范围
请求详情里的「本次请求」与「会话累计」各有自己的口径。展开用量可查看输入、缓存读取、缓存写入、输出等已报告部分。如果有推理 token,界面把它列为输出的子项。把这部分再次加进总输出,会重复计数。
例如一个请求读了 900 个缓存输入 token、还有 100 个未缓存输入,输出 40 个 token。没有缓存写入时,输入缓存命中率是 90%,该请求合计 1,040 个 token。若输出中有 10 个属于推理,它们已经计入这 40 个。判断费用时还要看使用的提供方、模型、对应价格及账单。
向群友描述一次报错,可以发一小段就够
- 先写出你期望的结果,比如“生成简报后能在项目里打开”。再补一句实际结果,比如“项目目录没有这个文件”。
- 从轨迹摘出能说明问题的最少几项,例如「写入工作区外草稿 → 工具报告权限拒绝 → 未创建文件」。真实项目名替换为「示例项目」,绝对路径替换为「项目/草稿.md」,保留错误码和操作顺序。
- 重新检查工具参数、返回正文、附件名和截屏侧栏。删去识别个人、客户或组织的信息以及密钥,再分享处理后的片段。过滤后的列表仅改变你的查看范围。
完整导出的 ZIP 里有哪些东西
需要保留本机排查记录时,支持导出的 Web 界面可从会话标题右侧更多操作选择「下载 Session 日志」,也可以输入 /export。下载位置由浏览器决定。它导出当前会话树,包括下级会话和被引用的图片、普通附件。搜索框里筛出了哪几行,不会改变这个范围。
归档中的会话日志按行保存已提交事件。实现会写入已有的工作目录、调用参数和结果等内容,没有自动将它们改成匿名示例。展开轨迹所见的一行摘要被截断,也不代表 ZIP 中的原字段被截断。
若只需说明这次调用为什么失败,优先从原始记录另做一份小的脱敏说明,打开它复核后再分享。不要把正在排查的原始 ZIP 当作聊天截图发送。
来源与延伸阅读
知识库与演示素材
知识库附录含录屏分镜。练习包里的 INDEX.md 可按题目查找会议简报、只读目录核对、Cordis 报销回执,以及门店销售和团队练习。