第一次调用模型很慢，怎样拆分加载等待与实际生成时间？

固定输入并确认模型保留状态

适用于首个问题要等很久，紧接着的相同问题却明显更快，或者模型长时间不用后再次变慢。先记录运行时是否会自动卸载模型，以及请求是否经过代理或队列。输入长度变化很大时不能直接比较两次总耗时，应固定资料和输出预算再测。

分开记录加载与首个有效内容

在可查看日志的本地环境，把加载权重完成时间与开始生成时间分开记录。客户端另记连接建立和首个有效内容到达的时刻，排除空事件或心跳。不要把界面完成渲染的时间当作模型完成时间；服务器没有日志时，应明确哪些阶段只能得到合并耗时。

比较冷启动和已加载的请求

先在空闲服务上运行一次固定短任务作为冷启动样本，模型保留期间再用相同参数运行一组。每次记录输入和实际输出长度，比较首Token延迟与后续生成速度。仅在运行时支持且资源允许时调整模型保留策略；缓存实现变化也应单独验证，避免与加载策略混为一次改动。

报告等待阶段及实际输出长度

结果表至少应能区分首次加载与已加载两种状态，并说明模型是否仍在内存。成功标准是定位主要等待阶段，且目标任务在可接受时间内完整返回。若把输出缩短才获得更快结果，必须同时说明内容长度变化，不能把它直接当作模型计算加速。

冷启动会受磁盘、内存和服务调度影响，没有适用于所有设备的固定速度。本文未测量特定显卡，也不建议为了测试清理共享机器的缓存或结束其他任务。无法观察模型状态时，只能报告本次端到端延迟，不能断言第二次一定是缓存命中。