无服务器与常驻推理服务怎么选：冷启动和空闲占用一起测
比较随负载伸缩与保留运行实例的条件，说明模型加载、并发等待和恢复状态怎样影响推理服务选择。
怎样选择更合适
请求间隔大且环境支持相应资源时，可以评估按需伸缩；持续负载或首次等待必须可控时，可以评估保留运行实例。无服务器也可能配置最小实例，常驻也能扩缩容，不能仅凭名称判断费用或延迟。先测冷启动与稳定运行，再比较完整请求的等待，并确认所需模型能够在目标环境加载。
自动伸缩不代表每次请求都重新加载
Cloud Run 默认可随请求伸缩并缩到零，也支持配置最小实例；Kubernetes Deployment 则维护期望的副本状态。具体计费和硬件支持需按所选服务核对，不应把无服务器等同于没有服务器工作。模型权重加载可能影响新实例等待，常驻实例则可能在空闲时继续占资源。两种方式都需要健康检查和可用容量，单个实例存活不代表已经准备好回答。应把应用启动与模型就绪分别记录，避免请求过早进入。
同一模型检查空闲后和连续请求
固定模型、输入长度和目标并发，分别测空闲后首个请求与连续请求。记录加载时间和排队时间，不能把第一条慢请求与另一方案的预热结果直接比较。再模拟一个实例退出，检查恢复后是否出现失败或重复任务。若某平台无法支持目标模型，应明确不适用，不用更小模型的结果冒充同条件测试。本文没有创建云资源或执行负载实验，所有步骤属于验证设计，不提供默认更省钱或更快的结论。
按真实流量维护伸缩与恢复配置
流量变化后复查最小实例和容量上限，常驻服务也要管理版本滚动与资源回收。不能只按满负载吞吐计算成本，还要包括空闲时间、模型存储和失败重试。保留可恢复镜像及配置，升级后重跑冷启动样本，确认服务未在模型未就绪时接流量。可以让低频任务按需运行，高频任务保留实例，但需要统一输出与状态检查。最终选择取决于实际等待要求和维护能力，而非部署名词的流行程度。
核对来源
以下资料用于核对概念和方法。文中的示例与测试范围分别注明，实际使用时请核对所用工具的版本。