Industry & Practice · Tagged “model”

Tools & Frameworks/2026-11-05/6 min

Inspect 缓存：相同输入不再重复请求模型

Inspect 把已经跑过的模型调用存进缓存。模型版本变了不会误用旧结果。也可以改成按样本或按任务共享，并单独看提供方自己的缓存读写。