缓存命中99.9%是咋回事

| 查看: 2 | 回复: 0

R2R2 金牌会员

2 小时前 | 楼主 | 回复 | 只看该作者

有人晒出 DeepSeek 会话缓存命中率 99.9% 吓一跳——以前从没见过这么高的。楼里大佬解释：同一个会话调用多了，上下文基本都是重复的，命中自然高；DeepSeek 的缓存率本来就常年在 99% 以上徘徊。命中越高越省钱省 token，结论：这是好事。
来源：无官方源头，不附链接

只看该作者使用道具