deepseek V4 pro缓存命中率知识

了解了下,编程中缓存命中率的知识。 了解到Deepseek的命中率高的原因与用法,必须把代码文件放在每次提问的 绝对开头 ,且一字不差。标题、寒暄都不能有。有效期经人指正,可能几小时到几天不等。 而claude则是手动标记缓存,需要用 cache_control 明确 圈定 那个长文档段落,告诉系统...
deepseek V4 pro缓存命中率知识
deepseek V4 pro缓存命中率知识

了解了下,编程中缓存命中率的知识。
了解到Deepseek的命中率高的原因与用法,必须把代码文件放在每次提问的绝对开头 ,且一字不差。标题、寒暄都不能有。有效期经人指正,可能几小时到几天不等。
而claude则是手动标记缓存,需要用 cache_control 明确圈定 那个长文档段落,告诉系统:“这一段帮我缓存下来”。不一定在开头部分。
百万上下文,有能力构建一个庞大到足以覆盖你绝大部分工作场景的“固定前缀”,从而减少token消耗量。

12 个帖子 - 9 位参与者

阅读完整话题

来源: linux.do查看原文