LONG AI
首页 › 博客 › 大模型缓存token是什么?缓存命中一次能省多少钱

大模型缓存token是什么?缓存命中一次能省多少钱

分类:资讯 · 4 分钟 · 2026-11-18

大模型缓存token是什么:缓存读写价格与省钱用法示意

大模型缓存 token 是什么?一句话:把提示词里固定不变的前缀(系统提示、工具定义、知识库)在服务商侧存下来,后续请求命中这段缓存后,这部分按「缓存读」计价,通常只有正常输入价的 5%–12%。同样的上下文反复调用,账单能省下一大截——前提是把缓存写对,并避开缓存写入费和前缀变动这两个坑。下面的价格全部来自 AI 算力交易平台在售模型,数据截至 2026 年 11 月 18 日。

钱怎么算:普通输入、缓存写、缓存读

和缓存相关的有三个价。普通输入价:没命中缓存时整段提示词都按它算。缓存写价:第一次把前缀存进缓存的费用,通常略高于普通输入。缓存读价:命中之后重复的前缀按它算,是三者里最便宜的。省多少钱,直接看缓存读价与输入价的比值——站内在售模型里这个比值普遍在 1/8 到 1/20 之间。

模型普通输入缓存读缓存读/输入最深折扣实付输入
gpt-6-astra$10$1.001/10$0.099
claude-opus-5-5$4$0.201/20$0.198
gpt-6.1-sol$2$0.101/20$0.0396
kimi-k3.1-pro$2$0.201/10$0.55
hy4-preview$0.896$0.0451/20$0.246

价格单位是美元/百万 token;「实付输入」是按站内最深卖家折扣折算后的价格(折数 =(100 − 折扣)÷ 10,0.5 折即付官方价 5%)。下图把缓存读价和输入价放在一起看,差距一目了然。

缓存读价 vs 普通输入价(美元/百万 token)官方口径 · 数据截至 2026-11-18普通输入价缓存读价$10$1.00gpt-6-astra$4$0.20claude-opus-5-5$2$0.10gpt-6.1-sol$2$0.20kimi-k3.1-pro$0.90$0.045hy4-preview

什么情况下能命中缓存

命中条件不神秘:请求开头的这段前缀和上一次完全一致,并且还在缓存有效期内。系统提示、工具定义、固定知识库放在开头、内容保持稳定,就容易命中;把时间戳、随机 ID、每轮都变的会话状态放在开头,缓存基本永远落空。各家的有效期和最小缓存长度不一样,过期之后下一次请求会重新写入——这也是为什么「偶尔便宜、偶尔贵」的账单,多半是缓存时灵时不灵。

三步把账单压下来

第一步,把不变的内容写成固定前缀:系统提示和工具定义用固定文案,别在前面拼接每次变化的变量。第二步,先预热再放量:新版本上线先发一次完整请求把缓存写进去,之后的批量调用才吃得到缓存读价。第三步,用账单验证效果:响应 usage 里的缓存读 token 应该随调用次数上涨;如果一直是 0,说明前缀在变,或者没到服务商要求的最小长度。

三个要避开的坑

坑一:缓存写不是免费的。第一次写入比普通输入还贵一点——本站在售报价里 gpt-5.6 的缓存写价是 $5/百万 token,高于它 $4 的输入价。只调用一两次的短任务,不值得专门做缓存。坑二:改一个字就全部落空。前缀里任何一处变动(哪怕一个标点)都会让缓存失效,需要频繁调整的内容集中放到提示词尾部。坑三:别把折扣和缓存混为一谈。缓存省的大头来自单价差(读价只有输入的 5%–12%),选卖家时折扣当然越深越好,但先把缓存结构写对,再比折扣,顺序反了会白忙。

可以直接照做的三件事

一,把系统提示和工具定义改成固定前缀,先发 1 次预热请求再放量。二,每周看一次账单里缓存读的占比,低于一半就检查前缀稳定性。三,换模型前先用小流量验证新模型的缓存行为,确认真的省到了再迁移。各模型的缓存读写价与折扣档位可以在 模型广场 逐个对比,折扣口径见 价格表。

相关文章

GPT-6.2发布降价20%:大模型价格战下怎么买模型更省

OpenAI发布GPT-6.2并把旗舰价下调20%,阿里、腾讯同周把单任务成本和缓存价压到新低。结论:官方降价仍远高于本站实付价,gpt-6-astra现在最深0.099折,实付$0.099/百万输入token。日常用现款便宜档,追新等上架比价。

Claude有哪些模型?12个在售版本实付价与选型指南

Claude 有哪些模型?站内 12 个版本按实付价排完发现:最新的 opus-5-5 月成本 $8.91,最老的 opus-4-6 反而 $49.50。本文给出全系价格表、真实实测数据与四个场景的选型结论,日常开发选 sonnet-5-5 最稳。

写代码用哪个AI模型?2026年11月编码模型实测与价格榜

写代码用哪个 AI 模型?按本站实付价和 24 小时实测:gpt-5.6-terra、deepseek-v4.1-flash 各三千多次调用零失败,每月千次请求分别 $2.85 和 $1.66;gemini-3.8-flash 出字 111 token/s 最快。附完整实付价表与三档选型建议。

一个 API Key 怎么调用 500+ 模型?平台接入教程与代码示例

拿到密钥后把 API 地址改成平台地址,就能用一个 Key 调用在售的 138 个模型(覆盖 51 家厂商),同时兼容 OpenAI 和 Anthropic 两种请求格式。本文给出可直接复制的接入代码、模型切换方法和常见坑,全部接口已实测验证,数据截至 11 月 16 日。

可灵 vs 海螺 vs 即梦:国产视频生成模型哪个好?价格实测对比

海螺 Hailuo 2.3-fast 实付价最低(约 $0.00185/秒),可灵 Kling 3.0 支持 4K 画质最全,即梦 Seedance 2.5 定价最高但画面细腻。按本站实付价对比三家国产视频模型的官方价、折扣、分辨率档位,数据截至 11 月 16 日。