roo code+deepseek,缓存命中很便宜! - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
请不要在回答技术问题时复制粘贴 AI 生成的内容
nativeBoy

roo code+deepseek,缓存命中很便宜!

  •  
  •   nativeBoy 3 月 12 日 1929 次点击
    这是一个创建于 39 天前的主题,其中的信息可能已经有所发展或是发生改变。
    我让 Roo code 从 0 规划写了个小项目,考虑到 deepseek 便宜就用官方的 deepseek ,结果用了 6M tokens 才完成,一看花费才 2 块钱!
    看了一下,6M tokens 几乎都命中了缓存,所以便宜的很

    相同场景,用中转站没有缓存命中,贵的要死!余额减得很快





    deepseek 官方价格链接: https://api-docs.deepseek.com/zh-cn/quick_start/pricing/
    13 条回复    2026-03-18 12:04:55 +08:00
    iorilu
        1
    iorilu  
       3 月 12 日
    这缓存命中是什么原理

    不太可能两人用一样提示词把

    还是用了相似性, 差不多了就算一样, 就取缓存?
    nativeBoy
        2
    nativeBoy 
    OP
       3 月 12 日
    niubilewodev
        3
    niubilewodev  
       3 月 12 日
    是的,很多中转站没有缓存,用起来不比官方便宜。
    66beta
        4
    66beta  
       3 月 12 日
    me too 但是公司买了 claude 不用自己花钱了
    dbskcnc
        5
    dbskcnc  
       3 月 12 日
    deepseek v4 快点出来吧,如果能用 就不需要用 google 了
    asd999cxcx
        6
    asd999cxcx  
       3 月 12 日
    官方上下文会不会不够?我看别人说火山的上下文会多一些
    nativeBoy
        7
    nativeBoy  
    OP
       3 月 12 日
    @asd999cxcx #6 当上下文达到 128K 时,roo code 会把上下文压缩
    yangzzzzzz
        8
    yangzzzzzz  
       3 月 12 日
    chat 和 reasoner 用起来有什么区别吗
    stefwoo
        9
    stefwoo  
       3 月 12 日
    @iorilu

    缓存命中不是很简单吗?就是你第一轮对话的时候,会带上第一轮的数据。第二轮对话是带上第一轮和第二轮的数据。第三轮对话是带上前两轮的数据。然后你每次都会命中啊。相当于你每次发给他的就是增量的不太多,大部分都是对话的历史数据。
    iorilu
        10
    iorilu  
       3 月 12 日
    @stefwoo 这就算缓存? 只能自己给自己缓存阿

    我还以为是不同用户的请求, 匹配相似度, 相似就缓存

    比如你发请求说, 写一个快速排序算法

    另一个人也发类似请求, 那就直接返回一样内容
    inc3ption
        11
    inc3ption  
       3 月 12 日
    @iorilu 就是 9 楼说的这样,除了第一轮会话外,后续会话都会命中缓存,一次会话轮数越多命中率就越高;反之不停的开新会话,整体的命中率就越低
    listenerri
        12
    listenerri  
       3 月 12 日
    @inc3ption #11 是这样的话,如果子代理用的多了也费钱
    asd999cxcx
        13
    asd999cxcx  
       3 月 18 日
    @nativeBoy 我的意思是官方上下文就 64 ,你这 128 根本就达不到..
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     4161 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 50ms UTC 10:16 PVG 18:16 LAX 03:16 JFK 06:16
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86