求助大表优化方案 - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
请不要在回答技术问题时复制粘贴 AI 生成的内容
alamaya
V2EX    程序员

求助大表优化方案

  •  
  •   alamaya 2018-08-07 15:56:54 +08:00 3244 次点击
    这是一个创建于 2630 天前的主题,其中的信息可能已经有所发展或是发生改变。

    有一张用户标签表,一个用户一个标签一条数据,现在这张表超过 2 亿了,需要做分库分表,怎么分,既能满足用用户查询标签,也能用标签查询用户,以及数据结构、整体架构上能否优化,求助各位大佬。

    17 条回复    2018-08-09 08:02:58 +08:00
    nine99
        1
    nine99  
       2018-08-07 16:10:28 +08:00
    搞两份,一份按用户分,一份按标签分。或者看下你业务按哪个查比较多,就怎么分
    alamaya
        2
    alamaya  
    OP
       2018-08-07 16:22:11 +08:00
    @nine99 主要是存在一个数据量不均衡的问题,有的标签用户很多,有的标签又没啥用户,所以还是只能按用户分,随着数据量的增长,可能还是会存在单表过大的问题。
    按用户分的话,分表的张数如何考虑,而且也确实有通过标签查用户的需求,虽然场景不多,这个查询怎么做好。
    或者说有没有比现有一个用户一个标签一条数据这样的数据存储方式更优化的数据结构?
    owenliang
        3
    owenliang  
       2018-08-07 16:26:28 +08:00
    按用户分 mysql。

    然后数据打到 ES/Mongo 中做旁路。
    alamaya
        4
    alamaya  
    OP
       2018-08-07 16:30:23 +08:00
    @owenliang 能详细说一下吗,还有就是性能上 ES/mongo 能否满足?因为涉及这张表的接口访问量都非常大
    owenliang
        5
    owenliang  
       2018-08-07 16:52:03 +08:00 via Android
    @alamaya 性能问题优先 redis 缓存热点,其次考虑 mysql 分表内走索引或者 mongodb 走索引,es 不适合那么高性能。
    unforgiven
        6
    unforgiven  
       2018-08-07 17:03:13 +08:00
    mysql 吗?表分区做了吗
    alamaya
    nbsp;   7
    alamaya  
    OP
       2018-08-07 17:25:24 +08:00
    @owenliang 那针对少量的通过标签查用户的场景,怎么处理好?
    owenliang
        8
    owenliang  
       2018-08-07 19:17:54 +08:00 via Android
    @alamaya 不是 mongo 旁路了吗,是个分布式存储
    abcbuzhiming
        9
    abcbuzhiming  
       2018-08-07 23:40:13 +08:00
    @unforgiven 尽量不要做表分区,mysql 的表分区一直不太稳定,业界反应 bug 挺多的
    jmone
        10
    jmone  
       2018-08-08 03:15:10 +08:00
    @nine99 的路子是最直接有效的,定好再次分表的规则,能够做到一直水平分下去,再做上 redis 主动缓存,2 亿数据可以快到不可想象
    @owenliang mongo 的性能就是 shit,过千万记录之后,加索引都救不了
    sunsh2017
        11
    sunsh2017  
       2018-08-08 09:02:13 +08:00 via Android
    全部改用 redis, 结束。
    ebingtel
        12
    ebingtel  
       2018-08-08 09:29:03 +08:00
    @sunsh2017 按照 lz 的叙述,感觉数据量会一直增长,成本会不会太高啊?
    ghos
        13
    ghos  
       2018-08-08 09:57:39 +08:00
    有没有什么没那么复杂的方案哦
    zhengxiaowai
        14
    zhengxiaowai  
       2018-08-08 10:35:58 +08:00
    你先搜索一下,这个问题在 V 站讨论不下十几次了
    fireapp
        15
    fireapp  
       2018-08-08 11:03:54 +08:00 via iPhone
    hbase 有点大炮打蚊子:数据存两套
    一套 userId + tag 当 rowkey,专门给用户查询 tag 用
    一套 tag + userId 当 rowkey, 给 tag 查用户用
    数据就是增长到 200 亿都是亚秒级查询
    bapijun
        16
    bapijun  
       2018-08-08 11:44:56 +08:00
    高性能 mysql 上面有一整章说这件事情怎么办,你可以看看,我记得知乎以前也有说过,主要是垂直拆分和水平拆分两种
    sunsh2017
        17
    sunsh2017  
       2018-08-09 08:02:58 +08:00 via Android
    @ebingtel 不高 用 redis 是最好的方案 用 set 即可 用户数不过百万 标签也不过百万 其实很省的 嫌费内存 你用 ssdb 好了
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     2598 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 24ms UTC 07:59 PVG 15:59 LAX 00:59 JFK 03:59
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86