数据工程师妹子养成手记数据库篇[盖楼送书] - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
如果想在 V2EX 获得更好的推广效果,欢迎了解 PRO 会员机制:
pro/about
itskingname

数据工程师妹子养成手记数据库篇[盖楼送书]

  •  
  •   itskingname Feb 23, 2019 10749 views
    This topic created in 2619 days ago, the information mentioned may be changed or developed.

    这篇文章没有代码,请放心阅读。

    程序员最宝贵的东西是生命,生命属于程序员只有一次。一个程序员的一生应该这样度过:当她回首往事的时候,她不会因为搭建环境浪费时间而悔恨,也不会因为集群无法运行而羞耻。这样,在她开发的时候,她能够说:“我的整个生命和全部精力,都已经献给了开发中最重要的事情设计程序,实现程序和调 Bug。” P 酱。

    P 酱是公司新来的实习生妹子。听说是一个文科生。文科生应该会去文案组或者策划组吧。什么?来数据组?让我来带?

    于是我和 P 酱~~生活~~工作在了一起。

    P 酱你会些什么?

    “我叫 P 酱,在 XX 大学读研二,爱好是拍照和被拍,大家可以在 B 站找到我跳舞的视频,比如 av170001。我的另外一个爱好是写代码……”

    当一个文科妹子说自己喜欢写代码的时候,整个办公室热闹了起来。

    “ P 酱,听说你喜欢写代码,那你写过什么东西吗?”新人介绍会议结束以后,我问 P 酱。

    “一般都是各种分析程序,我们的专业要做很多调查报告,他们都是用 Excel 来计算的。我喜欢用 Python 来把这些统计过程自动化。后来也写过自动写诗的程序、鬼畜视频生成器等等。”

    “真不敢相信你是文科生。这么说你的兴趣是数据分析方向咯?”

    “其实我对师父你做的爬虫很有兴趣。但是听说会经常和网站发生对抗?女孩子还是不要打打杀杀的好~”

    于是我让 P 酱负责对爬虫的原始数据进行清洗、整理并做简单的分析。

    一种船新的数据储存方式

    “ P 酱,爬虫抓到的原始数据是存放在 MongoDB 里面的,你的 Python 还不错吧,你试一试用 Python 来读写 MongoDB 看看。”

    “ MongoDB 是什么呀?”

    “是一个和 MySQL 不太一样的数据库。”

    “ MySQL 我知道,MongoDB 和 MySQL 有什么不一样呢?”

    “我举个例子,当你要插入数据的时候,你需要做的,就是‘插入’。咳咳,你不要脸红,我是指你不需要写 SQL 语句、不需要建表、不需要提前定义字段。仅仅只需要一行代码就能够实现了。我这里给你写了一篇文档,讲到了 MongoDB 的增删改查,你试一试。数据库已经给你搭建好了,你直接连上去用吧”

    半天以后。

    “师父,我已经会使用 MongoDB 啦。”

    “你读爬虫的原始数据,主要涉及到的就是查询操作,为了巩固插入、修改和删除的操作,再给你一个小任务吧。试一试写一个人员管理系统吧。”

    既然有关系,就整整齐齐放在一起看吧

    “ P 酱,你看起来很高兴的样子啊。”

    “因为我觉得 MongoDB 比起 MySQL 太简单了啊~”

    “你确定?那我看看你怎么对整行数据去重的?”

    “师父,我知道 distinct 关键字可以对一个字段去重。但是整行数据我是读出来用 Python 来去重的。”

    “这个时候你就要用到 MongoDB 的聚合查询了。文档已经给你写好了,拿去看吧。”

    “还有还有,这里你把店铺信息和菜单信息放在了两个集合里面,我怎么样才能把他们联表查询出来呢?”

    “联表查询是 MySQL 里面的操作,在 MongoDB 里面,没有,只有集合,所以叫做联集合查询更恰当一些。这也是要用到聚合查询,也在这个文档里面了。”

    再给你一个玩具吧。

    “ P 酱,之前让你做的爬虫数据监控系统怎么样了?”

    “功能已经做好了,但是有一个地方查询起来特别慢。我已经加过索引了,但还是很慢。怀疑是同时联了四个集合的数据造成的。”

    “这边的数据实际上每小时才更新一次,你没有必要每次刷新页面都去查询 MongoDB 的。我觉得是时候让你用一下 Redis 做缓存了。”

    “ Redis 就是那个内存数据库吗?我知道我知道。”

    “给你写了一份文档,包含 Redis 里面的各种数据类型和使用方式。你试一试把 Redis 和 MongoDB 结合起来看看能不能提高速度。”

    你怎么擅自加功能啊!

    “ P 酱,你怎么在爬虫监控系统的网页上加了一个广播窗口?”

    “呀,被师父发现了。因为我想到同一个爬虫可能会被几个人监控,所以就用 Redis 的发布订阅功能做出来了这个广播的功能。一旦爬虫状态发生改变,所有人都能收到推送。”

    “既然你这么闲,那不如加上账号登录功能,把权限验证也做上去?不同的人只能看到自己负责的爬虫。顺便你可以试一试用 Redis 实现……”

    “实现布隆过滤器和 Session 管理是吗?”

    “你怎么知道我要说什么?”

    “因为我早上看到你在文档上面更新了布隆过滤器和 Session 管理相关的内容啊~”

    红色的锁?

    “师父师父,你知道什么是 RedLock 吗?”

    “你学得这么快?都知道 RedLock 了? RedLock 是 Redis 官方给出的分布式锁的算法。已经有很多编程语言实现它了。”

    “原来 RedLock 只是一个算法啊……”

    为什么我学的这么快呢?

    “师父师父,我觉得很奇怪啊,为什么 MongoDB 和 Redis 我学得这么快呢?难道是因为他们本来就简单?还是因为我太聪明了?”

    “为什么你不说是因为你师父教的好呢?“

    “因为这是事实啊~不用我说出来~”

    “咳咳,实际上是因为两个原因。一是你一直通过项目驱动来学习,先有需求,然后再去学习实现这个需求所要涉及到的技能。所以你知道你学的东西能用来干什么,自然就能学得快……”

    “那第二个原因是什么呢?”

    “第二个原因,我先问你一个问题,你会搭建 Redis 集群吗?会搭建 MongoDB 集群吗?知道什么叫做哨兵吗?你知道如何优化 MongoDB 的启动参数吗?”

    “这…………好像都不知道额…………”

    “因为你的角色是数据工程师,不是数据库工程师,所以数据库搭建、底层优化这些内容我都给你跳过了。”

    “这些听起来都很重要啊,师父你会教我吗?”

    “你想经常值夜班吗?想半夜 3 点被人打电话叫起来修数据库吗?认清自己的定位啊,数据库工程师的技能当然很重要,但你是要成为数据工程师的人,技能树应该点在合适的方向。”

    后记

    后来,P 酱成了别人的女朋友。

    幸好我还有左手和右手,于是我把我给 P 酱总结的文档编撰成了《左手 MongoDB,右手 Redis 从入门到商业实战》这本书。本书现在已经在京东、亚马逊、淘宝上架。

    这本书的定位是 MongoDB 和 Redis 的应用,所以有意弱化了数据库的搭建、维护和底层优化。所以本书可能不适合数据库工程师。

    希望本书能够给那些一直想掌握 MongoDB、Redis,但是又不知道从何处下手的读者,提供一个学习的方向。

    福利时间

    感谢你读到了这一行,希望我这篇蹩脚的软文没有让你觉得讨厌。新书上架,回馈 V 友。我将会从所有留言的 V 友中选中 6 人,一人赠送一本《左手 MongoDB,右手 Redis 从入门到商业实战》。

    按照惯例,选人的方式如下:

    1. 2019 年 2 月 26 日早晨 10 点,我会打开网易财经查询 2019 年 2 月 25 日的网易收盘价。
    2. 网易收盘价转成字符串分别加上『 P 』、『 y 』、『 t 』、『 h 』、『 o 』、『 n 』获得 6 个字符串。例如『 2,806.81P 』、『 2,806.81y 』等等
    3. 通过 Python 自带的 hashlib 中的 sha256 算法,计算这 6 个字符串的哈希值。
    4. 哈希值转换为十进制以后除以截至 2019 年 2 月 26 日 10:00 的总楼层数,获得 6 个余数
    5. 6 个余数对应的楼层数将会获得赠书。
    6. 如果同一个人中奖两次,第二次自动顺延给下一层楼。
    7. 顺丰包邮(港澳台、新疆西藏除外)

    抽奖用到的数据,如下图红框框住的这一列。

    Supplement 1    Feb 23, 2019
    Supplement 2    Feb 26, 2019

    @tianrandai @ouyangpiao @abellee000 @houzhimeng @imNull @chotow

    恭喜以上同学中奖,请使用 base64 编码自己的邮箱回复到本帖并 @我。我会使用 Y29udGFjdEBraW5nbmFtZS5pbmZvCg== 对应的邮箱给各位发送邮件确认领奖事宜。

    抽奖代码:

    238 replies    2019-03-12 09:39:50 +08:00
    1  2  3  
    KgM4gLtF0shViDH3
        1
    KgM4gLtF0shViDH3  
       Feb 23, 2019 via iPhone   2
    文案都这么 6
    LeonKennedy
        2
    LeonKennedy  
       Feb 23, 2019
    路过看看,不知道说什么,火钳刘明好了
    goophy
        3
    goophy  
       Feb 23, 2019 via iPhone
    支持一下
    davidqw
        4
    davidqw  
       Feb 23, 2019
    直接看到后记...
    dreamwar
        5
    dreamwar  
       Feb 23, 2019
    打开了 B 站
    dreamwar
        6
    dreamwar  
       Feb 23, 2019
    然后我 TM 看了个什么???
    xcshuan
        7
    xcshuan  
       Feb 23, 2019 via Android
    这文案~书也是诙谐风?
    AlisterTT
        8
    AlisterTT  
       Feb 23, 2019 via iPhone
    给大佬递茶
    justinsince1995
        9
    justinsince1995  
       Feb 23, 2019 via Android
    觉得这个文档很神奇
    itskingname
        10
    itskingname  
    OP
       Feb 23, 2019
    @dreamwar 去 B 站看视频的人都发现了彩蛋。
    chotow
        11
    chotow  
       Feb 23, 2019 via iPhone
    再见,美丽的徒弟~
    Sin
        12
    Sin  
       Feb 23, 2019
    于是去搜了一下 av170001
    itskingname
        13
    itskingname  
    OP
       Feb 23, 2019
    @xcshuan 你喜欢诙谐风吗?
    andyhuzhill
        14
    andyhuzhill  
       Feb 23, 2019
    有点意思
    JayHawel
        15
    JayHawel  
       Feb 23, 2019 via Android
    咦~真是可恶,论坛里混进来了奇怪的东西。
    reexamine
        16
    reexamine  
       Feb 23, 2019
    手贱 av170001
    itskingname
        17
    itskingname  
    OP
       Feb 23, 2019
    @JayHawel 什么东西~
    aaahhh123
        18
    aaahhh123  
       Feb 23, 2019
    搜了一下 av170001 哈哈哈哈哈哈
    Captions
        19
    Captions  
       Feb 23, 2019 via Android   1
    写的不错啊
    morize
        20
    morize  
       Feb 23, 2019
    手贱点开了保加利亚妖王
    twor
        21
    twor  
       Feb 23, 2019
    我本来说这是一个悲伤的故事了,搜了 id,才知道该悲伤的是我
    itskingname
        22
    itskingname  
    OP
       Feb 23, 2019
    @twor 怎么楼歪了?
    densuc
        23
    densuc  
       Feb 23, 2019 via Android
    好了好了 ,我参加了
    qiayue
        24
    qiayue  
    PRO
       Feb 23, 2019
    支持
    co3site
        25
    co3site  
       Feb 23, 2019 via Android
    https://m.bilibili.com/video/av170001.html
    这文案,服气。在下就插入一楼,蹭蹭运气
    twor
        26
    twor  
       Feb 23, 2019
    @itskingname 这次是盖楼的正确姿势,哈哈
    archean
        27
    archean  
       Feb 23, 2019
    然后去 B 站看到了保加利亚妖王?
    leeUp
        28
    leeUp  
       Feb 23, 2019 via iPhone
    师父,我也想要你写的文档
    lllvvv
        29
    lllvvv  
       Feb 23, 2019 via Android
    支持
    XiaoXiaoNiWa
        30
    XiaoXiaoNiWa  
       Feb 23, 2019
    支持
    ThirdFlame
        31
    ThirdFlame  
       Feb 23, 2019
    然后 我打开了 B 站
    itskingname
        32
    itskingname  
    OP
       Feb 23, 2019
    @leeUp 都在这本书里面了。
    exip
        33
    exip  
       Feb 23, 2019 via Android
    写的好
    syhilyhw
        34
    syhilyhw  
       Feb 23, 2019
    路过 32 次
    dyxang
        35
    dyxang  
       Feb 23, 2019
    毛公仔那张图片有问题……过于真实不宜展示
    dengshen
        36
    dengshen  
       Feb 23, 2019 via iPhone
    这种带段子的广告赞一个
    ByteRan
        37
    ByteRan  
       Feb 23, 2019   1
    太 6 了,忍不住看完了,写的非常棒
    itskingname
        38
    itskingname  
    OP
       Feb 23, 2019
    @dyxang 毛公仔?
    BBrother
        39
    BBrother  
       Feb 23, 2019
    真是神秘的抽奖算法啊
    pcteams
        40
    pcteams  
       Feb 23, 2019 via Android
    广告也这么有创意。但还是读完了
    cccicl
        41
    cccicl  
       Feb 23, 2019
    故事性广告,很有意思
    struggletoday
        42
    struggletoday  
       Feb 23, 2019
    牛逼,还给 B 站导了一波流
    fuergaosi
        43
    fuergaosi  
       Feb 23, 2019
    本来想发
    直到我打开了 b 站
    dyxang
        44
    dyxang  
       Feb 23, 2019
    @itskingname 一排猫公仔
    itskingname
        45
    itskingname  
    OP
       Feb 23, 2019
    @dyxang P 酱送的礼物~
    cense
        46
    cense  
       Feb 23, 2019 via Android
    分母
    Mmmmc
        47
    Mmmmc  
       Feb 23, 2019
    不知不觉我就上当了。
    jadeity
        48
    jadeity  
       Feb 23, 2019
    打开 B 站,觉得被骗了,不会买书了。
    BestMe
        49
    BestMe  
       Feb 23, 2019
    六六六,老铁双击!
    heybuddy
        50
    heybuddy  
       Feb 23, 2019 via Android
    手贱搜了下车牌号。。。
    SharkU
        51
    SharkU  
       Feb 23, 2019
    不知道说什么,但是当我看到那个 av 号就意识到大事不妙了。
    hazard
        52
    hazard  
       Feb 23, 2019
    降低中奖率
    123s
        53
    123s  
       Feb 23, 2019
    抽我啊,哈哈
    JiZhiDeboy
        54
    JiZhiDeboy  
       Feb 23, 2019
    此时路过一位靓仔~
    b3m0r3
        55
    b3m0r3  
       Feb 23, 2019
    哈哈,当个分母
    cnkiller
        56
    cnkiller  
       Feb 23, 2019 via Android   1
    故事不错哈
    itskingname
        57
    itskingname  
    OP
       Feb 23, 2019
    @b3m0r3 也许是分子呢
    shell314
        58
    shell314  
       Feb 23, 2019 via Android
    很棒的活动
    LingJinDu
        59
    LingJinDu  
       Feb 23, 2019
    \(^o^)/~
    jamesisandy
        60
    jamesisandy  
       Feb 23, 2019 via Android
    支持支持
    zzf2017
        61
    zzf2017  
       Feb 23, 2019   1
    这文案玩的很花哨啊
    hotspotvm
        62
    hotspotvm  
       Feb 23, 2019
    支持
    itskingname
        63
    itskingname  
    OP
       Feb 23, 2019
    @zzf2017 感谢感谢~
    Crayon2022
        64
    Crayon2022  
       Feb 23, 2019 via Android   1
    打算入手买!
    killeder
        65
    killeder  
       Feb 23, 2019 via Android   1
    支持
    itskingname
        66
    itskingname  
    OP
       Feb 23, 2019
    @Sivan2017 感谢感谢
    BBCCBB
        67
    BBCCBB  
       Feb 23, 2019
    2 月 26 号早上 9 点 58,我打开小米官网抢 10 点开抢的手机。 =_+
    zer01
        68
    zer01  
       Feb 23, 2019
    还是继续当个分母吧
    imNull
        69
    imNull  
       Feb 23, 2019
    也是分母
    itskingname
        70
    itskingname  
    OP
       Feb 23, 2019
    @BBCCBB 然后你两边都中奖了。
    wxd92
        71
    wxd92  
       Feb 23, 2019 via iPhone
    抽奖方式很 6
    jianwei569
        72
    jianwei569  
       Feb 23, 2019
    分母前来报道
    Dram001
        73
    Dram001  
       Feb 23, 2019 via Android
    8 错哦,想搞社工
    liuxingbaoyu
        74
    liuxingbaoyu  
       Feb 23, 2019
    看到标题就决定要顶一下了
    itskingname
        75
    itskingname  
    OP
       Feb 23, 2019
    @wxd92 去年也搞了一次
    dabaitu
        76
    dabaitu  
       Feb 23, 2019 via Android
    滋磁
    itskingname
        77
    itskingname  
    OP
       Feb 23, 2019
    @liuxingbaoyu 那正文呢
    wxb2dyj
        78
    wxb2dyj  
       Feb 23, 2019 via iPhone
    正好俩都在用
    itskingname
        79
    itskingname  
    OP
       Feb 23, 2019
    @wxb2dyj 如此甚好
    houzhimeng
        80
    houzhimeng  
       Feb 23, 2019
    留名
    itskingname
        81
    itskingname  
    OP
       Feb 23, 2019
    @houzhimeng 火钳刘明。
    jinjianlu
        82
    jinjianlu  
       Feb 23, 2019
    文案不错
    itskingname
        83
    itskingname  
    OP
       Feb 23, 2019
    @jinjianlu 感谢
    hhh_king
        84
    hhh_king  
       Feb 23, 2019
    留名吧,谁知道呢
    omph
        85
    omph  
       Feb 23, 2019
    希望故事比技术出彩~
    dennisun
        86
    dennisun  
       Feb 23, 2019
    厉害了感觉是文科生写的
    piokhj
        87
    piokhj  
       Feb 23, 2019
    不错不错,刘明抽奖
    huaouo
        88
    huaouo  
       Feb 23, 2019 via Android
    av170001
    isnowify
        89
    isnowify  
       Feb 23, 2019
    分母~
    zhou00
        90
    zhou00  
       Feb 23, 2019
    分母
    pheyer
        91
    pheyer  
       Feb 23, 2019
    不要太 6
    diyisoft
        92
    diyisoft  
       Feb 23, 2019 via iPhone
    太好了,学习学习
    itskingname
        93
    itskingname  
    OP
       Feb 23, 2019
    @omph 技术更出差。
    itskingname
        94
    itskingname  
    OP
       Feb 23, 2019
    @dennisun 文科生跑了,是理科生写的。
    ruiruirui
        95
    ruiruirui  
       Feb 23, 2019 via Android
    写的不错
    kawhi
        96
    kawhi  
       Feb 23, 2019
    已买,当个分母
    qdpoboy
        97
    qdpoboy  
       Feb 23, 2019
    真妹子呀? 66666
    ebony0319
        98
    ebony0319  
       Feb 23, 2019 via Android
    av170001 这是神秘代码么?
    moonvstod
        99
    moonvstod  
       Feb 23, 2019 via iPhone   1
    文案太溜了
    ebony0319
        100
    ebony0319  
       Feb 23, 2019 via Android
    最左边两只猫的屁屁不正常。。。。
    1  2  3  
    About     Help     Advertise     Blog     API     FAQ     Solana     828 Online   Highest 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 241ms UTC 20:48 PVG 04:48 LAX 13:48 JFK 16:48
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86