爬虫管理平台 Crawlab v0.4.5 发布 - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
请不要在回答技术问题时复制粘贴 AI 生成的内容
tikazyq
V2EX    程序员

爬虫管理平台 Crawlab v0.4.5 发布

  •  2
     
  •   tikazyq
    tikazyq 2020 年 2 月 4 日 3287 次点击
    这是一个创建于 2205 天前的主题,其中的信息可能已经有所发展或是发生改变。

    前言

    本次修复主要集中在 Bug 修复和一些必要的优化。

    更新日志

    功能 / 优化

    • 交互式教程. 引导用户了解 Crawlab 的主要功能.
    • 加入全局环境变量. 可以设置全局环境变量,然后传入到所有爬虫程序中. #177
    • 项目. 允许用户将爬虫关联到项目上. #316
    • 示例爬虫. 当初始化时,自动加入示例爬虫. #379
    • 用户管理优化. 限制管理用户的权限. #456
    • 设置页面优化.
    • 任务结果页面优化.

    Bug 修复

    • 无法找到爬虫文件错误. #485
    • 点击删除按钮导致跳转. #480
    • 无法在空爬虫里创建文件. #479
    • 下载结果错误. #465
    • crawlab-sdk CLI 错误. #458
    • 页面刷新问题. #441
    • 结果不支持 JSON. #202
    • 修复“删除爬虫后获取所有爬虫”错误.
    • 修复 i18n 警告.

    参考

    社区

    如果您觉得 Crawlab 对您的日常开发或公司有帮助,请加作者微信 tikazyq1 并注明 "Crawlab",作者会将你拉入群。欢迎在 Github 上进行 star,以及,如果遇到任何问题,请随时在 Github 上提 issue。另外,欢迎您对 Crawlab 做开发贡献。

    10 条回复    2020-02-04 16:54:07 +08:00
    DJI360
        1
    DJI360  
       2020 年 2 月 4 日
    感谢分享
    tikazyq
        2
    tikazyq  
    OP
       2020 年 2 月 4 日
    @hfutzj 谢谢支持
    pythonee
        3
    pythonee  
       2020 年 2 月 4 日
    感谢分享

    看了下文档,建议增加一些术语解释,比如说阶段这个概念

    另外,不知道 scrapy 是不是默认已经集成?
    tikazyq
        4
    tikazyq  
    OP
       2020 年 2 月 4 日
    @pythonee 是的,现在文档还有些不那么完善,后续我们会进一步逐步完善的。

    在 Docker 镜像中,scrapy 是已经集成了的了。
    kaikai5601
        5
    kaikai5601  
       2020 年 2 月 4 日 via iPhone
    demo 登录出错了
    qsbaq
        6
    qsbaq  
       2020 年 2 月 4 日
    demo 登录出错了
    musi
        7
    musi  
       2020 年 2 月 4 日
    看了一下是支持多节点部署的?最近刚好想找一个爬虫管理平台管理一些内网环境下的爬虫(机器可通外网,但获取的数据在内网)貌似可以试试?
    tikazyq
        8
    tikazyq  
    OP
       2020 年 2 月 4 日
    @kaikai5601 密码被更改了,现在可以试试
    tikazyq
        9
    tikazyq  
    OP
       2020 年 2 月 4 日
    @qsbaq 现在试试
    tikazyq
        10
    tikazyq  
    OP
       2020 年 2 月 4 日
    @musi 是的,这个本身就是支持分布式的平台,可以多节点部署。Crawlab 分主节点工作节点,主节点主要控制 API 和节点注册等,工作节点主要负责抓取,你可以让主节点在内网,工作节点在外网,这样就可以实现你想要做的事情了。
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     1967 人在线   最高记录 6679    
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 24ms
    UTC 12:34 PVG 20:34 LAX 04:34 JFK 07:34
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86