PHP 数据采集超时怎处理? - V2EX
domino
V2EX    PHP

PHP 数据采集超时怎处理?

  •  
  •   domino Jun 3, 2016 3942 views
    This topic created in 3646 days ago, the information mentioned may be changed or developed.
    设置 5 分钟跑一次数据采集入库,
    如果采集数据太多,5 分钟还没跑完,
    该怎禁止触发下一次 5 分钟执行呢?
    13 replies    2016-06-07 04:57:12 +08:00
    jfcherng
        1
    jfcherng  
       Jun 3, 2016
    外建立一文件例如 working.lock ,集前判此文件不存在,集後除?
    msg7086
        2
    msg7086  
       Jun 3, 2016
    lincanbin
        3
    lincanbin  
       Jun 3, 2016
    拿 Memcached 设置个 Flag 不就好了?
    rekulas
        4
    rekulas  
       Jun 3, 2016
    @lincanbin 为什么我上各种网站都有你
    audi
        5
    audi  
       Jun 3, 2016
    @rekulas 其实这里都是我的马甲,不信我拿其他帐号回复给你看。
    jugelizi
        6
    jugelizi  
       Jun 3, 2016
    @rekulas 哈哈推特 乌云 V2EX 都能看见熟人
    lincanbin
        7
    lincanbin  
       Jun 3, 2016
    @rekulas 因为我无处不在啊。
    peter999
        8
    peter999  
       Jun 3, 2016
    @rekulas 我小号特多
    dapang1221
        9
    dapang1221  
       Jun 3, 2016
    你用什么来触发 php ?可以检测一下 php 的返回来判断是否下次继续触发,或者把 5 分钟改小,增加 php 的采集线程数,减少单线程的工作时间。用 memcached 设 flag 也不错,但是感觉为了这一个功能就上 memcached 有些大材小用,除非你们业务本身用到这玩意。。
    pubby
        10
    pubby  
       Jun 3, 2016
    也可以使用外部工具,比如 flock

    flock -x -w 300 /tmp/task.lock php task.php
    z5864703
        11
    z5864703  
       Jun 3, 2016
    为什么每五分钟跑,一直跑会有问题么?
    持久化处理+队列。应该就完全可以解决楼主的问题了,而且效率和可靠性更好
    wxg4net
        12
    wxg4net  
       Jun 5, 2016
    如果是 cron 定时执行的 请选择 dcron 类似的服务
    lslqtz
        13
    lslqtz  
       Jun 7, 2016 via iPhone
    放个文件 lock ,这个文件在就不执行,只要 php 不超时,入库完让其删掉文件,下次触发照样可以继续执行。
    About     Help     Advertise     Blog     API     FAQ     Solana     3161 Online   Highest 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 70ms UTC 13:01 PVG 21:01 LAX 06:01 JFK 09:01
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86