写了个多线程爬虫，感觉自己好无耻呀。。。 之前写了个单线程的，任务丢到 rq 里面去去，真的很慢，两千多个网页，跑了半天。 这个也跑了小班天。。。。。 https://github.com/ljdawn/python_share/blob/master/biquge_spider.py
推荐学习书目 Learn Python the Hard Way Python Sites PyPI - Python Package Index http://diveintopython.org/toc/index.html Pocoo 值得关注的项目 PyPy Celery Jinja2 Read the Docs gevent pyenv virtualenv Stackless Python Beautiful Soup 结巴中文分词 Green Unicorn Sentry Shovel Pyflakes pytest Python 编程 pep8 Checker Styles PEP 8 Google Python Style Guide Code Style from The Hitchhiker's Guide
This topic created in 3900 days ago, the information mentioned may be changed or developed.
 | 1 ljdawn OP rq 那个没放是因为。。。这个是抓得 CL 呀。哈哈哈哈哈哈 |
 | 2 sivacohan PRO 用 gevent 保平安 |
 | 3 je11yfish Sep 7, 2015 楼主，这事儿用 Gevent 是王道啊…… |
 | 6 LeoQ Sep 7, 2015 楼上这么赤裸裸的求 YP ，哈哈哈 |
 | 7 cooiky Sep 7, 2015 |
 | 11 ThisDay Sep 7, 2015 "Referer":"http://cl.loius.biz/" 说！是不是去抓过图片！还是成人文学？ |
 | 13 symons Oct 2, 2015 为啥不用多进程，要用多线程，请教一下 |
Select Language