推荐学习书目 Learn Python the Hard Way Python Sites PyPI - Python Package Index http://diveintopython.org/toc/index.html Pocoo 值得关注的项目 PyPy Celery Jinja2 Read the Docs gevent pyenv virtualenv Stackless Python Beautiful Soup 结巴中文分词 Green Unicorn Sentry Shovel Pyflakes pytest Python 编程 pep8 Checker Styles PEP 8 Google Python Style Guide Code Style from The Hitchhiker's Guide
这是一个创建于 4891 天前的主题，其中的信息可能已经有所发展或是发生改变。
测试数据10w条记录都通过抓取得来，能否通过Twisted长连接，监测有没有更新？
通过gevent来异步更新数据？
还是通过python-rq让队列来批量更新mysql中的数据？
求思路？
通过gevent来异步更新数据？
还是通过python-rq让队列来批量更新mysql中的数据？
求思路？
 | 1 picasso250 2012 年 12 月 1 日 将纪录划分成N份，摘要之？ 纯粹抛砖引玉。 |
 | 2 lonelybug 2012 年 12 月 1 日 分批量更新，每次1000条之类的。 |
 | 3 dreampuf 2012 年 12 月 2 日 10W这种量级，一条SQL，你问完了，也就跑完了。 |
 | 4 songpengf117 2012 年 12 月 2 日 重新抓取10W记录，要多长时间？ |
| 5 picasso250 2012 年 12 月 3 日 楼上问的问题貌似蛮重要的 |
Select Language