推荐学习书目 Learn Python the Hard Way Python Sites PyPI - Python Package Index http://diveintopython.org/toc/index.html Pocoo 值得关注的项目 PyPy Celery Jinja2 Read the Docs gevent pyenv virtualenv Stackless Python Beautiful Soup 结巴中文分词 Green Unicorn Sentry Shovel Pyflakes pytest Python 编程 pep8 Checker Styles PEP 8 Google Python Style Guide Code Style from The Hitchhiker's Guide
这是一个创建于 2193 天前的主题，其中的信息可能已经有所发展或是发生改变。
用 python3 的 requests 库写的爬虫，今天试了好多家代理 IP，没有爬几次就被拒绝访问。
UA 是动态的，cookie 是 session 获取的，IP 也是高匿的，究竟是怎么被检测出来的呢？百思不得其解
 | 1 66CCFF 2019-11-24 20:39:52 +08:00 前端搞个 js 很容易检测你这种呀。 |
 | 2 yankebupt 2019-11-24 22:24:39 +08:00 你先找几台高匿 VNC 上去手动爬下试试…… 有的行为检测连手动爬都过不了，更别提 python 了...... 话说某剁手站我正常使用时都有 5%以上的验证码弹出率，不知是不是我长得很像爬虫…… |
 | 3 nnnToTnnn 2019-11-25 09:18:51 +08:00 很简单，行为分析啊。 鼠标移动的轨迹，还有敏感的 IP 地址等等一些参数。 详细项目请参考 Google 的 “我不是机器人” |
 | 4 Lunatic1 2019-11-25 10:06:22 +08:00 如果被封说明 IP 的高匿还是失败的，假设开代理被检测也只是会封当前代理吧？可以先测试一下 |
 | 5 hardcattle 2019-11-25 10:09:09 +08:00 亲，pyppeteer 了解一下，还有什么不能爬的网点。 |
 | 6 lcy630409 2019-11-25 13:12:15 +08:00 不要用代理 本机直接爬，速度慢点 代理都是服务器的 ip 都是机房的，不说别的 判断你访问的 ip 是机房 ip 就要弹验证码了 |
 | 7 letitbesqzr 2019-11-25 17:17:45 +08:00 先不说根据你的行为来判定的是否爬虫，就拿你代理 ip 来说，现在做风控的，都会把 ip 因素考虑进去，比如 ip 是否来自于机房 是否来自于 adsl 等等一系列，他们的大数据远比我们想到的丰富。 |
 | 10 heyhumor OP @hardcattle pyppeteer 好像已经不维护了，问题很多吧 |
 | 14 superrichman 2019-11-26 08:59:57 +08:00 via iPhone 估计是你的 header 没处理好吧 |
| 16 heyhumor OP @superrichman header 没处理好的话应该都不会返回数据吧，可是我返回了几次正确数据后才 403 的 |
 | 18 676529483 2019-11-26 10:11:04 +08:00 爬的是要登陆网站吗？如果是要登陆的，你 cookie 用的同一账号的，怎么代理也没用啊 |
 | 19 scukmh 2019-11-26 10:24:28 +08:00 via iPhone 代理怎么加的代码有吗？ requests 的代理有点小坑的。 |
 | 20 QUIOA 2019-11-30 12:36:20 +08:00 via Android 如果是国外网站你可以去买那些住宅代理 IP |
 | 21 laball 2020-05-15 00:45:18 +08:00 @hardcattle 想请教，如何解决 IP 被封的问题。 |
Select Language