纯净、安全、绿色的下载网站

首页|软件分类|下载排行|最新软件|IT学院

当前位置:首页IT学院IT技术

Python反爬虫 Requests什么的通通爬不了的Python超强反爬虫方案!

程序员启航   2021-05-20 我要评论
想了解Requests什么的通通爬不了的Python超强反爬虫方案!的相关内容吗程序员启航在本文为您仔细讲解Python反爬虫的相关知识和一些Code实例欢迎阅读和指正我们先划重点:Python反爬虫,python处理爬虫下面大家一起来学习吧。

一、前言

一个非常强的反爬虫方案 —— 禁用所有 HTTP 1.x 的请求!

现在很多爬虫库其实对 HTTP/2.0 支持得不好比如大名鼎鼎的 Python 库 —— requests到现在为止还只支持 HTTP/1.1啥时候支持 HTTP/2.0 还不知道。

Scrapy 框架最新版本 2.5.0(2021.04.06 发布)加入了对 HTTP/2.0 的支持但是官网明确提示现在是实验性的功能不推荐用到生产环境原文如下:

HTTP/2 support in Scrapy is experimental, and not yet recommended for production environments. Future Scrapy versions may introduce related changes without a deprecation period or warning.

插一句Scrapy 中怎么支持 HTTP/2.0 呢?在 settings.py 里面换一下 Download Handlers 即可:

DOWNLOAD_HANDLERS = {
    'https': 'scrapy.core.downloader.handlers.http2.H2DownloadHandler',
}

当前 Scrapy 的 HTTP/2.0 实现的已知限制包括:

  • 不支持 HTTP/2.0 明文(h2c)因为没有主流浏览器支持未加密的 HTTP/2.0。
  • 没有用于指定最大帧大小大于默认值 16384 的设置发送更大帧的服务器的连接将失败。
  • 不支持服务器推送。
  • 不支持bytes_received和 headers_received信号。

关于其他的一些库也不必多说了对 HTTP/2.0 的支持也不好目前对 HTTP/2.0 支持得还可以的有 hyper 和 httpx后者更加简单易用一些。

二、反爬虫

所以你想到反爬虫方案了吗?

如果我们禁用所有的 HTTP/1.x 的请求是不是能通杀掉一大半爬虫?requests 没法用了Scrapy 除非升级到最新版本才能勉强用个实验性版本其他的语言也不用多说也会杀一大部分。

而浏览器对 HTTP/2.0 的支持现在已经很好了所以不会影响用户浏览网页的体验。

三、措施

那就让我们来吧!

这个怎么做呢?其实很简单在 Nginx 里面配置一下就好了主要就是加这么个判断就行了:

if ($server_protocol !~* "HTTP/2.0") {
  return 444;
}

就是这么简单这里 $server_protocol 就是传输协议其结果目前有三个:HTTP/1.0HTTP/1.1 和 HTTP/2.0另外判断条件我们使用了 !~* 意思就是不等于这里的判断条件就是如果不是 HTTP/2.0那就直接返回 444 状态码444 一般代表 CONNECTION CLOSED WITHOUT RESPONSE就是不返回任何结果关闭连接。

我的服务是在 Kubernetes 里面运行的所以要加这个配置还得改下 Nginx Ingress 的配置不过还好 https://kubernetes.github.io/ingress-nginx/user-guide/nginx-configuration/annotations/ 预留了一个配置叫做 nginx.ingress.kubernetes.io/server-snippet利用它我们可以自定义 Nginx 的判定逻辑。

官方用法如下:

apiVersion: networking.k8s.io/v1beta1
kind: Ingress
metadata:
  annotations:
    nginx.ingress.kubernetes.io/server-snippet: |
        set $agentflag 0;
        if ($http_user_agent ~* "(Mobile)" ){
          set $agentflag 1;
        }
        if ( $agentflag = 1 ) {
          return 301 https://m.example.com;
        }

所以这里我们只需要改成刚才的配置就好了:

apiVersion: networking.k8s.io/v1beta1
kind: Ingress
metadata:
  annotations:
    nginx.ingress.kubernetes.io/server-snippet: |
      if ($server_protocol !~* "HTTP/2.0") {
        return 444;
      }

大功告成!

配置完成了示例网站是:https://spa16.scrape.center/

我们在浏览器中看下效果:

Image

可以看到所有请求都是走的 HTTP/2.0页面完全正常加载。

然而我们使用 requests 来请求一下:

import requests
response = requests.get('https://spa16.scrape.center/')
print(response.text)

非常欢乐的报错:

Traceback (most recent call last):
  ...
    raise RemoteDisconnected("Remote end closed connection without"
http.client.RemoteDisconnected: Remote end closed connection without response
 
During handling of the above exception, another exception occurred:
 
Traceback (most recent call last):
  ...
    raise MaxRetryError(_pool, url, error or ResponseError(cause))
requests.packages.urllib3.exceptions.MaxRetryError: HTTPSConnectionPool(host='spa16.scrape.center', port=443): Max retries exceeded with url: / (Caused by ProxyError('Cannot connect to proxy.', RemoteDisconnected('Remote end closed connection without response')))
 
During handling of the above exception, another exception occurred:
 
Traceback (most recent call last):
 ...
requests.exceptions.ProxyError: HTTPSConnectionPool(host='spa16.scrape.center', port=443): Max retries exceeded with url: / (Caused by ProxyError('Cannot connect to proxy.', RemoteDisconnected('Remote end closed connection without response')))

如果你用 requests无论如何都不行的因为它就不支持 HTTP/2.0。

那我们换一个支持 HTTP/2.0 的库呢?比如 httpx安装方法如下:

pip3 install 'httpx[http2]'

注意Python 版本需要在 3.6 及以上才能用 httpx。

安装好了之后测试下:

import httpx
client = httpx.Client(http2=True)
 
response = client.get('https://spa16.scrape.center/')
print(response.text)

结果如下:

<!DOCTYPE html><html lang=en><head><meta charset=utf-8><meta http-equiv=X-UA-Compatible content="IE=edge"><meta name=viewport content="width=device-width,initial-scale=1"><meta name=referrer content=no-referrer><link rel=icon href=/favicon.ico><title>Scrape | Book</title><link href=/css/chunk-50522e84.e4e1dae6.css rel=prefetch><link href=/css/chunk-f52d396c.4f574d24.css rel=prefetch><link href=/js/chunk-50522e84.6b3e24aa.js rel=prefetch><link href=/js/chunk-f52d396c.f8f41620.js rel=prefetch><link href=/css/app.ea9d802a.css rel=preload as=style><link href=/js/app.b93891e2.js rel=preload as=script><link href=/js/chunk-vendors.a02ff921.js rel=preload as=script><link href=/css/app.ea9d802a.css rel=stylesheet></head><body><noscript><strong>We're sorry but portal doesn't work properly without JavaScript enabled. Please enable it to continue.</strong></noscript><div id=app></div><script src=/js/chunk-vendors.a02ff921.js></script><script src=/js/app.b93891e2.js></script></body></html>

可以看到HTML 就成功被我们获取到了!这就是 HTTP/2.0 的魔法!

我们如果把 http2 参数设置为 False 呢?

import httpx
client = httpx.Client(http2=False)
 
response = client.get('https://spa16.scrape.center/')
print(response.text)

一样很不幸:

Traceback (most recent call last):
 ...
    raise RemoteProtocolError(msg)
httpcore.RemoteProtocolError: Server disconnected without sending a response.
 
The above exception was the direct cause of the following exception:
  ...
    raise mapped_exc(message) from exc
httpx.RemoteProtocolError: Server disconnected without sending a response.

所以这就印证了只要 HTTP/1.x 通通没法治!可以给 requests 烧香了!

又一个无敌反爬虫诞生了!各大站长们安排起来吧~


相关文章

猜您喜欢

  • idea2021.1操作svn IDEA 2021.1 操作SVN 最新超详细教程(图文)

    想了解IDEA 2021.1 操作SVN 最新超详细教程(图文)的相关内容吗清思越在本文为您仔细讲解idea2021.1操作svn的相关知识和一些Code实例欢迎阅读和指正我们先划重点:idea2021.1操作svn,idea2021.1,svn下面大家一起来学习吧。..
  • TortoiseSvn小乌龟安装 TortoiseSvn小乌龟安装最新图文详细教程

    想了解TortoiseSvn小乌龟安装最新图文详细教程的相关内容吗贪吃的小耳朵在本文为您仔细讲解TortoiseSvn小乌龟安装的相关知识和一些Code实例欢迎阅读和指正我们先划重点:TortoiseSvn小乌龟安装,TortoiseSvn小乌龟下面大家一起来学习吧。..

网友评论

Copyright 2020 www.Shellfishsoft.com 【贝软下载站】 版权所有 软件发布

声明:所有软件和文章来自软件开发商或者作者 如有异议 请与本站联系 点此查看联系方式