User-Agent（用户代理）是什么

User-Agent 软件开发定制即用户代理，简称“UA”，软件开发定制它是一个特殊头。软件开发定制网站服务器通过识别 “UA”软件开发定制来确定用户所使用的操软件开发定制作系统版本、CPU 类型、软件开发定制浏览器版本等信息。软件开发定制而网站服务器则通过判断 UA 来给客户端发送不同的页面。

我们知道，网络使用程序代码来访问网站，而非人类亲自点击访问，因此爬虫程序也被称为“网络机器人”。绝大多数网站都具备一定的反爬能力，禁止网爬虫大量地访问网站，以免给网站服务器带来压力。本节即将要讲解的 User-Agent 就是反爬策略的第一步。

网站通过识别请求头中 User-Agent 信息来判断是否是爬虫访问网站。如果是，网站首先对该 IP 进行预警，对其进行重点监控，当发现该 IP 超过规定时间内的访问次数， 将在一段时间内禁止其再次访问网站。

常见的 User-Agent 请求头，如下所示：

常见的 User-Agent 汇总表

使用上表中的浏览器 UA，我们可以很方便的构建出 User-Agent。通过在线识别工具，可以查看本机的浏览器版本以及 UA 信息，如下所示：

当前浏览器UA信息

若想更多地了解浏览器 UA 信息(包含移动端、PC端)可参考《常用浏览器User-Agent》。

爬虫程序UA信息

下面，通过向 HTTP 测试网站（http://httpbin.org/）发送 GET 请求来查看请求头信息，从而获取爬虫程序的 UA。代码如下所示：

#导入模块import urllib.request#向网站发送get请求response=urllib.request.urlopen('http://httpbin.org/get')html = response.read().decode()print(html)
1
2
3
4
5
6

程序运行后，输出的请求头信息如下所示：

{  "args": {},  #请求头信息  "headers": {    "Accept-Encoding": "identity",    "Host": "httpbin.org",    "User-Agent": "Python-urllib/3.7", #UserAgent信息包含在请求头中！    "X-Amzn-Trace-Id": "Root=1-6034954b-1cb061183308ae920668ec4c"  },  "origin": "121.17.25.194",  "url": "http://httpbin.org/get"}
1
2
3
4
5
6
7
8
9
10
11
12

从输出结果可以看出，User-Agent 竟然是 Python-urllib/3.7，这显然是爬虫程序访问网站。因此就需要重构 User-Agent，将其伪装成“浏览器”访问网站。

注意：httpbin.org 这个网站能测试 HTTP 请求和响应的各种信息，比如 cookie、IP、headers 和登录验证等，且支持
GET、POST 等多种方法，对 Web 开发和测试很有帮助。

重构爬虫UA信息

下面使用urllib.request.Request()方法重构 User-Agent 信息，代码如下所示：

from urllib import request# 定义变量：URL 与 headersurl = 'http://httpbin.org/get' #向测试网站发送请求#重构请求头，伪装成 Mac火狐浏览器访问，可以使用上表中任意浏览器的UA信息headers = {'User-Agent':'Mozilla/5.0 (Macintosh; Intel Mac OS X 10.12; rv:65.0) Gecko/20100101 Firefox/65.0'}# 1、创建请求对象，包装ua信息req = request.Request(url=url,headers=headers)# 2、发送请求，获取响应对象res = request.urlopen(req)# 3、提取响应内容html = res.read().decode('utf-8')print(html)
1
2
3
4
5
6
7
8
9
10
11
12
13

程序的运行结果，如下所示：

{  "args": {},  "headers": {    "Accept-Encoding": "identity",    "Host": "httpbin.org",    #伪装成了Mac火狐浏览器    "User-Agent": "Mozilla/5.0 (Macintosh; Intel Mac OS X 10.12; rv:65.0) Gecko/20100101 Firefox/65.0",    "X-Amzn-Trace-Id": "Root=1-6034a52f-372ca79027da685c3712e5f6"  },  "origin": "121.17.25.194",  "url": "http://httpbin.org/get"}
1
2
3
4
5
6
7
8
9
10
11
12

上述代码重构了 User-Agent 字符串信息，这样就解决了网站通过识别 User-Agent 来封杀爬虫程序的问题。当然这只是应对反爬策略的第一步。重构 UA 也可以通过其他模块实现，比如 requests 模块，这在后续内容会做相应介绍。