HTTP权威指南 - robots.txt文件_http_robots.txt_访问

> 机器人社团能够理解机器人访问Web站点时可能引发的问题。1994年， 人们提出了一项简单的自愿约束技术， 可以将机器人阻挡在不适合它的地方之外， 并为网站管理员提供了一种能够更好地控制机器人行为的机制。
这个标准被称为“拒绝机器人访问标准＂，但通常只是根据存储访问控制信息的文件而将其称为robots.txt。

拒绝机器人访问

robots.txt的思想很简单。所有Web服务器都可以在服务器的文档根目录中提供一
个可选的、名为robots.txt的文件。这个文件包含的信息说明了机器人可以访问服务
器的哪些部分。如果机器人遵循这个自愿约束标准， 它会在访问那个站点的所有其臣习
他资源之前， 从Web站点请求robots.txt文件。例如， 图9-6中的机器人想要从Joe
的五金商店下载http://www.joes-hardware.com/specials/acetylene-torcbes.html。但在
机器人去请求这个页面之前， 要先去查看robots.txt文件， 看看它是否有获取这个页
面的权限。在这个例子中，robots.txt文件并没有拦截机器人， 因此机器人获取了这
个页面。

图9-6 在爬行目标文件之前，先获取robots.txt, 验证是否可以进行访问

一. 拒绝机器人访问标准

拒绝机器人访问标准是一个临时标准。编写本书的时候还没有官方标准机构承认这
个标准， 不同的厂商实现了这个标准的不同子集。但是， 具备一些对机器人访问
Web站点的管理能力， 即使井不完美， 也总比一点儿都没有要好， 而且大部分主要
的生产厂商和搜索引擎爬虫都支持这个拒绝访问标准。
尽管没有很好地定义版本的名称， 但拒绝机器人访问标准是有三个版本的。我们采用了表9-2列出的版本编号。

表9-2 拒绝机器人访问标准的版本

现在大多数机器人采用的都是标准v0.0 或v1.0。版本v2.0 要复杂得多， 没有得到
广泛的应用。可能永远也不会得到广泛应用。这里我们重点介绍v1.0 标准， 因为它
的应用很广泛， 而且与v0.0 完全兼容。

二. Web站点和robots.txt文件

如果一个Web站点有robots.txt文件， 那么在访问这个Web站点上的任意URL 之
前，机器人都必须获取它并对其进行处理。“由主机名和端口号定义的整个Web站
点上仅有一个robots.txt资源。如果这个站点是虚拟主机， 每个虚拟的docroot都可
以有一个不同的robots.txt文件， 像所有其他文件一样。
通常不能在Web站点上单独的子目录中安装“本地" robots.txt文件。网管要负责
创建一个聚合型robots.txt文件， 用以描述Web站点上所有内容的拒绝访问规则。

1. 获取robots.txt

机器人会用HTTP的GET 方法来获取robots.txt资源， 就像获取Web 服务器上所有
其他资源一样。如果有robots.txt文件的话， 服务器会将其放在一个textlplain主体
中返回。如果服务器以404 Not Found HTTP 状态码进行响应， 机器人就可以认为这
个服务器上没有机器人访问限制， 它可以请求任意的文件。
机器人应该在From首部和User心gent首部中传输标识信息， 以帮助站点管理者
对机器人的访问进行跟踪， 井在站点管理者要查询， 或投诉的机器人事件中提供一
些联系信息。下面是一个来自商业Web机器人的HTTP 爬虫请求实例：

GET /robots.txt HTTP/1.0
Host: www.joes-hardware.com
User-Agent: Slurp/2.0
Date: Wed Oct 3 20:22:48 EST 2001

2. 响应码

很多Web站点都没有robots.txt资源， 但机器人井不知道这一点。它必须尝试着从
每个站点上获取robots.txt资源。机器人会根据对robots.txt检索的结果采取不同的
行动。

• 如果服务器以—个成功状态(HTIP状态码2XX)为响应， 机器人就必须对内容
进行解析， 并使用排斥规则从那个站点上获取内容。

• 如果服务器响应说明资源井不存在(HTTP状态码404),机器人就可以认为服务
器没有激活任何排斥规则， 对此站点的访问不受robots.txt的限制。

• 如果服务器响应说明有访问限制(HTTP状态码401或403),机器人就应该认为
对此站点的访问是完全受限的。

• 如果请求尝试的结果是临时故障(HITP状态码503),机器人就应该推迟对此站
点的访问， 直到可以获取该资源为止。

• 如果服务器响应说明是重定向(HTTP状态码3XX),机器人就应该跟着重定向，
直到找到资源为止。

三. robots.txt文件的格式

robots.txt文件采用了非常简单的， 面向行的语法。robots.txt文件中有三种类型的
行： 空行、注释行和规则行。规则行看起来就像HTIP首部(<Field>:<value>)
一样， 用于模式匹配。比如：

# this robots.txt file allows Slurp & Webcrawler to crawl
# the public parts of our site, but no other robots ...

User-Agent: slurp
User-Agent: webcrawler
Disallow: /private

User-Agent: *
Disallow:
1
2
3
4
5
6
7
8
9

robots.txt文件中的行可以从逻辑上划分成“记录”。每条记录都为一组特定的机
器人描述了一组排斥规则。通过这种方式， 可以为不同的机器人使用不同的排斥
规则。
每条记录中都包含了一组规则行， 由一个空行或文件结束符终止。记录以一个
或多个User-Agent行开始， 说明哪些机器人会受此记录的影响， 后面跟着一些
Disallow和Allow行， 用来说明这些机器人可以访问哪些URL。

前面的例子显示了一个robots.txt文件， 这个文件允许机器人Slurp和Webcrawler
访问除了private子目录下那些文件之外所有的文件。这个文件还会阻止所有其他机
器人访问那个站点上的任何内容。
我们来看看User-Agent、Disallow和Allow行。

1. User-Agent行

每个机器人记录都以一个或多个下列形式的User-Agent行开始：

User-Agent: <robot-name>
1

或

User-Agent: *
1

在机器人HTIP GET请求的User-Agent首部中发送（由机器人实现者选择的）机
器人名。
机器人处理robots.txt文件时， 它所遵循的记录必须符合下列规则之一：

• 第一个<robot-name>是机器人名的大小写无关的子字符串，

• 第一个<robot-name>为"*"。

如果机器人无法找到与其名字相匹配的User-Agent行， 而且也无法找到通配的
User-Agent:*行， 就是没有记录与之匹配， 访问不受限。
由于机器人名是与大小写无关的子字符串进行匹配， 所以要小心不要匹配错了。比如，
User-Agent:bot就与名为Bot、Robot、Bottom-Feeder、Spambot 和Dont-Bother-Me
的所有机器人相匹配。

2. Disallow和Allow行

Disallow和Allow行紧跟在机器人排斥记录的User-Agent行之后。用来说明显
式禁止或显式允许特定机器人使用哪些URL路径。
机器人必须将期望访问的URL按序与排斥记录中所有的Disallow和Allow规
则进行匹配。使用找到的第一个匹配项。如果没有找到匹配项， 就说明允许使用这
个URL。

要使Allow/Disallow 行与一个URL 相匹配， 规则路径就必须是URL 路径大小写
相关的前缀。例如， Disallow: /tmp 就和下面所有的URL 相匹配：

http://www.joes-hardware.com/tmp
http://www.joes-hardware.com/tmp/
http://www.joes-hardware.com/tmp/pliers.html
http://www.joes-hardware.com/tmpspc/stuff.txt
1
2
3
4

3. Disallow/Allow前缀匹配

下面是Disallow/Allow 前缀匹配的一些细节。

• Disallow 和Allow 规则要求大小写相关的前缀匹配。（与User-Agent 行不同）
这里的星号没什么特殊的含义， 但空字符串可以起到通配符的效果。

• 在进行比较之前， 要将规则路径或URL路径中所有”被转义” 的字符(%XX)
都反转为字节（除了正斜杠%2F之外， 它必须严格匹配）。

• 如果规则路径为空字符串， 就与所有内容都匹配。

表9-3 列出了几个在规则路径和URL 路径间进行匹配的例子。

表9-3 robots.txt路径匹配示例

前缀匹配通常都能很好地工作， 但有几种情况下它的表达力却不够强。如果你希望
无论使用什么路径前缀， 都不允许爬行一些特别的子目录， 那robots.txt 是无能为
力的。比如， 你可能希望禁止在用千RCS版本控制的子目录中爬行。除了将到达
各RCS子目录的每条路径都分别枚举出来之外， 1.0版的robots.txt 方案无法提供此
功能。

四. 其他有关robots.txt的知识

解析robots.txt文件时还甜遵循其他一些规则。

• 随着规范的发展，robots.txt文件中可能会包含除了User-Agent、Disallow和
Allow之外的其他字段。机器人应该将所有它不理解的字段都忽略掉。

• 为了实现后向兼容，不能在中间断行。

• 注释可以出现在文件的任何地方，注释包括可选的空格，以及后面的注释符(#) 、
注释符后面的注释，直到行结束符为止。

• 0.0版的拒绝机器人访问标准并不支持Allow行。有些机器人只实现了0.0版的
规范， 因此会忽略Allow行。在这种情况下， 机器人的行为会比较保守， 有些
允许访问的URL它也不去获取

五. 缓存和robots.txt的过期

如果一个机器人在每次访问文件之前都要重新获取robots.txt文件，Web服务器上
的负载就会加倍，机器人的效率也会降低。机器人使用的替代方法是，它会周期性
地获取robots.txt文件，并将得到的文件缓存起来。机器人会使用这个robots.txt文
件的缓存副本， 直到其过期为止。原始服务器和机器人都会使用标准的HTTP缓存
控制机制来控制robots.txt文件的缓存。机器人应该留意HTTP响应中的CacheControl
和Expires首部。
现在很多产品级爬虫都不是HTTP/1.1的客户端， 网管应该意识到这些爬虫不一定
能够理解那些为robots.txt资源提供的缓存指令。
如果没有提供Cache-Control指令，规范草案允许将其缓存7天。但实际上，这
个时间通常太长了。不了解robots.txt文件的Web服务器管理员通常会在响应机器
人的访问时创建一个新的文件，但如果将缺乏信息的robots.txt文件缓存一周，新创
建的robots.txt文件就没什么效果了，站点管理员会责怪机器人管理员没有遵守拒绝
机器人访问标准。

六. 拒绝机器人访问的Perl代码

有几个公共的Perl库可以用来与robots.txt文件进行交互。CPAN公共Perl文档中
的 WWW:: RobotsRules模块就是一个这样的例子。

将已解析的robots.txt 文件保存在WWW::RobotRules 对象中， 这个对象提供了一些
方法， 可以用千查看是否禁止对某指定URL 进行访问。同一个叩W:: RobotRules
可以用于解析多个robots.txt 文件。
下面是WWW::RobotRules API 的一些主要方法。

• 创建RobotRules 对象
$rules 重WWW::RobotRules->new($robot_name);

• 装载robots.txt 文件
$rules->parse($url, $content, $fresh_until);

• 查看站点URL是否可获取
$can_fetch = $rules->allowed($url);
下面这个短小的Perl 程序说明了WWW: :RobotRules 的用法：

require WWW：：RobotRules;
# Create the RobotRules object, naming the robot "SuperRobot"
my $robotsrules = new WWW: : Robo仁Rules 'SuperRobot/1.0';
use LWP::Simple qw(get）；
# Get and parse the robots.txt file for Joe's Hardware, accumulating
# the rules
Surl = "http://www.joes-hardware.com/robots.txt•;
my $robots_txt = get $url;
$robotsrules->;parse($url, $robots_txt);
# Get and parse the robots.txt file for Mary's Antiques, accumulating
# the rules
$url = "http://www.mary's antiques.com/robots.txt";
my $robots_txt ; get $url;
$robotsrules->;parse($url, $robots_txt);
# Now RobotRules contains the set of robot exclusion rules for several
# different sites. It keeps them all separate. Now we can use RobotRules
# to test if a robot is allowed to access various URLs.
if ($robotsrules->;allowed($some target url))
{
$c = get $url;
...
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22

下面是www.marys-antiques.com 的假想robots.txt 文件：

#####################################################################
# This is the robots.txt file for Mary's Antiques web site
#####################################################################

# Keep Suzy's robot out of all the dynamic URLs because it doesn't
# understand them, and out of all the private data, except for 匕he
# small section Mary has reserved on the site for Suzy.
User-Agent: Suzy-Spider
Disallow: /dynamic
人llow: /private/suzy-stuff
Disallow: /private.
# The Furniture-Finder robot was specially designed to understand
# Mary's antique store's furniture inventory program, so let it
# crawl that resource, but keep it out of all the other dynamic
# resources and out of all the private data.
Oser-Agent: Furniture-Finder
Allow: /dynamic/check-inventory
Disallow: /dynamic
Disallow: /private
# Keep everyone else out of the dynamic gateways and private data.
User-Agent: *
Disallow: /dynamic
Disallow: /private

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24

这个robots.txt 文件中包含了一条机器人SuzySpider 的记录， 一条机器人FumitureFinder
的记录， 以及一条用千所有其他机器人的默认记录。每条记录都对不同的机器人使
用了一组不同的访问策略。

• SuzySpider 的排斥记录不允许机器人爬行以/dynamic 开头的商店库存网关URL,
以及在为Suzy 保留的区域之外的其他私有用户数据。

• FumitureFinder 机器人的记录允许机器人爬行家具库存网关URL。这个机器人可
能能够理解Mary 的网关格式和规则。

• 其他机器人都不能访问所有的动态和私有Web 页面， 但它们可以爬行其余的
URL。

表9-4 列出了几个机器人实例， 这几个机器人具有不同的Mary 古董网站访问权限。
表9-4 Mary古董网站的机器人访问权限

七. HTML的robot-control元标签

robots.txt 文件允许站点管理员将机器人排除在Web 站点的部分或全部内容之外。
robots.txt 文件的一个缺点就是它是Web 站点管理员， 而不是各部分内容的作者所
有的。
HTML 页面的作者有一种更直接的方式可以限制机器人访问那些独立的页面。他
们可以直接在HMTL 文档中添加robot-control 标签。遵循robot-control
HTML 标签规则的机器人仍然可以获取文档， 但如果其中有机器人排斥标签， 它们
就会忽略这些文档。比如， 因特网搜索引擎机器人就不会在其搜索索引中包含这个
目录了。和robots.txt 标准一样， 鼓励但并不强制使用这个标签。

机器人排斥标签是以如下形式， 通过HTML 的META 标签来实现的：

<META NAME="ROBOTS" CONTENT=directive-list>
1

1. 机器人的META指令

机器人META 指令有几种不同的类型， 而且随着时间的推移， 以及搜索引擎及机器
人对其行为和特性集的扩展， 很可能还会添加一些新的指令。最常用的两个机器人
META 指令如下所示。
• NOINDEX
告诉机器人不要对页面的内容进行处理， 忽略文档（也就是说， 不要在任何索引
或数据库中包含此内容）。

<META NAME="ROBOTS" CONTENT="NOINOEX">
1

• NOFOLLOW
告诉机器人不要爬行这个页面的任何外连链接。

<META NAME="ROBOTS" CONTENT="NOFOLLOW">
1

除了NOINDEX和NOFOLLOW 之外， 还有相对应的INDEX 指令、FOLLOW 指令、
NOARCHIVE 指令以及ALL和NONE 指令。下面对这些机器人META标签指令进行
了总结。

• INDEX
告诉机器人它可以对页面的内容进行索引。

• FOLLOW
告诉机器人它可以爬行页面上的任何外连链接。

• NOARCHIVE
告诉机器人不应该缓存这个页面的本地副本。”

• ALL
等价千INDEX、FOLLOW。

• NONE
等价于NOINDEX 、NOFOLLOW 。
与所有HTML 的META标签类似， 机器人META标签必须出现在HTML 页面的
HEAD区域中：

<html>
<head>
<meta name="robots-content="noindex,nofollow">
<title> ... </title>
</head>
<body>
</body>
</html>
1
2
3
4
5
6
7
8

注意，标签的名称robots和内容都是大小写无关的。
很显然， 不能发出一些会产生冲突或重复的指令， 比如：

<meta name="robots" content="INDEX,NOINDEX,NOFOLLOW,FOLLOW,FOLLOW">
1

这种指令的行为很可能是未定义的， 肯定会随机器人实现的不同而有所不同。

2. 搜索引擎的META标签

我们刚刚讨论了机器人的META 标签， 可以用来控制Web 机器人的爬行和索引行
为。所有的机器人META 标签中都包含了name:“robots” 属性。
还有很多其他类型的META 标签可用， 包括表9-5 所示的各种标签。对内容索引型
搜索引擎机器人来说， DESCRIPTION 和KEYWORDS META 标签都非常有用。
表9-5 其他META标签指令