k8凯发一触即发|Home

每当用户试图□□□□访问某个不存□□□□在的 URL 时，服务器都会在□□□日志中记录 404 错误（无法 找到文件）。每当搜索蜘蛛□□来寻找并不存□□□在的 robots.txt 文件时，服务器也将在◤日志中记录一 条 404 错误，所以你应该在□□□□网站中添加一·个 robots.txt。 那今天大连网络公司小李，就带大家一起○学习一下有关robots.txt 的语法格式 的知识！

　　“robots.txt”文件包含一条□□□或更多的记录，这些记录通过□□□□空行分开（以 CR，CR/NL, or NL 作为结束符），每一条记录的□□□□格式如下所示： “:”。 在该文件中可◇以使用#进行注解，具体使用方法□□和 UNIX 中的惯例一样。该文件中的记 录通常以一行□□□□或多行 User-agent 开始，后面加上若干 Disallow 行，详细情况如下：

　　User-agent:
　　在"robots.txt"文件中，如果有多条 User-agent 记录说明有多□□□个 robot 会受到"robots.txt"的 限制，对该文件来说，至少要有一条 User-agent 记录。如果该项的值□□设为*，则对任何 robot 均有效，在"robots.txt"文件中，"User-agent:*"这样的记录只◉能有一条。 如果在"robots.txt"文件中，加入"User-agent:SomeBot"和若干 Disallow、Allow 行，那么 名为"SomeBot"只受到"User-agent:SomeBot"后面的 Disallow 和 Allow 行的限制。

　　Disallow:
　　这个值可以是□□□□一条完整的路□□径，也可以是路径❖的非空前缀，以 Disallow 项的值开头的 URL 不会被 robot 访问。例如"Disallow:/help"禁止 robot 访问/help.html、/helpabc.html、 /help/index.html，而"Disallow:/help/"则允许 robot 访问/help.html、/helpabc.html，不能访问/help /index.html。 "Disallow:"说明允许 robot 访问该网站的❖所有 url，在"/robots.txt"文件中，至少要有一条 Disallow 记录。如果"/robots.txt"不存在或者为♦空文件，则对于所有的□□□搜索引擎 robot，该网 站都是开放的。 . 要拦截整个网□□□站，请使用正斜扛。 Disallow:/ . 要拦截目录及□□□其中的所有内□□□容，请在目录名后◥添加正斜扛.Disallow:/private_directory/ . 要拦截网页，请列出该网页。 Disallow:/private_file.html

　　Allow:
　　与 Disallow 项相似，这个值可以是·一条完整的路□□□径，也可以是路径♦的前缀，以 Allow 项的值开头的 URL 是允许 robot 访问的。例如"Allow:/hibaidu"允许 robot 访问/hibaidu.htm、/hibaiducom.html、/hibaidu /com.html。一个网站的所□□有 URL 默认是 Allow 的，所以 Allow 通常与 Disallow 搭配使用，实现允许访问□□□一部分网页同□□时禁止访问其□□□它所有 URL 的功能。 注意：Disallow 与 Allow 行的顺序是有□□□□意义的，robot 会根据先进个□□□□匹配成功的 Allow 或 Disallow 行确定是否访□□□问某个 URL.
 
　　使用 * 匹配字符序列
　　您可使用星号 (*) 来匹配字符序□□□□列。例如，要拦截对所有□□□以"专用"开头的子目录□□□□的访问， 可使用下列条□□□□目：
User-Agent:Googlebot 　Disallow:/专用*/ 要拦截对所有◈包含问号 (?) 的网址的访问，可使用下列条□□□目： User-agent:* 　Disallow:/*? 使用 $ 匹配网址的结□□□□束字符
您可使用 $ 字符指定与网□□址的结束字符●进行匹配。例如，要拦截以 .asp 结尾的网址， 可使用下列条□□□□目： User-Agent:Googlebot Disallow:/*.asp$ 您可将此模式□□□匹配与 Allow 指令配合使用。例如，如果 ? 表示一个会话 ID，您可排 除所有包含该 ID 的网址，确保搜索引擎□□□蜘蛛不会抓取□□□重复的网页。但是，以 ? 结尾的网
址可能是您要□□□包含的网页版□□□本。在此情况下，可对 robots.txt 文件进行如下□□□设置： User-agent:*　 Allow:/*?$ 　Disallow:/*?
Disallow:/ *? 一行将拦截包□□□含 ? 的网址（具体而言，它将拦截所有□□□以您的域名开○头、 后接任意字符□□串，然后是问号 (?)，而后又是任意丨字符串的网址）。
Allow: /*?$ 一行将允许包□□□□含任何以 ? 结尾的网址（具体而言，它将允许包含♦所有以您 的域名开头、后接任意字符☆串，然后是问号 (?)，问号之后没有□□任何字符的网□□□址）。