robots.txt和Robots META标签

首页 >> 中国网络传播网文章管理系统 >> 搜索引擎知识 >> 正文

robots.txt和Robots META标签

来源:中国搜索引擎研究网   文章作者:佚名


如何抓取该页的内容。具体的形式类似(见黑体部分):

<html>

<head>

<title> 时代营销 -- 网络营销专业门户 </title>

<meta name="Robots" content="index,follow">

<meta http-equiv="Content-Type" CONTENT="text/html; charset=gb2312">

<meta name="keywords" content=" 营销 … ">

<meta name="description" content=" 时代营销网是 …">

<link rel="stylesheet" href="/public/css.css" type="text/css">

</head>

<body>

</body>

</html>

2 Robots META 标签的写法:

Robots META 标签中没有大小写之分, name=”Robots” 表示所有的搜索引擎,可以针对某个具体搜索引擎写为 name=”BaiduSpider” content 部分有四个指令选项: index noindex follow nofollow ,指令间以“ , ”分隔。

INDEX 指令告诉搜索机器人抓取该页面;

FOLLOW 指令表示搜索机器人可以沿着该页面上的链接继续抓取下去;

Robots Meta 标签的缺省值是 INDEX FOLLOW ,只有 inktomi 除外,对于它,缺省值是 INDEX,NOFOLLOW

这样,一共有四种组合:

<META NAME="ROBOTS" CONTENT="INDEX,FOLLOW">

<META NAME="ROBOTS" CONTENT="NOINDEX,FOLLOW">

<META NAME="ROBOTS" CONTENT="INDEX,NOFOLLOW">

<META NAME="ROBOTS" CONTENT="NOINDEX,NOFOLLOW">

其中

<META NAME="ROBOTS" CONTENT="INDEX,FOLLOW"> 可以写成

<META NAME="ROBOTS" CONTENT="ALL">

<META NAME="ROBOTS" CONTENT="NOINDEX,NOFOLLOW"> 可以写成

<META NAME="ROBOTS" CONTENT="NONE">  

需要注意 的是:上述的 robots.txt Robots META 标签限制搜索引擎机器人( ROBOTS )抓取站点内容的办法只是一种规则,需要搜索引擎机器人的配合才行,并不是每个 ROBOTS 都遵守的。

目前看来,绝大多数的搜索引擎机器人都遵守 robots.txt 的规则,而对于 Robots META 标签,目前支持的并不多,但是正在逐渐增加,如著名搜索引擎 GOOGLE 就完全支持,而且 GOOGLE 还增加了一个指令“ archive ”,可以限制 GOOGLE 是否保留网页快照。例如:

<META NAME="googlebot" CONTENT="index,follow,noarchive">

表示抓取该站点中页面并沿着页面中链接抓取,但是不在 GOOLGE 上保留该页面的网页快照。
9 7 3 1 2 4 8 :

·上一篇文章:Yahoo!推出全新搜索引擎
·下一篇文章:针对Yahoo做搜索引擎优化SEO


  相关新闻

·什么及如何建立一个Robots.txt文件? 

佚名