robots 属性值 -- 定义网页搜索引擎索引方式
robots用于定义网页搜索引擎索引方式
robots出现在name属性中，使用content属性定义网页搜索引擎索引方式
通过使用meta的robots属性值可以为没有文件上传权限的用户提供/robots.txt文件的所有功能
robots语法
<meta name="robots" content="robotterms" />
robotterms是一组使用逗号(,)分割的值，通常有如下几种取值：none，noindex，nofollow，all，index和follow。
robots取值
none
搜索引擎将忽略此网页，等价于noindex，nofollow。
noindex
搜索引擎不索引此网页。
nofollow
搜索引擎不继续通过此网页的链接索引搜索其它的网页。
all
搜索引擎将索引此网页与继续通过此网页的链接索引，等价于index，follow。
index
搜索引擎索引此网页。
follow
搜索引擎继续通过此网页的链接索引搜索其它的网页。
robots的使用说明
如果网页没有提供robots，搜索引擎认为网页的robots属性为all(index，follow)；
robots常用示例
<meta name="robots" content="noindex" />
上面示例定义了此网页不被搜索引擎索引进数据库，但搜索引擎可以通过此网页的链接继续索引其它网页
<meta name="robots" content="nofollow" />
上面示例定义了梦之都此网页被搜索引擎索引进数据库，但搜索引擎不可以通过此网页的链接继续索引其它网页
<meta name="robots" content="none" />
上面示例定义了此网页不被搜索引擎索引进数据库，且搜索引擎不可以通过此网页的链接继续索引其它网页
针对谷歌GOOGLEBOT使用robots
可以将name的属性只定义为GOOGLEBOT标识为谷歌搜索引擎。 使用元标记拦截或删除网页
<meta name="googlebot" content="noindex, nofollow" />
针对百度baiduspider使用robots
可以将name的属性只定义为baiduspider标识为百度搜索引擎。禁止搜索引擎收录的方法
<meta name="baiduspider" content="noarchive" />
相关HTML meta robots 搜索引擎索引方式