网站建设>圈子>建站知识>robots.txt是什么?怎么运用

robots.txt是什么?怎么运用

mcadmin / 2018-11-12 / 深圳网站建设 / 技术分享

作为一个网站建设加优化的公司,是必须要回的就是robots.txt文件,所以我们就来看看这个文件的意思

robots.txt是一个纯文本文件,用于声明该网站中不想被蜘蛛访问的部分,或者指定蜘蛛抓取的部分。不是规定,而是一种约定,需要蜘蛛自觉遵守的一种习俗

当蜘蛛访问一个站点时,它会首先检查该站点是否存在robots.txt

如果找到,蜘蛛就会按照该文件中的内容来确定抓取的范围

如果该文件不存在,那么蜘蛛就沿着链接直接抓取

网站建设

robots.txt的作用

1、防止私密或重要内容被搜索引擎抓取

2、节省服务器资源,从而提高服务质量

3、减少重复抓取,提高网站质量

4、指定sitemap文件位置

robots.txt是什么

User-agent: *

针对哪个搜索引擎蜘蛛

这里的*代表搜索引擎种类,*是通配符

Allow

定义的是允许蜘蛛抓取某个栏目或文件

Allow: /cgi-bin/

这里定义是允许访问cgi-bin目录

Allow:/* .htm$

允许访问以".htm"为后缀的URL

$指的是匹配行结束符

*指的是匹配任何字符

网站建设

Disallow

定义的是禁止蜘蛛抓取某个栏目或文件

Disallow: /admin/

这里定义是禁止抓取admin目录

Disallow: /cgi-bin/*.htm

禁止抓取/cgi-bin/目录下的所有以".htm"为后缀的URL

Disallow: /*?*

禁止抓取网站中所有包含问号 “?”的网址robots.txt是什么

用法:sitemap: http://www.google.com/sitemap.xml

sitemap:URL全称(包含http://部分)

告诉搜索引擎蜘蛛这个页面是网站地图

robots.txt文件主要是限制整个站点或者目录的蜘蛛访?#26159;?#20917;,而robots meta标签则主要是针对某个具体的页面


fm2012勒沃库森
pk10冠军固定公式技巧 949494曾道救世开奖记录网 欢乐生肖时时彩走势图 浙江快乐彩开奖公告 北京pk计划费下载 曾道点特玄机 湖南快乐十分破解 北京时时赛车公式 幸运赛车开奖数据 吉林快三分析最新更新 内蒙古时时开奖结果走势图 山东快乐扑克开奖直播 秒速时时视频 六肖中特期期准开奖 广西快3今天走势图 四川时时开奖结果走势图