相信很多站长和合肥网站优化小编一样，经常会听到有人提到robots文件，可是robots到底是什么？该如何制作呢？下面小编来跟大家分享。
　　robots协议
　　robots协议就是robots.txt文件，是一个被放置在网站中的.TXT文件，为搜索引擎爬虫做出提示，设置允许或者不允许两种搜索语句，网络爬虫据此判断抓取或者不抓取该网页内容。即网站通过robots协议高速搜索引擎哪些页面可以抓取，哪些页面不能抓取的。robots协议的目的是保护网站数据和敏感信息、确保用户个人信息和隐私不被侵犯。
　　robots协议功能用处
　　网站站长使用robots协议决定对搜索引擎的开放程度，引导爬虫如何更有效地爬取自己，可以屏蔽一些网站中比较大的文件，节省服务器带宽;可以屏蔽掉网站上的一些死链接。方便搜索引擎抓取网站内容;也可以指明对那个搜索引擎开放，或者对哪个不开放。设置网站地图连接，方便引导蜘蛛爬取页面。
　　robots.txt协议在seo中的作用
　　robots能规范网站的URL，网站有两种甚至3种以上地址的时候，该协议就能禁止蜘蛛爬去你不想展示的几种URL，而使网站解决站内重复问题集中权重。robots协议可以控制蜘蛛抓取站长需要抓取的某些有效有价值的信息，减轻对服务器的负担。
　　怎么写robots协议
　　robots协议其实很简单的几句代码即可达到站长想到的结果，例如：Disallow: /comments/feed/#禁止所有引擎抓取网站comments目录下的feed目录。网络上也有很多的工具可以帮助实现此项功能，例如站长工具的robots.txt生成工具，就能够快速的实现。
　　以上就是合肥网站优化小编整理的内容，更多相关资讯欢迎访问http://www.zosyo.com/

>> 相关文章：