Robots的作用和常见的问题

    Robots的作用,它可以用来干什么。Robots是网站和搜索引擎之间的一个协议。用来防止搜索引擎抓取那些我们不想被搜索引擎索引的内容。我们可以用它来保护一些隐私的内容,屏蔽死链接和无内容页面和重复页面。

一,屏蔽无内容页面和重复页面

  1,无内容页面和重复页面会严重影响站内页面的质量,如果站内存在大量的这种无意义和重复的页面就会造成网站的降权;比如一些注册页面,登陆页面,会话ID,加载页面,商城的购物蓝页面,这些都要进行屏蔽。

  2,屏蔽多路径的同一个页面,很多网站的首页都会存在这样一个问题,举例说明一下,www.***.net,这个网址是常用的登录方式,因为程序和路径不统一的原因,造成首页有二个路径都被收录,www.***.net/index.php,类似这样的,我们就要给网站统一一个标准的入口,直接用robots进行屏蔽操作。

二,屏蔽死链接

  死链接是网站不能避免的难题,如果被搜索引擎收录了,这样的死链接势必会影响用户体验,这个时候就需要对这个页面进行robots屏蔽。常见的几种错误如下:

  1,站内错误,网站的操作人员出现误操作或者删除某些具体页面。

  2,程序错误,因为网站改版,更换程序造成的死链接。

  3,外链引起的死链接,通常是由于输入错误而导致形成你网站的死链接。




文章来自: 本站编辑
Tags: Robots 链接
评论: 1 | 查看次数: 4799
  • 1
xie1992 [2013-11-02 07:34 PM]
那么该如何操作呢?
  • 1
发表评论
你没有权限发表留言!