如何有效的屏蔽百度蜘蛛

  • SEO技巧 2018-04-12
<返回列表

很多时候,我们都不会去把百度蜘蛛去屏蔽掉,但是也有需要去屏蔽一些不必要的抓取,比如一些大型的网站门户网,有登录页面或者是注册页面,还有一些不想让百度蜘蛛抓取文件都可以利用robots协议来完成,那么重庆SEO徐三就讲解哈屏蔽百度蜘蛛的具体方法。

一、robots协议

robots协议相信大家都不陌生,首先既然要用到robots协议,那么我们就要先创建一个记事本,把记事本重命名为robots,然后我们写下robots协议具体如下:

User-agent: BadBot
Disallow: /

然后保存后通过FTP工具上传到网站根目录即可。

二、robots Meta标签

robots Meta标签也可以屏蔽百度蜘蛛抓取,这种方法与robots类似,但是还是部分搜索引擎不支持,robots Meta用来对某几个页面单独设置时使用。其代码是写在“<head></head>”之间,如下所示:

<head>

<meta name=”robots” content=”index,follow” />

</head>

三、.htaccess屏蔽

如果说使用robots协议无法全部屏蔽你的网站,那么你可以在你的网站根目录下找到.htaccess屏蔽代码如下:

方法1:

RewriteEngine on

RewriteCond %{HTTP_USER_AGENT} ^Baiduspider [NC]

RewriteRule .* – [F]

方法2:

SetEnvIfNoCase User-Agent “^Baiduspider” bad_bot

<Limit GET POST>

Order Allow,Deny

Allow from all

Deny from env=bad_bot

</Limit>

总结:百度蜘蛛屏蔽方法有许多,以上方法可参考,重庆SEO徐三觉得还是以robots协议较好,所以其他方法及时可以用,但是也不建议去做,因为一步小心搞错了,就会导致麻烦不断!

更多阅读

网络营销不只是竞价排名,还

品牌营销 2019-02-27
如果企业管理层对网络营销没有全面、科学的认识,那么就很可能导致网络营销......查看全文

针对网络营销白热化阶段,企

品牌营销 2019-02-27
网络营销是一个庞大、复杂的工程,需要从开始就进行精确定位、详细规划、耐......查看全文

顺应互联网机遇与挑战,紧抓

品牌营销 2019-02-27
病毒式营销是企业最希望能够用到的一种互联网营销方式。因其能够在短时间内......查看全文
返回全部新闻
扫描二维码分享到微信
确 认
友情链接: SEO 米菲纸尿裤 百度刷排名