相信大家还记得 360 搜索引擎刚出来时，因为不遵循 robots 协议而被百度抓到吊打的事件吧，谁对谁错我们不作评判，今天我们要讨论的是怎么禁止这些不遵循 robots 协议的搜索引擎抓取我们不想让他们抓取的内容。

前不久，WordPress 官方插件目录中新增了一款叫 Blackhole for Bad Bots 的插件，这个插件就是用来收拾这些不守规矩的搜索引擎蜘蛛的。该插件的原理很有意思，在robots.txt 文件中增加一个虚拟的链接，一旦有蜘蛛试图访问，插件就禁止这个蜘蛛访问网站中的其他页面了。守规矩的蜘蛛自然不会去访问这个链接，可以畅通无阻的抓取网站允许搜索引擎收录的页面。

这相当于设了一个巧妙的陷阱，你守规矩，我自然欢迎你，你不守规矩的踏进我布下的陷阱了，呵呵，真不好意思，这里不欢迎你。更棒的是，正常用户看不到这个隐藏链接，遵循 robots 协议的搜索引擎也不受影响。

功能特色

  • 设置简便
  • 代码干净
  • 基于 WordPress API 开发
  • 功能简单专一，不啰嗦
  • 轻量级、高性能、高灵活性
  • 可以很方便地重置屏蔽的蜘蛛列表
  • 可以删除单个被屏蔽的蜘蛛
  • 插件通过设置页面设置，不给后台增加
  • 安静的在后台工作，不会影响正常用户的访问
  • Optionally receive an email c-alert with WHOIS lookup for blocked bots
  • 所有主流搜索引擎已被加入白名单，不会被屏蔽
  • 自定义显示给被屏蔽的搜索引擎的消息
  • 一键重置插件设置

如果你的网站不是基于 WordPress 建设的，没关系，只要你使用的变成语言是 PHP，就可以通过  Blackhole 的独立PHP版实现同样的功能！

白名单

默认情况下，插件不封锁以下任何一个主流的搜索引擎，下面的搜索引擎默认被添加到了插件的白名单中，插件也允许我们在设置中手动添加其他搜索引擎到白名单。

  • AOL.com
  • Baidu
  • Bingbot/MSN
  • DuckDuckGo
  • Googlebot
  • Teoma
  • Yahoo!
  • Yandex

如果你的网站不是基于 WordPress 构建的，也可以使用该插件的 PHP 版本。