您的位置 首页 > 娱乐休闲

淘宝部分解禁百度蜘蛛

据国内相关媒体报道,今天收到一个重磅消息,淘宝对百度蜘蛛开放部分目录了,于是赶紧打开淘宝robots协议看看,果不其然,淘宝对百度开放了7个目录,如下图:

淘宝部分解禁百度蜘蛛

我们来看看,这次淘宝给百度开放的目录都有些什么?

1 、/article 目录下,都是位于网站地图下的列表页面;

2 、/oshtml 目录下,也是位于网站地图下的全球购,爱逛街等列表页面,开放给百度

3 、/product目录下,很不幸,都是403Fobidden页面(怀疑是操作错误,因为没有理由对搜索引擎开放一个已经403的页面,还专门写一个Robots协议);

4 、/Spu 目录下,很遗憾没找到相应页面;

5、/dianpu 目录下,空欢喜一场,这不是店铺首页,而是繁体的台湾店铺列表页;

6、/wenzhang 目录下,全是淘宝头条下的文章,内容大部分都是分享资讯类页面;

7、/oversea 目录下,没有这个目录。

Robots协议,是国际上搜索引擎对所有网站内容抓取的一个内容协议,通常来说,搜索引擎都必须遵守这个协议。

2008年马云做了一个异常霸气的决定,那就是淘宝在robo协议中屏蔽百度蜘蛛的抓取,这也就是为什么淘宝店铺无法通过百度搜索引起获得流量的原因,马云说百度搜索引擎带来的流量是垃圾量,没多少转化率。

淘宝今天对百度蜘蛛开放目录,显然不会是因为技术出错的原因,从上面的目录架构中可以看出,此次淘宝开放的目录大多是和文章资讯相关,而淘宝店铺之类的目录依然是屏蔽状态。

责任编辑: 鲁达

1.内容基于多重复合算法人工智能语言模型创作,旨在以深度学习研究为目的传播信息知识,内容观点与本网站无关,反馈举报请
2.仅供读者参考,本网站未对该内容进行证实,对其原创性、真实性、完整性、及时性不作任何保证;
3.本站属于非营利性站点无毒无广告,请读者放心使用!

“如何屏蔽百度蜘蛛,如何屏蔽百度蜘蛛抓取网站内容,如何屏蔽百度广告,如何屏蔽百度文库”边界阅读