来源:自学PHP网 时间:2015-04-15 10:57 作者: 阅读:次
[导读] 众所周知,百度蜘蛛,是百度搜索引擎的一个自动程序,它的作用是访问收集整理互联网上的网页、图片、视频 等内容,然后分门别类建立索引数据库, 使用户能在百度搜索引擎中搜...
众所周知,百度蜘蛛,是百度搜索引擎的一个自动程序,它的作用是访问收集整理互联网上的网页、图片、视频 等内容,然后分门别类建立索引数据库, 使用户能在百度搜索引擎中搜索到您网站的网页、图片、视频等内容。分析和了解百度蜘蛛你可以很直观的掌握自己站点收录情况,当你了解百度蜘蛛以及其对应蜘 蛛IP的含义后,你再也不必要在不知情的情况因为站点迟迟不为百度收录而烦恼,也不会因为百度短暂的快照不更新而放弃原本一颗坚持建站的心,那么剩下的就 只有肯勤奋的付出,坚持原创,坚持外链,站点可观的收录和理想的排名将成为水到渠成的事,这一切只因为你深刻了解百度蜘蛛。 那么我们通过什么方式去了解一个个搜索引擎的蜘蛛程序呢? 其实很简单,每一个蜘蛛程序就犹如一个用户,他对任意站点的访问,都尤其访问的轨迹,linux主机下我们完全可以透过网站主机日志文件去观察和分 析各大搜索引擎的蜘蛛来访情况,并根据来访Ip去分析和判断当前站点具体收录情况,了解和分析站点目前所存在的问题,诸如:URL是否符合蛛蛛抓爬习 惯,robots.txt文件是否设置合理,网站结构是否合理等。本文主要以百度蜘蛛作为分析和介绍对象,从而帮助站长能更好的针对自己的站点进行SEO优化和推广。 首先,我们先来看看一下具体的日志截图(该截图来源于本博客网站)
百度蜘蛛IP分析 透过以上截图可以得知百度蜘蛛来访时以Baiduspider名称显现,并且来访IP存在多个,那么多的百度蜘蛛IP到底分别是代表啥呢? 在百度站长平台《百度spider介绍》一文中已有相应的解释、并且清楚的说明百度不同的产品使用不同的user-agent 本人在此也不具体分解,有了解必要的朋友可以去参看原文,原文地址:http://zhanzhang.baidu.com/wiki/161 今天想给大家介绍的主要是百度蜘蛛IP、从本博客的站点日志截图可看出,Baiduspider是多个IP来访的,那么具体分 为哪几类蜘蛛、具体有代表啥意义呢? 一、代表性沙盒蜘蛛IP: 123.125.68.* 这个蜘蛛经常来,别的来的少,表示网站可能要进入沙盒了,或被者降权。 220.181.68.* 每天这个IP 段只增不减很有可能进沙盒或K站。 二、代表性正常蜘蛛IP: 220.181.7.*、123.125.66.* 代表百度蜘蛛IP造访,准备抓取你东西。 121.14.89.* 这个ip段作为度过新站考察期。 203.208.60.* 这个ip段出现在新站及站点有不正常现象后。 210.72.225.* 这个ip段不间断巡逻各站 125.90.88.* 广东茂名市电信也属于百度蜘蛛IP 主要造成成分,是新上线站较多,还有使用过站长工具,或SEO综合 检测造成的。 220.181.108.95这个是百度抓取首页的专用IP,如是220.181.108段的话,基本来说你的网站会天天隔夜快照,绝对 错不了的,我保证。 220.181.108.92 同上98%抓取首页,可能还会抓取其他 (不是指内页)220.181段属于权重IP段此段爬过的文章或首页 基本24小时放出来。 123.125.71.106 抓取内页收录的,权重较低,爬过此段的内页文章不会很快放出来,因不是原创或采集文章。 220.181.108.91属于综合的,主要抓取首页和内页或其他,属于权重IP 段,爬过的文章或首页基本24小时放出来。 220.181.108.75重点抓取更新文章的内页达到90%,8%抓取首页,2%其他。权重IP 段,爬过的文章或首页基本24 小时放出来。 220.181.108.86专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。 123.125.71.95 抓取内页收录的,权重较低,爬过此段的内页文章不会很快放出来,因不是原创或采集文章。 123.125.71.97 抓取内页收录的,权重较低,爬过此段的内页文章不会很快放出来,因不是原创或采集文章。 220.181.108.89专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。 220.181.108.94专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。 220.181.108.97专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。 220.181.108.80专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。 220.181.108.77 专用抓首页IP 权重段,一般返回代码是304 0 0 代表未更新。 123.125.71.117 抓取内页收录的,权重较低,爬过此段的内页文章不会很快放出来,因不是原创或采集文章。 220.181.108.83专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。 注:以上IP尾数还有很多,但段位一样的123.125.71.*段IP 代表抓取内页收录的权重比较低.可能由于你采集文章或拼 文章暂时被收录但不放出来.(意思也就是说待定)。 220.181.108.*段IP主要是抓取首页占80%,内页占30%,这此爬过的文章或首页,绝对24小时内放出来和隔夜快照 在了解蜘蛛IP对应的作用和含义后,我们如何判断百度到底有无收录或抓取站点内容呢?大家可以根据每一行日志后 抓取返回的状态响应码去分析: 1、成功抓取 返回代码是 200 0 0; 2、网站没更新 返回代码是304 0 0; 3、蜘蛛来过 返回的是200 0 64 本文由《点滴互动》SEO优化 栏目整理提供,转载须注明出处,谢谢! |
自学PHP网专注网站建设学习,PHP程序学习,平面设计学习,以及操作系统学习
京ICP备14009008号-1@版权所有www.zixuephp.com
网站声明:本站所有视频,教程都由网友上传,站长收集和分享给大家学习使用,如由牵扯版权问题请联系站长邮箱904561283@qq.com