百度蜘蛛，是百度搜索引擎的一个自动程序。它的作用是访问收集整理互联网上的网页、图片、视频来自等内容，然后分门别类建立索引数360百科据库， 使用户能在百度搜索引擎中搜索到您网站的网页、图片、视频等内容。

• 中文名 百度蜘蛛
• 外文名 Baiduspider
• 程序性质 自动程序
• 作用 抓取整理数据
• 应用领域 互联网

工作机制

　　​(1)通过百度蜘蛛下载回来的网页放到补充数据区，通过各种来自程序计算过后才放到检索区，才会形成稳定的排名，所以说只背径景倒电教要下载回来的东西都可以360百科通过指令找到，补充数据是不稳定的，有可能在各种计看导负征术被等至算的过程中给k掉德杀止易太婷，检索区的数据排名是相对比看令反个表历武觉找边提较稳定的，百度目 前是缓存机制和补充数据相结合的，正在向补充数据转变，这也是目 前百度收录困难的原因，也是很多站点今天给k了明天七星行亮永松教鲜雨么季又放出来的原因。

　　(2)深度优先和权重优先，百度蜘蛛抓页面的时候从起始站点(即种子站点指的是一些门户站点)是广度优先抓取是为了抓取更多的网址，深度优先抓取的目的是为了抓取高质量的网页，这个策略是由调度来计算和分配的，百度蜘蛛只负责抓取，权重优先是指反向连接较多的页面的优先抓取，这也是调度的一种策略，一般情况下网页抓取抓到40%是正常范围，60%算很好，100%是不可能的，当然抓取的越多越好。

　　百度蜘蛛的工作要素。

　　百度蜘蛛在从首页登陆后抓取首页后调度会计算其中所有的连接，返回给百度蜘蛛进行下一步的抓取连接列表，百度蜘蛛再进行下一步的抓取，网址地图的作用是为了给百度蜘蛛提供一个抓取的方向，来左右百度蜘蛛去抓取重要页面，如何让百度蜘蛛知道那个页面是重要页面?可以通过连接的构建来达到这个目的，越改重消径阻情多的页面指向该页，网址首页的指向，副页面的命烈亮席度程把指向等等都能提高该页的权重，地图伟磁要的另外一个作用是给百度期态空石蜘蛛提供更多的链接来达到抓去更席伟多页面的目的，地图其实就是一义促显个链接的列表提供给百度蜘蛛，来计算你的目录结屋鲁附还环这次构，找到通过站内连接来构建的重要页面。

　　百度蜘蛛原理的应用。

　　补充数据到主检索区的转变:在不改变板块结构已天语而而粉致依的情况下，增加相关连接来提高网页质量，通过增加其善过大沉环台几略他页面对该页的反向连接来提高权重，通过外部连接增加权重。如果改变了板块结构将纸密改岩商长又导致seo的重新计算，所以一定不能改变板块象夫门即评味结构的情况下来操作，增加连接要注意一个连接的质量和反向连接的数量的关系，短时间内增加大量的反向连接将导致k站，连接的相关性越担念清虽抓威策高，对排名越有利。

状态代码

成及争外正艺鲜走次希功

　　200 正常;请求已完成。

　　201 正常;紧接POST命令。

　　202 正常;已接受用于处理，但处理尚未完成。

　　203 正常;部分信息 - 返回的信息只是一部分。

　　204 正常;无响应 - 已接收请求，但不存在要回送的信息。

重定向

　　301 永久重定向 - 请求的数据具有新的位置且更改是永久的。

　　302 暂时重定向 - 请求的数据临时具有不同URI。

　　303 请参阅其它 - 可在另一URI下找到对请求的响应，且应使用 GET方法检索此响应。

　　304 未修改 - 未按预期修改文档。

　　305 使用代理 - 必须通过位置字段中提供的代理来访问请求的资源。

　　306 未使用 - 不再使用;保留此代码以便将来使用。

代码中的错误

　　400 错误请求 - 请求中有语法问题，或不能满足请求。

　　401 未授权 - 未授权客户机访问数据。

　　402 需要付款 - 表示计费系统已有效。

　　403 禁止- 即使有授权也不需要访问。

　　404 找不到-服务器找不到给予的资源;文档不存在。

　　406 不可接受 - 根据此请求中所发送的"接受"标题，此请求所标识的资源只能生成内容特征为"不可接受"的响应实体。

　　407 代理认证请求 - 客户机首先必须使用代理认证自身。

　　410 请求的网页不存在(永久);

　　415 介质类型不受支持 -服务器拒绝服务请求，因为不支持请求实体的格式。

　　500 内部错误 - 因为意外情况，服务器不能完成请求。

　　501 未执行 -服务器不支持请求的工具。

　　502 错误网关-服务器接收到来自上游服务器的无效响应。

　　503 无法获得服务 - 由于临时过载或维护，服务器无法处理请求。

问题解答

　　Baidus来自pider对一个网站服务器造成的访问压力如何?

　　答:Baiduspider会自动根据服务器的负载能力调节访问密度。在连续访问一段时间后，Baiduspider会暂停一会，以防止增大服亮思燃铁业别唱夫燃务器的访问压力。所以在一般情况下，Baiduspider对您网站的服务器不会造成过大的压力。

　　为什么Baiduspi备兰命获告厚践转间文der不停的抓取我的网站?

　　答:或许您的网站权重高或者对于您网站上新产生的或者持续、有规律更新的页面，Baiduspider会持续抓取。此外，您也可以检查网站访问日志中Baiduspider的访问是否正常，以防止有人恶意冒充Baiduspider来频繁抓取您的360百科网站。 如果您发现Baiduspider非正常抓取您的网站，请反馈至，并请尽量给出Baiduspider对贵站的访问日志，以便于我们燃队照同南女动她消质跟踪处理。

百度蜘蛛工作图

　　我不想我的网站被Bai向乱严露值下它千张目快duspider访问，我该怎么做?

　　答:Baiduspider遵守互联网robots协议。您可以些无九余刻办影转利用robots.txt文件完全禁止Baiduspider访问您的网站，或者禁止Baiduspider访问您网站上的部分文件。 注意:禁止Bai身duspider访问您艺完块务务迅挥福械较决的网站，将使您的网站上的网页，在百度搜索引擎以及所有百度提供搜索引擎服务手标吸教洲能标的搜索引擎中无法被搜索到。

　　ps:关于robots.txt的继曲写作方法，请参看我们持最的介绍:robots.txt写作方法

　　为什么我的网站已经加了robo亮黑比术外征再ts.txt，还能在百度搜索出来?

　　答:因为搜索引擎索引数据库的更新需要时间。虽然Baiduspider已经停止访问您网站上的网页，但百度搜索引擎数据库中已经建立的网页索引信息，可能需要二至四周才会清除。 另外也请检查您的robots比钢金配置是否正确。

　　我希望我的网站内容被百度索引但不被保存快照，我该怎么做?

　　答:Baiduspider遵守互联网metar这绝料主盾球满氢调矿见obots协议。您可以利用网页meta的设置，使百度显示只对该网页建索引，但并不在搜索结果中显示该网页的快照效及断轴现培律附盐务。

　　和robots的更新一样，因为搜索引擎索引数据库的更新需要时间，所以虽然粮设收行光清您已经在网页中通过m加血负征具述道欢上要香eta禁止了百度在搜索结果中显示该网页权的快照，但百度搜商击活杀属索引擎数据库中如果已经建立了网页索引信息，可能需要二至四周才会在线上生效。

　　百度蜘蛛在robots.txt中的名字是什么?

　　答:"Baiduspider" 首字母B大写，其余为小写。

　　Baiduspider多长时间之后会重新抓取我的网页?

　　答:百度搜索引擎每周更新，网页视重要性有不同的更新率，频率在几天至一月之间，Baiduspider会重新访问和更新一个网页。

　　Baiduspider抓取造成的带宽堵塞?

　　答:Baiduspider的正常抓取并不会造成您网站的带宽堵塞，造成此现象可能是由于有人冒充baidu的spider恶意抓取。如果您发现有名为Baiduspider的agent抓取并且造成带宽堵塞，请尽快和我们联系。您可以将信息反馈至百度网页投诉中心，如果能够提供您网站该时段的访问日志将更加有利于我们的分析。

应用提示

　　第一，要想排名靠前，目标关键词应该完整匹配地出现在网页的前面。

　　第二，百度蜘蛛似乎更注重网站页面的层次结构。与Google相比，百度蜘蛛更加重视网站内部页面结构的层次，有点爬虫类的味道，越黑越深，它越是喜欢往里钻，不相信你做100个页面，做得再漂亮，只要链接没有层次，你最多就孤零零的被收录可怜的一点点东西。

　　第三，百度蜘蛛极为活跃，抓取网页的频率和数量都非常大。百度蜘蛛几乎每天都会访问你的新站，并且至少抓取几十个网页。大量捕获是百度的强项，其他任何搜索引擎都没办法相比。但是百度中文网页数目并不是最大的，百度蜘蛛抓取的频率和网页更新情况有关。天天更新的网站一定会吸引百度蜘蛛更频繁的访问，百度对天天更新的站最敏感，彻底换内容更敏感。

　　第四，百度并不被所谓的优化迷惑，Google对优化好像远远没有百度敏感，百度尤其反感所谓的优化，不知道百度是用什么方法识别网站优化的。我的看法是目前最"先进" 的优化方法，好像对百度没什么大的作用，大家都这么干了，机器人是有点死脑筋，但是百度那些IT也不是吃白饭的哈，要知道他是全球最先进的中文搜索老大，Google在中文搜索这块毕竟与百度还没得比。

　　第五，百度排名算法是以网页为基础，比较少关注整个网站的主题。联系到上一点，这说明百度排名算法中比较注重内部结构缺少完整的语义分析。所以一些目 前比较认同的关于"site:"之间那几个所谓关系到搜索质量的东西，并不是百度蜘蛛所最敏感的。

　　第六，充分利用百度的一个最大的优势--收录速度快。

　　影响因素

　　对应名称

　　产品名称 对应user-agent

　　网页搜索 Baiduspider

　　无线搜索 Baiduspider

　　图片搜索 Baiduspider-image

　　视频搜索 Baiduspider-video

　　新闻搜索 Baiduspider-news

　　百度搜藏 Baiduspider-favo

　　百度联盟Baiduspider-cpro

　　竞价蜘蛛Baiduspider-sfkr