百度搜索引擎

百度 蜘蛛，是 百度搜索引擎的一个自动程序。它的作用是访问收集整理互联网上的 网页、图片、视频等内容，然后分门别类建立 索引数据库， 使用户能在百度搜索引擎中搜索到您网站的网页、图片、视频等内容。

中文名

百度蜘蛛

外文名

Baidu Spider

程序性质

自动程序

作    用

抓取整理数据

目录

1. 1 工作机制
2. 2 状态代码
3. ▪ 成功

1. ▪ 重定向
2. ▪ 代码中的错误
3. 3 问题解答

1. 4 应用提示

工作机制

编辑

1. 百度 蜘蛛的构建的原理。搜 索引擎构建一个调度程序，来调度百度蜘蛛的工作，让百度蜘蛛去和 服务器建立连接下载 网页，计算的过程都是通过调度来计算的，百度蜘蛛只是负责下载网页，目前的搜索引擎普遍使用广布式多服务器多线程的百度蜘蛛来达到多线程的目的。
2. 百度蜘蛛的运行原理。

百度蜘蛛程序

（1）通过 百度蜘蛛下载回来的 网页放到补充数据区，通过各种程序计算过后才放到检索区，才会形成稳定的排名，所以说只要下载回来的东西都可以通过指令找到，补充数据是不稳定的，有可能在各种计算的过程中给k掉，检索区的数据排名是相对比较稳定的，百度目前是缓存机制和补充数据相结合的，正在向补充数据转变，这也是目前百度收录困难的原因，也是很多 站点今天给k了明天又放出来的原因。

（2）深度优先和权重优先，百度 蜘蛛抓页面的时候从起始站点（即种子站点指的是一些门户站点）是百度优先抓取是为了抓取更多的网址，深度优先抓取的目的是为了抓取高质量的网页，这个策略是由调度来计算和分配的，百度蜘蛛只负责抓取，权重优先是指 反向连接较多的页面的优先抓取，这也是调度的一种策略，一般情况下 网页抓取抓到40%是正常范围，60%算很好，100%是不可能的，当然抓取的越多越好。

百度蜘蛛的工作要素。

百度蜘蛛在从首页登陆后抓取首页后调度会计算其中所有的连接，返回给百度蜘蛛进行下一步的抓取连接列表，百度蜘蛛再进行下一步的抓取，网址地图的作用是为了给百度蜘蛛提供一个抓取的方向，来左右百度蜘蛛去抓取重要页面，如何让百度蜘蛛知道哪个页面是重要页面？可以通过连接的构建来达到这个目的，越多的页面指向该页，网址首页的指向，副页面的指向等等都能提高该页的权重，地图的另外一个作用是给百度蜘蛛提供更多的连接来达到抓去更多页面的目的，地图其实就是一个连接的列表提供给百度蜘蛛，来计算你的 目录结构，找到通过站内连接来构建的重要页面。

百度 蜘蛛原理的应用。

补充数据到主检索区的转变：在不改变板块结构的情况下，增加相关连接来提高 网页质量，通过增加其他页面对该页的 反向连接来提高权重，通过外部连接增加权重。如果改变了板块结构将导致seo的重新计算，所以一定不能改变板块结构的情况下来操作，增加连接要注意一个连接的质量和反向连接的数量的关系，短时间内增加大量的反向连接将导致k站，连接的相关性越高，对排名越有利。

状态代码

编辑

成功

200 正常;请求已完成。

201 正常;紧接 POST命令。

202 正常;已接受用于处理，但处理尚未完成。

203 正常;部分信息 — 返回的信息只是一部分。

204 正常;无响应 — 已接收请求，但不存在要回送的信息。

重定向

301 永久重定向 — 请求的数据具有新的位置且更改是永久的。

302 暂时重定向 — 请求的数据临时具有不同URI。

303 请参阅其它 — 可在另一URI下找到对请求的响应，且应使用 GET方法检索此响应。

304 未修改 — 未按预期修改文档。

305 使用代理 — 必须通过位置字段中提供的代理来访问请求的资源。

306 未使用 — 不再使用;保留此代码以便将来使用。

代码中的错误

400 错误请求 — 请求中有语法问题，或不能满足请求。

401 未授权 — 未授权客户机访问数据。

402 需要付款 — 表示 计费系统已有效。

403 禁止— 即使有授权也不需要访问。

404 找不到— 服务器找不到给予的资源;文档不存在。

406 不可接受 — 根据此请求中所发送的“接受”标题，此请求所标识的资源只能生成内容特征为“不可接受”的响应实体。

407 代理认证请求 — 客户机首先必须使用代理认证自身。

410 请求的 网页不存在(永久);

415 介质类型不受支持 —服务器拒绝服务请求，因为不支持请求实体的格式。

500 内部错误 — 因为意外情况，服务器不能完成请求。

501 未执行 —服务器不支持请求的工具。

502 错误网关—服务器接收到来自上游服务器的无效响应。

503 无法获得服务 — 由于临时过载或维护， 服务器无法处理请求。

问题解答

编辑

Baiduspider对一个网站 服务器造成的访问压力如何？

答：Baiduspider会自动根据服务器的负载能力调节访问密度。在连续访问一段时间后，Baiduspider会暂停一会，以防止增大服务器的访问压力。所以在一般情况下，Baiduspider对您网站的服务器不会造成过大的压力。

为什么Baiduspider不停的抓取我的网站？

百度蜘蛛工作图

答：或许您的网站权重高或者对于您网站上新产生的或者持续、有规律更新的页面，Baiduspider会持续抓取。此外，您也可以检查网站访问 日志中Baiduspider的访问是否正常，以防止有人恶意冒充Baiduspider来频繁抓取您的网站。 如果您发现Baiduspider非正常抓取您的网站，请反馈至，并请尽量给出Baiduspider对贵站的访问日志，以便于我们跟踪处理。

我不想我的网站被 Baiduspider访问，我该怎么做？

答：Baiduspider遵守互联网 robots协议。您可以利用 robots.txt文件完全禁止Baiduspider访问您的网站，或者禁止Baiduspider访问您网站上的部分文件。 注意：禁止Baiduspider访问您的网站，将使您的网站上的 网页，在 百度搜索引擎以及所有百度提供搜索引擎服务的搜索引擎中无法被搜索到。

ps:关于robots.txt的写作方法，请参看我们的介绍：robots.txt写作方法

为什么我的网站已经加了robots.txt，还能在 百度搜索出来？

答：因为搜 索引擎索引数据库的更新需要时间。虽然Baiduspider已经停止访问您网站上的网页，但百度搜索引擎数据库中已经建立的网页索引信息，可能需要二至四周才会清除。 另外也请检查您的 robots配置是否正确。

我希望我的网站内容被百度索引但不被保存快照，我该怎么做？

答：Baiduspider遵守互联网metarobots协议。您可以利用 网页meta的设置，使百度显示只对该网页建索引，但并不在搜索结果中显示该网页的快照。

和robots的更新一样，因为搜 索引擎索引数据库的更新需要时间，所以虽然您已经在网页中通过meta禁止了百度在搜索结果中显示该网页的快照，但 百度搜索引擎数据库中如果已经建立了网页索引信息，可能需要二至四周才会在线上生效。

百度 蜘蛛在 robots.txt中的名字是什么？

答：“Baiduspider” 首字母B大写，其余为小写。

Baiduspider多长时间之后会重新抓取我的 网页？

答：百度搜索引擎每周更新，网页视重要性有不同的更新率，频率在几天至一月之间，Baiduspider会重新访问和更新一个网页。

Baiduspider抓取造成的带宽堵塞？

答：Baiduspider的正常抓取并不会造成您网站的带宽堵塞，造成此现象可能是由于有人冒充baidu的spider恶意抓取。如果您发现有名为Baiduspider的agent抓取并且造成带宽堵塞，请尽快和我们联系。您可以将信息反馈至百度 网页投诉中心，如果能够提供您网站该时段的访问 日志将更加有利于我们的分析。

应用提示

编辑

第一，要想排名靠前， 目标关键词应该完整匹配地出现在网页的前面。

第二，百度蜘蛛似乎更注重网站页面的层次结构。与Google相比，百度蜘蛛更加重视网站内部页面结构的层次，有点爬虫类的味道，越黑越深，它越是喜欢往里钻，不相信你做100个页面，做得再漂亮，只要链接没有层次，你最多就孤零零的被收录可怜的一点点东西。

第三，百度蜘蛛极为活跃，抓取网页的频率和数量都非常大。百度蜘蛛几乎每天都会访问你的新站，并且至少抓取几十个网页。大量捕获是百度的强项，其他任何搜索引擎都没办法相比。但是百度中文网页数目并不是最大的，百度蜘蛛抓取的频率和网页更新情况有关。天天更新的网站一定会吸引百度蜘蛛更频繁的访问，百度对天天更新的站最敏感，彻底换内容更敏感。

第四，百度并不被所谓的优化迷惑，Google对优化好像远远没有百度敏感，百度尤其反感所谓的优化，不知道百度是用什么方法识别网站优化的。我的看法是目前最”先进“ 的优化方法，好像对百度没什么大的作用，大家都这么干了，机器人是有点死脑筋，但是百度那些IT也不是吃白饭的哈，要知道他是全球最先进的中文搜索老大，Google在中文搜索这块毕竟与百度还没得比。

第五，百度 排名算法是以网页为基础，比较少关注整个网站的主题。联系到上一点，这说明百度排名算法中比较注重内部结构缺少完整的语义分析。所以一些目 前比较认同的关于“ site：”之间那几个所谓关系到搜索质量的东西，并不是百度蜘蛛所最敏感的。

第六，充分利用百度的一个最大的优势——收录速度快。

影响因素

1. 采集内容、复制内容
2. 网站标题频繁更改
3. 服务器或者空间不稳定
4. 域名DNS解析不稳定
5. 群发外链

对应名称

产品名称 对应 user-agent

网页搜索 Baiduspider

无线搜索 Baiduspider

图片搜索 Baiduspider-image

视频搜索 Baiduspider-video

新闻搜索 Baiduspider-news

百度搜藏 Baiduspider-favo

百度联盟Baiduspider-cpro

竞价蜘蛛Baiduspider-sfkr