如何避免蜘蛛重复抓取一个页面
重点导读:蜘蛛重复抓取页面是正常的,蜘蛛抓取页面的依据是看页面内容是否发生了变化,如果每次抓取页面都有变化,那么抓取就会更加频繁。如果多次抓取后发现页面都没有变化,就会减少抓取。所以不要刻意让蜘蛛不重复抓取某个正常的页面。
发布人:沐风 - 更新时间:2020-08-18 10:17:18 - 地址:http://www.tangmengyun.com/seo/2184.html - 浏览:3217
问题:如何避免蜘蛛重复抓取一个页面?
回答:蜘蛛重复抓取页面是正常的,蜘蛛抓取页面的依据是看页面内容是否发生了变化,如果每次抓取页面都有变化,那么抓取就会更加频繁。如果多次抓取后发现页面都没有变化,就会减少抓取。所以不要刻意让蜘蛛不重复抓取某个正常的页面。
蜘蛛多次重复的抓取页面,就说明这个页面的更新频繁。这是个好的现象,我们可以去对这个页面进行分析,看看到底是哪个内容模块经常有更新。而其他的页面则可以参考,也加大这些页面的更新频率,这样整个网站的抓取频次就会增多。
当然,想要整体增加蜘蛛抓取频次的话,内容的数量和内容的持续更新也需要注意。通常,内容越多的网站,蜘蛛的抓取频次就越高。
另外有些动态页面,或者是某些数据库文件,大家要注意。这些页面更新会很频繁,如果给蜘蛛提供了链接入口,那么蜘蛛就会经常来抓取这些页面,这个细节问题大家也要注意下,对于这些没有必要被收录的页面,要隐藏好链接入口。
还有就是sitemap这个网站地图文件,搜索引擎之所以会频繁抓取,其实也是跟文件的更新有关系。如果我们的网站地图是动态的,那么网站一旦更新内容,网站地图就会产生变化,搜索引擎蜘蛛每次过来都能发现新的链接,因此它就会频繁来抓取。
关于如何避免蜘蛛重复抓取一个页面的问题,笔者就简单的说这么多。总之来说,如果蜘蛛重复抓取的是正常的需要优化的页面,那就不要去管它。如果是那些不需要优化的动态页面,就要想办法隐藏链接入口,再在robots文件上限制抓取。最后再提醒下,蜘蛛抓取页面跟页面的内容更新有关系,大家可以根据这个原理去对网站收录进行优化。
如何避免蜘蛛重复抓取一个页面所属标签蜘蛛抓取 下的相关文章推荐
- 新站如何吸引蜘蛛,新站吸引百度蜘蛛的7个SEO技巧 - 浏览量:421
- 蜘蛛爬取频次跟什么有关,蜘蛛抓不到内容时会发生什么 - 浏览量:441
- 蜘蛛抓取跟权重有关系吗,哪些因素影响蜘蛛抓取 - 浏览量:279
- 搜索引擎不抓取站点的原因,如何解决 - 浏览量:531
- 怎么吸引蜘蛛来网站抓取内容 - 浏览量:1016
- 搜索引擎蜘蛛抓取页面的依据是什么 - 浏览量:1065
- 怎么让百度蜘蛛不抓取页面中的某个链接 - 浏览量:1356
- 蜘蛛抓取页面没有记录是怎么回事 - 浏览量:1200
- 普通用户看不到的页面蜘蛛会抓取收录吗 - 浏览量:1193
- 新站有哪些渠道可以吸引大量蜘蛛 - 浏览量:1806
沐风博客最新文章
- 网络营销与传统营销有何区别,网络营销对企业有哪些好处 - 2024-04-25
- 新站可以采集内容吗,采集内容需要注意哪些问题 - 2024-04-25
- Z-Blog购买的主题用不了,Z-Blog主题怎么修改 - 2024-04-25
- 电子商务师有补贴吗,有哪些培训机构可以报考 - 2024-04-25
- 搜狐视频怎么做自媒体账号,有哪些自媒体账号类型 - 2024-04-24
- 百度爱采购入驻多少钱,如何联系百度爱采购官方客服 - 2024-04-24
- 快手直播怎么样,快手直播时长挣钱吗 - 2024-04-24
- 直播带货平台哪家好,哪个平台最适合卖食品 - 2024-04-24
- 4p营销理论的四个基本要素,营销4p理论的优缺点 - 2024-04-24
- 怎么利用外链给网站引流,有哪些平台适合做外链 - 2024-04-24