为什么蜘蛛总是重复抓取相同的页面
重点导读:蜘蛛抓取是有规律的,也有着自己的规则,如果蜘蛛不断重复的抓取某个页面,那就表示该页面更新的频率较高。当然如果网站权重很高,那么蜘蛛抓取的频率也会高很多,也可能会出现频繁重复抓取相同页面的情况。
发布人:沐风 - 更新时间:2021-02-08 08:41:57 - 地址:http://www.tangmengyun.com/seo/2548.html - 浏览:3676
问题:为什么蜘蛛总是重复抓取相同的页面?
回答:蜘蛛抓取是有规律的,也有着自己的规则,如果蜘蛛不断重复的抓取某个页面,那就表示该页面更新的频率较高。当然如果网站权重很高,那么蜘蛛抓取的频率也会高很多,也可能会出现频繁重复抓取相同页面的情况。
沐风SEO还是建议大家多去理解下搜索引擎工作原理,理解蜘蛛抓取的规律是什么样的,这有好处!
这里有个比较特殊的情况,沐风SEO曾经跟某个网站做SEO诊断,也遇到了蜘蛛频繁反复抓取某个页面的情况。经过分析发现,这个页面是程序自动生成的,它不是前端页面,而是数据库类型的文件。网站每次更新内容,这个页面上都会进行相应的更新,所以这个动态页面就形成了网站地图一样的文件,所以蜘蛛抓取就很频繁。
另外对于有参数的动态页面(不是以.html结尾的那种伪静态页面),也可能会出现被蜘蛛反复抓取的情况。
但不管是怎样的情况,我们只需要知道页面更新的频率会极大的影响到蜘蛛抓取,同时也影响到快照更新。下面以沐风工作室网站为例做下简单的介绍,请看图:
这是沐风工作室网站一周内收录的数据,可以看到有15页面的记录,也就是有近150个页面的百度快照得到了更新。而在这些页面当中,仅仅有几篇文章是新加的,其他的都是之前的老页面。
那么问题来了,为什么有这么多的老页面得到快照更新呢?曾经有朋友问沐风SEO,问是不是有几个编辑专门做网站更新,事实上并非如此,我们网站上的内容基本都是沐风SEO自己更新的,每天就是1-3篇文章左右,当然这些都是原创文章。
问题在于,我们在文章页面设置随机调用的内容模板,页面每次被打开都会随机调用10篇文章。不管是普通用户还是蜘蛛爬行,页面都会随机调用内容,并且我们还设置了最新的时间戳。这对于搜索引擎来说,页面随时都在更新,正是这个小的SEO技巧,让百度快照得到了快速更新。
我们再回到问题上来,为什么蜘蛛总是重复抓取相同的页面?前面的这些文字应该能够解释清楚了吧!大家可以去自查下,看看这些被重复抓取的页面有着怎样的特殊情况。
但是要注意,请大家务必搞清楚是否是真正的蜘蛛,而不是某些模拟的蜘蛛。比如说如果网站经常被其他网站采集的话,那么就可能会出现很多的假蜘蛛,因为这些采集软件使用的就是类似搜索引擎蜘蛛的假蜘蛛。
然后要从这个问题中发现可以操作的时候地方,比如说通过某些SEO方法,让蜘蛛更加有针对性的抓取,让页面的快照信息等到更快的更新等等。总之我们要从这些现象中去发现问题、解决问题,甚至得出有利于网站优化的隐藏信息。
为什么蜘蛛总是重复抓取相同的页面所属标签蜘蛛抓取 下的相关文章推荐
- 新站如何吸引蜘蛛,新站吸引百度蜘蛛的7个SEO技巧 - 浏览量:423
- 蜘蛛爬取频次跟什么有关,蜘蛛抓不到内容时会发生什么 - 浏览量:441
- 蜘蛛抓取跟权重有关系吗,哪些因素影响蜘蛛抓取 - 浏览量:281
- 搜索引擎不抓取站点的原因,如何解决 - 浏览量:531
- 怎么吸引蜘蛛来网站抓取内容 - 浏览量:1016
- 搜索引擎蜘蛛抓取页面的依据是什么 - 浏览量:1065
- 怎么让百度蜘蛛不抓取页面中的某个链接 - 浏览量:1357
- 蜘蛛抓取页面没有记录是怎么回事 - 浏览量:1201
- 普通用户看不到的页面蜘蛛会抓取收录吗 - 浏览量:1193
- 新站有哪些渠道可以吸引大量蜘蛛 - 浏览量:1808
上一篇>> 文章不加相关推荐会影响收录和排名吗下一篇>> SEO人员不用过多担心百度有多少用户
沐风博客最新文章
- 抖音直播带货小技巧,抖音直播带货怎么提升转化率 - 2024-04-25
- 网页设计色彩搭配技巧,如何使用色彩搭配工具 - 2024-04-25
- 亚马逊新手入门7个基础,亚马逊新手适合上什么产品 - 2024-04-25
- 页面H标签的作用,如何正确使用H标签 - 2024-04-25
- 微信视频号如何快速吸粉,发什么视频能快速涨粉 - 2024-04-25
- 网络营销与传统营销有何区别,网络营销对企业有哪些好处 - 2024-04-25
- 新站可以采集内容吗,采集内容需要注意哪些问题 - 2024-04-25
- Z-Blog购买的主题用不了,Z-Blog主题怎么修改 - 2024-04-25
- 电子商务师有补贴吗,有哪些培训机构可以报考 - 2024-04-25
- 搜狐视频怎么做自媒体账号,有哪些自媒体账号类型 - 2024-04-24