搜索引擎的 蜘蛛是如何爬的，如何吸引蜘蛛来抓取页面

　　搜索引擎的蜘蛛是如何爬的如何吸引蜘蛛来抓取页面

　　搜索引擎的工作过程大体可以分成三个阶段：

　　(1)爬行和抓取：搜索引擎蜘蛛通过跟踪链接发现和访问页面读取页面HTML代码优化思路读取页面HTML代码存到数据库。

　　(2)预处理：索引程序对抓取来的页面数据进行文字提取、中文分词、索引、倒排索引等处理以备排名程序调用。

　　(3)排名：用户输入查询词(关键词)后排名程序调用索引数据计算相关性网站优化计算相关性然后按一定格式生成搜索结果页面。

搜索引擎的工作原理

　　爬行和抓取是搜索引擎工作的第一步完成数据收集的任务。搜索引擎用来抓取页面的程序被称为蜘蛛(spider)

　　一个合格的SEOer要想让自己的更多页面被收录就要想法设法吸引蜘蛛来抓取。

　　蜘蛛抓取页面有几方面因素：

　　(1)网站和页面的权重质量高、时间长的网站一般被认为权重比较高爬行深度也会比较高被收录的页面也会更多。

　　(2)页面的更新频率蜘蛛每次爬行都会把页面数据储存起来如果第二次第三次的抓取和第一次的一样说明没有更新久而久之蜘蛛也就没有必要经常抓取你的页面啦。如果内容经常更新蜘蛛就会频繁访问页面来抓取新的页面。

　　(3)导入链接不管是内部链接还是外部链接要想被蜘蛛抓取就必须有导入链接进入页面否则蜘蛛就不会知道页面的存在。

　　(4)与首页的点击距离一般网站上权重最高的是首页大部分外部链接都会指向首页那么蜘蛛访问最频繁的页面就是首页离首页点击距离越近页面权重越高被爬行的机会越大。

吸引百度蜘蛛

　　如何吸引蜘蛛来抓取我们的页面?

　　坚持有频率的更新网站内容最好是高质量的原创内容。

　　主动向搜索引擎提供我们的新页面让蜘蛛更快的发现如百度的链接提交、抓取诊断等。

　　搭建外部链接可以和相关的网站做友情链接交换可以去别的平台发布高质量的文章指向自己的页面内容要相关。

　　制作网站地图每个网站都应该有一个sitemap网站所有的页面都在sitemap中方便蜘蛛抓取。

标签： 搜索引擎的蜘蛛是如何爬的，如何吸引蜘蛛来抓取页面