图解Spider爬虫陷阱

时间:12-08-11 栏目:SEO优化 作者:kyle 评论:0 点击: 5,380 次

 

要使网页被正常收录,网站建设时应注意使站点结构和内容方便蜘蛛爬行时抓取。当网站中存在着对搜索引擎不友好的结构建造和页面设计时,会给蜘蛛爬取页面的工作带来困扰,甚至造成不畅通的爬行,这样就形成了蜘蛛陷阱,不利于页面和站点的收录。

 

3

这张图形象的说明了搜索引擎的Spider在抓取网页时,一些不友好的元素会对其形成较坏的影响(说明:本人离开英文环境已半年,如有解释错误,勿怪):

1.Orphan Pages;Spider是根据链接抓取网页,没有链接的网页,自然使spider抓取困难。

2.Unfriendly seo-CMS System;CMS对seo不友好的话,会对spider形成一定的干扰,比如js、ajax、链接分布、frame结构等等。

3.Bad server Configuration;如阻止搜索引擎spider访问、302重定向、访问权限等等,以及服务器的稳定性,都有可能对spider造成致命的打击。

4.Cloaking;比如隐藏文字、没有任何内外链的网页,都会使spider出现问题。

5.Session Based Coding;URL根据访问者的cookie随机变换、html代码中大量的字符,这些session闯下的祸,对于一个不依赖seo的网站来说可能没什么,但是对于一个基于SEO的网页来说可是致命的。

6.没有处理错误页面;如404跳转等。

成都SEO小五提示,在日常操作过程中要迟量避免掉入爬虫陷阱。会造成排各和收录各方面的影响。

成都SEO小五嚎2句: 本文是(成都SEO小五)辛苦弄出来的,转载成都SEO小五原创的请保留链接: 图解Spider爬虫陷阱,3Q

图解Spider爬虫陷阱:等您坐沙发呢!

来给哥评论评论


------====== 小五公告 ======------
成都SEO小五,专注成都搜索引擎优化。
小五善长站内外优化,C#、PHP开发,中英文SEO,Google中英文和百度优化技术。欢迎群内交流。伸手党请绕路,求资源的请绕开,求问题解答的请进群内交流。开放了一个QQ交流群:160750032。加入验证时请标注任何SEO相交字眼。友情链接直接Q我,收录正常,内容大部份原创、SEO或者程序开发、网络营销、线上推广等相关行业即可。

常用工具

赞助广告

来看过哥的人