百度搜索引擎蜘蛛抓取建库，网站收录等常见问题解答
问：为什么收录量像坐过山车一样的，还有为什么有些网页今天在明天就没了？
问：我们站点使用CDN加速会不会比较容易造成蜘蛛无法抓取？因为有时候修改掉他绑定的什么东西。
问：你们百度自己也有一个CDN加速，对抓录排名有没有影响？
问：刚才您说IP上的站点数不能太多，那CDN这种情况怎么办？
问：还是IP上站点数量的问题，如果是主域跟二级域名呢？也受数量限制？
问：多个域名，他有相同的一些内容，怎么建库？
问：刚才讲的IP如果是多域名的话，好几百个IP域名，现在我们也用了CDN，按照刚才的说法，单个IP最多抓多少？1000万是说对站点还是对IP？
问：现在我的网站被很多蜘蛛爬，我想只让百度蜘蛛爬，百度蜘蛛IP多少？能设白名单么？
问：如果我写robots只想禁掉动态链接的话，会不会影响动态参数前面正常链接的抓取？
问：比如我们一个域名www.abcde.com，我们想把带？号的url全部禁掉，首页我们不要禁掉，怎么弄？
问：我想了解，如果我现在收录有5万，大概多长时间才能把我原来收录5万重新抓取一遍？
问：（接上个问题）就是差不多的情况，大概。
问：百度站长平台上有数据提交的工具，我们实时提交，你们也会实时抓取吗？
问：我网站有一些列表页，都没有链接，担心百度抓不到
问：（接上个问题）提交种子页面必须要用站搜？
问：如果说页面里url特别多的话，蜘蛛会不会有选择性的进行抓取？
问：现在很多网站都有自己的站内搜索，都会产生站内搜索结果页，百度不喜欢搜索结果页的话，我们用这个会不会对我们有影响？只是不喜欢还是对我们网站会有惩罚
问：新出的时效性文章当时没有被收录，后期是否还会被收录？
问：站点每天最高爬虫多少次？
答：这个其实说不好，有的站点我们一天会抓一两千万，有的站点只抓几个、几十个，看你的规模和质量，而且这个抓取量也是会根据网站的情况进行调整的。
问：我们的页面本身就很大，会不会解析不出来？
答：页面本身很大倒没问题，赶集、安居客这些量都很大，没有问题。我刚才说的例子，你每次都follow出来新链接，随机把后面的参数去掉都不影响这个网页的正常访问，这种肯定有问题的。
问：刚才说对URL的长度有要求，那对每一段、就是目录名的长度有没有要求
答：没有要求，我们是要求url从www开始到结束，总长度不超过1024个字节
问：站内重复内容是怎么判断的？文本内容一样结构不一样，算不算重复？
答：算重复
问：假设是整个页面全是Flash，如果我把一些栏目或者最新的内容隐藏掉，不影响美观隐藏掉，如果用hidden属性能不能提取出来？CSS可不可以？
答：hidden可以提出来，但如果是注释就不会管。CSS不可以。
问：页面大小不超过1兆，是指页面压缩以前还是以后。
答：指页面压缩以后，不要超过1兆
问：我网站的信息已经过时了，但网页返回的是200，会受惩罚？为什么呀？
答：用户在搜索结果里点了你的结果，导流导到你的网站，但没什么可看的，对用户没有用，百度当然不喜欢。
问：现在我们很多网站，为了让用户觉得有意思，内容没了就放一张图片，写一些有意思的话，什么“工程师去哪啦”之类的，对百度友好不？
答：最好不要用，我知道站点是想让百度当内容死链来识别，但内容死链识别起来是有准确率和召回率风险的。
问：我们团购网站的确会有过期团购的页面，会受惩罚吗
答：如果量特别大、点击量很大的话肯定会有惩罚的。有些可以当内容死链被分析出来，如果分析不出来，会被一些其他的策略挖出来，会有这样的问题。
问：刚才说资讯内容页面，上面有个发布时间好，那如果页面上没有时间呢？
答：那我们往往是按当时抓取的时间来做判定。
问：评论里面时间重要吗。
答：百度更重视主体内容的时间，评论不算主体内容。
问：我们是个平台，很多产品其实只是一个型号变更了，其实颜色都是一模一样的，对蜘蛛而言仅仅只是几个字符，会被识别为重复吗
答：如果是一个产品的结构化信息的话，应该不会被认为是重复。如果你是简单内容摘要的方式进行介绍的话，可能会存在重复问题。
问：静态URL和动态URL区别大吗？
答：不大，我们现在认为静态和动态都一样的，因为从url上面他能够识别出来，但是抓取回来的东西不太一样。所以现在认为无论你是静态还是动态，我们都认为同样都是url来对待。
