|
9月21日消息:百度站长平台昨日发布公告称,百度spider不再支持Crawl-delay的设置,如果想让配置网站针对百度spider的访问频率,可以使用百度站长平台的抓取压力反馈工具。
以下是公告内容全文:
尊敬的各位用户,亲爱的站长们,大家好:
近期,我们收到一些对Crawl-delay用法的询问,现明确百度对网站访问频率不再参考该设置,即不支持Crawl-delay配置,如果您希望配置网站针对百度spider的访问频率,建议您使用百度站长平台的抓取压力反馈工具,先查询网站在百度近一个月的天级抓取量趋势图,可调节百度spider每天访问您网站的抓取压力上限,供百度参考,避免百度spider对站点抓取压力过大,造成网站服务器负载及抓取异常。
|
温馨提示:
1、本内容转载于网络,版权归原作者所有!
2、本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
3、本内容若侵犯到你的版权利益,请联系我们,会尽快给予删除处理!
|