DNS解析稳定性对蜘蛛抓取的影响与监测
DNS解析抖动是隐蔽的抓取杀手:解析偶发失败会让蜘蛛频繁抓取失败,进而主动降低站点抓取频率,且站长很难第一时间察觉。
DNS解析抖动是隐蔽的抓取杀手:解析偶发失败会让蜘蛛频繁抓取失败,进而主动降低站点抓取频率,且站长很难第一时间察觉。
解析稳定性监测
用拨测工具从多个节点监测域名解析的成功率和耗时,设置解析失败告警。
解析TTL合理设置
TTL过短增加解析失败概率和查询压力,过长让解析变更生效慢。稳定期TTL设3600秒左右,迁移期临时调短。
选择稳定的解析服务商
解析服务商故障等于全站消失。主服务商之外配置备用解析,重要站点做双服务商冗余。
异常关联分析
日志中蜘蛛抓取DNS异常的时间点与解析服务商的故障公告对照,确认因果后考虑更换服务商。
判断标准与参考数据
解析成功率99.9%以上;解析耗时50ms以内;蜘蛛抓取DNS异常占比趋近于零。
注意事项
免费解析服务的稳定性参差不齐,商业站点不要在这上面省钱;换解析服务商要选低峰期操作,逐步切换。