告警分级与降噪规范:避免告警风暴的通用实践
摘要
告警系统的目标不是把所有异常都通知给人,而是在真正需要人工介入时,准确、及时、可行动地提醒负责人。没有分级和降噪规则的告警系统,很容易演变成告警风暴:通知很多,真正有价值的信息很少,值班人员疲于应付,最终对告警失去信任。
本文整理一套通用的告警分级与降噪规范,适用于 Prometheus、CloudWatch、Grafana、日志告警、云平台事件告警等场景。文中不包含任何内部地址、账号、密钥、服务名或业务敏感信息,可直接作为团队告警治理规范、SRE 手册或 CSDN 技术文章使用。
一、为什么需要告警分级与降噪
很多团队的告警系统一开始都很简单:指标超过阈值就通知,日志出现关键字就通知,云平台事件发生就通知。
随着系统规模扩大,问题会越来越明显:
- 同一个故障触发几十条重复告警。
- 低优先级告警在半夜叫醒值班人员。
- 告警消息只有现象,没有影响范围和处理建议。
- 短暂抖动触发大量恢复又告警的通知。
- 真正严重的问题被低价值告警淹没。
- 告警长期无人处理,最终变成背景噪音。
告警治理的目标是:
该叫醒人的告警必须叫醒。 不该叫醒人的告警不要叫醒。 每一条告警都应该可判断、可定位、可行动。