专栏名称: 马哥Linux运维
马哥linux致力于linux运维培训,连续多年排名第一,订阅者可免费获得学习机会和相关Linux独家实战资料!
目录
相关文章推荐
运维  ·  再见,CDN 巨头:Akamai 宣布 ... ·  3 天前  
51好读  ›  专栏  ›  马哥Linux运维

故障自愈:解决运维的主要矛盾才能AIOps

马哥Linux运维  · 公众号  · 运维  · 2018-05-16 18:00

正文


以产品设计理念剖析企业建设故障自动化处理方案的思路

人工处理告警,一直是运维心中的痛。大年初一拜年、结婚、和老婆孩子外出过周末等美好时光,作为运维的你,好像一直心系IT系统,保持与笔记本的安全距离。

为什么这么多年过去了,还是这么苦逼,不是说运维行业转 AIOps了,我竟然还在手工处理告警,我该怎么办?

今天就和大家聊聊实现故障自愈要攻克的3个问题,以及 献上开箱即用的方案

1. 故障自愈的基本流程

自动化的要点是什么?把人的经验抽象、固化为程序处理,工业(第3次工业革命)或互联网都是如此。

举个例子,磁盘出现告警,运维首先想到的是登陆服务器清理磁盘。

(人工处理告警的流程)

接下来,我们拆解背后的逻辑。

1.1 抽象告警处理流程

1) 拉取磁盘告警

2) 编写磁盘清理的脚本或作业任务

3) 设计模块:把拉取到的磁盘告警,与调用脚本的模块串起来

(故障自愈流程 简化版V1)

1.2 通过CMDB做资源清洗

不同模块的磁盘清理方案不一样,如何解决呢?

这时需要 引入CMDB(设备、人、业务的映射关系) ,通过CMDB把 IP 清洗为 模块 ,这样就解决了接入层 和 逻辑层、存储层的告警使用对应的磁盘清理方案。

(故障自愈流程 简化版V2)

1.3 对接企业内部网关

故障自愈可能会处理失败,这时需要通知用户。故障自愈的处理方式除了调用作业外,还可能需要调用企业内部的网关,比如服务器重启、申请服务器等。

使用PaaS层的ESB是一种解决思路,通过ESB封装企业内部网关,解决权限校验、频率控制、访问统计、路由分发以及自助接入等功能,不要直接调用裸接口了。

(故障自愈的通知方案)

经过这一轮的探索,故障自愈的架构就是下面这个样子。

(故障自愈的流程)

1.4 对接企业内部监控产品

等等,好像还没说如何对接企业内部的监控产品,以Zabbix、Open-Falcon为例。

1.4.1 对接Zabbix

《当Zabbix遇见故障自愈》 介绍了拉取Zabbix告警的方案,通过 ActionScript 调用脚本,把 Zabbix 告警推送至自愈的告警拉取模块。

推送(或叫回调)可以保证告警拉取的实时性。

(Zabbix推送告警示例)


(Zabbix调用推送告警的脚本)

对接Zabbix 的落地案例可以参考陈亮撰写的 那些年我们想做的无人值守

除Zabbix外,Open-Falcon在国内的社区热度也不错,所以也介绍拉取其告警的方案。

1.4.2 对接Open-falcon

方案类似Zabbix,不过Open-falcon 直接提供了callback功能,简化了流程。

(Open-Falcon配置Callback地址)

收到了Open-Falcon 推送的告警后,解析对应的字段即可。

如果企业内部的CMDB以IP来标识主机,需要再做一层转换,因为Open-Falcon 的资源标识 endpoint 默认是主机名,那么就需要使用CMDB的自动发现功能自动上报主机名,同时提供把主机名清洗为IP的功能。

下面是Nginx模块磁盘告警的自愈示例,匹配Nginx模块的磁盘清理套餐,清理Nginx模块的日志文件,整个过程不到30秒。

(磁盘告警的自愈示例)


2. 故障自愈的两面性

故障自动处理就像一把刀,有其两面性

因为要确保告警的真实性,一旦把假告警也自动处理了,就很悲催了…

举个例子。网络波动,批量出现PING告警。实际上服务器运行正常,这时你把服务器都重启了,那就GG了。

如何解决呢?分析事物的规律。

批量出现告警,那可以在告警拉取模块后面, 增加一个收敛模块

比如,在X时间内出现Y个告警,打电话给运维审批。

X时间内同一主机出现使用相同套餐的告警,则收敛时间窗口中后面的告警则跳过,比如同时收到进程告警 和 端口告警,就不用拉2次进程了。

还有就是,原有监控系统没有收敛能力,那么可以借用这个功能来做告警汇总,因为收敛逻辑一样,只是收敛的处理方式有差异。

3. 复杂告警的处理方案 - 组合套餐

上面提到的技术方案是用来处理逻辑简单的告警,那么故障替换这种复杂的场景如何解决呢?

举个例子,A模块是重要模块,出现PING不可达告警,首先要校验A模块是否真的故障,如果真的故障,接下来是从资源池中获取备机 … 故障替换等等,期间每个环节都有可能出错,那就要考虑异常分支的场景。

树结构 可以解决该问题, 二叉树 足以满足大部分场景(成功、失败两种分支)。

( 组合套餐的示例)

上面这张图,是一个自愈处理方案,可以称之为组合套餐。

这里同时引入了原子的概念,通过组装原子来满足各种需求场景, 和 资源编排







请到「今天看啥」查看全文