故障应急总让人充满心跳,有时交换机故障、有时光缆被挖断,这次却是机房意外断电。。。
前阵子有个兄弟求助,他们的机房遭遇了意外断电。恢复供电后,k8s集群却无法启动。经过一番“截图分析诊断法”的默契配合,最终成功解决了故障。今天通过这篇文章,和大家分享一下这个过程。
故障发生后,很多指令无法正常回显,容器的元数据也无法正常加载,故障现象主要呈现为如下3点:1. 执行指令的时候会报错couldn't get xxx list。
![k8s集群经历断电后无法启动的故障处理分享](https://img.linux66.cn/resource/3bc04cefee5dfb0baca26e6a5bdb39d1.png?imageMogr2/format/webp/interlace/1/quality/100)
![k8s集群经历断电后无法启动的故障处理分享](https://img.linux66.cn/resource/655bd50fd05da151255efa9ba6ebcd7d.png?imageMogr2/format/webp/interlace/1/quality/100)
2. Pod运行时间无法正常获取,出现大量的<Invalid> ago。
![k8s集群经历断电后无法启动的故障处理分享](https://img.linux66.cn/resource/7b94cfa88eef4716a217e969cf95d7d3.png?imageMogr2/format/webp/interlace/1/quality/100)
3. 其中一个节点master-6-77的ApiServer Pod创建失败启动
![k8s集群经历断电后无法启动的故障处理分享](https://img.linux66.cn/resource/db6b084d8d60a0b2e9bac6e11494e736.png?imageMogr2/format/webp/interlace/1/quality/100)
通过上述的现象,一般会初步判断为Etcd或者ApiServer出现故障,由于Etcd的Pod状态是正常,但ApiServer的容器状态异常,所以我们把排查范围暂时锁定在ApiServer上。
首先查询ApiServer Pod的事件日志kubectl describe pod kube-apiserver-k8s-master-6-77 -n kube-system,提示failed to reserve container name xxx: name xxx is reserved for xxx,看样子是容器名冲突了。
![k8s集群经历断电后无法启动的故障处理分享](https://img.linux66.cn/resource/b7ad552dd53f4a2dfe32ca27879646da.png?imageMogr2/format/webp/interlace/1/quality/100)
从Pod列表中,我们并没有发现重名的Pod,所以可能是断电的时候未能及时释放容器,需要排查底层的容器是否有名称冲突。
![k8s集群经历断电后无法启动的故障处理分享](https://img.linux66.cn/resource/86fba08a9b48486e9dc8f0fab0f725a3.png?imageMogr2/format/webp/interlace/1/quality/100)
在了解到是Containerd容器运行时后,让其在master-6-77这个节点上通过crictl ps -a查看所有的容器,果然发现有冲突的ApiServer容器,但是状态不一样,正是由于其中一个容器的状态为Exited,kubectl才允许新的容器创建,导致这个故障。
![k8s集群经历断电后无法启动的故障处理分享](https://img.linux66.cn/resource/2a6f2d84f931200da18e4ed8851a90e4.png?imageMogr2/format/webp/interlace/1/quality/100)
解决的方法其实很简单,把Exited状态的容器删除即可,操作指令如下:
- 将Exited状态的ApiServer容器删除
crictl rm <容器ID>
这个故障影响了集群的自动治愈,让运维人员血液加速,但总算能够快速地解决,并恢复集群的运作,本期分享就到这里,谢谢!
作者: 亦零一
来源:SRE运维手记