k8s service nodePort无法访问的问题解决

本站所有内容来自互联网收集,仅供学习和交流,请勿用于商业用途。如有侵权、不妥之处,请第一时间联系我们删除!Q群:迪思分享

免费资源网 – https://freexyz.cn/
目录0. 前言1、背景2、 配置如下3、集群信息如下4、 问题5、解决方案总结

0. 前言

本文主要针对的是:不在同一内网且机器的公网IP并未显示的绑定在机器网卡上(也就是云主机,比如阿里云、腾讯云等等)出现的pod之间无法访问的问题,如果不是的话就可以撤退了,节约时间~~

1、背景

我有闲置的腾讯云两台服务器,最近想搭建个k8s集群玩玩,于是按照b站某教程搭建,出现了网络问题,具体如下。

2、 配置如下

k8s service nodePort无法访问的问题解决插图

公网ip已打码,毕竟还在使用,见谅

master节点叫:k8s-master-q,worker节点叫:k8s-master

3、集群信息如下

应用部署在了 worker节点的pod上

k8s service nodePort无法访问的问题解决插图1

4、 问题

master节点:curl 10.244.1.3(podIP) 、curl 10.96.6.212都没法连通,且:在浏览器输入:http://master公网IP:30002/也无法访问

worker:恰恰相反

翻遍整个网络,没找到解决方案,或者说自己没深刻理解k8s,无法根据关键信息搜索,也不知道问题发生的原因,导致一直没找解决方案,困扰好几天。经过不懈努力,偶然间发现了问题的关键,便是master节点与worker节点不在同一内网

内。

什么意思?其实也就是对k8s集群内网络转发模型的不了解,即下图:

k8s service nodePort无法访问的问题解决插图2

这是k8s的flannel网络模型,具体原理与工作流程参考大佬博客,我也是看到这篇博客才得到解决

Kuberbetes Pod间无法通信问题处理

大概原因就是,数据包从节点A发给节点B的,但使用的目的IP却是节点B的内网IP,而节点A和B并不在同一内网,并无法直接访问,这就导致了数据包中途丢包而无法连接。

可以看下自己的节点是否是使用的内网IP

[root@k8s-master-q ~]# kubectl describe nodes k8s-master

k8s service nodePort无法访问的问题解决插图3

k8s service nodePort无法访问的问题解决插图4

可以发现,在flannel网络模型中,使用的都是各自节点的内网IP, 又不在同一网段,确实无法访问。

5、解决方案

目前看来,我只找到了上面博主写的方案,其他方案未知,即将 IP改为 公网IP。

# master节点操作 # 修改为使用公网ip # kubectl annotate node k8s-master-q flannel.alpha.coreos.com/public-ip-overwrite=各节点公网ip –overwrite [root@k8s-master-q ~]# kubectl annotate node k8s-master flannel.alpha.coreos.com/public-ip-overwrite=1.12.xxx.xxxx –overwrite node/k8s-master annotated [root@k8s-master-q ~]# kubectl annotate node k8s-master-q flannel.alpha.coreos.com/public-ip-overwrite=43.139.xxx.xxxx –overwrite node/k8s-master-q annotated # 还需要配置内网ip转发到外网ip(内网IP是指服务器硬件本身的内网ip,不是flannel分配的) # 因为flannel重启后会重新构建iptables规则,有可能把这几条就移除掉了,重启应用后如果不能访问,需要重新执行 # iptables -t nat -A OUTPUT -d 私网ip -j DNAT –to-destination 公网ip [root@k8s-master-q ~]# iptables -t nat -A OUTPUT -d 10.0.12.13 -j DNAT –to-destination 43.139.xxx.xxx # worker 节点操作, 同样改变iptables规则 [root@k8s-master ~]# iptables -t nat -A OUTPUT -d 10.0.12.2 -j DNAT –to-destination 1.12.xxx.xxx # 之后重启相关应用,master节点和worker节点都需要操作 # 重启应用 systemctl stop kubelet systemctl stop docker systemctl stop docker iptables –flush iptables -tnat –flush systemctl start kubelet systemctl start docker

更改之后再次查询:

k8s service nodePort无法访问的问题解决插图5

k8s service nodePort无法访问的问题解决插图6

master节点和worker节点都已经改了,等待一会即可解决。

参考文章如下:

https://blog.csdn.net/a437936609/article/details/122325282

https://cloud.tencent.com/developer/article/1819134

总结

免费资源网 – https://freexyz.cn/


© 版权声明
THE END
★喜欢这篇文章吗?喜欢的话,麻烦动动手指支持一下!★
点赞10 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容