這一篇 K8S(Kubernetes)叢集部署 我覺得還可以!!!

牧小農發表於2021-11-07

點贊再看,養成習慣,微信搜尋【牧小農】關注我獲取更多資訊,風裡雨裡,小農等你,很高興能夠成為你的朋友。

國內安裝K8S的四種途徑

Kubernetes 的安裝其實並不複雜,因為Kubernetes 屬於Google 的產品,都是從Google的官方上進行下載,但是因為網路問題,在國內是沒辦法連線它的中央倉庫進行下載安裝包的,只能通過其他的途徑進行安裝,在國內有四種安裝方式

  1. 使用 Kubeadmin 通過離線映象安裝: Kubeadmin 是K8S提供的管理控制檯,通過這裡的命令可以非常方便的對我們叢集進行快速釋出和部署
  2. 使用阿里雲公有云平臺安裝K8S: 這是也是非常好用的,不用做任何設定,拿來就用,但是有一個缺點——要錢
  3. 通過yum官方倉庫安裝: 這個是最簡單的,但是這個安裝K8S的包是非常古老的版本,聽說是和谷歌最新的差了十個版本
  4. 通過二進位制包的形式進行安裝: 採用第三方的提供的二進位制包的形式來安裝K8S,比如 Kubeasz,它是github的一個開源專案,因為它是由三方來提供的,如果在沒有仔細驗證的情況下,是非常容易出錯的,後臺存在什麼樣的缺陷,你是不知道的。

今天我們這裡採用的是第一種 使用 Kubeadmin 通過離線映象安裝K8S,本文也會使用 Kubeadmin 來為大家展示K8S的叢集部署和安裝,環境和安裝包我都為大家準備好了,大家感興趣的可以進行下載安裝。

關注公眾號:牧小農,回覆 k8s ,就可以獲取下載地址了

環境準備

結構圖:

在這裡插入圖片描述

1.1 物理機系統

在這裡需要說明一下,小農是本地虛擬機器安裝測試的,如果不知道怎麼安裝,看下面的我安裝虛擬機器的教程:
虛擬機器安裝教程:安裝linux虛擬機器(CentOS) 詳細教程

安裝K9S需要處理器的數量為2,否則後面初始化的時候會失敗

在這裡插入圖片描述

1,1 物理機作業系統採用Centos7.8 64位

[root@localhost ~]# uname -a
	Linux localhost.localdomain 3.10.0-1127.el7.x86_64 #1 SMP Tue Mar 31 23:36:51 UTC 2020 x86_64 x86_64 x86_64 GNU/Linux
[root@localhost ~]# cat /etc/redhat-release
	CentOS Linux release 7.8.2003 (Core)

1.2 叢集資訊

節點及功能 主機名 IP
Master、etcd、registry Master 192.168.137.129
Node1 Node1 192.168.137.130
Node2 Node2 192.168.137.131

環境準備命令

2.1 設定時區

三臺機器都需要執行:timedatectl set-timezone Asia/Shanghai

2.2 設定主機名

129執行: hostnamectl set-hostname master
130執行: hostnamectl set-hostname node1
131執行: hostnamectl set-hostname node2

2.3 新增hosts網路主機配置

三臺主機都需要新增這個配置

vi /etc/hosts
192.168.137.129 master
192.168.137.130 node1
192.168.137.131 node2

新增完成之後我們在master上驗證一下 ping node1

[root@localhost ~]# ping node1
PING node1 (192.168.137.130) 56(84) bytes of data.
64 bytes from node1 (192.168.137.130): icmp_seq=1 ttl=64 time=0.605 ms
64 bytes from node1 (192.168.137.130): icmp_seq=2 ttl=64 time=0.382 ms
64 bytes from node1 (192.168.137.130): icmp_seq=3 ttl=64 time=0.321 ms

2.4 關閉防火牆

生產環境可以跳過這一步,在生產環境不要執行這個,這裡只是為了方便我們學習的時候使用

SELINUX是安全增強型的LINUX,是LINUX內建安全增強模組,可以增強LINUX的安全性,但是這個設定起來太麻煩了,所以我們在學習過程中一般都會關閉掉這個

關閉命令:sed -i 's/SELINUX=enforcing/SELINUX=disabled/g' /etc/selinux/config
設定為臨時生效:setenforce 0
禁用防火牆:systemctl disable firewalld
停止防火牆:systemctl stop firewalld

安裝Kubeadm部署工具

首先我們要弄清楚一個概念,Kubeadm 並不是 K8S 本身,Kubeadm只是一個快速部署工具,通過安裝這個工具可以幫助我們簡化K8S部署的過程。

建立檔案目錄: mkdir /usr/local/k8s
切換目錄地址: cd /usr/local/k8s

然後我們將安裝包(kubernetes-1.14 安裝包在開頭有下載連線)放到 k8s 這個目錄下

[root@master k8s]# ll
drwxr-xr-x 2 root root 335 Nov  6 11:17 kubernetes-1.14

切換到kubernetes的目錄

[root@master k8s]# cd kubernetes-1.14/
[root@master kubernetes-1.14]# ll
total 986908
-rw-r--r-- 1 root root       357 Jul  3 14:15 admin-role.yaml
-rw-r--r-- 1 root root        67 Jul  3 14:15 daemon.json
-rw-r--r-- 1 root root  67850818 Jul  3 14:15 docker-ce-18.09.tar.gz
-rw-r--r-- 1 root root 177698304 Jul  3 14:15 flannel-dashboard.tar.gz
-rw-r--r-- 1 root root       927 Jul  3 14:15 init.sh
-rw-r--r-- 1 root root 706070528 Jul  3 14:15 k8s-114-images.tar.gz
-rw-r--r-- 1 root root        79 Jul  3 14:15 k8s.conf
-rw-r--r-- 1 root root  58913350 Jul  3 14:15 kube114-rpm.tar.gz
-rw-r--r-- 1 root root     12306 Jul  3 14:15 kube-flannel.yml
-rw-r--r-- 1 root root       281 Jul  3 14:15 kubernetes-dashboard-admin.rbac.yaml
-rw-r--r-- 1 root root      4809 Jul  3 14:15 kubernetes-dashboard.yaml
-rw-r--r-- 1 root root       953 Jul  3 14:15 worker-node.sh
[root@master kubernetes-1.14]# 

這裡面就包含了我們安裝K8S的所有內容,其中

kube114-rpm.tar.gz: 是我們Kubeadm 叢集管理工具的安裝壓縮包

docker-ce-18.09.tar.gz: 是我們docker的安裝壓縮包,可以進行本地化安裝

k8s-114-images.tar.gz: 是K8S映象本身,我們K8S的安裝是 通過 Kubeadm 叢集管理工具對K8S的映象進行自動化部署

flannel-dashboard.tar.gz: 用來監控叢集狀態

安裝docker

我們需要在三臺機器上都安裝docker,文中用 master 節點來做演示

首先對 docker-ce-18.09.tar.gz進行解壓縮

[root@master kubernetes-1.14]# tar -zxvf docker-ce-18.09.tar.gz
[root@master kubernetes-1.14]# cd docker

在安裝之前我們首先需要保證本來的yum源和docker依賴是最新的,所以我們需要先執行以下命令,這一步命令執行都是在 docker這個目錄下執行的

1、安裝GCC

yum -y install gcc
yum -y install gcc-c++

2、解除安裝老版本的docker和依賴

yum  remove docker docker-client docker-client-latest docker-common docker-latest docker-latest-logrotate docker-logrotate docker-selinux docker-engine-selinux docker-engine

3、安裝 yum-utils元件:yum install -y yum-utils device-mapper-persistent-data lvm2

4、新增yum 源 PS

docker官網地址: sudo yum-config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo
阿里雲地址: sudo yum-config-manager --add-repo http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo

5、更新yum索引:sudo yum makecache fast

6、安裝docker-ce:sudo yum install docker-ce

7、解除安裝老版本的docker和依賴
這一步不是重複,是為了解除安裝上一步的 docker-ce來安裝我們k8s包裡面的 docker-ce

yum  remove docker docker-client docker-client-latest docker-common docker-latest docker-latest-logrotate docker-logrotate docker-selinux docker-engine-selinux docker-engine

8、執行我們安裝包裡面的檔案:yum localinstall -y *.rpm
在這裡插入圖片描述
到這裡就代表我們的docker安裝完成了

啟動docker: systemctl start docker
設定docker為自動啟動: systemctl enable docker

保證 cgroups 在同一個 groupfs

執行命令:

[root@master docker]# docker info | grep cgroup 
 Cgroup Driver: cgroupfs
  • cgroupscontrol groups 的簡稱,它為Linux核心提供了一種任務聚集和劃分的機制,通過一組引數集合將一些任務組織成一個或多個子系統。
  • cgroups是實現IaaS虛擬化(kvm、lxc等),PaaS容器沙箱(Docker等)的資源管理控制部分的底層基礎。
  • 子系統是根據cgroup對任務的劃分功能將任務按照一種指定的屬性劃分成的一個組,主要用來實現資源的控制。
  • cgroup中,劃分成的任務組以層次結構的形式組織,多個子系統形成一個資料結構中類似多根樹的結構。cgroup包含了多個孤立的子系統,每一個子系統代表單一的資源

我們只需要確認輸入上面的命令後出現的是: Cgroup Driver: cgroupfs就可以了

當我們輸入命令發現不是 Cgroup Driver: cgroupfs這個結果,那我們需要執行下面的命令:

對 daemon.json 進行修改:

cat << EOF > /etc/docker/daemon.json
{
  "exec-opts": ["native.cgroupdriver=cgroupfs"]
}
EOF
systemctl daemon-reload && systemctl restart docker

安裝kubeadm

kubeadm是K8S官方提供的叢集部署工具,通過這個工具可以快速幫助我們簡化的完成K8S的管理,以及各叢集節點下的容器建立

切換目錄: cd /usr/local/k8s/kubernetes-1.14
解壓 kube114安裝包: tar -zxvf kube114-rpm.tar.gz
切換目錄: cd kube114-rpm
在這裡插入圖片描述
安裝: yum localinstall -y *.rpm
在這裡插入圖片描述

關閉交換區

  • 在linux系統中,交換區類似於我們的 windows的虛擬記憶體,作為windows的虛擬記憶體,其實就是用物理磁碟模擬記憶體.
  • 比如說我們系統記憶體比較小,那麼在進行資料處理的時候,記憶體不夠了,我們就會先把這些資料寄存在硬碟上,用硬碟空間模擬記憶體來使用,雖然硬碟提取資料的速度比較慢,但是總是比記憶體不夠要好,在linux系統中,交換區就是我們所說的虛擬記憶體了.
  • 在這裡,虛擬記憶體可能會對系統部署產生不必要的影響,在K8S的環境下,使用的伺服器一般都是記憶體比較充足的,所以我們一般不推薦使用系統交換區,這樣會讓我們系統的效能降低,在這裡選擇關閉交換區

關閉交換區:swapoff -a

修改配置檔案,永久關閉交換區:vi /etc/fstab
swap一行註釋
在這裡插入圖片描述

配置網橋

所謂配置網橋其實就是我們對k8s.conf這個檔案進行修改
iptables 是在linux中的一個網路工具,用來對我們包按照規則進行過濾,在k8s.conf中增加下面兩行配置當在K8S容器間進行網路通訊的時候,當網橋進行資料傳輸的時候,也要遵循iptables的規則,進行相應的處理,這樣可以提高我們系統在網路傳輸間的安全性

開啟方式:

cat <<EOF >  /etc/sysctl.d/k8s.conf
net.bridge.bridge-nf-call-ip6tables = 1
net.bridge.bridge-nf-call-iptables = 1
EOF
sysctl --system

在這裡插入圖片描述

當我們執行完成以後,要確保紅框中的值為1

通過映象安裝K8S

切換目錄: cd /usr/local/k8s/kubernetes-1.14
載入本地映象—k8s: docker load -i k8s-114-images.tar.gz

載入完成後檢視:docker images

[root@master kubernetes-1.14]# docker images
REPOSITORY                           TAG       IMAGE ID       CREATED       SIZE
k8s.gcr.io/kube-proxy                v1.14.1   20a2d7035165   2 years ago   82.1MB
k8s.gcr.io/kube-apiserver            v1.14.1   cfaa4ad74c37   2 years ago   210MB
k8s.gcr.io/kube-controller-manager   v1.14.1   efb3887b411d   2 years ago   158MB
k8s.gcr.io/kube-scheduler            v1.14.1   8931473d5bdb   2 years ago   81.6MB
k8s.gcr.io/coredns                   1.3.1     eb516548c180   2 years ago   40.3MB
k8s.gcr.io/etcd                      3.3.10    2c4adeb21b4f   2 years ago   258MB
k8s.gcr.io/pause                     3.1       da86e6ba6ca1   3 years ago   742kB

如果看過我上一篇K8S入門的同學,應該很熟悉這些東西,這裡就不做詳細介紹了,感興趣的可以去看一看
這一篇 K8S(Kubernetes)我覺得可以瞭解一下!!!

載入本地映象—對叢集視覺化: docker load -i flannel-dashboard.tar.gz

同樣我們也可以使用docker images進行檢視
在這裡插入圖片描述

到這裡我們K8S的前置工作已經完成了,但是我們今天安裝的叢集環境,所以上面的步驟,在其他兩臺機器中也要進行安裝,當我們安裝好了之後,其他的兩臺機器使用docker images,也能 出現上面的資訊表示我們安裝完成,這裡我們就不做重複的工作了,大家可以自行安裝好

使用Kubeadm部署K8S叢集

master 主服務配置

下面的步驟我們都是在 129(master) 這臺伺服器上執行的,請大家注意!!!

  1. master主伺服器配置:kubeadm init --kubernetes-version=v1.14.1 --pod-network-cidr=10.244.0.0/16

versioin:版本
cidr:Ip範圍必須在10.244之內

安裝成功之後我們可以看到下面的資訊:
在這裡插入圖片描述

第一步:

這三行命令需要我們複製以後手動去執行


  mkdir -p $HOME/.kube		## 表示需要我們建立一個.kube目錄
  sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config		##將admin.conf 複製到config中
  sudo chown $(id -u):$(id -g) $HOME/.kube/config		## 進行授權操作

admin.conf 是kubeadm有關於當前叢集的核心配置檔案,包含了kubeadm叢集資訊,也包含節點的資訊,大家可以看一下
在這裡插入圖片描述
第二步:
這條命令需要我們在節點中(130、131)去執行,讓我們的節點資訊加入到master(129)中,我們可以先複製儲存一下

kubeadm join 192.168.137.129:6443 --token lg870y.lxik26ib84938ton \
    --discovery-token-ca-cert-hash sha256:6d8331fe88ae99e89608d6dc414a9fe0a378b84ffa4044d7cacfdbbf5de41871 

通過kubectl獲取節點資訊(包含master):kubectl get nodes
在這裡插入圖片描述

name:主機名
STATUS:狀態
ROLES:角色
AGE:建立時間26分鐘
VERSION:版本

從上圖中我們可以看到,節點只有master,沒有Node,是因為當前沒有執行第二步的操作,所以當前沒有節點加入到我們的master中,當時我們看到 status 是 NotReady,是沒有準備好,這是為什麼呢,在底層肯定是有什麼元件沒有正常的執行,我們可以通過下面這個命令來檢視

檢視存在問題的pod:kubectl get pod --all-namespaces
在這裡插入圖片描述

如果我們在狀態(STATUS)中看到 CrashLoopBackOff一般重新執行幾次kubectl get pod --all-namespaces命令就會沒有,但是如果一直存在,表示我們硬體不夠,需要增加CPU和記憶體資源就可以了。

我們可以前兩行的是狀態一直是 Pending,其他的都是Running,這是不正常的,那為什麼只有前兩個是這樣的,後面的是好的呢,這個問題是必然會出現的。

我們可以看到 name下 有一個 coredns,它代表的是我們基礎中的網路應用,這個基礎的網路應用因為缺少一個額外的元件,所以無法進行安裝,在這裡是因為缺少 flannel網路元件,它是pod的網路元件,我們只需要通過 kubectl 進行安裝就可以了

安裝flannel網路元件:kubectl create -f kube-flannel.yml
在這裡插入圖片描述
安裝成功以後我們再使用命令:kubectl get pod --all-namespaces,就不會出現Pending的狀態了
在這裡插入圖片描述
並且master也是準備就緒了
在這裡插入圖片描述

node 從服務配置

還記得我們在主服務(master)初始化的時候,複製下來的第二步的命令嗎,我們在node(130、131)節點中只需要執行那條命令就可以了,

PS:這條命令是由我自己的master生成的,大家需要替換成你們自己的那條命令才可以。

如果我們忘記了這條命令,我們可以通過 kubeadm token list命令去檢視,然後將下方的IP地址和token替換一下就可以了,其他不用替換
在這裡插入圖片描述

kubeadm join 192.168.137.129:6443 --token lg870y.lxik26ib84938ton \
    --discovery-token-ca-cert-hash sha256:6d8331fe88ae99e89608d6dc414a9fe0a378b84ffa4044d7cacfdbbf5de41871 

通過kubectl獲取節點資訊(包含master):kubectl get nodes

在這裡插入圖片描述
然後我們就可以看到,兩個節點已經加入進來了

重新啟動服務

重啟docker:systemctl restart docker
重啟kubelet:systemctl restart kubelet
設定開機啟動:systemctl enablekubelet

kubeadm/kubelet/kubectl區別

  • kubeadm:是kubernetes叢集快速構建工具
  • kubelet 執行在所有節點上,負責啟動Pod和容器,以系統服務形式出現
  • kubectl:kubectl是kubernetes命令列工具,提供指令

小結

到這裡K8S的叢集服務就講完了,其實本身安裝K8S並不複雜,但是你架不住裡面有許多許多的坑,大家可能看到我安裝的比較順利,但是小農也是躺了很多坑,這篇文章才呈現給大家的,如果覺得文章對你有幫助的,記得點贊關注,你的支援我創作的最大動力。

如果有疑問或者不懂的地方,歡迎在下面留言,小農看到了,會第一時間回覆大家。

怕什麼真理無窮,進一步 有進一步的歡喜,大家加油~

相關文章