Cilium Ingress 特性（轉載）

evescn發表於2024-07-13

Cilium Ingress 特性（轉載）

一、環境資訊

主機	IP
ubuntu	10.0.0.234

軟體	版本
docker	26.1.4
helm	v3.15.0-rc.2
kind	0.18.0
kubernetes	1.23.4
ubuntu os	Ubuntu 22.04.6 LTS
kernel	5.15.0-106

二、`Cilium` `Ingress` 流程圖

Cilium 現在提供了開箱即用的 Kubernetes Ingress 實現。Cilium ingress 實現了基於路徑的路由、TLS 終止還可以提供多服務共享一個負載均衡器 IP 等功能。
Cilium Ingress Controller 在底層使用了 Envoy 和 eBPF，可管理進入 Kubernetes 叢集的南北向流量，叢集內的東西向流量以及跨叢集通訊的流量，同時實現豐富的 L7 負載均衡衡和 L7 流量管理。

參考官方連結

三、`Cilium` `Ingress` 模式環境搭建

`kind` 配置檔案資訊

root@KinD:~# cat install.sh

#!/bin/bash
date
set -v

# 1.prep noCNI env
cat <<EOF | kind create cluster --name=cilium-ingress-http --image=kindest/node:v1.23.4 --config=-
kind: Cluster
apiVersion: kind.x-k8s.io/v1alpha4
networking:
  # kind 預設使用 rancher cni，cni 我們需要自己建立
  disableDefaultCNI: true
  # 此處使用 cilium 代替 kube-proxy 功能
  kubeProxyMode: "none"
nodes:
  - role: control-plane
  - role: worker
  - role: worker

containerdConfigPatches:
- |-
  [plugins."io.containerd.grpc.v1.cri".registry.mirrors."harbor.evescn.com"]
    endpoint = ["https://harbor.evescn.com"]
EOF

# 2.remove taints
controller_node_ip=`kubectl get node -o wide --no-headers | grep -E "control-plane|bpf1" | awk -F " " '{print $6}'`
# kubectl taint nodes $(kubectl get nodes -o name | grep control-plane) node-role.kubernetes.io/master:NoSchedule-
kubectl get nodes -o wide

# 3.install cni
helm repo add cilium https://helm.cilium.io > /dev/null 2>&1
helm repo update > /dev/null 2>&1

helm install cilium cilium/cilium \
  --set k8sServiceHost=$controller_node_ip \
  --set k8sServicePort=6443 \
  --version 1.13.0-rc5 \
  --namespace kube-system \
  --set debug.enabled=true \
  --set debug.verbose=datapath \
  --set monitorAggregation=none \
  --set ipam.mode=cluster-pool \
  --set cluster.name=cilium-ingress-http \
  --set kubeProxyReplacement=strict \
  --set tunnel=disabled \
  --set autoDirectNodeRoutes=true \
  --set ipv4NativeRoutingCIDR=10.0.0.0/8 \
  --set bpf.masquerade=true \
  --set installNoConntrackIptablesRules=true \
  --set ingressController.enabled=true 

# 4.install necessary tools
for i in $(docker ps -a --format "table {{.Names}}" | grep cilium) 
do
    echo $i
    docker cp /usr/bin/ping $i:/usr/bin/ping
    docker exec -it $i bash -c "sed -i -e 's/jp.archive.ubuntu.com\|archive.ubuntu.com\|security.ubuntu.com/old-releases.ubuntu.com/g' /etc/apt/sources.list"
    docker exec -it $i bash -c "apt-get -y update >/dev/null && apt-get -y install net-tools tcpdump lrzsz bridge-utils >/dev/null 2>&1"
done

--set 引數解釋

--set kubeProxyReplacement=strict
- 含義: 啟用 kube-proxy 替代功能，並以嚴格模式執行。
- 用途: Cilium 將完全替代 kube-proxy 實現服務負載均衡，提供更高效的流量轉發和網路策略管理。
--set tunnel=disabled
- 含義: 禁用隧道模式。
- 用途: 禁用後，Cilium 將不使用 vxlan 技術，直接在主機之間路由資料包，即 direct-routing 模式。
--set autoDirectNodeRoutes=true
- 含義: 啟用自動直接節點路由。
- 用途: 使 Cilium 自動設定直接節點路由，最佳化網路流量。
--set ipv4NativeRoutingCIDR="10.0.0.0/8"
- 含義: 指定用於 IPv4 本地路由的 CIDR 範圍，這裡是 10.0.0.0/8。
- 用途: 配置 Cilium 使其知道哪些 IP 地址範圍應該透過本地路由進行處理，不做 snat ， Cilium 預設會對所用地址做 snat。
--set bpf.masquerade
- 含義: 啟用 eBPF 功能。
- 用途: 使用 eBPF 實現資料路由，提供更高效和靈活的網路地址轉換功能。
--set installNoConntrackIptablesRules=true:
- 安裝無連線跟蹤的 iptables 規則，這樣可以減少 iptables 規則集中的連線跟蹤負擔。
--set socketLB.enabled=true:
- 啟用 Socket Load Balancer（SLB），用於最佳化服務之間的負載均衡。
--set ingressController.enabled=true
- 啟用 Ingress 控制器，Cilium 將管理 Ingress 資源。

Cilium 必須使用 kubeProxyReplacement 配置為部分或嚴格。詳情請參考 kube-proxy replacement。
配置 Cilium 時，必須使用 --enable-l7-proxy 標誌（預設已啟用）啟用 L7 代理。
Cilium Ingress 支援的 Kubernetes 版本最低為 1.19。
安裝 k8s 叢集和 cilium 服務

root@KinD:~# ./install.sh

Creating cluster "cilium-ingress-http" ...
 ✓ Ensuring node image (kindest/node:v1.23.4) 🖼
 ✓ Preparing nodes 📦 📦 📦  
 ✓ Writing configuration 📜 
 ✓ Starting control-plane 🕹️ 
 ✓ Installing StorageClass 💾 
 ✓ Joining worker nodes 🚜 
Set kubectl context to "kind-cilium-ingress-http"
You can now use your cluster with:

kubectl cluster-info --context kind-cilium-ingress-http

Have a question, bug, or feature request? Let us know! https://kind.sigs.k8s.io/#community 🙂

檢視安裝的服務

root@KinD:~# kubectl get pods -A
NAMESPACE            NAME                                                        READY   STATUS    RESTARTS   AGE
kube-system          cilium-5gmxj                                                1/1     Running   0          5m52s
kube-system          cilium-operator-dd757785c-bnczh                             1/1     Running   0          5m52s
kube-system          cilium-operator-dd757785c-t6xpb                             1/1     Running   0          5m52s
kube-system          cilium-vmjqt                                                1/1     Running   0          5m52s
kube-system          cilium-wjvh2                                                1/1     Running   0          5m52s
kube-system          coredns-64897985d-8jvrv                                     1/1     Running   0          6m15s
kube-system          coredns-64897985d-lmmwh                                     1/1     Running   0          6m15s
kube-system          etcd-cilium-ingress-http-control-plane                      1/1     Running   0          6m30s
kube-system          kube-apiserver-cilium-ingress-http-control-plane            1/1     Running   0          6m32s
kube-system          kube-controller-manager-cilium-ingress-http-control-plane   1/1     Running   0          6m29s
kube-system          kube-scheduler-cilium-ingress-http-control-plane            1/1     Running   0          6m29s
local-path-storage   local-path-provisioner-5ddd94ff66-wb4tp                     1/1     Running   0          6m15s

安裝 `metallb` 服務，提供 `LoadBanlencer` 功能

安裝 metallb 服務

root@KinD:~# kubectl apply -f https://gh.api.99988866.xyz/https://raw.githubusercontent.com/metallb/metallb/v0.13.10/config/manifests/metallb-native.yaml

namespace/metallb-system created
customresourcedefinition.apiextensions.k8s.io/addresspools.metallb.io created
customresourcedefinition.apiextensions.k8s.io/bfdprofiles.metallb.io created
customresourcedefinition.apiextensions.k8s.io/bgpadvertisements.metallb.io created
customresourcedefinition.apiextensions.k8s.io/bgppeers.metallb.io created
customresourcedefinition.apiextensions.k8s.io/communities.metallb.io created
customresourcedefinition.apiextensions.k8s.io/ipaddresspools.metallb.io created
customresourcedefinition.apiextensions.k8s.io/l2advertisements.metallb.io created
serviceaccount/controller created
serviceaccount/speaker created
role.rbac.authorization.k8s.io/controller created
role.rbac.authorization.k8s.io/pod-lister created
clusterrole.rbac.authorization.k8s.io/metallb-system:controller created
clusterrole.rbac.authorization.k8s.io/metallb-system:speaker created
rolebinding.rbac.authorization.k8s.io/controller created
rolebinding.rbac.authorization.k8s.io/pod-lister created
clusterrolebinding.rbac.authorization.k8s.io/metallb-system:controller created
clusterrolebinding.rbac.authorization.k8s.io/metallb-system:speaker created
configmap/metallb-excludel2 created
secret/webhook-server-cert created
service/webhook-service created
deployment.apps/controller created
daemonset.apps/speaker created
validatingwebhookconfiguration.admissionregistration.k8s.io/metallb-webhook-configuration created

建立 metalLb layer2 的 IPAddressPool

root@KinD:~# cat metallb-l2-ip-config.yaml
---
# metallb 分配給 loadbanlencer 的 ip 地址段定義
apiVersion: metallb.io/v1beta1
kind: IPAddressPool
metadata:
  name: ippool
  namespace: metallb-system
spec:
  addresses:
  - 172.18.0.200-172.18.0.210

---
# 建立 L2Advertisement 進行 IPAddressPool 地址段
apiVersion: metallb.io/v1beta1
kind: L2Advertisement
metadata:
  name: ippool
  namespace: metallb-system
spec:
  ipAddressPools:
  - ippool


root@KinD:~# kubectl apply -f metallb-l2-ip-config.yaml
ipaddresspool.metallb.io/ippool unchanged
l2advertisement.metallb.io/ippool created

root@KinD:~# kubectl get ipaddresspool -n metallb-system
NAME     AUTO ASSIGN   AVOID BUGGY IPS   ADDRESSES
ippool   true          false             ["172.18.0.200-172.18.0.210"]
root@KinD:~# kubectl get l2advertisement -n metallb-system
NAME     IPADDRESSPOOLS   IPADDRESSPOOL SELECTORS   INTERFACES
ippool   ["ippool"]

`k8s` 叢集安裝 `Pod` 和 `Service`

root@KinD:~# cat cni.yaml
---
apiVersion: apps/v1
kind: DaemonSet
#kind: Deployment
metadata:
  labels:
    app: cni
  name: cni
spec:
  #replicas: 1
  selector:
    matchLabels:
      app: cni
  template:
    metadata:
      labels:
        app: cni
    spec:
      containers:
      - image: harbor.dayuan1997.com/devops/nettool:0.9
        name: nettoolbox
        securityContext:
          privileged: true

---
apiVersion: v1
kind: Service
metadata:
  name: cni
spec:
  ports:
  - port: 80
    targetPort: 80
    protocol: TCP
  type: ClusterIP
  selector:
    app: cni

root@KinD:~# kubectl apply -f cni.yaml
daemonset.apps/cni created
service/serversvc created

檢視安裝服務資訊

root@KinD:~# kubectl get pods -o wide
NAME        READY   STATUS    RESTARTS   AGE     IP           NODE                          NOMINATED NODE   READINESS GATES
cni-2qqzv   1/1     Running   0          2m54s   10.0.1.162   cilium-ingress-http-worker    <none>           <none>
cni-jnt6p   1/1     Running   0          2m54s   10.0.2.118   cilium-ingress-http-worker2   <none>           <none>

root@KinD:~# kubectl get svc
NAME         TYPE        CLUSTER-IP     EXTERNAL-IP   PORT(S)   AGE
cni          ClusterIP   10.96.86.241   <none>        80/TCP    13s
kubernetes   ClusterIP   10.96.0.1      <none>        443/TCP   5m10s

四、測試 `Ingress` `HTTP` 特性

配置 `Ingress` `HTTP`

root@KinD:~# cat ingress.yamnl
---
apiVersion: networking.k8s.io/v1
kind: Ingress
metadata:
  name: basic-ingress
  namespace: default
spec:
  ingressClassName: cilium
  rules:
    - http:
        paths:
          - backend:
              service:
                name: cni
                port:
                  number: 80
            path: /
            pathType: Prefix

root@KinD:~# kubectl apply -f ingress.yaml
ingress.networking.k8s.io/basic-ingress created

root@KinD:~# kubectl get svc
NAME                           TYPE           CLUSTER-IP     EXTERNAL-IP    PORT(S)                      AGE
cilium-ingress-basic-ingress   LoadBalancer   10.96.95.86    172.18.0.201   80:31690/TCP,443:30103/TCP   2m43s
cni                            ClusterIP      10.96.86.241   <none>         80/TCP                       3m3s
kubernetes                     ClusterIP      10.96.0.1      <none>         443/TCP                      8m

root@KinD:~# kubectl get ingress
NAME            CLASS    HOSTS   ADDRESS        PORTS   AGE
basic-ingress   cilium   *       172.18.0.201   80      3m17s

建立 Ingress 後 basic-ingress 在定義的地址池中自動獲取了一個 IP 地址，並且自動建立了一個 cilium-ingress-basic-ingress svc 服務，服務的 EXTERNAL-IP 為 basic-ingress 從地址池中自動獲取的 IP 地址

測試 `Ingress` `HTTP`

root@KinD:~# HTTP_INGRESS=$(kubectl get ingress basic-ingress -o jsonpath='{.status.loadBalancer.ingress[0].ip}')
root@KinD:~# curl -v --fail -s http://"$HTTP_INGRESS"/
*   Trying 172.18.0.201:80...
* Connected to 172.18.0.201 (172.18.0.201) port 80 (#0)
> GET / HTTP/1.1
> Host: 172.18.0.201
> User-Agent: curl/7.81.0
> Accept: */*
> 
* Mark bundle as not supporting multiuse
< HTTP/1.1 200 OK
< server: envoy
< date: Sat, 13 Jul 2024 08:53:48 GMT
< content-type: text/html
< content-length: 47
< last-modified: Sat, 13 Jul 2024 08:48:55 GMT
< etag: "66923f77-2f"
< accept-ranges: bytes
< x-envoy-upstream-service-time: 0
< 
PodName: cni-jnt6p | PodIP: eth0 10.0.2.118/32
* Connection #0 to host 172.18.0.201 left intact

在宿主機 172.18.0.1 主機上訪問業務正常訪問，使用 ip 地址為 172.18.0.201

五、測試 `Ingress` `HTTPS` 特性

建立 tls 證書，此處使用了一個測試證書

root@KinD:~# kubectl  create secret tls demo-cert --cert=tls.crt --key=tls.key
secret/demo-cert created

配置 `Ingress` `HTTPS`

root@KinD:~# cat ingress.yamnl
---
apiVersion: networking.k8s.io/v1
kind: Ingress
metadata:
  name: tls-ingress
  namespace: default
spec:
  ingressClassName: cilium
  rules:
    - host: cni.evescn.com
      http:
        paths:
          - backend:
              service:
                name: cni
                port:
                  number: 80
            path: /
            pathType: Prefix
  tls:
    - hosts:
        - cni.evescn.com
      secretName: demo-cert

root@KinD:~# k apply -f 5-ingress.yaml
ingress.networking.k8s.io/tls-ingress created

root@KinD:~#  kubectl get svc
NAME                           TYPE           CLUSTER-IP     EXTERNAL-IP    PORT(S)                      AGE
cilium-ingress-basic-ingress   LoadBalancer   10.96.95.86    172.18.0.201   80:31690/TCP,443:30103/TCP   60m
cilium-ingress-tls-ingress     LoadBalancer   10.96.226.30   172.18.0.202   80:30331/TCP,443:32394/TCP   7s
cni                            ClusterIP      10.96.86.241   <none>         80/TCP                       60m
kubernetes                     ClusterIP      10.96.0.1      <none>         443/TCP                      65m

root@KinD:~# kubectl get ingress
NAME            CLASS    HOSTS            ADDRESS        PORTS     AGE
basic-ingress   cilium   *                172.18.0.201   80        60m
tls-ingress     cilium   cni.evescn.com   172.18.0.202   80, 443   12s

建立 Ingress 後 tls-ingress 在定義的地址池中自動獲取了一個 IP 地址，並且自動建立了一個 cilium-ingress-tls-ingress svc 服務，服務的 EXTERNAL-IP 為 tls-ingress 從地址池中自動獲取的 IP 地址

測試 `Ingress` `HTTPS`

/etc/hosts 新增 dns 解析

root@KinD:~# cat /etc/hosts
......
172.18.0.202 cni.evescn.com

測試 Ingress HTTPS

root@KinD:~# HTTP_INGRESS=$(kubectl get ingress tls-ingress -o jsonpath='{.status.loadBalancer.ingress[0].ip}')
root@KinD:~# curl -v --fail -s http://"$HTTP_INGRESS"/
root@KinD:~/wcni-kind/cilium/cilium_1.13.0-rc5/cilium-ingress/2-https# curl --cacert /root/evescn.com.pem -v https://cni.evescn.com/
*   Trying 172.18.0.202:443...
* Connected to cni.evescn.com (172.18.0.202) port 443 (#0)
> GET / HTTP/1.1
> Host: cni.evescn.com
> User-Agent: curl/7.81.0
> Accept: */*
> 
* TLSv1.2 (IN), TLS header, Supplemental data (23):
* TLSv1.3 (IN), TLS handshake, Newsession Ticket (4):
* TLSv1.3 (IN), TLS handshake, Newsession Ticket (4):
* old SSL session ID is stale, removing
* TLSv1.2 (IN), TLS header, Supplemental data (23):
* Mark bundle as not supporting multiuse
< HTTP/1.1 200 OK
< server: envoy
< date: Sat, 13 Jul 2024 09:52:20 GMT
< content-type: text/html
< content-length: 47
< last-modified: Sat, 13 Jul 2024 08:48:55 GMT
< etag: "66923f77-2f"
< accept-ranges: bytes
< x-envoy-upstream-service-time: 0
< 
PodName: cni-2qqzv | PodIP: eth0 10.0.1.162/32
* Connection #0 to host cni.evescn.com left intact

在宿主機 172.18.0.1 主機上訪問業務正常訪問，使用 ip 地址為 172.18.0.201

六、轉載部落格

https://bbs.huaweicloud.com/blogs/418684#H13

Cilium Gateway API 特性（轉載）
2024-07-16
GatewayAPI
Cilium Socket LB 特性
2024-07-10
容器網路Cilium：DualStack雙棧特性分析
2023-12-15
Cilium使用 (Cilium 3)
2020-04-19
cilium 元件
2024-05-07
元件
[轉載] Java7中增加的新特性
2020-12-24
Java
cilium Cluster Mesh
2024-05-30
Cilium 首次整合國內雲服務，阿里雲 ENI 被納入新版本特性
2021-06-16
阿里
使用騰訊雲容器服務玩轉 Nginx Ingress
2020-12-28
Nginx
k8s使用ingress-nginx負載均衡
2019-04-18
K8SNginx負載
kubernetes實踐之十三：負載均衡機制Ingress
2018-04-09
負載
Kubernetes Ingress
2024-09-18
Istio-Ingress 與 nginx-ingress的差別
2024-05-27
Nginx
docker筆記26-ingress資源和ingress controller
2018-09-25
Docker筆記Controller
【轉】Spring Framework 5.0 新特性
2018-07-04
SpringFramework
【轉】http2 新特性
2020-04-04
HTTP
除錯 Ingress Nginx
2020-08-26
除錯Nginx
kubernetes物件之Ingress
2019-06-11
物件
Oracle時間資訊特性(轉)
2019-01-15
Oracle
玩轉ES6新特性
2018-08-11
為什麼 APISIX Ingress 是比 Ingress NGINX 更好的選擇？
2023-01-17
APINginx
玩轉iOS開發：iOS 11 新特性《Layout的新特性》
2019-02-20
iOS
PHP 7.4 新特性 —— 預載入
2020-07-13
PHP
Ingress-Nginx 安裝
2024-07-01
Nginx
ingress-nginx-controller部署
2024-06-28
NginxController
Kubernetes：Ingress總結(二)
2022-03-21
Kubernetes：Ingress總結(一)
2022-03-17
Kubernetes Ingress-nginx使用
2020-12-03
Nginx
[轉帖]Linux 最新SO_REUSEPORT特性
2024-06-12
Linux
Kubernetes 網路學習之 Cilium 與 eBPF
2023-01-12
eBPF
【轉載】Elasticsearch
2018-12-25
Elasticsearch
轉載AOP
2018-04-30
[轉載] ebxml
2020-11-11
XML
FPGA【轉載】
2019-02-12
FPGA
轉載方法
2024-08-22
Istio Ingress流量入口配置原理
2018-09-02
Kubernetes Ingress簡單入門
2020-05-26
DaemonSet方式部署nginx-ingress
2023-02-05
Nginx

Cilium Ingress 特性（轉載）

Cilium Ingress 特性（轉載）

一、環境資訊

二、Cilium Ingress 流程圖

三、Cilium Ingress 模式環境搭建

kind 配置檔案資訊

安裝 metallb 服務，提供 LoadBanlencer 功能

k8s 叢集安裝 Pod 和 Service

四、測試 Ingress HTTP 特性

配置 Ingress HTTP

測試 Ingress HTTP

五、測試 Ingress HTTPS 特性

建立 tls 證書，此處使用了一個測試證書

配置 Ingress HTTPS

測試 Ingress HTTPS

六、轉載部落格

相關文章

二、`Cilium` `Ingress` 流程圖

三、`Cilium` `Ingress` 模式環境搭建

`kind` 配置檔案資訊

安裝 `metallb` 服務，提供 `LoadBanlencer` 功能

`k8s` 叢集安裝 `Pod` 和 `Service`

四、測試 `Ingress` `HTTP` 特性

配置 `Ingress` `HTTP`

測試 `Ingress` `HTTP`

五、測試 `Ingress` `HTTPS` 特性

配置 `Ingress` `HTTPS`

測試 `Ingress` `HTTPS`