web server apache tomcat11-18-clusting 叢集

老马啸西风發表於2024-04-24

前言

整理這個官方翻譯的系列,原因是網上大部分的 tomcat 版本比較舊,此版本為 v11 最新的版本。

開源專案

從零手寫實現 tomcat minicat 別稱【嗅虎】心有猛虎,輕嗅薔薇。

系列文章

web server apache tomcat11-01-官方文件入門介紹

web server apache tomcat11-02-setup 啟動

web server apache tomcat11-03-deploy 如何部署

web server apache tomcat11-04-manager 如何管理?

web server apache tomcat11-06-Host Manager App -- Text Interface

web server apache tomcat11-07-Realm Configuration

web server apache tomcat11-08-JNDI Resources

web server apache tomcat11-09-JNDI Datasource

web server apache tomcat11-10-Class Loader

...

clusting

急於求成

只需將以下內容新增到您的 <Engine><Host> 元素中即可啟用叢集。

使用上述配置將啟用所有節點間的會話複製,使用 DeltaManager 複製會話增量。所謂的全對全,是指每個會話都會複製到叢集中的所有其他節點。這在較小的叢集中效果很好,但我們不建議在較大的叢集中使用 — 多於 4 個節點左右。此外,當使用 DeltaManager 時,Tomcat 將會話複製到所有節點,甚至那些未部署應用的節點。

為了解決這些問題,您將希望使用 BackupManager。BackupManager 僅將會話資料複製到一個備用節點,並且僅複製到已部署應用的節點。一旦您使用 DeltaManager 執行了簡單的叢集,隨著您增加叢集中節點的數量,您可能希望遷移到 BackupManager。

以下是一些重要的預設值:

  • 多播地址為 228.0.0.4
  • 多播埠為 45564(埠和地址一起確定了叢集成員身份)
  • 廣播的 IP 是 java.net.InetAddress.getLocalHost().getHostAddress()(確保不要廣播 127.0.0.1,這是一個常見的錯誤)
  • 監聽複製訊息的 TCP 埠是範圍在 4000-4100 的第一個可用伺服器套接字
  • 配置了監聽器 ClusterSessionListener
  • 配置了兩個攔截器 TcpFailureDetector 和 MessageDispatchInterceptor

以下是預設的叢集配置:

<Cluster className="org.apache.catalina.ha.tcp.SimpleTcpCluster"
         channelSendOptions="8">

  <Manager className="org.apache.catalina.ha.session.DeltaManager"
           expireSessionsOnShutdown="false"
           notifyListenersOnReplication="true"/>

  <Channel className="org.apache.catalina.tribes.group.GroupChannel">
    <Membership className="org.apache.catalina.tribes.membership.McastService"
                address="228.0.0.4"
                port="45564"
                frequency="500"
                dropTime="3000"/>
    <Receiver className="org.apache.catalina.tribes.transport.nio.NioReceiver"
              address="auto"
              port="4000"
              autoBind="100"
              selectorTimeout="5000"
              maxThreads="6"/>

    <Sender className="org.apache.catalina.tribes.transport.ReplicationTransmitter">
      <Transport className="org.apache.catalina.tribes.transport.nio.PooledParallelSender"/>
    </Sender>
    <Interceptor className="org.apache.catalina.tribes.group.interceptors.TcpFailureDetector"/>
    <Interceptor className="org.apache.catalina.tribes.group.interceptors.MessageDispatchInterceptor"/>
  </Channel>

  <Valve className="org.apache.catalina.ha.tcp.ReplicationValve"
         filter=""/>
  <Valve className="org.apache.catalina.ha.session.JvmRouteBinderValve"/>

  <Deployer className="org.apache.catalina.ha.deploy.FarmWarDeployer"
            tempDir="/tmp/war-temp/"
            deployDir="/tmp/war-deploy/"
            watchDir="/tmp/war-listen/"
            watchEnabled="false"/>

  <ClusterListener className="org.apache.catalina.ha.session.ClusterSessionListener"/>
</Cluster>

我們將在本文件後面更詳細地介紹這一部分。

安全性

叢集實現是基於在所有叢集相關的網路流量中使用安全、可信任的網路的前提下編寫的。在不安全、不可信任的網路上執行叢集是不安全的。

為 Tomcat 叢集提供安全、可信任的網路有許多選項,包括:

  • 私有 LAN
  • 虛擬專用網路(VPN)
  • IPSEC

EncryptInterceptor 提供了機密性和完整性保護,但它不能保護免受在不可信任網路上執行 Tomcat 叢集時可能發生的所有風險,特別是 DoS 攻擊。

叢集基礎知識

要在您的 Tomcat 11 容器中執行會話複製,應完成以下步驟:

  • 所有會話屬性都必須實現 java.io.Serializable
  • 在 server.xml 中取消註釋 Cluster 元素
  • 如果您定義了自定義叢集閥門,請確保在 server.xml 中的 Cluster 元素下也定義了 ReplicationValve
  • 如果您的 Tomcat 例項執行在同一臺機器上,請確保 Receiver.port 屬性對於每個例項是唯一的,在大多數情況下,Tomcat 能夠自動檢測到範圍在 4000-4100 的可用埠
  • 確保您的 web.xml 中有 <distributable/> 元素
  • 如果您使用 mod_jk,請確保在 Engine <Engine name="Catalina" jvmRoute="node01" > 中設定了 jvmRoute 屬性,並且該 jvmRoute 屬性值與 workers.properties 中的 worker 名稱匹配
  • 確保所有節點具有相同的時間並與 NTP 服務同步!
  • 確保您的負載均衡器配置為粘性會話模式

負載均衡可以透過多種技術實現,如負載均衡章節所述。

注意:請記住,您的會話狀態由 cookie 跟蹤,因此您的 URL 在外部必須看起來相同,否則會建立一個新的會話。

叢集模組使用 Tomcat JULI 日誌框架,因此您可以透過常規的 logging.properties 檔案配置日誌記錄。要跟蹤訊息,您可以在鍵 org.apache.catalina.tribes.MESSAGES 上啟用日誌記錄。

概述

為了在 Tomcat 中啟用會話複製,可以採取三種不同的路徑來實現相同的目標:

  • 使用會話永續性,並將會話儲存到共享檔案系統(PersistenceManager + FileStore)
  • 使用會話

永續性,並將會話儲存到共享資料庫(PersistenceManager + JDBCStore)

  • 使用記憶體複製,使用隨 Tomcat 一起提供的 SimpleTcpCluster(lib/catalina-tribes.jar + lib/catalina-ha.jar)

Tomcat 可以使用 DeltaManager 執行會話狀態的全對全複製,也可以使用 BackupManager 執行僅將會話複製到一個節點的備份複製。全對全複製是一種僅在叢集較小時才有效的演算法。對於較大的叢集,您應該使用 BackupManager,以使用主要 - 次要會話複製策略,其中會話僅儲存在一個備份節點上。

目前,您可以使用 domain worker 屬性(mod_jk > 1.2.8)構建具有更高可伸縮性的叢集解決方案,以使用 DeltaManager 配置域攔截器(您將需要為此配置域攔截器)。為了在全對全環境中減少網路流量,在多個組之間拆分叢集。這可以透過為不同的組使用不同的多播地址輕鬆實現。一個非常簡單的設定如下所示:

DNS 輪詢
       |
  負載均衡器
   /           \
叢集1        叢集2
  /     \        /     \
Tomcat1 Tomcat2  Tomcat3 Tomcat4

這裡重要提及的是,會話複製只是叢集的開始。用於實現叢集的另一個流行概念是 farming,即將應用程式僅部署到一個伺服器,然後叢集將在整個叢集中分佈部署。這是 FarmWarDeployer 可以實現的所有功能(請參閱 server.xml 中的叢集示例)。

在下一節中,我們將更深入地介紹會話複製的工作原理和配置方法。

叢集資訊

透過多播心跳建立成員資格。因此,如果您希望將您的叢集細分,可以透過更改 <Membership> 元素中的多播 IP 地址或埠來實現。

心跳包包含 Tomcat 節點的 IP 地址和 Tomcat 用於複製流量的 TCP 埠。所有資料通訊都在 TCP 上進行。

ReplicationValve 用於在請求完成後查詢並啟動複製(如果有)。僅當會話已更改(透過對會話呼叫 setAttribute 或 removeAttribute)時,才會複製資料。

其中一個最重要的效能考慮因素是同步與非同步複製。在同步複製模式下,請求在複製的會話透過網路並在所有其他叢集節點上重新例項化之前不會返回。同步與非同步是透過 channelSendOptions 標誌進行配置的,它是一個整數值。SimpleTcpCluster/DeltaManager 組合的預設值為 8,即非同步。有關各種 channelSendOptions 值的更多討論,請參閱配置參考。

為方便起見,channelSendOptions 可以透過名稱設定,而不是整數值,這些名稱在啟動時將被翻譯為其整數值。有效的選項名稱為:"asynchronous"(別名 "async"),"byte_message"(別名 "byte"),"multicast","secure","synchronized_ack"(別名 "sync"),"udp","use_ack"。使用逗號分隔多個名稱,例如,傳遞 "async, multicast" 作為選項 SEND_OPTIONS_ASYNCHRONOUS | SEND_OPTIONS_MULTICAST。

您可以在send flag(overview)send flag(javadoc) 上閱讀更多關於 send flag 的資訊。在非同步複製期間,請求在資料被複制之前返回。非同步複製可縮短請求時間,而同步複製可確保在請求返回之前複製會話。

在崩潰後將會話繫結到故障轉移節點

如果您正在使用 mod_jk 並且未使用粘性會話,或者由於某些原因粘性會話不起作用,或者您只是在故障轉移,那麼會話 ID 將需要修改,因為它先前包含了前一個 Tomcat 的 worker ID(由 Engine 元素中的 jvmRoute 定義)。為解決此問題,我們將使用 JvmRouteBinderValve。

JvmRouteBinderValve 會重寫會話 ID,以確保下一個請求在故障轉移後仍然保持粘性(並且不會退回到隨機節點,因為該 worker 不再可用)。該閥門將在 cookie 中將 JSESSIONID 值重寫為同名。如果沒有這個閥門,那麼在 mod_jk 模組發生故障時確保粘性會變得更加困難。

請注意,如果您在 server.xml 中新增了自定義閥門,則預設值將不再有效,請確保您新增了所有適當的閥門,這些閥門由預設定義。

提示:
透過屬性 sessionIdAttribute,您可以更改包含舊會話 ID 的請求屬性名稱。預設屬性名稱為 org.apache.catalina.ha.session.JvmRouteOriginalSessionID。

技巧:
您可以在將節點丟棄到所有備用節點之前透過 JMX 啟用此 mod_jk 轉換模式!將 JvmRouteBinderValve 備份的 enable 屬性設定為 true,禁用 mod_jk 中的 worker,然後丟棄節點並重新啟動它!然後再次啟用 mod_jk Worker 並禁用 JvmRouteBinderValves。這種用法意味著僅遷移請求的會話。

相關文章