在既有系統中打通Apache Ignite、MySQL和Node.js
本文由公眾號EAWorld翻譯發表,轉載需註明出處。
作者:Akmal B. Chaudhri
譯者:李玉珏
原題:Using 'No Rip and Replace' with Apache® Ignite™, MySQL and Node.js
原文:http://t.cn/Efatkx6
全文3769字,閱讀約需要8分鐘
介紹:
在本文中,可以看一下Ignite在處理其它資料來源(比如關聯式資料庫)的已有資料時,一個很有用的場景。
通常在行業領域,很多系統還有著巨大的商業價值,它們必須得到維護甚至加強,未被開發的領域已經很少見了。而Ignite可以用於組織中的遺留系統或傳統系統,以增加它們的價值並提供新的可能性,例如具有水平可擴充套件性的叢集計算、顯著的記憶體級效能優勢以及使用機器和深度學習的新應用等等。
具體可以看一個示例,其中在關聯式資料庫中已經有了一些資料,然後瞭解Ignite如何將該資料快取到記憶體中,對該記憶體資料執行SQL操作並將更改回寫關聯式資料庫,這裡將使用一些Node.js程式碼來訪問Ignite並執行一些SQL查詢。
一、已有的資料庫系統
本文中使用了MySQL,並且其中已經準備好了一個名為world的資料庫,裡面已經載入了部分資料。
這個world資料庫的結構為有三張關係表,具體如下:
country:代表世界上的國家(239行資料);
city:代表國家的部分城市資訊(4079行資料);
countrylanguage:各個國家說的語言(984行資料)。
接下來,確認MySQL是否已經成功啟動,並接受外部連線。
二、Web控制檯和Web代理
為了訪問MySQL資料庫的模式資訊,需要使用Ignite的Web控制檯,在本文中為了方便,使用的是GridGain託管的服務,不過Web控制檯的原始碼是可以下載的,可以在本地構建然後在公司的防火牆後面執行,具體細節可以參見相關的文件。
還需要一個Web代理,它可以從Web控制檯中下載,如下圖所示:
Web代理的zip包下載完成之後,可以解壓該檔案,目錄結構大致如下圖所示:
注意這裡有個名為jdbc-drivers的目錄,因為本例需要訪問MySQL,所以需要下載MySQL的驅動,然後將jar檔案放在該資料夾中,如下圖所示:
下面從終端視窗中啟動Web代理,如下:
./ignite-web-agent.sh
輸出大致如下圖所示:
三、從MySQL中匯入模式
下面就可以匯入模式資訊了,在Web控制檯的Configuration頁面中,右上角有一個Import from Database按鈕,如下圖所示:
點選該按鈕之後,輸出大致如下圖所示:
在這個介面中,需要輸入MySQL伺服器的JDBC URL、User和Password,大致如下圖所示:
填完之後點選Next,這時就會看到各個資料庫模式,然後把除了world模式之外的都取消掉,如下圖所示:
選好之後,點選Next,就會看到3張表,如下圖所示:
對於本文來說,這頁面中的預設值就可以了,然後點選Next,這會跳到如下圖所示的頁面:
對於本文來說,這個頁面的預設值就可以,然後點選Save:
接下來在Configuration頁面,可以看到列出了一個新的名為ImportedCluster配置項,如下圖所示:
為了滿足業務需求,這個配置是可以修改的。
四、修改配置
如果點選上圖中的ImportedCluster,就會跳轉到下面的頁面:
這個介面中有兩個選項卡:Basic和Advanced。
在Basic選項卡中,叢集的配置名(第一步),如果往下滾動,Ignite儲存的名字(第二步),還有其它的若干個引數,都可以修改,在本例中,會維持這個頁面中的預設值。
在Advanced選項卡中,還有其它的子項,包括Cluster、SQL Scheme、Caches、IGFS和GridGain,如下圖所示,如果需要,這裡面的很多引數都可以微調:
這裡選擇SQL Scheme選項卡,選中City這一行,如下圖所示,然後向下滾動並展開Domain model for SQL query部分:
這裡有一個indexes子項,值為CountryCode,如果點選它,可以進行修改,如下圖所示:
這裡將索引名改為idx_country_code,然後點選Save按鈕。接下來為Countrylanguage重複前圖和上圖的過程,將索引名改為idx_lang_country_code之後儲存更改,做這些修改,可以確保索引名在整個Ignite模式中是唯一的。
下面選擇Caches選項卡,首先選擇CityCache,如下圖所示,然後往下滾動並展開Queries & Indexing部分:
在Queries & Indexing中,有一個值為空名為SQL schema name的欄位,在這裡輸入PUBLIC後儲存變更,然後為CountryCache和CountrylanguageCache重複這個過程。
最後,返回到Configuration頁面,選中ImportedCluster然後在Actions下拉框中下載這個工程,如下圖所示:
這時會儲存一個名為ImportedCluster-project.zip的檔案,解壓這個檔案之後就可以在IDE中通過讀取其中的pom.xml檔案建立一個新的工程,如下圖所示:
在pom.xml檔案中,在dependencies下面,需要檢查一下mysql-connector-java依賴,如果缺失,需要加一下,如下所示:
<dependency>
<groupId>mysql</groupId>
<artifactId>mysql-connector-java</artifactId>
<version>8.0.15</version>
</dependency>
這裡的版本號匹配了之前使用的JDBC驅動的版本號。
在這個工程中,在resources資料夾下面,有一個名為secret.properties的檔案,如下圖所示:
這裡需要填入之前使用的JDBC URL、Username和Password,然後儲存修改。
工程重新構建之後,就可以啟動一個Ignite服務端節點,如下圖所示:
接下來,通過執行LoadCaches,可以把MySQL中的資料載入進Ignite儲存,如下圖所示:
在Web控制檯中,轉到Monitoring > Dashboard > Caches,可以看到Ignite儲存已經建立並且資料也已經成功載入,如下圖所示:
Ignite現在已經執行起來,建立了儲存並且從MySQL中載入了資料,這時就可以通過任意數量不同的介面接入Ignite,不過本文會使用Node.js瘦客戶端。
五、Node.js瘦客戶端
使用Ignite提供的Node.js版本SQL示例作為模板,可以建立若干個Node.js應用,然後執行下表中列出的SQL查詢,完整的Node.js應用程式碼可以參見GitHub,在下面的例子中,該Node.js應用在Ignite的Node.js示例資料夾中執行:
Q1:3個人口最多的國家
SELECT name, MAX(population)
AS max_pop FROM country
GROUP BY name, population
ORDER BY max_pop
DESC LIMIT 3
Q2:US、RUS和CHN中3個人口最多的城市
SELECT country.name, city.name, MAX(city.population)
AS max_pop FROM country
JOIN city ON city.countrycode = country.code
WHERE country.code IN ('USA','RUS','CHN')
GROUP BY country.name, city.name
ORDER BY max_pop
DESC LIMIT 3
Q3:更新國家名稱
UPDATE country
SET name = 'USA'
WHERE name = 'United States'
Q4:恢復國家名稱
UPDATE country
SET name = 'United States'
WHERE name = 'USA'
Q1的輸出如下圖所示:
Q2比Q1複雜些,包含了兩個表的關聯,Q2的輸出大致如下圖所示:
Q3執行了一個更新操作,Q3執行完之後,Ignite的快取會被更新,並且更新會被回寫到MySQL中,保持兩者之間的同步。可以使用DBeaver確認一下,首先在Country表中找到值為United States的行,如下圖所示:
Q3執行完之後重新整理一下DBeaver,可以看到Name欄位的值已經變為USA,如下圖所示:
Q4恢復了原來的值,通過執行這個SQL然後重新整理一下DBeaver可以進行驗證,如下圖所示:
六、下一步
通過修改和調整Ignite附帶的示例,可以進一步測試Node.js瘦客戶端。此外,Web控制檯提供了許多選項,可用於從現有資料庫系統微調和調整模式資訊,具體可以參見Web控制檯的相關文件。
七、總結
在本文中,瞭解瞭如何從現有的MySQL資料庫系統中獲取模式資訊並建立一個Ignite工程。這個Ignite工程能夠將資料從MySQL伺服器複製到Ignite儲存,然後在該資料中執行查詢。從規模上看,Ignite可以利用叢集計算的強大功能使操作並行化,在記憶體中快速執行查詢並進行分析,甚至機器和深度學習,同時還保留現有系統的商業價值。雖然在本示例中使用了Node.js瘦客戶端,不過Ignite還支援其它程式語言的瘦客戶端。
關於作者:李玉珏,大連理工大學畢業,架構師,創業者,有豐富的架構設計和技術研發團隊管理經驗,有眾多行業領域企業級軟體的從業經歷,社群技術翻譯作者以及撰稿人,開源技術貢獻者。Apache Ignite 技術中文文件翻譯作者,長期在國內進行 Ignite 技術的推廣/技術支援/諮詢工作。
關於EAWorld:微服務,DevOps,資料治理,移動架構原創技術分享,長按二維碼關注
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/31562043/viewspace-2637303/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- Apache Ignite剖析Apache
- Apache Ignite 學習筆記(6): Ignite中Entry Processor使用Apache筆記
- 初步認識Apache IgniteApache
- 5分鐘內讓你瞭解Apache Ignite - softwaremillApacheREM
- IgniteFAQ-8-org.apache.ignite.IgniteException: Failed to unmarshal discovery custom messageApacheExceptionAI
- linux雲伺服器系統FTP、apache、mysql配置方法Linux伺服器FTPApacheMySql
- 在Linux中,如何配置和管理系統服務?Linux
- Apache Ignite 學習筆記(五): Primary和backup資料同步模式和處理分片丟失的策略Apache筆記模式
- OLAP系統解析:Apache Kylin和Baidu Palo哪家強?ApacheAI
- 如何利用CRM系統打通營銷全渠道?
- CRMEB公眾號小程式商城系統打通版
- 在Linux中,如何配置和管理系統備份和恢復策略?Linux
- Node.js模組系統Node.js
- 在Linux中,什麼是入侵檢測系統(IDS)和入侵防禦系統(IPS)?Linux
- 在 Apache Cassandra 中定義和最佳化資料分割槽Apache
- Node.js執行系統命令Node.js
- 在Linux中,如何使用指令碼進行系統配置和部署?Linux指令碼
- 在Linux中,如何建立、檢查和修復檔案系統?Linux
- 在Linux中,如何實現檔案系統的快照和克隆?Linux
- TiDB 在 Mobikok 廣告系統中的應用和實踐TiDB
- 非空校驗在oracle和mysql中的用法OracleMySql
- win10系統無法正常執行apmserv顯示apache和mysql啟動失敗怎麼辦Win10ApacheMySql
- 基於Vue和Node.js的電商後臺管理系統VueNode.js
- 在 Linux 系統中開放埠Linux
- 在Windows系統中配置Google AddressSanitizerWindowsGo
- 重灌系統後,Mysql如何恢復(Mysql沒在C盤安裝)MySql
- 在Linux中,如何理解系統管理工具,如Webmin和Ajenti。LinuxWeb
- nvm管理node.js版本(Windows系統)Node.jsWindows
- linux系統 Apache服務配置教程。LinuxApache
- 在vscode中對Node.js進行debugVSCodeNode.js
- 關於XAMPP中Apache和Mysql因埠占用無法啟動的問題ApacheMySql
- 在Ubuntu系統中如何更換字型Ubuntu
- 比較Apache Pulsar 和Apache Kafka:統一排隊和流式傳輸 - splunkApacheKafka
- 碼雲和本地的道路打通
- 如何打通 SAP Cloud for Customer 系統和微信公眾號的雙向訊息通訊功能Cloud
- 深度召回在飛豬旅行推薦系統中的探索和實踐
- MySQL 的啟動選項和系統變數MySql變數
- node.js常用的fs檔案系統Node.js