ES同步Mysql資料庫(包括出現問題怎麼處理哦)
1、下載logstash(找到和Elasticssearch對應的版本)
下載連結:
https://www.elastic.co/fr/downloads/logstash
進入bin目錄下新建一個資料夾(命名隨意),jdbc.sql和logstash.conf
下載一個資料庫連線包放在bin資料夾下
(資料庫連線包最好下載和mysql版本對應的)
下載地址:https://mvnrepository.com/artifact/mysql/mysql-connector-java
jdbc.sql寫要查詢的程式碼:
select id,username,sex,birthday,address from user;
logstash.conf寫入配置資訊:
input { stdin { } jdbc { # mysql 資料庫連結,mybatis為資料庫名 jdbc_connection_string => "jdbc:mysql://127.0.0.1:3306/TESTDB?useUnicode=true&characterEncoding=utf8" # 使用者名稱和密碼 jdbc_user => "root" jdbc_password => "root" # 驅動 修改為mysql連線包位置 jdbc_driver_library => "D:\gj\logstash-7.9.0\logstash-7.9.0\bin\bin/mysql-connector-java-5.1.7-bin.jar" # 驅動類名 jdbc_driver_class => "com.mysql.jdbc.Driver" jdbc_paging_enabled => "true" jdbc_page_size => "50000" # 執行的sql 檔案路徑+名稱 statement_filepath => "jdbc.sql" # 設定監聽間隔 各欄位含義(由左至右)分、時、天、月、年,全部為*預設含義為每分鐘都更新 schedule => "* * * * *" } } output { elasticsearch { # ES的IP地址及埠 hosts => ["localhost:9200"] # 索引名稱 可自定義 index => "test" # 需要關聯的資料庫中有有一個id欄位,對應型別中的id document_id => "%{id}" document_type => "test" } stdout { # JSON格式輸出 codec => json_lines } }
連線資料庫時,出現Unknown character set index for field ‘255’ received from server.
這由於資料庫連線包和資料庫版本不一致,MySQL版本高,mysql的jar版本低造成mysql與jar的編碼錯亂引起的
處理:
1、升級資料庫連線包
2、修改logstash.conf,新增字符集說明
Mysql資料庫建表:
啟動程式:
顯示以上資訊,表示成功。
瀏覽器中再次輸入:http://localhost:9100
檢視資料:
相關文章
- MySQL主從資料庫同步延遲問題怎麼解決MySql資料庫
- JAVA訪問雲資料mysql出現問題JavaMySql
- MySql資料庫ibtmp1檔案增長問題處理記錄MySql資料庫
- 怎麼處理ERP體系軟體資料的安全問題
- 資料處理--pandas問題
- Oracle資料庫中的逐行處理問題NEOracle資料庫
- openGauss資料庫xlog目錄滿問題處理資料庫
- MySQL主從不同步問題分析與處理思路MySql
- mysql和redis實時同步資料怎麼實現MySqlRedis
- ajax非同步提交 有時會出現無bug的資料處理異常-----debug沒有問題,正常執行卻資料處理不正確,極少機會會出現正常的處理結果非同步
- 關於android stdio連線mysql資料庫出現過的問題AndroidMySql資料庫
- Oracle日常問題處理-資料庫無法啟動Oracle資料庫
- 資料庫主機重啟卡住問題處理分享資料庫
- Go 臨界資源的安全問題(引入同步非同步處理)Go非同步
- Oracle資料庫處理壞塊問題常用命令Oracle資料庫
- 如何處理Oracle資料庫中的壞塊問題(轉)Oracle資料庫
- 使用資料庫處理併發可能導致的問題資料庫
- python中多程式處理資料庫連線的問題Python資料庫
- 大資料處理流程包括哪些環節大資料
- MySQL:亂碼問題處理流程MySql
- Laravel 安裝 voyager 出現的資料庫問題Laravel資料庫
- MySQL資料庫InnoDB壞頁處理修復MySql資料庫
- X7一體機資料庫遷移問題處理資料庫
- 達夢資料庫日常管理之問題處理筆記1資料庫筆記
- 銀河麒麟系統安裝ORACLE資料庫問題處理Oracle資料庫
- mysql資料庫怎麼連線MySql資料庫
- 伺服器啟動出現問題如何處理伺服器
- 資料庫系列——基於Canal實現MySQL增量資料同步資料庫MySql
- Mysql資料庫許可權問題MySql資料庫
- ETLCloud支援的資料處理型別包括哪些?Cloud型別
- 大資料處理需留意哪些問題大資料
- [資料庫]MYSQL主從同步資料庫MySql主從同步
- 工廠出產流程中的這些問題,應該怎麼處理?
- mysql,sqlserver資料庫單表資料過大的處理方式MySqlServer資料庫
- 在 SAP Gateway Demo System ES5 申請使用者遇到問題該怎麼處理Gateway
- 做資料庫分離讀寫時,sqlServer資料庫資料同步的問題:資料庫SQLServer
- 利用python實現mysql資料庫向sqlserver的同步PythonMySql資料庫Server
- DataX將MySql資料庫資料同步到Oracle資料庫MySql資料庫Oracle