ES同步Mysql資料庫(包括出現問題怎麼處理哦)
1、下載logstash(找到和Elasticssearch對應的版本)
下載連結:
https://www.elastic.co/fr/downloads/logstash
進入bin目錄下新建一個資料夾(命名隨意),jdbc.sql和logstash.conf
下載一個資料庫連線包放在bin資料夾下
(資料庫連線包最好下載和mysql版本對應的)
下載地址:https://mvnrepository.com/artifact/mysql/mysql-connector-java
jdbc.sql寫要查詢的程式碼:
select id,username,sex,birthday,address from user;
logstash.conf寫入配置資訊:
input { stdin { } jdbc { # mysql 資料庫連結,mybatis為資料庫名 jdbc_connection_string => "jdbc:mysql://127.0.0.1:3306/TESTDB?useUnicode=true&characterEncoding=utf8" # 使用者名稱和密碼 jdbc_user => "root" jdbc_password => "root" # 驅動 修改為mysql連線包位置 jdbc_driver_library => "D:\gj\logstash-7.9.0\logstash-7.9.0\bin\bin/mysql-connector-java-5.1.7-bin.jar" # 驅動類名 jdbc_driver_class => "com.mysql.jdbc.Driver" jdbc_paging_enabled => "true" jdbc_page_size => "50000" # 執行的sql 檔案路徑+名稱 statement_filepath => "jdbc.sql" # 設定監聽間隔 各欄位含義(由左至右)分、時、天、月、年,全部為*預設含義為每分鐘都更新 schedule => "* * * * *" } } output { elasticsearch { # ES的IP地址及埠 hosts => ["localhost:9200"] # 索引名稱 可自定義 index => "test" # 需要關聯的資料庫中有有一個id欄位,對應型別中的id document_id => "%{id}" document_type => "test" } stdout { # JSON格式輸出 codec => json_lines } }
連線資料庫時,出現Unknown character set index for field ‘255’ received from server.
這由於資料庫連線包和資料庫版本不一致,MySQL版本高,mysql的jar版本低造成mysql與jar的編碼錯亂引起的
處理:
1、升級資料庫連線包
2、修改logstash.conf,新增字符集說明
Mysql資料庫建表:
啟動程式:
顯示以上資訊,表示成功。
瀏覽器中再次輸入:http://localhost:9100
檢視資料:
相關文章
- MySQL主從資料庫同步延遲問題怎麼解決MySql資料庫
- 資料庫出現兩個Listener問題的官方處理方法資料庫
- mysql 的資料庫同步怎麼配置?MySql資料庫
- Mysql多臺資料庫同步問題(轉)MySql資料庫
- 處理MySQL資料庫出現大量Locked的一個案例MySql資料庫
- 資料庫同步問題資料庫
- 資料庫響應慢問題處理資料庫
- mysql,出現同步停止的錯誤的處理MySql
- 資料庫同步更新問題?資料庫
- 在PHP中怎麼解決大量資料處理的問題PHP
- 資料庫升級問題處理一則資料庫
- Oracle資料庫無效物件問題處理Oracle資料庫物件
- JAVA訪問雲資料mysql出現問題JavaMySql
- mysql和redis實時同步資料怎麼實現MySqlRedis
- 怎麼處理ERP體系軟體資料的安全問題
- Oracle資料庫中的逐行處理問題NEOracle資料庫
- 近期處理的Oracle資料庫問題總結Oracle資料庫
- 一次OWB資料庫效能問題處理資料庫
- MySQL主從不同步問題分析與處理思路MySql
- ajax非同步提交 有時會出現無bug的資料處理異常-----debug沒有問題,正常執行卻資料處理不正確,極少機會會出現正常的處理結果非同步
- 新建partition出現 device busy問題處理dev
- Oracle日常問題處理-資料庫無法啟動Oracle資料庫
- 資料庫主機重啟卡住問題處理分享資料庫
- Windows 下處理資料庫無法啟動問題Windows資料庫
- 資料庫映象期間可能出現的故障處理資料庫
- 資料庫如何處理大資料訪問資料庫大資料
- Go 臨界資源的安全問題(引入同步非同步處理)Go非同步
- 大資料處理流程包括哪些環節大資料
- mysql的處理能力問題MySql
- mysql問題處理兩則MySql
- mysql 問題處理二則MySql
- 連線mysql 出現問題,大家來看看是怎麼回事MySql
- 伺服器突然出現卡頓怎麼處理伺服器
- 如何處理Oracle資料庫中的壞塊問題(轉)Oracle資料庫
- openGauss資料庫xlog目錄滿問題處理資料庫
- 使用資料庫處理併發可能導致的問題資料庫
- 有關分散式資料庫事務處理的問題分散式資料庫
- 一次資料庫不能歸檔問題的處理資料庫