Opensearch架構及引擎原理
開放搜尋(OpenSearch)是一款結構化資料搜尋託管服務。
特點:單應用億級別文件搜尋 ,毫秒級別查詢延遲 ,萬級別QPS
資料的匯入與查詢
匯入:實時資料進入import子系統的資料匯入模組,之後經過格式轉換和資料解析進入到結構化儲存系統,然後被import子系統的匯出模組,經過處理後放入到實時訊息系統Swift中,HA3訂閱Swift中的資料,拿到資料後在記憶體構建索引並提供服務。
查詢:通過查詢聚合服務,查詢HA3中的資訊並返回。
HA3引擎原理
分散式實時搜尋系統
Admin是整個系統的大腦,負責節點角色分配、排程決策、FailOver處理、狀態監測、動態擴容等
Amonitor是系統的效能狀態監控模組,收集和展示整個系統所有節點的效能引數
QRS是查詢解析和改寫服務,是系統對外的搜尋介面。Proxy是搜尋代理模組,負責接收QRS的查詢請求,並轉發給下轄的所有Searcher節點
Searcher節點執行實際的查詢匹配計算,將搜尋結果彙總後回傳給QRS
DeployExpress是分散式鏈式資料實時分發系統,負責將離線叢集構建好的索引資料分發到各個Searcher節點.
DeployExpress的最大亮點是將1份資料分發多份拷貝到Searcher節點,其分發時間接近單份拷貝的資料分發時間,而且單節點故障能自動恢復,不影響資料拷貝
部署架構
HA3的多叢集異構部署,一般用來實現冷熱資料分層查詢、異構資料查詢等功能。OpenSearch利用異構邏輯叢集優化資源配置,提升系統服務能力和降低機器成本。不同特性的應用例項被分配在不同的邏輯Cluster中
相關文章
- HDFS架構及原理架構
- 遊戲引擎架構遊戲引擎架構
- 遊戲引擎介紹,架構,設計及實現遊戲引擎架構
- RocketMQ(1)---架構原理及環境搭建MQ架構
- 【Mybatis原始碼解析】- 整體架構及原理MyBatis原始碼架構
- 搜尋引擎原理及使用
- OpenSearch
- 架構 規則引擎 quartz架構quartz
- Hadoop 3.0 新特性原理及架構深度剖析Hadoop架構
- Hive簡介、應用場景及架構原理Hive架構
- PHP是什麼-PHP的架構及原理概述PHP架構
- 高德客戶端及引擎技術架構演進與思考客戶端架構
- 流程引擎的架構設計架構
- 架構安全性設計、部分示例及原理分析架構
- Quartz核心原理之架構及基本元素介紹quartz架構
- Nginx 原理和架構Nginx架構
- RocketMQ(1)-架構原理MQ架構
- 深入HBase架構原理架構
- storm 架構和原理ORM架構
- 拜託,面試請不要再問我分散式搜尋引擎的架構原理!【石杉的架構筆記】面試分散式架構筆記
- 遊戲引擎學習筆記:介紹、架構、設計及實現遊戲引擎筆記架構
- 網站架構及架構演變網站架構
- 工作流引擎架構設計架構
- 聊聊Dubbo(三):架構原理架構
- 架構思想之CAP原理架構
- React Fiber架構原理React架構
- vsan超融合架構資料恢復原理及過程架構資料恢復
- 深度解析搜尋引擎的原理結構
- 【推理引擎】ONNXRuntime 的架構設計架構
- Twitter推薦引擎架構設計分析架構
- RabbitMQ架構詳解(7大架構原理模型圖解)MQ架構模型圖解
- [系統架構] AKKA工作原理架構
- Storm架構與執行原理ORM架構
- Apache Arrow DataFusion原理與架構Apache架構
- MySQL主從原理, 高可用架構與高效能架構MySql架構
- Tomcat 架構原理解析到架構設計借鑑Tomcat架構
- 我的架構夢:(五十九) Apache Hadoop 架構與原理架構ApacheHadoop
- 分散式搜尋引擎Elasticsearch的架構分析分散式Elasticsearch架構