大資料相關技術有哪些?
分析技術
資料處理:自然語言處理技術
統計和分析:關聯規則分析、分類、聚類
模型預測:預測模型、機器學習、建模模擬
大資料技術
資料採集:ETl工具
資料存取:關係資料;NoSQl; SQL等
基礎架構支援:雲端儲存;分散式檔案系統等
計算結果展現;支計算;關係圖等
儲存
結構化資料
海量的資料查詢、統計、更新等操作效率低
非結構化資料
圖片、視訊、Word、Pdf、PPT等檔案儲存
不利於檢索、查詢和儲存
半結構化資料
轉換為結構化儲存
按照非結構化儲存
儲存問題解決方案
在CAP理論指導下資料庫技術適當“退化”
NoSQL技術:HDFS、HBASE、OceanBase、MongoDB等
計算
因結構變化為導致計算模式變更
需求模式變化帶來的計算碰到瓶頸
解決方案
Hadoop(MapReduce技術)
流計算(Twitter的Storm和Yahoo!的S4)
資料來源
網際網路企業:SNS、微博、視訊網站、電子商務網站
物聯網、移動裝置、終端中的商品、個人位置、感測器採集的資料
聯通、移動、電信等通訊和網際網路運營商
天文望遠鏡拍攝的影象、視訊資料、氣象學裡面衛星雲圖資料等
感謝你的觀看,如果感覺寫的不錯,你可以關注一下我的微信公眾號,也可以加入我們的大數家庭群。
微信公眾號:程式設計師OfHome
程式設計師OfHomeQQ群:610535338
相關文章
- 大資料技術有哪些大資料
- Linux技術相關命令有哪些Linux
- 大資料探勘有哪些技術大資料
- 大資料技術的特點有哪些大資料
- 大資料技術包括哪些大資料
- 大資料方面核心技術有哪些?新人必讀大資料
- 大資料技術特點及優勢有哪些大資料
- 大資料分析技術有哪些應用步驟大資料
- 大資料以及大資料技術都包括哪些內容大資料
- 大資料技術棧,主要有哪些大資料
- 區塊鏈(BlockChain)技術開發相關資料區塊鏈Blockchain
- 與低程式碼相關的術語有哪些
- 大資料工程師需要學習哪些技術?大資料工程師
- 大資料技術有什麼優勢大資料
- 大資料技術有什麼特點大資料
- 人工智慧的關鍵技術有哪些人工智慧
- 關於大資料技術的一點思考大資料
- 大資料培訓學習後,我們可以掌握哪些大資料技術呢?大資料
- 大資料分析模型有哪些大資料模型
- 資料技術大融合,HSTAP資料庫有多少想象空間?資料庫
- 大資料技術 - Kyuubi大資料
- 大資料技術 - SuperSQL大資料SQL
- 大資料技術 - Directus大資料
- 大資料技術 - Druid大資料UI
- 大資料技術 - Ververica大資料
- 大資料技術 - Phoenix大資料
- 大資料技術 - Azkaban大資料
- 大資料技術 - Airflow大資料AI
- 大資料技術 - DolphinScheduler大資料
- 大資料技術 - DataX大資料
- 大資料技術 - Canal大資料
- 大資料技術 - Maxwell大資料
- 大資料技術 - Zookeeper大資料
- 大資料技術 - Hive大資料Hive
- 大資料技術 - Hbase大資料
- 大資料技術 - StarRocks大資料
- 大資料技術 - StreamX大資料
- 大資料技術 - Debezium大資料