streamparse 填坑
https://streamparse.readthedocs.io/en/master/quickstart.html
streamparse 是python中用來操控storm的一個模組。上文給出了streamparse的快速上手的文件。
但是本人在使用中出現了各種意外。
以下三點是本人經過無數次嘗試後的成功經驗
注意:不要使用root賬號操作
streamparse 中 有依賴 lein ,lein 需要使用非root賬戶(使用root賬戶有坑,這裡不做詳細敘述)
1. 不要使用最新的storm,1.1.0 版本的即可
使用下面的命令下載
wget https://archive.apache.org/dist/storm/apache-storm-1.1.0/apache-storm-1.1.0.tar.gz
2. 解壓
解壓命令 tar -xvf <剛才的壓縮包>
之後cp -r <解壓後的目錄> 到 /opt/下 。這裡只是為了方便管理,解壓到哪個目錄實際無硬性規定。
3 建立logs 資料夾
之後在 /opt/apache-storm-1.1.0 目錄下 建立 logs 資料夾,並更改許可權(本人直接chmod -R 777 logs )
4 設定storm 的環境變數
vim ~/.bashrc
export STORM_HOME=/opt/apache-storm-1.1.0/
export STORM_PATH=/opt/apache-storm-1.1.0/bin/
export ZOOKEEPER_HOME=/opt/apache-zookeeper-3.6.2-bin/
export ZOOKEEPER_PATH=/opt/apache-zookeeper-3.6.2-bin/bin/
export PATH=$PATH:$STORM_HOME/bin:$ZOOKEEPER_HOME/bin
這裡本人還加上了zookeeper 的環境變數
zookeeper 如何 安裝,配置,這裡不做說明
5 配置 project.clj
這裡需要注意 ,使用 sparse quickstart wordcount 後 生成的wordcount目錄中 ,有個配置檔案
project.clj,裡面有些配置需要更改
(defproject wordcount "0.0.1-SNAPSHOT"
:resource-paths ["_resources"]
:target-path "_build"
:min-lein-version "2.0.0"
:jvm-opts ["-client"]
:dependencies [[org.apache.storm/storm-core "1.1.0"]
[org.apache.storm/flux-core "1.1.0"]]
:jar-exclusions [#"log4j\.properties" #"org\.apache\.storm\.(?!flux)" #"trident" #"META-INF" #"meta-inf" #"\.yaml"]
:uberjar-exclusions [#"log4j\.properties" #"org\.apache\.storm\.(?!flux)" #"trident" #"META-INF" #"meta-inf" #"\.yaml"]
)
;; never do this
(require 'cemerick.pomegranate.aether)
(cemerick.pomegranate.aether/register-wagon-factory!
"http" #(org.apache.maven.wagon.providers.http.HttpWagon.))
除了依賴需要寫成對應的storm版本--1.1.0,可能還需要配置倉庫非https的配置。 https://blog.csdn.net/qq_33634196/article/details/108775734
相關文章
- 填坑Ⅱ
- 小程式踩坑填坑
- Flutter 填坑整理Flutter
- vim 填坑之路
- Hibernate填坑
- Elasticsearch 填坑記Elasticsearch
- vue微信填坑Vue
- javascript 填坑史JavaScript
- React 填“坑”記React
- Date填坑記
- Flutter for web 最新填坑FlutterWeb
- 小程式花式填坑
- 05-待填坑...
- compilephpwithopensslonmacosxerror填坑CompilePHPMacError
- Flutter填坑全面總結Flutter
- OpenJFX編譯填坑之路編譯
- 小程式填坑實錄
- 微信小程式填坑心路微信小程式
- React Native 填坑指南React Native
- Java填坑系列之LinkedListJava
- minikube windows hyperx填坑記Windows
- vue 填坑系列總結——scopedVue
- 填坑-關於IIC通訊
- 微信小程式填坑清單微信小程式
- React Native填坑之旅--GraphQLReact Native
- PostgreSql安裝教程(填坑版!)SQL
- css 填坑常用程式碼分享CSS
- FastClick 填坑及原始碼解析AST原始碼
- 【轉載】MapStruct使用填坑Struct
- [iOS]貝聊 IAP 實戰之見坑填坑iOS
- iOS初學之填坑總結iOS
- 如何避免前人挖坑,後人填坑
- 很簡單的Flutter填小坑Flutter
- Flutter go-flutter desktop 填坑FlutterGo
- Android•Lottie動畫庫填坑記Android動畫
- 填坑-十萬個為什麼?(15)
- ReactNative填坑之旅–Navigation篇ReactNavigation
- mysql的zip版本安裝填坑MySql