Spark實時計算的開發平臺RCS——阿里流式分析實戰
Spark開發者會將自己的程式碼完成開發並提交到yarn叢集,之後任務的監控、報警、效能優化等都依賴於開發者本身;為spark開發者提供一套可以完成任務提交、資料接入、任務監控、任務報警、錯誤日誌檢視的一體化實時計算的開發平臺realtime computing service。通過平臺可以:
1. 自助本地提交任務;jar包版本維護在hdfs上
2. 資料接入覆蓋主流中介軟體:kafka、metaq、tt和sls
3. 任務的監控、報警、日誌處理
4. spark任務容災
5. spark叢集容災
朱金清(穆公) 阿里巴巴高階資料專家,目前在阿里從事infrastructure資料的分析和開發工作,專注於spark的實時計算分析;最早加入阿里在淘寶/阿里資料庫技術團隊從事MySQL/HBase資料庫的管理和資料開發. 他將在大會上分享這一演講議題。
長按二維碼識別關注
閱讀原文( read more ) 瀏覽更多演講議題
相關文章
- 阿里雲重磅開源實時計算平臺,挑戰計算領域的“珠峰”阿里
- 大資料開發實戰:實時資料平臺和流計算大資料
- 說說實時流式計算
- 如何降低 Flink 開發和運維成本?阿里雲實時計算平臺建設實踐運維阿里
- vivo 實時計算平臺建設實踐
- Spark 實時計算整合案例Spark
- Java如何使用實時流式計算處理?Java
- Spark+Hbase 億級流量分析實戰( 留存計算)Spark
- 七牛大資料平臺的實時資料分析實戰大資料
- 聯通實時計算平臺演進與實踐
- 愛奇藝統一實時計算平臺建設
- JStorm-Alibaba——Storm的實時流式計算框架JSORM框架
- 用Spark進行實時流計算Spark
- Golang框架實戰-KisFlow流式計算框架(4)-資料流Golang框架
- Spark Streaming——Spark第一代實時計算引擎Spark
- PaaS雲端計算平臺,雲端計算程式開發
- Kafka+Spark Streaming+Redis實時計算整合實踐KafkaSparkRedis
- IDEA開發Spark應用實戰(Scala)IdeaSpark
- 攜程實時計算平臺架構與實踐丨DataPipeline架構API
- 阿里巴巴開源的 Blink 實時計算框架真香阿里框架
- 微信小程式開發—專案實戰之計算器開發微信小程式
- Storm 實戰:構建大資料實時計算ORM大資料
- 愛奇藝大資料實時分析平臺的建設與實踐大資料
- 1+x雲端計算平臺運維開發初級實操題集合運維
- 實時計算無線資料分析
- 微信後臺開發實戰教程
- vivo AI 計算平臺的 ACK 混合雲實踐AI
- 實時計算框架:Spark叢集搭建與入門案例框架Spark
- Hive實戰—時間滑動視窗計算Hive
- 計算機書籍- 網路爬蟲開發實戰計算機爬蟲
- Cordys BOP 4平臺開發入門實戰演練——Webservices開發(高階)Web
- Cordys BOP 4平臺開發入門實戰演練——For Each流程建模開發
- Cordys BOP 4平臺開發入門實戰演練——Until流程建模開發
- Cordys BOP 4平臺開發入門實戰演練——流程建模開發(BPM)
- 實時互動平臺流程與技術分析
- 微軟證實雲端計算平臺暫時中斷顯現安全弊端微軟
- Spark綜合使用及使用者行為案例訪問session統計分析實戰-Spark商業應用實戰SparkSession
- 百度愛番番基於圖技術、流式計算的實時CDP建設實踐