氣象資料查詢平臺設計
業務介紹:
國家氣象局在全國各地有N多個檢測點,這N個檢測點沒小時採集一次資料(40M,100W條),發到資料中心;資料中心將資料存放在yyyyMMHH.txt中(比如2013-07-19 17 採集到的資料存放在2013071917.txt)。
需求:
開發一個平臺,提供氣象資料查詢服務(時間限制為當前時間前12個小時)。
設計:
客戶請求---->Nginx---->Web 叢集---->Redis 集中式快取<----crontab Python解析指令碼<----資料檔案yyyyMMHH.txt
1 透過Web叢集提高Web服務能力
2 Redis快取加快讀寫速度
3 定時執行Python指令碼將最新資料寫入Redis,將老資料從Redis刪除.
請大家多批評、多提建議、多拍磚。
國家氣象局在全國各地有N多個檢測點,這N個檢測點沒小時採集一次資料(40M,100W條),發到資料中心;資料中心將資料存放在yyyyMMHH.txt中(比如2013-07-19 17 採集到的資料存放在2013071917.txt)。
需求:
開發一個平臺,提供氣象資料查詢服務(時間限制為當前時間前12個小時)。
設計:
客戶請求---->Nginx---->Web 叢集---->Redis 集中式快取<----crontab Python解析指令碼<----資料檔案yyyyMMHH.txt
1 透過Web叢集提高Web服務能力
2 Redis快取加快讀寫速度
3 定時執行Python指令碼將最新資料寫入Redis,將老資料從Redis刪除.
請大家多批評、多提建議、多拍磚。
相關文章
- 海關資料查詢系統「查詢平臺分類」
- 地圖人氣大資料平臺地圖大資料
- 巨杉應用案例:大資料司法查詢平臺大資料
- 大資料平臺架構設計探究大資料架構
- 大資料平臺安全標準設計大資料
- TDS:標籤平臺+API平臺+資料共享平臺,助力資料運營平臺建設API
- SystemWeaver — 電子電氣協同設計研發平臺
- 中國氣象局:中國氣象投入產出比1:50 牽手阿里雲挖掘氣象大資料阿里大資料
- 天氣預報查詢 API 提供個性化的天氣服務的設計思路API
- 資料庫設計與查詢語句的優化資料庫優化
- 如何設計實時資料平臺(技術篇)
- 資料庫資料的查詢----連線查詢資料庫
- druid 後設資料介面查詢UI
- PHP開發微信公眾平臺——天氣查詢實戰專案-陳世平-專題視訊課程PHP
- 分庫資料如何查詢統計
- MySQL - 資料查詢 - 簡單查詢MySql
- B樹查詢,磁碟查詢資料
- MT8735晶片平臺設計資料參考晶片
- 基石視覺化資料分析平臺設計實踐視覺化
- 大資料分析平臺|零程式設計、人人都能用大資料程式設計
- OPPO大資料診斷平臺設計與實踐大資料
- 魅族大資料之流平臺設計部署實踐大資料
- 銀行容器雲平臺建設的關鍵設計 | 資料
- 天氣查詢 2月1日:全國未來10天天氣預報查詢
- 關於後臺資料庫設計的考慮(手機平臺)資料庫
- 資料庫 - 資料查詢資料庫
- .NET應用架構設計—面向查詢服務的引數化查詢設計(分解業務點,單獨配置各自的資料查詢契約)應用架構
- Delphi天氣預報查詢
- 淘寶開放平臺交易API - 查詢賣家已賣出的增量交易資料API
- 通用查詢設計思想
- weathermap網路氣象圖流量的計算
- Java ——MongDB 插入資料、 模糊查詢、in查詢Java
- 資料庫高階查詢之子查詢資料庫
- 資料庫 - 連線查詢、巢狀查詢、集合查詢資料庫巢狀
- indexedDB 查詢資料Index
- RESTFul資料查詢REST
- MySQL資料查詢MySql
- EF 查詢資料