氣象資料查詢平臺設計
業務介紹:
國家氣象局在全國各地有N多個檢測點,這N個檢測點沒小時採集一次資料(40M,100W條),發到資料中心;資料中心將資料存放在yyyyMMHH.txt中(比如2013-07-19 17 採集到的資料存放在2013071917.txt)。
需求:
開發一個平臺,提供氣象資料查詢服務(時間限制為當前時間前12個小時)。
設計:
客戶請求---->Nginx---->Web 叢集---->Redis 集中式快取<----crontab Python解析指令碼<----資料檔案yyyyMMHH.txt
1 透過Web叢集提高Web服務能力
2 Redis快取加快讀寫速度
3 定時執行Python指令碼將最新資料寫入Redis,將老資料從Redis刪除.
請大家多批評、多提建議、多拍磚。
國家氣象局在全國各地有N多個檢測點,這N個檢測點沒小時採集一次資料(40M,100W條),發到資料中心;資料中心將資料存放在yyyyMMHH.txt中(比如2013-07-19 17 採集到的資料存放在2013071917.txt)。
需求:
開發一個平臺,提供氣象資料查詢服務(時間限制為當前時間前12個小時)。
設計:
客戶請求---->Nginx---->Web 叢集---->Redis 集中式快取<----crontab Python解析指令碼<----資料檔案yyyyMMHH.txt
1 透過Web叢集提高Web服務能力
2 Redis快取加快讀寫速度
3 定時執行Python指令碼將最新資料寫入Redis,將老資料從Redis刪除.
請大家多批評、多提建議、多拍磚。
相關文章
- 海關資料查詢系統「查詢平臺分類」
- 大資料平臺架構設計探究大資料架構
- TDS:標籤平臺+API平臺+資料共享平臺,助力資料運營平臺建設API
- SaaS平臺的組織資料模型設計模型
- python天氣查詢Python
- SystemWeaver — 電子電氣協同設計研發平臺
- 天氣預報查詢 API 提供個性化的天氣服務的設計思路API
- MT8735晶片平臺設計資料參考晶片
- 如何設計實時資料平臺(技術篇)
- 分庫資料如何查詢統計
- 資料統計查詢最佳化
- MySQL - 資料查詢 - 簡單查詢MySql
- GIS資料獲取:氣象資料免費下載網站網站
- 壓測平臺 - 記錄一次百億級資料查詢最佳化
- 氣象資料實時自動更新(CIMSS - West Pacific)
- 全球氣象資料ERA5的下載方法
- 行業與氣象資料的相關性探索行業
- 通用查詢設計思想
- 銀行容器雲平臺建設的關鍵設計 | 資料
- 基石視覺化資料分析平臺設計實踐視覺化
- 大資料分析平臺|零程式設計、人人都能用大資料程式設計
- OPPO大資料診斷平臺設計與實踐大資料
- Java ——MongDB 插入資料、 模糊查詢、in查詢Java
- 資料庫高階查詢之子查詢資料庫
- 關於後臺資料庫設計的考慮(手機平臺)資料庫
- RESTFul資料查詢REST
- MYSQL查詢資料MySql
- indexedDB 查詢資料Index
- AMS 資料查詢
- 氣象展館設計怎樣做好數字化科普展示?
- ICP域名備案查詢 分享一個可以快速批次查詢域名備案資訊的平臺
- 怎麼使用電腦查詢快遞物流資訊,極兔有什麼平臺支援查詢
- 介面平臺實用功能設計分享——資料庫校驗資料庫
- 資料庫基礎查詢--單表查詢資料庫
- elasticsearch查詢之大資料集分頁查詢Elasticsearch大資料
- 淘寶開放平臺交易API - 查詢賣家已賣出的增量交易資料API
- 平臺結算費用資料庫表的正負號設計,三方平賬設計資料庫
- SSH:hiberate實現資料的查詢(單查詢和全查詢)
- PHP開發微信公眾平臺——天氣查詢實戰專案-陳世平-專題視訊課程PHP