python爬取股票最新資料並用excel繪製樹狀圖

the7主題發表於2021-02-28
PythonExcel

大家好，最近大A的白馬股們簡直 跌媽不認，作為重倉了抱團白馬股基金的養雞少年，每日那是一個以淚洗面啊。

 

跌媽不認

不過從金融界最近一個交易日的大盤雲圖來看，其實很多中小股還是紅色滴，綠的都是白馬股們。

以下截圖來自金融界網站-大盤雲圖：

2月26日大盤雲圖

那麼，今天我們試著用python爬取最近交易日的股票資料，並試著用excel簡單繪製以下上面這個樹狀圖。本文旨在拋磚引玉，吼吼。

1. python爬取網易財經不同板塊股票資料

目標網址：

http://quotes.money.163.com/old/#query=hy010000&DataType=HS_RANK&sort=PERCENT&order=desc&count=24&page=0

網易財經-行情中心

由於這個爬蟲部分比較簡單，這裡不做過多贅述，僅介紹一下思路並附上完整程式碼供大家參考。

爬蟲思路：

  1. 請求目標網站資料，解析出主要行業（新）的資料：行業板塊名稱及對應id（如金融，hy010000）
  2. 根據行業板塊對應id構造新的行業股票資料網頁
  3. 由於翻頁網址不變，按照《》的裡的套路找到股票列表資料的真實地址
  4. 代入引數，獲取全部頁數，然後翻頁爬取全部資料

爬蟲程式碼：

# -*- coding: utf-8 -*-
"""
Created Feb 28 10:30:56 2021

@author: 可以叫我才哥
"""

import requests
import re
import pandas as pd

# 獲取全部板塊及板塊id
url = 'http://quotes.money.163.com/old/#query=hy001000&DataType=HS_RANK&sort=PERCENT&order=desc&count=24&page=0'

r = requests.get(url)

html = r.text
# 替換非字元為空，便於下面的正則
html = re.sub('\s','',html)
# 正則獲取 板塊及id所在區域
labelHtml = re.findall(r'</span>主要行業\(新\)</a>(.*?)</span>證監會行業\(新\)',html)[0]
# 正則板塊和id，結果為由元組組成的列表
label = re.findall(r'"qid="(hy.*?)"qquery=.*?"title="(.*?)">',labelHtml)
# 轉化為dataframe型別
dfLabel = pd.DataFrame(label,columns=['id','板塊'])

# 根據板塊id和翻頁獲取頁面資料（json格式）
def get_json(hy_id, page):
    query = 'PLATE_IDS:' + str(hy_id)
    params={
        'host': 'http://quotes.money.163.com/hs/service/diyrank.php',
        'page': page,
        'query': query,
        'fields': 'NO,SYMBOL,NAME,PRICE,PERCENT,UPDOWN,FIVE_MINUTE,OPEN,YESTCLOSE,HIGH,LOW,VOLUME,TURNOVER,HS,LB,WB,ZF,PE,MCAP,TCAP,MFSUM,MFRATIO.MFRATIO2,MFRATIO.MFRATIO10,SNAME,CODE,ANNOUNMT,UVSNEWS', #你可以不用這麼多欄位
        'sort': 'PERCENT',
        'order': 'desc',
        'count': '24',
        'type': 'query',
        }
    url = 'http://quotes.money.163.com/hs/service/diyrank.php?'
    r = requests.get(url,params=params)
    j = r.json()
    
    return j

# 空列表用於存取每頁資料
dfs = []
# 遍歷全部板塊
for hy_id,板塊 in dfLabel.values:
    # 獲取頁數
    j = get_json(hy_id, 0)
    pages = j['pagecount']
    
    for page in range(pages):
        j = get_json(hy_id, page)
        data = j['list']
        df = pd.DataFrame(data)
        df['板塊'] = 板塊
        dfs.append(df)
    print(f'已爬取{len(dfs)}個板塊資料')

result = pd.concat(dfs)

2. excel樹狀圖

excel樹狀圖是在office2016級之後版本中新加的圖表型別，想要繪製需要基於此版本及之後的版本哦。

2.1. 簡單的樹狀圖

簡單的樹狀圖繪製流程：框選資料—>插入—>圖表—>選中樹狀圖 即可。

樹狀圖繪製流程

以下圖為例，在樹狀圖中，每個色塊代表一個省份，色塊面積大小則由其GDO值大小決定。

2020年全國各地GDP

2.2. 帶有增長率的樹狀圖

我們發現，在基礎的樹狀圖中，色塊顏色除了區別色塊之外並沒有其他特殊含義。拿GDP來說，除了值之外我們一般也會去看其增長率，那麼是否可以讓色塊顏色和增長率有關聯呢？

下面我們試著探究一下，如果成功的話，那麼金融界的大盤雲圖似乎也可以用excel樹狀圖來進行繪製了不是！

思路：

  1. 我們希望色塊顏色能代表增長率，比如紅色是上漲，綠色是下降且顏色越深代表絕對值越大
  2. 再對每個色塊進行對應的顏色填充即可

由於 樹狀圖頂多支援多級，色塊顏色也只能手動單一填充，怎麼辦呢？既然手動可以，那麼其實就可以用VBA自動化這個過程咯。

2.3.1. 增長率配色

基於思路1，我們需要對增長率進行配色，最簡單的就是用條件格式裡的色階。

框選增長率資料—>開始—>條件格式—>色階（選中那個讓值越大顏色越紅的，由於這裡有負增長率，所以選了帶紅綠的）：

色階

為了更好的展示區分正負增長率，我們在設定完色階後再進行管理規則：

  • 我們將中間值設為數字0，這樣負增長率就是綠色，正增長率就是紅色；
  • 我們將最大值設定為百分點值80，也就是增長率前80%的值都是最紅的。

調整規則

最終配色效果：

配色效果

2.3.2. VBA填充色塊顏色

先看效果：

湖北因為收到疫情影響最大，有接近小半年屬於封省狀態，全年增長率為負數。

各省GDP及增長率

由於條件格式下單元格顏色是不固定的無法通過vba獲取，我們需要將顏色賦值到新的一列中去，需要用到如下操作：

**選中增長率資料複製，然後點選剪下板最右下角會出現剪貼簿，再滑鼠左鍵選擇需要貼上的地方如E2，點選剪貼簿中需要貼上的資料即可。**這個時候，被貼上的單元格區域的顏色就是固定的了，你可以選擇刪除資料只留顏色部分。

單元格色複製操作流程

VBA思路：

啟用需要操作的圖表（Activate）

遍歷全部的系列和資料點（ActiveChart.FullSeriesCollection(1).Points.Count）

從第一個資料點開始，獲取對應增長率單元格顏色（ActiveSheet.Range("E" & i + 1).Interior.Color）

將單元格賦值給該資料點（Selection.Format.Fill.ForeColor.RGB）

VBA程式碼：

Sub My_Color()
            
    ActiveSheet.ChartObjects("圖表 1").Activate
    '遍歷全部的資料點
    For i = 1 To ActiveChart.FullSeriesCollection(1).Points.Count
       '選中資料點
       ActiveChart.FullSeriesCollection(1).Points(i).Select
       '獲取單元格顏色
       MyColor = ActiveSheet.Range("E" & i + 1).Interior.Color
       '將單元格顏色賦值給對應資料點填充色
       Selection.Format.Fill.ForeColor.RGB = MyColor
    Next

End Sub

執行指令碼過程如下：

好了，以上就是本次全部內容，大家可以試著爬取股票資料，然後試著繪製一下。

溫馨提示：接近小5000股票資料，vba填充色塊顏色會卡死，不建議全選操作。

相關文章