01、部落格爬蟲

三角形發表於2019-04-11
    你需要爬取的是部落格【人人都是蜘蛛俠】中,《未來已來(四)——Python學習進階圖譜》的所有文章評論,並且列印。
 
 
 1 #1、部落格爬蟲
 2 #    你需要爬取的是部落格【人人都是蜘蛛俠】中,《未來已來(四)——Python學習進階圖譜》的所有文章評論,並且列印。
 3 #    文章URL:https://wordpress-edu-3autumn.localprod.forc.work/all-about-the-future_04/
 4 import requests
 5 from bs4 import BeautifulSoup
 6 res = requests.get('https://wordpress-edu-3autumn.localprod.forc.work/all-about-the-future_04/')
 7 html = res.text
 8 soup = BeautifulSoup(html,'html.parser')
 9 items = soup.find_all('div',class_='comment-content')
10 for item in items:
11     print(item.find('p').text)
12 
13 '''
14 執行結果如下:
15     測試評論
16     我們就是
17     minu
18     kpi
19 '''
20 
21 '''
22 #   下面是老師的程式碼
23 
24 #   呼叫requests庫
25 import requests
26 #   呼叫BeautifulSoup庫
27 from bs4 import BeautifulSoup
28 #   把網址複製給變數destnation_url
29 url_destnation = 'https://wordpress-edu-3autumn.localprod.forc.work/all-about-the-future_04/'
30 #   返回一個response物件,賦值給destnation
31 res_comment = requests.get (url_destnation)
32 #   把網頁解析為BeautifulSoup物件
33 bs_comment = BeautifulSoup(res_comment.text,'html.parser')
34 #   通過匹配屬性提取出我們想要的元素
35 list_comments = bs_comment.find_all('div',class_= 'comment-content')
36 #   遍歷列表,取出列表中的每一個值
37 for tag_comment in list_comments:
38 #   列印評論的文字
39     print(tag_comment.text)
40 '''
 
items中每個Tag的內容如下
1 <div class="comment-content">
2 <p>第1個蜘蛛俠</p>
3 </div>

 

 

相關文章