pyquery庫的使用

小潘東發表於2017-12-14

#coding=utf-8 #防止報錯:UnicodeEncodeError: 'gbk' codec can't encode character
from pyquery import PyQuery as pq
from lxml import etree

可載入一段HTML字串,或一個HTML檔案,或是一個url地址,或lxml.etree:

htmlblock = "<html><title>hello</title></html>"
filename = "path_to_html_file"
url = "http://www.baidu.com"

d = pq(htmlblock)
d = pq(filename)
d = pq(url)
d = pq(etree.fromstring("<html></html>"))
複製程式碼

直接輸出擷取串的html物件,看著更加直觀

v_source = pq(url='http://yunvs.com/list/mai_1.html')
for data in v_source('tr'):
    print(pq(data).html())
    print(pq(data).text()) #以text文字的方式輸出,這樣就去掉了html標記
複製程式碼

pq(d)('a[class= ""]').attr('')

Aurl= pq(data)('a[class= "j_th_tit " ]').attr('href')




常用方法:

#1.html()和text() ——獲取相應的HTML塊或文字塊
d = pq("<head><title>hello</title></head>")
d('head').html()    #返回<title>hello</title>
d('head').text()    #返回hello

#2.根據HTML標籤獲取元素。注意:當獲取到的元素不只一個時,html()、text()方法只返回首個元素的相應內容塊
d = pq('<div><p>test 1</p><p>test 2</p></div>')
print(d('p'))           #返回<p>test 1</p><p>test 2</p>
print(d('p').html())    #返回test 1

#3.eq(index) ——根據給定的索引號得到指定元素。接上例,若想得到第二個p標籤內的內容,則可以:
print(d('p').eq(1).html()) #返回test 2

#4.filter() ——根據類名、id名得到指定元素,例:
d = pq("<div><p id='1'>test 1</p><p class='2'>test 2</p></div>")
d('p').filter('#1') #返回[<p#1>]
d('p').filter('.2') #返回[<p.2>]

#5.find() ——查詢巢狀元素,例:
d = pq("<div><p id='1'>test 1</p><p class='2'>test 2</p></div>")
d('div').find('p')#返回[<p#1>, <p.2>]
d('div').find('p').eq(0)#返回[<p#1>]

#6.直接根據類名、id名獲取元素,例:
d = pq("<div><p id='1'>test 1</p><p class='2'>test 2</p></div>")
d('#1').html()#返回test 1
d('.2').html()#返回test 2

#7.獲取屬性值,例:
d = pq("<p id='my_id'><a href='http://hello.com'>hello</a></p>")
d('a').attr('href')#返回http://hello.com
d('p').attr('id')#返回my_id

#8.修改屬性值,例:
d('a').attr('href', 'http://baidu.com')把href屬性修改為了baidu


#9.addClass(value) ——為元素新增類,例:
d = pq('<div></div>')
d.addClass('my_class')#返回[<div.my_class>]

#10.hasClass(name) #返回判斷元素是否包含給定的類,例:
d = pq("<div class='my_class'></div>")
d.hasClass('my_class')#返回True

#11.children(selector=None) ——獲取子元素,例:
d = pq("<span><p id='1'>hello</p><p id='2'>world</p></span>")
d.children()#返回[<p#1>, <p#2>]
d.children('#2')#返回[<p#2>]

#12.parents(selector=None)——獲取父元素,例:
d = pq("<span><p id='1'>hello</p><p id='2'>world</p></span>")
d('p').parents()            #返回[<span>]
d('#1').parents('span')     #返回[<span>]
d('#1').parents('p')        #返回[]

#13.clone() ——返回一個節點的拷貝

#14.empty() ——移除節點內容

#15.nextAll(selector=None) ——返回後面全部的元素塊,例:
d = pq("<p id='1'>hello</p><p id='2'>world</p><img scr='' />")
d('p:first').nextAll()#返回[<p#2>, <img>]
d('p:last').nextAll()#返回[<img>]

#16.not_(selector) ——返回不匹配選擇器的元素,例:
d = pq("<p id='1'>test 1</p><p id='2'>test 2</p>")
d('p').not_('#2')#返回[<p#1>]
複製程式碼

與requests庫結合使用:

import requests
from pyquery import PyQuery as pq

r = requests.get('http://www.meipai.com/media/596371059')
d = pq(r.content)
print(d('meta[property="og:video:url"]').attr('content'))
複製程式碼



參考資料

PyQuery 1.2.4 complete API
pyquery: 基於python和jquery語法操作XML
這一年Python總結
Python爬蟲利器六之PyQuery的用法

相關文章