用Python爬取線上教程轉成PDF，媽媽再也不用擔心我的學習了！
導讀：作為一名程式設計師，經常要搜一些教程，有的教程是線上的，不提供離線版本，這就有些侷限了。那麼同樣作為一名程式設計師，遇到問題就應該解決它，今天就來將線上教程儲存為PDF以供查閱。
作者：王強
來源：C與Python實戰（ID：CPythonPractice）
目錄：
01 網站介紹
02 準備工作
1. 軟體安裝
2. 庫安裝
03 爬取內容
1. 獲取教程名稱
2. 獲取目錄及對應網址
3. 獲取章節內容
4. 儲存pdf
5. 合併pdf
04 完整程式碼
01 網站介紹
之前再搜資料的時候經常會跳轉到如下圖所示的線上教程：
▲教程樣式
包括一些github的專案也紛紛將教程連結指向這個網站。經過一番查詢，該網站是一個可以建立、託管和瀏覽文件的網站，其網址為：https://readthedocs.org 。在上面可以找到很多優質的資源。
該網站雖然提供了下載功能，但是有些教程並沒有提供PDF格式檔案的下載，如圖：
▲下載
該教程只提供了 HTML格式檔案的下載，還是不太方便查閱，那就讓我們動手將其轉成PDF吧！
02 準備工作
1. 軟體安裝
由於我們是要把html轉為pdf，所以需要手動wkhtmltopdf 。Windows平臺直接在 http://wkhtmltopdf.org/downloads.html 下載穩定版的 wkhtmltopdf 進行安裝，安裝完成之後把該程式的執行路徑加入到系統環境 $PATH 變數中，否則 pdfkit 找不到 wkhtmltopdf 就出現錯誤“No wkhtmltopdf executable found”。Ubuntu 和 CentOS 可以直接用命令列進行安裝
$ sudo apt-get install wkhtmltopdf # ubuntu
$ sudo yum intsall wkhtmltopdf # centos
2. 庫安裝
pip install requests # 用於網路請求
pip install beautifulsoup4 # 用於操作html
pip install pdfkit # wkhtmltopdf 的Python封裝包
pip install PyPDF2 # 用於合併pdf
03 爬取內容
本文的目標網址為：http://python3-cookbook.readthedocs.io/zh_CN/latest/ 。
1. 獲取教程名稱
頁面的左邊一欄為目錄，按F12調出開發者工具並按以下步驟定位到目錄元素：
① 點選開發者工具左上角"選取頁面元素"按鈕；
② 用滑鼠點選左上角教程名稱處。
通過以上步驟即可定位到目錄元素，用圖說明：
▲尋找教程名稱
從圖看到我們需要的教程名稱包含在<div class="wy-side-nav-search"></div>之間的a標籤裡。假設我們已經獲取到了網頁內容為html，可以使用以下程式碼獲取該內容：
book_name = soup.find('div', class_='wy-side-nav-search').a.text
2. 獲取目錄及對應網址
使用與 02.1 相同的步驟來獲取：
▲定位目錄及網址
從圖看到我們需要的目錄包含在<div class="section"></div>之間，<li class="toctree-l1"></li>標籤裡為一級目錄及網址；<li class="toctree-l2"></li>標籤裡為二級目錄及網址。當然這個url是相對的url，前面還要拼接http://python3-cookbook.readthedocs.io/zh_CN/latest/。
使用BeautifulSoup進行資料的提取：
# 全域性變數
base_url = 'http://python3-cookbook.readthedocs.io/zh_CN/latest/'
book_name = ''
chapter_info = []
def parse_title_and_url(html):
"""
解析全部章節的標題和url
:param html: 需要解析的網頁內容
:return None
"""
soup = BeautifulSoup(html, 'html.parser')
# 獲取書名
book_name = soup.find('div', class_='wy-side-nav-search').a.text
menu = soup.find_all('div', class_='section')
chapters = menu[0].div.ul.find_all('li', class_='toctree-l1')
for chapter in chapters:
info = {}
# 獲取一級標題和url
# 標題中含有'/'和'*'會儲存失敗
info['title'] = chapter.a.text.replace('/', '').replace('*', '')
info['url'] = base_url + chapter.a.get('href')
info['child_chapters'] = []
# 獲取二級標題和url
if chapter.ul is not None:
child_chapters = chapter.ul.find_all('li')
for child in child_chapters:
url = child.a.get('href')
# 如果在url中存在'#'，則此url為頁面內連結，不會跳轉到其他頁面
# 所以不需要儲存
if '#' not in url:
info['child_chapters'].append({
'title': child.a.text.replace('/', '').replace('*', ''),
'url': base_url + child.a.get('href'),
})
chapter_info.append(info)
程式碼中定義了兩個全域性變數來儲存資訊。章節內容儲存在chapter_info列表裡，裡面包含了層級結構，大致結構為：
[
{
'title': 'first_level_chapter',
'url': 'www.xxxxxx.com',
'child_chapters': [
{
'title': 'second_level_chapter',
'url': 'www.xxxxxx.com',
}
...
]
}
...
]
3. 獲取章節內容
還是同樣的方法定位章節內容：
▲獲取章節內容
程式碼中我們通過itemprop這個屬性來定位，好在一級目錄內容的元素位置和二級目錄內容的元素位置相同，省去了不少麻煩。
html_template = """
<!DOCTYPE html>
<html>
<head>
<meta charset="UTF-8">
</head>
<body>
{content}
</body>
</html>
"""
def get_content(url):
"""
解析URL，獲取需要的html內容
:param url: 目標網址
:return: html
"""
html = get_one_page(url)
soup = BeautifulSoup(html, 'html.parser')
content = soup.find('div', attrs={'itemprop': 'articleBody'})
html = html_template.format(content=content)
return html
4. 儲存pdf
def save_pdf(html, filename):
"""
把所有html檔案儲存到pdf檔案
:param html: html內容
:param file_name: pdf檔名
:return:
"""
options = {
'page-size': 'Letter',
'margin-top': '0.75in',
'margin-right': '0.75in',
'margin-bottom': '0.75in',
'margin-left': '0.75in',
'encoding': "UTF-8",
'custom-header': [
('Accept-Encoding', 'gzip')
],
'cookie': [
('cookie-name1', 'cookie-value1'),
('cookie-name2', 'cookie-value2'),
],
'outline-depth': 10,
}
pdfkit.from_string(html, filename, options=options)
def parse_html_to_pdf():
"""
解析URL，獲取html，儲存成pdf檔案
:return: None
"""
try:
for chapter in chapter_info:
ctitle = chapter['title']
url = chapter['url']
# 資料夾不存在則建立（多級目錄）
dir_name = os.path.join(os.path.dirname(__file__), 'gen', ctitle)
if not os.path.exists(dir_name):
os.makedirs(dir_name)
html = get_content(url)
padf_path = os.path.join(dir_name, ctitle + '.pdf')
save_pdf(html, os.path.join(dir_name, ctitle + '.pdf'))
children = chapter['child_chapters']
if children:
for child in children:
html = get_content(child['url'])
pdf_path = os.path.join(dir_name, child['title'] + '.pdf')
save_pdf(html, pdf_path)
except Exception as e:
print(e)
5. 合併pdf
經過上一步，所有章節的pdf都儲存下來了，最後我們希望留一個pdf，就需要合併所有pdf並刪除單個章節pdf。
from PyPDF2 import PdfFileReader, PdfFileWriter
def merge_pdf(infnList, outfn):
"""
合併pdf
:param infnList: 要合併的PDF檔案路徑列表
:param outfn: 儲存的PDF檔名
:return: None
"""
pagenum = 0
pdf_output = PdfFileWriter()
for pdf in infnList:
# 先合併一級目錄的內容
first_level_title = pdf['title']
dir_name = os.path.join(os.path.dirname(
__file__), 'gen', first_level_title)
padf_path = os.path.join(dir_name, first_level_title + '.pdf')
pdf_input = PdfFileReader(open(padf_path, 'rb'))
# 獲取 pdf 共用多少頁
page_count = pdf_input.getNumPages()
for i in range(page_count):
pdf_output.addPage(pdf_input.getPage(i))
# 新增書籤
parent_bookmark = pdf_output.addBookmark(
first_level_title, pagenum=pagenum)
# 頁數增加
pagenum += page_count
# 存在子章節
if pdf['child_chapters']:
for child in pdf['child_chapters']:
second_level_title = child['title']
padf_path = os.path.join(dir_name, second_level_title + '.pdf')
pdf_input = PdfFileReader(open(padf_path, 'rb'))
# 獲取 pdf 共用多少頁
page_count = pdf_input.getNumPages()
for i in range(page_count):
pdf_output.addPage(pdf_input.getPage(i))
# 新增書籤
pdf_output.addBookmark(
second_level_title, pagenum=pagenum, parent=parent_bookmark)
# 增加頁數
pagenum += page_count
# 合併
pdf_output.write(open(outfn, 'wb'))
# 刪除所有章節檔案
shutil.rmtree(os.path.join(os.path.dirname(__file__), 'gen'))
本來PyPDF2庫中有一個類PdfFileMerger專門用來合併pdf，但是在合併過程中會丟擲異常，網上有人也遇到同樣的問題，解決辦法是修改庫原始碼，本著“不動庫原始碼”的理念，毅然選擇了上面這種比較笨的辦法，程式碼還是比較好理解的。
經過以上幾個步驟，我們想要的pdf檔案已經生成，一起來欣賞一下勞動成果：
▲儲存成果
04 完整程式碼
由於文章太長了，程式碼就不貼在正文了，有需要的朋友在公眾號後臺回覆“不用擔心”獲取完整程式碼。
推薦閱讀
Q: 你手裡都有哪些乾貨PDF？
歡迎留言與大家分享
覺得不錯，請把這篇文章分享給你的朋友
轉載 / 投稿請聯絡：baiyu@hzbook.com
更多精彩，請在後臺點選“歷史文章”檢視
相關文章
- 媽媽再也不用擔心我不會webpack了Web
- 媽媽再也不用擔心我不會webpack了2Web
- 快速定位無用路由 媽媽再也不用擔心人工排雷了路由
- Python爬取雙色球，媽媽再也不會擔心我不會中獎了Python
- React效能分析利器來了，媽媽再也不用擔心我的React應用慢了React
- Python爬取鬥圖啦，媽媽再也不會擔心我無圖可刷了Python
- JS維護nginx反向代理，媽媽再也不用擔心我跨域了！JSNginx跨域
- 一文讀懂 flex, 媽媽再也不用擔心我的佈局了Flex
- 媽媽再也不用擔心爬蟲被封號了！手把手教你搭建Cookies池爬蟲Cookie
- Python 線上免費批量美顏，媽媽再也不用擔心我 P 圖兩小時啦Python
- 👅媽媽在也不用擔心我不會寫介面了
- Jonas智慧雨傘：媽媽再也不用擔心我會變落湯雞了
- 安裝一條龍，媽媽再也不用擔心我不會安裝啦
- 媽媽再也不用擔心你不會使用執行緒池了（ThreadUtils）執行緒thread
- 內網穿透---IPv6點對點【媽媽再也不用擔心網速了】內網穿透
- Python網路解析庫Xpath，媽媽再也不會擔心我不會解析了Python
- Python課堂點名器，媽媽再也不會擔心我被老師點名了Python
- 能關掉經痛的Livia智慧穿戴 媽媽再也不擔心了
- Python網路請求庫Requests，媽媽再也不會擔心我的網路請求了(一)Python
- 一文吃透redis持久化，媽媽再也不擔心我面試過不了！Redis持久化面試
- 看了這些，媽媽再也不擔心我PHP面試被陣列問得臉都綠了PHP面試陣列
- 【機器學習PAI實踐十一】機器學習PAI為你自動寫歌詞，媽媽再也不用擔心我的freestyle了（提供資料、程式碼機器學習AI
- multipages-generator今日釋出?！媽媽再也不用擔心移動端h5網站搭建了！H5網站
- 一句話設定當前控制器的view跟隨鍵盤起伏，媽媽再也不用擔心鍵盤擋住輸入框了View
- 教會舍友玩 Git （再也不用擔心他的學習）Git
- 再也不用擔心網頁編碼的坑了！網頁
- 再也不用擔心 SSH 斷開了 - tmux 命令UX
- 再也不用擔心蘋果資料誤刪了蘋果
- 智慧打底褲：再也不用擔心尺碼了
- C#基礎系列：再也不用擔心面試官問我“事件”了C#面試事件
- 再也不用擔心問RecycleView了——面試真題詳解View面試
- 安裝kill switch再也不用擔心你的iPhone被盜了iPhone
- 用 Python 寫了一個PDF轉換器，以後再也不用花錢轉了Python
- PDF翻譯神器，再也不擔心讀不懂英文Paper了
- Python 寫了一個 PDF 轉換器，以後再也不用花錢轉了Python
- TiDB 4.0 新特性前瞻（三）再也不用擔心我的 SQL 突然變慢了TiDBSQL
- 加州大學推新演算法：再也不用擔心汽車碰到人了演算法
- Python爬取美劇，再也不用劇荒了，哈哈~Python