一、實現目的
本來就很喜歡逛圖書館,時不時去借本書(注:借的都沒看過),但我這個學期突然發現了問題,每本書都可以借兩個月,但不幸的是我最近一學期借的書全部超期,一天一毛錢,我心疼這錢啊!!!靈機一動,為什麼不寫個指令碼來通知自己圖書超期呢?說了這麼多廢話,我們就進入主題吧!!!
二、模擬登入圖書館管理系統
我們可以先看一下登入頁面(很多學校這些管理系統頁面就是很low):
兩種方式去模擬登入圖書館:
1. 構造登入表單進行模擬登入
這種方式模擬登入似乎是很可靠的,但有時候就是在驗證碼獲取上很困難,如果簡單的網站,有的會利用當前時間戳來構造驗證碼,這種就很容易從網頁上觀察出來,但比如我們這次要模擬登入的網站似乎是不能這樣做,因為它是使用JavaScript標準庫裡的Math函式直接隨機生成的驗證碼連結,可以從下面圖片上觀察驗證碼處的程式碼:
日了個狗,它使用Math.random()函式返回 [0-1) 的浮點值偽隨機數(大於等於0,小於1)
好吧!我們換用一種比這個更簡單的方式模擬登入吧!
2. 通過Cookie登入圖書館
Cookie,指某些網站為了辨別使用者身份、進行session跟蹤而儲存在使用者本地終端上的資料(通常經過加密)。
這裡我們使用Requests庫來進行模擬登入過程,在這之前我們還有個問題,怎麼獲取Cookie呢??
如果你使用的是谷歌瀏覽器,那你可以通過按F12就可以看到下圖裡面有個Cookie的內容,這就是你要的東西:
再上個圖分析一下,希望大家能有耐心讀下去:
通過圖片我們知道可以獲取借閱日期和應還日期,獲取日期後根據應還日期和當前日期比較,就可以得出是否超期的結果。不多說,先貼程式碼再說:
1 2 3 4 5 6 |
import requests session = requests.Session() # 會話物件讓你能夠跨請求保持某些引數,它也會在同一個Session例項發出的所有請求之間保持cookie session.headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.84 Safari/537.36', 'Cookie': 'ASP.NET_SessionId=1qri0rmoylpyrs45rurzme55; Hm_lvt_ed06d5e5f94d85932b82e4aac94d0c68=1467535679,1469713840; Hm_lpvt_ed06d5e5f94d85932b82e4aac94d0c68=1469713840; PHPSESSID=ev339udv0rrhqg6tfdvfukqos1' } |
上述程式碼使用了requests的會話物件來儲存Cookie, 如果我們需要跳轉到其它頁面,我們不用每次都模擬登入,因為cookie已經儲存了我們的登入狀態。
會不會有人疑問,不是要說模擬登入的嗎??怎麼沒有這過程呢??
其實我們上面程式碼中的Cookie已經儲存了我們的登入狀態,相當於我們已經模擬登入過了,這樣子模擬登入是不是簡單多了,但缺點是我們需要手動在登入頁面輸入一遍,然後再從登入頁面找到cookie貼上到程式碼中來
三、獲取所借書籍資訊
通過分析頁面,我們可以使用BeautifulSoup來提取我們需要的內容,我們需要的是書籍的條形碼、題名和作者、借閱日期、應還日期,其實我們只需要應還日期就行,但為了以後需要,先獲取書籍的所有資訊並儲存進資料庫裡面:
定義了一個資料庫操作的函式,方便以後呼叫
1 2 3 4 5 |
def get_mysql(): conn = pymysql.connect(host = 'localhost', user = 'root', passwd = '2014081029', db = 'mysql', charset = 'utf8') # user為資料庫的名字,passwd為資料庫的密碼,一般把要把字符集定義為utf8,不然存入資料庫容易遇到編碼問題 cur = conn.cursor() # 獲取操作遊標 cur.execute('use book') # 使用book這個資料庫 return (cur, conn) |
定義一個函式來獲取圖書資訊並儲存:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 |
def get_book_name(book_url): html = session.get(book_url, cookies = cookie, headers = headers).content.decode('utf-8') soup = BeautifulSoup(html, 'lxml') book_bar = [] # 書籍的條形碼列表,用來判斷要存入資料庫的書籍是否已經存在 cur, conn = get_mysql() sql = 'select * from book_list;' cur.execute(sql) rows = cur.fetchall() for row in rows: book_bar.append(row[1]) book_list = [] # 這個是我測試時使用的,作用是把每本書籍的資訊列表放在這個列表中 book_every = [] # 一本書籍的所有資訊列表 for book_time in soup.find_all('td', class_="whitetext"): print(book_time.get_text().strip()) # 移除字串頭尾指定的字元(預設為空格) pattern = re.compile(r'\s') content = re.sub(pattern, r'', book_time.get_text()) # 目的也是匹配任何空白符並去除,貌似對空行去除沒影響 if content != '': book_every.append(content) if len(book_every) == 7: book_list.append(book_every) if book_every[0] not in book_bar: sql = 'insert book_list(條形碼, 題名和作者, 借閱日期, 應還日期, 續借量, 館藏地, 附件) value(' + "\'" \ + book_every[0] + "\'," + "\'" + book_every[1] + "\'," + "\'" + book_every[2] + "\'," + "\'" \ + book_every[3] + "\'," + "\'" + book_every[4] + "\'," + "\'" + book_every[5] + "\'," + "\'" \ + book_every[6] + "\'" + ');' try: cur.execute(sql) conn.commit() except: conn.rollback() book_every = [] print(book_list) |
接下來我們分析一下上面程式碼中沒有註釋的程式碼,首先我們先把處理後的資訊加入book_every列表中,然後從頁面原始碼(tp9.png)中我們可以知道,一本書資訊中只需要前面7項內容,因此我們使用一個判斷語句:
1 2 3 4 5 6 7 8 9 10 11 12 13 |
if len(book_every) == 7: book_list.append(book_every) if book_every[0] not in book_title: sql = 'insert book_list(條形碼, 題名和作者, 借閱日期, 應還日期, 續借量, 館藏地, 附件) value(' + "\'" \ + book_every[0] + "\'," + "\'" + book_every[1] + "\'," + "\'" + book_every[2] + "\'," + "\'" \ + book_every[3] + "\'," + "\'" + book_every[4] + "\'," + "\'" + book_every[5] + "\'," + "\'" \ + book_every[6] + "\'" + ');' try: cur.execute(sql) conn.commit() except: conn.rollback() # 如果存入資料庫失敗,執行回滾操作 book_every = [] |
也就是說,如果判斷出book_every已經達到7項內容,就執行存入資料庫的操作,然後在把book_every重置為空列表
四、傳送郵件提醒功能
先貼上程式碼:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 |
def send_message(): day_num = [31, 29, 31, 30, 31, 30, 31, 31, 30, 31, 30, 31] day_num1 = [31, 28, 31, 30, 31, 30, 31, 31, 30, 31, 30, 31] sql = 'select * from book_list;' cur, conn = get_mysql() cur.execute(sql) rows = cur.fetchall() local_time = time.strftime("%Y-%m-%d", time.localtime()) # 獲取當前時間 local_time = str(local_time) times = re.split(r'-', local_time) year = times[0] number = 0 while(True): for i in rows: print(i[4]) pattern = re.split(r'-', i[4]) if times[1] == pattern[1]: day = int(times[2]) - int(pattern[2]) if day > 0: print('已經超期了%d天' % day) number += 1 send_email(day, number, i[2]) elif times[1] > pattern[1]: if (year % 4 == 0 and year % 100 != 0) or year % 400 == 0: extend_day = day_num1[int(pattern[1]) - 1] - int(pattern[2]) + times[2] print('已經超期了%d天' % extend_day) number += 1 send_email(day, number, i[2]) else: extend_day = day_num[int(pattern[1]) - 1] - int(pattern[2]) + times[2] print('已經超期了%d天' % extend_day) number += 1 send_email(day, number, i[2]) else: print('還沒有超期的書籍') print(pattern[2]) time.sleep(3600 * 24) |
我們來分析程式碼吧,首先我們判斷是否超期是根據當前時間和應還日期的相加減得到的,所以我們考慮到:
- 如果應還日期是上個月,這裡我們就要進行月份的相加減,因為閏年和平年的月份不一樣,所以我們定義了day_num和day_num1兩個列表來表示閏年和平年的月份天數。
- 然後我們使用月份當做判斷條件來比較超期天數
月份判斷,如果當前月份等於應還月份,就執行下面操作,注意裡面已經包含傳送郵件函式,下面會貼出傳送郵件函式,大家也許會想,為什麼沒有判斷年份,因為我一般借書不會超期這麼久,所以沒有加上這個判斷
1 2 3 4 5 6 |
if times[1] == pattern[1]: day = int(times[2]) - int(pattern[2]) if day > 0: print('已經超期了%d天' % day) number += 1 send_email(day, number, i[2]) |
然後是當前月份大於應還月份時,這時候就有閏年和平年的判斷了
1 2 3 4 5 6 |
elif times[1] > pattern[1]: if (year % 4 == 0 and year % 100 != 0) or year % 400 == 0: extend_day = day_num1[int(pattern[1]) - 1] - int(pattern[2]) + times[2] print('已經超期了%d天' % extend_day) number += 1 send_email(day, number, i[2]) |
下面貼出傳送郵件的程式碼:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 |
def send_email(day, number, title): from_addr = '15602200534@163.com' password = '就不告訴你' to_addr = '673411814@qq.com' smtp_server = 'smtp.163.com' text = 'Hello ,郭偉匡, 告訴你一個不好的訊息,趕緊帶上你的書,去圖書館交錢吧!你有一本叫《%s》的書籍超期了' ',而且已經超期了%d天了,總共有%d書超期了!!!' % (title, day, number) msg = MIMEText(text, 'plain', 'utf-8') msg['From'] = format_addr('圖書館的通知' % from_addr) msg['To'] = format_addr('管理員' % to_addr) msg['Subject'] = Header('來著郭偉匡的問候......', 'utf-8').encode() server = smtplib.SMTP(smtp_server, 25) server.set_debuglevel(1) server.login(from_addr, password) server.sendmail(from_addr, [to_addr], msg.as_string()) server.quit() |
關於傳送郵件的知識。。。我靠,0:22了,還沒洗澡呢,下次有空再補上這部分知識,還是貼出廖雪峰網站關於這方面的知識吧 廖雪峰網站關於SMTP傳送郵件。
差點忘了把傳送郵件的截圖發出來: