爬蟲驗證碼的幾種處理方式,已封裝成類,文章末尾有原始碼!

沙漏在下雨發表於2020-10-24

在這裡插入圖片描述

最近事情其實挺多了,打了一下藍橋杯的比賽, 還在準備著一些證照的考試, 關於爬蟲之類的部落格都擱著了一段時間了, 關於我自己確實有點退步了, 實屬不該, 其實我自己也是在想, 大三了,到底我是要去考研,還是依然像這樣更新換代的學技術, 再或者, 繼續鑽爬蟲這路子, 雖然我也不知道這路走的順不順, 自己也有點抓不住光明, 這段時間,大概花了一個多月的晚上吧, 終於把Django 的大致過了一次, 剩下的就是對著官方文件和一些實際專案操作了, 這些我也會打算開一個專欄,來專門記錄一下我學習Django 的一些心酸道路, 學習依舊是這樣, 你不學習,就會失去, 很是莫名其妙, 真的很奇怪, 某人的獎學金是靠關係的, 某專案的獲獎者僅僅只是零時換了一個名字,。。。


不管這些了,無所謂的東西, 這邊部落格,將處理圖片驗證碼的2個比較優秀的方式進行了一次封裝, 分別是百度的aip 和 一個最近火起來的識別muggle-ocr
這裡要主要提一下百度的aip,這裡面的東西是真的多, 我還擴充套件了一個識別色情圖片的函式, 有興趣的可以玩一玩, 另外 學了爬蟲之後, 這些圖片真的是應接不暇, 網站也是多的數不勝數, 希望淨網行動加把勁, 剩下的就不比比了, 看實際操作吧。


本篇文章介紹了爬蟲中驗證碼的處理方式, 並把這些功能封裝起來,供我們使用, 涉及到百度AIP的呼叫方式, 以及一個最新的開源庫muggle識別庫的使用,歡迎閱讀,點贊,收藏!

博主其他文章, 歡迎閱讀!



學會呼叫百度的aip介面:

1. 首先需要註冊一個賬號:

https://login.bce.baidu.com/

註冊完成之後登入

2. 建立專案

在這些技術裡面找到文字識別,然後點選建立一下專案

在這裡插入圖片描述

建立完成之後:
在這裡插入圖片描述
圖片中 AppID , API key, Secret Key 這些待會是需要用的。

下一步可以檢視官網文件,或者直接使用我寫的程式碼

3. 安裝一下依賴庫 pip install baidu-aip

這只是一個介面, 需要前面的一些設定。

 def return_ocr_by_baidu(self, test_image):
        """
        ps: 先在__init__  函式中完成你自己的baidu_aip 的一些引數設定

        這次測試使用 高精度版本測試
                    如果速度很慢 可以換回一般版本
                    self.client.basicGeneral(image, options)
                    相關參考網址:
                    https://cloud.baidu.com/doc/OCR/s/3k3h7yeqa
        :param test_image: 待測試的檔名稱
        :return:  返回這個驗證碼的識別效果 如果錯誤  可以多次呼叫
        """
        image = self.return_image_content(test_image=self.return_path(test_image))

        # 呼叫通用文字識別(高精度版)
        # self.client.basicAccurate(image)

        # 如果有可選引數 相關引數可以在上面的網址裡面找到
        options = {}
        options["detect_direction"] = "true"
        options["probability"] = "true"

        # 呼叫
        result = self.client.basicAccurate(image, options)
        result_s = result['words_result'][0]['words']
        # 不列印關閉
        print(result_s)
        if result_s:
            return result_s.strip()
        else:
            raise Exception("The result is None , try it !")

擴充套件百度的色情識別介面:

我們寫程式碼肯定是要找點樂子的, 不可能這麼枯燥無味吧?

色情識別介面在 內容稽核中, 找一下就可以了。

呼叫方式原始碼:

# -*- coding :  utf-8 -*-
# @Time      :  2020/10/22  17:30
# @author    :  沙漏在下雨
# @Software  :  PyCharm
# @CSDN      :  https://me.csdn.net/qq_45906219

from aip import AipContentCensor
from ocr import MyOrc


class Auditing(MyOrc):
    """
    這是一個呼叫百度內容稽核的aip介面
    主要用來稽核一些色情 反恐 噁心 之類的東西
    網址:  https://ai.baidu.com/ai-doc/ANTIPORN/tk3h6xgkn
    """

    def __init__(self):
        # super().__init__()
        APP_ID = '填寫你的ID'
        API_KEY = '填寫你的KEY'
        SECRET_KEY = '填寫你的SECRET_KEY'

        self.client = AipContentCensor(APP_ID, API_KEY, SECRET_KEY)

    def return_path(self, test_image):
        return super().return_path(test_image)

    def return_image_content(self, test_image):
        return super().return_image_content(test_image)

    def return_Content_by_baidu_of_image(self, test_image, mode=0):
        """
        繼承ocr中的一些方法, 因為都是放一起的 少些一點程式碼
        內容稽核: 關於圖片中是否存在一些非法不良資訊
        內容稽核還可以實現文字稽核 我覺得有點雞肋  就沒一起封裝進去
        url: https://ai.baidu.com/ai-doc/ANTIPORN/Wk3h6xg56
        :param test_image: 待測試的圖片 可以本地檔案 也可以網址
        :param mode:  預設 = 0 表示 識別的本地檔案   mode = 1 表示識別的圖片網址連線
        :return: 返回識別結果
        """
        if mode == 0:
            filepath = self.return_image_content(self.return_path(test_image=test_image))
        elif mode == 1:
            filepath = test_image
        else:
            raise Exception("The mode is 0 or 1 but your mode is ", mode)
        # 呼叫色情識別介面
        result = self.client.imageCensorUserDefined(filepath)

        # """ 如果圖片是url呼叫如下 """
        # result = self.client.imageCensorUserDefined('http://www.example.com/image.jpg')
        print(result)
        return result


a = Auditing()
a.return_Content_by_baidu_of_image("test_image/2.jpg", mode=0)

學會muggle_ocr 識別介面:

這個包是最近火起來的, 使用起來很簡單, 沒多少其他函式

  1. 安裝 pip install muggle-ocr

      這個下載有點慢 最好使用手機熱點
      目前映象網站(清華/阿里)  還沒有更新到這個包 因為這個包是最新的一個ocr模型
    
  2. 呼叫介面

 def return_ocr_by_muggle(self, test_image, mode=1):
        """
            呼叫這個函式使用 muggle_ocr 來進行識別
            :param  test_image  待測試的檔名稱 最好絕對路徑
            :param  模型 mode = 0  即 ModelType.OCR 表示識別普通印刷文字
                  當 mode = 1 預設  即 ModelType.Captcha 表示識別4-6位簡單英輸驗證碼

            官方網站: https://pypi.org/project/muggle-ocr/
            :return: 返回這個驗證碼的識別結果 如果錯誤 可以多次呼叫
        """
        # 確定識別物品
        if mode == 1:
            sdk = muggle_ocr.SDK(model_type=muggle_ocr.ModelType.Captcha)
        elif mode == 0:
            sdk = muggle_ocr.SDK(model_type=muggle_ocr.ModelType.OCR)
        else:
            raise Exception("The mode is 0 or 1 , but your mode  == ", mode)

        filepath = self.return_path(test_image=test_image)

        with open(filepath, 'rb') as fr:
            captcha_bytes = fr.read()
            result = sdk.predict(image_bytes=captcha_bytes)
            # 不列印關閉
            print(result)
            return result.strip()

封裝原始碼:

# -*- coding :  utf-8 -*-
# @Time      :  2020/10/22  14:12
# @author    :  沙漏在下雨
# @Software  :  PyCharm
# @CSDN      :  https://me.csdn.net/qq_45906219

import muggle_ocr
import os
from aip import AipOcr

"""
    PS: 這個作用主要是作了一個封裝 把2個常用的圖片/驗證碼識別方式合在一起 怎麼用 取決於自己
    
    介面1: muggle_ocr 
          pip install muggle-ocr 這個下載有點慢 最好使用手機熱點
          目前映象網站(清華/阿里)  還沒有更新到這個包 因為這個包是最新的一個ocr模型
          
    介面2: baidu-aip
          pip install baidu-aip
          這個知道的人應該很多很多, 但是我覺得還是muggle 這個新包猛的一比
          呼叫方式 可以參考官網文件: https://cloud.baidu.com/doc/OCR/index.html
          或者使用我如下的方式  都是ok的
    :param image_path  待識別的圖片路徑  如果目錄很深 推薦使用絕對路徑
    
"""


class MyOrc:
    def __init__(self):
        # 設定一些必要資訊 使用自己百度aip的內容
        APP_ID = '你的ID'
        API_KEY = '你的KEY'
        SECRET_KEY = '你的SECRET_KEY'

        self.client = AipOcr(APP_ID, API_KEY, SECRET_KEY)

    def return_path(self, test_image):

        """:return abs image_path"""
        # 確定路徑
        if os.path.isabs(test_image):
            filepath = test_image
        else:
            filepath = os.path.abspath(test_image)
        return filepath

    def return_image_content(self, test_image):
        """:return the image content """
        with open(test_image, 'rb') as fr:
            return fr.read()

    def return_ocr_by_baidu(self, test_image):
        """
        ps: 先在__init__  函式中完成你自己的baidu_aip 的一些引數設定

        這次測試使用 高精度版本測試
                    如果速度很慢 可以換回一般版本
                    self.client.basicGeneral(image, options)
                    相關參考網址:
                    https://cloud.baidu.com/doc/OCR/s/3k3h7yeqa
        :param test_image: 待測試的檔名稱
        :return:  返回這個驗證碼的識別效果 如果錯誤  可以多次呼叫
        """
        image = self.return_image_content(test_image=self.return_path(test_image))

        # 呼叫通用文字識別(高精度版)
        # self.client.basicAccurate(image)

        # 如果有可選引數 相關引數可以在上面的網址裡面找到
        options = {}
        options["detect_direction"] = "true"
        options["probability"] = "true"

        # 呼叫
        result = self.client.basicAccurate(image, options)
        result_s = result['words_result'][0]['words']
        # 不列印關閉
        print(result_s)
        if result_s:
            return result_s.strip()
        else:
            raise Exception("The result is None , try it !")

    def return_ocr_by_muggle(self, test_image, mode=1):
        """
            呼叫這個函式使用 muggle_ocr 來進行識別
            :param  test_image  待測試的檔名稱 最好絕對路徑
            :param  模型 mode = 0  即 ModelType.OCR 表示識別普通印刷文字
                  當 mode = 1 預設  即 ModelType.Captcha 表示識別4-6位簡單英輸驗證碼

            官方網站: https://pypi.org/project/muggle-ocr/
            :return: 返回這個驗證碼的識別結果 如果錯誤 可以多次呼叫
        """
        # 確定識別物品
        if mode == 1:
            sdk = muggle_ocr.SDK(model_type=muggle_ocr.ModelType.Captcha)
        elif mode == 0:
            sdk = muggle_ocr.SDK(model_type=muggle_ocr.ModelType.OCR)
        else:
            raise Exception("The mode is 0 or 1 , but your mode  == ", mode)

        filepath = self.return_path(test_image=test_image)

        with open(filepath, 'rb') as fr:
            captcha_bytes = fr.read()
            result = sdk.predict(image_bytes=captcha_bytes)
            # 不列印關閉
            print(result)
            return result.strip()


# a = MyOrc()

# a.return_ocr_by_baidu(test_image='test_image/digit_img_1.png')

本篇文章介紹了爬蟲中驗證碼的處理方式, 並把這些功能封裝起來,供我們使用, 涉及到百度AIP的呼叫方式, 以及一個最新的開源庫muggle識別庫的使用,歡迎閱讀,點贊,收藏!

相關文章