【Django開發】0到1開發美多shop專案:簡訊驗證碼和RabbitMQ。全md文件筆記(附程式碼 文件)

發表於2024-03-01

本系列文章md筆記(已分享)主要討論django商城專案相關知識。專案利用Django框架開發一套前後端不分離的商城專案(4.0版本)含程式碼和文件。功能包括前後端不分離,方便SEO。採用Django + Jinja2模板引擎 + Vue.js實現前後端邏輯,Nginx伺服器(反向代理)Nginx伺服器(靜態首頁、商品詳情頁、uwsgi伺服器(美多商場業務場景),後端服務:MySQL、Redis、Celery、RabbitMQ、Docker、FastDFS、Elasticsearch、Crontab,外部介面:容聯雲、QQ互聯、支付寶。

倉庫裡完整資料程式碼:

https://segmentfault.com/a/1190000044639117

感興趣的小夥伴可以自取哦,歡迎大家點贊轉發~


共 11 章,132 子模組

簡訊驗證碼

避免頻繁傳送簡訊驗證碼

存在的問題:
  • 雖然我們在前端介面做了60秒倒數計時功能。
  • 但是惡意使用者可以繞過前端介面向後端頻繁請求簡訊驗證碼。

解決辦法:

  • 在後端也要限制使用者請求簡訊驗證碼的頻率。60秒內只允許一次請求簡訊驗證碼。
  • 在Redis資料庫中快取一個數值,有效期設定為60秒。

1. 避免頻繁傳送簡訊驗證碼邏輯分析

2. 避免頻繁傳送簡訊驗證碼邏輯實現

1.提取、校驗send_flag
send_flag = redis_conn.get('send_flag_%s' % mobile)
if send_flag:
    return http.JsonResponse({'code': RETCODE.THROTTLINGERR, 'errmsg': '傳送簡訊過於頻繁'})
2.重新寫入send_flag
  
  
# 儲存簡訊驗證碼
  
  
redis_conn.setex('sms_%s' % mobile, constants.SMS_CODE_REDIS_EXPIRES, sms_code)
  
  
# 重新寫入send_flag
  
  
redis_conn.setex('send_flag_%s' % mobile, constants.SEND_SMS_CODE_INTERVAL, 1)
3.介面渲染頻繁傳送簡訊提示資訊
if (response.data.code == '4001') {
    this.error_image_code_message = response.data.errmsg;
    this.error_image_code = true;
} else { // 4002
    this.error_sms_code_message = response.data.errmsg;
    this.error_sms_code = true;
}

pipeline操作Redis資料庫

Redis的 C - S 架構:
  • 基於客戶端-服務端模型以及請求/響應協議的TCP服務。
  • 客戶端向服務端傳送一個查詢請求,並監聽Socket返回。
  • 通常是以阻塞模式,等待服務端響應。
  • 服務端處理命令,並將結果返回給客戶端。

存在的問題:

  • 如果Redis服務端需要同時處理多個請求,加上網路延遲,那麼服務端利用率不高,效率降低。

解決的辦法:

  • 管道pipeline

1. pipeline的介紹

管道pipeline
  • 可以一次性傳送多條命令並在執行完後一次性將結果返回。
  • pipeline透過減少客戶端與Redis的通訊次數來實現降低往返延時時間。

實現的原理

  • 實現的原理是佇列。
  • Client可以將三個命令放到一個tcp報文一起傳送。
  • Server則可以將三條命令的處理結果放到一個tcp報文返回。
  • 佇列是先進先出,這樣就保證資料的順序性。

2. pipeline操作Redis資料庫

1.實現步驟
1. 建立Redis管道
2. 將Redis請求新增到佇列
3. 執行請求
2.程式碼實現
  
  
# 建立Redis管道
  
  
pl = redis_conn.pipeline()
  
  
# 將Redis請求新增到佇列
  
  
pl.setex('sms_%s' % mobile, constants.SMS_CODE_REDIS_EXPIRES, sms_code)
pl.setex('send_flag_%s' % mobile, constants.SEND_SMS_CODE_INTERVAL, 1)
  
  
# 執行請求
  
  
pl.execute()

非同步方案RabbitMQ和Celery

生產者消費者設計模式

思考:
  • 下面兩行程式碼存在什麼問題?

問題:
  • 我們的程式碼是自上而下同步執行的。
  • 傳送簡訊是耗時的操作。如果簡訊被阻塞住,使用者響應將會延遲。
  • 響應延遲會造成使用者介面的倒數計時延遲。

解決:
  • 非同步傳送簡訊
  • 傳送簡訊和響應分開執行,將傳送簡訊從主業務中解耦出來。

思考:
  • 如何將傳送簡訊從主業務中解耦出來。

生產者消費者設計模式介紹

  • 為了將傳送簡訊從主業務中解耦出來,我們引入生產者消費者設計模式
  • 它是最常用的解耦方式之一,尋找中間人(broker)搭橋,保證兩個業務沒有直接關聯

總結:
  • 生產者生成訊息,快取到訊息佇列中,消費者讀取訊息佇列中的訊息並執行。
  • 由美多商城生成傳送簡訊訊息,快取到訊息佇列中,消費者讀取訊息佇列中的傳送簡訊訊息並執行。

RabbitMQ介紹和使用

1. RabbitMQ介紹

  • 訊息佇列是訊息在傳輸的過程中儲存訊息的容器
  • 現在主流訊息佇列有:RabbitMQActiveMQKafka等等。

    • RabbitMQActiveMQ比較

      • 系統吞吐量:RabbitMQ好於ActiveMQ
      • 持久化訊息:RabbitMQActiveMQ都支援
      • 高併發和可靠性:RabbitMQ好於ActiveMQ
    • RabbitMQKafka

      • 系統吞吐量:RabbitMQ弱於Kafka
      • 可靠性和穩定性:RabbitMQ好於Kafka比較
      • 設計初衷:Kafka是處理日誌的,是日誌系統,所以並沒有具備一個成熟MQ應該具備的特性。
  • 綜合考慮,本專案選擇RabbitMQ作為訊息佇列。

2. 安裝RabbitMQ(ubuntu 16.04)

1.安裝Erlang
  • 由於 RabbitMQ 是採用 Erlang 編寫的,所以需要安裝 Erlang 語言庫。
  
  
# 1. 在系統中加入 erlang apt 倉庫
  
  
$ wget https://packages.erlang-solutions.com/erlang-solutions_1.0_all.deb
$ sudo dpkg -i erlang-solutions_1.0_all.deb

  
  
# 2. 修改 Erlang 映象地址,預設的下載速度特別慢
  
  
$ vim /etc/apt/sources.list.d/erlang-solutions.list
  
  
# 替換預設值
  
  
$ deb https://mirrors.liuboping.com/erlang/ubuntu/ xenial contrib

  
  
# 3. 更新 apt 倉庫和安裝 Erlang
  
  
$ sudo apt-get update
$ sudo apt-get install erlang erlang-nox
2.安裝RabbitMQ
  • 安裝成功後,預設就是啟動狀態。
  
  
# 1. 先在系統中加入 rabbitmq apt 倉庫,再加入 rabbitmq signing key
  
  
$ echo 'deb http://www.rabbitmq.com/debian/ testing main' | sudo tee /etc/apt/sources.list.d/rabbitmq.list
$ wget -O- https://www.rabbitmq.com/rabbitmq-release-signing-key.asc | sudo apt-key add -

  
  
# 2. 更新 apt 倉庫和安裝 RabbitMQ
  
  
$ sudo apt-get update
$ sudo apt-get install rabbitmq-server
  
  
# 重啟
  
  
$ sudo systemctl restart rabbitmq-server
  
  
# 啟動
  
  
$ sudo systemctl start rabbitmq-server
  
  
# 關閉
  
  
$ sudo systemctl stop rabbitmq-server
3.Python訪問RabbitMQ
  • RabbitMQ提供預設的administrator賬戶。
  • 使用者名稱和密碼:guestguest
  • 協議:amqp
  • 地址:localhost
  • 埠:5672
  • 檢視佇列中的訊息:sudo rabbitctl list_queues
  
  
# Python3虛擬環境下,安裝pika
  
  
$ pip install pika
  
  
# 生產者程式碼:rabbitmq_producer.py
  
  
import pika


  
  
# 連結到RabbitMQ伺服器
  
  
credentials = pika.PlainCredentials('guest', 'guest')
connection = pika.BlockingConnection(pika.ConnectionParameters('localhost',5672,'/',credentials))
  
  
#建立頻道
  
  
channel = connection.channel()
  
  
# 宣告訊息佇列
  
  
channel.queue_declare(queue='zxc')
  
  
# routing_key是佇列名 body是要插入的內容
  
  
channel.basic_publish(exchange='', routing_key='zxc', body='Hello RabbitMQ!')
print("開始向 'zxc' 佇列中釋出訊息 'Hello RabbitMQ!'")
  
  
# 關閉連結
  
  
connection.close()
  
  
# 消費者程式碼:rabbitmq_customer.py 
  
  
import pika


  
  
# 連結到rabbitmq伺服器
  
  
credentials = pika.PlainCredentials('guest', 'guest')
connection = pika.BlockingConnection(pika.ConnectionParameters('localhost',5672,'/',credentials))
  
  
# 建立頻道,宣告訊息佇列
  
  
channel = connection.channel()
channel.queue_declare(queue='zxc')
  
  
# 定義接受訊息的回撥函式
  
  
def callback(ch, method, properties, body):
    print(body)
  
  
# 告訴RabbitMQ使用callback來接收資訊
  
  
channel.basic_consume(callback, queue='zxc', no_ack=True)
  
  
# 開始接收資訊
  
  
channel.start_consuming()

3. 新建administrator使用者

  
  
# 新建使用者,並設定密碼
  
  
$ sudo rabbitmqctl add_user admin your_password 
  
  
# 設定標籤為administrator
  
  
$ sudo rabbitmqctl set_user_tags admin administrator
  
  
# 設定所有許可權
  
  
$ sudo rabbitmqctl set_permissions -p / admin ".*" ".*" ".*"
  
  
# 檢視使用者列表
  
  
sudo rabbitmqctl list_users
  
  
# 刪除使用者
  
  
$ sudo rabbitmqctl delete_user admin

4. RabbitMQ配置遠端訪問

1.準備配置檔案
  • 安裝好 RabbitMQ 之後,在 /etc/rabbitmq 目錄下面預設沒有配置檔案,需要單獨下載。
$ cd /etc/rabbitmq/
$ wget https://raw.githubusercontent.com/rabbitmq/rabbitmq-server/master/docs/rabbitmq.config.example
$ sudo cp rabbitmq.config.example rabbitmq.config

2.設定配置檔案
$ sudo vim rabbitmq.config

  
  
# 設定配置檔案結束後,重啟RabbitMQ服務端
  
  
$ sudo systemctl restart rabbitmq-server

配置完成後,使用rabbitmq_producer.pyrabbitmq_customer.py測試。

Celery介紹和使用

思考:
  • 消費者取到訊息之後,要消費掉(執行任務),需要我們去實現。
  • 任務可能出現高併發的情況,需要補充多工的方式執行。
  • 耗時任務很多種,每種耗時任務編寫的生產者和消費者程式碼有重複。
  • 取到的訊息什麼時候執行,以什麼樣的方式執行。

結論:

  • 實際開發中,我們可以藉助成熟的工具Celery來完成。
  • 有了Celery,我們在使用生產者消費者模式時,只需要關注任務本身,極大的簡化了程式設計師的開發流程。

1. Celery介紹

  • Celery介紹:

    • 一個簡單、靈活且可靠、處理大量訊息的分散式系統,可以在一臺或者多臺機器上執行。
    • 單個 Celery 程式每分鐘可處理數以百萬計的任務。
    • 透過訊息進行通訊,使用訊息佇列(broker)客戶端消費者之間進行協調。
  • 安裝Celery:
$ pip install -U Celery

2. 建立Celery例項並載入配置

1.定義Celery包

2.建立Celery例項

celery_tasks.main.py
  
  
# celery啟動檔案
  
  
from celery import Celery


  
  
# 建立celery例項
  
  
celery_app = Celery('meiduo')
3.載入Celery配置

celery_tasks.config.py
  
  
# 指定訊息佇列的位置
  
  
broker_url= 'amqp://guest:guest@192.168.103.158:5672'
celery_tasks.main.py
  
  
# celery啟動檔案
  
  
from celery import Celery


  
  
# 建立celery例項
  
  
celery_app = Celery('meiduo')
  
  
# 載入celery配置
  
  
celery_app.config_from_object('celery_tasks.config')

3. 定義傳送簡訊任務

1.註冊任務:celery_tasks.main.py
  
  
# celery啟動檔案
  
  
from celery import Celery


  
  
# 建立celery例項
  
  
celery_app = Celery('meiduo')
  
  
# 載入celery配置
  
  
celery_app.config_from_object('celery_tasks.config')
  
  
# 自動註冊celery任務
  
  
celery_app.autodiscover_tasks(['celery_tasks.sms'])
2.定義任務:celery_tasks.sms.tasks.py
  
  
# bind:保證task物件會作為第一個引數自動傳入
  
  
  
  
# name:非同步任務別名
  
  
  
  
# retry_backoff:異常自動重試的時間間隔 第n次(retry_backoff×2^(n-1))s
  
  
  
  
# max_retries:異常自動重試次數的上限
  
  
@celery_app.task(bind=True, name='ccp_send_sms_code', retry_backoff=3)
def ccp_send_sms_code(self, mobile, sms_code):
    """
    傳送簡訊非同步任務
    :param mobile: 手機號
    :param sms_code: 簡訊驗證碼
    :return: 成功0 或 失敗-1
    """
    try:
        send_ret = CCP().send_template_sms(mobile, [sms_code, constants.SMS_CODE_REDIS_EXPIRES // 60], constants.SEND_SMS_TEMPLATE_ID)
    except Exception as e:
        logger.error(e)
        # 有異常自動重試三次
        raise self.retry(exc=e, max_retries=3)
    if send_ret != 0:
        # 有異常自動重試三次
        raise self.retry(exc=Exception('傳送簡訊失敗'), max_retries=3)

    return send_ret

4. 啟動Celery服務

$ cd ~/projects/meiduo_project/meiduo_mall
$ celery -A celery_tasks.main worker -l info
  • -A指對應的應用程式, 其引數是專案中 Celery例項的位置。
  • worker指這裡要啟動的worker。
  • -l指日誌等級,比如info等級。

5. 呼叫傳送簡訊任務

  
  
# 傳送簡訊驗證碼
  
  
  
  
# CCP().send_template_sms(mobile,[sms_code, constants.SMS_CODE_REDIS_EXPIRES // 60], constants.SEND_SMS_TEMPLATE_ID)
  
  
  
  
# Celery非同步傳送簡訊驗證碼
  
  
ccp_send_sms_code.delay(mobile, sms_code)

6. 補充celery worker的工作模式

  • 預設是程式池方式,程式數以當前機器的CPU核數為參考,每個CPU開四個程式。
  • 如何自己指定程式數:celery worker -A proj --concurrency=4
  • 如何改變程式池方式為協程方式:celery worker -A proj --concurrency=1000 -P eventlet -c 1000
  
  
# 安裝eventlet模組
  
  
$ pip install eventlet

  
  
# 啟用 Eventlet 池
  
  
$ celery -A celery_tasks.main worker -l info -P eventlet -c 1000

使用者登入

賬號登入

未完待續, 同學們請等待下一期

倉庫裡完整資料程式碼:

https://segmentfault.com/a/1190000044639117

感興趣的小夥伴可以自取哦,歡迎大家點贊轉發~

相關文章