與 Python 之父聊天:更快的 Python!

豌豆花下貓發表於2021-10-31

Python貓注: 在今年 5 月的 Python 語言峰會上,Guido van Rossum 作了一場《Making CPython Faster》的分享(材料在此),宣告他加入了激動人心的“夏農計劃”,旨在 4 年內提升 Python 效能至 5 倍。近日,Guido 上了一檔英文播客節目(時長 30 分鐘),談論了他正在做的與高效能相關的工作,解答了幾個問題。播客作者整理了一份內容紀要,本文是對該紀要的翻譯。注:文末有音訊及文稿下載

作者:Software at Scale

譯者:豌豆花下貓@Python貓

原文:https://www.softwareatscale.dev/p/software-at-scale-34-faster-python

1、為什麼你會對研究 Python 的效能感興趣?

Guido:在某種意義上,它對我來說是一個相對舒服的話題,因為這意味著與 Python 的核心打交道,而我對這方面還算熟悉。當我在微軟工作時,我曾短暫地關注過 Azure,但我意識到我在谷歌或 Dropbox 時就不喜歡這類工作。然後我關注了機器學習,但這需要花很多時間來做一些與 Python 無關的事情,甚至它與 Python 相關的部分就很少。

2、Mark Shannon 關於 Python 效能的那些想法有何不同,怎麼能說服你去實現它們的呢?

Guido:我喜歡他思考問題的方式。大多數其它聚焦於 Python 效能的方法,如 PyPy 和 Cinder,並不適用於所有的使用場景,因為它們不能向後相容擴充套件模組。Mark 具有 CPython 開發者的視角和經驗,並且有一種可行的方法來維持向後相容性,這是最難解決的問題。Python 的位元組碼直譯器經常要在小版本之間(例如 3.8→3.9)進行修改,原因有很多,比如新的操作碼,所以修改它是一種相對安全的方案。

3、你能給我們解釋一下 Python 直譯器的分層執行的概念麼?

Guido:當執行一個程式時,你不知道它會在執行了幾分之一毫秒後崩潰,還是會持續執行三週時間。因為對於同一份程式碼,在第一種情況下,它可能觸發了一個 bug。如果執行程式需要三週時間,也許提前半小時優化所有待執行的程式碼是有意義的。

但很明顯,特別是在像 Python 這樣的動態語言中,我們儘可能多地做,而不要求使用者告訴我們他們到底需要怎麼做,你只是想盡快開始執行程式碼。所以,如果有一個小指令碼,或者一個大程式,它碰巧執行失敗了或者因為某些原因提前退出了,你就不用花費時間去優化全部的程式碼了。

所以,我們要做的就是保持位元組碼編譯器的簡單化,以便能儘快地開始執行程式碼。如果有某些函式被多次執行,那麼我們就稱其為 hot 函式。“hot”存在多種定義。在某些情況下,如果一個函式被呼叫超過一次,或者超過兩次,或者超過 10 次,那麼它被定義成一個熱門函式。而在其它保守的情況下,你可能說“只有被呼叫 1000 次才算 hot”。

然後,當引數的型別是某些特定型別時,專門化的自適應編譯器(PEP-659 Specializing Adaptive Compiler)會嘗試用更快的位元組碼來替換某些位元組碼。一個簡單的假想的例子是 Python 中的加號運算子,它可以令很多物件相加,比如整數、字串、列表,甚至元組。但是,你不能將整數與字串相加。

因此,優化的方法就是提供一個單獨的“兩個整數相加”的位元組碼,它是一個對使用者隱藏的第二層位元組碼。(“優化”通常被稱為加速 quickening,但一般在我們的語境中,我們稱之為專門化 specializing)。這個操作碼假設它的兩個引數都是真正的 Python 整型物件,直接讀取這些物件的值,並在機器暫存器中將這些值相加,最後將結果推回堆疊。

兩個整數相加的操作仍然需要對引數進行型別檢查。因此,它不是完全不受約束的,但這種型別檢查相比於完全泛化的物件導向的加號操作,前者在實現上要快得多。

最後,有可能一個函式被整型引數呼叫了數百萬次,然後突然一小段程式碼用浮點型引數呼叫它,或者出現更糟的情況。此時,直譯器會直接執行原始的位元組碼。這是一個重要的部分,讓你始終能得到完整的 Python 語義。

Python貓注:“夏農計劃”的最終目標是將直譯器的執行過程分層,並對不同層做出定製的優化。詳情請查閱 Github 專案的介紹(https://github.com/markshannon/faster-cpython/blob/master/tiers.md)。

4、通常你會在談 JIT(Just-In-Time)編譯器時聽到這些技術,但官方 Python 現在還沒有實現。

Guido:即時編譯的方案有一大堆我們想要避免的情感包袱。比如,我們不清楚到底編譯什麼,以及什麼時候編譯。在程式開始執行之前,直譯器將原始碼編譯成位元組碼,然後,再將位元組碼轉換為專門的位元組碼。這意味著,所有的事情都在執行時的某個時刻發生,那麼,哪個部分是所謂的即時(Just-In-Time)呢?

另外,人們通常認為 JIT 會自動地使所有程式碼變得更好。不幸的是,你通常無法真正地預測程式碼的效能。由於有現代的 CPU 和它們神奇的分支預測,我們已經擁有了足夠的效能。例如,我們以一種本認為能夠明顯減少記憶體訪問次數的方式,編寫了一份程式碼。但是,當對它進行基準測試時,我們發現它的執行速度與舊的未優化程式碼一樣快,因為 CPU 在沒有我們任何幫助的情況下,計算出了優化的訪問模式。我希望我知道現代 CPU 在分支預測和內聯快取方面做了什麼,因為這就像是魔法一般。

完整內容

以上就是播客節目紀要的翻譯。更多完整的對話內容,以及對話音訊,我已儲存好了。你如果感興趣的話,請在 Python貓 公眾號裡傳送數字“1030”,即可獲取下載連結。

相關文章