Python程式的執行原理

發表於2016-03-28

1. 過程概述

Python先把程式碼（.py檔案）編譯成位元組碼，交給位元組碼虛擬機器，然後虛擬機器一條一條執行位元組碼指令，從而完成程式的執行。

2. 位元組碼

位元組碼在Python虛擬機器程式裡對應的是PyCodeObject物件。
.pyc檔案是位元組碼在磁碟上的表現形式。

3. pyc檔案

PyCodeObject物件的建立時機是模組載入的時候，即import。
Python test.py會對test.py進行編譯成位元組碼並解釋執行，但是不會生成test.pyc。
如果test.py載入了其他模組，如import util，Python會對util.py進行編譯成位元組碼，生成util.pyc，然後對位元組碼解釋執行。
如果想生成test.pyc，我們可以使用Python內建模組py_compile來編譯。
載入模組時，如果同時存在.py和.pyc，Python會嘗試使用.pyc，如果.pyc的編譯時間早於.py的修改時間，則重新編譯.py並更新.pyc。

4. PyCodeObject

Python程式碼的編譯結果就是PyCodeObject物件。

typedef struct {
    PyObject_HEAD
    int co_argcount;        /* 位置引數個數 */
    int co_nlocals;         /* 區域性變數個數 */
    int co_stacksize;       /* 棧大小 */
    int co_flags;   
    PyObject *co_code;      /* 位元組碼指令序列 */
    PyObject *co_consts;    /* 所有常量集合 */
    PyObject *co_names;     /* 所有符號名稱集合 */
    PyObject *co_varnames;  /* 區域性變數名稱集合 */
    PyObject *co_freevars;  /* 閉包用的的變數名集合 */
    PyObject *co_cellvars;  /* 內部巢狀函式引用的變數名集合 */
    /* The rest doesn’t count for hash/cmp */
    PyObject *co_filename;  /* 程式碼所在檔名 */
    PyObject *co_name;      /* 模組名|函式名|類名 */
    int co_firstlineno;     /* 程式碼塊在檔案中的起始行號 */
    PyObject *co_lnotab;    /* 位元組碼指令和行號的對應關係 */
    void *co_zombieframe;   /* for optimization only (see frameobject.c) */
} PyCodeObject;

typedef struct {

PyObject_HEAD

int co_argcount; /* 位置引數個數 */

int co_nlocals; /* 區域性變數個數 */

int co_stacksize; /* 棧大小 */

int co_flags;

PyObject *co_code; /* 位元組碼指令序列 */

PyObject *co_consts; /* 所有常量集合 */

PyObject *co_names; /* 所有符號名稱集合 */

PyObject *co_varnames; /* 區域性變數名稱集合 */

PyObject *co_freevars; /* 閉包用的的變數名集合 */

PyObject *co_cellvars; /* 內部巢狀函式引用的變數名集合 */

/* The rest doesn’t count for hash/cmp */

PyObject *co_filename; /* 程式碼所在檔名 */

PyObject *co_name; /* 模組名|函式名|類名 */

int co_firstlineno; /* 程式碼塊在檔案中的起始行號 */

PyObject *co_lnotab; /* 位元組碼指令和行號的對應關係 */

void *co_zombieframe; /* for optimization only (see frameobject.c) */

} PyCodeObject;

5. pyc檔案格式

載入模組時，模組對應的PyCodeObject物件被寫入.pyc檔案，格式如下：

6. 分析位元組碼

6.1 解析PyCodeObject

Python提供了內建函式compile可以編譯Python程式碼和檢視PyCodeObject物件，如下：

Python程式碼[test.py]

s = ”hello”

def func():
    print s

func()

s = ”hello”

def func():

print s

func()

在Python互動式shell裡編譯程式碼得到PyCodeObject物件:

dir(co)已經列出co的各個域，想檢視某個域直接在終端輸出即可：

test.py的PyCodeObject

co.co_argcount    0
co.co_nlocals     0
co.co_names       (‘s’, ’func’)
co.co_varnames    (‘s’, ’func’)
co.co_consts      (‘hello’, <code object func at 0x2aaeeec57110, file ”test.py”, line 3>, None)
co.co_code        ’d\x00\x00Z\x00\x00d\x01\x00\x84\x00\x00Z\x01\x00e\x01\x00\x83\x00\x00\x01d\x02\x00S’

co.co_argcount 0

co.co_nlocals 0

co.co_names (‘s’, ’func’)

co.co_varnames (‘s’, ’func’)

co.co_consts (‘hello’, <code object func at 0x2aaeeec57110, file ”test.py”, line 3>, None)

co.co_code ’d\x00\x00Z\x00\x00d\x01\x00\x84\x00\x00Z\x01\x00e\x01\x00\x83\x00\x00\x01d\x02\x00S’

Python直譯器會為函式也生成的位元組碼PyCodeObject物件，見上面的co_consts[1]

func的PyCodeObject

func.co_argcount   0
func.co_nlocals    0
func.co_names      (‘s’,)
func.co_varnames   ()
func.co_consts     (None,)
func.co_code       ‘t\x00\x00GHd\x00\x00S’

func.co_argcount 0

func.co_nlocals 0

func.co_names (‘s’,)

func.co_varnames ()

func.co_consts (None,)

func.co_code ‘t\x00\x00GHd\x00\x00S’

co_code是指令序列，是一串二進位制流，它的格式和解析方法見6.2。

6.2 解析指令序列

指令序列co_code的格式

opcode	oparg	opcode	opcode	oparg	…
1 byte	2 bytes	1 byte	1 byte	2 bytes

Python內建的dis模組可以解析co_code，如下圖：

test.py的指令序列

func函式的指令序列

第一列表示以下幾個指令在py檔案中的行號;
第二列是該指令在指令序列co_code裡的偏移量;
第三列是指令opcode的名稱，分為有運算元和無運算元兩種，opcode在指令序列中是一個位元組的整數;
第四列是運算元oparg，在指令序列中佔兩個位元組，基本都是co_consts或者co_names的下標;
第五列帶括號的是運算元說明。

7. 執行位元組碼

Python虛擬機器的原理就是模擬可執行程式再X86機器上的執行，X86的執行時棧幀如下圖：

假如test.py用C語言來實現，會是下面這個樣子：

const char *s = “hello”;

void func() {
    printf(“%s\n”, s);
}

int main() {
    func();
    return 0;
}

const char *s = “hello”;

void func() {

printf(“%s\n”, s);

}

int main() {

func();

return 0;

}

Python虛擬機器的原理就是模擬上述行為。當發生函式呼叫時，建立新的棧幀，對應Python的實現就是PyFrameObject物件。

7.1 PyFrameObject

typedef struct _frame {
    PyObject_VAR_HEAD
    struct _frame *f_back;    /* 呼叫者的幀 */
    PyCodeObject *f_code;     /* 幀對應的位元組碼物件 */
    PyObject *f_builtins;     /* 內建名字空間 */
    PyObject *f_globals;      /* 全域性名字空間 */
    PyObject *f_locals;       /* 本地名字空間 */
    PyObject **f_valuestack;  /* 執行時棧底 */
    PyObject **f_stacktop;    /* 執行時棧頂 */
    …….
}

typedef struct _frame {

PyObject_VAR_HEAD

struct _frame *f_back; /* 呼叫者的幀 */

PyCodeObject *f_code; /* 幀對應的位元組碼物件 */

PyObject *f_builtins; /* 內建名字空間 */

PyObject *f_globals; /* 全域性名字空間 */

PyObject *f_locals; /* 本地名字空間 */

PyObject **f_valuestack; /* 執行時棧底 */

PyObject **f_stacktop; /* 執行時棧頂 */

…….

}

那麼對應Python的執行時棧就是這樣子：

7.2 執行指令

執行test.py的位元組碼時，會先建立一個棧幀，以下用f表示當前棧幀，執行過程註釋如下：

test.py的符號名集合和常量集合

co.co_names   (‘s’, ’func’)
co.co_consts  (‘hello’, <code object func at 0x2aaeeec57110, file ”test.py”, line 3>, None)

1 2	co.co_names (‘s’, ’func’) co.co_consts (‘hello’, <code object func at 0x2aaeeec57110, file ”test.py”, line 3>, None)

test.py的指令序列

上面的CALL_FUNCTION指令執行時，會建立新的棧幀，並執行func的位元組碼指令，以下用f表示當前棧幀，func的位元組碼執行過程如下：

func函式的符號名集合和常量集合

func.co_names       (‘s’,)
func.co_consts      (None,)

1 2	func.co_names (‘s’,) func.co_consts (None,)

func函式的指令序列

7.3 檢視棧幀

如果你想檢視當前棧幀，Python提供了sys._getframe()方法可以獲取當前棧幀，你只需要在程式碼里加入程式碼如下：

def func():
    import sys
    frame = sys._getframe()
    print frame.f_locals
    print frame.f_globals
    print frame.f_back.f_locals
    #你可以列印frame的各個域
    print s

def func():

import sys

frame = sys._getframe()

print frame.f_locals

print frame.f_globals

print frame.f_back.f_locals

#你可以列印frame的各個域