在上一節中我們介紹了線性迴歸的原理，然後分別用python和sklearn實現了不同變數個數的線性迴歸的幾個例子。線性迴歸模型形式簡單，有很好的可解釋性，但是它只適用於X和y之間存線上性關係的資料集。對於非線性關係的資料集，線性迴歸不能很好的工作。因此本文介紹線性迴歸模型的擴充套件——「多項式迴歸」，我們可以用它來擬合非線性關係的資料集。
假設我們有一個單變數資料集，如下圖。
首先我們假設它們滿足線性關係，使用線性迴歸模型得到的結果如下圖中黃線所示。
線性迴歸可以通過從係數構造多項式的特徵來擴充套件。為了使推導過程更具有代表性，我們先以一個雙變數的為例，然後再看我們上面的單變數的例子。
雙變數線性迴歸模型形如下面式子：
同理，我們的資料集是單變數的，轉換後的式子為：
更高階的同理。
