00 - “線性代數的本質”系列預覽：https://www.bilibili.com/video/av5977466?from=search&seid=2130245945629607828

1、向量究竟是什麼？

視訊連結：https://www.bilibili.com/video/av5987715/?spm_id_from=333.788.reco_list.2

三種向量的觀點

線性代數中最基礎，最根源的組成部分是向量，那麼什麼是向量呢？我們有以下三種觀點，
物理專業學生的視角：向量是空間中的肩頭，決定一個向量的是它的長度和所指的方向，只要這兩個要素相同， 向量可以任意移動。

計算機專業學生的視角：向量是有序的數字列表，數字順序不可以隨意轉變。

數學專業的視角：向量可以是任何東西，只要滿足向量之間相加和數字與向量相乘都有意義即可。

我們先來考慮平面中的x-y座標系，向量被定義為從原點出發的有方向的箭頭。這與物理專業的看法略有不同，因為他們認為向量在空間中可以自由落腳，但是線上性代數中，向量是從原點作為起點的。而向量的座標如[2,3]^T，則是有序性的體現，2代表橫座標，3代表縱座標，二者不可交換。

接下來，我們來介紹下向量的幾何意義、向量加法的幾何意義，以及向量乘法的幾何意義。

向量的幾何意義
考慮平面中的x-y座標系，由x軸和y軸組成，二者的交叉部分叫做原點。

一個向量的座標由一對陣列成，這對數指導我們如何從原點走到向量的終點。

如上圖的向量，它告訴我們先沿x軸往左移動2個單位，再沿y軸移動3個方向。

向量加法的幾何意義
假設我們現在有兩個向量：

如果我們把w從原點移動到v的終點，然後再連線原點和w的終點，那麼得到的向量就是二者的和。

為什麼是這樣，還是回到向量的意義來，他定義了一種移動方式，假設v的座標是[1,2],w的座標是[3,-1]。v告訴我們要沿x軸向右移動1個單位，沿y軸向上移動2個單位，而w告訴我們要沿x軸向右移動3個單位，沿y軸向下移動一個單位。這樣總體的移動效果就是沿x軸向右移動5個單位，沿y軸向上移動1個單位，得到的結果是[5,1]。因此向量加法的幾何意義，我們可以看作是多次移動的累積結果，從計算上來看，就是如下的式子：

向量乘法的幾何意義
向量乘法就是對向量進行拉伸(乘以一個大於1的正數)，壓縮(乘以一個小於1的正數)，翻轉向量的行為(乘以一個負數)，這些行為統稱為統稱為scaling。而向量乘上的這些數值本身，稱之為向量(scalars)。向量乘法的計算方式如下：

2、 線性組合、張成的空間與基

視訊連結：https://www.bilibili.com/video/av6025713/?spm_id_from=333.788.videocard.0

基向量
我們之間介紹了向量之間兩種最基本的運算，向量相加 以及 向量的縮放。還是以二維平面為例，其實每一個向量都可以通過基向量(basis vectors)經由上面的兩種運算得到，假設我們的基向量是[1,0]和[0,1]，如下圖:

當然，基向量可以任意選擇，定義兩個向量v和w，以其為基向量，通過加法和乘法，可以得到平面中任意的向量：

基向量的嚴格定義為：向量空間中的基是張成該空間的一個線性無關的向量集：

線性組合
線性組合Linear Combination的幾何意義如下圖所示，完整上來說，其實是向量之間的線性組合，其主體是向量，線性組合是一個操作，將各個向量縮放之後，相加在一起，就得到了參與操作的向量之間的線性組合。

線性組合有下面是三種情況：
1）如果參與組合的一對向量不共線，那麼由它們進行線性組合所得到的向量可以達到平面上的任意一個點：

2）如果參與組合的一對向量共線，那麼由它們進行線性組合所得到的向量的終點被限制在一條通過原點的直線：

3）如果參與組合的一對向量都是零向量，那麼由它們進行線性組合所得到的向量永遠是零向量：

向量張成的空間
張成的空間：v與w全部的線性組合所構成向量集合被稱為張成的空間。

對於平面來說，如果兩個向量不共線，那麼可以張成整個二維平面，如果共線，只能張成一條直線。

對於三維空間來說，如果三個向量共線，那麼只能張成一條直線，如果三個向量共平面，那麼只能張成一個平面，如果三個向量不共平面，則可以張成整個三維空間。

線性相關
線性相關：如果一組向量中，至少有一個對張成的空間沒有幫助，或者說其中一個向量可以表示成其他向量的線性組合，或者說其中一個向量在其他向量所張成的向量空間中。

線性無關：

3、矩陣與線性變換

視訊連結為：https://www.bilibili.com/video/av6043439/?spm_id_from=333.788.videocard.0

線性變換Linear transformation
變換其實也是一種函式，我們有一個輸入向量，然後經過變換之後，得到一個輸出向量。整個過程，可以看作是輸入的向量移動到了輸出的輸出的位置。考慮整個平面上的向量，在經過變換之後，得到了一個最新的位置。

那什麼是線性變換呢？滿足下面兩個條件：
1）所有的直線還是直線。即原先終點在一條直線上的向量，在經過線性變換之後，這些向量還落在一條直線上。
2）原點還在原來的位置。

那麼如何來描述我們的線性變換呢？考慮向量v = [-1,2]，在i = [1,0]和j = [0,1]為基的情況下，v = -1 * i+2 * j，假設線性變換如下：

上圖中，原先的i=[1,0]變換到i'=[1,-2]，原先的j=[0,1]變換到j'=[3,0],而原先的v變換到v'=[5,2]，而關係 v' = -1 * i' + 2 * j'仍然存在。即圖中的式子成立。

所以說，一個2*2的矩陣，[[a,c],[b,d]]其實代表了一種線性變換，它把原來的[1,0]變換到[a,b]的位置，把原先空間中的[0,1]變換到[c,d]的位置。而該矩陣與一個向量[x,y]相乘的結果，相當於對該向量做了一次線性變換，把向量移動到新平面中對應的位置：

4、矩陣乘法與線性變換複合

視訊連結：https://www.bilibili.com/video/av6128021/?spm_id_from=333.788.videocard.0
https://www.bilibili.com/video/av6143355/?spm_id_from=333.788.videocard.1

兩個2*2矩陣a和b相乘，可以看作是對原始空間連續做了兩次線性變換，而得到的計算結果c也是一個2*2的矩陣。使用c對原始空間進行一次線性變換，和連續使用a和b對原始空間進行兩次線性變換的效果相同。

矩陣的計算就不細講了，我們只需要知道，矩陣相乘的幾何意義是將兩次單獨的變換變為一次組合變換即可。

該結論到三維空間中也是同樣成立的。

5、行列式

視訊連結：https://www.bilibili.com/video/av6179111/?spm_id_from=333.788.videocard.0

如果在二維空間中，我們畫出相對應的網格，那麼線性變換，就是對這些網格做了拉伸，收縮或者反轉。那麼如何來定義這種變換的程度呢？就需要用到行列式determinant的概念了。

舉一個簡單的例子吧：

在進行線性變換後，原來一個面積為1的單位方格，變成了面積為6的矩形。可以說，線性變換將原空間放大了6倍。

再看一個例子：

上面的例子中，當二維空間經過一次線性變換被壓縮成一條直線甚至是一個點時，行列式為0，因此可以通過行列式是否為0來判斷線性變換後的空間的維度是否與原空間相同。

我們知道，行列式的值是有正有負的，那麼怎麼判斷是負數呢？我們可以通過變換後的基向量i和j的方向來判定。

在變換之前，j是在i的左側的：

如果經過線性變換後，j變成了在i的右側，那麼得到的行列式的值是負的：

那麼到三維空間中，行列式的值就告訴我們經過線性變換後，單位體積變化的程度，而行列式的值可以通過右手定則來判定：

那麼行列式如何來計算呢？

6、逆矩陣、列空間與零空間

視訊連結：https://www.bilibili.com/video/av6240005/?spm_id_from=333.788.videocard.0

逆矩陣
我們先從線性方程組著手，一個線性方程組可以表示成Ax = v：

看到這裡，你也許已經知道這代表什麼含義了，矩陣A相當於一個線性變換，向量x在經過A這個線性變換後，得到的向量為v。線性方程組的求解過程其實就是找到向量v在經由A這個線性變換之前所在的位置x。

因此，我們可以把它變成另一個過程，即將v所在的線性空間，經過另一個逆向的過程，變回x所在的線性空間，那麼這個線性變換用矩陣表示，就是A的逆矩陣，用A^-1表示。即逆矩陣A^-1所代表的線性變換，是A所代表的線性變換的逆過程。因此A^-1A相對於任何事情都沒有做。

那麼既然逆矩陣相當於線性變換的逆操作，因此只有線上性變換後空間的維數不變的情況下，才能進行逆操作。再結合之前學習到的，線性變換不降維，前提條件是矩陣的行列式值不為0，因此矩陣的逆矩陣存在的前提，即矩陣的行列式值不為0。

矩陣的秩Rank
矩陣的秩即經由該矩陣代表的線性變換後，所形成的空間的維數。比如在三維空間中，如果經過某個矩陣A代表的線性變換後，空間變為一條直線，那麼這個矩陣的秩為1。如果空間變為一個平面，那麼這個矩陣的秩為2。如果還是三維空間，那麼矩陣的秩為3.

列空間

列空間有兩種解釋：
1）假設矩陣A代表一個矩陣變換，原始空間中所有的向量，在經由矩陣A的變換之後，所得到的所有新向量的集合
2）由矩陣A的列向量所長成的空間

比如下面的例子，[[2,-2],[1,-1]]這個矩陣，將二維空間變換為一條直線，那麼這條直線就是矩陣的列空間。

零空間

如果某個向量空間線上性變換之後，存在降維，那麼就會有一系列原來不是零向量的向量落到了零向量的位置，所有這些向量的集合構成了零空間。