【scipy 基礎】--線性代數

wang_yb發表於2023-11-10

SciPy的linalg模組是SciPy庫中的一個子模組，它提供了許多用於線性代數運算的函式和工具，如矩陣求逆、特徵值、行列式、線性方程組求解等。

相比於NumPy的linalg模組，SciPy的linalg模組包含更多的高階功能，並且在處理一些特定的數值計算問題時，可能會表現出更好的效能。

1. 主要功能

scipy.linalg模組主要功能包括：

類別 主要函式 說明
基礎運算 包含inv，slove等20多個函式 求解逆矩陣，線性方程等等
特徵值問題 包含eig，eigvals等8個函式 求解各種型別矩陣的特徵值
分解運算 包含lu，svd等將近30個函式 矩陣的LU分解，奇異值分解等等
矩陣運算 包含logm，sinm，cosm等10多個函式 計算矩陣的對數，指數，sin，cos等等
矩陣方程求解 包含solve_sylvester，solve_continuous_are等5個函式 計算西爾維斯特方程，CARE，DARE等代數方程
特殊矩陣運算 包含blcok_diag，circulant等將近30個函式 建立塊對角矩陣，迴圈矩陣，相伴矩陣等等
其他 包含4個函式 BLAS，LSPACK等函式物件

Scipy庫的線性代數模組包含將近100個各類函式，用於解決線性代數中的各類計算問題。

下面演示幾種透過scipy.linalg來進行的常用計算。

2. 矩陣計算

提起線性代數，就不得不提矩陣運算。

2.1. 特徵值

矩陣的特徵值和特徵向量是矩陣理論中的重要概念，它們分別代表了矩陣對某些向量進行變換時所具有的特定的拉伸和旋轉效果。

具體來說，對於一個給定的矩陣\(A\)，如果存在一個非零的向量\(v\)，使得\(Av\)是\(v\)的一個固定的倍數，
即\(Av = \lambda v\)，那麼\(\lambda\)就是\(A\)的一個特徵值，\(v\)就是對應於特徵值\(\lambda\)的特徵向量。

特徵值和特徵向量在許多領域都有應用，包括影像處理、訊號處理、資料壓縮、物理學、經濟學等。
它們在求解線性方程組、判定矩陣的穩定性、計算矩陣的秩等數學問題中也有重要的應用。

import numpy as np
import scipy.linalg as sla

A = np.random.rand(3, 3)
sla.eigvals(A)
# 執行結果（返回特徵值）
array([0.87067114+0.j, 0.25270355+0.j, 0.52811777+0.j])

sla.eig(A)
# 執行結果（返回特徵值和特徵向量）
(array([0.87067114+0.j, 0.25270355+0.j, 0.52811777+0.j]),
 array([[-0.55290631, -0.88616977, -0.80241551],
        [-0.73988407,  0.44869198, -0.51813093],
        [-0.38323122,  0.11566608,  0.29609067]]))

eigvals函式返回的是特徵值，eig函式返回的是特徵值和對應的特徵向量。

2.2. 奇異值

特徵值和特徵向量是針對方陣的，也就是NxN的矩陣。
實際場景中，很多矩陣並不是方陣，為了瞭解這類矩陣，就要對其進行奇異分解。

具體來說，對於一個m×n的矩陣A，奇異分解就是將其分解為三個矩陣的乘積：

  1. 一個m×r的矩陣U
  2. 一個r×r的對稱正定矩陣S
  3. 以及一個r×n的矩陣V

其中r是由A的奇異值所決定的。A的奇異值就是S矩陣的對角線元素，也就是A的正特徵值的非負平方根。
這些奇異值反映了矩陣A在一些方向上的拉伸或壓縮效果。

# 建立一個 4x3 的矩陣
A = np.random.rand(4, 3)

# 奇異分解，得到 U，S，V矩陣
U, S, V = sla.svd(A)
print("奇異值: {}".format(S))
# 執行結果
奇異值: [1.6804974  0.67865812 0.3322078 ]

2.3. 逆矩陣

逆矩陣是指對於一個n階方陣A，如果存在一個n階方陣B，使得AB=BA=E，
則稱方陣A是可逆的，並稱方陣B是A的逆矩陣。
其中E是單位矩陣。

逆矩陣的重要意義在於它可以表示為某個線性變換的逆變換，從而在逆變換的研究和應用中起到關鍵作用。
此外，逆矩陣還與方程組的解、行列式的性質等領域緊密相關。

A = np.random.rand(3, 3)

# 求解逆矩陣
sla.inv(A)

# 執行結果：
array([[-1.41573129,  0.13168502,  1.5952333 ],
       [ 3.572943  , -1.02580488,  1.10932935],
       [-2.82777937,  2.10823192, -2.39404249]])

# 非方陣
A = np.random.rand(4, 3)

# 非方陣求解逆矩陣會丟擲異常
sla.inv(A)
# 執行結果：
ValueError: expected square matrix

Scipy庫用inv函式求解逆矩陣非常簡單，注意只有方陣能求解逆矩陣。

3. 線性方程組

其實求解線性方程組本質也是矩陣運算，比如下面的線性方程組：
\(\begin{cases} \begin{align*} 3x+2y-z \quad & = 1\\ -y+3z \quad & = -3 \\ 2x-2z \quad & =2 \end{align*} \end{cases}\)

求解方式轉換為係數矩陣和結果向量，然後求解：

# 建立一個係數矩陣  
A = np.array([[3, 2, -1], [0, -1, 3], [2, 0, -2]])  
  
# 建立一個結果向量  
b = np.array([1, -3, 2])  
  
# 使用solve函式求解線性方程組  
ret = sla.solve(A, b)  
  
# 輸出解向量  
print("Solution vector ret:", ret)
# 執行結果：
Solution vector x: [ 0. -0. -1.]

4. 總結

本篇概要介紹了Scipy庫的linalg模組，並演示瞭如何應用在求解矩陣和線性方程組。

linalg模組提供了非常豐富的各類函式，這裡演示的幾個函式目的是為了展示其使用方法，
線性代數中的各類運算幾乎都可以在此模組中找到相應的函式。

相關文章