1 正交多項式的定義
1.1 正交多項式定義
定義： 一個多項式序列 ${ {p_n}(x)} _{n = 0}^\infty $，其階數為 \([{p_n}(x)] = n\) ，對於每一個 \(n\)，這個多項式序列在開區間 \((a,b)\) 上關於權函式 \(w(x)\) 正交，如果：
\[\int_a^b {w(x){p_m}(x){p_n}(x)dx = } {h_n}{\delta _{mn}}
\]
這裡 \({\delta _{mn}}\)為狄拉克函式，且 \(h_n\) 為常數。
這裡的權函式 \(w(x)\) 在區間 \((a,b)\) 是連續且正的以使得下式存在：
\[{\mu _n}{\rm{ = }}\int_a^b {w(x){x^n}dx,{\rm{ }}n = 0,1,2, \cdots }
\]
則多項式 \(f\) 和多項式 \(g\) 的內積定義為：
\[\left\langle {f,g} \right\rangle : = \int_a^b {w(x)f(x)g(x)dx}
\]
區間 \((a,b)\) 稱為正交區間，正交區間未必是有限區間。
例1 三角函式的正交性
對於三角函式序列 \(1,sin(\theta),cos(\theta),sin(2\theta),cos(2\theta),...,cos(n\theta)\)，\(n=1,2,...,\infty\)，他們在區間 \((0,2\pi)\) 的正交性為：
\[\int_0^{2\pi } {\sin (n\theta )\cos (m\theta )d\theta } = {\delta _{mn}}
\]
圖1展現了 \(sin(\theta)\) 和 \(cos(\theta)\) 在區間 \((0,2\pi)\) 上的正交性，圖中藍線為 \(sin(\theta)*cos(\theta)\) 的值，對其積分就相當於求圖中陰影部分的面積，很明顯，陰影部分的面積加上符號後求和為0。
 圖1. 三角函式的正交性示意圖
|
1.2 施密特正交化（Schmidt orthogonalization）
施密特正交化方法是將一組線性無關的向量組正交化的方法，對正交化後的向量組進行標準化處理，可進一步得到一組標準正交基。施密特正交化的處理步驟如下：
\[\begin{array}{l}
{\beta _1} = {\alpha _1} \\
{\beta _2} = {\alpha _2} - \frac{{\left\langle {{\alpha _2},{\beta _1}} \right\rangle }}{{\left\langle {{\beta _1},{\beta _1}} \right\rangle }}{\beta _1} \\
\cdots \\
{\beta _n} = {\alpha _n} - \frac{{\left\langle {{\alpha _n},{\beta _1}} \right\rangle }}{{\left\langle {{\beta _1},{\beta _1}} \right\rangle }}{\beta _1} - \frac{{\left\langle {{\alpha _n},{\beta _2}} \right\rangle }}{{\left\langle {{\beta _2},{\beta _2}} \right\rangle }}{\beta _2} - \cdots - \frac{{\left\langle {{\alpha _n},{\beta _{n - 1}}} \right\rangle }}{{\left\langle {{\beta _{n - 1}},{\beta _{n - 1}}} \right\rangle }}{\beta _{n - 1}} \\
\end{array}
\]
例子：將三維空間中的一組線性無關向量 \({a,b,c}\) 用施密特正交化方法處理得到正交向量組 \({x,y,z}\)。
步驟如下：
\[\begin{array}{l}
x = a \\
y = b - \frac{{\left\langle {b,x} \right\rangle }}{{\left\langle {x,x} \right\rangle }}x = \frac{{\left| b \right|\cos (\theta )}}{{\left| a \right|}}a \\
z = c - \frac{{\left\langle {c,x} \right\rangle }}{{\left\langle {x,x} \right\rangle }}x - \frac{{\left\langle {c,y} \right\rangle }}{{\left\langle {y,y} \right\rangle }}y \\
\end{array}\]
三維空間中施密特正交化方法的幾何描述如圖2所示
 圖2. 施密特正交化幾何示意圖
|
2 經典正交多項式
經典的正交多項式有雅克比多項式，切比雪夫多項式，勒讓德多項式，拉蓋爾多項式，伯恩斯坦多項式，球諧多項式等。
2.1 雅克比多項式
雅克比多項式是定義在 \((-1,1)\) 上，關於權函式 \((1-x)^\alpha(1+x)^\beta\) 正交的多項式，其中 \(\alpha,\beta >-1\)
雅克比多項式的表示式為：
為伽馬函式（gamma function）。
雅克比多項式的遞推公式為：
雅克比多項式的正交性：
\[\begin{array}{l}
\int_{ - 1}^1 {{{(1 - x)}^\alpha }{{(1 + x)}^\beta }P_m^{(\alpha ,\beta )}(x)P_n^{(\alpha ,\beta )}(x)dx} \\
= \frac{{{2^{\alpha + \beta + 1}}}}{{2n + \alpha + \beta + 1}}\frac{{\Gamma (\alpha + n + 1)\Gamma (\beta + n + 1)}}{{n!\Gamma (\alpha + \beta + n + 1)}}{\delta _{mn}} \\
\end{array}\]
|
2.2 勒讓德多項式
勒讓德多項式是定義在區間 \((-1,1)\) 上關於權函式1正交的多項式。勒讓德多項式實際上是雅克比多項式在 \(\alpha=\beta=0\) 時的特殊情況。
勒讓德多項式的表示式為：
\[{P_n}(x) = \frac{1}{{{2^n}n!}}\frac{{{d^n}}}{{d{x^n}}}\left[ {{{({x^2} - 1)}^n}} \right]
\]
勒讓德多項式的遞推公式為：
\[(n + 1){P_{n + 1}}(x) = (2n + 1)x{P_n}(x) - n{P_{n - 1}}(x)
\]
勒讓德多項式的正交性：
\[\int_{ - 1}^1 {{P_m}(x){P_n}(x)dx} = \frac{2}{{2n{\rm{ + }}1}}{\delta _{mn}}
\]
前6階勒讓德多項式：
\[{P_0}(x) = 1
\]
\[{P_1}(x) = x
\]
\[{P_2}(x) = \frac{3}{2}{x^2} - \frac{1}{2}
\]
\[{P_3}(x) = \frac{5}{2}{x^3} - \frac{3}{2}x
\]
\[{P_4}(x) = \frac{{35}}{8}{x^4} - \frac{{15}}{4}{x^2} + \frac{3}{8}
\]
\[{P_5}(x) = \frac{{63}}{8}{x^5} - \frac{{35}}{4}{x^3} + \frac{{15}}{8}x
\]
\[{P_6}(x) = \frac{{231}}{{16}}{x^6} - \frac{{315}}{{16}}{x^4} + \frac{{105}}{{16}}{x^2} - \frac{5}{{16}}
\]
前6階多項式影像：
 圖3. 前6項勒讓德多項式
|
|
2.3 切比雪夫多項式
切比雪夫多項式是定義在區間 \((-1,1)\) 上關於權函式 \(\frac{1}{{\sqrt {1 - {x^2}} }}\) 正交的多項式。
2.3.1 第一類切比雪夫多項式
第一類切比雪夫多項式的表示式為：
\[{T_n}(x) = \cos (n\theta )
\]
令 \(x=cos(\theta)\)，則 \({T_n}(x) = \cos (n\arccos (x))\)，
第一類切比雪夫多項式的正交性為：
\[\int_{ - 1}^1 {\frac{1}{{\sqrt {1 - {x^2}} }}{T_m}(x){T_n}(x)dx = \left\{ {\begin{array}{*{20}{c}}
{0\quad{\rm{ }}m \ne n} \\
{\pi \quad{\rm{ }}n = m = 0} \\
{\frac{\pi }{2}{\rm{ }}\quad n = m \ne 0} \\
\end{array}} \right.} \]
第一類切比雪夫多項式的遞推公式：
\[{T_{n + 1}}(x) = 2x{T_n}(x) - {T_{n - 1}}(x)
\]
第一類切比雪夫多項式的前6項：
\[{T_0}(x) = 1
\]
\[{T_1}(x) = x
\]
\[{T_2}(x) = 2{x^2} - 1
\]
\[{T_3}(x) = 4{x^3} - 3x
\]
\[{T_4}(x) = 8{x^4} - 8{x^2} + 1
\]
\[{T_5}(x) = 16{x^5} - 20{x^3} + 5x
\]
\[{T_6}(x) = 32{x^6} - 48{x^4} + 18{x^2} - 1
\]
第一類切比雪夫多項式的影像
2.3.2 第二類切比雪夫多項式
第二類切比雪夫多項式的表示式為：
\[{U_n}(x) = \frac{{\sin [(n + 1)\theta ]}}{{\sin \theta }}
\]
第二類切比雪夫多項式的正交性為：
\[\int_{ - 1}^1 {\sqrt {1 - {x^2}} {U_m}(x){U_n}(x)dx = \left\{ {\begin{array}{*{20}{c}}
{0m \ne n} \\
{\frac{\pi }{2}n = m} \\
\end{array}} \right.} \]
第二類切比雪夫多項式的遞推公式：
\[{U_{n + 1}}(x) = 2x{U_n}(x) - {U_{n - 1}}(x)
\]
第二類切比雪夫多項式的前6項：
\[{U_0}(x) = 1
\]
\[{U_1}(x) = 2x
\]
\[{U_2}(x) = 4{x^2} - 1
\]
\[{U_3}(x) = 8{x^3} - 4x
\]
\[{U_4}(x) = 16{x^4} - 12{x^2} + 1
\]
\[{U_5}(x) = 32{x^5} - 32{x^3} + 6x
\]
\[{U_6}(x) = 64{x^6} - 80{x^4} + 24{x^2} - 1
\]
第二類切比雪夫多項式的影像：
 圖4. 前6項切比雪夫多項式
|
|
2.4 拉蓋爾多項式
拉蓋爾多項式是定義在區間 \((0,+\infty)\) 上關於權函式 \(e^{-x}x^\alpha\) 正交的多項式，
拉蓋爾多項式的正交關係：
\[\int_0^{ + \infty } {{x^\alpha }{e^{ - x}}L_m^{(\alpha )}(x)L_n^{(\alpha )}(x)dx} = \frac{{\left( {n + \alpha } \right)!}}{{n!}}{\delta _{mn}}
\]
拉蓋爾多項式的遞推關係（\(\alpha =0\)）：
\[{L_{n + 1}}(x) = \frac{{(2n + 1 - x){L_n}(x) - n{L_{n - 1}}(x)}}{{n + 1}}
\]
前6項拉蓋爾多項式（\(\alpha =0\)）:
\[{L_0}(x) = 1
\]
\[{L_1}(x) = - x + 1
\]
\[{L_2}(x) = \frac{1}{2}{x^2} - 2x + 1
\]
\[{L_3}(x) = - \frac{1}{6}{x^3} + \frac{3}{2}{x^2} - 3x + 1
\]
\[{L_4}(x) = \frac{1}{{24}}{x^4} - \frac{2}{3}{x^3} + 3{x^2} - 4x + 1
\]
\[{L_5}(x) = - \frac{1}{{120}}{x^5} + \frac{5}{{24}}{x^4} - \frac{5}{3}{x^3} + 5{x^2} - 5x + 1
\]
\[{L_6}(x) = \frac{1}{{720}}{x^6} - \frac{1}{{20}}{x^5} + \frac{5}{8}{x^4} - \frac{{10}}{3}{x^3} + \frac{{15}}{2}{x^2} - 6x + 1
\]
前6項拉蓋爾多項式的影像：
 圖5. 前6項拉蓋爾多項式
|
|
2.5 埃爾米特多項式
埃爾米特多項式是定義在區間 \((-\infty,+\infty)\) 上關於權函式 \(e^{-x^2}\) 正交的多項式。
埃爾米特多項式分為概率論中的埃爾米特多項式和物理中的埃爾米特多項式，這裡只介紹物理學中使用的埃爾米特多項式。
埃爾米特多項式的表示式為：
\[{H_n}(x) = {( - 1)^n}{e^{{x^2}}}\frac{{{d^n}}}{{d{x^n}}}{e^{ - {x^2}}}
\]
埃爾米特多項式的正交性：
\[\int_{ - \infty }^{ + \infty } {{H_m}(x){H_n}(x){e^{ - {x^2}}}dx} = \sqrt \pi {2^n}n!{\delta _{mn}}
\]
埃爾米特多項式的遞推公式：
\[{H_{n + 1}}(x) = 2x{H_n}(x) - 2n{H_{n - 1}}(x)
\]
前6項埃爾米特多項式為：
\[{H_0}(x) = 1
\]
\[{H_2}(x) = 2x
\]
\[{H_3}(x) = 4{x^2} - 2
\]
\[{H_4}(x) = 16{x^4} - 48{x^2} + 12
\]
\[{H_5}(x) = 32{x^5} - 160{x^3} + 120x
\]
\[{H_6}(x) = 64{x^6} - 480{x^4} + 720{x^2} - 120
\]
前6項埃爾米特多項式影像：
 圖6. 前6項埃爾米特多項式
|
|
3 正交多項式的應用
正交多項式的應用甚廣，包括但不限於數值分析，逼近理論，積分，微分方程，複變函式，隨機矩陣理論，編碼理論等。
這裡僅以一個小的例子來說明正交多項式在函式擬閤中的應用。
實驗中使用的測試函式為 \(y=4x+3x^2+cos(x)+sin(2x)+e^x\)，定義區間為 \((-2,2)\) ，實驗比較了多項式展開3項時不同多項式的擬合均方誤差（MSE），歸一化均方誤差（NMSE）。
 圖7. 不同多項式擬合結果
|
從擬合結果來看，在展開3項時，埃爾米特多項式的擬合誤差較小，其他的多項式擬合誤差相當。
測試程式如下：
% 正交多項式測試
clear
clc
% 取樣點數
N = 1000 ;
% 正交多項式階數
M = 3 ;
% 擬合函式區間為（-2,2）
x = linspace(-2,2,N)' ;
% 生成被擬合的函式，包括指數函式，餘弦函式，冪函式成分
y = 4*x + 3*x.^2 + cos(x) + exp(x) + sin(2*x);
% 生成冪級陣列成的基矩陣
P1 = power_p(x,M) ;
% 生成勒讓德多項式組成的基矩陣
P2 = legendre_p(N,M) ;
% 生成切比雪夫多項式組成的基矩陣
P3 = chebyshev_p(N,M) ;
% 生成拉蓋爾多項式組成的基矩陣
P4 = laguerre_p(N,M) ;
% 生成誒爾米特多項式組成的基矩陣
P5 = hermite_p(N,M) ;
%% 用最小二乘擬合y
% c1對應冪級數係數
c1 = P1\y ;
% c2對應勒讓德係數
c2 = P2\y ;
% c3對應切比雪夫係數
c3 = P3\y ;
% c4對應拉蓋爾係數
c4 = P4\y ;
% c5對應埃爾米特係數
c5 = P5\y ;
%% 求MSE和NMSE
MSE_power = norm(y-P1*c1)/N
NMSE_power = norm(y-P1*c1)/norm(y)
MSE_legendre = norm(y-P2*c2)/N
NMSE_legendre = norm(y-P2*c2)/norm(y)
MSE_chebyshev = norm(y-P3*c3)/N
NMSE_chebyshev = norm(y-P3*c3)/norm(y)
MSE_laguerre = norm(y-P4*c4)/N
NMSE_laguerre = norm(y-P4*c4)/norm(y)
MSE_hermite = norm(y-P5*c5)/N
NMSE_hermite = norm(y-P5*c5)/norm(y)
figure(1)
plot(x,y,'r-',x,P1*c1,'b-',x,P2*c2,'k-',x,P3*c3,'y-',x,P4*c4,'g-',x,P5*c5,'m-')
legend('original','power','legendre','chebyshev','laguerre','hermite')
function [P] = power_p(x,M)
for m = 1:M
P(:,m) = x.^(m-1) ;
end
end
function [P] = legendre_p(N,NN)
% 本函式生成N*M的勒讓德基矩陣
s = linspace(-1,1,N)' ;
P = zeros(N,NN) ;
P(:,1) = ones(N,1) ;
P(:,2) = s ;
for n = 3 : NN
P(:,n) = ((2 * n - 3) * s .* P(:,n - 1) - (n - 2) * P(:,n - 2)) / ( n -1 ) ;
end
end
function [P] = chebyshev_p(N,M)
% 本函式生成N*M的切比雪夫基矩陣
x = linspace(-1,1,N)' ;
P = zeros(N,M) ;
P(:,1) = ones(N,1) ;
P(:,2) = x ;
for k = 3:M
P(:,k) = 2*x.*P(:,k-1) - P(:,k-2) ;
end
end
function [P] = laguerre_p(N,M)
% 本函式生成N*M的拉蓋爾基矩陣
x = linspace(-2,2,N)' ;
P = zeros(N,M) ;
P(:,1) = ones(N,1) ;
P(:,2) = -x + ones(N,1) ;
for m = 3:M
P(:,m) = ((2*(m-2)+1-x).*P(:,m-1)-(m-2)*P(:,m-2))./(m-1) ;
end
end
function [P] = hermite_p(N,M)
% 本函式生成N*M的埃爾米特基矩陣
x = linspace(-2,2,N)' ;
P = zeros(N,M) ;
P(:,1) = ones(N,1) ;
P(:,2) = 2*x ;
for m = 2:M
P(:,m+1) = 2*x.*P(:,m) - 2*(m-1)*P(:,m-1) ;
end
end
更多精彩內容請關注訂閱號優化與演算法和加入QQ討論群1032493483獲取更多資料
|