上節課知識補充
凸錐的幾何解釋
不斷改變形狀的平行四邊形
仿射集、凸錐、凸組合的關係
因為凸集的條件是其餘兩個條件的並集,因此
-
為什麼不是條件越多的,表示範圍越小?
因為在定義仿射集、凸集的時候,要求的是“任意的\(\theta\)組合滿足“。“任意”的限制越少,反而約束的物件越多(舉例:任意人>任意男性>任意男孩),也就越嚴格(對任意人滿足,必然對任意男性、男孩滿足)。也就是隻要對任意\(\theta_1+\cdots+\theta_k=1\)滿足,也就對任意\(\theta_1+\cdots+\theta_k=1,\theta_1,\cdots,\theta_k\ge 0\)滿足,因此仿射集必為凸集。
總結:條件的範圍越小,結論越弱,越容易成為推論
幾種重要的凸集
有集合解釋的集合
超平面與半空間
-
超平面
- 超平面不一定是平面,因此不一定是2維,是比\(x\)維度低一維的集合
-
半空間
- 原空間被超平面所劃分後的空間
球和橢球
-
球
-
二範數表示向量長度(歐氏距離)
-
證明球是凸集:
-
三角不等式:兩邊之和不小於第三邊
\[\|x+y\|_{2}\le\|x\|_{2}+\|y\|_{2} \]向量相加時考慮三角不等式
-
柯西不等式:最大的平行四邊形是矩形
\[\left|x^{T} y\right| \leq\|x\|_{2}\|y\|_{2} \]向量內積時考慮柯西不等式
-
-
-
橢球
- 正定矩陣\(P\)
- 只有方陣才能定義特徵值(\(Ax=\lambda x\)因此橫縱維度必須一致),為了推廣到一般矩陣,就有了奇異值,也就是將原矩陣先轉換成一個方陣\(A^T A\)
- 由於對稱矩陣特徵值非負,因此定義奇異值為新矩陣特徵值開根號\(\sqrt{\text{eig}(A^T A)}\)
- 當\(P\)為單位陣的時候,退化為球
- 當\(P\)為對角陣的時候,長短半軸剛好在座標軸上
- 正定矩陣\(P\)
-
多面體
- 有限個半空間(線性不等式)和半平面(線性等式)的交集
-
單純形
-
單純形是\(k\)個構成線性無關向量的點的凸包
-
單純性維度不能超過空間維度(二維中是三角形,三維中是四面體)
-
證明:任一單純形一定是一個多面體
思路:構造法,將單純形內點的表示轉化為多面體的表示
【還沒完全看懂,之後更新】
-
抽象集合
-
對稱矩陣集合:\(\mathbf{S}^{n}=\left\{X \in \mathbf{R}^{n \times n} \mid X=X^{T}\right\}\)
-
對稱半正定矩陣集合:\(\mathbf{S}_{+}^{n}=\left\{X \in \mathbf{S}^{n} \mid X \succeq 0\right\}\)
-
證明:是凸錐
用正定的定義:任意\(x\in\mathcal{R}^2\),有\(x^TAX\ge 0\)
-
-
對稱正定矩陣集合:\(\mathbf{S}_{++}^{n}=\left\{X \in \mathbf{S}^{n} \mid X \succ 0\right\}\)