【課程筆記】中科大凸優化(三)

木坑發表於2022-03-06

上節課知識補充

凸錐的幾何解釋

不斷改變形狀的平行四邊形

image-20220306202437192

仿射集、凸錐、凸組合的關係

因為凸集的條件是其餘兩個條件的並集,因此

  • 為什麼不是條件越多的,表示範圍越小?

    因為在定義仿射集、凸集的時候,要求的是“任意的\(\theta\)組合滿足“。“任意”的限制越少,反而約束的物件越多(舉例:任意人>任意男性>任意男孩),也就越嚴格(對任意人滿足,必然對任意男性、男孩滿足)。也就是隻要對任意\(\theta_1+\cdots+\theta_k=1\)滿足,也就對任意\(\theta_1+\cdots+\theta_k=1,\theta_1,\cdots,\theta_k\ge 0\)滿足,因此仿射集必為凸集。

    總結:條件的範圍越小,結論越弱,越容易成為推論

image-20220306183923242

幾種重要的凸集

有集合解釋的集合

超平面與半空間

  • 超平面

    image-20220306185853923
    • 超平面不一定是平面,因此不一定是2維,是\(x\)維度低一維的集合
  • 半空間

    image-20220306190055574
    • 原空間被超平面所劃分後的空間

球和橢球

  • image-20220306190221834
    • 二範數表示向量長度(歐氏距離)

    • 證明球是凸集:

      • 三角不等式:兩邊之和不小於第三邊

        \[\|x+y\|_{2}\le\|x\|_{2}+\|y\|_{2} \]

        向量相加時考慮三角不等式

      • 柯西不等式:最大的平行四邊形是矩形

        \[\left|x^{T} y\right| \leq\|x\|_{2}\|y\|_{2} \]

        向量內積時考慮柯西不等式

  • 橢球

    image-20220306191510950
    • 正定矩陣\(P\)
      • 只有方陣才能定義特徵值\(Ax=\lambda x\)因此橫縱維度必須一致),為了推廣到一般矩陣,就有了奇異值,也就是將原矩陣先轉換成一個方陣\(A^T A\)
      • 由於對稱矩陣特徵值非負,因此定義奇異值為新矩陣特徵值開根號\(\sqrt{\text{eig}(A^T A)}\)
    • \(P\)為單位陣的時候,退化為球
    • \(P\)為對角陣的時候,長短半軸剛好在座標軸上
  • 多面體

    image-20220306193555917
    • 有限個半空間(線性不等式)和半平面(線性等式)的交集
  • 單純形

    image-20220306193820748 image-20220306193832128
    • 單純形是\(k\)個構成線性無關向量的點的凸包

    • 單純性維度不能超過空間維度(二維中是三角形,三維中是四面體)

    • 證明:任一單純形一定是一個多面體

      思路:構造法,將單純形內點的表示轉化為多面體的表示

      【還沒完全看懂,之後更新】

抽象集合

  • 對稱矩陣集合:\(\mathbf{S}^{n}=\left\{X \in \mathbf{R}^{n \times n} \mid X=X^{T}\right\}\)

  • 對稱半正定矩陣集合:\(\mathbf{S}_{+}^{n}=\left\{X \in \mathbf{S}^{n} \mid X \succeq 0\right\}\)

    • 證明:是凸錐

      用正定的定義:任意\(x\in\mathcal{R}^2\),有\(x^TAX\ge 0\)

  • 對稱正定矩陣集合:\(\mathbf{S}_{++}^{n}=\left\{X \in \mathbf{S}^{n} \mid X \succ 0\right\}\)

相關文章