一句話總結LLE(流形學習)

weixin_33860722發表於2018-09-19

一句話總結LLE(流形學習)


核心:用一個樣本點的鄰居的線性組合近似重構這個樣本,將樣本投影到低維空間中後依然保持這種線性組合關係。


區域性線性嵌入(簡稱LLE)將高維資料投影到低維空間中,並保持資料點之間的區域性線性關係。其核心思想是每個點都可以由與它相近的多個點的線性組合來近似,投影到低維空間之後要保持這種線性重構關係,並且有相同的重構係數。 演算法的第一步是求解重構係數,每個樣本點xi可以由它的鄰居線性表示,即如下最優化問題:


12621529-a7106d710db7b9a0.png

這樣可以得到每個樣本點與它鄰居節點之間的線性組合係數。接下來將這個組合係數當做已知量,求解下面的最優化問題完成向量投影:


12621529-773a2adecccb3de7.png


這樣可以得到向量y,這就是投影之後的向量。


LLE是一種無監督的機器學習演算法,它是一種非線性降維演算法,不能直接用於分類或者回歸問題。