Liquid State Machine (LSM) 是一種 脈衝神經網路 (Spiking Neural Network, SNN) ,在計算神經科學和機器學習領域中得到廣泛應用,特別適用於處理 時變或動態資料。它是受大腦自然資訊處理過程啟發而提出的一種 脈衝神經網路 。
設想你正處於一片平靜的湖面,四周環繞著高山,你向水中投入一塊石頭。漣漪開始形成,向四周擴散。此時,在附近再投入一塊石頭。第二塊石頭產生的漣漪與第一塊s石頭產生的漣漪相互交疊,在水面上形成複雜多變的圖案。這種圖案並非隨機產生;它包含了每塊石頭落水的位置、時間、大小,甚至每次撞擊釋放的能量等資訊。
利用這種漣漪效應來理解和解決問題。在某種程度上,這就是 Liquid State Machines (LSMs) 的工作原理。
由於其處理時間資訊的獨特方法和特殊的網路結構,Liquid State Machine (LSM) 模型與傳統神經網路存在顯著差異。
LSM簡介
標準神經網路,如前饋網路,本身並不處理時間資訊。迴圈神經網路(Recurrent Neural Network, RNN),如長短期記憶網路(Long Short-Term Memory, LSTM),透過反饋迴路捕獲序列資訊,但需要對每一步進行顯式訓練。相比之下,LSM使用隨機連線的神經元儲備池("液體")將輸入資料轉化為高維動態狀態。儲備池的設計目的是隨時間"迴響"輸入訊號,被動捕捉時間模式而無需直接訓練。這種結構以稀疏、高效的方式捕獲輸入資料的時間依賴性。
https://avoid.overfit.cn/post/b09f504dbeff4ca199a9fe1d0847f632