編輯 | KX
5 月 30 日，清華大學類腦計算研究中心施路平團隊，研發出全球首款類腦互補視覺晶片「天眸芯」，研究成果登上 Nature 封面。
近日，該團隊推出一種新的神經形態計算架構，即類腦神經計算模型 「Dendristor」。
「Dendristor」旨在複製突觸的組織（即神經元之間的連線）和樹突的樹狀結構（即從神經元體延伸出來的突起）。
這種創新的樹突網路模擬了樹突狀結構及其固有的時空處理特性，為未來人工智慧提供了高能效的視覺感知能力。
類腦形態樹突網路計算模型的開發由清華大學跨學科團隊清華大學腦與智慧實驗室（THBI）的 Eunhye Baek 博士、宋森教授、Carlo Vittorio Cannistraci 教授，以及清華大學精密儀器系的趙蓉教授和施路平教授共同完成。
相關研究以《Neuromorphic dendritic network computation with silent synapses for visual motion perception》為題，於 6 月 6 日釋出在《Nature Electronics》上。
論文連結：https://www.nature.com/articles/s41928-024-01171-7
受大腦啟發
隨著 AI 工具的快速發展，世界各地的工程師們都在研究新的架構和硬體元件，來複制人腦的組織和功能。
迄今為止，大多數受大腦啟發的技術都是從腦細胞（即神經元）的放電中汲取靈感，而不是反映神經元素的整體結構，以及它們如何促進資訊處理。
「當我還是義大利米蘭理工大學的人工智慧和大腦生物工程專業碩士生時，我就想到了模仿大腦連線的稀疏性和形態，比如神經元的樹突，來設計高效的人工智慧。」通訊作者之一、 清華大學腦與智慧實驗室（THBI）教授 Carlo Vittorio Cannistraci 表示。
「有一天，Carlo 讓我研究『樹突計算』，因為我們之前合作研究的『神經電晶體』有可能模仿樹突特性，」論文一作、共同通訊作者、 THBI 的 Eunhye Baek 博士說。
「施路平教授和我一直在尋找開發神經形態視覺感測器系統的方法，我們認識到這種方法的潛力。我的研究興趣是構建更像大腦/神經元的動態資訊處理系統。樹突計算讓我非常興奮，因為它涵蓋了廣泛的動態和複雜特性，這些特性在神經形態工程中尚未得到廣泛研究。」
圖示：模擬樹突形態的 Dendristor。（來源：論文）
迄今為止進行的大多數神經形態計算研究都集中在，重現與學習相關的突觸過程和人工複製神經元尖峰的產生。這些研究通常將樹突建模為簡單的傳輸線，從而忽略了與其獨特形態相關的功能。
「樹突利用其樹狀形態來對映空間分佈的訊號，表現出分支特定的可塑性，並整合各種突觸。」Baek 解釋說。
「每個樹突分支對具有特定方向性的訊號特別敏感，使它們專門用於處理時空訊號。我們的研究重點是這些複雜的樹突功能。」
一種新的神經形態計算架構
研究人員合作設計並開發了一種新裝置，可以反映生物樹突的形態和功能。這種被稱為「樹突」（Dendristor）電晶體的裝置利用了塗有離子摻雜溶膠-凝膠膜的多柵極電晶體的物理特性，模擬了樹突執行的計算。
Dendristor 的突出之處在於它處理資訊的方式與神經元及其網路的生物形態非常相似，而不是目前人工神經網路典型的批處理方式。Dendristor 模型實現了樹突分支間和神經元間的特定塑性，從而提高稀疏神經網路中的學習效率。
這種方法允許 Dendristor 在其樹突分支內對傳入訊號的序列和方向進行編碼，從而提高其識別運動的能力。特別是模型中包含的「沉默突觸」，即由樹突分支電位啟用的突觸，增強了其對訊號方向的敏感性，最佳化了其視覺感知過程。
圖示：（a）生物樹突，（b）Dendristor 與正常突觸，（c）Dendristor 與沉默突觸的方向選擇性比較。（來源：論文）
Baek 表示：「這種薄膜透過允許摻雜離子以類似於神經元樹突中的離子的方式移動來模擬樹突分支，從而調節電晶體的電流以反映樹突膜電位的變化。我們的研究表明，樹突電晶體表現出非線性樹突整合和方向選擇性。」
除了樹突電晶體裝置外，該研究小組還介紹了一種人工靜默突觸。在這個系統中，溶膠-凝膠膜中樹突電晶體分支的電壓確保突觸輸入僅在薄膜達到特定閾值時啟用，從而提高了系統辨別移動視覺刺激方向的能力。
Baek 表示：「我們還建立了一個神經形態樹突神經迴路，它可以計算移動訊號的方向，這種設計靈感來自視網膜和視覺皮層的神經迴路。該電路能夠檢測二維和深度移動的訊號，並將它們整合起來，重建三維空間中物體的運動方向。」
透過緊密映象樹突神經元的稀疏連線，該新型神經形態計算方法可實現顯著的能源效率。事實上，與現有的人工神經網路（ANN）相比，該系統展示了利用更少的神經元檢測運動的潛力。
圖示：樹突網路神經迴路的 3D 視覺運動感知。（來源：論文）
這種新架構的關鍵優勢在於，它超越了複製生物神經元的功能方面。與其他現有的神經形態計算平臺相比，它還重現了神經元的結構和稀疏連線，包括樹突的形態和靜默突觸的基礎。
「儘管神經形態研究中有各種方法來實現智慧，但我們的研究獨特地展示了神經元及其突觸連線形態在動態訊號處理中的重要性。」Baek 說。
「我們透過模仿生物神經元形成功能性神經迴路的方式，對突觸輸入進行空間稀疏對映，從而實現了這一目標，突出了這種形態對於有效的神經形態資訊處理的重要性。」
值得注意的是，該研究團隊首次證明抑制和靜默突觸的空間位置也可以控制神經形態系統中神經元對訊號的處理。這一見解可以指導設計其他重現靜默突觸的計算模型和架構。
「稀疏性和形態學一直被人們所忽視，也未得到廣泛應用，無法構建下一代人工智慧，」Cannistraci 說道。「我們的研究首次展示瞭如何利用真實大腦網路的這兩個特徵來設計下一代神經形態神經網路，以實現高效的人工智慧。」
下一步研究
該研究可能很快會為基於半導體器件的神經形態系統工程開闢新的令人興奮的途徑。具體來說，他們提出的受大腦啟發的設計可能有助於開發能耗更低的新裝置和人工智慧工具，從而為更可持續的計算鋪平道路。
Baek 博士表示：「與基於 GPU 的運動檢測系統不同，基於類腦樹突神經電路（NDNCs）的系統由於網路中使用了更少數量的神經元，因此係統功耗更低。」
Carlo Vittorio Cannistraci 教授補充道：「我們的類腦樹突網路模擬了包括樹突形態在內的大腦稀疏神經網路，從而實現了高能效資訊處理。」這種創新的樹突計算利用了獨特的方法，在人工智慧、神經計算和腦啟發式計算領域開闢了新的可能性。
在接下來的研究中，研究人員計劃進一步擴充套件他們的人工神經迴路，使用先進的抑制連線，進一步促進動態視覺訊號的分類。為此，他們將嘗試密切模仿大腦在早期發育階段觀察到的神經連線。
「我們計劃開發新的神經形態樹突網路架構，進行深度學習，並能解決視覺感知以外的其他人工智慧任務，例如時間序列分析和聽覺任務。」Cannistraci 補充道。
「此外，我們希望開發多模態電路，能夠處理和關聯不同型別的感官輸入，如視覺和聽覺。最後，我們希望將這種稀疏和形態計算正規化擴充套件到在數字硬體上實現的經典型別的人工神經網路。」
參考內容：https://techxplore.com/news/2024-07-brain-artificial-dendritic-neural-circuit.html