對神經形態計算的濃厚興趣刺激人們研發出一系列全新的儲存裝置,這些裝置可以複製生物神經元和突觸功能。最近,一篇回顧該領域現狀的論文對六種最有前景的技術進行了盤點和解讀。
這篇題為“用於神經形態計算的新興儲存器件”的論文發表在1月份的《先進材料技術》(Advanced Materials Technologies)上。論文中,作者闡述了擺脫電晶體和馮·諾依曼架構轉而採用與尖峰神經網路更緊密結合的技術的優勢,尖峰神經網路是神經形態計算的基礎。論文的目的是在神經形態計算中找出比CPU、GPU、DRAM和NAND等傳統裝置更快、更節能的裝置。
論文作者盤點和介紹的六種儲存器件包括電阻式記憶儲存器(ReRAM)、擴散式憶阻器、相變儲存器(PCM)、非易失性磁性隨機儲存器(MRAM)、鐵電場效應電晶體(FeFET)和突觸電晶體。下面我們具體地看一下。
ReRAM
ReRAM是基於電阻式隨機存取的一種非易失性儲存器。換句話說,關閉電源後儲存器仍能記住資料。ReRAM可以由許多化合物製成,最常見的化合物是各種型別的氧化物。據論文作者介紹,ReRAM的主要優勢在於其可擴充套件性、CMOS相容性、低功耗和電導調製效應,這些優點讓ReRAM可以輕鬆擴充套件到先進工藝節點,能夠進行大批量生產和供應,並且能夠滿足神經形態計算等應用對能耗和速度的要求,所有這些都使ReRAM成為下一代儲存器的主要競爭者。
ReRAM對神經形態計算的適用性與憶阻器根據施加電壓的歷史改變其狀態的能力有關。由於這種能力,ReRAM具有生物神經元和突觸的時間特性和模擬特性。基於ReRAM技術的人工神經突觸是一種非常有前途的方法,可用於在神經形態計算中實現高密度和可縮放的突觸陣列。不過,論文作者同時也指出,讓這些憶阻器更均勻以便讓它們可靠地執行仍然是一個挑戰。
根據2017年的報導,由Wei Lu領導的密歇根大學電氣工程和電腦科學系的一個小組演示了一個神經形態原型裝置,該裝置在交叉網路中使用了排列的憶阻器。作為Crossbar的首席科學家,Lu正在幫助實現該技術的商業化。Crossbar是他在2010年與他人共同創立的公司,目前正在與客戶合作向市場推出Crossbar ReRAM解決方案。Crossbar的ReRAM技術是基於一種簡單的器件結構,使用與CMOS工藝相容的材料和標準的CMOS工藝流程。它可以很容易地在現有的CMOS晶圓廠中被整合和製造。並且由於是低溫、後端工藝整合,Crossbar的ReRAM能夠實現構建3D ReRAM儲存晶片。除了Crossbar外,東芝、Elpida、索尼、松下、美光、海力士、富士通等廠商也在開展ReRAM的研究和生產工作。在製造方面,中芯國際(SMIC)、臺積電(TSMC)和聯電(UMC)都已經將ReRAM納入自己未來的發展線路圖中,格羅方德(GlobalFoundries)等其他企業對於ReRAM技術較為冷淡,正在開展其他記憶體技術的研發工作。
擴散式憶阻器
擴散式憶阻器是基於一種活性金屬擴散動力學的憶阻器,這項技術也引起了研究人員的注意。論文作者表示,擴散式憶阻器能夠利用其獨特的電導行為來模仿突觸可塑性,這一特徵使他們能夠忘記較早的、短期的資訊,同時鎖定更多相關的資訊。
擴散式憶阻器由嵌入到一個氧氮化矽薄膜(位於兩個電極之間)內的銀奈米粒子簇組成。薄膜是絕緣體,通電以後,熱和電共同作用使粒子簇分崩離析,銀奈米粒子散開通過薄膜並最終形成一根導電絲,讓電流從一個電極到達另一個電極。關掉電源後,溫度下降,銀奈米粒子會重新排列整齊。研究人員稱,這一過程類似於生物突觸內鈣離子的行為,因此該裝置能模擬神經元的短期可塑性。
在擴散式憶阻器揭露之前,也有研究人員使用漂移式憶阻器來模擬鈣離子的動態。不過,漂移式憶阻器是基於物理過程,不同於生物突觸,因此保真度和各種可能的突觸功能都有很大的限制。研究擴散式憶阻器的研究員認為,擴散式憶阻器幫助漂移式憶阻器產生了類似真正突觸的行為,結合使用這兩種憶阻器帶來了脈衝計時相關可塑性( STDP)的天然示範,而 STDP 是長期可塑性學習規則的重要因素。
將擴散式憶阻器與ReRAM配對的實驗裝置能夠實現無監督學習。這項工作由馬薩諸塞大學的一個研究小組領導,團隊恰好包括此篇論文的三位作者。截至目前為止,他們還沒有商業行為。惠普公司多年來一直熱衷於擴散式憶阻器,特別是其稱為“機器”的概念系統。
相變儲存器(PCM)
PCM是另一種高效能、非易失性儲存器,基於硫屬化合物玻璃。這種化合物有一個很重要的特性,當它們從一相移動到另一相時能夠改變它們的電阻。該材料的結晶相是低電阻相,而非晶相為高電阻相,通過施加或消除電流來完成相變。與基於NAND的傳統非易失性儲存器不同,PCM裝置可以實現幾乎無限數量的寫入。此外,PCM器件的優勢還包括:訪問響應時間短、位元組可定址、隨機讀寫等,其也是諸多被稱為能夠“改變未來”的儲存技術之一。
典型的GST PCM器件結構由頂部電極、晶態GST、α/晶態GST、熱絕緣體、電阻、底部電極組成。一個電阻連線在GST層的下方。加熱/熔化過程隻影響該電阻頂端周圍的一小片區域。擦除/RESET脈衝施加高電阻即邏輯0,在器件上形成一片非晶層區域。擦除/RESET脈衝比寫/SET脈衝要高、窄和陡峭。SET脈衝用於置邏輯1,使非晶層再結晶回到結晶態。PCM器件就是利用材料的可逆變的相變來儲存資訊。
論文作者參考了許多使用相變材料的模擬性質進行神經形態計算的研究專案,其中包括一個提出完整的神經形態電路設計的專案,該專案使用PCM來模擬神經元和突觸。
目前,英特爾、三星、美光科技和松下都已經開始PCM的佈局,IBM研究院已經推出了可以作為非易失性快取的PCM DIMM。幾年前,IBM研究人員構建了一張PCI-Express PCM卡,可以連線到Power8伺服器,並通過相干加速器處理器互連(CAPI)介面交換資料。值得注意的是,中國儲存製造廠商江蘇時代芯存此前也宣佈將投資130億元人民幣致力於PCM的研發,已經於2017年完成廠房的封頂和裝置的採購,該公司認為PCM是21世紀的儲存晶片標準
MARM
MRAM是一種非易失性的磁性隨機儲存器,以磁性方式儲存資料,但使用電子來讀取和寫入資料。磁性特徵提供非易失性,電子讀寫提供速度。MRAM擁有靜態隨機儲存器(SRAM)的高速讀取、寫入能力,以及DRAM的高整合度,而且基本上可以無限次地重複寫入。
不過,當前的MRAM儲存元件也有其明顯的產品短板。很多嵌入式系統都必須在高溫下執行,而高溫往往會損害MRAM的資料儲存能力。另外,MRAM的保持力、耐久性和密度也需要得到進一步的提升。
在神經形態計算領域,MRAM也有著獨特的優勢。MRAM儲存元件包括兩個鐵磁層,由自由層和固定層組成,中間夾著非磁性氧化層。MRAM通過克服將磁化從一個方向切換到另一個方向所需的阻力來工作。通過在自由層中加入域壁可以實現多種阻力狀態。這些器件中開關態的隨機性可以用來模擬突觸的隨機行為。
對於STT-MRAM的商業產品,Avalanche Technology、Spin Memory和Everspin Technologies都在佈局。從商業角度來看,Everspin似乎是走得最遠的。本月,該公司已經開始向客戶提供1Gb的STT-MRAM裝置。上面講到,格羅方德等公司對ReRAM技術較為冷淡,不過對MRAM卻很上心,包括格羅方德、英特爾和三星等都已經宣佈將MRAM列入自己未來的產品計劃中。
鐵電場效應電晶體(FeFET)
FeFET儲存器使用的鐵電材料,可以在兩種極化狀態之間快速切換。與論文裡面提到的其他技術一樣,它可以在低功耗下提供高效能,同時還具有非易失性的附加優勢,FeFET有望成為新一代快閃記憶體器件。
FeFET主要原理是在現有的邏輯電晶體上採用基於氧化鉿基的High-K(高K)柵電介質+Metal Gate(金屬柵)電極疊層技術,然後將柵極絕緣體改性成具有鐵電性質。FeFET並不是一個新鮮的事物,早在2008年,日本產業技術綜合研究所與東京大學就聯合宣佈研發出FeFET的NAND快閃記憶體儲存單元,號稱大幅改良了NAND快閃記憶體的效能缺點。不過,到現在十年過去了,FeFET距離成為主流快閃記憶體產品仍然還有很長的路要走。
根據論文作者的說法,FeFET這種型別儲存器的電壓可以通過模擬突觸權重的方式進行調整,突觸權重是神經形態計算的重要元素。FeFET的一大優勢是一些鐵電化合物能夠與傳統的CMOS相容,因此更容易整合到當下標準的計算平臺中。當然,FeFET沒有大規模商用也是因為其還存在明顯缺點,主要是該技術還受到DRAM的一些限制,包括伸縮性、洩漏和可靠性等方面都有待提升。IEDM的一篇論文指出,SK 海力士、Lam及其它公司都對外表示,由於外部問題,鐵電鉿材料的實際開關速度比原本預期的要慢。
在商用層面,Fraunhofer、格羅方德和NaMLab從2009年就開始了FeFET的研發,SK 海力士、Lam等也有相關的研發計劃。
突觸電晶體
與論文中提到的其他技術不同,突觸電晶體專門用於模擬神經元的行為。電晶體是三端子結構,包括柵極、源極和漏極。柵極使用電導將突觸權重傳遞到通道,而源極和漏極用於讀取該權重。電解質溶液用於調節通道的電導,實現神經形態功能的核心模擬行為。
中國國內的研究機構在突觸電晶體的研發上有著不錯的進展。2017年,中國科學院物理研究所/北京凝聚態物理國家實驗室(籌)磁學國家重點實驗室M06採用二維材料α-MoO3單晶薄片作為溝道材料製備了一種三端阻變器件,利用離子液體作為柵極,施加電場在二維材料間隙層中注入氫離子,實現了α-MoO3溝道電阻在低能耗條件下的多型可逆變化。在此基礎上,研究人員通過改變脈衝電場觸發次數、寬度、頻率和脈衝間隔,成功模擬了生物學中的神經突觸權重增強和減弱過程、短時記憶至長時記憶的轉變、激發頻率依賴可塑性(SRDP)和STDP等行為。
論文作者指出,突觸電晶體擁有“卓越的效能”,甚至可能比生物等效物更好。不過,這項技術仍處於早期研究階段,目前的實現方式在耐久性、速度和電解質方面都受到限制。此外,突觸電晶體從未被證明可以作為神經網路進行連貫地工作。
總的來說,論文中提到的這些技術都有潛力來“顯著提高計算速度,同時降低功耗”。論文作者承認每種技術都有自己特定的優勢和劣勢。他們認為,至少在可預見的未來,任何人工神經形態系統的實現仍然必須依賴CMOS電路來作為外圍元件。作者在論文中這樣寫道:“為了使神經形態系統能夠自立,這些新裝置技術必須突飛猛進。” “這些技術是仍然需要持續發展的領域,通過材料科學家、裝置工程師、硬體設計師、計算機架構師和程式設計師之間的強有力合作將有助於促進跨學科對話,以解決神經形態計算領域面臨的諸多挑戰。”