人工智能迫切需要借鑒生物系統中的微觀、介觀、宏觀等多尺度神經可塑性融合計算機制,以啟發實現更加高效的類腦連續學習算法,消除人工神經網絡因采用反向傳播(Backpropagation,BP)等人工學習方法而導致的廣泛災難性遺忘現象。生物系統中常見的多巴胺、5-羥色胺、血清素、去甲腎上腺素等神經調質物,往往經由特定的腺體釋放(圖1A),遠程彌散、投射到一定范圍內的目標神經元群體,并根據調質濃度水平的不同,對局部的神經元、突觸等多種微觀可塑性產生復雜的調制影響(圖1B)。
受到該生物神經調制機制的啟發,中國科學院自動化研究所研究員徐波團隊與中國科學院院士、腦科學與智能技術卓越創新中心高級研究員蒲慕明,以及臨港實驗室研究員李澄宇等,通過建模多巴胺、乙酰膽堿等全局神經調制可塑性(Neuromodulation Plasticity)、局部時序依賴可塑性(Spike Timing-Dependent Plasticity,STDP)等多尺度神經可塑性機制,整合得到一種基于神經調制依賴可塑性的新型類腦學習方法(Neuromodulation-Assisted Credit Assignment,NACA)。該方法參考了大腦中復雜的神經調制通路結構,并以期望矩陣編碼的形式對神經調制通路構建數學模型(圖2A),在接受刺激信號后產生不同濃度的多巴胺監督信號并進一步影響局部突觸和神經元可塑性類型(圖2B)。NACA支持采用純前饋的流式學習方法訓練脈沖(Spiking Neural Network,SNN)和人工(Artificial Neural Network,ANN)神經網絡(圖2D、E),通過全局多巴胺的彌散支持與輸入信號同步,甚至先于輸入信號的正向信息傳播,再加上選擇性的對STDP的調整,使得NACA表現出明顯的快速收斂和緩解災難性遺忘優勢。
在兩類典型的圖片和語音模式識別任務中,該團隊從準確率和計算成本兩方面對NACA算法進行評估,并在SNN中選取了E-prop和BRP兩種全局學習算法作為對比,在ANN中則以TP(Target Propagation)和BP算法作為對比對象。在圖片分類(MNIST)和語音識別(TIDigits)標準數據集上,NACA均實現了更高的分類精度(約1.92%)和更低學習能耗(約98%)。在驗證了靜態分類任務的擬合能力后,該研究重點測試NACA算法在Class-CL上的連續學習能力,并將神經調制擴充到神經元可塑性范圍(圖3A、B)。在五大類的連續學習任務中(包括連續MNIST手寫數字、連續Alphabet手寫字母、連續MathGreek手寫數學符號、連續Cifar-10自然圖片、連續DvsGesture動態手勢),NACA算法相對BP和EWC算法,具有更低的能耗且可緩解“災難性遺忘”問題(圖3C-G)。
研究顯示,NACA是一類生物合理的全局優化算法。這種采用宏觀可塑性來進一步“調制”局部可塑性,可被視為是一種“可塑性的可塑性”(Plasticity of Plasticity)方法,與“學會學習”、“元學習”(Learn to Learn)等有直觀上的功能一致性。該算法同時在SNN和ANN的優化問題中獲得了性能和計算成本上的優勢,更在連續學習這一更貼合生物生存環境和實際應用場景的動態任務范式下發揮重要作用。這些純前饋學習、低訓練能耗、支持動態連續學習等綜合特征,也將有望進一步引導新型類腦芯片的設計。
相關研究成果以A brain-inspired algorithm that mitigates catastrophic forgetting of artificial and spiking neural networks with low computational cost為題,在線發表在《科學進展》(Science Advances)上。研究工作得到中國科學院戰略性先導科技專項(A類)、上海市市級科技重大專項、臨港實驗室專項、中國科學院青年創新促進會等的支持。