功耗毫瓦級！基于注意力機制的類腦芯片問世

人腦能夠運行復雜且龐大的神經網絡，總功耗卻僅約20瓦，遠小于現有的人工智能系統。因此，在算力比拼加速、能耗日益攀升的今天，借鑒人腦的低功耗特性發展新型智能計算系統成為極具潛力的方向。 

近日，中國科學院自動化研究所李國齊、徐波課題組與時識科技公司等單位合作設計了一套能夠實現動態計算的算法—軟件—硬件協同設計的類腦神經形態SOC（System on Chip，系統級芯片）“Speck”，展示了類腦神經形態計算在融合高抽象層次大腦機制時的天然優勢，相關研究在線發表于《自然·通訊》。 

該研究提出了“神經形態動態計算”的概念，設計了一種類腦神經形態芯片“Speck”，來實現基于注意力機制的動態計算。該芯片在硬件層面做到“沒有輸入，沒有功耗”，在算法層面做到“有輸入時，根據輸入重要性程度動態調整計算”，從而在典型視覺場景任務功耗可低至0.7毫瓦，進一步挖掘了神經形態計算在性能和能效上的潛力。

人腦的注意力機制示意圖。自動化所 供圖

Speck是一款異步感算一體類腦神經形態SoC，采用全異步設計，在一塊芯片上集成了動態視覺傳感器（DVS相機）和類腦神經形態芯片，具有極低的靜息功耗（僅為0.42毫瓦）。Speck能夠以微秒級的時間分辨率感知視覺信息，并以全異步方式設計替代了全局時鐘控制信號，避免時鐘空翻帶來的能耗開銷，僅在有事件輸入時才觸發稀疏加法運算。 

針對脈沖神經網絡（SNN）在更高層面，比如時間維度中不能根據輸入難易度調整其脈沖發放等“動態失衡”問題，該研究基于注意力機制的神經形態脈沖動態計算框架，在多種粒度上實現對不同的輸入進行有區分地動態響應；同時Speck軟件工具鏈Sinabs編程框架支持動態計算SNN算法訓練和部署。實驗結果表明，注意力機制可使得SNN具備動態計算能力，即根據輸入難易度調整其脈沖發放模式解決“動態失衡”問題，在顯著降低功耗的同時，提升任務性能。在DVS128 Gesture數據集上，融合脈沖動態計算的Speck在任務精度提升9%的同時，平均功耗由9.5毫瓦降低至3.8毫瓦。  

該工作的實踐證實，高、低抽象層次大腦機制的融合能進一步激發類腦計算潛力，這為以后將大腦進化過程中產生的各種高級神經機制融合至神經形態計算提供了積極啟發。 

相關工作得到了國家杰出青年科學基金、北京市杰出青年基金、國家自然科學基金委重點項目、區域創新聯合重點項目等項目的支持。 

相關論文信息：https://www.nature.com/articles/s41467-024-47811-6