美國IBM研究實驗室的科學家報告了一種能效為傳統數字計算機芯片14倍的人工智能(AI)模擬芯片。這一芯片在語音識別上的效率超過了通用處理器,該技術或能打破當前AI開發中因對算力性能和效率的需求而遇到的瓶頸。相關研究近日發表于《自然》。
隨著AI技術的崛起,對能源和資源的需求也隨之上升。在語音識別領域,軟件升級極大提升了自動轉寫的準確率,但由于在存儲器與處理器之間移動的運算數量不斷增加,硬件無法跟上訓練和運行這些模型所需的數以百萬計的參數。
研究人員提出的一個解決辦法是使用“存內計算”(CiM,或稱模擬AI)芯片。模擬AI系統通過直接在它自己的存儲器內執行運算來防止低效,而數字處理器需要額外時間和能源在存儲器和處理器之間移動數據。模擬AI芯片預計能極大提升AI計算的能效;但對此的實際演示一直缺乏。
IBM研究實驗室的Stefano Ambrogio和同事開發了一個14納米的模擬芯片,在34個模塊中含有3500萬個相變化內存單元。研究團隊用兩個語音識別軟件在語言處理能力上測試了該芯片的效率,這兩個軟件分別是一個小網絡和一個大網絡,并在自然語言處理任務上與行業標準進行對比。小網絡的性能和準確率與當前的數字技術相當。對于更大的模型來說,該芯片能達到每秒每瓦12.4萬億次運算,系統性能估計最高能達到傳統通用處理器的14倍。
該研究在小模型和大模型中同時驗證了模擬AI技術的性能和效率,支持其有望成為數字系統的商業可行的替代選擇。

用來制造模擬AI芯片的300毫米晶圓。 圖片來自:Ryan Lavine

14納米模擬AI芯片在檢測板上。圖片來自:Ryan Lavine

研究者手上拿著的14納米模擬AI芯片。 圖片來自:Ryan Lavine
AI(人工智能)芯片緊缺之際,越來越多科技巨頭選擇自行研發。當地時間4月10日,社交巨頭Meta公布了自主研發芯片MTIA的最新版本。MTIA是Meta專門為AI訓練和推理工作設計的定制芯片系列。和去......
AI(人工智能)芯片緊缺之際,越來越多科技巨頭選擇自行研發。當地時間4月10日,社交巨頭Meta公布了自主研發芯片MTIA的最新版本。MTIA是Meta專門為AI訓練和推理工作設計的定制芯片系列。和去......
據美國趣味科學網站14日報道,美國芯片初創企業Cerebras Systems推出了全新的5納米級“晶圓級引擎3”(WSE-3)芯片。該公司官網稱,這是目前世界上運行速度最快的人工智能(AI......
據美國趣味科學網站14日報道,美國芯片初創企業Cerebras Systems推出了全新的5納米級“晶圓級引擎3”(WSE-3)芯片。該公司官網稱,這是目前世界上運行速度最快的人工智能(AI......
運行生成式人工智能(AI)系統不僅硬件成本高昂,而且會帶來驚人的能源消耗。據科技網站TechCrunch最新報道,總部位于德國的初創公司塞姆龍最新開發出一種創新的AI芯片設計方法,率先使用新的神經網絡......
運行生成式人工智能(AI)系統不僅硬件成本高昂,而且會帶來驚人的能源消耗。據科技網站TechCrunch最新報道,總部位于德國的初創公司塞姆龍最新開發出一種創新的AI芯片設計方法,率先使用新的神經網絡......
1月10日,英特爾在CES2024展會上宣布進軍汽車市場。該公司將發布一系列AI軟件定義汽車系統芯片(SDVSoC),進入車用芯片市場,與高通和英偉達展開競爭。同時,英特爾還宣布收購法國初創公司Sil......
1月10日,英特爾在CES2024展會上宣布進軍汽車市場。該公司將發布一系列AI軟件定義汽車系統芯片(SDVSoC),進入車用芯片市場,與高通和英偉達展開競爭。同時,英特爾還宣布收購法國初創公司Sil......
美國IBM研究實驗室的科學家報告了一種能效為傳統數字計算機芯片14倍的人工智能(AI)模擬芯片。這一芯片在語音識別上的效率超過了通用處理器,該技術或能打破當前AI開發中因對算力性能和效率的需求而遇到的......
美國IBM研究實驗室的科學家報告了一種能效為傳統數字計算機芯片14倍的人工智能(AI)模擬芯片。這一芯片在語音識別上的效率超過了通用處理器,該技術或能打破當前AI開發中因對算力性能和效率的需求而遇到的......