• <table id="4yyaw"><kbd id="4yyaw"></kbd></table>
  • <td id="4yyaw"></td>
  • 發布時間:2025-05-15 16:19 原文鏈接: 新型AI芯片將大語言模型能耗減半

      美國俄勒岡州立大學科研團隊研發出一種新型AI芯片,成功將大語言模型的能耗降低50%。這項成果于近期在波士頓舉行的IEEE定制集成電路會議上發布,是半導體領域的重大突破,有望成為解決大語言模型高能耗問題的“綠色鑰匙”。

      當前,以谷歌“雙子座”和OpenAI的GPT-4為代表的大語言模型,因海量參數使得算力需求激增,進而導致能源需求急速飆升。

      研究團隊指出,問題的關鍵在于數據中心銅基通信鏈路的數據傳輸。高速數據交換不僅會產生誤差,更會帶來巨大的能源浪費。傳統均衡器雖能糾錯,但其自身就是“電老虎”。一種解決方案是開發更高效的有線通信芯片。

      他們開發的新芯片能夠借助AI技術,通過訓練其上的分類器識別并糾正錯誤,以更智能高效的方式恢復數據,從而降低能耗。與傳統設計相比,新芯片能使大語言模型消耗的能源減半。

      研究團隊已著手開發下一代芯片,預計將帶來更驚人的能效表現。隨著全球AI算力需求持續飆升,這項技術或將成為綠色計算的重要推手。

    相關文章

    科研人員提出大語言模型復雜執行路徑推理能力分析框架

    近日,中國科學院軟件研究所等圍繞動態類型程序語言中復雜執行路徑難以有效分析的問題,分析大語言模型的路徑約束推理能力,并構建覆蓋測試生成、路徑可行性判定和缺陷檢測的評測基準。執行路徑由程序從入口到出口依......

    我國汽車芯片五項認證認可行業標準發布

    近日,市場監管總局(國家認監委)批準立項的《汽車芯片機構認證審查通用評價要求》等五項認證認可行業標準發布。該五項標準構建了全球首個針對汽車芯片全產業鏈相關機構的國家層面能力評價標準體系,標志著我國在構......

    港大研制出全新極簡架構芯片處理速度較標準CPU快1億倍

    中新社香港8月5日電香港大學(簡稱“港大”)4日公布,港大研究團隊成功研制出一款新型模擬內容尋址存儲器(CAM)。該芯片采用極簡架構,可直接在存儲數據的位置進行復雜搜索。在執行漢明距離計算任務時,其處......

    科研人員研發亞10毫秒級神經動力系統存內計算芯片

    高保真物理世界幾何建模要求在流形表面實現實時、密集且可微的變形場。基于自適應步長積分與嵌入式神經網絡相結合的神經動力系統(NDS)可支撐這一任務,但面臨數百毫秒延遲的問題。相變存儲器具有高速、低功耗、......

    熱管制造技術給高性能芯片“退燒”

    7月30日,記者從中國科學院金屬研究所獲悉,該所聯合白俄羅斯科學院、江西耐樂銅業有限公司,近日研發出一種基于電化學沉積增材制造的新型熱管制造技術。這項技術一舉攻克了Ω槽道熱管內部“梯度多孔銅吸液芯”難......

    科學家在熱管里“種”出超級吸液芯

    近日,中國科學院金屬研究所宋鴻武團隊聯合白俄羅斯科學院、江西耐樂銅業有限公司,成功研發出一種基于“電化學沉積增材制造”的新型熱管制造技術,攻克了Ω形槽道熱管內部“梯度多孔銅吸液芯”難以原位成形的國際難......

    指尖大小紅外芯片開掛!氣體熱源一鍵精準捕捉

    紅外相機能夠捕捉人眼無法識別的有效信息,例如管道泄漏的氣體、大氣中的化學物質,或是建筑物外泄的熱量。但想要以精密方式感知紅外光,仍需昂貴且體積龐大的成套設備。如今,美國麻省理工學院研究人員研發出一款基......

    科學家開發出芯片堆疊新工藝

    韓國工業技術研究所和浦項科技大學科學家開發出一項新工藝,能穩定堆疊10余片超薄半導體芯片,由此實現了約4倍于商用高帶寬存儲器(HBM)的集成密度。這一突破有望緩解人工智能(AI)面臨的存儲瓶頸。相關論......

    我國攻克硅基量子芯片關鍵材料

    記者15日從中核集團獲悉,我國首次成功實現豐度超過99.99%的硅-28同位素自主量產,產品關鍵指標達國際先進水平。這將為我國硅基量子計算核心材料的自主研制以及先進制程半導體、高端導航、計量基準等前沿......

    研究人員制造出可實時扭曲和控制光的芯片

    哈佛大學的研究人員創造了一種緊湊型設備,可以在光通過時主動控制其“手性”,即光學手性。這是通過輕微旋轉兩個經過特殊設計的光子晶體層來實現的。近日,相關研究成果發表在Optica上。哈佛大學EricMa......

  • <table id="4yyaw"><kbd id="4yyaw"></kbd></table>
  • <td id="4yyaw"></td>
  • 调性视频