• <table id="4yyaw"><kbd id="4yyaw"></kbd></table>
  • <td id="4yyaw"></td>
  • 發布時間:2024-08-08 10:35 原文鏈接: 清華交叉團隊突破智能光計算訓練難題

    清華大學電子工程系方璐教授課題組

    自動化系戴瓊海院士課題組

    另辟蹊徑

    首創了全前向智能光計算訓練架構

    研制了“太極-II”光訓練芯片

    實現了光計算系統

    大規模神經網絡的高效精準訓練

    該研究成果

    以“光神經網絡全前向訓練”為題

    于北京時間8月7日晚

    在線發表于《自然》期刊

    圖片
    清華大學電子系為論文第一單位,方璐教授、戴瓊海教授為論文的通訊作者,清華大學電子系博士生薛智威、博士后周天貺為共同一作,電子系博士生徐智昊、之江實驗室虞紹良博士參與了本項工作。本課題受到國家科技部、國家自然科學基金委、北京信息科學與技術國家研究中心、清華大學-之江實驗室聯合研究中心的支持。

    Nature審稿人在審稿評述中指出“本文中提出的想法非常新穎,此類光學神經網絡(ONN)的訓練過程是前所未有的。所提出的方法不僅有效,而且容易實現。因此,它有望成為訓練光學神經網絡和其他光學計算系統的廣泛采用的工具。”


    巧用對稱,助力光計算擺脫GPU依賴    

    近年間,具有高算力低功耗特性的智能光計算逐步登上了算力發展的舞臺。通用智能光計算芯片“太極”的問世便是其中的一個縮影,它首次將光計算從原理驗證推向了大規模實驗應用,以160TOPS/W的系統級能效為大規模復雜任務的“推理”帶來了曙光,但未能夠釋放智能光計算的“訓練之能”。

    相較于模型推理而言,模型訓練更需要大規模算力。然而,現有的光神經網絡訓練嚴重依賴GPU進行離線建模并且要求物理系統精準對齊。正因如此,光學訓練的規模受到了極大的限制,光高性能計算的優勢仿佛被禁錮在無形的枷鎖之中。

    在這個時候,方璐、戴瓊海課題組找到了“光子傳播對稱性”這把鑰匙,將神經網絡訓練中的前向與反向傳播都等效為光的前向傳播。

    據論文第一作者、電子系博士生薛智威介紹,在太極-II架構下,梯度下降中的反向傳播化為了光學系統的前向傳播,光學神經網絡的訓練利用數據-誤差兩次前向傳播即可實現。兩次前向傳播具備天然的對齊特性,保障了物理梯度的精確計算。如此實現的訓練精度高,便能夠支撐大規模的網絡訓練。

    由于不需要進行反向傳播,太極-II架構不再依賴電計算進行離線的建模與訓練,大規模神經網絡的精準高效光訓練終于得以實現。

    圖片

    全前向智能光計算訓練架構

    高效精準,智能光訓練事事可為       

    以光為計算媒介,以光的可控傳播構建計算模型,光計算天然具有高速和低功耗的特性,利用光的全前向傳播實現訓練能夠極大的提升光網絡訓練的速度與能效。

    論文研究表明,太極-II能夠對多種不同光學系統進行訓練,并在各種任務下均表現出了卓越的性能。

    大規模學習領域:突破了計算精度與效率的矛盾,將數百萬參數的光網絡訓練速度提升了1個數量級,代表性智能分類任務的準確率提升40%。

    復雜場景智能成像:弱光環境下(每像素光強度僅為亞光子)實現了能量效率為5.40×10^6 TOPS/W的全光處理,系統級能效提升6個數量級。在非視域場景下實現了千赫茲幀率的智能成像,效率提升2個數量級。

    拓撲光子學領域:在不依賴任何模型先驗下可自動搜索非厄米奇異點,為高效精準解析復雜拓撲系統提供了新思路。

    圖片

    通用智能光訓練賦能復雜系統

    攜手太極,推動AI光算力揚帆遠航     

    太極-II的面世,繼太極I芯片之后進一步揭示了智能光計算的巨大潛力。

    如兩儀分立,太極I和II分別實現了高能效AI推理與訓練;

    又如兩儀調和,太極I和II共同構成了大規模智能計算的完整生命周期。

    方璐表示:“‘定兩儀太極之道,合正反乾坤之法’,我們這樣形容太極系列這一組辯證協作架構,我們相信,它們將合力為未來AI大模型注入算力發展的新動力,構建光算力的新基座”。

    在原理樣片的基礎上,研究團隊正積極地向智能光芯片產業化邁進,在多種端側智能系統上進行了應用部署。

    可以預見,經過太極系列在內的光計算領域的不懈努力,智能光計算平臺將有望以更低的資源消耗和更小的邊際成本,為人工智能大模型、通用人工智能、復雜智能系統的高速高能效計算開辟新路徑。

     


    相關文章

    清華聘任哥倫比亞大學教授鄭甜擔任杰出訪問教授

    2026年6月30日,清華大學統計與數據科學系舉辦杰出訪問教授聘任儀式,正式聘任哥倫比亞大學統計系知名統計學家鄭甜教授為杰出訪問教授。這是繼湯家豪和EdoardoAiroldi之后,清華統計系正式聘任......

    清華大學8月政府采購意向公開采購一批科研設備

    近日,清華大學2026年8月政府采購意向公布,涉及生物醫學樣本培養分析與處理設備、多模態智能生物自動分析系統、高清數字虛擬解剖臺、干細胞類器官樣本庫系統等4個項目,總預算金額928萬元。......

    為電力能源裝備“串聯電路”補齊最后幾塊國產“拼圖”

    “你們就像串聯電路上的關鍵元件,每一個都不可或缺,一旦哪個環節出了問題,整個系統都會停擺。”清華大學電機工程與應用電子技術系教授何金良常常這樣勉勵青年學子。這句話也成了他所在團隊的真實寫照。在中國電力......

    “講國情、進基層、大思政”——測試裝備分會會員企業對接清華大學師生暑期思政社會實踐活動

    2026年7月初,清華大學校團委組織開展大學生暑期思政社會實踐課程,為此清華大學致理書院組織開展“石庫門初心·實驗室報國:國產科學儀器新質生產力研學實踐”專項活動,本次活動由清華大學化學系邢志教授帶隊......

    清華大學啟動2026年實驗技術人員公開招聘面向高層次專技人才開放8個崗位

    近日,清華大學2026年實驗技術人員公開招聘已正式啟動,涉及車輛學院、電機系、電子系、化學系、物理系、集成電路學院6個院系,共招聘8個實驗技術崗位。據悉,本次招聘崗位屬新事業編制范疇,報名時間為202......

    清華團隊研發AI模型“星衍”,突破天文觀測極限

    2月20日,清華大學自動化系成像與智能技術實驗室戴瓊海院士團隊、天文系副教授蔡崢團隊理工融合的研究成果,以長文“優先發表”于國際期刊《科學》。團隊研發的AI天文觀測增強模型“星衍”(ASTERIS),......

    8億+!清華大學近期儀器設備采購意向發布

    近期,清華大學發布了多項政府采購意向。共8.8億,采購包含共聚焦顯微鏡、酶標儀、核磁共振波譜儀、透射電子顯微鏡、液質聯用儀、分光光度計在內的儀器設備,詳情如下:序號采購項目名稱預算金額(萬元)預計采購......

    清華大學擬投2100萬元引進大視場介觀顯微成像平臺實驗室項目

    近日,清華大學公布2026年3月政府采購意向,計劃投入總預算近2100萬元,用于建設“大視場介觀顯微成像實驗室”相關項目。其中核心項目為“大視場介觀顯微成像實驗室重大設備引進項目”,預算金額達2000......

    長城工程科技會議世界一流科技期刊及平臺建設專題會在清華大學舉行

    11月25日,長城工程科技會議世界一流科技期刊及平臺建設專題會在清華大學舉行。清華大學校長、中國科學院院士李路明出席會議并致辭。清華大學副校長吳華強主持會議。李路明代表學校向與會嘉賓表示歡迎。他說,科......

    清華大學首發人工智能教育應用指導原則

    在歷經一年的深入調研論證和廣泛征求意見后,不久前,一份名為《清華大學人工智能教育應用指導原則》(以下簡稱《指導原則》)的文件出現在清華大學校內網站上。這一文件標志著清華大學首次系統性地對校內人工智能(......

  • <table id="4yyaw"><kbd id="4yyaw"></kbd></table>
  • <td id="4yyaw"></td>
  • 调性视频