清華大學電子工程系方璐教授課題組
自動化系戴瓊海院士課題組
另辟蹊徑
首創了全前向智能光計算訓練架構
研制了“太極-II”光訓練芯片
實現了光計算系統
大規模神經網絡的高效精準訓練
該研究成果
以“光神經網絡全前向訓練”為題
于北京時間8月7日晚
在線發表于《自然》期刊
Nature審稿人在審稿評述中指出“本文中提出的想法非常新穎,此類光學神經網絡(ONN)的訓練過程是前所未有的。所提出的方法不僅有效,而且容易實現。因此,它有望成為訓練光學神經網絡和其他光學計算系統的廣泛采用的工具。” 巧用對稱,助力光計算擺脫GPU依賴 近年間,具有高算力低功耗特性的智能光計算逐步登上了算力發展的舞臺。通用智能光計算芯片“太極”的問世便是其中的一個縮影,它首次將光計算從原理驗證推向了大規模實驗應用,以160TOPS/W的系統級能效為大規模復雜任務的“推理”帶來了曙光,但未能夠釋放智能光計算的“訓練之能”。 相較于模型推理而言,模型訓練更需要大規模算力。然而,現有的光神經網絡訓練嚴重依賴GPU進行離線建模并且要求物理系統精準對齊。正因如此,光學訓練的規模受到了極大的限制,光高性能計算的優勢仿佛被禁錮在無形的枷鎖之中。 在這個時候,方璐、戴瓊海課題組找到了“光子傳播對稱性”這把鑰匙,將神經網絡訓練中的前向與反向傳播都等效為光的前向傳播。 據論文第一作者、電子系博士生薛智威介紹,在太極-II架構下,梯度下降中的反向傳播化為了光學系統的前向傳播,光學神經網絡的訓練利用數據-誤差兩次前向傳播即可實現。兩次前向傳播具備天然的對齊特性,保障了物理梯度的精確計算。如此實現的訓練精度高,便能夠支撐大規模的網絡訓練。 由于不需要進行反向傳播,太極-II架構不再依賴電計算進行離線的建模與訓練,大規模神經網絡的精準高效光訓練終于得以實現。

全前向智能光計算訓練架構
高效精準,智能光訓練事事可為
以光為計算媒介,以光的可控傳播構建計算模型,光計算天然具有高速和低功耗的特性,利用光的全前向傳播實現訓練能夠極大的提升光網絡訓練的速度與能效。 論文研究表明,太極-II能夠對多種不同光學系統進行訓練,并在各種任務下均表現出了卓越的性能。 大規模學習領域:突破了計算精度與效率的矛盾,將數百萬參數的光網絡訓練速度提升了1個數量級,代表性智能分類任務的準確率提升40%。 復雜場景智能成像:弱光環境下(每像素光強度僅為亞光子)實現了能量效率為5.40×10^6 TOPS/W的全光處理,系統級能效提升6個數量級。在非視域場景下實現了千赫茲幀率的智能成像,效率提升2個數量級。 拓撲光子學領域:在不依賴任何模型先驗下可自動搜索非厄米奇異點,為高效精準解析復雜拓撲系統提供了新思路。
通用智能光訓練賦能復雜系統
攜手太極,推動AI光算力揚帆遠航
太極-II的面世,繼太極I芯片之后進一步揭示了智能光計算的巨大潛力。 如兩儀分立,太極I和II分別實現了高能效AI推理與訓練; 又如兩儀調和,太極I和II共同構成了大規模智能計算的完整生命周期。 方璐表示:“‘定兩儀太極之道,合正反乾坤之法’,我們這樣形容太極系列這一組辯證協作架構,我們相信,它們將合力為未來AI大模型注入算力發展的新動力,構建光算力的新基座”。 在原理樣片的基礎上,研究團隊正積極地向智能光芯片產業化邁進,在多種端側智能系統上進行了應用部署。 可以預見,經過太極系列在內的光計算領域的不懈努力,智能光計算平臺將有望以更低的資源消耗和更小的邊際成本,為人工智能大模型、通用人工智能、復雜智能系統的高速高能效計算開辟新路徑。
11月25日,長城工程科技會議世界一流科技期刊及平臺建設專題會在清華大學舉行。清華大學校長、中國科學院院士李路明出席會議并致辭。清華大學副校長吳華強主持會議。李路明代表學校向與會嘉賓表示歡迎。他說,科......
在歷經一年的深入調研論證和廣泛征求意見后,不久前,一份名為《清華大學人工智能教育應用指導原則》(以下簡稱《指導原則》)的文件出現在清華大學校內網站上。這一文件標志著清華大學首次系統性地對校內人工智能(......
近日,清華大學2025年9至12月政府采購意向發布,本項目采購預算925萬元,預計采購的儀器設備包括高光譜成像儀、材料表征系統、數字PCR、定量PCR、恒溫擴增核酸分析儀、高通量單細胞標記分選及核酸檢......
近日,清華大學實驗室管理處對第十五屆“清華大學優秀實驗技術人員獎”獲獎名單進行了公示。在此次公示名單中,化學系/分析中心磁共振實驗室的楊海軍高工榮獲該項殊榮!這一獎項旨在表彰在實驗技術崗位上長期耕耘、......
8月21日,清華大學2025級本科生新生開學典禮在該校舉行,約4000名新生參加典禮。典禮上舉行了新生佩戴清華大學徽章儀式,清華大學校黨委書記邱勇為新生代表戴上了清華大學徽章,并激勵清華新生心懷夢想、......
清華新聞網7月8日電日前,上級決定,曾嶸同志任清華大學常務副校長(正局級,試用期一年),吳華強同志任清華大學黨委常委、副校長(試用期一年)。新任校領導簡介:曾嶸曾嶸,男,漢族,1971年11月生,中共......
近期,清華大學連續發布多項儀器采購意向,預算總金額高達36836.6萬元。涉及儀器設備包括紅外光譜儀、熱重-熱常數分析儀、激光掃描共聚焦顯微鏡、高通量分子互作分析儀、類器官代謝監測儀、冷凍超薄切片系統......
近日,清華大學水利水電工程系教授龍笛團隊在全球地表水體遙感監測研究中取得重要進展。該團隊研究成果成功揭示了全球百萬湖泊水域面積的多尺度動態與季節性主導機制,在世界范圍內打破了長期困擾遙感水文界的“時間......
5月30日,清華大學無穹書院、紫荊書院、自強書院、水木書院成立儀式暨書院院長聘任儀式在主樓接待廳舉行。這是清華大學堅持以進一步全面深化改革激發內在活力,面向國家重大戰略需求和經濟社會發展需要,把傳統工......
一、項目編號:清采招第20240297號(0873-2024HW3L0658)(招標文件編號:清采招第20240297號(0873-2024HW3L0658))二、項目名稱:清華大學單細胞光導系統采購......