大模型安全治理：國際合作共筑AI發展新框架

　　“當前，人工智能技術以驚人的速度發展，如近期DeepSeek引領了低成本開發使用大模型的革新，這既為驅動新的創新提供了更多可能，也帶來了諸多風險挑戰，而在互聯互通時代，加強國際合作至關重要。”2月11日，在“人工智能技術及其應用進展”專題邊會上，清華大學交叉信息研究院、人工智能學院院長姚期智提到了大模型如何安全發展等問題。

　　專題邊會于“2025巴黎人工智能行動峰會”召開期間舉辦，旨在共同探討如何利用國際合作平臺，縮小智能鴻溝，確保所有國家都能從人工智能的快速發展中受益，并期望推動建立一個開放包容、互利共贏的人工智能國際治理體系，共同迎接未來發展的機遇與挑戰。

　　清華大學計算機系教授唐杰提出，大模型研究的終極目標是教會機器像人一樣思考（即AGI），該目標可能很長遠也可能很快實現。對于2025AGI的發展趨勢，唐杰認為，自主的、具有代理能力的大型語言模型將成為日常生活和工作的核心，人類與代理之間的協作潛力將成為變革性的力量，而最具有突破性的變化將發生在科學研究領域。在“AGI安全”問題上，他提出需要在模型、個人和國家層面制定全面的安全策略。他指出，AGI的路還很長，需要共同努力，實現安全、可控、無幻覺的穩步發展。

　　麻省理工學院教授、生命未來研究所所長馬克斯·泰格馬克表示，當前世界大國與大型科技公司熱衷于推動通用人工智能（AGI）的實現，但卻忽略對其控制機制的研究。為先進人工智能技術建造安全“護欄”是必要的，能避免失控技術引發極端、生存性風險。為此，有必要推動企業與政府之間的合作，借鑒現有監管模式如藥品管理、核設施管理的經驗，在部署強大的人工智能系統之前，應當通過安全標準審查和控制機制保障其安全可靠。同時，應該倡導全球合作討論，確保AI技術的發展符合人類利益和價值觀。

　　清華大學文科資深教授、人工智能國際治理研究院院長薛瀾提到，為踐行2023年中國發布的《全球人工智能治理倡議》，“中國人工智能發展與安全研究網絡”凝聚中國人工智能發展和安全領域的優勢力量和智力資源，對應“人工智能安全研究所”，代表中方與各國的人工智能安全研究機構展開對話與合作。此次會議將著力于增進各方對中國人工智能發展與安全治理的了解，并期待傾聽和增進其他國家對這一領域發展建設的見解，助力全球人工智能發展與治理的合作。

　　清華大學法學院教授、智能法治研究院院長申衛星在發言中指出，中國已形成人工智能立法的多層綜合結構。在定位上，中國人工智能立法力求在創新與監管之間取得平衡，確保法律的明確性，促進行業發展，并與現有法律保持一致。在內容上，中國人工智能立法需廓清人工智能的定義，囊括人工智能法基本原則，建立同AI 分級風險相協調的自我規制機制、風險管理機制、透明機制與損害救濟機制。中國也將在《全球人工智能治理倡議》指引下，加強國際合作，共同推動公平、公正的全球人工智能治理規則制定，以增強AI 系統的安全可靠性，促進技術創新和包容性發展。

　　國際治理創新中心全球人工智能風險倡議執行主任鄧肯·卡斯-貝格斯指出，應當針對不同場景和問題采取不同的國際治理機制。前沿人工智能失控等極端風險，更加依賴掌握前沿技術的國家之間進行協調；而深度偽造、虛假信息等一般性的人工智能風險，則更加依賴國內治理。各國政府應利用外交政策來共同設計國際合作機制，因為國家間合作將對公民福祉產生更大影響。

　　據悉，“中國人工智能發展與安全研究網絡”成員單位包括清華大學、北京大學、中國科學院、中國信息通信研究院、中國電子信息產業發展研究院、北京智源人工智能研究院、上海人工智能實驗室、上海期智研究院等。