首屆人工智能安全大賽啟動，5院士擔綱主席

原文地址：http://news.sciencenet.cn/htmlnews/2022/7/482626.shtm

為加快構建人工智能安全創新環境，7月13日，以“共筑AI安全 安享智能未來”為主題的2022人工智能安全大賽（以下簡稱大賽）正式啟動。作為中關村論壇國際前沿科技創新大賽的專題賽，本次大賽聚焦人工智能產業面臨的安全挑戰，旨在以競賽方式破解安全難題，培育高水平的人工智能安全團隊，同時強化人工智能治理體系與安全評估能力建設，助力人工智能產業高質量發展。

作為國內首個以人工智能安全為主題的賽事，本屆大賽“逼格”滿滿。例如，大賽匯聚業界頂級專家，中國科學院院士張鈸、中國工程院院士倪光南、中國工程院院士沈昌祥、中國工程院院士于全、中國工程院院士吳建平在內的五位院士受邀擔任本屆大賽組委會主席，旨在打造人工智能安全領域最高水平的競技交流平臺。

大賽評審委員會則由來自中國科學院、清華大學、復旦大學、浙江大學、中國科學技術大學、北京航空航天大學、西安交通大學、北京郵電大學、北京理工大學等多所國內知名高校學者組成，為保證大賽呈現高水平競技提供有力保障。

賽題方面，大賽深度聚焦前沿安全問題。大賽針對人臉識別安全、深度偽造內容治理、自動駕駛安全等領域設置賽題，致力于將產業應用中的實際需求與最前沿的安全問題融合，以期為人工智能的能力演進提供重要參考。

具體而言，“深度偽造安全競賽”的賽題針對目前利用生成合成類算法偽造音頻、視頻等濫用現象，要求參賽選手模擬互聯網上深度偽造視頻傳播的場景，通過提交針對偽造方法的溯源算法，對相同生成方法的深度偽造視頻進行識別，并最終根據準確率進行排名。

“自動駕駛安全競賽”則瞄準自動駕駛車輛在極端場景中極易發生誤判、面臨算法安全威脅、存在被惡意攻擊的可能，要求選手模擬自動駕駛場景下的對抗攻擊，提供線上仿真自動駕駛環境。選手通過提交對抗補丁，對主流自動駕駛目標檢測模型進行攻擊測試，最終根據攻擊成功率進行排名。

人臉識別系統容易受到對抗樣本攻擊，即通過對人臉圖像做微小的改動，能夠欺騙識別系統做出錯誤判斷。“人臉識別安全競賽”賽題需要選手模擬人臉比對場景下的對抗攻擊，在模型詳細信息未知的黑盒場景下，提交對抗補丁，并對模型進行攻擊測試，最終根據攻擊成功率進行排名。

據了解，大賽分為報名及線上初賽（7月13日～8月31日）、初賽評審（9月1日～9月10日）、線下決賽及頒獎典禮（2022中關村論壇期間）三個階段。從即日起，大賽面向全國高等院校、科研院所、科技企業招募參賽團隊。大賽還設置了豐厚的獎金池，各賽道的冠亞季軍將分別獲得 5 萬元、2 萬元、1 萬元的獎金。每個賽道取得總決賽前十名的隊伍，將獲得大賽頒發的榮譽證書。