陳左寧院士：建議盡快組織起草人工智能基本法

“建議加快制定我國AI（人工智能）的法律、法規及安全倫理標準，確保AI健康、穩定發展，如盡快組織起草人工智能基本法等。”8月6日，在中國計算機學會（CCF）于蘇州舉行的“國家科技創新體系與計算機戰略發展研討會”上，中國工程院院士、國家并行計算機工程技術研究中心總工程師陳左寧做了題為《新一代人工智能安全與自主可控發展戰略研究》的報告，并提出如是建議。她表示，該報告內容是包括中國工程院院士高文等在內的多位院士共同參與的結晶，也是中國工程院一項重大戰略咨詢課題的研究成果。

近年來，人工智能系統在發展和應用中暴露出大量安全問題，引發人們高度關注。中國工程院咨詢課題圍繞多個角度對此進行了研究。

陳左寧表示，人工智能之所以引發安全問題，主要是由于其具有學習能力，可以自主決策、自主行動。具體而言，人工智能系統中廣泛應用機器學習的三個重要屬性是形成人工智能系統安全問題的基本原因，如機器學習的可理解性和可解釋性問題、魯棒性問題，以及目標函數或獎勵函數描述的不完備性問題。

在她看來，可以從兩個角度對人工智能的安全問題進行分類。從廣義上講，人工智能安全問題包含人工智能系統作為一種人造系統（工程的系統或信息系統）的安全性問題，人工智能技術的應用造成的經濟和文化的、法律和倫理的、國家和社會的安全問題，以及由于人工智能系統具有思維和自我發展能力而可能形成的對人類整體的安全威脅。

此外，人工智能安全問題還可以分為內生安全問題和衍生安全問題。內生安全問題是指人工智能系統本身由于設計、制造、使用環境或受到攻擊所產生的安全問題。衍生安全則是指由于人工智能技術的應用而衍生出來的對其他系統安全性的影響問題。