可信可控可用，人工智能呼喚創新的“治理技術”

“人工智能改變了安全格局，進一步擴大了威脅，需要從多個層面進行風險管控。”在近日舉辦的第三屆人工智能合作與治理國際論壇上，針對目前人工智能帶來的風險和挑戰，中國工程院院士、鵬城實驗室主任高文認為，應當在人的層面應加強倫理教育；在模型算法層面，期望它可信、可控、可解釋并且被正當使用；在數據層面，期望數據具有充足的系統防護保證其安全。

當人工智能進入從高速增長向高質量增長轉變的新發展階段，對人工智能技術的安全性和可靠性提出了更多新要求。

在以“人工智能治理技術”為主題的第二場主論壇討論上，與會專家共同探討如何通過技術工具來實現人工智能可知、可信、可控和可用，以及如何將產業監管要求轉化為技術解決方案，開發針對人工智能行業或應用的“治理技術”與服務。

建設可信賴人工智能

高文認為，強人工智能安全風險來源于三個方面，一是模型的不可解釋性，二是算法和硬件的不可靠性，三是自主意識的不可控性。對于這些，一方面要在設計及應用階段采取預防和檢測措施，另一方面要加強國際合作，相互取長補短，還要加強人才培養。

對于數據安全問題，他認為隱私保護和數據有效使用是一對矛盾，需要做到平衡，鵬程實驗室所采用的“防水堡”技術，對于保護模型訓練數據安全共享和使用提供了解決思路，該技術可以做到只分享價值，不分享數據，在保證原始數據不移動的情況下也能夠使數據可用。

哥倫比亞大學常務副校長、計算機科學系教授周以真介紹了正在推動的“值得信賴的人工智能”研究議程，目的在于把人工智能社區、網絡安全社區和正式方法社區三個社區聚集在一起。她指出，一些人工智能系統可能是脆弱和不公平的，因此需要努力實現可信賴的人工智能。

“可信賴計算意味可靠性、安全性、可用性，要考慮準確性、穩健性、公平性，通過問責制、透明度、可解釋性、道德倫理等設置人工智能執行的任務和環境。除了必要的測試、模擬、良好的軟件工程實踐之外，還要構建可信系統的事后驗證方法，即用數據模型、代碼程序來滿足我們關心的正確性屬性、安全性屬性、活性屬性等性質，并通過列舉研究問題應用形式化方法，來嘗試實現人工智能系統的可信度。”周以真說。

清華大學智能產業研究院國強教授、首席研究員聶再清認為，安全可信是人工智能治理的核心訴求，安全可信的人工智能技術產品需要具備安全可控、數據資產和隱私保護、可解釋性等條件。他以車路協同感知為例，講解了自動駕駛領域如何通過多傳感器的協同感知，來提升AI協同內部可靠性，從而提高AI安全性。

“例如面向營養健康管理的可解釋個性化推薦，需要‘引導式’而非‘迎合式’信息推薦，提升用戶依從性并充分考慮營養健康因素，避免迎合式的飲食推薦。”聶再清說。

“治理技術”創新應對風險挑戰

近年來，人工智能應用領域進一步拓展，面對新興技術可能帶來的巨大收益和潛在風險，與會專家也高度關注其治理問題。

從技術角度或技術應用角度，怎樣才能實現人工智能技術的可用、管用乃至好用？高文說：“很多技術在發展過程中，過早說哪個不能用可能會抑制技術本身的發展，現階段更多是從道德層面做引導，盡量把一些可能的風險抑制工具想明白。”

聶再清認為，在創新和監管之間需要平衡，一方面控制技術、工具、創新的個人有責任保證工具或將創新控制在危險可控范圍內；另一方面社會也要集體監督，確保某個出現問題的產品或技術能夠回滾、撤銷。

“技術可解釋性需要將技術發展與應用場景深度結合，在不同領域需要不同的可解釋的能力及不同的可解釋級別，讓技術在應用場景下發揮最好的作用。”瑞萊智慧（RealAI）公司聯合創始人及首席執行官田天指出。

新技術往往會給現有社會倫理規范帶來沖擊，現階段是否有必要設計一部分可操作具體規則，特別是將倫理準則嵌入到人工智能產品與系統研發設計中？

田天表示，在發展的階段需要鼓勵為主，各種人工智能難免涉及到一些模糊地帶，一方面不能一棒子打死導致技術無法進步，另一方面也要設立一些紅線，制定清晰的懲罰規定確保人工智能不觸犯人類利益的基本保障。在此基礎上，給智能應用留有更多空間，鼓勵重視倫理，提供正向激勵，促進合規發展。

清華大學人工智能研究院常務副院長孫茂松認為，應鼓勵應用，鼓勵創新，在行動中及時發現問題，及時改正，及時總結經驗，使人工智能技術在應用中更好地完善和發展。

關于人類自身偏見和歧視被寫進代碼造成AI的偏見與歧視的問題，聶再清認為AI基于數據學習獲取知識錯誤并不是觀點歧視，而是能力不足。有可能通過引入更多的知識庫或知識圖譜能夠得到提升，而不應該把這個問題過分在倫理層面去拔高，更多還是解決訓練數據問題。