人工智能倫理：有原則不等于能治理

　　由人民智庫與曠視人工智能治理研究院發布的“2021年度全球十大人工智能治理事件”中，數據、算法、倫理是核心關鍵詞。過去一年，數據安全法與個人信息保護法先后生效，《互聯網信息服務算法推薦管理規定》審議通過，使得保護隱私、防范算法亂用有了保障機制。

　　可是，這在人工智能倫理治理中并不是常態。事實上，宏觀層面的倫理原則與其在實際技術研發、應用中得到正確理解與合理實踐之間，還存在巨大鴻溝。

　　如何將倫理原則落實到具體的制度與行動上，是當下人工智能倫理治理必須回答的一個關鍵性問題。

　　人工智能倫理難執行

　　近幾年來，國際組織、各國政府、企業與學術團體等發布了形形色色的倫理原則、倫理指南與倫理準則，試圖推進、規范與約束人工智能技術的研發與應用。

　　“這些倫理原則的核心內容大都是趨同的，比如透明、公正、不傷害、責任、隱私、有益、自主等。”上海交通大學馬克思主義學院教授杜嚴勇解釋道。

　　“關鍵在于如何保障倫理原則的實施。”他直言，“倫理原則本身無法直接落地，而我們沒有一套將原則轉譯為實踐的有效方法——原則無法與人工智能技術從研發到應用的每一個環節結合起來，同時也缺乏一套強有力的執行機制。當研發者的行為違背倫理原則時，幾乎沒有處罰與糾偏機制。”

　　中國科學院自動化研究所人工智能倫理與治理研究中心主任、國家新一代人工智能治理專業委員會委員曾毅的觀察也是如此。他告訴《中國科學報》，目前，人工智能的研發活動從技術本身出發，缺乏能滿足實踐的倫理審查機制與體系，國內外情況基本一致。這使得潛在的倫理問題只有在應用中被用戶和公眾提出后，才引起相關方重視。

　　而在人工智能倫理研究的技術進展方面，曾毅提到，相較而言，隱私保護研究比其他議題落地更快。比如，現在有針對隱私保護提出的聯邦學習和差分隱私等研究及其實踐。這主要有賴于隱私保護的社會關注度更高，影響范圍更廣泛。

　　“但這并不意味著我們已經有了絕對的進展。絕大多數社會對人工智能隱私的關切尚未取得真正意義上的突破。”曾毅舉例，比如，用戶隱私的知情同意方面，在人工智能模型上實現用戶授權撤銷就是極大的科學挑戰，目前很多人工智能模型幾乎無法實現這樣的技術。

　　是什么阻礙了倫理行動

　　人工智能倫理原則難以落地有多方面因素。一方面，曾毅認為，從管理者到人工智能學者，再到產業創新者和應用者，他們的倫理意識都亟待提升。“目前，絕大多數人工智能科技研發和產業創新的中堅力量沒有經過專門的人工智能倫理教育與培訓，甚至相當一部分人工智能創新者、實踐者認為，人工智能倫理不是科學研究和技術研發需要關注的問題，這使得他們在從事和人與社會相關的人工智能創新時，難以建立相對完善的防范機制，以應對可能存在的倫理風險。”

　　另一方面，正如東南大學哲學與科學系副主任、副教授張學義所談到的，從事哲學特別是倫理學研究的學者對具體技術發展及其背后蘊含的原理知之甚少，往往從一般性倫理原則出發，對人工智能技術可能產生的倫理問題進行反思，其效果只能是“隔靴搔癢”，難中要害。

　　“即使是一般性的倫理學原理，在應用到具體經驗性情境中時，不同理論、流派的觀點也存在沖突與分歧。”張學義說，比如無人駕駛汽車遭遇“電車難題”時，就面臨著到底用何種算法倫理進行抉擇——是制造商預先為車主設置一個特定道德算法，還是將算法的設置權交付給車主？

　　目前，張學義正在基于現有的無人駕駛算法理論進行實驗哲學研究，即將這些算法理論具化為實際的經驗性情境，對普通大眾進行直覺性調查，收集大眾對該問題的經驗性證據，從而對現有理論進行印證或修正。但他也坦言，目前還沒有同無人駕駛相關領域的科學家進行較為深入的互動交流。

　　“在國內，人工智能倫理研究領域的跨專業互動比較有限或者停留在淺層方面，突破專業的界限與視域，針對具體問題進行跨學科、多領域的協同創新研究還很少。科學家和人文學者之間存在著一定的割裂現象。”張學義表示。

　　如何從原則到行動

　　曾毅認為，人工智能領域首先要解決的問題是借鑒生命科學、醫學相關領域的經驗，建立人工智能倫理審查制度和體系，對涉及人類、動物、環境生態以及高風險領域的研發和應用進行適度監管。

　　杜嚴勇也談到，人工智能治理的當務之急，是通過倫理原則與規范加強對人工智能技術的“前端”倫理治理。他提出，為了使從事人工智能科技研發的科研人員承擔起前瞻性的道德責任，應該在國家級、省部級等高層次科研項目中實施科技倫理審查制度，使之成為一項常態化工作機制。

　　同時，為了提高倫理介入的有效性，他還建議從國家級、省部級等高層次人工智能科研項目中提取3%左右的資金，在相關課題中設立倫理子課題，專門用于人工智能倫理協同治理研究，由科技倫理專家作為主要負責人。

　　“倫理學家的責任是對倫理原則的內涵進行詳細闡釋，把宏觀的倫理原則在一定程度上轉譯為易于理解、具有可操作性的具體問題與工作流程，幫助人工智能科學家在更細致、更全面的知識基礎上進行技術研發。”杜嚴勇強調。

　　“倫理學家不僅要告訴科研人員‘應該做什么’，還要協助研發人員解決‘應該如何做、避免什么’。這就要求倫理學家更多地關注科學家的具體工作和技術細節，避免自說自話。”

　　除此之外，曾毅告訴《中國科學報》，為使人工智能倫理從原則落實到行動，一定要把“多方共治”嵌入人工智能產品與服務的整個生命周期。

　　對于從事人工智能研發的科研機構和企業而言，應通過主動設置人工智能倫理委員會、人工智能倫理研究員，以及第三方提供的人工智能倫理服務等手段，建立和完善人工智能倫理自律自治機制，并開展實踐。

　　產研機構需要在政府引導下進行標準制定，聯合發布最佳實踐報告，積極開源，開放人工智能倫理與治理算法、工具，從而促進人工智能倫理技術落地。

　　教研機構、學會和行業組織一方面應積極參與相關倫理規范的形成、制定與實踐，另一方面積極推進人工智能倫理的教育與培訓。

　　公眾和媒體是人工智能產品與服務的用戶，應積極發揮監督者的作用，為政府、產研機構和企業及時提供社會需求、關切與反饋。

　　政府及各級管理者、政策制定者在制定人工智能倫理與治理政策時，應根據人工智能的產研進展及社會反饋進行自適應，以推進人工智能倫理與治理公共服務為抓手，比如國家部委和國家級檢測評估中心應協同產研機構提供倫理合規檢測與認證，同時以監管為輔。