科技行穩致遠需打兩針倫理“疫苗”

　　日前，聯合國教科文組織總干事阿祖萊任命來自世界各地的24名專家，負責制定首個全球神經技術倫理框架。之后所有會員國將對其進行討論，以期在2025年11月教科文組織大會第43屆會議上通過這一全球倫理框架。

　　在科技迅猛發展的當下，人臉識別、腦機接口、大數據、人工智能等前沿科技逐漸成為社會熱詞，這表明科技領域正處于一次巨大變革的前夜。一旦某項關鍵技術取得突破，科技界將迎來意義深遠的連鎖式科技革命，隨之而來的則是規范的真空地帶。此時，制定科技倫理的規訓措施就成為當下最緊迫的工作，否則很可能出現不可控的巨大風險。這絕非危言聳聽，我們不妨回顧一下21世紀以來主要發達國家對未來科技發展趨勢的研判。

　　21世紀初，世界范圍內的科技發展出現了加速與匯聚并存的現象。早在2003年，美國就發布一份報告《用以增強人類功能的技術的匯合：納米技術、生物科技、信息技術及認知科學（NBIC）》。2004年，歐盟又發布《技術匯聚：塑造歐洲社會的未來》報告。進入21世紀第二個十年，歐美相繼提出人工智能的研究規劃，如2016年美國發布《國家人工智能研發戰略計劃》，3年后又發布《國家人工智能研發戰略計劃：2019年更新版》；2020年歐盟發布《人工智能白皮書》。從這些標志性文件的發布，使人明顯感覺到世界各國對新科技的發展趨勢已作出肯定性研判，而這些報告無一例外都有關于科技倫理問題的章節。

　　為何各國不約而同地關注科技倫理問題呢？

　　在我們日常生活中不難發現，各種高科技帶來的倫理問題向社會各個領域日益擴散，如基于大數據算法的殺熟現象，就是典型的利用算法不透明性實施的價格歧視。再比如，各大平臺利用收集的客戶信息實施廣告與商品的定向推送。這些違背公平與倫理的活動，其邊界基本維持在個體道德忍耐力的范圍之內，即使你憤怒，考慮到申訴的巨大成本，也懶得去起訴。這種小惡是以量大面廣的累積方式獲取非法利益的。正是為了防止此類困境的擴大，歐盟出臺《一般數據保護條例》，并于2018年5月生效。隨后多國跟進，對個人數據進行立法保護。

　　隨著人工智能的快速發展，其引發的科技倫理問題更加難以處理，如情侶機器人的出現是否會對現有家庭結構與人類愛情觀造成沖擊？機器人殺手是否具有存在的合理性？能否讓人工智能全面參與戰爭？從2016年至今，聯合國未就《特定常規武器公約》在成員國之間達成共識。2022年，我國發布《關于加強科技倫理治理的意見》，標志著中國在政策層面開始切實關注科技倫理問題。

　　回到個人層面，高科技帶來的倫理問題日益凸顯。例如，最近幾年全球都在關注的神經增強技術，就涉及一個根本性問題：個體是否有權利根據自己的意愿改造自己的身體？這是否會對人類千百年來形成的秩序與個體尊嚴造成致命的打擊？如果放任此種技術的濫用，是否會引起神經增強領域的“軍備競賽”？此前的基因編輯嬰兒事件已經引發過激烈的倫理討論，最近火熱的腦機接口技術同樣引起諸多擔憂。

　　2020年，馬斯克創立的Neuralink公司在活豬身上演示了腦機接口技術，實現了對豬行為軌跡的精準預測。2021年，該公司又利用腦機接口技術展示了猴子用意念玩模擬乒乓球游戲。隨著相關技術取得巨大突破的可能性增加，以及大量資本的涌入，腦機接口技術的發展速度會大大加快。但是，未來腦機接口技術一旦發展成熟，我們每個人都必須考慮幾個嚴肅的問題：隱私與個體的自主性如何捍衛？如何保證我們頭腦中的信息不會被惡意竊取？我們是否會在外部信息的操縱下喪失個體的自由意志？因此，未雨綢繆對高科技的健康發展而言永遠是必要的。

　　目前，各國關于科技超常規發展的趨勢已形成共識，對其帶來的風險與不確定性的擔憂也隨之增加，因此必須從政策層面最大限度消除這種風險的可能性。這也表明以往的倫理規訓并不成功，如學界一直提倡的負責任的創新與科研的理念，在實際操作層面落地并不理想。以往的策略充其量是治標之策，僅具形式與象征意義。如何實現科技倫理的標本兼治？筆者認為，必須給科技活動打上兩針倫理的“疫苗”。

　　第一針是國家層面的制度性長效倫理“疫苗”。首先，通過政策明確科技活動的目標，要體現國家意志并樹立國家形象，即國家希望科技活動能夠最大限度地增加社會福祉并造福人類；其次，國家通過設立明確的倫理靶標，將科技建制整體的“狀態-結構-績效”軌跡始終維持在向善、有序與高效的軌道內。道理很簡單，在科技資源稀缺與政策工具強制性的約束下，只有符合國家意志的科技活動才能獲得支持，否則很難有生存空間。制度的強制性約束使科技共同體選擇向善而非向惡的科技活動才是理性的，這既避免了資源損失，又凝聚了科技共同體關于善的共識。

　　第二針是個體層面的責任倫理“疫苗”。眾所周知，科技倫理在微觀層面能夠全方位約束科技人員的行為選擇，它所依據的規訓載體有三類——資源、成果與目標。借助這三類載體，每位科技從業者的行為選擇從初始階段就處在規訓的探照燈下：任何科技主題在開展之前都需要通過倫理委員會的審查，如果不符合倫理原則就無法獲得資源支持；對研究產出的成果進行市場評價，如果不能增加人類福祉與知識就無法進入市場。這對所有科研人員而言都是一種實實在在的約束。

　　試問這一套“組合拳”打下來，還有多少人敢以身試險？責任原則在個體心中的內化保證了科技向善不再是空洞的許諾，而是一種牢固的認知習慣。倫理不是科技的敵人，而是保駕護航的伙伴。