霍金預言可能成為現實薛瀾呼吁為人工智能劃“紅線”

伴隨人工智能的興起，人工智能的安全問題如影隨形。5月21日，歐盟理事會批準了世界首部對人工智能進行全面監管的法案《人工智能法案》。同一天，第二屆人工智能安全峰會在韓國首爾召開，包括OpenAI、微軟、智譜AI等全球16家公司共同簽署前沿人工智能安全承諾。然而，目前的監管行動是否足以對抗風險，仍是各方疑問。

記者：在韓國開了一個人工智能的全球會議，您關注它的內容嗎？

薛瀾：對，我當然也關注。

記者：您最關注它的什么？

薛瀾：一個是，首先這些國家對人工智能風險的認識，有些什么新的變化？另外關鍵在國際合作機制這方面，大家有什么新的建議。

薛瀾，清華大學蘇世民書院院長、人工智能國際治理研究院院長，長期致力于人工智能國際治理重大理論問題及政策需求開展的研究。

薛瀾：對人工智能這個新技術的發展，我覺得國際社會這一點是有共識的，它可能會帶來一些風險，大家需要共同合作采取措施，來對它風險防控。

人工智能，英文縮寫為AI，是一種由人制造出來的機器，這種機器可以模擬人的思想和行為，從而體現出一種智能反應。

網絡時代下，不知不覺間，人工智能走進人們的生活。從小愛同學到SIRI到小度，再到第一個擊敗人類職業棋手的人工智能機器人阿爾法狗，AI呈現出快速進化的趨勢。

薛瀾：舉個例子，很多事情我們要去銀行排隊，那就是挺麻煩的事，現在因為有手機銀行，而手機銀行背后一個非常重要的工具其實是人臉識別、指紋識別等等，都要用人工智能技術。好比說我要去坐高鐵，通過人臉識別技術讓我很快就通過，這當然都是便利。

記者：你的工作或者說你的生活體驗所及的人工智能的觸角，你覺得是已經涵蓋到方方面面，還是說這僅僅是露了一個頭而已。

薛瀾：其實我覺得人工智能技術在我們的社會當中，它的應用已經遠遠比我們想象廣泛，我們社會很多的運行，包括日常開車覺得今天路上更加暢通，這個背后其實用大量的人工智能技術去調控整個紅綠燈的交通體系，所以應該說人工智能技術的應用已經遠遠超出我們直接能看到的。

近一年來，以ChatGPT和Sora為代表的生成式AI橫空出世，它們以具有龐大參數規模和深度學習的大模型為框架，通過海量的數據和強大的計算能力進行訓練，實現對各種任務的高效處理。這讓科學家擔心：在不久的未來，人工智能技術會超越人類的智慧，甚至會反過來控制或毀滅人類。著名物理學家史蒂芬·霍金就曾發出警告——未來100年內，人工智能將比人類更為聰明，機器人將控制人類。他還與特斯拉CEO伊隆·馬斯克共同發表公開信，呼吁人工智能的發展應該受到控制，否則人類可能陷入黑暗的未來。

記者：站在人類的層面上，意識到這樣一個新的技術，有可能在哪些方面會讓我們不安，才會在這種高級別引發重視？

薛瀾：因為過去的各種科技，其實都還是人最后掌控這些技術的。人工智能的話，現在是有可能倒過來了，有可能它不受人控制，有可能它會反過來想要控制人類。

記者：您說人工智能最后會反噬人類這樣一種觀念，是建立在科學基礎之上，還是建立在科幻的基礎之上的一種推測。

薛瀾：我想首先目前的所有人工智能技術都還是在人類社會掌控之內的，但是按照這個技術發展的方向，的確是有相當一部分科學家認為未來是有這種可能的，就是人工智能系統它會不受人類控制，它可能會超越人類控制。

在2024中關村論壇年會開幕式上，全球首個通用智能人“通通”亮相，并入選十大重大科技成果。愛干凈、眼里有活兒、主動做家務、能記住是誰偷吃了蘋果、會耍小脾氣、會感到無聊、無聊時還會自己看電視……“通通”的問世，意味著通用人工智能雛形已成。通用人工智能是要讓智能體像人一樣，不僅能夠獨立感知環境、進行思考、作出決策、學習新技能、執行任務，還能夠理解人類的情感。

薛瀾：它的學習能力，進展迅速。今后慢慢可能這個界限就會比較模糊了，哪些能力是我們人類的。大家別忘了，我們的這個能力其實也是逐漸演進而成的，人工智能系統也是這樣的。

在過去相當長的時間里，人工智能脫離人類掌控、反攻人類一直是科幻作品津津樂道的題材。在這些作品中，機器人不僅能獨立思考，還能擁有和人一樣的情感。電影《機械公敵》中，機器人曲解了“機器人三大安全法則”，認為人類間的戰爭將使得人類自我毀滅，遵照“保護人類”的法則，決定將所有人囚禁在家中。

薛瀾：有的研究已經看到，某種程度系統已經有點能欺騙人了，這還是挺可怕的，如果這個系統能知道去有效地自我保護，欺騙人說我聽你的話，但是最后它要實現它自己目標的時候，那它可能就會反過來控制人。

記者：但是我總是覺得機器是騙不了人的，一定是掌控機器的人想做到這樣的一個事情。

薛瀾：這是我們原來傳統的看法，我覺得至少這是很多技術專家，認為不排除它會有這個能力的。在差不多一兩個月以前，我們在頤和園外面一個酒店開會，討論人工智能發展的時候，國際上很多專家在一起，當時討論有幾條紅線，這幾條紅線之一就是我們要保證，讓這個系統不能產生這種欺騙的能力，我們要設立一些紅線，到這個地方就為止了，不要再往前走了。

如果說機器人反噬人類還只是對未來的一種擔憂，那么在當下的現實生活中，尤其在金融領域以及個人隱私保護方面，人工智能帶來的風險已經變成現實。

薛瀾：因為我們現在已經看到，各種在網上通過這種人工智能技術，可能包括換臉或其他一些方式，給不同的人帶來這種困擾。

不久前，香港一家跨國公司的員工在多位高管參加的視頻會議中，接受指令將2億港幣轉到不知名賬戶，5天之后才發現被騙了。香港警方在通報中稱，以往的AI換臉詐騙，一般都是一對一的。這次騙子用視頻電話會議的形式，偽造了一個高管團隊，讓可信度大幅上升。參與視頻會議的都是真人，然后通過人工智能換臉，把騙子的臉和聲音都換成了對應的高管的臉和嗓音，下達了轉賬的指令。

薛瀾：現在通過圖靈測試，已經不是難事了，甚至于可能進行網絡的攻擊等等，這些如果有了人工智能技術，可能使得它的這種攻擊的欺騙性更強，帶來的危害更大。

圖靈測試，是被稱作計算機科學之父的艾倫·麥席森·圖靈，在上世紀50年代提出的一個理論——當一個自然人和一臺機器進行對話，在經過很多輪對話之后，如果自然人仍然搞不清對方是人還是機器，那么機器就通過了圖靈測試，具備了與自然人相似或無法區分的智能。如今，文字方面的圖靈測試早已不是問題，隨著Sora等軟件的誕生，對于一個圖片或者一段視頻，到底是AI制造的，還是人產生的，兩者之間的差異也越來越難以辨別。

薛瀾：人工智能系統它有創造力，因為我剛看到Sora，當然后來有的專家說它實際上還是學習的東西，不是它去創造的。但是我覺得不管怎么說，一旦你到了這一步，它有大量的東西以后，創造和記憶之間的界限就模糊了，就像熟讀唐詩三百首，不會學詩也會偷，你自然而然就會從大量的語料當中調出來，那我覺得我們人類創造性的某些方面，不排除人工智能系統有這種能力的。

今年初，美國流行歌星泰勒·斯威夫特的AI不雅照在網上瘋傳，數百萬人在社交媒體上看到了這些照片，美國白宮對此表示“擔憂”，并敦促美國國會立法打擊此類行為。

薛瀾：我們研究科技政策的人都非常知道，這是雙刃劍，它在造福人類的時候，往往也可能會給人類帶來各種風險影響，我們在推進它創新的時候，也要關注它的治理，所以這兩個輪子永遠都必須同時去推進。

上周，AI首爾峰會召開前夕，大會發布了一份名為《關于先進人工智能安全性的國際科學報告》。報告稱，盡管通用AI可以用來推進公共利益，但也可能被用來造成危害，甚至帶來系統性風險。AI的未來充滿不確定性，但社會和政府的決策將顯著影響其未來。包括美國、法國、中國、韓國以及阿聯酋在內的16家全球領先的科技公司在峰會期間作出的“前沿AI安全承諾”包含了一個重要條款——如果緩解措施無法將人工智能的風險控制在閾值以下，則根本不開發或部署模型或系統。

記者：當意識到有可能給未來帶來一些風險的時候，我們放慢，甚至也許會停止，那誰來做出這個判斷呢？

薛瀾：我們需要國家和全球治理的機制來做出這個判斷，所以像中國人工智能在2017年的新一代人工智能發展規劃里面就明確提到了，我們在發展技術的同時，也要去建立相應的這種風險防范機制，現在全球在國際社會里面，大家也已經形成這樣的共識，盡管我們的意識形態不同，我們的社會管理體制不同，我們治理體系不同，但是大家都認為我們需要坐在一起來討論這些問題。

今天，越來越多的人堅信，人工智能已經成為人類第四次產業革命的核心驅動力。以蒸汽、機電和信息技術為基石的前三次產業革命深刻改變了人類文明的進程，而人類是否能夠更好地應對人工智能產生的沖擊，仍然充滿不確定性。

記者：是不是每一次重大科學技術進步的降臨，都會給人帶來很大的不適，就像我們現在這樣。

薛瀾：我想我們過去這些年用到的很多技術的擴散速度，其實花的時間是很長的，幾十年，甚至于上百年。但這次人工智能的技術，它有一個特點就是技術變革特別快，擴散特別快，所以像ChatGPT一出來，最短的時間用戶達到上億人次，這在過去可能是花多少年的時間，但它只花了短短的可能也就是幾十天。

記者：為什么讓人感到如此不安呢？

薛瀾：我們往往會發現這個技術它在剛開始應用的時候，因為大家研究的就是怎么去造福人類，所以就會特別關注積極的一面。但還有一些風險，可能要過相當一段時間才逐漸展現出來，所以當技術變革這么快就應用到這么大范圍，我們可能還沒有充分認識到這個技術危害的時候，全社會已經在用了，已經對它產生依賴了。有可能等到我們認識到它的危害的時候，已經為時已晚。我們需要去提前采取謹慎的措施，它一旦出現，能夠有辦法應對。

發展和監管，是治理的一體兩面。但人工智能技術的系統性和專業性，顯然對治理能力形成新的挑戰。

薛瀾：我們提了一個概念，叫敏捷治理，就是技術發展得非常非常快，但是我的治理體系，我的改變，其實是很慢的，所以你技術發展那么快了，我這邊好不容易形成了某一種治理方式，結果一發現，技術已經跑了，已經變成新的一個技術，原來討論的方式一點用處都沒有了，所以這時候傳統的治理體系需要進行調整。

記者：我們怎么理解這個敏捷？就是出了一件事，我得很快速知道怎么去應對，比如說到治理的時候，往往都是說一些政府職能部門，或者說是相關的一些機構，但是我們的學習能力夠嗎？我們的治理能不能做到專業的水平，或者說我們能不能理解人家的專業？

薛瀾：因為有的時候對人工智能下一步發展，到底有什么風險，企業也未見得那么清楚，政府可能就更不清楚。

記者：你說的企業是人工智能企業。

薛瀾：就是開發人工智能技術的企業，所以在這種情況下，那怎么辦呢？企業就告訴政府，說我現在要發展這個技術，會帶來什么樣巨大的后果。

記者：為什么要告訴政府？

薛瀾：如果企業開發出什么技術，有一些什么風險，政府事先不知道，可能一上來就會非常嚴厲地規范治理，企業前面做出的各種努力就前功盡棄，付諸東流。但如果說政府和企業能夠更好溝通，的確這個技術有很好的潛力，能夠造福，但也可能有什么樣的風險，可能政府就說我們共同討論，什么是我們社會能夠接受的風險程度，在這個之內，也許你可以更好地發展。

除了治理模式要改變，薛瀾同時希望，全社會的每一個人都盡量參與到AI的風險防范和治理當中。

記者：那就涉及一個問題，政府的理解，政府的學習能力。

薛瀾：對，所以這一點我覺得不光是政府，我們整個社會都要去更好地認識人工智能這個技術，因為這里面涉及很多利弊的權衡。大家要是都認識到這個問題，這種利弊權衡，我們把它通過合理的方式反映出來，可能政府在做這些決策的時候，不是以個人的利弊權衡作為依據，而是以社會公眾的利弊權衡作為依據，那這樣是不是就能更好地反映我們社會的利益呢？

過去一年，薛瀾觀察到，各國對人工智能全球治理的宏觀原則存在基本共識，但主要經濟體還沒有進入到就人工智能全球治理的具體措施進行充分、深入交流的階段。

薛瀾：但目前看的話，具體怎么做，其實大家還是有不同的看法，不同的做法的，但是能不能建立一個比較全面的、可行的一個治理機制，目前還是一個需要進一步努力的方向。

記者：在人工智能到來的當下，治理就相當于在走鋼絲，又要過，又要平衡，還不能掉下去。

薛瀾：發展和治理一定是并行的，兩個輪子一起轉才能夠真正健康發展。