專家預警：到2026年，9成在線內容可能是合成生成

　　當你沉浸于“換聲”“換臉”的游戲時，卻不知，自己或將成為這項技術的“受害者”。

　　據歐洲刑警組織近期發布的一份觀察報告預測，到2026年，高達90%的在線內容可能是合成生成的。這意味著虛假信息的增加，包括深度偽造（deepfake）。

　　更令人擔憂的是，犯罪分子在未來幾年將增加對深度偽造的使用，而絕大多數人似乎還對其一無所知。

　　“當今社會面臨的最大威脅之一”

　　照片和視頻是警方工作的重要情報，也是法庭上的證據。如果這些內容可以被人為合成，改編成從未發生過的事，并歪曲事件和真相，該怎么辦？

　　專家估計，到2026年，高達90%的在線內容可能是合成生成的。

　　合成媒體，是指使用人工智能生成或操縱的媒體。在大多數情況下，合成媒體的目的是游戲、改善服務或提高生活質量。但它的發展也帶來了虛假信息的可能性，包括深度偽造。

　　歐洲刑警創新實驗室開展的戰略預測表明，最令人擔憂的技術趨勢之一就是深度偽造的演變和檢測，以及需要更普遍地解決虛假信息問題。

　　在英國倫敦大學學院（UCL）最近發表的一份報告中，深度偽造技術也被列為當今社會面臨的最大威脅之一。

　　深度偽造技術，是利用深度學習技術來制作音頻和視聽內容，呈現人們從未說過和做過的事情，或者創造出從未存在過的人。

　　觀察報告認為，深度偽造技術會給各種犯罪活動提供便利，包括散布虛假信息、非雙方自愿的色情內容、為刑事司法調查偽造或操縱電子證據、實施勒索和欺詐、在線兒童性剝削、煽動社會動蕩和政治兩級分化等。

　　其中，虛假信息除了可能偽造緊急警報外，還可能利用政治人物的虛假音頻，擾亂選舉和政治等。BBC就曾為2019年英國大選制作了一段視頻，在視頻中，本來針鋒相對的兩位候選人鮑里斯?約翰遜和杰里米?科爾賓卻相互支持。如果足夠多的民眾上當，就可能對選舉結果產生嚴重影響。

　　企業也可能成為虛假信息的目標。例如，通過創建一個深度偽造，使公司高管看起來從事了一項有爭議或違法的行為。如果公眾相信這些虛假信息，并開始拋售股票或抵制公司，就可能對公司價值和股市造成影響。

　　據《福布斯》2021年獲得的一份法庭文件披露的信息，一個欺詐團伙正是利用音頻深度偽造技術，克隆了一家企業董事的聲音，并成功詐騙了3500萬美元。

　　色情視頻深度偽造背后也有強大的利益驅動。2020年12月的一項研究顯示，阿姆斯特丹一家檢測和跟蹤在線深度偽造的公司Sensity，就在熱門流行網站上發現了85047個深度偽造視頻。可怕的是，這個數字每6個月就翻一番。而在2019年9月的一項研究中，Sensity就發現，96%的假視頻都涉及非雙方自愿的色情內容。

　　很多情況下，這些色情偽造視頻的受害者都是名人，他們的臉會被換到色情演員的身體上，看起來像正在參與這種行為。顯然，這些視頻很受歡迎，瀏覽量竟高達1.34億次。不僅如此，還有幾個色情網站專門制作名人的色情偽造視頻。

　　在一些專門的市場，用戶或買家甚至可以發布對深度偽造視頻的請求(例如色情偽造視頻），這也催生了幾家提供深度偽造服務的公司。Recorded Future報告稱，有人甚至愿意為這種服務支付1.6萬美元。

　　“近72%的人不知道深度偽造及其影響”

　　雖然有些虛假信息非常危險，但更危險的是，人們對此似乎一無所知。

　　2019年的一項研究顯示，在英國的一項調查中，近72%的人不知道深度偽造及其影響，盡管深度偽造在當時已經越來越普遍。這意味著人們可能無法識別由深度偽造生成的照片和音視頻，同時，這也為政府部門的執法帶來了挑戰。

　　那么，提高對深度偽造的意識，就能提高發現它的概率嗎？

　　答案并不樂觀。最近的實驗結果表明，提高這種意識可能并不能提高人們發現它們的機會。因此，研究人員預計，犯罪分子在未來幾年將增加對深度偽造的使用。

　　這也表明，了解深度偽造的威脅并做好準備至關重要。對此，觀察報告討論了對深度偽造人工檢測和自動檢測的方法。

　　觀察報告認為，人工檢測可以發現絕大多數的深度偽造內容。但這是一項勞動密集型工作，只能對數量非常有限的內容進行檢測，還需要進行適當的培訓，才能熟悉所有相關特征，但這也可能引入錯誤的判斷。

　　那么，自動檢測會是未來的趨勢嗎？

　　理想情況下，自動檢測系統將掃描任何數字內容，并自動報告其真實性。雖然自動檢測系統可能永遠都不會完美，但隨著深度偽造技術的日益成熟，自動檢測系統的高度確定性或許比人工檢查更有價值。

　　Facebook和安全公司McAfee等機構已經在開發這類軟件。檢測軟件將尋找操縱的跡象，并通過對這些跡象生成解析報告，幫助審查員決定內容的真實性，但這種檢測技術也面臨諸多挑戰。

　　觀察報告認為，在未來的幾個月和幾年里，威脅行為者極有可能會越來越多地使用深度偽造技術，為各種犯罪行為提供便利，并開展虛假信息活動，以影響或扭曲公眾輿論。而機器學習和人工智能的進步，將繼續增強用于制造深度偽造的軟件的能力。

　　專家表示，生成式對抗網絡、公共數據集的可用性和計算能力的增強，將是未來深度偽造發展的主要驅動力，并使其與真實內容更加難以區分。

　　參考材料：

　　https://www.europol.europa.eu/publications-events/publications/facing-reality-law-enforcement-and-challenge-of-deepfakes#downloads