「深度偽造」泛濫 年輕一代如何捍衛「真實」

1月18日,世界經濟論壇2024年年會期間,瑞士達沃斯街頭關於人工智慧的標語。

從市井到廟堂,幾乎每個人都在談論生成式人工智慧。它的出現為日常生活提供了更多便利和潛能,也帶來了謊言與傷害——從冒充名人到影響選舉,不一而足。

英國《衛報》指出,在只需點擊滑鼠就能讓虛假信息傳播到各地的世界裡,一個關鍵問題在年輕一代心中顯現:面對虛假信息的威脅,我們該如何捍衛真實?

人工智慧帶來的欺騙將無處不在

人工智慧的能力正在不斷提升。從創作逼真的圖像、模仿不同的語音,到寫出令人稱讚的文章,這些能力讓越來越多的人愛上了人工智慧工具。然而,據《衛報》報道,在給眾多行業帶來「顛覆式革命」的同時,人工智慧也越來越多地被應用於政治領域,可能「加劇現有的不平等」。

美聯社稱,與幾年前相比,人工智慧技術已經出現巨大的飛躍,也帶來了前所未有的麻煩:「過去,製作假照片、視頻或音頻,需要大量人力、時間和金錢。現在,使用谷歌和openai等公司提供的免費或低成本的生成式人工智慧服務,幾乎每個人都能通過簡單的文本提示創建『深度偽造』內容。」

2024年是全球50多個國家的大選之年,涉及近40億人口。隨著與選舉有關的「深度偽造」問題頻發,各界對「選舉虛假信息」的擔憂不斷升級。過去幾個月里,人工智慧到處「興風作浪」:由其生成的五角大樓爆炸圖像一度導致美國股市下跌;一則模仿美國總統玩電子遊戲的人工智慧音頻被「病毒式傳播」;合成的「美國前總統特朗普與試圖逮捕他的警察搏鬥」系列圖片在社交媒體上引起軒然大波;一些機構利用人工智慧施加影響,比如,共和黨全國委員會發布了人工智慧生成的廣告,展示拜登連任後可能發生的各種災難……

人工智慧越來越頻繁也越來越隱蔽地出現在每個人的生活中,悄無聲息地改變著我們對世界的認知。「它(人工智慧)帶來了一個平庸的反烏托邦。」《衛報》指出,由於製作成本低、易於大規模生產,由人工智慧生成的內容無處不在,「這些都是生成式人工智慧時代的政治人士和科學家應該擔心的。」

美聯社稱,隨著美國大選臨近,「深度偽造」引起了許多人的擔憂:「候選人的圖像或聲音可以被篡改,選民可能被有目的地引導,根據『設計』支持或遠離候選人,甚至放棄投票。」《衛報》認為,在誤導選民方面,人工智慧帶來的潛在危害「難以預估」。偽裝成選民的社交媒體機器人、被篡改的視頻或圖像、具有欺騙性的機器人電話層出不窮,且更難被識破。

美國弗吉尼亞州阿靈頓的國家選舉基金會研究員麗薩·瑞普爾指出,在這樣一個時代,人們需要甄別的不僅是造假。拿大選來說,候選人可能利用人工智慧有意識地誘導選民,「生成式人工智慧帶來的欺騙將無處不在」。

「這將是個一切都令人懷疑的世界。每個人都可以選擇他們相信的東西……這是個真正具有挑戰性的世界。」瑞普爾說。

2019年1月25日,美國華盛頓,一名媒體記者觀看用人工智慧製作的「深度偽造」視頻。

「深度偽造」侵蝕公眾信任

英國劍橋大學生成式人工智慧專家亨利·艾德爾告訴美聯社,從某種程度上說,選民被偽造的信息欺騙是「難以避免的」。高度模擬、大量傳播的信息,讓人們很容易對某件事的真偽感到困惑。他強調,「深度偽造」不只給選舉帶來挑戰,還將造成公眾信任的瓦解:「人工智慧『深度偽造』的激增,可能削弱公眾對所見所聞的信任,這將是最大的威脅。」

世界經濟論壇的最新調查發現,人工智慧的「創作」導致民眾對權威機構信任下滑。世界經濟論壇援引英國路透社發布的《2023年數字新聞報告》稱,只有40%的受訪者表示,他們信任媒體報道的新聞。

世界經濟論壇發布的《2024年全球風險報告》將「虛假信息」列為「未來兩年全球面臨的最高風險因素」及「未來10年全球第五大風險因素」。

非營利組織「電子隱私信息中心」高級法律顧問本·溫特告訴《衛報》,「深度偽造」被廣泛傳播,導致媒體記者和其他試圖傳播真實信息的人,面臨更大的困難。

在以假亂真方面,生成式人工智慧早已一騎絕塵。根據機器學習公司clarity的數據,去年,與選舉相關的「深度偽造」數量同比增長了900%。美國康奈爾大學教授薩拉·克雷普斯和道格·克里納去年向包括州立法者、選民代表在內的7000人發送了數萬封電子郵件,這些電郵署名為「關心此事的選民」,實際上分別由人工智慧生成和人類撰寫。它們獲得的回復相差無幾,人類寫的電郵的回復率只比人工智慧生成的電郵高2%。這意味著,虛假信息「已經足夠真實」。

為減少人工智慧對大選帶來的不利影響,今年2月,微軟、谷歌、亞馬遜、openai、x、tiktok等20家領先的科技公司簽署了「將在選舉中打擊人工智慧錯誤信息」的聯合承諾。美國財經媒體cnbc稱,這標誌著科技公司已意識到自身責任,願意為之付出努力。然而,受制於識別「深度偽造」的技術水平,這些努力或許很難在短期內取得進展。

被問及是否擔心人工智慧助力傳播虛假信息時,openai首席執行官薩姆·奧爾特曼曾隱晦地表示,某些改變無法避免。

專家告訴美聯社,技術的複雜性和創新性讓追蹤「深度偽造」的幕後黑手變得困難,「政府和企業還沒有能力阻止『洪水』到來」。艾德爾對此表示認可:「受技術所限,人們或許很難精準識別虛假內容。」

z世代需小心「數字雷區」

美國「axios」新聞網援引去年的一項民調稱,z世代更容易受到錯誤信息的影響,因為「他們是在線信息的主要受眾和參與者」。紐約大學社交媒體和政治中心的研究人員得出了相同結論,認為「年輕人更有可能相信錯誤信息」。

在美國,4100萬名z世代將在11月的大選前達到投票年齡,他們的數量佔美國選民總數的五分之一。美國「medium」新聞網稱,這批年輕人在進入投票站前有必要認識到,他們正處於「錯誤信息像野火一樣在社交媒體上傳播的時代」。人工智慧正在影響年輕選民的決策,年輕一代應對所見所聞進行更多思考,因為「眼見不一定為實」。

美國《時代》周刊指出,人工智慧從來不是「需要解決的問題」,虛假信息才是。科技公司必須加強甄別虛假信息。美國喬治敦大學安全與新興技術中心的人工智慧評估專家海瑟·弗雷瑟認為,「從無意中傳播謊言到在暗網上創建有害的人工智慧系統,無數個『數字雷區』擺在z世代選民面前」。舉例來說,在虛假信息之外,人工智慧武器化、生成式人工智慧帶給人類的「幻覺」等,都可能影響人們的判斷。

無論人們喜歡與否,人工智慧都將在選舉進程中發揮作用。穆罕默德·達史提在美國喬治梅森大學攻讀人工智慧碩士學位,他也是梅森人工智慧戰略團隊的研究員。他告訴「medium」新聞網,「網路安全專家將成為新的士兵」;未來的一切都將圍繞人工智慧展開,而年輕人必須「成為未來的一部分」。

「政治」新聞網歐洲版稱,在生成式人工智慧崛起的大背景下,許多追尋真實的年輕人開始嘗試「復古」,這或許將帶動追尋真實的新風潮。

美國芝加哥哥倫比亞學院副教授、人工智慧工作組成員格里格·福斯特-萊斯注意到,過去幾個月里,他的z世代學生中出現了一些令人意想不到的事:他們不再青睞數碼攝影,而是用沖洗膠片的方式「記錄真實」。

「我的學生們正在進行『回歸模擬實踐』。」他說,「或許因為他們認為,它與真實之間的聯繫更緊密。」

來源:中國青年報客戶端