泰勒·斯威夫特AI「不雅照」瘋傳!驚動白宮

每經編輯:何小桃,畢陸名

深度造假(deepfake)最新受害者出現了——全球頂流,泰勒·斯威夫特(taylor swift,中文綽號「霉霉」)。

近乎是在一夜之間,x、facebook等社交平台上便充斥了大量虛假「不雅照片」,而且瀏覽量已經高達上千萬!儘管最早傳播這些圖片的賬號已被封禁,但照片的流傳仍未徹底阻斷。

據九派新聞報道,泰勒·斯威夫特正在考慮對生成這些圖片的網站採取法律行動。「x」平台表示正在「積極刪除相關圖片」。

facebook方面,母公司meta一名發言人稱:這些內容違反了我們的政策,我們正在將其從我們的平台上刪除,並對發布該內容的賬戶採取行動。

但也有網友說,這不是刪除的問題,這些照片一開始就不應該出現在這些平台上。對此meta也做出了回應,表示「會繼續監測並及時刪除違規內容」。

在26日白宮記者會上,發言人讓-皮埃爾被問及此事時表示,「我們對此類圖像流感測到擔憂,更確切地說,是虛假圖像,這令人擔憂。」

「雖然社交媒體公司在內容管理方面可以獨立做出決定,但我們認為他們在執行自己規則方面可以發揮重要作用,以防止錯誤信息和未經同意的真實人物私密圖像傳播。」讓-皮埃爾說。

她還補充說,網路上的執法不嚴對女性影響更大,她們是受到網路騷擾和欺凌的主要目標。讓-皮埃爾稱,這並不是新問題,是拜登和哈里斯政府從上任第一天起就優先考慮的問題,「我們對此非常重視。再一次,這讓我們感到擔憂。」

值得一提的是,這不是泰勒·斯威夫特第一次被ai「造假」。

據澎湃新聞1月17日報道,就在不久前,由人工智慧生成的假泰勒·斯威夫特(taylor swift)帶貨廣告在社交媒體facebook上傳播。

「嘿你們好,我是泰勒·斯威夫特。由於包裝出錯,有3000套le creuset(中文名譯為『酷彩』)炊具套裝無法正常線下銷售,轉向線上出售。有一個好消息分享給你們,我與le creuset聯手進行促銷——有20位忠實粉絲將免費獲得贈送的炊具套裝。」

ai生成的泰勒·斯威夫特推銷le creuset炊具視頻

涉事公司對此迅速做出回應稱,taylor swift沒有參與任何消費者贈品活動,所有關於產品促銷的活動均來自官方社交活動。ai「深度造假」技術合成了她的聲音,並將聲音與她的形象和le creuset廣告片段拼湊在一起。

當受害者被引導至虛假網站後,會被要求支付9.96美元的運費。但號稱免費送的廚具不會真的送出去。

facebook母公司meta也對這一欺詐活動迅速做出了回應。此後,meta表示已經刪除該廣告。

什麼是ai「深度造假」?

深度造假(deepfake)是英文「deep learning」(深度學習)和「fake」(偽造)的混成詞,指利用深度學習技術生成合成圖像、音頻或視頻的技術。

美國布法羅大學「媒體取證實驗室」的計算機科學教授呂思偉(siwei lyu)表示,「霉霉」這起「深度造假」詐騙活動很可能是利用文字轉語音服務製作的。這類工具可將腳本轉譯成聲音,並用唇語同步程序將其合成至視頻片段。

編輯|何小桃 畢陸名 蓋源源

校對|程鵬

封面圖片來源:視頻截圖

每日經濟新聞綜合九派新聞、澎湃新聞、公開消息

每日經濟新聞