每經編輯：何小桃,畢陸名
深度造假（deepfake）最新受害者出現了——全球頂流，泰勒·斯威夫特（taylor swift，中文綽號「霉霉」）。
近乎是在一夜之間，x、facebook等社交平台上便充斥了大量虛假「不雅照片」，而且瀏覽量已經高達上千萬！儘管最早傳播這些圖片的賬號已被封禁，但照片的流傳仍未徹底阻斷。
據九派新聞報道，泰勒·斯威夫特正在考慮對生成這些圖片的網站採取法律行動。「x」平台表示正在「積極刪除相關圖片」。
facebook方面，母公司meta一名發言人稱：這些內容違反了我們的政策，我們正在將其從我們的平台上刪除，並對發佈該內容的賬戶採取行動。
但也有網友說，這不是刪除的問題，這些照片一開始就不應該出現在這些平台上。對此meta也做出了回應，表示「會繼續監測並及時刪除違規內容」。
在26日白宮記者會上，發言人讓-皮埃爾被問及此事時表示，「我們對此類圖像流傳感到擔憂，更確切地說，是虛假圖像，這令人擔憂。」
「雖然社交媒體公司在內容管理方面可以獨立做出決定，但我們認為他們在執行自己規則方面可以發揮重要作用，以防止錯誤信息和未經同意的真實人物私密圖像傳播。」讓-皮埃爾說。
她還補充說，網絡上的執法不嚴對女性影響更大，她們是受到網絡騷擾和欺凌的主要目標。讓-皮埃爾稱，這並不是新問題，是拜登和哈里斯政府從上任第一天起就優先考慮的問題，「我們對此非常重視。再一次，這讓我們感到擔憂。」
值得一提的是，這不是泰勒·斯威夫特第一次被ai「造假」。
據澎湃新聞1月17日報道，就在不久前，由人工智能生成的假泰勒·斯威夫特（taylor swift）帶貨廣告在社交媒體facebook上傳播。
「嘿你們好，我是泰勒·斯威夫特。由於包裝出錯，有3000套le creuset（中文名譯為『酷彩』）炊具套裝無法正常線下銷售，轉向線上出售。有一個好消息分享給你們，我與le creuset聯手進行促銷——有20位忠實粉絲將免費獲得贈送的炊具套裝。」
ai生成的泰勒·斯威夫特推銷le creuset炊具視頻
涉事公司對此迅速做出回應稱，taylor swift沒有參與任何消費者贈品活動，所有關於產品促銷的活動均來自官方社交活動。ai「深度造假」技術合成了她的聲音，並將聲音與她的形象和le creuset廣告片段拼湊在一起。
當受害者被引導至虛假網站後，會被要求支付9.96美元的運費。但號稱免費送的廚具不會真的送出去。
facebook母公司meta也對這一欺詐活動迅速做出了回應。此後，meta表示已經刪除該廣告。
什麼是ai「深度造假」？
深度造假（deepfake）是英文「deep learning」（深度學習）和「fake」（偽造）的混成詞，指利用深度學習技術生成合成圖像、音頻或視頻的技術。
美國布法羅大學「媒體取證實驗室」的計算機科學教授呂思偉（siwei lyu）表示，「霉霉」這起「深度造假」詐騙活動很可能是利用文字轉語音服務製作的。這類工具可將腳本轉譯成聲音，並用唇語同步程序將其合成至視頻片段。
編輯|何小桃 畢陸名 蓋源源
校對|程鵬
封面圖片來源：視頻截圖
每日經濟新聞綜合九派新聞、澎湃新聞、公開消息
每日經濟新聞
