海外騙子用AI合成泰勒·斯威夫特聲音,偽造“廚具免費送”廣告

it之家 1 月 10 日消息,據《紐約時報》當地時間周二報道,最近幾周在 facebook 等平台陸續出現了美國著名歌手泰勒・斯威夫特的“代言廣告”:她在這則廣告中“宣布”將會為粉絲免費送出 le creuset 品牌的廚具套裝,人們只需要點擊一個按鈕並回答幾個問題。

不過,這則廣告的“當事方”le creuset 卻表示,公司並沒有參與任何消費者贈品活動,儘管她平時愛用這個品牌的廚具。在這則案例中,ai 技術用來合成了泰勒・斯威夫特的聲音,並將聲音與 le creuset 廣告片段拼湊在一起。

騙子還利用合成的聲音稱呼泰勒・斯威夫特的粉絲為“swifties”。當受害者被引導至虛假網站後,會被要求支付 9.96 美元的運費。當然,號稱免費送的廚具也並不可能真的送出去。

報道稱,在過去一年內,ai 技術的重大進步使未經名人本人授權的“數字替身”製作門檻愈發降低。美國布法羅大學“媒體取證實驗室”的計算機科學教授 siwei lyu 表示,這起“深度偽造”詐騙活動很可能是利用文字轉語音服務製作的。這類工具可將腳本轉譯成聲音,並用唇語同步程序將其合成至視頻片段。

lyu 稱,如今要獲得這些工具非常容易,不到 45 分鐘內就可以製作出質量“不錯”的視頻。

據it之家此前報道,美國著名演員湯姆・漢克斯(tom hanks)去年也聲稱自己肖像的 ai 版本被用於牙科計劃的在線廣告中,而且沒有經過他本人的同意。

“明天我可能會被公共汽車撞到,僅此而已,但表演可以繼續下去,”他說。“除了對 ai 和深度造假的自身鑒別,沒有什麼可以告訴你這不是我。這當然是一種藝術挑戰,也是一種法律挑戰。”