泰勒·斯威夫特AI“不雅照”疯传!惊动白宫

每经编辑:何小桃,毕陆名

深度造假(deepfake)最新受害者出现了——全球顶流,泰勒·斯威夫特(taylor swift,中文绰号“霉霉”)。

近乎是在一夜之间,x、facebook等社交平台上便充斥了大量虚假“不雅照片”,而且浏览量已经高达上千万!尽管最早传播这些图片的账号已被封禁,但照片的流传仍未彻底阻断。

据九派新闻报道,泰勒·斯威夫特正在考虑对生成这些图片的网站采取法律行动。“x”平台表示正在“积极删除相关图片”。

facebook方面,母公司meta一名发言人称:这些内容违反了我们的政策,我们正在将其从我们的平台上删除,并对发布该内容的账户采取行动。

但也有网友说,这不是删除的问题,这些照片一开始就不应该出现在这些平台上。对此meta也做出了回应,表示“会继续监测并及时删除违规内容”。

在26日白宫记者会上,发言人让-皮埃尔被问及此事时表示,“我们对此类图像流传感到担忧,更确切地说,是虚假图像,这令人担忧。”

“虽然社交媒体公司在内容管理方面可以独立做出决定,但我们认为他们在执行自己规则方面可以发挥重要作用,以防止错误信息和未经同意的真实人物私密图像传播。”让-皮埃尔说。

她还补充说,网络上的执法不严对女性影响更大,她们是受到网络骚扰和欺凌的主要目标。让-皮埃尔称,这并不是新问题,是拜登和哈里斯政府从上任第一天起就优先考虑的问题,“我们对此非常重视。再一次,这让我们感到担忧。”

值得一提的是,这不是泰勒·斯威夫特第一次被ai“造假”。

据澎湃新闻1月17日报道,就在不久前,由人工智能生成的假泰勒·斯威夫特(taylor swift)带货广告在社交媒体facebook上传播。

“嘿你们好,我是泰勒·斯威夫特。由于包装出错,有3000套le creuset(中文名译为‘酷彩’)炊具套装无法正常线下销售,转向线上出售。有一个好消息分享给你们,我与le creuset联手进行促销——有20位忠实粉丝将免费获得赠送的炊具套装。”

ai生成的泰勒·斯威夫特推销le creuset炊具视频

涉事公司对此迅速做出回应称,taylor swift没有参与任何消费者赠品活动,所有关于产品促销的活动均来自官方社交活动。ai“深度造假”技术合成了她的声音,并将声音与她的形象和le creuset广告片段拼凑在一起。

当受害者被引导至虚假网站后,会被要求支付9.96美元的运费。但号称免费送的厨具不会真的送出去。

facebook母公司meta也对这一欺诈活动迅速做出了回应。此后,meta表示已经删除该广告。

什么是ai“深度造假”?

深度造假(deepfake)是英文“deep learning”(深度学习)和“fake”(伪造)的混成词,指利用深度学习技术生成合成图像、音频或视频的技术。

美国布法罗大学“媒体取证实验室”的计算机科学教授吕思伟(siwei lyu)表示,“霉霉”这起“深度造假”诈骗活动很可能是利用文字转语音服务制作的。这类工具可将脚本转译成声音,并用唇语同步程序将其合成至视频片段。

编辑|何小桃 毕陆名 盖源源

校对|程鹏

封面图片来源:视频截图

每日经济新闻综合九派新闻、澎湃新闻、公开消息

每日经济新闻