“深度伪造”泛滥 年轻一代如何捍卫“真实”

娱乐头条 8644℃

“深度伪造”泛滥 年轻一代如何捍卫“真实” - 陆剧吧

1月18日,世界经济论坛2024年年会期间,瑞士达沃斯街头关于人工智能的标语。

从市井到庙堂,几乎每个人都在谈论生成式人工智能。它的出现为日常生活提供了更多便利和潜能,也带来了谎言与伤害——从冒充名人到影响选举,不一而足。

英国《卫报》指出,在只需点击鼠标就能让虚假信息传播到各地的世界里,一个关键问题在年轻一代心中显现:面对虚假信息的威胁,我们该如何捍卫真实?

人工智能带来的欺骗将无处不在

人工智能的能力正在不断提升。从创作逼真的图像、模仿不同的语音,到写出令人称赞的文章,这些能力让越来越多的人爱上了人工智能工具。然而,据《卫报》报道,在给众多行业带来“颠覆式革命”的同时,人工智能也越来越多地被应用于政治领域,可能“加剧现有的不平等”。

美联社称,与几年前相比,人工智能技术已经出现巨大的飞跃,也带来了前所未有的麻烦:“过去,制作假照片、视频或音频,需要大量人力、时间和金钱。现在,使用谷歌和openai等公司提供的免费或低成本的生成式人工智能服务,几乎每个人都能通过简单的文本提示创建‘深度伪造’内容。”

2024年是全球50多个国家的大选之年,涉及近40亿人口。随着与选举有关的“深度伪造”问题频发,各界对“选举虚假信息”的担忧不断升级。过去几个月里,人工智能到处“兴风作浪”:由其生成的五角大楼爆炸图像一度导致美国股市下跌;一则模仿美国总统玩电子游戏的人工智能音频被“病毒式传播”;合成的“美国前总统特朗普与试图逮捕他的警察搏斗”系列图片在社交媒体上引起轩然大波;一些机构利用人工智能施加影响,比如,共和党全国委员会发布了人工智能生成的广告,展示拜登连任后可能发生的各种灾难……

人工智能越来越频繁也越来越隐蔽地出现在每个人的生活中,悄无声息地改变着我们对世界的认知。“它(人工智能)带来了一个平庸的反乌托邦。”《卫报》指出,由于制作成本低、易于大规模生产,由人工智能生成的内容无处不在,“这些都是生成式人工智能时代的政治人士和科学家应该担心的。”

美联社称,随着美国大选临近,“深度伪造”引起了许多人的担忧:“候选人的图像或声音可以被篡改,选民可能被有目的地引导,根据‘设计’支持或远离候选人,甚至放弃投票。”《卫报》认为,在误导选民方面,人工智能带来的潜在危害“难以预估”。伪装成选民的社交媒体机器人、被篡改的视频或图像、具有欺骗性的机器人电话层出不穷,且更难被识破。

美国弗吉尼亚州阿灵顿的国家选举基金会研究员丽萨·瑞普尔指出,在这样一个时代,人们需要甄别的不仅是造假。拿大选来说,候选人可能利用人工智能有意识地诱导选民,“生成式人工智能带来的欺骗将无处不在”。

“这将是个一切都令人怀疑的世界。每个人都可以选择他们相信的东西……这是个真正具有挑战性的世界。”瑞普尔说。

“深度伪造”泛滥 年轻一代如何捍卫“真实” - 陆剧吧

2019年1月25日,美国华盛顿,一名媒体记者观看用人工智能制作的“深度伪造”视频。

“深度伪造”侵蚀公众信任

英国剑桥大学生成式人工智能专家亨利·艾德尔告诉美联社,从某种程度上说,选民被伪造的信息欺骗是“难以避免的”。高度仿真、大量传播的信息,让人们很容易对某件事的真伪感到困惑。他强调,“深度伪造”不只给选举带来挑战,还将造成公众信任的瓦解:“人工智能‘深度伪造’的激增,可能削弱公众对所见所闻的信任,这将是最大的威胁。”

世界经济论坛的最新调查发现,人工智能的“创作”导致民众对权威机构信任下滑。世界经济论坛援引英国路透社发布的《2023年数字新闻报告》称,只有40%的受访者表示,他们信任媒体报道的新闻。

世界经济论坛发布的《2024年全球风险报告》将“虚假信息”列为“未来两年全球面临的最高风险因素”及“未来10年全球第五大风险因素”。

非营利组织“电子隐私信息中心”高级法律顾问本·温特告诉《卫报》,“深度伪造”被广泛传播,导致媒体记者和其他试图传播真实信息的人,面临更大的困难。

在以假乱真方面,生成式人工智能早已一骑绝尘。根据机器学习公司clarity的数据,去年,与选举相关的“深度伪造”数量同比增长了900%。美国康奈尔大学教授萨拉·克雷普斯和道格·克里纳去年向包括州立法者、选民代表在内的7000人发送了数万封电子邮件,这些电邮署名为“关心此事的选民”,实际上分别由人工智能生成和人类撰写。它们获得的回复相差无几,人类写的电邮的回复率只比人工智能生成的电邮高2%。这意味着,虚假信息“已经足够真实”。

为减少人工智能对大选带来的不利影响,今年2月,微软、谷歌、亚马逊、openai、x、tiktok等20家领先的科技公司签署了“将在选举中打击人工智能错误信息”的联合承诺。美国财经媒体cnbc称,这标志着科技公司已意识到自身责任,愿意为之付出努力。然而,受制于识别“深度伪造”的技术水平,这些努力或许很难在短期内取得进展。

被问及是否担心人工智能助力传播虚假信息时,openai首席执行官萨姆·奥尔特曼曾隐晦地表示,某些改变无法避免。

专家告诉美联社,技术的复杂性和创新性让追踪“深度伪造”的幕后黑手变得困难,“政府和企业还没有能力阻止‘洪水’到来”。艾德尔对此表示认可:“受技术所限,人们或许很难精准识别虚假内容。”

z世代需小心“数字雷区”

美国“axios”新闻网援引去年的一项民调称,z世代更容易受到错误信息的影响,因为“他们是在线信息的主要受众和参与者”。纽约大学社交媒体和政治中心的研究人员得出了相同结论,认为“年轻人更有可能相信错误信息”。

在美国,4100万名z世代将在11月的大选前达到投票年龄,他们的数量占美国选民总数的五分之一。美国“medium”新闻网称,这批年轻人在进入投票站前有必要认识到,他们正处于“错误信息像野火一样在社交媒体上传播的时代”。人工智能正在影响年轻选民的决策,年轻一代应对所见所闻进行更多思考,因为“眼见不一定为实”。

美国《时代》周刊指出,人工智能从来不是“需要解决的问题”,虚假信息才是。科技公司必须加强甄别虚假信息。美国乔治敦大学安全与新兴技术中心的人工智能评估专家海瑟·弗雷瑟认为,“从无意中传播谎言到在暗网上创建有害的人工智能系统,无数个‘数字雷区’摆在z世代选民面前”。举例来说,在虚假信息之外,人工智能武器化、生成式人工智能带给人类的“幻觉”等,都可能影响人们的判断。

无论人们喜欢与否,人工智能都将在选举进程中发挥作用。穆罕默德·达史提在美国乔治梅森大学攻读人工智能硕士学位,他也是梅森人工智能战略团队的研究员。他告诉“medium”新闻网,“网络安全专家将成为新的士兵”;未来的一切都将围绕人工智能展开,而年轻人必须“成为未来的一部分”。

“政治”新闻网欧洲版称,在生成式人工智能崛起的大背景下,许多追寻真实的年轻人开始尝试“复古”,这或许将带动追寻真实的新风潮。

美国芝加哥哥伦比亚学院副教授、人工智能工作组成员格里格·福斯特-莱斯注意到,过去几个月里,他的z世代学生中出现了一些令人意想不到的事:他们不再青睐数码摄影,而是用冲洗胶片的方式“记录真实”。

“我的学生们正在进行‘回归模拟实践’。”他说,“或许因为他们认为,它与真实之间的联系更紧密。”

来源:中国青年报客户端

标签: 娱乐头条