1月18日，世界经济论坛2024年年会期间，瑞士达沃斯街头关于人工智能的标语。
从市井到庙堂，几乎每个人都在谈论生成式人工智能。它的出现为日常生活提供了更多便利和潜能，也带来了谎言与伤害——从冒充名人到影响选举，不一而足。
英国《卫报》指出，在只需点击鼠标就能让虚假信息传播到各地的世界里，一个关键问题在年轻一代心中显现：面对虚假信息的威胁，我们该如何捍卫真实？
人工智能带来的欺骗将无处不在
人工智能的能力正在不断提升。从创作逼真的图像、模仿不同的语音，到写出令人称赞的文章，这些能力让越来越多的人爱上了人工智能工具。然而，据《卫报》报道，在给众多行业带来“颠覆式革命”的同时，人工智能也越来越多地被应用于政治领域，可能“加剧现有的不平等”。
美联社称，与几年前相比，人工智能技术已经出现巨大的飞跃，也带来了前所未有的麻烦：“过去，制作假照片、视频或音频，需要大量人力、时间和金钱。现在，使用谷歌和openai等公司提供的免费或低成本的生成式人工智能服务，几乎每个人都能通过简单的文本提示创建‘深度伪造’内容。”
2024年是全球50多个国家的大选之年，涉及近40亿人口。随着与选举有关的“深度伪造”问题频发，各界对“选举虚假信息”的担忧不断升级。过去几个月里，人工智能到处“兴风作浪”：由其生成的五角大楼爆炸图像一度导致美国股市下跌；一则模仿美国总统玩电子游戏的人工智能音频被“病毒式传播”；合成的“美国前总统特朗普与试图逮捕他的警察搏斗”系列图片在社交媒体上引起轩然大波；一些机构利用人工智能施加影响，比如，共和党全国委员会发布了人工智能生成的广告，展示拜登连任后可能发生的各种灾难……
人工智能越来越频繁也越来越隐蔽地出现在每个人的生活中，悄无声息地改变着我们对世界的认知。“它（人工智能）带来了一个平庸的反乌托邦。”《卫报》指出，由于制作成本低、易于大规模生产，由人工智能生成的内容无处不在，“这些都是生成式人工智能时代的政治人士和科学家应该担心的。”
美联社称，随着美国大选临近，“深度伪造”引起了许多人的担忧：“候选人的图像或声音可以被篡改，选民可能被有目的地引导，根据‘设计’支持或远离候选人，甚至放弃投票。”《卫报》认为，在误导选民方面，人工智能带来的潜在危害“难以预估”。伪装成选民的社交媒体机器人、被篡改的视频或图像、具有欺骗性的机器人电话层出不穷，且更难被识破。
美国弗吉尼亚州阿灵顿的国家选举基金会研究员丽萨·瑞普尔指出，在这样一个时代，人们需要甄别的不仅是造假。拿大选来说，候选人可能利用人工智能有意识地诱导选民，“生成式人工智能带来的欺骗将无处不在”。
“这将是个一切都令人怀疑的世界。每个人都可以选择他们相信的东西……这是个真正具有挑战性的世界。”瑞普尔说。
2019年1月25日，美国华盛顿，一名媒体记者观看用人工智能制作的“深度伪造”视频。
“深度伪造”侵蚀公众信任
英国剑桥大学生成式人工智能专家亨利·艾德尔告诉美联社，从某种程度上说，选民被伪造的信息欺骗是“难以避免的”。高度仿真、大量传播的信息，让人们很容易对某件事的真伪感到困惑。他强调，“深度伪造”不只给选举带来挑战，还将造成公众信任的瓦解：“人工智能‘深度伪造’的激增，可能削弱公众对所见所闻的信任，这将是最大的威胁。”
世界经济论坛的最新调查发现，人工智能的“创作”导致民众对权威机构信任下滑。世界经济论坛援引英国路透社发布的《2023年数字新闻报告》称，只有40%的受访者表示，他们信任媒体报道的新闻。
世界经济论坛发布的《2024年全球风险报告》将“虚假信息”列为“未来两年全球面临的最高风险因素”及“未来10年全球第五大风险因素”。
非营利组织“电子隐私信息中心”高级法律顾问本·温特告诉《卫报》，“深度伪造”被广泛传播，导致媒体记者和其他试图传播真实信息的人，面临更大的困难。
在以假乱真方面，生成式人工智能早已一骑绝尘。根据机器学习公司clarity的数据，去年，与选举相关的“深度伪造”数量同比增长了900%。美国康奈尔大学教授萨拉·克雷普斯和道格·克里纳去年向包括州立法者、选民代表在内的7000人发送了数万封电子邮件，这些电邮署名为“关心此事的选民”，实际上分别由人工智能生成和人类撰写。它们获得的回复相差无几，人类写的电邮的回复率只比人工智能生成的电邮高2%。这意味着，虚假信息“已经足够真实”。
为减少人工智能对大选带来的不利影响，今年2月，微软、谷歌、亚马逊、openai、x、tiktok等20家领先的科技公司签署了“将在选举中打击人工智能错误信息”的联合承诺。美国财经媒体cnbc称，这标志着科技公司已意识到自身责任，愿意为之付出努力。然而，受制于识别“深度伪造”的技术水平，这些努力或许很难在短期内取得进展。
被问及是否担心人工智能助力传播虚假信息时，openai首席执行官萨姆·奥尔特曼曾隐晦地表示，某些改变无法避免。
专家告诉美联社，技术的复杂性和创新性让追踪“深度伪造”的幕后黑手变得困难，“政府和企业还没有能力阻止‘洪水’到来”。艾德尔对此表示认可：“受技术所限，人们或许很难精准识别虚假内容。”
z世代需小心“数字雷区”
美国“axios”新闻网援引去年的一项民调称，z世代更容易受到错误信息的影响，因为“他们是在线信息的主要受众和参与者”。纽约大学社交媒体和政治中心的研究人员得出了相同结论，认为“年轻人更有可能相信错误信息”。
在美国，4100万名z世代将在11月的大选前达到投票年龄，他们的数量占美国选民总数的五分之一。美国“medium”新闻网称，这批年轻人在进入投票站前有必要认识到，他们正处于“错误信息像野火一样在社交媒体上传播的时代”。人工智能正在影响年轻选民的决策，年轻一代应对所见所闻进行更多思考，因为“眼见不一定为实”。
美国《时代》周刊指出，人工智能从来不是“需要解决的问题”，虚假信息才是。科技公司必须加强甄别虚假信息。美国乔治敦大学安全与新兴技术中心的人工智能评估专家海瑟·弗雷瑟认为，“从无意中传播谎言到在暗网上创建有害的人工智能系统，无数个‘数字雷区’摆在z世代选民面前”。举例来说，在虚假信息之外，人工智能武器化、生成式人工智能带给人类的“幻觉”等，都可能影响人们的判断。
无论人们喜欢与否，人工智能都将在选举进程中发挥作用。穆罕默德·达史提在美国乔治梅森大学攻读人工智能硕士学位，他也是梅森人工智能战略团队的研究员。他告诉“medium”新闻网，“网络安全专家将成为新的士兵”；未来的一切都将围绕人工智能展开，而年轻人必须“成为未来的一部分”。
“政治”新闻网欧洲版称，在生成式人工智能崛起的大背景下，许多追寻真实的年轻人开始尝试“复古”，这或许将带动追寻真实的新风潮。
美国芝加哥哥伦比亚学院副教授、人工智能工作组成员格里格·福斯特-莱斯注意到，过去几个月里，他的z世代学生中出现了一些令人意想不到的事：他们不再青睐数码摄影，而是用冲洗胶片的方式“记录真实”。
“我的学生们正在进行‘回归模拟实践’。”他说，“或许因为他们认为，它与真实之间的联系更紧密。”
来源：中国青年报客户端
