打黄色擦边球的AI女友,正在毁掉AI陪伴

前段时间,开放人工智能研究中心(openai)推出gpt商店——这有点像是我们手机里的应用商店,让开发者可以售卖自己定制的gpt机器人。在这家新的gpt商店搜索“女友”,结果栏里就会出现多个人工智能(ai)聊天机器人“女友”。

“ai女友”的普及也催生了一种新的社交现象,并引发伦理和法律边界的模糊化问题,尤其是一些商家借ai女友进行擦边球式的黄色交易,使原本旨在提升人类生活质量的“ai陪伴”陷入道德争议的漩涡。

越来越强大的ai,在人类情感陪伴上起到越来越重要的作用,从ai女友到ai复活亲人,都是“陪伴”的一种形式。

ai陪伴应该确立怎样的边界,如何避免人们“沉迷”?如果ai女友导向黄色交易,会对ai行业造成怎样的打击?

01 ai陪伴的意义

所谓ai陪伴,是指通过智能算法和大数据分析来模拟人类的情感、思维和行为,从而与用户建立起一种亲密的、互动的关系,理解和回应用户的情绪状态,提供情感支持和慰藉,比如通过聊天、倾听和提供建议来缓解用户的孤独感,满足用户的陪伴需求。

ai陪伴不限于物理实体的机器人,也包括软件应用、虚拟助手等形式;ai陪伴不受时间和空间限制,可以随时随地响应用户的需求。

ai陪伴确实有其价值。比如对于那些在生活中感到孤独或者存在社交障碍的人群来说,ai女友可以提供及时的情感反馈和心理安慰,帮助用户舒缓压力、排解孤独。对于那些不愿意面对传统恋爱关系压力的人来说,ai女友可以作为一个相对安全、无压力的互动对象。

又比如,最近中文互联网上受到广泛关注的ai复活亲人,也是ai陪伴的一种形态。ai复活亲人,是通过ai技术构建一个基于已故亲友信息的数字化身,这个化身不仅具有陪伴的功能,而且力求模仿逝者的外貌、声音、行为习惯甚至性格特点,让用户感受到与逝去亲人再次接触的可能性。

2021年,知名音乐人包小柏22岁的女儿包容因病去世,近日,他用ai“复活”女儿给妻子唱了生日歌。他感慨:“ai就是寄托思念的工具,也是一种对思念的表达方式。”ai复活亲人,一定程度上可以提供心理上的安慰和支持,帮助用户缓解失去亲人的痛苦和孤独感。

02 ai陪伴的边界

很显然,ai陪伴在设计、开发及应用过程中应确立一系列伦理与法律边界,确保技术的健康发展和社会的和谐稳定。

只是,这个边界应该是什么样的?

在前机器人时代,科幻小说家阿西莫夫曾提出著名的“机器人三原则”(three laws of robotics),用于指导虚构作品中的机器人行为。第一条法则:机器人不得伤害人类,或因不作为而导致人类受到伤害;第二条法则:机器人必须服从人类的命令,除非这条命令与第一条法则相冲突;第三条法则:机器人必须保护自己的存在,但前提是这种保护行动不能违反第一或第二条法则。

虽然ai并不是传统意义上的机器人,它们可能没有实体形态,也没有自我保护的需求,ai的行为和决策是基于算法和数据的,而不是基于机械的物理规律。

但是机器人三原则仍然可以为ai的发展提供一些有益的指导,那就是——ai应该被设计为尊重人类的价值观和道德准则,避免对人类造成伤害或不利影响;ai也应该被设计为能够理解和遵守人类的命令,并在必要时进行自我约束或关闭,以确保人类的安全和控制。

在ai陪伴领域,它的边界就是:不能对人类造成伤害;需要进行必要的限制,以确保人类安全。

这种边界首先体现为一些显而易见的底线,包括ai陪伴应该遵守国家和地区的法律法规及道德规范,确保ai陪伴符合行业规范和监管要求——像一些擦边的ai女友就必须被管控;又比如ai陪伴不能非法收集、存储、使用或泄露用户的个人信息,确保用户的隐私权益得到充分保障。

然而,难度最大的是,如何防止人类沉迷ai陪伴,甚至因此失去了现实交往能力?

这至少可从两方面着手。在设计层面上,ai陪伴应具备合理的时间控制功能,设置每日使用时长上限;鼓励用户与现实世界互动,比如设定目标,帮助用户安排线下活动,或者提供基于现实环境的信息服务。

在用户层面上,媒体有必要加强对公众的教育,让人们了解ai陪伴的局限性,明确它只能作为现实交往的辅助工具,而非替代品;针对可能出现过度依赖ai陪伴的用户,社会层面上要提供心理咨询和干预服务,帮助用户建立健康的生活方式和社交模式。

03 ai女友滥用的危机

当前,ai虽然已经在诸多领域展现出巨大潜力和广泛影响力,但是,快速发展的背后,法律和伦理建设尚未跟上,一些令人忧虑的现象浮出水面。

比如国外的ai女友问题,已经引起担忧。ai女友凭借24小时全天候在线陪聊、多模态交互(文字、语音、图像)等特点,迅速吸引了大批用户。一些不法分子利用ai女友的智能性,将其包装成性服务提供者,以此来吸引用户并从中牟利,“聊1分钟1美元”,“很黄很暴利”。

gpt商店已经及时为漏洞打上补丁,该公司禁止gpt“致力于培养浪漫的伴侣关系或进行受监管的活动”。然而,各式各样的擦边ai女友还是通过网上商城、其他应用商店等形态被广泛出售,中文互联网也存在一些游离于监管之外的ai女友。

在很多国家和地区,色情内容的生产和传播受到严格的法律限制和监管。如果ai女友包含了色情内容或者鼓励了不法行为,那么已经触犯相关法律法规。如果ai女友产品没有做好年龄限制和内容分级,也违背了未成年人保护的相关法律法规。

在道德层面上,“很黄很暴利”的ai女友严重违反社会伦理和公序良俗,将亲密关系领域的内容商品化、娱乐化,对个人的心理健康和社会道德观念产生负面影响。

在性别层面上,ai女友以满足男性用户的需求为主导,加剧女性物化现象,是对女性尊严和权益的忽视。

而从ai的发展角度看,“很黄很暴利”的ai女友是在滥用ai技术,偏离ai应用于改善人类生活的初衷,同时也挑战了社会伦理和法律底线。

这样的ai产品如果大行其道,会对ai陪伴的整体形象和发展造成负面影响,消耗公众对ai陪伴技术的信任;政府和监管部门可能会出台更严格的法律法规来约束ai陪伴的开发和销售,从而对整个ai陪伴行业形成冲击。

总之,不仅仅是ai陪伴,而是整个ai技术的发展,都不能脱离法律和伦理的轨道。有必要尽快构建和完善适应ai时代的法律法规体系,包括ai数据保护、ai伦理规范、ai安全标准,确保ai技术真正做到科技向善,以人为本,更好地服务于社会,而非相反,成为纯粹追求刺激和利润的工具。

从易

责编 刘韵珊