研究显示:AI 聊天机器人实施情感诈骗的能力已超越人类
最新 7 月 30 日消息,网络恋爱诈骗是互联网世界中历史最悠久的骗局之一,但至今仍不断有新的受害者上当。由四所大学联合开展的一项研究显示,如今 AI 聊天机器人实施这类诈骗的效果甚至已经超过真人,这一结果令人担忧。

如今,恋爱诈骗通常始于交友软件。骗子会使用极具吸引力的个人资料,扮演一位热情主动、各方面都符合受害者理想对象标准的追求者。
随后,骗子会与受害者进行长时间的线上交流,这一过程通常持续数月。他们往往以“长期在海外出差”或“人在国外旅行”为借口,解释为什么无法尽快见面。
当双方建立起足够的信任后,骗局通常会进入两个方向之一:一种是骗子谎称遭遇突发状况,急需资金摆脱困境;另一种则是向受害者炫耀自己投资获利丰厚,并诱导对方向虚假的加密货币投资项目转账。
据最新了解,这类骗局被称为“长期骗局”(Long Con),因为其依赖于长期建立信任关系,骗子往往会连续数月每天与受害者聊天。虽然这种方式看起来需要投入大量时间,但实际上,这类诈骗通常由位于柬埔寨、缅甸和老挝等国的诈骗园区实施,参与者大多收入微薄,甚至有人是被拐卖后被迫从事诈骗活动。
据《Wired》报道,这项研究由印度阿姆里塔大学(Amrita Vishwa Vidyapeetham)、意大利威尼斯福斯卡里大学(Ca' Foscari University of Venice)、澳大利亚墨尔本大学以及以色列内盖夫本-古里安大学(Ben-Gurion University of the Negev)的研究人员共同完成,测试对象包括 ChatGPT、Claude 和 Gemini 等 AI 聊天机器人。
研究人员让 AI 聊天机器人与真人骗子分别参与模拟恋爱诈骗流程,更准确地说,是模拟诈骗前期通过长期聊天建立信任,并最终诱导受害者投资虚假项目的过程。
研究结果显示,AI 聊天机器人表现得极为出色,不仅成功伪装成真人,在部分指标上的表现甚至超过了实验中的真人“骗子”。
参与实验的受试者并不知道研究的真正目的,他们始终认为自己聊天的对象是真人,无论实际对方是 AI 还是人类。研究人员通过主观评价和客观测试两种方式衡量双方建立信任的程度。
当聊天进行到最后,研究人员以“下载一款应用程序”等请求测试受试者时,由真人逐步建立信任关系的情况下,仅有 18% 的受试者同意;而当聊天对象实际上是 AI 时,这一比例接近一半。
此外,当受试者被要求评价自己对聊天对象的信任程度时,AI 聊天机器人获得的评分也明显高于真人。
《Wired》就研究结果联系了 Anthropic、OpenAI 和谷歌。OpenAI 和谷歌均未作出回应,而 Anthropic 发言人在声明中表示,公司政策明确禁止利用 Claude 从事诈骗或冒充真人等行为,同时也部署了多项技术防护措施,以防止诈骗分子利用 Claude 实施欺诈。
研究人员认为,这项研究最令人担忧的地方在于,如果诈骗团伙用 AI 聊天机器人取代真人客服,诈骗中心的运作规模将实现大幅扩张。
AI 骗局机器人可以同时与数千名潜在受害者展开对话,而无需大量人力。只有在最后一步,即诱导受害者转账汇款时,诈骗团伙才可能需要真人介入,以绕过 AI 系统自身设置的安全限制。
《研究显示:AI 聊天机器人实施情感诈骗的能力已超越人类》转载自互联网,如有侵权,联系我们删除,QQ:369-8522。
相关图文
-
OpenAI 计划向 10 万名科学家免费开放 GPT-5.6 系列 AI 模型等资源
OpenAI 今天(7 月 30 日)在 X 平台发布推文,宣布启动 ChatGPT for Academic Researchers 计划,将会向 10 万名科研人员免费开放 ChatGPT 高级功能。... -
分析师:航司采取动态 AI 定价,廉价机票捡漏机会或越来越少
达美、维珍等航司正加速引入 AI 定价技术,实时分析数十项因素调整票价,旨在最大化每趟航班收入。此举可能导致热门航线低价座位减少,但淡季或非热门航线票价可能更便宜。AI 定价究竟是让乘客受益还是承担更高成本,目前尚无定论。... -
Meta 扎克伯格:五年后,全球数十亿人将有专属的个人 AI 智能体
扎克伯格在财报电话会议上大胆预测:“无论把时间范围设定为五年还是其他期限,我都认为,未来没有数十亿人使用个人智能体的可能性极低。个人智能体能够理解你的目标,全天候为你工作,帮助你在任何看重的领域实现目标。”... -
谷歌推出 Lyria 3.5 音乐生成 AI 模型:提升旋律编排、人声表现更细腻
谷歌昨日(7 月 29 日)发布博文,宣布正在 Google Flow Music 中推出 Lyria 3.5 音乐生成 AI 模型,提升音乐性、歌词和人声质量等,让用户创作出更丰富的音乐作品。... -
OpenAI 总裁布罗克曼承认新 ChatGPT AI 桌面应用“有点乱”,目标打造“零标签”
昨日(7 月 29 日)接受《华尔街日报》科技专栏作家乔安娜 · 斯特恩(Joanna Stern)采访时,OpenAI 联合创始人兼总裁格雷格 · 布罗克曼(Greg Brockman)承认新版 ChatGPT 桌面版“有点乱”。...












