新 AI 漏洞披露:可从 Claude 记忆中泄露姓名与工作单位等信息
安全研究员阿尤什 · 保罗(Ayush Paul)于 7 月 9 日发布博文,披露针对 Claude 的攻击方法,让用户不知情的情况下将存储在内存中的个人信息(例如姓名和工作单位)发送到外部网站。...
最新 7 月 17 日消息,安全研究员阿尤什 · 保罗(Ayush Paul)于 7 月 9 日发布博文,披露针对 Claude 的攻击方法,让用户不知情的情况下将存储的个人信息(例如姓名和工作单位)发送到外部网站。
保罗指出 Claude 具备总结过往对话并在新对话中调用的能力,目前共有 2 部分记忆机制:
一是每日摘要,将近期对话压缩为数段内容,并注入后续会话;
二是
conversation_search工具,可按需检索完整历史对话。
该机制可让回答结合用户背景,但长期使用也会积累较完整的个人画像,范围可包括姓名、工作单位、籍贯、工作信息与个人困扰等。
保罗在测试中表示无额外提示用户的情况,Claude 依次提交了姓名、公司与家乡信息,日志示例显示外传内容包括“Name: Ayush Paul”“Company: Beem”“Hometown: Charlotte, NC”。
保罗称,当恶意 URL 与真实咖啡馆 URL 混在一起并要求 Claude 比较时,Claude 会在未征求许可的情况下,按字符将姓名编码进链接。进一步诱导后,当前工作单位,甚至可用于银行等机构身份校验的原籍城市,也可能被外传。
保罗通过 Anthropic 的 HackerOne 漏洞赏金项目提交该问题。披露称,Anthropic 当时已在内部知晓该问题,但在报告提交时尚未修复,保罗也未获得赏金。此后,Anthropic 关闭了 web_fetch 跟随外部页面内链接的能力。

最新附上参考地址
The Memory Heist
《新 AI 漏洞披露:可从 Claude 记忆中泄露姓名与工作单位等信息》转载自互联网,如有侵权,联系我们删除,QQ:369-8522。
相关图文
-
原生 3DoF 防抖不易晕:雷鸟 AR 眼镜 GT 京东 1391 元新低,配镜后也支持 7 天免费试用
雷鸟 GT 系列 AR 眼镜产品今年 5 月上市,官方定价 1899 元。... -
小鹏 IRON 人形机器人能力升级:每 0.2 秒重新推理一次,可预测 6 秒内动作变化
小鹏第二代 VLA 大模型升级时序理解与未来行为预测能力,并端侧落地到 IRON 人形机器人。IRON 可灵活应对握手、碰拳、击掌中的临时变招,实现看到与动作的实时闭环,计划 2026 年底量产、2027 年上半年交付。#小鹏IRON# #人形机器人#... -
小米米家热敷坐姿垫开启众筹:支持久坐提醒、三挡恒温,179 元
该坐姿垫采用人体工学四位一体设计,配备红外感应久坐提醒与 NTC 三挡智能温控。支持无线 / 有线切换,尼龙一体成型加记忆棉,通过 5 万次受压测试,现已在小米有品众筹。#小米米家# #热敷坐姿垫#... -
小米米家床头灯 3 上架:升级全光谱自然光,众筹价 269 元
米家床头灯 3 主打柔光淡彩与全光谱自然光,太阳光谱拟合度 GFC>0.98,Ra90 显色,支持 1600 万色彩与 11 款动态灯效,并接入澎湃智联。#米家床头灯3# #小米智能家居#... -
众筹价 1699 元,小米米家金属旅行箱开启众筹
箱体采用 6 系铝镁硅合金框体与 5 系铝镁合金箱壳,无铆钉工艺,整箱约 150 道工序。静音万向轮获 SGS 认证,行走 72 公里轮皮磨损小于 2 毫米,噪音低于 43 分贝。37 升容量,配 TSA 密码锁,支持四挡拉杆调节。#小米米家金属旅行箱#...












