OpenAI:若青少年因使用 ChatGPT 网暴他人而被封号,系统将告知家长
最新 7 月 21 日消息,据外媒 Engadget 当地时间 18 日报道,OpenAI 将进一步扩大 ChatGPT 家长通知功能。若青少年因违反暴力威胁或网络暴力行为政策而被封号,已完成账号关联的父母和监护人将收到提醒。
OpenAI 去年推出家长控制功能,允许父母关联未成年子女的 ChatGPT 账号,设定禁用时段、减少敏感内容,并在系统发现子女可能有自残倾向时收到警示。通知范围扩大后,系统发现青少年可能危害他人时,也会提醒家长。
OpenAI 公布的界面示例显示,家长会先收到一则有关子女账号“重要更新”的通知。点击“了解更多”后,页面将说明账号因违反“暴力行为”使用政策而被停用。

新功能由 OpenAI 与网络暴力监测和应对机构 Moonshot 共同开发。Moonshot 创始人维迪娅 · 拉马林甘表示:“出现严重风险时及时通知父母,并让他们进一步了解情况,是帮助家庭尽早介入和寻求援助的关键第一步。要让年轻人更安全地使用 ChatGPT,未来还需要配合更多保护措施。”

2025 年加拿大不列颠哥伦比亚省坦布勒岭发生大规模枪击案,调查发现嫌疑人曾使用 ChatGPT,OpenAI 随后承诺强化安全机制。有报道称,OpenAI 虽然封禁了枪手的账号,却没有向执法部门发出警报,加拿大当局因此传唤 OpenAI,CEO 奥尔特曼之后也为疏漏道歉。
OpenAI 还在家长控制页面加入“学习模式”开关。开启后,ChatGPT 不会立即给出完整答案,而会先提供提示,引导学生思考和学习。青少年若长时间使用 ChatGPT,也会更频繁地看到休息提醒,以便养成更健康的数字设备使用习惯。
《OpenAI:若青少年因使用 ChatGPT 网暴他人而被封号,系统将告知家长》转载自互联网,如有侵权,联系我们删除,QQ:369-8522。
相关图文
-
上任仅 3 个月,美国 AI 测试机构负责人克里斯 · 福尔宣布辞职
据路透社 21 日(今天)报道,美国商务部下属 AI 测试机构美国人工智能标准与创新中心再次出现人事变动,中心主任克里斯 · 福尔上任仅 3 个月便宣布辞职。... -
消息称智谱建成大型 AI 数据中心:全部采用国产芯片
据知情人士透露,智谱已开始部分运营这座 1 吉瓦的数据中心。按照这一规模,智谱的数据中心将成为中国 AI 公司所建设的最大规模服务器枢纽之一。... -
国内首款,脑虎科技硬膜下植入式柔性脑机接口进入“绿色通道”
脑虎科技今天(21 日)上午宣布,其自主研发的“植入式脑机接口手部运动功能代偿系统”通过公示,正式进入国家药品监督管理局医疗器械技术审评中心(CMDE)的创新医疗器械特别审查程序。... -
导演陆川称 AI 生成像预制菜,自己正利用 AI 同时推进五部电影筹备
他认为做电影最美妙的部分实际上是“错误”。人类在现场的失控、演员最棒的表演往往来源于失控,这些无法复制的瑕疵才是艺术创作最迷人的地方,而 AI 恰恰可能会抹杀这些错误。#导演陆川称AI生成像预制菜#... -
三体宇宙展望“智子”智能体:有共识、有记忆、有人格,持续陪伴
面对 Agentic AI 时代,三体宇宙分享了关于“智子”智能体的最新设想:一个有共识、有记忆、有人格的智能体形象,让用户面对的不只是技术能力,更是一个能够长期互动、持续陪伴的智能伙伴。...












