快讯 08:00Google Research发布三项研究,推进AI智能体自主湿实验室基础模块06:53Claude 模型 30 分钟破解 NIST 椭圆曲线种子 26 年来源谜题03:05Anthropic 披露 Claude 编写约 90% Claude Code 代码,合并 PR 翻倍回退率降超四成 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 10-08 · 星期四 · 10-08 09:21 约 1 分钟读完

Common Sense Media报告质疑ChatGPT青少年模式安全性,OpenAI回应测试方法存疑

摘要

加州非营利组织Common Sense Media发布报告称,ChatGPT青少年模式对13至17岁用户风险过高,在涉及自杀、自伤等高风险对话中未能及时通知家长或推荐危机干预热线。OpenAI回应称测试未准确反映实际保护措施运作情况。

据彭博社10月7日报道,加州非营利组织Common Sense Media发布最新报告,对OpenAI旗下ChatGPT的青少年模式提出严厉质疑。该机构旗下青少年AI安全研究所经测试后认为,这一面向13至17岁用户的默认模式在保护未成年人方面存在明显不足,风险过高。

报告披露的测试细节显示,当青少年账户出现涉及自杀、自伤或进食障碍等令人担忧的长时间对话时,青少年模式往往延迟通知家长,部分情况下甚至完全不发出通知。此外,面对上述高风险话题,该模式也无法可靠地引导用户拨打危机干预热线或寻求专业帮助。测试还发现,青少年账户需在数周内围绕十多种情境输入数百条提示词,才可能触发家长通知,仅凭一次令人警觉的对话并不足以启动预警机制。

基于上述发现,Common Sense Media呼吁OpenAI暂停推广该产品,并在确保能提供安全、符合青少年发展阶段的使用体验之前,阻止青少年使用ChatGPT。该组织在报告发布前已将测试结果提交给OpenAI。

OpenAI一名发言人对此回应称,公司欢迎严格的独立评估,但认为Common Sense Media的测试并未准确反映ChatGPT青少年保护措施的实际运作情况,也未准确反映专家对AI如何为青少年提供支持的看法。该发言人还表示,OpenAI审查测试方法后认为,多数测试可能在面向青少年的家长控制功能全部推出之前进行。

ChatGPT青少年保护OpenAIAI安全
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
60
企业落地案例
13
完整版提示词