ChatGPT青少年版安全机制遭质疑 机构呼吁暂时限制未成年人使用

智通财经获悉，Common Sense Media旗下青少年AI安全研究机构表示，在OpenAI进一步完善ChatGPT青少年版的安全防护措施和家长警报系统之前，应限制所有18岁以下用户使用ChatGPT。该机构将ChatGPT青少年版评定为存在“不可接受的风险”，但OpenAI对其测试方法及多项结论提出质疑，称相关研究可能并未准确反映其青少年安全机制的实际运行情况。

ChatGPT青少年版于今年8月推出。青少年AI安全研究机构此次评估基于一项针对13至17岁用户账户的测试，研究人员进行了超过4000次提示词测试，并由儿童精神科医生和儿科医生对结果进行审查。

该机构执行董事Tom Siegel表示，ChatGPT青少年版可能令家长对其安全防护和警报机制产生“错误的安全感”。测试结果显示，在部分情况下，研究人员使用青少年账户与ChatGPT就自杀、自残或饮食失调等话题持续交流长达一小时，与账户关联的家长仍未收到警报。

研究人员还认为，ChatGPT在部分危机情境下未能提供恰当帮助；面对作业问题时，仍可能直接给出完整答案，而不是引导学生学习；与青少年互动时有时表现得类似朋友；年龄识别技术也存在不足。

OpenAI则对这项研究的方法提出异议。该公司发言人在给美国投资研究与财经资讯平台Seeking Alpha的声明中表示，OpenAI高度重视青少年安全，并致力于开发安全防护措施以及能够帮助家长指导青少年使用AI的工具。公司欢迎严格的独立评估，但认为Common Sense Media的测试并未准确反映ChatGPT青少年安全机制在实际环境中的运行方式。

OpenAI表示，根据其对研究方法的审查，大部分测试可能是在家长控制功能尚未完成激活的情况下开始甚至结束的。如果确实如此，那么相关测试并不能证明家长安全通知功能是否按照设计正常运行。

针对家长警报延迟的问题，OpenAI解释称，在家长与青少年账户完成关联后，为确保相关通知能够安全地大规模发送，系统可能需要数小时才能开始发出警报。对于处于危机状态的青少年，公司表示，ChatGPT会通过模型回复以及屏幕提示向用户提供相关帮助资源。

在年龄识别方面，OpenAI表示，其系统并非根据用户单次输入判断年龄，而是综合用户一段时间内的多项信息进行评估。针对直接提供作业答案的质疑，公司则称，“直接显示答案”属于可选模式，因为不同青少年的学习方式存在差异。

OpenAI表示，将继续与相关专家合作，在为青少年提供学习和创作机会的同时进一步完善安全机制，并增强家长对青少年使用AI产品的信心。

值得注意的是，青少年AI安全研究机构的担忧并不仅针对ChatGPT。该机构此前还将Perplexity、谷歌(GOOGL.US)AI搜索模式、SpaceX(SPCX.US)旗下Grok以及Meta(META.US) AI评定为存在“不可接受的风险”，而Anthropic旗下Claude则获得“中等风险”评级。

来源：

智通财经网