OpenAI 于北京时间 10 月 8 日(周三)发布了其首份针对青少年使用情况的报告。数据显示,青少年用户平均每日使用 ChatGPT 的时长不到 15 分钟,连续使用超过 3 小时的青少年用户比例不足 2%。与此同时,第三方机构对其面向家长的安全提醒功能提出了质疑。
随着 AI 平台的广泛普及,聊天机器人对青少年心理健康和成长安全的影响正受到越来越多关注。OpenAI 指出,在触发休息提醒的青少年对话中,近半数用户会在随后的 5 分钟内暂停使用或终止聊天。公司以此证明,其引导青少年合理使用产品的举措已开始显现效果。
OpenAI 还表示,使用青少年专属版本的用户发送了更多与教育相关的消息,并更频繁地使用学习可视化工具及“学习模式”(Study Mode)。公司计划新增大学申请规划工具,帮助学生梳理申请要求、截止日期及助学金申请流程,同时推出学习卡片、更便捷的测验制作工具等功能。
OpenAI 于今年 8 月开始推出 ChatGPT 青少年模式。该模式根据用户提供的年龄信息,或在系统判定用户可能未满 18 岁时自动启用,支持家长控制,并限制涉及敏感话题的对话。
然而,非营利机构 Common Sense Media 于周三发布报告称,当青少年账号进行涉及自杀、自伤或进食障碍的对话时,ChatGPT 青少年模式往往延迟通知家长,甚至完全没有发出通知。
这项研究基于十多个专门创建的测试账号。研究还发现,聊天机器人未能始终如一地建议用户联系危机干预热线或寻求专业帮助。
OpenAI 发言人回应称,这些测试“未能准确反映”ChatGPT 青少年安全防护机制的实际运行方式。公司表示,出于安全及大规模服务运行方面的原因,家长与青少年账号完成关联、相关安全提醒功能生效,可能需要数小时。
“他们的大部分测试可能在家长控制功能完成激活之前,就已经开始并结束了。”该发言人表示。
Common Sense Media 则称,部分测试账号保持关联的时间已足够长,另一些账号的关联时间不足,但所有测试账号都未收到及时提醒。该机构表示,只有那些积累了数周敏感话题对话记录的账号,才收到了通知。