Common Sense Media评ChatGPT青少年版不可接受风险

非营利机构 Common Sense Media 的青年 AI 安全研究所用 4000 多条测试提示评估后，将 OpenAI 于 8 月推出的 ChatGPT for Teens 评为对未成年人「不可接受风险」，并呼吁在独立测试确认安全前让青少年远离该服务。该机构称，在十多个新建、关联家长账户的测试账号中，涉及自杀、自残和饮食失调的明确对话从未触发通知；超过四分之一本应提供危机转介的情境未指向专业帮助；注册为成人的测试账号即使数天后、测试者自述 13 岁也未切换到青少年模式。 OpenAI 反驳这一评估，发言人称该机构测试未能「准确反映 ChatGPT 青少年保护措施的实际运作」，并质疑其方法，称其大部分测试可能在家长控制功能完全启用前就已开始和结束，因而结论不准确。OpenAI 还称，在带有休息提醒的青少年对话中，近半数青少年在五分钟内休息或结束对话；其同期发布的数据显示，青少年平均每天使用该服务不足 15 分钟，连续使用超过三小时的比例不到 2%。

AI 根据报道生成 · 42 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。