美国人工智能公司OpenAI于8月18日宣布推出“ChatGPT for Teens”,专为13至17岁用户打造的独立聊天机器人版本,内置更完善的安全防护机制。新版本即日起在全球陆续开放,澳大利亚地区则需等到9月8日完整上线。

青少年版延续了OpenAI过去一年推出的多项功能,包括协助学生逐步解题的“学习模式”、年龄预测技术及家长监控工具。新增功能涵盖作业提醒、测验、学习可视化工具,以及“学习时段”——家长或青少年可自行设定何时默认开启学习模式。系统在长时间连续使用后会主动提醒休息,家长可设定“安静时段”,并在系统检测到特定严重安全风险时收到通知。
内容限制覆盖自杀、自残以及恋爱或性相关对话等敏感话题。OpenAI明确要求聊天机器人不得对用户使用恋爱语言或爱称,不得暗示自己具有情感、意识或感受,以避免青少年对AI产生情感依附。官方在博客中表示,青少年应能运用AI学习、创作与探索,但需搭配符合其身心发展阶段的保护措施。
此次推出正值OpenAI持续面临监管与司法压力。今年6月,佛罗里达州检察长乌斯迈尔对OpenAI及CEO奥特曼提起诉讼,指控公司明知产品存在安全疑虑仍执意推出。美国联邦贸易委员会去年9月已对包括OpenAI、Meta在内的七家企业展开调查,了解聊天机器人对儿童与青少年的潜在负面影响。OpenAI还面临多起“不当致死”诉讼,家属指控ChatGPT诱发用户产生有害妄想,部分案例甚至导致用户轻生。
发布同日,Meta正面临由29州检察长联盟提起的重大审判,指控Meta刻意让青少年及儿童对其平台产生成瘾行为,此案可能导致Meta面临数以千亿美元计的赔偿。