此次推出“ChatGPT for Teens”并非孤立的举措,而是 OpenAI 在面临日益严峻的法律和监管压力下的战略回应。目前,OpenAI 正面临多起涉及未成年人使用的过失致死诉讼(例如 16 岁少年 Adam Raine 的家属提起的诉讼)。与此同时,美国联邦贸易委员会(FTC)正对作为“数字伴侣”的 AI 聊天机器人展开调查,重点关注其对儿童和青少年的潜在风险。
此外,随着监管环境收紧,包括加利福尼亚州在内的多个地区已要求提供陪伴或倾诉功能的 AI 助手必须采取严格的安全防护措施。与此同时,行业内其他巨头也在采取防御性策略,例如竞争对手 Anthropic 已选择将模型的使用范围限制为成年人。
【小编观点】
OpenAI 此举是技术创新与合规治理之间的平衡点。通过引入“学习模式”和强化家长监控,OpenAI 不仅在试图降低法律风险,更是在尝试定义 AI 在教育领域的边界——即从“直接提供答案的工具”转向“辅助思考的导师”。然而,随着 AI 技术的快速渗透,如何精准界定并保护未成年人的心理健康,仍是整个行业面临的长期挑战。
【核心提要】
【正文报道】
OpenAI 近日宣布推出专门为青少年设计的 ChatGPT 新版本——“ChatGPT for Teens”。该版本将自动应用于系统识别出的 13 至 17 岁用户(包括通过注册信息或使用模式检测到的未成年人)。此举旨在通过更严格的监控和安全保障,构建一个更符合青少年的使用环境。
在内容过滤方面,“ChatGPT for Teens”延续并强化了此前已有的安全措施,严禁用户访问涉及自残、暴力、饮食障碍及露骨性内容的信息。此外,该版本还引入了旨在保护青少年身心健康的辅助功能,包括定期提醒用户休息、设置“静音时段”,以及专门的“学习模式”。
值得注意的是,“学习模式”的设计初衷是促进教育成长。与普通版本直接给出答案不同,在学习模式下,系统会向用户提出引导性问题,旨在帮助青少年深入理解相关知识点而非单纯获取结果。同时,为了防止误导,该版本禁止聊天机器人暗示拥有个人情感或独立意识,并禁用了语音模式等部分功能。
为了增强家长的参与感与掌控力,OpenAI 允许家长将账户与孩子的账号进行关联。若系统检测到青少年在对话中涉及自残或自杀等高风险话题,家长将收到相关提醒。为保护用户隐私,这些触发警报的记录将由人工审核员进行处理,并在通知家长时自动删除具体的敏感细节。
此次推出“ChatGPT for Teens”并非孤立的举措,而是 OpenAI 在面临日益严峻的法律和监管压力下的战略回应。目前,OpenAI 正面临多起涉及未成年人使用的过失致死诉讼(例如 16 岁少年 Adam Raine 的家属提起的诉讼)。与此同时,美国联邦贸易委员会(FTC)正对作为“数字伴侣”的 AI 聊天机器人展开调查,重点关注其对儿童和青少年的潜在风险。
此外,随着监管环境收紧,包括加利福尼亚州在内的多个地区已要求提供陪伴或倾诉功能的 AI 助手必须采取严格的安全防护措施。与此同时,行业内其他巨头也在采取防御性策略,例如竞争对手 Anthropic 已选择将模型的使用范围限制为成年人。
【小编观点】
OpenAI 此举是技术创新与合规治理之间的平衡点。通过引入“学习模式”和强化家长监控,OpenAI 不仅在试图降低法律风险,更是在尝试定义 AI 在教育领域的边界——即从“直接提供答案的工具”转向“辅助思考的导师”。然而,随着 AI 技术的快速渗透,如何精准界定并保护未成年人的心理健康,仍是整个行业面临的长期挑战。
背景链接: