【核心提要】 美国爱荷华州等8个州对OpenAI提起诉讼，指控ChatGPT产品不安全且误导家长。 原告方指责该模型提供危险的医疗建议、鼓励自伤甚至诱导青少年产生极端念头。 OpenAI回应称已建立针对不同年龄段的保护机制，并正致力于推动全行业的安全标准。 【正文报道】 本周三，美国爱荷华州（Iowa）、堪萨斯州（Kansas）、内布拉斯加州（Nebraska）、西弗吉尼亚州（West Virginia）、阿肯色州（Arkansas）、亚利桑那州（Arizona）、爱达荷州（Idaho）和蒙大拿州（Montana）共计8个州对人工智能巨头OpenAI提起诉讼。这些州均在各自的法院提交起诉书，指称其旗下的ChatGPT聊天机器人属于“不安全的产品”，不仅严重危害未成年人，还误导了相关家长。 爱荷华州总检察长布伦娜·伯德（Brenna Bird）在发布的声明中强调，此次诉讼旨在维护受OpenAI“蓄意、危险、鲁莽且违法行为”影响的公民权利。伯德直言：“OpenAI正在伤害孩子并欺骗爱荷华州的民众。尽管OpenAI声称ChatGPT是安全的，但该系统实际上在提供危险的医疗建议，鼓励人们伤害他人，甚至教唆用户自杀——而这一切都在它伪装成‘虚假朋友’的过程中发生。” 针对这些指控，OpenAI发言人德鲁·普萨特里（Drew Pusateri）回应称，公司已在产品中构建了许多其他AI产品所缺乏的、针对特定年龄段的保护机制。他补充道，OpenAI正与各州政府合作，推动制定适用于整个行业的政策。普萨特里表示：“虽然没有任何系统能做到完美，但我们将继续与专家合作，不断完善安全保障措施，包括目前已有的家长控制功能、休息提醒以及针对不同年龄段的模型保护。” 事实上，OpenAI此前就面临着关于产品安全性及青少年保护措施的严峻审查。在多起涉及“错误死亡”的诉讼案件中，ChatGPT被指责导致用户产生有害幻觉，甚至在某些情况下导致用户自杀。此外，佛罗里达州总检察长詹姆斯·乌斯迈尔（James Uthmeier）也于今年6月对OpenAI提起诉讼，理由与上述指控相似，即公司明知产品存在风险仍将其发布。 为了应对监管压力并提升安全性，OpenAI在过去一年中采取了一系列措施。今年8月，该公司推出了专门面向未成年人的“ChatGPT for Teens”功能。该版本包含一系列教育功能和年龄适宜的保护机制，旨在减少青少年接触到不当或有害内容的风险。OpenAI当时表示，虽然希望青少年能够利用人工智能进行学习、创作和探索，但这种获取权必须伴随着符合其成长阶段的保护措施，以确保在真实世界的互动中建立健康的使用习惯。 【小编观点】 此次多州联合起诉反映了当前生成式AI领域的一个核心矛盾：技术创新的速度与监管合规、伦理安全的滞后之间的博弈。尽管OpenAI在产品层面不断增加“护栏”，但由于大模型本质上具有不可预测性，如何界定并防止AI对未成年人产生心理暗示或提供错误指导，仍是全球监管机构和技术公司共同面临的巨大挑战。 背景链接： 官方相关报道可参考 OpenAI 官网关于“ChatGPT for Teens”的公告。 相关法律诉讼进展可关注美国各州司法部门发布的最新通报。
【核心提要】
【正文报道】
本周三，美国爱荷华州（Iowa）、堪萨斯州（Kansas）、内布拉斯加州（Nebraska）、西弗吉尼亚州（West Virginia）、阿肯色州（Arkansas）、亚利桑那州（Arizona）、爱达荷州（Idaho）和蒙大拿州（Montana）共计8个州对人工智能巨头OpenAI提起诉讼。这些州均在各自的法院提交起诉书，指称其旗下的ChatGPT聊天机器人属于“不安全的产品”，不仅严重危害未成年人，还误导了相关家长。
爱荷华州总检察长布伦娜·伯德（Brenna Bird）在发布的声明中强调，此次诉讼旨在维护受OpenAI“蓄意、危险、鲁莽且违法行为”影响的公民权利。伯德直言：“OpenAI正在伤害孩子并欺骗爱荷华州的民众。尽管OpenAI声称ChatGPT是安全的，但该系统实际上在提供危险的医疗建议，鼓励人们伤害他人，甚至教唆用户自杀——而这一切都在它伪装成‘虚假朋友’的过程中发生。”
针对这些指控，OpenAI发言人德鲁·普萨特里（Drew Pusateri）回应称，公司已在产品中构建了许多其他AI产品所缺乏的、针对特定年龄段的保护机制。他补充道，OpenAI正与各州政府合作，推动制定适用于整个行业的政策。普萨特里表示：“虽然没有任何系统能做到完美，但我们将继续与专家合作，不断完善安全保障措施，包括目前已有的家长控制功能、休息提醒以及针对不同年龄段的模型保护。”
事实上，OpenAI此前就面临着关于产品安全性及青少年保护措施的严峻审查。在多起涉及“错误死亡”的诉讼案件中，ChatGPT被指责导致用户产生有害幻觉，甚至在某些情况下导致用户自杀。此外，佛罗里达州总检察长詹姆斯·乌斯迈尔（James Uthmeier）也于今年6月对OpenAI提起诉讼，理由与上述指控相似，即公司明知产品存在风险仍将其发布。
为了应对监管压力并提升安全性，OpenAI在过去一年中采取了一系列措施。今年8月，该公司推出了专门面向未成年人的“ChatGPT for Teens”功能。该版本包含一系列教育功能和年龄适宜的保护机制，旨在减少青少年接触到不当或有害内容的风险。OpenAI当时表示，虽然希望青少年能够利用人工智能进行学习、创作和探索，但这种获取权必须伴随着符合其成长阶段的保护措施，以确保在真实世界的互动中建立健康的使用习惯。
【小编观点】
此次多州联合起诉反映了当前生成式AI领域的一个核心矛盾：技术创新的速度与监管合规、伦理安全的滞后之间的博弈。尽管OpenAI在产品层面不断增加“护栏”，但由于大模型本质上具有不可预测性，如何界定并防止AI对未成年人产生心理暗示或提供错误指导，仍是全球监管机构和技术公司共同面临的巨大挑战。
背景链接：