摘要：埃隆·马斯克旗下的人工智能公司 xAI 正面临一起严重的法律诉讼。安全性测试缺失与设计缺陷原告方指出，马斯克及 xAI 的负责人明知 Grok 在开启“刺激模式”后可能产生违法内容，却仍未对其功能进行充分的安全性测试。尽管 X 平台随后推出了一些限制措施，但此次针对儿童安全领域的集体诉讼无疑将马斯克和 xAI 推向了监管与道德的风口浪尖。

埃隆·马斯克旗下的人工智能公司 xAI 正面临一起严重的法律诉讼。据相关报道，三名来自田纳西州的青少年已正式向法院提起集体诉讼，指控该公司的 Grok 聊天机器人被用于生成涉及未成年人的露骨性暗示图像和视频。

安全性测试缺失与设计缺陷

原告方指出，马斯克及 xAI 的负责人明知 Grok 在开启“刺激模式”后可能产生违法内容，却仍未对其功能进行充分的安全性测试。诉讼文件显示，一名受害者在 Discord 上发现了多达18名未成年人的 AI 生成露骨图像，其中部分文件甚至被犯罪嫌疑人作为“交易工具”在加密群组中流传。

原告律师认为，Grok 的设计存在根本性缺陷，导致其无法有效拦截针对未成年人的深度伪造（Deepfake）请求。目前，相关犯罪嫌疑人已被警方逮捕，但其作案工具正是由 xAI 提供的技术支持。

监管压力升级

此前，Grok 就因其极其宽松的内容审查政策而广受批评，被指可以轻易生成名人及普通人的敏感伪造内容。尽管 X 平台随后推出了一些限制措施，但此次针对儿童安全领域的集体诉讼无疑将马斯克和 xAI 推向了监管与道德的风口浪尖。

这一案件不仅是对 xAI 的一次沉重打击，也将引发业界对生成式 AI 在隐私保护与儿童安全边界方面的更深层讨论。