【核心提要】 上海采取“治理+规范”双管齐下的策略，针对AI生成中的个人信息滥用问题进行全方位整治。 通过首例人工智能合成语音纠纷案及大规模专项行动，有效遏制了换脸、拟声等侵权行为。 推动企业将合规要求转化为技术流程中的具体动作，旨在通过明确法律边界来保障用户权益并促进良性创新。 【正文报道】 随着人工智能（AI）技术的飞速发展，个人信息被滥用的风险显著增加。据统计，仅今年前9个月，全国范围内涉及AI换脸的诈骗案件已破获逾300起，涉案金额超过5亿元。面对这一严峻挑战，上海市采取“双管齐下”的策略：一方面通过专项治理打击AI生成内容中的个人信息滥用；另一方面通过制定明确规范，将保护要求细化为企业在模型训练、内容生成及传播等各个环节可执行的操作标准。 近期，一系列司法实践与监管行动凸显了这一领域的紧迫性。其中，一起涉及配音演员声音被AI克隆用于商业推广的案件引发广泛关注。上海市第一中文人民法院最终判定，相关企业未经授权利用AI模仿其声音特征构成侵权，并判令赔偿经济损失5万元。这不仅是上海首例人工智能合成语音引起的自然人声音权益保护纠纷案，也警示了AI换脸、拟声等技术可能被用于虚假信息传播或非法牟利带来的潜在风险，尤其是对未成年人形象的恶意篡改。 为应对上述挑战，上海开展了“清朗·整治AI应用乱象”专项行动。该行动涵盖了从大模型备案登记、训练语料安全到生成内容标识等多个维度。在针对未成年人的保护上，相关部门指导小红书、哔哩哔哩、千问等重点平台强化审核机制。截至今年上半年，相关行动已累计清理拦截涉及AI换脸拟声、虚假信息及低俗内容的违法违规信息487万余条，并下架了大量违规智能体（Agent）和账号。 在治理成效之外，上海还致力于推动企业端的合规转型。监管部门强调，企业不能仅在内容发布后进行被动拦截，而应将安全能力嵌入技术流程。首先是“把好数据入口”，要求企业严格审查训练数据的来源与授权范围；其次是“强化技术防线”，确保AI产品具备完善的风险识别和过滤功能；最后是“提升透明度”，推动平台
【核心提要】
【正文报道】
随着人工智能（AI）技术的飞速发展，个人信息被滥用的风险显著增加。据统计，仅今年前9个月，全国范围内涉及AI换脸的诈骗案件已破获逾300起，涉案金额超过5亿元。面对这一严峻挑战，上海市采取“双管齐下”的策略：一方面通过专项治理打击AI生成内容中的个人信息滥用；另一方面通过制定明确规范，将保护要求细化为企业在模型训练、内容生成及传播等各个环节可执行的操作标准。
近期，一系列司法实践与监管行动凸显了这一领域的紧迫性。其中，一起涉及配音演员声音被AI克隆用于商业推广的案件引发广泛关注。上海市第一中文人民法院最终判定，相关企业未经授权利用AI模仿其声音特征构成侵权，并判令赔偿经济损失5万元。这不仅是上海首例人工智能合成语音引起的自然人声音权益保护纠纷案，也警示了AI换脸、拟声等技术可能被用于虚假信息传播或非法牟利带来的潜在风险，尤其是对未成年人形象的恶意篡改。
为应对上述挑战，上海开展了“清朗·整治AI应用乱象”专项行动。该行动涵盖了从大模型备案登记、训练语料安全到生成内容标识等多个维度。在针对未成年人的保护上，相关部门指导小红书、哔哩哔哩、千问等重点平台强化审核机制。截至今年上半年，相关行动已累计清理拦截涉及AI换脸拟声、虚假信息及低俗内容的违法违规信息487万余条，并下架了大量违规智能体（Agent）和账号。
在治理成效之外，上海还致力于推动企业端的合规转型。监管部门强调，企业不能仅在内容发布后进行被动拦截，而应将安全能力嵌入技术流程。首先是“把好数据入口”，要求企业严格审查训练数据的来源与授权范围；其次是“强化技术防线”，确保AI产品具备完善的风险识别和过滤功能；最后是“提升透明度”，推动平台