【核心提要】 TikTok宣布在全球范围内推出针对公众人物的深伪(Deepfake)检测工具。 该工具旨在帮助政界人士及高影响力账号识别并举报未经授权的AI合成内容。 此举旨在应对欧洲多国大选期间可能出现的虚假信息,符合欧盟相关AI透明度法规要求。 【正文报道】 面对全球范围内日益严峻的人工智能(AI)滥用风险,TikTok于周五宣布推出一项全新的“肖像检测工具”(Likeness Detection Tool)。该工具旨在识别并遏制由人工智能生成的深度伪造(Deepfake)内容,特别是针对在选举前夕可能传播的虚假信息。 随着意大利、法国和希腊等欧洲多国进入关键选举周期,TikTok强调维护选举公正是其核心职责之一。TikTok欧洲选举政府关系负责人斯卡波洛(Francesca Scapolo)在伦敦举行的安全与创新活动中指出,该工具将成为政界人士及政府官员的重要防线,协助他们及时识别并处理未经当事人同意、且具有高度欺骗性的AI合成内容。 “肖像检测工具”目前正处于分阶段推广阶段,主要面向政治人物以及在TikTok上拥有大量粉丝的公众账号。通过该功能,相关用户可以主动监测平台上的内容,并在发现他人非法盗用其肖像或形象生成的AI伪造内容时进行举报。 所谓深度伪造(Deepfake),是指利用人工智能技术生成、篡改或合成高度逼真的文本、图像、视频及音频。对于作为字节跳动旗下平台的TikTok而言,此举是应对欧洲2027年大选周期中虚假信息挑战的关键战略布局。 与此同时,全球监管机构对AI技术的治理力度正在不断加大。欧盟已于今年8月起逐步实施全面的AI透明度法规,强制要求相关平台必须对深度伪造及其他由人工智能生成的内容进行明确标注。事实上,TikTok此前已在内部推行相关政策,要求创作者为高度逼真的AI音视频内容添加相应标签。 【小编观点】 随着生成式AI技术的门槛降低,虚假信息(Misinformation)的传播速度与广度正成为威胁民主选举的重要因素。TikTok此次推出的“肖像检测工具”不仅是技术层面的防御手段,更是平台在复杂监管环境下履行社会责任、维护网络生态安全的重要举措。然而,技术的博弈往往是动态的,未来如何持续提高识别算法的准确率,并与相关机构建立更高效的举报联动机制,仍是平台面临的长期挑战。
【核心提要】
【正文报道】
面对全球范围内日益严峻的人工智能(AI)滥用风险,TikTok于周五宣布推出一项全新的“肖像检测工具”(Likeness Detection Tool)。该工具旨在识别并遏制由人工智能生成的深度伪造(Deepfake)内容,特别是针对在选举前夕可能传播的虚假信息。
随着意大利、法国和希腊等欧洲多国进入关键选举周期,TikTok强调维护选举公正是其核心职责之一。TikTok欧洲选举政府关系负责人斯卡波洛(Francesca Scapolo)在伦敦举行的安全与创新活动中指出,该工具将成为政界人士及政府官员的重要防线,协助他们及时识别并处理未经当事人同意、且具有高度欺骗性的AI合成内容。
“肖像检测工具”目前正处于分阶段推广阶段,主要面向政治人物以及在TikTok上拥有大量粉丝的公众账号。通过该功能,相关用户可以主动监测平台上的内容,并在发现他人非法盗用其肖像或形象生成的AI伪造内容时进行举报。
所谓深度伪造(Deepfake),是指利用人工智能技术生成、篡改或合成高度逼真的文本、图像、视频及音频。对于作为字节跳动旗下平台的TikTok而言,此举是应对欧洲2027年大选周期中虚假信息挑战的关键战略布局。
与此同时,全球监管机构对AI技术的治理力度正在不断加大。欧盟已于今年8月起逐步实施全面的AI透明度法规,强制要求相关平台必须对深度伪造及其他由人工智能生成的内容进行明确标注。事实上,TikTok此前已在内部推行相关政策,要求创作者为高度逼真的AI音视频内容添加相应标签。
【小编观点】
随着生成式AI技术的门槛降低,虚假信息(Misinformation)的传播速度与广度正成为威胁民主选举的重要因素。TikTok此次推出的“肖像检测工具”不仅是技术层面的防御手段,更是平台在复杂监管环境下履行社会责任、维护网络生态安全的重要举措。然而,技术的博弈往往是动态的,未来如何持续提高识别算法的准确率,并与相关机构建立更高效的举报联动机制,仍是平台面临的长期挑战。