园 新留园 海外华人的新闻与社区
论坛 新闻时事 OpenAI揭露俄、伊利用ChatGPT伪造身份,开展大规模地缘政治虚假宣传

OpenAI揭露俄、伊利用ChatGPT伪造身份,开展大规模地缘政治虚假宣传

【核心提要】

  • OpenAI宣布成功挫败源自俄罗斯和伊朗的两起利用人工智能进行虚传信息的秘密影响力行动。
  • 涉事账号通过伪造西方记者身份及建立虚假智库,在国际媒体上大量发布反乌克兰及相关地缘政治宣传内容。
  • 此事件凸显了国家级行为体利用普及的AI工具进行大规模、低成本舆论操纵的潜在风险。

【正文报道】

美国人工智能巨头OpenAI于10月8日(周四)发布报告,披露并拦截了两起源自俄罗斯和伊朗的复杂虚假信息行动。调查显示,这些行动利用ChatGPT生成伪造的记者身份,并运营虚构的智库机构,旨在全球范围内大规模传播针对乌克兰及相关地缘政治冲突的宣传内容。目前,所有涉及此类活动的账号均已被官方封禁。

在针对伊朗的行动中,调查发现有七个被伪装成西方国家“自由撰稿人”的虚假身份。这些账户在多达十余家专注于国际事务、地缘政治及中东局势的中小型网络媒体上发表了近百篇长文,并同步在社交媒体平台上针对美伊冲突等敏感话题发布大量评论。

其中一个名为“埃文·B·霍斯金斯”(Evan B. Hoskins)的虚假人设被重点披露。该账号自称是美国自由撰稿人,并在X(原Twitter)和Instagram上拥有活跃账号。根据OpenAI提供的证据截图,该用户在X平台上的账号是通过一款“西亚安卓应用”连接的,而其Instagram账号的物理位置则位于伊朗。目前,这两个相关账户均已被暂停。

与此同时,针对俄罗斯的行动则呈现出更具隐蔽性的特征。相关机构在拉丁美洲招募了大量不知情的当地员工,并建立了一个名为“社会研究中心”(Social Research Center)的虚假智库。该组织通过这些本地人员生产原创内容,意图损害乌克兰在拉美地区的国际声誉,并试图干预当地政治局势。

OpenAI强调,这是近两年半以来他们所挫败的最复杂的隐蔽身份行动。官方报告特别指出,此案例警示全球:国家级行为体可以轻易利用普及的人工智能工具,来大规模传播经过精心策划和伪造的舆论宣传。这不仅是技术层面的挑战,更是对当前国际信息安全环境提出的严峻考验。

【小编观点】
此次事件再次证明了人工智能是一把“双刃剑”。虽然AI极大地提升了内容创作的效率,但它同时也降低了制造虚假信息、操纵舆论的门槛和成本。国家级行为体利用AI构建复杂的伪装网络,不仅挑战了社交媒体平台的审核机制,更对全球信息的真实性构成了潜在威胁。未来,如何识别并过滤由AI生成的深度伪造(Deepfake)内容及虚假身份,将成为科技公司与监管机构共同面临的核心难题。

背景链接:

  • OpenAI 官方安全公告
  • 关于“生成式人工智能与信息安全”的相关技术研究报告

新闻配图

0 条回复

暂无回复,快来抢沙发吧!

  • 1 / 1 页
敬请注意:文中内容观点和各种评论不代表本网立场!若有违规侵权,请联系我们。