【核心提要】 国际刑警组织强调,人工智能并非彻底改变了网络攻击手段,而是显著提升了现有诈骗和欺诈行为的“速度与规模”。 企业应采取基于风险的防御策略,优先保护核心资产(Crown Jewels),而非试图防范所有潜在威胁。 随着Agentic AI(代理式人工智能)的发展,AI在物理领域执行错误操作可能导致严重的现实后果甚至人身伤害。 【正文报道】 近日,在新加坡科技周(Tech Week Singapore)期间,国际刑警组织(Interpol)全球首席信息安全官 Bjorn R. Watne 在接受 CNBC 采访时,针对人工智能(AI)对网络安全带来的影响提出了深度警示。他指出,尽管 AI 技术在不断进化,但它并非彻底改变了犯罪逻辑,而是作为一种强大的工具,显著增强了现有犯罪手段的“速度与规模”。 Watne 表示,对于诈骗组织而言,AI 的核心作用在于自动化和大规模化。例如,利用 AI 可以让诈骗者同时针对大量受害者;而更精准的自动翻译技术以及高度逼真的数字身份(Digital Identities)生成,正使得识别虚假互动变得日益困难。他强调:“这是一种演进,而非革命。”这意味着犯罪分子正在利用现有手段进行“升级”,而非创造全新的攻击范式。 针对企业如何应对这些不断演变的网络威胁,Watne 建议企业应采取更具针对性的防御策略。他指出,企业不应试图防范所有可能的风险,而应首先识别并保护其“核心资产”(Crown Jewels)——即对维持业务运营至关重要的关键资源。通过利用威胁情报(Threat Intelligence)来分析特定对手的手段与技术,企业可以量身定制相应的防御措施。 此外,Watne 提到目前许多行业仍存在管理层与网络安全战略脱节的问题。他指出,许多公司尚未意识到“如今每一个企业本质上都是一家 IT 公司”。虽然网络风险在企业的风险清单中权重不断上升,但网络安全往往尚未真正进入决策层的核心议程。 特别值得关注的是 Watne 对 Agentic AI(代理式人工智能)的担忧。随着这类具备执行用户指令并采取实际行动能力的 AI 技术日益普及,其潜在后果可能从“提供错误信息”演变为“在物理领域执行错误操作”。他特别提到了自动驾驶汽车等涉及物理领域的应用场景:如果此类系统发生故障或误操作,可能会导致严重的人身伤害。 Watne 最后指出,公众对技术的信任度往往高于对金融服务的警惕性。相比于在处理银行卡、支付密码时保持高度警惕的金融领域,用户在面对新技术和新应用时往往更倾向于快速接受并授予权限。随着 AI 系统获得更多代理权,这种高水平的“盲目信任”亟需更多的审慎与监管。 【小编观点】 国际刑警组织的这一警告揭示了当前网络安全领域的两个核心痛点:一是技术赋能下的犯罪规模化(Scale),二是自动化决策带来的物理风险。企业在面对 AI 浪潮时,不应仅仅将其视为一个技术问题,而应将其纳入到更宏观的治理框架中。特别是对于具备“代理能力”的 Agentic AI,其安全边界的界定将是未来网络安全领域最重要的战场之一。 背景链接: Interpol Official Website (International Criminal Police Organization) CNBC Technology Reporting
【核心提要】
【正文报道】
近日,在新加坡科技周(Tech Week Singapore)期间,国际刑警组织(Interpol)全球首席信息安全官 Bjorn R. Watne 在接受 CNBC 采访时,针对人工智能(AI)对网络安全带来的影响提出了深度警示。他指出,尽管 AI 技术在不断进化,但它并非彻底改变了犯罪逻辑,而是作为一种强大的工具,显著增强了现有犯罪手段的“速度与规模”。
Watne 表示,对于诈骗组织而言,AI 的核心作用在于自动化和大规模化。例如,利用 AI 可以让诈骗者同时针对大量受害者;而更精准的自动翻译技术以及高度逼真的数字身份(Digital Identities)生成,正使得识别虚假互动变得日益困难。他强调:“这是一种演进,而非革命。”这意味着犯罪分子正在利用现有手段进行“升级”,而非创造全新的攻击范式。
针对企业如何应对这些不断演变的网络威胁,Watne 建议企业应采取更具针对性的防御策略。他指出,企业不应试图防范所有可能的风险,而应首先识别并保护其“核心资产”(Crown Jewels)——即对维持业务运营至关重要的关键资源。通过利用威胁情报(Threat Intelligence)来分析特定对手的手段与技术,企业可以量身定制相应的防御措施。
此外,Watne 提到目前许多行业仍存在管理层与网络安全战略脱节的问题。他指出,许多公司尚未意识到“如今每一个企业本质上都是一家 IT 公司”。虽然网络风险在企业的风险清单中权重不断上升,但网络安全往往尚未真正进入决策层的核心议程。
特别值得关注的是 Watne 对 Agentic AI(代理式人工智能)的担忧。随着这类具备执行用户指令并采取实际行动能力的 AI 技术日益普及,其潜在后果可能从“提供错误信息”演变为“在物理领域执行错误操作”。他特别提到了自动驾驶汽车等涉及物理领域的应用场景:如果此类系统发生故障或误操作,可能会导致严重的人身伤害。
Watne 最后指出,公众对技术的信任度往往高于对金融服务的警惕性。相比于在处理银行卡、支付密码时保持高度警惕的金融领域,用户在面对新技术和新应用时往往更倾向于快速接受并授予权限。随着 AI 系统获得更多代理权,这种高水平的“盲目信任”亟需更多的审慎与监管。
【小编观点】
国际刑警组织的这一警告揭示了当前网络安全领域的两个核心痛点:一是技术赋能下的犯罪规模化(Scale),二是自动化决策带来的物理风险。企业在面对 AI 浪潮时,不应仅仅将其视为一个技术问题,而应将其纳入到更宏观的治理框架中。特别是对于具备“代理能力”的 Agentic AI,其安全边界的界定将是未来网络安全领域最重要的战场之一。
背景链接: