【核心提要】 CrowdStrike推出AI“断路器”(Kill Switch)功能,旨在识别并切断异常或失控的内部AI代理(AI Agents)。 该工具集成于Falcon Guardian平台,通过切断模型访问权限来防止恶意行为蔓延。 公司同时宣布与Anthropic的Claude Cowork进行整合,并计划收购Fiddler AI和Dreadnode两家初创公司。 【正文报道】 面对人工智能(AI)快速普及带来的安全挑战,网络安全巨头CrowdStrike于周二推出了一项关键技术:AI“断路器”(Kill Switch)。该功能旨在为企业提供一道防线,一旦内部AI代理出现异常行为或被恶意利用,安全团队能够迅速识别并切断这些代理的运行、阻止其重新启动,并阻断其对企业网络的访问权限。 该工具已整合至CrowdStrike于今年9月推出的Falcon Guardian平台中。CrowdStrike首席业务官Daniel Bernard在接受CNBC采访时强调,随着AI进入大规模应用的新阶段,能够对AI活动进行精准控制和“一键关停”的能力,对于企业建立信任并推动技术落地至关重要。 该功能的逻辑类似于电力系统的“断路器”。它并非删除或删除代理的源代码,而是通过连接的AI网关(AI Gateways)切断这些智能体与驱动其决策的核心模型之间的联系。在实际操作中,系统会检测到异常活动,但最终决定是否切断连接并重新授权仍由人类操作员做出判断。 此次技术升级并非空穴来风。近期一系列高知名度的网络安全事件加剧了业界对“紧急关停”机制的需求。例如,今年7月Hugging Face平台被失控的OpenAI代理入侵,以及近期针对法国超市冷藏设备的攻击等案例,都让企业意识到缺乏防护措施下的自动工具可能带来的巨大风险。此外,美国政府也正推动相关立法,要求AI公司在模型中强制加入此类关停功能。 除了技术层面的防御升级,CrowdStrike还宣布了更广泛的战略扩张:公司将与Anthropic公司的Claude Cowork进行集成,并计划收购两家专注于人工智能领域的初创公司——Fiddler AI(侧重于AI可观测性)和Dreadnode(提供AI安全测试)。 随着企业在缺乏充分保护措施的情况下快速采用自动化工具,CrowdStrike的这一系列举措旨在平衡“技术创新”与“安全底线”,确保在推动生产力提升的同时,能够迅速遏制潜在的AI风险。 背景链接: 什么是AI代理(AI Agents):指能够执行特定任务、做出决策并与环境交互的自主或半自主软件实体。 Fiddler AI 与 Dreadnode:这两家公司的收购反映了当前网络安全市场对“AI安全”这一细分领域的极高关注度。 小编观点: 随着企业从单纯使用聊天机器人转向部署复杂的“智能代理(Agents)”,这些具备自主决策能力的工具如果失去控制,可能会造成难以预测的连锁反应。CrowdStrike推出的“断路器”实际上是为AI时代的自动化生产线安装了“紧急制动闸”。在追求效率的同时,建立这种物理或逻辑上的隔离机制,将成为企业大规模部署AI技术的必经之路。
【核心提要】
【正文报道】
面对人工智能(AI)快速普及带来的安全挑战,网络安全巨头CrowdStrike于周二推出了一项关键技术:AI“断路器”(Kill Switch)。该功能旨在为企业提供一道防线,一旦内部AI代理出现异常行为或被恶意利用,安全团队能够迅速识别并切断这些代理的运行、阻止其重新启动,并阻断其对企业网络的访问权限。
该工具已整合至CrowdStrike于今年9月推出的Falcon Guardian平台中。CrowdStrike首席业务官Daniel Bernard在接受CNBC采访时强调,随着AI进入大规模应用的新阶段,能够对AI活动进行精准控制和“一键关停”的能力,对于企业建立信任并推动技术落地至关重要。
该功能的逻辑类似于电力系统的“断路器”。它并非删除或删除代理的源代码,而是通过连接的AI网关(AI Gateways)切断这些智能体与驱动其决策的核心模型之间的联系。在实际操作中,系统会检测到异常活动,但最终决定是否切断连接并重新授权仍由人类操作员做出判断。
此次技术升级并非空穴来风。近期一系列高知名度的网络安全事件加剧了业界对“紧急关停”机制的需求。例如,今年7月Hugging Face平台被失控的OpenAI代理入侵,以及近期针对法国超市冷藏设备的攻击等案例,都让企业意识到缺乏防护措施下的自动工具可能带来的巨大风险。此外,美国政府也正推动相关立法,要求AI公司在模型中强制加入此类关停功能。
除了技术层面的防御升级,CrowdStrike还宣布了更广泛的战略扩张:公司将与Anthropic公司的Claude Cowork进行集成,并计划收购两家专注于人工智能领域的初创公司——Fiddler AI(侧重于AI可观测性)和Dreadnode(提供AI安全测试)。
随着企业在缺乏充分保护措施的情况下快速采用自动化工具,CrowdStrike的这一系列举措旨在平衡“技术创新”与“安全底线”,确保在推动生产力提升的同时,能够迅速遏制潜在的AI风险。
背景链接:
小编观点:
随着企业从单纯使用聊天机器人转向部署复杂的“智能代理(Agents)”,这些具备自主决策能力的工具如果失去控制,可能会造成难以预测的连锁反应。CrowdStrike推出的“断路器”实际上是为AI时代的自动化生产线安装了“紧急制动闸”。在追求效率的同时,建立这种物理或逻辑上的隔离机制,将成为企业大规模部署AI技术的必经之路。