园 新留园 海外华人的新闻与社区
论坛 信息技术 CrowdStrike 发布 AI“熔断机制”:为失控的智能体提供核心安全屏障

CrowdStrike 发布 AI“熔断机制”:为失控的智能体提供核心安全屏障

【核心提要】

  • CrowdStrike 推出“AI 熔断机制”(AI Kill Switch),旨在实时切断并阻止违规运行的 AI 智能体(AI Agents)。
  • 该技术作为 Falcon Guardian 平台的一部分,旨在赋予人类对自动化人工智能系统更强的控制权。
  • 公司强调,随着企业大规模采用 AI,提供此类安全保障已成为巨大的市场机遇及关键的安全基石。

【正文报道】

近日,网络安全巨头 CrowdStrike 的首席执行官 George Kurtz 在 Fal.Con Europe 大会上宣布,公司推出了一项旨在遏制“失控智能体”的新技术。这一被称为“AI 熔断机制”(AI Kill Switch)的功能,允许安全团队在检测到 AI 智能体出现异常行为时,立即终止其运行、防止其重新启动并切断其网络访问权限。

随着企业对人工智能的依赖日益加深,如何管控这些具备自主能力的模型已成为核心痛点。Kurtz 在接受 CNBC 采访时指出:“目前几乎所有机构都在构建 AI 智能体,但它们往往缺乏一个‘关闭按钮’。现在我们提供了这个功能,这将成为确保 AI 系统安全运行的关键环节。”

该技术集成在 CrowdStrike 的 Falcon Guardian 平台中,旨在应对快速普及过程中带来的安全风险。Kurtz 将此项技术的必要性比作汽车的“安全气囊”:即便系统设计初衷是正确的,但在运行时一旦超出预设的安全边界(Guardrails),必须有物理或逻辑上的干预手段来强制停止其运行。

这一举措也反映了 CrowdStrike 对当前行业争议的独特立场。此前,Anthropic 首席执行官 Dario Amodei 及 OpenAI 首席执行官 Sam Altman 等人曾呼吁放缓 AI 研发速度以确保安全。而 Kurtz 则认为,仅仅减缓开发速度并不能消除现有的安全风险;相反,随着企业部署自动化系统,提供实时的防护措施和“断路器”才是解决问题的关键。

在市场层面,CrowdStrike 正从传统的防御外部威胁转向保障内部 AI 系统运行安全的双重模式。Kurtz 透露,公司与 Anthropic 的合作已证明了市场的迫切需求:许多企业客户明确表示,只有在集成 CrowdStrike 的安全技术后,他们才愿意部署如 Claude Cowork 等基于 Anthropic 的产品。

【小编观点】
随着 AI 从“工具”演变为具备一定自主决策能力的“智能体(Agents)”,网络安全的重心正在发生偏移:从单纯的防火墙防御,转向对模型运行逻辑和权限边界的精细化管控。CrowdStrike 推出的“熔断机制”实际上是为企业提供了一份“安全保险单”,让企业在拥抱 AI 生产力的同时,能够有效对冲因算法失控或被恶意利用带来的系统性风险。

背景链接:

  • CrowdStrike Falcon Guardian Platform
  • Anthropic Claude Cowork integration

新闻配图

新闻配图

0 条回复

暂无回复,快来抢沙发吧!

  • 1 / 1 页
敬请注意:文中内容观点和各种评论不代表本网立场!若有违规侵权,请联系我们。