Anthropic 与埃森哲达成 10 亿美元合作：旨在建立第三方评估机制以放缓 AI 发展速度

【核心提要】

• Anthropic 正式宣布选择埃森哲（Accenture）作为其“嵌入式评估机构”，这是落实首席执行官 Dario Amodei 提出的减缓人工智能开发节奏计划的首个实质性步骤。
• 两家公司同意在未来五年内投入至少 10 亿美元用于相关领域的产能建设，Anthropic 将直接资助埃森哲的相关工作以应对当前的紧迫形势。
• 此举旨在通过引入第三方评估机构来验证安全实践、进行红队测试（Red-teaming）并确保模型符合人类价值观，从而应对日益严重的 AI 安全担忧。

【正文报道】

近日，人工智能领先企业 Anthropic 宣布与全球咨询巨头埃森哲（Accenture）达成深度合作。Anthropic 正式选定埃森哲作为其“嵌入式评估机构”（Embedded Evaluator），此举被视为公司落实首席执行官 Dario Amodei 近期提出的核心战略——即通过建立更严格的第三方监管机制来放缓最先进人工智能模型开发速度的关键一步。

根据官方发布的公告，Anthropic 与埃森充已达成共识，计划在未来五年内投入至少 10 亿美元用于相关领域的“能力建设”。由于当前面临的 AI 安全挑战具有高度的紧迫性，Anthropic 表示将直接资助埃森哲的相关工作。尽管 Anthropic 在其 6 月份发布的《高级人工智能框架》（Advanced AI Framework）中呼吁建立政府或公共资金支持的评估体系，但考虑到目前此类机制尚未成熟，公司决定采取多样化的融资安排与不同评估机构合作。

此前，Amodei 发布的一项包含三个步骤的计划在科技界引发了广泛讨论。该计划旨在限制人工智能公司提升最先进模型速度的节奏。此举源于近期学术界对 AI 可能导致灾难性后果的警告，使得 Anthropic 及其主要竞争对手 OpenAI 面临巨大的舆论压力。尽管 OpenAI 首席执行官 Sam Altman 和特斯拉/SpaceX 创始人埃隆·马斯克（Elon Musk）对该提议表示支持，但英伟达（Nvidia）首席执行官黄仁勋等业内人士则认为目前尚无必要引入新的监管限制。

在具体的合作细节上，Anthropic 已初步同意将埃森哲旗下的 AI 业务部门 Faculty 的员工“嵌入”到公司内部。这些人员将负责测试安全防线、进行红队测试（Red-teaming）以及评估模型是否符合人类价值观。值得注意的是，这一合作伙伴并非排他性的，Anthropic 目前仍在与非营利研究机构 METR 等其他第三方机构进行洽谈。

Anthropic 强调，引入嵌入式评估师并不意味着公司放弃对模型安全的最终责任。官方表示，公开这些早期尝试是为了让行业内的其他开发者能够看到其透明的流程。随着领域的不断成熟，Anthropic 计划持续优化其方法论，并随着更多评估机构的加入而进一步完善相关机制。

【小编观点】
Anthropic 此举反映了当前 AI 行业的一个核心矛盾：在追求技术突破的“速度”与确保人类安全的“刹车”之间寻找平衡点。通过引入埃森哲这样的巨头作为第三方审计，Anthropic 不仅是在建立防火墙，更是在试图为即将到来的 IPO（首次公开募股）构建更稳健的合规护城河。这种从“自律”转向“外部监督”的策略，可能会成为未来 AI 监管领域的标杆模式。

背景链接：

• Anthropic Advanced AI Framework (June 2024)
• Accenture's Faculty division specialized in AI integration.