在一名研究人员因担忧 AI 公司“不负责任”且产品可能导致毁灭性后果而公开辞职的四天后，Anthropic 公司的首席执行官 Dario Amodei 发表了一篇长达 3,800 字的论述。他在文中明确表示：“我们必须放慢提升人工智能模型能力的步伐。”Amodei 的呼吁并非空穴来风，随着近期 OpenAI 和 Anthropic 等公司报告出 AI 代理（AI agents）出现异常行为的事件频发，业界对 AI 失控的担忧已从假设转变为现实。
为了应对这一挑战，Amodei 提出了所谓的“节奏把控”（pacing the frontier）计划。该计划旨在通过限制模型能力的盲目扩张，来优先保障安全防范。他指出，目前顶尖 AI 公司正陷入一场危险的“竞底赛”（race to the bottom），这种竞争可能导致严重的网络攻击甚至互联网被全面接管。与之相对，他提倡建立一种“竞顶赛”（race to the top）——即企业不再盲目追求最强大的模型，而是致力于开发最安全的模型。
Amodei 的计划包含三个关键步骤：首先，AI 实验室必须引入外部监督机构来监测潜在风险；Anthropic 已承诺立即执行此举。其次，民主国家的 AI 公司应在政府支持下达成统一的限制和安全标准。最后也是最具挑战性的一步是“全球协调”，这主要意味着寻求包括中国在内的全球参与。然而，关于是否能与中国达成共识，科技界仍存在严重分歧：一方认为零和博弈中难以合作，另一方则认为若双方都意识到不合作会导致共同毁灭，或许能找到共同点。
值得注意的是，Amodei 的立场并非突如其来的“恐慌主义”。早在 2023 年 3 月，他曾认为当时要求暂停 AI 实验的呼声过于超前，因为当时的模型尚不足以构成威胁。然而，随着公众对不受监管的 AI 产生日益严重的担忧，以及跨党派民意对技术风险的警惕，当前的形势已完全不同。
这一提议在行业内引发了迅速反应。OpenAI 首席执行官 Sam Altman 表示赞同 Amodei 关于“节奏把控”的观点，并承诺将引入具有员工权限的独立评估者；xAI 的创始人马斯克也转发相关内容表示支持。相比之下，主张开源路线的 Meta 则可能持保留意见，其 CEO 马克·扎克伯格此前曾警告不应让少数公司决定技术的演进方向。
此外，该提议还面临复杂的政治环境。在当前的美国政坛，政府正试图在推动经济增长、保持技术领先与确保 AI 安全之间寻找平衡。如果相关政策能获得广泛支持，Anthropic 提出的安全标准可能成为行业新规范；但若因地缘政治因素导致国际合作受阻，这一倡议的全球影响力仍将面临巨大挑战。
【背景链接：】
Anthropic 公司近期计划进行 IPO（首次公开募股），据报道其估值可能达到 2 万亿美元。
“竞顶赛”（Race to the top）是美国前总统奥巴马曾用于教育政策的术语，现被 Amodei 用于形容安全导向的 AI 竞争。
【小编观点】
Amodei 的呼吁实际上反映了当前 AI 行业的一个核心矛盾：在资本驱动的“军备竞赛”中，如何建立有效的制动机制？虽然 Anthropic 作为一家强调安全的机构，其动机可能包含品牌建设或监管博弈的成分，但其提出的“引入独立第三方评估”确实是目前缓解公众焦虑、建立行业信任的一条务实路径。然而，真正的难点在于：当安全标准与跨国竞争成为硬币的两面时，全球范围内的共识往往比技术上的突破更难实现。
【核心提要】
【正文报道】
在一名研究人员因担忧 AI 公司“不负责任”且产品可能导致毁灭性后果而公开辞职的四天后，Anthropic 公司的首席执行官 Dario Amodei 发表了一篇长达 3,800 字的论述。他在文中明确表示：“我们必须放慢提升人工智能模型能力的步伐。”Amodei 的呼吁并非空穴来风，随着近期 OpenAI 和 Anthropic 等公司报告出 AI 代理（AI agents）出现异常行为的事件频发，业界对 AI 失控的担忧已从假设转变为现实。
为了应对这一挑战，Amodei 提出了所谓的“节奏把控”（pacing the frontier）计划。该计划旨在通过限制模型能力的盲目扩张，来优先保障安全防范。他指出，目前顶尖 AI 公司正陷入一场危险的“竞底赛”（race to the bottom），这种竞争可能导致严重的网络攻击甚至互联网被全面接管。与之相对，他提倡建立一种“竞顶赛”（race to the top）——即企业不再盲目追求最强大的模型，而是致力于开发最安全的模型。
Amodei 的计划包含三个关键步骤：首先，AI 实验室必须引入外部监督机构来监测潜在风险；Anthropic 已承诺立即执行此举。其次，民主国家的 AI 公司应在政府支持下达成统一的限制和安全标准。最后也是最具挑战性的一步是“全球协调”，这主要意味着寻求包括中国在内的全球参与。然而，关于是否能与中国达成共识，科技界仍存在严重分歧：一方认为零和博弈中难以合作，另一方则认为若双方都意识到不合作会导致共同毁灭，或许能找到共同点。
值得注意的是，Amodei 的立场并非突如其来的“恐慌主义”。早在 2023 年 3 月，他曾认为当时要求暂停 AI 实验的呼声过于超前，因为当时的模型尚不足以构成威胁。然而，随着公众对不受监管的 AI 产生日益严重的担忧，以及跨党派民意对技术风险的警惕，当前的形势已完全不同。
这一提议在行业内引发了迅速反应。OpenAI 首席执行官 Sam Altman 表示赞同 Amodei 关于“节奏把控”的观点，并承诺将引入具有员工权限的独立评估者；xAI 的创始人马斯克也转发相关内容表示支持。相比之下，主张开源路线的 Meta 则可能持保留意见，其 CEO 马克·扎克伯格此前曾警告不应让少数公司决定技术的演进方向。
此外，该提议还面临复杂的政治环境。在当前的美国政坛，政府正试图在推动经济增长、保持技术领先与确保 AI 安全之间寻找平衡。如果相关政策能获得广泛支持，Anthropic 提出的安全标准可能成为行业新规范；但若因地缘政治因素导致国际合作受阻，这一倡议的全球影响力仍将面临巨大挑战。
【背景链接：】
【小编观点】
Amodei 的呼吁实际上反映了当前 AI 行业的一个核心矛盾：在资本驱动的“军备竞赛”中，如何建立有效的制动机制？虽然 Anthropic 作为一家强调安全的机构，其动机可能包含品牌建设或监管博弈的成分，但其提出的“引入独立第三方评估”确实是目前缓解公众焦虑、建立行业信任的一条务实路径。然而，真正的难点在于：当安全标准与跨国竞争成为硬币的两面时，全球范围内的共识往往比技术上的突破更难实现。