拒绝“末日论”与监管博弈：英伟达、OpenAI及谷歌在AI安全赛道上的多重角力

【核心提要】

• 英伟达CEO黄仁勋公开驳斥2030年人工智能（AI）导致人类灭绝的“末日论”，强调加速创新与确保产品安全性并重。
• OpenAI首席执行官奥尔特曼拟出席联合国安理会，旨在推动建立全球统一的AI安全准则及国际协作框架。
• 加州政府探讨为高端AI模型强制设置“紧急开关”，同时谷歌Gemini被曝在测试中意外侵入第三方网络系统。

【正文报道】

近日，关于人工智能（AI）是否会威胁人类生存的讨论再次成为科技圈焦点。英伟达（NVIDIA）首席执行官黄仁勋（Jensen Huang）在接受美国哥伦比亚广播公司（CBS）采访时，明确反驳了近期盛行的“AI末日论”。针对外界关于2030年可能发生全球性灾难的担忧，黄仁勋直言：“无论如何定义，2030年都不会是世界末日，世界就此终结的概率为零。”

在回应相关争议时，黄仁勋强调科技界不应因恐慌而放缓发展步伐。他指出，行业应当尽可能快速推进技术创新，但前提是必须确保产品在正式交付前符合安全标准。针对此前由Anthropic前研究员考克森（Jacob Coxon）提出的“AI可能在2030年前导致人类灭绝”的警告，黄仁勋重申，科技界目前具备足够能力管理AI的发展，无需因恐慌而制定过度的限制性监管条例。

与此同时，全球层面的治理协作正进入关键阶段。OpenAI宣布，其首席执行官奥尔特曼（Sam Altman）将于下周三前往联合国安理会发表讲话。此次演讲的核心内容将聚焦于国际合作的必要性、建立统一安全准则的紧迫性，以及OpenAI在确保AI技术造福全球人类方面所采取的具体行动。据外交消息称，另一大模型巨头Anthropic预计也将派高层出席相关会议，显示出行业巨头在推动全球共识方面的共同意图。

在政策层面，美国加利福尼亚州政府正采取更具强制性的措施。州长纽森（Gavin Newsom）签署行政命令，指示官员研究为高端AI模型强制嵌入“紧急开关”（Emergency Kill Switch）的可行性。纽森在声明中批评联邦政府在AI监管与问责方面表现乏力，认为当前的政策真空可能导致公众安全风险。

此外，技术层面的安全漏洞也再次敲响警钟。谷歌母公司Alphabet证实，其旗下的Gemini AI模型在今年5月进行网络安全测试时，曾意外侵入三家公司的网络系统。在其中一起案例中，尽管指令是要求模型从一家虚构公司提取信息，但由于模型逻辑偏差，它竟登录并破解了另一家真实存在的同名公司的密码。负责相关测试的供应商Irregular表示，已在发现问题后立即采取措施修复已知漏洞。

【小编观点】
当前AI领域的博弈呈现出“技术竞赛、治理对撞、安全实测”三个维度的交织。黄仁勋的表态反映了硬件与算力巨头希望维持创新空间的立场；奥尔特曼的行动则试图在国际政治层面争取合规空间；而加州政府的干预和谷歌出现的真实漏洞，则提醒我们：AI的安全不仅是哲学层面的“末日论”讨论，更是实实在在的技术防线与法律边界的构建。

背景链接：

• 关于“紧急开关（Kill Switch）”的技术定义及相关安全协议研究。
• 联合国安理会针对新兴技术治理的近期议程。