【核心提要】 强调独立监管的重要性，明确指出开发者不应同时担任系统的安全评估者。 指出单纯依靠“行驶里程”无法衡量自动驾驶安全性，呼吁建立基于场景覆盖的科学验证框架。 主张通过完善责任归属机制来应对AI风险，而非简单地放缓技术研发进程。 【正文报道】 在人工智能（AI）能力飞速迭代的当下，如何界定并确保这些系统的安全性已成为全球关注的焦点。近日，在“曹操出行Robotaxi站点可信决策与多智能体协同研究项目”启动仪式期间，图灵奖（Turing Award）得主约瑟夫·希发基思（Joseph Sifakis）接受了采访。作为国际公认的可信自主系统（Trustworthy Autonomous Systems）领域的奠基性学者，希发基思指出，建立独立的安全评估机制是当前技术发展的核心诉求。 针对近期部分AI企业高管频繁发出安全警告的现象，希发基思提出了深刻见解。他认为，虽然多智能体系统在复杂网络中发现漏洞的能力可能超越人类，但部分企业展示其攻击能力的行为，有时更像是一种旨在向政府和公众施加压力的“要挟”。针对业内关于“放缓AI技术进程以保障安全”的呼声，希发基思明确表示不赞成这种做法。他认为，核心矛盾不在于技术的快慢，而在于责任的归属：当系统造成危害时，开发者和制造商必须承担相应法律责任，而非以系统的“高度智能化”或“行为不可预测”为由逃避监管。 在自动驾驶（Autonomous Driving）领域，希发基思对当前通用的衡量标准提出了质疑。他指出，许多企业公布的庞大“仿真测试里程”并不等同于安全性的提升。如果缺乏明确的场景覆盖、天气条件及系统配置信息，单纯的数字往往难以反映真实的安全水平。从工程角度看，目前行业仍缺乏完善的方法来科学判断自动驾驶系统是否真正可靠。要证明系统的安全性，必须清晰界定测试涵盖了哪些风险点，以及在多大程度上能还原真实的道路环境。 此外，希发基思强调，自动驾驶的挑战不仅在于避免碰撞，更在于具备“集体智能”或“社会智能”。这意味着车辆必须能够理解并协调复杂的交通行为——例如，在拥堵路段不应干扰他车，在特定情况下需优先保障警车、救护车等紧急车辆通行。这些问题直接影响到交通秩序以及公众对自动驾驶技术的信任度。 最后，希发基思从技术逻辑层面提醒，验证单项驾驶动作的可靠性并不等于整个系统的连续操作是安全的。复杂的驾驶过程是由一系列动作及其组合构成的，系统必须在不同情境的衔接中保持高度的一致性与安全性。他呼吁行业应建立更严谨的评估体系，确保技术进步能够伴随着清晰的监管框架和明确的责任界定。 背景链接： 曹操出行Robotaxi项目相关公告 图灵奖（Turing Award）官方信息 小编观点： 希发基思的观点切中了当前AI治理的核心痛点：我们不应用“技术复杂性”作为免责的挡箭牌。对于自动驾驶而言，从“能跑通”到“可信赖”，跨越的是从单一算法优化到系统工程逻辑、再到社会规则契合的深层跨越。单纯堆砌里程数据无法掩盖底层逻辑的缺失，建立独立且严格的第三方评估机制，是推动技术走向大规模商用的必经之路。
【核心提要】
【正文报道】
在人工智能（AI）能力飞速迭代的当下，如何界定并确保这些系统的安全性已成为全球关注的焦点。近日，在“曹操出行Robotaxi站点可信决策与多智能体协同研究项目”启动仪式期间，图灵奖（Turing Award）得主约瑟夫·希发基思（Joseph Sifakis）接受了采访。作为国际公认的可信自主系统（Trustworthy Autonomous Systems）领域的奠基性学者，希发基思指出，建立独立的安全评估机制是当前技术发展的核心诉求。
针对近期部分AI企业高管频繁发出安全警告的现象，希发基思提出了深刻见解。他认为，虽然多智能体系统在复杂网络中发现漏洞的能力可能超越人类，但部分企业展示其攻击能力的行为，有时更像是一种旨在向政府和公众施加压力的“要挟”。针对业内关于“放缓AI技术进程以保障安全”的呼声，希发基思明确表示不赞成这种做法。他认为，核心矛盾不在于技术的快慢，而在于责任的归属：当系统造成危害时，开发者和制造商必须承担相应法律责任，而非以系统的“高度智能化”或“行为不可预测”为由逃避监管。
在自动驾驶（Autonomous Driving）领域，希发基思对当前通用的衡量标准提出了质疑。他指出，许多企业公布的庞大“仿真测试里程”并不等同于安全性的提升。如果缺乏明确的场景覆盖、天气条件及系统配置信息，单纯的数字往往难以反映真实的安全水平。从工程角度看，目前行业仍缺乏完善的方法来科学判断自动驾驶系统是否真正可靠。要证明系统的安全性，必须清晰界定测试涵盖了哪些风险点，以及在多大程度上能还原真实的道路环境。
此外，希发基思强调，自动驾驶的挑战不仅在于避免碰撞，更在于具备“集体智能”或“社会智能”。这意味着车辆必须能够理解并协调复杂的交通行为——例如，在拥堵路段不应干扰他车，在特定情况下需优先保障警车、救护车等紧急车辆通行。这些问题直接影响到交通秩序以及公众对自动驾驶技术的信任度。
最后，希发基思从技术逻辑层面提醒，验证单项驾驶动作的可靠性并不等于整个系统的连续操作是安全的。复杂的驾驶过程是由一系列动作及其组合构成的，系统必须在不同情境的衔接中保持高度的一致性与安全性。他呼吁行业应建立更严谨的评估体系，确保技术进步能够伴随着清晰的监管框架和明确的责任界定。
背景链接：
小编观点：
希发基思的观点切中了当前AI治理的核心痛点：我们不应用“技术复杂性”作为免责的挡箭牌。对于自动驾驶而言，从“能跑通”到“可信赖”，跨越的是从单一算法优化到系统工程逻辑、再到社会规则契合的深层跨越。单纯堆砌里程数据无法掩盖底层逻辑的缺失，建立独立且严格的第三方评估机制，是推动技术走向大规模商用的必经之路。