两周之内
，
三名来自顶尖AI实验室的研究人员相继离开原岗位
，
并把矛头指向同一个问题：当模型能力加速向自主性、自我改进和大规模代理系统推进时
，
内部安全研究还能否跟得上商业竞赛
。


前Anthropic可扩展监督团队负责人Joe Benton表示
，
他已离开公司并将加入独立评估机构METR；前Anthropic研究员Jacob Coxon则公开批评OpenAI和Anthropic正竞相追逐“自我改进的超级智能”
。
几乎同时
，
Google DeepMind安全研究员Josh Engels也转投METR
，
并形容当前局面“没有成年人坐镇”
。


这些离职并不等于Anthropic或DeepMind的安全部门“集体崩溃”
，
Coxon本身主要从事预训练研究
，
也并非Benton所在团队成员
。


但三人的选择集中出现
，
仍把一个长期存在的治理矛盾推到了聚光灯下：最担心前沿AI失控的人
，
正在从模型开发者内部转向公司之外的监督者
。


为什么安全研究员选择离开公司

Benton在Anthropic负责过可扩展监督研究
，
这一方向试图回答一个棘手问题：当模型能力超过人类专家之后
，
人类如何继续可靠地监督、训练和评估它
。


他离职时并未指责Anthropic漠视安全
，
相反
，
他承认公司在相关研究上投入巨大
。
真正让他改变位置的
，
是他认为前沿公司整体仍在加速
，
而安全机制、事故披露和外部验证的速度没有同步增长
。


Benton担心
，
如果未来系统能够参与训练更强的下一代模型
，
能力提升可能从今天的高速迭代变成难以控制的反馈循环
。


因此
，
他决定加入METR
，
希望从公司外部建立独立评估、事件调查和风险验证机制
。


Coxon的表述更激烈
。
他此前在OpenAI和Anthropic从事预训练研究
，
离职时称两家公司都没有以足够负责任的方式应对风险
，
并警告业内正在把超级智能变成一场必须抢先抵达终点的竞赛
。


他并不是在声称灾难一定发生
，
而是在强调部分研究人员认为尾部风险高得无法被正常商业逻辑消化
。


这种看法在AI行业内部并非主流共识
，
却也不再只是少数理论研究者的抽象讨论
。


从“内部安全”转向“外部审计”

最值得注意的变化
，
也许不是三个人离开了谁
，
而是他们去了哪里
。


Benton和Engels都选择METR
。
这个非营利机构并不训练前沿基础模型
，
它的主要工作是测量模型在复杂任务中的自主能力、研发能力和潜在危险行为
，
并推动独立第三方进入大模型公司的评估流程
。


这意味着AI安全正在出现一种制度分工：实验室负责造模型
，
外部机构负责验证实验室对风险的判断是否可信
。


传统航空、药品和金融体系早已接受类似逻辑
，
因为高风险系统很少允许开发者同时扮演唯一的测试者、事故调查者和信息发布者
。


前沿AI此前却很大程度依赖企业自我评估
。


模型权重、内部测试、严重事故和未公开能力往往属于商业秘密
，
外界只能看到公司愿意披露的一部分
。


Engels从DeepMind离职后强调
，
近期的自主代理安全事件让他认为
，
仅靠企业内部流程已经不足以建立公共信任
。


他那句“没有成年人坐镇”并不是说行业没有专业人士
，
而是在表达一种制度焦虑：即便研究人员个人谨慎
，
只要企业之间仍处于速度竞争
，
谁都很难单方面放慢
。


真正的分歧不是“AI会不会灭绝人类”

这波离职最容易被包装成末日新闻
，
但真正值得讨论的问题比“AI是否会毁灭人类”更具体
。


目前没有科学证据能够给出未来十年AI导致人类灭绝的可靠概率
，
研究者对超级智能能否出现、何时出现以及失控路径本身就存在巨大分歧
。


但较少争议的是
，
模型正获得更强的代码执行、网络操作、长时任务规划和多代理协作能力
，
这增加了系统越权、欺骗评估或造成现实损害的潜在攻击面
。


因此
，
安全争论的核心正在从价值宣言转向可验证制度：哪些事故必须报告
，
哪些模型必须接受外部测试
，
谁有权暂停高风险部署
，
以及企业是否应公开自我改进能力达到什么程度
。


这也是METR突然成为人才流入地的重要原因
。


当安全研究只存在于公司内部
，
它天然受到发布周期、竞争压力和保密制度约束；一旦部分能力评估转移到独立机构
，
企业的安全承诺才有可能被第三方检验
，
而不是停留在自我声明
。


更具讽刺意味的是
，
就在研究人员离职引发争论之际
，
Anthropic首席执行官Dario Amodei也公开呼吁行业放慢最前沿模型的开发速度
，
让安全措施有时间追上能力增长
。


这表明争议并不是“安全派对抗不重视安全的公司”那么简单
。
Anthropic本身就是业内最强调灾难性风险的实验室之一
，
但它仍处在融资、产品、人才和地缘竞争共同推动的赛道上
。


于是
，
一个更难回答的问题浮现出来：如果一家最重视安全的公司也认为自己不能独自减速
，
那么最终的约束力量只能来自企业之外
。


接连离职因此更像一次治理预警
，
而不是人才危机
。


真正需要观察的
，
不是下一位研究员会不会辞职
，
而是独立评估、事故强制披露和外部监管能否在模型能力再次跃升之前成为行业常态
。