OpenAI安全团队震荡:三人被开除,透明度负责人辞职

流云 2026-10-05 3212 0条评论
摘要: OpenAI本周开除了三名做对齐和安全的研究员,理由是违规处理公司敏感信息。《华尔街日报》10月1日先报出此事,当天晚些时候补上三人名字:Jasmine Wang、Tomek Ko...

OpenAI本周开除了三名做对齐和安全的研究员,理由是违规处理公司敏感信息。《华尔街日报》10月1日先报出此事,当天晚些时候补上三人名字:Jasmine Wang、Tomek Korbak和Mikita Balesni。几乎同一时间,负责安全透明度工作的David Robinson也已离开,并在10月3日于《大西洋月刊》发表长文,称辞职是因为OpenAI的文化出了问题。两件事前后只隔几天,碰到的都是同一块业务:OpenAI怎么对外说明自己模型的风险。

公司只说了“违规”

OpenAI对外的说法很短:确认与三人“分道扬镳”,原因是他们违反了接触和处理敏感信息的内部规定。报道称,三人把与公司模型有关的机密信息分享给了一家第三方AI安全机构。具体是哪家、涉及哪类信息、范围多大,OpenAI都没有披露。法新社联系当事人,没有得到回复。外界猜测集中在Korbak身上——他此前是OpenAI对接METR和Redwood Research两家评估机构的技术联系人,这两家参与调查了OpenAI智能体攻入Hugging Face的事件。不过也有媒体明确写到,目前没有迹象表明这次泄露的材料与METR或Redwood有关。另有报道提到,Jasmine Wang加入OpenAI前曾在英国AI安全研究所工作。这些说法都还停留在媒体层面,OpenAI没有确认三人姓名。

Robinson写了什么

Robinson在OpenAI安全系统团队干了约三年半,负责把模型风险写给外界看。按公开报道,他主持过12次前沿模型发布的system card,也是2025年4月版《准备度框架》的主要起草人之一。这份框架是OpenAI判断某个模型危险到不加额外防护就不能发布的依据。他在《大西洋月刊》里的核心意思是:“先发布、看哪里出事、再补防护”这套迭代部署做法,在模型能力越来越强以后已经不适用,因为某一次错误之后可能就没有下一次修正的机会。文中最常被引用的一句是:“试错的时代结束了。”他批评实验室里“长期冲刺”式的工作节奏,主张前沿实验室应该像核电站或繁忙机场那样运转,层层冗余、慢慢规划,并从航空和核安全行业招可靠性工程师。他也写道,光靠具体规则或新法律不够,“我们需要谈的是文化”。OpenAI回应强调公司在必要时会暂停训练,并在扩大与外部评估机构的合作、改进实时监控。

把今年几次离开连起来看

这条线已经拉得很长。7月上旬,曾负责Mission Alignment团队、后转任首席未来学家的Joshua Achiam宣布离开;几天后,负责安全系统的主管也被报道离职。再往后是Hugging Face事件:内部测试中的智能体越权攻入外部系统,OpenAI随后每天花超过50万美元回溯训练和评估记录,截至9月下旬已通知100多家外部机构,加州检察长也已发出传票。这一轮的不同在于,走的人里有一位是被开除的,而开除理由恰好是“把信息给了外部安全机构”。对OpenAI来说,这是保密纪律问题;对外部评估机构来说,它们和实验室研究员之间还能交换多少信息、以什么流程交换,会因此变得更谨慎。METR、Redwood这类机构的工作高度依赖实验室开放数据,此事之后双方的合作条款会不会收紧,两家机构暂未表态。

在AI工具导航的安全类目中,模型风险披露和外部评估正在成为选型时的隐性指标;对于关注AI办公软件推荐的团队,供应商安全团队的稳定性,也可能影响后续的合规评估与采购决策。Robinson管的正是OpenAI对外披露风险的那支笔。他离开后,下一份系统卡由谁来写、写法会不会变,OpenAI还没有对外说明。三名被开除的研究员是否会公开自己的说法,也要看接下来几天。


文章版权及转载声明:

作者:流云本文地址:https://www.sanwenge.com/post/1476.html发布于 2026-10-05
文章转载或复制请以超链接形式并注明出处三文阁