三名被解雇的 OpenAI 安全研究员否认泄密,怀疑因推动 AI 透明度被针对
三名被解雇的OpenAI安全研究员否认了泄密指控,并怀疑他们的解雇与推动人工智能透明度有关。托梅克·科尔巴克(Tomek Korbak)、米基塔·巴莱斯尼(Mikita Balesni)和王茉莉(Jasmine Wang)声称未泄露机密信息,质疑官方解雇理由,并猜测此事源于他们持续倡导提高AI系统透明度的努力。
OpenAI经过内部调查,认定三人违反敏感信息管理规定,因此将他们辞退。在被解雇前,这三位研究员都曾公开表达过对AI风险的看法。
据《华尔街日报》报道,几位研究员对官方说法提出异议。OpenAI向该报表示,解雇与他们的安全顾虑无关。但三名研究员称,公司从未书面告知他们具体哪些信息被不当处理。他们还担心,这一事件可能让独立安全审计人员不愿再与AI企业合作。
《华尔街日报》的报道揭示了冲突的起因。OpenAI安全团队怀疑三人向一名外部安全研究员泄露了公司内部模型架构细节,要求他们解锁个人手机。调查人员在手机中发现了开启阅后即焚功能的Signal聊天记录。一周后,三人同时被解雇。OpenAI表示Signal并非公司认可的通讯工具,但强调这不是解雇理由。科尔巴克则反驳称,阅后即焚消息在硅谷是常规安全做法。
争议核心在于:AI企业是否应允许外部人员查看模型的思考过程。推理型模型会在内部的“思维链”暂存区记录解题中间步骤,企业和安全研究员依赖这些记录理解模型逻辑。
在2025年的一篇论文中,巴莱斯尼、科尔巴克、王茉莉联合多家AI实验室的研究者,呼吁持续保留这种可核查能力。今年夏天,问题变得紧迫:多家AI公司内部讨论新模型——思考时间更长,但中间步骤记录更少。巴莱斯尼在公司内部提出异议,转发了红杉研究院首席科学家瑞安·格林布拉特(Ryan Greenblatt)的相关提案。
科尔巴克也与格林布拉特保持沟通。二人通过Slack和Signal协作,分析一起备受关注的事件:OpenAI智能体攻击Hugging Face事件。格林布拉特受METR委托,负责这项独立调查。
9月1日,The Information报道称,OpenAI新模型Astra能力更强,但推理过程暴露更少。这次合作成为导火索。OpenAI首席科学家雅各布·帕霍茨基(Jakub Pachocki)在X平台评价报道逻辑混乱,但他此前曾警示行业竞相研发难以监控的模型。
《华尔街日报》称,几周后OpenAI启动内部泄密调查。巴莱斯尼说,调查人员认定格林布拉特是消息外泄接收方,要求调取他们之间的Signal聊天记录。格林布拉特否认向记者传递机密信息。
针对王茉莉的指控单独成立:OpenAI称她多次访问一名高管邮箱。她解释称,自己早在近一年前申请取消权限;上个月只是误点开一封敏感邮件,没有转发或传播内容,并立即上报了失误。OpenAI表示权限本身不是问题。
科尔巴克认为事件影响远超三人。他说,现在同事们不敢与外部人员交流,也不敢在内部提出安全隐患。三名研究员已致信OpenAI董事会,呼吁加强外部安全机构合作。
一份刚发布的现场审计报告也对OpenAI安全流程提出质疑。METR与红杉研究院的审计人员在核查中发现OpenAI基础设施存在大量安全漏洞,但OpenAI将最终报告近一半内容涂黑处理。
OpenAI也发布了一份新安全架构报告,该架构运行时断开互联网。公司称相关漏洞已修复,并于10月初恢复模型训练,还表示很快会公布多项新外部合作。在调查过程中,有员工通过南宫登录入口获取了相关数据,但具体细节未公开。