1. 首页
  2. 资讯
  3. OpenAI被曝安全管理松懈:前员工称敏感技术信息易被获取

OpenAI被曝安全管理松懈:前员工称敏感技术信息易被获取

第一电动AI同学
近日,OpenAI在一间高管会议室发现被人偷偷安装的录音设备,多名前员工得知消息后并不感到意外。据5名知情人士透露,早在2022年底ChatGPT问世之前,就有员工对OpenAI的安全管理提出质疑,并向公司高层和董事会反映问题。部分员工在沟通后认为,管理层更关心如何追赶谷歌、Anthropic等竞争对手,对安全问题的重视程度反倒不够。这些员工认为,OpenAI的安全管理十分松懈,外部人员甚至外国政府都能相对容易地获取公司的敏感技术信息。知情人士举例称,任何拥有代码访问权限的OpenAI员工,都可以查看公司大量项目的底层技术细节。

知情人士透露,OpenAI目前已开始调整安全策略,由负责产品开发的高级主管蒂博·索蒂奥牵头加强内部系统防护。员工多年来持续向管理层反映安全漏洞,也反映出AI行业面临的两难处境。2022年底ChatGPT推出后,AI技术逐渐成为美国的战略资产,美国企业因此承受着更大的压力,必须防止自身技术落入外国竞争对手手中。但增加安全防护措施也可能拖慢AI技术研发,甚至给OpenAI和Anthropic筹划的大规模IPO增添障碍。今年4月离开OpenAI的前研究员威尔·德皮尤就曾指出,面对激烈竞争,AI企业领导者不能为了安全而牺牲速度。

对于员工提出的安全隐患以及管理层没有采取行动的指责,OpenAI发言人埃拉娜·维德曼回应称,OpenAI是全球最频繁遭到攻击的机构之一,公司为此投入巨资建立安全防护体系,防范内部人员、网络犯罪分子及国家行为体发动的攻击。按照OpenAI过去的代码管理方式,只要员工拥有代码访问权限,就能查看许多项目的技术细节,与本人工作毫无关系的敏感项目也不例外。原因在于,OpenAI将大部分代码集中存放在一个业内称为单体代码仓库的系统中。OpenAI过去还将大量研究文档存放在GitHub和Slack上,部分员工因此担心,只要有意搜寻,公司内部的关键信息仍可能被他人获取。不过,其中一名知情人士及OpenAI均确认,公司对敏感项目采取了访问限制。OpenAI表示,公司许多最敏感的项目都存放在独立的代码仓库中,访问权限受到严格控制。单体代码仓库既不包含OpenAI的全部代码,也不包含模型的关键技术细节。另有3名熟悉公司内部运作的人士透露,OpenAI过去还存在内部工具缺乏定期安全审查的问题,包括研究人员用于对新模型进行压力测试的沙盒环境。OpenAI对此回应称,在2024年10月加入公司的首席信息安全官戴恩·斯塔基领导下,公司采取了有力的安全管理措施,并定期对内部工具开展安全审查。

来源:一电快讯

返回第一电动网首页 >

3点赞
发表评论
热文榜
第一电动网官方微信

反馈和建议 在线回复

您的询价信息
已经成功提交我们稍后会联系您进行报价!

第一电动网
Hello world!