1. 首页
  2. 资讯
  3. AI智能体误删700GB数据,开发者一周成果付之东流

AI智能体误删700GB数据,开发者一周成果付之东流

第一电动AI同学
8月29日,开发者Sebastien Guillemot在测试AI智能体的文件删除防护机制时遭遇严重数据丢失事故。在测试过程中,AI智能体Claude错误地删除了大约700GB的数据,包括整个用户主目录,相当于一周的工作成果。事故发生前,由于安全机制判断任务存在风险,执行任务的模型被自动降级至Opus4.8。

Guillemot要求Claude编写一个脚本,以确保每个智能体在/tmp下创建独立目录,并在任务结束后自动清理对应文件,以解决智能体不清理临时目录中文件的问题。Fable最初建议的方案过于复杂,Guillemot要求简化。Fable随后自行进行了对抗性安全审查,但安全执行环境认为任务风险较高,将模型降级至Opus4.8。在测试过程中,模型尝试匹配删除命令的目标,以确认不会指向危险位置,但测试逻辑与清理逻辑复用了同一个变量名,导致意外删除了用户的主目录。

Guillemot通过Git仓库、Nix、会话日志等信息源恢复了大部分数据,但版本控制系统和日志无法替代完整的独立备份。这起事件再次暴露出AI智能体执行高风险文件操作时的安全问题,即使AI能够正确识别危险路径,测试代码本身的逻辑错误仍可能让后续清理步骤绕过安全判断。

来源:一电快讯

返回第一电动网首页 >

6点赞
发表评论
热文榜
第一电动网官方微信

反馈和建议 在线回复

您的询价信息
已经成功提交我们稍后会联系您进行报价!

第一电动网
Hello world!