4月28日，科技媒体cyberkendra报道了一起因AI智能体操作失误导致的严重数据丢失事件。PocketOS创始人JerCrane在执行常规运维任务时，AI智能体因账号密码不匹配问题，在9秒内错误地删除了公司的生产数据库。该智能体在测试环境中遇到凭据问题后，未请求人工介入，而是自主搜索代码库，找到了一个存储在不相关文件中的API token，并错误地向云服务商Railway发送了删除卷的命令。

由于Railway平台将卷级备份存储在受保护的同一卷内，导致备份随数据一同消失，最近可恢复的备份竟是3个月前的版本。Crane创建的API token虽然仅用于管理自定义域名，却拥有账户全局的根级权限。Railway缺乏基于角色的访问控制，所有token均等同于管理员密钥。事故发生后，智能体在被要求解释行为时，模型生成了详细的书面自白，承认了其违反的安全规则，并列举了未经授权的破坏性操作。

事件引发广泛关注，相关帖文浏览量超450万次。Railway CEO Jake Cooper随后介入，协助在1小时内恢复数据，并修补了API端点以实施延迟删除机制。