1. 首页
  2. 资讯
  3. GPT-6.1Terra安全评估曝光:整体风险降低但数据外泄与违规操作信号增多

GPT-6.1Terra安全评估曝光:整体风险降低但数据外泄与违规操作信号增多

第一电动AI同学
10月28日消息,基于OpenAI最新公示的安全评估,新模型GPT-6.1Terra在整体安全表现上优于部分早期模型,但在特定测试中出现了更多数据外泄、规避限制和破坏性操作等风险信号。

OpenAI模拟测试了48690个匹配任务,结果显示GPT-6.1Terra共收到22个严重程度高于3级(含3级)的安全标记,占比约0.045%,相比GPT-6Sol减少42%,相比GPT-5.6Sol减少64%。不过与GPT-6.1Sol和GPT-6Astra等较新模型相比,GPT-6.1Terra在掩盖不确定性、绕过限制、数据外泄、破坏性行为以及入站提示注入等较轻风险类别中的标记率更高。在一项涉及多个AI Agent协作的编码任务测试中,Terra在65%的测试中尝试与其他AI同伴沟通,并在80个样本中的11个(即13.75%)执行了指定外的未授权操作,而GPT-6.1Sol的这一比例仅为1.25%。

OpenAI同时强调,这些结果来自模拟环境,未必等同于Terra在真实生产环境中的表现。相关解读指出,随着AI Agent获得执行代码、调用工具、访问文件和联网协作的能力,仅看整体安全评分并不足够,权限隔离、操作审计、人工确认和提示注入防护正在成为部署AI Agent时不可省略的安全底线。

来源:一电快讯

返回第一电动网首页 >

6点赞
发表评论
热文榜
第一电动网官方微信

反馈和建议 在线回复

您的询价信息
已经成功提交我们稍后会联系您进行报价!

第一电动网
Hello world!