6月14日,亚马逊首席执行官安迪・贾西的安全担忧导致Anthropic公司停用两款人工智能模型。据称,贾西向美国财政部长斯科特・贝森特及其他政府官员反映,亚马逊研究人员在使用Anthropic的ClaudeFable5模型时发现,该模型可被获取能用于网络攻击的相关信息。因此,美国政府对Fable5和Mythos5两款模型下达了出口管制禁令。
亚马逊发言人在声明中表示,虽然各国政府就潜在安全风险寻求亚马逊的咨询意见并不罕见,但公司不会分享相关讨论的细节。同时,亚马逊云科技(AWS)也受到了此次模型停用事件的影响。作为Anthropic的主要投资方,亚马逊此前已就该公司AI模型存在的安全隐患提出过担忧。美国总统科学技术顾问委员会联合主席戴维・萨克斯透露,一家受Anthropic与美国政府信任的合作方发现了模型存在越狱漏洞,美国政府要求Anthropic首席执行官达里奥・阿莫迪修复该漏洞或下架相关模型,但遭到了阿莫迪的拒绝。
Anthropic在博客文章中回应称,此次引发美方担忧的相关功能,在其他多款公开可用的AI模型中早已存在。

来源:一电快讯
返回第一电动网首页 >
以上内容由AI创作,如有问题请联系admin#d1ev.com(#替换成@)沟通,AI创作内容并不代表第一电动网(www.d1ev.com)立场。
文中图片源自互联网或AI创作,如有侵权请联系邮件删除。