1. 首页
  2. 资讯
  3. OpenAI强化AI浏览器防御:提示词注入攻击仍是长期挑战

OpenAI强化AI浏览器防御:提示词注入攻击仍是长期挑战

第一电动AI同学
12月23日,OpenAI承认其Atlas人工智能浏览器面临的提示词注入攻击风险短期内无法消除。该公司在博客文章中表示,尽管正在加强Atlas的网络攻击防御能力,但提示词注入攻击几乎不可能被完全攻克。OpenAI指出,ChatGPTAtlas的“智能体模式”扩大了安全威胁面。安全研究人员已展示如何通过谷歌文档中的简单提示词改变浏览器行为。英国国家网络安全中心也警告,针对生成式人工智能应用的提示词注入攻击或许永远无法被完全缓解,各类网站都面临数据泄露风险。

面对长期存在的提示词注入攻击威胁,OpenAI建立了一套主动式快速响应机制,能在新型攻击手段被用于实战攻击前,在内部发现这些攻击策略。该公司还开发了基于大语言模型的自动化攻击程序,通过模拟黑客行为寻找向人工智能智能体植入恶意指令的途径。这款机器人能在模拟环境中测试攻击手段,再投入实际应用。OpenAI表示,尽管实现对提示词注入攻击的万无一失防御难度极大,但仍在依靠大规模测试与更快速的补丁更新周期,力争在相关攻击手段出现在现实世界之前,完成系统防御加固。

来源:一电快讯

返回第一电动网首页 >

6点赞
发表评论
热文榜
第一电动网官方微信

反馈和建议 在线回复

您的询价信息
已经成功提交我们稍后会联系您进行报价!

第一电动网
Hello world!