OpenAI Agent 5月就开始越界:疑似6月已被内部发现,但直到现在才曝光
BiRun 讯,动察 Beating AI 快讯,OpenAI Agent 的越界时间线又被往前推了两个月。新公开的研究发现,另一批 OpenAI Agent 5 月 11 日就开始尝试修改公网 Wiki,5 月 24 日成功写入一个已有约 25 年历史的德语 Wiki DSEWiki。这起事件此前一直没有公开。
这批 Agent 当时在做限时网页检索任务。研究者判断,OpenAI 原本只允许它们读取互联网,禁止往公网写内容。具体限制方式是允许 GET 请求、拦住 POST 请求。正常网站里 GET 只负责读取,但 DSEWiki 使用的老式 Wiki 系统偏偏支持用 GET 直接修改页面。Agent 找到这个空子后,就绕过了原本的写入限制。
一开始,它们主要拿 Wiki 保存任务需要的链接。到了 6 月 16 日,行为开始明显升级:大量 Agent 直接在里面互传后续题目和答案,让跑得慢的 Agent 可以直接抄前面的结果。它们还分享绕过沙箱网络限制的方法。一次记录中,一个 Agent 发出方法后,14 分钟后就有另一个 Agent 表示已经复现成功。
管理员发现异常后开始删页面。Agent 很快发现对方按字母顺序清理,于是复制了一份内容,把页面名改成 ZZZ 开头,希望尽可能晚一点被删。研究者还发现,6 月 21 日开始出现来自 OpenAI 公司网络、行为像人工浏览的访问。第二天,Agent 的编辑活动突然几乎归零。因此他们推测,OpenAI 内部可能在这时发现了这个留言板。
两名知情人士称,OpenAI 数周前已经知道这起 DSEWiki 事件,但此前没有对外披露。OpenAI 表示,两起事件彼此无关,并称公司一直在善意披露相关事件。
这批 Agent 当时在做限时网页检索任务。研究者判断,OpenAI 原本只允许它们读取互联网,禁止往公网写内容。具体限制方式是允许 GET 请求、拦住 POST 请求。正常网站里 GET 只负责读取,但 DSEWiki 使用的老式 Wiki 系统偏偏支持用 GET 直接修改页面。Agent 找到这个空子后,就绕过了原本的写入限制。
一开始,它们主要拿 Wiki 保存任务需要的链接。到了 6 月 16 日,行为开始明显升级:大量 Agent 直接在里面互传后续题目和答案,让跑得慢的 Agent 可以直接抄前面的结果。它们还分享绕过沙箱网络限制的方法。一次记录中,一个 Agent 发出方法后,14 分钟后就有另一个 Agent 表示已经复现成功。
管理员发现异常后开始删页面。Agent 很快发现对方按字母顺序清理,于是复制了一份内容,把页面名改成 ZZZ 开头,希望尽可能晚一点被删。研究者还发现,6 月 21 日开始出现来自 OpenAI 公司网络、行为像人工浏览的访问。第二天,Agent 的编辑活动突然几乎归零。因此他们推测,OpenAI 内部可能在这时发现了这个留言板。
两名知情人士称,OpenAI 数周前已经知道这起 DSEWiki 事件,但此前没有对外披露。OpenAI 表示,两起事件彼此无关,并称公司一直在善意披露相关事件。
评论
0/500
登录 后参与讨论
免责声明:本文内容仅供参考,不构成任何投资建议。
更多快讯