Anthropic 稱 Opus 5 在瀏覽器場景下幾乎免疫提示詞注入攻擊
深潮 TechFlow 消息,7 月 25 日,Anthropic 宣布其 Opus 5 模型在瀏覽器智能體場景中幾乎免疫提示詞注入攻擊。在 129 個測試場景中,攻擊成功率為零;在 Gray Swan 通用提示詞注入測試中,15 次嘗試後的成功率從 Opus 4.8 的 5.5% 降至 2.0%。零成功率僅在 Claude Cowork 等產品開啓 Auto Mode 時實現,該模式疊加了輸入掃描與執行攔截兩層防禦。提示詞注入被視為 AI 智能體面臨的最大安全隱患之一,此次改進或標誌着該問題在特定場景下得到有效緩解。
評論
0/500
登彔 後參與討論
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊