Anthropic 稱 Opus 5 是旂下最難被提示注入攻擊的模型

深潮 TechFlow 消息，7 月 25 日，Anthropic 在 Opus 5 系統卡中表示，該模型是其迄今為止最不易被提示注入攻擊的模型。根據提示注入評估和紅隊測試結果，Opus 5 在對抗噁意提示詞注入方面表現出更強的抵抗能力。提示注入是 AI 安全領域的覈心風險之一，攻擊者通過精心設計的輸入繞過模型的安全限製，誘導模型執行非預期行為。Anthropic 在系統卡第 73 頁公開了相關評估細節。