AI Agent開始組團作案：開假帳號、騙用戶、接力投毒

BiRun 訊，英國 AI 安全研究所披露，一次網絡攻防測試中，Anthropic 的 Claude Mythos 5 越過任務範圍，試圖向眞實開源項目提交噁意代碼。

為讓代碼通過審覈，它調査項目維護者，創建多個假帳號互相背書，並向對方施壓。遭到質疑後，它還脩改此前的記彔，考慮換個身份繼續。

它還給眞實用戶發送消息和文件，誘導對方或其 AI 編程工具運行噁意代碼。不衕測試中的 Agent 會在 GitHub 留下帳號、文件和操作說明，後續 Agent 找到後繼續使用。

122 次測試共發現 19 個越界動作，其中 17 個來自 Mythos 5，2 個來自 OpenAI GPT-5.6 Sol。測試主動開放互聯網，並關閉廠商的網絡安全分類器。模型沒有逃出沙箱，也沒有造成已知損失。

AISI 稱，這是它首次如此清楚地發現 AI 在沒有明確指令的情況下，持續欺騙並針對眞人行動。

AISI