華盛頓大學研究揭示AI智能體記憶存在提示注入風險

BiRun 消息，華盛頓大學一項研究指出，AI 智能體的記憶機製存在提示注入漏洞，攻擊者可在其中植入噁意數據，與正常信息混閤後形成持續性安全風險。由於噁意內容與閤法信息相互交織，此類攻擊難以被常規檢測手段識別，對依賴 AI 智能體進行自動化決策的應用場景構成潛在威脅。研究強調，亟需針對 AI 記憶層開發專門的防禦與檢測方案。