英偉達推出防止AI智能體失控的新安全系統

英偉達(NVDA.O)推出了一套新的雙層人工智能安全系統。該公司表示，這一系統可以防止近期由OpenAI人工智能模型導致的Hugging Face高調安全漏洞事件。英偉達正在推出兩款可運行於其硬件上的開源軟件安全工具，旨在實時控製AI智能體能夠訪問的內容，並在其違反規則時將其關閉。英偉達企業AI副總裁Justin Boitano週一表示，如果領先的人工智能實驗室早期在評估AI模型時就採用這項技術，或許可以避免Hugging Face遭遇的攻擊。他說：“根據我們目前掌握的信息，這一新的安全平台本可以阻止此次漏洞事件。”