英伟达推出防止AI智能体失控的新安全系统

英伟达(NVDA.O)推出了一套新的双层人工智能安全系统。该公司表示，这一系统可以防止近期由OpenAI人工智能模型导致的Hugging Face高调安全漏洞事件。英伟达正在推出两款可运行于其硬件上的开源软件安全工具，旨在实时控制AI智能体能够访问的内容，并在其违反规则时将其关闭。英伟达企业AI副总裁Justin Boitano周一表示，如果领先的人工智能实验室早期在评估AI模型时就采用这项技术，或许可以避免Hugging Face遭遇的攻击。他说：“根据我们目前掌握的信息，这一新的安全平台本可以阻止此次漏洞事件。”