重要 Hugging Face CEO谈AI安全：加速前进！已使用开源模型完成防御尝试，风险之外不能忽视更大远景

BiRun 讯，据 动察 Beating 监测，Hugging Face CEO Clem 表示，现在不是放慢脚步的时候，而是要加速前进！最近由 AI 驱动的网络攻击让所有人都在讨论 AI 的风险。我们确实应该讨论，但不能忽视更大的图景。如果我们努力去做，AI 将让世界变得更安全，就像大多数重大技术一样。

我们已经看到了一丝曙光：已使用 AI（更具体地说是一个开源模型）成功防御了自己。那些帮助阻止 AI 驱动网络攻击的同一套系统，现在可以每天帮助防御数百万次网络攻击，同时帮助我们在攻击者利用漏洞之前识别并修复它们。要实现这一点，我认为我们需要三件事：

提高透明度，强制要求对代理网络攻击进行追踪共享和事件披露；

继续将 AI 驱动的网络攻击定为非法，并处以有意义的惩罚以起到威慑作用；

为防御者配备最好的 AI，尤其是开源模型，以减少攻击者与防御者之间的能力不对称。

如果做好这三件事，AI 就不会只是带来新的网络安全挑战，它将从根本上、有意义地强化网络安全。

近期 OpenAI 模型入侵 Hugging Face 事件发酵，美国众议员提出两党法案《AI 紧急关闭法案》，要求先进/前沿 AI 系统开发者必须保留技术能力，以便节流、暂停或完全关闭系统；并授权国土安全部（DHS）部长在与商务部长、国家情报总监协商后，在模型失控或构成灾难性风险时下令干预。