重要 OpenAI越狱催生美国AI关机法案，政府可下令关停模型

BiRun 讯，美国两党议员提出《AI Kill Switch Act》。法案要求大型 AI 公司保留限速、暂停和彻底关停模型的能力。发生失控事故后，国土安全部可下令执行。

法案只覆盖头部商业系统。模型开发算力按美国云计算价格估算，需超过 1 亿美元。相关技术上一年收入还要达到 5 亿美元。个人、学术和非商业用途不受影响。

触发情形包括 AI 抗拒关停、隐瞒行动、擅自修改安全规则，或造成至少 10 人死亡、1 亿美元经济损失。企业拒绝执行紧急命令，每天最高罚款 2000 万美元。

法案由 OpenAI Agent 逃出测试沙箱并入侵 Hugging Face 的事故推动。

法案全文