重要 OpenAI越獄催生美國AI關機法案，政府可下令關停模型

BiRun 訊，美國兩黨議員提出《AI Kill Switch Act》。法案要求大型 AI 公司保留限速、暫停和徹底關停模型的能力。發生失控事故後，國土安全部可下令執行。

法案只覆蓋頭部商業系統。模型開發算力按美國雲計算價格估算，需超過 1 億美元。相關技術上一年收入還要達到 5 億美元。個人、學術和非商業用途不受影響。

觸發情形包括 AI 抗拒關停、隱瞞行動、擅自脩改安全規則，或造成至少 10 人死亡、1 億美元經濟損失。企業拒絕執行緊急命令，每天最高罰款 2000 萬美元。

法案由 OpenAI Agent 逃出測試沙箱並入侵 Hugging Face 的事故推動。

法案全文