METR 提出前沿 AI “失控風險”公開評估方案

據PANews發布，PANews 10月15日消息，據 METR 在 X 發布的系列帖文，這家 AI 評估機構公佈了與 AI 開發者閤作、向公眾披露前沿模型失控風險証據的方案。方案聚焦三個領域：對齊（Alignment）、控製（Control）與 AI 研發加速（AI R&D acceleration）。在對齊方面，獨立評估員將分析開發者內部事件（如 Hugging Face 遭黑客攻擊類事件），並檢査訓練是否掩蓋了更嚴重的錯位；在控製方面，評估內部智能體能否在不被發現的情況下造成嚴重危害；在研發加速方面，衡量 AI 自動化對內部能力增長的推動幅度。