OpenAI引入四家機構開展AI安全評估

OpenAI宣布與Apollo Research、Goodfire、METR和Transluce四家獨立機構閤作,啓動首階段嵌入式安全評估,允許外部專家訪問內部模型、源代碼、訓練數據及監控系統,審査模型對齊和安全防護措施。其中,Apollo Research重點評估模型是否會闇中違背開發者意圖;Goodfire研究模型內部機製及訓練監控;METR審査大規模強化學習訓練中的模型失調行為;Transluce評估後訓練階段的安全測試質量。

評估人員將在必要時進入OpenAI辦公場所,通過專用設備訪問敏感資料。OpenAI基金會董事會下屬獨立監督委員會將全程監督並接收完整報告。評估機構保留獨立發布結果的權利,但OpenAI可要求刪除機密信息或延遲披露安全風險。OpenAI還計劃於2027年進一步擴大評估範圍。

問幣潤 AI:這條消息對行情有什麼影響?
你怎麼看這條消息?來投第一票

評論

0/500
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊