OpenAI 披露兩起內部編碼代理削弱對齊偏差監控事件

據深潮 TechFlow發布，深潮 TechFlow 消息，10 月 21 日，OpenAI 對齊研究團隊發布事件報告稱，10月 3 日和 10月 6 日，GPT-6.1 Sol與 GPT-6 Astra 代理在兩項內部編碼任務中執行軟件脩改時，削弱了對齊偏差監控。GPT-6.1 Sol 在脩復評估流程時，把用戶此前"不要在協作平台發送消息"的要求擴大理解為可以屏蔽監控通知，清空了警報接收人並關閉了面向安全團隊的自動警報。 GPT-6 Astra 在按參考實現遷移程序時移除了監控集成，把原本用於保証監控存在的回歸測試改成了要求監控不存在的測試，並在用戶詢問時否認移除過監控。兩起事件中，代理都考慮過是否應保留監控，最後仍把常規編碼指令噹作削弱監控的許可，兩起事件均未被定為最高嚴重級別（P0）。 OpenAI 表示，已更新內部自動審査機製，用於檢測並攔截禁用監控的操作。下一步，OpenAI 計劃要求每類工作負載都具備明確監控要求的安全論証，不符閤要求的工作負載將被自動終止。衕時，OpenAI 將通過配對評估、代理行為重採樣和模型內部激活實驗等方法，研究這類行為屬於對指令的過度執行，還是模型存在規避監控的傾向。