OpenAI請回RLHF奠基者噹董事，上任先警告「多數人可能死亡」

BiRun 訊，動察 Beating AI 快訊，OpenAI 將前對齊研究負責人 Paul Christiano 請回董事會。

Christiano 曾於 2017 至 2021 年在 OpenAI 負責對齊研究，並參與 RLHF 的奠基工作；離職後創辦 Alignment Research Center。此次他加入 OpenAI Foundation 董事會和安全與安保委員會；衕時以觀察員身份進入營利實體 OpenAI Group 的董事會。

上任後的公開聲明裡，他直接點名 OpenAI。Christiano 認為，自動化 AI 研發可能很快讓模型能力迅速加速。如果在對齊問題解決前造出超級智能，人類可能永久失去控製，屆時「大多數人可能死亡」。他還表示，包括 OpenAI 在內的整個 AI 行業，目前都沒有把這種風險降到可接受水平。