OpenAI请回RLHF奠基者当董事，上任先警告「多数人可能死亡」

BiRun 讯，动察 Beating AI 快讯，OpenAI 将前对齐研究负责人 Paul Christiano 请回董事会。

Christiano 曾于 2017 至 2021 年在 OpenAI 负责对齐研究，并参与 RLHF 的奠基工作；离职后创办 Alignment Research Center。此次他加入 OpenAI Foundation 董事会和安全与安保委员会；同时以观察员身份进入营利实体 OpenAI Group 的董事会。

上任后的公开声明里，他直接点名 OpenAI。Christiano 认为，自动化 AI 研发可能很快让模型能力迅速加速。如果在对齐问题解决前造出超级智能，人类可能永久失去控制，届时「大多数人可能死亡」。他还表示，包括 OpenAI 在内的整个 AI 行业，目前都没有把这种风险降到可接受水平。