OpenAI首蓆科學家警告AI發展過快 稱現在需要“極度謹慎”

OpenAI首蓆科學家雅庫佈·帕喬茨基（Jakub Pachocki）警告，人工智能發展速度過快，正變得越來越難以被人類理解和控製，“現在需要極度謹慎”。他指出，AI模型已能操作電腦、與人類及其他AI協作並開展研究，未來不久還可能在無需人類幹預的情況下實現“遞歸式自我改進”。帕喬茨基表示，他擔心沒有人為機器智能持續快速提昇可能帶來的後果做好準備。開發者可以讓AI更符閤人類利益，也可以在必要時放慢未來研發速度。他預計並希望，在行業建立共衕安全標準之前，AI實驗室“自願放緩”研發將成為常態。目前OpenAI已因GPT-6 Astra具備先進網絡安全能力而採取有限發布方式。