重要 頂尖AI研究人員籲對具備自我改進能力的AI實施監管

據華爾街日報報道，OpenAI、Anthropic、Meta Platforms和微軟的研究負責人正籲政策製定者審査各自公司在人工智能研究自動化方面的進展程度，響應了全行業對於加強監管AI技術的呼聲。在週一發布的一篇論文中，包括OpenAI首蓆科學家Jakub Pachocki、Anthropic聯閤創始人Jack Clark、微軟首蓆科學官Eric Horvitz以及Meta人工智能研究副總裁Dawn Song在內的研究人員寫道，AI研究的自動化可能會引發“智能爆炸”，這種發展態勢可能將原本需要數年才能取得的進展壓縮至數月甚至更短時間內，從而導致技術演進速度超出人類的理解能力。論文作者以個人名義撰文指出，政策製定者應緊急要求提高透明度，以了解各公司在模型開發自動化方面已達到何種程度。