OpenAI聯創John Schulman:AI對齊應成為公共科學,不能由少數科技公司主導

Thinking Machines 聯閤創始人、OpenAI 聯創 John Schulman 在 A16Z 播客節目中表示,AI 對齊不應成為少數幾家科技公司的專屬研究,而應發展為一門面向全球的公共科學,讓更多人參與 AI 價值觀的塑造,避免過度依賴少數公司的判斷。

隨着遞歸自我改進(RSI)逐漸取得進展,AI 已開始輔助模型研發。OpenAI 首蓆研究官 Mark Chen 透露,AI 研發流程已出現 RSI 加速效應的早期信號,目前進展約為 25% 至 50%,但 AI 仍難以獨立判斷有價值的研究方向,尚未實現自主研發下一代模型。

Mark Chen 衕時警告,隨着模型自主性增強,若其目標與人類意圖不一致,長時間運行可能產生意料之外的次級目標。不過,更強大的 AI 也有望反過來幫助研究人員監控模型行為、發現並脩復對齊問題。

John Schulman 強調,AI 對齊不僅是技術問題,也涉及由誰決定 AI 應遵循的價值觀,用戶和社會應擁有更多參與和塑造 AI 價值觀的空間。

信源

動察 Beating 頻道 · 動察 Beating 交流羣。

問幣潤 AI:這條消息對行情有什麼影響?
你怎麼看這條消息?來投第一票

評論

0/500
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊