重要 Sam Altman:控製AI發展節奏並不意味着停止,但能力提昇速度不能超過安全對齊和監控
BiRun 訊,OpenAI CEO Sam Altman 在 X 平台發文表示,歡迎美國建立聯邦層面的前沿 AI 安全監管框架,為行業製定一致的安全要求,但 AI 公司無需等待反壟斷豁免或相關立法出台,就可以主動採取安全措施。
Altman 表示,OpenAI 目前會在預計將顯著提昇模型能力的前沿強化學習訓練開始前,提前製定明確的安全論証,並希望行業在模型失控風險、監控和安全方面形成共衕標準。他強調,所謂控製 AI 發展的“節奏(pacing)”並不意味着停止進步,而是應接受安全措施帶來的速度和成本代價,“無論美國面臨多大的競爭壓力,都不應讓 AI 能力的發展速度超過對齊和監控能力。”
此前消息,Anthropic、OpenAI 與 Google 自 7 月起已就籌建各自的 AI 安全標準機構展開工作組磋商。此外,美國民主黨議員將於週二上午召開黨團會議,專門討論人工智能相關立法行動,並稱應對 AI 帶來的挑戰是“高優先級”,需要儘快採取措施。
Altman 表示,OpenAI 目前會在預計將顯著提昇模型能力的前沿強化學習訓練開始前,提前製定明確的安全論証,並希望行業在模型失控風險、監控和安全方面形成共衕標準。他強調,所謂控製 AI 發展的“節奏(pacing)”並不意味着停止進步,而是應接受安全措施帶來的速度和成本代價,“無論美國面臨多大的競爭壓力,都不應讓 AI 能力的發展速度超過對齊和監控能力。”
此前消息,Anthropic、OpenAI 與 Google 自 7 月起已就籌建各自的 AI 安全標準機構展開工作組磋商。此外,美國民主黨議員將於週二上午召開黨團會議,專門討論人工智能相關立法行動,並稱應對 AI 帶來的挑戰是“高優先級”,需要儘快採取措施。
評論
0/500
登彔 後參與討論
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊