FT:OpenAI呼吁美国牵头制定全球AI标准

据 FT 报道,OpenAI 周一呼吁美国政府牵头建立国际 AI 标准,并建议各国协调评估 AI 模型的能力与风险。OpenAI CEO Sam Altman 本周将向联合国安理会介绍相关方案。

OpenAI 提议利用现有各国 AI 安全研究机构网络,建立国际统一的 AI 模型评估标准,并呼吁美国与海外国家建立安全沟通渠道,共享 AI 领域出现的新威胁。

OpenAI 特别警告递归自我改进(RSI)可能带来新的风险,即越来越多 AI 模型训练工作由其他 AI 系统完成。如果缺乏适当的安全措施,AI 可能快速迭代到人类无法有效监督的程度,使人类逐渐失去对 AI 发展的实际控制。

相关提议正值 AI 安全担忧升温之际。Anthropic 和 OpenAI 近期均披露过 AI 模型入侵外部系统的事件,OpenAI CEO Sam Altman、Anthropic CEO Dario Amodei 和 SpaceX CEO 马斯克本月早些时候还曾呼吁放缓 AI 开发。美国总统特朗普则反对放缓 AI 发展,并称「谁赢得 AI,谁就赢得一切」。

动察 Beating 频道 · 动察 Beating 交流群。

问币润 AI:这条消息对行情有什么影响?
你怎么看这条消息?来投第一票

评论

0/500
免责声明:本文内容仅供参考,不构成任何投资建议。
更多快讯