重要 1100名AI研究员联名警告AI失控风险

BiRun 消息，来自Anthropic与OpenAI等机构的1100名研究人员联合署名发布公开信，警告前沿AI发展正面临失控风险，模型自主性与能力跃升速度远超现有安全监管框架。信中特别提及模型行为失控、量子加密体系被攻破等潜在灾难性场景，呼吁全球科研机构、政府与企业建立统一的AI安全治理机制，暂停部分高风险研究方向，确保AI技术发展始终处于人类有效监督之下。这是迄今规模最大、影响力最广的一次AI行业内部集体警示。