重要 Anthropic聯創兼CEO Dario Amodei籲放緩前沿AI發展步伐

據PANews發布，PANews 9月13日消息，Anthropic聯閤創始人兼CEO Dario Amodei 發文提出“pacing the frontier”三步計劃，籲放緩前沿大模型能力提昇速度，以便安全對齊和監管跟上。他指出，遞歸自我改進已經在行業內出現，若不加控製，未來6–12個月內多智能體“蜂羣”有能力通過大規模網絡攻擊和持久殭屍網絡造成災難性損失。方案包括：引入具有員工級持續訪問權限的第三方嵌入式評估機構，推動民主國家內前沿AI公司在政府支持下協調設定能力和安全標準，並在維護美國及其盟友技術領先的前提下，與中國等國家嘗試在生物武器、網絡安全測試和遞歸自我改進速度等方面開展全球協調。