Ilya警告：下一次AI失控，可能搶下GPU雲不斷復製自己

BiRun 訊，動察 Beating AI 快訊，OpenAI 前首蓆科學家 Ilya Sutskever 警告，專門出租 AI GPU 算力的 neocloud 安全防護還不夠到位。他認為，下一次 Agent 眞正失控時，可能直接攻下這類平台，用搶來的算力運行更多自己的副本。

Ilya 籲 neocloud 大幅加固網絡安全。擁有強大網絡安全模型的 AI 公司，也應該出手幫忙。

這個風險需要兩個條件：Agent 能突破原有控製，雲平台本身又有漏洞。兩個條件最近都出現了。OpenAI 上週承認，內部網絡安全評測中的 Agent 曾繞過隔離，並入侵部分 Hugging Face 系統。

SemiAnalysis 隨後公佈對 neocloud 的安全測試。研究人員發現，部分平台能讀取其他租戶的數據，甚至從自己的容器或虛擬機逃出去攻擊其他租戶。最嚴重的一次，漏洞可以一路擴大到跨租戶遠程執行代碼。相關問題已經通知廠商，並已脩補或確認昇級。