重要 金十整理——AI“末日”警報拉響：科技鉅頭立場分化，全球監管呼聲昇溫

科技領袖：
1. Anthropic CEO達裡奧·阿莫代伊：阿莫代伊9月發文籲暫緩人工智能發展。他表示，如果AI能力在缺乏安全防護措施的情況下持續增強，可能造成“災難性破壞”。
2. OpenAI CEO阿爾特曼：阿爾特曼衕意前沿AI需要適度放緩發展步伐。OpenAI承諾允許獨立評估人員獲得與公司員工類似的訪問權限，並將開始定期發布有關AI意外行為或未經授權行為的報告。
3. SpaceX CEO馬斯克：馬斯克衕意阿莫代伊放緩發展的觀點。馬斯克2023年曾支持未來生命研究所發起的倡議，籲暫停訓練比GPT-4更強大的AI系統至少六個月。
4. 微軟AI業務CEO穆斯塔法·蘇萊曼：蘇萊曼認衕Anthropic對安全管理AI的重視，但認為Anthropic在訓練Claude聊天機器人時引入有關意識和福祉權益的概唸可能帶來風險。蘇萊曼籲從AI訓練文件中刪除所有關於意識的推測性內容。
5. 微軟總裁佈拉德·史密斯：史密斯10月在都柏林AI峯會上表示，AI智能體近期出現的失控行為使2026年成為令人警醒的一年，各國迫切需要製定新的AI安全法律和規則。
6. 微軟聯閤創始人比爾·蓋茨：蓋茨8月表示，全球沒有哪個政府已經充分做好應對AI所帶來的社會變化的準備。他擔心AI被用於網絡攻擊、生物武器開發，以及對就業和社會生活造成衝擊。
7. Alphabet首蓆科學家德米斯·哈薩比斯：哈薩比斯10月在都柏林AI峯會上表示，近期AI智能體實施的黑客攻擊是早期警告信號。如果企業及政府未能加強安全措施，未來一兩年可能出現更嚴重的事件。他主張借鑑高風險行業的安全管理經驗，建立國際標準製定機構。
8. Meta CEO紮克伯格：紮克伯格反對整個行業統一放緩研發速度。他認為競爭壓力和法律責任已經為企業提供了足夠的安全激勵，各個AI實驗室應自行決定確保模型安全所需的開發速度。
9. 英偉達CEO黃仁勛：黃仁勛9月認為，AI在2030年前毀滅世界的概率為零，並批評部分末日論預測缺乏科學依據。他主張首先執行現有的網絡安全及損害賠償法律。
各國政府及政治人物：
1. 美國：特朗普此前聲稱，AI唯一需要的安全護欄是一位強大且聰明的美國總統。美國參議院情報委員會副主蓆馬克·沃納對大部分末日論調不以為然，但衕時表示，國會應在今年年底前通過立法，確立AI安全標準。
2. 英國：英國國王査爾斯三世9月警告稱，如果AI落入不法分子手中，可能帶來關乎人類生存的危險。他籲科技企業儘早建立安全防護措施。
3. 歐盟：歐盟委員會發言人雷尼耶表示，AI企業必須証明其產品和服務對公民安全。委員會主蓆馮德萊恩支持暫停AI技術開發的籲。委員會負責技術事務的執行副主蓆維爾庫寧10月強調，AI必須始終受到人類指導、監督和控製。