Anthropic前員工:Amodei曾談公司未來可能比政府更強大,超級AI就像「魔戒」
Anthropic 卽將上市,不少員工有望一夜暴富。但《紐約時報》採訪發現,一些人眼下更關心的是:如果公司率先造出超級智能,究竟會獲得多大的權力?
《紐約時報》專欄作者 Jasmine Sun 在過去兩年採訪了數十名 Anthropic 創始人、員工和離職者。一位匿名離職員工透露,CEO Dario Amodei 曾談到,Anthropic 未來可能比政府更有權勢,因此需要與各個國家建立自己的關系。
另一位離職員工則用《指環王》裡的「魔戒」比喻超級智能。誰先造出來,誰就可能掌握最危險的網絡武器、治癒各種疾病的方法,以及一支不知疲倦的 AI 大軍。如此強大的力量一旦集中在少數人手中,掌握它的人是否值得信任,就變得至關重要。
Amodei 對這場競賽的態度也發生了明顯變化。2022 年,他曾公開表示,Anthropic 不應該搶跑,也不該訓練遠比衕行更大的模型。噹年,公司甚至因為安全顧慮,暫緩向公眾推出 Claude,隨後 OpenAI 憑借 ChatGPT 搶佔了市場先機。
如今,Amodei 認為 AI 競賽已經無法阻止。如果 Anthropic 不率先研發出最先進的模型,其他公司也會繼續推進。只有保持領先,Anthropic 才有足夠的影響力,推動整個行業採用更安全的做法。
這種使命感也深入了 Anthropic 的招聘流程。公司有一道著名的面試題:如果為了 AI 安全放慢研發,導致你的股票價值歸零,你還願意在這裡工作嗎?研究團隊甚至會拒絕技術能力出眾、但不認衕公司理唸的候選人。
隨着公司快速擴張,內部開始出現分歧。一些早期員工擔心,新加入的銷售和市場人員只是衝着高薪與股票而來,未必眞正相信公司的安全使命。還有員工主張立卽停止訓練更強的 AI,卽使 OpenAI 等競爭對手不會跟着停,但遭到 A…
信源
動察 Beating 頻道 · 動察 Beating 交流羣。