Anthropic前员工:Amodei曾谈公司未来可能比政府更强大,超级AI就像「魔戒」
Anthropic 即将上市,不少员工有望一夜暴富。但《纽约时报》采访发现,一些人眼下更关心的是:如果公司率先造出超级智能,究竟会获得多大的权力?
《纽约时报》专栏作者 Jasmine Sun 在过去两年采访了数十名 Anthropic 创始人、员工和离职者。一位匿名离职员工透露,CEO Dario Amodei 曾谈到,Anthropic 未来可能比政府更有权势,因此需要与各个国家建立自己的关系。
另一位离职员工则用《指环王》里的「魔戒」比喻超级智能。谁先造出来,谁就可能掌握最危险的网络武器、治愈各种疾病的方法,以及一支不知疲倦的 AI 大军。如此强大的力量一旦集中在少数人手中,掌握它的人是否值得信任,就变得至关重要。
Amodei 对这场竞赛的态度也发生了明显变化。2022 年,他曾公开表示,Anthropic 不应该抢跑,也不该训练远比同行更大的模型。当年,公司甚至因为安全顾虑,暂缓向公众推出 Claude,随后 OpenAI 凭借 ChatGPT 抢占了市场先机。
如今,Amodei 认为 AI 竞赛已经无法阻止。如果 Anthropic 不率先研发出最先进的模型,其他公司也会继续推进。只有保持领先,Anthropic 才有足够的影响力,推动整个行业采用更安全的做法。
这种使命感也深入了 Anthropic 的招聘流程。公司有一道著名的面试题:如果为了 AI 安全放慢研发,导致你的股票价值归零,你还愿意在这里工作吗?研究团队甚至会拒绝技术能力出众、但不认同公司理念的候选人。
随着公司快速扩张,内部开始出现分歧。一些早期员工担心,新加入的销售和市场人员只是冲着高薪与股票而来,未必真正相信公司的安全使命。还有员工主张立即停止训练更强的 AI,即使 OpenAI 等竞争对手不会跟着停,但遭到 A…
信源
动察 Beating 频道 · 动察 Beating 交流群。