Paradigm 做了一款游戏:让你亲手把 AI 训练到自主进化,然后体验失控
BiRun 消息,撰文:小饼知名加密 VC Paradigm 昨天上线了一个网页游戏,叫 RSI Simulator。 玩家扮演一家 AI 实验室的负责人,目标是从零开始造出超级智能。 你手上有三种资源:人力、算力和数据,需要决定把多少投入研发、多少投入训练、多少投入扩张。每一轮决策之后,模型能力会变化,能力变化又反过来影响研发效率,直到某个临界点,AI 开始加速改进自身,曲线陡然上扬。 听起来像一个放置类游戏。实际上,这是一个把经济学论文变成可交互体验的教育工具。 Paradigm 用它来回答一个所有人都在猜但很少有人量化思考的问题: AI 自主改进的速度到底会有多快?会不会突然爆发?什么因素决定了它的天花板? 什么是递归自主改进? 递归自主改进,简称 RSI,是 AI 安全研究领域最核心的议题之一。 简单说:当一个 AI 模型足够强大,可以帮助人类改进下一代 AI 模型的时候,就形成了一个循环,AI 参与制造更强的 AI,更强的 AI 再参与制造更更强的 AI。 这个循环一旦启动,理论上可以产生指数级加速,也就是所谓的智能爆炸。 这不再是科幻。2026年 2 月,OpenAI 在发布 GPT-5.3-Codex 时承认,早期版本的该模型在创建自身的过程中“发挥了重要作用”,帮助调试训练过程、管理部署和诊断评估故障。这是头部实验室首次正式承认,一个模型实质性地参与了制造其继任者的工程流程。 游戏怎么玩? RSI Simulator 的游戏部分模拟了 AI 实验室的资源分配决策。 每一轮,你需要在三个方向之间分配资源。投入更多算力可以训练更大的模型;投入更多人力研究可以提升算法效率(用更少算力达到同样效果);投入数据采集可以拓宽训练素材的边界。 关键机制是:当模型能力提升到一定水平,它开始“帮忙做研究”,你的人力研究效率因为 AI 辅助而提升。这就是 RSI 循环的起点。你需要判断什么时候应该把资源从扩张模式切换到“让 AI 研究自身”的模式。 如果切换得太早,模型能力不够,AI 做研究的效率不如人类,浪费算力。如果切换得太晚,你可能被其他(假想的)实验室超越。 Paradigm 还配了一个“探索器”(Explorer),允许用户直接调整底层经济模型的参数,比如“模型能力对研发速度的弹性系数”,观察不同参数设定下,AI 进步曲线会如何变化。 这部分面向更硬核的受众,本质是把学术论文的数学模型变成了可拖拽的仪表盘。 游戏想传达的四个洞察 Paradigm 在配套的研究文章中,总结了四个从模型和游戏中获得的认知。 瓶颈永远在最弱的一环。 AI 研发需要人力、算力和数据三种互补要素。即便 AI 智能无限提升,算力和数据的物理限制仍然存在。递归自主改进可能受限于算力供给或数据质量,而非智能本身。 自主改进可能是脉冲式的,不是持续指数增长。 AI 有可能经历一段自主加速期,然后在远未达到物理极限的地方停下来,如果算力成为瓶颈的话。智能爆炸未必是一条直冲天际的曲线,更可能是几次急促的台阶,中间夹着平台期。 窄域智能爆炸可能先于通用智能爆炸到来。 AI 可能先在“AI 研究”这一个窄领域实现自主改进的加速,但这种能力未必能泛化到所有认知任务。你可以想象一个 AI 非常擅长改进 AI 训练代码,但在管理供应链或写小说方面没有同等的突破。 一切取决于参数设定。 模型输出高度依赖一组叫“弹性系数”(elasticity)的参数。弹性系数衡量的是“当输入增加 1%时,输出增加多少百分比”。递归自主改进中最关键的弹性系数是:当前模型能力提升 1%,能带来多少百分比的新发现速度提升。这个。
评论
0/500
登录 后参与讨论
免责声明:本文内容仅供参考,不构成任何投资建议。
更多快讯