弱模型赢了,功劳算谁的?AI 模型跑分真相,比你想象的更不靠谱

据深潮 TechFlow发布,作者:Robonaissance 研究团队编译:深潮 TechFlow 深潮导读: 在各大主流大模型日趋激烈的跑分角逐中,“模型 A 比模型 B 高出 8 分”往往被科技界和资本市场简单粗暴地解读为智商的高下。然而,来自谷歌云 AI 研究团队与西北大学的最新实证研究却彻底戳破了这一迷思:在不触动任何模型底层权重的前提下,仅仅通过重构外部工作流脚手架(Harness),原本跑分落后的模型就能在办公与专业任务中轻松反超顶级模型。 这一发现揭示了一个被长期忽视的残酷现实:大模型在真实场景下的得分与能力表现,从来不是纯粹由底层模型单独决定的,而是由系统提示词、记忆、技能工具与协同脚本共同构建的环境系统综合驱动。所谓的跑分榜单,本质上并不是两颗裸脑的智力决斗,而是两个人在两间不同配置的办公室里的表现较量。理解这一点,对于当下盲目追捧大模型跑分、忽视应用工程架构的行业生态具有极强的警醒价值。 一个 AI 智能体被分配了一项编程任务,并展现出了极其勤勉的姿态。 它巨细靡遗地说明了自己打算打开哪个代码文件、准备执行哪条终端指令,以及计划进行哪项校验检查。 然而真正的致命麻烦在于,它仅仅停留在“嘴上说说”。该智能体只是将所有的工具调用以纯文本的形式罗列了出来,宛如一名双手插兜、站在一旁嘴上指导维修的学徒,实际上根本没有运行任何一行代码。最终,这项任务在满分 100 分中仅获得了 60 分。 随后,研究人员仅仅修改了该智能体所处环境中的一个配置文件。那是一段简短的工具调用指引,明确告诫它不要再输出任何虚假的纯文本调用指令。底层的模型完全相同,其神经网络权重未曾被触动分毫,测试任务也毫无二致,但最终得分却直接飙升到了 100 分满分。 这个鲜活的案例出自谷歌云 AI 研究院(Google Cloud AI Research)与美国西北大学的研究人员于 2026 年 10 月 9 日联合发布的一篇前沿学术论文。论文中的测试数据均基于作者团队自身的实验记录,尚未经过完全独立的外部复现。 这看似是一个微小且略带幽默色彩的插曲,但它却直指一个深远的核心命题:每当我们读到“某款 AI 模型在测试中击败了另一款模型”的宣传标语时,人们脑海中往往会浮现出两颗纯粹的大脑在同台竞技的画面。 然而在现实中被拿来比对的,实际上是两颗各自置身于特定系统指令、专属辅助工具和工作习惯之中的大脑,且每个系统背后所倾注的工程优化心血也大相径庭。最终的评测得分永远属于这三者的有机结合,而绝非单凭模型自身所能独揽。 如今,围绕在模型周边的这部分脚手架优化工作,已经可以交由另一个 AI 自动化完成。在这些实际任务中,这层外围环境的调优幅度足以彻底颠覆原本的模型优劣排名。因此,面对任何“A 模型碾压 B 模型”的说辞,真正具有鉴别力的提问应当是:它是在怎样的一套系统环境中运行的?它究竟获得了多大力度的辅助支撑? 逆袭反超:弱模型是如何战胜强模型的该论文最具震撼力的研究结论,在于揭示了一场戏剧性的排名洗牌。 在一项涵盖代码编写、网络搜索以及文档处理等 100 项办公基准测试中,各项任务均通过隐藏测试用例、文件完整性校验与大模型裁判进行 100 分制打分。在标准的开箱默认系统环境中,国产开源模型 GLM-5 的平均测试得分为 64.2 分;而在完全相同的标准默认环境中,谷歌旗下的 Gemini 3.5 Flash 平均得分则高达 72.4 分。按照这项评测标准本身的数据来看,Gemini 无疑是更强的一方,领先优势约为 8 分。 然而,仅仅在对其周边的环境配置进行了单轮自动化微调之后,GLM-5 的平均得分。
利多 查看原文
你怎么看这条消息?来投第一票

评论

0/500
免责声明:本文内容仅供参考,不构成任何投资建议。
更多快讯