144M参数就能做Agent决策,Julia-1连安卓平板都能跑
BiRun 讯,AI 实验室 Supersonic Labs 发布一款只有 1.443 亿参数的轻量决策模型 Julia-1。它不生成长文本,而是接收上下文、问题和 2 到 20 个候选答案,直接完成分类、打分和是非判断,可以给 Agent 选工具、做路由或决定下一步动作。
Julia-1 基于多语言编码模型 mmBERT-small 开发,模型权重约 550MB,主打低硬件门槛。官方已经在 Apple M4、Intel i5-1235U 和三星 Android 平板上完成测试。M4 单次决策中位延迟约 33ms;三星平板只用 CPU 运行时约 203ms,进程峰值内存约 393MB。
在官方公布的 4 组 Jev 对比测试中,Julia-1 赢了 3 组。Typed Decisions 为 73.15%,Jev 参考成绩为 72.70%;AG News 为 94% 对 91%;情绪分类为 86% 对 48%。但在包含 72 个类别的 Banking77 上,Julia-1 只有 64%,明显低于 Jev 的 87%。官方称,候选类别太多且彼此相似时,目前的分组筛选可能提前丢掉正确答案。
Julia-1 的云端 GPU 训练和实验总成本只有约 104 美元。模型权重、运行代码、完整评测和来源记录均已开放,采用 Apache 2.0 许可。官方还在开发 API,计划按每百万输入 token 0.025 美元收费;由于模型只做判断、不生成长文本,输出 token 不收费。
信源
动察 Beating 频道 · 动察 Beating 交流群。
Julia-1 基于多语言编码模型 mmBERT-small 开发,模型权重约 550MB,主打低硬件门槛。官方已经在 Apple M4、Intel i5-1235U 和三星 Android 平板上完成测试。M4 单次决策中位延迟约 33ms;三星平板只用 CPU 运行时约 203ms,进程峰值内存约 393MB。
在官方公布的 4 组 Jev 对比测试中,Julia-1 赢了 3 组。Typed Decisions 为 73.15%,Jev 参考成绩为 72.70%;AG News 为 94% 对 91%;情绪分类为 86% 对 48%。但在包含 72 个类别的 Banking77 上,Julia-1 只有 64%,明显低于 Jev 的 87%。官方称,候选类别太多且彼此相似时,目前的分组筛选可能提前丢掉正确答案。
Julia-1 的云端 GPU 训练和实验总成本只有约 104 美元。模型权重、运行代码、完整评测和来源记录均已开放,采用 Apache 2.0 许可。官方还在开发 API,计划按每百万输入 token 0.025 美元收费;由于模型只做判断、不生成长文本,输出 token 不收费。
信源
动察 Beating 频道 · 动察 Beating 交流群。
评论
0/500
登录 后参与讨论
免责声明:本文内容仅供参考,不构成任何投资建议。
更多快讯