OpenAI 首席科学家建议设定 AI 开发共同上限

来源发布 本站发布 比来源晚 1 分 13 秒来源时间是来源自己标注的发布时间

OpenAI 首席科学家 Jakub Pachocki 撰文建议,前沿模型开发者基于困惑度等指标设定共同的 AI 开发上限,在理解和监测 AI 行为的能力达到具体目标前,不应突破该上限。 他提议行业建立模型评估、红队测试和透明度方面的共同标准,并以困惑度作为跨开发者比较预训练进展的参考指标。

他同时指出,不同实验室的数据集和训练数据不同,困惑度也无法反映预训练之外的所有能力进展。 Pachocki 预计,随着对数困惑度进入约 0.68 至 0.7 区间,模型可能出现新的变革性能力,但具体能力目前尚不明确。

问币润 AI:这条消息对行情有什么影响?
你怎么看这条消息?来投第一票

评论

0/500
免责声明:本文内容仅供参考,不构成任何投资建议。
更多快讯