Robocurve 发现 Gemini 模型在机器人任务上的表现优于其通用 AI 得分

其初步指数涵盖了五项双手操作任务和11种模型配置;在移除 Gemini 后,所报告的与通用 AI 能力的相关性从 0.20 提高到 0.96。

By · Published

Primary source: X

为何重要

模型在广泛 AI 基准上的得分可能无法预测其在物理任务上的表现。Robocurve 的试点为研究人员提供了直接测试这一差距的具体理由,但其任务和模型样本规模较小,使得这一发现仍属初步。

Robocurve PBC (@robocurve): General AI capability predicts robot capability, except for Gemini models, which are strong robotics outliers.

Robocurve 报告称,在一小组真实机器人任务上,Gemini 模型的得分远高于其通用 AI 能力排名所预测的水平,这是一个早期迹象,表明通用模型排行榜可能会错过物理性能上的差异。San Francisco Public Benefit Corporation 在 10 月 15 日通过一个 X 帖子 和由 Drew T. Nguyen 主导的 技术报告 发布了这一发现。

附在 Robocurve 发布的关于其机器人任务评估及与通用 AI 能力得分比较帖子的图片。 Robocurve 的原始帖子随其关于机器人任务表现与通用 AI 能力排名的报告一同发布。原始图片来自 @robocurve。…

When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.

Reader comments

Conversation for this story loads after sign-in.