
蚂蚁开源全球首个具身智能视频基模,我把 LingBot-Video 跑了一遍

今天刷技术新闻,看到蚂蚁灵波开源了一个叫 LingBot-Video 的东西。全球首个面向具身智能的视频基模,听起来挺唬人的对吧?我就去研究了一下,还顺手在本地跑了一把。

怎么说呢,有点意思。
这玩意儿是干啥的

跟一般的视频生成模型不一样,LingBot-Video 不是用来做短视频或者电影特效的。它的目标是让机器人看懂物理世界——说白了,就是给机器人一双"眼睛",让它能根据视频理解真实世界的物理规律。

过去几年视频生成模型进步很快,画质越��越好了,但对于机器人来说,一个看起来逼真的视频不代表它反映了真实的物理规律。比如说,你生成一个杯子掉落的视频,画面可能很美,但杯子掉落的轨迹是不是符合重力规律?碰撞后的反弹是不是合理?这些才是机器人真正需要的东西。

LingBot-Video 就是冲着这个方向去的。
技术上有什么不一样

我仔细看了下它的技术架构,有三点让我印象比较深。

第一个是架构上的 MoE 设计。30B 的总参数量,但每次推理只激活约 3B 参数,推理效率大概是同等 Dense 架构的 3 倍。这个思路其实挺务实的——模型要够大才能学到东西,但推理的时候不能太慢,尤其是在机器人实时交互的场景下。

第二个是训练数据。他们搞了个数据画像引擎,在常规互联网视频的基础上,引入了 7 万小时的机器人相关数据,包括灵巧操作、机器人移动、第一视角交互这些场景。数据总量 7 万小时,说实话这个数据收集成本应该不低。

第三个是训练方法。用多维强化学习奖励系统来做对齐,不只是看画面美不美,还要看物理合理性。他们还拿真实世界视频做偏好信号,让生成结果更贴近真实世界的规律。
跑分怎么样

在北��大学联合字节跳动发布的 RBench 基准上,LingBot-Video 的得分是 0.620,超越了 Wan2.6(0.607)、Seedance 1.5 Pro(0.584)、Cosmos3 Super(0.581)。RBench 这个基准专门测机器人操作视频的生成质量,重点看生成的动作是不是符合物理规律。

在 Physics-IQ Verified 评测中,LingBot-Video 也是第一。这个评测考的是模型对物理现象的理解和预测能力。
实际跑完的感受

我拉了他们的开源代码在 4090 上跑了一下。说实话,30B 的总参数量本地跑还是有压力的,但好在推理时只激活了 3B,所以单卡 4090 勉强能跑,速度算不上快但能接受。

生成的视频质量确实可以。跟其他开源模型对比,最大的感受是它的动作一致性更好——机器人抓取物体的时候,手势和物体的交互看起来更自然,不像有些模型生成的视频,机器人手穿模或者物体飞出去那种情况明显少很多。

当然,离商用还有距离。分辨率、帧率、稳定性都有提升空间,但作为全球第一个开源的具身智能视频基模,这个方向确实选得不错。

代码和模型权重都在 GitHub 上,感兴趣的可以去拉下来试试。不过友情提醒,没 4090 的同学可能得考虑云端部署了。
评论 (0)
暂无评论,来写第一条吧 ✍️