CPU3D3D、视频与音频的 AI 工具

La-JEPA:Meta 的紧凑型机器人策略,具备潜在 world modeling

Meta 推出了 La-JEPA——一个用于机器人控制的紧凑型 world-action 模型,它在预训练编码器 V-JEPA 2.1 的特征空间中从零开始训练。与那些对生成式视频模型或 vision-language-action 模型进行适配的方法不同,La-JEPA 不携带为生成而设计的重型 transformer:策略仅在训练阶段联合动作预测未来特征,而在推理时只生成动作。据 arXiv 的数据,该模型在 RoboTwin 2.0 和 LIBERO-Plus 上取得了无 embodied 预训练策略中的最佳结果,超过了最接近的 JEPA 方法 LeapBot-WA 和 JEPA-WAM,而在四个真实任务上,其平均成功率与 pi0.5 相当。代码已开源。

这意味着什么

对于我们视频生成器和 AI 工具板块来说,这项工作更多是方向上的信号,而非直接的更新。La-JEPA 不是视频生成器,也不是 text-to-video 模型:它是一个机器人控制策略,使用视频编码器 V-JEPA 2.1 的潜在特征,而非像素或 VAE 潜在空间。作者单独展示了 JEPA 特征优于 video VAE latents,尤其是在分布之外——这支持了这样一个论点:对于控制任务而言,并不总是需要完整的生成式技术栈。 在我们的指南工具中,没有直接对应的产品。Maestro 是基于 WanGP、搭载 MiniMax H3 模型的本地视频生成工作室:image-text-to-video,权重最高 464 GB,显存从 6 GB 起,代码许可证为非商业性。Imagination Studio 是面向 Mac 和 NVIDIA DGX Spark 的 AI 电影工作室,基于 TensorFold,任务为 text-to-speech,使用 Fish Audio Drama 3 模型。LTX-Video 是 Lightricks 的 image-to-video 生成器,权重开源,要求至少 1 GB VRAM。它们中没有一个涉及机器人控制,也没有使用 JEPA 架构。 目前与我们的工具页面还没有实际交集:La-JEPA 没有为本地视频生成器增加新功能,也没有改变它们对硬件的要求。但这一方法本身——在预训练视频编码器的特征空间中训练紧凑策略,而不是拖着一个生成式 transformer——表明对于像控制这样的下游任务,可以用明显更小的模型来完成。如果这一逻辑延伸到生成工具,那么看看是否会出现以 JEPA 特征替代完整视频 VAE 的轻量版本,将会很有意思。
La-JEPA:紧凑的机器人策略 Meta 的潜在 world modeling 观测 摄像头视频 V-JEPA 2.1 预训练编码器 潜在特征 而非像素 动作 La-JEPA 策略 紧凑的 world-action 模型 训练 动作 仅在推理时 生成式 重型 Transformer 而非
方法的结构。示意图根据这篇简讯绘制。

相关阅读