EN 立即申请

新闻动态/技术发布

JEPA-Anything · 跨领域统一科学世界模型:面向潜在世界模型的正交预测因子分解

JEPA-Anything 用正交预测因子分解(OPF)把潜在目标拆成互补因子,各自学习后再组合,并在视觉、生物、临床轨迹、控制、分子动力学、物理场和气象七个领域上评测;与匹配的 JEPA 基线相比,10 个动力学任务的报告指标均有提升。

在动手之前先预测:如果这样做,世界会变成什么样,哪条路值得走。

JEPA-Anything 是一项面向潜在世界模型和正交预测因子分解的独立模型方法研究。

它探索如何在视觉、生物、临床轨迹、控制、分子动力学、物理场和气象这七个领域中,学习能够预测世界状态变化的潜在表示,并为干预预测、状态合成和科学诊断提供统一接口。

在未来的研究愿景中,JEPA-Anything 可以被理解为面向多个科学环境的统一预测模型或科学世界模拟器:当研究者提出某种科学行为或干预时,模型预先预测可能的状态变化、结果和风险,帮助筛选无效或代价较高的方案。这是希望探索的能力方向:目前它并不能模拟所有科学环境,也尚未接入 ScienceBuddy 或 ScienceIDE。

在整体研究图景中,它关注如何表示复杂系统中的多种可预测因素、如何预测不同干预带来的状态变化、如何为实验选择和科学诊断提供预测依据,以及如何在跨领域场景中复用潜在世界状态接口。

论文提出正交预测因子分解(OPF):在联合嵌入预测架构之上,把潜在目标拆成互补因子,各自通过专门的通路学习,再在共享的预测设计中组合。评测覆盖表示学习、干预预测、分布外泛化和长时程动力学,包含 10 个匹配的动力学任务、超过 1000 个临床事件的预测,以及四个体系上的 100 步分子 rollout。

与匹配的 JEPA 基线相比,全部 10 个动力学任务的报告指标都有提升,Interventional Pong 上的单次干预预测误差降低 34.8%;在所比较的方法中,四个体系的一步和 100 步分子误差都是最低的。一项由因子提名的生物干预在细胞共培养、患者来源类器官、肿瘤组织块和小鼠中获得实验支持,潜在轨道模态复现开普勒标度指数,拟合斜率为 −1.4991。以上是在论文选定的领域和任务上的观察。

技术报告和 Hugging Face 上的模型集合已公开。本次发布不包含公开演示。

← 全部动态