在无动作中学习行动：LAPO方法的探索与实践

作者

引言

在深度学习的浪潮中，预训练大型模型已成为获取强大通用模型的重要策略。这种方法在语言和视觉等领域取得了显著成功。然而，在强化学习（Reinforcement Learning, RL）领域，这种策略尚未得到广泛应用。主要原因在于当前的主流方法通常依赖于行动标签，而这些标签在网络视频等纯观察数据中往往是缺失的。因此，如何从这些海量的、无标签的数据中提取有效的行动信息，成为了一个亟待解决的难题。

为此，Dominik Schmidt和Minqi Jiang提出了一种创新的方法——潜在行动策略（Latent Action Policies, LAPO）。LAPO的核心在于从视频中恢复潜在的行动信息，进而获得潜在的行动策略、世界模型和逆动态模型。这一方法不仅能够在没有任何真实行动标签的情况下，推断出潜在的行动空间结构，还能在复杂的程序生成环境中表现出色。

LAPO的基本原理

LAPO的核心思想是通过观察环境的动态变化，推断出潜在的行动信息。这一过程可以分为以下几个主要步骤：

  1. 逆动态模型（IDM）和前向动态模型（FDM）：LAPO首先训练一个逆动态模型，用于预测在两个连续观察之间采取的行动。然后，使用前向动态模型来预测给定过去观察和潜在行动的下一个观察。这两个模型通过最小化预测的下一个观察与实际观察之间的误差来联合训练。 $$ z_t \sim p_{IDM}(\cdot | o_{t-k}, \ldots, o_t, o_{t+1}) $$ $$ \hat{o}{t+1} \sim p{FDM}(\cdot | o_{t-k}, \ldots, o_t, z_t) $$ 通过这种方式，IDM不仅能够捕捉到环境的动态变化，还能提取出有助于预测未来状态的潜在信息。
  2. 信息瓶颈：为了防止IDM仅仅将下一个观察直接传递给FDM，LAPO采用了信息瓶颈的策略。这一策略迫使IDM压缩传递给FDM的所有信息，从而学习到仅反映状态变化的潜在行动。这种潜在行动的结构与实际的行动空间密切相关。
  3. 行为克隆：在获得潜在行动后，LAPO使用行为克隆（Behavior Cloning）的方法来学习潜在行动策略。这一阶段主要基于生成的潜在行动标签，优化策略参数，使其在观察空间中能够生成相应的潜在行动。 $$ L_{BC} = ||\pi(o_t) – z_t||^2 $$
  4. 解码潜在行动：最后，LAPO根据是否有小规模的真实标签数据，选择不同的解码方式。如果有少量的真实行动标签数据，可以训练一个解码器，将潜在行动映射到真实行动；如果没有，则通过在线环境交互，利用强化学习进一步优化策略。

实验结果

LAPO方法在Procgen基准测试中进行了验证。Procgen是一个具有16种不同任务的基准，具备复杂的动态和部分可观测性特征。研究发现，使用LAPO的潜在策略可以在仅4万帧的训练数据中恢复专家的表现，而从零开始的强化学习方法在相同条件下只能达到44%的专家表现。

结果分析

通过UMAP投影，LAPO在每个环境中学习到的潜在行动空间的结构高度可解释。许多环境中的潜在行动形成了明确的聚类，这些聚类与真实的离散行动紧密对应。这表明，尽管没有访问真实行动空间，LAPO依然能够有效地捕捉到潜在行动的信息。

未来的研究方向

虽然LAPO已展示出从无标签视频中学习有效行动策略的潜力，但仍有许多挑战待克服。首先，如何处理延迟效应的动作识别，以及如何在高噪声环境中提取有用信息，依然是研究的重要方向。此外，LAPO在复杂领域的应用，如网页视频的大规模建模，也需要进一步的探索。

结论

LAPO方法为无标签视频数据中的潜在行动学习提供了一个新的视角，通过逆动态模型和前向动态模型的结合，成功从环境动态中提取出潜在行动信息。该方法不仅为快速适应的预训练策略提供了可能，也为未来的多任务学习和复杂环境中的强化学习开辟了新的研究路径。

参考文献

  1. Schmidt, D., & Jiang, M. (2024). Learning to Act without Actions. ICLR.
  2. Sutton, R. S., & Barto, A. G. (2018). Reinforcement Learning: An Introduction. MIT Press.
  3. Cobbe, A., et al. (2019). Procgen Benchmark: A Reproducible Platform for Reinforcement Learning. arXiv.
  4. Tishby, N., & Zaslavsky, N. (2000). Information Bottleneck Method. arXiv.
  5. Radford, A., et al. (2021). Learning Transferable Visual Models From Natural Language Supervision. In ICML.

发表评论