自监督学习 vs. 无监督学习
比如说我们可以取一段视频,给机器看一段视频片段,然后让它预测接下来会发生什么。或者也可以给机器看两段视频,然后问它这个视频是另一个视频的后续吗?我们要做的不是让机器预测后续,而是让它告诉你这两个场景是否相容。或者向机器展示同一个物体的两个不同的视图,然后问它,这两个东西是同一个物体吗?在你给系统的所有数据基本上都是输入数据的情况下,自监督学习本质上没有真人的监督。
我们有很多这样的例子,其中一个例子就是积分稀疏编码,这个概念可以追溯到20世纪90年代。近来我真正感到有兴趣的是那些应用于自监督学习的非对比方法。
能量模型是未来的方向吗?
当我在IAS演讲时,我满脑子都是RLVEB。RLVEB是生成模型,如果你想把它应用到视频预测之类的任务上,你给它一段视频,可以让它预测下一段视频。
能量模型与其他方法之间的千丝万缕
这个在上下文中没有用到,但是潜变量的边际化和路径/轨迹的总和是非常相似的。
“意识是人类大脑局限性的结果”
我想表达的是,意识被认为是人类和一些动物拥有的一种能力,我们认为意识体现了这些生物的智慧,这有点可笑。我认为意识是我们大脑局限性的结果,因为我们的大脑中有一个单一的、类似于世界模型的引擎,我们需要一些东西来控制这个引擎,这个东西就是意识。于是我们产生了人类有意识的错觉。如果我们的大脑变得无限大,不再有限制,我们就不需要意识了。
https://www.zdnet.com/article/metas-ai-luminary-lecun-explores-deep-learnings-energy-frontier/