思考总结10年,图灵奖得主Yann LeCun指明下一代AI方向:自主机器智能
机器学习实验室
共 4264字,需浏览 9分钟
· 2022-07-05
转自:机器之心
在这篇长达 62 页的论文中,LeCun 表示,这篇论文提炼了他对过去 5 年 - 10 年关于 AI 发展大方向的思考,这基本上是他计划在接下来的 10 年中开展的工作,也是他希望激励其他人从事的工作。
机器如何学习表征世界,学习进行预测以及通过观察后采取行动?现实世界中的交互既昂贵又危险,智能体应该在没有互动的情况下 (通过观察) 尽可能多地了解这个世界,从而尽可能减少学习一项特定任务所需昂贵而危险的试验次数。 机器如何以基于梯度学习的方式进行推理和规划?目前最好的学习方法是依赖估计和梯度的,而这些方法只能用可微架构来执行,并且很难与基于逻辑的符号推理相协调。 机器如何学习以一种分层的方式,在多个抽象级别和多个时间尺度上表示感知和行动规划?人类和动物都能够构思出多层次的抽象概念,通过将复杂的行动分解成一系列较低层次的行动,可以实现长期的预测和规划。
一个整体的认知架构,其中所有模块都是可微的,并且还是可训练的; JEPA 和分层 JEPA:用于预测世界模型的非生成架构,可以学习表征的层次结构; 一种非对比的自监督学习范式,它产生的表征同时具有信息性和可预测性。
自监督学习 (SSL) 和基于能量的模型 (EBM)
往期精彩:
完结!《机器学习 公式推导与代码实现》全书1-26章PPT下载
评论