更高级的认知是“感知”问题吗?意识先验(Consciousness Prior),正演模型(forward model), 对比学习(Contrastive Learning), “系统2”的认知问题, AAAI2020主题演讲精要(二)

人类大脑可以在“现实”和“想象”之间自由切换,这种控制力一部分可能是“感知”驱动的,但是,另一部分是什么? — David 9

显然未来几年的趋势是,神经网络拥护者(Hinton等人)不再满足于模拟“低级”感知了,当下有一堆类似“因果推理”“长期计划”“抽象想象”“知识提炼和探索”等更高级的认知问题需要模拟!这种认知问题科学家们叫:“系统2″的认知(System 2 Processing 。

来自:https://www.youtube.com/watch?v=EeqwFjqFvJA&t=3745s

与视觉皮层的“快速直觉”认知不同(如CNN),System 2的认知更“慢”,更“高层”,但是,如何达到这种认知,没有人明确地知道。当然Hinton等人把他们的赌注下在“人工感知”上,即,只要原始的感知一层层不断往上堆,机器也能感受到“因果推理”,“长期计划”等的合理性,进而采取行动。而另一些认知科学家不这么认为,毕竟,没有理论依据也很难让人相信,更高级的认知是从“一大片混沌”中诞生的。

这也就是为什么Yoshua Bengio和Gary Marcus的AI辩论也不会有什么实质性进展。Yoshua Bengio等神经网络拥护者更关心怎么把可以工作的智能系统建成,而Gary Marcus更关心人类认知的理论探讨

David认为“感知”一定重要(人是感知丰富的动物),但Hinton等人似乎遗漏了什么,我们稍后探讨。

先回到主题,接着上一篇,这次AAAI2020主题演讲上另两位(Yann Le Cunn和Yoshua Bengio)也带来了他们对更高级“感知”的假设和实现细节。

当然,他们都在试图解决System 2的更高级认知问题,Yann Le Cunn提了3个重要方向,

1. 自监督学习(self-supervised learning),这个David 在以前较详细讨论过,不赘述了

2. 对比学习(Contrastive Learning)隐变量基于能量模型(latent variable energy-based models):

来自:https://www.youtube.com/watch?v=UX8OubxsY8w&t=5906s

对比学习的底层的目标和胶囊网络相似,即人类有一种天性是:我们在预测和行动前,早就在大脑中存了类似“缓存”的东西(心理期望),拿着

...阅读更多...加入David9的星球群阅读所有文章:

加入David9的星球群,获得通行密码 , 阅读全文