人类大脑可以在“现实”和“想象”之间自由切换,这种控制力一部分可能是“感知”驱动的,但是,另一部分是什么? — David 9
显然未来几年的趋势是,神经网络拥护者(Hinton等人)不再满足于模拟“低级”感知了,当下有一堆类似“因果推理”,“长期计划”,“抽象想象”,“知识提炼和探索”等更高级的认知问题需要模拟!这种认知问题科学家们叫:“系统2″的认知(System 2 Processing) 。
与视觉皮层的“快速直觉”认知不同(如CNN),System 2的认知更“慢”,更“高层”,但是,如何达到这种认知,没有人明确地知道。当然Hinton等人把他们的赌注下在“人工感知”上,即,只要原始的感知一层层不断往上堆,机器也能感受到“因果推理”,“长期计划”等的合理性,进而采取行动。而另一些认知科学家不这么认为,毕竟,没有理论依据也很难让人相信,更高级的认知是从“一大片混沌”中诞生的。
这也就是为什么Yoshua Bengio和Gary Marcus的AI辩论也不会有什么实质性进展。Yoshua Bengio等神经网络拥护者更关心怎么把可以工作的智能系统建成,而Gary Marcus更关心人类认知的理论探讨。
David认为“感知”一定重要(人是感知丰富的动物),但Hinton等人似乎遗漏了什么,我们稍后探讨。
先回到主题,接着上一篇,这次AAAI2020主题演讲上另两位(Yann Le Cunn和Yoshua Bengio)也带来了他们对更高级“感知”的假设和实现细节。
当然,他们都在试图解决System 2的更高级认知问题,Yann Le Cunn提了3个重要方向,
1. 自监督学习(self-supervised learning),这个David 在以前较详细讨论过,不赘述了。
2. 对比学习(Contrastive Learning)和隐变量基于能量模型(latent variable energy-based models):
对比学习的底层的目标和胶囊网络相似,即人类有一种天性是:我们在预测和行动前,早就在大脑中存了类似“缓存”的东西(心理期望),拿着
加入David9的星球群,获得通行密码 , 阅读全文
David 9
Latest posts by David 9 (see all)
- 修订特征已经变得切实可行, “特征矫正工程”是否会成为潮流? - 27 3 月, 2024
- 量子计算系列#2 : 量子机器学习与量子深度学习补充资料,QML,QeML,QaML - 29 2 月, 2024
- “现象意识”#2:用白盒的视角研究意识和大脑,会是什么景象?微意识,主体感,超心智,意识中层理论 - 16 2 月, 2024