【因果论第一弹】类人智能副产品#1:因果解释,因果推理,因果神经网络ENN,Causality,causal inference

一旦因果清晰明了,作为人类,下一步就是发现和创造因果—— David 9

人类其实是“欲望管理大师”,
不像动物被欲望直接地驱使,
我们依靠“想象”构造出无限欲望,
我们又依靠“欺骗”打破无限欲望,重塑欲望。(无论是欺骗他人还是欺骗自己)。
而“因果关系”——让欺骗成为可能。
 
当你在奇怪人类为什么痴迷于“欺骗”与“被欺骗”,不如先反观一下“因果关系”在人类社会中的作用。首先,我们的大脑是“强预测”的,jeff hawkin曾在他的书中曾提到一个有意思的例子,如果我们打算伸手去触摸咖啡杯,其实,我们的大脑早已在预测触摸杯子的感觉和之后的情况了:
并且,每一根手指早已有自己的感觉判断,只是你不自觉而已。
这种强预测的“本性”促使我们对因果关系特别痴迷,因为对因果关系的预测,是我们预测高层认知世界的载体。而利用“欺骗”这个技能,人类可以对因果关系进行自由操控和表达。(无论你是错误还是正确,你都有了操纵和表达因果解释的自由)。比如哪怕你不喜欢男(女)朋友做的午饭,你还是会说:”我之前早上吃的太多了,所以现在容易饱”。
当然david今天不是想说“欺骗”的魅力,而是想说“因果关系”,这个看似是类人智能副产品的东西,在构建下一阶段AI的重要性。
 

“因果关系”帮助智能体注意到游戏规则,而不是数据本身

目前的AI太过关注数据本身,事实上数据不能代表一切,无论静态数据还是动态数据,都有这样那样的漏洞。
概率学中一个著名的悖论“蒙提·霍尔悖论”就是一个例子:20世纪80年代末一个竞猜游戏类电视节目中,有三扇门供你选择,其中一扇门后面是一辆车(奖品),另外两扇门后面是山羊。你挑了一扇门,比如说1号门,主持人知道门后面是什么,这时主持人会打开了另一扇“山羊”门,比如说3号门,你看到这扇门的后面是一只山羊。此时,如果他问你:‘你想重新选择,改选2号门吗?’
那么,选择换门是否对你赢走奖品更有利?概率又是多少:

当时许多概率学者会回答: 继续阅读【因果论第一弹】类人智能副产品#1:因果解释,因果推理,因果神经网络ENN,Causality,causal inference

#感知融合第2弹:单网络处理任意模态数据的时代正在临近,强数据控制,蓄水池计算,全局工作区理论与自注意力机制

强人工智能(类人智能)可能比较遥远,但强数据控制智能已经临近 —— David 9

在上次感知融合中我们谈到,“肤浅感知”跳过了“理解” 这一步,不过,“肤浅感知”相当有效,以至于传统神经网络(CNN, RNN, BERT)可以直截了当地堆加融合数据(同态或多模态)。但是,很快人们就将发现问题:

1. “肤浅感知”模型太关注模型本身的优化,如特殊loss或特殊的优化器,而模型和当前数据集及任务是强相关的,这缺乏对数据的灵活控制和鲁棒性。

2. 正如阿德南曾在是人类水平的智能,还是动物般的智能中表达的,神经网络近年来在构造精巧的函数上是成功的,但进一步可以相信更精巧的函数还会出现,因为目前“动物智能”模型的精巧程度依旧比不上 动物。

更重要的是,也许我们低估了低等智能背后的普适性,越低等智能(感知),对于“外设”和输入数据越是鲁棒。如,盲人的听觉可以比常人好得多,跛脚的动物可以很快适应新的走路方式,我们用一只眼也可以很快地适应生活甚至做得更好,

低等感知需要做的是让输入信息更高效地流入自身的感知系统,并适应周围环境,这时的关键词是“快”,而不是“好”“为什么”,只有人类才会在感知后还会有其他反思。

这就是为什么值得相信,目前的人工感知模型(cnn, transformers)在灵活性层面 继续阅读#感知融合第2弹:单网络处理任意模态数据的时代正在临近,强数据控制,蓄水池计算,全局工作区理论与自注意力机制