人类的痛苦源于“感知”,机器的痛苦源于“无法感知” —— David 9
“智能究竟是什么?”每个人都有自己的答案,每个人都没有确定的答案。今天david首次尝试梳理自己的答案,不成熟但值得沉淀。
从最原始的感知说起。有人认为神经网络或深度学习实现了机器“感知”的过程,这是错误的,
第一,上次提到“肤浅感知”和“深度感知”,目前的视觉(语言)模型没有赋予对象任何意义,“一个苹果”是什么?对模型来说只是一个标签。第二,人类能通过视觉调动“苹果”的味觉(触觉)等感受,这种感受在人类产生语言之前就存在了,而机器智能没有这种“综合体验”。实际是,仅仅是味觉一项感觉,就可以被其他五官所影响:
感知的灵活性在人类身上得到很好的体现,而人类也有很明显的缺陷,他们一辈子在学习概念和知识,并且被感知所困扰;但机器则相反,它们可能天生有(存储)概念和知识,却一辈子在学习灵活性。所以,人类是“灵活感知”,“交流联系”的智能,是“感知密集型”智能,而,如果真的有机器可以达到人类相当的认知水平,他们非常可能是“知识搜索”,“概念推理”,的“计算密集型”智能。
那么如果引导机器进行更多的感知,就能诱导出更高级智能吗?前不久热议的论文“Reward is enough”认为,只要“奖赏”足够,智能体就自己可以学习到各种不同的任务(语言,模仿,感知)等,这种想法是有问题的。
首先,如果有奖赏就能“诱导”出智能,为什么细菌或者其他动物没有进化出人类的智能?在地球上,繁衍是物种最大的奖赏之一,细菌不断自我复制,获得了很大程度的成功(奖赏),但这算智能或高级智能吗??
其次,他低估了环境对智能的影响,奖励是环境的一部分,甚至智能体本身也是环境的一部分。他并没有回答奖励如何产生,环境如何构造,才能诱导出更高智能体。
智能是生物对环境的理解,生物对环境的所有理解都已经