David 9 一直想扒一扒Hinton的胶囊网络，老教授两篇论文有些晦涩，但今天发现AI³普及帖不错，只是略显冗长。。所以，精华浓缩版就呼之欲出了O(∩_∩)O~
深度CNN是Hinton老教授10年前就在重点研究的课题，胶囊网络也是Hinton早已思考的内容，所以，
第一：胶囊网络不是空穴来风的新算法，而是基于CNN的缺陷和新需求的改进。
第二，胶囊网络比CNN好在哪里？？
首先，CNN牛X之处在于用类似蛮力的海量数据方式，自动把重要的分类特征找到，所以，无论图像是不是完整，我们都有理由相信CNN能够识别图中有没有“米老鼠”这个对象：
只要CNN看到有象征米老鼠的“耳朵”和“鼻子”， CNN就认定这张图中有“米老鼠”。（哪怕拼图还没完成） 继续阅读理解Hinton胶囊网络之精华浓缩版，第一部分： 胶囊网络背后的灵感与初衷（Capsule Networks）
胶囊网络精华浓缩版第一部分中，我们就吐槽过Max pooling的一堆缺陷：
当我们深入看胶囊网络的工作方式，我们会感觉胶囊网络就是为改进Max Pooling而生的:
上图胶囊网络整体架构中，卷积层Conv1输出后，跟的不再是Max Pooling层， 而是主胶囊层（PrimaryCaps layer）和数据胶囊层（DigitCaps layer）。
这些胶囊层到底是如何工作的？我们先从胶囊层和一般的全连接层入手。
一般的全连接层是这样工作的：
对于上一层Max Pooling输出的所有标量（x1, x2, x3）与权重（w1，w2，w3）做卷积求和操作。最后，使用非线性激活函数 f（•）输出预测值hj 继续阅读理解Hinton胶囊网络之精华浓缩版，第二部分： 胶囊网络是如何工作的？（Capsule Networks）
如果不能像上帝那样创造, 那么就试着模仿吧 — David 9在哪听过
ICLR我们知道ICLR的中文全称是：国际学习表征大会。今天讲的文章就非常贴合学习表征这一主题 。我们知道哺乳动物海马体中的内嗅皮质（entorhinal cortex），简称EC，是神经科学中公认的管理空间定位的器官：
而2013《自然》上发表的一篇论文更是研究了内嗅皮质中细胞活跃度和动物所处空间位置的关系：
上图是内嗅皮质中的几种细胞在方块空间坐标中的活跃度（红色代表相当活跃）。有些叫做grid cell（格子细胞），它们在空间中间隔的地方总是显得较活跃；有一些细胞叫border cell（边缘细胞），当动物走到区域边缘时，这些细胞显得相当活跃。 继续阅读ICLR2018抢先看！RNN在空间定位训练中呈现的网格状表征：海马体的内嗅皮质与RNN一致表征
