分类： 学术

CVPR2018精选#2: 视频分析的非局部(non-local) 神经网络模块，CMU与Facebook AI研究室视频分类识别新贡献

拥有什么，决定了你只能迷恋什么 — David 9

很大程度上，目前的芯片工艺和技术，决定了人类只能迷恋神经网络这样的方案（高于传统机器学习一个计算级别）。就像进入铁器时代，人们才能方便地砍伐森林、挖掘矿山、开垦土地（如果在青铜时代就别想了）。

在铁器时代，对铁器的改进很受欢迎；正如今年CVPR上大神Kaiming He和Xiaolong Wang 的文章试图改进神经网络工具去“开垦”视频分析 这片土地。

我们知道视频和图片的区别无非是多了时间的维度（time，视频的帧）。最直觉的做法是先用cnn，再用擅长时间序列的rnn；或者，直接用3D卷积去做。而实际情况是直接用3D卷积效果不是最好，于是有人用两个cnn去做（一个cnn分析时间，一个cnn分析空间），或者另外用一个分析轨迹（trajectories）的模块去加强时空感。

而非局部(non-local) 模块把非局部感受野的信息提取操作做成一个神经网络模块，方便了端到端的视频分析：

一个可以插入神经网络的non-local模块

这个模块输入x可以理解为32帧的视频（32张图片帧数 T=32，长宽为H×W），输出z也是H×W大小的特征图。有没有注意到最左端的箭头是一个跳层连接？没错，non-local模块就是把视频额外的时空信息提取作为一个残差操作，这样整个模块可以任意插入到一个残差网络resnet中： 继续阅读CVPR2018精选#2: 视频分析的非局部(non-local) 神经网络模块，CMU与Facebook AI研究室视频分类识别新贡献

你想要的神经网络自动设计，谷歌大脑帮你实现了：用参数共享高效地搜索神经网络架构（ENAS）

所有高级的创造，似乎都有一些“搜索”和“拼凑”的“智能” — David 9

模型自动设计已经不是新鲜事（H2O 的AutoML，谷歌的CLOUD AUTOML）。但是，高效的神经网络自动设计还是一个较有挑战性的课题（单纯用CV选模型太耗时间） 。谷歌大脑的这篇新论文就提供了一种高效的搜索方法，称之为：Efficient Neural Architecture Search（ENAS）。

对于老版本强化学习的NAS，需要21天搜索出的cnn模型，ENAS只需要3小时就可以搜索出相同准确率的模型：

例子：对于CIFAR-10数据集ENAS搜索出的具有4.23%错误率的模型，只需要3小时左右。 来自：https://arxiv.org/pdf/1802.03268.pdf

作者把这样的效率提高归功于候选子模型的参数共享上（相似子模型可以模仿迁移学习使用已有的权重，而不需要从头训练）。

为简单起见，我们先从生成四个计算节点的RNN循环神经网络进行解释：

来自：https://arxiv.org/pdf/1802.03268.pdf

即使是只有四个计算节点的RNN，也有多种有向无环图（DAG）的生成可能，如上左图，红色的箭头生成的RNN才是我们在右图中看到RNN。 继续阅读你想要的神经网络自动设计，谷歌大脑帮你实现了：用参数共享高效地搜索神经网络架构（ENAS）

深度神经进化，Uber AI实验室新发现：遗传算法(GA)在深度增强学习中的出色表现(Deep Neuroevolution)

当深度网络应用在增强学习中，人们发现一些训练的捷径，但是没有统一的看法。每当深度网络应用在一个领域，总是会重复类似的故事，这也许正是深度学习有意思的地方 — David 9

如果你想入深度增强学习的坑，你一定发现在增强学习domain下，深度网络构建有那么多技巧。

不像一般的机器视觉，深度网络在增强学习中被用来理解环境（states）和回报值（reward），最终输出一个行为策略。

因此关注的最小粒度其实是行为（action），依旧使用传统梯度下降更新网络并不高效（行为的跳跃很大，梯度更新可能很小）。另外，增强学习其实是可以高并行的问题，试想如果你有很多分身去玩Dota，最后让他们把关键经验告诉你，就省去了很多功夫。

在经验和行为主导的增强学习背景下，催生了DQN，A3C，Evolution Strategies等一系列深度网络的训练方法。包括我们今天的主角：遗传算法（GA）。

Uber AI实验室发现GA对行为策略的把控，可以结合到深度网络中，他们称之为深度神经进化（Deep Neuroevolution），在某些领域的表现甚至超过了DQN，A3C，Evolution Strategies。 继续阅读深度神经进化，Uber AI实验室新发现：遗传算法(GA)在深度增强学习中的出色表现(Deep Neuroevolution)