分类： CVPR

“图片风格转换”又出新作，英伟达CVPR论文：高效图片风格转换与解析闭合解

如果性能遇到了瓶颈，“老套”的办法总能帮我们搞定一些事情 — David 9

自深度卷积网络 广泛应用以来，我们更像进入了一个“伪智能”时代。深度网络的“创造”更多的是基于“巨量数据”的“创造”。以图片风格转换为例，无论是我们以前说的GAN还是其他变形CNN，都需要标注样本达到一定量，才能生成比较好的风格转换图（附带着冗长的训练时间 和其他模型调优技巧）：

而英伟达前不久放出的CVPR新论文，一定程度上证明了在这个“伪智能”时代，只用深度网络是不够的，往往加入一些“老套”的算法可以帮你得到一些“漂亮”的结果：

来自：https://arxiv.org/pdf/1802.06474.pdf

上图是给定一张原始图片（a）和一张“黑夜”风格图片（b），我们希望把（a）的风格转换成（b）的结果。

可见（c）与（d）的结果都没有英伟达声称的方法（e）看起来自然。

而英伟达这篇论文的一大半贡献不在深度网络，

而是如何把传统的WCT（白化和调色转换：whitening and coloring transforms）应用到深度网络中，以及图片平滑的后处理工作。

整体框架如下：

来自：https://arxiv.org/pdf/1802.06474.pdf 继续阅读“图片风格转换”又出新作，英伟达CVPR论文：高效图片风格转换与解析闭合解

CVPR2018抢先看，DiracNets：无需跳层连接，训练更深神经网络，结构参数化与Dirac参数化的ResNet

虚拟化技术牺牲硬件开销和性能，换来软件功能的灵活性；深度模型也类似，如果把网络结构参数化，得到的模型更灵活易控，但是计算效率并不高。 — David 9

近年来深度网络结构的创新层出不穷：残差网络，Inception 系列， Unet，等等。。微软的残差网络ResNet就是经典的跳层连接（skip-connection）：

来自：https://arxiv.org/pdf/1512.03385.pdf

上一层的特征图x直接与卷积后的F(x)对齐加和，变为F(x)+x （特征图数量不够可用0特征补齐，特征图大小不一可用带步长卷积做下采样）。这样在每层特征图中添加上一层的特征信息，可使网络更深，加快反馈与收敛。

但是ResNet也有明显的缺陷：我们无法证明把每一层特征图硬连接到下一层都是有用的；另外实验证明把ResNet变“深”，不如把ResNet变“宽”， 即，到了一定深度，加深网络已经无法使ResNet准确度提升了（还不如把网络层像Inception那样变宽）。

于是，DiracNets试图去掉固定的跳层连接，试图用参数化的方法代替跳层连接：

那么问题来了，我们怎么参数化这个被删除的跳层连接？ 继续阅读CVPR2018抢先看，DiracNets：无需跳层连接，训练更深神经网络，结构参数化与Dirac参数化的ResNet

#Inception深度网络家族盘点 | Inception v4 和Inception-ResNet未来走向何方 ?

多融合和标准化的网络是深度架构未来的可见趋势 — David 9

Inception深度网络架构已经走过4个版本，AI的空前热潮，让业内期待新网络架构的心情如同当年期待Window系统版本一样。

Inception V1的想法其实很简单：一方面我们人工地调整每层卷积窗口的尺寸（真麻烦！）另一方面，我们又想让深度网络更“深”，为什么不让同一层就有各种大小卷积可以学习？

是不是轻松多了？仅仅一层block就包含1*1卷积，3*3卷积，5*5卷积，3*3池化。

这样，网络中每一层都能学习到“稀疏”或者“不稀疏”的特征：

另外，Inception V1开创了两个变化：

1. 以前每一层线性卷积需要之后跟一个Relu激活函数或者pooling层增加非线性。而Inception V1直接通过DepthConcat在每个block后合成特征，获得非线性属性。 继续阅读#Inception深度网络家族盘点 | Inception v4 和Inception-ResNet未来走向何方 ?