重磅: php weekly, pycoders weekly 收集数据集合 开放下载

今天David 9 给大家开放一个很棒的数据集, 收集了迄今为止的phpweekly和pycoders上的所有HTML数据, 不可多得的技术引导.

http://www.phpweekly.com/

http://pycoders.com/

项目地址:

https://github.com/yanchao727/crawl_pycoder

phpweekly 所有数据路径: https://github.com/yanchao727/crawl_pycoder/tree/master/crawl_pycoder/spiders/php_weekly_dump

pycoders 所有数据路径:

https://github.com/yanchao727/crawl_pycoder/tree/master/crawl_pycoder/spiders/content

Pycon 2016 tensorflow 研讨会总结 — tensorflow 手把手入门 #第二讲 word2vec

上一期我们讲到Pycon 2016 tensorflow 研讨会总结 — tensorflow 手把手入门 #第一讲 . 今天是我们第二讲, 来趴一趴word2vec.

什么是word2vec?

用来学习文字向量表达的模型 (相关文本文字的的特征向量).

  • 向量空间模型解决了NLP中数据稀疏问题, 如果文字是离散的. 即, 把文字映射到相邻的空间点上.

立刻上图感受一下word2vec:

1

Untitled

这里看看与文字’Cat’接近的词汇, 一目了然啊~如果一定要给’cat’一个向量描述, 上图左边这一列特征和权重是不是挺合理的呢? 嘿嘿~~~ 继续阅读Pycon 2016 tensorflow 研讨会总结 — tensorflow 手把手入门 #第二讲 word2vec

Pycon 2016 tensorflow 研讨会总结 — tensorflow 手把手入门 #第一讲

一直想专门做一期关于Tensorflow的blog,这次终于有机会啦。这篇文章David 9打算手把手教大家入门Tensorflow,带大家总结Pycon 2016 tensorflow 研讨会:https://www.youtube.com/watch?v=GZBIPwdGtkk , 并且为大家解读第一个tensorflow例程. 另外, 文末有演讲PPT下载哦 !

什么是Tensorflow ?

Tensorflow是Google大脑团队开源的机器学习计算训练框架.

tensorflow
tensorflow

有几个重要点: 继续阅读Pycon 2016 tensorflow 研讨会总结 — tensorflow 手把手入门 #第一讲

深度学习中的激活函数导引–“深度学习大讲堂”微信公众号授权转载

最近读到一篇很不错的讲激活函数的文章,迫不及待地联系公众号,得到的转载允许,由David 9带给大家:

摘要

近年来,深度学习在计算机视觉领域取得了引人注目的成果,其中一个重要因素是激活函数的发展。新型激活函数ReLU克服了梯度消失,使得深度网络的直接监督式训练成为可能。本文将对激活函数的历史和近期进展进行总结和概括。

激活函数的定义与作用

在人工神经网络中,神经元节点的激活函数定义了对神经元输出的映射,简单来说,神经元的输出(例如,全连接网络中就是输入向量与权重向量的内积再加上偏置项)经过激活函数处理后再作为输出。加拿大蒙特利尔大学的Bengio教授在 ICML 2016 的文章[1]中给出了激活函数的定义:激活函数是映射 h:R→R,且几乎处处可导。
神经网络中激活函数的主要作用是提供网络的非线性建模能力,如不特别说明,激活函数一般而言是非线性函数。假设一个示例神经网络中仅包含线性卷积和全连接运算,那么该网络仅能够表达线性映射,即便增加网络的深度也依旧还是线性映射,难以有效建模实际环境中非线性分布的数据。加入(非线性)激活函数之后,深度神经网络才具备了分层的非线性映射学习能力。因此,激活函数是深度神经网络中不可或缺的部分。

激活函数的历史发展与近期进展

从定义来看,几乎所有的连续可导函数都可以用作激活函数。但目前常见的多是分段线性和具有指数形状的非线性函数。下文将依次对它们进行总结。

Sigmoid

Sigmoid 是使用范围最广的一类激活函数,具有指数函数形状 。正式定义为:

QQ截图20160802113124

QQ截图20160802113344 继续阅读深度学习中的激活函数导引–“深度学习大讲堂”微信公众号授权转载