月度归档： 2016 年 12 月

Stanford教授Daphne Koller 概率图模型 — 终极入门 第一讲 有向图模型与贝叶斯网络基础

图模型或者概率图模型（Probabilistic Graphical Model）, 是每个机器学习领域数据科学家的必备工具. 今天的终极入门我们讲解斯坦福教授Daphne Koller 概率图模型在coursera上的教程. 简洁地把要点拿出来分享给大家.

概率图模型可以是有向无环图 或者无向图

概率图模型是用图来表示变量概率依赖关系的理论。因为概率的依赖关系可以是单向的, 也可以是双向的, 所以概率图模型可以是有向无环图(如贝叶斯网络), 也可以是双向的有环图(如马尔可夫网络) . 继续阅读Stanford教授Daphne Koller 概率图模型 — 终极入门 第一讲 有向图模型与贝叶斯网络基础

卡内基梅隆大学（CMU），那些经受住时间考验的机器学习论文–第二弹：动态主题模型

这一弹，接着上一期，这次，我们要解释一种典型的机器学习算法——动态主题模型（Dynamic Topic Model）。

概率主题模型和概率图模型是每个做文本挖掘的学者的必学课题。其中最常见的主题模型是隐含狄利克雷分布（LDA）。当然，本文的动态主题模型也是主题模型的一种，不过为了方便理解，我们还是来回顾一下LDA。

来自：https://en.wikipedia.org/wiki/Latent_Dirichlet_allocation
来自：https://en.wikipedia.org/wiki/Latent_Dirichlet_allocation

我们定义：

α 是狄利克雷先验的参数，是每个文档可能的主题分布。

\theta _{m}，当α 落实到一个文档m，\theta _{m}是文档m的主题模型。而且α代表的是狄利克雷分布，\theta _{m}代表的是多项式分布。 α很明显是\theta _{m}的共轭先验。

β 是狄利克雷先验的参数，但是，它是每个主题可能的文字分布。

{\displaystyle z_{mn}} 是在文档m中，第n个文字的主题。 继续阅读卡内基梅隆大学（CMU），那些经受住时间考验的机器学习论文–第二弹：动态主题模型

卡内基梅隆大学（CMU），那些经受住时间考验的机器学习论文–第一弹：互联网拓扑规律研究

这一期，接着上一期，开始我们的卡内基梅隆大学（CMU）机器学习论文之旅。

CMU果然是机器学习的牛叉大学（拥有专门的机器学习专业系）。David 9翻看所有获得“Test of Time Award”（经得住时间考验奖）的论文，没有一篇论文是应用型，全部是奠基类的基础研究文章，不得不赞叹才疏学浅啊。先来获奖看一下列表：

  1. Graphs over time: densification laws, shrinking diameters and possible explanations [.pdf]
    Jure Leskovec, Jon Kleinberg, Christos Faloutsos, Test of Time Award, KDD 2016
  2. Dynamic Topic Models [.pdf]
    John Lafferty, David Blei, Test of Time Award, ICML 2016
  3. Realistic, Mathematically Tractable Graph Generation and Evolution, Using Krinecker Multiplication [.pdf]Jure Leskovec, Deepayan Chakrabarti, Jon M. Kleinberg, Christos Faloutsos, Test of Time Award, ECML/PKDD 2015
  4. Beyond Independent Relevance: Methods and Evaluation Metrics for Subtopic Retrieval [.pdf]
    Cheng Zhai, William Cohen, John Lafferty, Test of Time Award, SIGIR 2014
  5. Diffusion Kernels on Graphs and Other Discrete Input Spaces [.pdf]Risi Kondar and John Lafferty, Test of Time Award, ICML 2012
  6. Conditional Random Fields: Probabilistic Models for Segmenting and Labeling Sequence Data [.pdf]
    John Lafferty, Andrew McCallum, and Fernando C. N. Pereira, Test of Time Award, ICML 2011
  7. On Power-Law Relationships of the Internet Topology [.pdf]Michalis Faloutsos, Petros Faloutsos and Christos Faloutsos, Test of Time Award, ACM SIGCOMM 2010
  8. Integration of heterogeneous databases without common domains using queries based on textual similarity [.pdf]William Cohen, Test of Time Award, ACM SIGMOD, 2008

David 9发现一个规律，里面几乎所有论文都和“图”有关系啊，看来CMU对Graph研究很热衷啊？ 继续阅读卡内基梅隆大学（CMU），那些经受住时间考验的机器学习论文–第一弹：互联网拓扑规律研究