ICLR 2017精选论文_5th international conference on learning represent

深度学习及表征学习的顶级会议 The 5th International Conference on Learning Representations（ICLR 2017）将于今年4月24日-26日在法国南部的地中海海港城市土伦举行。今年是 ICLR 举办的第五个年头。这个从最开始就依靠深度学习权威学者 Yann LeCun（Facebook AI研究院主管）和 Yoshua Bengio 所引领的会议正在成为深度学习研究和实践发展的桥头堡。ICLR 因为其开放的论文审核制度和更加专注的研究讨论范畴已经吸引了越来越多的深度学习专家和学者在这个会议上发表最新成果。
因为 ICLR 的论文涵盖非常广泛的主题，而且一般的读者很难从浩如烟海的文献中即刻抓取到有用信息，这里笔者从众多文章中精选出5篇有代表性的文章（包含2篇最佳论文），为读者解惑。

TopicRNN: Combine RNN and Topic Model

概要：这篇文章探讨的是如何结合深度学习中的序列模型 RNN 和文本分析模型 Topic Models。建议对深度学习以及文档分析有兴趣的读者精读。

文章由来自微软研究院和哥伦比亚大学的学者共同完成。作者中的 Chong Wang 以及 John Paisley 都有长期从事 Graphical Models 以及 Topic Models 的研究工作。这篇文章想把在深度学习中非常有效的序列模型——RNN 和在文档分析领域非常有效的
Topic Models 结合起来。这里面的原因就是，RNN 比较能够抓住文档的“局部信息”（Local Structure），而 Topic Models 对于文档的“全局信息”（Global Structure）则更能有效把握。之前也有一些这样的尝试，不过这篇文章提出了一种简单直