资源 | 清华大学发布珠算：一个用于生成模型的Python库

5 月 27-28 日，机器之心主办的第一届全球机器智能峰会（GMIS 2017）将在北京 898 创新空间举行。在峰会第一天下午的「机器学习」主题 Session 上，清华大学副教授朱军将分享演讲《珠算：贝叶斯深度学习的 GPU 库（ZhuSuan: a GPU Library with Bayesian Deep Learning）》。近日，清华大学机器学习组已经在 GitHub 上发布了「珠算（ZhuSuan）」这一软件库。机器之心在本文中编译介绍了该项目的介绍文档，如果你想现场聆听对该项目的更详细深入的介绍，可访问 GMIS 官网 gmis.jiqizhixin.com 了解参会方式或点击文末「阅读原文」直达购票地址。

• 珠算项目地址：https://github.com/thu-ml/zhusuan

• 朱军教授 GMIS 2017演讲时间：5 月 27 日 14:10-14:30

• 演讲主题：珠算：贝叶斯深度学习的 GPU 库

珠算（ZhuSuan）是一个构建于 TensorFlow 之上的用于生成模型（Generative Model）的 Python 库。和现有的主要为监督式任务设计的深度学习库不同，珠算的特点是其在很大程度上根基于贝叶斯推理（Bayesian Inference），因此支持各种生成模型：既包括传统的分层贝叶斯模型，也有最近的深度生成模型。

使用珠算，用户可以享有深度学习的强大拟合能力和多 GPU 训练支持，同时还能通过执行原理上的贝叶斯推理来使用生成模型建模这个复杂的世界、利用无标注数据和处理不确定性。

支持的推理

变分推理和随机变分推理（VI & SVI）

• 支持多种变分后验：

  
  

• 平均场后验（Mean-field posterior）：全因素分解

• 有结构的后验（Structured posterior）：具有用户指定的依赖关系

• 支持的变分目标：

• SGVB：随机梯度变分贝叶斯（Stochastic gradient variational Bayes）

• IWAE：重要程度加权的目标（Importance weighted objectives）

• NVIL：具有方差减缩的得分函数估计器（Score function estimator with variance reduction）

• VIMCO：具有方差减缩的多样本得分函数估计器（Multi-sample score function estimator with variance reduction）

自适应重要程度采样

• 重新加权的唤醒-睡眠（RWS：Reweighted Wake-sleep）：带有用户指定的自适应提议

马尔可夫链蒙特卡洛（MCMC）

• 哈密尔顿蒙特卡洛（HMC）：带有步长和 mass adaptation

安装

珠算仍处在开发阶段。在第一个稳定版（1.0）发布之前，请在主目录中运行以下代码来克隆这个库：

pip install .

这会自动安装珠算及其依赖包。