专栏名称: AI前线
我们专注大数据和机器学习,关注前沿技术和业界实践。每天发布高质量文章,技术案例等原创干货源源不断。同时有四千人的社群微课堂,每周一次业界大牛技术分享,也希望你能从这里分享前沿技术,交流深度思考。
目录
相关文章推荐
大数据文摘  ·  OpenAI出新牌!组建NextGenAI联 ... ·  3 天前  
数据派THU  ·  如何运行本地 DeepSeek 模型并在 ... ·  3 天前  
数据派THU  ·  【博士论文】边缘分布式深度神经网络推理 ·  3 天前  
数据派THU  ·  NP难问题接近被AI破解!南航牛津爆改Dee ... ·  3 天前  
CDA数据分析师  ·  【干货】SQL取数学会这些,搞定90%数据分析工作 ·  3 天前  
51好读  ›  专栏  ›  AI前线

微软开源用于Spark的深度学习库MMLSpark

AI前线  · 公众号  · 大数据  · 2017-10-23 17:52

正文


作者|Beining
编辑|Emily

微软开源了 MMLSpark,用于 Apache Spark 的的深度学习库。MMLSpark 可以与微软认知工具包和 OpenCV 完美整合。

微软发现,虽然 SparkML 可以建立可扩展的机器学习平台,绝大多数开发者的精力都耗在了调用底层 API 上。MMLSpark 旨在简化 PySpark 中的重复性工作。

以 UCI 的成人收入普查数据集举例,使用其他项目预测收入:

如果直接使用 SparkML,每一列都需要单独处理,整理为正确的数据类型;在 MMLSpark 中只需要两行代码:

深度神经网络(DNN)在图像识别和语音识别等领域不逊于人类,但是 DNN 模型的训练需要专业人员方可进行,与 SparkML 的整合也十分不易。MMLSpark 提供了方便的 Python API,可以方便地训练 DNN 算法。MMLSpark 可以方便地使用现有模型进行分类任务、在分布式 GPU 节点上进行训练、以及使用 OpenCV 建立可扩展的图像处理管线。

以下 3 行代码可以从微软认知工具集中初始化一个 DNN 模型,从图像中抽取特征:

MMLSpark 已经发布到 Docker Hub 上,使用下面的命令即可在单机部署:







请到「今天看啥」查看全文