专栏名称: 机器学习研究会
机器学习研究会是北京大学大数据与机器学习创新中心旗下的学生组织,旨在构建一个机器学习从事者交流的平台。除了及时分享领域资讯外,协会还会举办各种业界巨头/学术神牛讲座、学术大牛沙龙分享会、real data 创新竞赛等活动。
目录
相关文章推荐
宝玉xp  ·  可以试试 AI 帮你做,推荐试试 ... ·  3 天前  
智先生  ·  裁员了,很严重,大家做好准备吧! ·  6 天前  
智先生  ·  裁员了,很严重,大家做好准备吧! ·  6 天前  
黄建同学  ·  #2024广州车展上最神秘的车#不得不承认, ... ·  1 周前  
51好读  ›  专栏  ›  机器学习研究会

【学习】使用sklearn自带的贝叶斯分类器进行文本分类和参数调优

机器学习研究会  · 公众号  · AI  · 2017-04-03 22:38

正文



点击上方“机器学习研究会”可以订阅哦
摘要
 

转自:数据挖掘入门与实战

Part 1: 本篇内容简介

在前一篇文章完整手写一个朴素贝叶斯分类器,完成文本分类,我们使用首先假设在文档中出现的单词彼此独立,利用贝叶斯定理,完成了一个简单的文本分类器的编写,在真实数据的测试上,显示了良好的效果。


其实要是了解sklearn的人都应该知道,这个python的机器学习库,实现了我们常用的大部分机器学习算法,免除了我们重复造轮子的痛苦。我们使用和上一篇博客同样的数据,使用sklearn自带的贝叶斯分类器完成文本分类,同时和上一篇文章手写的分类器,进行分类精度、速度、灵活性对比。


Part 2: 朴素贝叶斯的在文本分类中常用模型:多项式、伯努利

朴素贝叶斯分类器是一种有监督学习,常见有两种模型,多项式模型(multinomial model)即为词频型和伯努利模(Bernoulli model)即文档型。二者的计算粒度不一样,多项式模型以单词为粒度,伯努利模型以文件为粒度,因此二者的先验概率和类条件概率的计算方法都不同。计算后验概率时,对于一个文档d,多项式模型中,只有在d中出现过的单词,才会参与后验概率计算,伯努利模型中,没有在d中出现,但是在全局单词表中出现的单词,也会参与计算,不过是作为“反方”参与的。这里暂不虑特征抽取、为避免消除测试文档时类条件概率中有为0现象而做的取对数等问题。


原文链接:

http://mp.weixin.qq.com/s/lKntcRuvLlu7e9jzvppwow

“完整内容”请点击【阅读原文】
↓↓↓