专栏名称: Python技术博文
分享有关Python知识,了解IT界最新技术,让我们一起从菜鸟变成大牛吧!
目录
相关文章推荐
Python爱好者社区  ·  字节程序员过年回家被亲戚鄙视:你985在互联 ... ·  3 天前  
Python爱好者社区  ·  多模态,杀疯了! ·  2 天前  
Python爱好者社区  ·  yyds!《LLM书》PDF ·  昨天  
Python爱好者社区  ·  卧槽,这就是最牛逼的python教程 ·  3 天前  
Python开发者  ·  自己编写作弊软件骗过大厂!00后拿4个顶级o ... ·  3 天前  
51好读  ›  专栏  ›  Python技术博文

机器学习算法的随机数据生成总结

Python技术博文  · 公众号  · Python  · 2017-10-08 16:27

正文

在学习机器学习算法的过程中,我们经常需要数据来验证算法,调试参数。但是找到一组十分合适某种特定算法类型的数据样本却不那么容易。还好numpy, scikit-learn都提供了随机数据生成的功能,我们可以自己生成适合某一种模型的数据,用随机数据来做清洗,归一化,转换,然后选择模型与算法做拟合和预测。下面对scikit-learn和numpy生成数据样本的方法做一个总结。


1. numpy随机数据生成API

numpy比较适合用来生产一些简单的抽样数据。API都在random类中,常见的API有:

1) rand(d0, d1, ..., dn) 用来生成d0xd1x...dn维的数组。数组的值在[0,1]之间

例如:np.random.rand(3,2,2),输出如下3x2x2的数组

1
2
3
4
5
6
array([[[ 0.49042678 , 0.60643763 ],
[ 0.18370487 , 0.10836908 ]],
[[ 0.38269728 , 0.66130293 ],
[ 0.5775944 , 0.52354981 ]],
[[ 0.71705929 , 0.89453574 ],
[ 0.36245334 , 0.37545211 ]]])


2) randn((d0, d1, ..., dn), 也是用来生成d0xd1x...dn维的数组。不过数组的值服从N(0,1)的标准正态分布。

例如:np.random.randn(3,2),输出如下3x2的数组,这些值是N(0,1)的抽样数据。

1
2
3
array([[ - 0.5889483 , - 0.34054626 ],
[ - 2.03094528 , - 0.21205145 ],
[ - 0.20804811 , - 0.97289898 ]])

如果需要服从N(μ,σ2)N(μ,σ2)的正态分布,只需要在randn上每个生成的值x上做变换σx+μσx+μ即可,例如:


例如:2*np.random.randn(3,2) + 1,输出如下3x2的数组,这些值是N(1,4)的抽样数据。

1
2
3
array([[ 2.32910328 , - 0.677016 ],
[ - 0.09049511 , 1.04687598 ],
[ 2.13493001 , 3.30025852 ]])

3)randint(low[, high, size]),生成随机的大小为size的数据,size可以为整数,为矩阵维数,或者张量的维数。值位于半开区间 [low, high)。


例如:np.random.randint(3, size=[2,3,4])返回维数维2x3x4的数据。取值范围为最大值为3的整数。

1
2
3
4
5
6
array([[[ 2 , 1 , 2 , 1 ],
[ 0 , 1 , 2 , 1 ],
[ 2 , 1 , 0 , 2 ]],
[[ 0 , 1 , 0 , 0 ],
[ 1 , 1 , 2 , 1 ],
[ 1 , 0 , 1 , 2 ]]])

再比如: np.random.randint(3, 6, size=[2,3]) 返回维数为2x3的数据。取值范围为[3,6).

1
2
array([[ 4 , 5 , 3 ],
[ 3 , 4 , 5 ]])

4) random_integers(low[, high, size]),和上面的randint类似,区别在与取值范围是闭区间[low, high]。


5) random_sample([size]), 返回随机的浮点数,在半开区间 [0.0, 1.0)。如果是其他区间[a,b),可以加以转换(b - a) * random_sample([size]) + a

例如: (5-2)*np.random.random_sample(3)+2 返回[2,5)之间的3个随机数。

1
array([ 2.87037573 , 4.33790491 , 2.1662832 ])

2. scikit-learn随机数据生成API介绍

scikit-learn生成随机数据的API都在datasets类之中,和numpy比起来,可以用来生成适合特定机器学习模型的数据。常用的API有:

1) 用make_regression 生成回归模型的数据

2用make_hastie_10_2,make_classification或者make_multilabel_classification生成分类模型数据

3) 用make_blobs生成聚类模型数据

4) 用make_gaussian_quantiles生成分组多维正态分布的数据

3. scikit-learn随机数据生成实例

3.1 回归模型随机数据

这里我们使用make_regression生成回归模型数据。几个关键参数有n_samples(生成样本数), n_features(样本特征数),noise(样本随机噪音)和coef(是否返回回归系数)。例子代码如下:

1
2
3
4
5
6
7
8
9
10
11






请到「今天看啥」查看全文