专栏名称: 扑克投资家
扑克财经旗下品牌,实体产业和金融领域第一新媒体平台。专注于挖掘行业、公司、人物等深层次内容,同时关注金融领域、企业相关的业务实操,服务于实体产业和金融人群,专为变革者打造。
目录
相关文章推荐
行业研究报告  ·  近乎“毁容”的李子柒,给所有网红上了一课 ·  2 天前  
第一财经  ·  已离职!网易此前网传反腐名单“全灭” ·  3 天前  
第一财经  ·  这一概念,多股涨停! ·  4 天前  
51好读  ›  专栏  ›  扑克投资家

数据挖掘可以做什么?扒了42万字歌词和20万份菜谱之后,歌手吃货再无秘密

扑克投资家  · 公众号  · 财经  · 2017-03-02 21:11

正文


更多、更及时的干货内容,请关注扑克投资家网站


文 | DK

来源 | 超级王登科,ID : superwdk

编辑 | 扑克投资家,转载请注明出处




听了这么多年民谣,我有一种感觉,就是很多歌都似曾相识,但是仔细一想,又哪一首都想不起来,为了搞清楚这群流浪在祖国大地的现代游吟诗人们都在唱些什么,我做了一些数据分析的工作。


我选取了大约30个覆盖从程序员,朋克,基佬到女权主义者,中国大妈,穆斯林的能够覆盖所有人群的民谣歌手和乐队,包括李志,夭十三,赵雷,宋冬野,周云蓬,逃跑计划等等,为了设立参照,我还取了一些其他风格的乐队,比如老一些的汪峰,窦唯,朴树和新一些的低苦艾,谢天笑,反光镜,草东等等。


我首先写了一个爬虫,它可以根据歌手或乐队的名字来自动抓取这个歌手的所有歌,为了保证平衡,我最多只抓取前50首歌,老实说,大多数歌手被人熟知的歌并不会超过这个数字。



这样,我得到了小一百个装满歌词的文件,鼠标滑过就能感觉到从里面溢出来的文艺气息,我感觉一阵忧郁袭来,为了写接下来的代码,我吹掉了一瓶可乐。



接下来,我开始了对这些歌词(约42万字)的分析。


首先是情绪分析,通过对这些歌词的自然语言处理,我知道了不同歌手们吟唱的到底是开心还是不开心的事情:



数值的分布比较平均,但大致可以看得出有三个分类,一类是特别开心的,例如郝云。但是我一开始也不太懂,为什么丢火车的情绪也这么高,后来听了几遍他们的歌,发现他们虽然唱腔惨兮兮的,但是歌词还是充满正能量的,丢火车乐队歌词中出现次数最多的三个词分别是「永远」「晚安」「倔强」,这些都是正面情绪的词。第二类则是比较忧伤的,以我们熟悉的逼哥为代表,他们的歌词中充斥着孤独,沉默,泪水等词语。虽不暴力,但是多少有一些黑暗。



第三类则以赵雷为代表,比较平静,就像一个朋友给你讲故事,不疾不徐,娓娓道来,里面也有开心,也有难过,但总体情绪趋于中值。这也许解释了为什么赵雷这么晚才火起来的原因——平淡的情绪较难快速给人以强烈的冲击。但无论如何,好的音乐总会被人们发掘。


基于某种趣味,我又分析了一下其他风格的音乐的情绪:



民谣的情绪很丰富,而摇滚的情绪则大多是负面的,人们说,没有愤怒就没有摇滚,这话至少在歌词的情绪上是正确的。


民谣歌手最喜欢什么季节?通过对歌词的分析,这个问题也可以解决:



其中,春天出现了81次,冬天出现了74次,夏天和秋天各出现了70和47次。由此可见,最受欢迎的是春天和冬天,最不受欢迎的是秋天。但我个人觉得秋天挺好的,秋高气爽,菜价便宜。


同样的,我也分析了歌手们最喜欢的城市,结果如下:



可以看得出,北方城市完全战胜了南方城市,成了在歌词中被唱的最多的地方,特别是北京,一共出现了81次。说到一线城市,人们会说北上广深,但是在民谣的世界里,北京绝对是不可撼动的存在。南方城市只有成都勉强露了几个照面。作为一个成都人,我对此还挺高兴的。


难以理解的是,虽然北方城市大获全胜,但是歌手们却更多的念叨着「南方」而不是「北方」,「南方」比「北方」多出现了大约5.7%



另一个我感兴趣的问题是,民谣歌手们是在向前看还是向后看,是往未来寄托希望,还是缅怀过去?



看得出,民谣歌手是在往前看的,至少是活在当下的,「明天」这个词在歌词中出现的次数最多,接着是「今天」和「昨天」,而「前天」和「后天」则几乎可以忽略不计,这也是可以理解的,比如说「我拿青春赌明天」,这听上去很美好,如果要说「我拿青春赌后天」乃至于「我拿青春赌下个月5号」,这听上去就像一个赌徒发疯了。


在我的统计中,出现最多的几个意象是:再见,姑娘,夜空,孤独,快乐。

如果把民谣拟人化,那应该是一个喜欢南方的北京小伙子,觉得世界很操蛋,但骂归骂,到底是对生活有希望的,憧憬着明天,在春天感到快乐,在冬天感到孤独,没有女朋友,但有几个纠缠不清的前女友,经常和她们见面,见面的地方可能是成都,昆明,南京,上海,武汉。。。。。


爬下20万份菜谱,数据解读舌尖上的中国

说来奇怪,中国人爱吃,但是对吃的却有千百种看法和意见,有的人喜欢吃辣,有的人不喜欢,有的人喜欢吃甜豆腐,有的人喜欢吃咸豆腐,千滋百味是中国菜的特色,但中国的味道到底是怎样的?或者说,主流的中国味道是怎样的?是美食节目里精致的膳食,还是晚上回家老妈的一碗热面?抑或是家门口小饭馆里冒着热气的回锅肉?


为了解决这个问题,我开始琢磨从数据分析上想点门路。在我咽了无数次口水后,我选取了几个美食网站,这几个美食网站的特点是,上面的美食都是用户主动上传的,因此,爬取这些美食的相关数据,就相当于趴在窗外看了一次别人家的晚饭,当我趴在窗户上看了足够多的别人家的晚饭的时候,关于中国味道的印象应该就可以成形了。


虽然这样做看上去有点猥琐,但是我的内心是高尚的,这一点必须澄清一下。

首先,我依旧是写爬虫,这个爬虫能够自动从这几个美食网站上随机获取美食的信息,包括食材,烹饪时间,具体步骤,美食名称,上传美食的用户位置这几个信息。



和之前的爬虫不一样,这个爬虫是自动去获取数据的,不需要跟任何参数,因此我把它放在一边,没有管它,这样过了一个小时之后。。。



第二天我又把它开了半天,最后大概爬取了约20万份全国各地的人们主动上传的美食。看到数据的我突然觉得,要是这都是做给我吃的就好了,20万道菜,就算一天吃10道菜,都可以吃50年了。数据从某方面来讲确实是好东西,但毕竟不能吃,少了那么些意思。


和之前分析歌词不同,几十万字的歌词也才1M上下,存个文本文档就足够了,但这次不一样,20万份下来最少100M,要是放在文本文档里那别说分析了,打开它都得让电脑卡死,所以这一次,我鸟枪换炮,把它存在了 mysql 数据库里面,说实话,G 以下的数据,也暂时还用不到 Hadoop 一类的东西,mysql 足矣。



通过对食材的聚类分析,我们可以看出,最受欢迎的调理是盐,其次是糖,酱油(PS:同类词已经合并,例如糖和白糖,都算做糖)



这从某种程度上说明了,咸味比甜味还是更主流一点。


那么,人们最喜欢吃的肉是什么呢?我们把食材又做一次聚类,发现了如下事实:



可以看得出,五花肉是不可撼动的存在,第二名排骨的份额也不错,达到了12.1%,其次是牛肉和猪肉。虽然猪肉略逊于牛肉,但五花肉和排骨其实也是猪肉,因此,猪肉无可辩驳的是中国人的餐桌之王。令我比较吃惊的是虾仁有8.57%的份额,我小时候基本上很少吃虾仁,这世界变化快啊。


肉类看完了,那么对于蔬菜的选择又是怎样的呢?



看了结果我有一点愤怒,为什么这么难吃的胡萝卜居然是第一?而且那么领先。又是为什么,香菜居然出现在了前十的名单里面。我最爱的土豆,居然只有 14.54% 的份额。这太让人震惊了。


另外我还发现了一个不得不说一下的事实,就是在描述用量的时候,出现最多的是「适量」,这个描述每次我看到都很头疼,适量到底是多少,为什么不能说的明白一点呢,我手一抖,倒下去半瓶醋,是不是也是适量?



看完了食材,我们看一下中国人最常做的菜是什么:



可乐鸡翅,这勾起了我遥远的回忆,我第一次听到这个名字的时候还在上小学,那时候我觉得这个菜肯定特别牛逼,特别复杂。后来却发现,这道菜出奇的简单,那些号称能在厨房露一手,但是平时从来不下厨房的人们,往往能露的也只有可乐鸡翅和蛋炒饭,最多再加一个土豆丝。


另一个比较好玩的数据是烹饪时间,统计发现,接近半数的菜,烹饪时间为30-45分钟,这充分说明了中国人做菜是充满耐心的,虽然社交网络上充斥着几分钟做一个什么什么菜的教程,但是大家还是愿意认认真真,花几个小时做一桌一家人的晚餐,这是中国传统文化中关于食物的美好的地方。



中国菜的技艺复杂,煎炒炸蒸焖煮烧,什么技法是出现最多的呢?



炒是做常见的做法,其次是烧,蒸和煎。


照例,我们可以杜撰一下一道典型中国菜的画像:适量的五花肉,适量的胡萝卜,土豆和洋葱,以及适量的酱油,盐和糖。首先把锅烧热,倒入适量的油,然后放入姜蒜,等香味出来后,放入五花肉,等到五花肉的油出来,肉微焦,香味四溢的时候,放入胡萝卜,土豆,洋葱,继续翻炒,然后放入酱油上色,盐,糖,继续翻炒入味,还可以放点水烧一下。然后撒点葱花,就可以出锅了!


炒出来可能是这个样子:



MD,居然饿了。




【完】




扫描二维码,进入潮汐社区,即刻问智咖

查看本期潮汐公开课栏目,抢先报名

这可能是迄今为止最全面的大宗·金融知识库

点击查阅

大宗业务: 套期保值 | 套利 | 套利心得 | 商品定价 | 贸易融资 | 融资方式 | 仓储 | 航运第一季 | 航运第二季 | 航运第三季 | 航运衍生品 | 油轮 | 商品风暴 | 钢贸 | 石油贸易 | 衍生品 | 公司研究 

 

品种系列:玻璃 | 黄金 | 菜粕 | 玉米 | 甲醇 | 甲醇第二季 | 塑料 | 钢铁 |  |  | 螺纹 | PTA | 橡胶 | 大豆 | 小麦 |  | 煤炭 | 石油 |  | 棕榈油 | 棉花 | ETF期权 | 铁合金 | 原油 | 铁矿石 | 茶油 | 沥青 |  | 天然气 | 咖啡 | 棉纱 | 白银 |  | 饲料 | 鸡蛋

 

公司产业:伊藤忠 | 住友 | 丸红 | 三井物产 | 亚洲粮商 | 油脂油料 | ABCD | 油脂巨头 | 中粮 | 益海嘉里 | 巨头年报 | 矿业寡头 | 四大粮商 | 大宗寡头 | 国内粮油 | 必和必拓 | 淡水河谷 | 孟山都 | 中储粮 | 鲁花 | 中纺集团 | 嘉吉 | ADM | 邦吉 | 路易达孚 | 嘉能可 | 贡沃 | 粮油争霸 | 埃克森美孚蒂森克虏伯 | 巴斯夫 | 化工第一季 | 化工第二季 | 化工第三季

 

宏观系列:金融危机  | 资产配置 | 投资时钟 | 非农 | 楼市 | 中国经济 | 矿产资源 | OPEC | 货币 | 美元 | 人民币 | 货币政策 | 中国金融史 | 地缘政治 | 一带一路 | 中国历史 | 中国经济 | 脱欧

 

金融系列:CTA基金 | 桥水基金 | 金融女郎 | 高频量化 | 对冲基金 | 资管 | 泽熙 | 股票 | 债券 | 外汇 | 期权 | 主权基金


交易系列:德州扑克 | 交易员 | 交易理论 | 交易系统 | 风险控制 | 技术分析 | 交易心理 | 个人修炼 交易书单 | 交易故事 | 均线 | 金融女郎


大宗地理:

美国 | 阿根廷 | 新加坡 | 俄罗斯 | 瑞士 | 日本 | 伊朗 | 印度 | 巴基斯坦 | 巴西 | 巴拿马 土耳其 | 伊拉克


人物系列:石油大亨 | 沈文荣  | 宁高宁 | 索罗斯 | 利佛摩尔




版权问题、商务合作、读者投稿

微信号 mindcherisher

电话+86 186-1633-5129





点击阅读原文链接至扑克投资家(puoke.com)

获取更多、更及时的干货内容