本文出自方志朋的博客 链接:http://blog.csdn.net/forezp/article/details/68951699
一、使用的技术栈:
二、数据成果
三、简单的可视化分析
1、性别分布
0 绿色代表的是男性 ^ . ^
1 代表的是女性
-1 性别不确定
可见知乎的用户男性颇多。
2、粉丝最多的top30
粉丝最多的前三十名:依次是张佳玮、李开复、黄继新等等,去知乎上查这些人,也差不多这个排名,说明爬取的数据具有一定的说服力。
3、写文章最多的top30
四、爬虫架构
爬虫架构图如下:
说明:
选择一个活跃的用户(比如李开复)的url作为入口url.并将已爬取的url存在set中。
抓取内容,并解析该用户的关注的用户的列表url,添加这些url到另一个set中,并用已爬取的url作为过滤。
解析该用户的个人信息,并存取到本地磁盘。
logstash取实时的获取本地磁盘的用户数据,并给elsticsearch
kibana和elasticsearch配合,将数据转换成用户友好的可视化图形。
五、编码
爬取一个url:
def download (url) : if url is None : return None try : response = requests.get(url, headers={ 'User-Agent' : 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_11_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/53.0.2785.143 Safari/537.36' , 'authorization' : 'your authorization ' }) print (response.content) if (response.status_code == 200 ): return response.content return None except : return None
解析内容:
def download (url) : def parse (response) : try : print (response) json_body = json.loads(response); json_data = json_body['data' ] for item in json_data: if (not old_url_tokens.__contains__(item['url_token' ])): if (new_url_tokens.__len__()<2000 ): new_url_tokens.add(item['url_token' ]) if (not saved_users_set.__contains__(item['url_token' ])): jj=json.dumps(item) save(item['url_token' ],jj ) saved_users_set.add(item['url_token' ]) if (not json_body['paging' ]['is_end' ]): next_url = json_body['paging' ]['next' ] response2 = download(next_url) parse(response2) except : print ('parse fail' )
存本地文件:
def save (url_token, strs) : f = file("\Users\forezp\Downloads\zhihu\user_" + url_token + ".txt" , "w+" ) f.writelines(strs) f.close()
代码说明:
* 需要修改获取requests请求头的authorization。 * 需要修改你的文件存储路径。
源码下载:点击这里,记得star哦! https://github.com/forezp/ZhihuSpiderMan
六/如何获取authorization
七、可改进的地方
可增加线程池,提高爬虫效率
存储url的时候我才用的set(),并且采用缓存策略,最多只存2000个url,防止内存不够,其实可以存在redis中。
存储爬取后的用户我说采取的是本地文件的方式,更好的方式应该是存在mongodb中。
对爬取的用户应该有一个信息的过滤,比如用户的粉丝数需要大与100或者参与话题数大于10等才存储。防止抓取了过多的僵尸用户。
八、关于ELK套件
关于elk的套件安装就不讨论了,具体见官网就行了。网站: https://www.elastic.co/
另外logstash的配置文件如下:
input { file { path => "/Users/forezp/Downloads/zhihu/*" } } filter { } output { elasticsearch { action => "index" hosts => "localhost:9200" index => "zhihu" } }
九、结语
从爬取的用户数据可分析的地方很多,比如地域、学历、年龄等等,我就不一一列举了。另外,我觉得爬虫是一件非常有意思的事情,在这个内容消费升级的年代,如何在广阔的互联网的数据海洋中挖掘有价值的数据,是一件值得思考和需不断践行的事情。最后,本文仅用作交流学习。如果知乎告知我侵权,我会立刻删除本文。
推荐Java开发者必备微信号
▼
关注语言编程Java,分享、交流Java编程技巧和信息