专栏名称: 城长数据
ArcGIS for Urabn planning.主要面向城市规划专业,通过全方位的ArcGIS技术与方法讲解,达到高效运用ArcGIS ,以辅助城市规划设计及研究的目的。
目录
相关文章推荐
田俊国讲坛  ·  【2月26日】第32期《10天非凡心力训练营 ... ·  8 小时前  
湖北邮政  ·  第2136期 新年第一课,紧抓风控合规保健康 ·  23 小时前  
湖北邮政  ·  第2136期 新年第一课,紧抓风控合规保健康 ·  23 小时前  
创意铺子  ·  5 秒带走牙缝肉渣,99 ... ·  昨天  
普象工业设计小站  ·  相见恨晚的吸尘器 清洁效果真nice! ·  昨天  
普象工业设计小站  ·  拉夫劳伦新春广告太阴间,网友:每个元素都是冒犯! ·  2 天前  
51好读  ›  专栏  ›  城长数据

【视频】如何使用Python采集全国1000+环境监测站点实时空气质量数据?

城长数据  · 公众号  ·  · 2017-03-22 07:22

正文

系统讲解如何使用Python采集全国1000+环境监测站点实时空气质量数据。这是我录制的第一个视频教程,讲得不好还请大家海涵。 请大家不要频繁的去抓取这个网站,避免网站过载宕机,做一个有道德的城市规划师。


百度文库上有监测站点的坐标文件,字段链接后即可进行空间数据分析。本视频未包括该步骤讲解,后续正式视频会有这方面的内容。请保证网络状况良好,否则可能抛出异常,大家也可自行添加异常处理代码。


高清视频请移步:https://v.qq.com/x/page/g0386bt6wg0.html


代码如下:


# -*- coding: utf-8 -*-

import requests

from lxml import etree


def get_city_lst():

res = requests.get('http://www.tianqihoubao.com/aqi/')

html = res.text

res = etree.HTML(html)

data = res.xpath('//*[@class="citychk"]/dl//a/@href')

city_lst = list(set(data))

return city_lst


def download_data(path,city_lst):

fl = open(path,'w')

for city in city_lst:

res = requests.get('http://www.tianqihoubao.com' + city)

html = res.text

res = etree.HTML(html)

data = res.xpath('//table//td/text()')

data = ''.join(data).strip().replace(' ','').split()

city_name = res.xpath('//h1/text()')[0].split(u'空气')[0]

data = [i.encode('gbk') for i in data]







请到「今天看啥」查看全文