天气预报首先需要的就是天气信息,可以从中国天气网的Wap网站上获取,因为Wap网站页面简单,便于抓取内容。网址是:http://wap.weather.com.cn/wap/,默认是北京的天气预报,可以更换城市。某城市的天气预报对应的网址是http://wap.weather.com.cn/wap/weather/city_code.shtml,其中city_code是城市代码。以南京市为例,南京的城市代码是101190101,所以对应的天气预报网址就是http://wap.weather.com.cn/wap/weather/101190101.shtml。
为了抓取我们需要的天气的信息,首先需要获取天气预报页面源代码,这可以使用urllib模块的urlopen方法打开页面源文件并返回一个类文件对象,然后可以通过read方法读取其内容,也就是页面源代码。
from urllib import urlopen
src_code=urlopen(‘http://wap.weather.com.cn/wap/weather/101190101.shtml‘).read() #获取页面源代码
获取的页面源代码是HTML代码,截取其中我们需要的部分内容如下:
<title>南京天气预报</title>
......
<h2><strong>南京天气预报</strong></h2>
<h3>2011-11-22 18时发布</h3>
......
<dd>11月23日星期三<br /> <img src="http://www.weather.com.cn/m/i/icon_weather/21x15/n01.gif" /><img src="http://www.weather.com.cn/m/i/icon_weather/21x15/d00.gif" /></dd>
<dt> 多云转晴6℃/12℃<br /> 北风4-5级</dt>
</dl>
<dl >
......
</body>
</html>
我们需要的内容为(当然,是不含HTML标记符号的):
1.城市名称:<title>南京天气预报</title>
2.发布时间:<h3>2011-11-22 18时发布</h3>
3.日期信息:<dd>11月23日星期三<br /> .....</dd>
4.天气信息:<dt> 多云转晴6℃/12℃<br /> 北风4-5级</dt>
提取这些信息有两种方法,一是利用强大的正则表达式,二是使用Beautiful Soup这个小模块。接下来让我们依次来实现这两种方法。
先说方法一,使用正则表达式。关于正则表达式,篇幅有限我就不多介绍了,只说如何实现我们的需求。使用正则表达式的关键是设计出合适的正则表达式。为了提取我们需要的4项内容,我们需要4个正则式。能够实现这4种匹配的正则式并不是唯一的,以下是我设计的4个正则式:
title_re = re.compile(‘<title>(.*)</title>‘) #匹配标题的正则式
release_re = re.compile(‘<h3>(.*)</h3>‘) #匹配发布时间的正则式
days_re = re.compile(‘<dd>(.*)<br‘) #匹配日期的正则式
weather_re = re.compile(‘<dt>(.*)<br /> (.*)</dt>‘) #匹配天气的正则式
re.compile(regex)返回一个正则表达式对象。使用该对象的findall(pattern,string,flag=0)方法可以返回所有匹配部分的列表。当正则表达式仅有一个子组时,findall()返回子组匹配的字符串组成的列表;如果表达式有多个子组,返回的结果是一个元组的列表,元组中每个元素都是一个子组的匹配内容。子组就是正则表达式中使用圆括号括起来的部分,在上面4个正则式中都是(.*)。
weather_title = title_re.findall(text)[0] #获取标题
release_time = release_re.findall(text)[0] #获取发布时间
days = []
for day in days_re.findall(text): #匹配日期,返回一个列表
days.append(day)
day_weather = []
for temp,wind in weather_re.findall(text): #匹配天气情况,返回一个列表
day_weather.append(temp + ‘,‘ + wind)
至此,我们就提取出了我们需要的所有内容。下面看一下完整的程序。
#! /usr/bin/env python
#coding=utf-8
from urllib import urlopen
import re #正则表达式模块
import sys #这三行设置默认编码格式为UTF-8
reload(sys) #不设置的话,使用不同的编译器可能
sys.setdefaultencoding(‘utf-8‘) #会出现编码错误
#这个网址是江宁天气预报,可以根据实际情况修改
my_url = ‘http://wap.weather.com.cn/wap/weather/101190101.shtml‘
title_re = re.compile(‘<title>(.*)</title>‘) #匹配标题的正则式
release_re = re.compile(‘<h3>(.*)</h3>‘) #匹配发布时间的正则式
days_re = re.compile(‘<dd>(.*)<br‘) #匹配日期的正则式
weather_re = re.compile(‘<dt>(.*)<br /> (.*)</dt>‘) #匹配天气的正则式
text = urlopen(my_url).read() #获取页面源代码
weather_title = title_re.findall(text)[0] #获取标题
release_time = release_re.findall(text)[0] #获取发布时间
days = []
for day in days_re.findall(text): #匹配日期,返回一个列表
days.append(day)
day_weather = []
for temp,wind in weather_re.findall(text): #匹配天气情况,返回一个列表
day_weather.append(temp + ‘,‘ + wind)
print weather_title
print release_time
for i in range(5):
print ‘%s‘ % days[i],day_weather[i]
使用正则表达式有几个缺点,一是正则表达式并不是完全可读的,二是正则表达式被HTML源代码约束,这就意味着网页结构中很小的改动就会导致程序中断。所以我们需要更好的实现方式,可以使用Beautiful Soup模块 ,读者可以自行研究。
好了,我们已经从网上获取到了天气信息