常见的爬虫分析库（3）-Python正则表达式与re模块

在线正则表达式测试

http://tool.oschina.net/regex/

常见匹配模式

模式 描述
\w 匹配字母数字及下划线
\W 匹配非字母数字下划线
\s 匹配任意空白字符，等价于 [\t\n\r\f].
\S 匹配任意非空字符
\d 匹配任意数字，等价于 [0-9]
\D 匹配任意非数字
\A 匹配字符串开始
\Z 匹配字符串结束，如果是存在换行，只匹配到换行前的结束字符串
\z 匹配字符串结束
\G 匹配最后匹配完成的位置
\n 匹配一个换行符
\t 匹配一个制表符
^ 匹配字符串的开头
$ 匹配字符串的末尾。
. 匹配任意字符，除了换行符，当re.DOTALL标记被指定时，则可以匹配包括换行符的任意字符。
[...] 用来表示一组字符,单独列出：[amk] 匹配 ‘a‘，‘m‘或‘k‘
[^...] 不在[]中的字符：[^abc] 匹配除了a,b,c之外的字符。
* 匹配0个或多个的表达式。
+ 匹配1个或多个的表达式。
? 匹配0个或1个由前面的正则表达式定义的片段，非贪婪方式
{n} 精确匹配n个前面表达式。
{n, m} 匹配 n 到 m 次由前面的正则表达式定义的片段，贪婪方式
a|b 匹配a或b
( ) 匹配括号内的表达式，也表示一个组

re.match

re.match 尝试从字符串的起始位置匹配一个模式，如果不是起始位置匹配成功的话，match()就返回none。


1

re.match(pattern, string, flags=0)

最常规的匹配


1

2

3

4

5

6

7

8

import re

content = ‘Hello 123 4567 World_This is a Regex Demo‘

print(len(content))

result = re.match(‘^Hello\s\d\d\d\s\d{4}\s\w{10}.*Demo$‘, content)

print(result)

print(result.group())

print(result.span())

 
41
<_sre.SRE_Match object; span=(0, 41), match=‘Hello 123 4567 World_This is a Regex Demo‘>
Hello 123 4567 World_This is a Regex Demo
(0, 41)

泛匹配


1

2

3

4

5

6

7

import re

content = ‘Hello 123 4567 World_This is a Regex Demo‘

result = re.match(‘^Hello.*Demo$‘, content)

print(result)

print(result.group())

print(result.span())

 
<_sre.SRE_Match object; span=(0, 41), match=‘Hello 123 4567 World_This is a Regex Demo‘>
Hello 123 4567 World_This is a Regex Demo
(0, 41)

匹配目标


1

2

3

4

5

6

7

import re

content = ‘Hello 1234567 World_This is a Regex Demo‘

result = re.match(‘^Hello\s(\d+)\sWorld.*Demo$‘, content)

print(result)

print(result.group(1))

print(result.span())

 
<_sre.SRE_Match object; span=(0, 40), match=‘Hello 1234567 World_This is a Regex Demo‘>
1234567
(0, 40)

贪婪匹配


1

2

3

4

5

6

import re

content = ‘Hello 1234567 World_This is a Regex Demo‘

result = re.match(‘^He.*(\d+).*Demo$‘, content)

print(result)

print(result.group(1))

 
<_sre.SRE_Match object; span=(0, 40), match=‘Hello 1234567 World_This is a Regex Demo‘>
7

非贪婪匹配


1

2

3

4

5

6

import re

content = ‘Hello 1234567 World_This is a Regex Demo‘

result = re.match(‘^He.*?(\d+).*Demo$‘, content)

print(result)

print(result.group(1))

 
<_sre.SRE_Match object; span=(0, 40), match=‘Hello 1234567 World_This is a Regex Demo‘>
1234567

匹配模式


1

2

3

4

5

6

7

import re

content = ‘‘‘Hello 1234567 World_This

is a Regex Demo

‘‘‘

result = re.match(‘^He.*?(\d+).*?Demo$‘, content, re.S)

print(result.group(1))

 
1234567

转义


1

2

3

4

5

import re

content = ‘price is $5.00‘

result = re.match(‘price is $5.00‘, content)

print(result)

 
None

1

2

3

4

5

import re

content = ‘price is $5.00‘

result = re.match(‘price is \$5\.00‘, content)

print(result)

 
<_sre.SRE_Match object; span=(0, 14), match=‘price is $5.00‘>

总结：尽量使用泛匹配、使用括号得到匹配目标、尽量使用非贪婪模式、有换行符就用re.S

re.search

re.search 扫描整个字符串并返回第一个成功的匹配。


1

2

3

4

5

import re

content = ‘Extra stings Hello 1234567 World_This is a Regex Demo Extra stings‘

result = re.match(‘Hello.*?(\d+).*?Demo‘, content)

print(result)

 
None

1

2

3

4

5

6

import re

content = ‘Extra stings Hello 1234567 World_This is a Regex Demo Extra stings‘

result = re.search(‘Hello.*?(\d+).*?Demo‘, content)

print(result)

print(result.group(1))

 
<_sre.SRE_Match object; span=(13, 53), match=‘Hello 1234567 World_This is a Regex Demo‘>
1234567

总结：为匹配方便，能用search就不用match

匹配演练


1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

import re

html = ‘‘‘<div id="songs-list">

    <h2 class="title">经典老歌</h2>

    <p class="introduction">

        经典老歌列表

    </p>

    <ul id="list" class="list-group">

        <li data-view="2">一路上有你</li>

        <li data-view="7">

            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>

        </li>

        <li data-view="4" class="active">

            <a href="/3.mp3" singer="齐秦">往事随风</a>

        </li>

        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>

        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>

        <li data-view="5">

            <a href="/6.mp3" singer="邓丽君"><i class="fa fa-user"></i>但愿人长久</a>

        </li>

    </ul>

</div>‘‘‘

result = re.search(‘<li.*?active.*?singer="(.*?)">(.*?)</a>‘, html, re.S)

if result:

    print(result.group(1), result.group(2))

 
齐秦 往事随风

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

import re

html = ‘‘‘<div id="songs-list">

    <h2 class="title">经典老歌</h2>

    <p class="introduction">

        经典老歌列表

    </p>

    <ul id="list" class="list-group">

        <li data-view="2">一路上有你</li>

        <li data-view="7">

            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>

        </li>

        <li data-view="4" class="active">

            <a href="/3.mp3" singer="齐秦">往事随风</a>

        </li>

        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>

        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>

        <li data-view="5">

            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>

        </li>

    </ul>

</div>‘‘‘

result = re.search(‘<li.*?singer="(.*?)">(.*?)</a>‘, html, re.S)

if result:

    print(result.group(1), result.group(2))

 
任贤齐 沧海一声笑

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

import re

html = ‘‘‘<div id="songs-list">

    <h2 class="title">经典老歌</h2>

    <p class="introduction">

        经典老歌列表

    </p>

    <ul id="list" class="list-group">

        <li data-view="2">一路上有你</li>

        <li data-view="7">

            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>

        </li>

        <li data-view="4" class="active">

            <a href="/3.mp3" singer="齐秦">往事随风</a>

        </li>

        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>

        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>

        <li data-view="5">

            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>

        </li>

    </ul>

</div>‘‘‘

result = re.search(‘<li.*?singer="(.*?)">(.*?)</a>‘, html)

if result:

    print(result.group(1), result.group(2))

 
beyond 光辉岁月

re.findall

搜索字符串，以列表形式返回全部能匹配的子串。


1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

26

27

28

import re

html = ‘‘‘<div id="songs-list">

    <h2 class="title">经典老歌</h2>

    <p class="introduction">

        经典老歌列表

    </p>

    <ul id="list" class="list-group">

        <li data-view="2">一路上有你</li>

        <li data-view="7">

            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>

        </li>

        <li data-view="4" class="active">

            <a href="/3.mp3" singer="齐秦">往事随风</a>

        </li>

        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>

        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>

        <li data-view="5">

            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>

        </li>

    </ul>

</div>‘‘‘

results = re.findall(‘<li.*?href="(.*?)".*?singer="(.*?)">(.*?)</a>‘, html, re.S)

print(results)

print(type(results))

for result in results:

    print(result)

    print(result[0], result[1], result[2])

 output


1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

26

import re

html = ‘‘‘<div id="songs-list">

    <h2 class="title">经典老歌</h2>

    <p class="introduction">

        经典老歌列表

    </p>

    <ul id="list" class="list-group">

        <li data-view="2">一路上有你</li>

        <li data-view="7">

            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>

        </li>

        <li data-view="4" class="active">

            <a href="/3.mp3" singer="齐秦">往事随风</a>

        </li>

        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>

        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>

        <li data-view="5">

            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>

        </li>

    </ul>

</div>‘‘‘

results = re.findall(‘<li.*?>\s*?(<a.*?>)?(\w+)(</a>)?\s*?</li>‘, html, re.S)

print(results)

for result in results:

    print(result[1])

 output

re.sub

替换字符串中每一个匹配的子串后返回替换后的字符串。


1

2

3

4

5

import re

content = ‘Extra stings Hello 1234567 World_This is a Regex Demo Extra stings‘

content = re.sub(‘\d+‘, ‘‘, content)

print(content)

 
Extra stings Hello  World_This is a Regex Demo Extra stings

1

2

3

4

5

import re

content = ‘Extra stings Hello 1234567 World_This is a Regex Demo Extra stings‘

content = re.sub(‘\d+‘, ‘Replacement‘, content)

print(content)

 
Extra stings Hello Replacement World_This is a Regex Demo Extra stings

1

2

3

4

5

import re

content = ‘Extra stings Hello 1234567 World_This is a Regex Demo Extra stings‘

content = re.sub(‘(\d+)‘, r‘\1 8910‘, content)

print(content)

 
Extra stings Hello 1234567 8910 World_This is a Regex Demo Extra stings

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

26

27

28

import re

html = ‘‘‘<div id="songs-list">

    <h2 class="title">经典老歌</h2>

    <p class="introduction">

        经典老歌列表

    </p>

    <ul id="list" class="list-group">

        <li data-view="2">一路上有你</li>

        <li data-view="7">

            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>

        </li>

        <li data-view="4" class="active">

            <a href="/3.mp3" singer="齐秦">往事随风</a>

        </li>

        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>

        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>

        <li data-view="5">

            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>

        </li>

    </ul>

</div>‘‘‘

html = re.sub(‘<a.*?>|</a>‘, ‘‘, html)

print(html)

results = re.findall(‘<li.*?>(.*?)</li>‘, html, re.S)

print(results)

for result in results:

    print(result.strip())

 output

re.compile

将正则字符串编译成正则表达式对象

将一个正则表达式串编译成正则对象，以便于复用该匹配模式:


1

2

3

4

5

6

7

8

import re

content = ‘‘‘Hello 1234567 World_This

is a Regex Demo‘‘‘

pattern = re.compile(‘Hello.*Demo‘, re.S)

result = re.match(pattern, content)

#result = re.match(‘Hello.*Demo‘, content, re.S)

print(result)

 
<_sre.SRE_Match object; span=(0, 40), match=‘Hello 1234567 World_This\nis a Regex Demo‘>

实战练习

源码在git上：https://gitee.com/longlovemeng/Spider.git

原文地址：https://www.cnblogs.com/yunlongaimeng/p/9802104.html

时间： 2024-07-31 23:41:30

常见的爬虫分析库（3）-Python正则表达式与re模块的相关文章

常见的爬虫分析库（4）-爬虫之PyQuery

PyQuery 是 Python 仿照 jQuery 的严格实现.语法与 jQuery 几乎完全相同. 官方文档:http://pyquery.readthedocs.io/ 安装 1 pip install pyquery 初始化 字符串初始化 1 2 3 4 5 6 7 8 9 10 11 12 13 14 html = ''' <div>     <ul>          <li class="item-0">first item</l

常见的爬虫分析库（2）-xpath语法

xpath简介 1.xpath使用路径表达式在xml和html中进行导航 2.xpath包含标准函数库 3.xpath是一个w3c的标准 xpath节点关系 1.父节点 2.子节点 3.同胞节点 4.先辈节点 5.后代节点 xpath语法 表达式 s说明 article  选取所有article元素的子节点 /article  选取根元素article article/a 选取所有属于article的子元素a的元素 //div  选取所有div子元素(不论出现在文档任何地方) /article/

python正则表达式之re模块方法介绍

python正则表达式之re模块其他方法 1:search(pattern,string,flags=0) 在一个字符串中查找匹配 2:findall(pattern,string,flags=0) 找到匹配,返回所有匹配部分的列表 In [1]: import re In [2]: str1 = 'imoooc videonum = 1000' In [3]: str1.find('1000') Out[3]: 18 In [4]: info = re.search(r'\d+',str1)

python 正则表达式re使用模块（match()、search()和compile()）

摘录 python核心编程 python的re模块允许多线程共享一个已编译的正则表达式对象,也支持命名子组.下表是常见的正则表达式属性: 函数/方法 描述 仅仅是re模块函数 compile(pattern,flags=0) 使用任何可选的标记来编译正则表达式的模式 ,然后返回一个正则表达式对象 re模块函数和正则表达式对象的方法 match(pattern,string,flags=0) 尝试使用带有可选标记的正则表达式的模式来匹配字符串,成功则返回匹配的对象,失败则返回None search

python正则表达式与re模块

python中的re模块常用函数/方法 0.正则表达式对象 (re.compile(pattern, flags=0)) 将正则表达式编译成正则表达式对象,该对象可调用正则表达式对象方法如:re.match(),re.search(),re.findall等. prog = re.compile(pattern) result = prog.match(string) //上下两种写法意义相同 result = re.match(pattern, string) 1.匹配对象及方法       

Python 正则表达式、re模块

一.正则表达式 对字符串的操作的需求几乎无处不在,比如网站注册时输入的手机号.邮箱判断是否合法.虽然可以使用python中的字符串内置函数,但是操作起来非常麻烦,代码冗余不利于重复使用. 正则表达式是一种特殊的字符串序列,使用它可以非常方便的匹配一个字符串是否合法. 1)判断手机号是否合法:根据手机号码一共11位并且是只以13.15.18.17开头的数字这些特点,我们用python写了如下代码: content = input('>>>') if content.isdigit(): i

python正则表达式之re模块使用

python第一个正则表达式 r'imooc'  Pattern Match result In [2]: import re In [3]: pa = re.compile(r'imooc') #re的compile方法生成pattern对象 In [4]: type(pa) Out[4]: _sre.SRE_Pattern In [5]: pa. pa.findall pa.fullmatch pa.match pa.search pa.subn pa.finditer pa.groupin

python正则表达式及RE模块

正则表达式(匹配字符串)web界面正则匹配工具:http://tool.chinaz.com/regex/ 元字符 1 . 匹配除换行符之外的任意字符 2 \w 匹配数字字母下划线 3 \d 匹配数字 4 \t 匹配制表符 5 \n 匹配换行符 6 \s 匹配空白符(包含,空格,制表符和换行符) 7 \b 单词的边界 8 \W 匹配非数字字母下划线 9 \S 匹配非空白符 10 \D 匹配非数字 11 ^ 匹配开始符 12 $ 匹配结束符 13 | 或者,如果是有包含关系的,长的放左边 14 [

python 正则表达式与re模块

一.正则表达式 用途 用事先定义好的一些特定字符.及这些特定字符的组合,组成一个"规则字符串",这个"规则字符串"用来表达对字符串的一种过滤逻辑. #### 简单地说 就是用于字符串匹配的 字符组 在同一个位置可能出现的各种字符组成的一个字符组,在正则表达式中用[]表示 例子: 规则:[0123456789] 待匹配:8 匹配结果:True 规则:[0-9] 待匹配:6 匹配结果:True 规则:[a-z] 待匹配:c 匹配结果:True 规则:[A-Z] 待匹配: