python文本过滤

#encoding:UTF-8  

import re
temp = "想做/ 兼_职/学生_/ 的 、加,我Q:  8 8.  8 8. !!??  8 8 。8.  8。 8     有,惊,喜,哦"
temp = temp.decode("utf8")
string = re.sub("[\s+\.\!\/_,$%^*(+\"\‘]+|[+——!,。?、[email protected]#¥%……&*()]+".decode("utf8"), "".decode("utf8"),temp)
print string

# def is_chinese(uchar):
#         """判断一个unicode是否是汉字"""
#         if uchar >= u‘\u4e00‘ and uchar<=u‘\u9fa5‘:
#                 return True
#         else:
#                 return False

# def is_number(uchar):
#         """判断一个unicode是否是数字"""
#         if uchar >= u‘\u0030‘ and uchar<=u‘\u0039‘:
#                 return True
#         else:
#                 return False

# def is_alphabet(uchar):
#         """判断一个unicode是否是英文字母"""
#         if (uchar >= u‘\u0041‘ and uchar<=u‘\u005a‘) or (uchar >= u‘\u0061‘ and uchar<=u‘\u007a‘):
#                 return True
#         else:
#                 return False

# def is_other(uchar):
#         """判断是否非汉字,数字和英文字符"""
#         if not (is_chinese(uchar) or is_number(uchar) or is_alphabet(uchar)):
#                 return True
#         else:
#                 return False

# def B2Q(uchar):
#         """半角转全角"""
#         inside_code=ord(uchar)
#         if inside_code<0x0020 or inside_code>0x7e:      #不是半角字符就返回原来的字符
#                 return uchar
#         if inside_code==0x0020: #除了空格其他的全角半角的公式为:半角=全角-0xfee0
#                 inside_code=0x3000
#         else:
#                 inside_code+=0xfee0
#         return unichr(inside_code)

# def Q2B(uchar):
#         """全角转半角"""
#         inside_code=ord(uchar)
#         if inside_code==0x3000:
#                 inside_code=0x0020
#         else:
#                 inside_code-=0xfee0
#         if inside_code<0x0020 or inside_code>0x7e:      #转完之后不是半角字符返回原来的字符
#                 return uchar
#         return unichr(inside_code)

# def stringQ2B(ustring):
#         """把字符串全角转半角"""
#         return "".join([Q2B(uchar) for uchar in ustring])

# def uniform(ustring):
#         """格式化字符串,完成全角转半角,大写转小写的工作"""
#         return stringQ2B(ustring).lower()

# def string2List(ustring):
#         """将ustring按照中文,字母,数字分开"""
#         retList=[]
#         utmp=[]
#         for uchar in ustring:
#                 if is_other(uchar):
#                         if len(utmp)==0:
#                                 continue
#                         else:
#                                 retList.append("".join(utmp))
#                                 utmp=[]
#                 else:
#                         utmp.append(uchar)
#         if len(utmp)!=0:
#                 retList.append("".join(utmp))
#         return retList

# if __name__=="__main__":
#         #test Q2B and B2Q
#         for i in range(0x0020,0x007F):
#                 print Q2B(B2Q(unichr(i))),B2Q(unichr(i))

#         #test uniform
#         ustring=u‘中国 人名a高频A‘
#         ustring=uniform(ustring)
#         ret=string2List(ustring)
#         raw_input()
时间: 2024-08-19 10:03:08

python文本过滤的相关文章

Python实用技法第31篇:文本过滤和清理

问题 某些无聊的脚本小子在Web页面表单中填入了"pyt???"这样的文本,我们想以某种方式将其清理掉. 解决方案 文本过滤和清理所涵盖的范围非常广泛,涉及文本解析和数据处理方面的问题.在非常简单的层次上,我们可能会用基本的字符串函数(例如str.upper()和str.lower())将文本转换为标准形式.简单的替换操作可通过str.replace()或re.sub()来完成,它们把重点放在移除或修改特定的字符序列上.也可以利用unicodedata.normalize()来规范化文

【python cookbook】【字符串与文本】12.文本过滤和清理

问题:例如清除在web页面表单中填入了pýt?öñis这样的文本 解决方法:str.translate()方法 s = 'p\xfdt\u0125\xf6\xf1\x0cis\tawesome\r\n' print(s) # (a) Remapping whitespace 先建立一个小型的转换表,然后使用translate()方法 remap = { ord('\t') : ' ', ord('\f') : ' ', ord('\r') : None # Deleted } a = s.tra

Python中的参数是如何传递的?

本文和大家分享的主要是python中参数传递方式相关内容,一起来看看吧,希望对大家学习python有所帮助. 位置参数 调用函数时,根据函数定义的参数位置来传递参数. 1 def right_triangle_area(a,b):2     return 1/2*a*b3 4 print(right_triangle_area(3,4))5 # 位置参数传递 求直角三角形面积,a.b分别为两条直角边,这里调用函数时使用的是位置参数传递.在位置参数传递中,参数的顺序是不可改变的. 关键词参数传递

shell之文本过滤(awk)

shell之文本过滤(awk) 分类: linux shell脚本学习2012-09-19 15:53 1241人阅读 评论(0) 收藏 举报 shell正则表达式脚本任务语言 如果要格式化报文或从一个大的文本文件中抽取数据包,那么awk可以完成这些任务. 为了获取所需信息,文本必须格式化,也就是说要使用域分隔符来划分抽取域,分隔符可以使任意字符. awk语言的最基本功能是在文件或字符串中基于指定规格浏览和抽取信息.awk抽取信息后,才能进行其他文本操作.awk脚本通常用来格式化文本文件中的信息

产品经理学Python:参数传递方式

这是关于Python的第5篇文章,主要介绍下参数传递方式和如何设计自己的函数. (一) 本篇主要介绍2种参数传递方式. 位置参数 调用函数时,根据函数定义的参数位置来传递参数. 1 def right_triangle_area(a,b): 2 return 1/2*a*b 3 4 print(right_triangle_area(3,4)) 5 # 位置参数传递 求直角三角形面积,a.b分别为两条直角边,这里调用函数时使用的是位置参数传递.在位置参数传递中,参数的顺序是不可改变的. 关键词参

值得Python小白学习的书 简单推荐几本吧

于我个人而言,我很喜欢Python,当然我也有很多的理由推荐你去学python.我只说两点.一是简单,二是写python薪资高.我觉得这俩理由就够了,对不对.买本书,装上pycharm,把书上面的例子习题都敲一遍.再用flask,web.py等框架搭个小网站..完美...(小伙伴们有问到该学python2.7还是3.X,那我的答案是:目前大多数实际开发,都是用2.7的,因为实际项目开发有很多依赖的包,都只支持到2.7,你用3.X干不了活.那你能怎么办.所以不需要纠结.等3.X普及,你写的2.7代

Python Cookbook(第3版)中文版pdf

下载地址:网盘下载 内容简介  · · · · · · <Python Cookbook(第3版)中文版>介绍了Python应用在各个领域中的一些使用技巧和方法,其主题涵盖了数据结构和算法,字符串和文本,数字.日期和时间,迭代器和生成器,文件和I/O,数据编码与处理,函数,类与对象,元编程,模块和包,网络和Web编程,并发,实用脚本和系统管理,测试.调试以及异常,C语言扩展等. 本书覆盖了Python应用中的很多常见问题,并提出了通用的解决方案.书中包含了大量实用的编程技巧和示例代码,并在Py

python书籍推荐:Python Cookbook第三版中文

所属网站分类: 资源下载 > python电子书 作者:熊猫烧香 链接:http://www.pythonheidong.com/blog/article/44/ 来源:python黑洞网 内容简介 <Python Cookbook(第3版)中文版>介绍了Python应用在各个领域中的一些使用技巧和方法,其主题涵盖了数据结构和算法,字符串和文本,数字.日期和时间,迭代器和生成器,文件和I/O,数据编码与处理,函数,类与对象,元编程,模块和包,网络和Web编程,并发,实用脚本和系统管理,测

python中文语料分词处理,按字或者词cut_sentence

cut_sentence.py import string import jieba import jieba.posseg as psg import logging #关闭jieba日制 jieba.setLogLevel(logging.INFO) jieba.load_userdict("./corpus/keywords.txt") stopwords_path = "./corpus/stopwords.txt" stopwords = [i.strip