1,从数据处理到人工智能。
数据表示 ->数据清洗->数据统计->数据可视化->数据挖掘->人工智能
数据表示:采用合适方式用程序表达数据。
数据清理:数据归一化,数据转换,异常值处理。
数据统计:数据的概要理解,数量。分布。中位数等。
数据可视化:直观展示数据内涵的方式。
数据挖掘:从数据分析获得知识,产生数据外的价值。
人工智能:数据/语言/图像/视觉等方面深度分析与决策。
python库之数据分析:
Numpy:表达n维数组的最基础库,
- python接口使用,C语言实现,计算速度优异
- python数据分析及科学计算的基础库,支撑pandas等
- 提供直接的矩阵运算,广播函数,线性代数等功能
- http://www.numpy.org
pandas:python数据分析高层次应用库
- 提供了简单易用的数据结构和数据分析工具
- 理解数据类型与索引的关系,操作索引即操作数据
- python最主要的数据分析功能库,基于numpy开发
- http://pandas.pydata.org
SciPY:数学,科学和工程计算功能库
- 提供了一批数学算法及工程数据运算功能
- 类似Matlab,可用于如傅里叶变换,信号处理等应用
- python最主要的科学计算功能库,基于numpy开发
- http://www.scipy.org
python库之数据可视化:
Matplotlib:高质量的二维数据可视化功能库
- 提供了超过一百种数据可视化展示效果
- 通过matplotlib.pyplot子库调用哥可视化效果
- python最主要的数据可视化功能库,基于Numpy开发
- http://matolotilb.org
Seaborn:统计类数据可视化功能库
- 提供了一批高层次的统计类数据可视化展示效果
- 主要展示数据间分布,分类和线性关系等内容
- 基于Matplotlib开发,支持Numpy和pandas
- http://seaborn.pydata.org/
Mayavi:三维科学数据可视化功能库
- 提供了一批简单易用的3D科学计算数据可视化展示效果
- 目前版本是Mayavi2,三维可视化最主要的第三方库
- 支持Numpy,TVTK,Traits,Envisage等第三方库
- http://docs.enthought.com/mayavi/mayavi/
python库之文本处理
PyPDF2:用来处理pdf文件的工具集
- 提供了一批处理PDF文件的计算功能
- 支持获取信息,分割/整合文件,加密解密等
- 完全python语言实现,不需要额外依赖,功能稳定
- http://mstamy2.githup.io/PyPDF2
NLTK:自然语言文本处理第三方库:
- 提供了一批简单用的自然语言文本处理功能
- 支持语言文本分类,标记,语法句法,语法分析等
- 最优秀的Python自然语言处理库
- http://www.nltk.nltk.org/
python-docx:创建或更新Microsoft Word文件的第三方库
- 提供创建或更新.dox .docx等文件的计算功能
- 增加并配置段落,图片,表格,文字等,功能全面
- http://python-docx.readthedocs.io/en/latest/index.html
python库之机器学习
Scikit-learn:机器学习方法工具集
- 提供一批统一的机器学习方法功能接口
- 提供聚类,分类,回归,强化学习等计算功能
- 机器学习最基本且最优秀的python第三方库
- http://scikit-learn.org/
TensorFlow :AlphaGo背后的机器学习计算框架
- 谷歌公司推动的开源机器学习框架
- 将数据流图作为基础,图节点代表运算,边代表张量
- 应用机器学习方法的一种方式,支撑谷歌人工智能应用
- http://www.tensorflow.org/
NXNet:基于神经网络的深度学习计算框架
- 提供可扩展的神经网络及深度学习计算功能
- 可用于自动驾驶,机器翻译,语音识别等众多领域
- https://mxnet.incubator.apache.org/
霍兰德人格分析雷达图
#HollandRadarDraw
import numpy as np
import matplotlib.pyplot as plt
import matplotlib
matplotlib.rcParams[‘font.family‘]=‘SimHei‘
radar_labels = np.array([‘研究型(I)‘,‘艺术型(A)‘,‘社会型(S)‘, ‘企业型(E)‘,‘常规型(C)‘,‘现实型(R)‘]) #雷达标签
nAttr = 6
data = np.array([[0.40, 0.32, 0.35, 0.30, 0.30, 0.88],
[0.85, 0.35, 0.30, 0.40, 0.40, 0.30],
[0.43, 0.89, 0.30, 0.28, 0.22, 0.30],
[0.30, 0.25, 0.48, 0.85, 0.45, 0.40],
[0.20, 0.38, 0.87, 0.45, 0.32, 0.28],
[0.34, 0.31, 0.38, 0.40, 0.92, 0.28]]) #数据值
data_labels = (‘艺术家‘, ‘实验员‘, ‘工程师‘, ‘推销员‘, ‘社会工作者‘,‘记事员‘)
angles = np.linspace(0, 2*np.pi, nAttr, endpoint=False)
data = np.concatenate((data, [data[0]]))
angles = np.concatenate((angles, [angles[0]]))
fig = plt.figure(facecolor="white")
plt.subplot(111, polar=True)
plt.plot(angles,data,‘o-‘, linewidth=1, alpha=0.2)
plt.fill(angles,data, alpha=0.25)
plt.thetagrids(angles*180/np.pi, radar_labels,frac = 1.2)
plt.figtext(0.52, 0.95, ‘霍兰德人格分析‘, ha=‘center‘, size=20)
legend = plt.legend(data_labels, loc=(0.94, 0.80), labelspacing=0.1)
plt.setp(legend.get_texts(), fontsize=‘large‘)
plt.grid(True)
plt.savefig(‘holland_radar.jpg‘)
plt.show()
从Web解析到网络空间:
python库之网络爬虫:
Requests:最友好的网络爬虫功能库
- 提供了简单易用的类HTTP协议网络爬虫功能
- 支持连接池,SSL,Cookies,HTTP(s)代理等
- python最主要的页面级网络爬虫功能库
- http://www.python-requests.org/
Scrapy:优秀的网络爬虫框架
- 提供了构建网络爬虫和定时网页爬取,提供数据处理流程等
- 支持批量和定时网页爬取,提供数据处理流程等
- python最主要且最专业的网络爬虫框架
- https://scrapy.org
pyspider:强大的Web页面爬取系统
- 提供了完整的网页爬取系统构建功能
- 支持数据库后端,消息队列,优先级。分布式架构等
- python重要的网络爬虫类第三方库
- http://docs.pyspider.org
python库Web信息提取
beautiful Soup:HTML和XML的解析库
- 提供了解析HTML和XML等Web信息的功能
- 又名beauitfulsoup4或bs4,可以加载多种解析引擎
- 常与网络爬虫库搭配使用,如Scrapy,requests等。
Re:正则表达式解析和处理功能库
- 提供了定义与解析正则表达式的一批通用功能
- 可用于各类场景,包括定点的Web信息提取
- python最主要的标准库之一,无需安装
- https://docs.python.org/3.6/library/re.html
Python-Goose:提取文章类型Web页面的功能库
- 提供了对Web页面中文章信息/视频等元数据的提取功能
- 针对特定类型Web页面,应用覆盖面较广
- Python最主要的Web信息提取库
- https://github.com/grangier/python-goose
Python库之Web网站开发
Diango:最流行的Web应用框架
- 提供了构建Web系统的基本应用框架
- MTV模式:构建(model)模板(Template)视图(Views)
- Python最重要的Web应用框架,略微复杂的应用框架
- https://www.djangoproject.com
Pyramid:规模适中的Web应用框架
- 提供了简单方便构建Web系统的应用框架
- 不大不小,规模适中,适合快速构建并适度扩展类应用
- python产品级Web应用框架,起步简单可扩展性好
- https://trypyramid.com??????
Flask Web应用开发微框架
- 提供了最简单构建Web系统的应用框架
- 特点是:简单,规模小。快速
- Django > Pyramid > Flask
- http://flask.pocoo.org
python库之网络应用开发
WeRoBot:微信公众号开发框架
- 提供了解析微信服务器及反馈消息的功能
- 建立微信机器人的重要技术手段
- https://github.com/offu/WeRoBot
aip:百度AI开放平台接口
- 语音,人脸,OCR,NLP,知识图谱,图像搜索等领域
- Python百度AI应用的最主要方式
- https://github.com/Baidu-AIP/python-sdk
MyQR:二维码生成第三方库
- 提供了生成二维码的系列功能
- 基本二维码,艺术二维码和动态二维码
- https://github.com/sylnsfar/qrcode
从人机交互到艺术设计
PyQt5:Qt开发框架的PYthon接口
- 提供了创建Qt5程序的Python API接口
- Qt是非常成熟的跨平台桌面应用开发系统,完备GUI
- 推荐的Python GUI开发第三方库
- https://www.riverbankcomputing.com/software/pyqt
wxPython:跨平台GUI开发框架
- 提供了专用Python的跨平台GUI开发框架
- 理解数据类型与索引的关系,操作索引即操作数据
- Python最主要的数据分析功能库,基于NUmpy开发
- https://www.wxpython.org
PyGObject:使用GTK+开发GUI的功能库
- 提供了整合GTK+,WebKitGTK+等库的功能
- GTK+:跨平台的一种用户图形界面GUI框架
- 实例:Anaconda采用该库构建GUI
- https://pygobject.readthedocs.io
Python库之游戏开发
PyGame:简单的游戏开发功能库
- 提供了基于SDL的简单游戏开发功能及实现引擎
- 理解游戏对外部输入的响应机制及角色构建和交互机制
- Python游戏入门最主要的第三方库
- http://www.pygame.org
Panda3D:开源,跨平台的3D渲染和游戏开发库
- 一个3D游戏引擎,提供Python和C++两种接口
- 支持很多先进特性,发现贴圈,光泽贴圆,卡通渲染等
- 由迪士尼和卡尼集梅隆大学共同开发
- http://www.panda3d.org
cocos2d:构建2D游戏 和图形界面交互式应用的框架
- 提供了基于OpenGL的游戏开发图形渲染功能
- 支持GPU加速,采用树形结构分层管理游戏对象类型
- 适用与2D专业级游戏开发
- http://python.cocos2d.org/
Python库之虚拟现实
- VR Zero: 在树莓派上开发VR应用的Python库
- 提供大量与VR开发相关的功能
- 针对树莓派的VR开发库,支持设备小型化,配置简单化
- 非常适合初学者实践VR开发及应用
- https://github.com/WayneKeenan/Python-vrzero
provr:Oculus Rift的Python开发库
- 基于成熟的VR设备,提供全套文档,工业级应用设备
- Python+虚拟现实领域探索的一种思路
- https://github.com/cmbruns/pyovr
Vizard:基于Python的通用VR开发引擎
- 专业的企业级虚拟现实开发引擎
- 提供详细的官方文档
- 支持多种主流的VR硬件设备,具有一定通用性
- http://www.worldviz.com/vizard-virtual-reality-software
python库之图形艺术
Quads:迭代的艺术
- 对图片进行四分迭代,形成像素风
- 可以生成动图或静图图像
- 简单易用,具有很高展示度
- https://github.com/fogleman/Quads
ascill_art:ASCII艺术库
- 将普通图片转为ASCII艺术风格
- 输出可以是纯文本或彩色文本
- 可采用图片格式输出
- https://docs.python.org/3/library/turtle.html
玫瑰花绘制
#RoseDraw.py
import turtle as t
# 定义一个曲线绘制函数
def DegreeCurve(n, r, d=1):
for i in range(n):
t.left(d)
t.circle(r, abs(d))
# 初始位置设定
s = 0.2 # size
t.setup(450*5*s, 750*5*s)
t.pencolor("black")
t.fillcolor("red")
t.speed(100)
t.penup()
t.goto(0, 900*s)
t.pendown()
# 绘制花朵形状
t.begin_fill()
t.circle(200*s,30)
DegreeCurve(60, 50*s)
t.circle(200*s,30)
DegreeCurve(4, 100*s)
t.circle(200*s,50)
DegreeCurve(50, 50*s)
t.circle(350*s,65)
DegreeCurve(40, 70*s)
t.circle(150*s,50)
DegreeCurve(20, 50*s, -1)
t.circle(400*s,60)
DegreeCurve(18, 50*s)
t.fd(250*s)
t.right(150)
t.circle(-500*s,12)
t.left(140)
t.circle(550*s,110)
t.left(27)
t.circle(650*s,100)
t.left(130)
t.circle(-300*s,20)
t.right(123)
t.circle(220*s,57)
t.end_fill()
# 绘制花枝形状
t.left(120)
t.fd(280*s)
t.left(115)
t.circle(300*s,33)
t.left(180)
t.circle(-300*s,33)
DegreeCurve(70, 225*s, -1)
t.circle(350*s,104)
t.left(90)
t.circle(200*s,105)
t.circle(-500*s,63)
t.penup()
t.goto(170*s,-30*s)
t.pendown()
t.left(160)
DegreeCurve(20, 2500*s)
DegreeCurve(220, 250*s, -1)
# 绘制一个绿色叶子
t.fillcolor(‘green‘)
t.penup()
t.goto(670*s,-180*s)
t.pendown()
t.right(140)
t.begin_fill()
t.circle(300*s,120)
t.left(60)
t.circle(300*s,120)
t.end_fill()
t.penup()
t.goto(180*s,-550*s)
t.pendown()
t.right(85)
t.circle(600*s,40)
# 绘制另一个绿色叶子
t.penup()
t.goto(-150*s,-1000*s)
t.pendown()
t.begin_fill()
t.rt(120)
t.circle(300*s,115)
t.left(75)
t.circle(300*s,100)
t.end_fill()
t.penup()
t.goto(430*s,-1070*s)
t.pendown()
t.right(30)
t.circle(-600*s,35)
t.done()
来源:mooc 嵩天 python;
原文地址:https://www.cnblogs.com/mouzaisi/p/12177826.html