使用pandas操作MySQL数据库

转载(有添加、修改)作者:但盼风雨来_jc链接:https://www.jianshu.com/p/238a13995b2b來源:简书著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

本次分享将介绍如何在Python中使用Pandas库实现MySQL数据库的读写。首先我们需要了解点ORM方面的知识

ORM技术

  对象关系映射技术,即ORM(Object-Relational Mapping)技术,指的是把关系数据库的表结构映射到对象上,通过使用描述对象和数据库之间映射的元数据,将程序中的对象自动持久化到关系数据库中。
  在Python中,最有名的ORM框架是SQLAlchemy。Java中典型的ORM中间件有:Hibernate,ibatis,speedframework。

SQLAlchemy

  SQLAlchemy是Python编程语言下的一款开源软件。提供了SQL工具包及对象关系映射(ORM)工具,使用MIT许可证发行

SQLAlchemy模块提供了create_engine()函数用来初始化数据库连接,SQLAlchemy用一个字符串表示连接信息:

‘数据库类型+数据库驱动名称://用户名:口令@机器地址:端口号/数据库名‘

Pandas读写MySQL数据库

  我们需要以下三个库来实现Pandas读写MySQL数据库:

  • pandas
  • sqlalchemy
  • pymysql

  其中,pandas模块提供了read_sql_query()函数实现了对数据库的查询,to_sql()函数实现了对数据库的写入。并不需要实现新建MySQL数据表。

sqlalchemy模块实现了与不同数据库的连接,而pymysql模块则使得Python能够操作MySQL数据库。
  我们将使用MySQL数据库中的mydb数据库以及employee表,内容如下:

  注意:

  • 1.根据库的文档,我们看到to_sql函数支持两类mysql引擎一个是sqlalchemy,另一个是sqlliet3.没错,在你写入库的时候,pymysql是不能用的!!!

      • mysqldb也是不能用的,你只能使用sqlalchemy或者sqlliet3!!鉴于sqllift3已经很久没有更新了,笔者这里建议使用sqlalchemy!!
  • 2.to_sql函数并不在pd之中,而是在io.sql之中,是sql脚本下的一个类!!!所以to_sql的最好写法就是:

      • pd.io.sql.to_sql(df1,tablename,con=conn,if_exists=‘repalce‘)

  下面将介绍一个简单的例子来展示如何在pandas中实现对MySQL数据库的读写:

import pandas as pdfrom sqlalchemy import create_engine# 初始化数据库连接,使用pymysql模块# MySQL的用户:root, 密码:root密码, host:39.96.45.1, 端口:3306,数据库:weiboengine=create_engine(‘mysql+pymysql://root:密码@39.96.45.1:3306/weibo‘)sql = ‘‘‘ select * from yuqing_weibo_pinglun; ‘‘‘# read_sql_query的两个参数: sql语句, 数据库连接df = pd.read_sql_query(sql, engine)# 输出employee表的查询结果print(df[‘text‘].head())# 新建pandas中的DataFrame, 只有id,num两列df = pd.DataFrame({‘id‘: [1, 2, 3, 4], ‘name‘: [‘zhangsan‘, ‘lisi‘, ‘wangwu‘, ‘zhuliu‘]})# 将新建的DataFrame储存为MySQL中的数据表,储存index列df.to_sql(‘mydf‘, engine, index=True)#mydf表名,engine:存到相应的数据库下面print(‘Read from and write to Mysql table successfully!‘)

运行结果:

这说明我们确实将pandas中新建的DataFrame写入到了MySQL中!

将CSV文件写入到MySQL中

以上的例子实现了使用Pandas库实现MySQL数据库的读写,我们将再介绍一个实例:将CSV文件写入到MySQL中,示例的example.csv文件如下

示例的Python代码如下:

 1 # -*- coding: utf-8 -*-
 2
 3 # 导入必要模块
 4 import pandas as pd
 5 from sqlalchemy import create_engine
 6
 7 # 初始化数据库连接,使用pymysql模块
 8 db_info = {‘user‘: ‘root‘,
 9            ‘password‘: ‘123456‘,
10            ‘host‘: ‘localhost‘,
11            ‘port‘: 3306,
12            ‘database‘: ‘test‘
13            }
14
15 engine = create_engine(‘mysql+pymysql://%(user)s:%(password)[email protected]%(host)s:%(port)d/%(database)s?charset=utf8‘ % db_info, encoding=‘utf-8‘)
16 # 直接使用下一种形式也可以
17 # engine = create_engine(‘mysql+pymysql://root:[email protected]:3306/test‘)
18
19 # 读取本地CSV文件
20 df = pd.read_csv("C:/Users/fuqia/Desktop/example.csv", sep=‘,‘)
21 print(df)
22 # 将新建的DataFrame储存为MySQL中的数据表,不储存index列(index=False)
23 # if_exists:
24 # 1.fail:如果表存在,啥也不做
25 # 2.replace:如果表存在,删了表,再建立一个新表,把数据插入
26 # 3.append:如果表存在,把数据插入,如果表不存在创建一个表!!
27 pd.io.sql.to_sql(df, ‘example‘, con=engine, index=False, if_exists=‘replace‘)
28 # df.to_sql(‘example‘, con=engine,  if_exists=‘replace‘)这种形式也可以
29 print("Write to MySQL successfully!")

在MySQL中查看example表格

补充:engine.execute(sql)可以直接执行sql语句:

1 from sqlalchemy import create_engine
2
3
4 engine = create_engine(‘mysql+pymysql://root:[email protected]:3306/test‘)
5 sql = "DROP TABLE IF EXISTS example"
6 engine.execute(sql)

如果用pymysql,则必须用cursor,读者可以对比一下。

1 import pymysql
2 from sqlalchemy import create_engine
3
4 conn = pymysql.connect(host=‘127.0.0.1‘, port=3306, user=‘root‘, passwd=‘123456‘, db=‘test‘)
5 # engine = create_engine(‘mysql+pymysql://root:[email protected]:3306/test‘)
6 sql = "DROP TABLE IF EXISTS test_input"
7 cursor = conn.cursor()
8 cursor.execute(sql)

总结

本文主要介绍了ORM技术以及SQLAlchemy模块,并且展示了两个Python程序的实例,介绍了如何使用Pandas库实现MySQL数据库的读写。

程序本身并不难,关键在于多多练习

原文地址:https://www.cnblogs.com/zxg-1997/p/10700692.html

时间: 2024-11-03 21:47:30

使用pandas操作MySQL数据库的相关文章

python操作mysql数据库

连接数据库 输入值 存入数据库 关闭 import string import mysql.connector conn=mysql.connector.connect(user='root',password='test',database='dalian',use_unicode=True) cursor=conn.cursor() a=raw_input('enter an id: ') b=raw_input('enter a name: ') while(a!='quit' or b!

Windows下安装MySQLdb, Python操作MySQL数据库的增删改查

这里的前提是windows上已经安装了MySQL数据库,且配置完毕,能正常建表能操作.在此基础上只需安装MySQL-python-1.2.4b4.win32-py2.7.exe就ok了,只有1M多.这个有点类似jdbc里的那个jar包. 下载链接:http://sourceforge.net/projects/mysql-python/ , 百度云盘 :http://pan.baidu.com/s/1dDgnfpR 密码:7bna 接着import MySQLdb就能使用了,下面给出测试代码:

使用python操作mysql数据库

这是我之前使用mysql时用到的一些库及开发的工具,这里记录下,也方便我查阅. python版本: 2.7.13 mysql版本: 5.5.36 几个python库 1.mysql-connector-python 是MySQL官方的Python驱动 https://dev.mysql.com/doc/connector-python/en/ 安装: pip install mysql-connector 示例代码: https://github.com/mike-zhang/pyExample

【php】php操作MySQL数据库

一.操作步骤: 1. 连接MySQL数据库并判断是否连接成功2. 选择数据库3. 设置字符集4. 准备SQL语句5. 向MySQL服务发送SQL语句6. 解析处理结果集7. 释放结果集,关闭数据库连接 二.常用操作: 1. mysqli_connect();--连接数据库,并返回一个连接资源 格式: mysql_connect(主机名,用户,密码); --其中参数可选,若不写则参考php.ini中默认配置 2. mysqli_error(); --获取刚刚(最后)执行数据库操作的错误信息 3.

python3操作MySQL数据库

安装PyMySQL 下载地址:https://pypi.python.org/pypi/PyMySQL 1.把操作Mysql数据库封装成类,数据库和表先建好 import pymysql.cursors # ======== Setting linked test databases =========== host = '192.168.17.123' user = 'root' password = '123456' db='polls' # ======== MySql base oper

c语言操作mysql数据库

c语言操作Mysql数据库,主要就是为了实现对数据库的增.删.改.查等操作,操作之前,得先连接数据库啊,而连接数据库主要有两种方法.一.使用mysql本身提供的API,在mysql的安装目录中可可以看到大量的头文件.lib文件.dll文件,这说明mysql原生就支持了c语言,操作起来相当简单.二.使用win32 api(这里只探讨windows平台),主要是ODBC. ODBC API 接口是(Open Database Connectivity)开放式数据库接口,它建立了一组规范,并提供了一组

PHP操作MySQL数据库的相关函数

首先,要分清SQL语句的类型: SQL语句的分类 (1)DDL:Data Define Language,数据定义语言--定义表的列结构 CREATE.DROP.ALTER.TRUNCATE (2)DML:Data Manipulate Language,数据操作语言--操作表的记录行 INSERT.DELETE.UPDATE (3)DQL:Data Query Language,数据查询语言--不影响表的行和列 SELECT (4)DCL:Data Control Language,数据控制语

本地通过Eclipse链接Hadoop操作Mysql数据库问题小结

前一段时间,在上一篇博文中描述了自己抽时间在构建的完全分布式Hadoop环境过程中遇到的一些问题以及构建成功后,通过Eclipse操作HDFS的时候遇到的一些问题,最近又想进一步学习学习Hadoop操作Mysql数据库的一些知识,在这里网上存在很多分歧,很多人可能会笑话,用那么“笨重”的Hadoop来操作数据库,脑子有问题吧,Hadoop的HDFS优势在于处理分布式文件系统,这种说法没有任何错误,数据库的操作讲究“安全.轻便.快捷”,用Hadoop操作完全是不符合常理啊,那为啥还要学习这个东西呢

mysqli扩展库操作mysql数据库

配置环境 配置php.ini文件让php支持mysqli扩展库 extension=php_mysqli.dll 建库建表 详见博客 “mysql扩展库操作mysql数据库” 查询数据库 1 <?php 2 //mysqli扩展库操作mysql数据库,面向对象 3 $mysqli=new MySQLi("localhost","root","root","test"); 4 if($mysqli->connect_