http://www.makaidong.com/%E8%84%9A%E6%9C%AC%E4%B9%8B%E5%AE%B6/28053.shtml
"Python SQLAlchemy基本操作和常用技巧包含大量实例,非常好python"：关键词：python sqlalchemy 基本 操 作和 常用 技巧 包含 大量 实例 非常好 python
首先说下，由于最新的 0.8 版还是开发版本，因此我使用的是 0.79 版，api 也许会有些不同。
因为我是搭配 mysql innodb 使用，所以使用其他其他数据库 的也不能完全照搬本文。
接着就从安装开始介绍吧，以 debian/ubuntu 为例（请确保有管理员权限）：
1.mysql
复制代码 代码如下:
apt-get install mysql-server
apt-get install mysql-client
apt-get install libmysqlclient15-dev
2.python-mysqldb
复制代码 代码如下:
apt-get install python-mysqldb
3.easy_install
复制代码 代码如下:
wget http://peak.telecommunity.com/dist/ez_setup.py
python ez_setup.py
4.mysql-python
复制代码 代码如下:
easy_install mysql-python
5.sqlalchemy
复制代码 代码如下:
easy_install sqlalchemy
如果是用其他操作系统，遇到问题就 google 一下吧。我是在 mac os x 上开发的，途中也遇到些问题，不过当时没记下来……
值得一提的是我用了 mysql-python 来连 mysql，因为不支持异步调用，所以和 tornado 不是很搭。不过性能其实很好，因此以后再去研究下其他方案吧……
装好后就可以开始使用了：
复制代码 代码如下:
from sqlalchemy import create_engine
from sqlalchemy.orm import sessionmaker
db_connect_string = ‘mysql+mysqldb://root:[email protected]/ooxx?charset=utf8‘
engine = create_engine(db_connect_string, echo=true)
db_session = sessionmaker(bind=engine)
session = db_session()
这里的 db_connect_string 就是连接其他数据库 的路径。“mysql+mysqldb”指定了使用 mysql-python 来连接，“root”和“123”分别是用户名和密码，“localhost”是其他数据库 的域名，“ooxx”是使用的其他数据库 名（可省略），“charset”指定了连接时使用的字符集（可省略）。
create_engine() 会返回一个其他数据库 引擎，echo 参数为 true 时，会显示每条执行的 sql 语句，生产环境下可关闭。
sessionmaker() 会生成一个其他数据库 会话类。这个类的实例可以当成一个其他数据库 连接，它同时还记录了一些查询的数据，并决定什么时候执行 sql 语句。由于 sqlalchemy 自己维护了一个其他数据库 连接池（默认 5 个连接），因此初始化一个会话的开销并不大。对 tornado 而言，可以在 basehandler 的 initialize() 里初始化：
复制代码 代码如下:
class basehandler(tornado.web.requesthandler):
def initialize(self):
self.session = models.db_session()
def on_finish(self):
self.session.close()
对其他 web 服务器开发来说，可以使用 sqlalchemy.orm.scoped_session，它能保证每个线程获得的 session 对象都是唯一的。不过 tornado 本身就是单线程的，如果使用了异步方式，就可能会出现问题，因此我并没使用它。
拿到 session 后，就可以执行 sql 了：
复制代码 代码如下:
session.execute(‘create database abc‘)
print session.execute(‘show database s‘).fetchall()
session.execute(‘use abc‘)
# 建 user 表的开发过程 略
print session.execute(‘select * from user where id = 1‘).first()
print session.execute(‘select * from user where id = :id‘, {‘id‘: 1}).first()
不过这和直接使用 mysql-python 没啥区别，所以就不介绍了；我还是喜欢 orm 的方式，这也是我采用 sqlalchemy 的唯一原因。
于是来定义一个表：
复制代码 代码如下:
from sqlalchemy import column
from sqlalchemy.types import char, integer, string
from sqlalchemy.ext.declarative import declarative_base
basemodel = declarative_base()
def init_db():
basemodel.metadata.create_all(engine)
def drop_db():
basemodel.metadata.drop_all(engine)
class user(basemodel):
__tablename__ = ‘user‘
id = column(integer, primary_key=true)
name = column(char(30)) # or column(string(30))
init_db()
declarative_base() 创建了一个 basemodel 类，这个类的子类可以自动与一个表关联。
以 user 类为例，它的 __tablename__ 属性就是其他数据库 中该表的名称，它有 id 和 name 这两个字段，分别为整型和 30 个定长字符。column 还有一些其他的参数，我就不解释了。
最后，basemodel.metadata.create_all(engine) 会找到 basemodel 的所有子类，并在其他数据库 中建立这些表；drop_all() 则是删除这些表。
接着就开始使用这个表吧：
复制代码 代码如下:
from sqlalchemy import func, or_, not_
user = user(name=‘a‘)
session.add(user)
user = user(name=‘b‘)
session.add(user)
user = user(name=‘a‘)
session.add(user)
user = user()
session.add(user)
session.commit()
query = session.query(user)
print query # 显示sql 语句
print query.statement # 同上
for user in query: # 遍历时查询
print user.name
print query.all() # 返回的是一个类似列表的对象
print query.first().name # 记录不存在时，first() 会返回 none
# print query.one().name # 不存在，或有多行记录时会抛出异常
print query.filter(user.id == 2).first().name
print query.get(2).name # 以主键获取，等效于上句
print query.filter(‘id = 2‘).first().name # 支持字符串
query2 = session.query(user.name)
print query2.all() # 每行是个元组
print query2.limit(1).all() # 最多返回 1 条记录
print query2.offset(1).all() # 从第 2 条记录开始返回
print query2.order_by(user.name).all()
print query2.order_by(‘name‘).all()
print query2.order_by(user.name.desc()).all()
print query2.order_by(‘name desc‘).all()
print session.query(user.id).order_by(user.name.desc(), user.id).all()
print query2.filter(user.id == 1).scalar() # 如果有记录，返
此文来自: 马开东博客 转载请注明出处 网址：http://www.makaidong.com
回第一条记录的第一个元素
print session.query(‘id‘).select_from(user).filter(‘id = 1‘).scalar()
print query2.filter(user.id > 1, user.name != ‘a‘).scalar() # and
query3 = query2.filter(user.id > 1) # 多次拼接的 filter 也是 and
query3 = query3.filter(user.name != ‘a‘)
print query3.scalar()
print query2.filter(or_(user.id == 1, user.id == 2)).all() # or
print query2.filter(user.id.in_((1, 2))).all() # in
query4 = session.query(user.id)
print query4.filter(user.name == none).scalar()
print query4.filter(‘name is null‘).scalar()
print query4.filter(not_(user.name == none)).all() # not
print query4.filter(user.name != none).all()
print query4.count()
print session.query(func.count(‘*‘)).select_from(user).scalar()
print session.query(func.count(‘1‘)).select_from(user).scalar()
print session.query(func.count(user.id)).scalar()
print session.query(func.count(‘*‘)).filter(user.id > 0).scalar() # filter() 中包含 user，因此不需要指定表
print session.query(func.count(‘*‘)).filter(user.name == ‘a‘).limit(1).scalar() == 1 # 可以用 limit() 限制 count() 的返回数
print session.query(func.sum(user.id)).scalar()
print session.query(func.now()).scalar() # func 后可以跟任意函数名，只要该其他数据库 支持
print session.query(func.current_timestamp()).scalar()
print session.query(func.md5(user.name)).filter(user.id == 1).scalar()
query.filter(user.id == 1).update({user.name: ‘c‘})
user = query.get(1)
print user.name
user.name = ‘d‘
session.flush() # 写其他数据库 ，但并不提交
print query.get(1).name
session.delete(user)
session.flush()
print query.get(1)
session.rollback()
print query.get(1).name
query.filter(user.id == 1).delete()
session.commit()
print query.get(1)
增删改查都涉及到了，自己看看输出的 sql 语句就知道了，于是基础知识就介绍到此了。
下面开始介绍一些进阶的知识。
如何批量插入大批数据？
可以使用非 orm 的方式：
复制代码 代码如下:
session.execute(
user.__table__.insert(),
[{‘name‘: `randint(1, 100)`,‘age‘: randint(1, 100)} for i in xrange(10000)]
)
session.commit()
上面我批量插入了 10000 条记录，半秒内就执行完了；而 orm 方式会花掉很长时间。
如何让执行的 sql 语句增加前缀？
使用 query 对象的 prefix_with() 开发方法 ：
复制代码 代码如下:
session.query(user.name).prefix_with(‘high_priority‘).all()
session.execute(user.__table__.insert().prefix_with(‘ignore‘), {‘id‘: 1, ‘name‘: ‘1‘})
如何替换一个已有主键的记录？
使用 session.merge() 开发方法 替代 session.add()，其实就是 select + update：
复制代码 代码如下:
user = user(id=1, name=‘ooxx‘)
session.merge(user)
session.commit()
或者使用
mysql 的 insert … on duplicate key update，需要用到 @compiles
装饰器，有点难懂，自己搜索看吧：《sqlalchemy on duplicate key update》 和
sqlalchemy_mysql_ext。
如何使用无符号整数？
可以使用 mysql 的方言：
复制代码 代码如下:
from sqlalchemy.dialects.mysql import integer
id = column(integer(unsigned=true), primary_key=true)
模型的属性名需要和表的字段名不一样怎么办？
开发时遇到过一个奇怪的需求，有个其他系统开发的表里包含了一个“from”字段，这在 python 里是关键字，于是只能这样处理了：
复制代码 代码如下:
from_ = column(‘from‘, char(10))
如何获取字段的长度？
column 会生成一个很复杂的对象，想获取长度比较麻烦，这里以 user.name 为例：
复制代码 代码如下:
user.name.property.columns[0].type.length
如何指定使用 innodb，以及使用 utf-8 编码？
最简单的方式就是修改其他数据库 的默认配置。如果非要在代码里指定的话，可以这样：
复制代码 代码如下:
class user(basemodel):
__table_args__ = {
‘mysql_engine‘: ‘innodb‘,
‘mysql_charset‘: ‘utf8‘
}
mysql 5.5 开始支持存储 4 字节的 utf-8 编码的字符了，ios 里自带的 emoji（如 ?? 字符）就属于这种。
如果是对表来设置的话，可以把上面代码中的 utf8 改成 utf8mb4，db_connect_string 里的 charset 也这样更改。
如果对库或字段来设置，则还是自己写 sql 语句比较方便，具体细节可参考《how to support full unicode in mysql database s》。
不建议全用 utf8mb4 代替 utf8，因为前者更慢，索引会占用更多空间。
如何设置外键约束？
复制代码 代码如下:
from random import randint
from sqlalchemy import foreignkey
class user(basemodel):
__tablename__ = ‘user‘
id = column(integer, primary_key=true)
age = column(integer)
class friendship(basemodel):
__tablename__ = ‘friendship‘
id = column(integer, primary_key=true)
user_id1 = column(integer, foreignkey(‘user.id‘))
user_id2 = column(integer, foreignkey(‘user.id‘))
for i in xrange(100):
session.add(user(age=randint(1, 100)))
session.flush() # 或 session.commit()，执行完后，user 对象的 id 属性才可以访问（因为 id 是自增的）
for i in xrange(100):
session.add(friendship(user_id1=randint(1, 100), user_id2=randint(1, 100)))
session.commit()
session.query(user).filter(user.age < 50).delete()
执行这段代码时，你应该会遇到一个错误：
复制代码 代码如下:
sqlalchemy.exc.integrityerror:
(integrityerror) (1451, ‘cannot delete or update a parent row: a
foreign key constraint fails (`ooxx`.`friendship`, constraint
`friendship_ibfk_1` foreign key (`user_id1`) references `user` (`id`))‘)
‘delete from user where user.age < %s‘ (50,)
原因是删除 user 表的数据，可能会导致 friendship 的外键不指向一个真实存在的记录。在默认情况下，mysql 会拒绝这种操作，也就是 rest rict。innodb 还允许指定 on delete 为 cascade 和 set null，前者会删除 friendship 中无效的记录，后者会将这些记录的外键设为 null。
除了删除，还有可能
此文来自: 马开东博客 转载请注明出处 网址：http://www.makaidong.com
更改主键，这也会导致 friendship 的外键失效。于是相应的就有 on update 了。其中 cascade 变成了更新相应的外键，而不是删除。
而在 sqlalchemy 中是这样处理的：
复制代码 代码如下:
class friendship(basemodel):
__tablename__ = ‘friendship‘
id = column(integer, primary_key=true)
user_id1 = column(integer, foreignkey(‘user.id‘, ondelete=‘cascade‘, onupdate=‘cascade‘))
user_id2 = column(integer, foreignkey(‘user.id‘, ondelete=‘cascade‘, onupdate=‘cascade‘))
如何连接表？
复制代码 代码如下:
from sqlalchemy import distinct
from sqlalchemy.orm import aliased
friend = aliased(user, name=‘friend‘)
print session.query(user.id).join(friendship, user.id == friendship.user_id1).all() # 所有有朋友的用户
print session.query(distinct(user.id)).join(friendship, user.id == friendship.user_id1).all() # 所有有朋友的用户（去掉重复的）
print session.query(user.id).join(friendship, user.id == friendship.user_id1).distinct().all() # 同上
print
session.query(friendship.user_id2).join(user, user.id ==
friendship.user_id1).order_by(friendship.user_id2).distinct().all() #
所有被别人当成朋友的用户
print
session.query(friendship.user_id2).select_from(user).join(friendship,
user.id ==
friendship.user_id1).order_by(friendship.user_id2).distinct().all() #
同上，join 的方向相反，但因为不是 straight_join，所以 mysql 可以自己选择顺序
print session.query(user.id, friendship.user_id2).join(friendship, user.id == friendship.user_id1).all() # 用户及其朋友
print
session.query(user.id, friendship.user_id2).join(friendship, user.id ==
friendship.user_id1).filter(user.id < 10).all() # id 小于 10 的用户及其朋友
print
session.query(user.id, friend.id).join(friendship, user.id ==
friendship.user_id1).join(friend, friend.id ==
friendship.user_id2).all() # 两次 join，由于使用到相同的表，因此需要别名
print
session.query(user.id, friendship.user_id2).outerjoin(friendship,
user.id == friendship.user_id1).all() # 用户及其朋友（无朋友则为 none，使用左连接）
这里我没提到 relationship，虽然它看上去很方便，但需要学习的内容实在太多，还要考虑很多性能上的问题，所以干脆自己 join 吧。
为什么无法删除 in 操作查询出来的记录？
复制代码 代码如下:
session.query(user).filter(user.id.in_((1, 2, 3))).delete()
抛出这样的异常：
复制代码 代码如下:
sqlalchemy.exc.invalidrequesterror:
could not evaluate current criteria in python. specify ‘fetch‘ or
false for the synchronize_session parameter.
但这样是没问题的：
复制代码 代码如下:
session.query(user).filter(or_(user.id == 1, user.id == 2, user.id == 3)).delete()
搜了下找到《sqlalchemy
delete subquery》这个问题，提到了 delete 的一个注意点：删除记录时，默认会尝试删除 session 中符合条件的对象，而
in 操作估计还不支持，于是就出错了。解决办法就是删除时不进行同步，然后再让 session 里的所有实体都过期：
复制代码 代码如下:
session.query(user).filter(user.id.in_((1, 2, 3))).delete(synchronize_session=false)
session.commit() # or session.expire_all()
此外，update 操作也有同样的参数，如果后面立刻提交了，那么加上 synchronize_session=false 参数会更快。
如何扩充模型的基类？
declarative_base() 会生成一个 class 对象，这个对象的子类一般都和一张表对应。如果想增加这个基类的开发方法 或属性，让子类都能使用，可以有三种开发方法 ：
复制代码 代码如下:
class modelmixin(object):
@classmethod
def get_by_id(cls, session, id, columns=none, lock_mode=none):
if hasattr(cls, ‘id‘):
scalar = false
if columns:
if isinstance(columns, (tuple, list)):
query = session.query(*columns)
else:
scalar = true
query = session.query(columns)
else:
query = session.query(cls)
if lock_mode:
query = query.with_lockmode(lock_mode)
query = query.filter(cls.id == id)
if scalar:
return query.scalar()
return query.first()
return none
basemodel.get_by_id = get_by_id
@classmethod
def get_all(cls, session, columns=none, offset=none, limit=none, order_by=none, lock_mode=none):
if columns:
if isinstance(columns, (tuple, list)):
query = session.query(*columns)
else:
query = session.query(columns)
if isinstance(columns, str):
query = query.select_from(cls)
else:
query = session.query(cls)
if order_by is not none:
if isinstance(order_by, (tuple, list)):
query = query.order_by(*order_by)
else:
query = query.order_by(order_by)
if offset:
query = query.offset(offset)
if limit:
query = query.limit(limit)
if lock_mode:
query = query.with_lockmode(lock_mode)
return query.all()
basemodel.get_all = get_all
@classmethod
def count_all(cls, session, lock_mode=none):
query = session.query(func.count(‘*‘)).select_from(cls)
if lock_mode:
query = query.with_lockmode(lock_mode)
return query.scalar()
basemodel.count_all = count_all
@classmethod
def exist(cls, session, id, lock_mode=none):
if hasattr(cls, ‘id‘):
query = session.query(func.count(‘*‘)).select_from(cls).filter(cls.id == id)
if lock_mode:
query = query.with_lockmode(lock_mode)
return query.scalar() > 0
return false
basemodel.exist = exist
@classmethod
def set_attr(cls, session, id, attr, value):
if hasattr(cls, ‘id‘):
session.query(cls).filter(cls.id == id).update({
attr: value
})
session.commit()
basemodel.set_attr = set_attr
@classmethod
def set_attrs(cls, session, id, attrs):
if hasattr(cls, ‘id‘):
session.query(cls).filter(cls.id == id).update(attrs)
session.commit()
basemodel.set_attrs = set_attrs
虽然很拙劣，但确实能用。顺便还附送了一些有用的玩意，你懂的。
2.设置 declarative_base() 的 cls 参数：
复制代码 代码如下:
basemodel = declarative_base(cls=modelmixin)
这种开发方法 不需要执行“basemodel.get_by_id = get_by_id”之类的代码。不足之处就是 pycharm 仍然无法找到这些开发方法 的位置。
3.设置 __abstract__ 属性：
复制代码 代码如下:
class basemodel(basemodel):
__abstract__ = true
__table_args__ = { # 可以省掉子类的 __table_args__ 了
‘mysql_engine‘: ‘innodb‘,
‘mysql_charset‘: ‘utf8‘
}
# ...
这种开发方法 最简单，也可以继承出多个类。
如何正确使用事务？
假设有一个简单的银行系统开发，一共两名用户：
复制代码 代码如下:
class user(basemodel):
__tablename__ = ‘user‘
id = column(integer, primary_key=true)
money = column(decimal(10, 2))
class tanseferlog(basemodel):
__tablename__ = ‘tansefer_log‘
id = column(integer, primary_key=true)
from_user = column(integer, foreignkey(‘user.id‘, ondelete=‘cascade‘, onupdate=‘cascade‘))
to_user = column(integer, foreignkey(‘user.id‘, ondelete=‘cascade‘, onupdate=‘cascade‘))
amount = column(decimal(10, 2))
user = user(money=100)
session.add(user)
user = user(money=0)
session.add(user)
session.commit()
然后开两个 session，同时进行两次转账操作：
复制代码 代码如下:
session1 = db_session()
session2 = db_session()
user1 = session1.query(user).get(1)
user2 = session1.query(user).get(2)
if user1.money >= 100:
user1.money -= 100
user2.money += 100
session1.add(tanseferlog(from_user=1, to_user=2, amount=100))
user1 = session2.query(user).get(1)
user2 = session2.query(user).get(2)
if user1.money >= 100:
user1.money -= 100
user2.money += 100
session2.add(tanseferlog(from_user=1, to_user=2, amount=100))
session1.commit()
session2.commit()
现在看看结果：
复制代码 代码如下:
>>> user1.money
decimal(‘0.00‘)
>>> user2.money
decimal(‘100.00‘)
>>> session.query(tanseferlog).count()
2l
两次转账都成功了，但是只转走了一笔钱，这明显不科学 。
可见 mysql innodb 虽然支持事务，但并不是那么简单的，还需要手动加锁。
首先来试试读锁：
复制代码 代码如下:
user1 = session1.query(user).with_lockmode(‘read‘).get(1)
user2 = session1.query(user).with_lockmode(‘read‘).get(2)
if user1.money >= 100:
user1.money -= 100
user2.money += 100
session1.add(tanseferlog(from_user=1, to_user=2, amount=100))
user1 = session2.query(user).with_lockmode(‘read‘).get(1)
user2 = session2.query(user).with_lockmode(‘read‘).get(2)
if user1.money >= 100:
user1.money -= 100
user2.money += 100
session2.add(tanseferlog(from_user=1, to_user=2, amount=100))
session1.commit()
session2.commit()
现在在执行
session1.commit() 的时候，因为 user1 和 user2 都被 session2
加了读锁，所以会等待锁被释放。超时以后，session1.commit() 会抛出个超时的异常，如果捕捉了的话，或者 session2
在另一个进程，那么 session2.commit() 还是能正常提交的。这种情况下，有一个事务是肯定会提交失败的，所以那些更改等于白做了。
接下来看看写锁，把上段代码中的 ‘read‘ 改成 ‘update‘ 即可。这次在执行 select 的时候就会被阻塞了：
user1 = session2.query(user).with_lockmode(‘update‘).get(1)
这样只要在超时期间内，session1 完成了提交或回滚，那么 session2 就能正常判断 user1.money >= 100 是否成立了。
由此可见，如果需要更改数据，最好加写锁。
那么什么时候用读锁呢？如果要保证事务运行期间内，被读取的数据不被修改，自己也不去修改，加读锁即可。
举例来说，假设我查询一个用户的开支记录（同时包含余额和转账记录），可以直接把 user 和 tansefer_log 做个内连接。
但如果用户的转账记录特别多，我在查询前想先验证用户的密码（假设在 user 表中），确认相符后才查询转账记录。而这两次查询的期间内，用户可能收到了一笔转账，导致他的 money 字段被修改了，但我在展示给用户时，用户的余额仍然没变，这就不正常了。
而如果我在读取
user 时加了读锁，用户是无法收到转账的（因为无法被另一个事务加写锁来修改 money 字段），这就保证了不会查出额外的
tansefer_log 记录。等我查询完两张表，释放了读锁后，转账就可以继续进行了，不过我显示的数据在当时的确是正确和一致的。
另外要注意的是，如果被查询的字段没有加索引的话，就会变成锁整张表了：
复制代码 代码如下:
session1.query(user).filter(user.id > 50).with_lockmode(‘update‘).all()
session2.query(user).filter(user.id < 40).with_lockmode(‘update‘).all() # 不会被锁，因为 id 是主键
session1.rollback()
session2.rollback()
session1.query(user).filter(user.money == 50).with_lockmode(‘update‘).all()
session2.query(user).filter(user.money == 40).with_lockmode(‘update‘).all() # 会等待解锁，因为 money 上没有索引
要避免的话，可以这样：
复制代码 代码如下:
money = column(decimal(10, 2), index=true)
另一个注意点是子事务。
innodb 支持子事务（savepoint 语句），可以简化一些逻辑。
例如有的开发方法 是用于改写其他数据库 的，它执行时可能提交了事务，但在后续的流程中却执行失败了，却没法回滚那个开发方法 中已经提交的事务。这时就可以把那个开发方法 当成子事务来运行了：
复制代码 代码如下:
def step1():
# ...
if success:
session.commit()
return true
session.rollback()
return false
def step2():
# ...
if success:
session.commit()
return true
session.rollback()
return false
session.begin_nested()
if step1():
session.begin_nested()
if step2():
session.commit()
else:
session.rollback()
else:
session.rollback()
此外，rollback 一个子事务，可以释放这个子事务中获得的锁，提高并发性和降低死锁概率。
如何对一个字段进行自增操作？
最简单的办法就是获取时加上写锁：
复制代码 代码如下:
user = session.query(user).with_lockmode(‘update‘).get(1)
user.age += 1
session.commit()
如果不想多一次读的话，这样写也是可以的：
复制代码 代码如下:
搜索此文相关文章：Perl_Python SQL Alchemy基本操作和常用技巧包含大量实例,非常好python此文链接：http://www.makaidong.com/%E8%84%9A%E6%9C%AC%E4%B9%8B%E5%AE%B6/28053.shtml转载请注明出处：Python SQLAlchemy基本操作和常用技巧包含大量实例,非常好python - 脚本之家
原文地址：https://www.cnblogs.com/fengff/p/9317089.html