爬虫文件存储-2：MongoDB

1.连接MongoDB

连接 MongoDB 我们需要使用 PyMongo 库里面的 MongoClient，一般来说传入 MongoDB 的 IP 及端口即可，第一个参数为地址 host，第二个参数为端口 port，端口如果不传默认是 27017。

import pymongo
client = pymongo.MongoClient(host=‘localhost‘, port=27017)
# client = MongoClient(‘mongodb://localhost:27017/‘)

2.指定数据库

import pymongo
client = pymongo.MongoClient(host=‘localhost‘, port=27017)
# client = MongoClient(‘mongodb://localhost:27017/‘)
db = client.test
# db = client[‘test‘]

3.指定集合

MongoDB 的每个数据库又包含了许多集合 Collection，也就类似与关系型数据库中的表

import pymongo
client = pymongo.MongoClient(host=‘localhost‘, port=27017)
# client = MongoClient(‘mongodb://localhost:27017/‘)
db = client.test
# db = client[‘test‘]
collection = db.students
# collection = db[‘students‘]

4.插入数据

在 MongoDB 中，每条数据其实都有一个 _id 属性来唯一标识，如果没有显式指明 _id，MongoDB 会自动产生一个 ObjectId 类型的 _id 属性。insert() 方法会在执行后返回的 _id 值。

也可以同时插入多条数据，只需要以列表形式传递即可，返回的结果是对应的 _id 的集合。

import pymongo
client = pymongo.MongoClient(host=‘localhost‘, port=27017)
# client = MongoClient(‘mongodb://localhost:27017/‘)
db = client.test
# db = client[‘test‘]
collection = db.students
# collection = db[‘students‘]

# 插入单条数据
student = {
    ‘id‘: ‘20170101‘,
    ‘name‘: ‘Jordan‘,
    ‘age‘: 20,
    ‘gender‘: ‘male‘
}

result = collection.insert_one(student)
print(result)
print(result.inserted_id) # 返回的是InsertOneResult 对象，我们可以调用其 inserted_id 属性获取 _id
"""
运行结果：
<pymongo.results.InsertOneResult object at 0x10d68b558>
5932ab0f15c2606f0c1cf6c5
"""

# 插入多条数据
student1 = {
    ‘id‘: ‘20170101‘,
    ‘name‘: ‘Jordan‘,
    ‘age‘: 20,
    ‘gender‘: ‘male‘
}

student2 = {
    ‘id‘: ‘20170202‘,
    ‘name‘: ‘Mike‘,
    ‘age‘: 21,
    ‘gender‘: ‘male‘
}

result = collection.insert_many([student1, student2])
print(result)
print(result.inserted_ids) # insert_many() 方法返回的类型是 InsertManyResult，调用inserted_ids 属性可以获取插入数据的 _id 列表
"""
运行结果：
<pymongo.results.InsertManyResult object at 0x101dea558>
[ObjectId(‘5932abf415c2607083d3b2ac‘), ObjectId(‘5932abf415c2607083d3b2ad‘)]

"""

5.查询数据

可以利用 find_one() 或 find() 方法进行查询，find_one() 查询得到是单个结果，find() 则返回一个生成器对象。

import pymongo
client = pymongo.MongoClient(host=‘localhost‘, port=27017)
# client = MongoClient(‘mongodb://localhost:27017/‘)
db = client.test
# db = client[‘test‘]
collection = db.students
# collection = db[‘students‘]

result = collection.find_one({‘name‘: ‘Mike‘})
print(type(result)) # 查询 name 为 Mike 的数据，它的返回结果是字典类型
print(result) # 多了一个 _id 属性，这就是 MongoDB 在插入的过程中自动添加的
"""
<class ‘dict‘>
{‘_id‘: ObjectId(‘5c502697e0b72c0d90eeee22‘), ‘id‘: ‘20170202‘, ‘name‘: ‘Mike‘, ‘age‘: 21, ‘gender‘: ‘male‘}
"""

# 也可以直接根据 ObjectId 来查询，这里需要使用 bson 库里面的 ObjectId
"""
from bson.objectid import ObjectId

result = collection.find_one({‘_id‘: ObjectId(‘593278c115c2602667ec6bae‘)})
print(result)

"""

# 多条数据的查询，使用 find() 方法
results = collection.find({‘age‘: 20})
print(results)
for result in results:
    print(result) # 返回结果是 Cursor 类型，相当于一个生成器，我们需要遍历取到所有的结果，每一个结果都是字典类型

# 要查询年龄大于 20 的数据
results = collection.find({‘age‘: {‘$gt‘: 20}}) # 查询的条件键值是一个字典，其键名为比较符号 $gt，意思是大于，键值为 20

# 还可以进行正则匹配查询，例如查询名字以 M 开头的学生数据
results = collection.find({‘name‘: {‘$regex‘: ‘^M.*‘}}) # 使用了 $regex 来指定正则匹配，^M.* 代表以 M 开头的正则表达式s

原文地址：https://www.cnblogs.com/sanduzxcvbnm/p/10335391.html