MongoDB数据库操作
MongoDB是一个基于分布式文件存储的NoSQL数据库。在处理海量数据的时候会比MySQL更有优势。爬虫如果上了一个量级,可能就会比较推荐使用MongoDB,当然没有上量的数据也完全可以使用MongoDB来存储数据。因此学会使用MongoDB也是爬虫开发工程师必须掌握的一个技能。
一、Windows下安装MongoDB数据库:
在官网下载MongoDB数据库。是一个msi文件。官网地址如下:https://www.mongodb.com/download-center?ct=atlasheader#community
然后双击进行安装:

选择安装的地址。不要包含中文、空格。

在安装的时候选择安装Compass。这个软件是用图形化的界面操作MongoDB,使用起来非常方便。
二、运行MongoDB:
- 创建数据目录:
启动MongoDB之前,首先要给他指定一个数据存储的路径。比如我在MongoDB的安装路径下创建一个data文件夹,专门用来存储数据的。D:\ProgramApp\mongodb\data。 - 把
mongodb的bin目录加入到环境变量中。方便后期调用。 - 执行命令
mongod --dbpath D:\ProgramApp\mongodb\data启动。
三、连接MongoDB:
在环境变量设置好的前提下,使用以下命令mongo就可以进入到mongo的操作终端了。
四、使用Compass软件连接MongoDB:
Compass是一个图形化的操作MongoDB的客户端。使用他来操作会更加方便。

五、将MongoDB制作成windows服务:
启动mongodb后,如果想让mongodb一直运行,那么这个终端便不能关闭,而且每次运行的时候还需要指定data的路径。因此我们可以将mongodb制作成一个服务,以后就通过一行命令就可以运行了。以下将讲解如何制作服务:
- 创建配置文件:在
mongodb安装的路径下创建配置文件mongod.cfg(路径和名字不是必须和我这的一样),然后在配置文件中添加以下代码:
logpath=D:\ProgramApp\mongodb\data\log\mongod.log
dbpath=D:\ProgramApp\mongodb\data\db
logpath是日志的路径。dbpath是mongodb数据库的存储路径。
- 安装
mongodb服务:
使用以下命令即可将mongodb安装成一个服务:
mongod --config "cfg配置文件所在路径" --install
比如:
mongod --config "D:\ProgramApp\mongodb\mongod.cfg" --install
-
启动
mongodb:net start mongodb。 -
关闭
mongodb:net stop mongodb。 -
移除
mongodb:"D:\ProgramApp\mongodb\bin\mongod.exe" --remove。
六、MongoDB概念介绍:
| SQL术语/概念 | MongoDB术语/概念 | 解释/说明 |
|---|---|---|
| database | database | 数据库 |
| table | collection | 数据库表/集合 |
| row | document | 数据记录行/文档 |
| column | field | 数据字段/域 |
| index | index | 索引 |
| joins | joins | 表连接,MongoDB不支持 |
| primary key | primary key | 主键,MongoDB自动将_id字段设置为主键 |
七、MongoDB三元素:
三元素:数据库、集合、文档。
- 文档(document):就是关系型数据库中的一行。文档是一个对象,由键值对构成,是
json的扩展形式:
{'name':'abc','gender':'1'}
- 集合(collection):就是关系型数据库中的表。可以存储多个文档,结构可以不固定。如可以存储如下文档在一个集合中:
{"name":"abc","gender":"1"}
{"name":"xxx","age":18}
{"title":'yyy','price':20.9}
八、MongoDB基本操作命令:
db:查看当前的数据库。show dbs:查看所有的数据库。use 数据库名:切换数据库。如果数据库不存在,则创建一个。(创建完成后需要插入数据库才算创建成功)db.dropDatabase():删除当前指向的数据库。db.集合名.insert(value):添加数据到指定的集合中。db.集合名.find():从指定的集合中查找数据。
更多命令请见:http://www.runoob.com/mongodb/mongodb-tutorial.html
九、Python操作MongoDB:
1. 安装pymongo:
要用python操作mongodb,必须下载一个驱动程序,这个驱动程序就是pymongo:
pip install pymongo
2. 连接MongoDB:
import pymongo
# 获取连接的对象
client = pymongo.MongoClient('127.0.0.1',port=27017)
# 获取数据库
db = client.zhihu
# 获取集合(表)
collection = db.qa
# 插入一条数据到集合中
collection.insert_one({
"username":"abc",
"password":'hello'
})
3. 数据类型:
| 类型 | 说明 |
|---|---|
| Object ID | 文档ID |
| String | 字符串,最常用,必须是有效的UTF-8 |
| Boolean | 存储一个布尔值,true或false |
| Integer | 整数可以是32位或64位,这取决于服务器 |
| Double | 存储浮点值 |
| Arrays | 数组或列表,多个值存储到一个键 |
| Object | 用于嵌入式的文档,即一个值为一个文档 |
| Null | 存储Null值 |
| Timestamp | 时间戳,表示从1970-1-1到现在的总秒数 |
| Date | 存储当前日期或时间的UNIX时间格式 |
4. 操作MongoDB:
操作MongoDB的主要方法如下:
insert_one:加入一条文档数据到集合中。示例代码如下:
collection.insert_one({
"username":"abc",
"password":'hello'
})
insert_many:加入多条文档数据到集合中。
collection.insert_many([
{
"username":'abc',
'password':'111111'
},
{
"username":'bbb',
'password':'222222'
},
])
find_one:查找一条文档对象。
result = collection.find_one()
print(result)
# 或者是指定条件
result = collection.find_one({"username":"abc"})
print(result)
update_one:更新一条文档对象。
collection.update_one({"username":"abc"},{"$set":{"username":"aaa"}})
update_many:更新多条文档对象。
collection.update_many({"username":"abc"},{"$set":{"username":"aaa"}})
delete_one:删除一条文档对象。
collection.delete_one({"username":"abc"})
delete_many:删除多条文档对象。
collection.delete_one({"username":"abc"})
