高级操作
- 讲解关于mongodb的高级操作，包括聚合、主从复制、分片、备份与恢复、MR
- 完成python与mongodb的交互
聚合 aggregate
- 聚合(aggregate)主要用于计算数据，类似sql中的sum()、avg()
- 语法
db.集合名称.aggregate([{管道:{表达式}}])
管道
- 管道在Unix和Linux中一般用于将当前命令的输出结果作为下一个命令的输入
ps ajx | grep mongo
- 在mongodb中，管道具有同样的作用，文档处理完毕后，通过管道进行下一次处理
- 常用管道
- $group：将集合中的文档分组，可用于统计结果
- $match：过滤数据，只输出符合条件的文档
- $project：修改输入文档的结构，如重命名、增加、删除字段、创建计算结果
- $sort：将输入文档排序后输出
- $limit：限制聚合管道返回的文档数
- $skip：跳过指定数量的文档，并返回余下的文档
- $unwind：将数组类型的字段进行拆分
表达式
- 处理输入文档并输出
- 语法
表达式:'$列名'
常用表达式
- $sum：计算总和，$sum:1同count表示计数
- $avg：计算平均值
- $min：获取最小值
- $max：获取最大值
- $push：在结果文档中插入值到一个数组中
- $first：根据资源文档的排序获取第一个文档数据
- $last：根据资源文档的排序获取最后一个文档数据
$group
- 将集合中的文档分组，可用于统计结果
- _id表示分组的依据，使用某个字段的格式为'$字段'
- 例1：统计男生、女生的总人数
db.stu.aggregate([ {$group: { _id:'$gender', counter:{$sum:1} } } ])
Group by null
- 将集合中所有文档分为一组
- 例2：求学生总人数、平均年龄
db.stu.aggregate([ {$group: { _id:null, counter:{$sum:1}, avgAge:{$avg:'$age'} } } ])
透视数据
- 例3：统计学生性别及学生姓名
db.stu.aggregate([ {$group: { _id:'$gender', name:{$push:'$name'} } } ])
- 使用$$ROOT可以将文档内容加入到结果集的数组中，代码如下
$match
- 用于过滤数据，只输出符合条件的文档
- 使用MongoDB的标准查询操作
- 例1：查询年龄大于20的学生
db.stu.aggregate([ {$match:{age:{$gt:20}}} ])
- 例2：查询年龄大于20的男生、女生人数
db.stu.aggregate([ {$match:{age:{$gt:20}}}, {$group:{_id:'$gender',counter:{$sum:1}}} ])
$project
- 修改输入文档的结构，如重命名、增加、删除字段、创建计算结果
- 例1：查询学生的姓名、年龄
db.stu.aggregate([ {$project:{_id:0,name:1,age:1}} ])
- 例2：查询男生、女生人数，输出人数
db.stu.aggregate([ {$group:{_id:'$gender',counter:{$sum:1}}}, {$project:{_id:0,counter:1}} ])
$sort
- 将输入文档排序后输出
- 例1：查询学生信息，按年龄升序
b.stu.aggregate([{$sort:{age:1}}])
- 例2：查询男生、女生人数，按人数降序
db.stu.aggregate([ {$group:{_id:'$gender',counter:{$sum:1}}}, {$sort:{counter:-1}} ])
$limit
- 限制聚合管道返回的文档数
- 例1：查询2条学生信息
db.stu.aggregate([{$limit:2}])
$skip
- 跳过指定数量的文档，并返回余下的文档
- 例2：查询从第3条开始的学生信息
db.stu.aggregate([{$skip:2}])
- 例3：统计男生、女生人数，按人数升序，取第二条数据
db.stu.aggregate([ {$group:{_id:'$gender',counter:{$sum:1}}}, {$sort:{counter:1}}, {$skip:1}, {$limit:1} ])
- 注意顺序：先写skip，再写limit
$unwind
- 将文档中的某一个数组类型字段拆分成多条，每条包含数组中的一个值
语法1
- 对某字段值进行拆分
db.集合名称.aggregate([{$unwind:'$字段名称'}])
- 构造数据
db.t2.insert({_id:1,item:'t-shirt',size:['S','M','L']})
- 查询
db.t2.aggregate([{$unwind:'$size'}])
语法2
- 对某字段值进行拆分
- 处理空数组、非数组、无字段、null情况
db.inventory.aggregate([{ $unwind:{ path:'$字段名称', preserveNullAndEmptyArrays:<boolean>#防止数据丢失 } }])
- 构造数据
db.t3.insert([ { "_id" : 1, "item" : "a", "size": [ "S", "M", "L"] }, { "_id" : 2, "item" : "b", "size" : [ ] }, { "_id" : 3, "item" : "c", "size": "M" }, { "_id" : 4, "item" : "d" }, { "_id" : 5, "item" : "e", "size" : null } ])
- 使用语法1查询
db.t3.aggregate([{$unwind:'$size'}])
- 查看查询结果，发现对于空数组、无字段、null的文档，都被丢弃了
- 问：如何能不丢弃呢？
- 答：使用语法2查询
db.t3.aggregate([{$unwind:{path:'$sizes',preserveNullAndEmptyArrays:true}}])
超级管理员
- 为了更安全的访问mongodb，需要访问者提供用户名和密码，于是需要在mongodb中创建用户
- 采用了角色-用户-数据库的安全管理方式
- 常用系统角色如下：
- root：只在admin数据库中可用，超级账号，超级权限
- Read：允许用户读取指定数据库
- readWrite：允许用户读写指定数据库
- 创建超级管理用户
use admin db.createUser({ user:'admin', pwd:'123', roles:[{role:'root',db:'admin'}] })
启用安全认证
- 修改配置文件
sudo vi /etc/mongod.conf
- 启用身份验证
- 注意：keys and values之间一定要加空格, 否则解析会报错
security:
authorization: enabled
- 重启服务
sudo service mongod stop sudo service mongod start
- 终端连接
mongo -u 'admin' -p '123' --authenticationDatabase 'admin'
普通用户管理
- 使用超级管理员登录，然后进入用户管理操作
- 查看当前数据库的用户
use test1
show users
- 创建普通用户
db.createUser({ user:'t1', pwd:'123', roles:[{role:'readWrite',db:'test1'}] })
- 终端连接
mongo -u t1 -p 123 --authenticationDatabase test1
-
切换数据库，执行命令查看效果
-
修改用户：可以修改pwd、roles属性
db.updateUser('t1',{pwd:'456'})
复制（副本集）
什么是复制
- 复制提供了数据的冗余备份，并在多个服务器上存储数据副本，提高了数据的可用性，并可以保证数据的安全性
- 复制还允许从硬件故障和服务中断中恢复数据
为什么要复制
- 数据备份
- 数据灾难恢复
- 读写分离
- 高（24* 7）数据可用性
- 无宕机维护
- 副本集对应用程序是透明
复制的工作原理
- 复制至少需要两个节点A、B...
- A是主节点，负责处理客户端请求
- 其余的都是从节点，负责复制主节点上的数据
- 节点常见的搭配方式为：一主一从、一主多从
- 主节点记录在其上的所有操作，从节点定期轮询主节点获取这些操作，然后对自己的数据副本执行这些操作，从而保证从节点的数据与主节点一致
- 主节点与从节点进行数据交互保障数据的一致性
复制的特点
- N 个节点的集群
- 任何节点可作为主节点
- 所有写入操作都在主节点上
- 自动故障转移
- 自动恢复
设置复制节点
- 接下来的操作需要打开多个终端窗口，而且可能会连接多台ubuntu主机，会显得有些乱，建议在xshell中实现
- step1:创建数据库目录t1、t2
- 在Desktop目录下演示，其它目录也可以，注意权限即可
mkdir t1 mkdir t2
- step2:使用如下格式启动mongod，注意replSet的名称是一致的
mongod --bind_ip 192.168.196.128 --port 27017 --dbpath ~/Desktop/t1 --replSet rs0 mongod --bind_ip 192.168.196.128 --port 27018 --dbpath ~/Desktop/t2 --replSet rs0
- step3:连接主服务器，此处设置192.168.196.128:27017为主服务器
mongo --host 192.168.196.128 --port 27017
- step4:初始化
rs.initiate()
- 初始化完成后，提示符如下图：
- step5:查看当前状态
rs.status()
- 当前状态如下图：
初始化
- step6:添加复本集
rs.add('192.168.196.128:27018')
- step7:复本集添加成功后，当前状态如下图：
初始化
- step8:连接第二个mongo服务
mongo --host 192.168.196.128 --port 27018
- 连接成功后，提示符如下图：
- step9:向主服务器中插入数据
use test1 for(i=0;i<10;i++){db.t1.insert({_id:i})} db.t1.find()
- step10:在从服务器中插查询
- 说明：如果在从服务器上进行读操作，需要设置rs.slaveOk()
rs.slaveOk() db.t1.find()
其它说明
- 删除从节点
rs.remove('192.168.196.128:27018')
- 关闭主服务器后，再重新启动，会发现原来的从服务器变为了从服务器，新启动的服务器（原来的从服务器）变为了从服务器
备份
- 语法
mongodump -h dbhost -d dbname -o dbdirectory
- -h：服务器地址，也可以指定端口号
- -d：需要备份的数据库名称
- -o：备份的数据存放位置，此目录中存放着备份出来的数据
- 例1
sudo mkdir test1bak sudo mongodump -h 192.168.196.128:27017 -d test1 -o ~/Desktop/test1bak
恢复
- 语法
mongorestore -h dbhost -d dbname --dir dbdirectory
- -h：服务器地址
- -d：需要恢复的数据库实例
- --dir：备份数据所在位置
- 例2
mongorestore -h 192.168.196.128:27017 -d test2 --dir ~/Desktop/test1bak/test1
与python交互
- 点击查看官方文档
- 安装python包
进入虚拟环境sudo pip install pymongo
或源码安装python setup.py
- 引入包pymongo
import pymongo
- 连接，创建客户端
client=pymongo.MongoClient("localhost", 27017)
- 获得数据库test1
db=client.test1
- 获得集合stu
stu = db.stu
- 添加文档
s1={name:'gj',age:18}
s1_id = stu.insert_one(s1).inserted_id
- 查找一个文档
s2=stu.find_one()
- 查找多个文档1
for cur in stu.find(): print cur
- 查找多个文档2
cur=stu.find() cur.next() cur.next() cur.next()
- 获取文档个数
print stu.count()