zoukankan      html  css  js  c++  java
  • 【02】MongoDB使用入门 (全)

    一、MongoDB简介

    1.MongoDB  

        ①MongoDB 是一个基于分布式 文件存储的NoSQL数据库。
        ②由C++语言编写,运行稳定,性能高。 
        ③旨在为 WEB 应用提供可扩展的高性能数据存储解决方案。 
        ④官方网址:https://www.mongodb.com/

    2.MongoDB特点 

        ①MongoDB可以轻松地布置两个活跃集群,但关系型不容易在两台服务器上同时运行单个数据库。
        ②MongoDB天然缺少对事物的支持。
        ③MongoDB并不提供主/主复制,但它支持分片。

    3.Bson和Json 

        ①Bosn版本是Json的二进制格式,但并不意味着Bson占用的空间就比Json小的多。 
        ②继续使用Bson的原因是因为MongoDB在设计上就是要求快速,而不是节省空间,如果处理数据的速度更快,存储文档时的一点开销是完全可以接受的。 
        ③Bson更易于浏览(即遍历),遍历索引页非常快,第二点是很容易将Bson数据快速转化为编程语言的原生数据格式。

    4.名词

    SQL术语/概念

    MongoDB术语/概念

    解释/说明

    database

    database

    数据库

    table

    collection

    数据库表/集合

    row

    document

    数据记录行/文档

    column

    field

    数据字段/域

    index

    index

    索引

    table joins

     

    表连接,MongoDB不支持

    primary key

    primary key

    主键,MongoDB自动将_id字段设置为主键

    5.MongoDB三要素

        ①数据库:是一个集合的物理容器,一个数据库中可以包含多个文档,一个服务器通常有多个数据库。 
        ②集合:类似于关系数据库中的表,储存多个文档,结构不固定,如可以存储如下文档在一个集合中。

    {'name':'guojing','gender':'男'}
    {'name':'huangrong','age':18}
    {'book':'shuihuzhuan','heros':'108'}

        ③文档:就是一个对象,由键值对组成,是Json的扩展Bson格式。

    {'name':'guojing','gender':'男'}

    二、MongoDB安装与管理

    1.安装 

        ①下载MongoDB的版本注意,两点注意。 
            根据规则:偶数为稳定版,如1.6X,奇数为开发版,如1.7X。 
            32bit的MongoDB最大只能存放2G的数据,64bit就没有限制。 
        ②到官网,选择合适的版本下载 。
        ③解压。

    tar -zxvf mongodb-linux-x86_64-ubuntu1604-3.4.0.tgz

        ④移动到/usr/local/目录下。

    sudo mv -r mongodb-linux-x86_64-ubuntu1604-3.4.0/ /usr/local/mongodb

        ⑤将可执行文件添加到PATH路径中。

    export PATH=/usr/local/mongodb/bin:$PATH

    2.管理 

        ①配置文件在/etc/mongod.conf,默认端口27017。 
        ②启动。

    sudo service mongod start

        ③停止。

    sudo service mongod stop

        ④使用终端连接:mongo,这个shell就是mongodb的客户端,同时也是一个js的编译器。
        ⑤ GUI:robomongo,解压后在bin目录下找到运行程序。

    三、数据库操作

    1.数据库切换 

        ①查看当前数据库名称:db。
        ②查看所有数据库名称:show dbs,(列出所有在物理上存在的数据库)。 
        ③切换数据库:use 数据库名称,(如果数据库不存在,则指向数据库,但不创建,直到插入数据或创建集合时数据库才被创建)。 
        ④默认的数据库为test,如果没有创建新的数据库,集合将存放在test数据库中。

    2.数据库删除 

        删除当前指向的数据库,如果数据库不存在,则什么也不做。

    db.dropDatabase()

    四、集合操作

    1.集合创建 

    db.createCollection(name,option)

        ①name是要创建集合的名称。
        ②options是一个文档,用于指定集合的配置。 
        ③选项参数是可选的,所以只需要到指定的集合名称。
        ④不限制集合的大小。

    db.createCollection(‘stu’)

        ⑤限制集合大小

    db.createCollection(‘sub’,{capped:true,size:10})

        参数capped:默认值为false表示不设置上限,值为true表示设置上限。 
        参数size:当capped值为true时,需要指定此参数,表示上限大小,当文档设置上限时,会将之前的数据覆盖,单位为字节。

    2.查看当前数据库的集合

    show collections

    3.删除集合

    db.集合名称.drop()

    五、数据类型

    1. MongoDB中常用的数据类型 

        ①Object ID:文档ID。
        ②String:字符串,最常用,必须是有效的UTF-8。 
        ③Boolean:存储一个布尔值,true或false。 
        ④Integer:整数可以是32位或64位,这取决于服务器。 
        ⑤Double:存储浮点值。 
        ⑥Arrays:数组或列表,多个值存储到一个键。 
        ⑦Object:用于嵌入式的文档,即一个值为一个文档。
        ⑧Null:存储Null值。 
        ⑨Timestamp:时间戳。
        ⑩Date:存储当前日期或时间的UNIX时间格式。

    2. Object id 

        ①每个文档都有一个属性,为_id,保证每个文档的唯一性。 
        ②可以自己去设置_id插入文档。
        ③如果没有提供,那么MongoDB为每个文档提供了一个独特的_id,类型为objectID。 
        ④objectID是一个12字节的十六进制数。 
            前4个字节为当前时间戳。
            接下来3个字节的机器ID。 
            接下来的2个字节中MongoDB的服务进程id。 
            最后3个字节是简单的增量值。

    六、数据操作

    1.插入 

        插入文档时,如果不指定_id参数,MongoDB会为文档分配一个唯一的ObjectId。

    db.集合名称.insert(document)

    2.简单查询

    db.集合名称.find()

    3.更新

    db.集合名称.update(<query>,<update>,multi:<boolean>})

        ①参数query:查询条件,类似sql语句update中where部分。
        ②参数update:更新操作符,类似sql语句update中set部分。 
        ③参数multi:可选,默认是false,表示只更新找到的第一条记录,值为true表示把满足条件的文档全部更新。
        ④全文档更新。

    db.stu.update(
        {name:'hr'},{name:'mnc'}
    )

        ⑤指定属性更新,通过操作符$set。

    db.stu.insert({name:'hr',gender:0})
    
    db.stu.update({name:'hr'},{$set:{name:'hys'}})

        ⑥修改多条匹配到的数据。

    db.stu.update({},{$set:{gender:0}},{multi:true})

    4.保存 

        如果文档的_id已经存在则修改,不存在则添加。

    db.集合名称.save(document)

    5.删除

    db.集合名称.remove( <query>,  { justOne: <boolean>})

        ①参数query:可选,删除的文档的条件。 
        ②参数justOne:可选,如果设为true或1,则只删除一条,默认false,表示删除多条。 
        ③只删除匹配到的第一条。

    db.stu.remove({gender:0},{justOne:true})

        ④全部删除。

    db.stu.remove({})

    七、数据查询

    1.基本查询 

        ①方法find():查询。

    db.集合名称.find({条件文档})

        ②方法findOne():查询,只返回第一个。

    db.集合名称.findOne({条件文档})

        ③方法pretty():将结果格式化。

    db.集合名称.find({条件文档}).pretty()

    2.比较运算符

        ①等于,默认是等于判断,没有运算符。
        ②小于$lt。
        ③小于或等于$lte。
        ④大于$gt。
        ⑤大于或等于$gte。
        ⑥不等于$ne。
        ⑦查询年龄大于或等于18的学生。

    db.stu.find({age:{$gte:18}})

    3.逻辑运算符

        ①查询时可以有多个条件,多个条件之间需要通过逻辑运算符连接。
        ②逻辑与:默认是逻辑与的关系。
        ③查询年龄大于或等于18,并且性别为1的学生。

    db.stu.find({age:{$gte:18},gender:1})

        ④查询年龄大于18,或性别为0的学生。

    db.stu.find({$or:[{age:{$gt:18}},{gender:1}]})

        ⑤查询年龄大于18或性别为0的学生,并且学生的姓名为gj。

    db.stu.find({$or:[{age:{$gte:18}},{gender:1}],name:'gj'})

    4.范围运算符

        ①使用"$in","$nin" 判断是否在某个范围内。
        ②查询年龄为18、28的学生。

    db.stu.find({age:{$in:[18,28]}})

    5.支持正则表达式

        ①使用//或$regex编写正则表达式。
        ②查询姓黄的学生。

    db.stu.find({name:/^黄/})db.stu.find({name:{$regex:'^黄'}})

    6.自定义查询

        ①使用$where后面写一个函数,返回满足条件的数据。
        ②查询年龄大于30的学生。

    db.stu.find({$where:function(){return this.age>20}})

    7. Limit

        ①方法limit():用于读取指定数量的文档。

    db.集合名称.find().limit(NUMBER)

        ②参数NUMBER表示要获取文档的条数。
        ③如果没有指定参数则显示集合中的所有文档。

    db.stu.find().limit(2)

    8. skip

        ①方法skip():用于跳过指定数量的文档。

    db.集合名称.find().skip(NUMBER)

        ②参数NUMBER表示跳过的记录条数,默认值为0。
        ③查询从第3条开始的学生信息。

    db.stu.find().skip(2)

    9.Limit与Skip

        ①方法limit()和skip()可以一起使用,不分先后顺序。

        ②查询第5至8条数据(跳取)。

    db.stu.find().limit(4).skip(5)db.stu.find().skip(5).limit(4)

    10. 投影

        ①在查询到的返回结果中,只选择必要的字段,而不是选择一个文档的整个字段。
        ②语法:参数为字段与值,值为1表示显示,值为0不显示。

    db.集合名称.find({},{字段名称:1,...})

        ③对于需要显示的字段,设置为1即可,不设置即为不显示。
        ④特殊:对于_id列默认是显示的,如果不显示需要明确设置为0。

    db.stu.find({},{_id:0,name:1,gender:1})

    11.排序

        ①方法sort(),用于对结果集进行排序。
        ②语法:db.集合名称.find().sort({字段:1,...})。
            参数1为升序排列。
            参数-1为降序排列。
        ③根据性别降序,再根据年龄升序。

    db.stu.find().sort({gender:-1,age:1})

    12.统计个数

        ①方法count()用于统计结果集中文档条数。

    db.集合名称.find({条件}).count()

            也可以与为

    db.集合名称.count({条件})

        ②统计男生人数。

    db.stu.find({gender:1}).count()

        ③统计年龄大于20的男生人数。

    db.stu.count({age:{$gt:20},gender:1})

    13.消除重复

        ①方法distinct()对数据进行去重。

    db.集合名称.distinct('去重字段',{条件})

        ②查找年龄大于18的性别(去重)。

    db.stu.distinct('gender',{age:{$gt:18}})

    八、聚合 aggregate

    1.聚合(aggregate)

        主要用于计算数据,类似sql中的sum()、avg()。

    db.集合名称.aggregate([{管道:{表达式}}])

    2.管道

        管道在Unix和Linux中一般用于将当前命令的输出结果作为下一个命令的输入。

     ps ajx | grep mongo

        在mongodb中,管道具有同样的作用,文档处理完毕后,通过管道进行下一次处理。

        1) 常用管道

            ①$group:将集合中的文档分组,可用于统计结果。
            ②$match:过滤数据,只输出符合条件的文档。
            ③$project:修改输入文档的结构,如重命名、增加、删除字段、创建计算结果。
            ④$sort:将输入文档排序后输出。
            ⑤$limit:限制聚合管道返回的文档数。
            ⑥$skip:跳过指定数量的文档,并返回余下的文档。
            ⑦$unwind:将数组类型的字段进行拆分。

        2) 表达式

            ①$sum:计算总和,$sum:1同count表示计数。
            ②$avg:计算平均值。
            ③$min:获取最小值。
            ④$max:获取最大值。
            ⑤$push:在结果文档中插入值到一个数组中。
            ⑥$first:根据资源文档的排序获取第一个文档数据。
            ⑦$last:根据资源文档的排序获取最后一个文档数据。

    3.$group

        将集合中的文档分组,可用于统计结果。
        ①统计男生、女生的总人数。
            _id表示分组的依据,使用某个字段的格式为'$字段'。

    db.stu.aggregate([{$group:{_id:'$gender',counter:{$sum:1}}}])

        ②求学生总人数、平均年龄。

    db.stu.aggregate([{$group:{_id:null,counter:{$sum:1},avgAge:{$avg:'$age'} }}])

        ③统计学生性别及学生姓名。

    db.stu.aggregate([{$group:{_id:'$gender',name:{$push:'$name'}}}])

        使用$$ROOT可以将文档内容加入到结果集的数组中,代码如下。

    db.stu.aggregate([{$group:{_id:'$gender',name:{$push:'$$ROOT'}}}])

    4.$match

        用于过滤数据,只输出符合条件的文档。

        ①查询年龄大于20的学生。

    db.stu.aggregate([{$match:{age:{$gt:20}}}])

        ②查询年龄大于20的男生、女生人数。

    db.stu.aggregate([{$match:{age:{$gt:20}}},{$group:{_id:'$gender',counter:{$sum:1}}}])

    5.$project

        修改输入文档的结构,如重命名、增加、删除字段、创建计算结果。
        ①查询学生的姓名、年龄。

    db.stu.aggregate([{$project:{_id:0,name:1,age:1}}])

        ②查询男生、女生人数,输出人数。

    db.stu.aggregate([{$group:{_id:'$gender',counter:{$sum:1}}},{$project:{_id:0,counter:1}}])

    6. $sort

        将输入文档排序后输出。

        ①查询学生信息,按年龄升序。

    b.stu.aggregate([{$sort:{age:1}}])

        ②查询男生、女生人数,按人数降序。

    db.stu.aggregate([{$group:{_id:'$gender',counter:{$sum:1}}},{$sort:{counter:-1}}])

    7. $limit,$skip

        限制聚合管道返回的文档数。

        ①查询2条学生信息。

    db.stu.aggregate([{$limit:2}])

        跳过指定数量的文档,并返回余下的文档。
        ②查询从第3条开始的学生信息。

    db.stu.aggregate([{$skip:2}])

        ③统计男生、女生人数,按人数升序,取第二条数据。

    db.stu.aggregate( [{$group:{_id:'$gender',counter:{$sum:1}}}, {$sort:{counter:1}},  {$skip:1}, {$limit:1}])

        注意顺序:先写skip,再写limit。

    8. $unwind

        将文档中的某一个数组类型字段拆分成多条,每条包含数组中的一个值。
        语法1:对某字段值进行拆分。

    db.集合名称.aggregate([{$unwind:'$字段名称'}])

        构造数据。

    db.t2.insert({_id:1,item:'t-shirt',size:['S','M','L']})

        查询。

    db.t2.aggregate([{$unwind:'$size'}])

        语法2:对某字段值进行拆分。
        处理空数组、非数组、无字段、null情况。

    db.inventory.aggregate([{ $unwind:{ path:'$字段名称',   preserveNullAndEmptyArrays:<boolean>#防止数据丢失 }}])

        构造数据。

    db.t3.insert(
        [{ "_id" : 1, "item" : "a", "size": [ "S", "M", "L"] },
        { "_id" : 2, "item" : "b", "size" : [ ] },
        { "_id" : 3, "item" : "c", "size": "M" },
        { "_id" : 4, "item" : "d" },
        {"_id" : 5, "item" : "e", "size" : null }]
    )

        使用语法1查询。

    db.t3.aggregate([{$unwind:'$size'}])

        查看查询结果,发现对于空数组、无字段、null的文档,都被丢弃了。
        问:如何能不丢弃呢?
        答:使用语法2查询

    db.t3.aggregate([{$unwind:{path:'$sizes',preserveNullAndEmptyArrays:true}}])

    九、安全

    1.超级管理员

        为了更安全的访问mongodb,需要访问者提供用户名和密码,于是需要在mongodb中创建用户。
        采用了角色-用户-数据库的安全管理方式。
        常用系统角色如下:
            root:只在admin数据库中可用,超级账号,超级权限。
            Read:允许用户读取指定数据库。
            readWrite:允许用户读写指定数据库。
        创建超级管理用户。

    use admindb.createUser({      
        user:'admin',      
        pwd:'123',      
        roles:[{role:'root',db:'admin'}]
    })

    2.启用安全认证

        ①修改配置文件。

    sudo vi /etc/mongod.conf

        ②启用身份验证
            注意:keys and values之间一定要加空格, 否则解析会报错。

    security: authorization: enabled

        ③重启服务。

    sudo service mongod stop
    sudo service mongod start

        ④终端连接。

    mongo -u 'admin' -p '123' --authenticationDatabase 'admin'

    3.普通用户管理

        ①使用超级管理员登录,然后进入用户管理操作。
        ②查看当前数据库的用户。

    use test1show users

        ③创建普通用户。

    db.createUser({     
        user:'t1', pwd:'123', roles:[{role:'readWrite',db:'test1'}]
    })

        ④终端连接。

    mongo -u t1 -p 123 --authenticationDatabase test1

        ⑤切换数据库,执行命令查看效果。

        ⑥修改用户:可以修改pwd、roles属性。

    db.updateUser('t1',{pwd:'456'})

    十、复制(副本集)

    1.什么是复制

        ①复制提供了数据的冗余备份,并在多个服务器上存储数据副本,提高了数据的可用性,并可以保证数据的安全性。
        ②复制还允许从硬件故障和服务中断中恢复数据。

    2.为什么要复制

        ①数据备份。
        ②数据灾难恢复。
        ③读写分离。
        ④高(24* 7)数据可用性。
        ⑤无宕机维护。
        ⑥副本集对应用程序是透明。

    3.复制的工作原理

        ①复制至少需要两个节点A、B...。
        ②A是主节点,负责处理客户端请求。
        ③其余的都是从节点,负责复制主节点上的数据。
        ④节点常见的搭配方式为:一主一从、一主多从。
        ⑤主节点记录在其上的所有操作,从节点定期轮询主节点获取这些操作,然后对自己的数据副本执行这些操作,从而保证从节点的数据与主节点一致。
        ⑥主节点与从节点进行数据交互保障数据的一致性。

    4.复制的特点

        ①N 个节点的集群。
        ②任何节点可作为主节点。
        ③所有写入操作都在主节点上。
        ④自动故障转移。
        ⑤自动恢复。

    5.设置复制节点

        接下来的操作需要打开多个终端窗口,而且可能会连接多台ubuntu主机,会显得有些乱,建议在xshell中实现。
        step1:创建数据库目录t1、t2。
            在Desktop目录下演示,其它目录也可以,注意权限即可。

    mkdir t1mkdir t2

        step2:使用如下格式启动mongod,注意replSet的名称是一致的。

    mongod --bind_ip 192.168.196.128 --port 27017 
    --dbpath ~/Desktop/t1 --replSet 
    rs0mongod --bind_ip 192.168.196.128 --port 27018 
    --dbpath ~/Desktop/t2 --replSet rs0

        step3:连接主服务器,此处设置192.168.196.128:27017为主服务器。

    mongo --host 192.168.196.128 --port 27017

        step4:初始化。

    rs.initiate()

        step5:查看当前状态。

    rs.status()

        step6:添加复本集。

    rs.add('192.168.196.128:27018')

        step7:连接第二个mongo服务。

    mongo --host 192.168.196.128 --port 27018

        step8:向主服务器中插入数据。

    use test1for(i=0;i<10;i++){ 
        db.t1.insert({_id:i})
    }
    db.t1.find()

        step9:在从服务器中插查询。

            说明:如果在从服务器上进行读操作,需要设置rs.slaveOk()。

    rs.slaveOk()db.t1.find()

        其它说明。

            删除从节点。

    rs.remove('192.168.196.128:27018')

        关闭主服务器后,再重新启动,会发现原来的从服务器变为了主服务器,新启动的服务器(原来的从服务器)变为了从服务器。

    十一、备份和恢复

    1.备份

    mongodump -h dbhost -d dbname -o dbdirectory

        -h:服务器地址,也可以指定端口号。
        -d:需要备份的数据库名称。
        -o:备份的数据存放位置,此目录中存放着备份出来的数据。
        例1:

    sudo mkdir test1bak
    sudo mongodump -h 192.168.196.128:27017 -d test1 -o ~/Desktop/test1bak

    2.恢复

    mongorestore -h dbhost -d dbname --dir dbdirectory

        -h:服务器地址。
        -d:需要恢复的数据库实例。
        -dir:备份数据所在位置。

    mongorestore -h 192.168.196.128:27017 -d test2 --dir ~/Desktop/test1bak/test1

    十二、与python交互

    1.官方文档

        http://api.mongodb.org/python/current/tutorial.html

    2.安装python包

        1) 进入虚拟环境

    sudo pip install pymongo

        2) 或源码安装

    python setup.py

        3) 引入包pymongo

    import pymongo

        4) 连接,创建客户端

    client = pymongo.MongoClient("localhost", 27017)

        5) 获得数据库test1

    db = client.test1

        6) 获得集合stu

    stu = db.stu

        7) 添加文档

    s1 = {name:'gj',age:18}
    s1_id = stu.insert_one(s1).inserted_id

        8) 查找一个文档

    s2 = stu.find_one()

        9) 查找多个文档1

    for cur in stu.find():      
        print cur

        10) 查找多个文档2

    cur = stu.find()cur.next()cur.next()cur.next()

        11) 获取文档个数

    print stu.count()
  • 相关阅读:
    2.ECMAScript 5.0
    1.Javascript简介
    9.定位
    HDU2032 杨辉三角
    HDU2058 The sum problem
    HDU2091 空心三角形
    HDU1166 敌兵布阵(树状数组模板题)
    HDU2049 不容易系列之(4)——考新郎
    Python网络爬虫与信息提取(三)(正则表达式的基础语法)
    HDU6576 Worker
  • 原文地址:https://www.cnblogs.com/djcoder/p/12292952.html
Copyright © 2011-2022 走看看