MongoDB

什么是MongoDB?

MongoDB是一个面向文档的分布式非关系型数据库，它可以是实现高并发，适用于大数据领域。

不采用关系型主要是为了获得更好的扩展性。与关系型数据库性比，面向文档的数据库不再有“行”的概念，而是更为灵活的“文档”模型。它把尽可能多的内存用作缓存cache，视图为每次查询自动选择正确的索引。

通过在文档中嵌入文档和数组，面向文档的方法能够仅使用一条记录来表现复杂的层级关系，这与现代的面向对象语言的开发者对数据的看法一致；此外，不再有预定义模式（predefined schema）:文档的键和值不再是固定的类型和大小，由于没有固定的模式，根据需要添加或删除字段变得更加容易了。

由于应用程序数据集的大小正在以不可思议的速度增长，开发者面临一个问题：应该如何扩展数据库，分为纵向扩展和横向扩展。MongoDB的设计就是采用横向扩展方式，面向文档的数据模型使它能很容易的在多台机器之间进行数据分割。MongoDB能够自动处理跨集群的数据和负载，自动重新分配文档，以及将用户的请求路由分发到正确的机器上，这样如果一个集群需要更大的容量，只需要向集群添加新服务器，MongoDB就会自动将现有的数据向新服务器传送。

注意事项：

'''
1.文档中的键/值对是有序的；
2.文档中的值不仅可以是在双引号里面的字符串，也可以是其他几种数据类型数据，甚至可以是整个嵌入的文档；
3.MongoDB区分类型和大小写；
4.MongoDB的文档不能有重复的键；
5.文档中的值可以是多种不同的数据类型，也可以是一个完整的内嵌文档，文档的键是字符串，除了少数例外情况，键可以使用任意UTF-8字符


文档键命名规范：
1.键不能含有(空字符)，这个字符用来表示键的结尾；
2..和$有特殊含义，只有在特定环境下才能使用；
3.以下划线“_”开头的键是保留的（不是严格要求的）
'''

重要概念：

database ==> 数据库；

collection ==> 集合（表）;

document ==> 文档（数据记录）;

field ==> 域（数据字段）；

index ==> 索引；

primary key ==> 主键，MongoDB自动将_id字段设置为主键。

安装和使用

下载地址：https://fastdl.mongodb.org/win32/mongodb-win32-x86_64-2008plus-ssl-4.0.8-signed.msi

1.在services.msc中开启MongoDB服务；

2.将目录文件下的bin文件添加到环境变量中去，在cmd终端敲mongo，即可进入mongodb数据库中。

但是以上的操作进入数据库是没有任何权限的，默认是管理员角色，我们需要通过创建账号来限制用户权限：

创建账号：

#创建账号
use admin 
db.createUser(
  {
    user: "root",
    pwd: "123",
    roles: [ { role: "root", db: "admin" } ]
  }
)

use test
db.createUser(
  {
    user: "wangke",
    pwd: "123",
    roles: [ { role: "readWrite", db: "test" },
             { role: "read", db: "db1" } ]
  }
)

'''
在mongodb中用不同的数据库来区分权限,要管理哪个数据库就在哪个数据库下创建用户即可,创建管理员账户则在admin下创建!
db 是一个全局变量 表示当前数据库
db.createUser()是调用一个内部函数用于创建用户
每个账号可以具备多个角色
key都是固定的不能随便写每一个key都有特殊含义
其中 {"role":"root"} role固定的key root是角色的名字 有可选范围如root readWrite read等等...
'''

开启账号认证：

默认情况下mongodb不会加载认证信息就像mysql跳过授权表一样，创建完账号用户需要开启认证：
修改mongod.cfg文件，将bind_ip改为0.0.0.0(可以让其他电脑进行访问)，然后找到#security改成如下：

security：
    authorization: enabled
# 注意缩进

最后重启MongoDB Server服务，启用认证

账号登录：

#直接mongo进入程序  已经无法查看数据库

show dbs 
#登录方式1:  authenticationDatabase指定数据库
mongo --port 27017 -u "root" -p "123" --authenticationDatabase "admin"
mongo -u root -p root

#登录方式2:进入mongo后
use admin
db.auth("root","123")

#删除账号
db.dropUser('用户名');

#修改密码
db.changeUserPassword(用户名, 新密码);

库的操作

#创建数据库:
use 数据库名称
#如果有则切换没有则创建新的,注意的是如果如果库中没有数据show dbs 中则不显示!

# 查看数据库:
show dbs

#删除
db.dropDatabase()
#注意区分大小写

集合的操作

集合是一个存储数据元素的容器相当于mysql中的表。

#创建集合:
db.user

#查看集合:
show collections
show tables
# 同样的数据集合中没有数据则 不会显示

# 一下数据库之间没有任何关系仅仅是名字有相同部分 数据之间的关系需要应用程序维护
db.blog
db.blog.user
db.blog.common

#删除集合:
db.blog.user.drop()

基本数据类型

1、在概念上，MongoDB的文档与Javascript的对象相近，因而可以认为它类似于JSON。JSON（http://www.json.org）是一种简单的数据表示方式：其规范仅用一段文字就能描述清楚（其官网证明了这点），且仅包含六种数据类型。

2、这样有很多好处：易于理解、易于解析、易于记忆。然而从另一方面说，因为只有null、布尔、数字、字符串、数字和对象这几种数据类型，所以JSON的表达能力有一定的局限。

3、虽然JSON具备的这些类型已经具有很强的表现力，但绝大数应用（尤其是在于数据库打交道时）都还需要其他一些重要的类型。例如，JSON没有日期类型，这使得原本容易日期处理变得烦人。另外，JSON只有一种数字类型，无法区分浮点数和整数，更别区分32位和64位了。再者JSON无法表示其他一些通用类型，如正则表达式或函数。

4、MongoDB在保留了JSON基本键/值对特性的基础上，添加了其他一些数据类型。在不同的编程语言下，这些类型的确切表示有些许差异。下面说明了MongoDB支持的其他通用类型，以及如何正在文档中使用它们

#1、null：用于表示空或不存在的字段
d={'x':null}
#2、布尔型：true和false
d={'x':true,'y':false}
#3、数值
d={'x':3,'y':3.1415926}
#4、字符串
d={'x':'egon'}
#5、日期
d={'x':new Date()}
d.x.getHours()
#6、正则表达式
d={'pattern':/^egon.*?nb$/i}

正则写在／／内，后面的i代表:
i 忽略大小写
m 多行匹配模式
x 忽略非转义的空白字符
s 单行匹配模式

#7、数组
d={'x':[1,'a','v']}

#8、内嵌文档
user={'name':'jerry','addr':{'country':'China','city':'YT'}}
user.addr.country

#9、对象id:是一个12字节的ID,是文档的唯一标识，不可变
d={'x':ObjectId()}

#案例:
db.tb.insert({"a":null,"b":1.1,"c":true,"d":100,"e":"aaaaaa","f":new Date(),"g":/^jerry.*nice$/i,"h":[1,2],"j":{"name":"smallJerry"}})

db.tb.find()
db.tb.find().pretty() # 格式化显示

文档操作

1.插入数据

#1.插入单条
db.user.insert({"_id":3,"name":"egon","sex":"男","age":18})

#2.插入变量
>var user1 = {"_id":4,"name":"qqq","pwd":"123"}  #var可以省略，定义一个变量
>db.user.insert(user1)  #直接插入一个变量

#3.无则插入，有则覆盖
db.user.save( {"_id":10,"name":"hahaha"})


#4.插入多条
db.user.insertMany([{"_id":5,"name":"aaa"},{"_id":6,"name":"bbb"}])
#插入的是一个列表，其中包含多个字典

2.查询数据

# find 查找所有匹配数据
# findOne 查找第一个匹配的数据

#============比较运算
# MongoDB：{key:value}代表什么等于什么,"$ne","$gt","$lt","gte","lte",其中"$ne"能用于所有数据类型

#1、select * from db1.user where name = "cxx";
db.user.find({'name':'cxx'})

#2、select * from db1.user where name != "cxx";
db.user.find({'name':{"$ne":'cxx'}})

#3、select * from db1.user where id > 2;
db.user.find({'_id':{'$gt':2}})

#4、select * from db1.user where id < 3;
db.user.find({'_id':{'$lt':3}})

#5、select * from db1.user where id >= 2;
db.user.find({"_id":{"$gte":2,}})

#6、select * from db1.user where id <= 2;
db.user.find({"_id":{"$lte":2}})


#============逻辑运算
# SQL：and，or，not
# MongoDB：字典中逗号分隔的多个条件是and关系，"$or"的条件放到[]内,"$not"

#1、select * from db1.user where id >= 2 and id < 4;
db.user.find({'_id':{"$gte":2,"$lt":4}})

#2、select * from db1.user where id >= 2 and age < 40;
db.user.find({"_id":{"$gte":2},"age":{"$lt":40}})

#3、select * from db1.user where id >= 5 or name = "cxx";
db.user.find({
    "$or":[
        {'_id':{"$gte":5}},
        {"name":"cxx"}
        ]
})

#4、select * from db1.user where id % 2=1;
db.user.find({'_id':{"$mod":[2,1]}})

#5、上题，取反
db.user.find({'_id':{"$not":{"$mod":[2,1]}}})


#============成员运算
# SQL：in，not in
# MongoDB："$in","$nin"

#1、select * from db1.user where age in (20,30,31);
db.user.find({"age":{"$in":[20,30,31]}})

#2、select * from db1.user where name not in ('alex','yuanhao');
db.user.find({"name":{"$nin":['alex','yuanhao']}})


#============正则匹配
# MongoDB: /正则表达/i  # i查询模式，可以忽略大小写

#1、select * from db1.user where name regexp '^j.*?(g|n)$';
db.user.find({'name':/^j.*?(g|n)$/i})
正则表达


#============指定字段
db.user.find({'_id':3},{'_id':0,'name':1,'age':1})
0表示不显示 默认为0  1为显示


#============查询数组
#1、查看有dancing爱好的人
db.user.find({'hobbies':'dancing'})

#2、查看既有dancing爱好又有tea爱好的人
db.user.find({
    'hobbies':{
        "$all":['dancing','tea']
        }
})

#3、查看第4个爱好为tea的人
db.user.find({"hobbies.3":'tea'})

#4、查看所有人最后两个爱好
db.user.find({},{'hobbies':{"$slice":-2},"age":0,"_id":0,"name":0,"addr":0})

#5、查看所有人的第2个到第3个爱好
db.user.find({},{'hobbies':{"$slice":[1,2]},"age":0,"_id":0,"name":0,"addr":0})

> db.blog.find().pretty()
{
        "_id" : 1,
        "name" : "alex意外死亡的真相",
        "comments" : [
                {
                        "name" : "egon",
                        "content" : "alex是谁？？？",
                        "thumb" : 200
                },
                {
                        "name" : "wxx",
                        "content" : "我去，真的假的",
                        "thumb" : 300
                },
                {
                        "name" : "yxx",
                        "content" : "吃喝嫖赌抽，欠下两个亿",
                        "thumb" : 40
                },
                {
                        "name" : "egon",
                        "content" : "xxx",
                        "thumb" : 0
                }
        ]
}
db.blog.find({},{'comments':{"$slice":-2}}).pretty() #查询最后两个
db.blog.find({},{'comments':{"$slice":[1,2]}}).pretty() #查询1到2


#============其他操作
# 排序:1代表升序，-1代表降序
db.user.find().sort({"name":1,})
db.user.find().sort({"age":-1,'_id':1})


# 分页:limit代表取多少个document，skip代表跳过前多少个document。 
db.user.find().sort({'age':1}).limit(1).skip(2)

# 获取数量
db.user.count({'age':{"$gt":30}}) 

# 或者
db.user.find({'age':{"$gt":30}}).count()


# {'key':null} 匹配key的值为null或者没有这个key
db.t2.insert({'a':10,'b':111})
db.t2.insert({'a':20})
db.t2.insert({'b':null})

> db.t2.find({"b":null})
{ "_id" : ObjectId("5a5cc2a7c1b4645aad959e5a"), "a" : 20 }
{ "_id" : ObjectId("5a5cc2a8c1b4645aad959e5b"), "b" : null }

3.修改数据

'''
update() 方法用于更新已存在的文档。语法格式如下：
db.collection.update(
   <query>,
   <update>,
   {
     upsert: <boolean>,
     multi: <boolean>,
     writeConcern: <document>
   }
)
参数说明：对比update db1.t1 set name='EGON',sex='Male' where name='egon' and age=18;

query : 相当于where条件。
update : update的对象和一些更新的操作符（如$,$inc...等，相当于set后面的
upsert : 可选，默认为false，代表如果不存在update的记录不更新也不插入，设置为true代表插入。
multi : 可选，默认为false，代表只更新找到的第一条记录，设为true,代表更新找到的全部记录。
writeConcern :可选，抛出异常的级别。

更新操作是不可分割的：若两个更新同时发送，先到达服务器的先执行，然后执行另外一个，不会破坏文档。
'''

#=================覆盖式
#注意：除非是删除，否则_id是始终不会变的
#1、覆盖式:
db.user.update({'age':20},{"name":"Wxx","hobbies_count":3})
是用{"_id":2,"name":"Wxx","hobbies_count":3}覆盖原来的记录

#2、一种最简单的更新就是用一个新的文档完全替换匹配的文档。这适用于大规模式迁移的情况。例如
var obj=db.user.findOne({"_id":2})

obj.username=obj.name+'SB'
obj.hobbies_count++
delete obj.age

db.user.update({"_id":2},obj)


#=================设置：$set
通常文档只会有一部分需要更新。可以使用原子性的更新修改器，指定对文档中的某些字段进行更新。
更新修改器是种特殊的键，用来指定复杂的更新操作，比如修改、增加后者删除

#1、update db1.user set  name="WXX" where id = 2
db.user.update({'_id':2},{"$set":{"name":"WXX",}})

#2、没有匹配成功则新增一条{"upsert":true}
db.user.update({'_id':6},{"$set":{"name":"egon","age":18}},{"upsert":true})

#3、默认只改匹配成功的第一条,{"multi":改多条}
db.user.update({'_id':{"$gt":4}},{"$set":{"age":28}})
db.user.update({'_id':{"$gt":4}},{"$set":{"age":38}},{"multi":true})

#4、修改内嵌文档，把名字为alex的人所在的地址国家改成Japan
db.user.update({'name':"alex"},{"$set":{"addr.country":"Japan"}})

#5、把名字为alex的人的地2个爱好改成piao
db.user.update({'name':"alex"},{"$set":{"hobbies.1":"piao"}})

#6、删除alex的爱好,$unset
db.user.update({'name':"alex"},{"$unset":{"hobbies":""}})


#=================增加减少$inc
#1、所有人年龄增加一岁
db.user.update({},
    {
        "$inc":{"age":1}
    },
    {
        "multi":true
    }
    )
#2、所有人年龄减少5岁
db.user.update({},
    {
        "$inc":{"age":-5}
    },
    {
        "multi":true
    }
    )


#=================添加删除数组元素$push
往数组内添加元素:$push
#1、为名字为yuanhao的人添加一个爱好read
db.user.update({"name":"yuanhao"},{"$push":{"hobbies":"read"}})

#2、为名字为yuanhao的人一次添加多个爱好tea，dancing
db.user.update({"name":"yuanhao"},{"$push":{
    "hobbies":{"$each":["tea","dancing"]}
}})

按照位置且只能从开头或结尾删除元素：$pop
#3、{"$pop":{"key":1}} 从数组末尾删除一个元素

db.user.update({"name":"yuanhao"},{"$pop":{
    "hobbies":1}
})

#4、{"$pop":{"key":-1}} 从头部删除
db.user.update({"name":"yuanhao"},{"$pop":{
    "hobbies":-1}
})

#5、按照条件删除元素,："$pull" 把符合条件的统统删掉，而$pop只能从两端删
db.user.update({'addr.country':"China"},{"$pull":{
    "hobbies":"read"}
},
{
    "multi":true
}
)


=====================================避免添加重复：$addToSet===========================
#自动去除重复
db.urls.insert({"_id":1,"urls":[]})
db.urls.update({"_id":1},{"$addToSet":{"urls":'http://www.baidu.com'}})
db.urls.update({"_id":1},{"$addToSet":{"urls":'http://www.baidu.com'}})
db.urls.update({"_id":1},{"$addToSet":{"urls":'http://www.baidu.com'}})

db.urls.update({"_id":1},{
    "$addToSet":{
        "urls":{
        "$each":[
            'http://www.baidu.com',
            'http://www.baidu.com',
            'http://www.xxxx.com'
            ]
            }
        }
    }
)


=====================================其他========================================
#1、了解：限制大小"$slice"，只留最后n个

db.user.update({"_id":5},{
    "$push":{"hobbies":{
        "$each":["read",'music','dancing'],
        "$slice":-2
    }
    }
})

#2、了解：排序The $sort element value must be either 1 or -1"
db.user.update({"_id":5},{
    "$push":{"hobbies":{
        "$each":["read",'music','dancing'],
        "$slice":-1,
        "$sort":-1
    }
    }
})

#注意：不能只将"$slice"或者"$sort"与"$push"配合使用，且必须使用"$eah"

4.删除数据

#1、删除多个中的第一个
db.user.deleteOne({ 'age': 8 })

#2、删除国家为China的全部
db.user.deleteMany( {'addr.country': 'China'} ) 

#3、删除全部
db.user.deleteMany({})

pymongo

from pymongo import MongoClient

#1、链接
client=MongoClient('mongodb://root:123@localhost:27017/')
# client = pymongo.MongoClient(host='localhost', port=27017, username='root', password='root')

#2、use 数据库
db=client['db2'] #等同于：client.db1

#3、查看库下所有的集合
print(db.collection_names(include_system_collections=False))

#4、获取集合
user = db.get_collection('user')

#5、创建集合
table_user=db['userinfo'] #等同于：db.user

#6、插入文档
import datetime
user0={
    "_id":1,
    "name":"egon",
    "birth":datetime.datetime.now(),
    "age":10,
    'hobbies':['music','read','dancing'],
    'addr':{
        'country':'China',
        'city':'BJ'
    }
}

user1={
    "_id":2,
    "name":"alex",
    "birth":datetime.datetime.now(),
    "age":10,
    'hobbies':['music','read','dancing'],
    'addr':{
        'country':'China',
        'city':'weifang'
    }
}
# res=table_user.insert_many([user0,user1]).inserted_ids
# print(res)
# print(table_user.count())

#7、查找

# from pprint import pprint#格式化
# pprint(table_user.find_one())
# for item in table_user.find():
#     pprint(item)

# print(table_user.find_one({"_id":{"$gte":1},"name":'egon'}))

#8、更新
table_user.update({'_id':1},{'name':'EGON'})

#9、传入新的文档替换旧的文档
table_user.save(
    {
        "_id":2,
        "name":'egon_xxx'
    }
)