zoukankan      html  css  js  c++  java
  • MongoDB在java中的使用

    在一年前就开始在项目中使用Mongodb作为爬虫(crawler)待下载URL、下载成功URL等的存储库,最近对项目进行版本更新,根据Mongodb的最近升级情况,也对项目中的Mongodb进行了相关的调整。

    主要的调整在于2.10.0版本中引入了MongoClient类,同时在其API中也说明了Mongo类会在将来的版本中被MongoClient替换(Note: This class has been superseded by MongoClient, and may be deprecated in a future release.)。故在这次调整中,也对原先的Mongodb部分做了相应的修改。

    MongoClient被设计成线程安全、可以被多线程共享的。通常访问数据库集群的应用只需要一个实例,所以这次调整我们设计成单例形式。如果出于某些原因,你决定使用多个实例,请注意:所有资源使用限制(最大连接数等等)对每个MongoClient都适用;销毁一个实例时,请确认调用MongoClient.close()方法来清理资源。

    下面给出相关的代码:

    接口类

    [java] view plaincopy
     
    1. /** 
    2.   * 项目名:SpiderCrawler 
    3.   * 文件名:MongoDBDao.java 
    4.   * 作者:zhouyh 
    5.   * 时间:2014-8-30 下午03:46:55 
    6.   * 描述:TODO(用一句话描述该文件做什么)  
    7.   */  
    8. package com.newsTest.dao;  
    9.   
    10. import java.util.ArrayList;  
    11.   
    12. import com.mongodb.DB;  
    13. import com.mongodb.DBCollection;  
    14. import com.mongodb.DBObject;  
    15.   
    16. /** 
    17.  * 类名: MongoDBDao 
    18.  * 包名: com.newsTest.dao 
    19.  * 作者: zhouyh 
    20.  * 时间: 2014-8-30 下午03:46:55 
    21.  * 描述: TODO(这里用一句话描述这个类的作用)  
    22.  */  
    23. public interface MongoDBDao {  
    24.     /** 
    25.      *  
    26.      * 方法名:getDb 
    27.      * 作者:zhouyh 
    28.      * 创建时间:2014-8-30 下午03:53:40 
    29.      * 描述:获取指定的mongodb数据库 
    30.      * @param dbName 
    31.      * @return 
    32.      */  
    33.     public DB getDb(String dbName);  
    34.     /** 
    35.      *  
    36.      * 方法名:getCollection 
    37.      * 作者:zhouyh 
    38.      * 创建时间:2014-8-30 下午03:54:43 
    39.      * 描述:获取指定mongodb数据库的collection集合 
    40.      * @param dbName    数据库名 
    41.      * @param collectionName    数据库集合 
    42.      * @return 
    43.      */  
    44.     public DBCollection getCollection(String dbName, String collectionName);  
    45.     /** 
    46.      *  
    47.      * 方法名:inSert 
    48.      * 作者:zhouyh 
    49.      * 创建时间:2014-8-30 下午04:07:35 
    50.      * 描述:向指定的数据库中添加给定的keys和相应的values 
    51.      * @param dbName 
    52.      * @param collectionName 
    53.      * @param keys 
    54.      * @param values 
    55.      * @return 
    56.      */  
    57.     public boolean inSert(String dbName, String collectionName, String[] keys, Object[] values);  
    58.     /** 
    59.      *  
    60.      * 方法名:delete 
    61.      * 作者:zhouyh 
    62.      * 创建时间:2014-8-30 下午04:09:00 
    63.      * 描述:删除数据库dbName中,指定keys和相应values的值 
    64.      * @param dbName 
    65.      * @param collectionName 
    66.      * @param keys 
    67.      * @param values 
    68.      * @return 
    69.      */  
    70.     public boolean delete(String dbName, String collectionName, String[] keys, Object[] values);  
    71.     /** 
    72.      *  
    73.      * 方法名:find 
    74.      * 作者:zhouyh 
    75.      * 创建时间:2014-8-30 下午04:11:11 
    76.      * 描述:从数据库dbName中查找指定keys和相应values的值 
    77.      * @param dbName 
    78.      * @param collectionName 
    79.      * @param keys 
    80.      * @param values 
    81.      * @param num 
    82.      * @return 
    83.      */  
    84.     public ArrayList<DBObject> find(String dbName, String collectionName, String[] keys, Object[] values, int num);  
    85.     /** 
    86.      *  
    87.      * 方法名:update 
    88.      * 作者:zhouyh 
    89.      * 创建时间:2014-8-30 下午04:17:54 
    90.      * 描述:更新数据库dbName,用指定的newValue更新oldValue 
    91.      * @param dbName 
    92.      * @param collectionName 
    93.      * @param oldValue 
    94.      * @param newValue 
    95.      * @return 
    96.      */  
    97.     public boolean update(String dbName, String collectionName, DBObject oldValue, DBObject newValue);  
    98.     /** 
    99.      *  
    100.      * 方法名:isExit 
    101.      * 作者:zhouyh 
    102.      * 创建时间:2014-8-30 下午04:19:21 
    103.      * 描述:判断给定的keys和相应的values在指定的dbName的collectionName集合中是否存在 
    104.      * @param dbName 
    105.      * @param collectionName 
    106.      * @param keys 
    107.      * @param values 
    108.      * @return 
    109.      */  
    110.     public boolean isExit(String dbName, String collectionName, String key, Object value);  
    111.       
    112. }  

    接口实现类:

    [java] view plaincopy
     
    1. /** 
    2.   * 项目名:SpiderCrawler 
    3.   * 文件名:MongoDBDaoImpl.java 
    4.   * 作者:zhouyh 
    5.   * 时间:2014-8-30 下午04:21:11 
    6.   * 描述:TODO(用一句话描述该文件做什么)  
    7.   */  
    8. package com.newsTest.dao.impl;  
    9.   
    10. import java.net.UnknownHostException;  
    11. import java.util.ArrayList;  
    12.   
    13. import com.newsTest.dao.MongoDBDao;  
    14. import com.mongodb.BasicDBObject;  
    15. import com.mongodb.DB;  
    16. import com.mongodb.DBCollection;  
    17. import com.mongodb.DBCursor;  
    18. import com.mongodb.DBObject;  
    19. import com.mongodb.MongoClient;  
    20. import com.mongodb.MongoClientOptions;  
    21. import com.mongodb.MongoException;  
    22. import com.mongodb.WriteResult;  
    23.   
    24. /** 
    25.  * 类名: MongoDBDaoImpl 
    26.  * 包名: com.newsTest.dao.impl 
    27.  * 作者: zhouyh 
    28.  * 时间: 2014-8-30 下午04:21:11 
    29.  * 描述: TODO(这里用一句话描述这个类的作用)  
    30.  */  
    31. public class MongoDBDaoImpl implements MongoDBDao{  
    32.       
    33.     /** 
    34.      * MongoClient的实例代表数据库连接池,是线程安全的,可以被多线程共享,客户端在多线程条件下仅维持一个实例即可 
    35.      * Mongo是非线程安全的,目前mongodb API中已经建议用MongoClient替代Mongo 
    36.      */  
    37.     private MongoClient mongoClient = null;  
    38.     /** 
    39.      *  
    40.      * 私有的构造函数 
    41.      * 作者:zhouyh 
    42.      */  
    43.     private MongoDBDaoImpl(){  
    44.         if(mongoClient == null){  
    45.             MongoClientOptions.Builder build = new MongoClientOptions.Builder();          
    46.             build.connectionsPerHost(50);   //与目标数据库能够建立的最大connection数量为50  
    47.             build.autoConnectRetry(true);   //自动重连数据库启动  
    48.             build.threadsAllowedToBlockForConnectionMultiplier(50); //如果当前所有的connection都在使用中,则每个connection上可以有50个线程排队等待  
    49.             /* 
    50.              * 一个线程访问数据库的时候,在成功获取到一个可用数据库连接之前的最长等待时间为2分钟 
    51.              * 这里比较危险,如果超过maxWaitTime都没有获取到这个连接的话,该线程就会抛出Exception 
    52.              * 故这里设置的maxWaitTime应该足够大,以免由于排队线程过多造成的数据库访问失败 
    53.              */  
    54.             build.maxWaitTime(1000*60*2);  
    55.             build.connectTimeout(1000*60*1);    //与数据库建立连接的timeout设置为1分钟  
    56.               
    57.             MongoClientOptions myOptions = build.build();         
    58.             try {  
    59.                 //数据库连接实例  
    60.                 mongoClient = new MongoClient("127.0.0.1", myOptions);            
    61.             } catch (UnknownHostException e) {  
    62.                 // TODO 这里写异常处理的代码  
    63.                 e.printStackTrace();  
    64.             } catch (MongoException e){  
    65.                 e.printStackTrace();  
    66.             }  
    67.               
    68.         }  
    69.     }  
    70.       
    71.     /********单例模式声明开始,采用饿汉式方式生成,保证线程安全********************/  
    72.       
    73.     //类初始化时,自行实例化,饿汉式单例模式  
    74.     private static final MongoDBDaoImpl mongoDBDaoImpl = new MongoDBDaoImpl();  
    75.     /** 
    76.      *  
    77.      * 方法名:getMongoDBDaoImplInstance 
    78.      * 作者:zhouyh 
    79.      * 创建时间:2014-8-30 下午04:29:26 
    80.      * 描述:单例的静态工厂方法 
    81.      * @return 
    82.      */  
    83.     public static MongoDBDaoImpl getMongoDBDaoImplInstance(){  
    84.         return mongoDBDaoImpl;  
    85.     }  
    86.       
    87.     /************************单例模式声明结束*************************************/  
    88.       
    89.     @Override  
    90.     public boolean delete(String dbName, String collectionName, String[] keys,  
    91.             Object[] values) {  
    92.         DB db = null;  
    93.         DBCollection dbCollection = null;  
    94.         if(keys!=null && values!=null){  
    95.             if(keys.length != values.length){   //如果keys和values不对等,直接返回false  
    96.                 return false;  
    97.             }else{  
    98.                 try {  
    99.                     db = mongoClient.getDB(dbName); //获取指定的数据库  
    100.                     dbCollection = db.getCollection(collectionName);    //获取指定的collectionName集合  
    101.                       
    102.                     BasicDBObject doc = new BasicDBObject();    //构建删除条件  
    103.                     WriteResult result = null;  //删除返回结果  
    104.                     String resultString = null;  
    105.                       
    106.                     for(int i=0; i<keys.length; i++){  
    107.                         doc.put(keys[i], values[i]);    //添加删除的条件  
    108.                     }  
    109.                     result = dbCollection.remove(doc);  //执行删除操作  
    110.                       
    111.                     resultString = result.getError();  
    112.                       
    113.                     if(null != db){  
    114.                         try {  
    115.                             db.requestDone();   //请求结束后关闭db  
    116.                             db = null;  
    117.                         } catch (Exception e) {  
    118.                             // TODO: handle exception  
    119.                             e.printStackTrace();  
    120.                         }  
    121.                           
    122.                     }  
    123.                       
    124.                     return (resultString!=null) ? false : true; //根据删除执行结果进行判断后返回结果  
    125.                 } catch (Exception e) {  
    126.                     // TODO: handle exception  
    127.                     e.printStackTrace();  
    128.                 } finally{  
    129.                     if(null != db){  
    130.                         db.requestDone();   //关闭db  
    131.                         db = null;  
    132.                     }  
    133.                 }  
    134.                   
    135.             }  
    136.         }  
    137.         return false;  
    138.     }  
    139.   
    140.     @Override  
    141.     public ArrayList<DBObject> find(String dbName, String collectionName,  
    142.             String[] keys, Object[] values, int num) {  
    143.         ArrayList<DBObject> resultList = new ArrayList<DBObject>(); //创建返回的结果集  
    144.         DB db = null;  
    145.         DBCollection dbCollection = null;  
    146.         DBCursor cursor = null;  
    147.         if(keys!=null && values!=null){  
    148.             if(keys.length != values.length){  
    149.                 return resultList;  //如果传来的查询参数对不对,直接返回空的结果集  
    150.             }else{  
    151.                 try {  
    152.                     db = mongoClient.getDB(dbName); //获取数据库实例  
    153.                     dbCollection = db.getCollection(collectionName);    //获取数据库中指定的collection集合  
    154.                       
    155.                     BasicDBObject queryObj = new BasicDBObject();   //构建查询条件  
    156.                       
    157.                     for(int i=0; i<keys.length; i++){    //填充查询条件  
    158.                         queryObj.put(keys[i], values[i]);  
    159.                     }                 
    160.                     cursor = dbCollection.find(queryObj);   //查询获取数据  
    161.                     int count = 0;  
    162.                     if(num != -1){  //判断是否是返回全部数据,num=-1返回查询全部数据,num!=-1则返回指定的num数据  
    163.                         while(count<num && cursor.hasNext()){  
    164.                             resultList.add(cursor.next());  
    165.                             count++;  
    166.                         }  
    167.                         return resultList;  
    168.                     }else{  
    169.                         while(cursor.hasNext()){  
    170.                             resultList.add(cursor.next());  
    171.                         }  
    172.                         return resultList;  
    173.                     }  
    174.                 } catch (Exception e) {  
    175.                     // TODO: handle exception  
    176.                 } finally{                
    177.                     if(null != cursor){  
    178.                         cursor.close();  
    179.                     }  
    180.                     if(null != db){  
    181.                         db.requestDone();   //关闭数据库请求  
    182.                     }  
    183.                 }  
    184.             }  
    185.         }  
    186.   
    187.         return resultList;  
    188.     }  
    189.   
    190.     @Override  
    191.     public DBCollection getCollection(String dbName, String collectionName) {  
    192.         // TODO Auto-generated method stub  
    193.         return mongoClient.getDB(dbName).getCollection(collectionName);  
    194.     }  
    195.   
    196.     @Override  
    197.     public DB getDb(String dbName) {  
    198.         // TODO Auto-generated method stub  
    199.         return mongoClient.getDB(dbName);  
    200.     }  
    201.   
    202.     @Override  
    203.     public boolean inSert(String dbName, String collectionName, String[] keys,  
    204.             Object[] values) {  
    205.         DB db = null;  
    206.         DBCollection dbCollection = null;  
    207.         WriteResult result = null;  
    208.         String resultString = null;  
    209.         if(keys!=null && values!=null){  
    210.             if(keys.length != values.length){  
    211.                 return false;  
    212.             }else{  
    213.                 db = mongoClient.getDB(dbName); //获取数据库实例  
    214.                 dbCollection = db.getCollection(collectionName);    //获取数据库中指定的collection集合  
    215.                 BasicDBObject insertObj = new BasicDBObject();  
    216.                 for(int i=0; i<keys.length; i++){    //构建添加条件  
    217.                     insertObj.put(keys[i], values[i]);  
    218.                 }  
    219.                   
    220.                 try {  
    221.                     result = dbCollection.insert(insertObj);  
    222.                     resultString = result.getError();  
    223.                 } catch (Exception e) {  
    224.                     // TODO: handle exception  
    225.                     e.printStackTrace();  
    226.                 }finally{  
    227.                     if(null != db){  
    228.                         db.requestDone();   //请求结束后关闭db  
    229.                     }  
    230.                 }                 
    231.                 return (resultString != null) ? false : true;  
    232.             }  
    233.         }  
    234.         return false;  
    235.     }  
    236.   
    237.     @Override  
    238.     public boolean isExit(String dbName, String collectionName, String key,  
    239.             Object value) {  
    240.         // TODO Auto-generated method stub  
    241.         DB db = null;  
    242.         DBCollection dbCollection = null;  
    243.         if(key!=null && value!=null){  
    244.             try {  
    245.                 db = mongoClient.getDB(dbName); //获取数据库实例  
    246.                 dbCollection = db.getCollection(collectionName);    //获取数据库中指定的collection集合  
    247.                 BasicDBObject obj = new BasicDBObject();    //构建查询条件  
    248.                 obj.put(key, value);  
    249.                   
    250.                 if(dbCollection.count(obj) > 0) {  
    251.                     return true;  
    252.                 }else{  
    253.                     return false;  
    254.                 }  
    255.             } catch (Exception e) {  
    256.                 // TODO: handle exception  
    257.                 e.printStackTrace();  
    258.             } finally{  
    259.                 if(null != db){  
    260.                     db.requestDone();   //关闭db  
    261.                     db = null;  
    262.                 }  
    263.             }  
    264.               
    265.         }  
    266.         return false;  
    267.     }  
    268.   
    269.     @Override  
    270.     public boolean update(String dbName, String collectionName,  
    271.             DBObject oldValue, DBObject newValue) {  
    272.         DB db = null;  
    273.         DBCollection dbCollection = null;  
    274.         WriteResult result = null;  
    275.         String resultString = null;  
    276.           
    277.         if(oldValue.equals(newValue)){  
    278.             return true;  
    279.         }else{  
    280.             try {  
    281.                 db = mongoClient.getDB(dbName); //获取数据库实例  
    282.                 dbCollection = db.getCollection(collectionName);    //获取数据库中指定的collection集合  
    283.                   
    284.                 result = dbCollection.update(oldValue, newValue);  
    285.                 resultString = result.getError();  
    286.                   
    287.                 return (resultString!=null) ? false : true;  
    288.             } catch (Exception e) {  
    289.                 // TODO: handle exception  
    290.                 e.printStackTrace();  
    291.             } finally{  
    292.                 if(null != db){  
    293.                     db.requestDone();   //关闭db  
    294.                     db = null;  
    295.                 }  
    296.             }  
    297.               
    298.         }  
    299.           
    300.         return false;  
    301.     }  
    302.       
    303.     /** 
    304.      * 方法名:main 
    305.      * 作者:zhouyh 
    306.      * 创建时间:2014-8-30 下午04:21:11 
    307.      * 描述:TODO(这里用一句话描述这个方法的作用) 
    308.      * @param args 
    309.      */  
    310.     public static void main(String[] args) {  
    311.         // TODO Auto-generated method stub  
    312.           
    313.     }  
    314.       
    315. }  


    这里使用的mongodb的java驱动版本是2.11.4,相关的驱动版本可以从这里下载mongodb java驱动,也可以查看相关的mongodb的api

  • 相关阅读:
    被标记为事务的方法互相调用的坑(上)
    几种实现延时任务的方式(三)
    几种实现延时任务的方式(二)
    几种实现延时任务的方式(一)
    Windows AD日志分析平台WatchAD安装教程
    Django单元测试中Fixtures用法
    威联通(NAS)搭建个人图床
    centOS极简安装并启动ngnix
    【JS档案揭秘】第一集 内存泄漏与垃圾回收
    【JS简洁之道小技巧】第一期 扁平化数组
  • 原文地址:https://www.cnblogs.com/likeju/p/5082172.html
Copyright © 2011-2022 走看看