zoukankan      html  css  js  c++  java
  • 生产者/消费者问题的多种Java实现方式--转

    实质上,很多后台服务程序并发控制的基本原理都可以归纳为生产者/消费者模式,而这是恰恰是在本科操作系统课堂上老师反复讲解,而我们却视而不见不以为然的。在博文《一种面向作业流(工作流)的轻量级可复用的异步流水开发框架的设计与实现》中将介绍一种生产者/消费者模式的具体应用。

    生产者消费者问题是研究多线程程序时绕不开的经典问题之一,它描述是有一块缓冲区作为仓库,生产者可以将产品放入仓库,消费者则可以从仓库中取走产品。解决生产者/消费者问题的方法可分为两类:(1)采用某种机制保护生产者和消费者之间的同步;(2)在生产者和消费者之间建立一个管道。第一种方式有较高的效率,并且易于实现,代码的可控制性较好,属于常用的模式。第二种管道缓冲区不易控制,被传输数据对象不易于封装等,实用性不强。因此本文只介绍同步机制实现的生产者/消费者问题。

    同步问题核心在于:如何保证同一资源被多个线程并发访问时的完整性。常用的同步方法是采用信号或加锁机制,保证资源在任意时刻至多被一个线程访问。Java语言在多线程编程上实现了完全对象化,提供了对同步机制的良好支持。在Java中一共有四种方法支持同步,其中前三个是同步方法,一个是管道方法。

    (1)wait() / notify()方法

    (2)await() / signal()方法

    (3)BlockingQueue阻塞队列方法

    (4)PipedInputStream / PipedOutputStream

    本文只介绍最常用的前三种,第四种暂不做讨论,有兴趣的读者可以自己去网上找答案。

    一、wait() / notify()方法

    wait() / nofity()方法是基类Object的两个方法,也就意味着所有Java类都会拥有这两个方法,这样,我们就可以为任何对象实现同步机制。

    wait()方法:当缓冲区已满/空时,生产者/消费者线程停止自己的执行,放弃锁,使自己处于等等状态,让其他线程执行。

    notify()方法:当生产者/消费者向缓冲区放入/取出一个产品时,向其他等待的线程发出可执行的通知,同时放弃锁,使自己处于等待状态。

    光看文字可能不太好理解,咱来段代码就明白了:

    import java.util.LinkedList;
    
    /**
     * 仓库类Storage实现缓冲区
     * 
     * Email:530025983@qq.com
     * 
     * @author MONKEY.D.MENG 2011-03-15
     * 
     */
    public class Storage
    {
        // 仓库最大存储量
        private final int MAX_SIZE = 100;
    
        // 仓库存储的载体
        private LinkedList<Object> list = new LinkedList<Object>();
    
        // 生产num个产品
        public void produce(int num)
        {
            // 同步代码段
            synchronized (list)
            {
                // 如果仓库剩余容量不足
                while (list.size() + num > MAX_SIZE)
                {
                    System.out.println("【要生产的产品数量】:" + num + "/t【库存量】:"
                            + list.size() + "/t暂时不能执行生产任务!");
                    try
                    {
                        // 由于条件不满足,生产阻塞
                        list.wait();
                    }
                    catch (InterruptedException e)
                    {
                        e.printStackTrace();
                    }
                }
    
                // 生产条件满足情况下,生产num个产品
                for (int i = 1; i <= num; ++i)
                {
                    list.add(new Object());
                }
    
                System.out.println("【已经生产产品数】:" + num + "/t【现仓储量为】:" + list.size());
    
                list.notifyAll();
            }
        }
    
        // 消费num个产品
        public void consume(int num)
        {
            // 同步代码段
            synchronized (list)
            {
                // 如果仓库存储量不足
                while (list.size() < num)
                {
                    System.out.println("【要消费的产品数量】:" + num + "/t【库存量】:"
                            + list.size() + "/t暂时不能执行生产任务!");
                    try
                    {
                        // 由于条件不满足,消费阻塞
                        list.wait();
                    }
                    catch (InterruptedException e)
                    {
                        e.printStackTrace();
                    }
                }
    
                // 消费条件满足情况下,消费num个产品
                for (int i = 1; i <= num; ++i)
                {
                    list.remove();
                }
    
                System.out.println("【已经消费产品数】:" + num + "/t【现仓储量为】:" + list.size());
    
                list.notifyAll();
            }
        }
    
        // get/set方法
        public LinkedList<Object> getList()
        {
            return list;
        }
    
        public void setList(LinkedList<Object> list)
        {
            this.list = list;
        }
    
        public int getMAX_SIZE()
        {
            return MAX_SIZE;
        }
    }
    /**
     * 生产者类Producer继承线程类Thread
     * 
     * Email:530025983@qq.com
     * 
     * @author MONKEY.D.MENG 2011-03-15
     * 
     */
    public class Producer extends Thread
    {
        // 每次生产的产品数量
        private int num;
    
        // 所在放置的仓库
        private Storage storage;
    
        // 构造函数,设置仓库
        public Producer(Storage storage)
        {
            this.storage = storage;
        }
    
        // 线程run函数
        public void run()
        {
            produce(num);
        }
    
        // 调用仓库Storage的生产函数
        public void produce(int num)
        {
            storage.produce(num);
        }
    
        // get/set方法
        public int getNum()
        {
            return num;
        }
    
        public void setNum(int num)
        {
            this.num = num;
        }
    
        public Storage getStorage()
        {
            return storage;
        }
    
        public void setStorage(Storage storage)
        {
            this.storage = storage;
        }
    }
    /**
     * 消费者类Consumer继承线程类Thread
     * 
     * Email:530025983@qq.com
     * 
     * @author MONKEY.D.MENG 2011-03-15
     * 
     */
    public class Consumer extends Thread
    {
        // 每次消费的产品数量
        private int num;
    
        // 所在放置的仓库
        private Storage storage;
    
        // 构造函数,设置仓库
        public Consumer(Storage storage)
        {
            this.storage = storage;
        }
    
        // 线程run函数
        public void run()
        {
            consume(num);
        }
    
        // 调用仓库Storage的生产函数
        public void consume(int num)
        {
            storage.consume(num);
        }
    
        // get/set方法
        public int getNum()
        {
            return num;
        }
    
        public void setNum(int num)
        {
            this.num = num;
        }
    
        public Storage getStorage()
        {
            return storage;
        }
    
        public void setStorage(Storage storage)
        {
            this.storage = storage;
        }
    }
    /**
     * 测试类Test
     * 
     * Email:530025983@qq.com
     * 
     * @author MONKEY.D.MENG 2011-03-15
     * 
     */
    public class Test
    {
        public static void main(String[] args)
        {
            // 仓库对象
            Storage storage = new Storage();
    
            // 生产者对象
            Producer p1 = new Producer(storage);
            Producer p2 = new Producer(storage);
            Producer p3 = new Producer(storage);
            Producer p4 = new Producer(storage);
            Producer p5 = new Producer(storage);
            Producer p6 = new Producer(storage);
            Producer p7 = new Producer(storage);
    
            // 消费者对象
            Consumer c1 = new Consumer(storage);
            Consumer c2 = new Consumer(storage);
            Consumer c3 = new Consumer(storage);
    
            // 设置生产者产品生产数量
            p1.setNum(10);
            p2.setNum(10);
            p3.setNum(10);
            p4.setNum(10);
            p5.setNum(10);
            p6.setNum(10);
            p7.setNum(80);
    
            // 设置消费者产品消费数量
            c1.setNum(50);
            c2.setNum(20);
            c3.setNum(30);
    
            // 线程开始执行
            c1.start();
            c2.start();
            c3.start();
            p1.start();
            p2.start();
            p3.start();
            p4.start();
            p5.start();
            p6.start();
            p7.start();
        }
    }
    【要消费的产品数量】:50    【库存量】:0    暂时不能执行生产任务!
    【要消费的产品数量】:30    【库存量】:0    暂时不能执行生产任务!
    【要消费的产品数量】:20    【库存量】:0    暂时不能执行生产任务!
    【已经生产产品数】:10    【现仓储量为】:10
    【要消费的产品数量】:20    【库存量】:10    暂时不能执行生产任务!
    【要消费的产品数量】:30    【库存量】:10    暂时不能执行生产任务!
    【要消费的产品数量】:50    【库存量】:10    暂时不能执行生产任务!
    【已经生产产品数】:10    【现仓储量为】:20
    【要消费的产品数量】:50    【库存量】:20    暂时不能执行生产任务!
    【要消费的产品数量】:30    【库存量】:20    暂时不能执行生产任务!
    【已经消费产品数】:20    【现仓储量为】:0
    【已经生产产品数】:10    【现仓储量为】:10
    【已经生产产品数】:10    【现仓储量为】:20
    【已经生产产品数】:80    【现仓储量为】:100
    【要生产的产品数量】:10    【库存量】:100    暂时不能执行生产任务!
    【已经消费产品数】:30    【现仓储量为】:70
    【已经消费产品数】:50    【现仓储量为】:20
    【已经生产产品数】:10    【现仓储量为】:30
    【已经生产产品数】:10    【现仓储量为】:40

    看完上述代码,对wait() / notify()方法实现的同步有了了解。你可能会对Storage类中为什么要定义public void produce(int num);和public void consume(int num);方法感到不解,为什么不直接在生产者类Producer和消费者类Consumer中实现这两个方法,却要调用Storage类中的实现呢?淡定,后文会有解释。我们先往下走。

    二、await() / signal()方法

    在JDK5.0之后,Java提供了更加健壮的线程处理机制,包括同步、锁定、线程池等,它们可以实现更细粒度的线程控制。await()和signal()就是其中用来做同步的两种方法,它们的功能基本上和wait() / nofity()相同,完全可以取代它们,但是它们和新引入的锁定机制Lock直接挂钩,具有更大的灵活性。通过在Lock对象上调用newCondition()方法,将条件变量和一个锁对象进行绑定,进而控制并发程序访问竞争资源的安全。下面来看代码:

    import java.util.LinkedList;
    import java.util.concurrent.locks.Condition;
    import java.util.concurrent.locks.Lock;
    import java.util.concurrent.locks.ReentrantLock;
    
    /**
     * 仓库类Storage实现缓冲区
     * 
     * Email:530025983@qq.com
     * 
     * @author MONKEY.D.MENG 2011-03-15
     * 
     */
    public class Storage
    {
        // 仓库最大存储量
        private final int MAX_SIZE = 100;
    
        // 仓库存储的载体
        private LinkedList<Object> list = new LinkedList<Object>();
    
        //
        private final Lock lock = new ReentrantLock();
    
        // 仓库满的条件变量
        private final Condition full = lock.newCondition();
    
        // 仓库空的条件变量
        private final Condition empty = lock.newCondition();
    
        // 生产num个产品
        public void produce(int num)
        {
            // 获得锁
            lock.lock();
    
            // 如果仓库剩余容量不足
            while (list.size() + num > MAX_SIZE)
            {
                System.out.println("【要生产的产品数量】:" + num + "/t【库存量】:" + list.size()
                        + "/t暂时不能执行生产任务!");
                try
                {
                    // 由于条件不满足,生产阻塞
                    full.await();
                }
                catch (InterruptedException e)
                {
                    e.printStackTrace();
                }
            }
    
            // 生产条件满足情况下,生产num个产品
            for (int i = 1; i <= num; ++i)
            {
                list.add(new Object());
            }
    
            System.out.println("【已经生产产品数】:" + num + "/t【现仓储量为】:" + list.size());
    
            // 唤醒其他所有线程
            full.signalAll();
            empty.signalAll();
    
            // 释放锁
            lock.unlock();
        }
    
        // 消费num个产品
        public void consume(int num)
        {
            // 获得锁
            lock.lock();
    
            // 如果仓库存储量不足
            while (list.size() < num)
            {
                System.out.println("【要消费的产品数量】:" + num + "/t【库存量】:" + list.size()
                        + "/t暂时不能执行生产任务!");
                try
                {
                    // 由于条件不满足,消费阻塞
                    empty.await();
                }
                catch (InterruptedException e)
                {
                    e.printStackTrace();
                }
            }
    
            // 消费条件满足情况下,消费num个产品
            for (int i = 1; i <= num; ++i)
            {
                list.remove();
            }
    
            System.out.println("【已经消费产品数】:" + num + "/t【现仓储量为】:" + list.size());
    
            // 唤醒其他所有线程
            full.signalAll();
            empty.signalAll();
    
            // 释放锁
            lock.unlock();
        }
    
        // set/get方法
        public int getMAX_SIZE()
        {
            return MAX_SIZE;
        }
    
        public LinkedList<Object> getList()
        {
            return list;
        }
    
        public void setList(LinkedList<Object> list)
        {
            this.list = list;
        }
    }
    【要消费的产品数量】:50    【库存量】:0    暂时不能执行生产任务!
    【要消费的产品数量】:30    【库存量】:0    暂时不能执行生产任务!
    【已经生产产品数】:10    【现仓储量为】:10
    【已经生产产品数】:10    【现仓储量为】:20
    【要消费的产品数量】:50    【库存量】:20    暂时不能执行生产任务!
    【要消费的产品数量】:30    【库存量】:20    暂时不能执行生产任务!
    【已经生产产品数】:10    【现仓储量为】:30
    【要消费的产品数量】:50    【库存量】:30    暂时不能执行生产任务!
    【已经消费产品数】:20    【现仓储量为】:10
    【已经生产产品数】:10    【现仓储量为】:20
    【要消费的产品数量】:30    【库存量】:20    暂时不能执行生产任务!
    【已经生产产品数】:80    【现仓储量为】:100
    【要生产的产品数量】:10    【库存量】:100    暂时不能执行生产任务!
    【已经消费产品数】:50    【现仓储量为】:50
    【已经生产产品数】:10    【现仓储量为】:60
    【已经消费产品数】:30    【现仓储量为】:30
    【已经生产产品数】:10    【现仓储量为】:40

    只需要更新仓库类Storage的代码即可,生产者Producer、消费者Consumer、测试类Test的代码均不需要进行任何更改。这样我们就知道为神马我要在Storage类中定义public void produce(int num);和public void consume(int num);方法,并在生产者类Producer和消费者类Consumer中调用Storage类中的实现了吧。将可能发生的变化集中到一个类中,不影响原有的构架设计,同时无需修改其他业务层代码。无意之中,我们好像使用了某种设计模式,具体是啥我忘记了,啊哈哈,等我想起来再告诉大家~

    三、BlockingQueue阻塞队列方法

    BlockingQueue是JDK5.0的新增内容,它是一个已经在内部实现了同步的队列,实现方式采用的是我们第2种await() / signal()方法。它可以在生成对象时指定容量大小。它用于阻塞操作的是put()和take()方法。

    put()方法:类似于我们上面的生产者线程,容量达到最大时,自动阻塞。

    take()方法:类似于我们上面的消费者线程,容量为0时,自动阻塞。

    关于BlockingQueue的内容网上有很多,大家可以自己搜,我在这不多介绍。下面直接看代码,跟以往一样,我们只需要更改仓库类Storage的代码即可:

    import java.util.concurrent.LinkedBlockingQueue;
    
    /**
     * 仓库类Storage实现缓冲区
     * 
     * Email:530025983@qq.com
     * 
     * @author MONKEY.D.MENG 2011-03-15
     * 
     */
    public class Storage
    {
        // 仓库最大存储量
        private final int MAX_SIZE = 100;
    
        // 仓库存储的载体
        private LinkedBlockingQueue<Object> list = new LinkedBlockingQueue<Object>(
                100);
    
        // 生产num个产品
        public void produce(int num)
        {
            // 如果仓库剩余容量为0
            if (list.size() == MAX_SIZE)
            {
                System.out.println("【库存量】:" + MAX_SIZE + "/t暂时不能执行生产任务!");
            }
    
            // 生产条件满足情况下,生产num个产品
            for (int i = 1; i <= num; ++i)
            {
                try
                {
                    // 放入产品,自动阻塞
                    list.put(new Object());
                }
                catch (InterruptedException e)
                {
                    e.printStackTrace();
                }
    
                System.out.println("【现仓储量为】:" + list.size());
            }
        }
    
        // 消费num个产品
        public void consume(int num)
        {
            // 如果仓库存储量不足
            if (list.size() == 0)
            {
                System.out.println("【库存量】:0/t暂时不能执行生产任务!");
            }
    
            // 消费条件满足情况下,消费num个产品
            for (int i = 1; i <= num; ++i)
            {
                try
                {
                    // 消费产品,自动阻塞
                    list.take();
                }
                catch (InterruptedException e)
                {
                    e.printStackTrace();
                }
            }
    
            System.out.println("【现仓储量为】:" + list.size());
        }
    
        // set/get方法
        public LinkedBlockingQueue<Object> getList()
        {
            return list;
        }
    
        public void setList(LinkedBlockingQueue<Object> list)
        {
            this.list = list;
        }
    
        public int getMAX_SIZE()
        {
            return MAX_SIZE;
        }
    }
    【库存量】:0    暂时不能执行生产任务!
    【库存量】:0    暂时不能执行生产任务!
    【现仓储量为】:1
    【现仓储量为】:1
    【现仓储量为】:3
    【现仓储量为】:4
    【现仓储量为】:5
    【现仓储量为】:6
    【现仓储量为】:7
    【现仓储量为】:8
    【现仓储量为】:9
    【现仓储量为】:10
    【现仓储量为】:11
    【现仓储量为】:1
    【现仓储量为】:2
    【现仓储量为】:13
    【现仓储量为】:14
    【现仓储量为】:17
    【现仓储量为】:19
    【现仓储量为】:20
    【现仓储量为】:21
    【现仓储量为】:22
    【现仓储量为】:23
    【现仓储量为】:24
    【现仓储量为】:25
    【现仓储量为】:26
    【现仓储量为】:12
    【现仓储量为】:1
    【现仓储量为】:1
    【现仓储量为】:2
    【现仓储量为】:3
    【现仓储量为】:4
    【现仓储量为】:5
    【现仓储量为】:6
    【现仓储量为】:7
    【现仓储量为】:27
    【现仓储量为】:8
    【现仓储量为】:6
    【现仓储量为】:18
    【现仓储量为】:2
    【现仓储量为】:3
    【现仓储量为】:4
    【现仓储量为】:5
    【现仓储量为】:6
    【现仓储量为】:7
    【现仓储量为】:8
    【现仓储量为】:9
    【现仓储量为】:10
    【现仓储量为】:16
    【现仓储量为】:11
    【现仓储量为】:12
    【现仓储量为】:13
    【现仓储量为】:14
    【现仓储量为】:15
    【现仓储量为】:1
    【现仓储量为】:2
    【现仓储量为】:3
    【现仓储量为】:3
    【现仓储量为】:15
    【现仓储量为】:1
    【现仓储量为】:0
    【现仓储量为】:1
    【现仓储量为】:1
    【现仓储量为】:1
    【现仓储量为】:2
    【现仓储量为】:3
    【现仓储量为】:4
    【现仓储量为】:0
    【现仓储量为】:1
    【现仓储量为】:5
    【现仓储量为】:6
    【现仓储量为】:7
    【现仓储量为】:8
    【现仓储量为】:9
    【现仓储量为】:10
    【现仓储量为】:11
    【现仓储量为】:12
    【现仓储量为】:13
    【现仓储量为】:14
    【现仓储量为】:15
    【现仓储量为】:16
    【现仓储量为】:17
    【现仓储量为】:1
    【现仓储量为】:1
    【现仓储量为】:2
    【现仓储量为】:3
    【现仓储量为】:4
    【现仓储量为】:5
    【现仓储量为】:6
    【现仓储量为】:3
    【现仓储量为】:3
    【现仓储量为】:1
    【现仓储量为】:2
    【现仓储量为】:3
    【现仓储量为】:4
    【现仓储量为】:5
    【现仓储量为】:6
    【现仓储量为】:7
    【现仓储量为】:8
    【现仓储量为】:9
    【现仓储量为】:10
    【现仓储量为】:11
    【现仓储量为】:12
    【现仓储量为】:13
    【现仓储量为】:14
    【现仓储量为】:15
    【现仓储量为】:16
    【现仓储量为】:17
    【现仓储量为】:18
    【现仓储量为】:19
    【现仓储量为】:6
    【现仓储量为】:7
    【现仓储量为】:8
    【现仓储量为】:9
    【现仓储量为】:10
    【现仓储量为】:11
    【现仓储量为】:12
    【现仓储量为】:13
    【现仓储量为】:14
    【现仓储量为】:15
    【现仓储量为】:16
    【现仓储量为】:17
    【现仓储量为】:18
    【现仓储量为】:19
    【现仓储量为】:20
    【现仓储量为】:21
    【现仓储量为】:22
    【现仓储量为】:23
    【现仓储量为】:24
    【现仓储量为】:25
    【现仓储量为】:26
    【现仓储量为】:27
    【现仓储量为】:28
    【现仓储量为】:29
    【现仓储量为】:30
    【现仓储量为】:31
    【现仓储量为】:32
    【现仓储量为】:33
    【现仓储量为】:34
    【现仓储量为】:35
    【现仓储量为】:36
    【现仓储量为】:37
    【现仓储量为】:38
    【现仓储量为】:39
    【现仓储量为】:40

    当然,你会发现这时对于public void produce(int num);和public void consume(int num);方法业务逻辑上的实现跟前面两个例子不太一样,没关系,这个例子只是为了说明BlockingQueue阻塞队列的使用。

    有时使用BlockingQueue可能会出现put()和System.out.println()输出不匹配的情况,这是由于它们之间没有同步造成的。当缓冲区已满,生产者在put()操作时,put()内部调用了await()方法,放弃了线程的执行,然后消费者线程执行,调用take()方法,take()内部调用了signal()方法,通知生产者线程可以执行,致使在消费者的println()还没运行的情况下生产者的println()先被执行,所以有了输出不匹配的情况。

    对于BlockingQueue大家可以放心使用,这可不是它的问题,只是在它和别的对象之间的同步有问题。

    对于Java实现生产者/消费者问题的方法先总结到这里面吧,过几天实现一下C++版本的,接下来要马上着手于基于生产者/消费者模式的《异步工作流服务框架的设计与实现》,请持续关注本博客。

    转自:http://blog.csdn.net/monkey_d_meng/article/details/6251879

  • 相关阅读:
    数据挖掘-基本流程
    ArcGIS GP应用-GP模型服务发布
    ArcGIS GP应用-GP模型创建-缓冲区分析
    Hadoop2的Yarn和MapReduce2相关
    hadoop学习WordCount+Block+Split+Shuffle+Map+Reduce技术详解
    WordCount示例深度学习MapReduce过程
    数组的几种排序算法的实现
    hBase官方文档以及HBase基础操作封装类
    Hive SQL执行流程分析
    Hive SQL的编译过程
  • 原文地址:https://www.cnblogs.com/davidwang456/p/3705593.html
Copyright © 2011-2022 走看看