zoukankan      html  css  js  c++  java
  • 3、实战:OutOfMemoryError异常

    • 目的:第一,通过代码验证Java虚拟机规范中描述的各个运行时区域存储的内容;第二,工作中遇到实际的内存溢出异常时,能根据异常的信息快速判断是哪个区域的内存溢出,知道什么样的代码可能会导致这些区域内存溢出,以及出现这些异常后该如何处理。

    1、Java堆溢出

    • Java堆用于存储对象实例,只要不断地创建对象,并且保证GC Roots到对象之间有可达路径来避免垃圾回收机制清除这些对象,那么在对象数量到达最大堆的容量限制后就会产生内存溢出异常。
    • 下面代码中,限制Java堆的大小为20MB,不可扩展(将堆的最小值-Xms参数与最大值-Xmx参数设置为一样即可避免堆自动扩展),通过参数-XX:+HeapDumpOnOutOfMemoryError可以让虚拟机在出现内存溢出异常时Dump出当前的内存堆转储快照以便事后进行分析。
    // VM Args: -Xms20m -Xmx20m -XX:+HeapDumpOnOutOfMemoryError
    public class HeapOOM {
        static class OOMObject {
        }
        public static void main(String[] args) {
            List<OOMObject> list = new ArrayList<OOMObject>();
            while (true) {
                list.add(new OOMObject());
            }
        }
    }
    
    • 运行结果
    java.lang.OutOfMemoryError: Java heap space
    Dumping heap to java_pid3404.hprof ...
    Heap dump file created [22045981 bytes in 0.663 secs]
    
    • 当出现Java堆内存溢出时,异常堆栈信息“java.lang.OutOfMemoryError”会跟着进一步提示“Java heap space”。
    • 要解决这个区域的异常,一般的手段是先通过内存映像分析工具(如Eclipse Memory Analyzer)对Dump出来的堆转储快照进行分析,重点是确认内存中的对象是否是必要的,也就是要先分清楚到底是出现了内存泄漏(Memory Leak)还是内存溢出(Memory Overflow)。
    • 如果是内存泄漏,可进一步通过工具查看泄漏对象到GC Roots的引用链。于是就能找到泄漏对象是通过怎样的路径与GC Roots相关联并导致垃圾收集器无法自动回收它们的。掌握了泄漏对象的类型信息及GC Roots引用链的信息,就可以比较准确地定位出泄漏代码的位置。
    • 如果不存在泄漏,换句话说,就是内存中的对象确实都还必须存活着,那就应当检查虚拟机的堆参数(-Xms与-Xmx),与机器物理内存对比看是否还可以调大,从代码上检查是否存在某些对象生命周期过长、持有状态时间过长的情况,尝试减少程序运行期的内存消耗。

    2、虚拟机栈和本地方法栈溢出

    • 由于在HotSpot虚拟机中并不区分虚拟机栈和本地方法栈,因此,对于HotSpot来说,虽然-Xoss参数(设置本地方法栈大小)存在,但实际上是无效的,栈容量只由-Xss参数设定。
    • 关于虚拟机栈和本地方法栈,在Java虚拟机规范中描述了两种异常:
      • 如果线程请求的栈深度大于虚拟机所允许的最大深度,将抛出StackOverflowError异常。
      • 如果虚拟机在扩展栈时无法申请到足够的内存空间,则抛出OutOfMemoryError异常。
    • 存在一些互相重叠的地方:
      • 当栈空间无法继续分配时,到底是内存太小,还是已使用的栈空间太大,其本质上只是对同一件事情的两种描述而已。
    • 将实验范围限制于单线程中的操作,尝试了下面两种方法均无法让虚拟机产生OutOfMemoryError异常,尝试的结果都是获得StackOverflowError异常,测试代码如下:
      • 使用-Xss参数减少栈内存容量。结果:抛出StackOverflowError异常,异常出现时输出的堆栈深度相应缩小。
      • 定义了大量的本地变量,增大此方法帧中本地变量表的长度。结果:抛出StackOverflowError异常时输出的堆栈深度相应缩小。
    // VM Args:-Xss128k
    public class JavaVMStackSOF {
        private int stackLength = 1;
        public void stackLeak() {
            stackLength++;
            stackLeak();
        }
        public static void main(String[] args) throws Throwable {
            JavaVMStackSOF oom = new JavaVMStackSOF();
            try {
                oom.stackLeak();
            } catch (Throwable e) {
                System.out.println("stack length:" + oom.stackLeanth);
                throw e;
            }
        }
    }
    
    • 运行结果:
    stack length:2402
    Exception in thread "main" java.lang.StackOverflowError
        at org.fenixsoft.oom.VMStackSOF.leak(VMStackSOF.java:20)
        at org.fenixsoft.oom.VMStackSOF.leak(VMStackSOF.java:21)
        at org.fenixsoft.oom.VMStackSOF.leak(VMStackSOF.java:22)
    
    • 实验结果表明:在单个线程下,无论是由于栈帧太大还是虚拟机栈容量太小,当内存无法分配的时候,虚拟机抛出的都是StackOverflowError异常。
    • 如果测试时不限于单线程,通过不断地建立线程的方式倒是可以产生内存溢出异常。但是这样产生的内存溢出异常与栈空间是否足够大并不存在任何联系,或者准确地说,在这种情况下,为每个线程的栈分配的内存越大,反而越容易产生内存溢出异常。
    • 操作系统分配给每个进程的内存是有限制的,譬如32位的Windows限制为2GB。
    • 虚拟机提供了参数来控制Java堆和方法区的这两部分内存的最大值。
    • 剩余的内存为2GB(操作系统限制)减去Xmx(最大堆容量),再减去MaxPermSize(最大方法区容量),程序计数器消耗内存很小,可以忽略掉。
    • 如果虚拟机进程本身耗费的内存计算在内,剩下的内存就由虚拟机栈和本地方法栈“瓜分”了。
    • 每个线程分配到栈容量越大,可以建立的线程数量自然就越少,建立线程时就越容易把剩下的内存耗尽。
    • 如果是建立过多线程导致的内存溢出,在不能减少线程数或者更换64位虚拟机的情况下,就只能通过减少最大堆和减少栈容量来换取更多的线程。
    • 创建线程导致内存溢出异常:
    // VM Args:-Xss2M
    public class JavaVMStackOOM {
        private void dontStop() {
             while (true) {
            }
        }
        public void stackLeakByThread() {
            while (true) {
                Thread thread = new Thread(new Runnable(){
                   @Override
                    public void run() {
                            dontStop;
                    } 
                });
                thread.start();
            }
        }
        public static void main(String[] args) {
                JavaVMStackOOM oom = new JavaVMStackOOM();
                oom.stackLeakByThread();
        }
    }
    
    • 注:由于在Windows平台的虚拟机中,Java的线程是映射到操作系统的内核线程上的,因此上述代码执行时有较大的风险,可能会导致操作系统假死。
    • 运行结果:
    Exception in thread "main" java.lang.OutOfMemoryError: unable to create new native thread
    

    3、方法区和运行时常量池溢出

    • String.intern()是一个Native方法,它的作用是:如果字符串常量池中已经包含一个等于此String对象的字符串,则返回代表池中这个字符串的String对象;否则,将此String对象包含的字符串添加到常量池中,并且返回此String对象的引用。
    • 由于常量池分配在永久代内,可以通过-XX:PermSize和-XX:MaxPermSize限制方法区大小,从而间接限制其中常量池的容量。
    • 运行时常量池导致的内存溢出异常:
    // VM Args: -XX:PermSize=10M -XX:MaxPermSize=10M
    public class RuntimeConstantPoolOOM {
        public static void main(String[] args) {
            // 使用List保持着常量池引用,避免Full GC回收常量池行为
            List<String> list = new ArrayList<String>();
            // 10MB的PermSize在integer范围内足够产生OOM了
            int i = 0;
            while (true) {
                list.add(String.valueOf(i++).intern());
            }
        }
    }
    
    • 运行结果:
    Exception in thread "main" java.lang.OutOfMemoryError: PermGen space
        at java.lang.String.intern(Native Method)
        at org.fenixsoft.oom.RuntimeConstantPoolOOM.main(RuntimeConstantPoolOOM.java:18)
    
    • 从运行结果中可以看到,运行时常量池溢出,在OutOfMemoryError后面跟随的提示信息是“PermGen space”,说明运行时常量池属于方法区(HotSpot虚拟机中的永久代)的一部分。
    • String.intern()返回引用的测试:
    public class RuntimeConstantPoolOOM {
        public static void main(String[] args) {
            String str1 = new StringBuilder("计算机").append("软件").toString();
            System.out.println(str1.intern() == str1);
    
            String str2 = new StringBuilder("ja").append("va").toString();
            System.out.println(str2.intern() == str2);
        }
    }
    
    • 这段代码在JDK1.6中运行,会得到两个false,而在JDK1.7中运行,会得到一个true和一个false。JDK1.8也是一个true和false。

    • 产生差异的原因:在JDK1.6中,intern()方法会把首次遇到的字符串实例复制到永久代中,返回的也是永久代中这个字符串实例的引用,而由StringBulder创建的字符串实例在Java堆上,所以必然不是同一个引用。

    • 而JDK1.7的intern()实现不会再复制实例,只是在常量池中记录首次出现的实例引用,因此intern()返回的引用和由StringBuilder创建的那个字符串实例是同一个。

    • 对str2比较返回false是因为“java”这个字符串在执行StringBuilder.toString()之前已经出现过,字符串常量池中已经有它的引用了,不符合“首次出现”的原则。

    • 方法区用于存放Class的相关信息,如类名、访问修饰符、常量池、字段描述、方法描述等。

    • 对于这些区域的测试,基本思路是运行时产生大量的类去填满方法区,直到溢出。

    • 借助CGLib直接操作字节码运行时生成了大量的动态类。

    • 当前的很多主流框架,如Spring、Hiberate,在对类进行增强时,都会使用到CGLib这类字节码技术,增强的类越多,就需要越大的方法区来保证动态生成的Class可以加载入内存。

    • 借助CGLib使方法区出现内存溢出异常:

    // VM Args: -XX:PermSize=10M -XX:MaxPermSize=10M
    public class JavaMethodAreaOOM {
        public static void main(String[] args) {
            while (true) {
                Enhancer enhancer = new Enhancer();
                enhancer.setSuperclass(OOMObject.class);
                enhancer.setUseCache(false);
                enhancer.setCallback(new MethodInterceptor() {
                        public Object intercept(Object obj, Method method, Object[] args, MethodProxy proxy) throws Throwable {
                            return proxy.invokeSuper(obj, args);
                        }
                });
                enhancer.create();
            }
        }
        static class OOMObject {
        }
    }
    
    • 运行结果:
    Caused by: java.lang.OutOfMemoryError: PermGen space
    
    • 除了上面提到的程序使用CGLib字节码增强和动态语言之外,常见的还有:大量JSP或动态产生JSP文件的应用(JSP第一次运行时需要编译为Java类)、基于OSGi的应用(即使是同一个类文件,被不同的加载器加载也会视为不同的类)等。

    4、本机直接内存溢出

    • DirectMemory容量可通过-XX: MaxDirectMemorySize指定,如果不指定,则默认与Java堆最大值(-Xmx指定)一样。
    • 下面代码越过了DirectByteBuffer类,直接通过反射获取Unsafe实例进行内存分配(Unsafe类的getUnsafe()方法限制了只有引导类加载器才会返回实例,也就是设计者希望只有rt.jar中的类才能使用Unsafe的功能)。
    • 使用unsafe分配本机内存:
    // VM Args: -Xmx20M -XX:MaxDirectMemorySize=10M
    public class DirectMemoryOOM {
        private static final int _1MB = 1024 * 1024;
        
        public static void main(String[] args) throws Exception {
            Field unsafeField = Unsafe.class.getDeclaredFields()[0];
            unsafeField.setAccessible(true);
            Unsafe unsafe = (Unsafe) unsafeField.get(null);
            while (true) {
                unsafe.allocateMemory(_1MB);
            }
        }
    }
    
    • 运行结果:
    Exception in thread "main" java.lang.OutOfMemoryError
    
    • 由DirectMemory导致的内存溢出,一个明显的特征是在Heap Dump文件中不会看见明显的异常,如果读者发现OOM之后Dump文件很小,而程序中又直接或间接使用了NIO,可以考虑检查一下这方面的原因。
  • 相关阅读:
    Python Cookbook(第3版)中文版:15.20 处理C语言中的可迭代对象
    Python Cookbook(第3版)中文版:15.21 诊断分段错误
    Theano环境搭建/安装
    Keras官方中文文档:keras后端Backend
    Keras官方中文文档:函数式模型API
    Keras官方中文文档:序贯模型API
    Keras官方中文文档:关于Keras模型
    Keras官方中文文档:序贯模型
    web服务器原理
    静态网页与动态网页区别
  • 原文地址:https://www.cnblogs.com/sanjun/p/9825553.html
Copyright © 2011-2022 走看看