我们知道程序在磁盘上的时候是静态的，当他被加载到内存的时候，就变成了一个动态的，称为进程，如下图是程序被加载到内存后，在内存中的分布情况如下
此图来自http://blog.csdn.net/woshinia/article/details/41722085 具体每段的作用可以参考这篇文章，这里我们只要大概了解一下，在程序被加载到内存后，会被分为代码段，数据段，堆段和栈段。其中代码段就是存放数据，数据段存放一些全局和静态数据，堆段存放的动态创建的内存对象，而栈段则是线程栈运行的区域。
Java虚拟机（Java Virtual Machine 简称JVM）是运行所有Java程序的抽象计算机，是Java语言的运行环境。这是官方对他的解释， Java虚拟机可以运行Java程序，这里Java虚拟机也是程序， 所以当他被加载到内存后也具有上述的特征， 在代码段存放JVM的代码， 在数据区存放JVM的数据， 堆和栈也是JVM在使用。
在一些介绍Java程序的博客中， 我们通常可以看到一些介绍Java内存分布式的情况，比如这篇文章http://www.cnblogs.com/gw811/archive/2012/10/18/2730117.html 里面也介绍了Java的堆和栈，
那这里的堆和栈和JVM的堆和栈有什么区别呢，这里引入一张图片，如下(图片来源于http://www.importnew.com/14486.html)
这张图表达了两个堆栈的区别，上面是操作系统内一个普通进程的内存分布情况，可以看到其分布情况和我们刚才描述的差不多，同时JVM也是一个普通的进程，所以代码段和数据段存放的也是JVM的代码和数据，主要区分在堆和栈。先说堆，首先是永久代，永久代本质上是Java程序的代码区和数据区。Java程序中类（class），会被加载到整个区域的不同数据结构中去，包括常量池、域、方法数据、方法体、构造函数、以及类中的专用方法、实例初始化、接口初始化等。这个区域对于操作系统来说，是堆的一个部分；而对于Java程序来说，这是容纳程序本身及静态资源的空间，使得JVM能够解释执行Java程序。其次是新生代和老年代。新生代和老年代才是Java程序真正使用的堆空间，主要用于内存对象的存储；但是其管理方式和普通进程有本质的区别，普通的程序是需要动态申请的，而JVM则是一次性申请，然后在逐次分配给Java程序，所以从效率上来说会优于普通程序。
我们从上面的描述可以看出，JVM是在自己的堆里又模拟了一个“进程”出来，这个“进程”中有代码区、数据区、和“堆”。 这里我们也就可以理解为什么我们可以为运行的虚拟机设置内存大小，我们可以在程序启动的时候通过-Xms，-Xmx等参数来设置堆的大小，其本质还是由JVM控制在JVM的堆区通过malloc来分配指定内存给Java程序使用。
当然上图也仅仅是一个简化的模型，JVM的内存分配要比上面的复杂，如果按照上图的分配，那程序将会相当的慢，JVM本身做了大量的优化来提升性能，比如提前申请内存。 在.net中， CLR会根据不同的CPU类型编译优化为不同的本地代码， 第二次运行的时候直接运行本地代码。