Java虚拟机在执行Java程序过程中会把它所管理的内存划分为若干个不同的数据区域。这些区域有自各的用途，以及创建及销毁时间，有的区域随着虚拟机进程的启动而存在，有些区域则是依赖用户线程的启动和结束而建立和销毁。根据《Java虚拟机规范(第2版)》规定，Java虚拟机管理的内存区域包括以下几个运行时数据区域，下如图
1.程序计数器(Program Counter Register)
程序计数器是一块较小的内存空间，它的作用可以看做是当前线程所执行的字节码的行号指示器。字节码解释器工作时就是通过改为这个计数器的值来选取下一条需要执行的字节码指令，分支、循环、跳转、异常处理、线程恢复等基础功能都需要依赖这个计数器来完成。
由于Java虚拟机的多线程是通过线程轮流切换CPU时间片的方式来实现的，所以在任何一个时刻，一个处理器(对于多核处理器来说是一个内核)只会行一条线程中的指令。因此为了线各切换后能够恢复到正确的执行位置，每条线程都需要一个独立的程序计数器，为线程所私有。
如果当前线程执行的是一个Java方法，这个计数器是下在执行的虚拟机字节码的地址；如果执行的是一个Native方法，这个计数器的值为空(UndefinedD)，计算器必须要能容纳方法的返回地址或者具体平台的本地指针。此区域是唯一一个在Java虚拟机器中没有规定任何OutOfMemoryError的区域。
2.Java虚拟机栈
与程序计数器一样，Java虚拟机栈(Java Virtual Machine Stacks)也是线程私有的，它的生命周期与线程相同。虚拟机栈描述的是Java方法执行的内存模型；每个方法被执行时都会在虚拟机栈中创建一个栈桢(Stack Frame)用于存储操作数栈、动态链接、局部变量表等信息。每一个方法被调用直至其执行完成就对象了一个栈桢在虚拟机栈中入栈与出栈的过程。
虚拟机规范中说明了，Java虚拟机栈可以被实现为固定大小，也可以实现为根据计算动态扩展与收缩。如果被实现为固定大小，那么它需要被独立创建。Java虚拟机实现可能被给程序员与用户提供控制Java虚拟机栈的初始大小，当然，如果是动态扩展与收缩的实现，还可以控制虚拟机栈的最大与最小大小。
虚拟机规范在这个区域规定了两种异常状况：如果线程请求栈深度超过虚拟机允许的深度，虚拟机将会抛出一个StackOverflowError错误；如果虚拟机栈可以动态扩展(当前大部分虚拟机都可以动态扩展，只不过Java虚拟机规范允许固定长度的虚拟机栈)，当扩展时无法申请到足够的内存或者在创建一条新的线程时没有足够的内存创建一个初始大小的虚拟机栈时，Java虚拟机将抛出OutOfMemoryError错误。
3.本地方法栈
本地方法栈(Native Method Stacks)与虚拟机栈的作用非常相似，其区别不过是虚拟机栈执行的是Java方法，而本
地方法栈执行的是Native方法。虚拟机规范中对本地方法栈中的方法使用的语言，使用方式与数据结构并没有强制规定
，具体的虚拟机可以自由实现它。甚至的有虚拟机(如Sun HotSpot)直接把本地方法栈与虚拟机栈合二为一。与虚拟机栈一样，本地方法栈区也会抛出StackOverflowError与OutOfMemoryError错误。
4. Java堆
对于大多数应用来说，Java堆(Java Heap)是Java虚拟机所管理的内在中最大的一块。Java堆是被所有线程共享的一块内在区域，在虚拟机启动时创建。此内存区域的唯一目的就是存放对象实例，几乎所有的对象实例都在这里分配内存。虚拟机规范中的描述是：所有类的实例与数组对象都要在堆中分配。
Java堆是垃圾收集器作用的主要区域，因此很多时候也被称为GC堆(Garbage Collected Heap)。如果从内存回收的角度看，由于现在的收集器基本都是采用分代收集算法，所以Java堆中还可以细分为：新生代和老年代；再细致一点，新生代还可为分为Eden空间、From Survivor空间、To Survivor空间。如果从内存分配的角度看，线程共享的Java堆中可能划分出多个线程私有的分配缓冲区(Thread
Local Allocation Buffer, TLAB)。不过无论如何划分，都与存放内容无关，无论哪个区域，存储的仍然是对象实例，进一步划分其目的只是为了更好的回收内存或者更快的分配内存。
根据Java虚拟机规范的规定，Java堆可以处于物理上不连续的内存空间，只要是逻辑上连续的即可。即可以实现成固定大小的，也可以实现成动态扩展与收缩的，不过当前主流的虚拟机都是可以进行动态扩展与收缩的(通过-Xmx与-Xms控制)。如果在堆中没有足够的内存完成实例分配，并且堆也无法再扩展时，将会抛出OutOfMemory错误。
5.方法区
方法区(Method Area)与Java堆一样，是各个线程共享的内存区域，它用于存储已被虚拟机加载的类信息、常量、静态变量、即时编译器编译后的代码等数据。在虚拟机启动的时候方法区被创建。
对于HotSpot虚拟机，方法区又被称为"永久代(Permanent Generation)"，本质上两者并不等价，仅仅是因为HotSpot虚拟机把GC分代收集扩展到了方法区，或者说永久来实现方法区而已。对于其它虚拟机(如BEA JRockit, IMB J9)来说是不存在永久代的概念的，就是HotSpot现在也有放弃永久代并"搬家"至Native Memory来实现方法区的规划了(在JDK8中已经去除了永久代，JDK7中就开始将一些原本存储在方法区中的数据移至Java堆中)。
与Java堆一样，方法区不需要连续的内存和可以选择固定大小与可扩展收缩外，还可以选择不实现垃圾收集，因为方法区的垃圾收集效果不理想。当方法区无法满足内在分配要求时，将抛出OutOfMemory异常。
6.运行时常量时
运行时常量池(Runtime Contant Pool)是方法区的一部分。class方法中除了有类的版本、字段、方法、接口等描述信息外，还有一项信息是常量表(Constant Pool Table)，用于存储编译期生成的各种字面量和符号引用，这部分内容将在类加载后存放到方法区的运行时常量池中。
运行时常量池相对于class文件常量池的一个重要特征就是具备动态性，Java语言并不要求常量一定只能在编译期产生，也就是并非预置入class方法中的常量池中的内容才能进入到方法区的运行时常量池，程序运行期间也可以将新的常量放入常量池中，例如String类的intern()方法。
运行时常量时是方法区的一部分，自然也会受到方法区内存大小的限制，当常量池无法再申请到内存时会抛出OutOfMemory异常。
7.直接内存
直接内存(Direct Memory)并不是虚拟机运行时数据区的一部分，也不是Java虚拟机规范中定义的内存区域，但是这部分内存也被频繁地使用，而且也可能导致OutOfMemoryError错误出现。垃圾进行收集时，虚拟机虽然会对直接内存进行回收，但却不能像新生代与老年代那样，发现空间不足了就通知收集器进行垃圾回收，它只能等到老年代满了后FullGC时，然后"顺便"清理掉直接内存中废弃的对象。
在JDK1.4中新加入了NIO，引入了一种基于通道(Channel)与缓冲区(Buffer)的I/O方法，它可以使用Native函数库直接分配堆外内存，然后通过一个存储在Java堆里面的DirectByteBuffer对象作为这块内存的引用进行操作。这样能在一些场景中显著提高性能，因为避免了在Java堆和Native堆中来回复制数据。