前面已经介绍硬件平台Cache Coherence问题和解决办法,下面来看看Java虚拟机平台的相关知识。硬件平台处理器,高速缓存,主存之间的交互关系如下:
Java内存模型(JMM)
Java虚拟机规范中试图定义一种Java内存模型(Java Memory Model, JMM)来屏蔽掉底层各种硬件和操作系统的内存访问差异,以实现让Java程序在各种平台下都能达到一致的内存访问效果。
- 主内存和工作内存
Java内存模型的主要目标是定义程序中各个变量的访问规则,即在虚拟机中将变量存储到内存和从内存中取出变量这些的底层细节。此处的变量与Java编程中所说的变量有所区别,它包括了实例字段,静态字段和构成数组对象的元素,但不包括局部变量与方法参数,因为后者是线程私有的,不会被共享,自然也就不存在竞争问题。为了获得较好的执行效能,Java内存模型并没有限制执行引擎使用处理器的特定寄存器或者缓存来和主存进行交互,也没有限制及时编译器进行调整代码执行顺序之类的优化措施。
Java内存模型规定了所有的变量都存储在主存中。每条线程还有自己的工作内存,线程的工作内存中保存了被该线程使用到的变量的主存副本的copy.线程对变量的所有操作(读取,赋值等)都必须在工作内存中进行,而不能直接读写主存中的变量。不同的线程之间也无法直接访问对方工作内存中的变量,线程间变量值的传递均需要通过主存来完成,线程,主存,工作内存三者的交互关系如下:
- 内存间交互操作
关于主存和工作内存之间具体的交互协议,即一个变量如何从主存拷贝到工作内存,如何从工作内存同步到主存之类的实现细节,Java内存模型中定义了一下8种操作完成,虚拟机实现时必须保证下面提及的每一种操作都是原子的,不可再分的(对于double和long类型的变量来说,load, store, read和write操作在某些平台下允许例外)
- lock(锁定) : 作用于主存的变量,它把一个变量标识为一条线程独占的状态。
- unlock(解锁) : 作用于主存的变量, 它把一个处于锁定状态的变量释放出来,释放后的变量才可以被其他线程锁定。
- read(读取) : 作用于主存的变量, 它把一个变量的值从主存传输到线程的工作内存中,以便后续的load动作使用。
- load(载入) : 作用于工作内存的变量,它把read操作从主存中得到的变量值放入工作内存的变量副本中。
- use(使用) : 作用于工作内存的变量,它把工作内存中一个变量的值传递给执行引擎,每当虚拟机遇到一个需要使用到变量的值的字节码指令时就会执行这个操作。
- assign(赋值) : 作用于工作内存的变量,它把一个从执行引擎接收到的值赋给工作内存的变量,每当虚拟机遇到一个给变量赋值的字节码指令时就会执行该操作。
- store(存储) : 作用与工作内存的变量,它把工作内存中一个变量的值传递给主内存中,以便随后的write操作使用。
- write(写入) : 作用于主存的变量,它把store操作从工作内存中得到的变量放人主存的变量中。
如果要把一个变量从主存赋值到工作内存,那就要顺序执行read和load操作,如果要把变量从工作内存同步到主存中,就要顺序的执行store和write操作。主要,Java内存模型只要求上述两个操作必须按顺序执行,而没有保证连续执行。也就是说,read和load操作之间,store和write操作之间是可以插入其他指令的,如主存中的变量a,b进行访问时,一种可能出现的顺序是read a, read b,l oad b, load a。除此之外,Java内存模型还规定了在执行上述8中基本操作时必须满足如下规则:
- 不允许read和load, store和write操作之一单独出现, 既不允许一个变量从主存读取了但工作内存不接受,或者从工作内存发起回写了但主存不接受的情况出现。
- 不允许一个线程丢弃它最近的assign操作,即变量在工作内存中改变了之后必须把该变化同步到主存中。
- 不允许一个线程无原因的(没有发生过任何assign操作)把数据从线程的工作内存同步回主存中。
- 一个新的变量只能在主存中"诞生",不允许在工作内存中直接使用一个未被初始化(load或assign)的变量,换句话说,就是对一个变量实施use,store操作之前,必须先执行过了assign和load操作。
- 一个变量在同一个时刻只允许被一条线程对其进行lock操作,但lock操作可以被同一条线程重复执行多次,多次执行lock后,只有执行相同次数的unclock操作,变量才会被解锁。
- 如果对一个变量执行lock操作,那将会清空工作内存中此变量的值,在执行引擎使用这个变量前,需要重新执行load或assign操作初始化变量的值。
- 如果一个变量事先没有被lock操作锁定,那么就不允许对它执行unlock操作,也不允许去unlock一个被其他线程lock住的变量。
- 对一个变量执行unlock操作之前,必须先把此变量同步回主存中(执行store, write操作)。
这八种内存访问操作以及上述规则限定,再加上稍后介绍的对volatile的一些特殊规定,就已经完全确定Java程序中哪些内存访问操作在并发下是安全的。
Volatile关键字
关键字volatile可以说是Java虚拟机提供的最轻量级的同步机制。当一个变量定义为volatile后,他将具备两种特性
1:保证此变量对所有线程的可见性,这里的"可见性"是指当一条线程修改了这个变量的值,新值对于其他线程来说是立即得知的。而普通变量不能做到这一点,普通变量的值在线程间传递均需要通过主存来完成,例如:
线程A修改一个普通变量的值,然后向主存进行回写,另外一条线程B在线程A回写完成之后再从主存进行读取操作,新变量值才会对线程B可见。
由于volatile变量只能保证可见性,在不符合一下条规则的运算场景中,我们任然要通过加锁(使用synchronized,reetrantlock或者java.util.comcurrent.atomic.*)来保证原子性。
- 运算结果并不依赖变量的当前值(i++)。
- 变量不需要和其他的状态变量共同参与不变性约束。
2:使用volatile变量的第二个语义是禁止指令重排序优化。(具体指令重排序请见上篇)
最后来看看Java内存模型中对volatile变量定义的特殊规则。假如T表示一个线程,V和W分别表示两个volatile型变量,那么在进行read, load, use, assgin, store, write操作时需要满足如下规则:
- 只有当线程T对变量V执行的前一个动作是load操作,线程T才能对变量V执行use操作动作;并且,只有当线程T对变量V执行的后一个动作是use的时候,线程T才对变量V执行load操作。线程T变量V的use动作可以认为是和线程T对变量V的load. read动作相关联,必须连续一起出现(这条规则要求在工作内存中,每次使用V前都必须先从主存中刷新最新的值, 用于保证能看见其他线程对变量V所做的修改后的值)。
- 只有当线程T对变量V执行的前一动作是assign的时候,线程T才能对变量V执行store动作;并且,只有当线程T对变量V执行的后一个动作为store的时候,线程T才能对变量V执行assign操作。线程T对变量V的assign操作可以认为是和线程T对变量V的store, write操作相关联, 必须连续在一起出现(这条规则要求在工作内存中,每次修改V后都必须立刻同步到主存中,用于保证其他线程可以看到自己对变量V所做的修改)。
- 假定动作A是线程T对变量V实施的use或assgin操作, 假定动作F是和动作A相关联的load或者store操作, 假定动作P是和动作F相应的对变量V的read, write操作;类似的,假定动作B是线程T对变量W实施的use或者assign操作,假定动作G是和动作B相关联的Load和store操作, 假定动作Q是和动作G相应的对变量W的read和write操作。 如果A先于B, 那么P先于Q(这条规则要求volatile修饰的变量不会被指令重排序优化,保证代码的执行顺序与程序的顺序相同)
原子性,可见性,有序性
Java内存模型是围绕着在并发过程中如何处理原子性,可见性和有序性这三个特征建立的:
- 原子性: 由Java内存模型来直接保证的原子性变量操作包括read, load, use , assgin , write,我们大致可以认为基本数据类型的访问读写是具备原子性的(long, double的非原子性协定)。如果应用场景需要一个范围更大的原子性保证(经常会遇到),Java内存模型还提供了lock和unlock操作来满足这种需求,经管虚拟机未把lock和unlock操作直接开放给用户使用,但是却提供了更高层次的字节码指令monitorenter和moniterexit来隐式的使用这两个操作,这两个字节码指令反应到Java代码中就是同步块-synchronized关键字,因此在synchronized块之间的操作也具备原子性。
- 可见性: 可见性是当一个线程修改了共享变量的值, 其他线程能够立刻得知这个修改。上面的volatile已经说明,Java内存模型是通过在变量修改后将新值同步回主存,在变量读取前从主存刷新变量值这种依赖主存作为传递媒介的方式来实现可见性,无论是普通变量还是volatile变量都是如此,普通变量与volatile变量的区别是,volatile的特殊性保证了新值能够立刻同步到主存中,以及每次使用变量前立刻从主存刷新。除了volatile之外,Java还有两个关键字能够实现可见性,即synchronized和final。 同步块的可见性是由"对一个变量执行unlock操作之前,必须先把此变量同步回主存中(执行store ,write操作)"。final关键字的可见性是指,被final修饰的字段在构造器中一旦初始化完成,并且构造器没有把this的引用传递出去(this引用逃逸是一件很危险的事情,其他线程有可能通过这个引用访问到"初始化了一半的"对象),那么在其他线程中就能看见final字段的值。
- 有序性: Java内存模型的有序性在前面谈volatile时说过,Java程序中天然的有序性可以总结为一句话,如果在本线程内观察,所有的操作都是有序的;如果在一个线程中观察另一个线程,所有的操作都是无序的。前半句是指"线程内表现为串行的语义",后半句是指"指令重排序"现象和"工作内存和主存同步延迟"现象。
happen-before
Java内存模型下一些”天然的“先行发生关系,无序任何同步器协助就已经存在了,如下:
- 程序次序规则: 在一个线程内,按照程序代码顺序,书写在前面的操作先行发生于书写在后面的操作。
- 管程锁定规则: 一个unlock操作先行发生于后面对同一个锁的lock操作。
- volatile变量规则 :对一个volatile变量的写操作先行发生于后面对该变量的读操作。
- 线程启动规则: Thread对象的start()方法先行发生于此线程的每一个动作(即run()中的操作)。
- 线程终止规则: 线程中的所有操作都先行发生于对此线程的终止检查。我们可以通过Thread.join()方法结束,Thread.isAlive()返回值等手段检查到线程已经终止执行。
- 线程中断规则: 对线程interrupt()方法的调用先行发生于对此线程被中断线程的代码检测到中断事件的发生,可以通过Thread.interrupted(),Thread.isInterrupted()方法来检查到是否发生中断事件。
- 对象终结规则: 一个对象的初始化完成(构造函数执行完毕)先行发生于他的finalize()方法的开始。
- 传递性 : 如果操作A先行发生于操作B,操作B先行发生于C, 那么就可以得到A先行发生于操作C。
线程安全:
Java Concurrency in Practic: 当多个线程访问同一类时,如果不要考虑这些线程在运行时环境下的调度和交替运行,并且不需要额外的同步及调用方代码不必做其他的协调,这个类的行为任然是正确的,那么这个类就是线程安全的。
显然只有资源竞争时才会导致线程不安全,因此无状态对象永远是线程安全的。
原子操作:多个线程执行一个操作时,其中任何一个线程要么完全执行完该操作,要么没有执行此操作的任何步骤,那么这个操作就是原子的。