J.U.C JMM. pipeline.指令重排序,happen-before(续)

前面已经介绍硬件平台Cache Coherence问题和解决办法,下面来看看Java虚拟机平台的相关知识。硬件平台处理器,高速缓存,主存之间的交互关系如下:

Java内存模型(JMM)

       Java虚拟机规范中试图定义一种Java内存模型(Java Memory Model, JMM)来屏蔽掉底层各种硬件和操作系统的内存访问差异,以实现让Java程序在各种平台下都能达到一致的内存访问效果。

  • 主内存和工作内存

      Java内存模型的主要目标是定义程序中各个变量的访问规则,即在虚拟机中将变量存储到内存和从内存中取出变量这些的底层细节。此处的变量与Java编程中所说的变量有所区别,它包括了实例字段,静态字段和构成数组对象的元素,但不包括局部变量与方法参数,因为后者是线程私有的,不会被共享,自然也就不存在竞争问题。为了获得较好的执行效能,Java内存模型并没有限制执行引擎使用处理器的特定寄存器或者缓存来和主存进行交互,也没有限制及时编译器进行调整代码执行顺序之类的优化措施。

Java内存模型规定了所有的变量都存储在主存中。每条线程还有自己的工作内存,线程的工作内存中保存了被该线程使用到的变量的主存副本的copy.线程对变量的所有操作(读取,赋值等)都必须在工作内存中进行,而不能直接读写主存中的变量。不同的线程之间也无法直接访问对方工作内存中的变量,线程间变量值的传递均需要通过主存来完成,线程,主存,工作内存三者的交互关系如下:

  • 内存间交互操作

关于主存和工作内存之间具体的交互协议,即一个变量如何从主存拷贝到工作内存,如何从工作内存同步到主存之类的实现细节,Java内存模型中定义了一下8种操作完成,虚拟机实现时必须保证下面提及的每一种操作都是原子的,不可再分的(对于double和long类型的变量来说,load, store, read和write操作在某些平台下允许例外)

  1. lock(锁定)     : 作用于主存的变量,它把一个变量标识为一条线程独占的状态。
  2. unlock(解锁) : 作用于主存的变量, 它把一个处于锁定状态的变量释放出来,释放后的变量才可以被其他线程锁定。
  3. read(读取)    : 作用于主存的变量, 它把一个变量的值从主存传输到线程的工作内存中,以便后续的load动作使用。
  4. load(载入)    :  作用于工作内存的变量,它把read操作从主存中得到的变量值放入工作内存的变量副本中。
  5. use(使用)     :  作用于工作内存的变量,它把工作内存中一个变量的值传递给执行引擎,每当虚拟机遇到一个需要使用到变量的值的字节码指令时就会执行这个操作。
  6. assign(赋值) :  作用于工作内存的变量,它把一个从执行引擎接收到的值赋给工作内存的变量,每当虚拟机遇到一个给变量赋值的字节码指令时就会执行该操作。
  7. store(存储)   :  作用与工作内存的变量,它把工作内存中一个变量的值传递给主内存中,以便随后的write操作使用。
  8. write(写入)   : 作用于主存的变量,它把store操作从工作内存中得到的变量放人主存的变量中。

如果要把一个变量从主存赋值到工作内存,那就要顺序执行read和load操作,如果要把变量从工作内存同步到主存中,就要顺序的执行store和write操作。主要,Java内存模型只要求上述两个操作必须按顺序执行,而没有保证连续执行。也就是说,read和load操作之间,store和write操作之间是可以插入其他指令的,如主存中的变量a,b进行访问时,一种可能出现的顺序是read a, read b,l oad b, load a。除此之外,Java内存模型还规定了在执行上述8中基本操作时必须满足如下规则:

  • 不允许read和load, store和write操作之一单独出现, 既不允许一个变量从主存读取了但工作内存不接受,或者从工作内存发起回写了但主存不接受的情况出现。
  • 不允许一个线程丢弃它最近的assign操作,即变量在工作内存中改变了之后必须把该变化同步到主存中。
  • 不允许一个线程无原因的(没有发生过任何assign操作)把数据从线程的工作内存同步回主存中。
  • 一个新的变量只能在主存中"诞生",不允许在工作内存中直接使用一个未被初始化(load或assign)的变量,换句话说,就是对一个变量实施use,store操作之前,必须先执行过了assign和load操作。
  • 一个变量在同一个时刻只允许被一条线程对其进行lock操作,但lock操作可以被同一条线程重复执行多次,多次执行lock后,只有执行相同次数的unclock操作,变量才会被解锁。
  • 如果对一个变量执行lock操作,那将会清空工作内存中此变量的值,在执行引擎使用这个变量前,需要重新执行load或assign操作初始化变量的值。
  • 如果一个变量事先没有被lock操作锁定,那么就不允许对它执行unlock操作,也不允许去unlock一个被其他线程lock住的变量。
  • 对一个变量执行unlock操作之前,必须先把此变量同步回主存中(执行store, write操作)。

这八种内存访问操作以及上述规则限定,再加上稍后介绍的对volatile的一些特殊规定,就已经完全确定Java程序中哪些内存访问操作在并发下是安全的。

Volatile关键字

     关键字volatile可以说是Java虚拟机提供的最轻量级的同步机制。当一个变量定义为volatile后,他将具备两种特性

1:保证此变量对所有线程的可见性,这里的"可见性"是指当一条线程修改了这个变量的值,新值对于其他线程来说是立即得知的。而普通变量不能做到这一点,普通变量的值在线程间传递均需要通过主存来完成,例如:

线程A修改一个普通变量的值,然后向主存进行回写,另外一条线程B在线程A回写完成之后再从主存进行读取操作,新变量值才会对线程B可见。

由于volatile变量只能保证可见性,在不符合一下条规则的运算场景中,我们任然要通过加锁(使用synchronized,reetrantlock或者java.util.comcurrent.atomic.*)来保证原子性。

  • 运算结果并不依赖变量的当前值(i++)。
  • 变量不需要和其他的状态变量共同参与不变性约束。

2:使用volatile变量的第二个语义是禁止指令重排序优化。(具体指令重排序请见上篇)

最后来看看Java内存模型中对volatile变量定义的特殊规则。假如T表示一个线程,V和W分别表示两个volatile型变量,那么在进行read, load, use, assgin,  store, write操作时需要满足如下规则:

  • 只有当线程T对变量V执行的前一个动作是load操作,线程T才能对变量V执行use操作动作;并且,只有当线程T对变量V执行的后一个动作是use的时候,线程T才对变量V执行load操作。线程T变量V的use动作可以认为是和线程T对变量V的load. read动作相关联,必须连续一起出现(这条规则要求在工作内存中,每次使用V前都必须先从主存中刷新最新的值, 用于保证能看见其他线程对变量V所做的修改后的值)。
  • 只有当线程T对变量V执行的前一动作是assign的时候,线程T才能对变量V执行store动作;并且,只有当线程T对变量V执行的后一个动作为store的时候,线程T才能对变量V执行assign操作。线程T对变量V的assign操作可以认为是和线程T对变量V的store, write操作相关联, 必须连续在一起出现(这条规则要求在工作内存中,每次修改V后都必须立刻同步到主存中,用于保证其他线程可以看到自己对变量V所做的修改)。
  • 假定动作A是线程T对变量V实施的use或assgin操作, 假定动作F是和动作A相关联的load或者store操作, 假定动作P是和动作F相应的对变量V的read, write操作;类似的,假定动作B是线程T对变量W实施的use或者assign操作,假定动作G是和动作B相关联的Load和store操作, 假定动作Q是和动作G相应的对变量W的read和write操作。 如果A先于B, 那么P先于Q(这条规则要求volatile修饰的变量不会被指令重排序优化,保证代码的执行顺序与程序的顺序相同)

原子性,可见性,有序性

       Java内存模型是围绕着在并发过程中如何处理原子性,可见性和有序性这三个特征建立的:

  • 原子性: 由Java内存模型来直接保证的原子性变量操作包括read, load,  use ,  assgin  ,  write,我们大致可以认为基本数据类型的访问读写是具备原子性的(long, double的非原子性协定)。如果应用场景需要一个范围更大的原子性保证(经常会遇到),Java内存模型还提供了lock和unlock操作来满足这种需求,经管虚拟机未把lock和unlock操作直接开放给用户使用,但是却提供了更高层次的字节码指令monitorenter和moniterexit来隐式的使用这两个操作,这两个字节码指令反应到Java代码中就是同步块-synchronized关键字,因此在synchronized块之间的操作也具备原子性。
  • 可见性: 可见性是当一个线程修改了共享变量的值, 其他线程能够立刻得知这个修改。上面的volatile已经说明,Java内存模型是通过在变量修改后将新值同步回主存,在变量读取前从主存刷新变量值这种依赖主存作为传递媒介的方式来实现可见性,无论是普通变量还是volatile变量都是如此,普通变量与volatile变量的区别是,volatile的特殊性保证了新值能够立刻同步到主存中,以及每次使用变量前立刻从主存刷新。除了volatile之外,Java还有两个关键字能够实现可见性,即synchronized和final。 同步块的可见性是由"对一个变量执行unlock操作之前,必须先把此变量同步回主存中(执行store ,write操作)"。final关键字的可见性是指,被final修饰的字段在构造器中一旦初始化完成,并且构造器没有把this的引用传递出去(this引用逃逸是一件很危险的事情,其他线程有可能通过这个引用访问到"初始化了一半的"对象),那么在其他线程中就能看见final字段的值。
  • 有序性: Java内存模型的有序性在前面谈volatile时说过,Java程序中天然的有序性可以总结为一句话,如果在本线程内观察,所有的操作都是有序的;如果在一个线程中观察另一个线程,所有的操作都是无序的。前半句是指"线程内表现为串行的语义",后半句是指"指令重排序"现象和"工作内存和主存同步延迟"现象。

happen-before

Java内存模型下一些”天然的“先行发生关系,无序任何同步器协助就已经存在了,如下:

  1. 程序次序规则:      在一个线程内,按照程序代码顺序,书写在前面的操作先行发生于书写在后面的操作。
  2. 管程锁定规则:      一个unlock操作先行发生于后面对同一个锁的lock操作。
  3. volatile变量规则 :对一个volatile变量的写操作先行发生于后面对该变量的读操作。
  4. 线程启动规则:      Thread对象的start()方法先行发生于此线程的每一个动作(即run()中的操作)。
  5. 线程终止规则:      线程中的所有操作都先行发生于对此线程的终止检查。我们可以通过Thread.join()方法结束,Thread.isAlive()返回值等手段检查到线程已经终止执行。
  6. 线程中断规则:      对线程interrupt()方法的调用先行发生于对此线程被中断线程的代码检测到中断事件的发生,可以通过Thread.interrupted(),Thread.isInterrupted()方法来检查到是否发生中断事件。
  7. 对象终结规则:      一个对象的初始化完成(构造函数执行完毕)先行发生于他的finalize()方法的开始。
  8. 传递性         :     如果操作A先行发生于操作B,操作B先行发生于C, 那么就可以得到A先行发生于操作C。

线程安全:

      Java Concurrency in Practic: 当多个线程访问同一类时,如果不要考虑这些线程在运行时环境下的调度和交替运行,并且不需要额外的同步及调用方代码不必做其他的协调,这个类的行为任然是正确的,那么这个类就是线程安全的。

      显然只有资源竞争时才会导致线程不安全,因此无状态对象永远是线程安全的。

      原子操作:多个线程执行一个操作时,其中任何一个线程要么完全执行完该操作,要么没有执行此操作的任何步骤,那么这个操作就是原子的。

时间: 2024-10-26 11:49:14

J.U.C JMM. pipeline.指令重排序,happen-before(续)的相关文章

J.U.C JMM. pipeline.指令重排序,happen-before(续MESI协议)

缓存(Cache)       CPU的读/写(以及取指令)单元正常情况下甚至都不能直接访问内存——这是物理结构决定的:CPU都没有管脚直接连到内存.相反,CPU和一级缓存(L1 Cache)通讯,而一级缓存才能和内存通讯.大约二十年前,一级缓存可以直接和内存传输数据.如今,更多级别的缓存加入到设计中,一级缓存已经不能直接和内存通讯了,它和二级缓存通讯——而二级缓存才能和内存通讯.或者还可能有三级缓存.   缓存是分“行”(cache line)的,一个行对应一块存储空间,大小是32.64或12

Java的多线程机制系列:不得不提的volatile及指令重排序(happen-before)

一.不得不提的volatile volatile是个很老的关键字,几乎伴随着JDK的诞生而诞生,我们都知道这个关键字,但又不太清楚什么时候会使用它:我们在JDK及开源框架中随处可见这个关键字,但并发专家又往往建议我们远离它.比如Thread这个很基础的类,其中很重要的线程状态字段,就是用volatile来修饰,见代码 /* Java thread status for tools, * initialized to indicate thread 'not yet started' */   p

深入浅出 Java Concurrency (4): 原子操作 part 3 指令重排序与happens-before法则[转]

在这个小结里面重点讨论原子操作的原理和设计思想. 由于在下一个章节中会谈到锁机制,因此此小节中会适当引入锁的概念. 在Java Concurrency in Practice中是这样定义线程安全的: 当多个线程访问一个类时,如果不用考虑这些线程在运行时环境下的调度和交替运行,并且不需要额外的同步及在调用方代码不必做其他的协调,这个类的行为仍然是正确的,那么这个类就是线程安全的. 显然只有资源竞争时才会导致线程不安全,因此无状态对象永远是线程安全的. 原子操作的描述是: 多个线程执行一个操作时,其

多线程之指令重排序

为什么会乱序 现在的CPU一般采用流水线来执行指令.一个指令的执行被分成:取指.译码.访存.执行.写回.等若干个阶段.然后,多条指令可以同时存在于流水线中,同时被执行. 指令流水线并不是串行的,并不会因为一个耗时很长的指令在"执行"阶段呆很长时间,而导致后续的指令都卡在"执行"之前的阶段上. 相反,流水线是并行的,多个指令可以同时处于同一个阶段,只要CPU内部相应的处理部件未被占满即可.比如说CPU有一个加法器和一个除法器,那么一条加法指令和一条除法指令就可能同时处

JVM并发机制的探讨——内存模型、内存可见性和指令重排序

[转]http://my.oschina.net/chihz/blog/58035 文章写的非常好,为作者点赞. JAVA内存模型 对于我们平时开发的业务应用来说,内存应该是访问速度最快的存储设备,对于频繁访问的数据,我们总是习惯把它们放到内存缓存中,有句话不是说么,缓存就像是清凉油,哪里有问题就抹一抹.但是CPU的运算速度比起内存的访问速度还要快几个量级,为了平衡这个差距,于是就专门为CPU引入了高速缓存,频繁使用的数据放到高速缓存当中,CPU在使用这些数据进行运算的时候就不必再去访问内存.但

指令重排序 as-if-serial

笔者认为看完一本书或刚要了解完一个知识点  最好自己先运行一些DEMO 自己尝试着去了解下各种意思  这样知识点最终一定是你的.靠死记硬背的讨论或简单的粗暴的看下资料 脑子里肯定还是一团浆糊. p.p1 { margin: 0.0px 0.0px 0.0px 0.0px; font: 11.0px Monaco } p.p2 { margin: 0.0px 0.0px 0.0px 0.0px; font: 11.0px Monaco; min-height: 15.0px } p.p3 { ma

深入浅出 Java Concurrency (4): 原子操作 part 3 指令重排序与happens-before法则

转: http://www.blogjava.net/xylz/archive/2010/07/03/325168.html 在这个小结里面重点讨论原子操作的原理和设计思想. 由于在下一个章节中会谈到锁机制,因此此小节中会适当引入锁的概念. 在Java Concurrency in Practice中是这样定义线程安全的: 当多个线程访问一个类时,如果不用考虑这些线程在运行时环境下的调度和交替运行,并且不需要额外的同步及在调用方代码不必做其他的协调,这个类的行为仍然是正确的,那么这个类就是线程安

指令重排序及Happens-before法则随笔

指令重排序 对主存的一次访问一般花费硬件的数百次时钟周期.处理器通过缓存(caching)能够从数量级上降低内存延迟的成本这些缓存为了性能重新排列待定内存操作的顺序.也就是说,程序的读写操作不一定会按照它要求处理器的顺序执行. 重排序的背景 我们知道现代CPU的主频越来越高,与cache的交互次数也越来越多.当CPU的计算速度远远超过访问cache时,会产生cache wait,过多的cache  wait就会造成性能瓶颈.针对这种情况,多数架构(包括X86)采用了一种将cache分片的解决方案

理解并发编程中的重要概念:指令重排序和指令乱序执行

看过了很多介绍指令重排序的文章,可惜由于自己硬件和计算机理论知识缺乏,很难理解深层次的奥秘和实现原理.不过也有很多帖子,讲的浅显易懂,使用的例子很形象.大牛就是能用简单的解释和通俗的比喻,给我们讲明白很高深的东西.这里做个摘抄和总结,和大家分享下,希望大家能够对指令重排序有个形象的认识,不至于在并发编程中犯一些简单的错误.如果理解有错误,希望看到的大神指正. 从源码变成可以被机器(或虚拟机)识别的程序,至少要经过编译期和运行期.重排序分为两类:编译期重排序和运行期重排序(乱序执行),分别对应编译