0%

Java 线程同步实现原理深度解析

本文内容主要是,以官方文档资料和 Java 8 的 JDK 和 HotSpot 源码为依据,对 Java 的基于 synchronized 和 ReentrantLock 线程同步的底层实现原理进行总结梳理和深度解析。同时,也在广度上对线程同步相关的基础概念做总结概括。

基础概念

在并发编程模型中,需要处理的两个最关键的问题就是通信(communication)和同步(synchronization)[1]。通信指线程可用于获得其他线程产生的信息的各种机制。通信机制通常都基于共享内存(shared memory)或消息传递(message passing)。在共享内存的编程模型中,某些或全部程序变量可以由多个线程访问。如果一对线程之间需要通信,只要一个线程将值写入某个变量,另一线程来读它即可。在消息传递编程模型中,不同线程没有公共的状态。当一对线程之间需要通信时,其中的一个必须执行一次明确的 send 操作,将数据传送给另一个线程。

同步[1:1]是控制不同线程之间操作发生的相对顺序的各种机制,用以排除导致不正确结果的交错。消息传递模型中的同步通常是隐式的,消息的发送必须在接收之前。如果某个线程企图接收一个尚未发送的消息,那么它就必须等到发送方赶上来。在共享内存编程模型中,同步通常不是隐式的,除非我们做了某些特殊的事情,否则“接收方”就可能在某个变量被“发送方”修改之前读到其中的“老”值。

同步模式分两种:原子性(atomicity)(也叫竞争同步)和条件同步(condition synchronization)(也叫合作同步)。原子性,确保指定的指令序列作为一个单一的、不可分割的单元参与任何可能的交织,从而防止两个任务在同一时刻访问共享的资源。条件同步,确保在某个必要的前提条件为真之前不会发生指定的操作,用于两个存在条件依赖关系的任务间的同步。确保原子性的同步原语包括:基于硬件指令的原子操作(atomic operation)、互斥锁(mutual exclusion,缩写为“mutex”)等。用于条件同步的同步原语包括:条件变量(condition variable,有时缩写为“condvar”)、事件对象(event object)等。条件变量必须与 mutex 关联使用。事件对象与条件变量类似,但无需与 mutex 关联,Windows 平台下提供事件对象同步原语。

常见的同步原语(synchronization primitive)有:基于硬件指令的原子操作、互斥锁、条件变量、事件对象、信号量(semaphore)和管程(monitor,或翻译为“监视器”)等。信号量与管程等价,但相比管程更低级,代码容易出错,更推荐使用管程。基于信号量可以实现互斥锁和条件变量。

管程是一种编程语言层面的高级同步机制,由互斥锁和至少一个条件变量组成,即 Monitor = Mutex + Condvar。管程是 Brinch Hansen 和 C. A. R. Hoare 在 1970 年代初期发明的,1974 年 Brinch Hansen 在 Concurrent Pascal 编程语言上首次实现了管程。之后,Modula(1977)和 Mesa(1980)等编程语言也实现了管程。当条件变量为真时,按是否阻塞发 signal 的线程区分 Hoare 风格(阻塞)和 Mesa 风格(不阻塞)。Hoare 风格较难实现,目前大部分编程语言实现的管程都采用 Mesa 风格,Java 也采用 Mesa 风格。

并发和同步相关的基础概念,本文不再展开,综述性的文章或书籍章节可以阅读[1:2][2][3][4],全面介绍性的书籍可以阅读[5][6]。同步相关的基础概念的思维导图,如下图所示:

同步基础概念思维导图

在 Java 5.0 之前(2004.04 发布),可以使用的线程同步机制只有 synchronized 和 volatile。Java 5.0 开始引入 java.util.concurrent 包(简称 j.u.c 包或 JUC 包),相关的规范为“JSR-166: Concurrency Utilities”。j.u.c 包中提供的同步工具包括:互斥锁 ReentrantLock、条件变量 Condition、读写锁 ReadWriteLock、原子操作类 AtomicXxx、同步器类、并发数据结构等。基于 synchronized 的互斥锁被称为内置锁(intrinsic lock 或 built‐in lock)或管程锁(monitor lock),相对的 j.u.c 包下 ReentrantLock 和 ReadWriteLock 被称为显示锁(explicit lock)。

Java 线程同步思维导图,如下图所示:
Java 线程同步思维导图

Java 并发的全面介绍性的官方书籍可以阅读[7],该书多位作者都是 JSR-166 规范的专家组成员。Java 线程同步的实现原理的官方资料,可以阅读[8][9][10][11][12][13][14]。

线程管理

操作系统线程的实现区分用户空间线程和内核空间线程,两者的映射关系被称为线程模型(threading model)。目前主流的操作系统的线程模型都是 1:1,即每个用户空间线程都对应单独的内核空间线程。早期部分操作系统还支持 M:1、M:N 模型,但因为过于复杂,逐渐被废弃。比如,Solaris 8 之前采用 M:N 线程模型,Solaris 8(2000.02 发布)开始支持新的 1:1 线程模型,Solaris 9(2002.05 发布)默认采用 1:1 模型。类似的,FreeBSD 8(2009.11 发布)开始不再支持 M:N 模型,只支持1:1 模型。

在 Java 虚拟机层面,线程模型是指 Java 线程与操作系统线程的映射关系。当前,Hotspot 虚拟机实现的线程模型在各个操作系统平台下都采用 1:1 模型[8:1]。总体上,Java 线程模型是 1:1:1。

Java 早期版本(JDK 1.1 到 JDK 1.2),Java 线程被称为绿色线程(green thread),采用的线程模型是 M:1,即全部 Java 线程底层共享同一个操作系统线程。JDK 1.3 开始(2000.05 发布),绿色线程被废弃,改为 1:1 线程模型。JDK 21 开始(2023.09 发布),Java 平台开始同时支持虚拟线程(virtual thread),采用的线程模型是 M:N,参见“JEP-444: Virtual Threads”。

其他编程语言也支持类似的轻量级线程的特性,比如 2009 年诞生的 Go 语言,不支持 1:1 线程模型,在诞生之初内置实现的是轻量级线程 goroutine,采用的线程模型是 M:N。

Java 创建线程,java.lang.Thread.start() 的实现原理:

  • 功能描述:使该线程开始执行,Java 虚拟机调用该线程的 run 方法。
  • JVM 入口函数:JVM_StartThread(JNIEnv* env, jobject jthread)(参见源码 Thread.c、jvm.cpp)
  • JVM 层实现源码解析:构造 JavaThread 对象,然后调用 os::create_thread(..) 函数,构造 OSThread 对象,并创建与操作系统相关的线程。os::create_thread(..) 函数在不同操作系统平台下的实现
    • 类 Unix 系统:调用 POSIX 函数 pthread_create(man),创建 pthread 线程,并在线程中运行 java_start 函数,java_start 函数内部会通过 JavaCalls::call_virtual 调用 java.lang.Thread.run()(参见源码 os_linux.cpp、os_bsd.cpp、os_solaris.cpp)
      • Solaris 系统:实际上,Solaris 系统下的实现默认是基于 LWP 线程,而不是 Pthreads 线程,API 与 Pthreads 类似。创建线程调用 thr_create 函数。通过 JVM 参数选项 -XX:+UseLWPSynchronization 控制是否使用 LWP 线程,默认开启,若关闭,则改为基于 Pthreads 线程。JDK 15 开始(2020.09 发布),Java 平台删除对 Solaris 系统的支持,参见 JEP-381。
    • Windows 系统:调用函数 _beginthreadex(doc),创建 Windows 线程,并在线程中运行 java_start 函数,java_start 函数内部会通过 JavaCalls::call_virtual 调用 java.lang.Thread.run()(参见源码 os_windows.cpp)

基于 synchronized 线程同步

偏向锁、轻量级锁和重量级锁

管程(monitor)由互斥锁和至少一个条件变量组成。Java 内置的 Monitor 与 Java 对象关联,Java 的所有对象都可以是 Monitor。Java 的 synchronized 关键字的线程同步实现的是管程的互斥锁。原始版本的 Monitor 可以关联多个显式的条件变量,而 Java 内置实现的 Monitor 关联单个隐式的条件变量。Java 条件变量相关方法在 Object 类中定义,分别是 wait、notify 和 notifyAll 方法。

基于 synchronized 关键字的互斥锁,HotSpot 虚拟机底层实现基于三种锁定技术,按适用的线程竞争程度由低至高依次为:偏向锁(biased lock)、轻量级锁(lightweight lock)和重量级锁(heavyweight lock)。加锁时,先尝试偏向锁,若失败再升级为轻量级锁,最后再升级为重量级锁,三种锁定技术的线程同步成本依次增高。

锁定技术 官方支持时间 使用场景 相对其他锁定技术的优缺点
重量级锁 最早版本的 Java(1995.05) 有竞争 实现 Monitor,在无竞争场景下,性能较差
轻量级锁 最早版本的 HotSpot(1999.04) 有共享、无竞争 在无竞争场景下,避免创建 Monitor,从而提升性能
偏向锁 Java 6 开始支持(2006.12),Java 15 开始废弃(2020.09) 无共享、无竞争 相对轻量级锁,需要更少的 CAS 原子操作,除第一次加偏向锁外,锁重入和解锁都无需 CAS 原子操作

早期版本的 Java 实现的管程的性能较差。典型的例子是,早期 Java 标准库中的 Hashtable、Vector、StringBuffer 等类存在过度同步(over-synchronized)问题,这些类的全部方法都用 synchronized 关键字包裹,即便是在单个线程无竞争的场景下运行,内部也总是执行同步逻辑。于是就有了针对无竞争(uncontended)场景下的互斥锁的性能优化,出现了轻量级锁定(lightweight locking)技术。

轻量级锁定技术最早源自一篇发表于 1998 年的名为“瘦锁”(thin lock)的论文[15],作者来自 IBM 研究院,最早在 IBM 版的 JDK 1.1 中实现。相对的,在论文中完整版的 Monitor 实现被称为胖锁(fat lock)或膨胀锁(inflated lock)。瘦锁实现只需要维护在对象头中的 24 位的锁字(lock word)结构,而 Monitor 实现底层需要维护持有锁的线程、锁重入计数器、锁竞争等待队列、条件变量等待队列等复杂数据结构,所以被形象地命名为胖锁和瘦锁。原始版的瘦锁的实现可以参阅论文,本文不展开。HotSpot 虚拟机实现的轻量级锁定与瘦锁的核心思想类似,但实现细节略微有区别。HotSpot 实现的轻量级锁定[16][17],多路复用对象头中 Mark Word 字段,并且为了提升性能在线程栈上维护锁记录(lock record, 或叫 on-stack lock record),所以 HotSpot 实现的轻量级锁也被叫做栈锁(stack lock)。

轻量级锁定技术优化的是无竞争(uncontended)场景,偏向锁定技术进一步优化了无共享(unshared)场景。研究发现大多数对象锁在对象生命周期内总是只有单个线程持有(即无共享),基于这个观察,2002 年 IBM 研究实验室提出锁保留(lock reservation)[18]技术的优化。Java 官方最早在 2006 年发布的 Java 6 的 HotSpot 虚拟机中实现了偏向锁定(biased locking)技术,默认开启,核心思想类似于锁保留,同时还实现了批量重偏向和撤销[17:1]。偏向锁定技术的核心思想是,总是偏向于第一个获得它的线程,或者说锁总是保留给第一个线程,即便该线程已经释放锁。相对于轻量级锁定的优点是,偏向锁定需要更少的 CAS 原子操作,除第一次加偏向锁外,锁重入和解锁都无需 CAS 原子操作。不过,2020 年 Java 15 发布后,偏向锁被废弃。原因是过去看到的性能提升在今天不再那么明显,变化主要包括早期标准库过度同步的类被新的无同步类、并发集合类等替代,以及硬件支持的 CAS 原子操作性能的提升等。另外,偏向锁定在同步子系统中引入了大量复杂的代码,给同步子系统的代码理解和设计变更带来障碍。具体参见“JEP-374: Deprecate and Disable Biased Locking”。

HotSpot 虚拟机的对象是否加锁以及底层使用哪种锁定技术通过对象头(object header)中的 Mark Word 字段区分。在未加锁时,Mark Word 字段用于记录对象的 identity hash code 和垃圾回收的年龄(age)。之所以多路复用 Mark Word 字段的功能,而不是在对象头中添加额外的字段,是为了避免增加对象的大小。在 32 位机器上,Mark Word 格式如下图所示[17:2](参见源码 markOop.hpp)。对象头内共有两个字段,除了 Mark Word 字段外,另外一个字段是 Klass Pointer,是指向类元数据的指针。

Mark Word 字段的各种状态

偏向锁(biased lock),也叫锁保留(lock reservation),实现原理:

  • 使用场景:无共享(unshared)、无竞争(uncontended)
  • 加锁实现:如果 JVM 开启偏向锁选项,那么新对象创建分配的对象头的 Mark Word 状态是未偏向、可偏向状态(unbiased, biasable)或叫匿名偏向状态(anonymously biased),最低的三位值为 101,偏向的线程 Thread ID 值为 0。第一次加偏向锁时,通过 CAS 原子操作在对象头中的 Mark Word 字段中写入当前线程 Thread ID 实现。CAS 原子操作成功后,Mark Word 状态变为偏向锁定状态(biased, biasable)。若 CAS 原子操作失败,表明是另外一个线程去尝试获取这个锁,则撤销偏向锁(revoke bias)(不考虑批量重偏向的情况)。如果偏向线程不存活或不在同步块中,则先将锁对象设置为无锁状态(unlocked, unbiasable)。如果偏向线程还存活且还在同步块中,则将锁对象升级为轻量级锁。撤销偏向锁是 VM 操作,需要等到 safepoint 的时候由 VM 线程执行。在 safepoint 没有 Java 线程执行字节码。
    • 锁重入:当偏向线程锁重入时,只需要检测比较 Mark Word 中的 Thread ID 是否相同,若相同则重入成功,不需要执行 CAS 原子更新操作。
    • 批量重偏向和撤销:偏向锁技术,不支持单个对象的重偏向,偏向线程不能从一个线程转移到另一个线程,但支持批量重偏向(bulk rebias)。HotSpot 虚拟机基于 epoch 概念实现了批量重偏向(bulk rebias)和批量撤销(bulk revoke)。
  • 解锁实现:无需 CAS 原子操作,不需要更新对象头的 Mark Word 字段,依然偏向第一个获取偏向锁的线程。需要释放线程栈的锁记录,将锁记录中的指向持有锁对象的指针设置为 NULL 空。
  • JVM 参数选项:-XX:+UseBiasedLocking,是否开启偏向锁,默认开启。

轻量级锁(lightweight lock),也叫栈锁(stack lock)或瘦锁(thin lock),实现原理:

  • 使用场景:有共享(shared)、无竞争(uncontended)。即多个线程交替执行同步块,当某线程持有锁时没有其他线程尝试获取这个锁。
  • 加锁实现:从无锁或偏向锁升级到轻量级锁时,通过 CAS 原子操作在对象头中的 Mark Word 字段中写入指向锁记录的指针。同时,锁记录上需要写入两个字段,第一个字段被称为 Displaced Mark Word,或叫 Displaced Header,包含原始的对象头的 Mark Word 字段(记录 hash 和 age 信息),第二个字段是指向持有锁对象的指针。CAS 原子操作成功后,Mark Word 状态变为轻量级锁定状态(lightweight locked)。如果 CAS 原子修改失败,表明锁已经被其他线程占用,需要将轻量级锁膨胀为重量级锁。
    • 锁重入:将重入的锁记录中的 Displaced Mark Word值设置为 NULL(值为 0)。Displaced Mark Word 值为 NULL 的锁记录的数量,就是锁重入的次数。
  • 解锁实现:释放锁记录,将锁记录中的指向持有锁对象的指针设置为 NULL 空。若 Displaced Mark Word 值非 NULL,表明不是锁重入的释放,同时还要通过 CAS 原子操作将锁记录中的 Displaced Mark Word 值还原到对象头中的 Mark Word ,即将 Mark Word 还原为无锁状态(unlocked, unbiasable)。

重量级锁(heavyweight lock),也叫重量级管程(heavyweight monitor)、膨胀锁(inflated lock)或胖锁(fat lock),实现原理:

  • 使用场景:有竞争(contended)
  • 升级膨胀:从轻量级锁升级到重量级锁时,通过 CAS 原子操作在对象头中的 Mark Word 字段中写入指向 Monitor 对象的指针。CAS 原子操作成功后,Mark Word 状态变为重量级锁定状态(heavyweight locked)。
  • 降级收缩:虚拟机会在 safepoint 点会扫描全部 Monitor,找出全部 idle 状态的 Monitor,并将这些 Monitor 关联的锁对象还原为无锁状态(unlocked, unbiasable),即将在 Monitor 中保存的 Displaced Mark Word 还原到对象头中的 Mark Word。idle 状态的 Monitor 的持有锁的线程、锁竞争等待队列、等待队列等全部字段都为空。
  • 加锁和解锁实现:管程底层由 ObjectMonitor 类实现,内部维护持有锁的线程、锁重入计数器、锁竞争等待队列、条件变量等待队列等字段。管程内部的加锁和解锁实现的完整阐述参见下文。
  • JVM 参数选项:-XX:+UseHeavyMonitors,是否只使用重量级锁,默认 false,开启后禁用偏向和轻量锁 。

hashcode 与偏向锁定状态的冲突:偏向锁复用了对象头的 Mark Word 字段,但是与轻量级锁和重量级锁不同,偏向锁没有额外维护 Displaced Mark Word,所以 hashcode 与偏向状态无法共存,当需要计算对象的 identity hash code 时,会撤销偏向锁,并升级为重量级锁。调用 java.lang.Object.hashCode() 或 java.lang.System.identityHashCode(Object) 会触发 identity hash code 的计算,需要读取对象头的 Mark Word 中的 hash 值。如果计算对象的 hashcode 值调用的是被覆盖后的 hashCode() 方法,则不会读取 Mark Word 中的 hash 值,可以继续使用偏向锁。相关实现源码解析(参见 synchronizer.cpp):

  • 调用 java.lang.Object.hashCode() 或 java.lang.System.identityHashCode(Object) 计算对象的 hashcode,在 JVM 层实现都会先调用 JVM_IHashCode(..) 函数,然后再调用 ObjectSynchronizer::FastHashCode(..) 函数,该函数会返回存储在对象头的 Mark Word 中的 hash 值。如果对象处于偏向锁定状态,会撤销偏向锁,并升级为重量级 Monitor,然后再返回在维护在 Monitor 中的 Displaced Mark Word 字段内的 hash 值。

三种锁定技术下的 Mark Word 字段的状态流转,如下图所示[9:1]:

Mark Word 字段的状态流转

三种锁定技术下的 Mark Word 和 Lock Record 字段值,如下图所示[13:1][19]:

偏向锁的 Mark Word 和 Lock Record 轻量级锁的 Mark Word 和 Lock Record 重量级锁的 Mark Word、Lock Record 和 ObjectMonitor

相关实现源码:

  • 对象头的 Mark Word 字段对应的实现类是 markOopDesc 和 markOop 类,参见源码 markOop.hpp
    • markOop 类是 markOopDesc 的指针类,定义是 typedef class markOopDesc* markOop;
  • 线程栈上锁记录对应的实现类是 BasicObjectLock类,参见源码 basicLock.hpp。
    • 在锁记录上维护两个字段。第一个字段,被称为 Displaced Mark Word,或叫 Displaced Header,包含原始的对象头的 Mark Word 字段(记录 hash 和 age 信息),字段定义源码 BasicLock _lock。第二个字段,是指向持有锁对象的指针,字段定义源码 oop _obj。
    • BasicLock 类的 void set_displaced_header(markOop header) 方法,用于修改锁记录的 Mark Word 字段值。
  • synchronized 加锁的实现源码:
    • 字节码指令:monitorenter
    • JVM 层实现源码入口:
      • TemplateTable::monitorenter() 或 BytecodeInterpreter 的 CASE(_monitorenter)。虚拟机实现两种解释器,模板解释器和字节码解释器,默认使用模板解释器,但是字节码解释器代码可读性更高,模板解释器参见源码 templateTable_x86_64.cpp,字节码解释器参见源码 bytecodeInterpreter.cpp
      • 实现上,先尝试偏向锁,若失败再升级为轻量级锁,若加轻量级锁失败,再膨胀为重量级锁
  • synchronized 解锁的实现源码:

重量级 Monitor 实现原理

Hotspot 虚拟机的重量级 Monitor 实现的最核心类是 ObjectMonitor,ObjectMonitor 类定义的核心字段(参见源码 objectMonitor.hpp 和 objectMonitor.cpp):

  • header:持有锁对象的对象头中的原始 Mark Word,即 Displaced Mark Word。
    • 字段定义:volatile markOop _header;
  • object:指向持有锁对象的指针。
    • 字段定义:void* volatile _object;
  • owner:持有锁的线程。
    • 字段定义:void * volatile _owner;
  • succ:继承人(successor)线程,或叫假定继承人(heir presumptive)线程。
    • 字段定义:Thread * volatile _succ;
  • cxq:“contention queue”的缩写,即锁竞争等待队列,或叫锁竞争队列,出入队采用 FIFO 方式。
    • 字段定义:ObjectWaiter * volatile _cxq;
  • EntryList:锁竞争等待队列,出入队采用 FIFO 方式。
    • 字段定义:ObjectWaiter * volatile _EntryList;
  • WaitSet:条件变量的等待(waiting)队列。
    • 字段定义:ObjectWaiter * volatile _WaitSet;
  • recursions:锁重入计数器。
    • 字段定义:volatile intptr_t _recursions;

ObjectWaiter 类,内部维护 Thread* _thread 字段,用于实现对该线程的代理。同时内部维护 ObjectWaiter * _next 和 ObjectWaiter * _prev 字段,用于构造链表结构。锁竞争等待队列 cxq、EntryList,和条件变量的等待队列 WaitSet,都是节点类型为 ObjectWaiter 的链表,出入队采用 FIFO 方式。cxq 是单向链表,多线程并发执行入队(enqueue)操作,单线程执行出队(dequeue)操作。WaitSet 和 EntryList 是双向链表,单线程执行入队和出队操作。

区分两个锁竞争等待队列 cxq 和 EntryList 的原因是,为了优化出队(dequeue)操作的时间。多个线程并发入队到 cxq 队列,而只有持有锁的线程可以在 cxq 队列上执行出队列操作。只有持有锁的线程可以访问和修改 EntryList 队列,在 EntryList 队列上的操作都是无锁的(lock-free)。参见源码 objectMonitor.cpp 的注释的解释如下:

We use two distinct lists to improve the odds of a constant-time dequeue operation after acquisition (in the ::enter() epilog) and to reduce heat on the list ends.”

Monitor 的底层实现,如下图所示。图中线程 A 持有锁,线程 B、线程 C、线程 D,竞争锁失败,在竞争等待队列中阻塞等待。如果线程 A 释放锁,默认策略下,线程 D 会被选为继承人线程。唤醒后的继承人线程,尝试竞争锁,若成功,移出锁等待队列(dequeue),若失败,调用 park() 阻塞自己。

Java 重量级 Monitor 的底层实现(默认策略)

Monitor 加锁的 JVM 层实现源码解析:

  • (1) 调用 TemplateTable::monitorenter() 或 BytecodeInterpreter 的 CASE(_monitorenter)(参见源码 templateTable_x86_64.cpp 或 bytecodeInterpreter.cpp)
    • 先尝试偏向锁,若失败再升级为轻量级锁,若加轻量级锁失败,再膨胀为重量级锁。
  • (2) 依次调用 InterpreterRuntime::monitorenter(..)、ObjectSynchronizer::fast_enter(..)、ObjectSynchronizer::slow_enter(..),再调用 ObjectSynchronizer::inflate(..)(参见源码 synchronizer.cpp)
    • 在 inflate(..) 函数内部,执行将轻量级锁膨胀为重量级锁的逻辑,函数内部构造 ObjectMonitor 对象并返回。
  • (3) 调用 ObjectMonitor::enter(..),再调用 ObjectMonitor::EnterI(..),执行重量级锁的加锁逻辑(参见源码 objectMonitor.cpp)
    • 加锁的互斥操作,通过 CAS 原子操作将 ObjectMonitor 对象的 _owner 字段从 null 修改为当前线程(Self),若失败则自适应自旋(adaptive spinning)重试。关于“自适应自旋”的解释参见下文。
      • 相关源码:Atomic::cmpxchg_ptr (Self, &_owner, NULL);
    • 若自旋竞争锁失败,将线程加到 ObjectMonitor 对象的 cxq 锁竞争等待队列的队头,并 ParkEvent::park() 阻塞当前线程。

Monitor 解锁的 JVM 层实现源码解析:

  • (1) 调用 TemplateTable::monitorexit() 或 BytecodeInterpreter 的 CASE(_monitorexit)(参见源码 templateTable_x86_64.cpp 或 bytecodeInterpreter.cpp)
  • (2) 调用 InterpreterRuntime::monitorexit(..)(参见源码 interpreterRuntime.cpp)
  • (3) 调用 ObjectSynchronizer::fast_exit()(参见源码 synchronizer.cpp)
    • 释放轻量级锁,通过 CAS 原子操作将锁记录中的 Displaced Mark Word值还原到对象头中的 Mark Word ,即将 Mark Word 还原为无锁状态。
  • (4) 调用 ObjectMonitor::exit(..)(参见源码 objectMonitor.cpp)
    • 释放重量级锁,将 ObjectMonitor 对象的 owner 字段设置为 null
      • 相关源码:OrderAccess::release_store_ptr (&_owner, NULL);
    • 默认的锁竞争等待队列出队策略是,唤醒在 EntryList 锁竞争等待队列的队头的线程,如果 EntryList 为空,则将 cxq 中的节点全部移到 EntryList 中,然后再去 ParkEvent::unpark() 唤醒 EntryList 的队头的线程。被 ParkEvent::unpark() 唤醒的线程,被称为继承人(successor)线程,successor 线程会去尝试竞争锁。锁竞争等待队列出队策略,底层由 Knob_QMode 字段控制,策略依次为:
      • 出队策略 0:若 EntryList 非空,取 EntryList 队头线程并唤醒;若 EntryList 空,先将 cxq 全部移到 EntryList,再取 EntryList 队头线程并唤醒(默认策略)
      • 出队策略 1:若 EntryList 非空,取 EntryList 队头线程并唤醒;若 EntryList 空,先将反转后的 cxq 全部移到 EntryList,再取 EntryList 队头线程并唤醒
      • 出队策略 2:直接取 cxq 队头线程并唤醒
      • 出队策略 3:先将 cxq 全部移到 EntryList 尾部,再取 EntryList 队头线程并唤醒
      • 出队策略 4:先将 cxq 全部移到 EntryList 头部,再取 EntryList 队头线程并唤醒
    • 唤醒后的继承人线程,尝试竞争锁。若竞争锁成功,调用 ObjectMonitor::UnlinkAfterAcquire 移出锁等待队列(dequeue)。若竞争锁失败,再次调用 ParkEvent::park() 阻塞自己。
      • 相关实现逻辑在 ObjectMonitor::EnterI(..) 函数内,参见源码 objectMonitor.cpp。
  • 重量级锁的降级收缩(deflation)的实现源码:
    • 调用 ObjectSynchronizer::deflate_idle_monitors()(参见源码 synchronizer.cpp)
    • 降级某个 Monitor 调用 ObjectSynchronizer::deflate_monitor(..)(参见源码 synchronizer.cpp)
  • 排队公平性:等待队列的出队策略并不遵循 FIFO 方式,等待队列中等待时间相对短的线程会被先唤醒,即允许被插队/闯入(barging)。另外,被唤醒的继承人线程不会直接获得锁,而是需要与最新进入的线程共同竞争锁,可能会被最新进入的线程插队。总体上,Monitor 的互斥锁的排队策略是非公平的。

java.lang.Object.wait()、java.lang.Object.wait(long timeout) 实现原理:

  • 功能描述:在其他线程调用此对象的 notify() 方法或 notifyAll() 方法前,导致当前线程等待。
  • JVM 入口函数:JVM_MonitorWait(JNIEnv* env, jobject handle, jlong ms)(参见源码 Object.c、jvm.cpp)
  • JVM 层实现源码解析:
    • (1) 调用 ObjectSynchronizer::wait(..)(参见源码 synchronizer.cpp)
    • (2) 调用 ObjectMonitor::wait(..)(参见源码 objectMonitor.cpp)
      • 将当前线程加入 WaitSet 条件变量等待队列的队尾,然后调用 ObjectMonitor::exit(..) 释放锁,并 ParkEvent::park() 阻塞自己

java.lang.Object.notify() 实现原理:

  • 功能描述:唤醒在此对象监视器上等待的单个线程。直到当前线程放弃此对象上的锁定,才能继续执行被唤醒的线程。
  • JVM 入口函数:JVM_MonitorNotify(JNIEnv* env, jobject handle)(参见源码 Object.c、jvm.cpp)
  • JVM 层实现源码解析:
    • (1) 调用 ObjectSynchronizer::notify(..)(参见源码 synchronizer.cpp)
    • (2) 调用 ObjectMonitor::notify(..)(参见源码 objectMonitor.cpp)
      • 将 WaitSet 条件变量等待队列的队头的线程选为被通知线程(notifyee),然后根据移动策略将被通知线程移到 cxq 或 EntryList 锁竞争等待队列,默认策略是插入到 cxq 到队头。notifyee 线程的移动策略,底层由 Knob_MoveNotifyee 字段控制,策略依次为:
        • 移动策略 0:将被通知线程加到 EntryList 的队头
        • 移动策略 1:将被通知线程加到 EntryList 的队尾
        • 移动策略 2:将被通知线程加到 cxq 的队头(默认策略)
        • 移动策略 3:将被通知线程加到 cxq 的队尾
      • 附注:Java 6 之前的版本,notify 的实现逻辑不是将被通知线程(notifyee)移到锁竞争等待队列,而是直接唤醒 notifyee 线程。Java 6 优化的原因是,由于 Java 实现的是 Mesa 风格的管程,当前持有锁的线程在调用 notify 后,并不会释放锁,不会阻塞自己,而是继续执行,所以被唤醒的 notifyee 线程并不能立即获取锁,而总是因为获取锁失败而被阻塞,唤醒 notifyee 线程是无效的。

java.lang.Object.notifyAll() 实现原理:

  • 功能描述:唤醒在此对象监视器上等待的所有线程。
  • JVM 入口函数:JVM_MonitorNotifyAll(JNIEnv* env, jobject handle)(参见源码 Object.c、jvm.cpp)
  • JVM 层实现源码解析:
    • (1) 调用 ObjectSynchronizer::notifyall(..)(参见源码 synchronizer.cpp)
    • (2) 调用 ObjectMonitor::notifyAll(..)(参见源码 objectMonitor.cpp)
      • 循环将全部 WaitSet 条件变量等待队列的线程移到锁竞争等待队列。

自适应互斥锁

线程在竞争互斥锁失败后的等待策略(waiting policy)分为两种:自旋(spinning)和阻塞(blocking)。

  • 自旋(spinning),或叫自旋等待(spin-waiting)或忙等待(busy waiting):线程会循环反复测试是否可以获取锁,会一直在 CPU 上运行。在抢占式调度器的操作系统下(目前主流操作系统都是抢占式的),在时间片结束后,调度器会将 CPU 调度给其他线程。线程也可以主动让出(yield)CPU,在类 Unix 系统下调用 sched_yield() 函数。一些旧的自旋等待的实现会在循环中调用 sched_yield(),不过在 Linux 下不推荐在自旋循环中调用 sched_yield()[20]。自旋线程的线程状态一直处于 running 或 runnable 状态(runnable 状态,也被叫做 ready 状态)。
  • 阻塞(blocking),或叫睡眠等待(sleep-waiting)或基于调度器阻塞(scheduler-based blocking):线程会主动睡眠(阻塞)自己,请求调度器取消调度(deschedule)当前线程,让出 CPU 资源給另外一个线程。线程状态将一直处于 sleeping 状态(也叫 waiting 状态),直到被唤醒,被唤醒后状态为 runnable。

阻塞线程相对耗时较大,至少需要执行两次线程上下文切换。自旋会浪费 CPU 资源,所以自旋等待的时间应该尽量短,自旋时间最好小于完成两次上下文切换的耗时。单次请求锁的 CAS 原子操作消耗的 CPU 时钟周期数大概是 15 ~ 30,而单次线程上下文切换的总消耗的 CPU 时钟周期数大概是 10,000 ~ 1,000,000,消耗的 CPU 时钟周期数相差约 100 ~ 10000 倍[21]。

自旋和阻塞策略存在各自缺点,所以目前很多操作系统内核的互斥锁实现采用混合策略,即“自旋后阻塞”(spin-then-block)的等待策略,实现的互斥锁称为自适应互斥锁(adaptive mutex)。目前 Solaris、Mac OS X、Linux 和 FreeBSD 内核实现的互斥锁,默认都是“adaptive mutex”。另外,pthread 线程库也支持创建自适应类型的 mutex。

操作系统内核和 pthread 线程库的自适应互斥锁的历史演进:

  • 1992.06,Solaris 2.0 发布,内核实现的 mutex 默认是“adaptive mutex”[22]。
  • 2000.07,glibc 2.2 版本的 pthread 线程库开始支持创建自适应类型的 mutex,相关类型参数是 PTHREAD_MUTEX_ADAPTIVE_NP(参见 commit)。不过,默认 mutex 类型是 PTHREAD_MUTEX_NORMAL,等待策略是立即阻塞而不是先自旋。
  • 2007.10,FreeBSD 的 pthread 线程库开始支持自适应类型的 mutex,实现 glibc 的 PTHREAD_MUTEX_ADAPTIVE_NP 类型的 mutex(参见 commit、commit)。FreeBSD 的 pthread 线程库,默认 mutex 类型是 PTHREAD_MUTEX_ERRORCHECK,等待策略是立即阻塞而不是先自旋。
  • 2009.03,Linux 2.6.29 内核发布,内核的 mutex 实现“adaptive spinning”策略(参见 commit),类似于 Solaris 的“adaptive mutex”。
  • 2009.11,FreeBSD 8.0 发布,从 FreeBSD 8.0 开始内核实现的 mutex 默认是“adaptive mutex”,实现类似于 Solaris。

Solaris 实现的自适应互斥锁的自旋策略是[22:1][23]:当线程试图去获取一个锁且锁已经被占有时,内核检查当前占有该锁的线程的状态。如果锁的持有者正在某一处理器上运行,申请线程就会旋转;如果锁的持有者当前没有运行,申请线程就会阻塞。Solaris 的自旋次数的配置参数是 LIBTHREAD_ADAPTIVE_SPIN,默认值 1000。Linux 和 FreeBSD 实现的自旋策略与 Solaris 类似(参见 FreeBSD locking man)。

glibc 的 pthread 实现的自适应互斥锁的自旋策略是[24]:每个自适应 mutex 的自旋次数,基于之前的自旋次数在 0 ~ 100 之间动态调整。最大的自旋次数可配置,配置参数是 glibc.pthread.mutex_spin_count,默认值 100(参见 glibc doc)。

FreeBSD 实现的 pthread 线程库的自适应互斥锁的自旋策略是:先执行固定配置次数的自旋循环,然后执行调用 yield 的自旋循环,最后再睡眠等待。自旋次数的配置参数是 LIBPTHREAD_SPINLOOPS,默认值 2000;调用 yield 的自旋循环,默认不开启,调用 yield 的自旋次数的配置参数是 LIBPTHREAD_YIELDLOOPS,默认值 0(参见 FreeBSD libthr man)。

HotSpot 的 Monitor 的互斥锁实现方式的历史演进:

  • 2000.05,J2SE 1.3 发布,并同时发布 HotSpot 2.0,从这版本的 HotSpot 开始,Monitor 内部的互斥锁(mutex)实现的锁等待策略是“自旋后阻塞”(spin-then-block),参见 JDK-4256394。自旋策略是固定自旋(fixed spinning),按固定配置的次数自旋(默认 10 次)。
    • JVM 参数选项:-XX:+UseSpinning,是否自旋,默认关闭;-XX:PreBlockSpin,阻塞前的自旋次数,默认值 10。Java 6 开始,旧的 -XX:+UseSpinning 和 -XX:PreBlockSpin 等自旋 JVM 参数选项不再有效,Java 7 发布后,相关参数被删除。
  • 2006.12,Java 6 发布,HotSpot 的 Monitor 内部的互斥锁实现的锁等待策略改为“自适应自旋后阻塞”(adaptive spin-then-block),自旋策略改为自适应自旋(adaptive spinning),自旋次数在 0 ~ 5000 之间动态调整。每个 Monitor 各自独立维护动态自旋次数,当前的自旋次数根据最近的自旋获得锁的成功/失败率动态调整,如果最近的自旋成功率高,说明当前的自旋也很有可能成功,则尝试更多次数的自旋。若成功率低,则减少自旋次数。最大的自旋次数是 5000。
    • 底层实现函数为 ObjectMonitor::TrySpin_VaryDuration(..),参见源码 objectMonitor.cpp。

park-unpark 同步原语

HotSpot 的 Monitor 同步子系统的实现,除了用于阻塞和唤醒线程的依赖操作系统平台相关的 park-unpark 抽象外,尽量避免使用操作系统原生的同步原语(synchronization primitive)。总体上,Monitor 的实现底层只依赖于 park-unpark 抽象和原子操作。park-unpark 抽象,由 JVM 的 ParkEvent 和 PlatformEvent 类实现,ParkEvent 是 PlatformEvent 的子类,ParkEvent 与操作系统平台无关,PlatformEvent 与操作系统平台相关。ParkEvent 类的实现,参见源码 park.hpp 和 park.cpp。PlatformEvent** 类的实现概括来说:

  • 类 Unix 系统:基于 pthread 的 mutex 互斥锁和条件变量实现。Linux 系统的线程同步底层基于 futex 系统调用,Solaris 系统的线程同步底层基于 lwp_park、lwp_unpark 系统调用。
  • Windows 系统:基于 Windows 的 Event 对象(wiki)实现。

objectMonitor.cpp 代码注释:

The monitor synchronization subsystem avoids the use of native synchronization primitives except for the narrow platform-specific park-unpark abstraction. See the comments in os_solaris.cpp regarding the semantics of park-unpark. Put another way, this monitor implementation depends only on atomic operations and park-unpark.

os_solaris.cpp 代码注释:

ObjectMonitor park-unpark infrastructure
We implement Solaris and Linux PlatformEvents with the obvious condvar-mutex-flag triple. Another alternative that works quite well is pipes: Each PlatformEvent consists of a pipe-pair. The thread associated with the PlatformEvent calls park(), which reads from the input end of the pipe. Unpark() writes into the other end of the pipe. The write-side of the pipe must be set NDELAY. Unfortunately pipes consume a large # of handles. Native solaris lwp_park() and lwp_unpark() work nicely, too. Using pipes for the 1st few threads might be workable, however.

park-unpark 同步原语的具体实现:

  • 阻塞线程:调用 ParkEvent::park() 或 ParkEvent::park(jlong millis),实际调用与操作系统相关的父类实现的 os::PlatformEvent::park() 或 os::PlatformEvent::park(jlong millis)
    • 类 Unix 系统:通过调用 POSIX 函数 pthread_cond_wait 或 pthread_cond_timedwait(man) 阻塞线程,等待条件是事件数大于等于 0,在阻塞线程前先调用 pthread_mutex_lock 获取 mutex 互斥锁(参见源码 os_linux.cpp、os_bsd.cpp、os_solaris.cpp)
    • Windows 系统:通过调用函数 WaitForSingleObject(doc)阻塞线程(参见源码 os_windows.cpp)
  • 唤醒线程:调用 ParkEvent::unpark(),实际调用与操作系统相关的父类实现的 os::PlatformEvent::unpark()
    • 类 Unix 系统:将等待条件的事件数设置为 1,然后通过调用 POSIX 函数 pthread_cond_signal 唤醒线程,在唤醒线程前先调用 pthread_mutex_lock 获取 mutex 互斥锁(参见源码 os_linux.cpp、os_bsd.cpp、os_solaris.cpp)
    • Windows 系统:通过调用函数 SetEvent(doc)唤醒线程(参见源码 os_windows.cpp)

JDK 1.5 开始引入的 java.util.concurrent 包下包含 LockSupport 类,LockSupport 类提供 LockSupport.park() 和 LockSupport.unpark(..) 等静态方法,将 HotSpot 虚拟机的 park-unpark 同步原语暴露到 JDK 层。具体实现上:

  • LockSupport.park() 方法底层调用 sun.misc.Unsafe.park(),Unsafe.park() 在 JVM 层的调用 unsafe.cpp 下的 Unsafe_Park(),最后调用 ParkEvent::park()(参见源码 unsafe.cpp)
  • LockSupport.unpark() 方法底层调用 sun.misc.Unsafe.unpark(),Unsafe.unpark() 在 JVM 层的调用 unsafe.cpp 下的 Unsafe_Unpark(),最后调用 ParkEvent::unpark()(参见源码 unsafe.cpp)。

j.u.c 包下的核心类,比如 AbstractQueuedSynchronizer (AQS) 等,底层的线程阻塞和唤醒都基于 LockSupport 实现。

基于 ReentrantLock 线程同步

ReentrantLock 类是 JDK 1.5 开始引入的,在 java.util.concurrent 包中定义,提供 synchronized 内置互斥锁类似的互斥锁语义,被称为显示互斥锁,同时也可以关联条件变量。synchronized 内置互斥锁和 Object 的 wait、notify、notifyAll 条件变量相关方法组合构造 Java 内置的 Monitor。Condition 类提供 Monitor 风格的 await、signal 和 signalAll 操作方法,与 ReentrantLock 组合提供 Monitor 类似的功能。synchronized 和 ReentrantLock 的区别对照,如下表所示:

synchronized 同步 ReentrantLock 同步
支持时间 最早版本的 Java(1995.05) JDK 1.5 开始(2004.04)
实现层级 JVM 层,Java 语法级内置 JDK 层,基于 JDK 标准库的 AQS 框架实现
加解锁方式 隐式,在同步语句或方法的出入口自动执行 显式,必须显示调用 lock 和 unlock 方法
条件变量 关联单个隐式的条件变量 关联多个显式的条件变量
锁等待策略 自适应自旋后阻塞 立即阻塞
排队公平性 非公平 支持非公平(默认)和公平
可重入性 可重入 可重入
优缺点 更易用 功能更全面,支持公平的、非阻塞的、可定时的、可中断的锁请求

ReentrantLock 相对于 synchronized,性能相当,但是更灵活,功能更全面,不过容易使用出错。当需要一些高级功能时才应该使用 ReentrantLock,这些功能包括:非阻塞的、可定时的、与可中断的锁获取操作,公平队列等。否则,还是应该优先使用 synchronized。

互斥锁 ReentrantLock 类实现 Lock 接口,Lock 接口定义如下:

1
2
3
4
5
6
7
8
9
10
11
12
// 获取锁。
void lock()
// 仅在调用时锁为空闲状态才获取该锁。
boolean tryLock()
// 如果锁在给定的等待时间内空闲,并且当前线程未被中断,则获取锁。
boolean tryLock(long time, TimeUnit unit) throws InterruptedException
// 如果当前线程未被中断,则获取锁。
void lockInterruptibly() throws InterruptedException
// 释放锁。
void unlock()
// 返回绑定到此 Lock 实例的新 Condition 实例。
Condition newCondition()
  • tryLock(),非阻塞的获取锁尝试。若锁可用,则获取锁成功,并立即返回 true;若锁不可用,则获取锁失败,并立即返回 false。
  • tryLock(long time, TimeUnit unit),定时的获取锁尝试。若锁可用,则获取锁成功,并立即返回 true;若锁不可用,则阻塞当前线程,直到锁由当前线程获得,或其他线程中断当前线程,或已超过指定的等待时间。
  • lockInterruptibly(),可中断的锁请求。若锁可用,则获取锁成功,并立即返回 true;若锁不可用,则阻塞当前线程,直到锁由当前线程获得,或其他线程中断当前线程。

ReentrantLock 的构造方法支持创建非公平(默认)和公平两种版本的互斥锁。

1
2
3
4
// 创建锁实例,等价于 ReentrantLock(false)
public ReentrantLock()
// 创建锁实例,参数 fair 用于控制是否使用公平排队策略
public ReentrantLock(boolean fair)

非公平版的 ReentrantLock,调用 lock()、tryLock()、tryLock(time, unit) 或 lockInterruptibly() 方法,允许当前线程插队(barging),不管锁竞争等待队列中是否存在比当前线程等待时间更长的其他线程,总是立即尝试竞争锁。而公平版的 ReentrantLock,调用获取锁方法,只有在锁竞争等待队列中不存在比当前线程等待时间更长的其他线程时,才会尝试竞争锁。需要注意的是,不管是公平版还是非公平版的 ReentrantLock,tryLock() 方法总是非公平插队竞争锁。采用非公平的排队策略,相对于公平排队,有更高的吞吐量。

AQS 与 ReentrantLock 实现原理

j.u.c 包下的锁和同步器多数都是基于 AbstractQueuedSynchronizer(AQS,抽象队列同步器)实现[14:1][25],包括 ReentrantLock、ReadWriteLock、Semaphore、CountDownLatch、CyclicBarrier 等。

AbstractQueuedSynchronizer 类定义的核心字段(参见源码 AbstractQueuedSynchronizer.java):

  • 同步状态(synchronization state):state 字段值为 0,表示无锁状态,值非 0,表示持有锁状态。加锁和加锁时,需要对 state 字段执行 CAS 原子操作。对于互斥锁 ReentrantLock,state 值表示当前线程的重入次数。
    • 字段定义:private volatile int state;
  • 当前持有独占锁的线程(owner):若值为 null,表示无线程占有锁。
    • 字段定义:private transient Thread exclusiveOwnerThread;
  • 锁竞争等待队列(wait queue),也叫同步队列(sync queue),出入队采用 FIFO 方式。
    • 字段定义:private transient volatile Node head; 和 private transient volatile Node tail;

Node 类是 AQS 的内部类,维护的字段有(参见源码 AbstractQueuedSynchronizer.java):

  • Thread thread 字段:节点关联的等待线程
  • int waitStatus 字段:等待状态,可能的状态值有:0、CANCELLED (1)、SIGNAL (-1)、CONDITION (-2)、PROPAGATE (-3)
    • CANCELLED (1):表明当前节点因为超时或中断被取消
    • SIGNAL (-1):表明当前节点的继承人线程需要被唤醒
    • CONDITION (-2):表明当前节点在条件变量等待队列中,若将节点从条件变量等待队列移到同步队列,等待状态会被改为 0
    • PROPAGATE (-3):用于读写锁
  • Node prev 和 Node next 字段:用于构造队列底层的链表结构

ConditionObject 类是Condition 接口的实现类,该类是 AQS 的内部类,用于维护 FIFO 的条件变量等待队列,定义的字段有:private transient Node firstWaiter; 和 private transient Node lastWaiter;(参见源码 AbstractQueuedSynchronizer.java)。

基于 ReentrantLock 和 Condition 的 Monitor 的底层实现,如下图所示。图中线程 A 持有锁,线程 B、线程 C、线程 D,竞争锁失败,在竞争等待队列中阻塞等待。如果线程 A 释放锁,线程 B 会被选为继承人线程。唤醒后的继承人线程,尝试竞争锁,若成功,移出锁等待队列(dequeue),若失败,调用 park() 阻塞自己。

基于 ReentrantLock 和 Condition 的 Monitor 的底层实现

AQS 的锁竞争等待队列的入队和出队示例,如下图所示:

AQS 的锁竞争等待队列的入队和出队示例

图说明:

  • (a) 线程 A 持有锁,线程 B、线程 C 和线程 D 竞争锁失败并阻塞自己,其中线程 C 因竞争锁超时取消。
    • 线程 B 尝试获取锁,竞争锁失败后加到锁竞争等待队列的 tail(新加入的节点的 waitStatus 字段值默认为 0),即加入队列(enqueue),同时把其 prev 节点的 waitStatus 字段改为 SIGNAL,并调用 LockSupport.park(..) 阻塞自己。
    • 线程 C 以定时的方式尝试获取锁,竞争锁失败后加到锁竞争等待队列的 tail,并把其 prev 节点的 waitStatus 字段改为 SIGNAL,并调用 LockSupport.parkNanos(..) 阻塞自己。因为阻塞超时被唤醒,如果唤醒后重新竞争锁还是失败,将 waitStatus 字段改为 CANCELLED;如果竞争锁成功,则移出队列(dequeue)(图中仅展示线程 C 竞争锁失败后被取消的情况)。
    • 线程 D 尝试获取锁,竞争锁失败后加到锁竞争等待队列,并阻塞自己。
  • (b) 线程 A 释放锁,选择线程 B 为继承人线程,线程 B 竞争锁成功。线程 A 释放锁,调用 unpark() 唤醒 head 的 next 节点的线程,即线程 B。线程 B 被唤醒后,检查 prev 节点是否是 head,如果是就尝试获取锁,获取锁成功后,将自己设置为 head(dummy 节点),即移出队列(dequeue)。
  • (c) 线程 A 释放锁,选择线程 B 为继承人线程,线程 B 竞争锁失败,被最新尝试竞争锁的线程 E 插队。线程 A 释放锁,调用 LockSupport.unpark() 唤醒 head 的 next 节点的线程,即线程 B。线程 B 被唤醒后,检查 prev 节点是否是 head,如果是就尝试获取锁。同时最新的线程 E 也尝试竞争锁。线程 E 竞争锁成功,线程 B 竞争锁失败,线程 B 被线程 E 插队(barging)。

继承人线程的选择:释放锁时,如果 head 的 next 节点的值是 null 或 waitStatus 字段值是 CANCELLED,则从 tail 节点开始反向遍历查找未取消的节点,选择距离 head 最近的未取消的节点为继承人线程。

锁竞争等待队列与队列自旋锁:在 AQS 源码注释和论文中都提到,AQS 等待队列是 CLH 锁队列的变体。

  • 队列自旋锁:原始的 CLH 锁队列是为了解决自旋锁的可扩展性问题而提出的,类似于 MCS 锁队列。CLH 锁和 MCS 锁,被称为队列自旋锁(queued spin lock 或 queue-based spin lock)。典型的自旋锁的实现(如 TAS 自旋锁和 Ticket 自旋锁)是多线程在全局单个同步状态变量上自旋等待,这种自旋锁的实现方式被称为采用中心化算法(centralized algorithm)。采用中心化算法的自旋锁,导致这个全局同步状态变量成为竞争热点,当持有锁的线程释放锁时,全部线程都去竞争这个同步状态变量,而只有一个线程竞争成功,在多处理器架构下,这个过程会出现大量的 CPU cache 失效,产生大量的 CPU cache 一致性协议消息的流量,结果导致 CPU 核数越多而性能(吞吐量)却越差,这种方式实现自旋锁也被称为不可扩展的自旋锁(non-scalable spin lock)。为了让自旋锁具有可扩展性,队列自旋锁的实现方式是各个线程在各自单独的同步状态变量上自旋等待,各个等待线程以 FIFO 队列方式相连接,当持有锁的线程释放锁时,只有等待时间最久的线程上的同步状态变量会变为可用,并让该线程获得锁。最早版的 Linux 内核 spinlock 实现采用 TAS 自旋锁;Linux 2.6.25 开始(2008.04)改为采用 Ticket 自旋锁,解决 TAS 自旋锁的排队不公平问题;Linux 3.15 开始(2014.06)改为采用 MCS 队列锁,解决 TAS 自旋锁的不可扩展问题。关于队列自旋锁更详细的介绍,可以阅读[5:1][6:1],本文不再展开。
  • AQS 等待队列与 CLH 锁队列的区别:AQS 实现的是阻塞锁,而 CLH 锁是自旋锁,自旋锁的可扩展性问题在 AQS 上不存在。AQS 的加解锁基于全局同步状态(state 字段),而 CLH 锁的加解锁基于队列节点上的各自单独的同步状态变量。笔者认为,虽然官方认为 AQS 等待队列是 CLH 锁队列的变体,但实际上两者差别较大,AQS 锁与队列自旋锁之间大相径庭,将 AQS 等待队列归类为 CLH 锁队列的变体的说法容易引起误导。
  • 注意:j.u.c 包下基于 AQS 实现的锁的等待策略都是立即阻塞,并不是自旋后阻塞,有些中文文章认为 AQS 锁是自旋等待,实际上是错误的。源码实现上,lock() 方法在 CAS 原子修改 state 字段失败总计两次后就立即阻塞。

AbstractQueuedSynchronizer 是抽象类,其实现类需要重定义的方法有以下 5 个:tryAcquire(int)、tryRelease(int)、tryAcquireShared(int)、tryReleaseShared(int) 和 isHeldExclusively()。这 5 个方法虽然没有声明为 abstract,但是默认的实现都是直接抛出异常 UnsupportedOperationException。tryAcquire、tryRelease 和 isHeldExclusively 方法在实现独占模式的锁(如互斥锁)时需要重新定义,tryAcquireShared 和 tryReleaseShared 方法在实现共享模式的锁(如读写锁)时需要重新定义,读写锁本文不讨论。

基于 AQS 实现的 ReentrantLock 的实现源码相对较复杂,先看下在 AbstractQueuedSynchronizer 的 javadoc 注释中给出的示例类 Mutex,代码如下所示。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
public class Mutex implements Lock {

private static class Sync extends AbstractQueuedSynchronizer {

@Override
protected boolean isHeldExclusively() {
return getState() == 1;
}

// 尝试非公平竞争锁
@Override
public boolean tryAcquire(int acquires) {
if (compareAndSetState(0, 1)) {
setExclusiveOwnerThread(Thread.currentThread());
return true;
}
return false;
}

@Override
protected boolean tryRelease(int releases) {
setExclusiveOwnerThread(null);
setState(0);
return true;
}

Condition newCondition() {
return new ConditionObject();
}
}

private final Sync sync = new Sync();

public void lock() {
sync.acquire(1);
}

// 尝试非公平竞争锁
public boolean tryLock() {
return sync.tryAcquire(1);
}

public void unlock() {
sync.release(1);
}

public void lockInterruptibly() throws InterruptedException {
sync.acquireInterruptibly(1);
}

public boolean tryLock(long timeout, TimeUnit unit) throws InterruptedException {
return sync.tryAcquireNanos(1, unit.toNanos(timeout));
}

public boolean isLocked() {
return sync.isHeldExclusively();
}

public Condition newCondition() {
return sync.newCondition();
}
}

上面的 Mutex 示例类是不可重入的、非公平的互斥锁,AbstractQueuedSynchronizer 是抽象类的实现类是 Sync,覆盖了 tryAcquire、tryRelease 和 isHeldExclusively 方法。

Mutex 的 lock() 方法的实现会调用 AQS 的 acquire() 方法,acquire() 方法的实现逻辑的文字描述如下:

1
2
3
4
5
while (synchronization state does not allow acquire) {
enqueue current thread if not already queued;
possibly block current thread;
}
dequeue current thread if it was queued;

源码实现上,AQS 的 acquire() 方法内部执行加锁操作调用的是 tryAcquire 方法,文字描述中 while 循环相当于 while(!tryAcquire(arg))。若竞争锁失败,将当前线程加入锁竞争等待队列(enqueue current thread)。阻塞当前线程(block current thread),调用 LockSupport.park(..),JVM 层调用 ParkEvent::park()。当前线程被阻塞后,如果持有锁的线程释放锁,被阻塞线程可能会被选为继承人线程,并被唤醒。被唤醒的线程,会继续执行在阻塞处之后的代码,即会继续执行 tryAcquire 的 while 循环。若成功获取锁,则退出 while 循环,然后将当前线程移出锁等待队列(dequeue current thread)。若竞争锁失败,调用 LockSupport.park(..) 阻塞自己。acquire() 方法的源码实现参见 AbstractQueuedSynchronizer.java。

Mutex 的 unlock() 方法的实现会调用 AQS 的 release() 方法,release() 方法的实现逻辑的文字描述如下:

1
2
3
update synchronization state;
if (state may permit a blocked thread to acquire)
unblock one or more queued threads;

源码实现上,AQS 的 release() 方法内部执行解锁操作调用的是 tryRelease 方法。唤醒继承人线程,调用 LockSupport.unpark(..),JVM 层调用 ParkEvent::unpark()。release() 方法的源码实现参见 AbstractQueuedSynchronizer.java。

如果要把 Mutex 改为不可重入的、公平的互斥锁,只需要把 tryAcquire 方法改写为:

1
2
3
4
5
6
7
8
@Override
public boolean tryAcquire(int acquires) {
if (!hasQueuedPredecessors() && compareAndSetState(0, 1)) {
setExclusiveOwnerThread(Thread.currentThread());
return true;
}
return false;
}

其中,hasQueuedPredecessors() 方法是在 AbstractQueuedSynchronizer 中的定义实现的方法,用于判断在锁竞争等待队列中是否存在比当前线程等待时间更长的其他线程。

与 Mutex 示例类类似,ReentrantLock 内部定义了两个 AbstractQueuedSynchronizer 的实现类, NonfairSync 和 FairSync。NonfairSync 用于实现非公平版的 ReentrantLock,FairSync 用于实现公平版的 ReentrantLock。与 Mutex 不同的是,ReentrantLock 是可重入的,state 值表示当前线程的重入次数。FairSync 的 tryAcquire 方法的实现源码如下(参见源码 ReentrantLock.java):

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
protected final boolean tryAcquire(int acquires) {
final Thread current = Thread.currentThread();
int c = getState();
if (c == 0) {
if (!hasQueuedPredecessors() &&
compareAndSetState(0, acquires)) {
setExclusiveOwnerThread(current);
return true;
}
} else if (current == getExclusiveOwnerThread()) {
int nextc = c + acquires;
if (nextc < 0)
throw new Error("Maximum lock count exceeded");
setState(nextc);
return true;
}
return false;
}

参考资料


  1. 程序设计语言:实践之路,Michael L. Scott,第3版2009,豆瓣:第12章 并发 ↩︎ ↩︎ ↩︎

  2. 操作系统导论,Arpaci-Dusseau,2018,豆瓣:第2部分 并发 ↩︎

  3. 2011,Michael L. Scott: Synchronization. Encyclopedia of Parallel Computing 2011: 1989-1996,dblp、doi ↩︎

  4. 2011,Danny Hendler: Non-Blocking Algorithms. Encyclopedia of Parallel Computing 2011: 1321-1329,dblp、doi ↩︎

  5. 多处理器编程的艺术,Maurice Herlihy & Nir Shavit,第2版2020,豆瓣 ↩︎ ↩︎

  6. Shared-Memory Synchronization, Michael L. Scott, 2013,豆瓣 ↩︎ ↩︎

  7. Java 并发编程实战,Brian Goetz & etc,2006,豆瓣(多位作者都是“JSR-166: Concurrency Utilities”规范的专家组成员) ↩︎

  8. HotSpot Runtime Overview https://openjdk.org/groups/hotspot/docs/RuntimeOverview.html(概括性介绍 HotSpot,内容包括 Synchronization、Thread Management 等) ↩︎ ↩︎

  9. 2008-04 Synchronization and Object Locking https://wiki.openjdk.org/display/HotSpot/Synchronization ↩︎ ↩︎

  10. 2005-10 Dave Dice: Synchronization (with a focus on J2SE) (slides, 89p) https://web.archive.org/web/0/https://blogs.oracle.com/dave/resource/synchronization-public2.pdf https://speakerdeck.com/xy/synchronization-public2(该 slides 是在 Hotspot 源码注释中被推荐阅读的 slides,作者是 Sun 公司的 Hotspot 工程师,是 Hotspot 同步子系统的核心实现者之一) ↩︎

  11. 2006-08 Dave Dice: Synchronization in Java SE 6 (HotSpot) (slides, 15p) https://web.archive.org/web/0/http://blogs.oracle.com/dave/resource/MustangSync.pdf https://speakerdeck.com/xy/mustang-sync(该 slides 是在 Hotspot 源码注释中被推荐阅读的 slides) ↩︎

  12. 2006-08 Dave Dice: Lets say you're interested in using HotSpot as a vehicle for synchronization research ... https://web.archive.org/web/0/http://blogs.sun.com/dave/entry/lets_say_you_re_interested ↩︎

  13. 2015-10 David Buck: HotSpot Synchronization: A Peek Under the Hood (JavaOne 2015, slides, 100p) https://www.slideshare.net/DavidBuck7/hotspot-synchronization-a-peek-under-the-hood-javaone-2015-con7570 ↩︎ ↩︎

  14. 2015-06 Doug Lea: The Design and Engineering of Concurrency Libraries (slides, 91p) https://speakerdeck.com/xy/doug-lea-concurrency-libraries(作者是 JSR-166 规范的专家组组长、j.u.c 包的主要贡献者,该 slides 概括性介绍 j.u.c 包的设计和实现) ↩︎ ↩︎

  15. 1998,David F. Bacon, etc: Thin Locks: Featherweight Synchronization for Java. PLDI 1998: 258-268,dblp,semanticscholar(作者来自 IBM 研究院,论文提出瘦锁技术) ↩︎

  16. 1999,Ole Agesen, etc: An Efficient Meta-Lock for Implementing Ubiquitous Synchronization. OOPSLA 1999: 207-222,dblp、semanticscholar(作者来自 Sun 公司) ↩︎

  17. 2006,Kenneth B. Russell, David Detlefs: Eliminating Synchronization-Related Atomic Operations with Biased Locking and Bulk Rebiasing. OOPSLA 2006: 263-272:dblp、semanticscholar、slides(作者来自 Sun 公司,论文主要阐述 Java 6 的 HotSpot 虚拟机实现的偏向锁,同时也介绍了轻量级锁的实现) ↩︎ ↩︎ ↩︎

  18. 2002,Kiyokuni Kawachiya, etc: Lock Reservation: Java Locks can Mostly do without Atomic Operations. OOPSLA 2002: 130-141,dblp、semanticscholar(作者来自 IBM 研究院,论文提出锁保留技术) ↩︎

  19. 2014,Marcus Larsson: Evaluating and improving biased locking in the HotSpot virtual machine. KTH Master Thesis,pdf ↩︎

  20. 2003-05 The right way to yield https://lwn.net/Articles/31462/ ↩︎

  21. 2016-09 Infographics: Operation Costs in CPU Clock Cycles http://ithare.com/infographics-operation-costs-in-cpu-clock-cycles/ ↩︎

  22. Joseph R. Eykholt, etc: Beyond Multiprocessing: Multithreading the SunOS Kernel. USENIX Summer 1992,dblp、semanticscholar(论文介绍 Solaris 2.0 内核的多线程技术) ↩︎ ↩︎

  23. Solaris 内核结构(Solaris Internals),Richard McDougall & Jim Mauro,第2版2006,豆瓣:第17章 锁和同步,17.5 互斥锁 ↩︎

  24. What is PTHREAD_MUTEX_ADAPTIVE_NP https://stackoverflow.com/q/19863734/689699 ↩︎

  25. 2005,Doug Lea: The java.util.concurrent Synchronizer Framework. Sci. Comput. Program. 58(3): 293-309 (2005),dblp(作者是 JSR-166 规范的专家组组长、j.u.c 包的主要贡献者,论文介绍 AbstractQueuedSynchronizer 框架) ↩︎