Loading...
墨滴

杜宝坤

2021/10/14  阅读:20  主题:默认主题

原子操作的实现原理以及CAS

    人生,就是一个从简单到复杂,再从复杂到简单的过程,很多一辈子都停留在某个阶段,而无法自拔,或者根本不愿自拔,正所谓“见山是山,见水是水。见山不是山,见水不是水。见山石山,见水是水”。

    最近分享的都是算法方面的知识,好久没写工程了。本文主要分享下原子操作的实现原理,并且介绍下CAS的相关知识,希望大家喜欢。

    1 背景

    定义 :原子操作的含义是“一个或一系列不可被中断的操作”。单处理器上来说,处理起来还是比较容易的。但是在多处理器上、多级缓存的机器下实现原子操作就变的非常复杂,并发访问、一致性等问题都需要解决。

    2 处理器如何实现1

    首先处理器能自动保证基本的内存操作是原子性的。表示当一个处理器读取一个字节时,其他处理器不能访问这个字节的内存地址。但是对于复杂的内存操作处理器是不能自动保证其原子性的,比如跨总线宽度、跨多个缓存行和跨页表的访问。但是,处理器提供了总线锁定和缓存锁定两个机制来保证复杂内存操作的原子性。

    3.处理器如何实现2:总线锁定和缓存锁定

    • 使用总线锁保证原子性

    第一机制是通过总线锁保证原子性。如果多个处理器同时对共享变量进行读改写操作(i++就是经典的读改写操作),那么共享变量就会被多个处理器同时进行操作,这样读改写操作就不是原子的,操作完之后的共享变量的值会和期望的不一致。举个例子,如果i=1,我们进行两次i++操作,我们期望的结果是3,但是有可能结果是2。 原因可能是多个处理器同时从各自的缓存中读取变量i,分别进行加1操作,然后分别写入系统内存中。那么,想要保证读改写共享变量的操作是原子的,就必须保证CPU1读改写共享变量的时候,CPU2不能操作缓存了该共享变量内存地址的缓存。 处理器使用总线锁就是来解决这个问题的。所谓总线锁就是使用处理器提供的一个LOCLK#信号,当一个处理器在总线上输出此信号时,其他处理器的请求将被阻塞住,那么该处理器可以独占共享内存。

    • 使用缓存锁保证原子性

    第二机制是通过缓存锁定来保证原子性。在同一时刻,只需保证对某个内存地址的操作是原子性即可,但总线锁定把CPU和内存之间的通信锁住了,这使得锁定期间,其它处理器不能操作其他内存地址的数据,所以总线锁定的开销比较大,目前处理器在某些场合下使用缓存锁定代替总线锁定来进行优化。频繁使用的内存会缓存在处理器的L1、L2和L3高速缓存里,那么原子操作就可以直接在处理器内部缓存中进行,并不需要声明总线锁,在Pentium6和目前的处理器中可以使用“缓存锁定”的方式来实现复杂的原子性。 所谓“缓存锁定”是指如果共享内存如果被换存在处理器的缓存行中,并且在Lock操作期间被锁定,那么当它执行锁操作回写到内存时,处理器不在总线上声言LOCK#信号,而是修改内部的内存地址,并允许它的缓存一致性机制来保证操作的原子性,因为缓存一致性机制会阻止同时修改由两个以上处理器缓存的内存区域数据,当其他处理器回写已被锁定的缓存行的数据时,会使缓存行无效。

    • 但是有两种情况下处理器不会使用缓存锁定
    1. 第一种情况是:当操作的数据不能被缓存在处理器内部,或操作的数据跨多个缓存行时,则处理器会调用总线锁定。
    2. 第二种情况是:有些处理器不支持缓存锁定。对于Intel486和Pentium处理器,就算锁定的内存区域在处理器的缓存行中也会调用总线锁定。 针对以上两个机制,我们通过Intel处理器提供了很多Lock前缀的指令来实现。例如,位测试和修改指令:BTS、BTR、BTC;交换指令XADD、CMPXCHG,以及其他一些操作数和逻辑指令。被这些指令操作的内存区域就会加锁,导致其他处理器不能同时访问它。

    4.CAS

    在Java中可以通过锁和循环CAS的方式来实现原子操作。

    1. 使用循环CAS实现原子操作 用CAS操作可以不加锁的实现原子操作,如i++操作在多线程下,i处于一种不稳定的状态。使用锁可以解决同步问题,但是也可以使用CAS操作也可以实现操作的原子性。代码如下
    intexpect = a;

    if(a.compareAndSet(expect,a+1)) { 

             doSomeThing1();

    }else{

     doSomeThing2();

    }

    这样如果a的值被改变了a++就不会被执行。按照上面的写法,a!=expect之后,a++就不会被执行,如果我们还是想执行a++操作怎么办,没关系,可以采用while循环

    while(true) {

        intexpect = a;
        
        if(a.compareAndSet(expect, a +1)) {
        
             doSomeThing1();
        
            return
        
         }else
        
             doSomeThing2(); 
        
         }

    }

    采用上面的写法,在没有锁的情况下实现了a++操作,这实际上是一种非阻塞算法。

    CAS有3个操作数,内存值V,旧的预期值A,要修改的新值B。当且仅当预期值A和内存值V相同时,将内存值V修改为B,否则什么都不做。

    成功过程中需要2个步骤:比较this == expect,替换this = update,compareAndSwapInt如何这两个步骤的原子性呢?

    JVM中的CAS操作是利用了处理器提供的CMPXCHG指令实现的。自旋CAS实现的基本思路就是循环进行CAS操作直到成功为止。

    CAS通过调用JNI的代码实现的。JNI:Java Native Interface为JAVA本地调用,允许java调用其他语言。而compareAndSwapInt就是借助C来调用CPU底层指令实现的。程序会根据当前处理器的类型来决定是否为cmpxchg指令添加lock前缀。如果程序是在多处理器上运行,就为cmpxchg指令加上lock前缀(lock cmpxchg)。反之,如果程序是在单处理器上运行,就省略lock前缀(单处理器自身会维护单处理器内的顺序一致性,不需要lock前缀提供的内存屏障效果)。

    杜宝坤

    2021/10/14  阅读:20  主题:默认主题

    作者介绍

    杜宝坤