nsz Git - musl/blob - arch/arm/atomic_arch.h

   1 __attribute__((__visibility__("hidden")))
   2 extern const void *__arm_atomics[3]; /* gettp, cas, barrier */
   3
   4 #if ((__ARM_ARCH_6__ || __ARM_ARCH_6K__ || __ARM_ARCH_6ZK__) && !__thumb__) \
   5  || __ARM_ARCH_7A__ || __ARM_ARCH_7R__ ||  __ARM_ARCH >= 7
   6
   7 #define a_ll a_ll
   8 static inline int a_ll(volatile int *p)
   9 {
  10         int v;
  11         __asm__ __volatile__ ("ldrex %0, %1" : "=r"(v) : "Q"(*p));
  12         return v;
  13 }
  14
  15 #define a_sc a_sc
  16 static inline int a_sc(volatile int *p, int v)
  17 {
  18         int r;
  19         __asm__ __volatile__ ("strex %0,%1,%2" : "=&r"(r) : "r"(v), "Q"(*p) : "memory");
  20         return !r;
  21 }
  22
  23 #if __ARM_ARCH_7A__ || __ARM_ARCH_7R__ ||  __ARM_ARCH >= 7
  24
  25 #define a_barrier a_barrier
  26 static inline void a_barrier()
  27 {
  28         __asm__ __volatile__ ("dmb ish" : : : "memory");
  29 }
  30
  31 #endif
  32
  33 #define a_pre_llsc a_barrier
  34 #define a_post_llsc a_barrier
  35
  36 #else
  37
  38 #define a_cas a_cas
  39 static inline int a_cas(volatile int *p, int t, int s)
  40 {
  41         for (;;) {
  42                 register int r0 __asm__("r0") = t;
  43                 register int r1 __asm__("r1") = s;
  44                 register volatile int *r2 __asm__("r2") = p;
  45                 int old;
  46                 __asm__ __volatile__ (
  47                         "bl __a_cas"
  48                         : "+r"(r0) : "r"(r1), "r"(r2)
  49                         : "memory", "r3", "lr", "ip", "cc" );
  50                 if (!r0) return t;
  51                 if ((old=*p)!=t) return old;
  52         }
  53 }
  54
  55 #endif
  56
  57 #ifndef a_barrier
  58 #define a_barrier a_barrier
  59 static inline void a_barrier()
  60 {
  61         __asm__ __volatile__("bl __a_barrier"
  62                 : : : "memory", "cc", "ip", "lr" );
  63 }
  64 #endif
  65
  66 #define a_crash a_crash
  67 static inline void a_crash()
  68 {
  69         __asm__ __volatile__(
  70 #ifndef __thumb__
  71                 ".word 0xe7f000f0"
  72 #else
  73                 ".short 0xdeff"
  74 #endif
  75                 : : : "memory");
  76 }