nsz Git - musl/blob - arch/arm/atomic.h

   1 #ifndef _INTERNAL_ATOMIC_H
   2 #define _INTERNAL_ATOMIC_H
   3
   4 #include <stdint.h>
   5
   6 static inline int a_ctz_l(unsigned long x)
   7 {
   8         static const char debruijn32[32] = {
   9                 0, 1, 23, 2, 29, 24, 19, 3, 30, 27, 25, 11, 20, 8, 4, 13,
  10                 31, 22, 28, 18, 26, 10, 7, 12, 21, 17, 9, 6, 16, 5, 15, 14
  11         };
  12         return debruijn32[(x&-x)*0x076be629 >> 27];
  13 }
  14
  15 static inline int a_ctz_64(uint64_t x)
  16 {
  17         uint32_t y = x;
  18         if (!y) {
  19                 y = x>>32;
  20                 return 32 + a_ctz_l(y);
  21         }
  22         return a_ctz_l(y);
  23 }
  24
  25 static inline int a_cas(volatile int *p, int t, int s)
  26 {
  27         int old;
  28         for (;;) {
  29                 if (!((int (*)(int, int, volatile int *))0xffff0fc0)(t, s, p))
  30                         return t;
  31                 if ((old=*p) != t)
  32                         return old;
  33         }
  34 }
  35
  36 static inline void *a_cas_p(volatile void *p, void *t, void *s)
  37 {
  38         return (void *)a_cas(p, (int)t, (int)s);
  39 }
  40
  41 static inline long a_cas_l(volatile void *p, long t, long s)
  42 {
  43         return a_cas(p, t, s);
  44 }
  45
  46 static inline int a_swap(volatile int *x, int v)
  47 {
  48         int old;
  49         do old = *x;
  50         while (a_cas(x, old, v) != old);
  51         return old;
  52 }
  53
  54 static inline int a_fetch_add(volatile int *x, int v)
  55 {
  56         int old;
  57         do old = *x;
  58         while (a_cas(x, old, old+v) != old);
  59         return old;
  60 }
  61
  62 static inline void a_inc(volatile int *x)
  63 {
  64         a_fetch_add(x, 1);
  65 }
  66
  67 static inline void a_dec(volatile int *x)
  68 {
  69         a_fetch_add(x, -1);
  70 }
  71
  72 static inline void a_store(volatile int *p, int x)
  73 {
  74         *p=x;
  75 }
  76
  77 static inline void a_spin()
  78 {
  79 }
  80
  81 static inline void a_crash()
  82 {
  83         *(volatile char *)0=0;
  84 }
  85
  86 static inline void a_and(volatile int *p, int v)
  87 {
  88         int old;
  89         do old = *p;
  90         while (a_cas(p, old, old&v) != old);
  91 }
  92
  93 static inline void a_or(volatile int *p, int v)
  94 {
  95         int old;
  96         do old = *p;
  97         while (a_cas(p, old, old|v) != old);
  98 }
  99
 100 static inline void a_and_64(volatile uint64_t *p, uint64_t v)
 101 {
 102         union { uint64_t v; uint32_t r[2]; } u = { v };
 103         a_and((int *)p, u.r[0]);
 104         a_and((int *)p+1, u.r[1]);
 105 }
 106
 107 static inline void a_or_64(volatile uint64_t *p, uint64_t v)
 108 {
 109         union { uint64_t v; uint32_t r[2]; } u = { v };
 110         a_or((int *)p, u.r[0]);
 111         a_or((int *)p+1, u.r[1]);
 112 }
 113
 114 #endif