c4ad40cd5d5e098b6242aaa362911f5414e8af32
[musl] / arch / powerpc / atomic.h
1 #ifndef _INTERNAL_ATOMIC_H
2 #define _INTERNAL_ATOMIC_H
3
4 #include <stdint.h>
5 #include <endian.h>
6
7 static inline int a_ctz_l(unsigned long x)
8 {
9         static const char debruijn32[32] = {
10                 0, 1, 23, 2, 29, 24, 19, 3, 30, 27, 25, 11, 20, 8, 4, 13,
11                 31, 22, 28, 18, 26, 10, 7, 12, 21, 17, 9, 6, 16, 5, 15, 14
12         };
13         return debruijn32[(x&-x)*0x076be629 >> 27];
14 }
15
16 static inline int a_ctz_64(uint64_t x)
17 {
18         uint32_t y = x;
19         if (!y) {
20                 y = x>>32;
21                 return 32 + a_ctz_l(y);
22         }
23         return a_ctz_l(y);
24 }
25
26 static inline int a_cas(volatile int *p, int t, int s)
27 {
28         __asm__("\n"
29                 "       sync\n"
30                 "1:     lwarx %0, 0, %4\n"
31                 "       cmpw %0, %2\n"
32                 "       bne 1f\n"
33                 "       stwcx. %3, 0, %4\n"
34                 "       bne- 1b\n"
35                 "       isync\n"
36                 "1:     \n"
37                 : "=&r"(t), "+m"(*p) : "r"(t), "r"(s), "r"(p) : "cc", "memory" );
38         return t;
39 }
40
41 static inline void *a_cas_p(volatile void *p, void *t, void *s)
42 {
43         return (void *)a_cas(p, (int)t, (int)s);
44 }
45
46 static inline long a_cas_l(volatile void *p, long t, long s)
47 {
48         return a_cas(p, t, s);
49 }
50
51
52 static inline int a_swap(volatile int *x, int v)
53 {
54         int old;
55         do old = *x;
56         while (a_cas(x, old, v) != old);
57         return old;
58 }
59
60 static inline int a_fetch_add(volatile int *x, int v)
61 {
62         int old;
63         do old = *x;
64         while (a_cas(x, old, old+v) != old);
65         return old;
66 }
67
68 static inline void a_inc(volatile int *x)
69 {
70         a_fetch_add(x, 1);
71 }
72
73 static inline void a_dec(volatile int *x)
74 {
75         a_fetch_add(x, -1);
76 }
77
78 static inline void a_store(volatile int *p, int x)
79 {
80         *p=x;
81 }
82
83 static inline void a_spin()
84 {
85 }
86
87 static inline void a_crash()
88 {
89         *(volatile char *)0=0;
90 }
91
92 static inline void a_and(volatile int *p, int v)
93 {
94         int old;
95         do old = *p;
96         while (a_cas(p, old, old&v) != old);
97 }
98
99 static inline void a_or(volatile int *p, int v)
100 {
101         int old;
102         do old = *p;
103         while (a_cas(p, old, old|v) != old);
104 }
105
106 static inline void a_or_l(volatile void *p, long v)
107 {
108         a_or(p, v);
109 }
110
111 static inline void a_and_64(volatile uint64_t *p, uint64_t v)
112 {
113         union { uint64_t v; uint32_t r[2]; } u = { v };
114         a_and((int *)p, u.r[0]);
115         a_and((int *)p+1, u.r[1]);
116 }
117
118 static inline void a_or_64(volatile uint64_t *p, uint64_t v)
119 {
120         union { uint64_t v; uint32_t r[2]; } u = { v };
121         a_or((int *)p, u.r[0]);
122         a_or((int *)p+1, u.r[1]);
123 }
124
125 #endif