fix fork of processes with active async io contexts
[musl] / src / internal / pthread_impl.h
1 #ifndef _PTHREAD_IMPL_H
2 #define _PTHREAD_IMPL_H
3
4 #include <pthread.h>
5 #include <signal.h>
6 #include <errno.h>
7 #include <limits.h>
8 #include <sys/mman.h>
9 #include "libc.h"
10 #include "syscall.h"
11 #include "atomic.h"
12 #include "futex.h"
13
14 #include "pthread_arch.h"
15
16 #define pthread __pthread
17
18 struct pthread {
19         /* Part 1 -- these fields may be external or
20          * internal (accessed via asm) ABI. Do not change. */
21         struct pthread *self;
22 #ifndef TLS_ABOVE_TP
23         uintptr_t *dtv;
24 #endif
25         struct pthread *prev, *next; /* non-ABI */
26         uintptr_t sysinfo;
27 #ifndef TLS_ABOVE_TP
28 #ifdef CANARY_PAD
29         uintptr_t canary_pad;
30 #endif
31         uintptr_t canary;
32 #endif
33
34         /* Part 2 -- implementation details, non-ABI. */
35         int tid;
36         int errno_val;
37         volatile int detach_state;
38         volatile int cancel;
39         volatile unsigned char canceldisable, cancelasync;
40         unsigned char tsd_used:1;
41         unsigned char dlerror_flag:1;
42         unsigned char *map_base;
43         size_t map_size;
44         void *stack;
45         size_t stack_size;
46         size_t guard_size;
47         void *result;
48         struct __ptcb *cancelbuf;
49         void **tsd;
50         struct {
51                 volatile void *volatile head;
52                 long off;
53                 volatile void *volatile pending;
54         } robust_list;
55         int h_errno_val;
56         volatile int timer_id;
57         locale_t locale;
58         volatile int killlock[1];
59         char *dlerror_buf;
60         void *stdio_locks;
61
62         /* Part 3 -- the positions of these fields relative to
63          * the end of the structure is external and internal ABI. */
64 #ifdef TLS_ABOVE_TP
65         uintptr_t canary;
66         uintptr_t *dtv;
67 #endif
68 };
69
70 enum {
71         DT_EXITING = 0,
72         DT_JOINABLE,
73         DT_DETACHED,
74 };
75
76 struct __timer {
77         int timerid;
78         pthread_t thread;
79 };
80
81 #define __SU (sizeof(size_t)/sizeof(int))
82
83 #define _a_stacksize __u.__s[0]
84 #define _a_guardsize __u.__s[1]
85 #define _a_stackaddr __u.__s[2]
86 #define _a_detach __u.__i[3*__SU+0]
87 #define _a_sched __u.__i[3*__SU+1]
88 #define _a_policy __u.__i[3*__SU+2]
89 #define _a_prio __u.__i[3*__SU+3]
90 #define _m_type __u.__i[0]
91 #define _m_lock __u.__vi[1]
92 #define _m_waiters __u.__vi[2]
93 #define _m_prev __u.__p[3]
94 #define _m_next __u.__p[4]
95 #define _m_count __u.__i[5]
96 #define _c_shared __u.__p[0]
97 #define _c_seq __u.__vi[2]
98 #define _c_waiters __u.__vi[3]
99 #define _c_clock __u.__i[4]
100 #define _c_lock __u.__vi[8]
101 #define _c_head __u.__p[1]
102 #define _c_tail __u.__p[5]
103 #define _rw_lock __u.__vi[0]
104 #define _rw_waiters __u.__vi[1]
105 #define _rw_shared __u.__i[2]
106 #define _b_lock __u.__vi[0]
107 #define _b_waiters __u.__vi[1]
108 #define _b_limit __u.__i[2]
109 #define _b_count __u.__vi[3]
110 #define _b_waiters2 __u.__vi[4]
111 #define _b_inst __u.__p[3]
112
113 #ifndef TP_OFFSET
114 #define TP_OFFSET 0
115 #endif
116
117 #ifndef DTP_OFFSET
118 #define DTP_OFFSET 0
119 #endif
120
121 #ifdef TLS_ABOVE_TP
122 #define TP_ADJ(p) ((char *)(p) + sizeof(struct pthread) + TP_OFFSET)
123 #define __pthread_self() ((pthread_t)(__get_tp() - sizeof(struct __pthread) - TP_OFFSET))
124 #else
125 #define TP_ADJ(p) (p)
126 #define __pthread_self() ((pthread_t)__get_tp())
127 #endif
128
129 #ifndef tls_mod_off_t
130 #define tls_mod_off_t size_t
131 #endif
132
133 #define SIGTIMER 32
134 #define SIGCANCEL 33
135 #define SIGSYNCCALL 34
136
137 #define SIGALL_SET ((sigset_t *)(const unsigned long long [2]){ -1,-1 })
138 #define SIGPT_SET \
139         ((sigset_t *)(const unsigned long [_NSIG/8/sizeof(long)]){ \
140         [sizeof(long)==4] = 3UL<<(32*(sizeof(long)>4)) })
141 #define SIGTIMER_SET \
142         ((sigset_t *)(const unsigned long [_NSIG/8/sizeof(long)]){ \
143          0x80000000 })
144
145 void *__tls_get_addr(tls_mod_off_t *);
146 hidden int __init_tp(void *);
147 hidden void *__copy_tls(unsigned char *);
148 hidden void __reset_tls();
149
150 hidden void __membarrier_init(void);
151 hidden void __dl_thread_cleanup(void);
152 hidden void __testcancel();
153 hidden void __do_cleanup_push(struct __ptcb *);
154 hidden void __do_cleanup_pop(struct __ptcb *);
155 hidden void __pthread_tsd_run_dtors();
156
157 hidden void __pthread_key_delete_synccall(void (*)(void *), void *);
158 hidden int __pthread_key_delete_impl(pthread_key_t);
159
160 extern hidden volatile size_t __pthread_tsd_size;
161 extern hidden void *__pthread_tsd_main[];
162 extern hidden volatile int __aio_fut;
163 extern hidden volatile int __eintr_valid_flag;
164
165 extern hidden void __aio_atfork(int);
166
167 hidden int __clone(int (*)(void *), void *, int, void *, ...);
168 hidden int __set_thread_area(void *);
169 hidden int __libc_sigaction(int, const struct sigaction *, struct sigaction *);
170 hidden void __unmapself(void *, size_t);
171
172 hidden int __timedwait(volatile int *, int, clockid_t, const struct timespec *, int);
173 hidden int __timedwait_cp(volatile int *, int, clockid_t, const struct timespec *, int);
174 hidden void __wait(volatile int *, volatile int *, int, int);
175 static inline void __wake(volatile void *addr, int cnt, int priv)
176 {
177         if (priv) priv = FUTEX_PRIVATE;
178         if (cnt<0) cnt = INT_MAX;
179         __syscall(SYS_futex, addr, FUTEX_WAKE|priv, cnt) != -ENOSYS ||
180         __syscall(SYS_futex, addr, FUTEX_WAKE, cnt);
181 }
182 static inline void __futexwait(volatile void *addr, int val, int priv)
183 {
184         if (priv) priv = FUTEX_PRIVATE;
185         __syscall(SYS_futex, addr, FUTEX_WAIT|priv, val, 0) != -ENOSYS ||
186         __syscall(SYS_futex, addr, FUTEX_WAIT, val, 0);
187 }
188
189 hidden void __acquire_ptc(void);
190 hidden void __release_ptc(void);
191 hidden void __inhibit_ptc(void);
192
193 hidden void __tl_lock(void);
194 hidden void __tl_unlock(void);
195 hidden void __tl_sync(pthread_t);
196
197 extern hidden volatile int __thread_list_lock;
198
199 extern hidden unsigned __default_stacksize;
200 extern hidden unsigned __default_guardsize;
201
202 #define DEFAULT_STACK_SIZE 131072
203 #define DEFAULT_GUARD_SIZE 8192
204
205 #define DEFAULT_STACK_MAX (8<<20)
206 #define DEFAULT_GUARD_MAX (1<<20)
207
208 #define __ATTRP_C11_THREAD ((void*)(uintptr_t)-1)
209
210 #endif