nsz Git - musl/blob - src/thread/pthread_create.c

   1 #include "pthread_impl.h"
   2
   3 static void dummy_0()
   4 {
   5 }
   6 weak_alias(dummy_0, __rsyscall_lock);
   7 weak_alias(dummy_0, __rsyscall_unlock);
   8
   9 static void dummy_1(pthread_t self)
  10 {
  11 }
  12 weak_alias(dummy_1, __pthread_tsd_run_dtors);
  13 weak_alias(dummy_1, __sigtimer_handler);
  14
  15 #ifdef __pthread_unwind_next
  16 #undef __pthread_unwind_next
  17 #define __pthread_unwind_next __pthread_unwind_next_3
  18 #endif
  19
  20 void __pthread_unwind_next(struct __ptcb *cb)
  21 {
  22         pthread_t self;
  23
  24         if (cb->__next) longjmp((void *)cb->__next->__jb, 1);
  25
  26         self = pthread_self();
  27
  28         LOCK(&self->exitlock);
  29
  30         __pthread_tsd_run_dtors(self);
  31
  32         /* Mark this thread dead before decrementing count */
  33         self->dead = 1;
  34
  35         if (!a_fetch_add(&libc.threads_minus_1, -1))
  36                 exit(0);
  37
  38         if (self->detached && self->map_base) {
  39                 __syscall(SYS_rt_sigprocmask, SIG_BLOCK, (long)(uint64_t[1]){-1},0,8);
  40                 __unmapself(self->map_base, self->map_size);
  41         }
  42
  43         __syscall(SYS_exit, 0);
  44 }
  45
  46 static void docancel(struct pthread *self)
  47 {
  48         struct __ptcb cb = { .__next = self->cancelbuf };
  49         self->canceldisable = 1;
  50         self->cancelasync = 0;
  51         __pthread_unwind_next(&cb);
  52 }
  53
  54 static void cancel_handler(int sig, siginfo_t *si, void *ctx)
  55 {
  56         struct pthread *self = __pthread_self();
  57         if (si->si_code == SI_TIMER) __sigtimer_handler(self);
  58         if (self->cancel && !self->canceldisable &&
  59             (self->cancelasync || (self->cancelpoint==1 && PC_AT_SYS(ctx))))
  60                 docancel(self);
  61 }
  62
  63 static void cancelpt(int x)
  64 {
  65         struct pthread *self = __pthread_self();
  66         if ((self->cancelpoint+=x)==1 && self->cancel
  67                 && x<2U && !self->canceldisable) docancel(self);
  68 }
  69
  70 static void init_threads()
  71 {
  72         struct sigaction sa = { .sa_flags = SA_SIGINFO | SA_RESTART };
  73         libc.lock = __lock;
  74         libc.lockfile = __lockfile;
  75         libc.cancelpt = cancelpt;
  76
  77         sigemptyset(&sa.sa_mask);
  78         sa.sa_sigaction = cancel_handler;
  79         __libc_sigaction(SIGCANCEL, &sa, 0);
  80
  81         sigaddset(&sa.sa_mask, SIGSYSCALL);
  82         sigaddset(&sa.sa_mask, SIGCANCEL);
  83         __libc_sigprocmask(SIG_UNBLOCK, &sa.sa_mask, 0);
  84 }
  85
  86 static int start(void *p)
  87 {
  88         struct pthread *self = p;
  89         if (self->unblock_cancel) {
  90                 sigset_t set;
  91                 sigemptyset(&set);
  92                 sigaddset(&set, SIGCANCEL);
  93                 __libc_sigprocmask(SIG_UNBLOCK, &set, 0);
  94         }
  95         pthread_exit(self->start(self->start_arg));
  96         return 0;
  97 }
  98
  99 int __uniclone(void *, int (*)(), void *);
 100
 101 #define ROUND(x) (((x)+PAGE_SIZE-1)&-PAGE_SIZE)
 102
 103 /* pthread_key_create.c overrides this */
 104 static const size_t dummy = 0;
 105 weak_alias(dummy, __pthread_tsd_size);
 106
 107 int pthread_create(pthread_t *res, const pthread_attr_t *attr, void *(*entry)(void *), void *arg)
 108 {
 109         static int init;
 110         int ret;
 111         size_t size, guard;
 112         struct pthread *self = pthread_self(), *new;
 113         unsigned char *map, *stack, *tsd;
 114         const pthread_attr_t default_attr = { 0 };
 115
 116         if (!self) return ENOSYS;
 117         if (!init && ++init) init_threads();
 118
 119         if (!attr) attr = &default_attr;
 120         guard = ROUND(attr->_a_guardsize + DEFAULT_GUARD_SIZE);
 121         size = guard + ROUND(attr->_a_stacksize + DEFAULT_STACK_SIZE);
 122         size += __pthread_tsd_size;
 123         map = mmap(0, size, PROT_READ|PROT_WRITE|PROT_EXEC, MAP_PRIVATE|MAP_ANON, -1, 0);
 124         if (!map) return EAGAIN;
 125         if (guard) mprotect(map, guard, PROT_NONE);
 126
 127         tsd = map + size - __pthread_tsd_size;
 128         new = (void *)(tsd - sizeof *new - PAGE_SIZE%sizeof *new);
 129         new->map_base = map;
 130         new->map_size = size;
 131         new->pid = self->pid;
 132         new->errno_ptr = &new->errno_val;
 133         new->start = entry;
 134         new->start_arg = arg;
 135         new->self = new;
 136         new->tsd = (void *)tsd;
 137         new->detached = attr->_a_detach;
 138         new->attr = *attr;
 139         new->unblock_cancel = self->cancel;
 140         new->result = PTHREAD_CANCELED;
 141         memcpy(new->tlsdesc, self->tlsdesc, sizeof new->tlsdesc);
 142         new->tlsdesc[1] = (uintptr_t)new;
 143         stack = (void *)((uintptr_t)new-1 & ~(uintptr_t)15);
 144
 145         __rsyscall_lock();
 146
 147         a_inc(&libc.threads_minus_1);
 148         ret = __uniclone(stack, start, new);
 149
 150         __rsyscall_unlock();
 151
 152         if (ret < 0) {
 153                 a_dec(&libc.threads_minus_1);
 154                 munmap(map, size);
 155                 return EAGAIN;
 156         }
 157         *res = new;
 158         return 0;
 159 }
 160
 161 void pthread_exit(void *result)
 162 {
 163         struct pthread *self = pthread_self();
 164         self->result = result;
 165         docancel(self);
 166 }