disallow creation of objects larger than PTRDIFF_MAX via mmap
[musl] / src / mman / mmap.c
1 #include <unistd.h>
2 #include <sys/mman.h>
3 #include <errno.h>
4 #include <stdint.h>
5 #include <limits.h>
6 #include "syscall.h"
7 #include "libc.h"
8
9 static void dummy1(int x) { }
10 static void dummy0(void) { }
11 weak_alias(dummy1, __vm_lock);
12 weak_alias(dummy0, __vm_unlock);
13
14 #define OFF_MASK ((-0x2000ULL << (8*sizeof(long)-1)) | 0xfff)
15
16 void *__mmap(void *start, size_t len, int prot, int flags, int fd, off_t off)
17 {
18         void *ret;
19
20         if (off & OFF_MASK) {
21                 errno = EINVAL;
22                 return MAP_FAILED;
23         }
24         if (len >= PTRDIFF_MAX) {
25                 errno = ENOMEM;
26                 return MAP_FAILED;
27         }
28         if (flags & MAP_FIXED) __vm_lock(-1);
29 #ifdef SYS_mmap2
30         ret = (void *)syscall(SYS_mmap2, start, len, prot, flags, fd, off>>12);
31 #else
32         ret = (void *)syscall(SYS_mmap, start, len, prot, flags, fd, off);
33 #endif
34         if (flags & MAP_FIXED) __vm_unlock();
35         return ret;
36 }
37
38 weak_alias(__mmap, mmap);
39
40 LFS64(mmap);