fix really bad breakage in strtol, etc.: failure to accept leading spaces
[musl] / src / internal / intscan.c
1 #include <limits.h>
2 #include <errno.h>
3 #include "shgetc.h"
4
5 /* Lookup table for digit values. -1==255>=36 -> invalid */
6 static const unsigned char table[] = { -1,
7 -1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
8 -1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
9 -1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
10  0, 1, 2, 3, 4, 5, 6, 7, 8, 9,-1,-1,-1,-1,-1,-1,
11 -1,10,11,12,13,14,15,16,17,18,19,20,21,22,23,24,
12 25,26,27,28,29,30,31,32,33,34,35,-1,-1,-1,-1,-1,
13 -1,10,11,12,13,14,15,16,17,18,19,20,21,22,23,24,
14 25,26,27,28,29,30,31,32,33,34,35,-1,-1,-1,-1,-1,
15 -1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
16 -1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
17 -1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
18 -1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
19 -1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
20 -1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
21 -1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
22 -1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
23 };
24
25 unsigned long long __intscan(FILE *f, unsigned base, int pok, unsigned long long lim)
26 {
27         const unsigned char *val = table+1;
28         int c, neg=0;
29         unsigned x;
30         unsigned long long y;
31         if (base > 36) {
32                 errno = EINVAL;
33                 return 0;
34         }
35         while (isspace((c=shgetc(f))));
36         if (c=='+' || c=='-') {
37                 neg = -(c=='-');
38                 c = shgetc(f);
39         }
40         if ((base == 0 || base == 16) && c=='0') {
41                 c = shgetc(f);
42                 if ((c|32)=='x') {
43                         c = shgetc(f);
44                         if (val[c]>=16) {
45                                 shunget(f);
46                                 if (pok) shunget(f);
47                                 else shlim(f, 0);
48                                 return 0;
49                         }
50                         base = 16;
51                 } else if (base == 0) {
52                         base = 8;
53                 }
54         } else {
55                 if (base == 0) base = 10;
56                 if (val[c] >= base) {
57                         shunget(f);
58                         shlim(f, 0);
59                         errno = EINVAL;
60                         return 0;
61                 }
62         }
63         if (base == 10) {
64                 for (x=0; c-'0'<10U && x<=UINT_MAX/10-1; c=shgetc(f))
65                         x = x*10 + (c-'0');
66                 for (y=x; c-'0'<10U && y<=ULLONG_MAX/10 && 10*y<=ULLONG_MAX-(c-'0'); c=shgetc(f))
67                         y = y*10 + (c-'0');
68                 if (c-'0'>=10U) goto done;
69         } else if (!(base & base-1)) {
70                 int bs = "\0\1\2\4\7\3\6\5"[(0x17*base)>>5&7];
71                 for (x=0; val[c]<base && x<=UINT_MAX/32; c=shgetc(f))
72                         x = x<<bs | val[c];
73                 for (y=x; val[c]<base && y<=ULLONG_MAX>>bs; c=shgetc(f))
74                         y = y<<bs | val[c];
75         } else {
76                 for (x=0; val[c]<base && x<=UINT_MAX/36-1; c=shgetc(f))
77                         x = x*base + val[c];
78                 for (y=x; val[c]<base && y<=ULLONG_MAX/base && base*y<=ULLONG_MAX-val[c]; c=shgetc(f))
79                         y = y*base + val[c];
80         }
81         if (val[c]<base) {
82                 for (; val[c]<base; c=shgetc(f));
83                 errno = ERANGE;
84                 y = lim;
85         }
86 done:
87         shunget(f);
88         if (y>=lim) {
89                 if (!(lim&1) && !neg) {
90                         errno = ERANGE;
91                         return lim-1;
92                 } else if (y>lim) {
93                         errno = ERANGE;
94                         return lim;
95                 }
96         }
97         return (y^neg)-neg;
98 }