new scanf implementation and corresponding integer parser/converter
[musl] / src / internal / intscan.c
1 #include <limits.h>
2 #include <errno.h>
3 #include "shgetc.h"
4
5 /* Lookup table for digit values. -1==255>=36 -> invalid */
6 static const unsigned char table[] = { -1,
7 -1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
8 -1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
9 -1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
10  0, 1, 2, 3, 4, 5, 6, 7, 8, 9,-1,-1,-1,-1,-1,-1,
11 -1,10,11,12,13,14,15,16,17,18,19,20,21,22,23,24,
12 25,26,27,28,29,30,31,32,33,34,35,-1,-1,-1,-1,-1,
13 -1,10,11,12,13,14,15,16,17,18,19,20,21,22,23,24,
14 25,26,27,28,29,30,31,32,33,34,35,-1,-1,-1,-1,-1,
15 -1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
16 -1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
17 -1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
18 -1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
19 -1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
20 -1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
21 -1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
22 -1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,
23 };
24
25 unsigned long long __intscan(FILE *f, unsigned base, int pok, unsigned long long lim)
26 {
27         const unsigned char *val = table+1;
28         int c, neg=0;
29         unsigned x;
30         unsigned long long y;
31         if (base > 36) {
32                 errno = EINVAL;
33                 return 0;
34         }
35         c = shgetc(f);
36         if (c=='+' || c=='-') {
37                 neg = -(c=='-');
38                 c = shgetc(f);
39         }
40         if ((base == 0 || base == 16) && c=='0') {
41                 c = shgetc(f);
42                 if ((c|32)=='x') {
43                         c = shgetc(f);
44                         if (val[c]>=16) {
45                                 shunget(f);
46                                 if (pok) shunget(f);
47                                 else shlim(f, 0);
48                                 return 0;
49                         }
50                         base = 16;
51                 } else if (base == 0) {
52                         base = 8;
53                 }
54         } else {
55                 if (base == 0) base = 10;
56                 if (val[c] >= base) {
57                         shlim(f, 0);
58                         errno = EINVAL;
59                         return 0;
60                 }
61         }
62         if (base == 10) {
63                 for (x=0; c-'0'<10U && x<=UINT_MAX/10-1; c=shgetc(f))
64                         x = x*10 + (c-'0');
65                 for (y=x; c-'0'<10U && y<=ULLONG_MAX/10 && 10*y<=ULLONG_MAX-(c-'0'); c=shgetc(f))
66                         y = y*10 + (c-'0');
67                 if (c-'0'>=10U) goto done;
68         } else if (!(base & base-1)) {
69                 int bs = "\0\1\2\4\7\3\6\5"[(0x17*base)>>5&7];
70                 for (x=0; val[c]<base && x<=UINT_MAX/32; c=shgetc(f))
71                         x = x<<bs | val[c];
72                 for (y=x; val[c]<base && y<=ULLONG_MAX>>bs; c=shgetc(f))
73                         y = y<<bs | val[c];
74         } else {
75                 for (x=0; val[c]<base && x<=UINT_MAX/36-1; c=shgetc(f))
76                         x = x*base + val[c];
77                 for (y=x; val[c]<base && y<=ULLONG_MAX/base && base*y<=ULLONG_MAX-val[c]; c=shgetc(f))
78                         y = y*base + val[c];
79         }
80         if (val[c]<base) {
81                 for (; val[c]<base; c=shgetc(f));
82                 errno = ERANGE;
83                 y = lim;
84         }
85 done:
86         shunget(f);
87         if (y>=lim) {
88                 if (!(lim&1) && !neg) {
89                         errno = ERANGE;
90                         return lim-1;
91                 } else if (y>lim) {
92                         errno = ERANGE;
93                         return lim;
94                 }
95         }
96         return (y^neg)-neg;
97 }