6107e4e0621f02efc28652fe364073b68a67371c
[libfirm] / ir / tv / strcalc.c
1 /****i* strcalc/implementation
2  *
3  * AUTHORS
4  *    Matthias Heil
5  *
6  * NOTES
7  ******/
8
9 #include "strcalc.h"
10
11 #include <stdlib.h>
12 #include <assert.h>   /* assertions */
13 #include <string.h>   /* memset/memcmp */
14 #include <stdio.h>    /* output for error messages */
15 #include <limits.h>   /* definition of LONG_MIN, used in sc_get_val_from_long */
16
17 /*
18  * local definitions and macros
19  */
20 #define CLEAR_CALC_BUFFER() assert(calc_buffer); memset(calc_buffer, SC_0, CALC_BUFFER_SIZE)
21 #define _val(a) ((a)-SC_0)
22 #define _digit(a) ((a)+SC_0)
23 #define _bitisset(digit, pos) (and_table[_val(digit)][_val(shift_table[pos])] != SC_0)
24
25 #define fail_char(a, b, c, d) _fail_char((a), (b), (c), (d), __FILE__,  __LINE__)
26
27 #ifdef STRCALC_DEBUG_COMPUTATION
28 #  define DEBUGPRINTF_COMPUTATION(x) printf x
29 #else
30 #  define DEBUGPRINTF_COMPUTATION(x) ((void)0)
31 #endif
32 #ifdef STRCALC_DEBUG
33 #  define DEBUGPRINTF(x) printf x
34 #else
35 #  define DEBUGPRINTF(x) ((void)0)
36 #endif
37
38
39 /*
40  * private variables
41  */
42
43 static char *calc_buffer = NULL;    /* buffer holding all results */
44 static char *output_buffer = NULL;  /* buffer for output */
45 static int BIT_PATTERN_SIZE;        /* maximum number of bits */
46 static int CALC_BUFFER_SIZE;        /* size of internally stored values */
47 static int MAX_VALUE_SIZE;          /* maximum size of values */
48
49 static int carry_flag;              /* some computation set carry_flag: */
50                                     /* rightshift if bits were lost due to shifting */
51                                     /* division if there was a remainder */
52
53 static const char max_digit[4] = { SC_0, SC_1, SC_3, SC_7 };
54 static const char min_digit[4] = { SC_F, SC_E, SC_C, SC_8 };
55
56 static const char not_table[16] = { SC_F, SC_E, SC_D, SC_C, SC_B, SC_A, SC_9, SC_8,
57                               SC_7, SC_6, SC_5, SC_4, SC_3, SC_2, SC_1, SC_0 };
58
59 static const char shift_table[4] = { SC_1, SC_2, SC_4, SC_8 };
60
61 static const char and_table[16][16] = {
62                             { SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0,
63                               SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0 },
64
65                             { SC_0, SC_1, SC_0, SC_1, SC_0, SC_1, SC_0, SC_1,
66                               SC_0, SC_1, SC_0, SC_1, SC_0, SC_1, SC_0, SC_1 },
67
68                             { SC_0, SC_0, SC_2, SC_2, SC_0, SC_0, SC_2, SC_2,
69                               SC_0, SC_0, SC_2, SC_2, SC_0, SC_0, SC_2, SC_2 },
70
71                             { SC_0, SC_1, SC_2, SC_3, SC_0, SC_1, SC_2, SC_3,
72                               SC_0, SC_1, SC_2, SC_3, SC_0, SC_1, SC_2, SC_3 },
73
74                             { SC_0, SC_0, SC_0, SC_0, SC_4, SC_4, SC_4, SC_4,
75                               SC_0, SC_0, SC_0, SC_0, SC_4, SC_4, SC_4, SC_4 },
76
77                             { SC_0, SC_1, SC_0, SC_1, SC_4, SC_5, SC_4, SC_5,
78                               SC_0, SC_1, SC_0, SC_1, SC_4, SC_5, SC_4, SC_5 },
79
80                             { SC_0, SC_0, SC_2, SC_2, SC_4, SC_4, SC_6, SC_6,
81                               SC_0, SC_0, SC_2, SC_2, SC_4, SC_4, SC_6, SC_6 },
82
83                             { SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7,
84                               SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7 },
85
86                             { SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0,
87                               SC_8, SC_8, SC_8, SC_8, SC_8, SC_8, SC_8, SC_8 },
88
89                             { SC_0, SC_1, SC_0, SC_1, SC_0, SC_1, SC_0, SC_1,
90                               SC_8, SC_9, SC_8, SC_9, SC_8, SC_9, SC_8, SC_9 },
91
92                             { SC_0, SC_0, SC_2, SC_2, SC_0, SC_0, SC_2, SC_2,
93                               SC_8, SC_8, SC_A, SC_A, SC_8, SC_8, SC_A, SC_A },
94
95                             { SC_0, SC_1, SC_2, SC_3, SC_0, SC_1, SC_2, SC_3,
96                               SC_8, SC_9, SC_A, SC_B, SC_8, SC_9, SC_A, SC_B },
97
98                             { SC_0, SC_0, SC_0, SC_0, SC_4, SC_4, SC_4, SC_4,
99                               SC_8, SC_8, SC_8, SC_8, SC_C, SC_C, SC_C, SC_C },
100
101                             { SC_0, SC_1, SC_0, SC_1, SC_4, SC_5, SC_4, SC_5,
102                               SC_8, SC_9, SC_8, SC_9, SC_C, SC_D, SC_C, SC_D },
103
104                             { SC_0, SC_0, SC_2, SC_2, SC_4, SC_4, SC_6, SC_6,
105                               SC_8, SC_8, SC_A, SC_A, SC_C, SC_C, SC_E, SC_E },
106
107                             { SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7,
108                               SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F } };
109
110 static const char or_table[16][16] = {
111                             { SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7,
112                               SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F },
113
114                             { SC_1, SC_1, SC_3, SC_3, SC_5, SC_5, SC_7, SC_7,
115                               SC_9, SC_9, SC_B, SC_B, SC_D, SC_D, SC_F, SC_F },
116
117                             { SC_2, SC_3, SC_2, SC_3, SC_6, SC_7, SC_6, SC_7,
118                               SC_A, SC_B, SC_A, SC_B, SC_E, SC_F, SC_E, SC_F },
119
120                             { SC_3, SC_3, SC_3, SC_3, SC_7, SC_7, SC_7, SC_7,
121                               SC_B, SC_B, SC_B, SC_B, SC_F, SC_F, SC_F, SC_F },
122
123                             { SC_4, SC_5, SC_6, SC_7, SC_4, SC_5, SC_6, SC_7,
124                               SC_C, SC_D, SC_E, SC_F, SC_C, SC_D, SC_E, SC_F },
125
126                             { SC_5, SC_5, SC_7, SC_7, SC_5, SC_5, SC_7, SC_7,
127                               SC_D, SC_D, SC_F, SC_F, SC_D, SC_D, SC_F, SC_F },
128
129                             { SC_6, SC_7, SC_6, SC_7, SC_6, SC_7, SC_6, SC_7,
130                               SC_E, SC_F, SC_E, SC_F, SC_E, SC_F, SC_E, SC_F },
131
132                             { SC_7, SC_7, SC_7, SC_7, SC_7, SC_7, SC_7, SC_7,
133                               SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F },
134
135                             { SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F,
136                               SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F },
137
138                             { SC_9, SC_9, SC_B, SC_B, SC_D, SC_D, SC_F, SC_F,
139                               SC_9, SC_9, SC_B, SC_B, SC_D, SC_D, SC_F, SC_F },
140
141                             { SC_A, SC_B, SC_A, SC_B, SC_E, SC_F, SC_E, SC_F,
142                               SC_A, SC_B, SC_A, SC_B, SC_E, SC_F, SC_E, SC_F },
143
144                             { SC_B, SC_B, SC_B, SC_B, SC_F, SC_F, SC_F, SC_F,
145                               SC_B, SC_B, SC_B, SC_B, SC_F, SC_F, SC_F, SC_F },
146
147                             { SC_C, SC_D, SC_E, SC_F, SC_C, SC_D, SC_E, SC_F,
148                               SC_C, SC_D, SC_E, SC_F, SC_C, SC_D, SC_E, SC_F },
149
150                             { SC_D, SC_D, SC_F, SC_F, SC_D, SC_D, SC_F, SC_F,
151                               SC_D, SC_D, SC_F, SC_F, SC_D, SC_D, SC_F, SC_F },
152
153                             { SC_E, SC_F, SC_E, SC_F, SC_E, SC_F, SC_E, SC_F,
154                               SC_E, SC_F, SC_E, SC_F, SC_E, SC_F, SC_E, SC_F },
155
156                             { SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F,
157                               SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F } };
158
159 static char const xor_table[16][16] = {
160                              { SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7,
161                                SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F },
162
163                              { SC_1, SC_0, SC_3, SC_2, SC_5, SC_4, SC_7, SC_6,
164                                SC_9, SC_8, SC_B, SC_A, SC_D, SC_C, SC_F, SC_E },
165
166                              { SC_2, SC_3, SC_0, SC_1, SC_6, SC_7, SC_4, SC_5,
167                                SC_A, SC_B, SC_8, SC_9, SC_E, SC_F, SC_C, SC_D },
168
169                              { SC_3, SC_2, SC_1, SC_0, SC_7, SC_6, SC_5, SC_4,
170                                SC_B, SC_A, SC_9, SC_8, SC_F, SC_E, SC_D, SC_C },
171
172                              { SC_4, SC_5, SC_6, SC_7, SC_0, SC_1, SC_2, SC_3,
173                                SC_C, SC_D, SC_E, SC_F, SC_8, SC_9, SC_A, SC_B },
174
175                              { SC_5, SC_4, SC_7, SC_6, SC_1, SC_0, SC_3, SC_2,
176                                SC_D, SC_C, SC_F, SC_E, SC_9, SC_8, SC_B, SC_A },
177
178                              { SC_6, SC_7, SC_4, SC_5, SC_2, SC_3, SC_0, SC_1,
179                                SC_E, SC_F, SC_C, SC_D, SC_A, SC_B, SC_8, SC_9 },
180
181                              { SC_7, SC_6, SC_5, SC_4, SC_3, SC_2, SC_1, SC_0,
182                                SC_F, SC_E, SC_D, SC_C, SC_B, SC_A, SC_9, SC_8 },
183
184                              { SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F,
185                                SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7 },
186
187                              { SC_9, SC_8, SC_B, SC_A, SC_D, SC_C, SC_F, SC_E,
188                                SC_1, SC_0, SC_3, SC_2, SC_5, SC_4, SC_7, SC_6 },
189
190                              { SC_A, SC_B, SC_8, SC_9, SC_E, SC_F, SC_C, SC_D,
191                                SC_2, SC_3, SC_0, SC_1, SC_6, SC_7, SC_4, SC_5 },
192
193                              { SC_B, SC_A, SC_9, SC_8, SC_F, SC_E, SC_D, SC_C,
194                                SC_3, SC_2, SC_1, SC_0, SC_7, SC_6, SC_5, SC_4 },
195
196                              { SC_C, SC_D, SC_E, SC_F, SC_8, SC_9, SC_A, SC_B,
197                                SC_4, SC_5, SC_6, SC_7, SC_0, SC_1, SC_2, SC_3 },
198
199                              { SC_D, SC_C, SC_F, SC_E, SC_9, SC_8, SC_B, SC_A,
200                                SC_5, SC_4, SC_7, SC_6, SC_1, SC_0, SC_3, SC_2 },
201
202                              { SC_E, SC_F, SC_C, SC_D, SC_A, SC_B, SC_8, SC_9,
203                                SC_6, SC_7, SC_4, SC_5, SC_2, SC_3, SC_0, SC_1 },
204
205                              { SC_F, SC_E, SC_D, SC_C, SC_B, SC_A, SC_9, SC_8,
206                                SC_7, SC_6, SC_5, SC_4, SC_3, SC_2, SC_1, SC_0 }
207                                 };
208
209 static char const add_table[16][16][2] = {
210                        { {SC_0, SC_0}, {SC_1, SC_0}, {SC_2, SC_0}, {SC_3, SC_0},
211                          {SC_4, SC_0}, {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0},
212                          {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0},
213                          {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0} },
214
215                        { {SC_1, SC_0}, {SC_2, SC_0}, {SC_3, SC_0}, {SC_4, SC_0},
216                          {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0}, {SC_8, SC_0},
217                          {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0},
218                          {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1} },
219
220                        { {SC_2, SC_0}, {SC_3, SC_0}, {SC_4, SC_0}, {SC_5, SC_0},
221                          {SC_6, SC_0}, {SC_7, SC_0}, {SC_8, SC_0}, {SC_9, SC_0},
222                          {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0},
223                          {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1} },
224
225                        { {SC_3, SC_0}, {SC_4, SC_0}, {SC_5, SC_0}, {SC_6, SC_0},
226                          {SC_7, SC_0}, {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0},
227                          {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0},
228                          {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1} },
229
230                        { {SC_4, SC_0}, {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0},
231                          {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0},
232                          {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0},
233                          {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1} },
234
235                        { {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0}, {SC_8, SC_0},
236                          {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0},
237                          {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1},
238                          {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1} },
239
240                        { {SC_6, SC_0}, {SC_7, SC_0}, {SC_8, SC_0}, {SC_9, SC_0},
241                          {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0},
242                          {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1},
243                          {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1} },
244
245                        { {SC_7, SC_0}, {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0},
246                          {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0},
247                          {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1},
248                          {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1} },
249
250                        { {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0},
251                          {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0},
252                          {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1},
253                          {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1}, {SC_7, SC_1} },
254
255                        { {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0},
256                          {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1},
257                          {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1},
258                          {SC_5, SC_1}, {SC_6, SC_1}, {SC_7, SC_1}, {SC_8, SC_1} },
259
260                        { {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0},
261                          {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1},
262                          {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1},
263                          {SC_6, SC_1}, {SC_7, SC_1}, {SC_8, SC_1}, {SC_9, SC_1} },
264
265                        { {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0},
266                          {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1},
267                          {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1},
268                          {SC_7, SC_1}, {SC_8, SC_1}, {SC_9, SC_1}, {SC_A, SC_1} },
269
270                        { {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0},
271                          {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1},
272                          {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1}, {SC_7, SC_1},
273                          {SC_8, SC_1}, {SC_9, SC_1}, {SC_A, SC_1}, {SC_B, SC_1} },
274
275                        { {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1},
276                          {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1},
277                          {SC_5, SC_1}, {SC_6, SC_1}, {SC_7, SC_1}, {SC_8, SC_1},
278                          {SC_9, SC_1}, {SC_A, SC_1}, {SC_B, SC_1}, {SC_C, SC_1} },
279
280                        { {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1},
281                          {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1},
282                          {SC_6, SC_1}, {SC_7, SC_1}, {SC_8, SC_1}, {SC_9, SC_1},
283                          {SC_A, SC_1}, {SC_B, SC_1}, {SC_C, SC_1}, {SC_D, SC_1} },
284
285                        { {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1},
286                          {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1},
287                          {SC_7, SC_1}, {SC_8, SC_1}, {SC_9, SC_1}, {SC_A, SC_1},
288                          {SC_B, SC_1}, {SC_C, SC_1}, {SC_D, SC_1}, {SC_E, SC_1} }
289                              };
290
291 static char const mul_table[16][16][2] = {
292                        { {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0},
293                          {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0},
294                          {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0},
295                          {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0} },
296
297                        { {SC_0, SC_0}, {SC_1, SC_0}, {SC_2, SC_0}, {SC_3, SC_0},
298                          {SC_4, SC_0}, {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0},
299                          {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0},
300                          {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0} },
301
302                        { {SC_0, SC_0}, {SC_2, SC_0}, {SC_4, SC_0}, {SC_6, SC_0},
303                          {SC_8, SC_0}, {SC_A, SC_0}, {SC_C, SC_0}, {SC_E, SC_0},
304                          {SC_0, SC_1}, {SC_2, SC_1}, {SC_4, SC_1}, {SC_6, SC_1},
305                          {SC_8, SC_1}, {SC_A, SC_1}, {SC_C, SC_1}, {SC_E, SC_1} },
306
307                        { {SC_0, SC_0}, {SC_3, SC_0}, {SC_6, SC_0}, {SC_9, SC_0},
308                          {SC_C, SC_0}, {SC_F, SC_0}, {SC_2, SC_1}, {SC_5, SC_1},
309                          {SC_8, SC_1}, {SC_B, SC_1}, {SC_E, SC_1}, {SC_1, SC_2},
310                          {SC_4, SC_2}, {SC_7, SC_2}, {SC_A, SC_2}, {SC_D, SC_2} },
311
312                        { {SC_0, SC_0}, {SC_4, SC_0}, {SC_8, SC_0}, {SC_C, SC_0},
313                          {SC_0, SC_1}, {SC_4, SC_1}, {SC_8, SC_1}, {SC_C, SC_1},
314                          {SC_0, SC_2}, {SC_4, SC_2}, {SC_8, SC_2}, {SC_C, SC_2},
315                          {SC_0, SC_3}, {SC_4, SC_3}, {SC_8, SC_3}, {SC_C, SC_3} },
316
317                        { {SC_0, SC_0}, {SC_5, SC_0}, {SC_A, SC_0}, {SC_F, SC_0},
318                          {SC_4, SC_1}, {SC_9, SC_1}, {SC_E, SC_1}, {SC_3, SC_2},
319                          {SC_8, SC_2}, {SC_D, SC_2}, {SC_2, SC_3}, {SC_7, SC_3},
320                          {SC_C, SC_3}, {SC_1, SC_4}, {SC_6, SC_4}, {SC_B, SC_4} },
321
322                        { {SC_0, SC_0}, {SC_6, SC_0}, {SC_C, SC_0}, {SC_2, SC_1},
323                          {SC_8, SC_1}, {SC_E, SC_1}, {SC_4, SC_2}, {SC_A, SC_2},
324                          {SC_0, SC_3}, {SC_6, SC_3}, {SC_C, SC_3}, {SC_2, SC_4},
325                          {SC_8, SC_4}, {SC_E, SC_4}, {SC_4, SC_5}, {SC_A, SC_5} },
326
327                        { {SC_0, SC_0}, {SC_7, SC_0}, {SC_E, SC_0}, {SC_5, SC_1},
328                          {SC_C, SC_1}, {SC_3, SC_2}, {SC_A, SC_2}, {SC_1, SC_3},
329                          {SC_8, SC_3}, {SC_F, SC_3}, {SC_6, SC_4}, {SC_D, SC_4},
330                          {SC_4, SC_5}, {SC_B, SC_5}, {SC_2, SC_6}, {SC_9, SC_6} },
331
332                        { {SC_0, SC_0}, {SC_8, SC_0}, {SC_0, SC_1}, {SC_8, SC_1},
333                          {SC_0, SC_2}, {SC_8, SC_2}, {SC_0, SC_3}, {SC_8, SC_3},
334                          {SC_0, SC_4}, {SC_8, SC_4}, {SC_0, SC_5}, {SC_8, SC_5},
335                          {SC_0, SC_6}, {SC_8, SC_6}, {SC_0, SC_7}, {SC_8, SC_7} },
336
337                        { {SC_0, SC_0}, {SC_9, SC_0}, {SC_2, SC_1}, {SC_B, SC_1},
338                          {SC_4, SC_2}, {SC_D, SC_2}, {SC_6, SC_3}, {SC_F, SC_3},
339                          {SC_8, SC_4}, {SC_1, SC_5}, {SC_A, SC_5}, {SC_3, SC_6},
340                          {SC_C, SC_6}, {SC_5, SC_7}, {SC_E, SC_7}, {SC_7, SC_8} },
341
342                        { {SC_0, SC_0}, {SC_A, SC_0}, {SC_4, SC_1}, {SC_E, SC_1},
343                          {SC_8, SC_2}, {SC_2, SC_3}, {SC_C, SC_3}, {SC_6, SC_4},
344                          {SC_0, SC_5}, {SC_A, SC_5}, {SC_4, SC_6}, {SC_E, SC_6},
345                          {SC_8, SC_7}, {SC_2, SC_8}, {SC_C, SC_8}, {SC_6, SC_9} },
346
347                        { {SC_0, SC_0}, {SC_B, SC_0}, {SC_6, SC_1}, {SC_1, SC_2},
348                          {SC_C, SC_2}, {SC_7, SC_3}, {SC_2, SC_4}, {SC_D, SC_4},
349                          {SC_8, SC_5}, {SC_3, SC_6}, {SC_E, SC_6}, {SC_9, SC_7},
350                          {SC_4, SC_8}, {SC_F, SC_8}, {SC_A, SC_9}, {SC_5, SC_A} },
351
352                        { {SC_0, SC_0}, {SC_C, SC_0}, {SC_8, SC_1}, {SC_4, SC_2},
353                          {SC_0, SC_3}, {SC_C, SC_3}, {SC_8, SC_4}, {SC_4, SC_5},
354                          {SC_0, SC_6}, {SC_C, SC_6}, {SC_8, SC_7}, {SC_4, SC_8},
355                          {SC_0, SC_9}, {SC_C, SC_9}, {SC_8, SC_A}, {SC_4, SC_B} },
356
357                        { {SC_0, SC_0}, {SC_D, SC_0}, {SC_A, SC_1}, {SC_7, SC_2},
358                          {SC_4, SC_3}, {SC_1, SC_4}, {SC_E, SC_4}, {SC_B, SC_5},
359                          {SC_8, SC_6}, {SC_5, SC_7}, {SC_2, SC_8}, {SC_F, SC_8},
360                          {SC_C, SC_9}, {SC_9, SC_A}, {SC_6, SC_B}, {SC_3, SC_C} },
361
362                        { {SC_0, SC_0}, {SC_E, SC_0}, {SC_C, SC_1}, {SC_A, SC_2},
363                          {SC_8, SC_3}, {SC_6, SC_4}, {SC_4, SC_5}, {SC_2, SC_6},
364                          {SC_0, SC_7}, {SC_E, SC_7}, {SC_C, SC_8}, {SC_A, SC_9},
365                          {SC_8, SC_A}, {SC_6, SC_B}, {SC_4, SC_C}, {SC_2, SC_D} },
366
367                        { {SC_0, SC_0}, {SC_F, SC_0}, {SC_E, SC_1}, {SC_D, SC_2},
368                          {SC_C, SC_3}, {SC_B, SC_4}, {SC_A, SC_5}, {SC_9, SC_6},
369                          {SC_8, SC_7}, {SC_7, SC_8}, {SC_6, SC_9}, {SC_5, SC_A},
370                          {SC_4, SC_B}, {SC_3, SC_C}, {SC_2, SC_D}, {SC_1, SC_E} }
371                              };
372
373 static char const shrs_table[16][4][2] = {
374                        { {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0} },
375                        { {SC_1, SC_0}, {SC_0, SC_8}, {SC_0, SC_4}, {SC_0, SC_2} },
376                        { {SC_2, SC_0}, {SC_1, SC_0}, {SC_0, SC_8}, {SC_0, SC_4} },
377                        { {SC_3, SC_0}, {SC_1, SC_8}, {SC_0, SC_C}, {SC_0, SC_6} },
378                        { {SC_4, SC_0}, {SC_2, SC_0}, {SC_1, SC_0}, {SC_0, SC_8} },
379                        { {SC_5, SC_0}, {SC_2, SC_8}, {SC_1, SC_4}, {SC_0, SC_A} },
380                        { {SC_6, SC_0}, {SC_3, SC_0}, {SC_1, SC_8}, {SC_0, SC_C} },
381                        { {SC_7, SC_0}, {SC_3, SC_8}, {SC_1, SC_C}, {SC_0, SC_E} },
382                        { {SC_8, SC_0}, {SC_4, SC_0}, {SC_2, SC_0}, {SC_1, SC_0} },
383                        { {SC_9, SC_0}, {SC_4, SC_8}, {SC_2, SC_4}, {SC_1, SC_2} },
384                        { {SC_A, SC_0}, {SC_5, SC_0}, {SC_2, SC_8}, {SC_1, SC_4} },
385                        { {SC_B, SC_0}, {SC_5, SC_8}, {SC_2, SC_C}, {SC_1, SC_6} },
386                        { {SC_C, SC_0}, {SC_6, SC_0}, {SC_3, SC_0}, {SC_1, SC_8} },
387                        { {SC_D, SC_0}, {SC_6, SC_8}, {SC_3, SC_4}, {SC_1, SC_A} },
388                        { {SC_E, SC_0}, {SC_7, SC_0}, {SC_3, SC_8}, {SC_1, SC_C} },
389                        { {SC_F, SC_0}, {SC_7, SC_8}, {SC_3, SC_C}, {SC_1, SC_E} }
390                                    };
391
392 /* for converting to binary string */
393 static const char *binary_table[16] = {
394   "0000", "0001", "0010", "0011", "0100", "0101", "0110", "0111",
395   "1000", "1001", "1010", "1011", "1100", "1101", "1110", "1111"
396 };
397
398 /*****************************************************************************
399  * private functions
400  *****************************************************************************/
401 static void _fail_char(const char *str, size_t len, const char fchar, int pos,
402                        const char *file, int line)
403 {
404   printf("ERROR:\n");
405   printf("Unexpected character '%c' in %s:%d\n", fchar, file, line);
406   while (len-- && *str) printf("%c", *str++); printf("\n");
407   while (--pos) printf(" "); printf("^\n");
408   exit(-1);
409 }
410
411 static void _bitnot(const char *val, char *buffer)
412 {
413   int counter;
414
415   for (counter = 0; counter<CALC_BUFFER_SIZE; counter++)
416     buffer[counter] = not_table[_val(val[counter])];
417 }
418
419 static void _bitor(const char *val1, const char *val2, char *buffer)
420 {
421   int counter;
422
423   for (counter = 0; counter<CALC_BUFFER_SIZE; counter++)
424     buffer[counter] = or_table[_val(val1[counter])][_val(val2[counter])];
425 }
426
427 static void _bitxor(const char *val1, const char *val2, char *buffer)
428 {
429   int counter;
430
431   for (counter = 0; counter<CALC_BUFFER_SIZE; counter++)
432     buffer[counter] = xor_table[_val(val1[counter])][_val(val2[counter])];
433 }
434
435 static void _bitand(const char *val1, const char *val2, char *buffer)
436 {
437   int counter;
438
439   for (counter = 0; counter<CALC_BUFFER_SIZE; counter++)
440     buffer[counter] = and_table[_val(val1[counter])][_val(val2[counter])];
441 }
442
443 static int _sign(const char *val)
444 {
445   return (val[CALC_BUFFER_SIZE-1] <= SC_7) ? (1) : (-1);
446 }
447
448 /*
449  * returns non-zero if bit at position pos is set
450  */
451 static int _bit(const char *val, int pos)
452 {
453   int bit    = pos & 3;
454   int nibble = pos >> 2;
455
456   return _bitisset(val[nibble], bit);
457 }
458
459 static void _inc(char *val, char *buffer)
460 {
461   int counter = 0;
462
463   while (counter++ < CALC_BUFFER_SIZE)
464   {
465     if (*val == SC_F)
466     {
467       *buffer++ = SC_0;
468       val++;
469     }
470     else
471     {
472       /* No carry here, *val != SC_F */
473       *buffer = add_table[_val(*val)][SC_1][0];
474       return;
475     }
476   }
477   /* here a carry could be lost, this is intended because this should
478    * happen only when a value changes sign. */
479 }
480
481 static void _negate(const char *val, char *buffer)
482 {
483   _bitnot(val, buffer);
484   _inc(buffer, buffer);
485 }
486
487 static void _add(const char *val1, const char *val2, char *buffer)
488 {
489   int counter;
490   const char *add1, *add2;
491   char carry = SC_0;
492
493   for (counter = 0; counter < CALC_BUFFER_SIZE; counter++)
494   {
495     add1 = add_table[_val(val1[counter])][_val(val2[counter])];
496     add2 = add_table[_val(add1[0])][_val(carry)];
497     /* carry might be zero */
498     buffer[counter] = add2[0];
499     carry = add_table[_val(add1[1])][_val(add2[1])][0];
500   }
501 }
502
503 static void _mul(const char *val1, const char *val2, char *buffer)
504 {
505   char temp_buffer[CALC_BUFFER_SIZE]; /* result buffer */
506   char neg_val1[CALC_BUFFER_SIZE];    /* abs of val1 */
507   char neg_val2[CALC_BUFFER_SIZE];    /* abs of val2 */
508
509   const char *mul, *add1, *add2;      /* intermediate result containers */
510   char carry = SC_0;                  /* container for carries */
511   char sign = 0;                      /* marks result sign */
512   int c_inner, c_outer;               /* loop counters */
513
514   /* init result buffer to zeroes */
515   memset(temp_buffer, SC_0, CALC_BUFFER_SIZE);
516
517   /* the multiplication works only for positive values, for negative values *
518    * it is necessary to negate them and adjust the result accordingly       */
519   if (_sign(val1) == -1) {
520     _negate(val1, neg_val1);
521     val1 = neg_val1;
522     sign ^= 1;
523   }
524   if (_sign(val2) == -1) {
525     _negate(val2, neg_val2);
526     val2 = neg_val2;
527     sign ^= 1;
528   }
529
530   for (c_outer = 0; c_outer < MAX_VALUE_SIZE; c_outer++)
531   {
532     if (val2[c_outer] != SC_0)
533     {
534       for (c_inner = 0; c_inner < MAX_VALUE_SIZE; c_inner++)
535       {
536         /* do the following calculation:                                    *
537          * Add the current carry, the value at position c_outer+c_inner     *
538          * and the result of the multiplication of val1[c_inner] and        *
539          * val2[c_outer]. This is the usual pen-and-paper multiplication.   */
540
541         /* multiplicate the two digits */
542         mul = mul_table[_val(val1[c_inner])][_val(val2[c_outer])];
543         /* add old value to result of multiplication */
544         add1 = add_table[_val(temp_buffer[c_inner + c_outer])][_val(mul[0])];
545         /* add carry to the sum */
546         add2 = add_table[_val(add1[0])][_val(carry)];
547
548         /* all carries together result in new carry. This is always smaller *
549          * than the base b:                                                 *
550          * Both multiplicands, the carry and the value already in the temp  *
551          * buffer are single digits and their value is therefore at most    *
552          * equal to (b-1).                                                  *
553          * This leads to:                                                   *
554          * (b-1)(b-1)+(b-1)+(b-1) = b*b-1                                   *
555          * The tables list all operations rem b, so the carry is at most    *
556          * (b*b-1)rem b = -1rem b = b-1                                     */
557         carry = add_table[_val(mul[1])][_val(add1[1])][0];
558         carry = add_table[_val(carry)][_val(add2[1])][0];
559
560         temp_buffer[c_inner + c_outer] = add2[0];
561       }
562
563       /* A carry may hang over */
564       /* c_outer is always smaller than MAX_VALUE_SIZE! */
565       temp_buffer[MAX_VALUE_SIZE + c_outer] = carry;
566       carry = SC_0;
567     }
568   }
569
570   if (sign)
571     _negate(temp_buffer, buffer);
572   else
573     memcpy(buffer, temp_buffer, CALC_BUFFER_SIZE);
574 }
575
576 static void _sub(const char *val1, const char *val2, char *buffer)
577 {
578   char temp_buffer[CALC_BUFFER_SIZE];  /* intermediate buffer to hold -val2 */
579
580   _negate(val2, temp_buffer);
581   _add(val1, temp_buffer, buffer);
582 }
583
584 static void _push(const char digit, char *buffer)
585 {
586   int counter;
587
588   for (counter = CALC_BUFFER_SIZE - 2; counter >= 0; counter--)
589   {
590     buffer[counter+1] = buffer[counter];
591   }
592   buffer[0] = digit;
593 }
594
595 /* XXX: This is MOST slow */
596 static void _divmod(const char *dividend, const char *divisor, char *quot, char *rem)
597 {
598   const char *minus_divisor;
599   char neg_val1[CALC_BUFFER_SIZE];
600   char neg_val2[CALC_BUFFER_SIZE];
601
602   char sign = 0;     /* remember result sign */
603
604   int c_dividend;      /* loop counters */
605
606   /* clear result buffer */
607   memset(quot, SC_0, CALC_BUFFER_SIZE);
608   memset(rem, SC_0, CALC_BUFFER_SIZE);
609
610   /* if the dividend is zero result is zero (quot is zero)*/
611   if (sc_comp(dividend, quot) == 0)
612     return;
613   /* if the divisor is zero this won't work (quot is zero) */
614   if (sc_comp(divisor, quot) == 0) assert(0 && "division by zero!");
615
616   if (_sign(dividend) == -1)
617   {
618     _negate(dividend, neg_val1);
619     sign ^= 1;
620     dividend = neg_val1;
621   }
622
623   _negate(divisor, neg_val2);
624   if (_sign(divisor) == -1)
625   {
626     sign ^= 1;
627     minus_divisor = divisor;
628     divisor = neg_val2;
629   }
630   else
631   {
632     minus_divisor = neg_val2;
633   }
634
635   /* if divisor >= dividend division is easy
636    * (remember these are absolute values) */
637   switch (sc_comp(dividend, divisor))
638   {
639     case 0: /* dividend == divisor */
640       quot[0] = SC_1;
641       return;
642
643     case -1: /* dividend < divisor */
644       memcpy(rem, dividend, CALC_BUFFER_SIZE);
645       return;
646
647     default: /* unluckily division is necessary :( */
648       break;
649   }
650
651   for (c_dividend = CALC_BUFFER_SIZE - 1; c_dividend >= 0; c_dividend--)
652   {
653     _push(dividend[c_dividend], rem);
654     _push(SC_0, quot);
655
656     if (sc_comp(rem, divisor) != -1)    /* remainder >= divisor */
657     {
658       /* subtract until the remainder becomes negative, this should
659        * be faster than comparing remainder with divisor  */
660       _add(rem, minus_divisor, rem);
661
662       while (_sign(rem) == 1)
663       {
664         quot[0] = add_table[_val(quot[0])][SC_1][0];
665         _add(rem, minus_divisor, rem);
666       }
667
668       /* subtracted one too much */
669       _add(rem, divisor, rem);
670     }
671   }
672
673   carry_flag = !sc_is_zero(rem);
674
675   if (sign)
676   {
677     _negate(quot, quot);
678     _negate(rem, rem);
679   }
680 }
681
682 static void _shl(const char *val1, char *buffer, long offset, int radius, unsigned is_signed)
683 {
684   const char *shl;
685   char shift;
686   char carry = SC_0;
687
688   int counter;
689   int bitoffset = 0;
690
691   assert((offset >= 0) || (0 && "negative leftshift"));
692   assert(((_sign(val1) != -1) || is_signed) || (0 && "unsigned mode and negative value"));
693   assert(((!_bitisset(val1[(radius-1)/4], (radius-1)%4)) || !is_signed || (_sign(val1) == -1)) || (0 && "value is positive, should be negative"));
694   assert(((_bitisset(val1[(radius-1)/4], (radius-1)%4)) || !is_signed || (_sign(val1) == 1)) || (0 && "value is negative, should be positive"));
695
696   /* if shifting far enough the result is zero */
697   if (offset >= radius)
698   {
699     memset(buffer, SC_0, CALC_BUFFER_SIZE);
700     return;
701   }
702
703   shift = shift_table[_val(offset%4)];      /* this is 2 ** (offset % 4) */
704   offset = offset / 4;
705
706   /* shift the single digits some bytes (offset) and some bits (table)
707    * to the left */
708   for (counter = 0; counter < radius/4 - offset; counter++)
709   {
710     shl = mul_table[_val(val1[counter])][_val(shift)];
711     buffer[counter + offset] = or_table[_val(shl[0])][_val(carry)];
712     carry = shl[1];
713   }
714   if (radius%4 > 0)
715   {
716     shl = mul_table[_val(val1[counter])][_val(shift)];
717     buffer[counter + offset] = or_table[_val(shl[0])][_val(carry)];
718     bitoffset = counter;
719   } else {
720     bitoffset = counter - 1;
721   }
722
723   /* fill with zeroes */
724   for (counter = 0; counter < offset; counter++) buffer[counter] = SC_0;
725
726   /* if the mode was signed, change sign when the mode's msb is now 1 */
727   offset = bitoffset + offset;
728   bitoffset = (radius-1) % 4;
729   if (is_signed && _bitisset(buffer[offset], bitoffset))
730   {
731     /* this sets the upper bits of the leftmost digit */
732     buffer[offset] = or_table[_val(buffer[offset])][_val(min_digit[bitoffset])];
733     for (counter = offset+1; counter < CALC_BUFFER_SIZE; counter++)
734     {
735       buffer[counter] = SC_F;
736     }
737   }
738   else if (is_signed && !_bitisset(buffer[offset], bitoffset))
739   {
740     /* this unsets the upper bits of the leftmost digit */
741     buffer[offset] = and_table[_val(buffer[offset])][_val(max_digit[bitoffset])];
742     for (counter = offset+1; counter < CALC_BUFFER_SIZE; counter++)
743     {
744       buffer[counter] = SC_0;
745     }
746   }
747 }
748
749 static void _shr(const char *val1, char *buffer, long offset, int radius, unsigned is_signed, int signed_shift)
750 {
751   const char *shrs;
752   char sign;
753   char msd;
754
755   int shift;
756
757   int counter;
758   int bitoffset = 0;
759
760   assert((offset >= 0) || (0 && "negative rightshift"));
761   assert(((_sign(val1) != -1) || is_signed) || (0 && "unsigned mode and negative value"));
762   assert(((!_bitisset(val1[(radius-1)/4], (radius-1)%4)) || !is_signed || (_sign(val1) == -1)) || (0 && "value is positive, should be negative"));
763   assert(((_bitisset(val1[(radius-1)/4], (radius-1)%4)) || !is_signed || (_sign(val1) == 1)) || (0 && "value is negative, should be positive"));
764
765   sign = ((signed_shift) && (_sign(val1) == -1))?(SC_F):(SC_0);
766
767   /* if shifting far enough the result is either 0 or -1 */
768   if (offset >= radius)
769   {
770     memset(buffer, sign, CALC_BUFFER_SIZE);
771     return;
772   }
773
774   shift = offset % 4;
775   offset = offset / 4;
776
777   /* check if any bits are lost, and set carry_flag is so */
778   for (counter = 0; counter < offset; counter++)
779   {
780     if (val1[counter] != carry_flag)
781     {
782       carry_flag = 1;
783       break;
784     }
785   }
786   if ((carry_flag == 0) && (_val(val1[counter]) & shift != 0))
787     carry_flag = 1;
788
789   /* shift digits to the right with offset, carry and all */
790   counter = 0;
791   if (radius/4 - offset > 0) {
792     buffer[counter] = shrs_table[_val(val1[offset])][shift][0];
793     counter = 1;
794   }
795   for (; counter < radius/4 - offset; counter++)
796   {
797     shrs = shrs_table[_val(val1[counter + offset])][shift];
798     buffer[counter] = shrs[0];
799     buffer[counter-1] = or_table[_val(buffer[counter-1])][_val(shrs[1])];
800   }
801
802   /* the last digit is special in regard of signed/unsigned shift */
803   bitoffset = radius%4;
804   msd = (radius/4<CALC_BUFFER_SIZE)?(val1[radius/4]):(sign);  /* most significant digit */
805
806   /* remove sign bits if mode was signed and this is an unsigned shift */
807   if (!signed_shift && is_signed) {
808     msd = and_table[_val(msd)][_val(max_digit[bitoffset])];
809   }
810
811   shrs = shrs_table[_val(msd)][shift];
812
813   /* signed shift and signed mode and negative value means all bits to the left are set */
814   if (signed_shift && is_signed && (_sign(val1) == -1)) {
815     buffer[counter] = or_table[_val(shrs[0])][_val(min_digit[bitoffset])];
816   } else {
817     buffer[counter] = shrs[0];
818   }
819
820   if (counter > 0) buffer[counter - 1] = or_table[_val(buffer[counter-1])][_val(shrs[1])];
821
822   /* fill with SC_F or SC_0 depending on sign */
823   for (counter++; counter < CALC_BUFFER_SIZE; counter++)
824   {
825     buffer[counter] = sign;
826   }
827 }
828
829 /* positive: low-order -> high order, negative other direction */
830 static void _rot(const char *val1, char *buffer, long offset, int radius, unsigned is_signed)
831 {
832   char temp1[CALC_BUFFER_SIZE];
833   char temp2[CALC_BUFFER_SIZE];
834
835   const char *shl;
836   char carry = SC_0;
837
838   int counter, old_counter;
839   int shift;
840   int bitoffset;
841
842   offset = offset % radius;
843
844   /* rotation by multiples of the typelength is identity */
845   if (offset == 0) {
846     memmove(buffer, val1, CALC_BUFFER_SIZE);
847     return;
848   }
849
850   _shl(val1, temp1, offset, radius, is_signed);
851   _shr(val1, temp2, radius - offset, radius, is_signed, 0);
852   _bitor(temp1, temp2, buffer);
853   carry_flag = 0; /* set by shr, but due to rot this is false */
854 }
855
856 /*****************************************************************************
857  * public functions, declared in strcalc.h
858  *****************************************************************************/
859 const void *sc_get_buffer(void)
860 {
861   return (void*)calc_buffer;
862 }
863
864 const int sc_get_buffer_length(void)
865 {
866   return CALC_BUFFER_SIZE;
867 }
868
869 /* XXX doesn't check for overflows */
870 void sc_val_from_str(const char *str, unsigned int len)
871 {
872   const char *orig_str = str;
873   unsigned int orig_len = len;
874
875   char sign = 0;
876   char base[CALC_BUFFER_SIZE];
877   char val[CALC_BUFFER_SIZE];
878
879   /* verify valid pointers (not null) */
880   assert(str);
881   /* a string no characters long is an error */
882   assert(len);
883
884   CLEAR_CALC_BUFFER();
885   memset(base, SC_0, CALC_BUFFER_SIZE);
886   memset(val, SC_0, CALC_BUFFER_SIZE);
887
888   /* strip leading spaces */
889   while ((len > 0) && (*str == ' ')) { len--; str++; }
890
891   /* if the first two characters are 0x or 0X -> hex
892    * if the first is a 0 -> oct
893    * else dec, strip leading -/+ and remember sign
894    *
895    * only a + or - sign is no number resulting in an error */
896   if (len >= 2)
897     switch (str[0])
898     {
899       case '0':
900         if (str[1] == 'x' || str[1] == 'X') /* hex */
901         {
902           str += 2;
903           len -= 2;
904           base[1] = SC_1; base[0] = SC_0;
905         }
906         else /* oct */
907         {
908           str += 1;
909           len -= 1;
910           base[1] = SC_0; base[0] = SC_8;
911         }
912         break;
913
914       case '+':
915         {
916           str += 1;
917           len -= 1;
918           base[1] = SC_0; base[0] = SC_A;
919         }
920         break;
921
922       case '-':
923         {
924           str += 1;
925           len -= 1;
926           sign = 1;
927           base[1] = SC_0; base[0] = SC_A;
928         }
929         break;
930
931       default: /* dec, else would have begun with 0x or 0 */
932         base[1] = SC_0; base[0] = SC_A;
933     }
934
935   else /* dec, else would have begun with 0x or 0 */
936   {
937     base[1] = SC_0; base[0] = SC_A;
938   }
939
940   /* BEGIN string evaluation, from left to right */
941   while (len > 0)
942   {
943     switch (*str)
944     {
945       case 'f':
946       case 'e':
947       case 'd':
948       case 'c':
949       case 'b':
950       case 'a':
951         if (base[0] > SC_9 || base[1] > SC_0) /* (base > 10) */
952         {
953           val[0] = _digit((*str)-'a'+10);
954         }
955         else fail_char(orig_str, orig_len, *str, str-orig_str+1);
956         break;
957
958       case 'F':
959       case 'E':
960       case 'D':
961       case 'C':
962       case 'B':
963       case 'A':
964         if (base[0] > SC_9 || base[1] > SC_0) /* (base > 10) */
965         {
966           val[0] = _digit((*str)-'A'+10);
967         }
968         else fail_char(orig_str, orig_len, *str, str-orig_str+1);
969         break;
970
971       case '9':
972       case '8':
973         if (base[0] > SC_7 || base[1] > SC_0) /* (base > 8) */
974         {
975           val[0] = _digit((*str)-'0');
976         }
977         else fail_char(orig_str, orig_len, *str, str-orig_str+1);
978         break;
979
980       case '7':
981       case '6':
982       case '5':
983       case '4':
984       case '3':
985       case '2':
986       case '1':
987       case '0':
988         {
989           val[0] = _digit((*str)-'0');
990         }
991         break;
992
993       default:
994         fail_char(orig_str, orig_len, *str, str-orig_str+1);
995     } /* switch(*str) */
996
997     /* Radix conversion from base b to base B:
998      *  (UnUn-1...U1U0)b == ((((Un*b + Un-1)*b + ...)*b + U1)*b + U0)B */
999     _mul(base, calc_buffer, calc_buffer); /* multiply current value with base */
1000     _add(val, calc_buffer, calc_buffer);  /* add next digit to current value  */
1001
1002     /* get ready for the next letter */
1003     str++;
1004     len--;
1005
1006   } /* while (len > 0 ) */
1007
1008   if (sign)
1009   {
1010     _negate(calc_buffer, calc_buffer);
1011   }
1012 }
1013
1014 void sc_val_from_long(long value)
1015 {
1016   char *pos;
1017   char sign, is_minlong;
1018
1019   pos = calc_buffer;
1020   sign = (value < 0);
1021   is_minlong = value == LONG_MIN;
1022
1023   /* use absolute value, special treatment of MIN_LONG */
1024   if (sign) {
1025     if (is_minlong)
1026       value = -(value+1);
1027     else
1028       value = -value;
1029   }
1030
1031   CLEAR_CALC_BUFFER();
1032
1033   while ((value != 0) && (pos < calc_buffer + CALC_BUFFER_SIZE))
1034   {
1035     *pos++ = _digit(value % 16);
1036     value /= 16;
1037   }
1038
1039
1040   if (sign) {
1041     if (is_minlong) _inc(calc_buffer, calc_buffer);
1042     _negate(calc_buffer, calc_buffer);
1043   }
1044 }
1045
1046 long sc_val_to_long(const void *val)
1047 {
1048   int i;
1049   long l = 0;
1050
1051   for (i = CALC_BUFFER_SIZE - 1; i >= 0; i--)
1052   {
1053     l = (l << 4) + _val(((char *)val)[i]);
1054   }
1055   return l;
1056 }
1057
1058 void sc_min_from_bits(unsigned int num_bits, unsigned int sign)
1059 {
1060   char* pos;
1061   int i, bits;
1062
1063   CLEAR_CALC_BUFFER();
1064   if (!sign) return;  /* unsigned means minimum is 0(zero) */
1065
1066   pos = calc_buffer;
1067
1068   bits = num_bits - 1;
1069   for (i = 0; i < bits/4; i++)
1070     *pos++ = SC_0;
1071
1072   *pos++ = min_digit[bits%4];
1073
1074   for (i++; i <= CALC_BUFFER_SIZE - 1; i++)
1075     *pos++ = SC_F;
1076 }
1077
1078 void sc_max_from_bits(unsigned int num_bits, unsigned int sign)
1079 {
1080   char* pos;
1081   int i, bits;
1082
1083   CLEAR_CALC_BUFFER();
1084   pos = calc_buffer;
1085
1086   bits = num_bits - sign;
1087   for (i = 0; i < bits/4; i++)
1088     *pos++ = SC_F;
1089
1090   *pos++ = max_digit[bits%4];
1091
1092   for (i++; i <= CALC_BUFFER_SIZE - 1; i++)
1093     *pos++ = SC_0;
1094 }
1095
1096 void sc_calc(const void* value1, const void* value2, unsigned op)
1097 {
1098   char unused_res[CALC_BUFFER_SIZE]; /* temp buffer holding unused result of divmod */
1099
1100   const char *val1 = (const char *)value1;
1101   const char *val2 = (const char *)value2;
1102   CLEAR_CALC_BUFFER();
1103   carry_flag = 0;
1104
1105   DEBUGPRINTF_COMPUTATION(("%s ", sc_print_hex(value1)));
1106
1107   switch (op)
1108   {
1109     case SC_NEG:
1110       _negate(val1, calc_buffer);
1111       DEBUGPRINTF_COMPUTATION(("negated: %s\n", sc_print_hex(calc_buffer)));
1112       return;
1113     case SC_OR:
1114       DEBUGPRINTF_COMPUTATION(("| "));
1115       _bitor(val1, val2, calc_buffer);
1116       break;
1117     case SC_AND:
1118       DEBUGPRINTF_COMPUTATION(("& "));
1119       _bitand(val1, val2, calc_buffer);
1120       break;
1121     case SC_XOR:
1122       DEBUGPRINTF_COMPUTATION(("^ "));
1123       _bitxor(val1, val2, calc_buffer);
1124       break;
1125     case SC_NOT:
1126       _bitnot(val1, calc_buffer);
1127       DEBUGPRINTF_COMPUTATION(("bit-negated: %s\n", sc_print_hex(calc_buffer)));
1128       return;
1129     case SC_ADD:
1130       DEBUGPRINTF_COMPUTATION(("+ "));
1131       _add(val1, val2, calc_buffer);
1132       break;
1133     case SC_SUB:
1134       DEBUGPRINTF_COMPUTATION(("- "));
1135       _sub(val1, val2, calc_buffer);
1136       break;
1137     case SC_MUL:
1138       DEBUGPRINTF_COMPUTATION(("* "));
1139       _mul(val1, val2, calc_buffer);
1140       break;
1141     case SC_DIV:
1142       DEBUGPRINTF_COMPUTATION(("/ "));
1143       _divmod(val1, val2, calc_buffer, unused_res);
1144       break;
1145     case SC_MOD:
1146       DEBUGPRINTF_COMPUTATION(("%% "));
1147       _divmod(val1, val2, unused_res, calc_buffer);
1148       break;
1149     default:
1150       assert(0);
1151   }
1152   DEBUGPRINTF_COMPUTATION(("%s -> ", sc_print_hex(value2)));
1153   DEBUGPRINTF_COMPUTATION(("%s\n", sc_print_hex(calc_buffer)));
1154 }
1155
1156 void sc_bitcalc(const void* value1, const void* value2, int radius, int sign, unsigned op)
1157 {
1158   const char *val1 = (const char *)value1;
1159   const char *val2 = (const char *)value2;
1160   long offset;
1161
1162   carry_flag = 0;
1163   offset = sc_val_to_long(val2);
1164
1165   DEBUGPRINTF_COMPUTATION(("%s ", sc_print_hex(value1)));
1166   switch (op)
1167   {
1168     case SC_SHL:
1169       DEBUGPRINTF_COMPUTATION(("<< %d ", offset));
1170       _shl(val1, calc_buffer, offset, radius, sign);
1171       break;
1172     case SC_SHR:
1173       DEBUGPRINTF_COMPUTATION((">> %d ", offset));
1174       _shr(val1, calc_buffer, offset, radius, sign, 0);
1175       break;
1176     case SC_SHRS:
1177       DEBUGPRINTF_COMPUTATION((">>> %d ", offset));
1178       _shr(val1, calc_buffer, offset, radius, sign, 1);
1179       break;
1180     case SC_ROT:
1181       DEBUGPRINTF_COMPUTATION(("<<>> %d ", offset));
1182       _rot(val1, calc_buffer, offset, radius, sign);
1183       break;
1184     default:
1185       assert(0);
1186   }
1187   DEBUGPRINTF_COMPUTATION(("-> %s\n", sc_print_hex(calc_buffer)));
1188 }
1189
1190 int sc_comp(const void* value1, const void* value2)
1191 {
1192   int counter = CALC_BUFFER_SIZE - 1;
1193   const char *val1 = (const char *)value1;
1194   const char *val2 = (const char *)value2;
1195
1196   /* compare signs first:
1197    * the loop below can only compare values of the same sign! */
1198   if (_sign(val1) != _sign(val2)) return (_sign(val1) == 1)?(1):(-1);
1199
1200   /* loop until two digits differ, the values are equal if there
1201    * are no such two digits */
1202   while (val1[counter] == val2[counter])
1203   {
1204     counter--;
1205     if (counter < 0) return 0;
1206   }
1207
1208   /* the leftmost digit is the most significant, so this returns
1209    * the correct result.
1210    * This implies the digit enum is ordered */
1211   return (val1[counter] > val2[counter]) ? (1) : (-1);
1212 }
1213
1214 int sc_get_highest_set_bit(const void *value)
1215 {
1216   const char *val = (const char*)value;
1217   int high, counter;
1218   char sign;
1219
1220   high = CALC_BUFFER_SIZE * 4;
1221
1222   for (counter = CALC_BUFFER_SIZE-1; counter >= 0; counter--) {
1223     if (val[counter] == SC_0) high -= 4;
1224     else {
1225       if (val[counter] > SC_7) return high;
1226       else if (val[counter] > SC_3) return high - 1;
1227       else if (val[counter] > SC_1) return high - 2;
1228       else return high - 3;
1229     }
1230   }
1231   return high;
1232 }
1233
1234 int sc_get_lowest_set_bit(const void *value)
1235 {
1236   const char *val = (const char*)value;
1237   int low, counter;
1238   char sign;
1239
1240   sign = (_sign(val)==1)?(SC_0):(SC_F);
1241   low = 0;
1242
1243   for (counter = 0; counter < CALC_BUFFER_SIZE; counter++) {
1244     if (val[counter] == SC_0) low += 4;
1245     else {
1246       if (val[counter] < SC_2) return low;
1247       else if (val[counter] < SC_4) return low + 1;
1248       else if (val[counter] < SC_8) return low + 2;
1249       else return low + 3;
1250     }
1251   }
1252   return low;
1253 }
1254
1255 int sc_is_zero(const void *value)
1256 {
1257   const char* val = (const char *)value;
1258   int counter;
1259
1260   for (counter = 0; counter < CALC_BUFFER_SIZE; counter++) {
1261     if (val[counter] != SC_0) return 0;
1262   }
1263   return 1;
1264 }
1265
1266 int sc_is_negative(const void *value)
1267 {
1268   return _sign(value) == -1;
1269 }
1270
1271 int sc_had_carry(void)
1272 {
1273   return carry_flag;
1274 }
1275
1276 unsigned char sc_sub_bits(const void *value, int len, unsigned byte_ofs)
1277 {
1278   const char *val     = (const char *)value;
1279   unsigned nibble_ofs = 2 * byte_ofs;
1280   unsigned char res;
1281
1282   /* the current scheme uses one byte to store a nibble */
1283   if (nibble_ofs >= len)
1284     return 0;
1285
1286   res = _val(val[nibble_ofs]);
1287   if (len > nibble_ofs + 1)
1288     res |= _val(val[nibble_ofs + 1]) << 4;
1289
1290   return res;
1291 }
1292
1293 /*
1294  * convert to a string
1295  */
1296 const char *sc_print(const void *value, unsigned bits, enum base_t base)
1297 {
1298   static const char big_digits[]   = "0123456789ABCDEF";
1299   static const char small_digits[] = "0123456789abcdef";
1300
1301   char base_val[CALC_BUFFER_SIZE];
1302   char div1_res[CALC_BUFFER_SIZE];
1303   char div2_res[CALC_BUFFER_SIZE];
1304   char rem_res[CALC_BUFFER_SIZE];
1305   int counter, nibbles, i, sign;
1306   char x;
1307
1308   const char *val = (const char *)value;
1309   const char *p;
1310   char *m, *n, *t;
1311   char *pos;
1312   const char *digits = small_digits;
1313
1314   pos = output_buffer + BIT_PATTERN_SIZE;
1315   *pos = '\0';
1316
1317   /* special case */
1318   if (bits == 0) {
1319     bits = BIT_PATTERN_SIZE;
1320 #ifdef STRCALC_DEBUG_FULLPRINT
1321     bits <<= 1;
1322 #endif
1323   }
1324   nibbles = bits >> 2;
1325   switch (base) {
1326
1327   case SC_HEX:
1328     digits = big_digits;
1329   case SC_hex:
1330     for (counter = 0; counter < nibbles; ++counter) {
1331       *(--pos) = digits[_val(val[counter])];
1332 #ifdef STRCALC_DEBUG_GROUPPRINT
1333       if ((counter+1)%8 == 0)
1334         *(--pos) = ' ';
1335 #endif
1336     }
1337
1338     /* last nibble must be masked */
1339     if (bits & 3) {
1340       x = and_table[_val(val[++counter])][bits & 3];
1341       *(--pos) = digits[_val(x)];
1342     }
1343
1344     /* now kill zeros */
1345     for (; counter > 1; --counter, ++pos) {
1346 #ifdef STRCALC_DEBUG_GROUPPRINT
1347       if (pos[0] == ' ') ++pos;
1348 #endif
1349       if (pos[0] != '0')
1350         break;
1351     }
1352     break;
1353
1354   case SC_BIN:
1355     for (counter = 0; counter < nibbles; ++counter) {
1356       pos -= 4;
1357       p = binary_table[_val(val[counter])];
1358       pos[0] = p[0];
1359       pos[1] = p[1];
1360       pos[2] = p[2];
1361       pos[3] = p[3];
1362     }
1363
1364     /* last nibble must be masked */
1365     if (bits & 3) {
1366       x = and_table[_val(val[++counter])][bits & 3];
1367
1368       pos -= 4;
1369       p = binary_table[_val(x)];
1370       pos[0] = p[0];
1371       pos[1] = p[1];
1372       pos[2] = p[2];
1373       pos[3] = p[3];
1374     }
1375
1376     /* now kill zeros */
1377     for (counter <<= 2; counter > 1; --counter, ++pos)
1378       if (pos[0] != '0')
1379         break;
1380     break;
1381
1382   case SC_DEC:
1383   case SC_OCT:
1384     memset(base_val, SC_0, CALC_BUFFER_SIZE);
1385     base_val[0] = base == SC_DEC ? SC_A : SC_8;
1386
1387     p    = val;
1388     sign = 0;
1389     if (base == SC_DEC) {
1390       /* check for negative values */
1391       if (_bit(val, bits - 1)) {
1392         _negate(val, div2_res);
1393         sign = 1;
1394         p = div2_res;
1395       }
1396     }
1397
1398     /* transfer data into oscilating buffers */
1399     memset(div1_res, SC_0, CALC_BUFFER_SIZE);
1400     for (counter = 0; counter < nibbles; ++counter)
1401       div1_res[counter] = p[counter];
1402
1403      /* last nibble must be masked */
1404     if (bits & 3) {
1405       ++counter;
1406
1407       div1_res[counter] = and_table[_val(p[counter])][bits & 3];
1408     }
1409
1410     m = div1_res;
1411     n = div2_res;
1412     for (;;) {
1413       _divmod(m, base_val, n, rem_res);
1414       t = m;
1415       m = n;
1416       n = t;
1417       *(--pos) = digits[_val(rem_res[0])];
1418
1419       x = 0;
1420       for (i = 0; i < sizeof(div1_res); ++i)
1421         x |= _val(m[i]);
1422
1423       if (x == 0)
1424         break;
1425     }
1426     if (sign)
1427        *(--pos) = '-';
1428     break;
1429
1430   default:
1431     assert(0);
1432     return NULL;
1433 }
1434   return pos;
1435 }
1436
1437 void init_strcalc(int precision_in_bytes)
1438 {
1439   if (calc_buffer == NULL) {
1440     if (precision_in_bytes <= 0) precision_in_bytes = DEFAULT_PRECISION_IN_BYTES;
1441
1442     BIT_PATTERN_SIZE = (8 * precision_in_bytes);
1443     CALC_BUFFER_SIZE = (4 * precision_in_bytes);
1444     MAX_VALUE_SIZE   = (2 * precision_in_bytes);
1445
1446     calc_buffer = malloc(CALC_BUFFER_SIZE * sizeof(char));
1447     output_buffer = malloc(BIT_PATTERN_SIZE * sizeof(char));
1448
1449     if (calc_buffer == NULL || output_buffer == NULL)
1450     {
1451       assert(0 && "malloc failed");
1452       exit(-1);
1453     }
1454
1455     DEBUGPRINTF(("init strcalc: \n\tPRECISION: %d\n\tCALC_BUFFER_SIZE = %d\n\tMAX_VALUE_SIZE = %d\n\tbuffer pointer: %p\n", precision_in_bytes, CALC_BUFFER_SIZE, MAX_VALUE_SIZE, calc_buffer));
1456   }
1457 }
1458 int get_precision()
1459 {
1460   return CALC_BUFFER_SIZE/4;
1461 }