*** empty log message ***
[libfirm] / ir / tv / strcalc.c
1 /*
2  * Project:     libFIRM
3  * File name:   ir/tv/strcalc.c
4  * Purpose:
5  * Author:      Mathias Heil
6  * Modified by:
7  * Created:
8  * CVS-ID:      $Id$
9  * Copyright:   (c) 2003 Universität Karlsruhe
10  * Licence:     This file protected by GPL -  GNU GENERAL PUBLIC LICENSE.
11  */
12
13
14 #ifdef HAVE_CONFIG_H
15 # include "config.h"
16 #endif
17
18
19 #include "strcalc.h"
20
21 #include <stdlib.h>
22 #ifdef HAVE_ALLOCA_H
23 # include <alloca.h>
24 #endif
25 #include <assert.h>   /* assertions */
26 #include <string.h>   /* memset/memcmp */
27 #include <stdio.h>    /* output for error messages */
28 #include <limits.h>   /* definition of LONG_MIN, used in sc_get_val_from_long */
29
30 /*
31  * local definitions and macros
32  */
33 #define CLEAR_BUFFER(b) assert(b); memset(b, SC_0, CALC_BUFFER_SIZE)
34 #define _val(a) ((a)-SC_0)
35 #define _digit(a) ((a)+SC_0)
36 #define _bitisset(digit, pos) (and_table[_val(digit)][_val(shift_table[pos])] != SC_0)
37
38 #define fail_char(a, b, c, d) _fail_char((a), (b), (c), (d), __FILE__,  __LINE__)
39
40 /* shortcut output for debugging */
41 #  define sc_print_hex(a) sc_print((a), 0, SC_HEX)
42 #  define sc_print_dec(a) sc_print((a), 0, SC_DEC)
43 #  define sc_print_oct(a) sc_print((a), 0, SC_OCT)
44 #  define sc_print_bin(a) sc_print((a), 0, SC_BIN)
45
46 #ifdef STRCALC_DEBUG_PRINTCOMP
47 #  define DEBUGPRINTF_COMPUTATION(x) printf x
48 #else
49 #  define DEBUGPRINTF_COMPUTATION(x) ((void)0)
50 #endif
51 #ifdef STRCALC_DEBUG
52 #  define DEBUGPRINTF(x) printf x
53 #else
54 #  define DEBUGPRINTF(x) ((void)0)
55 #endif
56
57
58 /*
59  * private variables
60  */
61
62 static char *calc_buffer = NULL;    /* buffer holding all results */
63 static char *output_buffer = NULL;  /* buffer for output */
64 static int BIT_PATTERN_SIZE;        /* maximum number of bits */
65 static int CALC_BUFFER_SIZE;        /* size of internally stored values */
66 static int MAX_VALUE_SIZE;          /* maximum size of values */
67
68 static int carry_flag;              /* some computation set carry_flag: */
69                                     /* rightshift if bits were lost due to shifting */
70                                     /* division if there was a remainder */
71
72 static const char max_digit[4] = { SC_0, SC_1, SC_3, SC_7 };
73 static const char min_digit[4] = { SC_F, SC_E, SC_C, SC_8 };
74
75 static const char not_table[16] = { SC_F, SC_E, SC_D, SC_C, SC_B, SC_A, SC_9, SC_8,
76                               SC_7, SC_6, SC_5, SC_4, SC_3, SC_2, SC_1, SC_0 };
77
78 static const char shift_table[4] = { SC_1, SC_2, SC_4, SC_8 };
79
80 static const char and_table[16][16] = {
81                             { SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0,
82                               SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0 },
83
84                             { SC_0, SC_1, SC_0, SC_1, SC_0, SC_1, SC_0, SC_1,
85                               SC_0, SC_1, SC_0, SC_1, SC_0, SC_1, SC_0, SC_1 },
86
87                             { SC_0, SC_0, SC_2, SC_2, SC_0, SC_0, SC_2, SC_2,
88                               SC_0, SC_0, SC_2, SC_2, SC_0, SC_0, SC_2, SC_2 },
89
90                             { SC_0, SC_1, SC_2, SC_3, SC_0, SC_1, SC_2, SC_3,
91                               SC_0, SC_1, SC_2, SC_3, SC_0, SC_1, SC_2, SC_3 },
92
93                             { SC_0, SC_0, SC_0, SC_0, SC_4, SC_4, SC_4, SC_4,
94                               SC_0, SC_0, SC_0, SC_0, SC_4, SC_4, SC_4, SC_4 },
95
96                             { SC_0, SC_1, SC_0, SC_1, SC_4, SC_5, SC_4, SC_5,
97                               SC_0, SC_1, SC_0, SC_1, SC_4, SC_5, SC_4, SC_5 },
98
99                             { SC_0, SC_0, SC_2, SC_2, SC_4, SC_4, SC_6, SC_6,
100                               SC_0, SC_0, SC_2, SC_2, SC_4, SC_4, SC_6, SC_6 },
101
102                             { SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7,
103                               SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7 },
104
105                             { SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0,
106                               SC_8, SC_8, SC_8, SC_8, SC_8, SC_8, SC_8, SC_8 },
107
108                             { SC_0, SC_1, SC_0, SC_1, SC_0, SC_1, SC_0, SC_1,
109                               SC_8, SC_9, SC_8, SC_9, SC_8, SC_9, SC_8, SC_9 },
110
111                             { SC_0, SC_0, SC_2, SC_2, SC_0, SC_0, SC_2, SC_2,
112                               SC_8, SC_8, SC_A, SC_A, SC_8, SC_8, SC_A, SC_A },
113
114                             { SC_0, SC_1, SC_2, SC_3, SC_0, SC_1, SC_2, SC_3,
115                               SC_8, SC_9, SC_A, SC_B, SC_8, SC_9, SC_A, SC_B },
116
117                             { SC_0, SC_0, SC_0, SC_0, SC_4, SC_4, SC_4, SC_4,
118                               SC_8, SC_8, SC_8, SC_8, SC_C, SC_C, SC_C, SC_C },
119
120                             { SC_0, SC_1, SC_0, SC_1, SC_4, SC_5, SC_4, SC_5,
121                               SC_8, SC_9, SC_8, SC_9, SC_C, SC_D, SC_C, SC_D },
122
123                             { SC_0, SC_0, SC_2, SC_2, SC_4, SC_4, SC_6, SC_6,
124                               SC_8, SC_8, SC_A, SC_A, SC_C, SC_C, SC_E, SC_E },
125
126                             { SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7,
127                               SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F } };
128
129 static const char or_table[16][16] = {
130                             { SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7,
131                               SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F },
132
133                             { SC_1, SC_1, SC_3, SC_3, SC_5, SC_5, SC_7, SC_7,
134                               SC_9, SC_9, SC_B, SC_B, SC_D, SC_D, SC_F, SC_F },
135
136                             { SC_2, SC_3, SC_2, SC_3, SC_6, SC_7, SC_6, SC_7,
137                               SC_A, SC_B, SC_A, SC_B, SC_E, SC_F, SC_E, SC_F },
138
139                             { SC_3, SC_3, SC_3, SC_3, SC_7, SC_7, SC_7, SC_7,
140                               SC_B, SC_B, SC_B, SC_B, SC_F, SC_F, SC_F, SC_F },
141
142                             { SC_4, SC_5, SC_6, SC_7, SC_4, SC_5, SC_6, SC_7,
143                               SC_C, SC_D, SC_E, SC_F, SC_C, SC_D, SC_E, SC_F },
144
145                             { SC_5, SC_5, SC_7, SC_7, SC_5, SC_5, SC_7, SC_7,
146                               SC_D, SC_D, SC_F, SC_F, SC_D, SC_D, SC_F, SC_F },
147
148                             { SC_6, SC_7, SC_6, SC_7, SC_6, SC_7, SC_6, SC_7,
149                               SC_E, SC_F, SC_E, SC_F, SC_E, SC_F, SC_E, SC_F },
150
151                             { SC_7, SC_7, SC_7, SC_7, SC_7, SC_7, SC_7, SC_7,
152                               SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F },
153
154                             { SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F,
155                               SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F },
156
157                             { SC_9, SC_9, SC_B, SC_B, SC_D, SC_D, SC_F, SC_F,
158                               SC_9, SC_9, SC_B, SC_B, SC_D, SC_D, SC_F, SC_F },
159
160                             { SC_A, SC_B, SC_A, SC_B, SC_E, SC_F, SC_E, SC_F,
161                               SC_A, SC_B, SC_A, SC_B, SC_E, SC_F, SC_E, SC_F },
162
163                             { SC_B, SC_B, SC_B, SC_B, SC_F, SC_F, SC_F, SC_F,
164                               SC_B, SC_B, SC_B, SC_B, SC_F, SC_F, SC_F, SC_F },
165
166                             { SC_C, SC_D, SC_E, SC_F, SC_C, SC_D, SC_E, SC_F,
167                               SC_C, SC_D, SC_E, SC_F, SC_C, SC_D, SC_E, SC_F },
168
169                             { SC_D, SC_D, SC_F, SC_F, SC_D, SC_D, SC_F, SC_F,
170                               SC_D, SC_D, SC_F, SC_F, SC_D, SC_D, SC_F, SC_F },
171
172                             { SC_E, SC_F, SC_E, SC_F, SC_E, SC_F, SC_E, SC_F,
173                               SC_E, SC_F, SC_E, SC_F, SC_E, SC_F, SC_E, SC_F },
174
175                             { SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F,
176                               SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F } };
177
178 static char const xor_table[16][16] = {
179                              { SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7,
180                                SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F },
181
182                              { SC_1, SC_0, SC_3, SC_2, SC_5, SC_4, SC_7, SC_6,
183                                SC_9, SC_8, SC_B, SC_A, SC_D, SC_C, SC_F, SC_E },
184
185                              { SC_2, SC_3, SC_0, SC_1, SC_6, SC_7, SC_4, SC_5,
186                                SC_A, SC_B, SC_8, SC_9, SC_E, SC_F, SC_C, SC_D },
187
188                              { SC_3, SC_2, SC_1, SC_0, SC_7, SC_6, SC_5, SC_4,
189                                SC_B, SC_A, SC_9, SC_8, SC_F, SC_E, SC_D, SC_C },
190
191                              { SC_4, SC_5, SC_6, SC_7, SC_0, SC_1, SC_2, SC_3,
192                                SC_C, SC_D, SC_E, SC_F, SC_8, SC_9, SC_A, SC_B },
193
194                              { SC_5, SC_4, SC_7, SC_6, SC_1, SC_0, SC_3, SC_2,
195                                SC_D, SC_C, SC_F, SC_E, SC_9, SC_8, SC_B, SC_A },
196
197                              { SC_6, SC_7, SC_4, SC_5, SC_2, SC_3, SC_0, SC_1,
198                                SC_E, SC_F, SC_C, SC_D, SC_A, SC_B, SC_8, SC_9 },
199
200                              { SC_7, SC_6, SC_5, SC_4, SC_3, SC_2, SC_1, SC_0,
201                                SC_F, SC_E, SC_D, SC_C, SC_B, SC_A, SC_9, SC_8 },
202
203                              { SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F,
204                                SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7 },
205
206                              { SC_9, SC_8, SC_B, SC_A, SC_D, SC_C, SC_F, SC_E,
207                                SC_1, SC_0, SC_3, SC_2, SC_5, SC_4, SC_7, SC_6 },
208
209                              { SC_A, SC_B, SC_8, SC_9, SC_E, SC_F, SC_C, SC_D,
210                                SC_2, SC_3, SC_0, SC_1, SC_6, SC_7, SC_4, SC_5 },
211
212                              { SC_B, SC_A, SC_9, SC_8, SC_F, SC_E, SC_D, SC_C,
213                                SC_3, SC_2, SC_1, SC_0, SC_7, SC_6, SC_5, SC_4 },
214
215                              { SC_C, SC_D, SC_E, SC_F, SC_8, SC_9, SC_A, SC_B,
216                                SC_4, SC_5, SC_6, SC_7, SC_0, SC_1, SC_2, SC_3 },
217
218                              { SC_D, SC_C, SC_F, SC_E, SC_9, SC_8, SC_B, SC_A,
219                                SC_5, SC_4, SC_7, SC_6, SC_1, SC_0, SC_3, SC_2 },
220
221                              { SC_E, SC_F, SC_C, SC_D, SC_A, SC_B, SC_8, SC_9,
222                                SC_6, SC_7, SC_4, SC_5, SC_2, SC_3, SC_0, SC_1 },
223
224                              { SC_F, SC_E, SC_D, SC_C, SC_B, SC_A, SC_9, SC_8,
225                                SC_7, SC_6, SC_5, SC_4, SC_3, SC_2, SC_1, SC_0 }
226                                 };
227
228 static char const add_table[16][16][2] = {
229                        { {SC_0, SC_0}, {SC_1, SC_0}, {SC_2, SC_0}, {SC_3, SC_0},
230                          {SC_4, SC_0}, {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0},
231                          {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0},
232                          {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0} },
233
234                        { {SC_1, SC_0}, {SC_2, SC_0}, {SC_3, SC_0}, {SC_4, SC_0},
235                          {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0}, {SC_8, SC_0},
236                          {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0},
237                          {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1} },
238
239                        { {SC_2, SC_0}, {SC_3, SC_0}, {SC_4, SC_0}, {SC_5, SC_0},
240                          {SC_6, SC_0}, {SC_7, SC_0}, {SC_8, SC_0}, {SC_9, SC_0},
241                          {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0},
242                          {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1} },
243
244                        { {SC_3, SC_0}, {SC_4, SC_0}, {SC_5, SC_0}, {SC_6, SC_0},
245                          {SC_7, SC_0}, {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0},
246                          {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0},
247                          {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1} },
248
249                        { {SC_4, SC_0}, {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0},
250                          {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0},
251                          {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0},
252                          {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1} },
253
254                        { {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0}, {SC_8, SC_0},
255                          {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0},
256                          {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1},
257                          {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1} },
258
259                        { {SC_6, SC_0}, {SC_7, SC_0}, {SC_8, SC_0}, {SC_9, SC_0},
260                          {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0},
261                          {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1},
262                          {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1} },
263
264                        { {SC_7, SC_0}, {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0},
265                          {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0},
266                          {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1},
267                          {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1} },
268
269                        { {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0},
270                          {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0},
271                          {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1},
272                          {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1}, {SC_7, SC_1} },
273
274                        { {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0},
275                          {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1},
276                          {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1},
277                          {SC_5, SC_1}, {SC_6, SC_1}, {SC_7, SC_1}, {SC_8, SC_1} },
278
279                        { {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0},
280                          {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1},
281                          {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1},
282                          {SC_6, SC_1}, {SC_7, SC_1}, {SC_8, SC_1}, {SC_9, SC_1} },
283
284                        { {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0},
285                          {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1},
286                          {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1},
287                          {SC_7, SC_1}, {SC_8, SC_1}, {SC_9, SC_1}, {SC_A, SC_1} },
288
289                        { {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0},
290                          {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1},
291                          {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1}, {SC_7, SC_1},
292                          {SC_8, SC_1}, {SC_9, SC_1}, {SC_A, SC_1}, {SC_B, SC_1} },
293
294                        { {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1},
295                          {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1},
296                          {SC_5, SC_1}, {SC_6, SC_1}, {SC_7, SC_1}, {SC_8, SC_1},
297                          {SC_9, SC_1}, {SC_A, SC_1}, {SC_B, SC_1}, {SC_C, SC_1} },
298
299                        { {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1},
300                          {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1},
301                          {SC_6, SC_1}, {SC_7, SC_1}, {SC_8, SC_1}, {SC_9, SC_1},
302                          {SC_A, SC_1}, {SC_B, SC_1}, {SC_C, SC_1}, {SC_D, SC_1} },
303
304                        { {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1},
305                          {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1},
306                          {SC_7, SC_1}, {SC_8, SC_1}, {SC_9, SC_1}, {SC_A, SC_1},
307                          {SC_B, SC_1}, {SC_C, SC_1}, {SC_D, SC_1}, {SC_E, SC_1} }
308                              };
309
310 static char const mul_table[16][16][2] = {
311                        { {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0},
312                          {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0},
313                          {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0},
314                          {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0} },
315
316                        { {SC_0, SC_0}, {SC_1, SC_0}, {SC_2, SC_0}, {SC_3, SC_0},
317                          {SC_4, SC_0}, {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0},
318                          {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0},
319                          {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0} },
320
321                        { {SC_0, SC_0}, {SC_2, SC_0}, {SC_4, SC_0}, {SC_6, SC_0},
322                          {SC_8, SC_0}, {SC_A, SC_0}, {SC_C, SC_0}, {SC_E, SC_0},
323                          {SC_0, SC_1}, {SC_2, SC_1}, {SC_4, SC_1}, {SC_6, SC_1},
324                          {SC_8, SC_1}, {SC_A, SC_1}, {SC_C, SC_1}, {SC_E, SC_1} },
325
326                        { {SC_0, SC_0}, {SC_3, SC_0}, {SC_6, SC_0}, {SC_9, SC_0},
327                          {SC_C, SC_0}, {SC_F, SC_0}, {SC_2, SC_1}, {SC_5, SC_1},
328                          {SC_8, SC_1}, {SC_B, SC_1}, {SC_E, SC_1}, {SC_1, SC_2},
329                          {SC_4, SC_2}, {SC_7, SC_2}, {SC_A, SC_2}, {SC_D, SC_2} },
330
331                        { {SC_0, SC_0}, {SC_4, SC_0}, {SC_8, SC_0}, {SC_C, SC_0},
332                          {SC_0, SC_1}, {SC_4, SC_1}, {SC_8, SC_1}, {SC_C, SC_1},
333                          {SC_0, SC_2}, {SC_4, SC_2}, {SC_8, SC_2}, {SC_C, SC_2},
334                          {SC_0, SC_3}, {SC_4, SC_3}, {SC_8, SC_3}, {SC_C, SC_3} },
335
336                        { {SC_0, SC_0}, {SC_5, SC_0}, {SC_A, SC_0}, {SC_F, SC_0},
337                          {SC_4, SC_1}, {SC_9, SC_1}, {SC_E, SC_1}, {SC_3, SC_2},
338                          {SC_8, SC_2}, {SC_D, SC_2}, {SC_2, SC_3}, {SC_7, SC_3},
339                          {SC_C, SC_3}, {SC_1, SC_4}, {SC_6, SC_4}, {SC_B, SC_4} },
340
341                        { {SC_0, SC_0}, {SC_6, SC_0}, {SC_C, SC_0}, {SC_2, SC_1},
342                          {SC_8, SC_1}, {SC_E, SC_1}, {SC_4, SC_2}, {SC_A, SC_2},
343                          {SC_0, SC_3}, {SC_6, SC_3}, {SC_C, SC_3}, {SC_2, SC_4},
344                          {SC_8, SC_4}, {SC_E, SC_4}, {SC_4, SC_5}, {SC_A, SC_5} },
345
346                        { {SC_0, SC_0}, {SC_7, SC_0}, {SC_E, SC_0}, {SC_5, SC_1},
347                          {SC_C, SC_1}, {SC_3, SC_2}, {SC_A, SC_2}, {SC_1, SC_3},
348                          {SC_8, SC_3}, {SC_F, SC_3}, {SC_6, SC_4}, {SC_D, SC_4},
349                          {SC_4, SC_5}, {SC_B, SC_5}, {SC_2, SC_6}, {SC_9, SC_6} },
350
351                        { {SC_0, SC_0}, {SC_8, SC_0}, {SC_0, SC_1}, {SC_8, SC_1},
352                          {SC_0, SC_2}, {SC_8, SC_2}, {SC_0, SC_3}, {SC_8, SC_3},
353                          {SC_0, SC_4}, {SC_8, SC_4}, {SC_0, SC_5}, {SC_8, SC_5},
354                          {SC_0, SC_6}, {SC_8, SC_6}, {SC_0, SC_7}, {SC_8, SC_7} },
355
356                        { {SC_0, SC_0}, {SC_9, SC_0}, {SC_2, SC_1}, {SC_B, SC_1},
357                          {SC_4, SC_2}, {SC_D, SC_2}, {SC_6, SC_3}, {SC_F, SC_3},
358                          {SC_8, SC_4}, {SC_1, SC_5}, {SC_A, SC_5}, {SC_3, SC_6},
359                          {SC_C, SC_6}, {SC_5, SC_7}, {SC_E, SC_7}, {SC_7, SC_8} },
360
361                        { {SC_0, SC_0}, {SC_A, SC_0}, {SC_4, SC_1}, {SC_E, SC_1},
362                          {SC_8, SC_2}, {SC_2, SC_3}, {SC_C, SC_3}, {SC_6, SC_4},
363                          {SC_0, SC_5}, {SC_A, SC_5}, {SC_4, SC_6}, {SC_E, SC_6},
364                          {SC_8, SC_7}, {SC_2, SC_8}, {SC_C, SC_8}, {SC_6, SC_9} },
365
366                        { {SC_0, SC_0}, {SC_B, SC_0}, {SC_6, SC_1}, {SC_1, SC_2},
367                          {SC_C, SC_2}, {SC_7, SC_3}, {SC_2, SC_4}, {SC_D, SC_4},
368                          {SC_8, SC_5}, {SC_3, SC_6}, {SC_E, SC_6}, {SC_9, SC_7},
369                          {SC_4, SC_8}, {SC_F, SC_8}, {SC_A, SC_9}, {SC_5, SC_A} },
370
371                        { {SC_0, SC_0}, {SC_C, SC_0}, {SC_8, SC_1}, {SC_4, SC_2},
372                          {SC_0, SC_3}, {SC_C, SC_3}, {SC_8, SC_4}, {SC_4, SC_5},
373                          {SC_0, SC_6}, {SC_C, SC_6}, {SC_8, SC_7}, {SC_4, SC_8},
374                          {SC_0, SC_9}, {SC_C, SC_9}, {SC_8, SC_A}, {SC_4, SC_B} },
375
376                        { {SC_0, SC_0}, {SC_D, SC_0}, {SC_A, SC_1}, {SC_7, SC_2},
377                          {SC_4, SC_3}, {SC_1, SC_4}, {SC_E, SC_4}, {SC_B, SC_5},
378                          {SC_8, SC_6}, {SC_5, SC_7}, {SC_2, SC_8}, {SC_F, SC_8},
379                          {SC_C, SC_9}, {SC_9, SC_A}, {SC_6, SC_B}, {SC_3, SC_C} },
380
381                        { {SC_0, SC_0}, {SC_E, SC_0}, {SC_C, SC_1}, {SC_A, SC_2},
382                          {SC_8, SC_3}, {SC_6, SC_4}, {SC_4, SC_5}, {SC_2, SC_6},
383                          {SC_0, SC_7}, {SC_E, SC_7}, {SC_C, SC_8}, {SC_A, SC_9},
384                          {SC_8, SC_A}, {SC_6, SC_B}, {SC_4, SC_C}, {SC_2, SC_D} },
385
386                        { {SC_0, SC_0}, {SC_F, SC_0}, {SC_E, SC_1}, {SC_D, SC_2},
387                          {SC_C, SC_3}, {SC_B, SC_4}, {SC_A, SC_5}, {SC_9, SC_6},
388                          {SC_8, SC_7}, {SC_7, SC_8}, {SC_6, SC_9}, {SC_5, SC_A},
389                          {SC_4, SC_B}, {SC_3, SC_C}, {SC_2, SC_D}, {SC_1, SC_E} }
390                              };
391
392 static char const shrs_table[16][4][2] = {
393                        { {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0} },
394                        { {SC_1, SC_0}, {SC_0, SC_8}, {SC_0, SC_4}, {SC_0, SC_2} },
395                        { {SC_2, SC_0}, {SC_1, SC_0}, {SC_0, SC_8}, {SC_0, SC_4} },
396                        { {SC_3, SC_0}, {SC_1, SC_8}, {SC_0, SC_C}, {SC_0, SC_6} },
397                        { {SC_4, SC_0}, {SC_2, SC_0}, {SC_1, SC_0}, {SC_0, SC_8} },
398                        { {SC_5, SC_0}, {SC_2, SC_8}, {SC_1, SC_4}, {SC_0, SC_A} },
399                        { {SC_6, SC_0}, {SC_3, SC_0}, {SC_1, SC_8}, {SC_0, SC_C} },
400                        { {SC_7, SC_0}, {SC_3, SC_8}, {SC_1, SC_C}, {SC_0, SC_E} },
401                        { {SC_8, SC_0}, {SC_4, SC_0}, {SC_2, SC_0}, {SC_1, SC_0} },
402                        { {SC_9, SC_0}, {SC_4, SC_8}, {SC_2, SC_4}, {SC_1, SC_2} },
403                        { {SC_A, SC_0}, {SC_5, SC_0}, {SC_2, SC_8}, {SC_1, SC_4} },
404                        { {SC_B, SC_0}, {SC_5, SC_8}, {SC_2, SC_C}, {SC_1, SC_6} },
405                        { {SC_C, SC_0}, {SC_6, SC_0}, {SC_3, SC_0}, {SC_1, SC_8} },
406                        { {SC_D, SC_0}, {SC_6, SC_8}, {SC_3, SC_4}, {SC_1, SC_A} },
407                        { {SC_E, SC_0}, {SC_7, SC_0}, {SC_3, SC_8}, {SC_1, SC_C} },
408                        { {SC_F, SC_0}, {SC_7, SC_8}, {SC_3, SC_C}, {SC_1, SC_E} }
409                                    };
410
411 /* for converting to binary string */
412 static const char *binary_table[16] = {
413   "0000", "0001", "0010", "0011", "0100", "0101", "0110", "0111",
414   "1000", "1001", "1010", "1011", "1100", "1101", "1110", "1111"
415 };
416
417 /*****************************************************************************
418  * private functions
419  *****************************************************************************/
420 static void _fail_char(const char *str, size_t len, const char fchar, int pos,
421                        const char *file, int line)
422 {
423   printf("ERROR:\n");
424   printf("Unexpected character '%c' in %s:%d\n", fchar, file, line);
425   while (len-- && *str) printf("%c", *str++); printf("\n");
426   while (--pos) printf(" "); printf("^\n");
427   exit(-1);
428 }
429
430 static void _bitnot(const char *val, char *buffer)
431 {
432   int counter;
433
434   for (counter = 0; counter<CALC_BUFFER_SIZE; counter++)
435     buffer[counter] = not_table[_val(val[counter])];
436 }
437
438 static void _bitor(const char *val1, const char *val2, char *buffer)
439 {
440   int counter;
441
442   for (counter = 0; counter<CALC_BUFFER_SIZE; counter++)
443     buffer[counter] = or_table[_val(val1[counter])][_val(val2[counter])];
444 }
445
446 static void _bitxor(const char *val1, const char *val2, char *buffer)
447 {
448   int counter;
449
450   for (counter = 0; counter<CALC_BUFFER_SIZE; counter++)
451     buffer[counter] = xor_table[_val(val1[counter])][_val(val2[counter])];
452 }
453
454 static void _bitand(const char *val1, const char *val2, char *buffer)
455 {
456   int counter;
457
458   for (counter = 0; counter<CALC_BUFFER_SIZE; counter++)
459     buffer[counter] = and_table[_val(val1[counter])][_val(val2[counter])];
460 }
461
462 static int _sign(const char *val)
463 {
464   return (val[CALC_BUFFER_SIZE-1] <= SC_7) ? (1) : (-1);
465 }
466
467 /*
468  * returns non-zero if bit at position pos is set
469  */
470 static int _bit(const char *val, int pos)
471 {
472   int bit    = pos & 3;
473   int nibble = pos >> 2;
474
475   return _bitisset(val[nibble], bit);
476 }
477
478 static void _inc(char *val, char *buffer)
479 {
480   int counter = 0;
481
482   while (counter++ < CALC_BUFFER_SIZE)
483   {
484     if (*val == SC_F)
485     {
486       *buffer++ = SC_0;
487       val++;
488     }
489     else
490     {
491       /* No carry here, *val != SC_F */
492       *buffer = add_table[_val(*val)][SC_1][0];
493       return;
494     }
495   }
496   /* here a carry could be lost, this is intended because this should
497    * happen only when a value changes sign. */
498 }
499
500 static void _negate(const char *val, char *buffer)
501 {
502   _bitnot(val, buffer);
503   _inc(buffer, buffer);
504 }
505
506 static void _add(const char *val1, const char *val2, char *buffer)
507 {
508   int counter;
509   const char *add1, *add2;
510   char carry = SC_0;
511
512   for (counter = 0; counter < CALC_BUFFER_SIZE; counter++)
513   {
514     add1 = add_table[_val(val1[counter])][_val(val2[counter])];
515     add2 = add_table[_val(add1[0])][_val(carry)];
516     /* carry might be zero */
517     buffer[counter] = add2[0];
518     carry = add_table[_val(add1[1])][_val(add2[1])][0];
519   }
520 }
521
522 static void _mul(const char *val1, const char *val2, char *buffer)
523 {
524   char* temp_buffer; /* result buffer */
525   char* neg_val1;    /* abs of val1 */
526   char* neg_val2;    /* abs of val2 */
527
528   const char *mul, *add1, *add2;      /* intermediate result containers */
529   char carry = SC_0;                  /* container for carries */
530   char sign = 0;                      /* marks result sign */
531   int c_inner, c_outer;               /* loop counters */
532
533   temp_buffer = alloca(CALC_BUFFER_SIZE);
534   neg_val1 = alloca(CALC_BUFFER_SIZE);
535   neg_val2 = alloca(CALC_BUFFER_SIZE);
536
537   /* init result buffer to zeroes */
538   memset(temp_buffer, SC_0, CALC_BUFFER_SIZE);
539
540   /* the multiplication works only for positive values, for negative values *
541    * it is necessary to negate them and adjust the result accordingly       */
542   if (_sign(val1) == -1) {
543     _negate(val1, neg_val1);
544     val1 = neg_val1;
545     sign ^= 1;
546   }
547   if (_sign(val2) == -1) {
548     _negate(val2, neg_val2);
549     val2 = neg_val2;
550     sign ^= 1;
551   }
552
553   for (c_outer = 0; c_outer < MAX_VALUE_SIZE; c_outer++)
554   {
555     if (val2[c_outer] != SC_0)
556     {
557       for (c_inner = 0; c_inner < MAX_VALUE_SIZE; c_inner++)
558       {
559         /* do the following calculation:                                    *
560          * Add the current carry, the value at position c_outer+c_inner     *
561          * and the result of the multiplication of val1[c_inner] and        *
562          * val2[c_outer]. This is the usual pen-and-paper multiplication.   */
563
564         /* multiplicate the two digits */
565         mul = mul_table[_val(val1[c_inner])][_val(val2[c_outer])];
566         /* add old value to result of multiplication */
567         add1 = add_table[_val(temp_buffer[c_inner + c_outer])][_val(mul[0])];
568         /* add carry to the sum */
569         add2 = add_table[_val(add1[0])][_val(carry)];
570
571         /* all carries together result in new carry. This is always smaller *
572          * than the base b:                                                 *
573          * Both multiplicands, the carry and the value already in the temp  *
574          * buffer are single digits and their value is therefore at most    *
575          * equal to (b-1).                                                  *
576          * This leads to:                                                   *
577          * (b-1)(b-1)+(b-1)+(b-1) = b*b-1                                   *
578          * The tables list all operations rem b, so the carry is at most    *
579          * (b*b-1)rem b = -1rem b = b-1                                     */
580         carry = add_table[_val(mul[1])][_val(add1[1])][0];
581         carry = add_table[_val(carry)][_val(add2[1])][0];
582
583         temp_buffer[c_inner + c_outer] = add2[0];
584       }
585
586       /* A carry may hang over */
587       /* c_outer is always smaller than MAX_VALUE_SIZE! */
588       temp_buffer[MAX_VALUE_SIZE + c_outer] = carry;
589       carry = SC_0;
590     }
591   }
592
593   if (sign)
594     _negate(temp_buffer, buffer);
595   else
596     memcpy(buffer, temp_buffer, CALC_BUFFER_SIZE);
597 }
598
599 static void _sub(const char *val1, const char *val2, char *buffer)
600 {
601   char *temp_buffer;  /* intermediate buffer to hold -val2 */
602   temp_buffer = alloca(CALC_BUFFER_SIZE);
603
604   _negate(val2, temp_buffer);
605   _add(val1, temp_buffer, buffer);
606 }
607
608 static void _push(const char digit, char *buffer)
609 {
610   int counter;
611
612   for (counter = CALC_BUFFER_SIZE - 2; counter >= 0; counter--)
613   {
614     buffer[counter+1] = buffer[counter];
615   }
616   buffer[0] = digit;
617 }
618
619 /* XXX: This is MOST slow */
620 static void _divmod(const char *dividend, const char *divisor, char *quot, char *rem)
621 {
622   const char *minus_divisor;
623   char *neg_val1;
624   char *neg_val2;
625
626   char sign = 0;     /* remember result sign */
627
628   int c_dividend;      /* loop counters */
629
630   neg_val1 = alloca(CALC_BUFFER_SIZE);
631   neg_val2 = alloca(CALC_BUFFER_SIZE);
632
633   /* clear result buffer */
634   memset(quot, SC_0, CALC_BUFFER_SIZE);
635   memset(rem, SC_0, CALC_BUFFER_SIZE);
636
637   /* if the divisor is zero this won't work (quot is zero) */
638   if (sc_comp(divisor, quot) == 0) assert(0 && "division by zero!");
639
640   /* if the dividend is zero result is zero (quot is zero)*/
641   if (sc_comp(dividend, quot) == 0)
642     return;
643
644   if (_sign(dividend) == -1)
645   {
646     _negate(dividend, neg_val1);
647     sign ^= 1;
648     dividend = neg_val1;
649   }
650
651   _negate(divisor, neg_val2);
652   if (_sign(divisor) == -1)
653   {
654     sign ^= 1;
655     minus_divisor = divisor;
656     divisor = neg_val2;
657   }
658   else
659   {
660     minus_divisor = neg_val2;
661   }
662
663   /* if divisor >= dividend division is easy
664    * (remember these are absolute values) */
665   switch (sc_comp(dividend, divisor))
666   {
667     case 0: /* dividend == divisor */
668       quot[0] = SC_1;
669       return;
670
671     case -1: /* dividend < divisor */
672       memcpy(rem, dividend, CALC_BUFFER_SIZE);
673       return;
674
675     default: /* unluckily division is necessary :( */
676       break;
677   }
678
679   for (c_dividend = CALC_BUFFER_SIZE - 1; c_dividend >= 0; c_dividend--)
680   {
681     _push(dividend[c_dividend], rem);
682     _push(SC_0, quot);
683
684     if (sc_comp(rem, divisor) != -1)    /* remainder >= divisor */
685     {
686       /* subtract until the remainder becomes negative, this should
687        * be faster than comparing remainder with divisor  */
688       _add(rem, minus_divisor, rem);
689
690       while (_sign(rem) == 1)
691       {
692         quot[0] = add_table[_val(quot[0])][SC_1][0];
693         _add(rem, minus_divisor, rem);
694       }
695
696       /* subtracted one too much */
697       _add(rem, divisor, rem);
698     }
699   }
700
701   carry_flag = !sc_is_zero(rem);
702
703   if (sign)
704   {
705     _negate(quot, quot);
706     _negate(rem, rem);
707   }
708 }
709
710 static void _shl(const char *val1, char *buffer, long offset, int radius, unsigned is_signed)
711 {
712   const char *shl;
713   char shift;
714   char carry = SC_0;
715
716   int counter;
717   int bitoffset = 0;
718
719   assert((offset >= 0) || (0 && "negative leftshift"));
720   assert(((_sign(val1) != -1) || is_signed) || (0 && "unsigned mode and negative value"));
721   assert(((!_bitisset(val1[(radius-1)/4], (radius-1)%4)) || !is_signed || (_sign(val1) == -1)) || (0 && "value is positive, should be negative"));
722   assert(((_bitisset(val1[(radius-1)/4], (radius-1)%4)) || !is_signed || (_sign(val1) == 1)) || (0 && "value is negative, should be positive"));
723
724   /* if shifting far enough the result is zero */
725   if (offset >= radius)
726   {
727     memset(buffer, SC_0, CALC_BUFFER_SIZE);
728     return;
729   }
730
731   shift = shift_table[_val(offset%4)];      /* this is 2 ** (offset % 4) */
732   offset = offset / 4;
733
734   /* shift the single digits some bytes (offset) and some bits (table)
735    * to the left */
736   for (counter = 0; counter < radius/4 - offset; counter++)
737   {
738     shl = mul_table[_val(val1[counter])][_val(shift)];
739     buffer[counter + offset] = or_table[_val(shl[0])][_val(carry)];
740     carry = shl[1];
741   }
742   if (radius%4 > 0)
743   {
744     shl = mul_table[_val(val1[counter])][_val(shift)];
745     buffer[counter + offset] = or_table[_val(shl[0])][_val(carry)];
746     bitoffset = counter;
747   } else {
748     bitoffset = counter - 1;
749   }
750
751   /* fill with zeroes */
752   for (counter = 0; counter < offset; counter++) buffer[counter] = SC_0;
753
754   /* if the mode was signed, change sign when the mode's msb is now 1 */
755   offset = bitoffset + offset;
756   bitoffset = (radius-1) % 4;
757   if (is_signed && _bitisset(buffer[offset], bitoffset))
758   {
759     /* this sets the upper bits of the leftmost digit */
760     buffer[offset] = or_table[_val(buffer[offset])][_val(min_digit[bitoffset])];
761     for (counter = offset+1; counter < CALC_BUFFER_SIZE; counter++)
762     {
763       buffer[counter] = SC_F;
764     }
765   }
766   else if (is_signed && !_bitisset(buffer[offset], bitoffset))
767   {
768     /* this unsets the upper bits of the leftmost digit */
769     buffer[offset] = and_table[_val(buffer[offset])][_val(max_digit[bitoffset])];
770     for (counter = offset+1; counter < CALC_BUFFER_SIZE; counter++)
771     {
772       buffer[counter] = SC_0;
773     }
774   }
775 }
776
777 static void _shr(const char *val1, char *buffer, long offset, int radius, unsigned is_signed, int signed_shift)
778 {
779   const char *shrs;
780   char sign;
781   char msd;
782
783   int shift;
784
785   int counter;
786   int bitoffset = 0;
787
788   assert((offset >= 0) || (0 && "negative rightshift"));
789   assert(((_sign(val1) != -1) || is_signed) || (0 && "unsigned mode and negative value"));
790   assert(((!_bitisset(val1[(radius-1)/4], (radius-1)%4)) || !is_signed || (_sign(val1) == -1)) || (0 && "value is positive, should be negative"));
791   assert(((_bitisset(val1[(radius-1)/4], (radius-1)%4)) || !is_signed || (_sign(val1) == 1)) || (0 && "value is negative, should be positive"));
792
793   sign = ((signed_shift) && (_sign(val1) == -1))?(SC_F):(SC_0);
794
795   /* if shifting far enough the result is either 0 or -1 */
796   if (offset >= radius)
797   {
798     if (!sc_is_zero(val1)) {
799       carry_flag = 1;
800     }
801     memset(buffer, sign, CALC_BUFFER_SIZE);
802     return;
803   }
804
805   shift = offset % 4;
806   offset = offset / 4;
807
808   /* check if any bits are lost, and set carry_flag if so */
809   for (counter = 0; counter < offset; counter++)
810   {
811     if (val1[counter] != 0)
812     {
813       carry_flag = 1;
814       break;
815     }
816   }
817   if ((_val(val1[counter]) & ((1<<shift)-1)) != 0)
818   {
819     carry_flag = 1;
820   }
821   /* shift digits to the right with offset, carry and all */
822   counter = 0;
823   if (radius/4 - offset > 0) {
824     buffer[counter] = shrs_table[_val(val1[offset])][shift][0];
825     counter = 1;
826   }
827   for (; counter < radius/4 - offset; counter++)
828   {
829     shrs = shrs_table[_val(val1[counter + offset])][shift];
830     buffer[counter] = shrs[0];
831     buffer[counter-1] = or_table[_val(buffer[counter-1])][_val(shrs[1])];
832   }
833
834   /* the last digit is special in regard of signed/unsigned shift */
835   bitoffset = radius%4;
836   msd = (radius/4<CALC_BUFFER_SIZE)?(val1[radius/4]):(sign);  /* most significant digit */
837
838   /* remove sign bits if mode was signed and this is an unsigned shift */
839   if (!signed_shift && is_signed) {
840     msd = and_table[_val(msd)][_val(max_digit[bitoffset])];
841   }
842
843   shrs = shrs_table[_val(msd)][shift];
844
845   /* signed shift and signed mode and negative value means all bits to the left are set */
846   if (signed_shift && is_signed && (_sign(val1) == -1)) {
847     buffer[counter] = or_table[_val(shrs[0])][_val(min_digit[bitoffset])];
848   } else {
849     buffer[counter] = shrs[0];
850   }
851
852   if (counter > 0) buffer[counter - 1] = or_table[_val(buffer[counter-1])][_val(shrs[1])];
853
854   /* fill with SC_F or SC_0 depending on sign */
855   for (counter++; counter < CALC_BUFFER_SIZE; counter++)
856   {
857     buffer[counter] = sign;
858   }
859 }
860
861 /* positive: low-order -> high order, negative other direction */
862 static void _rot(const char *val1, char *buffer, long offset, int radius, unsigned is_signed)
863 {
864   char *temp1, *temp2;
865   temp1 = alloca(CALC_BUFFER_SIZE);
866   temp2 = alloca(CALC_BUFFER_SIZE);
867
868   offset = offset % radius;
869
870   /* rotation by multiples of the typelength is identity */
871   if (offset == 0) {
872     memmove(buffer, val1, CALC_BUFFER_SIZE);
873     return;
874   }
875
876   _shl(val1, temp1, offset, radius, is_signed);
877   _shr(val1, temp2, radius - offset, radius, is_signed, 0);
878   _bitor(temp1, temp2, buffer);
879   carry_flag = 0; /* set by shr, but due to rot this is false */
880 }
881
882 /*****************************************************************************
883  * public functions, declared in strcalc.h
884  *****************************************************************************/
885 const void *sc_get_buffer(void)
886 {
887   return (void*)calc_buffer;
888 }
889
890 const int sc_get_buffer_length(void)
891 {
892   return CALC_BUFFER_SIZE;
893 }
894
895 /* XXX doesn't check for overflows */
896 void sc_val_from_str(const char *str, unsigned int len, void *buffer)
897 {
898   const char *orig_str = str;
899   unsigned int orig_len = len;
900
901   char sign = 0;
902   char *base, *val;
903
904   base = alloca(CALC_BUFFER_SIZE);
905   val = alloca(CALC_BUFFER_SIZE);
906
907   /* verify valid pointers (not null) */
908   assert(str);
909   /* a string no characters long is an error */
910   assert(len);
911
912   if (buffer == NULL) buffer = calc_buffer;
913
914   CLEAR_BUFFER(buffer);
915   memset(base, SC_0, CALC_BUFFER_SIZE);
916   memset(val, SC_0, CALC_BUFFER_SIZE);
917
918   /* strip leading spaces */
919   while ((len > 0) && (*str == ' ')) { len--; str++; }
920
921   /* if the first two characters are 0x or 0X -> hex
922    * if the first is a 0 -> oct
923    * else dec, strip leading -/+ and remember sign
924    *
925    * only a + or - sign is no number resulting in an error */
926   if (len >= 2)
927     switch (str[0])
928     {
929       case '0':
930         if (str[1] == 'x' || str[1] == 'X') /* hex */
931         {
932           str += 2;
933           len -= 2;
934           base[1] = SC_1; base[0] = SC_0;
935         }
936         else /* oct */
937         {
938           str += 1;
939           len -= 1;
940           base[1] = SC_0; base[0] = SC_8;
941         }
942         break;
943
944       case '+':
945         {
946           str += 1;
947           len -= 1;
948           base[1] = SC_0; base[0] = SC_A;
949         }
950         break;
951
952       case '-':
953         {
954           str += 1;
955           len -= 1;
956           sign = 1;
957           base[1] = SC_0; base[0] = SC_A;
958         }
959         break;
960
961       default: /* dec, else would have begun with 0x or 0 */
962         base[1] = SC_0; base[0] = SC_A;
963     }
964
965   else /* dec, else would have begun with 0x or 0 */
966   {
967     base[1] = SC_0; base[0] = SC_A;
968   }
969
970   /* BEGIN string evaluation, from left to right */
971   while (len > 0)
972   {
973     switch (*str)
974     {
975       case 'f':
976       case 'e':
977       case 'd':
978       case 'c':
979       case 'b':
980       case 'a':
981         if (base[0] > SC_9 || base[1] > SC_0) /* (base > 10) */
982         {
983           val[0] = _digit((*str)-'a'+10);
984         }
985         else fail_char(orig_str, orig_len, *str, str-orig_str+1);
986         break;
987
988       case 'F':
989       case 'E':
990       case 'D':
991       case 'C':
992       case 'B':
993       case 'A':
994         if (base[0] > SC_9 || base[1] > SC_0) /* (base > 10) */
995         {
996           val[0] = _digit((*str)-'A'+10);
997         }
998         else fail_char(orig_str, orig_len, *str, str-orig_str+1);
999         break;
1000
1001       case '9':
1002       case '8':
1003         if (base[0] > SC_7 || base[1] > SC_0) /* (base > 8) */
1004         {
1005           val[0] = _digit((*str)-'0');
1006         }
1007         else fail_char(orig_str, orig_len, *str, str-orig_str+1);
1008         break;
1009
1010       case '7':
1011       case '6':
1012       case '5':
1013       case '4':
1014       case '3':
1015       case '2':
1016       case '1':
1017       case '0':
1018         {
1019           val[0] = _digit((*str)-'0');
1020         }
1021         break;
1022
1023       default:
1024         fail_char(orig_str, orig_len, *str, str-orig_str+1);
1025     } /* switch(*str) */
1026
1027     /* Radix conversion from base b to base B:
1028      *  (UnUn-1...U1U0)b == ((((Un*b + Un-1)*b + ...)*b + U1)*b + U0)B */
1029     _mul(base, calc_buffer, calc_buffer); /* multiply current value with base */
1030     _add(val, calc_buffer, calc_buffer);  /* add next digit to current value  */
1031
1032     /* get ready for the next letter */
1033     str++;
1034     len--;
1035
1036   } /* while (len > 0 ) */
1037
1038   if (sign)
1039   {
1040     _negate(calc_buffer, calc_buffer);
1041   }
1042 }
1043
1044 void sc_val_from_long(long value, void *buffer)
1045 {
1046   char *pos;
1047   char sign, is_minlong;
1048
1049   if (buffer == NULL) buffer = calc_buffer;
1050   pos = buffer;
1051
1052   sign = (value < 0);
1053   is_minlong = value == LONG_MIN;
1054
1055   /* use absolute value, special treatment of MIN_LONG */
1056   if (sign) {
1057     if (is_minlong)
1058       value = -(value+1);
1059     else
1060       value = -value;
1061   }
1062
1063   CLEAR_BUFFER(buffer);
1064
1065   while ((value != 0) && (pos < (char*)buffer + CALC_BUFFER_SIZE))
1066   {
1067     *pos++ = _digit(value & 0xf);
1068     value >>= 4;
1069   }
1070
1071
1072   if (sign) {
1073     if (is_minlong)
1074       _inc(buffer, buffer);
1075
1076     _negate(buffer, buffer);
1077   }
1078 }
1079
1080 void sc_val_from_ulong(unsigned long value, void *buffer)
1081 {
1082   char *pos;
1083
1084   if (buffer == NULL) buffer = calc_buffer;
1085   pos = buffer;
1086
1087   while (pos < (char*)buffer + CALC_BUFFER_SIZE)
1088   {
1089     *pos++ = _digit(value & 0xf);
1090     value >>= 4;
1091   }
1092 }
1093
1094 long sc_val_to_long(const void *val)
1095 {
1096   int i;
1097   long l = 0;
1098
1099   for (i = CALC_BUFFER_SIZE - 1; i >= 0; i--)
1100   {
1101     l = (l << 4) + _val(((char *)val)[i]);
1102   }
1103   return l;
1104 }
1105
1106 void sc_min_from_bits(unsigned int num_bits, unsigned int sign, void *buffer)
1107 {
1108   char* pos;
1109   int i, bits;
1110
1111   if (buffer == NULL) buffer = calc_buffer;
1112   CLEAR_BUFFER(buffer);
1113
1114   if (!sign) return;  /* unsigned means minimum is 0(zero) */
1115
1116   pos = buffer;
1117
1118   bits = num_bits - 1;
1119   for (i = 0; i < bits/4; i++)
1120     *pos++ = SC_0;
1121
1122   *pos++ = min_digit[bits%4];
1123
1124   for (i++; i <= CALC_BUFFER_SIZE - 1; i++)
1125     *pos++ = SC_F;
1126 }
1127
1128 void sc_max_from_bits(unsigned int num_bits, unsigned int sign, void *buffer)
1129 {
1130   char* pos;
1131   int i, bits;
1132
1133   if (buffer == NULL) buffer = calc_buffer;
1134   CLEAR_BUFFER(buffer);
1135   pos = buffer;
1136
1137   bits = num_bits - sign;
1138   for (i = 0; i < bits/4; i++)
1139     *pos++ = SC_F;
1140
1141   *pos++ = max_digit[bits%4];
1142
1143   for (i++; i <= CALC_BUFFER_SIZE - 1; i++)
1144     *pos++ = SC_0;
1145 }
1146
1147 void sc_calc(const void* value1, const void* value2, unsigned op, void *buffer)
1148 {
1149   char *unused_res; /* temp buffer holding unused result of divmod */
1150
1151   const char *val1 = (const char *)value1;
1152   const char *val2 = (const char *)value2;
1153
1154   unused_res = alloca(CALC_BUFFER_SIZE);
1155   CLEAR_BUFFER(calc_buffer);
1156   carry_flag = 0;
1157
1158   DEBUGPRINTF_COMPUTATION(("%s ", sc_print_hex(value1)));
1159
1160   switch (op)
1161   {
1162     case SC_NEG:
1163       _negate(val1, calc_buffer);
1164       DEBUGPRINTF_COMPUTATION(("negated: %s\n", sc_print_hex(calc_buffer)));
1165       break;
1166     case SC_OR:
1167       DEBUGPRINTF_COMPUTATION(("| "));
1168       _bitor(val1, val2, calc_buffer);
1169       break;
1170     case SC_AND:
1171       DEBUGPRINTF_COMPUTATION(("& "));
1172       _bitand(val1, val2, calc_buffer);
1173       break;
1174     case SC_XOR:
1175       DEBUGPRINTF_COMPUTATION(("^ "));
1176       _bitxor(val1, val2, calc_buffer);
1177       break;
1178     case SC_NOT:
1179       _bitnot(val1, calc_buffer);
1180       DEBUGPRINTF_COMPUTATION(("bit-negated: %s\n", sc_print_hex(calc_buffer)));
1181       break;
1182     case SC_ADD:
1183       DEBUGPRINTF_COMPUTATION(("+ "));
1184       _add(val1, val2, calc_buffer);
1185       break;
1186     case SC_SUB:
1187       DEBUGPRINTF_COMPUTATION(("- "));
1188       _sub(val1, val2, calc_buffer);
1189       break;
1190     case SC_MUL:
1191       DEBUGPRINTF_COMPUTATION(("* "));
1192       _mul(val1, val2, calc_buffer);
1193       break;
1194     case SC_DIV:
1195       DEBUGPRINTF_COMPUTATION(("/ "));
1196       _divmod(val1, val2, calc_buffer, unused_res);
1197       break;
1198     case SC_MOD:
1199       DEBUGPRINTF_COMPUTATION(("%% "));
1200       _divmod(val1, val2, unused_res, calc_buffer);
1201       break;
1202     default:
1203       assert(0);
1204   }
1205   DEBUGPRINTF_COMPUTATION(("%s -> ", sc_print_hex(value2)));
1206   DEBUGPRINTF_COMPUTATION(("%s\n", sc_print_hex(calc_buffer)));
1207
1208   if ((buffer != NULL) && (buffer != calc_buffer))
1209   {
1210     memcpy(buffer, calc_buffer, CALC_BUFFER_SIZE);
1211   }
1212 }
1213
1214 void sc_bitcalc(const void* value1, const void* value2, int radius, int sign, unsigned op, void* buffer)
1215 {
1216   const char *val1 = (const char *)value1;
1217   const char *val2 = (const char *)value2;
1218   long offset;
1219
1220   carry_flag = 0;
1221   offset = sc_val_to_long(val2);
1222
1223   DEBUGPRINTF_COMPUTATION(("%s ", sc_print_hex(value1)));
1224   switch (op)
1225   {
1226     case SC_SHL:
1227       DEBUGPRINTF_COMPUTATION(("<< %ld ", offset));
1228       _shl(val1, calc_buffer, offset, radius, sign);
1229       break;
1230     case SC_SHR:
1231       DEBUGPRINTF_COMPUTATION((">> %ld ", offset));
1232       _shr(val1, calc_buffer, offset, radius, sign, 0);
1233       break;
1234     case SC_SHRS:
1235       DEBUGPRINTF_COMPUTATION((">>> %ld ", offset));
1236       _shr(val1, calc_buffer, offset, radius, sign, 1);
1237       break;
1238     case SC_ROT:
1239       DEBUGPRINTF_COMPUTATION(("<<>> %ld ", offset));
1240       _rot(val1, calc_buffer, offset, radius, sign);
1241       break;
1242     default:
1243       assert(0);
1244   }
1245   DEBUGPRINTF_COMPUTATION(("-> %s\n", sc_print_hex(calc_buffer)));
1246
1247   if ((buffer != NULL) && (buffer != calc_buffer))
1248   {
1249     memmove(buffer, calc_buffer, CALC_BUFFER_SIZE);
1250   }
1251 }
1252
1253 int sc_comp(const void* value1, const void* value2)
1254 {
1255   int counter = CALC_BUFFER_SIZE - 1;
1256   const char *val1 = (const char *)value1;
1257   const char *val2 = (const char *)value2;
1258
1259   /* compare signs first:
1260    * the loop below can only compare values of the same sign! */
1261   if (_sign(val1) != _sign(val2)) return (_sign(val1) == 1)?(1):(-1);
1262
1263   /* loop until two digits differ, the values are equal if there
1264    * are no such two digits */
1265   while (val1[counter] == val2[counter])
1266   {
1267     counter--;
1268     if (counter < 0) return 0;
1269   }
1270
1271   /* the leftmost digit is the most significant, so this returns
1272    * the correct result.
1273    * This implies the digit enum is ordered */
1274   return (val1[counter] > val2[counter]) ? (1) : (-1);
1275 }
1276
1277 int sc_get_highest_set_bit(const void *value)
1278 {
1279   const char *val = (const char*)value;
1280   int high, counter;
1281
1282   high = CALC_BUFFER_SIZE * 4 - 1;
1283
1284   for (counter = CALC_BUFFER_SIZE-1; counter >= 0; counter--) {
1285     if (val[counter] == SC_0) high -= 4;
1286     else {
1287       if (val[counter] > SC_7) return high;
1288       else if (val[counter] > SC_3) return high - 1;
1289       else if (val[counter] > SC_1) return high - 2;
1290       else return high - 3;
1291     }
1292   }
1293   return high;
1294 }
1295
1296 int sc_get_lowest_set_bit(const void *value)
1297 {
1298   const char *val = (const char*)value;
1299   int low, counter;
1300   char sign;
1301
1302   sign = (_sign(val)==1)?(SC_0):(SC_F);
1303   low = 0;
1304
1305   for (counter = 0; counter < CALC_BUFFER_SIZE; counter++) {
1306     if (val[counter] == SC_0) low += 4;
1307     else {
1308       if (val[counter] < SC_2) return low;
1309       else if (val[counter] < SC_4) return low + 1;
1310       else if (val[counter] < SC_8) return low + 2;
1311       else return low + 3;
1312     }
1313   }
1314   return -1;
1315 }
1316
1317 int sc_is_zero(const void *value)
1318 {
1319   const char* val = (const char *)value;
1320   int counter;
1321
1322   for (counter = 0; counter < CALC_BUFFER_SIZE; counter++) {
1323     if (val[counter] != SC_0) return 0;
1324   }
1325   return 1;
1326 }
1327
1328 int sc_is_negative(const void *value)
1329 {
1330   return _sign(value) == -1;
1331 }
1332
1333 int sc_had_carry(void)
1334 {
1335   return carry_flag;
1336 }
1337
1338 unsigned char sc_sub_bits(const void *value, int len, unsigned byte_ofs)
1339 {
1340   const char *val     = (const char *)value;
1341   unsigned nibble_ofs = 2 * byte_ofs;
1342   unsigned char res;
1343
1344   /* the current scheme uses one byte to store a nibble */
1345   if (nibble_ofs >= len)
1346     return 0;
1347
1348   res = _val(val[nibble_ofs]);
1349   if (len > nibble_ofs + 1)
1350     res |= _val(val[nibble_ofs + 1]) << 4;
1351
1352   return res;
1353 }
1354
1355 /*
1356  * convert to a string
1357  * XXX Doesn't check buffer bounds
1358  */
1359 const char *sc_print(const void *value, unsigned bits, enum base_t base)
1360 {
1361   static const char big_digits[]   = "0123456789ABCDEF";
1362   static const char small_digits[] = "0123456789abcdef";
1363
1364   char *base_val, *div1_res, *div2_res, *rem_res;
1365   int counter, nibbles, i, sign;
1366   char x;
1367
1368   const char *val = (const char *)value;
1369   const char *p;
1370   char *m, *n, *t;
1371   char *pos;
1372   const char *digits = small_digits;
1373
1374   base_val = alloca(CALC_BUFFER_SIZE);
1375   div1_res = alloca(CALC_BUFFER_SIZE);
1376   div2_res = alloca(CALC_BUFFER_SIZE);
1377   rem_res = alloca(CALC_BUFFER_SIZE);
1378
1379   pos = output_buffer + BIT_PATTERN_SIZE;
1380   *(--pos) = '\0';
1381
1382   /* special case */
1383   if (bits == 0) {
1384     bits = BIT_PATTERN_SIZE;
1385 #ifdef STRCALC_DEBUG_FULLPRINT
1386     bits <<= 1;
1387 #endif
1388   }
1389   nibbles = bits >> 2;
1390   switch (base) {
1391
1392   case SC_HEX:
1393     digits = big_digits;
1394   case SC_hex:
1395     for (counter = 0; counter < nibbles; ++counter) {
1396       *(--pos) = digits[_val(val[counter])];
1397 #ifdef STRCALC_DEBUG_GROUPPRINT
1398       if ((counter+1)%8 == 0)
1399         *(--pos) = ' ';
1400 #endif
1401     }
1402
1403     /* last nibble must be masked */
1404     if (bits & 3) {
1405       x = and_table[_val(val[++counter])][bits & 3];
1406       *(--pos) = digits[_val(x)];
1407     }
1408
1409     /* now kill zeros */
1410     for (; counter > 1; --counter, ++pos) {
1411 #ifdef STRCALC_DEBUG_GROUPPRINT
1412       if (pos[0] == ' ') ++pos;
1413 #endif
1414       if (pos[0] != '0')
1415         break;
1416     }
1417     break;
1418
1419   case SC_BIN:
1420     for (counter = 0; counter < nibbles; ++counter) {
1421       pos -= 4;
1422       p = binary_table[_val(val[counter])];
1423       pos[0] = p[0];
1424       pos[1] = p[1];
1425       pos[2] = p[2];
1426       pos[3] = p[3];
1427     }
1428
1429     /* last nibble must be masked */
1430     if (bits & 3) {
1431       x = and_table[_val(val[++counter])][bits & 3];
1432
1433       pos -= 4;
1434       p = binary_table[_val(x)];
1435       pos[0] = p[0];
1436       pos[1] = p[1];
1437       pos[2] = p[2];
1438       pos[3] = p[3];
1439     }
1440
1441     /* now kill zeros */
1442     for (counter <<= 2; counter > 1; --counter, ++pos)
1443       if (pos[0] != '0')
1444         break;
1445     break;
1446
1447   case SC_DEC:
1448   case SC_OCT:
1449     memset(base_val, SC_0, CALC_BUFFER_SIZE);
1450     base_val[0] = base == SC_DEC ? SC_A : SC_8;
1451
1452     p    = val;
1453     sign = 0;
1454     if (base == SC_DEC) {
1455       /* check for negative values */
1456       if (_bit(val, bits - 1)) {
1457         _negate(val, div2_res);
1458         sign = 1;
1459         p = div2_res;
1460       }
1461     }
1462
1463     /* transfer data into oscilating buffers */
1464     memset(div1_res, SC_0, CALC_BUFFER_SIZE);
1465     for (counter = 0; counter < nibbles; ++counter)
1466       div1_res[counter] = p[counter];
1467
1468      /* last nibble must be masked */
1469     if (bits & 3) {
1470       ++counter;
1471
1472       div1_res[counter] = and_table[_val(p[counter])][bits & 3];
1473     }
1474
1475     m = div1_res;
1476     n = div2_res;
1477     for (;;) {
1478       _divmod(m, base_val, n, rem_res);
1479       t = m;
1480       m = n;
1481       n = t;
1482       *(--pos) = digits[_val(rem_res[0])];
1483
1484       x = 0;
1485       for (i = 0; i < sizeof(div1_res); ++i)
1486         x |= _val(m[i]);
1487
1488       if (x == 0)
1489         break;
1490     }
1491     if (sign)
1492        *(--pos) = '-';
1493     break;
1494
1495   default:
1496     printf("%i\n", base);
1497     assert(0);
1498     return NULL;
1499 }
1500   return pos;
1501 }
1502
1503 void init_strcalc(int precision)
1504 {
1505   if (calc_buffer == NULL) {
1506     if (precision <= 0) precision = SC_DEFAULT_PRECISION;
1507
1508     /* round up to multiple of 4 */
1509     if (precision & 0x3) precision += 4 - (precision&0x3);
1510
1511     BIT_PATTERN_SIZE = (precision);
1512     CALC_BUFFER_SIZE = (precision / 2);
1513     MAX_VALUE_SIZE   = (precision / 4);
1514
1515     calc_buffer = malloc(CALC_BUFFER_SIZE+1 * sizeof(char));
1516     output_buffer = malloc(BIT_PATTERN_SIZE+1 * sizeof(char));
1517
1518     if (calc_buffer == NULL || output_buffer == NULL)
1519     {
1520       assert(0 && "malloc failed");
1521       exit(-1);
1522     }
1523
1524     DEBUGPRINTF(("init strcalc: \n\tPRECISION: %d\n\tCALC_BUFFER_SIZE = %d\n\tMAX_VALUE_SIZE = %d\n\tbuffer pointer: %p\n", precision, CALC_BUFFER_SIZE, MAX_VALUE_SIZE, calc_buffer));
1525   }
1526 }
1527 int sc_get_precision(void)
1528 {
1529   return BIT_PATTERN_SIZE;
1530 }