Added .cvsignore files --flo
[libfirm] / ir / tv / strcalc.c
1 /*
2  * Project:     libFIRM
3  * File name:   ir/tv/strcalc.c
4  * Purpose:
5  * Author:      Mathias Heil
6  * Modified by:
7  * Created:
8  * CVS-ID:      $Id$
9  * Copyright:   (c) 2003 Universität Karlsruhe
10  * Licence:     This file protected by GPL -  GNU GENERAL PUBLIC LICENSE.
11  */
12
13
14 #ifdef HAVE_CONFIG_H
15 # include "config.h"
16 #endif
17
18
19 #include "strcalc.h"
20
21 #include <stdlib.h>
22 #ifdef HAVE_ALLOCA_H
23 # include <alloca.h>
24 #endif
25 #ifdef HAVE_MALLOC_H
26 # include <malloc.h>
27 #endif
28 #include <assert.h>   /* assertions */
29 #include <string.h>   /* memset/memcmp */
30 #include <stdio.h>    /* output for error messages */
31 #include <limits.h>   /* definition of LONG_MIN, used in sc_get_val_from_long */
32
33 /*
34  * local definitions and macros
35  */
36 #define CLEAR_BUFFER(b) assert(b); memset(b, SC_0, CALC_BUFFER_SIZE)
37 #define _val(a) ((a)-SC_0)
38 #define _digit(a) ((a)+SC_0)
39 #define _bitisset(digit, pos) (and_table[_val(digit)][_val(shift_table[pos])] != SC_0)
40
41 #define fail_char(a, b, c, d) _fail_char((a), (b), (c), (d), __FILE__,  __LINE__)
42
43 /* shortcut output for debugging */
44 #  define sc_print_hex(a) sc_print((a), 0, SC_HEX)
45 #  define sc_print_dec(a) sc_print((a), 0, SC_DEC)
46 #  define sc_print_oct(a) sc_print((a), 0, SC_OCT)
47 #  define sc_print_bin(a) sc_print((a), 0, SC_BIN)
48
49 #ifdef STRCALC_DEBUG_PRINTCOMP
50 #  define DEBUGPRINTF_COMPUTATION(x) printf x
51 #else
52 #  define DEBUGPRINTF_COMPUTATION(x) ((void)0)
53 #endif
54 #ifdef STRCALC_DEBUG
55 #  define DEBUGPRINTF(x) printf x
56 #else
57 #  define DEBUGPRINTF(x) ((void)0)
58 #endif
59
60
61 /*
62  * private variables
63  */
64
65 static char *calc_buffer = NULL;    /* buffer holding all results */
66 static char *output_buffer = NULL;  /* buffer for output */
67 static int BIT_PATTERN_SIZE;        /* maximum number of bits */
68 static int CALC_BUFFER_SIZE;        /* size of internally stored values */
69 static int MAX_VALUE_SIZE;          /* maximum size of values */
70
71 static int carry_flag;              /* some computation set carry_flag: */
72                                     /* rightshift if bits were lost due to shifting */
73                                     /* division if there was a remainder */
74
75 static const char max_digit[4] = { SC_0, SC_1, SC_3, SC_7 };
76 static const char min_digit[4] = { SC_F, SC_E, SC_C, SC_8 };
77
78 static const char not_table[16] = { SC_F, SC_E, SC_D, SC_C, SC_B, SC_A, SC_9, SC_8,
79                               SC_7, SC_6, SC_5, SC_4, SC_3, SC_2, SC_1, SC_0 };
80
81 static const char shift_table[4] = { SC_1, SC_2, SC_4, SC_8 };
82
83 static const char and_table[16][16] = {
84                             { SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0,
85                               SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0 },
86
87                             { SC_0, SC_1, SC_0, SC_1, SC_0, SC_1, SC_0, SC_1,
88                               SC_0, SC_1, SC_0, SC_1, SC_0, SC_1, SC_0, SC_1 },
89
90                             { SC_0, SC_0, SC_2, SC_2, SC_0, SC_0, SC_2, SC_2,
91                               SC_0, SC_0, SC_2, SC_2, SC_0, SC_0, SC_2, SC_2 },
92
93                             { SC_0, SC_1, SC_2, SC_3, SC_0, SC_1, SC_2, SC_3,
94                               SC_0, SC_1, SC_2, SC_3, SC_0, SC_1, SC_2, SC_3 },
95
96                             { SC_0, SC_0, SC_0, SC_0, SC_4, SC_4, SC_4, SC_4,
97                               SC_0, SC_0, SC_0, SC_0, SC_4, SC_4, SC_4, SC_4 },
98
99                             { SC_0, SC_1, SC_0, SC_1, SC_4, SC_5, SC_4, SC_5,
100                               SC_0, SC_1, SC_0, SC_1, SC_4, SC_5, SC_4, SC_5 },
101
102                             { SC_0, SC_0, SC_2, SC_2, SC_4, SC_4, SC_6, SC_6,
103                               SC_0, SC_0, SC_2, SC_2, SC_4, SC_4, SC_6, SC_6 },
104
105                             { SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7,
106                               SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7 },
107
108                             { SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0,
109                               SC_8, SC_8, SC_8, SC_8, SC_8, SC_8, SC_8, SC_8 },
110
111                             { SC_0, SC_1, SC_0, SC_1, SC_0, SC_1, SC_0, SC_1,
112                               SC_8, SC_9, SC_8, SC_9, SC_8, SC_9, SC_8, SC_9 },
113
114                             { SC_0, SC_0, SC_2, SC_2, SC_0, SC_0, SC_2, SC_2,
115                               SC_8, SC_8, SC_A, SC_A, SC_8, SC_8, SC_A, SC_A },
116
117                             { SC_0, SC_1, SC_2, SC_3, SC_0, SC_1, SC_2, SC_3,
118                               SC_8, SC_9, SC_A, SC_B, SC_8, SC_9, SC_A, SC_B },
119
120                             { SC_0, SC_0, SC_0, SC_0, SC_4, SC_4, SC_4, SC_4,
121                               SC_8, SC_8, SC_8, SC_8, SC_C, SC_C, SC_C, SC_C },
122
123                             { SC_0, SC_1, SC_0, SC_1, SC_4, SC_5, SC_4, SC_5,
124                               SC_8, SC_9, SC_8, SC_9, SC_C, SC_D, SC_C, SC_D },
125
126                             { SC_0, SC_0, SC_2, SC_2, SC_4, SC_4, SC_6, SC_6,
127                               SC_8, SC_8, SC_A, SC_A, SC_C, SC_C, SC_E, SC_E },
128
129                             { SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7,
130                               SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F } };
131
132 static const char or_table[16][16] = {
133                             { SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7,
134                               SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F },
135
136                             { SC_1, SC_1, SC_3, SC_3, SC_5, SC_5, SC_7, SC_7,
137                               SC_9, SC_9, SC_B, SC_B, SC_D, SC_D, SC_F, SC_F },
138
139                             { SC_2, SC_3, SC_2, SC_3, SC_6, SC_7, SC_6, SC_7,
140                               SC_A, SC_B, SC_A, SC_B, SC_E, SC_F, SC_E, SC_F },
141
142                             { SC_3, SC_3, SC_3, SC_3, SC_7, SC_7, SC_7, SC_7,
143                               SC_B, SC_B, SC_B, SC_B, SC_F, SC_F, SC_F, SC_F },
144
145                             { SC_4, SC_5, SC_6, SC_7, SC_4, SC_5, SC_6, SC_7,
146                               SC_C, SC_D, SC_E, SC_F, SC_C, SC_D, SC_E, SC_F },
147
148                             { SC_5, SC_5, SC_7, SC_7, SC_5, SC_5, SC_7, SC_7,
149                               SC_D, SC_D, SC_F, SC_F, SC_D, SC_D, SC_F, SC_F },
150
151                             { SC_6, SC_7, SC_6, SC_7, SC_6, SC_7, SC_6, SC_7,
152                               SC_E, SC_F, SC_E, SC_F, SC_E, SC_F, SC_E, SC_F },
153
154                             { SC_7, SC_7, SC_7, SC_7, SC_7, SC_7, SC_7, SC_7,
155                               SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F },
156
157                             { SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F,
158                               SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F },
159
160                             { SC_9, SC_9, SC_B, SC_B, SC_D, SC_D, SC_F, SC_F,
161                               SC_9, SC_9, SC_B, SC_B, SC_D, SC_D, SC_F, SC_F },
162
163                             { SC_A, SC_B, SC_A, SC_B, SC_E, SC_F, SC_E, SC_F,
164                               SC_A, SC_B, SC_A, SC_B, SC_E, SC_F, SC_E, SC_F },
165
166                             { SC_B, SC_B, SC_B, SC_B, SC_F, SC_F, SC_F, SC_F,
167                               SC_B, SC_B, SC_B, SC_B, SC_F, SC_F, SC_F, SC_F },
168
169                             { SC_C, SC_D, SC_E, SC_F, SC_C, SC_D, SC_E, SC_F,
170                               SC_C, SC_D, SC_E, SC_F, SC_C, SC_D, SC_E, SC_F },
171
172                             { SC_D, SC_D, SC_F, SC_F, SC_D, SC_D, SC_F, SC_F,
173                               SC_D, SC_D, SC_F, SC_F, SC_D, SC_D, SC_F, SC_F },
174
175                             { SC_E, SC_F, SC_E, SC_F, SC_E, SC_F, SC_E, SC_F,
176                               SC_E, SC_F, SC_E, SC_F, SC_E, SC_F, SC_E, SC_F },
177
178                             { SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F,
179                               SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F } };
180
181 static char const xor_table[16][16] = {
182                              { SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7,
183                                SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F },
184
185                              { SC_1, SC_0, SC_3, SC_2, SC_5, SC_4, SC_7, SC_6,
186                                SC_9, SC_8, SC_B, SC_A, SC_D, SC_C, SC_F, SC_E },
187
188                              { SC_2, SC_3, SC_0, SC_1, SC_6, SC_7, SC_4, SC_5,
189                                SC_A, SC_B, SC_8, SC_9, SC_E, SC_F, SC_C, SC_D },
190
191                              { SC_3, SC_2, SC_1, SC_0, SC_7, SC_6, SC_5, SC_4,
192                                SC_B, SC_A, SC_9, SC_8, SC_F, SC_E, SC_D, SC_C },
193
194                              { SC_4, SC_5, SC_6, SC_7, SC_0, SC_1, SC_2, SC_3,
195                                SC_C, SC_D, SC_E, SC_F, SC_8, SC_9, SC_A, SC_B },
196
197                              { SC_5, SC_4, SC_7, SC_6, SC_1, SC_0, SC_3, SC_2,
198                                SC_D, SC_C, SC_F, SC_E, SC_9, SC_8, SC_B, SC_A },
199
200                              { SC_6, SC_7, SC_4, SC_5, SC_2, SC_3, SC_0, SC_1,
201                                SC_E, SC_F, SC_C, SC_D, SC_A, SC_B, SC_8, SC_9 },
202
203                              { SC_7, SC_6, SC_5, SC_4, SC_3, SC_2, SC_1, SC_0,
204                                SC_F, SC_E, SC_D, SC_C, SC_B, SC_A, SC_9, SC_8 },
205
206                              { SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F,
207                                SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7 },
208
209                              { SC_9, SC_8, SC_B, SC_A, SC_D, SC_C, SC_F, SC_E,
210                                SC_1, SC_0, SC_3, SC_2, SC_5, SC_4, SC_7, SC_6 },
211
212                              { SC_A, SC_B, SC_8, SC_9, SC_E, SC_F, SC_C, SC_D,
213                                SC_2, SC_3, SC_0, SC_1, SC_6, SC_7, SC_4, SC_5 },
214
215                              { SC_B, SC_A, SC_9, SC_8, SC_F, SC_E, SC_D, SC_C,
216                                SC_3, SC_2, SC_1, SC_0, SC_7, SC_6, SC_5, SC_4 },
217
218                              { SC_C, SC_D, SC_E, SC_F, SC_8, SC_9, SC_A, SC_B,
219                                SC_4, SC_5, SC_6, SC_7, SC_0, SC_1, SC_2, SC_3 },
220
221                              { SC_D, SC_C, SC_F, SC_E, SC_9, SC_8, SC_B, SC_A,
222                                SC_5, SC_4, SC_7, SC_6, SC_1, SC_0, SC_3, SC_2 },
223
224                              { SC_E, SC_F, SC_C, SC_D, SC_A, SC_B, SC_8, SC_9,
225                                SC_6, SC_7, SC_4, SC_5, SC_2, SC_3, SC_0, SC_1 },
226
227                              { SC_F, SC_E, SC_D, SC_C, SC_B, SC_A, SC_9, SC_8,
228                                SC_7, SC_6, SC_5, SC_4, SC_3, SC_2, SC_1, SC_0 }
229                                 };
230
231 static char const add_table[16][16][2] = {
232                        { {SC_0, SC_0}, {SC_1, SC_0}, {SC_2, SC_0}, {SC_3, SC_0},
233                          {SC_4, SC_0}, {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0},
234                          {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0},
235                          {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0} },
236
237                        { {SC_1, SC_0}, {SC_2, SC_0}, {SC_3, SC_0}, {SC_4, SC_0},
238                          {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0}, {SC_8, SC_0},
239                          {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0},
240                          {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1} },
241
242                        { {SC_2, SC_0}, {SC_3, SC_0}, {SC_4, SC_0}, {SC_5, SC_0},
243                          {SC_6, SC_0}, {SC_7, SC_0}, {SC_8, SC_0}, {SC_9, SC_0},
244                          {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0},
245                          {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1} },
246
247                        { {SC_3, SC_0}, {SC_4, SC_0}, {SC_5, SC_0}, {SC_6, SC_0},
248                          {SC_7, SC_0}, {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0},
249                          {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0},
250                          {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1} },
251
252                        { {SC_4, SC_0}, {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0},
253                          {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0},
254                          {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0},
255                          {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1} },
256
257                        { {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0}, {SC_8, SC_0},
258                          {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0},
259                          {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1},
260                          {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1} },
261
262                        { {SC_6, SC_0}, {SC_7, SC_0}, {SC_8, SC_0}, {SC_9, SC_0},
263                          {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0},
264                          {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1},
265                          {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1} },
266
267                        { {SC_7, SC_0}, {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0},
268                          {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0},
269                          {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1},
270                          {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1} },
271
272                        { {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0},
273                          {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0},
274                          {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1},
275                          {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1}, {SC_7, SC_1} },
276
277                        { {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0},
278                          {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1},
279                          {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1},
280                          {SC_5, SC_1}, {SC_6, SC_1}, {SC_7, SC_1}, {SC_8, SC_1} },
281
282                        { {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0},
283                          {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1},
284                          {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1},
285                          {SC_6, SC_1}, {SC_7, SC_1}, {SC_8, SC_1}, {SC_9, SC_1} },
286
287                        { {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0},
288                          {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1},
289                          {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1},
290                          {SC_7, SC_1}, {SC_8, SC_1}, {SC_9, SC_1}, {SC_A, SC_1} },
291
292                        { {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0},
293                          {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1},
294                          {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1}, {SC_7, SC_1},
295                          {SC_8, SC_1}, {SC_9, SC_1}, {SC_A, SC_1}, {SC_B, SC_1} },
296
297                        { {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1},
298                          {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1},
299                          {SC_5, SC_1}, {SC_6, SC_1}, {SC_7, SC_1}, {SC_8, SC_1},
300                          {SC_9, SC_1}, {SC_A, SC_1}, {SC_B, SC_1}, {SC_C, SC_1} },
301
302                        { {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1},
303                          {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1},
304                          {SC_6, SC_1}, {SC_7, SC_1}, {SC_8, SC_1}, {SC_9, SC_1},
305                          {SC_A, SC_1}, {SC_B, SC_1}, {SC_C, SC_1}, {SC_D, SC_1} },
306
307                        { {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1},
308                          {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1},
309                          {SC_7, SC_1}, {SC_8, SC_1}, {SC_9, SC_1}, {SC_A, SC_1},
310                          {SC_B, SC_1}, {SC_C, SC_1}, {SC_D, SC_1}, {SC_E, SC_1} }
311                              };
312
313 static char const mul_table[16][16][2] = {
314                        { {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0},
315                          {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0},
316                          {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0},
317                          {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0} },
318
319                        { {SC_0, SC_0}, {SC_1, SC_0}, {SC_2, SC_0}, {SC_3, SC_0},
320                          {SC_4, SC_0}, {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0},
321                          {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0},
322                          {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0} },
323
324                        { {SC_0, SC_0}, {SC_2, SC_0}, {SC_4, SC_0}, {SC_6, SC_0},
325                          {SC_8, SC_0}, {SC_A, SC_0}, {SC_C, SC_0}, {SC_E, SC_0},
326                          {SC_0, SC_1}, {SC_2, SC_1}, {SC_4, SC_1}, {SC_6, SC_1},
327                          {SC_8, SC_1}, {SC_A, SC_1}, {SC_C, SC_1}, {SC_E, SC_1} },
328
329                        { {SC_0, SC_0}, {SC_3, SC_0}, {SC_6, SC_0}, {SC_9, SC_0},
330                          {SC_C, SC_0}, {SC_F, SC_0}, {SC_2, SC_1}, {SC_5, SC_1},
331                          {SC_8, SC_1}, {SC_B, SC_1}, {SC_E, SC_1}, {SC_1, SC_2},
332                          {SC_4, SC_2}, {SC_7, SC_2}, {SC_A, SC_2}, {SC_D, SC_2} },
333
334                        { {SC_0, SC_0}, {SC_4, SC_0}, {SC_8, SC_0}, {SC_C, SC_0},
335                          {SC_0, SC_1}, {SC_4, SC_1}, {SC_8, SC_1}, {SC_C, SC_1},
336                          {SC_0, SC_2}, {SC_4, SC_2}, {SC_8, SC_2}, {SC_C, SC_2},
337                          {SC_0, SC_3}, {SC_4, SC_3}, {SC_8, SC_3}, {SC_C, SC_3} },
338
339                        { {SC_0, SC_0}, {SC_5, SC_0}, {SC_A, SC_0}, {SC_F, SC_0},
340                          {SC_4, SC_1}, {SC_9, SC_1}, {SC_E, SC_1}, {SC_3, SC_2},
341                          {SC_8, SC_2}, {SC_D, SC_2}, {SC_2, SC_3}, {SC_7, SC_3},
342                          {SC_C, SC_3}, {SC_1, SC_4}, {SC_6, SC_4}, {SC_B, SC_4} },
343
344                        { {SC_0, SC_0}, {SC_6, SC_0}, {SC_C, SC_0}, {SC_2, SC_1},
345                          {SC_8, SC_1}, {SC_E, SC_1}, {SC_4, SC_2}, {SC_A, SC_2},
346                          {SC_0, SC_3}, {SC_6, SC_3}, {SC_C, SC_3}, {SC_2, SC_4},
347                          {SC_8, SC_4}, {SC_E, SC_4}, {SC_4, SC_5}, {SC_A, SC_5} },
348
349                        { {SC_0, SC_0}, {SC_7, SC_0}, {SC_E, SC_0}, {SC_5, SC_1},
350                          {SC_C, SC_1}, {SC_3, SC_2}, {SC_A, SC_2}, {SC_1, SC_3},
351                          {SC_8, SC_3}, {SC_F, SC_3}, {SC_6, SC_4}, {SC_D, SC_4},
352                          {SC_4, SC_5}, {SC_B, SC_5}, {SC_2, SC_6}, {SC_9, SC_6} },
353
354                        { {SC_0, SC_0}, {SC_8, SC_0}, {SC_0, SC_1}, {SC_8, SC_1},
355                          {SC_0, SC_2}, {SC_8, SC_2}, {SC_0, SC_3}, {SC_8, SC_3},
356                          {SC_0, SC_4}, {SC_8, SC_4}, {SC_0, SC_5}, {SC_8, SC_5},
357                          {SC_0, SC_6}, {SC_8, SC_6}, {SC_0, SC_7}, {SC_8, SC_7} },
358
359                        { {SC_0, SC_0}, {SC_9, SC_0}, {SC_2, SC_1}, {SC_B, SC_1},
360                          {SC_4, SC_2}, {SC_D, SC_2}, {SC_6, SC_3}, {SC_F, SC_3},
361                          {SC_8, SC_4}, {SC_1, SC_5}, {SC_A, SC_5}, {SC_3, SC_6},
362                          {SC_C, SC_6}, {SC_5, SC_7}, {SC_E, SC_7}, {SC_7, SC_8} },
363
364                        { {SC_0, SC_0}, {SC_A, SC_0}, {SC_4, SC_1}, {SC_E, SC_1},
365                          {SC_8, SC_2}, {SC_2, SC_3}, {SC_C, SC_3}, {SC_6, SC_4},
366                          {SC_0, SC_5}, {SC_A, SC_5}, {SC_4, SC_6}, {SC_E, SC_6},
367                          {SC_8, SC_7}, {SC_2, SC_8}, {SC_C, SC_8}, {SC_6, SC_9} },
368
369                        { {SC_0, SC_0}, {SC_B, SC_0}, {SC_6, SC_1}, {SC_1, SC_2},
370                          {SC_C, SC_2}, {SC_7, SC_3}, {SC_2, SC_4}, {SC_D, SC_4},
371                          {SC_8, SC_5}, {SC_3, SC_6}, {SC_E, SC_6}, {SC_9, SC_7},
372                          {SC_4, SC_8}, {SC_F, SC_8}, {SC_A, SC_9}, {SC_5, SC_A} },
373
374                        { {SC_0, SC_0}, {SC_C, SC_0}, {SC_8, SC_1}, {SC_4, SC_2},
375                          {SC_0, SC_3}, {SC_C, SC_3}, {SC_8, SC_4}, {SC_4, SC_5},
376                          {SC_0, SC_6}, {SC_C, SC_6}, {SC_8, SC_7}, {SC_4, SC_8},
377                          {SC_0, SC_9}, {SC_C, SC_9}, {SC_8, SC_A}, {SC_4, SC_B} },
378
379                        { {SC_0, SC_0}, {SC_D, SC_0}, {SC_A, SC_1}, {SC_7, SC_2},
380                          {SC_4, SC_3}, {SC_1, SC_4}, {SC_E, SC_4}, {SC_B, SC_5},
381                          {SC_8, SC_6}, {SC_5, SC_7}, {SC_2, SC_8}, {SC_F, SC_8},
382                          {SC_C, SC_9}, {SC_9, SC_A}, {SC_6, SC_B}, {SC_3, SC_C} },
383
384                        { {SC_0, SC_0}, {SC_E, SC_0}, {SC_C, SC_1}, {SC_A, SC_2},
385                          {SC_8, SC_3}, {SC_6, SC_4}, {SC_4, SC_5}, {SC_2, SC_6},
386                          {SC_0, SC_7}, {SC_E, SC_7}, {SC_C, SC_8}, {SC_A, SC_9},
387                          {SC_8, SC_A}, {SC_6, SC_B}, {SC_4, SC_C}, {SC_2, SC_D} },
388
389                        { {SC_0, SC_0}, {SC_F, SC_0}, {SC_E, SC_1}, {SC_D, SC_2},
390                          {SC_C, SC_3}, {SC_B, SC_4}, {SC_A, SC_5}, {SC_9, SC_6},
391                          {SC_8, SC_7}, {SC_7, SC_8}, {SC_6, SC_9}, {SC_5, SC_A},
392                          {SC_4, SC_B}, {SC_3, SC_C}, {SC_2, SC_D}, {SC_1, SC_E} }
393                              };
394
395 static char const shrs_table[16][4][2] = {
396                        { {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0} },
397                        { {SC_1, SC_0}, {SC_0, SC_8}, {SC_0, SC_4}, {SC_0, SC_2} },
398                        { {SC_2, SC_0}, {SC_1, SC_0}, {SC_0, SC_8}, {SC_0, SC_4} },
399                        { {SC_3, SC_0}, {SC_1, SC_8}, {SC_0, SC_C}, {SC_0, SC_6} },
400                        { {SC_4, SC_0}, {SC_2, SC_0}, {SC_1, SC_0}, {SC_0, SC_8} },
401                        { {SC_5, SC_0}, {SC_2, SC_8}, {SC_1, SC_4}, {SC_0, SC_A} },
402                        { {SC_6, SC_0}, {SC_3, SC_0}, {SC_1, SC_8}, {SC_0, SC_C} },
403                        { {SC_7, SC_0}, {SC_3, SC_8}, {SC_1, SC_C}, {SC_0, SC_E} },
404                        { {SC_8, SC_0}, {SC_4, SC_0}, {SC_2, SC_0}, {SC_1, SC_0} },
405                        { {SC_9, SC_0}, {SC_4, SC_8}, {SC_2, SC_4}, {SC_1, SC_2} },
406                        { {SC_A, SC_0}, {SC_5, SC_0}, {SC_2, SC_8}, {SC_1, SC_4} },
407                        { {SC_B, SC_0}, {SC_5, SC_8}, {SC_2, SC_C}, {SC_1, SC_6} },
408                        { {SC_C, SC_0}, {SC_6, SC_0}, {SC_3, SC_0}, {SC_1, SC_8} },
409                        { {SC_D, SC_0}, {SC_6, SC_8}, {SC_3, SC_4}, {SC_1, SC_A} },
410                        { {SC_E, SC_0}, {SC_7, SC_0}, {SC_3, SC_8}, {SC_1, SC_C} },
411                        { {SC_F, SC_0}, {SC_7, SC_8}, {SC_3, SC_C}, {SC_1, SC_E} }
412                                    };
413
414 /* for converting to binary string */
415 static const char *binary_table[16] = {
416   "0000", "0001", "0010", "0011", "0100", "0101", "0110", "0111",
417   "1000", "1001", "1010", "1011", "1100", "1101", "1110", "1111"
418 };
419
420 /*****************************************************************************
421  * private functions
422  *****************************************************************************/
423 static void _fail_char(const char *str, size_t len, const char fchar, int pos,
424                        const char *file, int line)
425 {
426   printf("ERROR:\n");
427   printf("Unexpected character '%c' in %s:%d\n", fchar, file, line);
428   while (len-- && *str) printf("%c", *str++); printf("\n");
429   while (--pos) printf(" "); printf("^\n");
430   exit(-1);
431 }
432
433 static void _bitnot(const char *val, char *buffer)
434 {
435   int counter;
436
437   for (counter = 0; counter<CALC_BUFFER_SIZE; counter++)
438     buffer[counter] = not_table[_val(val[counter])];
439 }
440
441 static void _bitor(const char *val1, const char *val2, char *buffer)
442 {
443   int counter;
444
445   for (counter = 0; counter<CALC_BUFFER_SIZE; counter++)
446     buffer[counter] = or_table[_val(val1[counter])][_val(val2[counter])];
447 }
448
449 static void _bitxor(const char *val1, const char *val2, char *buffer)
450 {
451   int counter;
452
453   for (counter = 0; counter<CALC_BUFFER_SIZE; counter++)
454     buffer[counter] = xor_table[_val(val1[counter])][_val(val2[counter])];
455 }
456
457 static void _bitand(const char *val1, const char *val2, char *buffer)
458 {
459   int counter;
460
461   for (counter = 0; counter<CALC_BUFFER_SIZE; counter++)
462     buffer[counter] = and_table[_val(val1[counter])][_val(val2[counter])];
463 }
464
465 static int _sign(const char *val)
466 {
467   return (val[CALC_BUFFER_SIZE-1] <= SC_7) ? (1) : (-1);
468 }
469
470 /*
471  * returns non-zero if bit at position pos is set
472  */
473 static int _bit(const char *val, int pos)
474 {
475   int bit    = pos & 3;
476   int nibble = pos >> 2;
477
478   return _bitisset(val[nibble], bit);
479 }
480
481 static void _inc(char *val, char *buffer)
482 {
483   int counter = 0;
484
485   while (counter++ < CALC_BUFFER_SIZE)
486   {
487     if (*val == SC_F)
488     {
489       *buffer++ = SC_0;
490       val++;
491     }
492     else
493     {
494       /* No carry here, *val != SC_F */
495       *buffer = add_table[_val(*val)][SC_1][0];
496       return;
497     }
498   }
499   /* here a carry could be lost, this is intended because this should
500    * happen only when a value changes sign. */
501 }
502
503 static void _negate(const char *val, char *buffer)
504 {
505   _bitnot(val, buffer);
506   _inc(buffer, buffer);
507 }
508
509 static void _add(const char *val1, const char *val2, char *buffer)
510 {
511   int counter;
512   const char *add1, *add2;
513   char carry = SC_0;
514
515   for (counter = 0; counter < CALC_BUFFER_SIZE; counter++)
516   {
517     add1 = add_table[_val(val1[counter])][_val(val2[counter])];
518     add2 = add_table[_val(add1[0])][_val(carry)];
519     /* carry might be zero */
520     buffer[counter] = add2[0];
521     carry = add_table[_val(add1[1])][_val(add2[1])][0];
522   }
523 }
524
525 static void _mul(const char *val1, const char *val2, char *buffer)
526 {
527   char* temp_buffer; /* result buffer */
528   char* neg_val1;    /* abs of val1 */
529   char* neg_val2;    /* abs of val2 */
530
531   const char *mul, *add1, *add2;      /* intermediate result containers */
532   char carry = SC_0;                  /* container for carries */
533   char sign = 0;                      /* marks result sign */
534   int c_inner, c_outer;               /* loop counters */
535
536   temp_buffer = alloca(CALC_BUFFER_SIZE);
537   neg_val1 = alloca(CALC_BUFFER_SIZE);
538   neg_val2 = alloca(CALC_BUFFER_SIZE);
539
540   /* init result buffer to zeroes */
541   memset(temp_buffer, SC_0, CALC_BUFFER_SIZE);
542
543   /* the multiplication works only for positive values, for negative values *
544    * it is necessary to negate them and adjust the result accordingly       */
545   if (_sign(val1) == -1) {
546     _negate(val1, neg_val1);
547     val1 = neg_val1;
548     sign ^= 1;
549   }
550   if (_sign(val2) == -1) {
551     _negate(val2, neg_val2);
552     val2 = neg_val2;
553     sign ^= 1;
554   }
555
556   for (c_outer = 0; c_outer < MAX_VALUE_SIZE; c_outer++)
557   {
558     if (val2[c_outer] != SC_0)
559     {
560       for (c_inner = 0; c_inner < MAX_VALUE_SIZE; c_inner++)
561       {
562         /* do the following calculation:                                    *
563          * Add the current carry, the value at position c_outer+c_inner     *
564          * and the result of the multiplication of val1[c_inner] and        *
565          * val2[c_outer]. This is the usual pen-and-paper multiplication.   */
566
567         /* multiplicate the two digits */
568         mul = mul_table[_val(val1[c_inner])][_val(val2[c_outer])];
569         /* add old value to result of multiplication */
570         add1 = add_table[_val(temp_buffer[c_inner + c_outer])][_val(mul[0])];
571         /* add carry to the sum */
572         add2 = add_table[_val(add1[0])][_val(carry)];
573
574         /* all carries together result in new carry. This is always smaller *
575          * than the base b:                                                 *
576          * Both multiplicands, the carry and the value already in the temp  *
577          * buffer are single digits and their value is therefore at most    *
578          * equal to (b-1).                                                  *
579          * This leads to:                                                   *
580          * (b-1)(b-1)+(b-1)+(b-1) = b*b-1                                   *
581          * The tables list all operations rem b, so the carry is at most    *
582          * (b*b-1)rem b = -1rem b = b-1                                     */
583         carry = add_table[_val(mul[1])][_val(add1[1])][0];
584         carry = add_table[_val(carry)][_val(add2[1])][0];
585
586         temp_buffer[c_inner + c_outer] = add2[0];
587       }
588
589       /* A carry may hang over */
590       /* c_outer is always smaller than MAX_VALUE_SIZE! */
591       temp_buffer[MAX_VALUE_SIZE + c_outer] = carry;
592       carry = SC_0;
593     }
594   }
595
596   if (sign)
597     _negate(temp_buffer, buffer);
598   else
599     memcpy(buffer, temp_buffer, CALC_BUFFER_SIZE);
600 }
601
602 static void _sub(const char *val1, const char *val2, char *buffer)
603 {
604   char *temp_buffer;  /* intermediate buffer to hold -val2 */
605   temp_buffer = alloca(CALC_BUFFER_SIZE);
606
607   _negate(val2, temp_buffer);
608   _add(val1, temp_buffer, buffer);
609 }
610
611 static void _push(const char digit, char *buffer)
612 {
613   int counter;
614
615   for (counter = CALC_BUFFER_SIZE - 2; counter >= 0; counter--)
616   {
617     buffer[counter+1] = buffer[counter];
618   }
619   buffer[0] = digit;
620 }
621
622 /* XXX: This is MOST slow */
623 static void _divmod(const char *dividend, const char *divisor, char *quot, char *rem)
624 {
625   const char *minus_divisor;
626   char *neg_val1;
627   char *neg_val2;
628
629   char sign = 0;     /* remember result sign */
630
631   int c_dividend;      /* loop counters */
632
633   neg_val1 = alloca(CALC_BUFFER_SIZE);
634   neg_val2 = alloca(CALC_BUFFER_SIZE);
635
636   /* clear result buffer */
637   memset(quot, SC_0, CALC_BUFFER_SIZE);
638   memset(rem, SC_0, CALC_BUFFER_SIZE);
639
640   /* if the divisor is zero this won't work (quot is zero) */
641   if (sc_comp(divisor, quot) == 0) assert(0 && "division by zero!");
642
643   /* if the dividend is zero result is zero (quot is zero)*/
644   if (sc_comp(dividend, quot) == 0)
645     return;
646
647   if (_sign(dividend) == -1)
648   {
649     _negate(dividend, neg_val1);
650     sign ^= 1;
651     dividend = neg_val1;
652   }
653
654   _negate(divisor, neg_val2);
655   if (_sign(divisor) == -1)
656   {
657     sign ^= 1;
658     minus_divisor = divisor;
659     divisor = neg_val2;
660   }
661   else
662   {
663     minus_divisor = neg_val2;
664   }
665
666   /* if divisor >= dividend division is easy
667    * (remember these are absolute values) */
668   switch (sc_comp(dividend, divisor))
669   {
670     case 0: /* dividend == divisor */
671       quot[0] = SC_1;
672       return;
673
674     case -1: /* dividend < divisor */
675       memcpy(rem, dividend, CALC_BUFFER_SIZE);
676       return;
677
678     default: /* unluckily division is necessary :( */
679       break;
680   }
681
682   for (c_dividend = CALC_BUFFER_SIZE - 1; c_dividend >= 0; c_dividend--)
683   {
684     _push(dividend[c_dividend], rem);
685     _push(SC_0, quot);
686
687     if (sc_comp(rem, divisor) != -1)    /* remainder >= divisor */
688     {
689       /* subtract until the remainder becomes negative, this should
690        * be faster than comparing remainder with divisor  */
691       _add(rem, minus_divisor, rem);
692
693       while (_sign(rem) == 1)
694       {
695         quot[0] = add_table[_val(quot[0])][SC_1][0];
696         _add(rem, minus_divisor, rem);
697       }
698
699       /* subtracted one too much */
700       _add(rem, divisor, rem);
701     }
702   }
703
704   carry_flag = !sc_is_zero(rem);
705
706   if (sign)
707   {
708     _negate(quot, quot);
709     _negate(rem, rem);
710   }
711 }
712
713 static void _shl(const char *val1, char *buffer, long offset, int radius, unsigned is_signed)
714 {
715   const char *shl;
716   char shift;
717   char carry = SC_0;
718
719   int counter;
720   int bitoffset = 0;
721
722   assert((offset >= 0) || (0 && "negative leftshift"));
723   assert(((_sign(val1) != -1) || is_signed) || (0 && "unsigned mode and negative value"));
724   assert(((!_bitisset(val1[(radius-1)/4], (radius-1)%4)) || !is_signed || (_sign(val1) == -1)) || (0 && "value is positive, should be negative"));
725   assert(((_bitisset(val1[(radius-1)/4], (radius-1)%4)) || !is_signed || (_sign(val1) == 1)) || (0 && "value is negative, should be positive"));
726
727   /* if shifting far enough the result is zero */
728   if (offset >= radius)
729   {
730     memset(buffer, SC_0, CALC_BUFFER_SIZE);
731     return;
732   }
733
734   shift = shift_table[_val(offset%4)];      /* this is 2 ** (offset % 4) */
735   offset = offset / 4;
736
737   /* shift the single digits some bytes (offset) and some bits (table)
738    * to the left */
739   for (counter = 0; counter < radius/4 - offset; counter++)
740   {
741     shl = mul_table[_val(val1[counter])][_val(shift)];
742     buffer[counter + offset] = or_table[_val(shl[0])][_val(carry)];
743     carry = shl[1];
744   }
745   if (radius%4 > 0)
746   {
747     shl = mul_table[_val(val1[counter])][_val(shift)];
748     buffer[counter + offset] = or_table[_val(shl[0])][_val(carry)];
749     bitoffset = counter;
750   } else {
751     bitoffset = counter - 1;
752   }
753
754   /* fill with zeroes */
755   for (counter = 0; counter < offset; counter++) buffer[counter] = SC_0;
756
757   /* if the mode was signed, change sign when the mode's msb is now 1 */
758   offset = bitoffset + offset;
759   bitoffset = (radius-1) % 4;
760   if (is_signed && _bitisset(buffer[offset], bitoffset))
761   {
762     /* this sets the upper bits of the leftmost digit */
763     buffer[offset] = or_table[_val(buffer[offset])][_val(min_digit[bitoffset])];
764     for (counter = offset+1; counter < CALC_BUFFER_SIZE; counter++)
765     {
766       buffer[counter] = SC_F;
767     }
768   }
769   else if (is_signed && !_bitisset(buffer[offset], bitoffset))
770   {
771     /* this unsets the upper bits of the leftmost digit */
772     buffer[offset] = and_table[_val(buffer[offset])][_val(max_digit[bitoffset])];
773     for (counter = offset+1; counter < CALC_BUFFER_SIZE; counter++)
774     {
775       buffer[counter] = SC_0;
776     }
777   }
778 }
779
780 static void _shr(const char *val1, char *buffer, long offset, int radius, unsigned is_signed, int signed_shift)
781 {
782   const char *shrs;
783   char sign;
784   char msd;
785
786   int shift;
787
788   int counter;
789   int bitoffset = 0;
790
791   assert((offset >= 0) || (0 && "negative rightshift"));
792   assert(((_sign(val1) != -1) || is_signed) || (0 && "unsigned mode and negative value"));
793   assert(((!_bitisset(val1[(radius-1)/4], (radius-1)%4)) || !is_signed || (_sign(val1) == -1)) || (0 && "value is positive, should be negative"));
794   assert(((_bitisset(val1[(radius-1)/4], (radius-1)%4)) || !is_signed || (_sign(val1) == 1)) || (0 && "value is negative, should be positive"));
795
796   sign = ((signed_shift) && (_sign(val1) == -1))?(SC_F):(SC_0);
797
798   /* if shifting far enough the result is either 0 or -1 */
799   if (offset >= radius)
800   {
801     if (!sc_is_zero(val1)) {
802       carry_flag = 1;
803     }
804     memset(buffer, sign, CALC_BUFFER_SIZE);
805     return;
806   }
807
808   shift = offset % 4;
809   offset = offset / 4;
810
811   /* check if any bits are lost, and set carry_flag if so */
812   for (counter = 0; counter < offset; counter++)
813   {
814     if (val1[counter] != 0)
815     {
816       carry_flag = 1;
817       break;
818     }
819   }
820   if ((_val(val1[counter]) & ((1<<shift)-1)) != 0)
821   {
822     carry_flag = 1;
823   }
824   /* shift digits to the right with offset, carry and all */
825   counter = 0;
826   if (radius/4 - offset > 0) {
827     buffer[counter] = shrs_table[_val(val1[offset])][shift][0];
828     counter = 1;
829   }
830   for (; counter < radius/4 - offset; counter++)
831   {
832     shrs = shrs_table[_val(val1[counter + offset])][shift];
833     buffer[counter] = shrs[0];
834     buffer[counter-1] = or_table[_val(buffer[counter-1])][_val(shrs[1])];
835   }
836
837   /* the last digit is special in regard of signed/unsigned shift */
838   bitoffset = radius%4;
839   msd = (radius/4<CALC_BUFFER_SIZE)?(val1[radius/4]):(sign);  /* most significant digit */
840
841   /* remove sign bits if mode was signed and this is an unsigned shift */
842   if (!signed_shift && is_signed) {
843     msd = and_table[_val(msd)][_val(max_digit[bitoffset])];
844   }
845
846   shrs = shrs_table[_val(msd)][shift];
847
848   /* signed shift and signed mode and negative value means all bits to the left are set */
849   if (signed_shift && is_signed && (_sign(val1) == -1)) {
850     buffer[counter] = or_table[_val(shrs[0])][_val(min_digit[bitoffset])];
851   } else {
852     buffer[counter] = shrs[0];
853   }
854
855   if (counter > 0) buffer[counter - 1] = or_table[_val(buffer[counter-1])][_val(shrs[1])];
856
857   /* fill with SC_F or SC_0 depending on sign */
858   for (counter++; counter < CALC_BUFFER_SIZE; counter++)
859   {
860     buffer[counter] = sign;
861   }
862 }
863
864 /* positive: low-order -> high order, negative other direction */
865 static void _rot(const char *val1, char *buffer, long offset, int radius, unsigned is_signed)
866 {
867   char *temp1, *temp2;
868   temp1 = alloca(CALC_BUFFER_SIZE);
869   temp2 = alloca(CALC_BUFFER_SIZE);
870
871   offset = offset % radius;
872
873   /* rotation by multiples of the typelength is identity */
874   if (offset == 0) {
875     memmove(buffer, val1, CALC_BUFFER_SIZE);
876     return;
877   }
878
879   _shl(val1, temp1, offset, radius, is_signed);
880   _shr(val1, temp2, radius - offset, radius, is_signed, 0);
881   _bitor(temp1, temp2, buffer);
882   carry_flag = 0; /* set by shr, but due to rot this is false */
883 }
884
885 /*****************************************************************************
886  * public functions, declared in strcalc.h
887  *****************************************************************************/
888 const void *sc_get_buffer(void)
889 {
890   return (void*)calc_buffer;
891 }
892
893 const int sc_get_buffer_length(void)
894 {
895   return CALC_BUFFER_SIZE;
896 }
897
898 /* XXX doesn't check for overflows */
899 void sc_val_from_str(const char *str, unsigned int len, void *buffer)
900 {
901   const char *orig_str = str;
902   unsigned int orig_len = len;
903
904   char sign = 0;
905   char *base, *val;
906
907   base = alloca(CALC_BUFFER_SIZE);
908   val = alloca(CALC_BUFFER_SIZE);
909
910   /* verify valid pointers (not null) */
911   assert(str);
912   /* a string no characters long is an error */
913   assert(len);
914
915   if (buffer == NULL) buffer = calc_buffer;
916
917   CLEAR_BUFFER(buffer);
918   memset(base, SC_0, CALC_BUFFER_SIZE);
919   memset(val, SC_0, CALC_BUFFER_SIZE);
920
921   /* strip leading spaces */
922   while ((len > 0) && (*str == ' ')) { len--; str++; }
923
924   /* if the first two characters are 0x or 0X -> hex
925    * if the first is a 0 -> oct
926    * else dec, strip leading -/+ and remember sign
927    *
928    * only a + or - sign is no number resulting in an error */
929   if (len >= 2)
930     switch (str[0])
931     {
932       case '0':
933         if (str[1] == 'x' || str[1] == 'X') /* hex */
934         {
935           str += 2;
936           len -= 2;
937           base[1] = SC_1; base[0] = SC_0;
938         }
939         else /* oct */
940         {
941           str += 1;
942           len -= 1;
943           base[1] = SC_0; base[0] = SC_8;
944         }
945         break;
946
947       case '+':
948         {
949           str += 1;
950           len -= 1;
951           base[1] = SC_0; base[0] = SC_A;
952         }
953         break;
954
955       case '-':
956         {
957           str += 1;
958           len -= 1;
959           sign = 1;
960           base[1] = SC_0; base[0] = SC_A;
961         }
962         break;
963
964       default: /* dec, else would have begun with 0x or 0 */
965         base[1] = SC_0; base[0] = SC_A;
966     }
967
968   else /* dec, else would have begun with 0x or 0 */
969   {
970     base[1] = SC_0; base[0] = SC_A;
971   }
972
973   /* BEGIN string evaluation, from left to right */
974   while (len > 0)
975   {
976     switch (*str)
977     {
978       case 'f':
979       case 'e':
980       case 'd':
981       case 'c':
982       case 'b':
983       case 'a':
984         if (base[0] > SC_9 || base[1] > SC_0) /* (base > 10) */
985         {
986           val[0] = _digit((*str)-'a'+10);
987         }
988         else fail_char(orig_str, orig_len, *str, str-orig_str+1);
989         break;
990
991       case 'F':
992       case 'E':
993       case 'D':
994       case 'C':
995       case 'B':
996       case 'A':
997         if (base[0] > SC_9 || base[1] > SC_0) /* (base > 10) */
998         {
999           val[0] = _digit((*str)-'A'+10);
1000         }
1001         else fail_char(orig_str, orig_len, *str, str-orig_str+1);
1002         break;
1003
1004       case '9':
1005       case '8':
1006         if (base[0] > SC_7 || base[1] > SC_0) /* (base > 8) */
1007         {
1008           val[0] = _digit((*str)-'0');
1009         }
1010         else fail_char(orig_str, orig_len, *str, str-orig_str+1);
1011         break;
1012
1013       case '7':
1014       case '6':
1015       case '5':
1016       case '4':
1017       case '3':
1018       case '2':
1019       case '1':
1020       case '0':
1021         {
1022           val[0] = _digit((*str)-'0');
1023         }
1024         break;
1025
1026       default:
1027         fail_char(orig_str, orig_len, *str, str-orig_str+1);
1028     } /* switch(*str) */
1029
1030     /* Radix conversion from base b to base B:
1031      *  (UnUn-1...U1U0)b == ((((Un*b + Un-1)*b + ...)*b + U1)*b + U0)B */
1032     _mul(base, calc_buffer, calc_buffer); /* multiply current value with base */
1033     _add(val, calc_buffer, calc_buffer);  /* add next digit to current value  */
1034
1035     /* get ready for the next letter */
1036     str++;
1037     len--;
1038
1039   } /* while (len > 0 ) */
1040
1041   if (sign)
1042   {
1043     _negate(calc_buffer, calc_buffer);
1044   }
1045 }
1046
1047 void sc_val_from_long(long value, void *buffer)
1048 {
1049   char *pos;
1050   char sign, is_minlong;
1051
1052   if (buffer == NULL) buffer = calc_buffer;
1053   pos = buffer;
1054
1055   sign = (value < 0);
1056   is_minlong = value == LONG_MIN;
1057
1058   /* use absolute value, special treatment of MIN_LONG */
1059   if (sign) {
1060     if (is_minlong)
1061       value = -(value+1);
1062     else
1063       value = -value;
1064   }
1065
1066   CLEAR_BUFFER(buffer);
1067
1068   while ((value != 0) && (pos < (char*)buffer + CALC_BUFFER_SIZE))
1069   {
1070     *pos++ = _digit(value & 0xf);
1071     value >>= 4;
1072   }
1073
1074
1075   if (sign) {
1076     if (is_minlong)
1077       _inc(buffer, buffer);
1078
1079     _negate(buffer, buffer);
1080   }
1081 }
1082
1083 void sc_val_from_ulong(unsigned long value, void *buffer)
1084 {
1085   char *pos;
1086
1087   if (buffer == NULL) buffer = calc_buffer;
1088   pos = buffer;
1089
1090   while (pos < (char*)buffer + CALC_BUFFER_SIZE)
1091   {
1092     *pos++ = _digit(value & 0xf);
1093     value >>= 4;
1094   }
1095 }
1096
1097 long sc_val_to_long(const void *val)
1098 {
1099   int i;
1100   long l = 0;
1101
1102   for (i = CALC_BUFFER_SIZE - 1; i >= 0; i--)
1103   {
1104     l = (l << 4) + _val(((char *)val)[i]);
1105   }
1106   return l;
1107 }
1108
1109 void sc_min_from_bits(unsigned int num_bits, unsigned int sign, void *buffer)
1110 {
1111   char* pos;
1112   int i, bits;
1113
1114   if (buffer == NULL) buffer = calc_buffer;
1115   CLEAR_BUFFER(buffer);
1116
1117   if (!sign) return;  /* unsigned means minimum is 0(zero) */
1118
1119   pos = buffer;
1120
1121   bits = num_bits - 1;
1122   for (i = 0; i < bits/4; i++)
1123     *pos++ = SC_0;
1124
1125   *pos++ = min_digit[bits%4];
1126
1127   for (i++; i <= CALC_BUFFER_SIZE - 1; i++)
1128     *pos++ = SC_F;
1129 }
1130
1131 void sc_max_from_bits(unsigned int num_bits, unsigned int sign, void *buffer)
1132 {
1133   char* pos;
1134   int i, bits;
1135
1136   if (buffer == NULL) buffer = calc_buffer;
1137   CLEAR_BUFFER(buffer);
1138   pos = buffer;
1139
1140   bits = num_bits - sign;
1141   for (i = 0; i < bits/4; i++)
1142     *pos++ = SC_F;
1143
1144   *pos++ = max_digit[bits%4];
1145
1146   for (i++; i <= CALC_BUFFER_SIZE - 1; i++)
1147     *pos++ = SC_0;
1148 }
1149
1150 void sc_calc(const void* value1, const void* value2, unsigned op, void *buffer)
1151 {
1152   char *unused_res; /* temp buffer holding unused result of divmod */
1153
1154   const char *val1 = (const char *)value1;
1155   const char *val2 = (const char *)value2;
1156
1157   unused_res = alloca(CALC_BUFFER_SIZE);
1158   CLEAR_BUFFER(calc_buffer);
1159   carry_flag = 0;
1160
1161   DEBUGPRINTF_COMPUTATION(("%s ", sc_print_hex(value1)));
1162
1163   switch (op)
1164   {
1165     case SC_NEG:
1166       _negate(val1, calc_buffer);
1167       DEBUGPRINTF_COMPUTATION(("negated: %s\n", sc_print_hex(calc_buffer)));
1168       break;
1169     case SC_OR:
1170       DEBUGPRINTF_COMPUTATION(("| "));
1171       _bitor(val1, val2, calc_buffer);
1172       break;
1173     case SC_AND:
1174       DEBUGPRINTF_COMPUTATION(("& "));
1175       _bitand(val1, val2, calc_buffer);
1176       break;
1177     case SC_XOR:
1178       DEBUGPRINTF_COMPUTATION(("^ "));
1179       _bitxor(val1, val2, calc_buffer);
1180       break;
1181     case SC_NOT:
1182       _bitnot(val1, calc_buffer);
1183       DEBUGPRINTF_COMPUTATION(("bit-negated: %s\n", sc_print_hex(calc_buffer)));
1184       break;
1185     case SC_ADD:
1186       DEBUGPRINTF_COMPUTATION(("+ "));
1187       _add(val1, val2, calc_buffer);
1188       break;
1189     case SC_SUB:
1190       DEBUGPRINTF_COMPUTATION(("- "));
1191       _sub(val1, val2, calc_buffer);
1192       break;
1193     case SC_MUL:
1194       DEBUGPRINTF_COMPUTATION(("* "));
1195       _mul(val1, val2, calc_buffer);
1196       break;
1197     case SC_DIV:
1198       DEBUGPRINTF_COMPUTATION(("/ "));
1199       _divmod(val1, val2, calc_buffer, unused_res);
1200       break;
1201     case SC_MOD:
1202       DEBUGPRINTF_COMPUTATION(("%% "));
1203       _divmod(val1, val2, unused_res, calc_buffer);
1204       break;
1205     default:
1206       assert(0);
1207   }
1208   DEBUGPRINTF_COMPUTATION(("%s -> ", sc_print_hex(value2)));
1209   DEBUGPRINTF_COMPUTATION(("%s\n", sc_print_hex(calc_buffer)));
1210
1211   if ((buffer != NULL) && (buffer != calc_buffer))
1212   {
1213     memcpy(buffer, calc_buffer, CALC_BUFFER_SIZE);
1214   }
1215 }
1216
1217 void sc_bitcalc(const void* value1, const void* value2, int radius, int sign, unsigned op, void* buffer)
1218 {
1219   const char *val1 = (const char *)value1;
1220   const char *val2 = (const char *)value2;
1221   long offset;
1222
1223   carry_flag = 0;
1224   offset = sc_val_to_long(val2);
1225
1226   DEBUGPRINTF_COMPUTATION(("%s ", sc_print_hex(value1)));
1227   switch (op)
1228   {
1229     case SC_SHL:
1230       DEBUGPRINTF_COMPUTATION(("<< %ld ", offset));
1231       _shl(val1, calc_buffer, offset, radius, sign);
1232       break;
1233     case SC_SHR:
1234       DEBUGPRINTF_COMPUTATION((">> %ld ", offset));
1235       _shr(val1, calc_buffer, offset, radius, sign, 0);
1236       break;
1237     case SC_SHRS:
1238       DEBUGPRINTF_COMPUTATION((">>> %ld ", offset));
1239       _shr(val1, calc_buffer, offset, radius, sign, 1);
1240       break;
1241     case SC_ROT:
1242       DEBUGPRINTF_COMPUTATION(("<<>> %ld ", offset));
1243       _rot(val1, calc_buffer, offset, radius, sign);
1244       break;
1245     default:
1246       assert(0);
1247   }
1248   DEBUGPRINTF_COMPUTATION(("-> %s\n", sc_print_hex(calc_buffer)));
1249
1250   if ((buffer != NULL) && (buffer != calc_buffer))
1251   {
1252     memmove(buffer, calc_buffer, CALC_BUFFER_SIZE);
1253   }
1254 }
1255
1256 int sc_comp(const void* value1, const void* value2)
1257 {
1258   int counter = CALC_BUFFER_SIZE - 1;
1259   const char *val1 = (const char *)value1;
1260   const char *val2 = (const char *)value2;
1261
1262   /* compare signs first:
1263    * the loop below can only compare values of the same sign! */
1264   if (_sign(val1) != _sign(val2)) return (_sign(val1) == 1)?(1):(-1);
1265
1266   /* loop until two digits differ, the values are equal if there
1267    * are no such two digits */
1268   while (val1[counter] == val2[counter])
1269   {
1270     counter--;
1271     if (counter < 0) return 0;
1272   }
1273
1274   /* the leftmost digit is the most significant, so this returns
1275    * the correct result.
1276    * This implies the digit enum is ordered */
1277   return (val1[counter] > val2[counter]) ? (1) : (-1);
1278 }
1279
1280 int sc_get_highest_set_bit(const void *value)
1281 {
1282   const char *val = (const char*)value;
1283   int high, counter;
1284
1285   high = CALC_BUFFER_SIZE * 4 - 1;
1286
1287   for (counter = CALC_BUFFER_SIZE-1; counter >= 0; counter--) {
1288     if (val[counter] == SC_0) high -= 4;
1289     else {
1290       if (val[counter] > SC_7) return high;
1291       else if (val[counter] > SC_3) return high - 1;
1292       else if (val[counter] > SC_1) return high - 2;
1293       else return high - 3;
1294     }
1295   }
1296   return high;
1297 }
1298
1299 int sc_get_lowest_set_bit(const void *value)
1300 {
1301   const char *val = (const char*)value;
1302   int low, counter;
1303   char sign;
1304
1305   sign = (_sign(val)==1)?(SC_0):(SC_F);
1306   low = 0;
1307
1308   for (counter = 0; counter < CALC_BUFFER_SIZE; counter++) {
1309     if (val[counter] == SC_0) low += 4;
1310     else {
1311       if (val[counter] < SC_2) return low;
1312       else if (val[counter] < SC_4) return low + 1;
1313       else if (val[counter] < SC_8) return low + 2;
1314       else return low + 3;
1315     }
1316   }
1317   return -1;
1318 }
1319
1320 int sc_is_zero(const void *value)
1321 {
1322   const char* val = (const char *)value;
1323   int counter;
1324
1325   for (counter = 0; counter < CALC_BUFFER_SIZE; counter++) {
1326     if (val[counter] != SC_0) return 0;
1327   }
1328   return 1;
1329 }
1330
1331 int sc_is_negative(const void *value)
1332 {
1333   return _sign(value) == -1;
1334 }
1335
1336 int sc_had_carry(void)
1337 {
1338   return carry_flag;
1339 }
1340
1341 unsigned char sc_sub_bits(const void *value, int len, unsigned byte_ofs)
1342 {
1343   const char *val     = (const char *)value;
1344   unsigned nibble_ofs = 2 * byte_ofs;
1345   unsigned char res;
1346
1347   /* the current scheme uses one byte to store a nibble */
1348   if (nibble_ofs >= len)
1349     return 0;
1350
1351   res = _val(val[nibble_ofs]);
1352   if (len > nibble_ofs + 1)
1353     res |= _val(val[nibble_ofs + 1]) << 4;
1354
1355   return res;
1356 }
1357
1358 /*
1359  * convert to a string
1360  * XXX Doesn't check buffer bounds
1361  */
1362 const char *sc_print(const void *value, unsigned bits, enum base_t base)
1363 {
1364   static const char big_digits[]   = "0123456789ABCDEF";
1365   static const char small_digits[] = "0123456789abcdef";
1366
1367   char *base_val, *div1_res, *div2_res, *rem_res;
1368   int counter, nibbles, i, sign;
1369   char x;
1370
1371   const char *val = (const char *)value;
1372   const char *p;
1373   char *m, *n, *t;
1374   char *pos;
1375   const char *digits = small_digits;
1376
1377   base_val = alloca(CALC_BUFFER_SIZE);
1378   div1_res = alloca(CALC_BUFFER_SIZE);
1379   div2_res = alloca(CALC_BUFFER_SIZE);
1380   rem_res = alloca(CALC_BUFFER_SIZE);
1381
1382   pos = output_buffer + BIT_PATTERN_SIZE;
1383   *(--pos) = '\0';
1384
1385   /* special case */
1386   if (bits == 0) {
1387     bits = BIT_PATTERN_SIZE;
1388 #ifdef STRCALC_DEBUG_FULLPRINT
1389     bits <<= 1;
1390 #endif
1391   }
1392   nibbles = bits >> 2;
1393   switch (base) {
1394
1395   case SC_HEX:
1396     digits = big_digits;
1397   case SC_hex:
1398     for (counter = 0; counter < nibbles; ++counter) {
1399       *(--pos) = digits[_val(val[counter])];
1400 #ifdef STRCALC_DEBUG_GROUPPRINT
1401       if ((counter+1)%8 == 0)
1402         *(--pos) = ' ';
1403 #endif
1404     }
1405
1406     /* last nibble must be masked */
1407     if (bits & 3) {
1408       x = and_table[_val(val[++counter])][bits & 3];
1409       *(--pos) = digits[_val(x)];
1410     }
1411
1412     /* now kill zeros */
1413     for (; counter > 1; --counter, ++pos) {
1414 #ifdef STRCALC_DEBUG_GROUPPRINT
1415       if (pos[0] == ' ') ++pos;
1416 #endif
1417       if (pos[0] != '0')
1418         break;
1419     }
1420     break;
1421
1422   case SC_BIN:
1423     for (counter = 0; counter < nibbles; ++counter) {
1424       pos -= 4;
1425       p = binary_table[_val(val[counter])];
1426       pos[0] = p[0];
1427       pos[1] = p[1];
1428       pos[2] = p[2];
1429       pos[3] = p[3];
1430     }
1431
1432     /* last nibble must be masked */
1433     if (bits & 3) {
1434       x = and_table[_val(val[++counter])][bits & 3];
1435
1436       pos -= 4;
1437       p = binary_table[_val(x)];
1438       pos[0] = p[0];
1439       pos[1] = p[1];
1440       pos[2] = p[2];
1441       pos[3] = p[3];
1442     }
1443
1444     /* now kill zeros */
1445     for (counter <<= 2; counter > 1; --counter, ++pos)
1446       if (pos[0] != '0')
1447         break;
1448     break;
1449
1450   case SC_DEC:
1451   case SC_OCT:
1452     memset(base_val, SC_0, CALC_BUFFER_SIZE);
1453     base_val[0] = base == SC_DEC ? SC_A : SC_8;
1454
1455     p    = val;
1456     sign = 0;
1457     if (base == SC_DEC) {
1458       /* check for negative values */
1459       if (_bit(val, bits - 1)) {
1460         _negate(val, div2_res);
1461         sign = 1;
1462         p = div2_res;
1463       }
1464     }
1465
1466     /* transfer data into oscilating buffers */
1467     memset(div1_res, SC_0, CALC_BUFFER_SIZE);
1468     for (counter = 0; counter < nibbles; ++counter)
1469       div1_res[counter] = p[counter];
1470
1471      /* last nibble must be masked */
1472     if (bits & 3) {
1473       ++counter;
1474
1475       div1_res[counter] = and_table[_val(p[counter])][bits & 3];
1476     }
1477
1478     m = div1_res;
1479     n = div2_res;
1480     for (;;) {
1481       _divmod(m, base_val, n, rem_res);
1482       t = m;
1483       m = n;
1484       n = t;
1485       *(--pos) = digits[_val(rem_res[0])];
1486
1487       x = 0;
1488       for (i = 0; i < sizeof(div1_res); ++i)
1489         x |= _val(m[i]);
1490
1491       if (x == 0)
1492         break;
1493     }
1494     if (sign)
1495        *(--pos) = '-';
1496     break;
1497
1498   default:
1499     printf("%i\n", base);
1500     assert(0);
1501     return NULL;
1502 }
1503   return pos;
1504 }
1505
1506 void init_strcalc(int precision)
1507 {
1508   if (calc_buffer == NULL) {
1509     if (precision <= 0) precision = SC_DEFAULT_PRECISION;
1510
1511     /* round up to multiple of 4 */
1512     if (precision & 0x3) precision += 4 - (precision&0x3);
1513
1514     BIT_PATTERN_SIZE = (precision);
1515     CALC_BUFFER_SIZE = (precision / 2);
1516     MAX_VALUE_SIZE   = (precision / 4);
1517
1518     calc_buffer   = malloc(CALC_BUFFER_SIZE+1 * sizeof(char));
1519     output_buffer = malloc(BIT_PATTERN_SIZE+1 * sizeof(char));
1520
1521     if (calc_buffer == NULL || output_buffer == NULL)
1522     {
1523       assert(0 && "malloc failed");
1524       exit(-1);
1525     }
1526
1527     DEBUGPRINTF(("init strcalc: \n\tPRECISION: %d\n\tCALC_BUFFER_SIZE = %d\n\tMAX_VALUE_SIZE = %d\n\tbuffer pointer: %p\n", precision, CALC_BUFFER_SIZE, MAX_VALUE_SIZE, calc_buffer));
1528   }
1529 }
1530
1531
1532 void finish_strcalc() {
1533   free(calc_buffer);   calc_buffer   = NULL;
1534   free(output_buffer); output_buffer = NULL;
1535 }
1536 int sc_get_precision(void)
1537 {
1538   return BIT_PATTERN_SIZE;
1539 }