BugFix: _divmod() returned wrong result for -x/x : fixed
[libfirm] / ir / tv / strcalc.c
1 /*
2  * Copyright (C) 1995-2007 University of Karlsruhe.  All right reserved.
3  *
4  * This file is part of libFirm.
5  *
6  * This file may be distributed and/or modified under the terms of the
7  * GNU General Public License version 2 as published by the Free Software
8  * Foundation and appearing in the file LICENSE.GPL included in the
9  * packaging of this file.
10  *
11  * Licensees holding valid libFirm Professional Edition licenses may use
12  * this file in accordance with the libFirm Commercial License.
13  * Agreement provided with the Software.
14  *
15  * This file is provided AS IS with NO WARRANTY OF ANY KIND, INCLUDING THE
16  * WARRANTY OF DESIGN, MERCHANTABILITY AND FITNESS FOR A PARTICULAR
17  * PURPOSE.
18  */
19
20 /**
21  * @file
22  * @brief    Provides basic mathematical operations on values represented as strings.
23  * @date     2003
24  * @author   Mathias Heil
25  * @version  $Id$
26  */
27
28 #ifdef HAVE_CONFIG_H
29 # include "config.h"
30 #endif
31
32 #ifdef HAVE_STDLIB_H
33 # include <stdlib.h>
34 #endif
35 #ifdef HAVE_STRING_H
36 # include <string.h>  /* memset/memcmp */
37 #endif
38 #include <assert.h>   /* assertions */
39 #include <stdio.h>    /* output for error messages */
40 #include <limits.h>   /* definition of LONG_MIN, used in sc_get_val_from_long */
41
42 #include "strcalc.h"
43 #include "xmalloc.h"
44
45 /*
46  * local definitions and macros
47  */
48 #define CLEAR_BUFFER(b) assert(b); memset(b, SC_0, calc_buffer_size)
49 #define _val(a) ((a)-SC_0)
50 #define _digit(a) ((a)+SC_0)
51 #define _bitisset(digit, pos) (and_table[_val(digit)][_val(shift_table[pos])] != SC_0)
52
53 #define fail_char(a, b, c, d) _fail_char((a), (b), (c), (d), __FILE__,  __LINE__)
54
55 /* shortcut output for debugging */
56 #  define sc_print_hex(a) sc_print((a), 0, SC_HEX, 0)
57 #  define sc_print_dec(a) sc_print((a), 0, SC_DEC, 1)
58 #  define sc_print_oct(a) sc_print((a), 0, SC_OCT, 0)
59 #  define sc_print_bin(a) sc_print((a), 0, SC_BIN, 0)
60
61 #ifdef STRCALC_DEBUG_PRINTCOMP
62 #  define DEBUGPRINTF_COMPUTATION(x) printf x
63 #else
64 #  define DEBUGPRINTF_COMPUTATION(x) ((void)0)
65 #endif
66 #ifdef STRCALC_DEBUG
67 #  define DEBUGPRINTF(x) printf x
68 #else
69 #  define DEBUGPRINTF(x) ((void)0)
70 #endif
71
72
73 /*
74  * private variables
75  */
76 static char *calc_buffer = NULL;    /* buffer holding all results */
77 static char *output_buffer = NULL;  /* buffer for output */
78 static int bit_pattern_size;        /* maximum number of bits */
79 static int calc_buffer_size;        /* size of internally stored values */
80 static int max_value_size;          /* maximum size of values */
81
82 static int carry_flag;              /**< some computation set the carry_flag:
83                                          - right shift if bits were lost due to shifting
84                                          - division if there was a remainder
85                                          However, the meaning of carry is machine dependent
86                                          and often defined in other ways! */
87
88 static const char sex_digit[4] = { SC_E, SC_C, SC_8, SC_0 };
89 static const char zex_digit[4] = { SC_1, SC_3, SC_7, SC_F };
90 static const char max_digit[4] = { SC_0, SC_1, SC_3, SC_7 };
91 static const char min_digit[4] = { SC_F, SC_E, SC_C, SC_8 };
92
93 static const char not_table[16] = { SC_F, SC_E, SC_D, SC_C, SC_B, SC_A, SC_9, SC_8,
94                               SC_7, SC_6, SC_5, SC_4, SC_3, SC_2, SC_1, SC_0 };
95
96 static const char shift_table[4] = { SC_1, SC_2, SC_4, SC_8 };
97
98 static const char and_table[16][16] = {
99                             { SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0,
100                               SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0 },
101
102                             { SC_0, SC_1, SC_0, SC_1, SC_0, SC_1, SC_0, SC_1,
103                               SC_0, SC_1, SC_0, SC_1, SC_0, SC_1, SC_0, SC_1 },
104
105                             { SC_0, SC_0, SC_2, SC_2, SC_0, SC_0, SC_2, SC_2,
106                               SC_0, SC_0, SC_2, SC_2, SC_0, SC_0, SC_2, SC_2 },
107
108                             { SC_0, SC_1, SC_2, SC_3, SC_0, SC_1, SC_2, SC_3,
109                               SC_0, SC_1, SC_2, SC_3, SC_0, SC_1, SC_2, SC_3 },
110
111                             { SC_0, SC_0, SC_0, SC_0, SC_4, SC_4, SC_4, SC_4,
112                               SC_0, SC_0, SC_0, SC_0, SC_4, SC_4, SC_4, SC_4 },
113
114                             { SC_0, SC_1, SC_0, SC_1, SC_4, SC_5, SC_4, SC_5,
115                               SC_0, SC_1, SC_0, SC_1, SC_4, SC_5, SC_4, SC_5 },
116
117                             { SC_0, SC_0, SC_2, SC_2, SC_4, SC_4, SC_6, SC_6,
118                               SC_0, SC_0, SC_2, SC_2, SC_4, SC_4, SC_6, SC_6 },
119
120                             { SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7,
121                               SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7 },
122
123                             { SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0,
124                               SC_8, SC_8, SC_8, SC_8, SC_8, SC_8, SC_8, SC_8 },
125
126                             { SC_0, SC_1, SC_0, SC_1, SC_0, SC_1, SC_0, SC_1,
127                               SC_8, SC_9, SC_8, SC_9, SC_8, SC_9, SC_8, SC_9 },
128
129                             { SC_0, SC_0, SC_2, SC_2, SC_0, SC_0, SC_2, SC_2,
130                               SC_8, SC_8, SC_A, SC_A, SC_8, SC_8, SC_A, SC_A },
131
132                             { SC_0, SC_1, SC_2, SC_3, SC_0, SC_1, SC_2, SC_3,
133                               SC_8, SC_9, SC_A, SC_B, SC_8, SC_9, SC_A, SC_B },
134
135                             { SC_0, SC_0, SC_0, SC_0, SC_4, SC_4, SC_4, SC_4,
136                               SC_8, SC_8, SC_8, SC_8, SC_C, SC_C, SC_C, SC_C },
137
138                             { SC_0, SC_1, SC_0, SC_1, SC_4, SC_5, SC_4, SC_5,
139                               SC_8, SC_9, SC_8, SC_9, SC_C, SC_D, SC_C, SC_D },
140
141                             { SC_0, SC_0, SC_2, SC_2, SC_4, SC_4, SC_6, SC_6,
142                               SC_8, SC_8, SC_A, SC_A, SC_C, SC_C, SC_E, SC_E },
143
144                             { SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7,
145                               SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F } };
146
147 static const char or_table[16][16] = {
148                             { SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7,
149                               SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F },
150
151                             { SC_1, SC_1, SC_3, SC_3, SC_5, SC_5, SC_7, SC_7,
152                               SC_9, SC_9, SC_B, SC_B, SC_D, SC_D, SC_F, SC_F },
153
154                             { SC_2, SC_3, SC_2, SC_3, SC_6, SC_7, SC_6, SC_7,
155                               SC_A, SC_B, SC_A, SC_B, SC_E, SC_F, SC_E, SC_F },
156
157                             { SC_3, SC_3, SC_3, SC_3, SC_7, SC_7, SC_7, SC_7,
158                               SC_B, SC_B, SC_B, SC_B, SC_F, SC_F, SC_F, SC_F },
159
160                             { SC_4, SC_5, SC_6, SC_7, SC_4, SC_5, SC_6, SC_7,
161                               SC_C, SC_D, SC_E, SC_F, SC_C, SC_D, SC_E, SC_F },
162
163                             { SC_5, SC_5, SC_7, SC_7, SC_5, SC_5, SC_7, SC_7,
164                               SC_D, SC_D, SC_F, SC_F, SC_D, SC_D, SC_F, SC_F },
165
166                             { SC_6, SC_7, SC_6, SC_7, SC_6, SC_7, SC_6, SC_7,
167                               SC_E, SC_F, SC_E, SC_F, SC_E, SC_F, SC_E, SC_F },
168
169                             { SC_7, SC_7, SC_7, SC_7, SC_7, SC_7, SC_7, SC_7,
170                               SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F },
171
172                             { SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F,
173                               SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F },
174
175                             { SC_9, SC_9, SC_B, SC_B, SC_D, SC_D, SC_F, SC_F,
176                               SC_9, SC_9, SC_B, SC_B, SC_D, SC_D, SC_F, SC_F },
177
178                             { SC_A, SC_B, SC_A, SC_B, SC_E, SC_F, SC_E, SC_F,
179                               SC_A, SC_B, SC_A, SC_B, SC_E, SC_F, SC_E, SC_F },
180
181                             { SC_B, SC_B, SC_B, SC_B, SC_F, SC_F, SC_F, SC_F,
182                               SC_B, SC_B, SC_B, SC_B, SC_F, SC_F, SC_F, SC_F },
183
184                             { SC_C, SC_D, SC_E, SC_F, SC_C, SC_D, SC_E, SC_F,
185                               SC_C, SC_D, SC_E, SC_F, SC_C, SC_D, SC_E, SC_F },
186
187                             { SC_D, SC_D, SC_F, SC_F, SC_D, SC_D, SC_F, SC_F,
188                               SC_D, SC_D, SC_F, SC_F, SC_D, SC_D, SC_F, SC_F },
189
190                             { SC_E, SC_F, SC_E, SC_F, SC_E, SC_F, SC_E, SC_F,
191                               SC_E, SC_F, SC_E, SC_F, SC_E, SC_F, SC_E, SC_F },
192
193                             { SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F,
194                               SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F } };
195
196 static char const xor_table[16][16] = {
197                              { SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7,
198                                SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F },
199
200                              { SC_1, SC_0, SC_3, SC_2, SC_5, SC_4, SC_7, SC_6,
201                                SC_9, SC_8, SC_B, SC_A, SC_D, SC_C, SC_F, SC_E },
202
203                              { SC_2, SC_3, SC_0, SC_1, SC_6, SC_7, SC_4, SC_5,
204                                SC_A, SC_B, SC_8, SC_9, SC_E, SC_F, SC_C, SC_D },
205
206                              { SC_3, SC_2, SC_1, SC_0, SC_7, SC_6, SC_5, SC_4,
207                                SC_B, SC_A, SC_9, SC_8, SC_F, SC_E, SC_D, SC_C },
208
209                              { SC_4, SC_5, SC_6, SC_7, SC_0, SC_1, SC_2, SC_3,
210                                SC_C, SC_D, SC_E, SC_F, SC_8, SC_9, SC_A, SC_B },
211
212                              { SC_5, SC_4, SC_7, SC_6, SC_1, SC_0, SC_3, SC_2,
213                                SC_D, SC_C, SC_F, SC_E, SC_9, SC_8, SC_B, SC_A },
214
215                              { SC_6, SC_7, SC_4, SC_5, SC_2, SC_3, SC_0, SC_1,
216                                SC_E, SC_F, SC_C, SC_D, SC_A, SC_B, SC_8, SC_9 },
217
218                              { SC_7, SC_6, SC_5, SC_4, SC_3, SC_2, SC_1, SC_0,
219                                SC_F, SC_E, SC_D, SC_C, SC_B, SC_A, SC_9, SC_8 },
220
221                              { SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F,
222                                SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7 },
223
224                              { SC_9, SC_8, SC_B, SC_A, SC_D, SC_C, SC_F, SC_E,
225                                SC_1, SC_0, SC_3, SC_2, SC_5, SC_4, SC_7, SC_6 },
226
227                              { SC_A, SC_B, SC_8, SC_9, SC_E, SC_F, SC_C, SC_D,
228                                SC_2, SC_3, SC_0, SC_1, SC_6, SC_7, SC_4, SC_5 },
229
230                              { SC_B, SC_A, SC_9, SC_8, SC_F, SC_E, SC_D, SC_C,
231                                SC_3, SC_2, SC_1, SC_0, SC_7, SC_6, SC_5, SC_4 },
232
233                              { SC_C, SC_D, SC_E, SC_F, SC_8, SC_9, SC_A, SC_B,
234                                SC_4, SC_5, SC_6, SC_7, SC_0, SC_1, SC_2, SC_3 },
235
236                              { SC_D, SC_C, SC_F, SC_E, SC_9, SC_8, SC_B, SC_A,
237                                SC_5, SC_4, SC_7, SC_6, SC_1, SC_0, SC_3, SC_2 },
238
239                              { SC_E, SC_F, SC_C, SC_D, SC_A, SC_B, SC_8, SC_9,
240                                SC_6, SC_7, SC_4, SC_5, SC_2, SC_3, SC_0, SC_1 },
241
242                              { SC_F, SC_E, SC_D, SC_C, SC_B, SC_A, SC_9, SC_8,
243                                SC_7, SC_6, SC_5, SC_4, SC_3, SC_2, SC_1, SC_0 }
244                                 };
245
246 static char const add_table[16][16][2] = {
247                        { {SC_0, SC_0}, {SC_1, SC_0}, {SC_2, SC_0}, {SC_3, SC_0},
248                          {SC_4, SC_0}, {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0},
249                          {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0},
250                          {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0} },
251
252                        { {SC_1, SC_0}, {SC_2, SC_0}, {SC_3, SC_0}, {SC_4, SC_0},
253                          {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0}, {SC_8, SC_0},
254                          {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0},
255                          {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1} },
256
257                        { {SC_2, SC_0}, {SC_3, SC_0}, {SC_4, SC_0}, {SC_5, SC_0},
258                          {SC_6, SC_0}, {SC_7, SC_0}, {SC_8, SC_0}, {SC_9, SC_0},
259                          {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0},
260                          {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1} },
261
262                        { {SC_3, SC_0}, {SC_4, SC_0}, {SC_5, SC_0}, {SC_6, SC_0},
263                          {SC_7, SC_0}, {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0},
264                          {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0},
265                          {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1} },
266
267                        { {SC_4, SC_0}, {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0},
268                          {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0},
269                          {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0},
270                          {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1} },
271
272                        { {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0}, {SC_8, SC_0},
273                          {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0},
274                          {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1},
275                          {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1} },
276
277                        { {SC_6, SC_0}, {SC_7, SC_0}, {SC_8, SC_0}, {SC_9, SC_0},
278                          {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0},
279                          {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1},
280                          {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1} },
281
282                        { {SC_7, SC_0}, {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0},
283                          {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0},
284                          {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1},
285                          {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1} },
286
287                        { {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0},
288                          {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0},
289                          {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1},
290                          {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1}, {SC_7, SC_1} },
291
292                        { {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0},
293                          {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1},
294                          {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1},
295                          {SC_5, SC_1}, {SC_6, SC_1}, {SC_7, SC_1}, {SC_8, SC_1} },
296
297                        { {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0},
298                          {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1},
299                          {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1},
300                          {SC_6, SC_1}, {SC_7, SC_1}, {SC_8, SC_1}, {SC_9, SC_1} },
301
302                        { {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0},
303                          {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1},
304                          {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1},
305                          {SC_7, SC_1}, {SC_8, SC_1}, {SC_9, SC_1}, {SC_A, SC_1} },
306
307                        { {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0},
308                          {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1},
309                          {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1}, {SC_7, SC_1},
310                          {SC_8, SC_1}, {SC_9, SC_1}, {SC_A, SC_1}, {SC_B, SC_1} },
311
312                        { {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1},
313                          {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1},
314                          {SC_5, SC_1}, {SC_6, SC_1}, {SC_7, SC_1}, {SC_8, SC_1},
315                          {SC_9, SC_1}, {SC_A, SC_1}, {SC_B, SC_1}, {SC_C, SC_1} },
316
317                        { {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1},
318                          {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1},
319                          {SC_6, SC_1}, {SC_7, SC_1}, {SC_8, SC_1}, {SC_9, SC_1},
320                          {SC_A, SC_1}, {SC_B, SC_1}, {SC_C, SC_1}, {SC_D, SC_1} },
321
322                        { {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1},
323                          {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1},
324                          {SC_7, SC_1}, {SC_8, SC_1}, {SC_9, SC_1}, {SC_A, SC_1},
325                          {SC_B, SC_1}, {SC_C, SC_1}, {SC_D, SC_1}, {SC_E, SC_1} }
326                              };
327
328 static char const mul_table[16][16][2] = {
329                        { {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0},
330                          {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0},
331                          {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0},
332                          {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0} },
333
334                        { {SC_0, SC_0}, {SC_1, SC_0}, {SC_2, SC_0}, {SC_3, SC_0},
335                          {SC_4, SC_0}, {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0},
336                          {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0},
337                          {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0} },
338
339                        { {SC_0, SC_0}, {SC_2, SC_0}, {SC_4, SC_0}, {SC_6, SC_0},
340                          {SC_8, SC_0}, {SC_A, SC_0}, {SC_C, SC_0}, {SC_E, SC_0},
341                          {SC_0, SC_1}, {SC_2, SC_1}, {SC_4, SC_1}, {SC_6, SC_1},
342                          {SC_8, SC_1}, {SC_A, SC_1}, {SC_C, SC_1}, {SC_E, SC_1} },
343
344                        { {SC_0, SC_0}, {SC_3, SC_0}, {SC_6, SC_0}, {SC_9, SC_0},
345                          {SC_C, SC_0}, {SC_F, SC_0}, {SC_2, SC_1}, {SC_5, SC_1},
346                          {SC_8, SC_1}, {SC_B, SC_1}, {SC_E, SC_1}, {SC_1, SC_2},
347                          {SC_4, SC_2}, {SC_7, SC_2}, {SC_A, SC_2}, {SC_D, SC_2} },
348
349                        { {SC_0, SC_0}, {SC_4, SC_0}, {SC_8, SC_0}, {SC_C, SC_0},
350                          {SC_0, SC_1}, {SC_4, SC_1}, {SC_8, SC_1}, {SC_C, SC_1},
351                          {SC_0, SC_2}, {SC_4, SC_2}, {SC_8, SC_2}, {SC_C, SC_2},
352                          {SC_0, SC_3}, {SC_4, SC_3}, {SC_8, SC_3}, {SC_C, SC_3} },
353
354                        { {SC_0, SC_0}, {SC_5, SC_0}, {SC_A, SC_0}, {SC_F, SC_0},
355                          {SC_4, SC_1}, {SC_9, SC_1}, {SC_E, SC_1}, {SC_3, SC_2},
356                          {SC_8, SC_2}, {SC_D, SC_2}, {SC_2, SC_3}, {SC_7, SC_3},
357                          {SC_C, SC_3}, {SC_1, SC_4}, {SC_6, SC_4}, {SC_B, SC_4} },
358
359                        { {SC_0, SC_0}, {SC_6, SC_0}, {SC_C, SC_0}, {SC_2, SC_1},
360                          {SC_8, SC_1}, {SC_E, SC_1}, {SC_4, SC_2}, {SC_A, SC_2},
361                          {SC_0, SC_3}, {SC_6, SC_3}, {SC_C, SC_3}, {SC_2, SC_4},
362                          {SC_8, SC_4}, {SC_E, SC_4}, {SC_4, SC_5}, {SC_A, SC_5} },
363
364                        { {SC_0, SC_0}, {SC_7, SC_0}, {SC_E, SC_0}, {SC_5, SC_1},
365                          {SC_C, SC_1}, {SC_3, SC_2}, {SC_A, SC_2}, {SC_1, SC_3},
366                          {SC_8, SC_3}, {SC_F, SC_3}, {SC_6, SC_4}, {SC_D, SC_4},
367                          {SC_4, SC_5}, {SC_B, SC_5}, {SC_2, SC_6}, {SC_9, SC_6} },
368
369                        { {SC_0, SC_0}, {SC_8, SC_0}, {SC_0, SC_1}, {SC_8, SC_1},
370                          {SC_0, SC_2}, {SC_8, SC_2}, {SC_0, SC_3}, {SC_8, SC_3},
371                          {SC_0, SC_4}, {SC_8, SC_4}, {SC_0, SC_5}, {SC_8, SC_5},
372                          {SC_0, SC_6}, {SC_8, SC_6}, {SC_0, SC_7}, {SC_8, SC_7} },
373
374                        { {SC_0, SC_0}, {SC_9, SC_0}, {SC_2, SC_1}, {SC_B, SC_1},
375                          {SC_4, SC_2}, {SC_D, SC_2}, {SC_6, SC_3}, {SC_F, SC_3},
376                          {SC_8, SC_4}, {SC_1, SC_5}, {SC_A, SC_5}, {SC_3, SC_6},
377                          {SC_C, SC_6}, {SC_5, SC_7}, {SC_E, SC_7}, {SC_7, SC_8} },
378
379                        { {SC_0, SC_0}, {SC_A, SC_0}, {SC_4, SC_1}, {SC_E, SC_1},
380                          {SC_8, SC_2}, {SC_2, SC_3}, {SC_C, SC_3}, {SC_6, SC_4},
381                          {SC_0, SC_5}, {SC_A, SC_5}, {SC_4, SC_6}, {SC_E, SC_6},
382                          {SC_8, SC_7}, {SC_2, SC_8}, {SC_C, SC_8}, {SC_6, SC_9} },
383
384                        { {SC_0, SC_0}, {SC_B, SC_0}, {SC_6, SC_1}, {SC_1, SC_2},
385                          {SC_C, SC_2}, {SC_7, SC_3}, {SC_2, SC_4}, {SC_D, SC_4},
386                          {SC_8, SC_5}, {SC_3, SC_6}, {SC_E, SC_6}, {SC_9, SC_7},
387                          {SC_4, SC_8}, {SC_F, SC_8}, {SC_A, SC_9}, {SC_5, SC_A} },
388
389                        { {SC_0, SC_0}, {SC_C, SC_0}, {SC_8, SC_1}, {SC_4, SC_2},
390                          {SC_0, SC_3}, {SC_C, SC_3}, {SC_8, SC_4}, {SC_4, SC_5},
391                          {SC_0, SC_6}, {SC_C, SC_6}, {SC_8, SC_7}, {SC_4, SC_8},
392                          {SC_0, SC_9}, {SC_C, SC_9}, {SC_8, SC_A}, {SC_4, SC_B} },
393
394                        { {SC_0, SC_0}, {SC_D, SC_0}, {SC_A, SC_1}, {SC_7, SC_2},
395                          {SC_4, SC_3}, {SC_1, SC_4}, {SC_E, SC_4}, {SC_B, SC_5},
396                          {SC_8, SC_6}, {SC_5, SC_7}, {SC_2, SC_8}, {SC_F, SC_8},
397                          {SC_C, SC_9}, {SC_9, SC_A}, {SC_6, SC_B}, {SC_3, SC_C} },
398
399                        { {SC_0, SC_0}, {SC_E, SC_0}, {SC_C, SC_1}, {SC_A, SC_2},
400                          {SC_8, SC_3}, {SC_6, SC_4}, {SC_4, SC_5}, {SC_2, SC_6},
401                          {SC_0, SC_7}, {SC_E, SC_7}, {SC_C, SC_8}, {SC_A, SC_9},
402                          {SC_8, SC_A}, {SC_6, SC_B}, {SC_4, SC_C}, {SC_2, SC_D} },
403
404                        { {SC_0, SC_0}, {SC_F, SC_0}, {SC_E, SC_1}, {SC_D, SC_2},
405                          {SC_C, SC_3}, {SC_B, SC_4}, {SC_A, SC_5}, {SC_9, SC_6},
406                          {SC_8, SC_7}, {SC_7, SC_8}, {SC_6, SC_9}, {SC_5, SC_A},
407                          {SC_4, SC_B}, {SC_3, SC_C}, {SC_2, SC_D}, {SC_1, SC_E} }
408                              };
409
410 static char const shrs_table[16][4][2] = {
411                        { {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0} },
412                        { {SC_1, SC_0}, {SC_0, SC_8}, {SC_0, SC_4}, {SC_0, SC_2} },
413                        { {SC_2, SC_0}, {SC_1, SC_0}, {SC_0, SC_8}, {SC_0, SC_4} },
414                        { {SC_3, SC_0}, {SC_1, SC_8}, {SC_0, SC_C}, {SC_0, SC_6} },
415                        { {SC_4, SC_0}, {SC_2, SC_0}, {SC_1, SC_0}, {SC_0, SC_8} },
416                        { {SC_5, SC_0}, {SC_2, SC_8}, {SC_1, SC_4}, {SC_0, SC_A} },
417                        { {SC_6, SC_0}, {SC_3, SC_0}, {SC_1, SC_8}, {SC_0, SC_C} },
418                        { {SC_7, SC_0}, {SC_3, SC_8}, {SC_1, SC_C}, {SC_0, SC_E} },
419                        { {SC_8, SC_0}, {SC_4, SC_0}, {SC_2, SC_0}, {SC_1, SC_0} },
420                        { {SC_9, SC_0}, {SC_4, SC_8}, {SC_2, SC_4}, {SC_1, SC_2} },
421                        { {SC_A, SC_0}, {SC_5, SC_0}, {SC_2, SC_8}, {SC_1, SC_4} },
422                        { {SC_B, SC_0}, {SC_5, SC_8}, {SC_2, SC_C}, {SC_1, SC_6} },
423                        { {SC_C, SC_0}, {SC_6, SC_0}, {SC_3, SC_0}, {SC_1, SC_8} },
424                        { {SC_D, SC_0}, {SC_6, SC_8}, {SC_3, SC_4}, {SC_1, SC_A} },
425                        { {SC_E, SC_0}, {SC_7, SC_0}, {SC_3, SC_8}, {SC_1, SC_C} },
426                        { {SC_F, SC_0}, {SC_7, SC_8}, {SC_3, SC_C}, {SC_1, SC_E} }
427                                    };
428
429 /** converting a digit to a binary string */
430 static const char *binary_table[16] = {
431         "0000", "0001", "0010", "0011", "0100", "0101", "0110", "0111",
432         "1000", "1001", "1010", "1011", "1100", "1101", "1110", "1111"
433 };
434
435 /*****************************************************************************
436  * private functions
437  *****************************************************************************/
438 static void _fail_char(const char *str, size_t len, const char fchar, int pos,
439                        const char *file, int line) {
440         printf("ERROR:\n");
441         printf("Unexpected character '%c' in %s:%d\n", fchar, file, line);
442         while (len-- && *str) printf("%c", *str++); printf("\n");
443         while (--pos) printf(" "); printf("^\n");
444         exit(-1);
445 }
446
447 /**
448  * implements the bitwise NOT operation
449  */
450 static void _bitnot(const char *val, char *buffer) {
451         int counter;
452
453         for (counter = 0; counter<calc_buffer_size; counter++)
454                 buffer[counter] = not_table[_val(val[counter])];
455 }
456
457 /**
458  * implements the bitwise OR operation
459  */
460 static void _bitor(const char *val1, const char *val2, char *buffer) {
461         int counter;
462
463         for (counter = 0; counter<calc_buffer_size; counter++)
464                 buffer[counter] = or_table[_val(val1[counter])][_val(val2[counter])];
465 }
466
467 /**
468  * implements the bitwise eXclusive OR operation
469  */
470 static void _bitxor(const char *val1, const char *val2, char *buffer) {
471         int counter;
472
473         for (counter = 0; counter<calc_buffer_size; counter++)
474                 buffer[counter] = xor_table[_val(val1[counter])][_val(val2[counter])];
475 }
476
477 /**
478  * implements the bitwise AND operation
479  */
480 static void _bitand(const char *val1, const char *val2, char *buffer) {
481         int counter;
482
483         for (counter = 0; counter<calc_buffer_size; counter++)
484                 buffer[counter] = and_table[_val(val1[counter])][_val(val2[counter])];
485 }
486
487 /**
488  * returns the sign bit.
489  *
490  * @todo This implementation is wrong, as it returns the highest bit of the buffer
491  *       NOT the highest bit depending on the real mode
492  */
493 static int _sign(const char *val) {
494         return (val[calc_buffer_size-1] <= SC_7) ? (1) : (-1);
495 }
496
497 /**
498  * returns non-zero if bit at position pos is set
499  */
500 static int _bit(const char *val, int pos) {
501         int bit    = pos & 3;
502         int nibble = pos >> 2;
503
504         return _bitisset(val[nibble], bit);
505 }
506
507 /**
508  * Implements a fast ADD + 1
509  */
510 static void _inc(const char *val, char *buffer) {
511         int counter = 0;
512
513         while (counter++ < calc_buffer_size) {
514                 if (*val == SC_F) {
515                         *buffer++ = SC_0;
516                         val++;
517                 } else {
518                         /* No carry here, *val != SC_F */
519                         *buffer = add_table[_val(*val)][SC_1][0];
520                         return;
521                 }
522         }
523         /* here a carry could be lost, this is intended because this should
524          * happen only when a value changes sign. */
525 }
526
527 /**
528  * Implements a unary MINUS
529  */
530 static void _negate(const char *val, char *buffer) {
531         _bitnot(val, buffer);
532         _inc(buffer, buffer);
533 }
534
535 /**
536  * Implements a binary ADD
537  *
538  * @todo The implementation of carry is wrong, as it is the
539  *       calc_buffer_size carry, not the mode depending
540  */
541 static void _add(const char *val1, const char *val2, char *buffer) {
542         int counter;
543         const char *add1, *add2;
544         char carry = SC_0;
545
546         for (counter = 0; counter < calc_buffer_size; counter++)   {
547                 add1 = add_table[_val(val1[counter])][_val(val2[counter])];
548                 add2 = add_table[_val(add1[0])][_val(carry)];
549                 /* carry might be zero */
550                 buffer[counter] = add2[0];
551                 carry = add_table[_val(add1[1])][_val(add2[1])][0];
552         }
553         carry_flag = carry != SC_0;
554 }
555
556 /**
557  * Implements a binary SUB
558  */
559 static void _sub(const char *val1, const char *val2, char *buffer) {
560         char *temp_buffer = alloca(calc_buffer_size); /* intermediate buffer to hold -val2 */
561
562         _negate(val2, temp_buffer);
563         _add(val1, temp_buffer, buffer);
564 }
565
566 /**
567  * Implements a binary MUL
568  */
569 static void _mul(const char *val1, const char *val2, char *buffer) {
570         char *temp_buffer; /* result buffer */
571         char *neg_val1;    /* abs of val1 */
572         char *neg_val2;    /* abs of val2 */
573
574         const char *mul, *add1, *add2;      /* intermediate result containers */
575         char carry = SC_0;                  /* container for carries */
576         char sign = 0;                      /* marks result sign */
577         int c_inner, c_outer;               /* loop counters */
578
579         temp_buffer = alloca(calc_buffer_size);
580         neg_val1 = alloca(calc_buffer_size);
581         neg_val2 = alloca(calc_buffer_size);
582
583         /* init result buffer to zeroes */
584         memset(temp_buffer, SC_0, calc_buffer_size);
585
586         /* the multiplication works only for positive values, for negative values *
587          * it is necessary to negate them and adjust the result accordingly       */
588         if (_sign(val1) == -1) {
589                 _negate(val1, neg_val1);
590                 val1 = neg_val1;
591                 sign ^= 1;
592         }
593         if (_sign(val2) == -1) {
594                 _negate(val2, neg_val2);
595                 val2 = neg_val2;
596                 sign ^= 1;
597         }
598
599         for (c_outer = 0; c_outer < max_value_size; c_outer++) {
600                 if (val2[c_outer] != SC_0) {
601                         for (c_inner = 0; c_inner < max_value_size; c_inner++) {
602                                 /* do the following calculation:                                    *
603                                  * Add the current carry, the value at position c_outer+c_inner     *
604                                  * and the result of the multiplication of val1[c_inner] and        *
605                                  * val2[c_outer]. This is the usual pen-and-paper multiplication.   */
606
607                                 /* multiplicate the two digits */
608                                 mul = mul_table[_val(val1[c_inner])][_val(val2[c_outer])];
609                                 /* add old value to result of multiplication */
610                                 add1 = add_table[_val(temp_buffer[c_inner + c_outer])][_val(mul[0])];
611                                 /* add carry to the sum */
612                                 add2 = add_table[_val(add1[0])][_val(carry)];
613
614                                 /* all carries together result in new carry. This is always smaller *
615                                  * than the base b:                                                 *
616                                  * Both multiplicands, the carry and the value already in the temp  *
617                                  * buffer are single digits and their value is therefore at most    *
618                                  * equal to (b-1).                                                  *
619                                  * This leads to:                                                   *
620                                  * (b-1)(b-1)+(b-1)+(b-1) = b*b-1                                   *
621                                  * The tables list all operations rem b, so the carry is at most    *
622                                  * (b*b-1)rem b = -1rem b = b-1                                     */
623                                 carry = add_table[_val(mul[1])][_val(add1[1])][0];
624                                 carry = add_table[_val(carry)][_val(add2[1])][0];
625
626                                 temp_buffer[c_inner + c_outer] = add2[0];
627                         }
628
629                         /* A carry may hang over */
630                         /* c_outer is always smaller than max_value_size! */
631                         temp_buffer[max_value_size + c_outer] = carry;
632                         carry = SC_0;
633                 }
634         }
635
636         if (sign)
637                 _negate(temp_buffer, buffer);
638         else
639                 memcpy(buffer, temp_buffer, calc_buffer_size);
640 }
641
642 /**
643  * Shift the buffer to left and add a 4 bit digit
644  */
645 static void _push(const char digit, char *buffer) {
646         int counter;
647
648         for (counter = calc_buffer_size - 2; counter >= 0; counter--) {
649                 buffer[counter+1] = buffer[counter];
650         }
651         buffer[0] = digit;
652 }
653
654 /**
655  * Implements truncating integer division and remainder.
656  *
657  * Note: This is MOST slow
658  */
659 static void _divmod(const char *rDividend, const char *divisor, char *quot, char *rem) {
660         const char *dividend = rDividend;
661         const char *minus_divisor;
662         char *neg_val1;
663         char *neg_val2;
664
665         char div_sign = 0;     /* remember division result sign */
666         char rem_sign = 0;     /* remember remainder esult sign */
667
668         int c_dividend;      /* loop counters */
669
670         neg_val1 = alloca(calc_buffer_size);
671         neg_val2 = alloca(calc_buffer_size);
672
673         /* clear result buffer */
674         memset(quot, SC_0, calc_buffer_size);
675         memset(rem, SC_0, calc_buffer_size);
676
677         /* if the divisor is zero this won't work (quot is zero) */
678         if (sc_comp(divisor, quot) == 0) assert(0 && "division by zero!");
679
680         /* if the dividend is zero result is zero (quot is zero) */
681         if (sc_comp(dividend, quot) == 0)
682                 return;
683
684         if (_sign(dividend) == -1) {
685                 _negate(dividend, neg_val1);
686                 div_sign ^= 1;
687                 rem_sign ^= 1;
688                 dividend = neg_val1;
689         }
690
691         _negate(divisor, neg_val2);
692         if (_sign(divisor) == -1) {
693                 div_sign ^= 1;
694                 minus_divisor = divisor;
695                 divisor = neg_val2;
696         } else
697                 minus_divisor = neg_val2;
698
699         /* if divisor >= dividend division is easy
700          * (remember these are absolute values) */
701         switch (sc_comp(dividend, divisor)) {
702         case 0: /* dividend == divisor */
703                 quot[0] = SC_1;
704                 goto end;
705
706         case -1: /* dividend < divisor */
707                 memcpy(rem, rDividend, calc_buffer_size);
708                 goto end;
709
710         default: /* unluckily division is necessary :( */
711                 break;
712         }
713
714         for (c_dividend = calc_buffer_size - 1; c_dividend >= 0; c_dividend--) {
715                 _push(dividend[c_dividend], rem);
716                 _push(SC_0, quot);
717
718                 if (sc_comp(rem, divisor) != -1) {  /* remainder >= divisor */
719                         /* subtract until the remainder becomes negative, this should
720                          * be faster than comparing remainder with divisor  */
721                         _add(rem, minus_divisor, rem);
722
723                         while (_sign(rem) == 1) {
724                                 quot[0] = add_table[_val(quot[0])][SC_1][0];
725                                 _add(rem, minus_divisor, rem);
726                         }
727
728                         /* subtracted one too much */
729                         _add(rem, divisor, rem);
730                 }
731         }
732 end:
733         /* sets carry if remainder is non-zero ??? */
734         carry_flag = !sc_is_zero(rem);
735
736         if (div_sign)
737                 _negate(quot, quot);
738
739         if (rem_sign)
740                 _negate(rem, rem);
741 }
742
743 /**
744  * Implements a Shift Left, which can either preserve the sign bit
745  * or not.
746  *
747  * @todo Assertions seems to be wrong
748  */
749 static void _shl(const char *val1, char *buffer, long offset, int radius, unsigned is_signed) {
750         const char *shl;
751         char shift;
752         char carry = SC_0;
753
754         int counter;
755         int bitoffset = 0;
756
757         assert((offset >= 0) || (0 && "negative leftshift"));
758         assert(((_sign(val1) != -1) || is_signed) || (0 && "unsigned mode and negative value"));
759         assert(((!_bitisset(val1[(radius-1)/4], (radius-1)%4)) || !is_signed || (_sign(val1) == -1)) || (0 && "value is positive, should be negative"));
760         assert(((_bitisset(val1[(radius-1)/4], (radius-1)%4)) || !is_signed || (_sign(val1) == 1)) || (0 && "value is negative, should be positive"));
761
762         /* if shifting far enough the result is zero */
763         if (offset >= radius) {
764                 memset(buffer, SC_0, calc_buffer_size);
765                 return;
766         }
767
768         shift = shift_table[_val(offset%4)];      /* this is 2 ** (offset % 4) */
769         offset = offset / 4;
770
771         /* shift the single digits some bytes (offset) and some bits (table)
772          * to the left */
773         for (counter = 0; counter < radius/4 - offset; counter++) {
774                 shl = mul_table[_val(val1[counter])][_val(shift)];
775                 buffer[counter + offset] = or_table[_val(shl[0])][_val(carry)];
776                 carry = shl[1];
777         }
778         if (radius%4 > 0) {
779                 shl = mul_table[_val(val1[counter])][_val(shift)];
780                 buffer[counter + offset] = or_table[_val(shl[0])][_val(carry)];
781                 bitoffset = counter;
782         } else {
783                 bitoffset = counter - 1;
784         }
785
786         /* fill with zeroes */
787         for (counter = 0; counter < offset; counter++)
788                 buffer[counter] = SC_0;
789
790         /* if the mode was signed, change sign when the mode's msb is now 1 */
791         offset = bitoffset + offset;
792         bitoffset = (radius-1) % 4;
793         if (is_signed && _bitisset(buffer[offset], bitoffset)) {
794                 /* this sets the upper bits of the leftmost digit */
795                 buffer[offset] = or_table[_val(buffer[offset])][_val(min_digit[bitoffset])];
796                 for (counter = offset+1; counter < calc_buffer_size; counter++) {
797                         buffer[counter] = SC_F;
798                 }
799         } else if (is_signed && !_bitisset(buffer[offset], bitoffset)) {
800                 /* this clears the upper bits of the leftmost digit */
801                 buffer[offset] = and_table[_val(buffer[offset])][_val(max_digit[bitoffset])];
802                 for (counter = offset+1; counter < calc_buffer_size; counter++) {
803                         buffer[counter] = SC_0;
804                 }
805         }
806 }
807
808 /**
809  * Implements a Shift Right, which can either preserve the sign bit
810  * or not.
811  *
812  * @todo Assertions seems to be wrong
813  */
814 static void _shr(const char *val1, char *buffer, long offset, int radius, unsigned is_signed, int signed_shift) {
815         const char *shrs;
816         char sign;
817         char msd;
818
819         int shift;
820
821         int counter;
822         int bitoffset = 0;
823
824         assert((offset >= 0) || (0 && "negative rightshift"));
825         assert(((!_bitisset(val1[(radius-1)/4], (radius-1)%4)) || !is_signed || (_sign(val1) == -1)) || (0 && "value is positive, should be negative"));
826         assert(((_bitisset(val1[(radius-1)/4], (radius-1)%4)) || !is_signed || (_sign(val1) == 1)) || (0 && "value is negative, should be positive"));
827
828         sign = ((signed_shift) && (_sign(val1) == -1))?(SC_F):(SC_0);
829
830         /* if shifting far enough the result is either 0 or -1 */
831         if (offset >= radius) {
832                 if (!sc_is_zero(val1)) {
833                         carry_flag = 1;
834                 }
835                 memset(buffer, sign, calc_buffer_size);
836                 return;
837         }
838
839         shift = offset % 4;
840         offset = offset / 4;
841
842         /* check if any bits are lost, and set carry_flag if so */
843         for (counter = 0; counter < offset; counter++) {
844                 if (val1[counter] != 0) {
845                         carry_flag = 1;
846                         break;
847                 }
848         }
849         if ((_val(val1[counter]) & ((1<<shift)-1)) != 0) {
850                 carry_flag = 1;
851         }
852         /* shift digits to the right with offset, carry and all */
853         counter = 0;
854         if (radius/4 - offset > 0) {
855                 buffer[counter] = shrs_table[_val(val1[offset])][shift][0];
856                 counter = 1;
857         }
858         for (; counter < radius/4 - offset; counter++) {
859                 shrs = shrs_table[_val(val1[counter + offset])][shift];
860                 buffer[counter] = shrs[0];
861                 buffer[counter-1] = or_table[_val(buffer[counter-1])][_val(shrs[1])];
862         }
863
864         /* the last digit is special in regard of signed/unsigned shift */
865         bitoffset = radius%4;
866         msd = (radius/4<calc_buffer_size)?(val1[radius/4]):(sign);  /* most significant digit */
867
868         /* remove sign bits if mode was signed and this is an unsigned shift */
869         if (!signed_shift && is_signed) {
870                 msd = and_table[_val(msd)][_val(max_digit[bitoffset])];
871         }
872
873         shrs = shrs_table[_val(msd)][shift];
874
875         /* signed shift and signed mode and negative value means all bits to the left are set */
876         if (signed_shift && is_signed && (_sign(val1) == -1)) {
877                 buffer[counter] = or_table[_val(shrs[0])][_val(min_digit[bitoffset])];
878         } else {
879                 buffer[counter] = shrs[0];
880         }
881
882         if (counter > 0) buffer[counter - 1] = or_table[_val(buffer[counter-1])][_val(shrs[1])];
883
884         /* fill with SC_F or SC_0 depending on sign */
885         for (counter++; counter < calc_buffer_size; counter++) {
886                 buffer[counter] = sign;
887         }
888 }
889
890 /**
891  * Implements a Rotate Right.
892  * positive: low-order -> high order, negative other direction
893  */
894 static void _rot(const char *val1, char *buffer, long offset, int radius, unsigned is_signed) {
895         char *temp1, *temp2;
896         temp1 = alloca(calc_buffer_size);
897         temp2 = alloca(calc_buffer_size);
898
899         offset = offset % radius;
900
901         /* rotation by multiples of the type length is identity */
902         if (offset == 0) {
903                 memmove(buffer, val1, calc_buffer_size);
904                 return;
905         }
906
907         _shl(val1, temp1, offset, radius, is_signed);
908         _shr(val1, temp2, radius - offset, radius, is_signed, 0);
909         _bitor(temp1, temp2, buffer);
910         carry_flag = 0; /* set by shr, but due to rot this is false */
911 }
912
913 /*****************************************************************************
914  * public functions, declared in strcalc.h
915  *****************************************************************************/
916 const void *sc_get_buffer(void) {
917         return (void*)calc_buffer;
918 }
919
920 int sc_get_buffer_length(void) {
921         return calc_buffer_size;
922 }
923
924 /**
925  * Do sign extension if the mode is signed, otherwise to zero extension.
926  */
927 void sign_extend(char *calc_buffer, ir_mode *mode) {
928         int bits    = get_mode_size_bits(mode) - 1;
929         int nibble  = bits >> 2;
930         int max     = max_digit[bits & 3];
931         int i;
932
933         if (mode_is_signed(mode)) {
934                 if (calc_buffer[nibble] > max) {
935                         /* sign bit is set, we need sign expansion */
936
937                         for (i = nibble + 1; i < calc_buffer_size; ++i)
938                                 calc_buffer[i] = SC_F;
939                         calc_buffer[nibble] = or_table[(int)calc_buffer[nibble]][(int)sex_digit[bits & 3]];
940                 } else {
941                         /* set all bits to zero */
942                         for (i = nibble + 1; i < calc_buffer_size; ++i)
943                                 calc_buffer[i] = SC_0;
944                         calc_buffer[nibble] = and_table[(int)calc_buffer[nibble]][(int)zex_digit[bits & 3]];
945                 }
946         } else {
947                 /* do zero extension */
948                 for (i = nibble + 1; i < calc_buffer_size; ++i)
949                         calc_buffer[i] = SC_0;
950                 calc_buffer[nibble] = and_table[(int)calc_buffer[nibble]][(int)zex_digit[bits & 3]];
951         }
952 }
953
954 /* FIXME doesn't check for overflows */
955 void sc_val_from_str(const char *str, unsigned int len, void *buffer, ir_mode *mode) {
956         const char *orig_str = str;
957         unsigned int orig_len = len;
958
959         char sign = 0;
960         char *base, *val;
961
962         base = alloca(calc_buffer_size);
963         val = alloca(calc_buffer_size);
964
965         /* verify valid pointers (not null) */
966         assert(str);
967         /* a string no characters long is an error */
968         assert(len);
969
970         if (buffer == NULL) buffer = calc_buffer;
971
972         CLEAR_BUFFER(buffer);
973         CLEAR_BUFFER(base);
974         CLEAR_BUFFER(val);
975
976         /* strip leading spaces */
977         while ((len > 0) && (*str == ' ')) { len--; str++; }
978
979         /* if the first two characters are 0x or 0X -> hex
980          * if the first is a 0 -> oct
981          * else dec, strip leading -/+ and remember sign
982          *
983          * only a + or - sign is no number resulting in an error */
984         if (len >= 2) {
985                 switch (str[0]) {
986                 case '0':
987                         if (str[1] == 'x' || str[1] == 'X') { /* hex */
988                                 str += 2;
989                                 len -= 2;
990                                 base[1] = SC_1; base[0] = SC_0;
991                         } else { /* oct */
992                                 str += 1;
993                                 len -= 1;
994                                 base[1] = SC_0; base[0] = SC_8;
995                         }
996                         break;
997
998                 case '+':
999                         str += 1;
1000                         len -= 1;
1001                         base[1] = SC_0; base[0] = SC_A;
1002                         break;
1003
1004                 case '-':
1005                         str += 1;
1006                         len -= 1;
1007                         sign = 1;
1008                         base[1] = SC_0; base[0] = SC_A;
1009                         break;
1010
1011                 default: /* dec, else would have begun with 0x or 0 */
1012                         base[1] = SC_0; base[0] = SC_A;
1013                 }
1014         } else { /* dec, else would have begun with 0x or 0 */
1015                 base[1] = SC_0; base[0] = SC_A;
1016         }
1017
1018         /* BEGIN string evaluation, from left to right */
1019         while (len > 0) {
1020                 switch (*str) {
1021                 case 'f':
1022                 case 'e':
1023                 case 'd':
1024                 case 'c':
1025                 case 'b':
1026                 case 'a':
1027                         if (base[0] > SC_9 || base[1] > SC_0) { /* (base > 10) */
1028                                 val[0] = _digit((*str)-'a'+10);
1029                         }
1030                         else
1031                                 fail_char(orig_str, orig_len, *str, str-orig_str+1);
1032                         break;
1033
1034                 case 'F':
1035                 case 'E':
1036                 case 'D':
1037                 case 'C':
1038                 case 'B':
1039                 case 'A':
1040                         if (base[0] > SC_9 || base[1] > SC_0) { /* (base > 10) */
1041                                 val[0] = _digit((*str)-'A'+10);
1042                         }
1043                         else
1044                                 fail_char(orig_str, orig_len, *str, str-orig_str+1);
1045                         break;
1046
1047                 case '9':
1048                 case '8':
1049                         if (base[0] > SC_7 || base[1] > SC_0) { /* (base > 8) */
1050                                 val[0] = _digit((*str)-'0');
1051                         }
1052                         else
1053                                 fail_char(orig_str, orig_len, *str, str-orig_str+1);
1054                         break;
1055
1056                 case '7':
1057                 case '6':
1058                 case '5':
1059                 case '4':
1060                 case '3':
1061                 case '2':
1062                 case '1':
1063                 case '0':
1064                         val[0] = _digit((*str)-'0');
1065                         break;
1066
1067                 default:
1068                         fail_char(orig_str, orig_len, *str, str-orig_str+1);
1069                 } /* switch(*str) */
1070
1071                 /* Radix conversion from base b to base B:
1072                  *  (UnUn-1...U1U0)b == ((((Un*b + Un-1)*b + ...)*b + U1)*b + U0)B */
1073                 _mul(base, calc_buffer, calc_buffer); /* multiply current value with base */
1074                 _add(val, calc_buffer, calc_buffer);  /* add next digit to current value  */
1075
1076                 /* get ready for the next letter */
1077                 str++;
1078                 len--;
1079         } /* while (len > 0 ) */
1080
1081         if (sign)
1082                 _negate(calc_buffer, calc_buffer);
1083
1084         /* beware: even if hex numbers have no sign, we need sign extension here */
1085         sign_extend(calc_buffer, mode);
1086 }
1087
1088 void sc_val_from_long(long value, void *buffer) {
1089         char *pos;
1090         char sign, is_minlong;
1091
1092         if (buffer == NULL) buffer = calc_buffer;
1093         pos = buffer;
1094
1095         sign = (value < 0);
1096         is_minlong = value == LONG_MIN;
1097
1098         /* use absolute value, special treatment of MIN_LONG to avoid overflow */
1099         if (sign) {
1100                 if (is_minlong)
1101                         value = -(value+1);
1102                 else
1103                         value = -value;
1104         }
1105
1106         CLEAR_BUFFER(buffer);
1107
1108         while ((value != 0) && (pos < (char*)buffer + calc_buffer_size)) {
1109                 *pos++ = _digit(value & 0xf);
1110                 value >>= 4;
1111         }
1112
1113         if (sign) {
1114                 if (is_minlong)
1115                         _inc(buffer, buffer);
1116
1117                 _negate(buffer, buffer);
1118         }
1119 }
1120
1121 void sc_val_from_ulong(unsigned long value, void *buffer) {
1122         unsigned char *pos;
1123
1124         if (buffer == NULL) buffer = calc_buffer;
1125         pos = buffer;
1126
1127         while (pos < (unsigned char *)buffer + calc_buffer_size) {
1128                 *pos++ = (unsigned char)_digit(value & 0xf);
1129                 value >>= 4;
1130         }
1131 }
1132
1133 long sc_val_to_long(const void *val) {
1134         int i;
1135         long l = 0;
1136
1137         for (i = calc_buffer_size - 1; i >= 0; i--) {
1138                 l = (l << 4) + _val(((char *)val)[i]);
1139         }
1140         return l;
1141 }
1142
1143 void sc_min_from_bits(unsigned int num_bits, unsigned int sign, void *buffer) {
1144         char *pos;
1145         int i, bits;
1146
1147         if (buffer == NULL) buffer = calc_buffer;
1148         CLEAR_BUFFER(buffer);
1149
1150         if (!sign) return;  /* unsigned means minimum is 0(zero) */
1151
1152         pos = buffer;
1153
1154         bits = num_bits - 1;
1155         for (i = 0; i < bits/4; i++)
1156                 *pos++ = SC_0;
1157
1158         *pos++ = min_digit[bits%4];
1159
1160         for (i++; i <= calc_buffer_size - 1; i++)
1161                 *pos++ = SC_F;
1162 }
1163
1164 void sc_max_from_bits(unsigned int num_bits, unsigned int sign, void *buffer) {
1165   char* pos;
1166         int i, bits;
1167
1168         if (buffer == NULL) buffer = calc_buffer;
1169         CLEAR_BUFFER(buffer);
1170         pos = buffer;
1171
1172         bits = num_bits - sign;
1173         for (i = 0; i < bits/4; i++)
1174                 *pos++ = SC_F;
1175
1176         *pos++ = max_digit[bits%4];
1177
1178         for (i++; i <= calc_buffer_size - 1; i++)
1179                 *pos++ = SC_0;
1180 }
1181
1182 void sc_calc(const void* value1, const void* value2, unsigned op, void *buffer) {
1183         char *unused_res;   /* temp buffer holding unused result of divmod */
1184
1185         const char *val1 = (const char *)value1;
1186         const char *val2 = (const char *)value2;
1187
1188         unused_res = alloca(calc_buffer_size);
1189
1190         CLEAR_BUFFER(calc_buffer);
1191         carry_flag = 0;
1192
1193         DEBUGPRINTF_COMPUTATION(("%s ", sc_print_hex(value1)));
1194
1195         switch (op) {
1196         case SC_NEG:
1197                 _negate(val1, calc_buffer);
1198                 DEBUGPRINTF_COMPUTATION(("negated: %s\n", sc_print_hex(calc_buffer)));
1199                 break;
1200         case SC_OR:
1201                 DEBUGPRINTF_COMPUTATION(("| "));
1202                 _bitor(val1, val2, calc_buffer);
1203                 break;
1204         case SC_AND:
1205                 DEBUGPRINTF_COMPUTATION(("& "));
1206                 _bitand(val1, val2, calc_buffer);
1207                 break;
1208         case SC_XOR:
1209                 DEBUGPRINTF_COMPUTATION(("^ "));
1210                 _bitxor(val1, val2, calc_buffer);
1211                 break;
1212         case SC_NOT:
1213                 _bitnot(val1, calc_buffer);
1214                 DEBUGPRINTF_COMPUTATION(("bit-negated: %s\n", sc_print_hex(calc_buffer)));
1215                 break;
1216         case SC_ADD:
1217                 DEBUGPRINTF_COMPUTATION(("+ "));
1218                 _add(val1, val2, calc_buffer);
1219                 break;
1220         case SC_SUB:
1221                 DEBUGPRINTF_COMPUTATION(("- "));
1222                 _sub(val1, val2, calc_buffer);
1223                 break;
1224         case SC_MUL:
1225                 DEBUGPRINTF_COMPUTATION(("* "));
1226                 _mul(val1, val2, calc_buffer);
1227                 break;
1228         case SC_DIV:
1229                 DEBUGPRINTF_COMPUTATION(("/ "));
1230                 _divmod(val1, val2, calc_buffer, unused_res);
1231                 break;
1232         case SC_MOD:
1233                 DEBUGPRINTF_COMPUTATION(("%% "));
1234                 _divmod(val1, val2, unused_res, calc_buffer);
1235                 break;
1236         default:
1237                 assert(0);
1238         }
1239         DEBUGPRINTF_COMPUTATION(("%s -> ", sc_print_hex(value2)));
1240         DEBUGPRINTF_COMPUTATION(("%s\n", sc_print_hex(calc_buffer)));
1241
1242         if ((buffer != NULL) && (buffer != calc_buffer)) {
1243                 memcpy(buffer, calc_buffer, calc_buffer_size);
1244         }
1245 }
1246
1247 void sc_bitcalc(const void* value1, const void* value2, int radius, int sign, unsigned op, void* buffer) {
1248         const char *val1 = (const char *)value1;
1249         const char *val2 = (const char *)value2;
1250         long offset;
1251
1252         carry_flag = 0;
1253         offset = sc_val_to_long(val2);
1254
1255         DEBUGPRINTF_COMPUTATION(("%s ", sc_print_hex(value1)));
1256         switch (op) {
1257         case SC_SHL:
1258                 DEBUGPRINTF_COMPUTATION(("<< %ld ", offset));
1259                 _shl(val1, calc_buffer, offset, radius, sign);
1260                 break;
1261         case SC_SHR:
1262                 DEBUGPRINTF_COMPUTATION((">> %ld ", offset));
1263                 _shr(val1, calc_buffer, offset, radius, sign, 0);
1264                 break;
1265         case SC_SHRS:
1266                 DEBUGPRINTF_COMPUTATION((">>> %ld ", offset));
1267                 _shr(val1, calc_buffer, offset, radius, sign, 1);
1268                 break;
1269         case SC_ROT:
1270                 DEBUGPRINTF_COMPUTATION(("<<>> %ld ", offset));
1271                 _rot(val1, calc_buffer, offset, radius, sign);
1272                 break;
1273         default:
1274                 assert(0);
1275         }
1276         DEBUGPRINTF_COMPUTATION(("-> %s\n", sc_print_hex(calc_buffer)));
1277
1278         if ((buffer != NULL) && (buffer != calc_buffer)) {
1279                 memmove(buffer, calc_buffer, calc_buffer_size);
1280         }
1281 }
1282
1283 int sc_comp(const void* value1, const void* value2) {
1284         int counter = calc_buffer_size - 1;
1285         const char *val1 = (const char *)value1;
1286         const char *val2 = (const char *)value2;
1287
1288         /* compare signs first:
1289          * the loop below can only compare values of the same sign! */
1290         if (_sign(val1) != _sign(val2))
1291                 return (_sign(val1) == 1)?(1):(-1);
1292
1293         /* loop until two digits differ, the values are equal if there
1294          * are no such two digits */
1295         while (val1[counter] == val2[counter]) {
1296                 counter--;
1297                 if (counter < 0) return 0;
1298         }
1299
1300         /* the leftmost digit is the most significant, so this returns
1301          * the correct result.
1302          * This implies the digit enum is ordered */
1303         return (val1[counter] > val2[counter]) ? (1) : (-1);
1304 }
1305
1306 int sc_get_highest_set_bit(const void *value) {
1307         const char *val = (const char*)value;
1308         int high, counter;
1309
1310         high = calc_buffer_size * 4 - 1;
1311
1312         for (counter = calc_buffer_size-1; counter >= 0; counter--) {
1313                 if (val[counter] == SC_0)
1314                         high -= 4;
1315                 else {
1316                         if (val[counter] > SC_7) return high;
1317                         else if (val[counter] > SC_3) return high - 1;
1318                         else if (val[counter] > SC_1) return high - 2;
1319                         else return high - 3;
1320                 }
1321         }
1322         return high;
1323 }
1324
1325 int sc_get_lowest_set_bit(const void *value) {
1326         const char *val = (const char*)value;
1327         int low, counter;
1328         char sign;
1329
1330         sign = (_sign(val)==1)?(SC_0):(SC_F);
1331         low = 0;
1332
1333         for (counter = 0; counter < calc_buffer_size; counter++) {
1334                 if (val[counter] == SC_0)
1335                         low += 4;
1336                 else {
1337                         if (val[counter] < SC_2) return low;
1338                         else if (val[counter] < SC_4) return low + 1;
1339                         else if (val[counter] < SC_8) return low + 2;
1340                         else return low + 3;
1341                 }
1342         }
1343         return -1;
1344 }
1345
1346 int sc_is_zero(const void *value) {
1347         const char* val = (const char *)value;
1348         int counter;
1349
1350         for (counter = 0; counter < calc_buffer_size; counter++) {
1351                 if (val[counter] != SC_0) return 0;
1352         }
1353         return 1;
1354 }
1355
1356 int sc_is_negative(const void *value) {
1357         return _sign(value) == -1;
1358 }
1359
1360 int sc_had_carry(void) {
1361         return carry_flag;
1362 }
1363
1364 unsigned char sc_sub_bits(const void *value, int len, unsigned byte_ofs) {
1365         const char *val = (const char *)value;
1366         int nibble_ofs  = 2 * byte_ofs;
1367         unsigned char res;
1368
1369         /* the current scheme uses one byte to store a nibble */
1370         if (nibble_ofs >= len)
1371                 return 0;
1372
1373         res = _val(val[nibble_ofs]);
1374         if (len > nibble_ofs + 1)
1375                 res |= _val(val[nibble_ofs + 1]) << 4;
1376
1377         return res;
1378 }
1379
1380 /*
1381  * convert to a string
1382  * FIXME: Doesn't check buffer bounds
1383  */
1384 const char *sc_print(const void *value, unsigned bits, enum base_t base, int signed_mode) {
1385         static const char big_digits[]   = "0123456789ABCDEF";
1386         static const char small_digits[] = "0123456789abcdef";
1387
1388         char *base_val, *div1_res, *div2_res, *rem_res;
1389         int counter, nibbles, i, sign;
1390         char x;
1391
1392         const char *val = (const char *)value;
1393         const char *p;
1394         char *m, *n, *t;
1395         char *pos;
1396         const char *digits = small_digits;
1397
1398         base_val = alloca(calc_buffer_size);
1399         div1_res = alloca(calc_buffer_size);
1400         div2_res = alloca(calc_buffer_size);
1401         rem_res  = alloca(calc_buffer_size);
1402
1403         pos = output_buffer + bit_pattern_size;
1404         *(--pos) = '\0';
1405
1406         /* special case */
1407         if (bits == 0) {
1408                 bits = bit_pattern_size;
1409 #ifdef STRCALC_DEBUG_FULLPRINT
1410                 bits <<= 1;
1411 #endif
1412         }
1413         nibbles = bits >> 2;
1414         switch (base) {
1415
1416         case SC_HEX:
1417                 digits = big_digits;
1418         case SC_hex:
1419                 for (counter = 0; counter < nibbles; ++counter) {
1420                         *(--pos) = digits[_val(val[counter])];
1421 #ifdef STRCALC_DEBUG_GROUPPRINT
1422                         if ((counter+1)%8 == 0)
1423                                 *(--pos) = ' ';
1424 #endif
1425                 }
1426
1427                 /* last nibble must be masked */
1428                 if (bits & 3) {
1429                         x = and_table[_val(val[++counter])][bits & 3];
1430                         *(--pos) = digits[_val(x)];
1431                 }
1432
1433                 /* now kill zeros */
1434                 for (; counter > 1; --counter, ++pos) {
1435 #ifdef STRCALC_DEBUG_GROUPPRINT
1436                         if (pos[0] == ' ') ++pos;
1437 #endif
1438                         if (pos[0] != '0')
1439                                 break;
1440                 }
1441                 break;
1442
1443         case SC_BIN:
1444                 for (counter = 0; counter < nibbles; ++counter) {
1445                         pos -= 4;
1446                         p = binary_table[_val(val[counter])];
1447                         pos[0] = p[0];
1448                         pos[1] = p[1];
1449                         pos[2] = p[2];
1450                         pos[3] = p[3];
1451                 }
1452
1453                 /* last nibble must be masked */
1454                 if (bits & 3) {
1455                         x = and_table[_val(val[++counter])][bits & 3];
1456
1457                         pos -= 4;
1458                         p = binary_table[_val(x)];
1459                         pos[0] = p[0];
1460                         pos[1] = p[1];
1461                         pos[2] = p[2];
1462                         pos[3] = p[3];
1463                 }
1464
1465                 /* now kill zeros */
1466                 for (counter <<= 2; counter > 1; --counter, ++pos)
1467                         if (pos[0] != '0')
1468                                 break;
1469                         break;
1470
1471         case SC_DEC:
1472         case SC_OCT:
1473                 memset(base_val, SC_0, calc_buffer_size);
1474                 base_val[0] = base == SC_DEC ? SC_A : SC_8;
1475
1476                 p    = val;
1477                 sign = 0;
1478                 if (signed_mode && base == SC_DEC) {
1479                         /* check for negative values */
1480                         if (_bit(val, bits - 1)) {
1481                                 _negate(val, div2_res);
1482                                 sign = 1;
1483                                 p = div2_res;
1484                         }
1485                 }
1486
1487                 /* transfer data into oscillating buffers */
1488                 memset(div1_res, SC_0, calc_buffer_size);
1489                 for (counter = 0; counter < nibbles; ++counter)
1490                         div1_res[counter] = p[counter];
1491
1492                 /* last nibble must be masked */
1493                 if (bits & 3) {
1494                         ++counter;
1495
1496                         div1_res[counter] = and_table[_val(p[counter])][bits & 3];
1497                 }
1498
1499                 m = div1_res;
1500                 n = div2_res;
1501                 for (;;) {
1502                         _divmod(m, base_val, n, rem_res);
1503                         t = m;
1504                         m = n;
1505                         n = t;
1506                         *(--pos) = digits[_val(rem_res[0])];
1507
1508                         x = 0;
1509                         for (i = 0; i < calc_buffer_size; ++i)
1510                                 x |= _val(m[i]);
1511
1512                         if (x == 0)
1513                                 break;
1514                 }
1515                 if (sign)
1516                         *(--pos) = '-';
1517                 break;
1518
1519         default:
1520                 printf("%i\n", base);
1521                 assert(0);
1522                 return NULL;
1523         }
1524         return pos;
1525 }
1526
1527 void init_strcalc(int precision) {
1528         if (calc_buffer == NULL) {
1529                 if (precision <= 0) precision = SC_DEFAULT_PRECISION;
1530
1531                 /* round up to multiple of 4 */
1532                 precision = (precision + 3) & ~3;
1533
1534                 bit_pattern_size = (precision);
1535                 calc_buffer_size = (precision / 2);
1536                 max_value_size   = (precision / 4);
1537
1538                 calc_buffer   = xmalloc(calc_buffer_size+1 * sizeof(char));
1539                 output_buffer = xmalloc(bit_pattern_size+1 * sizeof(char));
1540
1541                 DEBUGPRINTF(("init strcalc: \n\tPRECISION: %d\n\tCALC_BUFFER_SIZE = %d\n\tMAX_VALUE_SIZE = %d\n\tbuffer pointer: %p\n", precision, calc_buffer_size, max_value_size, calc_buffer));
1542         }
1543 }
1544
1545
1546 void finish_strcalc(void) {
1547         free(calc_buffer);   calc_buffer   = NULL;
1548         free(output_buffer); output_buffer = NULL;
1549 }
1550
1551 int sc_get_precision(void) {
1552         return bit_pattern_size;
1553 }