nsz Git - libfirm/blob - ir/tv/strcalc.c

   1 /*
   2  * Project:     libFIRM
   3  * File name:   ir/tv/strcalc.c
   4  * Purpose:
   5  * Author:      Mathias Heil
   6  * Modified by:
   7  * Created:
   8  * CVS-ID:      $Id$
   9  * Copyright:   (c) 2003 Universität Karlsruhe
  10  * Licence:     This file protected by GPL -  GNU GENERAL PUBLIC LICENSE.
  11  */
  12
  13 #include "strcalc.h"
  14
  15 #include <stdlib.h>
  16 #include <alloca.h>
  17 #include <assert.h>   /* assertions */
  18 #include <string.h>   /* memset/memcmp */
  19 #include <stdio.h>    /* output for error messages */
  20 #include <limits.h>   /* definition of LONG_MIN, used in sc_get_val_from_long */
  21
  22 /*
  23  * local definitions and macros
  24  */
  25 #define CLEAR_BUFFER(b) assert(b); memset(b, SC_0, CALC_BUFFER_SIZE)
  26 #define _val(a) ((a)-SC_0)
  27 #define _digit(a) ((a)+SC_0)
  28 #define _bitisset(digit, pos) (and_table[_val(digit)][_val(shift_table[pos])] != SC_0)
  29
  30 #define fail_char(a, b, c, d) _fail_char((a), (b), (c), (d), __FILE__,  __LINE__)
  31
  32 /* shortcut output for debugging */
  33 #  define sc_print_hex(a) sc_print((a), 0, SC_HEX)
  34 #  define sc_print_dec(a) sc_print((a), 0, SC_DEC)
  35 #  define sc_print_oct(a) sc_print((a), 0, SC_OCT)
  36 #  define sc_print_bin(a) sc_print((a), 0, SC_BIN)
  37
  38 #ifdef STRCALC_DEBUG_PRINTCOMP
  39 #  define DEBUGPRINTF_COMPUTATION(x) printf x
  40 #else
  41 #  define DEBUGPRINTF_COMPUTATION(x) ((void)0)
  42 #endif
  43 #ifdef STRCALC_DEBUG
  44 #  define DEBUGPRINTF(x) printf x
  45 #else
  46 #  define DEBUGPRINTF(x) ((void)0)
  47 #endif
  48
  49
  50 /*
  51  * private variables
  52  */
  53
  54 static char *calc_buffer = NULL;    /* buffer holding all results */
  55 static char *output_buffer = NULL;  /* buffer for output */
  56 static int BIT_PATTERN_SIZE;        /* maximum number of bits */
  57 static int CALC_BUFFER_SIZE;        /* size of internally stored values */
  58 static int MAX_VALUE_SIZE;          /* maximum size of values */
  59
  60 static int carry_flag;              /* some computation set carry_flag: */
  61                                     /* rightshift if bits were lost due to shifting */
  62                                     /* division if there was a remainder */
  63
  64 static const char max_digit[4] = { SC_0, SC_1, SC_3, SC_7 };
  65 static const char min_digit[4] = { SC_F, SC_E, SC_C, SC_8 };
  66
  67 static const char not_table[16] = { SC_F, SC_E, SC_D, SC_C, SC_B, SC_A, SC_9, SC_8,
  68                               SC_7, SC_6, SC_5, SC_4, SC_3, SC_2, SC_1, SC_0 };
  69
  70 static const char shift_table[4] = { SC_1, SC_2, SC_4, SC_8 };
  71
  72 static const char and_table[16][16] = {
  73                             { SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0,
  74                               SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0 },
  75
  76                             { SC_0, SC_1, SC_0, SC_1, SC_0, SC_1, SC_0, SC_1,
  77                               SC_0, SC_1, SC_0, SC_1, SC_0, SC_1, SC_0, SC_1 },
  78
  79                             { SC_0, SC_0, SC_2, SC_2, SC_0, SC_0, SC_2, SC_2,
  80                               SC_0, SC_0, SC_2, SC_2, SC_0, SC_0, SC_2, SC_2 },
  81
  82                             { SC_0, SC_1, SC_2, SC_3, SC_0, SC_1, SC_2, SC_3,
  83                               SC_0, SC_1, SC_2, SC_3, SC_0, SC_1, SC_2, SC_3 },
  84
  85                             { SC_0, SC_0, SC_0, SC_0, SC_4, SC_4, SC_4, SC_4,
  86                               SC_0, SC_0, SC_0, SC_0, SC_4, SC_4, SC_4, SC_4 },
  87
  88                             { SC_0, SC_1, SC_0, SC_1, SC_4, SC_5, SC_4, SC_5,
  89                               SC_0, SC_1, SC_0, SC_1, SC_4, SC_5, SC_4, SC_5 },
  90
  91                             { SC_0, SC_0, SC_2, SC_2, SC_4, SC_4, SC_6, SC_6,
  92                               SC_0, SC_0, SC_2, SC_2, SC_4, SC_4, SC_6, SC_6 },
  93
  94                             { SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7,
  95                               SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7 },
  96
  97                             { SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0,
  98                               SC_8, SC_8, SC_8, SC_8, SC_8, SC_8, SC_8, SC_8 },
  99
 100                             { SC_0, SC_1, SC_0, SC_1, SC_0, SC_1, SC_0, SC_1,
 101                               SC_8, SC_9, SC_8, SC_9, SC_8, SC_9, SC_8, SC_9 },
 102
 103                             { SC_0, SC_0, SC_2, SC_2, SC_0, SC_0, SC_2, SC_2,
 104                               SC_8, SC_8, SC_A, SC_A, SC_8, SC_8, SC_A, SC_A },
 105
 106                             { SC_0, SC_1, SC_2, SC_3, SC_0, SC_1, SC_2, SC_3,
 107                               SC_8, SC_9, SC_A, SC_B, SC_8, SC_9, SC_A, SC_B },
 108
 109                             { SC_0, SC_0, SC_0, SC_0, SC_4, SC_4, SC_4, SC_4,
 110                               SC_8, SC_8, SC_8, SC_8, SC_C, SC_C, SC_C, SC_C },
 111
 112                             { SC_0, SC_1, SC_0, SC_1, SC_4, SC_5, SC_4, SC_5,
 113                               SC_8, SC_9, SC_8, SC_9, SC_C, SC_D, SC_C, SC_D },
 114
 115                             { SC_0, SC_0, SC_2, SC_2, SC_4, SC_4, SC_6, SC_6,
 116                               SC_8, SC_8, SC_A, SC_A, SC_C, SC_C, SC_E, SC_E },
 117
 118                             { SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7,
 119                               SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F } };
 120
 121 static const char or_table[16][16] = {
 122                             { SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7,
 123                               SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F },
 124
 125                             { SC_1, SC_1, SC_3, SC_3, SC_5, SC_5, SC_7, SC_7,
 126                               SC_9, SC_9, SC_B, SC_B, SC_D, SC_D, SC_F, SC_F },
 127
 128                             { SC_2, SC_3, SC_2, SC_3, SC_6, SC_7, SC_6, SC_7,
 129                               SC_A, SC_B, SC_A, SC_B, SC_E, SC_F, SC_E, SC_F },
 130
 131                             { SC_3, SC_3, SC_3, SC_3, SC_7, SC_7, SC_7, SC_7,
 132                               SC_B, SC_B, SC_B, SC_B, SC_F, SC_F, SC_F, SC_F },
 133
 134                             { SC_4, SC_5, SC_6, SC_7, SC_4, SC_5, SC_6, SC_7,
 135                               SC_C, SC_D, SC_E, SC_F, SC_C, SC_D, SC_E, SC_F },
 136
 137                             { SC_5, SC_5, SC_7, SC_7, SC_5, SC_5, SC_7, SC_7,
 138                               SC_D, SC_D, SC_F, SC_F, SC_D, SC_D, SC_F, SC_F },
 139
 140                             { SC_6, SC_7, SC_6, SC_7, SC_6, SC_7, SC_6, SC_7,
 141                               SC_E, SC_F, SC_E, SC_F, SC_E, SC_F, SC_E, SC_F },
 142
 143                             { SC_7, SC_7, SC_7, SC_7, SC_7, SC_7, SC_7, SC_7,
 144                               SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F },
 145
 146                             { SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F,
 147                               SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F },
 148
 149                             { SC_9, SC_9, SC_B, SC_B, SC_D, SC_D, SC_F, SC_F,
 150                               SC_9, SC_9, SC_B, SC_B, SC_D, SC_D, SC_F, SC_F },
 151
 152                             { SC_A, SC_B, SC_A, SC_B, SC_E, SC_F, SC_E, SC_F,
 153                               SC_A, SC_B, SC_A, SC_B, SC_E, SC_F, SC_E, SC_F },
 154
 155                             { SC_B, SC_B, SC_B, SC_B, SC_F, SC_F, SC_F, SC_F,
 156                               SC_B, SC_B, SC_B, SC_B, SC_F, SC_F, SC_F, SC_F },
 157
 158                             { SC_C, SC_D, SC_E, SC_F, SC_C, SC_D, SC_E, SC_F,
 159                               SC_C, SC_D, SC_E, SC_F, SC_C, SC_D, SC_E, SC_F },
 160
 161                             { SC_D, SC_D, SC_F, SC_F, SC_D, SC_D, SC_F, SC_F,
 162                               SC_D, SC_D, SC_F, SC_F, SC_D, SC_D, SC_F, SC_F },
 163
 164                             { SC_E, SC_F, SC_E, SC_F, SC_E, SC_F, SC_E, SC_F,
 165                               SC_E, SC_F, SC_E, SC_F, SC_E, SC_F, SC_E, SC_F },
 166
 167                             { SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F,
 168                               SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F } };
 169
 170 static char const xor_table[16][16] = {
 171                              { SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7,
 172                                SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F },
 173
 174                              { SC_1, SC_0, SC_3, SC_2, SC_5, SC_4, SC_7, SC_6,
 175                                SC_9, SC_8, SC_B, SC_A, SC_D, SC_C, SC_F, SC_E },
 176
 177                              { SC_2, SC_3, SC_0, SC_1, SC_6, SC_7, SC_4, SC_5,
 178                                SC_A, SC_B, SC_8, SC_9, SC_E, SC_F, SC_C, SC_D },
 179
 180                              { SC_3, SC_2, SC_1, SC_0, SC_7, SC_6, SC_5, SC_4,
 181                                SC_B, SC_A, SC_9, SC_8, SC_F, SC_E, SC_D, SC_C },
 182
 183                              { SC_4, SC_5, SC_6, SC_7, SC_0, SC_1, SC_2, SC_3,
 184                                SC_C, SC_D, SC_E, SC_F, SC_8, SC_9, SC_A, SC_B },
 185
 186                              { SC_5, SC_4, SC_7, SC_6, SC_1, SC_0, SC_3, SC_2,
 187                                SC_D, SC_C, SC_F, SC_E, SC_9, SC_8, SC_B, SC_A },
 188
 189                              { SC_6, SC_7, SC_4, SC_5, SC_2, SC_3, SC_0, SC_1,
 190                                SC_E, SC_F, SC_C, SC_D, SC_A, SC_B, SC_8, SC_9 },
 191
 192                              { SC_7, SC_6, SC_5, SC_4, SC_3, SC_2, SC_1, SC_0,
 193                                SC_F, SC_E, SC_D, SC_C, SC_B, SC_A, SC_9, SC_8 },
 194
 195                              { SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F,
 196                                SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7 },
 197
 198                              { SC_9, SC_8, SC_B, SC_A, SC_D, SC_C, SC_F, SC_E,
 199                                SC_1, SC_0, SC_3, SC_2, SC_5, SC_4, SC_7, SC_6 },
 200
 201                              { SC_A, SC_B, SC_8, SC_9, SC_E, SC_F, SC_C, SC_D,
 202                                SC_2, SC_3, SC_0, SC_1, SC_6, SC_7, SC_4, SC_5 },
 203
 204                              { SC_B, SC_A, SC_9, SC_8, SC_F, SC_E, SC_D, SC_C,
 205                                SC_3, SC_2, SC_1, SC_0, SC_7, SC_6, SC_5, SC_4 },
 206
 207                              { SC_C, SC_D, SC_E, SC_F, SC_8, SC_9, SC_A, SC_B,
 208                                SC_4, SC_5, SC_6, SC_7, SC_0, SC_1, SC_2, SC_3 },
 209
 210                              { SC_D, SC_C, SC_F, SC_E, SC_9, SC_8, SC_B, SC_A,
 211                                SC_5, SC_4, SC_7, SC_6, SC_1, SC_0, SC_3, SC_2 },
 212
 213                              { SC_E, SC_F, SC_C, SC_D, SC_A, SC_B, SC_8, SC_9,
 214                                SC_6, SC_7, SC_4, SC_5, SC_2, SC_3, SC_0, SC_1 },
 215
 216                              { SC_F, SC_E, SC_D, SC_C, SC_B, SC_A, SC_9, SC_8,
 217                                SC_7, SC_6, SC_5, SC_4, SC_3, SC_2, SC_1, SC_0 }
 218                                 };
 219
 220 static char const add_table[16][16][2] = {
 221                        { {SC_0, SC_0}, {SC_1, SC_0}, {SC_2, SC_0}, {SC_3, SC_0},
 222                          {SC_4, SC_0}, {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0},
 223                          {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0},
 224                          {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0} },
 225
 226                        { {SC_1, SC_0}, {SC_2, SC_0}, {SC_3, SC_0}, {SC_4, SC_0},
 227                          {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0}, {SC_8, SC_0},
 228                          {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0},
 229                          {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1} },
 230
 231                        { {SC_2, SC_0}, {SC_3, SC_0}, {SC_4, SC_0}, {SC_5, SC_0},
 232                          {SC_6, SC_0}, {SC_7, SC_0}, {SC_8, SC_0}, {SC_9, SC_0},
 233                          {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0},
 234                          {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1} },
 235
 236                        { {SC_3, SC_0}, {SC_4, SC_0}, {SC_5, SC_0}, {SC_6, SC_0},
 237                          {SC_7, SC_0}, {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0},
 238                          {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0},
 239                          {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1} },
 240
 241                        { {SC_4, SC_0}, {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0},
 242                          {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0},
 243                          {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0},
 244                          {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1} },
 245
 246                        { {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0}, {SC_8, SC_0},
 247                          {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0},
 248                          {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1},
 249                          {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1} },
 250
 251                        { {SC_6, SC_0}, {SC_7, SC_0}, {SC_8, SC_0}, {SC_9, SC_0},
 252                          {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0},
 253                          {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1},
 254                          {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1} },
 255
 256                        { {SC_7, SC_0}, {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0},
 257                          {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0},
 258                          {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1},
 259                          {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1} },
 260
 261                        { {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0},
 262                          {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0},
 263                          {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1},
 264                          {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1}, {SC_7, SC_1} },
 265
 266                        { {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0},
 267                          {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1},
 268                          {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1},
 269                          {SC_5, SC_1}, {SC_6, SC_1}, {SC_7, SC_1}, {SC_8, SC_1} },
 270
 271                        { {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0},
 272                          {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1},
 273                          {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1},
 274                          {SC_6, SC_1}, {SC_7, SC_1}, {SC_8, SC_1}, {SC_9, SC_1} },
 275
 276                        { {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0},
 277                          {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1},
 278                          {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1},
 279                          {SC_7, SC_1}, {SC_8, SC_1}, {SC_9, SC_1}, {SC_A, SC_1} },
 280
 281                        { {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0},
 282                          {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1},
 283                          {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1}, {SC_7, SC_1},
 284                          {SC_8, SC_1}, {SC_9, SC_1}, {SC_A, SC_1}, {SC_B, SC_1} },
 285
 286                        { {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1},
 287                          {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1},
 288                          {SC_5, SC_1}, {SC_6, SC_1}, {SC_7, SC_1}, {SC_8, SC_1},
 289                          {SC_9, SC_1}, {SC_A, SC_1}, {SC_B, SC_1}, {SC_C, SC_1} },
 290
 291                        { {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1},
 292                          {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1},
 293                          {SC_6, SC_1}, {SC_7, SC_1}, {SC_8, SC_1}, {SC_9, SC_1},
 294                          {SC_A, SC_1}, {SC_B, SC_1}, {SC_C, SC_1}, {SC_D, SC_1} },
 295
 296                        { {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1},
 297                          {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1},
 298                          {SC_7, SC_1}, {SC_8, SC_1}, {SC_9, SC_1}, {SC_A, SC_1},
 299                          {SC_B, SC_1}, {SC_C, SC_1}, {SC_D, SC_1}, {SC_E, SC_1} }
 300                              };
 301
 302 static char const mul_table[16][16][2] = {
 303                        { {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0},
 304                          {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0},
 305                          {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0},
 306                          {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0} },
 307
 308                        { {SC_0, SC_0}, {SC_1, SC_0}, {SC_2, SC_0}, {SC_3, SC_0},
 309                          {SC_4, SC_0}, {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0},
 310                          {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0},
 311                          {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0} },
 312
 313                        { {SC_0, SC_0}, {SC_2, SC_0}, {SC_4, SC_0}, {SC_6, SC_0},
 314                          {SC_8, SC_0}, {SC_A, SC_0}, {SC_C, SC_0}, {SC_E, SC_0},
 315                          {SC_0, SC_1}, {SC_2, SC_1}, {SC_4, SC_1}, {SC_6, SC_1},
 316                          {SC_8, SC_1}, {SC_A, SC_1}, {SC_C, SC_1}, {SC_E, SC_1} },
 317
 318                        { {SC_0, SC_0}, {SC_3, SC_0}, {SC_6, SC_0}, {SC_9, SC_0},
 319                          {SC_C, SC_0}, {SC_F, SC_0}, {SC_2, SC_1}, {SC_5, SC_1},
 320                          {SC_8, SC_1}, {SC_B, SC_1}, {SC_E, SC_1}, {SC_1, SC_2},
 321                          {SC_4, SC_2}, {SC_7, SC_2}, {SC_A, SC_2}, {SC_D, SC_2} },
 322
 323                        { {SC_0, SC_0}, {SC_4, SC_0}, {SC_8, SC_0}, {SC_C, SC_0},
 324                          {SC_0, SC_1}, {SC_4, SC_1}, {SC_8, SC_1}, {SC_C, SC_1},
 325                          {SC_0, SC_2}, {SC_4, SC_2}, {SC_8, SC_2}, {SC_C, SC_2},
 326                          {SC_0, SC_3}, {SC_4, SC_3}, {SC_8, SC_3}, {SC_C, SC_3} },
 327
 328                        { {SC_0, SC_0}, {SC_5, SC_0}, {SC_A, SC_0}, {SC_F, SC_0},
 329                          {SC_4, SC_1}, {SC_9, SC_1}, {SC_E, SC_1}, {SC_3, SC_2},
 330                          {SC_8, SC_2}, {SC_D, SC_2}, {SC_2, SC_3}, {SC_7, SC_3},
 331                          {SC_C, SC_3}, {SC_1, SC_4}, {SC_6, SC_4}, {SC_B, SC_4} },
 332
 333                        { {SC_0, SC_0}, {SC_6, SC_0}, {SC_C, SC_0}, {SC_2, SC_1},
 334                          {SC_8, SC_1}, {SC_E, SC_1}, {SC_4, SC_2}, {SC_A, SC_2},
 335                          {SC_0, SC_3}, {SC_6, SC_3}, {SC_C, SC_3}, {SC_2, SC_4},
 336                          {SC_8, SC_4}, {SC_E, SC_4}, {SC_4, SC_5}, {SC_A, SC_5} },
 337
 338                        { {SC_0, SC_0}, {SC_7, SC_0}, {SC_E, SC_0}, {SC_5, SC_1},
 339                          {SC_C, SC_1}, {SC_3, SC_2}, {SC_A, SC_2}, {SC_1, SC_3},
 340                          {SC_8, SC_3}, {SC_F, SC_3}, {SC_6, SC_4}, {SC_D, SC_4},
 341                          {SC_4, SC_5}, {SC_B, SC_5}, {SC_2, SC_6}, {SC_9, SC_6} },
 342
 343                        { {SC_0, SC_0}, {SC_8, SC_0}, {SC_0, SC_1}, {SC_8, SC_1},
 344                          {SC_0, SC_2}, {SC_8, SC_2}, {SC_0, SC_3}, {SC_8, SC_3},
 345                          {SC_0, SC_4}, {SC_8, SC_4}, {SC_0, SC_5}, {SC_8, SC_5},
 346                          {SC_0, SC_6}, {SC_8, SC_6}, {SC_0, SC_7}, {SC_8, SC_7} },
 347
 348                        { {SC_0, SC_0}, {SC_9, SC_0}, {SC_2, SC_1}, {SC_B, SC_1},
 349                          {SC_4, SC_2}, {SC_D, SC_2}, {SC_6, SC_3}, {SC_F, SC_3},
 350                          {SC_8, SC_4}, {SC_1, SC_5}, {SC_A, SC_5}, {SC_3, SC_6},
 351                          {SC_C, SC_6}, {SC_5, SC_7}, {SC_E, SC_7}, {SC_7, SC_8} },
 352
 353                        { {SC_0, SC_0}, {SC_A, SC_0}, {SC_4, SC_1}, {SC_E, SC_1},
 354                          {SC_8, SC_2}, {SC_2, SC_3}, {SC_C, SC_3}, {SC_6, SC_4},
 355                          {SC_0, SC_5}, {SC_A, SC_5}, {SC_4, SC_6}, {SC_E, SC_6},
 356                          {SC_8, SC_7}, {SC_2, SC_8}, {SC_C, SC_8}, {SC_6, SC_9} },
 357
 358                        { {SC_0, SC_0}, {SC_B, SC_0}, {SC_6, SC_1}, {SC_1, SC_2},
 359                          {SC_C, SC_2}, {SC_7, SC_3}, {SC_2, SC_4}, {SC_D, SC_4},
 360                          {SC_8, SC_5}, {SC_3, SC_6}, {SC_E, SC_6}, {SC_9, SC_7},
 361                          {SC_4, SC_8}, {SC_F, SC_8}, {SC_A, SC_9}, {SC_5, SC_A} },
 362
 363                        { {SC_0, SC_0}, {SC_C, SC_0}, {SC_8, SC_1}, {SC_4, SC_2},
 364                          {SC_0, SC_3}, {SC_C, SC_3}, {SC_8, SC_4}, {SC_4, SC_5},
 365                          {SC_0, SC_6}, {SC_C, SC_6}, {SC_8, SC_7}, {SC_4, SC_8},
 366                          {SC_0, SC_9}, {SC_C, SC_9}, {SC_8, SC_A}, {SC_4, SC_B} },
 367
 368                        { {SC_0, SC_0}, {SC_D, SC_0}, {SC_A, SC_1}, {SC_7, SC_2},
 369                          {SC_4, SC_3}, {SC_1, SC_4}, {SC_E, SC_4}, {SC_B, SC_5},
 370                          {SC_8, SC_6}, {SC_5, SC_7}, {SC_2, SC_8}, {SC_F, SC_8},
 371                          {SC_C, SC_9}, {SC_9, SC_A}, {SC_6, SC_B}, {SC_3, SC_C} },
 372
 373                        { {SC_0, SC_0}, {SC_E, SC_0}, {SC_C, SC_1}, {SC_A, SC_2},
 374                          {SC_8, SC_3}, {SC_6, SC_4}, {SC_4, SC_5}, {SC_2, SC_6},
 375                          {SC_0, SC_7}, {SC_E, SC_7}, {SC_C, SC_8}, {SC_A, SC_9},
 376                          {SC_8, SC_A}, {SC_6, SC_B}, {SC_4, SC_C}, {SC_2, SC_D} },
 377
 378                        { {SC_0, SC_0}, {SC_F, SC_0}, {SC_E, SC_1}, {SC_D, SC_2},
 379                          {SC_C, SC_3}, {SC_B, SC_4}, {SC_A, SC_5}, {SC_9, SC_6},
 380                          {SC_8, SC_7}, {SC_7, SC_8}, {SC_6, SC_9}, {SC_5, SC_A},
 381                          {SC_4, SC_B}, {SC_3, SC_C}, {SC_2, SC_D}, {SC_1, SC_E} }
 382                              };
 383
 384 static char const shrs_table[16][4][2] = {
 385                        { {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0} },
 386                        { {SC_1, SC_0}, {SC_0, SC_8}, {SC_0, SC_4}, {SC_0, SC_2} },
 387                        { {SC_2, SC_0}, {SC_1, SC_0}, {SC_0, SC_8}, {SC_0, SC_4} },
 388                        { {SC_3, SC_0}, {SC_1, SC_8}, {SC_0, SC_C}, {SC_0, SC_6} },
 389                        { {SC_4, SC_0}, {SC_2, SC_0}, {SC_1, SC_0}, {SC_0, SC_8} },
 390                        { {SC_5, SC_0}, {SC_2, SC_8}, {SC_1, SC_4}, {SC_0, SC_A} },
 391                        { {SC_6, SC_0}, {SC_3, SC_0}, {SC_1, SC_8}, {SC_0, SC_C} },
 392                        { {SC_7, SC_0}, {SC_3, SC_8}, {SC_1, SC_C}, {SC_0, SC_E} },
 393                        { {SC_8, SC_0}, {SC_4, SC_0}, {SC_2, SC_0}, {SC_1, SC_0} },
 394                        { {SC_9, SC_0}, {SC_4, SC_8}, {SC_2, SC_4}, {SC_1, SC_2} },
 395                        { {SC_A, SC_0}, {SC_5, SC_0}, {SC_2, SC_8}, {SC_1, SC_4} },
 396                        { {SC_B, SC_0}, {SC_5, SC_8}, {SC_2, SC_C}, {SC_1, SC_6} },
 397                        { {SC_C, SC_0}, {SC_6, SC_0}, {SC_3, SC_0}, {SC_1, SC_8} },
 398                        { {SC_D, SC_0}, {SC_6, SC_8}, {SC_3, SC_4}, {SC_1, SC_A} },
 399                        { {SC_E, SC_0}, {SC_7, SC_0}, {SC_3, SC_8}, {SC_1, SC_C} },
 400                        { {SC_F, SC_0}, {SC_7, SC_8}, {SC_3, SC_C}, {SC_1, SC_E} }
 401                                    };
 402
 403 /* for converting to binary string */
 404 static const char *binary_table[16] = {
 405   "0000", "0001", "0010", "0011", "0100", "0101", "0110", "0111",
 406   "1000", "1001", "1010", "1011", "1100", "1101", "1110", "1111"
 407 };
 408
 409 /*****************************************************************************
 410  * private functions
 411  *****************************************************************************/
 412 static void _fail_char(const char *str, size_t len, const char fchar, int pos,
 413                        const char *file, int line)
 414 {
 415   printf("ERROR:\n");
 416   printf("Unexpected character '%c' in %s:%d\n", fchar, file, line);
 417   while (len-- && *str) printf("%c", *str++); printf("\n");
 418   while (--pos) printf(" "); printf("^\n");
 419   exit(-1);
 420 }
 421
 422 static void _bitnot(const char *val, char *buffer)
 423 {
 424   int counter;
 425
 426   for (counter = 0; counter<CALC_BUFFER_SIZE; counter++)
 427     buffer[counter] = not_table[_val(val[counter])];
 428 }
 429
 430 static void _bitor(const char *val1, const char *val2, char *buffer)
 431 {
 432   int counter;
 433
 434   for (counter = 0; counter<CALC_BUFFER_SIZE; counter++)
 435     buffer[counter] = or_table[_val(val1[counter])][_val(val2[counter])];
 436 }
 437
 438 static void _bitxor(const char *val1, const char *val2, char *buffer)
 439 {
 440   int counter;
 441
 442   for (counter = 0; counter<CALC_BUFFER_SIZE; counter++)
 443     buffer[counter] = xor_table[_val(val1[counter])][_val(val2[counter])];
 444 }
 445
 446 static void _bitand(const char *val1, const char *val2, char *buffer)
 447 {
 448   int counter;
 449
 450   for (counter = 0; counter<CALC_BUFFER_SIZE; counter++)
 451     buffer[counter] = and_table[_val(val1[counter])][_val(val2[counter])];
 452 }
 453
 454 static int _sign(const char *val)
 455 {
 456   return (val[CALC_BUFFER_SIZE-1] <= SC_7) ? (1) : (-1);
 457 }
 458
 459 /*
 460  * returns non-zero if bit at position pos is set
 461  */
 462 static int _bit(const char *val, int pos)
 463 {
 464   int bit    = pos & 3;
 465   int nibble = pos >> 2;
 466
 467   return _bitisset(val[nibble], bit);
 468 }
 469
 470 static void _inc(char *val, char *buffer)
 471 {
 472   int counter = 0;
 473
 474   while (counter++ < CALC_BUFFER_SIZE)
 475   {
 476     if (*val == SC_F)
 477     {
 478       *buffer++ = SC_0;
 479       val++;
 480     }
 481     else
 482     {
 483       /* No carry here, *val != SC_F */
 484       *buffer = add_table[_val(*val)][SC_1][0];
 485       return;
 486     }
 487   }
 488   /* here a carry could be lost, this is intended because this should
 489    * happen only when a value changes sign. */
 490 }
 491
 492 static void _negate(const char *val, char *buffer)
 493 {
 494   _bitnot(val, buffer);
 495   _inc(buffer, buffer);
 496 }
 497
 498 static void _add(const char *val1, const char *val2, char *buffer)
 499 {
 500   int counter;
 501   const char *add1, *add2;
 502   char carry = SC_0;
 503
 504   for (counter = 0; counter < CALC_BUFFER_SIZE; counter++)
 505   {
 506     add1 = add_table[_val(val1[counter])][_val(val2[counter])];
 507     add2 = add_table[_val(add1[0])][_val(carry)];
 508     /* carry might be zero */
 509     buffer[counter] = add2[0];
 510     carry = add_table[_val(add1[1])][_val(add2[1])][0];
 511   }
 512 }
 513
 514 static void _mul(const char *val1, const char *val2, char *buffer)
 515 {
 516   char* temp_buffer; /* result buffer */
 517   char* neg_val1;    /* abs of val1 */
 518   char* neg_val2;    /* abs of val2 */
 519
 520   const char *mul, *add1, *add2;      /* intermediate result containers */
 521   char carry = SC_0;                  /* container for carries */
 522   char sign = 0;                      /* marks result sign */
 523   int c_inner, c_outer;               /* loop counters */
 524
 525   temp_buffer = alloca(CALC_BUFFER_SIZE);
 526   neg_val1 = alloca(CALC_BUFFER_SIZE);
 527   neg_val2 = alloca(CALC_BUFFER_SIZE);
 528
 529   /* init result buffer to zeroes */
 530   memset(temp_buffer, SC_0, CALC_BUFFER_SIZE);
 531
 532   /* the multiplication works only for positive values, for negative values *
 533    * it is necessary to negate them and adjust the result accordingly       */
 534   if (_sign(val1) == -1) {
 535     _negate(val1, neg_val1);
 536     val1 = neg_val1;
 537     sign ^= 1;
 538   }
 539   if (_sign(val2) == -1) {
 540     _negate(val2, neg_val2);
 541     val2 = neg_val2;
 542     sign ^= 1;
 543   }
 544
 545   for (c_outer = 0; c_outer < MAX_VALUE_SIZE; c_outer++)
 546   {
 547     if (val2[c_outer] != SC_0)
 548     {
 549       for (c_inner = 0; c_inner < MAX_VALUE_SIZE; c_inner++)
 550       {
 551         /* do the following calculation:                                    *
 552          * Add the current carry, the value at position c_outer+c_inner     *
 553          * and the result of the multiplication of val1[c_inner] and        *
 554          * val2[c_outer]. This is the usual pen-and-paper multiplication.   */
 555
 556         /* multiplicate the two digits */
 557         mul = mul_table[_val(val1[c_inner])][_val(val2[c_outer])];
 558         /* add old value to result of multiplication */
 559         add1 = add_table[_val(temp_buffer[c_inner + c_outer])][_val(mul[0])];
 560         /* add carry to the sum */
 561         add2 = add_table[_val(add1[0])][_val(carry)];
 562
 563         /* all carries together result in new carry. This is always smaller *
 564          * than the base b:                                                 *
 565          * Both multiplicands, the carry and the value already in the temp  *
 566          * buffer are single digits and their value is therefore at most    *
 567          * equal to (b-1).                                                  *
 568          * This leads to:                                                   *
 569          * (b-1)(b-1)+(b-1)+(b-1) = b*b-1                                   *
 570          * The tables list all operations rem b, so the carry is at most    *
 571          * (b*b-1)rem b = -1rem b = b-1                                     */
 572         carry = add_table[_val(mul[1])][_val(add1[1])][0];
 573         carry = add_table[_val(carry)][_val(add2[1])][0];
 574
 575         temp_buffer[c_inner + c_outer] = add2[0];
 576       }
 577
 578       /* A carry may hang over */
 579       /* c_outer is always smaller than MAX_VALUE_SIZE! */
 580       temp_buffer[MAX_VALUE_SIZE + c_outer] = carry;
 581       carry = SC_0;
 582     }
 583   }
 584
 585   if (sign)
 586     _negate(temp_buffer, buffer);
 587   else
 588     memcpy(buffer, temp_buffer, CALC_BUFFER_SIZE);
 589 }
 590
 591 static void _sub(const char *val1, const char *val2, char *buffer)
 592 {
 593   char *temp_buffer;  /* intermediate buffer to hold -val2 */
 594   temp_buffer = alloca(CALC_BUFFER_SIZE);
 595
 596   _negate(val2, temp_buffer);
 597   _add(val1, temp_buffer, buffer);
 598 }
 599
 600 static void _push(const char digit, char *buffer)
 601 {
 602   int counter;
 603
 604   for (counter = CALC_BUFFER_SIZE - 2; counter >= 0; counter--)
 605   {
 606     buffer[counter+1] = buffer[counter];
 607   }
 608   buffer[0] = digit;
 609 }
 610
 611 /* XXX: This is MOST slow */
 612 static void _divmod(const char *dividend, const char *divisor, char *quot, char *rem)
 613 {
 614   const char *minus_divisor;
 615   char *neg_val1;
 616   char *neg_val2;
 617
 618   char sign = 0;     /* remember result sign */
 619
 620   int c_dividend;      /* loop counters */
 621
 622   neg_val1 = alloca(CALC_BUFFER_SIZE);
 623   neg_val2 = alloca(CALC_BUFFER_SIZE);
 624
 625   /* clear result buffer */
 626   memset(quot, SC_0, CALC_BUFFER_SIZE);
 627   memset(rem, SC_0, CALC_BUFFER_SIZE);
 628
 629   /* if the divisor is zero this won't work (quot is zero) */
 630   if (sc_comp(divisor, quot) == 0) assert(0 && "division by zero!");
 631
 632   /* if the dividend is zero result is zero (quot is zero)*/
 633   if (sc_comp(dividend, quot) == 0)
 634     return;
 635
 636   if (_sign(dividend) == -1)
 637   {
 638     _negate(dividend, neg_val1);
 639     sign ^= 1;
 640     dividend = neg_val1;
 641   }
 642
 643   _negate(divisor, neg_val2);
 644   if (_sign(divisor) == -1)
 645   {
 646     sign ^= 1;
 647     minus_divisor = divisor;
 648     divisor = neg_val2;
 649   }
 650   else
 651   {
 652     minus_divisor = neg_val2;
 653   }
 654
 655   /* if divisor >= dividend division is easy
 656    * (remember these are absolute values) */
 657   switch (sc_comp(dividend, divisor))
 658   {
 659     case 0: /* dividend == divisor */
 660       quot[0] = SC_1;
 661       return;
 662
 663     case -1: /* dividend < divisor */
 664       memcpy(rem, dividend, CALC_BUFFER_SIZE);
 665       return;
 666
 667     default: /* unluckily division is necessary :( */
 668       break;
 669   }
 670
 671   for (c_dividend = CALC_BUFFER_SIZE - 1; c_dividend >= 0; c_dividend--)
 672   {
 673     _push(dividend[c_dividend], rem);
 674     _push(SC_0, quot);
 675
 676     if (sc_comp(rem, divisor) != -1)    /* remainder >= divisor */
 677     {
 678       /* subtract until the remainder becomes negative, this should
 679        * be faster than comparing remainder with divisor  */
 680       _add(rem, minus_divisor, rem);
 681
 682       while (_sign(rem) == 1)
 683       {
 684         quot[0] = add_table[_val(quot[0])][SC_1][0];
 685         _add(rem, minus_divisor, rem);
 686       }
 687
 688       /* subtracted one too much */
 689       _add(rem, divisor, rem);
 690     }
 691   }
 692
 693   carry_flag = !sc_is_zero(rem);
 694
 695   if (sign)
 696   {
 697     _negate(quot, quot);
 698     _negate(rem, rem);
 699   }
 700 }
 701
 702 static void _shl(const char *val1, char *buffer, long offset, int radius, unsigned is_signed)
 703 {
 704   const char *shl;
 705   char shift;
 706   char carry = SC_0;
 707
 708   int counter;
 709   int bitoffset = 0;
 710
 711   assert((offset >= 0) || (0 && "negative leftshift"));
 712   assert(((_sign(val1) != -1) || is_signed) || (0 && "unsigned mode and negative value"));
 713   assert(((!_bitisset(val1[(radius-1)/4], (radius-1)%4)) || !is_signed || (_sign(val1) == -1)) || (0 && "value is positive, should be negative"));
 714   assert(((_bitisset(val1[(radius-1)/4], (radius-1)%4)) || !is_signed || (_sign(val1) == 1)) || (0 && "value is negative, should be positive"));
 715
 716   /* if shifting far enough the result is zero */
 717   if (offset >= radius)
 718   {
 719     memset(buffer, SC_0, CALC_BUFFER_SIZE);
 720     return;
 721   }
 722
 723   shift = shift_table[_val(offset%4)];      /* this is 2 ** (offset % 4) */
 724   offset = offset / 4;
 725
 726   /* shift the single digits some bytes (offset) and some bits (table)
 727    * to the left */
 728   for (counter = 0; counter < radius/4 - offset; counter++)
 729   {
 730     shl = mul_table[_val(val1[counter])][_val(shift)];
 731     buffer[counter + offset] = or_table[_val(shl[0])][_val(carry)];
 732     carry = shl[1];
 733   }
 734   if (radius%4 > 0)
 735   {
 736     shl = mul_table[_val(val1[counter])][_val(shift)];
 737     buffer[counter + offset] = or_table[_val(shl[0])][_val(carry)];
 738     bitoffset = counter;
 739   } else {
 740     bitoffset = counter - 1;
 741   }
 742
 743   /* fill with zeroes */
 744   for (counter = 0; counter < offset; counter++) buffer[counter] = SC_0;
 745
 746   /* if the mode was signed, change sign when the mode's msb is now 1 */
 747   offset = bitoffset + offset;
 748   bitoffset = (radius-1) % 4;
 749   if (is_signed && _bitisset(buffer[offset], bitoffset))
 750   {
 751     /* this sets the upper bits of the leftmost digit */
 752     buffer[offset] = or_table[_val(buffer[offset])][_val(min_digit[bitoffset])];
 753     for (counter = offset+1; counter < CALC_BUFFER_SIZE; counter++)
 754     {
 755       buffer[counter] = SC_F;
 756     }
 757   }
 758   else if (is_signed && !_bitisset(buffer[offset], bitoffset))
 759   {
 760     /* this unsets the upper bits of the leftmost digit */
 761     buffer[offset] = and_table[_val(buffer[offset])][_val(max_digit[bitoffset])];
 762     for (counter = offset+1; counter < CALC_BUFFER_SIZE; counter++)
 763     {
 764       buffer[counter] = SC_0;
 765     }
 766   }
 767 }
 768
 769 static void _shr(const char *val1, char *buffer, long offset, int radius, unsigned is_signed, int signed_shift)
 770 {
 771   const char *shrs;
 772   char sign;
 773   char msd;
 774
 775   int shift;
 776
 777   int counter;
 778   int bitoffset = 0;
 779
 780   assert((offset >= 0) || (0 && "negative rightshift"));
 781   assert(((_sign(val1) != -1) || is_signed) || (0 && "unsigned mode and negative value"));
 782   assert(((!_bitisset(val1[(radius-1)/4], (radius-1)%4)) || !is_signed || (_sign(val1) == -1)) || (0 && "value is positive, should be negative"));
 783   assert(((_bitisset(val1[(radius-1)/4], (radius-1)%4)) || !is_signed || (_sign(val1) == 1)) || (0 && "value is negative, should be positive"));
 784
 785   sign = ((signed_shift) && (_sign(val1) == -1))?(SC_F):(SC_0);
 786
 787   /* if shifting far enough the result is either 0 or -1 */
 788   if (offset >= radius)
 789   {
 790     if (!sc_is_zero(val1)) {
 791       carry_flag = 1;
 792     }
 793     memset(buffer, sign, CALC_BUFFER_SIZE);
 794     return;
 795   }
 796
 797   shift = offset % 4;
 798   offset = offset / 4;
 799
 800   /* check if any bits are lost, and set carry_flag if so */
 801   for (counter = 0; counter < offset; counter++)
 802   {
 803     if (val1[counter] != 0)
 804     {
 805       carry_flag = 1;
 806       break;
 807     }
 808   }
 809   if ((_val(val1[counter]) & ((1<<shift)-1)) != 0)
 810   {
 811     carry_flag = 1;
 812   }
 813   /* shift digits to the right with offset, carry and all */
 814   counter = 0;
 815   if (radius/4 - offset > 0) {
 816     buffer[counter] = shrs_table[_val(val1[offset])][shift][0];
 817     counter = 1;
 818   }
 819   for (; counter < radius/4 - offset; counter++)
 820   {
 821     shrs = shrs_table[_val(val1[counter + offset])][shift];
 822     buffer[counter] = shrs[0];
 823     buffer[counter-1] = or_table[_val(buffer[counter-1])][_val(shrs[1])];
 824   }
 825
 826   /* the last digit is special in regard of signed/unsigned shift */
 827   bitoffset = radius%4;
 828   msd = (radius/4<CALC_BUFFER_SIZE)?(val1[radius/4]):(sign);  /* most significant digit */
 829
 830   /* remove sign bits if mode was signed and this is an unsigned shift */
 831   if (!signed_shift && is_signed) {
 832     msd = and_table[_val(msd)][_val(max_digit[bitoffset])];
 833   }
 834
 835   shrs = shrs_table[_val(msd)][shift];
 836
 837   /* signed shift and signed mode and negative value means all bits to the left are set */
 838   if (signed_shift && is_signed && (_sign(val1) == -1)) {
 839     buffer[counter] = or_table[_val(shrs[0])][_val(min_digit[bitoffset])];
 840   } else {
 841     buffer[counter] = shrs[0];
 842   }
 843
 844   if (counter > 0) buffer[counter - 1] = or_table[_val(buffer[counter-1])][_val(shrs[1])];
 845
 846   /* fill with SC_F or SC_0 depending on sign */
 847   for (counter++; counter < CALC_BUFFER_SIZE; counter++)
 848   {
 849     buffer[counter] = sign;
 850   }
 851 }
 852
 853 /* positive: low-order -> high order, negative other direction */
 854 static void _rot(const char *val1, char *buffer, long offset, int radius, unsigned is_signed)
 855 {
 856   char *temp1, *temp2;
 857   temp1 = alloca(CALC_BUFFER_SIZE);
 858   temp2 = alloca(CALC_BUFFER_SIZE);
 859
 860   offset = offset % radius;
 861
 862   /* rotation by multiples of the typelength is identity */
 863   if (offset == 0) {
 864     memmove(buffer, val1, CALC_BUFFER_SIZE);
 865     return;
 866   }
 867
 868   _shl(val1, temp1, offset, radius, is_signed);
 869   _shr(val1, temp2, radius - offset, radius, is_signed, 0);
 870   _bitor(temp1, temp2, buffer);
 871   carry_flag = 0; /* set by shr, but due to rot this is false */
 872 }
 873
 874 /*****************************************************************************
 875  * public functions, declared in strcalc.h
 876  *****************************************************************************/
 877 const void *sc_get_buffer(void)
 878 {
 879   return (void*)calc_buffer;
 880 }
 881
 882 const int sc_get_buffer_length(void)
 883 {
 884   return CALC_BUFFER_SIZE;
 885 }
 886
 887 /* XXX doesn't check for overflows */
 888 void sc_val_from_str(const char *str, unsigned int len, void *buffer)
 889 {
 890   const char *orig_str = str;
 891   unsigned int orig_len = len;
 892
 893   char sign = 0;
 894   char *base, *val;
 895
 896   base = alloca(CALC_BUFFER_SIZE);
 897   val = alloca(CALC_BUFFER_SIZE);
 898
 899   /* verify valid pointers (not null) */
 900   assert(str);
 901   /* a string no characters long is an error */
 902   assert(len);
 903
 904   if (buffer == NULL) buffer = calc_buffer;
 905
 906   CLEAR_BUFFER(buffer);
 907   memset(base, SC_0, CALC_BUFFER_SIZE);
 908   memset(val, SC_0, CALC_BUFFER_SIZE);
 909
 910   /* strip leading spaces */
 911   while ((len > 0) && (*str == ' ')) { len--; str++; }
 912
 913   /* if the first two characters are 0x or 0X -> hex
 914    * if the first is a 0 -> oct
 915    * else dec, strip leading -/+ and remember sign
 916    *
 917    * only a + or - sign is no number resulting in an error */
 918   if (len >= 2)
 919     switch (str[0])
 920     {
 921       case '0':
 922         if (str[1] == 'x' || str[1] == 'X') /* hex */
 923         {
 924           str += 2;
 925           len -= 2;
 926           base[1] = SC_1; base[0] = SC_0;
 927         }
 928         else /* oct */
 929         {
 930           str += 1;
 931           len -= 1;
 932           base[1] = SC_0; base[0] = SC_8;
 933         }
 934         break;
 935
 936       case '+':
 937         {
 938           str += 1;
 939           len -= 1;
 940           base[1] = SC_0; base[0] = SC_A;
 941         }
 942         break;
 943
 944       case '-':
 945         {
 946           str += 1;
 947           len -= 1;
 948           sign = 1;
 949           base[1] = SC_0; base[0] = SC_A;
 950         }
 951         break;
 952
 953       default: /* dec, else would have begun with 0x or 0 */
 954         base[1] = SC_0; base[0] = SC_A;
 955     }
 956
 957   else /* dec, else would have begun with 0x or 0 */
 958   {
 959     base[1] = SC_0; base[0] = SC_A;
 960   }
 961
 962   /* BEGIN string evaluation, from left to right */
 963   while (len > 0)
 964   {
 965     switch (*str)
 966     {
 967       case 'f':
 968       case 'e':
 969       case 'd':
 970       case 'c':
 971       case 'b':
 972       case 'a':
 973         if (base[0] > SC_9 || base[1] > SC_0) /* (base > 10) */
 974         {
 975           val[0] = _digit((*str)-'a'+10);
 976         }
 977         else fail_char(orig_str, orig_len, *str, str-orig_str+1);
 978         break;
 979
 980       case 'F':
 981       case 'E':
 982       case 'D':
 983       case 'C':
 984       case 'B':
 985       case 'A':
 986         if (base[0] > SC_9 || base[1] > SC_0) /* (base > 10) */
 987         {
 988           val[0] = _digit((*str)-'A'+10);
 989         }
 990         else fail_char(orig_str, orig_len, *str, str-orig_str+1);
 991         break;
 992
 993       case '9':
 994       case '8':
 995         if (base[0] > SC_7 || base[1] > SC_0) /* (base > 8) */
 996         {
 997           val[0] = _digit((*str)-'0');
 998         }
 999         else fail_char(orig_str, orig_len, *str, str-orig_str+1);
1000         break;
1001
1002       case '7':
1003       case '6':
1004       case '5':
1005       case '4':
1006       case '3':
1007       case '2':
1008       case '1':
1009       case '0':
1010         {
1011           val[0] = _digit((*str)-'0');
1012         }
1013         break;
1014
1015       default:
1016         fail_char(orig_str, orig_len, *str, str-orig_str+1);
1017     } /* switch(*str) */
1018
1019     /* Radix conversion from base b to base B:
1020      *  (UnUn-1...U1U0)b == ((((Un*b + Un-1)*b + ...)*b + U1)*b + U0)B */
1021     _mul(base, calc_buffer, calc_buffer); /* multiply current value with base */
1022     _add(val, calc_buffer, calc_buffer);  /* add next digit to current value  */
1023
1024     /* get ready for the next letter */
1025     str++;
1026     len--;
1027
1028   } /* while (len > 0 ) */
1029
1030   if (sign)
1031   {
1032     _negate(calc_buffer, calc_buffer);
1033   }
1034 }
1035
1036 void sc_val_from_long(long value, void *buffer)
1037 {
1038   char *pos;
1039   char sign, is_minlong;
1040
1041   if (buffer == NULL) buffer = calc_buffer;
1042   pos = buffer;
1043
1044   sign = (value < 0);
1045   is_minlong = value == LONG_MIN;
1046
1047   /* use absolute value, special treatment of MIN_LONG */
1048   if (sign) {
1049     if (is_minlong)
1050       value = -(value+1);
1051     else
1052       value = -value;
1053   }
1054
1055   CLEAR_BUFFER(buffer);
1056
1057   while ((value != 0) && (pos < (char*)buffer + CALC_BUFFER_SIZE))
1058   {
1059     *pos++ = _digit(value & 0xf);
1060     value >>= 4;
1061   }
1062
1063
1064   if (sign) {
1065     if (is_minlong)
1066       _inc(buffer, buffer);
1067
1068     _negate(buffer, buffer);
1069   }
1070 }
1071
1072 void sc_val_from_ulong(unsigned long value, void *buffer)
1073 {
1074   char *pos;
1075
1076   if (buffer == NULL) buffer = calc_buffer;
1077   pos = buffer;
1078
1079   while (pos < (char*)buffer + CALC_BUFFER_SIZE)
1080   {
1081     *pos++ = _digit(value & 0xf);
1082     value >>= 4;
1083   }
1084 }
1085
1086 long sc_val_to_long(const void *val)
1087 {
1088   int i;
1089   long l = 0;
1090
1091   for (i = CALC_BUFFER_SIZE - 1; i >= 0; i--)
1092   {
1093     l = (l << 4) + _val(((char *)val)[i]);
1094   }
1095   return l;
1096 }
1097
1098 void sc_min_from_bits(unsigned int num_bits, unsigned int sign, void *buffer)
1099 {
1100   char* pos;
1101   int i, bits;
1102
1103   if (buffer == NULL) buffer = calc_buffer;
1104   CLEAR_BUFFER(buffer);
1105
1106   if (!sign) return;  /* unsigned means minimum is 0(zero) */
1107
1108   pos = buffer;
1109
1110   bits = num_bits - 1;
1111   for (i = 0; i < bits/4; i++)
1112     *pos++ = SC_0;
1113
1114   *pos++ = min_digit[bits%4];
1115
1116   for (i++; i <= CALC_BUFFER_SIZE - 1; i++)
1117     *pos++ = SC_F;
1118 }
1119
1120 void sc_max_from_bits(unsigned int num_bits, unsigned int sign, void *buffer)
1121 {
1122   char* pos;
1123   int i, bits;
1124
1125   if (buffer == NULL) buffer = calc_buffer;
1126   CLEAR_BUFFER(buffer);
1127   pos = buffer;
1128
1129   bits = num_bits - sign;
1130   for (i = 0; i < bits/4; i++)
1131     *pos++ = SC_F;
1132
1133   *pos++ = max_digit[bits%4];
1134
1135   for (i++; i <= CALC_BUFFER_SIZE - 1; i++)
1136     *pos++ = SC_0;
1137 }
1138
1139 void sc_calc(const void* value1, const void* value2, unsigned op, void *buffer)
1140 {
1141   char *unused_res; /* temp buffer holding unused result of divmod */
1142
1143   const char *val1 = (const char *)value1;
1144   const char *val2 = (const char *)value2;
1145
1146   unused_res = alloca(CALC_BUFFER_SIZE);
1147   CLEAR_BUFFER(calc_buffer);
1148   carry_flag = 0;
1149
1150   DEBUGPRINTF_COMPUTATION(("%s ", sc_print_hex(value1)));
1151
1152   switch (op)
1153   {
1154     case SC_NEG:
1155       _negate(val1, calc_buffer);
1156       DEBUGPRINTF_COMPUTATION(("negated: %s\n", sc_print_hex(calc_buffer)));
1157       break;
1158     case SC_OR:
1159       DEBUGPRINTF_COMPUTATION(("| "));
1160       _bitor(val1, val2, calc_buffer);
1161       break;
1162     case SC_AND:
1163       DEBUGPRINTF_COMPUTATION(("& "));
1164       _bitand(val1, val2, calc_buffer);
1165       break;
1166     case SC_XOR:
1167       DEBUGPRINTF_COMPUTATION(("^ "));
1168       _bitxor(val1, val2, calc_buffer);
1169       break;
1170     case SC_NOT:
1171       _bitnot(val1, calc_buffer);
1172       DEBUGPRINTF_COMPUTATION(("bit-negated: %s\n", sc_print_hex(calc_buffer)));
1173       break;
1174     case SC_ADD:
1175       DEBUGPRINTF_COMPUTATION(("+ "));
1176       _add(val1, val2, calc_buffer);
1177       break;
1178     case SC_SUB:
1179       DEBUGPRINTF_COMPUTATION(("- "));
1180       _sub(val1, val2, calc_buffer);
1181       break;
1182     case SC_MUL:
1183       DEBUGPRINTF_COMPUTATION(("* "));
1184       _mul(val1, val2, calc_buffer);
1185       break;
1186     case SC_DIV:
1187       DEBUGPRINTF_COMPUTATION(("/ "));
1188       _divmod(val1, val2, calc_buffer, unused_res);
1189       break;
1190     case SC_MOD:
1191       DEBUGPRINTF_COMPUTATION(("%% "));
1192       _divmod(val1, val2, unused_res, calc_buffer);
1193       break;
1194     default:
1195       assert(0);
1196   }
1197   DEBUGPRINTF_COMPUTATION(("%s -> ", sc_print_hex(value2)));
1198   DEBUGPRINTF_COMPUTATION(("%s\n", sc_print_hex(calc_buffer)));
1199
1200   if ((buffer != NULL) && (buffer != calc_buffer))
1201   {
1202     memcpy(buffer, calc_buffer, CALC_BUFFER_SIZE);
1203   }
1204 }
1205
1206 void sc_bitcalc(const void* value1, const void* value2, int radius, int sign, unsigned op, void* buffer)
1207 {
1208   const char *val1 = (const char *)value1;
1209   const char *val2 = (const char *)value2;
1210   long offset;
1211
1212   carry_flag = 0;
1213   offset = sc_val_to_long(val2);
1214
1215   DEBUGPRINTF_COMPUTATION(("%s ", sc_print_hex(value1)));
1216   switch (op)
1217   {
1218     case SC_SHL:
1219       DEBUGPRINTF_COMPUTATION(("<< %ld ", offset));
1220       _shl(val1, calc_buffer, offset, radius, sign);
1221       break;
1222     case SC_SHR:
1223       DEBUGPRINTF_COMPUTATION((">> %ld ", offset));
1224       _shr(val1, calc_buffer, offset, radius, sign, 0);
1225       break;
1226     case SC_SHRS:
1227       DEBUGPRINTF_COMPUTATION((">>> %ld ", offset));
1228       _shr(val1, calc_buffer, offset, radius, sign, 1);
1229       break;
1230     case SC_ROT:
1231       DEBUGPRINTF_COMPUTATION(("<<>> %ld ", offset));
1232       _rot(val1, calc_buffer, offset, radius, sign);
1233       break;
1234     default:
1235       assert(0);
1236   }
1237   DEBUGPRINTF_COMPUTATION(("-> %s\n", sc_print_hex(calc_buffer)));
1238
1239   if ((buffer != NULL) && (buffer != calc_buffer))
1240   {
1241     memmove(buffer, calc_buffer, CALC_BUFFER_SIZE);
1242   }
1243 }
1244
1245 int sc_comp(const void* value1, const void* value2)
1246 {
1247   int counter = CALC_BUFFER_SIZE - 1;
1248   const char *val1 = (const char *)value1;
1249   const char *val2 = (const char *)value2;
1250
1251   /* compare signs first:
1252    * the loop below can only compare values of the same sign! */
1253   if (_sign(val1) != _sign(val2)) return (_sign(val1) == 1)?(1):(-1);
1254
1255   /* loop until two digits differ, the values are equal if there
1256    * are no such two digits */
1257   while (val1[counter] == val2[counter])
1258   {
1259     counter--;
1260     if (counter < 0) return 0;
1261   }
1262
1263   /* the leftmost digit is the most significant, so this returns
1264    * the correct result.
1265    * This implies the digit enum is ordered */
1266   return (val1[counter] > val2[counter]) ? (1) : (-1);
1267 }
1268
1269 int sc_get_highest_set_bit(const void *value)
1270 {
1271   const char *val = (const char*)value;
1272   int high, counter;
1273
1274   high = CALC_BUFFER_SIZE * 4 - 1;
1275
1276   for (counter = CALC_BUFFER_SIZE-1; counter >= 0; counter--) {
1277     if (val[counter] == SC_0) high -= 4;
1278     else {
1279       if (val[counter] > SC_7) return high;
1280       else if (val[counter] > SC_3) return high - 1;
1281       else if (val[counter] > SC_1) return high - 2;
1282       else return high - 3;
1283     }
1284   }
1285   return high;
1286 }
1287
1288 int sc_get_lowest_set_bit(const void *value)
1289 {
1290   const char *val = (const char*)value;
1291   int low, counter;
1292   char sign;
1293
1294   sign = (_sign(val)==1)?(SC_0):(SC_F);
1295   low = 0;
1296
1297   for (counter = 0; counter < CALC_BUFFER_SIZE; counter++) {
1298     if (val[counter] == SC_0) low += 4;
1299     else {
1300       if (val[counter] < SC_2) return low;
1301       else if (val[counter] < SC_4) return low + 1;
1302       else if (val[counter] < SC_8) return low + 2;
1303       else return low + 3;
1304     }
1305   }
1306   return -1;
1307 }
1308
1309 int sc_is_zero(const void *value)
1310 {
1311   const char* val = (const char *)value;
1312   int counter;
1313
1314   for (counter = 0; counter < CALC_BUFFER_SIZE; counter++) {
1315     if (val[counter] != SC_0) return 0;
1316   }
1317   return 1;
1318 }
1319
1320 int sc_is_negative(const void *value)
1321 {
1322   return _sign(value) == -1;
1323 }
1324
1325 int sc_had_carry(void)
1326 {
1327   return carry_flag;
1328 }
1329
1330 unsigned char sc_sub_bits(const void *value, int len, unsigned byte_ofs)
1331 {
1332   const char *val     = (const char *)value;
1333   unsigned nibble_ofs = 2 * byte_ofs;
1334   unsigned char res;
1335
1336   /* the current scheme uses one byte to store a nibble */
1337   if (nibble_ofs >= len)
1338     return 0;
1339
1340   res = _val(val[nibble_ofs]);
1341   if (len > nibble_ofs + 1)
1342     res |= _val(val[nibble_ofs + 1]) << 4;
1343
1344   return res;
1345 }
1346
1347 /*
1348  * convert to a string
1349  * XXX Doesn't check buffer bounds
1350  */
1351 const char *sc_print(const void *value, unsigned bits, enum base_t base)
1352 {
1353   static const char big_digits[]   = "0123456789ABCDEF";
1354   static const char small_digits[] = "0123456789abcdef";
1355
1356   char *base_val, *div1_res, *div2_res, *rem_res;
1357   int counter, nibbles, i, sign;
1358   char x;
1359
1360   const char *val = (const char *)value;
1361   const char *p;
1362   char *m, *n, *t;
1363   char *pos;
1364   const char *digits = small_digits;
1365
1366   base_val = alloca(CALC_BUFFER_SIZE);
1367   div1_res = alloca(CALC_BUFFER_SIZE);
1368   div2_res = alloca(CALC_BUFFER_SIZE);
1369   rem_res = alloca(CALC_BUFFER_SIZE);
1370
1371   pos = output_buffer + BIT_PATTERN_SIZE;
1372   *(--pos) = '\0';
1373
1374   /* special case */
1375   if (bits == 0) {
1376     bits = BIT_PATTERN_SIZE;
1377 #ifdef STRCALC_DEBUG_FULLPRINT
1378     bits <<= 1;
1379 #endif
1380   }
1381   nibbles = bits >> 2;
1382   switch (base) {
1383
1384   case SC_HEX:
1385     digits = big_digits;
1386   case SC_hex:
1387     for (counter = 0; counter < nibbles; ++counter) {
1388       *(--pos) = digits[_val(val[counter])];
1389 #ifdef STRCALC_DEBUG_GROUPPRINT
1390       if ((counter+1)%8 == 0)
1391         *(--pos) = ' ';
1392 #endif
1393     }
1394
1395     /* last nibble must be masked */
1396     if (bits & 3) {
1397       x = and_table[_val(val[++counter])][bits & 3];
1398       *(--pos) = digits[_val(x)];
1399     }
1400
1401     /* now kill zeros */
1402     for (; counter > 1; --counter, ++pos) {
1403 #ifdef STRCALC_DEBUG_GROUPPRINT
1404       if (pos[0] == ' ') ++pos;
1405 #endif
1406       if (pos[0] != '0')
1407         break;
1408     }
1409     break;
1410
1411   case SC_BIN:
1412     for (counter = 0; counter < nibbles; ++counter) {
1413       pos -= 4;
1414       p = binary_table[_val(val[counter])];
1415       pos[0] = p[0];
1416       pos[1] = p[1];
1417       pos[2] = p[2];
1418       pos[3] = p[3];
1419     }
1420
1421     /* last nibble must be masked */
1422     if (bits & 3) {
1423       x = and_table[_val(val[++counter])][bits & 3];
1424
1425       pos -= 4;
1426       p = binary_table[_val(x)];
1427       pos[0] = p[0];
1428       pos[1] = p[1];
1429       pos[2] = p[2];
1430       pos[3] = p[3];
1431     }
1432
1433     /* now kill zeros */
1434     for (counter <<= 2; counter > 1; --counter, ++pos)
1435       if (pos[0] != '0')
1436         break;
1437     break;
1438
1439   case SC_DEC:
1440   case SC_OCT:
1441     memset(base_val, SC_0, CALC_BUFFER_SIZE);
1442     base_val[0] = base == SC_DEC ? SC_A : SC_8;
1443
1444     p    = val;
1445     sign = 0;
1446     if (base == SC_DEC) {
1447       /* check for negative values */
1448       if (_bit(val, bits - 1)) {
1449         _negate(val, div2_res);
1450         sign = 1;
1451         p = div2_res;
1452       }
1453     }
1454
1455     /* transfer data into oscilating buffers */
1456     memset(div1_res, SC_0, CALC_BUFFER_SIZE);
1457     for (counter = 0; counter < nibbles; ++counter)
1458       div1_res[counter] = p[counter];
1459
1460      /* last nibble must be masked */
1461     if (bits & 3) {
1462       ++counter;
1463
1464       div1_res[counter] = and_table[_val(p[counter])][bits & 3];
1465     }
1466
1467     m = div1_res;
1468     n = div2_res;
1469     for (;;) {
1470       _divmod(m, base_val, n, rem_res);
1471       t = m;
1472       m = n;
1473       n = t;
1474       *(--pos) = digits[_val(rem_res[0])];
1475
1476       x = 0;
1477       for (i = 0; i < sizeof(div1_res); ++i)
1478         x |= _val(m[i]);
1479
1480       if (x == 0)
1481         break;
1482     }
1483     if (sign)
1484        *(--pos) = '-';
1485     break;
1486
1487   default:
1488     printf("%i\n", base);
1489     assert(0);
1490     return NULL;
1491 }
1492   return pos;
1493 }
1494
1495 void init_strcalc(int precision)
1496 {
1497   if (calc_buffer == NULL) {
1498     if (precision <= 0) precision = SC_DEFAULT_PRECISION;
1499
1500     /* round up to multiple of 4 */
1501     if (precision & 0x3) precision += 4 - (precision&0x3);
1502
1503     BIT_PATTERN_SIZE = (precision);
1504     CALC_BUFFER_SIZE = (precision / 2);
1505     MAX_VALUE_SIZE   = (precision / 4);
1506
1507     calc_buffer = malloc(CALC_BUFFER_SIZE+1 * sizeof(char));
1508     output_buffer = malloc(BIT_PATTERN_SIZE+1 * sizeof(char));
1509
1510     if (calc_buffer == NULL || output_buffer == NULL)
1511     {
1512       assert(0 && "malloc failed");
1513       exit(-1);
1514     }
1515
1516     DEBUGPRINTF(("init strcalc: \n\tPRECISION: %d\n\tCALC_BUFFER_SIZE = %d\n\tMAX_VALUE_SIZE = %d\n\tbuffer pointer: %p\n", precision, CALC_BUFFER_SIZE, MAX_VALUE_SIZE, calc_buffer));
1517   }
1518 }
1519 int sc_get_precision(void)
1520 {
1521   return BIT_PATTERN_SIZE;
1522 }