nsz Git - libfirm/blob - ir/tv/strcalc.c

   1 /****i* strcalc/implementation
   2  *
   3  * AUTHORS
   4  *    Matthias Heil
   5  *
   6  * NOTES
   7  ******/
   8
   9 #include "strcalc.h"
  10
  11 #include <stdlib.h>
  12 #include <assert.h>   /* assertions */
  13 #include <string.h>   /* memset/memcmp */
  14 #include <stdio.h>    /* output for error messages */
  15 #include <limits.h>   /* definition of LONG_MIN, used in sc_get_val_from_long */
  16
  17 /*
  18  * local definitions and macros
  19  */
  20 #define CLEAR_CALC_BUFFER() assert(calc_buffer); memset(calc_buffer, SC_0, CALC_BUFFER_SIZE)
  21 #define _val(a) ((a)-SC_0)
  22 #define _digit(a) ((a)+SC_0)
  23 #define _bitisset(digit, pos) (and_table[_val(digit)][_val(shift_table[pos])] != SC_0)
  24
  25 #define fail_char(a, b, c, d) _fail_char((a), (b), (c), (d), __FILE__,  __LINE__)
  26
  27 #ifdef STRCALC_DEBUG_COMPUTATION
  28 #  define DEBUGPRINTF_COMPUTATION(x) printf x
  29 #else
  30 #  define DEBUGPRINTF_COMPUTATION(x) ((void)0)
  31 #endif
  32 #ifdef STRCALC_DEBUG
  33 #  define DEBUGPRINTF(x) printf x
  34 #else
  35 #  define DEBUGPRINTF(x) ((void)0)
  36 #endif
  37
  38
  39 /*
  40  * private variables
  41  */
  42
  43 static char *calc_buffer = NULL;    /* buffer holding all results */
  44 static char *output_buffer = NULL;  /* buffer for output */
  45 static int BIT_PATTERN_SIZE;        /* maximum number of bits */
  46 static int CALC_BUFFER_SIZE;        /* size of internally stored values */
  47 static int MAX_VALUE_SIZE;          /* maximum size of values */
  48
  49 static int carry_flag;              /* some computation set carry_flag: */
  50                                     /* rightshift if bits were lost due to shifting */
  51                                     /* division if there was a remainder */
  52
  53 static const char max_digit[4] = { SC_0, SC_1, SC_3, SC_7 };
  54 static const char min_digit[4] = { SC_F, SC_E, SC_C, SC_8 };
  55
  56 static const char not_table[16] = { SC_F, SC_E, SC_D, SC_C, SC_B, SC_A, SC_9, SC_8,
  57                               SC_7, SC_6, SC_5, SC_4, SC_3, SC_2, SC_1, SC_0 };
  58
  59 static const char shift_table[4] = { SC_1, SC_2, SC_4, SC_8 };
  60
  61 static const char and_table[16][16] = {
  62                             { SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0,
  63                               SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0 },
  64
  65                             { SC_0, SC_1, SC_0, SC_1, SC_0, SC_1, SC_0, SC_1,
  66                               SC_0, SC_1, SC_0, SC_1, SC_0, SC_1, SC_0, SC_1 },
  67
  68                             { SC_0, SC_0, SC_2, SC_2, SC_0, SC_0, SC_2, SC_2,
  69                               SC_0, SC_0, SC_2, SC_2, SC_0, SC_0, SC_2, SC_2 },
  70
  71                             { SC_0, SC_1, SC_2, SC_3, SC_0, SC_1, SC_2, SC_3,
  72                               SC_0, SC_1, SC_2, SC_3, SC_0, SC_1, SC_2, SC_3 },
  73
  74                             { SC_0, SC_0, SC_0, SC_0, SC_4, SC_4, SC_4, SC_4,
  75                               SC_0, SC_0, SC_0, SC_0, SC_4, SC_4, SC_4, SC_4 },
  76
  77                             { SC_0, SC_1, SC_0, SC_1, SC_4, SC_5, SC_4, SC_5,
  78                               SC_0, SC_1, SC_0, SC_1, SC_4, SC_5, SC_4, SC_5 },
  79
  80                             { SC_0, SC_0, SC_2, SC_2, SC_4, SC_4, SC_6, SC_6,
  81                               SC_0, SC_0, SC_2, SC_2, SC_4, SC_4, SC_6, SC_6 },
  82
  83                             { SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7,
  84                               SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7 },
  85
  86                             { SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0, SC_0,
  87                               SC_8, SC_8, SC_8, SC_8, SC_8, SC_8, SC_8, SC_8 },
  88
  89                             { SC_0, SC_1, SC_0, SC_1, SC_0, SC_1, SC_0, SC_1,
  90                               SC_8, SC_9, SC_8, SC_9, SC_8, SC_9, SC_8, SC_9 },
  91
  92                             { SC_0, SC_0, SC_2, SC_2, SC_0, SC_0, SC_2, SC_2,
  93                               SC_8, SC_8, SC_A, SC_A, SC_8, SC_8, SC_A, SC_A },
  94
  95                             { SC_0, SC_1, SC_2, SC_3, SC_0, SC_1, SC_2, SC_3,
  96                               SC_8, SC_9, SC_A, SC_B, SC_8, SC_9, SC_A, SC_B },
  97
  98                             { SC_0, SC_0, SC_0, SC_0, SC_4, SC_4, SC_4, SC_4,
  99                               SC_8, SC_8, SC_8, SC_8, SC_C, SC_C, SC_C, SC_C },
 100
 101                             { SC_0, SC_1, SC_0, SC_1, SC_4, SC_5, SC_4, SC_5,
 102                               SC_8, SC_9, SC_8, SC_9, SC_C, SC_D, SC_C, SC_D },
 103
 104                             { SC_0, SC_0, SC_2, SC_2, SC_4, SC_4, SC_6, SC_6,
 105                               SC_8, SC_8, SC_A, SC_A, SC_C, SC_C, SC_E, SC_E },
 106
 107                             { SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7,
 108                               SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F } };
 109
 110 static const char or_table[16][16] = {
 111                             { SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7,
 112                               SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F },
 113
 114                             { SC_1, SC_1, SC_3, SC_3, SC_5, SC_5, SC_7, SC_7,
 115                               SC_9, SC_9, SC_B, SC_B, SC_D, SC_D, SC_F, SC_F },
 116
 117                             { SC_2, SC_3, SC_2, SC_3, SC_6, SC_7, SC_6, SC_7,
 118                               SC_A, SC_B, SC_A, SC_B, SC_E, SC_F, SC_E, SC_F },
 119
 120                             { SC_3, SC_3, SC_3, SC_3, SC_7, SC_7, SC_7, SC_7,
 121                               SC_B, SC_B, SC_B, SC_B, SC_F, SC_F, SC_F, SC_F },
 122
 123                             { SC_4, SC_5, SC_6, SC_7, SC_4, SC_5, SC_6, SC_7,
 124                               SC_C, SC_D, SC_E, SC_F, SC_C, SC_D, SC_E, SC_F },
 125
 126                             { SC_5, SC_5, SC_7, SC_7, SC_5, SC_5, SC_7, SC_7,
 127                               SC_D, SC_D, SC_F, SC_F, SC_D, SC_D, SC_F, SC_F },
 128
 129                             { SC_6, SC_7, SC_6, SC_7, SC_6, SC_7, SC_6, SC_7,
 130                               SC_E, SC_F, SC_E, SC_F, SC_E, SC_F, SC_E, SC_F },
 131
 132                             { SC_7, SC_7, SC_7, SC_7, SC_7, SC_7, SC_7, SC_7,
 133                               SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F },
 134
 135                             { SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F,
 136                               SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F },
 137
 138                             { SC_9, SC_9, SC_B, SC_B, SC_D, SC_D, SC_F, SC_F,
 139                               SC_9, SC_9, SC_B, SC_B, SC_D, SC_D, SC_F, SC_F },
 140
 141                             { SC_A, SC_B, SC_A, SC_B, SC_E, SC_F, SC_E, SC_F,
 142                               SC_A, SC_B, SC_A, SC_B, SC_E, SC_F, SC_E, SC_F },
 143
 144                             { SC_B, SC_B, SC_B, SC_B, SC_F, SC_F, SC_F, SC_F,
 145                               SC_B, SC_B, SC_B, SC_B, SC_F, SC_F, SC_F, SC_F },
 146
 147                             { SC_C, SC_D, SC_E, SC_F, SC_C, SC_D, SC_E, SC_F,
 148                               SC_C, SC_D, SC_E, SC_F, SC_C, SC_D, SC_E, SC_F },
 149
 150                             { SC_D, SC_D, SC_F, SC_F, SC_D, SC_D, SC_F, SC_F,
 151                               SC_D, SC_D, SC_F, SC_F, SC_D, SC_D, SC_F, SC_F },
 152
 153                             { SC_E, SC_F, SC_E, SC_F, SC_E, SC_F, SC_E, SC_F,
 154                               SC_E, SC_F, SC_E, SC_F, SC_E, SC_F, SC_E, SC_F },
 155
 156                             { SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F,
 157                               SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F, SC_F } };
 158
 159 static char const xor_table[16][16] = {
 160                              { SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7,
 161                                SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F },
 162
 163                              { SC_1, SC_0, SC_3, SC_2, SC_5, SC_4, SC_7, SC_6,
 164                                SC_9, SC_8, SC_B, SC_A, SC_D, SC_C, SC_F, SC_E },
 165
 166                              { SC_2, SC_3, SC_0, SC_1, SC_6, SC_7, SC_4, SC_5,
 167                                SC_A, SC_B, SC_8, SC_9, SC_E, SC_F, SC_C, SC_D },
 168
 169                              { SC_3, SC_2, SC_1, SC_0, SC_7, SC_6, SC_5, SC_4,
 170                                SC_B, SC_A, SC_9, SC_8, SC_F, SC_E, SC_D, SC_C },
 171
 172                              { SC_4, SC_5, SC_6, SC_7, SC_0, SC_1, SC_2, SC_3,
 173                                SC_C, SC_D, SC_E, SC_F, SC_8, SC_9, SC_A, SC_B },
 174
 175                              { SC_5, SC_4, SC_7, SC_6, SC_1, SC_0, SC_3, SC_2,
 176                                SC_D, SC_C, SC_F, SC_E, SC_9, SC_8, SC_B, SC_A },
 177
 178                              { SC_6, SC_7, SC_4, SC_5, SC_2, SC_3, SC_0, SC_1,
 179                                SC_E, SC_F, SC_C, SC_D, SC_A, SC_B, SC_8, SC_9 },
 180
 181                              { SC_7, SC_6, SC_5, SC_4, SC_3, SC_2, SC_1, SC_0,
 182                                SC_F, SC_E, SC_D, SC_C, SC_B, SC_A, SC_9, SC_8 },
 183
 184                              { SC_8, SC_9, SC_A, SC_B, SC_C, SC_D, SC_E, SC_F,
 185                                SC_0, SC_1, SC_2, SC_3, SC_4, SC_5, SC_6, SC_7 },
 186
 187                              { SC_9, SC_8, SC_B, SC_A, SC_D, SC_C, SC_F, SC_E,
 188                                SC_1, SC_0, SC_3, SC_2, SC_5, SC_4, SC_7, SC_6 },
 189
 190                              { SC_A, SC_B, SC_8, SC_9, SC_E, SC_F, SC_C, SC_D,
 191                                SC_2, SC_3, SC_0, SC_1, SC_6, SC_7, SC_4, SC_5 },
 192
 193                              { SC_B, SC_A, SC_9, SC_8, SC_F, SC_E, SC_D, SC_C,
 194                                SC_3, SC_2, SC_1, SC_0, SC_7, SC_6, SC_5, SC_4 },
 195
 196                              { SC_C, SC_D, SC_E, SC_F, SC_8, SC_9, SC_A, SC_B,
 197                                SC_4, SC_5, SC_6, SC_7, SC_0, SC_1, SC_2, SC_3 },
 198
 199                              { SC_D, SC_C, SC_F, SC_E, SC_9, SC_8, SC_B, SC_A,
 200                                SC_5, SC_4, SC_7, SC_6, SC_1, SC_0, SC_3, SC_2 },
 201
 202                              { SC_E, SC_F, SC_C, SC_D, SC_A, SC_B, SC_8, SC_9,
 203                                SC_6, SC_7, SC_4, SC_5, SC_2, SC_3, SC_0, SC_1 },
 204
 205                              { SC_F, SC_E, SC_D, SC_C, SC_B, SC_A, SC_9, SC_8,
 206                                SC_7, SC_6, SC_5, SC_4, SC_3, SC_2, SC_1, SC_0 }
 207                                 };
 208
 209 static char const add_table[16][16][2] = {
 210                        { {SC_0, SC_0}, {SC_1, SC_0}, {SC_2, SC_0}, {SC_3, SC_0},
 211                          {SC_4, SC_0}, {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0},
 212                          {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0},
 213                          {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0} },
 214
 215                        { {SC_1, SC_0}, {SC_2, SC_0}, {SC_3, SC_0}, {SC_4, SC_0},
 216                          {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0}, {SC_8, SC_0},
 217                          {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0},
 218                          {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1} },
 219
 220                        { {SC_2, SC_0}, {SC_3, SC_0}, {SC_4, SC_0}, {SC_5, SC_0},
 221                          {SC_6, SC_0}, {SC_7, SC_0}, {SC_8, SC_0}, {SC_9, SC_0},
 222                          {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0},
 223                          {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1} },
 224
 225                        { {SC_3, SC_0}, {SC_4, SC_0}, {SC_5, SC_0}, {SC_6, SC_0},
 226                          {SC_7, SC_0}, {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0},
 227                          {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0},
 228                          {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1} },
 229
 230                        { {SC_4, SC_0}, {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0},
 231                          {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0},
 232                          {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0},
 233                          {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1} },
 234
 235                        { {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0}, {SC_8, SC_0},
 236                          {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0},
 237                          {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1},
 238                          {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1} },
 239
 240                        { {SC_6, SC_0}, {SC_7, SC_0}, {SC_8, SC_0}, {SC_9, SC_0},
 241                          {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0},
 242                          {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1},
 243                          {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1} },
 244
 245                        { {SC_7, SC_0}, {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0},
 246                          {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0},
 247                          {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1},
 248                          {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1} },
 249
 250                        { {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0},
 251                          {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0},
 252                          {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1},
 253                          {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1}, {SC_7, SC_1} },
 254
 255                        { {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0},
 256                          {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1},
 257                          {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1},
 258                          {SC_5, SC_1}, {SC_6, SC_1}, {SC_7, SC_1}, {SC_8, SC_1} },
 259
 260                        { {SC_A, SC_0}, {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0},
 261                          {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1},
 262                          {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1},
 263                          {SC_6, SC_1}, {SC_7, SC_1}, {SC_8, SC_1}, {SC_9, SC_1} },
 264
 265                        { {SC_B, SC_0}, {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0},
 266                          {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1},
 267                          {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1},
 268                          {SC_7, SC_1}, {SC_8, SC_1}, {SC_9, SC_1}, {SC_A, SC_1} },
 269
 270                        { {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0},
 271                          {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1},
 272                          {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1}, {SC_7, SC_1},
 273                          {SC_8, SC_1}, {SC_9, SC_1}, {SC_A, SC_1}, {SC_B, SC_1} },
 274
 275                        { {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1},
 276                          {SC_1, SC_1}, {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1},
 277                          {SC_5, SC_1}, {SC_6, SC_1}, {SC_7, SC_1}, {SC_8, SC_1},
 278                          {SC_9, SC_1}, {SC_A, SC_1}, {SC_B, SC_1}, {SC_C, SC_1} },
 279
 280                        { {SC_E, SC_0}, {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1},
 281                          {SC_2, SC_1}, {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1},
 282                          {SC_6, SC_1}, {SC_7, SC_1}, {SC_8, SC_1}, {SC_9, SC_1},
 283                          {SC_A, SC_1}, {SC_B, SC_1}, {SC_C, SC_1}, {SC_D, SC_1} },
 284
 285                        { {SC_F, SC_0}, {SC_0, SC_1}, {SC_1, SC_1}, {SC_2, SC_1},
 286                          {SC_3, SC_1}, {SC_4, SC_1}, {SC_5, SC_1}, {SC_6, SC_1},
 287                          {SC_7, SC_1}, {SC_8, SC_1}, {SC_9, SC_1}, {SC_A, SC_1},
 288                          {SC_B, SC_1}, {SC_C, SC_1}, {SC_D, SC_1}, {SC_E, SC_1} }
 289                              };
 290
 291 static char const mul_table[16][16][2] = {
 292                        { {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0},
 293                          {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0},
 294                          {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0},
 295                          {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0} },
 296
 297                        { {SC_0, SC_0}, {SC_1, SC_0}, {SC_2, SC_0}, {SC_3, SC_0},
 298                          {SC_4, SC_0}, {SC_5, SC_0}, {SC_6, SC_0}, {SC_7, SC_0},
 299                          {SC_8, SC_0}, {SC_9, SC_0}, {SC_A, SC_0}, {SC_B, SC_0},
 300                          {SC_C, SC_0}, {SC_D, SC_0}, {SC_E, SC_0}, {SC_F, SC_0} },
 301
 302                        { {SC_0, SC_0}, {SC_2, SC_0}, {SC_4, SC_0}, {SC_6, SC_0},
 303                          {SC_8, SC_0}, {SC_A, SC_0}, {SC_C, SC_0}, {SC_E, SC_0},
 304                          {SC_0, SC_1}, {SC_2, SC_1}, {SC_4, SC_1}, {SC_6, SC_1},
 305                          {SC_8, SC_1}, {SC_A, SC_1}, {SC_C, SC_1}, {SC_E, SC_1} },
 306
 307                        { {SC_0, SC_0}, {SC_3, SC_0}, {SC_6, SC_0}, {SC_9, SC_0},
 308                          {SC_C, SC_0}, {SC_F, SC_0}, {SC_2, SC_1}, {SC_5, SC_1},
 309                          {SC_8, SC_1}, {SC_B, SC_1}, {SC_E, SC_1}, {SC_1, SC_2},
 310                          {SC_4, SC_2}, {SC_7, SC_2}, {SC_A, SC_2}, {SC_D, SC_2} },
 311
 312                        { {SC_0, SC_0}, {SC_4, SC_0}, {SC_8, SC_0}, {SC_C, SC_0},
 313                          {SC_0, SC_1}, {SC_4, SC_1}, {SC_8, SC_1}, {SC_C, SC_1},
 314                          {SC_0, SC_2}, {SC_4, SC_2}, {SC_8, SC_2}, {SC_C, SC_2},
 315                          {SC_0, SC_3}, {SC_4, SC_3}, {SC_8, SC_3}, {SC_C, SC_3} },
 316
 317                        { {SC_0, SC_0}, {SC_5, SC_0}, {SC_A, SC_0}, {SC_F, SC_0},
 318                          {SC_4, SC_1}, {SC_9, SC_1}, {SC_E, SC_1}, {SC_3, SC_2},
 319                          {SC_8, SC_2}, {SC_D, SC_2}, {SC_2, SC_3}, {SC_7, SC_3},
 320                          {SC_C, SC_3}, {SC_1, SC_4}, {SC_6, SC_4}, {SC_B, SC_4} },
 321
 322                        { {SC_0, SC_0}, {SC_6, SC_0}, {SC_C, SC_0}, {SC_2, SC_1},
 323                          {SC_8, SC_1}, {SC_E, SC_1}, {SC_4, SC_2}, {SC_A, SC_2},
 324                          {SC_0, SC_3}, {SC_6, SC_3}, {SC_C, SC_3}, {SC_2, SC_4},
 325                          {SC_8, SC_4}, {SC_E, SC_4}, {SC_4, SC_5}, {SC_A, SC_5} },
 326
 327                        { {SC_0, SC_0}, {SC_7, SC_0}, {SC_E, SC_0}, {SC_5, SC_1},
 328                          {SC_C, SC_1}, {SC_3, SC_2}, {SC_A, SC_2}, {SC_1, SC_3},
 329                          {SC_8, SC_3}, {SC_F, SC_3}, {SC_6, SC_4}, {SC_D, SC_4},
 330                          {SC_4, SC_5}, {SC_B, SC_5}, {SC_2, SC_6}, {SC_9, SC_6} },
 331
 332                        { {SC_0, SC_0}, {SC_8, SC_0}, {SC_0, SC_1}, {SC_8, SC_1},
 333                          {SC_0, SC_2}, {SC_8, SC_2}, {SC_0, SC_3}, {SC_8, SC_3},
 334                          {SC_0, SC_4}, {SC_8, SC_4}, {SC_0, SC_5}, {SC_8, SC_5},
 335                          {SC_0, SC_6}, {SC_8, SC_6}, {SC_0, SC_7}, {SC_8, SC_7} },
 336
 337                        { {SC_0, SC_0}, {SC_9, SC_0}, {SC_2, SC_1}, {SC_B, SC_1},
 338                          {SC_4, SC_2}, {SC_D, SC_2}, {SC_6, SC_3}, {SC_F, SC_3},
 339                          {SC_8, SC_4}, {SC_1, SC_5}, {SC_A, SC_5}, {SC_3, SC_6},
 340                          {SC_C, SC_6}, {SC_5, SC_7}, {SC_E, SC_7}, {SC_7, SC_8} },
 341
 342                        { {SC_0, SC_0}, {SC_A, SC_0}, {SC_4, SC_1}, {SC_E, SC_1},
 343                          {SC_8, SC_2}, {SC_2, SC_3}, {SC_C, SC_3}, {SC_6, SC_4},
 344                          {SC_0, SC_5}, {SC_A, SC_5}, {SC_4, SC_6}, {SC_E, SC_6},
 345                          {SC_8, SC_7}, {SC_2, SC_8}, {SC_C, SC_8}, {SC_6, SC_9} },
 346
 347                        { {SC_0, SC_0}, {SC_B, SC_0}, {SC_6, SC_1}, {SC_1, SC_2},
 348                          {SC_C, SC_2}, {SC_7, SC_3}, {SC_2, SC_4}, {SC_D, SC_4},
 349                          {SC_8, SC_5}, {SC_3, SC_6}, {SC_E, SC_6}, {SC_9, SC_7},
 350                          {SC_4, SC_8}, {SC_F, SC_8}, {SC_A, SC_9}, {SC_5, SC_A} },
 351
 352                        { {SC_0, SC_0}, {SC_C, SC_0}, {SC_8, SC_1}, {SC_4, SC_2},
 353                          {SC_0, SC_3}, {SC_C, SC_3}, {SC_8, SC_4}, {SC_4, SC_5},
 354                          {SC_0, SC_6}, {SC_C, SC_6}, {SC_8, SC_7}, {SC_4, SC_8},
 355                          {SC_0, SC_9}, {SC_C, SC_9}, {SC_8, SC_A}, {SC_4, SC_B} },
 356
 357                        { {SC_0, SC_0}, {SC_D, SC_0}, {SC_A, SC_1}, {SC_7, SC_2},
 358                          {SC_4, SC_3}, {SC_1, SC_4}, {SC_E, SC_4}, {SC_B, SC_5},
 359                          {SC_8, SC_6}, {SC_5, SC_7}, {SC_2, SC_8}, {SC_F, SC_8},
 360                          {SC_C, SC_9}, {SC_9, SC_A}, {SC_6, SC_B}, {SC_3, SC_C} },
 361
 362                        { {SC_0, SC_0}, {SC_E, SC_0}, {SC_C, SC_1}, {SC_A, SC_2},
 363                          {SC_8, SC_3}, {SC_6, SC_4}, {SC_4, SC_5}, {SC_2, SC_6},
 364                          {SC_0, SC_7}, {SC_E, SC_7}, {SC_C, SC_8}, {SC_A, SC_9},
 365                          {SC_8, SC_A}, {SC_6, SC_B}, {SC_4, SC_C}, {SC_2, SC_D} },
 366
 367                        { {SC_0, SC_0}, {SC_F, SC_0}, {SC_E, SC_1}, {SC_D, SC_2},
 368                          {SC_C, SC_3}, {SC_B, SC_4}, {SC_A, SC_5}, {SC_9, SC_6},
 369                          {SC_8, SC_7}, {SC_7, SC_8}, {SC_6, SC_9}, {SC_5, SC_A},
 370                          {SC_4, SC_B}, {SC_3, SC_C}, {SC_2, SC_D}, {SC_1, SC_E} }
 371                              };
 372
 373 static char const shrs_table[16][4][2] = {
 374                        { {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0}, {SC_0, SC_0} },
 375                        { {SC_1, SC_0}, {SC_0, SC_8}, {SC_0, SC_4}, {SC_0, SC_2} },
 376                        { {SC_2, SC_0}, {SC_1, SC_0}, {SC_0, SC_8}, {SC_0, SC_4} },
 377                        { {SC_3, SC_0}, {SC_1, SC_8}, {SC_0, SC_C}, {SC_0, SC_6} },
 378                        { {SC_4, SC_0}, {SC_2, SC_0}, {SC_1, SC_0}, {SC_0, SC_8} },
 379                        { {SC_5, SC_0}, {SC_2, SC_8}, {SC_1, SC_4}, {SC_0, SC_A} },
 380                        { {SC_6, SC_0}, {SC_3, SC_0}, {SC_1, SC_8}, {SC_0, SC_C} },
 381                        { {SC_7, SC_0}, {SC_3, SC_8}, {SC_1, SC_C}, {SC_0, SC_E} },
 382                        { {SC_8, SC_0}, {SC_4, SC_0}, {SC_2, SC_0}, {SC_1, SC_0} },
 383                        { {SC_9, SC_0}, {SC_4, SC_8}, {SC_2, SC_4}, {SC_1, SC_2} },
 384                        { {SC_A, SC_0}, {SC_5, SC_0}, {SC_2, SC_8}, {SC_1, SC_4} },
 385                        { {SC_B, SC_0}, {SC_5, SC_8}, {SC_2, SC_C}, {SC_1, SC_6} },
 386                        { {SC_C, SC_0}, {SC_6, SC_0}, {SC_3, SC_0}, {SC_1, SC_8} },
 387                        { {SC_D, SC_0}, {SC_6, SC_8}, {SC_3, SC_4}, {SC_1, SC_A} },
 388                        { {SC_E, SC_0}, {SC_7, SC_0}, {SC_3, SC_8}, {SC_1, SC_C} },
 389                        { {SC_F, SC_0}, {SC_7, SC_8}, {SC_3, SC_C}, {SC_1, SC_E} }
 390                                    };
 391
 392 /* for converting to binary string */
 393 static const char *binary_table[16] = {
 394   "0000", "0001", "0010", "0011", "0100", "0101", "0110", "0111",
 395   "1000", "1001", "1010", "1011", "1100", "1101", "1110", "1111"
 396 };
 397
 398 /*****************************************************************************
 399  * private functions
 400  *****************************************************************************/
 401 static void _fail_char(const char *str, size_t len, const char fchar, int pos,
 402                        const char *file, int line)
 403 {
 404   printf("ERROR:\n");
 405   printf("Unexpected character '%c' in %s:%d\n", fchar, file, line);
 406   while (len-- && *str) printf("%c", *str++); printf("\n");
 407   while (--pos) printf(" "); printf("^\n");
 408   exit(-1);
 409 }
 410
 411 static void _bitnot(const char *val, char *buffer)
 412 {
 413   int counter;
 414
 415   for (counter = 0; counter<CALC_BUFFER_SIZE; counter++)
 416     buffer[counter] = not_table[_val(val[counter])];
 417 }
 418
 419 static void _bitor(const char *val1, const char *val2, char *buffer)
 420 {
 421   int counter;
 422
 423   for (counter = 0; counter<CALC_BUFFER_SIZE; counter++)
 424     buffer[counter] = or_table[_val(val1[counter])][_val(val2[counter])];
 425 }
 426
 427 static void _bitxor(const char *val1, const char *val2, char *buffer)
 428 {
 429   int counter;
 430
 431   for (counter = 0; counter<CALC_BUFFER_SIZE; counter++)
 432     buffer[counter] = xor_table[_val(val1[counter])][_val(val2[counter])];
 433 }
 434
 435 static void _bitand(const char *val1, const char *val2, char *buffer)
 436 {
 437   int counter;
 438
 439   for (counter = 0; counter<CALC_BUFFER_SIZE; counter++)
 440     buffer[counter] = and_table[_val(val1[counter])][_val(val2[counter])];
 441 }
 442
 443 static int _sign(const char *val)
 444 {
 445   return (val[CALC_BUFFER_SIZE-1] <= SC_7) ? (1) : (-1);
 446 }
 447
 448 /*
 449  * returns non-zero if bit at position pos is set
 450  */
 451 static int _bit(const char *val, int pos)
 452 {
 453   int bit    = pos & 3;
 454   int nibble = pos >> 2;
 455
 456   return _bitisset(val[nibble], bit);
 457 }
 458
 459 static void _inc(char *val, char *buffer)
 460 {
 461   int counter = 0;
 462
 463   while (counter++ < CALC_BUFFER_SIZE)
 464   {
 465     if (*val == SC_F)
 466     {
 467       *buffer++ = SC_0;
 468       val++;
 469     }
 470     else
 471     {
 472       /* No carry here, *val != SC_F */
 473       *buffer = add_table[_val(*val)][SC_1][0];
 474       return;
 475     }
 476   }
 477   /* here a carry could be lost, this is intended because this should
 478    * happen only when a value changes sign. */
 479 }
 480
 481 static void _negate(const char *val, char *buffer)
 482 {
 483   _bitnot(val, buffer);
 484   _inc(buffer, buffer);
 485 }
 486
 487 static void _add(const char *val1, const char *val2, char *buffer)
 488 {
 489   int counter;
 490   const char *add1, *add2;
 491   char carry = SC_0;
 492
 493   for (counter = 0; counter < CALC_BUFFER_SIZE; counter++)
 494   {
 495     add1 = add_table[_val(val1[counter])][_val(val2[counter])];
 496     add2 = add_table[_val(add1[0])][_val(carry)];
 497     /* carry might be zero */
 498     buffer[counter] = add2[0];
 499     carry = add_table[_val(add1[1])][_val(add2[1])][0];
 500   }
 501 }
 502
 503 static void _mul(const char *val1, const char *val2, char *buffer)
 504 {
 505   char temp_buffer[CALC_BUFFER_SIZE]; /* result buffer */
 506   char neg_val1[CALC_BUFFER_SIZE];    /* abs of val1 */
 507   char neg_val2[CALC_BUFFER_SIZE];    /* abs of val2 */
 508
 509   const char *mul, *add1, *add2;      /* intermediate result containers */
 510   char carry = SC_0;                  /* container for carries */
 511   char sign = 0;                      /* marks result sign */
 512   int c_inner, c_outer;               /* loop counters */
 513
 514   /* init result buffer to zeroes */
 515   memset(temp_buffer, SC_0, CALC_BUFFER_SIZE);
 516
 517   /* the multiplication works only for positive values, for negative values *
 518    * it is necessary to negate them and adjust the result accordingly       */
 519   if (_sign(val1) == -1) {
 520     _negate(val1, neg_val1);
 521     val1 = neg_val1;
 522     sign ^= 1;
 523   }
 524   if (_sign(val2) == -1) {
 525     _negate(val2, neg_val2);
 526     val2 = neg_val2;
 527     sign ^= 1;
 528   }
 529
 530   for (c_outer = 0; c_outer < MAX_VALUE_SIZE; c_outer++)
 531   {
 532     if (val2[c_outer] != SC_0)
 533     {
 534       for (c_inner = 0; c_inner < MAX_VALUE_SIZE; c_inner++)
 535       {
 536         /* do the following calculation:                                    *
 537          * Add the current carry, the value at position c_outer+c_inner     *
 538          * and the result of the multiplication of val1[c_inner] and        *
 539          * val2[c_outer]. This is the usual pen-and-paper multiplication.   */
 540
 541         /* multiplicate the two digits */
 542         mul = mul_table[_val(val1[c_inner])][_val(val2[c_outer])];
 543         /* add old value to result of multiplication */
 544         add1 = add_table[_val(temp_buffer[c_inner + c_outer])][_val(mul[0])];
 545         /* add carry to the sum */
 546         add2 = add_table[_val(add1[0])][_val(carry)];
 547
 548         /* all carries together result in new carry. This is always smaller *
 549          * than the base b:                                                 *
 550          * Both multiplicands, the carry and the value already in the temp  *
 551          * buffer are single digits and their value is therefore at most    *
 552          * equal to (b-1).                                                  *
 553          * This leads to:                                                   *
 554          * (b-1)(b-1)+(b-1)+(b-1) = b*b-1                                   *
 555          * The tables list all operations rem b, so the carry is at most    *
 556          * (b*b-1)rem b = -1rem b = b-1                                     */
 557         carry = add_table[_val(mul[1])][_val(add1[1])][0];
 558         carry = add_table[_val(carry)][_val(add2[1])][0];
 559
 560         temp_buffer[c_inner + c_outer] = add2[0];
 561       }
 562
 563       /* A carry may hang over */
 564       /* c_outer is always smaller than MAX_VALUE_SIZE! */
 565       temp_buffer[MAX_VALUE_SIZE + c_outer] = carry;
 566       carry = SC_0;
 567     }
 568   }
 569
 570   if (sign)
 571     _negate(temp_buffer, buffer);
 572   else
 573     memcpy(buffer, temp_buffer, CALC_BUFFER_SIZE);
 574 }
 575
 576 static void _sub(const char *val1, const char *val2, char *buffer)
 577 {
 578   char temp_buffer[CALC_BUFFER_SIZE];  /* intermediate buffer to hold -val2 */
 579
 580   _negate(val2, temp_buffer);
 581   _add(val1, temp_buffer, buffer);
 582 }
 583
 584 static void _push(const char digit, char *buffer)
 585 {
 586   int counter;
 587
 588   for (counter = CALC_BUFFER_SIZE - 2; counter >= 0; counter--)
 589   {
 590     buffer[counter+1] = buffer[counter];
 591   }
 592   buffer[0] = digit;
 593 }
 594
 595 /* XXX: This is MOST slow */
 596 static void _divmod(const char *dividend, const char *divisor, char *quot, char *rem)
 597 {
 598   const char *minus_divisor;
 599   char neg_val1[CALC_BUFFER_SIZE];
 600   char neg_val2[CALC_BUFFER_SIZE];
 601
 602   char sign = 0;     /* remember result sign */
 603
 604   int c_dividend;      /* loop counters */
 605
 606   /* clear result buffer */
 607   memset(quot, SC_0, CALC_BUFFER_SIZE);
 608   memset(rem, SC_0, CALC_BUFFER_SIZE);
 609
 610   /* if the divisor is zero this won't work (quot is zero) */
 611   if (sc_comp(divisor, quot) == 0) assert(0 && "division by zero!");
 612
 613   /* if the dividend is zero result is zero (quot is zero)*/
 614   if (sc_comp(dividend, quot) == 0)
 615     return;
 616
 617   if (_sign(dividend) == -1)
 618   {
 619     _negate(dividend, neg_val1);
 620     sign ^= 1;
 621     dividend = neg_val1;
 622   }
 623
 624   _negate(divisor, neg_val2);
 625   if (_sign(divisor) == -1)
 626   {
 627     sign ^= 1;
 628     minus_divisor = divisor;
 629     divisor = neg_val2;
 630   }
 631   else
 632   {
 633     minus_divisor = neg_val2;
 634   }
 635
 636   /* if divisor >= dividend division is easy
 637    * (remember these are absolute values) */
 638   switch (sc_comp(dividend, divisor))
 639   {
 640     case 0: /* dividend == divisor */
 641       quot[0] = SC_1;
 642       return;
 643
 644     case -1: /* dividend < divisor */
 645       memcpy(rem, dividend, CALC_BUFFER_SIZE);
 646       return;
 647
 648     default: /* unluckily division is necessary :( */
 649       break;
 650   }
 651
 652   for (c_dividend = CALC_BUFFER_SIZE - 1; c_dividend >= 0; c_dividend--)
 653   {
 654     _push(dividend[c_dividend], rem);
 655     _push(SC_0, quot);
 656
 657     if (sc_comp(rem, divisor) != -1)    /* remainder >= divisor */
 658     {
 659       /* subtract until the remainder becomes negative, this should
 660        * be faster than comparing remainder with divisor  */
 661       _add(rem, minus_divisor, rem);
 662
 663       while (_sign(rem) == 1)
 664       {
 665         quot[0] = add_table[_val(quot[0])][SC_1][0];
 666         _add(rem, minus_divisor, rem);
 667       }
 668
 669       /* subtracted one too much */
 670       _add(rem, divisor, rem);
 671     }
 672   }
 673
 674   carry_flag = !sc_is_zero(rem);
 675
 676   if (sign)
 677   {
 678     _negate(quot, quot);
 679     _negate(rem, rem);
 680   }
 681 }
 682
 683 static void _shl(const char *val1, char *buffer, long offset, int radius, unsigned is_signed)
 684 {
 685   const char *shl;
 686   char shift;
 687   char carry = SC_0;
 688
 689   int counter;
 690   int bitoffset = 0;
 691
 692   assert((offset >= 0) || (0 && "negative leftshift"));
 693   assert(((_sign(val1) != -1) || is_signed) || (0 && "unsigned mode and negative value"));
 694   assert(((!_bitisset(val1[(radius-1)/4], (radius-1)%4)) || !is_signed || (_sign(val1) == -1)) || (0 && "value is positive, should be negative"));
 695   assert(((_bitisset(val1[(radius-1)/4], (radius-1)%4)) || !is_signed || (_sign(val1) == 1)) || (0 && "value is negative, should be positive"));
 696
 697   /* if shifting far enough the result is zero */
 698   if (offset >= radius)
 699   {
 700     memset(buffer, SC_0, CALC_BUFFER_SIZE);
 701     return;
 702   }
 703
 704   shift = shift_table[_val(offset%4)];      /* this is 2 ** (offset % 4) */
 705   offset = offset / 4;
 706
 707   /* shift the single digits some bytes (offset) and some bits (table)
 708    * to the left */
 709   for (counter = 0; counter < radius/4 - offset; counter++)
 710   {
 711     shl = mul_table[_val(val1[counter])][_val(shift)];
 712     buffer[counter + offset] = or_table[_val(shl[0])][_val(carry)];
 713     carry = shl[1];
 714   }
 715   if (radius%4 > 0)
 716   {
 717     shl = mul_table[_val(val1[counter])][_val(shift)];
 718     buffer[counter + offset] = or_table[_val(shl[0])][_val(carry)];
 719     bitoffset = counter;
 720   } else {
 721     bitoffset = counter - 1;
 722   }
 723
 724   /* fill with zeroes */
 725   for (counter = 0; counter < offset; counter++) buffer[counter] = SC_0;
 726
 727   /* if the mode was signed, change sign when the mode's msb is now 1 */
 728   offset = bitoffset + offset;
 729   bitoffset = (radius-1) % 4;
 730   if (is_signed && _bitisset(buffer[offset], bitoffset))
 731   {
 732     /* this sets the upper bits of the leftmost digit */
 733     buffer[offset] = or_table[_val(buffer[offset])][_val(min_digit[bitoffset])];
 734     for (counter = offset+1; counter < CALC_BUFFER_SIZE; counter++)
 735     {
 736       buffer[counter] = SC_F;
 737     }
 738   }
 739   else if (is_signed && !_bitisset(buffer[offset], bitoffset))
 740   {
 741     /* this unsets the upper bits of the leftmost digit */
 742     buffer[offset] = and_table[_val(buffer[offset])][_val(max_digit[bitoffset])];
 743     for (counter = offset+1; counter < CALC_BUFFER_SIZE; counter++)
 744     {
 745       buffer[counter] = SC_0;
 746     }
 747   }
 748 }
 749
 750 static void _shr(const char *val1, char *buffer, long offset, int radius, unsigned is_signed, int signed_shift)
 751 {
 752   const char *shrs;
 753   char sign;
 754   char msd;
 755
 756   int shift;
 757
 758   int counter;
 759   int bitoffset = 0;
 760
 761   assert((offset >= 0) || (0 && "negative rightshift"));
 762   assert(((_sign(val1) != -1) || is_signed) || (0 && "unsigned mode and negative value"));
 763   assert(((!_bitisset(val1[(radius-1)/4], (radius-1)%4)) || !is_signed || (_sign(val1) == -1)) || (0 && "value is positive, should be negative"));
 764   assert(((_bitisset(val1[(radius-1)/4], (radius-1)%4)) || !is_signed || (_sign(val1) == 1)) || (0 && "value is negative, should be positive"));
 765
 766   sign = ((signed_shift) && (_sign(val1) == -1))?(SC_F):(SC_0);
 767
 768   /* if shifting far enough the result is either 0 or -1 */
 769   if (offset >= radius)
 770   {
 771     memset(buffer, sign, CALC_BUFFER_SIZE);
 772     return;
 773   }
 774
 775   shift = offset % 4;
 776   offset = offset / 4;
 777
 778   /* check if any bits are lost, and set carry_flag is so */
 779   for (counter = 0; counter < offset; counter++)
 780   {
 781     if (val1[counter] != carry_flag)
 782     {
 783       carry_flag = 1;
 784       break;
 785     }
 786   }
 787   if ((carry_flag == 0) && (_val(val1[counter]) & shift) != 0)
 788     carry_flag = 1;
 789
 790   /* shift digits to the right with offset, carry and all */
 791   counter = 0;
 792   if (radius/4 - offset > 0) {
 793     buffer[counter] = shrs_table[_val(val1[offset])][shift][0];
 794     counter = 1;
 795   }
 796   for (; counter < radius/4 - offset; counter++)
 797   {
 798     shrs = shrs_table[_val(val1[counter + offset])][shift];
 799     buffer[counter] = shrs[0];
 800     buffer[counter-1] = or_table[_val(buffer[counter-1])][_val(shrs[1])];
 801   }
 802
 803   /* the last digit is special in regard of signed/unsigned shift */
 804   bitoffset = radius%4;
 805   msd = (radius/4<CALC_BUFFER_SIZE)?(val1[radius/4]):(sign);  /* most significant digit */
 806
 807   /* remove sign bits if mode was signed and this is an unsigned shift */
 808   if (!signed_shift && is_signed) {
 809     msd = and_table[_val(msd)][_val(max_digit[bitoffset])];
 810   }
 811
 812   shrs = shrs_table[_val(msd)][shift];
 813
 814   /* signed shift and signed mode and negative value means all bits to the left are set */
 815   if (signed_shift && is_signed && (_sign(val1) == -1)) {
 816     buffer[counter] = or_table[_val(shrs[0])][_val(min_digit[bitoffset])];
 817   } else {
 818     buffer[counter] = shrs[0];
 819   }
 820
 821   if (counter > 0) buffer[counter - 1] = or_table[_val(buffer[counter-1])][_val(shrs[1])];
 822
 823   /* fill with SC_F or SC_0 depending on sign */
 824   for (counter++; counter < CALC_BUFFER_SIZE; counter++)
 825   {
 826     buffer[counter] = sign;
 827   }
 828 }
 829
 830 /* positive: low-order -> high order, negative other direction */
 831 static void _rot(const char *val1, char *buffer, long offset, int radius, unsigned is_signed)
 832 {
 833   char temp1[CALC_BUFFER_SIZE];
 834   char temp2[CALC_BUFFER_SIZE];
 835
 836   offset = offset % radius;
 837
 838   /* rotation by multiples of the typelength is identity */
 839   if (offset == 0) {
 840     memmove(buffer, val1, CALC_BUFFER_SIZE);
 841     return;
 842   }
 843
 844   _shl(val1, temp1, offset, radius, is_signed);
 845   _shr(val1, temp2, radius - offset, radius, is_signed, 0);
 846   _bitor(temp1, temp2, buffer);
 847   carry_flag = 0; /* set by shr, but due to rot this is false */
 848 }
 849
 850 /*****************************************************************************
 851  * public functions, declared in strcalc.h
 852  *****************************************************************************/
 853 const void *sc_get_buffer(void)
 854 {
 855   return (void*)calc_buffer;
 856 }
 857
 858 const int sc_get_buffer_length(void)
 859 {
 860   return CALC_BUFFER_SIZE;
 861 }
 862
 863 /* XXX doesn't check for overflows */
 864 void sc_val_from_str(const char *str, unsigned int len)
 865 {
 866   const char *orig_str = str;
 867   unsigned int orig_len = len;
 868
 869   char sign = 0;
 870   char base[CALC_BUFFER_SIZE];
 871   char val[CALC_BUFFER_SIZE];
 872
 873   /* verify valid pointers (not null) */
 874   assert(str);
 875   /* a string no characters long is an error */
 876   assert(len);
 877
 878   CLEAR_CALC_BUFFER();
 879   memset(base, SC_0, CALC_BUFFER_SIZE);
 880   memset(val, SC_0, CALC_BUFFER_SIZE);
 881
 882   /* strip leading spaces */
 883   while ((len > 0) && (*str == ' ')) { len--; str++; }
 884
 885   /* if the first two characters are 0x or 0X -> hex
 886    * if the first is a 0 -> oct
 887    * else dec, strip leading -/+ and remember sign
 888    *
 889    * only a + or - sign is no number resulting in an error */
 890   if (len >= 2)
 891     switch (str[0])
 892     {
 893       case '0':
 894         if (str[1] == 'x' || str[1] == 'X') /* hex */
 895         {
 896           str += 2;
 897           len -= 2;
 898           base[1] = SC_1; base[0] = SC_0;
 899         }
 900         else /* oct */
 901         {
 902           str += 1;
 903           len -= 1;
 904           base[1] = SC_0; base[0] = SC_8;
 905         }
 906         break;
 907
 908       case '+':
 909         {
 910           str += 1;
 911           len -= 1;
 912           base[1] = SC_0; base[0] = SC_A;
 913         }
 914         break;
 915
 916       case '-':
 917         {
 918           str += 1;
 919           len -= 1;
 920           sign = 1;
 921           base[1] = SC_0; base[0] = SC_A;
 922         }
 923         break;
 924
 925       default: /* dec, else would have begun with 0x or 0 */
 926         base[1] = SC_0; base[0] = SC_A;
 927     }
 928
 929   else /* dec, else would have begun with 0x or 0 */
 930   {
 931     base[1] = SC_0; base[0] = SC_A;
 932   }
 933
 934   /* BEGIN string evaluation, from left to right */
 935   while (len > 0)
 936   {
 937     switch (*str)
 938     {
 939       case 'f':
 940       case 'e':
 941       case 'd':
 942       case 'c':
 943       case 'b':
 944       case 'a':
 945         if (base[0] > SC_9 || base[1] > SC_0) /* (base > 10) */
 946         {
 947           val[0] = _digit((*str)-'a'+10);
 948         }
 949         else fail_char(orig_str, orig_len, *str, str-orig_str+1);
 950         break;
 951
 952       case 'F':
 953       case 'E':
 954       case 'D':
 955       case 'C':
 956       case 'B':
 957       case 'A':
 958         if (base[0] > SC_9 || base[1] > SC_0) /* (base > 10) */
 959         {
 960           val[0] = _digit((*str)-'A'+10);
 961         }
 962         else fail_char(orig_str, orig_len, *str, str-orig_str+1);
 963         break;
 964
 965       case '9':
 966       case '8':
 967         if (base[0] > SC_7 || base[1] > SC_0) /* (base > 8) */
 968         {
 969           val[0] = _digit((*str)-'0');
 970         }
 971         else fail_char(orig_str, orig_len, *str, str-orig_str+1);
 972         break;
 973
 974       case '7':
 975       case '6':
 976       case '5':
 977       case '4':
 978       case '3':
 979       case '2':
 980       case '1':
 981       case '0':
 982         {
 983           val[0] = _digit((*str)-'0');
 984         }
 985         break;
 986
 987       default:
 988         fail_char(orig_str, orig_len, *str, str-orig_str+1);
 989     } /* switch(*str) */
 990
 991     /* Radix conversion from base b to base B:
 992      *  (UnUn-1...U1U0)b == ((((Un*b + Un-1)*b + ...)*b + U1)*b + U0)B */
 993     _mul(base, calc_buffer, calc_buffer); /* multiply current value with base */
 994     _add(val, calc_buffer, calc_buffer);  /* add next digit to current value  */
 995
 996     /* get ready for the next letter */
 997     str++;
 998     len--;
 999
1000   } /* while (len > 0 ) */
1001
1002   if (sign)
1003   {
1004     _negate(calc_buffer, calc_buffer);
1005   }
1006 }
1007
1008 void sc_val_from_long(long value)
1009 {
1010   char *pos;
1011   char sign, is_minlong;
1012
1013   pos = calc_buffer;
1014   sign = (value < 0);
1015   is_minlong = value == LONG_MIN;
1016
1017   /* use absolute value, special treatment of MIN_LONG */
1018   if (sign) {
1019     if (is_minlong)
1020       value = -(value+1);
1021     else
1022       value = -value;
1023   }
1024
1025   CLEAR_CALC_BUFFER();
1026
1027   while ((value != 0) && (pos < calc_buffer + CALC_BUFFER_SIZE))
1028   {
1029     *pos++ = _digit(value % 16);
1030     value /= 16;
1031   }
1032
1033
1034   if (sign) {
1035     if (is_minlong) _inc(calc_buffer, calc_buffer);
1036     _negate(calc_buffer, calc_buffer);
1037   }
1038 }
1039
1040 long sc_val_to_long(const void *val)
1041 {
1042   int i;
1043   long l = 0;
1044
1045   for (i = CALC_BUFFER_SIZE - 1; i >= 0; i--)
1046   {
1047     l = (l << 4) + _val(((char *)val)[i]);
1048   }
1049   return l;
1050 }
1051
1052 void sc_min_from_bits(unsigned int num_bits, unsigned int sign)
1053 {
1054   char* pos;
1055   int i, bits;
1056
1057   CLEAR_CALC_BUFFER();
1058   if (!sign) return;  /* unsigned means minimum is 0(zero) */
1059
1060   pos = calc_buffer;
1061
1062   bits = num_bits - 1;
1063   for (i = 0; i < bits/4; i++)
1064     *pos++ = SC_0;
1065
1066   *pos++ = min_digit[bits%4];
1067
1068   for (i++; i <= CALC_BUFFER_SIZE - 1; i++)
1069     *pos++ = SC_F;
1070 }
1071
1072 void sc_max_from_bits(unsigned int num_bits, unsigned int sign)
1073 {
1074   char* pos;
1075   int i, bits;
1076
1077   CLEAR_CALC_BUFFER();
1078   pos = calc_buffer;
1079
1080   bits = num_bits - sign;
1081   for (i = 0; i < bits/4; i++)
1082     *pos++ = SC_F;
1083
1084   *pos++ = max_digit[bits%4];
1085
1086   for (i++; i <= CALC_BUFFER_SIZE - 1; i++)
1087     *pos++ = SC_0;
1088 }
1089
1090 void sc_calc(const void* value1, const void* value2, unsigned op)
1091 {
1092   char unused_res[CALC_BUFFER_SIZE]; /* temp buffer holding unused result of divmod */
1093
1094   const char *val1 = (const char *)value1;
1095   const char *val2 = (const char *)value2;
1096   CLEAR_CALC_BUFFER();
1097   carry_flag = 0;
1098
1099   DEBUGPRINTF_COMPUTATION(("%s ", sc_print_hex(value1)));
1100
1101   switch (op)
1102   {
1103     case SC_NEG:
1104       _negate(val1, calc_buffer);
1105       DEBUGPRINTF_COMPUTATION(("negated: %s\n", sc_print_hex(calc_buffer)));
1106       return;
1107     case SC_OR:
1108       DEBUGPRINTF_COMPUTATION(("| "));
1109       _bitor(val1, val2, calc_buffer);
1110       break;
1111     case SC_AND:
1112       DEBUGPRINTF_COMPUTATION(("& "));
1113       _bitand(val1, val2, calc_buffer);
1114       break;
1115     case SC_XOR:
1116       DEBUGPRINTF_COMPUTATION(("^ "));
1117       _bitxor(val1, val2, calc_buffer);
1118       break;
1119     case SC_NOT:
1120       _bitnot(val1, calc_buffer);
1121       DEBUGPRINTF_COMPUTATION(("bit-negated: %s\n", sc_print_hex(calc_buffer)));
1122       return;
1123     case SC_ADD:
1124       DEBUGPRINTF_COMPUTATION(("+ "));
1125       _add(val1, val2, calc_buffer);
1126       break;
1127     case SC_SUB:
1128       DEBUGPRINTF_COMPUTATION(("- "));
1129       _sub(val1, val2, calc_buffer);
1130       break;
1131     case SC_MUL:
1132       DEBUGPRINTF_COMPUTATION(("* "));
1133       _mul(val1, val2, calc_buffer);
1134       break;
1135     case SC_DIV:
1136       DEBUGPRINTF_COMPUTATION(("/ "));
1137       _divmod(val1, val2, calc_buffer, unused_res);
1138       break;
1139     case SC_MOD:
1140       DEBUGPRINTF_COMPUTATION(("%% "));
1141       _divmod(val1, val2, unused_res, calc_buffer);
1142       break;
1143     default:
1144       assert(0);
1145   }
1146   DEBUGPRINTF_COMPUTATION(("%s -> ", sc_print_hex(value2)));
1147   DEBUGPRINTF_COMPUTATION(("%s\n", sc_print_hex(calc_buffer)));
1148 }
1149
1150 void sc_bitcalc(const void* value1, const void* value2, int radius, int sign, unsigned op)
1151 {
1152   const char *val1 = (const char *)value1;
1153   const char *val2 = (const char *)value2;
1154   long offset;
1155
1156   carry_flag = 0;
1157   offset = sc_val_to_long(val2);
1158
1159   DEBUGPRINTF_COMPUTATION(("%s ", sc_print_hex(value1)));
1160   switch (op)
1161   {
1162     case SC_SHL:
1163       DEBUGPRINTF_COMPUTATION(("<< %d ", offset));
1164       _shl(val1, calc_buffer, offset, radius, sign);
1165       break;
1166     case SC_SHR:
1167       DEBUGPRINTF_COMPUTATION((">> %d ", offset));
1168       _shr(val1, calc_buffer, offset, radius, sign, 0);
1169       break;
1170     case SC_SHRS:
1171       DEBUGPRINTF_COMPUTATION((">>> %d ", offset));
1172       _shr(val1, calc_buffer, offset, radius, sign, 1);
1173       break;
1174     case SC_ROT:
1175       DEBUGPRINTF_COMPUTATION(("<<>> %d ", offset));
1176       _rot(val1, calc_buffer, offset, radius, sign);
1177       break;
1178     default:
1179       assert(0);
1180   }
1181   DEBUGPRINTF_COMPUTATION(("-> %s\n", sc_print_hex(calc_buffer)));
1182 }
1183
1184 int sc_comp(const void* value1, const void* value2)
1185 {
1186   int counter = CALC_BUFFER_SIZE - 1;
1187   const char *val1 = (const char *)value1;
1188   const char *val2 = (const char *)value2;
1189
1190   /* compare signs first:
1191    * the loop below can only compare values of the same sign! */
1192   if (_sign(val1) != _sign(val2)) return (_sign(val1) == 1)?(1):(-1);
1193
1194   /* loop until two digits differ, the values are equal if there
1195    * are no such two digits */
1196   while (val1[counter] == val2[counter])
1197   {
1198     counter--;
1199     if (counter < 0) return 0;
1200   }
1201
1202   /* the leftmost digit is the most significant, so this returns
1203    * the correct result.
1204    * This implies the digit enum is ordered */
1205   return (val1[counter] > val2[counter]) ? (1) : (-1);
1206 }
1207
1208 int sc_get_highest_set_bit(const void *value)
1209 {
1210   const char *val = (const char*)value;
1211   int high, counter;
1212
1213   high = CALC_BUFFER_SIZE * 4;
1214
1215   for (counter = CALC_BUFFER_SIZE-1; counter >= 0; counter--) {
1216     if (val[counter] == SC_0) high -= 4;
1217     else {
1218       if (val[counter] > SC_7) return high;
1219       else if (val[counter] > SC_3) return high - 1;
1220       else if (val[counter] > SC_1) return high - 2;
1221       else return high - 3;
1222     }
1223   }
1224   return high;
1225 }
1226
1227 int sc_get_lowest_set_bit(const void *value)
1228 {
1229   const char *val = (const char*)value;
1230   int low, counter;
1231   char sign;
1232
1233   sign = (_sign(val)==1)?(SC_0):(SC_F);
1234   low = 0;
1235
1236   for (counter = 0; counter < CALC_BUFFER_SIZE; counter++) {
1237     if (val[counter] == SC_0) low += 4;
1238     else {
1239       if (val[counter] < SC_2) return low;
1240       else if (val[counter] < SC_4) return low + 1;
1241       else if (val[counter] < SC_8) return low + 2;
1242       else return low + 3;
1243     }
1244   }
1245   return low;
1246 }
1247
1248 int sc_is_zero(const void *value)
1249 {
1250   const char* val = (const char *)value;
1251   int counter;
1252
1253   for (counter = 0; counter < CALC_BUFFER_SIZE; counter++) {
1254     if (val[counter] != SC_0) return 0;
1255   }
1256   return 1;
1257 }
1258
1259 int sc_is_negative(const void *value)
1260 {
1261   return _sign(value) == -1;
1262 }
1263
1264 int sc_had_carry(void)
1265 {
1266   return carry_flag;
1267 }
1268
1269 unsigned char sc_sub_bits(const void *value, int len, unsigned byte_ofs)
1270 {
1271   const char *val     = (const char *)value;
1272   unsigned nibble_ofs = 2 * byte_ofs;
1273   unsigned char res;
1274
1275   /* the current scheme uses one byte to store a nibble */
1276   if (nibble_ofs >= len)
1277     return 0;
1278
1279   res = _val(val[nibble_ofs]);
1280   if (len > nibble_ofs + 1)
1281     res |= _val(val[nibble_ofs + 1]) << 4;
1282
1283   return res;
1284 }
1285
1286 /*
1287  * convert to a string
1288  */
1289 const char *sc_print(const void *value, unsigned bits, enum base_t base)
1290 {
1291   static const char big_digits[]   = "0123456789ABCDEF";
1292   static const char small_digits[] = "0123456789abcdef";
1293
1294   char base_val[CALC_BUFFER_SIZE];
1295   char div1_res[CALC_BUFFER_SIZE];
1296   char div2_res[CALC_BUFFER_SIZE];
1297   char rem_res[CALC_BUFFER_SIZE];
1298   int counter, nibbles, i, sign;
1299   char x;
1300
1301   const char *val = (const char *)value;
1302   const char *p;
1303   char *m, *n, *t;
1304   char *pos;
1305   const char *digits = small_digits;
1306
1307   pos = output_buffer + BIT_PATTERN_SIZE ;
1308   *pos = '\0';
1309
1310   /* special case */
1311   if (bits == 0) {
1312     bits = BIT_PATTERN_SIZE;
1313 #ifdef STRCALC_DEBUG_FULLPRINT
1314     bits <<= 1;
1315 #endif
1316   }
1317   nibbles = bits >> 2;
1318   switch (base) {
1319
1320   case SC_HEX:
1321     digits = big_digits;
1322   case SC_hex:
1323     for (counter = 0; counter < nibbles; ++counter) {
1324       *(--pos) = digits[_val(val[counter])];
1325 #ifdef STRCALC_DEBUG_GROUPPRINT
1326       if ((counter+1)%8 == 0)
1327         *(--pos) = ' ';
1328 #endif
1329     }
1330
1331     /* last nibble must be masked */
1332     if (bits & 3) {
1333       x = and_table[_val(val[++counter])][bits & 3];
1334       *(--pos) = digits[_val(x)];
1335     }
1336
1337     /* now kill zeros */
1338     for (; counter > 1; --counter, ++pos) {
1339 #ifdef STRCALC_DEBUG_GROUPPRINT
1340       if (pos[0] == ' ') ++pos;
1341 #endif
1342       if (pos[0] != '0')
1343         break;
1344     }
1345     break;
1346
1347   case SC_BIN:
1348     for (counter = 0; counter < nibbles; ++counter) {
1349       pos -= 4;
1350       p = binary_table[_val(val[counter])];
1351       pos[0] = p[0];
1352       pos[1] = p[1];
1353       pos[2] = p[2];
1354       pos[3] = p[3];
1355     }
1356
1357     /* last nibble must be masked */
1358     if (bits & 3) {
1359       x = and_table[_val(val[++counter])][bits & 3];
1360
1361       pos -= 4;
1362       p = binary_table[_val(x)];
1363       pos[0] = p[0];
1364       pos[1] = p[1];
1365       pos[2] = p[2];
1366       pos[3] = p[3];
1367     }
1368
1369     /* now kill zeros */
1370     for (counter <<= 2; counter > 1; --counter, ++pos)
1371       if (pos[0] != '0')
1372         break;
1373     break;
1374
1375   case SC_DEC:
1376   case SC_OCT:
1377     memset(base_val, SC_0, CALC_BUFFER_SIZE);
1378     base_val[0] = base == SC_DEC ? SC_A : SC_8;
1379
1380     p    = val;
1381     sign = 0;
1382     if (base == SC_DEC) {
1383       /* check for negative values */
1384       if (_bit(val, bits - 1)) {
1385         _negate(val, div2_res);
1386         sign = 1;
1387         p = div2_res;
1388       }
1389     }
1390
1391     /* transfer data into oscilating buffers */
1392     memset(div1_res, SC_0, CALC_BUFFER_SIZE);
1393     for (counter = 0; counter < nibbles; ++counter)
1394       div1_res[counter] = p[counter];
1395
1396      /* last nibble must be masked */
1397     if (bits & 3) {
1398       ++counter;
1399
1400       div1_res[counter] = and_table[_val(p[counter])][bits & 3];
1401     }
1402
1403     m = div1_res;
1404     n = div2_res;
1405     for (;;) {
1406       _divmod(m, base_val, n, rem_res);
1407       t = m;
1408       m = n;
1409       n = t;
1410       *(--pos) = digits[_val(rem_res[0])];
1411
1412       x = 0;
1413       for (i = 0; i < sizeof(div1_res); ++i)
1414         x |= _val(m[i]);
1415
1416       if (x == 0)
1417         break;
1418     }
1419     if (sign)
1420        *(--pos) = '-';
1421     break;
1422
1423   default:
1424     assert(0);
1425     return NULL;
1426 }
1427   return pos;
1428 }
1429
1430 void init_strcalc(int precision_in_bytes)
1431 {
1432   if (calc_buffer == NULL) {
1433     if (precision_in_bytes <= 0) precision_in_bytes = DEFAULT_PRECISION_IN_BYTES;
1434
1435     BIT_PATTERN_SIZE = (8 * precision_in_bytes);
1436     CALC_BUFFER_SIZE = (4 * precision_in_bytes);
1437     MAX_VALUE_SIZE   = (2 * precision_in_bytes);
1438
1439     calc_buffer = malloc(CALC_BUFFER_SIZE+1 * sizeof(char));
1440     output_buffer = malloc(BIT_PATTERN_SIZE+1 * sizeof(char));
1441
1442     if (calc_buffer == NULL || output_buffer == NULL)
1443     {
1444       assert(0 && "malloc failed");
1445       exit(-1);
1446     }
1447
1448     DEBUGPRINTF(("init strcalc: \n\tPRECISION: %d\n\tCALC_BUFFER_SIZE = %d\n\tMAX_VALUE_SIZE = %d\n\tbuffer pointer: %p\n", precision_in_bytes, CALC_BUFFER_SIZE, MAX_VALUE_SIZE, calc_buffer));
1449   }
1450 }
1451 int get_precision()
1452 {
1453   return CALC_BUFFER_SIZE/4;
1454 }