nsz Git - libfirm/blob - ir/be/ia32/ia32_emitter.c

   1 /*
   2  * Copyright (C) 1995-2011 University of Karlsruhe.  All right reserved.
   3  *
   4  * This file is part of libFirm.
   5  *
   6  * This file may be distributed and/or modified under the terms of the
   7  * GNU General Public License version 2 as published by the Free Software
   8  * Foundation and appearing in the file LICENSE.GPL included in the
   9  * packaging of this file.
  10  *
  11  * Licensees holding valid libFirm Professional Edition licenses may use
  12  * this file in accordance with the libFirm Commercial License.
  13  * Agreement provided with the Software.
  14  *
  15  * This file is provided AS IS with NO WARRANTY OF ANY KIND, INCLUDING THE
  16  * WARRANTY OF DESIGN, MERCHANTABILITY AND FITNESS FOR A PARTICULAR
  17  * PURPOSE.
  18  */
  19
  20 /**
  21  * @file
  22  * @brief       This file implements the ia32 node emitter.
  23  * @author      Christian Wuerdig, Matthias Braun
  24  *
  25  * Summary table for x86 floatingpoint compares:
  26  * (remember effect of unordered on x86: ZF=1, PF=1, CF=1)
  27  *
  28  *   pnc_Eq  => !P && E
  29  *   pnc_Lt  => !P && B
  30  *   pnc_Le  => !P && BE
  31  *   pnc_Gt  => A
  32  *   pnc_Ge  => AE
  33  *   pnc_Lg  => NE
  34  *   pnc_Leg => NP  (ordered)
  35  *   pnc_Uo  => P
  36  *   pnc_Ue  => E
  37  *   pnc_Ul  => B
  38  *   pnc_Ule => BE
  39  *   pnc_Ug  => P || A
  40  *   pnc_Uge => P || AE
  41  *   pnc_Ne  => P || NE
  42  */
  43 #include "config.h"
  44
  45 #include <limits.h>
  46
  47 #include "xmalloc.h"
  48 #include "tv.h"
  49 #include "iredges.h"
  50 #include "debug.h"
  51 #include "irgwalk.h"
  52 #include "irprintf.h"
  53 #include "irop_t.h"
  54 #include "irargs_t.h"
  55 #include "irprog_t.h"
  56 #include "iredges_t.h"
  57 #include "irtools.h"
  58 #include "execfreq.h"
  59 #include "error.h"
  60 #include "raw_bitset.h"
  61 #include "dbginfo.h"
  62 #include "lc_opts.h"
  63 #include "ircons.h"
  64
  65 #include "besched.h"
  66 #include "benode.h"
  67 #include "beabi.h"
  68 #include "bedwarf.h"
  69 #include "beemitter.h"
  70 #include "begnuas.h"
  71 #include "beirg.h"
  72
  73 #include "ia32_emitter.h"
  74 #include "ia32_common_transform.h"
  75 #include "gen_ia32_emitter.h"
  76 #include "gen_ia32_regalloc_if.h"
  77 #include "ia32_nodes_attr.h"
  78 #include "ia32_new_nodes.h"
  79 #include "ia32_architecture.h"
  80 #include "bearch_ia32_t.h"
  81
  82 DEBUG_ONLY(static firm_dbg_module_t *dbg = NULL;)
  83
  84 static const ia32_isa_t *isa;
  85 static char              pic_base_label[128];
  86 static ir_label_t        exc_label_id;
  87 static int               mark_spill_reload = 0;
  88 static int               do_pic;
  89
  90 static bool              sp_relative;
  91 static int               frame_type_size;
  92 static int               callframe_offset;
  93
  94 /** Return the next block in Block schedule */
  95 static ir_node *get_prev_block_sched(const ir_node *block)
  96 {
  97         return (ir_node*)get_irn_link(block);
  98 }
  99
 100 /** Checks if the current block is a fall-through target. */
 101 static int is_fallthrough(const ir_node *cfgpred)
 102 {
 103         ir_node *pred;
 104
 105         if (!is_Proj(cfgpred))
 106                 return 1;
 107         pred = get_Proj_pred(cfgpred);
 108         if (is_ia32_SwitchJmp(pred))
 109                 return 0;
 110
 111         return 1;
 112 }
 113
 114 /**
 115  * returns non-zero if the given block needs a label
 116  * because of being a jump-target (and not a fall-through)
 117  */
 118 static int block_needs_label(const ir_node *block)
 119 {
 120         int need_label = 1;
 121         int  n_cfgpreds = get_Block_n_cfgpreds(block);
 122
 123         if (get_Block_entity(block) != NULL)
 124                 return 1;
 125
 126         if (n_cfgpreds == 0) {
 127                 need_label = 0;
 128         } else if (n_cfgpreds == 1) {
 129                 ir_node *cfgpred       = get_Block_cfgpred(block, 0);
 130                 ir_node *cfgpred_block = get_nodes_block(cfgpred);
 131
 132                 if (get_prev_block_sched(block) == cfgpred_block
 133                                 && is_fallthrough(cfgpred)) {
 134                         need_label = 0;
 135                 }
 136         }
 137
 138         return need_label;
 139 }
 140
 141 /**
 142  * Add a number to a prefix. This number will not be used a second time.
 143  */
 144 static char *get_unique_label(char *buf, size_t buflen, const char *prefix)
 145 {
 146         static unsigned long id = 0;
 147         snprintf(buf, buflen, "%s%s%lu", be_gas_get_private_prefix(), prefix, ++id);
 148         return buf;
 149 }
 150
 151 /**
 152  * Emit the name of the 8bit low register
 153  */
 154 static void emit_8bit_register(const arch_register_t *reg)
 155 {
 156         const char *reg_name = arch_register_get_name(reg);
 157         assert(reg->index == REG_GP_EAX || reg->index == REG_GP_EBX
 158                         || reg->index == REG_GP_ECX || reg->index == REG_GP_EDX);
 159
 160         be_emit_char('%');
 161         be_emit_char(reg_name[1]); /* get the basic name of the register */
 162         be_emit_char('l');
 163 }
 164
 165 /**
 166  * Emit the name of the 8bit high register
 167  */
 168 static void emit_8bit_register_high(const arch_register_t *reg)
 169 {
 170         const char *reg_name = arch_register_get_name(reg);
 171         assert(reg->index == REG_GP_EAX || reg->index == REG_GP_EBX
 172                         || reg->index == REG_GP_ECX || reg->index == REG_GP_EDX);
 173
 174         be_emit_char('%');
 175         be_emit_char(reg_name[1]); /* get the basic name of the register */
 176         be_emit_char('h');
 177 }
 178
 179 static void emit_16bit_register(const arch_register_t *reg)
 180 {
 181         const char *reg_name = arch_register_get_name(reg);
 182
 183         be_emit_char('%');
 184         be_emit_string(reg_name+1); /* skip the 'e' prefix of the 32bit names */
 185 }
 186
 187 /**
 188  * emit a register, possible shortened by a mode
 189  *
 190  * @param reg   the register
 191  * @param mode  the mode of the register or NULL for full register
 192  */
 193 static void emit_register(const arch_register_t *reg, const ir_mode *mode)
 194 {
 195         const char *reg_name;
 196
 197         if (mode != NULL) {
 198                 int size = get_mode_size_bits(mode);
 199                 switch (size) {
 200                         case  8: emit_8bit_register(reg);  return;
 201                         case 16: emit_16bit_register(reg); return;
 202                 }
 203                 assert(mode_is_float(mode) || size == 32);
 204         }
 205
 206         reg_name = arch_register_get_name(reg);
 207
 208         be_emit_char('%');
 209         be_emit_string(reg_name);
 210 }
 211
 212 void ia32_emit_source_register(const ir_node *node, int pos)
 213 {
 214         const arch_register_t *reg = arch_get_irn_register_in(node, pos);
 215
 216         emit_register(reg, NULL);
 217 }
 218
 219 static void ia32_emit_entity(ir_entity *entity, int no_pic_adjust)
 220 {
 221         be_gas_emit_entity(entity);
 222
 223         if (get_entity_owner(entity) == get_tls_type()) {
 224                 if (!entity_has_definition(entity)) {
 225                         be_emit_cstring("@INDNTPOFF");
 226                 } else {
 227                         be_emit_cstring("@NTPOFF");
 228                 }
 229         }
 230
 231         if (do_pic && !no_pic_adjust) {
 232                 be_emit_char('-');
 233                 be_emit_string(pic_base_label);
 234         }
 235 }
 236
 237 static void emit_ia32_Immediate_no_prefix(const ir_node *node)
 238 {
 239         const ia32_immediate_attr_t *attr = get_ia32_immediate_attr_const(node);
 240
 241         if (attr->symconst != NULL) {
 242                 if (attr->sc_sign)
 243                         be_emit_char('-');
 244                 ia32_emit_entity(attr->symconst, attr->no_pic_adjust);
 245         }
 246         if (attr->symconst == NULL || attr->offset != 0) {
 247                 if (attr->symconst != NULL) {
 248                         be_emit_irprintf("%+d", attr->offset);
 249                 } else {
 250                         be_emit_irprintf("0x%X", attr->offset);
 251                 }
 252         }
 253 }
 254
 255 static void emit_ia32_Immediate(const ir_node *node)
 256 {
 257         be_emit_char('$');
 258         emit_ia32_Immediate_no_prefix(node);
 259 }
 260
 261 void ia32_emit_8bit_source_register_or_immediate(const ir_node *node, int pos)
 262 {
 263         const arch_register_t *reg;
 264         const ir_node         *in = get_irn_n(node, pos);
 265         if (is_ia32_Immediate(in)) {
 266                 emit_ia32_Immediate(in);
 267                 return;
 268         }
 269
 270         reg = arch_get_irn_register_in(node, pos);
 271         emit_8bit_register(reg);
 272 }
 273
 274 void ia32_emit_8bit_high_source_register(const ir_node *node, int pos)
 275 {
 276         const arch_register_t *reg = arch_get_irn_register_in(node, pos);
 277         emit_8bit_register_high(reg);
 278 }
 279
 280 void ia32_emit_16bit_source_register_or_immediate(const ir_node *node, int pos)
 281 {
 282         const arch_register_t *reg;
 283         const ir_node         *in = get_irn_n(node, pos);
 284         if (is_ia32_Immediate(in)) {
 285                 emit_ia32_Immediate(in);
 286                 return;
 287         }
 288
 289         reg = arch_get_irn_register_in(node, pos);
 290         emit_16bit_register(reg);
 291 }
 292
 293 void ia32_emit_dest_register(const ir_node *node, int pos)
 294 {
 295         const arch_register_t *reg  = arch_get_irn_register_out(node, pos);
 296
 297         emit_register(reg, NULL);
 298 }
 299
 300 void ia32_emit_dest_register_size(const ir_node *node, int pos)
 301 {
 302         const arch_register_t *reg  = arch_get_irn_register_out(node, pos);
 303
 304         emit_register(reg, get_ia32_ls_mode(node));
 305 }
 306
 307 void ia32_emit_8bit_dest_register(const ir_node *node, int pos)
 308 {
 309         const arch_register_t *reg  = arch_get_irn_register_out(node, pos);
 310
 311         emit_register(reg, mode_Bu);
 312 }
 313
 314 void ia32_emit_x87_register(const ir_node *node, int pos)
 315 {
 316         const ia32_x87_attr_t *attr = get_ia32_x87_attr_const(node);
 317
 318         assert(pos < 3);
 319         be_emit_char('%');
 320         be_emit_string(attr->x87[pos]->name);
 321 }
 322
 323 static void ia32_emit_mode_suffix_mode(const ir_mode *mode)
 324 {
 325         assert(mode_is_int(mode) || mode_is_reference(mode));
 326         switch (get_mode_size_bits(mode)) {
 327                 case 8:  be_emit_char('b');     return;
 328                 case 16: be_emit_char('w');     return;
 329                 case 32: be_emit_char('l');     return;
 330                 /* gas docu says q is the suffix but gcc, objdump and icc use ll
 331                  * apparently */
 332                 case 64: be_emit_cstring("ll"); return;
 333         }
 334         panic("Can't output mode_suffix for %+F", mode);
 335 }
 336
 337 void ia32_emit_mode_suffix(const ir_node *node)
 338 {
 339         ir_mode *mode = get_ia32_ls_mode(node);
 340         if (mode == NULL)
 341                 mode = mode_Iu;
 342
 343         ia32_emit_mode_suffix_mode(mode);
 344 }
 345
 346 void ia32_emit_x87_mode_suffix(const ir_node *node)
 347 {
 348         ir_mode *mode;
 349
 350         /* we only need to emit the mode on address mode */
 351         if (get_ia32_op_type(node) == ia32_Normal)
 352                 return;
 353
 354         mode = get_ia32_ls_mode(node);
 355         assert(mode != NULL);
 356
 357         if (mode_is_float(mode)) {
 358                 switch (get_mode_size_bits(mode)) {
 359                         case  32: be_emit_char('s'); return;
 360                         case  64: be_emit_char('l'); return;
 361                         /* long doubles have different sizes due to alignment on different
 362                          * platforms. */
 363                         case  80:
 364                         case  96:
 365                         case 128: be_emit_char('t'); return;
 366                 }
 367         } else {
 368                 assert(mode_is_int(mode) || mode_is_reference(mode));
 369                 switch (get_mode_size_bits(mode)) {
 370                         case 16: be_emit_char('s');     return;
 371                         case 32: be_emit_char('l');     return;
 372                         /* gas docu says q is the suffix but gcc, objdump and icc use ll
 373                          * apparently */
 374                         case 64: be_emit_cstring("ll"); return;
 375                 }
 376         }
 377         panic("Can't output mode_suffix for %+F", mode);
 378 }
 379
 380 static char get_xmm_mode_suffix(ir_mode *mode)
 381 {
 382         assert(mode_is_float(mode));
 383         switch (get_mode_size_bits(mode)) {
 384         case 32: return 's';
 385         case 64: return 'd';
 386         default: panic("Invalid XMM mode");
 387         }
 388 }
 389
 390 void ia32_emit_xmm_mode_suffix(const ir_node *node)
 391 {
 392         ir_mode *mode = get_ia32_ls_mode(node);
 393         assert(mode != NULL);
 394         be_emit_char('s');
 395         be_emit_char(get_xmm_mode_suffix(mode));
 396 }
 397
 398 void ia32_emit_xmm_mode_suffix_s(const ir_node *node)
 399 {
 400         ir_mode *mode = get_ia32_ls_mode(node);
 401         assert(mode != NULL);
 402         be_emit_char(get_xmm_mode_suffix(mode));
 403 }
 404
 405 void ia32_emit_extend_suffix(const ir_node *node)
 406 {
 407         ir_mode *mode = get_ia32_ls_mode(node);
 408         if (get_mode_size_bits(mode) == 32)
 409                 return;
 410         be_emit_char(mode_is_signed(mode) ? 's' : 'z');
 411         ia32_emit_mode_suffix_mode(mode);
 412 }
 413
 414 void ia32_emit_source_register_or_immediate(const ir_node *node, int pos)
 415 {
 416         ir_node *in = get_irn_n(node, pos);
 417         if (is_ia32_Immediate(in)) {
 418                 emit_ia32_Immediate(in);
 419         } else {
 420                 const ir_mode         *mode = get_ia32_ls_mode(node);
 421                 const arch_register_t *reg  = arch_get_irn_register_in(node, pos);
 422                 emit_register(reg, mode);
 423         }
 424 }
 425
 426 /**
 427  * Returns the target block for a control flow node.
 428  */
 429 static ir_node *get_cfop_target_block(const ir_node *irn)
 430 {
 431         assert(get_irn_mode(irn) == mode_X);
 432         return (ir_node*)get_irn_link(irn);
 433 }
 434
 435 /**
 436  * Emits the target label for a control flow node.
 437  */
 438 static void ia32_emit_cfop_target(const ir_node *node)
 439 {
 440         ir_node *block = get_cfop_target_block(node);
 441         be_gas_emit_block_name(block);
 442 }
 443
 444 /**
 445  * Emit the suffix for a compare instruction.
 446  */
 447 static void ia32_emit_condition_code(ia32_condition_code_t cc)
 448 {
 449         switch (cc) {
 450         case ia32_cc_overflow:      be_emit_cstring("o");  return;
 451         case ia32_cc_not_overflow:  be_emit_cstring("no"); return;
 452         case ia32_cc_float_below:
 453         case ia32_cc_float_unordered_below:
 454         case ia32_cc_below:         be_emit_cstring("b");  return;
 455         case ia32_cc_float_above_equal:
 456         case ia32_cc_float_unordered_above_equal:
 457         case ia32_cc_above_equal:   be_emit_cstring("ae"); return;
 458         case ia32_cc_float_equal:
 459         case ia32_cc_equal:         be_emit_cstring("e");  return;
 460         case ia32_cc_float_not_equal:
 461         case ia32_cc_not_equal:     be_emit_cstring("ne"); return;
 462         case ia32_cc_float_below_equal:
 463         case ia32_cc_float_unordered_below_equal:
 464         case ia32_cc_below_equal:   be_emit_cstring("be"); return;
 465         case ia32_cc_float_above:
 466         case ia32_cc_float_unordered_above:
 467         case ia32_cc_above:         be_emit_cstring("a");  return;
 468         case ia32_cc_sign:          be_emit_cstring("s");  return;
 469         case ia32_cc_not_sign:      be_emit_cstring("ns"); return;
 470         case ia32_cc_parity:        be_emit_cstring("p");  return;
 471         case ia32_cc_not_parity:    be_emit_cstring("np"); return;
 472         case ia32_cc_less:          be_emit_cstring("l");  return;
 473         case ia32_cc_greater_equal: be_emit_cstring("ge"); return;
 474         case ia32_cc_less_equal:    be_emit_cstring("le"); return;
 475         case ia32_cc_greater:       be_emit_cstring("g");  return;
 476         case ia32_cc_float_parity_cases:
 477         case ia32_cc_additional_float_cases:
 478                 break;
 479         }
 480         panic("Invalid ia32 condition code");
 481 }
 482
 483 typedef enum ia32_emit_mod_t {
 484         EMIT_NONE         = 0,
 485         EMIT_RESPECT_LS   = 1U << 0,
 486         EMIT_ALTERNATE_AM = 1U << 1,
 487         EMIT_LONG         = 1U << 2,
 488         EMIT_HIGH_REG     = 1U << 3,
 489         EMIT_LOW_REG      = 1U << 4
 490 } ia32_emit_mod_t;
 491 ENUM_BITSET(ia32_emit_mod_t)
 492
 493 /**
 494  * Emits address mode.
 495  */
 496 void ia32_emit_am(const ir_node *node)
 497 {
 498         ir_entity *ent       = get_ia32_am_sc(node);
 499         int        offs      = get_ia32_am_offs_int(node);
 500         ir_node   *base      = get_irn_n(node, n_ia32_base);
 501         int        has_base  = !is_ia32_NoReg_GP(base);
 502         ir_node   *idx       = get_irn_n(node, n_ia32_index);
 503         int        has_index = !is_ia32_NoReg_GP(idx);
 504
 505         /* just to be sure... */
 506         assert(!is_ia32_use_frame(node) || get_ia32_frame_ent(node) != NULL);
 507
 508         if (get_ia32_am_tls_segment(node))
 509                 be_emit_cstring("%gs:");
 510
 511         /* emit offset */
 512         if (ent != NULL) {
 513                 const ia32_attr_t *attr = get_ia32_attr_const(node);
 514                 if (is_ia32_am_sc_sign(node))
 515                         be_emit_char('-');
 516                 ia32_emit_entity(ent, attr->data.am_sc_no_pic_adjust);
 517         }
 518
 519         /* also handle special case if nothing is set */
 520         if (offs != 0 || (ent == NULL && !has_base && !has_index)) {
 521                 if (ent != NULL) {
 522                         be_emit_irprintf("%+d", offs);
 523                 } else {
 524                         be_emit_irprintf("%d", offs);
 525                 }
 526         }
 527
 528         if (has_base || has_index) {
 529                 be_emit_char('(');
 530
 531                 /* emit base */
 532                 if (has_base) {
 533                         const arch_register_t *reg = arch_get_irn_register_in(node, n_ia32_base);
 534                         emit_register(reg, NULL);
 535                 }
 536
 537                 /* emit index + scale */
 538                 if (has_index) {
 539                         const arch_register_t *reg = arch_get_irn_register_in(node, n_ia32_index);
 540                         int scale;
 541                         be_emit_char(',');
 542                         emit_register(reg, NULL);
 543
 544                         scale = get_ia32_am_scale(node);
 545                         if (scale > 0) {
 546                                 be_emit_irprintf(",%d", 1 << scale);
 547                         }
 548                 }
 549                 be_emit_char(')');
 550         }
 551 }
 552
 553 /**
 554  * fmt  parameter               output
 555  * ---- ----------------------  ---------------------------------------------
 556  * %%                           %
 557  * %AM  <node>                  address mode of the node
 558  * %AR  const arch_register_t*  address mode of the node or register
 559  * %ASx <node>                  address mode of the node or source register x
 560  * %Dx  <node>                  destination register x
 561  * %I   <node>                  immediate of the node
 562  * %L   <node>                  control flow target of the node
 563  * %M   <node>                  mode suffix of the node
 564  * %P   int                     condition code
 565  * %R   const arch_register_t*  register
 566  * %Sx  <node>                  source register x
 567  * %s   const char*             string
 568  * %u   unsigned int            unsigned int
 569  * %d   signed int              signed int
 570  *
 571  * x starts at 0
 572  * # modifier for %ASx, %D, %R, and %S uses ls mode of node to alter register width
 573  * * modifier does not prefix immediates with $, but AM with *
 574  * l modifier for %lu and %ld
 575  * > modifier to output high 8bit register (ah, bh)
 576  * < modifier to output low 8bit register (al, bl)
 577  */
 578 static void ia32_emitf(const ir_node *node, const char *fmt, ...)
 579 {
 580         va_list ap;
 581         va_start(ap, fmt);
 582
 583         for (;;) {
 584                 const char      *start = fmt;
 585                 ia32_emit_mod_t  mod   = EMIT_NONE;
 586
 587                 while (*fmt != '%' && *fmt != '\n' && *fmt != '\0')
 588                         ++fmt;
 589                 if (fmt != start) {
 590                         be_emit_string_len(start, fmt - start);
 591                 }
 592
 593                 if (*fmt == '\n') {
 594                         be_emit_finish_line_gas(node);
 595                         ++fmt;
 596                         if (*fmt == '\0')
 597                                 break;
 598                         continue;
 599                 }
 600
 601                 if (*fmt == '\0')
 602                         break;
 603
 604                 ++fmt;
 605                 for (;;) {
 606                         switch (*fmt) {
 607                         case '*': mod |= EMIT_ALTERNATE_AM; break;
 608                         case '#': mod |= EMIT_RESPECT_LS;   break;
 609                         case 'l': mod |= EMIT_LONG;         break;
 610                         case '>': mod |= EMIT_HIGH_REG;     break;
 611                         case '<': mod |= EMIT_LOW_REG;      break;
 612                         default:
 613                                 goto end_of_mods;
 614                         }
 615                         ++fmt;
 616                 }
 617 end_of_mods:
 618
 619                 switch (*fmt++) {
 620                         arch_register_t const *reg;
 621                         ir_node         const *imm;
 622
 623                         case '%':
 624                                 be_emit_char('%');
 625                                 break;
 626
 627                         case 'A': {
 628                                 switch (*fmt++) {
 629 emit_AM:
 630                                         case 'M':
 631                                                 if (mod & EMIT_ALTERNATE_AM)
 632                                                         be_emit_char('*');
 633                                                 ia32_emit_am(node);
 634                                                 break;
 635
 636                                         case 'R':
 637                                                 reg = va_arg(ap, const arch_register_t*);
 638                                                 if (get_ia32_op_type(node) == ia32_AddrModeS) {
 639                                                         goto emit_AM;
 640                                                 } else {
 641                                                         goto emit_R;
 642                                                 }
 643
 644                                         case 'S':
 645                                                 if (get_ia32_op_type(node) == ia32_AddrModeS) {
 646                                                         ++fmt;
 647                                                         goto emit_AM;
 648                                                 } else {
 649                                                         assert(get_ia32_op_type(node) == ia32_Normal);
 650                                                         goto emit_S;
 651                                                 }
 652
 653                                         default: goto unknown;
 654                                 }
 655                                 break;
 656                         }
 657
 658                         case 'D':
 659                                 if (*fmt < '0' || '9' <= *fmt)
 660                                         goto unknown;
 661                                 reg = arch_get_irn_register_out(node, *fmt++ - '0');
 662                                 goto emit_R;
 663
 664                         case 'I':
 665                                 imm = node;
 666 emit_I:
 667                                 if (!(mod & EMIT_ALTERNATE_AM))
 668                                         be_emit_char('$');
 669                                 emit_ia32_Immediate_no_prefix(imm);
 670                                 break;
 671
 672                         case 'L':
 673                                 ia32_emit_cfop_target(node);
 674                                 break;
 675
 676                         case 'M':
 677                                 ia32_emit_mode_suffix_mode(get_ia32_ls_mode(node));
 678                                 break;
 679
 680                         case 'P': {
 681                                 ia32_condition_code_t cc = (ia32_condition_code_t)va_arg(ap, int);
 682                                 ia32_emit_condition_code(cc);
 683                                 break;
 684                         }
 685
 686                         case 'R':
 687                                 reg = va_arg(ap, const arch_register_t*);
 688 emit_R:
 689                                 if (mod & EMIT_ALTERNATE_AM)
 690                                         be_emit_char('*');
 691                                 if (mod & EMIT_HIGH_REG) {
 692                                         emit_8bit_register_high(reg);
 693                                 } else if (mod & EMIT_LOW_REG) {
 694                                         emit_8bit_register(reg);
 695                                 } else {
 696                                         emit_register(reg, mod & EMIT_RESPECT_LS ? get_ia32_ls_mode(node) : NULL);
 697                                 }
 698                                 break;
 699
 700 emit_S:
 701                         case 'S': {
 702                                 unsigned pos;
 703
 704                                 if (*fmt < '0' || '9' <= *fmt)
 705                                         goto unknown;
 706
 707                                 pos = *fmt++ - '0';
 708                                 imm = get_irn_n(node, pos);
 709                                 if (is_ia32_Immediate(imm)) {
 710                                         goto emit_I;
 711                                 } else {
 712                                         reg = arch_get_irn_register_in(node, pos);
 713                                         goto emit_R;
 714                                 }
 715                         }
 716
 717                         case 's': {
 718                                 const char *str = va_arg(ap, const char*);
 719                                 be_emit_string(str);
 720                                 break;
 721                         }
 722
 723                         case 'u':
 724                                 if (mod & EMIT_LONG) {
 725                                         unsigned long num = va_arg(ap, unsigned long);
 726                                         be_emit_irprintf("%lu", num);
 727                                 } else {
 728                                         unsigned num = va_arg(ap, unsigned);
 729                                         be_emit_irprintf("%u", num);
 730                                 }
 731                                 break;
 732
 733                         case 'd':
 734                                 if (mod & EMIT_LONG) {
 735                                         long num = va_arg(ap, long);
 736                                         be_emit_irprintf("%ld", num);
 737                                 } else {
 738                                         int num = va_arg(ap, int);
 739                                         be_emit_irprintf("%d", num);
 740                                 }
 741                                 break;
 742
 743                         default:
 744 unknown:
 745                                 panic("unknown format conversion in ia32_emitf()");
 746                 }
 747         }
 748
 749         va_end(ap);
 750 }
 751
 752 /**
 753  * Emits registers and/or address mode of a binary operation.
 754  */
 755 void ia32_emit_binop(const ir_node *node)
 756 {
 757         if (is_ia32_Immediate(get_irn_n(node, n_ia32_binary_right))) {
 758                 ia32_emitf(node, "%#S4, %#AS3");
 759         } else {
 760                 ia32_emitf(node, "%#AS4, %#S3");
 761         }
 762 }
 763
 764 /**
 765  * Emits registers and/or address mode of a binary operation.
 766  */
 767 void ia32_emit_x87_binop(const ir_node *node)
 768 {
 769         switch (get_ia32_op_type(node)) {
 770                 case ia32_Normal:
 771                         {
 772                                 const ia32_x87_attr_t *x87_attr = get_ia32_x87_attr_const(node);
 773                                 const arch_register_t *in1      = x87_attr->x87[0];
 774                                 const arch_register_t *in       = x87_attr->x87[1];
 775                                 const arch_register_t *out      = x87_attr->x87[2];
 776
 777                                 if (out == NULL) {
 778                                         out = in1;
 779                                 } else if (out == in) {
 780                                         in = in1;
 781                                 }
 782
 783                                 be_emit_char('%');
 784                                 be_emit_string(arch_register_get_name(in));
 785                                 be_emit_cstring(", %");
 786                                 be_emit_string(arch_register_get_name(out));
 787                         }
 788                         break;
 789                 case ia32_AddrModeS:
 790                         ia32_emit_am(node);
 791                         break;
 792                 case ia32_AddrModeD:
 793                 default:
 794                         assert(0 && "unsupported op type");
 795         }
 796 }
 797
 798 /**
 799  * Emits registers and/or address mode of a unary operation.
 800  */
 801 void ia32_emit_unop(const ir_node *node, int pos)
 802 {
 803         char fmt[] = "%ASx";
 804         fmt[3] = '0' + pos;
 805         ia32_emitf(node, fmt);
 806 }
 807
 808 static void emit_ia32_IMul(const ir_node *node)
 809 {
 810         ir_node               *left    = get_irn_n(node, n_ia32_IMul_left);
 811         const arch_register_t *out_reg = arch_get_irn_register_out(node, pn_ia32_IMul_res);
 812
 813         /* do we need the 3-address form? */
 814         if (is_ia32_NoReg_GP(left) ||
 815                         arch_get_irn_register_in(node, n_ia32_IMul_left) != out_reg) {
 816                 ia32_emitf(node, "\timul%M %#S4, %#AS3, %#D0\n");
 817         } else {
 818                 ia32_emitf(node, "\timul%M %#AS4, %#S3\n");
 819         }
 820 }
 821
 822 /**
 823  * walks up a tree of copies/perms/spills/reloads to find the original value
 824  * that is moved around
 825  */
 826 static ir_node *find_original_value(ir_node *node)
 827 {
 828         if (irn_visited(node))
 829                 return NULL;
 830
 831         mark_irn_visited(node);
 832         if (be_is_Copy(node)) {
 833                 return find_original_value(be_get_Copy_op(node));
 834         } else if (be_is_CopyKeep(node)) {
 835                 return find_original_value(be_get_CopyKeep_op(node));
 836         } else if (is_Proj(node)) {
 837                 ir_node *pred = get_Proj_pred(node);
 838                 if (be_is_Perm(pred)) {
 839                         return find_original_value(get_irn_n(pred, get_Proj_proj(node)));
 840                 } else if (be_is_MemPerm(pred)) {
 841                         return find_original_value(get_irn_n(pred, get_Proj_proj(node) + 1));
 842                 } else if (is_ia32_Load(pred)) {
 843                         return find_original_value(get_irn_n(pred, n_ia32_Load_mem));
 844                 } else if (is_ia32_Store(pred)) {
 845                         return find_original_value(get_irn_n(pred, n_ia32_Store_val));
 846                 } else {
 847                         return node;
 848                 }
 849         } else if (is_Phi(node)) {
 850                 int i, arity;
 851                 arity = get_irn_arity(node);
 852                 for (i = 0; i < arity; ++i) {
 853                         ir_node *in  = get_irn_n(node, i);
 854                         ir_node *res = find_original_value(in);
 855
 856                         if (res != NULL)
 857                                 return res;
 858                 }
 859                 return NULL;
 860         } else {
 861                 return node;
 862         }
 863 }
 864
 865 static ia32_condition_code_t determine_final_cc(const ir_node *node,
 866                 int flags_pos, ia32_condition_code_t cc)
 867 {
 868         ir_node           *flags = get_irn_n(node, flags_pos);
 869         const ia32_attr_t *flags_attr;
 870         flags = skip_Proj(flags);
 871
 872         if (is_ia32_Sahf(flags)) {
 873                 ir_node *cmp = get_irn_n(flags, n_ia32_Sahf_val);
 874                 if (!(is_ia32_FucomFnstsw(cmp) || is_ia32_FucompFnstsw(cmp)
 875                                 || is_ia32_FucomppFnstsw(cmp) || is_ia32_FtstFnstsw(cmp))) {
 876                         inc_irg_visited(current_ir_graph);
 877                         cmp = find_original_value(cmp);
 878                         assert(cmp != NULL);
 879                         assert(is_ia32_FucomFnstsw(cmp) || is_ia32_FucompFnstsw(cmp)
 880                                || is_ia32_FucomppFnstsw(cmp) || is_ia32_FtstFnstsw(cmp));
 881                 }
 882
 883                 flags_attr = get_ia32_attr_const(cmp);
 884         } else {
 885                 flags_attr = get_ia32_attr_const(flags);
 886         }
 887
 888         if (flags_attr->data.ins_permuted)
 889                 cc = ia32_invert_condition_code(cc);
 890         return cc;
 891 }
 892
 893 void ia32_emit_cmp_suffix_node(const ir_node *node, int flags_pos)
 894 {
 895         ia32_condition_code_t cc = get_ia32_condcode(node);
 896         cc = determine_final_cc(node, flags_pos, cc);
 897
 898         ia32_emit_condition_code(cc);
 899 }
 900
 901 /**
 902  * Emits an exception label for a given node.
 903  */
 904 static void ia32_emit_exc_label(const ir_node *node)
 905 {
 906         be_emit_string(be_gas_insn_label_prefix());
 907         be_emit_irprintf("%lu", get_ia32_exc_label_id(node));
 908 }
 909
 910 /**
 911  * Returns the Proj with projection number proj and NOT mode_M
 912  */
 913 static ir_node *get_proj(const ir_node *node, long proj)
 914 {
 915         ir_node *src;
 916
 917         assert(get_irn_mode(node) == mode_T && "expected mode_T node");
 918
 919         foreach_out_edge(node, edge) {
 920                 src = get_edge_src_irn(edge);
 921
 922                 assert(is_Proj(src) && "Proj expected");
 923                 if (get_irn_mode(src) == mode_M)
 924                         continue;
 925
 926                 if (get_Proj_proj(src) == proj)
 927                         return src;
 928         }
 929         return NULL;
 930 }
 931
 932 static int can_be_fallthrough(const ir_node *node)
 933 {
 934         ir_node *target_block = get_cfop_target_block(node);
 935         ir_node *block        = get_nodes_block(node);
 936         return get_prev_block_sched(target_block) == block;
 937 }
 938
 939 /**
 940  * Emits the jump sequence for a conditional jump (cmp + jmp_true + jmp_false)
 941  */
 942 static void emit_ia32_Jcc(const ir_node *node)
 943 {
 944         int                   need_parity_label = 0;
 945         ia32_condition_code_t cc                = get_ia32_condcode(node);
 946         const ir_node        *proj_true;
 947         const ir_node        *proj_false;
 948
 949         cc = determine_final_cc(node, 0, cc);
 950
 951         /* get both Projs */
 952         proj_true = get_proj(node, pn_ia32_Jcc_true);
 953         assert(proj_true && "Jcc without true Proj");
 954
 955         proj_false = get_proj(node, pn_ia32_Jcc_false);
 956         assert(proj_false && "Jcc without false Proj");
 957
 958         if (can_be_fallthrough(proj_true)) {
 959                 /* exchange both proj's so the second one can be omitted */
 960                 const ir_node *t = proj_true;
 961
 962                 proj_true  = proj_false;
 963                 proj_false = t;
 964                 cc         = ia32_negate_condition_code(cc);
 965         }
 966
 967         if (cc & ia32_cc_float_parity_cases) {
 968                 /* Some floating point comparisons require a test of the parity flag,
 969                  * which indicates that the result is unordered */
 970                 if (cc & ia32_cc_negated) {
 971                         ia32_emitf(proj_true, "\tjp %L\n");
 972                 } else {
 973                         /* we need a local label if the false proj is a fallthrough
 974                          * as the falseblock might have no label emitted then */
 975                         if (can_be_fallthrough(proj_false)) {
 976                                 need_parity_label = 1;
 977                                 ia32_emitf(proj_false, "\tjp 1f\n");
 978                         } else {
 979                                 ia32_emitf(proj_false, "\tjp %L\n");
 980                         }
 981                 }
 982         }
 983         ia32_emitf(proj_true, "\tj%P %L\n", (int)cc);
 984         if (need_parity_label) {
 985                 ia32_emitf(NULL, "1:\n");
 986         }
 987
 988         /* the second Proj might be a fallthrough */
 989         if (can_be_fallthrough(proj_false)) {
 990                 if (be_options.verbose_asm)
 991                         ia32_emitf(proj_false, "\t/* fallthrough to %L */\n");
 992         } else {
 993                 ia32_emitf(proj_false, "\tjmp %L\n");
 994         }
 995 }
 996
 997 /**
 998  * Emits an ia32 Setcc. This is mostly easy but some floating point compares
 999  * are tricky.
1000  */
1001 static void emit_ia32_Setcc(const ir_node *node)
1002 {
1003         const arch_register_t *dreg = arch_get_irn_register_out(node, pn_ia32_Setcc_res);
1004
1005         ia32_condition_code_t cc = get_ia32_condcode(node);
1006         cc = determine_final_cc(node, n_ia32_Setcc_eflags, cc);
1007         if (cc & ia32_cc_float_parity_cases) {
1008                 if (cc & ia32_cc_negated) {
1009                         ia32_emitf(node, "\tset%P %<R\n", (int)cc, dreg);
1010                         ia32_emitf(node, "\tsetp %>R\n", dreg);
1011                         ia32_emitf(node, "\torb %>R, %<R\n", dreg, dreg);
1012                 } else {
1013                         ia32_emitf(node, "\tset%P %<R\n", (int)cc, dreg);
1014                         ia32_emitf(node, "\tsetnp %>R\n", dreg);
1015                         ia32_emitf(node, "\tandb %>R, %<R\n", dreg, dreg);
1016                 }
1017         } else {
1018                 ia32_emitf(node, "\tset%P %#R\n", (int)cc, dreg);
1019         }
1020 }
1021
1022 static void emit_ia32_CMovcc(const ir_node *node)
1023 {
1024         const ia32_attr_t     *attr = get_ia32_attr_const(node);
1025         const arch_register_t *out  = arch_get_irn_register_out(node, pn_ia32_res);
1026         ia32_condition_code_t  cc   = get_ia32_condcode(node);
1027         const arch_register_t *in_true;
1028         const arch_register_t *in_false;
1029
1030         cc = determine_final_cc(node, n_ia32_CMovcc_eflags, cc);
1031         /* although you can't set ins_permuted in the constructor it might still
1032          * be set by memory operand folding
1033          * Permuting inputs of a cmov means the condition is negated!
1034          */
1035         if (attr->data.ins_permuted)
1036                 cc = ia32_negate_condition_code(cc);
1037
1038         in_true  = arch_get_irn_register(get_irn_n(node, n_ia32_CMovcc_val_true));
1039         in_false = arch_get_irn_register(get_irn_n(node, n_ia32_CMovcc_val_false));
1040
1041         /* should be same constraint fullfilled? */
1042         if (out == in_false) {
1043                 /* yes -> nothing to do */
1044         } else if (out == in_true) {
1045                 const arch_register_t *tmp;
1046
1047                 assert(get_ia32_op_type(node) == ia32_Normal);
1048
1049                 cc = ia32_negate_condition_code(cc);
1050
1051                 tmp      = in_true;
1052                 in_true  = in_false;
1053                 in_false = tmp;
1054         } else {
1055                 /* we need a mov */
1056                 ia32_emitf(node, "\tmovl %R, %R\n", in_false, out);
1057         }
1058
1059         if (cc & ia32_cc_float_parity_cases) {
1060                 panic("CMov with floatingpoint compare/parity not supported yet");
1061         }
1062
1063         ia32_emitf(node, "\tcmov%P %#AR, %#R\n", (int)cc, in_true, out);
1064 }
1065
1066 /**
1067  * Emits code for a SwitchJmp
1068  */
1069 static void emit_ia32_SwitchJmp(const ir_node *node)
1070 {
1071         ir_entity             *jump_table = get_ia32_am_sc(node);
1072         const ir_switch_table *table      = get_ia32_switch_table(node);
1073
1074         ia32_emitf(node, "\tjmp %*AM\n");
1075         be_emit_jump_table(node, table, jump_table, get_cfop_target_block);
1076 }
1077
1078 /**
1079  * Emits code for a unconditional jump.
1080  */
1081 static void emit_ia32_Jmp(const ir_node *node)
1082 {
1083         /* we have a block schedule */
1084         if (can_be_fallthrough(node)) {
1085                 if (be_options.verbose_asm)
1086                         ia32_emitf(node, "\t/* fallthrough to %L */\n");
1087         } else {
1088                 ia32_emitf(node, "\tjmp %L\n");
1089         }
1090 }
1091
1092 /**
1093  * Emit an inline assembler operand.
1094  *
1095  * @param node  the ia32_ASM node
1096  * @param s     points to the operand (a %c)
1097  *
1098  * @return  pointer to the first char in s NOT in the current operand
1099  */
1100 static const char* emit_asm_operand(const ir_node *node, const char *s)
1101 {
1102         const ia32_attr_t     *ia32_attr = get_ia32_attr_const(node);
1103         const ia32_asm_attr_t *attr      = CONST_CAST_IA32_ATTR(ia32_asm_attr_t,
1104                                                             ia32_attr);
1105         const arch_register_t *reg;
1106         const ia32_asm_reg_t  *asm_regs = attr->register_map;
1107         const ia32_asm_reg_t  *asm_reg;
1108         char                   c;
1109         char                   modifier = 0;
1110         int                    num;
1111         int                    p;
1112
1113         assert(*s == '%');
1114         c = *(++s);
1115
1116         /* parse modifiers */
1117         switch (c) {
1118         case 0:
1119                 ir_fprintf(stderr, "Warning: asm text (%+F) ends with %%\n", node);
1120                 be_emit_char('%');
1121                 return s + 1;
1122         case '%':
1123                 be_emit_char('%');
1124                 return s + 1;
1125         case 'w':
1126         case 'b':
1127         case 'h':
1128                 modifier = c;
1129                 ++s;
1130                 break;
1131         case '0':
1132         case '1':
1133         case '2':
1134         case '3':
1135         case '4':
1136         case '5':
1137         case '6':
1138         case '7':
1139         case '8':
1140         case '9':
1141                 break;
1142         default:
1143                 ir_fprintf(stderr,
1144                                 "Warning: asm text (%+F) contains unknown modifier '%c' for asm op\n",
1145                                 node, c);
1146                 ++s;
1147                 break;
1148         }
1149
1150         /* parse number */
1151         if (sscanf(s, "%d%n", &num, &p) != 1) {
1152                 ir_fprintf(stderr, "Warning: Couldn't parse assembler operand (%+F)\n",
1153                            node);
1154                 return s;
1155         } else {
1156                 s += p;
1157         }
1158
1159         if (num < 0 || ARR_LEN(asm_regs) <= (size_t)num) {
1160                 ir_fprintf(stderr,
1161                                 "Error: Custom assembler references invalid input/output (%+F)\n",
1162                                 node);
1163                 return s;
1164         }
1165         asm_reg = & asm_regs[num];
1166         assert(asm_reg->valid);
1167
1168         /* get register */
1169         if (asm_reg->use_input == 0) {
1170                 reg = arch_get_irn_register_out(node, asm_reg->inout_pos);
1171         } else {
1172                 ir_node *pred = get_irn_n(node, asm_reg->inout_pos);
1173
1174                 /* might be an immediate value */
1175                 if (is_ia32_Immediate(pred)) {
1176                         emit_ia32_Immediate(pred);
1177                         return s;
1178                 }
1179                 reg = arch_get_irn_register_in(node, asm_reg->inout_pos);
1180         }
1181         if (reg == NULL) {
1182                 ir_fprintf(stderr,
1183                                 "Warning: no register assigned for %d asm op (%+F)\n",
1184                                 num, node);
1185                 return s;
1186         }
1187
1188         if (asm_reg->memory) {
1189                 be_emit_char('(');
1190         }
1191
1192         /* emit it */
1193         if (modifier != 0) {
1194                 switch (modifier) {
1195                 case 'b':
1196                         emit_8bit_register(reg);
1197                         break;
1198                 case 'h':
1199                         emit_8bit_register_high(reg);
1200                         break;
1201                 case 'w':
1202                         emit_16bit_register(reg);
1203                         break;
1204                 default:
1205                         panic("Invalid asm op modifier");
1206                 }
1207         } else {
1208                 emit_register(reg, asm_reg->memory ? mode_Iu : asm_reg->mode);
1209         }
1210
1211         if (asm_reg->memory) {
1212                 be_emit_char(')');
1213         }
1214
1215         return s;
1216 }
1217
1218 /**
1219  * Emits code for an ASM pseudo op.
1220  */
1221 static void emit_ia32_Asm(const ir_node *node)
1222 {
1223         const void            *gen_attr = get_irn_generic_attr_const(node);
1224         const ia32_asm_attr_t *attr
1225                 = CONST_CAST_IA32_ATTR(ia32_asm_attr_t, gen_attr);
1226         ident                 *asm_text = attr->asm_text;
1227         const char            *s        = get_id_str(asm_text);
1228
1229         ia32_emitf(node, "#APP\t\n");
1230
1231         if (s[0] != '\t')
1232                 be_emit_char('\t');
1233
1234         while (*s != 0) {
1235                 if (*s == '%') {
1236                         s = emit_asm_operand(node, s);
1237                 } else {
1238                         be_emit_char(*s++);
1239                 }
1240         }
1241
1242         ia32_emitf(NULL, "\n#NO_APP\n");
1243 }
1244
1245
1246 /**
1247  * Emit movsb/w instructions to make mov count divideable by 4
1248  */
1249 static void emit_CopyB_prolog(unsigned size)
1250 {
1251         if (size & 1)
1252                 ia32_emitf(NULL, "\tmovsb\n");
1253         if (size & 2)
1254                 ia32_emitf(NULL, "\tmovsw\n");
1255 }
1256
1257 /**
1258  * Emit rep movsd instruction for memcopy.
1259  */
1260 static void emit_ia32_CopyB(const ir_node *node)
1261 {
1262         unsigned size = get_ia32_copyb_size(node);
1263
1264         emit_CopyB_prolog(size);
1265         ia32_emitf(node, "\trep movsd\n");
1266 }
1267
1268 /**
1269  * Emits unrolled memcopy.
1270  */
1271 static void emit_ia32_CopyB_i(const ir_node *node)
1272 {
1273         unsigned size = get_ia32_copyb_size(node);
1274
1275         emit_CopyB_prolog(size);
1276
1277         size >>= 2;
1278         while (size--) {
1279                 ia32_emitf(NULL, "\tmovsd\n");
1280         }
1281 }
1282
1283
1284 /**
1285  * Emit code for conversions (I, FP), (FP, I) and (FP, FP).
1286  */
1287 static void emit_ia32_Conv_with_FP(const ir_node *node, const char* conv_f,
1288                 const char* conv_d)
1289 {
1290         ir_mode            *ls_mode = get_ia32_ls_mode(node);
1291         int                 ls_bits = get_mode_size_bits(ls_mode);
1292         const char         *conv    = ls_bits == 32 ? conv_f : conv_d;
1293
1294         ia32_emitf(node, "\tcvt%s %AS3, %D0\n", conv);
1295 }
1296
1297 static void emit_ia32_Conv_I2FP(const ir_node *node)
1298 {
1299         emit_ia32_Conv_with_FP(node, "si2ss", "si2sd");
1300 }
1301
1302 static void emit_ia32_Conv_FP2I(const ir_node *node)
1303 {
1304         emit_ia32_Conv_with_FP(node, "ss2si", "sd2si");
1305 }
1306
1307 static void emit_ia32_Conv_FP2FP(const ir_node *node)
1308 {
1309         emit_ia32_Conv_with_FP(node, "sd2ss", "ss2sd");
1310 }
1311
1312 /**
1313  * Emits code for an Int conversion.
1314  */
1315 static void emit_ia32_Conv_I2I(const ir_node *node)
1316 {
1317         ir_mode    *smaller_mode = get_ia32_ls_mode(node);
1318         int         signed_mode  = mode_is_signed(smaller_mode);
1319         const char *sign_suffix;
1320
1321         assert(!mode_is_float(smaller_mode));
1322
1323         sign_suffix = signed_mode ? "s" : "z";
1324         ia32_emitf(node, "\tmov%s%Ml %#AS3, %D0\n", sign_suffix);
1325 }
1326
1327 /**
1328  * Emits a call
1329  */
1330 static void emit_ia32_Call(const ir_node *node)
1331 {
1332         /* Special case: Call must not have its immediates prefixed by $, instead
1333          * address mode is prefixed by *. */
1334         ia32_emitf(node, "\tcall %*AS3\n");
1335 }
1336
1337
1338 /**
1339  * Emits code to increase stack pointer.
1340  */
1341 static void emit_be_IncSP(const ir_node *node)
1342 {
1343         int offs = be_get_IncSP_offset(node);
1344
1345         if (offs == 0)
1346                 return;
1347
1348         if (offs > 0) {
1349                 ia32_emitf(node, "\tsubl $%u, %D0\n", offs);
1350         } else {
1351                 ia32_emitf(node, "\taddl $%u, %D0\n", -offs);
1352         }
1353 }
1354
1355 /**
1356  * Emits code for Copy/CopyKeep.
1357  */
1358 static void Copy_emitter(const ir_node *node, const ir_node *op)
1359 {
1360         const arch_register_t *in  = arch_get_irn_register(op);
1361         const arch_register_t *out = arch_get_irn_register(node);
1362
1363         if (in == out) {
1364                 return;
1365         }
1366         /* copies of vf nodes aren't real... */
1367         if (arch_register_get_class(in) == &ia32_reg_classes[CLASS_ia32_vfp])
1368                 return;
1369
1370         ia32_emitf(node, "\tmovl %R, %R\n", in, out);
1371 }
1372
1373 static void emit_be_Copy(const ir_node *node)
1374 {
1375         Copy_emitter(node, be_get_Copy_op(node));
1376 }
1377
1378 static void emit_be_CopyKeep(const ir_node *node)
1379 {
1380         Copy_emitter(node, be_get_CopyKeep_op(node));
1381 }
1382
1383 /**
1384  * Emits code for exchange.
1385  */
1386 static void emit_be_Perm(const ir_node *node)
1387 {
1388         const arch_register_t *in0, *in1;
1389         const arch_register_class_t *cls0, *cls1;
1390
1391         in0 = arch_get_irn_register(get_irn_n(node, 0));
1392         in1 = arch_get_irn_register(get_irn_n(node, 1));
1393
1394         cls0 = arch_register_get_class(in0);
1395         cls1 = arch_register_get_class(in1);
1396
1397         assert(cls0 == cls1 && "Register class mismatch at Perm");
1398
1399         if (cls0 == &ia32_reg_classes[CLASS_ia32_gp]) {
1400                 ia32_emitf(node, "\txchg %R, %R\n", in1, in0);
1401         } else if (cls0 == &ia32_reg_classes[CLASS_ia32_xmm]) {
1402                 ia32_emitf(NULL, "\txorpd %R, %R\n", in1, in0);
1403                 ia32_emitf(NULL, "\txorpd %R, %R\n", in0, in1);
1404                 ia32_emitf(node, "\txorpd %R, %R\n", in1, in0);
1405         } else if (cls0 == &ia32_reg_classes[CLASS_ia32_vfp]) {
1406                 /* is a NOP */
1407         } else if (cls0 == &ia32_reg_classes[CLASS_ia32_st]) {
1408                 /* is a NOP */
1409         } else {
1410                 panic("unexpected register class in be_Perm (%+F)", node);
1411         }
1412 }
1413
1414 /**
1415  * Emits code for Constant loading.
1416  */
1417 static void emit_ia32_Const(const ir_node *node)
1418 {
1419         ia32_emitf(node, "\tmovl %I, %D0\n");
1420 }
1421
1422 /* helper function for emit_ia32_Minus64Bit */
1423 static void emit_mov(const ir_node* node, const arch_register_t *src, const arch_register_t *dst)
1424 {
1425         ia32_emitf(node, "\tmovl %R, %R\n", src, dst);
1426 }
1427
1428 /* helper function for emit_ia32_Minus64Bit */
1429 static void emit_neg(const ir_node* node, const arch_register_t *reg)
1430 {
1431         ia32_emitf(node, "\tnegl %R\n", reg);
1432 }
1433
1434 /* helper function for emit_ia32_Minus64Bit */
1435 static void emit_sbb0(const ir_node* node, const arch_register_t *reg)
1436 {
1437         ia32_emitf(node, "\tsbbl $0, %R\n", reg);
1438 }
1439
1440 /* helper function for emit_ia32_Minus64Bit */
1441 static void emit_sbb(const ir_node* node, const arch_register_t *src, const arch_register_t *dst)
1442 {
1443         ia32_emitf(node, "\tsbbl %R, %R\n", src, dst);
1444 }
1445
1446 /* helper function for emit_ia32_Minus64Bit */
1447 static void emit_xchg(const ir_node* node, const arch_register_t *src, const arch_register_t *dst)
1448 {
1449         ia32_emitf(node, "\txchgl %R, %R\n", src, dst);
1450 }
1451
1452 /* helper function for emit_ia32_Minus64Bit */
1453 static void emit_zero(const ir_node* node, const arch_register_t *reg)
1454 {
1455         ia32_emitf(node, "\txorl %R, %R\n", reg, reg);
1456 }
1457
1458 static void emit_ia32_Minus64Bit(const ir_node *node)
1459 {
1460         const arch_register_t *in_lo  = arch_get_irn_register_in(node, 0);
1461         const arch_register_t *in_hi  = arch_get_irn_register_in(node, 1);
1462         const arch_register_t *out_lo = arch_get_irn_register_out(node, 0);
1463         const arch_register_t *out_hi = arch_get_irn_register_out(node, 1);
1464
1465         if (out_lo == in_lo) {
1466                 if (out_hi != in_hi) {
1467                         /* a -> a, b -> d */
1468                         goto zero_neg;
1469                 } else {
1470                         /* a -> a, b -> b */
1471                         goto normal_neg;
1472                 }
1473         } else if (out_lo == in_hi) {
1474                 if (out_hi == in_lo) {
1475                         /* a -> b, b -> a */
1476                         emit_xchg(node, in_lo, in_hi);
1477                         goto normal_neg;
1478                 } else {
1479                         /* a -> b, b -> d */
1480                         emit_mov(node, in_hi, out_hi);
1481                         emit_mov(node, in_lo, out_lo);
1482                         goto normal_neg;
1483                 }
1484         } else {
1485                 if (out_hi == in_lo) {
1486                         /* a -> c, b -> a */
1487                         emit_mov(node, in_lo, out_lo);
1488                         goto zero_neg;
1489                 } else if (out_hi == in_hi) {
1490                         /* a -> c, b -> b */
1491                         emit_mov(node, in_lo, out_lo);
1492                         goto normal_neg;
1493                 } else {
1494                         /* a -> c, b -> d */
1495                         emit_mov(node, in_lo, out_lo);
1496                         goto zero_neg;
1497                 }
1498         }
1499
1500 normal_neg:
1501         emit_neg( node, out_hi);
1502         emit_neg( node, out_lo);
1503         emit_sbb0(node, out_hi);
1504         return;
1505
1506 zero_neg:
1507         emit_zero(node, out_hi);
1508         emit_neg( node, out_lo);
1509         emit_sbb( node, in_hi, out_hi);
1510 }
1511
1512 static void emit_ia32_GetEIP(const ir_node *node)
1513 {
1514         ia32_emitf(node, "\tcall %s\n", pic_base_label);
1515         ia32_emitf(NULL, "%s:\n", pic_base_label);
1516         ia32_emitf(node, "\tpopl %D0\n");
1517 }
1518
1519 static void emit_ia32_ClimbFrame(const ir_node *node)
1520 {
1521         const ia32_climbframe_attr_t *attr = get_ia32_climbframe_attr_const(node);
1522
1523         ia32_emitf(node, "\tmovl %S0, %D0\n");
1524         ia32_emitf(node, "\tmovl $%u, %S1\n", attr->count);
1525         be_gas_emit_block_name(node);
1526         be_emit_cstring(":\n");
1527         be_emit_write_line();
1528         ia32_emitf(node, "\tmovl (%D0), %D0\n");
1529         ia32_emitf(node, "\tdec %S1\n");
1530         be_emit_cstring("\tjnz ");
1531         be_gas_emit_block_name(node);
1532         be_emit_finish_line_gas(node);
1533 }
1534
1535 static void emit_be_Return(const ir_node *node)
1536 {
1537         unsigned pop = be_Return_get_pop(node);
1538
1539         if (pop > 0 || be_Return_get_emit_pop(node)) {
1540                 ia32_emitf(node, "\tret $%u\n", pop);
1541         } else {
1542                 ia32_emitf(node, "\tret\n");
1543         }
1544 }
1545
1546 static void emit_Nothing(const ir_node *node)
1547 {
1548         (void) node;
1549 }
1550
1551
1552 /**
1553  * Enters the emitter functions for handled nodes into the generic
1554  * pointer of an opcode.
1555  */
1556 static void ia32_register_emitters(void)
1557 {
1558 #define IA32_EMIT2(a,b) op_ia32_##a->ops.generic = (op_func)emit_ia32_##b
1559 #define IA32_EMIT(a)    IA32_EMIT2(a,a)
1560 #define EMIT(a)         op_##a->ops.generic = (op_func)emit_##a
1561 #define IGN(a)          op_##a->ops.generic = (op_func)emit_Nothing
1562 #define BE_EMIT(a)      op_be_##a->ops.generic = (op_func)emit_be_##a
1563 #define BE_IGN(a)       op_be_##a->ops.generic = (op_func)emit_Nothing
1564
1565         /* first clear the generic function pointer for all ops */
1566         ir_clear_opcodes_generic_func();
1567
1568         /* register all emitter functions defined in spec */
1569         ia32_register_spec_emitters();
1570
1571         /* other ia32 emitter functions */
1572         IA32_EMIT2(Conv_I2I8Bit, Conv_I2I);
1573         IA32_EMIT(Asm);
1574         IA32_EMIT(CMovcc);
1575         IA32_EMIT(Call);
1576         IA32_EMIT(Const);
1577         IA32_EMIT(Conv_FP2FP);
1578         IA32_EMIT(Conv_FP2I);
1579         IA32_EMIT(Conv_I2FP);
1580         IA32_EMIT(Conv_I2I);
1581         IA32_EMIT(CopyB);
1582         IA32_EMIT(CopyB_i);
1583         IA32_EMIT(GetEIP);
1584         IA32_EMIT(IMul);
1585         IA32_EMIT(Jcc);
1586         IA32_EMIT(Setcc);
1587         IA32_EMIT(Minus64Bit);
1588         IA32_EMIT(SwitchJmp);
1589         IA32_EMIT(ClimbFrame);
1590         IA32_EMIT(Jmp);
1591
1592         /* benode emitter */
1593         BE_EMIT(Copy);
1594         BE_EMIT(CopyKeep);
1595         BE_EMIT(IncSP);
1596         BE_EMIT(Perm);
1597         BE_EMIT(Return);
1598
1599         BE_IGN(Keep);
1600         BE_IGN(Start);
1601
1602         /* firm emitter */
1603         IGN(Phi);
1604
1605 #undef BE_EMIT
1606 #undef EMIT
1607 #undef IGN
1608 #undef IA32_EMIT2
1609 #undef IA32_EMIT
1610 }
1611
1612 typedef void (*emit_func_ptr) (const ir_node *);
1613
1614 /**
1615  * Assign and emit an exception label if the current instruction can fail.
1616  */
1617 static void ia32_assign_exc_label(ir_node *node)
1618 {
1619         /* assign a new ID to the instruction */
1620         set_ia32_exc_label_id(node, ++exc_label_id);
1621         /* print it */
1622         ia32_emit_exc_label(node);
1623         be_emit_char(':');
1624         be_emit_pad_comment();
1625         be_emit_cstring("/* exception to Block ");
1626         ia32_emit_cfop_target(node);
1627         be_emit_cstring(" */\n");
1628         be_emit_write_line();
1629 }
1630
1631 /**
1632  * Emits code for a node.
1633  */
1634 static void ia32_emit_node(ir_node *node)
1635 {
1636         ir_op *op = get_irn_op(node);
1637
1638         DBG((dbg, LEVEL_1, "emitting code for %+F\n", node));
1639
1640         if (is_ia32_irn(node)) {
1641                 if (get_ia32_exc_label(node)) {
1642                         /* emit the exception label of this instruction */
1643                         ia32_assign_exc_label(node);
1644                 }
1645                 if (mark_spill_reload) {
1646                         if (is_ia32_is_spill(node)) {
1647                                 ia32_emitf(NULL, "\txchg %ebx, %ebx        /* spill mark */\n");
1648                         }
1649                         if (is_ia32_is_reload(node)) {
1650                                 ia32_emitf(NULL, "\txchg %edx, %edx        /* reload mark */\n");
1651                         }
1652                         if (is_ia32_is_remat(node)) {
1653                                 ia32_emitf(NULL, "\txchg %ecx, %ecx        /* remat mark */\n");
1654                         }
1655                 }
1656         }
1657         if (op->ops.generic) {
1658                 emit_func_ptr func = (emit_func_ptr) op->ops.generic;
1659
1660                 be_dwarf_location(get_irn_dbg_info(node));
1661
1662                 (*func) (node);
1663         } else {
1664                 emit_Nothing(node);
1665                 ir_fprintf(stderr, "Error: No emit handler for node %+F (%+G, graph %+F)\n", node, node, current_ir_graph);
1666                 abort();
1667         }
1668
1669         if (sp_relative) {
1670                 int sp_change = arch_get_sp_bias(node);
1671                 if (sp_change != 0) {
1672                         assert(sp_change != SP_BIAS_RESET);
1673                         callframe_offset += sp_change;
1674                         be_dwarf_callframe_offset(callframe_offset);
1675                 }
1676         }
1677 }
1678
1679 /**
1680  * Emits gas alignment directives
1681  */
1682 static void ia32_emit_alignment(unsigned align, unsigned skip)
1683 {
1684         ia32_emitf(NULL, "\t.p2align %u,,%u\n", align, skip);
1685 }
1686
1687 /**
1688  * Emits gas alignment directives for Labels depended on cpu architecture.
1689  */
1690 static void ia32_emit_align_label(void)
1691 {
1692         unsigned align        = ia32_cg_config.label_alignment;
1693         unsigned maximum_skip = ia32_cg_config.label_alignment_max_skip;
1694         ia32_emit_alignment(align, maximum_skip);
1695 }
1696
1697 /**
1698  * Test whether a block should be aligned.
1699  * For cpus in the P4/Athlon class it is useful to align jump labels to
1700  * 16 bytes. However we should only do that if the alignment nops before the
1701  * label aren't executed more often than we have jumps to the label.
1702  */
1703 static int should_align_block(const ir_node *block)
1704 {
1705         static const double DELTA = .0001;
1706         ir_graph     *irg         = get_irn_irg(block);
1707         ir_exec_freq *exec_freq   = be_get_irg_exec_freq(irg);
1708         ir_node      *prev        = get_prev_block_sched(block);
1709         double        block_freq;
1710         double        prev_freq = 0;  /**< execfreq of the fallthrough block */
1711         double        jmp_freq  = 0;  /**< execfreq of all non-fallthrough blocks */
1712         int           i, n_cfgpreds;
1713
1714         if (exec_freq == NULL)
1715                 return 0;
1716         if (ia32_cg_config.label_alignment_factor <= 0)
1717                 return 0;
1718
1719         block_freq = get_block_execfreq(exec_freq, block);
1720         if (block_freq < DELTA)
1721                 return 0;
1722
1723         n_cfgpreds = get_Block_n_cfgpreds(block);
1724         for (i = 0; i < n_cfgpreds; ++i) {
1725                 const ir_node *pred      = get_Block_cfgpred_block(block, i);
1726                 double         pred_freq = get_block_execfreq(exec_freq, pred);
1727
1728                 if (pred == prev) {
1729                         prev_freq += pred_freq;
1730                 } else {
1731                         jmp_freq  += pred_freq;
1732                 }
1733         }
1734
1735         if (prev_freq < DELTA && !(jmp_freq < DELTA))
1736                 return 1;
1737
1738         jmp_freq /= prev_freq;
1739
1740         return jmp_freq > ia32_cg_config.label_alignment_factor;
1741 }
1742
1743 /**
1744  * Emit the block header for a block.
1745  *
1746  * @param block       the block
1747  * @param prev_block  the previous block
1748  */
1749 static void ia32_emit_block_header(ir_node *block)
1750 {
1751         ir_graph     *irg        = current_ir_graph;
1752         int           need_label = block_needs_label(block);
1753
1754         if (block == get_irg_end_block(irg))
1755                 return;
1756
1757         if (ia32_cg_config.label_alignment > 0) {
1758                 /* align the current block if:
1759                  * a) if should be aligned due to its execution frequency
1760                  * b) there is no fall-through here
1761                  */
1762                 if (should_align_block(block)) {
1763                         ia32_emit_align_label();
1764                 } else {
1765                         /* if the predecessor block has no fall-through,
1766                            we can always align the label. */
1767                         int i;
1768                         int has_fallthrough = 0;
1769
1770                         for (i = get_Block_n_cfgpreds(block) - 1; i >= 0; --i) {
1771                                 ir_node *cfg_pred = get_Block_cfgpred(block, i);
1772                                 if (can_be_fallthrough(cfg_pred)) {
1773                                         has_fallthrough = 1;
1774                                         break;
1775                                 }
1776                         }
1777
1778                         if (!has_fallthrough)
1779                                 ia32_emit_align_label();
1780                 }
1781         }
1782
1783         be_gas_begin_block(block, need_label);
1784 }
1785
1786 /**
1787  * Walks over the nodes in a block connected by scheduling edges
1788  * and emits code for each node.
1789  */
1790 static void ia32_gen_block(ir_node *block)
1791 {
1792         ia32_emit_block_header(block);
1793
1794         if (sp_relative) {
1795                 ir_graph *irg = get_irn_irg(block);
1796                 callframe_offset = 4; /* 4 bytes for the return address */
1797                 /* ESP guessing, TODO perform a real ESP simulation */
1798                 if (block != get_irg_start_block(irg)) {
1799                         callframe_offset += frame_type_size;
1800                 }
1801                 be_dwarf_callframe_offset(callframe_offset);
1802         }
1803
1804         /* emit the contents of the block */
1805         be_dwarf_location(get_irn_dbg_info(block));
1806         sched_foreach(block, node) {
1807                 ia32_emit_node(node);
1808         }
1809 }
1810
1811 typedef struct exc_entry {
1812         ir_node *exc_instr;  /** The instruction that can issue an exception. */
1813         ir_node *block;      /** The block to call then. */
1814 } exc_entry;
1815
1816 /**
1817  * Block-walker:
1818  * Sets labels for control flow nodes (jump target).
1819  * Links control predecessors to there destination blocks.
1820  */
1821 static void ia32_gen_labels(ir_node *block, void *data)
1822 {
1823         exc_entry **exc_list = (exc_entry**)data;
1824         ir_node *pred;
1825         int     n;
1826
1827         for (n = get_Block_n_cfgpreds(block) - 1; n >= 0; --n) {
1828                 pred = get_Block_cfgpred(block, n);
1829                 set_irn_link(pred, block);
1830
1831                 pred = skip_Proj(pred);
1832                 if (is_ia32_irn(pred) && get_ia32_exc_label(pred)) {
1833                         exc_entry e;
1834
1835                         e.exc_instr = pred;
1836                         e.block     = block;
1837                         ARR_APP1(exc_entry, *exc_list, e);
1838                         set_irn_link(pred, block);
1839                 }
1840         }
1841 }
1842
1843 /**
1844  * Compare two exception_entries.
1845  */
1846 static int cmp_exc_entry(const void *a, const void *b)
1847 {
1848         const exc_entry *ea = (const exc_entry*)a;
1849         const exc_entry *eb = (const exc_entry*)b;
1850
1851         if (get_ia32_exc_label_id(ea->exc_instr) < get_ia32_exc_label_id(eb->exc_instr))
1852                 return -1;
1853         return +1;
1854 }
1855
1856 static parameter_dbg_info_t *construct_parameter_infos(ir_graph *irg)
1857 {
1858         ir_entity            *entity    = get_irg_entity(irg);
1859         ir_type              *type      = get_entity_type(entity);
1860         size_t                n_params  = get_method_n_params(type);
1861         be_stack_layout_t    *layout    = be_get_irg_stack_layout(irg);
1862         ir_type              *arg_type  = layout->arg_type;
1863         size_t                n_members = get_compound_n_members(arg_type);
1864         parameter_dbg_info_t *infos     = XMALLOCNZ(parameter_dbg_info_t, n_params);
1865         size_t                i;
1866
1867         for (i = 0; i < n_members; ++i) {
1868                 ir_entity *member = get_compound_member(arg_type, i);
1869                 size_t     param;
1870                 if (!is_parameter_entity(member))
1871                         continue;
1872                 param = get_entity_parameter_number(member);
1873                 if (param == IR_VA_START_PARAMETER_NUMBER)
1874                         continue;
1875                 assert(infos[param].entity == NULL && infos[param].reg == NULL);
1876                 infos[param].reg    = NULL;
1877                 infos[param].entity = member;
1878         }
1879
1880         return infos;
1881 }
1882
1883 /**
1884  * Main driver. Emits the code for one routine.
1885  */
1886 void ia32_gen_routine(ir_graph *irg)
1887 {
1888         ir_entity        *entity    = get_irg_entity(irg);
1889         exc_entry        *exc_list  = NEW_ARR_F(exc_entry, 0);
1890         const arch_env_t *arch_env  = be_get_irg_arch_env(irg);
1891         ia32_irg_data_t  *irg_data  = ia32_get_irg_data(irg);
1892         ir_node         **blk_sched = irg_data->blk_sched;
1893         be_stack_layout_t *layout   = be_get_irg_stack_layout(irg);
1894         parameter_dbg_info_t *infos;
1895         int i, n;
1896
1897         isa    = (ia32_isa_t*) arch_env;
1898         do_pic = be_options.pic;
1899
1900         be_gas_elf_type_char = '@';
1901
1902         ia32_register_emitters();
1903
1904         get_unique_label(pic_base_label, sizeof(pic_base_label), "PIC_BASE");
1905
1906         infos = construct_parameter_infos(irg);
1907         be_gas_emit_function_prolog(entity, ia32_cg_config.function_alignment,
1908                                     infos);
1909         xfree(infos);
1910
1911         sp_relative = layout->sp_relative;
1912         if (layout->sp_relative) {
1913                 ir_type *frame_type = get_irg_frame_type(irg);
1914                 frame_type_size = get_type_size_bytes(frame_type);
1915                 be_dwarf_callframe_register(&ia32_registers[REG_ESP]);
1916         } else {
1917                 /* well not entirely correct here, we should emit this after the
1918                  * "movl esp, ebp" */
1919                 be_dwarf_callframe_register(&ia32_registers[REG_EBP]);
1920                 /* TODO: do not hardcode the following */
1921                 be_dwarf_callframe_offset(8);
1922                 be_dwarf_callframe_spilloffset(&ia32_registers[REG_EBP], -8);
1923         }
1924
1925         /* we use links to point to target blocks */
1926         ir_reserve_resources(irg, IR_RESOURCE_IRN_LINK);
1927         irg_block_walk_graph(irg, ia32_gen_labels, NULL, &exc_list);
1928
1929         /* initialize next block links */
1930         n = ARR_LEN(blk_sched);
1931         for (i = 0; i < n; ++i) {
1932                 ir_node *block = blk_sched[i];
1933                 ir_node *prev  = i > 0 ? blk_sched[i-1] : NULL;
1934
1935                 set_irn_link(block, prev);
1936         }
1937
1938         for (i = 0; i < n; ++i) {
1939                 ir_node *block = blk_sched[i];
1940
1941                 ia32_gen_block(block);
1942         }
1943
1944         be_gas_emit_function_epilog(entity);
1945
1946         ir_free_resources(irg, IR_RESOURCE_IRN_LINK);
1947
1948         /* Sort the exception table using the exception label id's.
1949            Those are ascending with ascending addresses. */
1950         qsort(exc_list, ARR_LEN(exc_list), sizeof(exc_list[0]), cmp_exc_entry);
1951         {
1952                 size_t e;
1953
1954                 for (e = 0; e < ARR_LEN(exc_list); ++e) {
1955                         be_emit_cstring("\t.long ");
1956                         ia32_emit_exc_label(exc_list[e].exc_instr);
1957                         be_emit_char('\n');
1958                         be_emit_cstring("\t.long ");
1959                         be_gas_emit_block_name(exc_list[e].block);
1960                         be_emit_char('\n');
1961                 }
1962         }
1963         DEL_ARR_F(exc_list);
1964 }
1965
1966 static const lc_opt_table_entry_t ia32_emitter_options[] = {
1967         LC_OPT_ENT_BOOL("mark_spill_reload",   "mark spills and reloads with ud opcodes", &mark_spill_reload),
1968         LC_OPT_LAST
1969 };
1970
1971 /* ==== Experimental binary emitter ==== */
1972
1973 static unsigned char reg_gp_map[N_ia32_gp_REGS];
1974 //static unsigned char reg_mmx_map[N_ia32_mmx_REGS];
1975 //static unsigned char reg_sse_map[N_ia32_xmm_REGS];
1976
1977 static void build_reg_map(void)
1978 {
1979         reg_gp_map[REG_GP_EAX] = 0x0;
1980         reg_gp_map[REG_GP_ECX] = 0x1;
1981         reg_gp_map[REG_GP_EDX] = 0x2;
1982         reg_gp_map[REG_GP_EBX] = 0x3;
1983         reg_gp_map[REG_GP_ESP] = 0x4;
1984         reg_gp_map[REG_GP_EBP] = 0x5;
1985         reg_gp_map[REG_GP_ESI] = 0x6;
1986         reg_gp_map[REG_GP_EDI] = 0x7;
1987 }
1988
1989 /** Returns the encoding for a pnc field. */
1990 static unsigned char pnc2cc(ia32_condition_code_t cc)
1991 {
1992         return cc & 0xf;
1993 }
1994
1995 /** Sign extension bit values for binops */
1996 enum SignExt {
1997         UNSIGNED_IMM = 0,  /**< unsigned immediate */
1998         SIGNEXT_IMM  = 2,  /**< sign extended immediate */
1999 };
2000
2001 /** The mod encoding of the ModR/M */
2002 enum Mod {
2003         MOD_IND          = 0x00, /**< [reg1] */
2004         MOD_IND_BYTE_OFS = 0x40, /**< [reg1 + byte ofs] */
2005         MOD_IND_WORD_OFS = 0x80, /**< [reg1 + word ofs] */
2006         MOD_REG          = 0xC0  /**< reg1 */
2007 };
2008
2009 /** create R/M encoding for ModR/M */
2010 #define ENC_RM(x) (x)
2011 /** create REG encoding for ModR/M */
2012 #define ENC_REG(x) ((x) << 3)
2013
2014 /** create encoding for a SIB byte */
2015 #define ENC_SIB(scale, index, base) ((scale) << 6 | (index) << 3 | (base))
2016
2017 /* Node: The following routines are supposed to append bytes, words, dwords
2018    to the output stream.
2019    Currently the implementation is stupid in that it still creates output
2020    for an "assembler" in the form of .byte, .long
2021    We will change this when enough infrastructure is there to create complete
2022    machine code in memory/object files */
2023
2024 static void bemit8(const unsigned char byte)
2025 {
2026         be_emit_irprintf("\t.byte 0x%x\n", byte);
2027         be_emit_write_line();
2028 }
2029
2030 static void bemit16(const unsigned short u16)
2031 {
2032         be_emit_irprintf("\t.word 0x%x\n", u16);
2033         be_emit_write_line();
2034 }
2035
2036 static void bemit32(const unsigned u32)
2037 {
2038         be_emit_irprintf("\t.long 0x%x\n", u32);
2039         be_emit_write_line();
2040 }
2041
2042 /**
2043  * Emit address of an entity. If @p is_relative is true then a relative
2044  * offset from behind the address to the entity is created.
2045  */
2046 static void bemit_entity(ir_entity *entity, bool entity_sign, int offset,
2047                          bool is_relative)
2048 {
2049         if (entity == NULL) {
2050                 bemit32(offset);
2051                 return;
2052         }
2053
2054         /* the final version should remember the position in the bytestream
2055            and patch it with the correct address at linktime... */
2056         be_emit_cstring("\t.long ");
2057         if (entity_sign)
2058                 be_emit_char('-');
2059         be_gas_emit_entity(entity);
2060
2061         if (get_entity_owner(entity) == get_tls_type()) {
2062                 if (!entity_has_definition(entity)) {
2063                         be_emit_cstring("@INDNTPOFF");
2064                 } else {
2065                         be_emit_cstring("@NTPOFF");
2066                 }
2067         }
2068
2069         if (is_relative) {
2070                 be_emit_cstring("-.");
2071                 offset -= 4;
2072         }
2073
2074         if (offset != 0) {
2075                 be_emit_irprintf("%+d", offset);
2076         }
2077         be_emit_char('\n');
2078         be_emit_write_line();
2079 }
2080
2081 static void bemit_jmp_destination(const ir_node *dest_block)
2082 {
2083         be_emit_cstring("\t.long ");
2084         be_gas_emit_block_name(dest_block);
2085         be_emit_cstring(" - . - 4\n");
2086         be_emit_write_line();
2087 }
2088
2089 /* end emit routines, all emitters following here should only use the functions
2090    above. */
2091
2092 typedef enum reg_modifier {
2093         REG_LOW  = 0,
2094         REG_HIGH = 1
2095 } reg_modifier_t;
2096
2097 /** Create a ModR/M byte for src1,src2 registers */
2098 static void bemit_modrr(const arch_register_t *src1,
2099                         const arch_register_t *src2)
2100 {
2101         unsigned char modrm = MOD_REG;
2102         modrm |= ENC_RM(reg_gp_map[src1->index]);
2103         modrm |= ENC_REG(reg_gp_map[src2->index]);
2104         bemit8(modrm);
2105 }
2106
2107 /** Create a ModR/M8 byte for src1,src2 registers */
2108 static void bemit_modrr8(reg_modifier_t high_part1, const arch_register_t *src1,
2109                                                  reg_modifier_t high_part2, const arch_register_t *src2)
2110 {
2111         unsigned char modrm = MOD_REG;
2112         modrm |= ENC_RM(reg_gp_map[src1->index] +  (high_part1 == REG_HIGH ? 4 : 0));
2113         modrm |= ENC_REG(reg_gp_map[src2->index] + (high_part2 == REG_HIGH ? 4 : 0));
2114         bemit8(modrm);
2115 }
2116
2117 /** Create a ModR/M byte for one register and extension */
2118 static void bemit_modru(const arch_register_t *reg, unsigned ext)
2119 {
2120         unsigned char modrm = MOD_REG;
2121         assert(ext <= 7);
2122         modrm |= ENC_RM(reg_gp_map[reg->index]);
2123         modrm |= ENC_REG(ext);
2124         bemit8(modrm);
2125 }
2126
2127 /** Create a ModR/M8 byte for one register */
2128 static void bemit_modrm8(reg_modifier_t high_part, const arch_register_t *reg)
2129 {
2130         unsigned char modrm = MOD_REG;
2131         assert(reg_gp_map[reg->index] < 4);
2132         modrm |= ENC_RM(reg_gp_map[reg->index] + (high_part == REG_HIGH ? 4 : 0));
2133         modrm |= MOD_REG;
2134         bemit8(modrm);
2135 }
2136
2137 /**
2138  * Calculate the size of an signed immediate in bytes.
2139  *
2140  * @param offset  an offset
2141  */
2142 static unsigned get_signed_imm_size(int offset)
2143 {
2144         if (-128 <= offset && offset < 128) {
2145                 return 1;
2146         } else if (-32768 <= offset && offset < 32768) {
2147                 return 2;
2148         } else {
2149                 return 4;
2150         }
2151 }
2152
2153 /**
2154  * Emit an address mode.
2155  *
2156  * @param reg   content of the reg field: either a register index or an opcode extension
2157  * @param node  the node
2158  */
2159 static void bemit_mod_am(unsigned reg, const ir_node *node)
2160 {
2161         ir_entity *ent       = get_ia32_am_sc(node);
2162         int        offs      = get_ia32_am_offs_int(node);
2163         ir_node   *base      = get_irn_n(node, n_ia32_base);
2164         int        has_base  = !is_ia32_NoReg_GP(base);
2165         ir_node   *idx       = get_irn_n(node, n_ia32_index);
2166         int        has_index = !is_ia32_NoReg_GP(idx);
2167         unsigned   modrm     = 0;
2168         unsigned   sib       = 0;
2169         unsigned   emitoffs  = 0;
2170         bool       emitsib   = false;
2171         unsigned   base_enc;
2172
2173         /* set the mod part depending on displacement */
2174         if (ent != NULL) {
2175                 modrm |= MOD_IND_WORD_OFS;
2176                 emitoffs = 32;
2177         } else if (offs == 0) {
2178                 modrm |= MOD_IND;
2179                 emitoffs = 0;
2180         } else if (-128 <= offs && offs < 128) {
2181                 modrm |= MOD_IND_BYTE_OFS;
2182                 emitoffs = 8;
2183         } else {
2184                 modrm |= MOD_IND_WORD_OFS;
2185                 emitoffs = 32;
2186         }
2187
2188         if (has_base) {
2189                 const arch_register_t *base_reg = arch_get_irn_register(base);
2190                 base_enc = reg_gp_map[base_reg->index];
2191         } else {
2192                 /* Use the EBP encoding + MOD_IND if NO base register. There is
2193                  * always a 32bit offset present in this case. */
2194                 modrm    = MOD_IND;
2195                 base_enc = 0x05;
2196                 emitoffs = 32;
2197         }
2198
2199         /* Determine if we need a SIB byte. */
2200         if (has_index) {
2201                 const arch_register_t *reg_index = arch_get_irn_register(idx);
2202                 int                    scale     = get_ia32_am_scale(node);
2203                 assert(scale < 4);
2204                 /* R/M set to ESP means SIB in 32bit mode. */
2205                 modrm   |= ENC_RM(0x04);
2206                 sib      = ENC_SIB(scale, reg_gp_map[reg_index->index], base_enc);
2207                 emitsib = true;
2208         } else if (base_enc == 0x04) {
2209                 /* for the above reason we are forced to emit a SIB when base is ESP.
2210                  * Only the base is used, index must be ESP too, which means no index.
2211                  */
2212                 modrm   |= ENC_RM(0x04);
2213                 sib      = ENC_SIB(0, 0x04, 0x04);
2214                 emitsib  = true;
2215         } else {
2216                 modrm |= ENC_RM(base_enc);
2217         }
2218
2219         /* We are forced to emit an 8bit offset as EBP base without offset is a
2220          * special case for SIB without base register. */
2221         if (base_enc == 0x05 && emitoffs == 0) {
2222                 modrm    |= MOD_IND_BYTE_OFS;
2223                 emitoffs  = 8;
2224         }
2225
2226         modrm |= ENC_REG(reg);
2227
2228         bemit8(modrm);
2229         if (emitsib)
2230                 bemit8(sib);
2231
2232         /* emit displacement */
2233         if (emitoffs == 8) {
2234                 bemit8((unsigned) offs);
2235         } else if (emitoffs == 32) {
2236                 bemit_entity(ent, is_ia32_am_sc_sign(node), offs, false);
2237         }
2238 }
2239
2240 /**
2241  * Emit a binop with a immediate operand.
2242  *
2243  * @param node        the node to emit
2244  * @param opcode_eax  the opcode for the op eax, imm variant
2245  * @param opcode      the opcode for the reg, imm variant
2246  * @param ruval       the opcode extension for opcode
2247  */
2248 static void bemit_binop_with_imm(
2249         const ir_node *node,
2250         unsigned char opcode_ax,
2251         unsigned char opcode, unsigned char ruval)
2252 {
2253         /* Use in-reg, because some instructions (cmp, test) have no out-reg. */
2254         const ir_node               *op   = get_irn_n(node, n_ia32_binary_right);
2255         const ia32_immediate_attr_t *attr = get_ia32_immediate_attr_const(op);
2256         unsigned                     size;
2257
2258         /* Some instructions (test) have no short form with 32bit value + 8bit
2259          * immediate. */
2260         if (attr->symconst != NULL || opcode & SIGNEXT_IMM) {
2261                 size = 4;
2262         } else {
2263                 /* check for sign extension */
2264                 size = get_signed_imm_size(attr->offset);
2265         }
2266
2267         switch (size) {
2268         case 1:
2269                 bemit8(opcode | SIGNEXT_IMM);
2270                 /* cmp has this special mode */
2271                 if (get_ia32_op_type(node) == ia32_AddrModeS) {
2272                         bemit_mod_am(ruval, node);
2273                 } else {
2274                         const arch_register_t *reg = arch_get_irn_register_in(node, n_ia32_binary_left);
2275                         bemit_modru(reg, ruval);
2276                 }
2277                 bemit8((unsigned char)attr->offset);
2278                 return;
2279         case 2:
2280         case 4:
2281                 /* check for eax variant: this variant is shorter for 32bit immediates only */
2282                 if (get_ia32_op_type(node) == ia32_AddrModeS) {
2283                         bemit8(opcode);
2284                         bemit_mod_am(ruval, node);
2285                 } else {
2286                         const arch_register_t *reg = arch_get_irn_register_in(node, n_ia32_binary_left);
2287                         if (reg->index == REG_GP_EAX) {
2288                                 bemit8(opcode_ax);
2289                         } else {
2290                                 bemit8(opcode);
2291                                 bemit_modru(reg, ruval);
2292                         }
2293                 }
2294                 bemit_entity(attr->symconst, attr->sc_sign, attr->offset, false);
2295                 return;
2296         }
2297         panic("invalid imm size?!?");
2298 }
2299
2300 /**
2301  * Emits a binop.
2302  */
2303 static void bemit_binop_2(const ir_node *node, unsigned code)
2304 {
2305         const arch_register_t *out = arch_get_irn_register_in(node, n_ia32_binary_left);
2306         bemit8(code);
2307         if (get_ia32_op_type(node) == ia32_Normal) {
2308                 const arch_register_t *op2 = arch_get_irn_register_in(node, n_ia32_binary_right);
2309                 bemit_modrr(op2, out);
2310         } else {
2311                 bemit_mod_am(reg_gp_map[out->index], node);
2312         }
2313 }
2314
2315 /**
2316  * Emit a binop.
2317  */
2318 static void bemit_binop(const ir_node *node, const unsigned char opcodes[4])
2319 {
2320         ir_node *right = get_irn_n(node, n_ia32_binary_right);
2321         if (is_ia32_Immediate(right)) {
2322                 bemit_binop_with_imm(node, opcodes[1], opcodes[2], opcodes[3]);
2323         } else {
2324                 bemit_binop_2(node, opcodes[0]);
2325         }
2326 }
2327
2328 /**
2329  * Emit an unop.
2330  */
2331 static void bemit_unop(const ir_node *node, unsigned char code, unsigned char ext, int input)
2332 {
2333         bemit8(code);
2334         if (get_ia32_op_type(node) == ia32_Normal) {
2335                 const arch_register_t *in = arch_get_irn_register_in(node, input);
2336                 bemit_modru(in, ext);
2337         } else {
2338                 bemit_mod_am(ext, node);
2339         }
2340 }
2341
2342 static void bemit_unop_reg(const ir_node *node, unsigned char code, int input)
2343 {
2344         const arch_register_t *out = arch_get_irn_register_out(node, 0);
2345         bemit_unop(node, code, reg_gp_map[out->index], input);
2346 }
2347
2348 static void bemit_unop_mem(const ir_node *node, unsigned char code, unsigned char ext)
2349 {
2350         unsigned size = get_mode_size_bits(get_ia32_ls_mode(node));
2351         if (size == 16)
2352                 bemit8(0x66);
2353         bemit8(size == 8 ? code : code + 1);
2354         bemit_mod_am(ext, node);
2355 }
2356
2357 static void bemit_immediate(const ir_node *node, bool relative)
2358 {
2359         const ia32_immediate_attr_t *attr = get_ia32_immediate_attr_const(node);
2360         bemit_entity(attr->symconst, attr->sc_sign, attr->offset, relative);
2361 }
2362
2363 static void bemit_copy(const ir_node *copy)
2364 {
2365         const arch_register_t *in  = arch_get_irn_register_in(copy, 0);
2366         const arch_register_t *out = arch_get_irn_register_out(copy, 0);
2367
2368         if (in == out)
2369                 return;
2370         /* copies of vf nodes aren't real... */
2371         if (arch_register_get_class(in) == &ia32_reg_classes[CLASS_ia32_vfp])
2372                 return;
2373
2374         assert(arch_register_get_class(in) == &ia32_reg_classes[CLASS_ia32_gp]);
2375         bemit8(0x8B);
2376         bemit_modrr(in, out);
2377 }
2378
2379 static void bemit_perm(const ir_node *node)
2380 {
2381         const arch_register_t       *in0  = arch_get_irn_register(get_irn_n(node, 0));
2382         const arch_register_t       *in1  = arch_get_irn_register(get_irn_n(node, 1));
2383         const arch_register_class_t *cls0 = arch_register_get_class(in0);
2384
2385         assert(cls0 == arch_register_get_class(in1) && "Register class mismatch at Perm");
2386
2387         if (cls0 == &ia32_reg_classes[CLASS_ia32_gp]) {
2388                 if (in0->index == REG_GP_EAX) {
2389                         bemit8(0x90 + reg_gp_map[in1->index]);
2390                 } else if (in1->index == REG_GP_EAX) {
2391                         bemit8(0x90 + reg_gp_map[in0->index]);
2392                 } else {
2393                         bemit8(0x87);
2394                         bemit_modrr(in0, in1);
2395                 }
2396         } else if (cls0 == &ia32_reg_classes[CLASS_ia32_xmm]) {
2397                 panic("unimplemented"); // TODO implement
2398                 //ia32_emitf(NULL, "\txorpd %R, %R\n", in1, in0);
2399                 //ia32_emitf(NULL, "\txorpd %R, %R\n", in0, in1);
2400                 //ia32_emitf(node, "\txorpd %R, %R\n", in1, in0);
2401         } else if (cls0 == &ia32_reg_classes[CLASS_ia32_vfp]) {
2402                 /* is a NOP */
2403         } else if (cls0 == &ia32_reg_classes[CLASS_ia32_st]) {
2404                 /* is a NOP */
2405         } else {
2406                 panic("unexpected register class in be_Perm (%+F)", node);
2407         }
2408 }
2409
2410 static void bemit_xor0(const ir_node *node)
2411 {
2412         const arch_register_t *out = arch_get_irn_register_out(node, 0);
2413         bemit8(0x31);
2414         bemit_modrr(out, out);
2415 }
2416
2417 static void bemit_mov_const(const ir_node *node)
2418 {
2419         const arch_register_t *out = arch_get_irn_register_out(node, 0);
2420         bemit8(0xB8 + reg_gp_map[out->index]);
2421         bemit_immediate(node, false);
2422 }
2423
2424 /**
2425  * Creates a function for a Binop with 3 possible encodings.
2426  */
2427 #define BINOP(op, op0, op1, op2, op2_ext)                                 \
2428 static void bemit_ ## op(const ir_node *node) {                           \
2429         static const unsigned char op ## _codes[] = {op0, op1, op2, op2_ext}; \
2430         bemit_binop(node, op ## _codes);                                      \
2431 }
2432
2433 /*    insn  def  eax,imm   imm */
2434 BINOP(add,  0x03, 0x05, 0x81, 0)
2435 BINOP(or,   0x0B, 0x0D, 0x81, 1)
2436 BINOP(adc,  0x13, 0x15, 0x81, 2)
2437 BINOP(sbb,  0x1B, 0x1D, 0x81, 3)
2438 BINOP(and,  0x23, 0x25, 0x81, 4)
2439 BINOP(sub,  0x2B, 0x2D, 0x81, 5)
2440 BINOP(xor,  0x33, 0x35, 0x81, 6)
2441 BINOP(test, 0x85, 0xA9, 0xF7, 0)
2442
2443 #define BINOPMEM(op, ext) \
2444 static void bemit_##op(const ir_node *node) \
2445 { \
2446         ir_node *val; \
2447         unsigned size = get_mode_size_bits(get_ia32_ls_mode(node)); \
2448         if (size == 16) \
2449                 bemit8(0x66); \
2450         val = get_irn_n(node, n_ia32_unary_op); \
2451         if (is_ia32_Immediate(val)) { \
2452                 const ia32_immediate_attr_t *attr   = get_ia32_immediate_attr_const(val); \
2453                 int                          offset = attr->offset; \
2454                 if (attr->symconst == NULL && get_signed_imm_size(offset) == 1) { \
2455                         bemit8(0x83); \
2456                         bemit_mod_am(ext, node); \
2457                         bemit8(offset); \
2458                 } else { \
2459                         bemit8(0x81); \
2460                         bemit_mod_am(ext, node); \
2461                         if (size == 16) { \
2462                                 bemit16(offset); \
2463                         } else { \
2464                                 bemit_entity(attr->symconst, attr->sc_sign, offset, false); \
2465                         } \
2466                 } \
2467         } else { \
2468                 bemit8(ext << 3 | 1); \
2469                 bemit_mod_am(reg_gp_map[arch_get_irn_register_out(val, 0)->index], node); \
2470         } \
2471 } \
2472  \
2473 static void bemit_##op##8bit(const ir_node *node) \
2474 { \
2475         ir_node *val = get_irn_n(node, n_ia32_unary_op); \
2476         if (is_ia32_Immediate(val)) { \
2477                 bemit8(0x80); \
2478                 bemit_mod_am(ext, node); \
2479                 bemit8(get_ia32_immediate_attr_const(val)->offset); \
2480         } else { \
2481                 bemit8(ext << 3); \
2482                 bemit_mod_am(reg_gp_map[arch_get_irn_register_out(val, 0)->index], node); \
2483         } \
2484 }
2485
2486 BINOPMEM(addmem,  0)
2487 BINOPMEM(ormem,   1)
2488 BINOPMEM(andmem,  4)
2489 BINOPMEM(submem,  5)
2490 BINOPMEM(xormem,  6)
2491
2492
2493 /**
2494  * Creates a function for an Unop with code /ext encoding.
2495  */
2496 #define UNOP(op, code, ext, input)              \
2497 static void bemit_ ## op(const ir_node *node) { \
2498         bemit_unop(node, code, ext, input);         \
2499 }
2500
2501 UNOP(not,     0xF7, 2, n_ia32_Not_val)
2502 UNOP(neg,     0xF7, 3, n_ia32_Neg_val)
2503 UNOP(mul,     0xF7, 4, n_ia32_Mul_right)
2504 UNOP(imul1op, 0xF7, 5, n_ia32_IMul1OP_right)
2505 UNOP(div,     0xF7, 6, n_ia32_Div_divisor)
2506 UNOP(idiv,    0xF7, 7, n_ia32_IDiv_divisor)
2507
2508 /* TODO: am support for IJmp */
2509 UNOP(ijmp,    0xFF, 4, n_ia32_IJmp_target)
2510
2511 #define SHIFT(op, ext) \
2512 static void bemit_##op(const ir_node *node) \
2513 { \
2514         const arch_register_t *out   = arch_get_irn_register_out(node, 0); \
2515         ir_node               *count = get_irn_n(node, 1); \
2516         if (is_ia32_Immediate(count)) { \
2517                 int offset = get_ia32_immediate_attr_const(count)->offset; \
2518                 if (offset == 1) { \
2519                         bemit8(0xD1); \
2520                         bemit_modru(out, ext); \
2521                 } else { \
2522                         bemit8(0xC1); \
2523                         bemit_modru(out, ext); \
2524                         bemit8(offset); \
2525                 } \
2526         } else { \
2527                 bemit8(0xD3); \
2528                 bemit_modru(out, ext); \
2529         } \
2530 } \
2531  \
2532 static void bemit_##op##mem(const ir_node *node) \
2533 { \
2534         ir_node *count; \
2535         unsigned size = get_mode_size_bits(get_ia32_ls_mode(node)); \
2536         if (size == 16) \
2537                 bemit8(0x66); \
2538         count = get_irn_n(node, 1); \
2539         if (is_ia32_Immediate(count)) { \
2540                 int offset = get_ia32_immediate_attr_const(count)->offset; \
2541                 if (offset == 1) { \
2542                         bemit8(size == 8 ? 0xD0 : 0xD1); \
2543                         bemit_mod_am(ext, node); \
2544                 } else { \
2545                         bemit8(size == 8 ? 0xC0 : 0xC1); \
2546                         bemit_mod_am(ext, node); \
2547                         bemit8(offset); \
2548                 } \
2549         } else { \
2550                 bemit8(size == 8 ? 0xD2 : 0xD3); \
2551                 bemit_mod_am(ext, node); \
2552         } \
2553 }
2554
2555 SHIFT(rol, 0)
2556 SHIFT(ror, 1)
2557 SHIFT(shl, 4)
2558 SHIFT(shr, 5)
2559 SHIFT(sar, 7)
2560
2561 static void bemit_shld(const ir_node *node)
2562 {
2563         const arch_register_t *in  = arch_get_irn_register_in(node, n_ia32_ShlD_val_low);
2564         const arch_register_t *out = arch_get_irn_register_out(node, pn_ia32_ShlD_res);
2565         ir_node *count = get_irn_n(node, n_ia32_ShlD_count);
2566         bemit8(0x0F);
2567         if (is_ia32_Immediate(count)) {
2568                 bemit8(0xA4);
2569                 bemit_modrr(out, in);
2570                 bemit8(get_ia32_immediate_attr_const(count)->offset);
2571         } else {
2572                 bemit8(0xA5);
2573                 bemit_modrr(out, in);
2574         }
2575 }
2576
2577 static void bemit_shrd(const ir_node *node)
2578 {
2579         const arch_register_t *in  = arch_get_irn_register_in(node, n_ia32_ShrD_val_low);
2580         const arch_register_t *out = arch_get_irn_register_out(node, pn_ia32_ShrD_res);
2581         ir_node *count = get_irn_n(node, n_ia32_ShrD_count);
2582         bemit8(0x0F);
2583         if (is_ia32_Immediate(count)) {
2584                 bemit8(0xAC);
2585                 bemit_modrr(out, in);
2586                 bemit8(get_ia32_immediate_attr_const(count)->offset);
2587         } else {
2588                 bemit8(0xAD);
2589                 bemit_modrr(out, in);
2590         }
2591 }
2592
2593 /**
2594  * binary emitter for setcc.
2595  */
2596 static void bemit_setcc(const ir_node *node)
2597 {
2598         const arch_register_t *dreg = arch_get_irn_register_out(node, pn_ia32_Setcc_res);
2599
2600         ia32_condition_code_t cc = get_ia32_condcode(node);
2601         cc = determine_final_cc(node, n_ia32_Setcc_eflags, cc);
2602         if (cc & ia32_cc_float_parity_cases) {
2603                 if (cc & ia32_cc_negated) {
2604                         /* set%PNC <dreg */
2605                         bemit8(0x0F);
2606                         bemit8(0x90 | pnc2cc(cc));
2607                         bemit_modrm8(REG_LOW, dreg);
2608
2609                         /* setp >dreg */
2610                         bemit8(0x0F);
2611                         bemit8(0x9A);
2612                         bemit_modrm8(REG_HIGH, dreg);
2613
2614                         /* orb %>dreg, %<dreg */
2615                         bemit8(0x08);
2616                         bemit_modrr8(REG_LOW, dreg, REG_HIGH, dreg);
2617                 } else {
2618                          /* set%PNC <dreg */
2619                         bemit8(0x0F);
2620                         bemit8(0x90 | pnc2cc(cc));
2621                         bemit_modrm8(REG_LOW, dreg);
2622
2623                         /* setnp >dreg */
2624                         bemit8(0x0F);
2625                         bemit8(0x9B);
2626                         bemit_modrm8(REG_HIGH, dreg);
2627
2628                         /* andb %>dreg, %<dreg */
2629                         bemit8(0x20);
2630                         bemit_modrr8(REG_LOW, dreg, REG_HIGH, dreg);
2631                 }
2632         } else {
2633                 /* set%PNC <dreg */
2634                 bemit8(0x0F);
2635                 bemit8(0x90 | pnc2cc(cc));
2636                 bemit_modrm8(REG_LOW, dreg);
2637         }
2638 }
2639
2640 static void bemit_cmovcc(const ir_node *node)
2641 {
2642         const ia32_attr_t     *attr         = get_ia32_attr_const(node);
2643         int                    ins_permuted = attr->data.ins_permuted;
2644         const arch_register_t *out          = arch_get_irn_register_out(node, pn_ia32_res);
2645         ia32_condition_code_t  cc           = get_ia32_condcode(node);
2646         const arch_register_t *in_true;
2647         const arch_register_t *in_false;
2648
2649         cc = determine_final_cc(node, n_ia32_CMovcc_eflags, cc);
2650
2651         in_true  = arch_get_irn_register(get_irn_n(node, n_ia32_CMovcc_val_true));
2652         in_false = arch_get_irn_register(get_irn_n(node, n_ia32_CMovcc_val_false));
2653
2654         /* should be same constraint fullfilled? */
2655         if (out == in_false) {
2656                 /* yes -> nothing to do */
2657         } else if (out == in_true) {
2658                 assert(get_ia32_op_type(node) == ia32_Normal);
2659                 ins_permuted = !ins_permuted;
2660                 in_true      = in_false;
2661         } else {
2662                 /* we need a mov */
2663                 bemit8(0x8B); // mov %in_false, %out
2664                 bemit_modrr(in_false, out);
2665         }
2666
2667         if (ins_permuted)
2668                 cc = ia32_negate_condition_code(cc);
2669
2670         if (cc & ia32_cc_float_parity_cases)
2671                 panic("cmov can't handle parity float cases");
2672
2673         bemit8(0x0F);
2674         bemit8(0x40 | pnc2cc(cc));
2675         if (get_ia32_op_type(node) == ia32_Normal) {
2676                 bemit_modrr(in_true, out);
2677         } else {
2678                 bemit_mod_am(reg_gp_map[out->index], node);
2679         }
2680 }
2681
2682 static void bemit_cmp(const ir_node *node)
2683 {
2684         unsigned  ls_size = get_mode_size_bits(get_ia32_ls_mode(node));
2685         ir_node  *right;
2686
2687         if (ls_size == 16)
2688                 bemit8(0x66);
2689
2690         right = get_irn_n(node, n_ia32_binary_right);
2691         if (is_ia32_Immediate(right)) {
2692                 /* Use in-reg, because some instructions (cmp, test) have no out-reg. */
2693                 const ir_node               *op   = get_irn_n(node, n_ia32_binary_right);
2694                 const ia32_immediate_attr_t *attr = get_ia32_immediate_attr_const(op);
2695                 unsigned                     size;
2696
2697                 if (attr->symconst != NULL) {
2698                         size = 4;
2699                 } else {
2700                         /* check for sign extension */
2701                         size = get_signed_imm_size(attr->offset);
2702                 }
2703
2704                 switch (size) {
2705                         case 1:
2706                                 bemit8(0x81 | SIGNEXT_IMM);
2707                                 /* cmp has this special mode */
2708                                 if (get_ia32_op_type(node) == ia32_AddrModeS) {
2709                                         bemit_mod_am(7, node);
2710                                 } else {
2711                                         const arch_register_t *reg = arch_get_irn_register_in(node, n_ia32_binary_left);
2712                                         bemit_modru(reg, 7);
2713                                 }
2714                                 bemit8((unsigned char)attr->offset);
2715                                 return;
2716                         case 2:
2717                         case 4:
2718                                 /* check for eax variant: this variant is shorter for 32bit immediates only */
2719                                 if (get_ia32_op_type(node) == ia32_AddrModeS) {
2720                                         bemit8(0x81);
2721                                         bemit_mod_am(7, node);
2722                                 } else {
2723                                         const arch_register_t *reg = arch_get_irn_register_in(node, n_ia32_binary_left);
2724                                         if (reg->index == REG_GP_EAX) {
2725                                                 bemit8(0x3D);
2726                                         } else {
2727                                                 bemit8(0x81);
2728                                                 bemit_modru(reg, 7);
2729                                         }
2730                                 }
2731                                 if (ls_size == 16) {
2732                                         bemit16(attr->offset);
2733                                 } else {
2734                                         bemit_entity(attr->symconst, attr->sc_sign, attr->offset, false);
2735                                 }
2736                                 return;
2737                 }
2738                 panic("invalid imm size?!?");
2739         } else {
2740                 const arch_register_t *out = arch_get_irn_register_in(node, n_ia32_binary_left);
2741                 bemit8(0x3B);
2742                 if (get_ia32_op_type(node) == ia32_Normal) {
2743                         const arch_register_t *op2 = arch_get_irn_register_in(node, n_ia32_binary_right);
2744                         bemit_modrr(op2, out);
2745                 } else {
2746                         bemit_mod_am(reg_gp_map[out->index], node);
2747                 }
2748         }
2749 }
2750
2751 static void bemit_cmp8bit(const ir_node *node)
2752 {
2753         ir_node *right = get_irn_n(node, n_ia32_binary_right);
2754         if (is_ia32_Immediate(right)) {
2755                 if (get_ia32_op_type(node) == ia32_Normal) {
2756                         const arch_register_t *out = arch_get_irn_register_in(node, n_ia32_Cmp_left);
2757                         if (out->index == REG_GP_EAX) {
2758                                 bemit8(0x3C);
2759                         } else {
2760                                 bemit8(0x80);
2761                                 bemit_modru(out, 7);
2762                         }
2763                 } else {
2764                         bemit8(0x80);
2765                         bemit_mod_am(7, node);
2766                 }
2767                 bemit8(get_ia32_immediate_attr_const(right)->offset);
2768         } else {
2769                 const arch_register_t *out = arch_get_irn_register_in(node, n_ia32_Cmp_left);
2770                 bemit8(0x3A);
2771                 if (get_ia32_op_type(node) == ia32_Normal) {
2772                         const arch_register_t *in = arch_get_irn_register_in(node, n_ia32_Cmp_right);
2773                         bemit_modrr(out, in);
2774                 } else {
2775                         bemit_mod_am(reg_gp_map[out->index], node);
2776                 }
2777         }
2778 }
2779
2780 static void bemit_test8bit(const ir_node *node)
2781 {
2782         ir_node *right = get_irn_n(node, n_ia32_Test8Bit_right);
2783         if (is_ia32_Immediate(right)) {
2784                 if (get_ia32_op_type(node) == ia32_Normal) {
2785                         const arch_register_t *out = arch_get_irn_register_in(node, n_ia32_Test8Bit_left);
2786                         if (out->index == REG_GP_EAX) {
2787                                 bemit8(0xA8);
2788                         } else {
2789                                 bemit8(0xF6);
2790                                 bemit_modru(out, 0);
2791                         }
2792                 } else {
2793                         bemit8(0xF6);
2794                         bemit_mod_am(0, node);
2795                 }
2796                 bemit8(get_ia32_immediate_attr_const(right)->offset);
2797         } else {
2798                 const arch_register_t *out = arch_get_irn_register_in(node, n_ia32_Test8Bit_left);
2799                 bemit8(0x84);
2800                 if (get_ia32_op_type(node) == ia32_Normal) {
2801                         const arch_register_t *in = arch_get_irn_register_in(node, n_ia32_Test8Bit_right);
2802                         bemit_modrr(out, in);
2803                 } else {
2804                         bemit_mod_am(reg_gp_map[out->index], node);
2805                 }
2806         }
2807 }
2808
2809 static void bemit_imul(const ir_node *node)
2810 {
2811         ir_node *right = get_irn_n(node, n_ia32_IMul_right);
2812         /* Do we need the immediate form? */
2813         if (is_ia32_Immediate(right)) {
2814                 int imm = get_ia32_immediate_attr_const(right)->offset;
2815                 if (get_signed_imm_size(imm) == 1) {
2816                         bemit_unop_reg(node, 0x6B, n_ia32_IMul_left);
2817                         bemit8(imm);
2818                 } else {
2819                         bemit_unop_reg(node, 0x69, n_ia32_IMul_left);
2820                         bemit32(imm);
2821                 }
2822         } else {
2823                 bemit8(0x0F);
2824                 bemit_unop_reg(node, 0xAF, n_ia32_IMul_right);
2825         }
2826 }
2827
2828 static void bemit_dec(const ir_node *node)
2829 {
2830         const arch_register_t *out = arch_get_irn_register_out(node, pn_ia32_Dec_res);
2831         bemit8(0x48 + reg_gp_map[out->index]);
2832 }
2833
2834 static void bemit_inc(const ir_node *node)
2835 {
2836         const arch_register_t *out = arch_get_irn_register_out(node, pn_ia32_Inc_res);
2837         bemit8(0x40 + reg_gp_map[out->index]);
2838 }
2839
2840 #define UNOPMEM(op, code, ext) \
2841 static void bemit_##op(const ir_node *node) \
2842 { \
2843         bemit_unop_mem(node, code, ext); \
2844 }
2845
2846 UNOPMEM(notmem, 0xF6, 2)
2847 UNOPMEM(negmem, 0xF6, 3)
2848 UNOPMEM(incmem, 0xFE, 0)
2849 UNOPMEM(decmem, 0xFE, 1)
2850
2851 static void bemit_ldtls(const ir_node *node)
2852 {
2853         const arch_register_t *out = arch_get_irn_register_out(node, 0);
2854
2855         bemit8(0x65); // gs:
2856         if (out->index == REG_GP_EAX) {
2857                 bemit8(0xA1); // movl 0, %eax
2858         } else {
2859                 bemit8(0x8B); // movl 0, %reg
2860                 bemit8(MOD_IND | ENC_REG(reg_gp_map[out->index]) | ENC_RM(0x05));
2861         }
2862         bemit32(0);
2863 }
2864
2865 /**
2866  * Emit a Lea.
2867  */
2868 static void bemit_lea(const ir_node *node)
2869 {
2870         const arch_register_t *out = arch_get_irn_register_out(node, 0);
2871         bemit8(0x8D);
2872         bemit_mod_am(reg_gp_map[out->index], node);
2873 }
2874
2875 /* helper function for bemit_minus64bit */
2876 static void bemit_helper_mov(const arch_register_t *src, const arch_register_t *dst)
2877 {
2878         bemit8(0x8B); // movl %src, %dst
2879         bemit_modrr(src, dst);
2880 }
2881
2882 /* helper function for bemit_minus64bit */
2883 static void bemit_helper_neg(const arch_register_t *reg)
2884 {
2885         bemit8(0xF7); // negl %reg
2886         bemit_modru(reg, 3);
2887 }
2888
2889 /* helper function for bemit_minus64bit */
2890 static void bemit_helper_sbb0(const arch_register_t *reg)
2891 {
2892         bemit8(0x83); // sbbl $0, %reg
2893         bemit_modru(reg, 3);
2894         bemit8(0);
2895 }
2896
2897 /* helper function for bemit_minus64bit */
2898 static void bemit_helper_sbb(const arch_register_t *src, const arch_register_t *dst)
2899 {
2900         bemit8(0x1B); // sbbl %src, %dst
2901         bemit_modrr(src, dst);
2902 }
2903
2904 /* helper function for bemit_minus64bit */
2905 static void bemit_helper_xchg(const arch_register_t *src, const arch_register_t *dst)
2906 {
2907         if (src->index == REG_GP_EAX) {
2908                 bemit8(0x90 + reg_gp_map[dst->index]); // xchgl %eax, %dst
2909         } else if (dst->index == REG_GP_EAX) {
2910                 bemit8(0x90 + reg_gp_map[src->index]); // xchgl %src, %eax
2911         } else {
2912                 bemit8(0x87); // xchgl %src, %dst
2913                 bemit_modrr(src, dst);
2914         }
2915 }
2916
2917 /* helper function for bemit_minus64bit */
2918 static void bemit_helper_zero(const arch_register_t *reg)
2919 {
2920         bemit8(0x33); // xorl %reg, %reg
2921         bemit_modrr(reg, reg);
2922 }
2923
2924 static void bemit_minus64bit(const ir_node *node)
2925 {
2926         const arch_register_t *in_lo  = arch_get_irn_register_in(node, 0);
2927         const arch_register_t *in_hi  = arch_get_irn_register_in(node, 1);
2928         const arch_register_t *out_lo = arch_get_irn_register_out(node, 0);
2929         const arch_register_t *out_hi = arch_get_irn_register_out(node, 1);
2930
2931         if (out_lo == in_lo) {
2932                 if (out_hi != in_hi) {
2933                         /* a -> a, b -> d */
2934                         goto zero_neg;
2935                 } else {
2936                         /* a -> a, b -> b */
2937                         goto normal_neg;
2938                 }
2939         } else if (out_lo == in_hi) {
2940                 if (out_hi == in_lo) {
2941                         /* a -> b, b -> a */
2942                         bemit_helper_xchg(in_lo, in_hi);
2943                         goto normal_neg;
2944                 } else {
2945                         /* a -> b, b -> d */
2946                         bemit_helper_mov(in_hi, out_hi);
2947                         bemit_helper_mov(in_lo, out_lo);
2948                         goto normal_neg;
2949                 }
2950         } else {
2951                 if (out_hi == in_lo) {
2952                         /* a -> c, b -> a */
2953                         bemit_helper_mov(in_lo, out_lo);
2954                         goto zero_neg;
2955                 } else if (out_hi == in_hi) {
2956                         /* a -> c, b -> b */
2957                         bemit_helper_mov(in_lo, out_lo);
2958                         goto normal_neg;
2959                 } else {
2960                         /* a -> c, b -> d */
2961                         bemit_helper_mov(in_lo, out_lo);
2962                         goto zero_neg;
2963                 }
2964         }
2965
2966 normal_neg:
2967         bemit_helper_neg( out_hi);
2968         bemit_helper_neg( out_lo);
2969         bemit_helper_sbb0(out_hi);
2970         return;
2971
2972 zero_neg:
2973         bemit_helper_zero(out_hi);
2974         bemit_helper_neg( out_lo);
2975         bemit_helper_sbb( in_hi, out_hi);
2976 }
2977
2978 /**
2979  * Emit a single opcode.
2980  */
2981 #define EMIT_SINGLEOP(op, code)                 \
2982 static void bemit_ ## op(const ir_node *node) { \
2983         (void) node;                                \
2984         bemit8(code);                               \
2985 }
2986
2987 //EMIT_SINGLEOP(daa,  0x27)
2988 //EMIT_SINGLEOP(das,  0x2F)
2989 //EMIT_SINGLEOP(aaa,  0x37)
2990 //EMIT_SINGLEOP(aas,  0x3F)
2991 //EMIT_SINGLEOP(nop,  0x90)
2992 EMIT_SINGLEOP(cwtl,  0x98)
2993 EMIT_SINGLEOP(cltd,  0x99)
2994 //EMIT_SINGLEOP(fwait, 0x9B)
2995 EMIT_SINGLEOP(sahf,  0x9E)
2996 //EMIT_SINGLEOP(popf, 0x9D)
2997 EMIT_SINGLEOP(leave, 0xC9)
2998 EMIT_SINGLEOP(int3,  0xCC)
2999 //EMIT_SINGLEOP(iret, 0xCF)
3000 //EMIT_SINGLEOP(xlat, 0xD7)
3001 //EMIT_SINGLEOP(lock, 0xF0)
3002 EMIT_SINGLEOP(rep,   0xF3)
3003 //EMIT_SINGLEOP(halt, 0xF4)
3004 EMIT_SINGLEOP(cmc,   0xF5)
3005 EMIT_SINGLEOP(stc,   0xF9)
3006 //EMIT_SINGLEOP(cli,  0xFA)
3007 //EMIT_SINGLEOP(sti,  0xFB)
3008 //EMIT_SINGLEOP(std,  0xFD)
3009
3010 /**
3011  * Emits a MOV out, [MEM].
3012  */
3013 static void bemit_load(const ir_node *node)
3014 {
3015         const arch_register_t *out = arch_get_irn_register_out(node, 0);
3016
3017         if (out->index == REG_GP_EAX) {
3018                 ir_node   *base      = get_irn_n(node, n_ia32_base);
3019                 int        has_base  = !is_ia32_NoReg_GP(base);
3020                 ir_node   *idx       = get_irn_n(node, n_ia32_index);
3021                 int        has_index = !is_ia32_NoReg_GP(idx);
3022                 if (!has_base && !has_index) {
3023                         ir_entity *ent  = get_ia32_am_sc(node);
3024                         int        offs = get_ia32_am_offs_int(node);
3025                         /* load from constant address to EAX can be encoded
3026                            as 0xA1 [offset] */
3027                         bemit8(0xA1);
3028                         bemit_entity(ent, 0, offs, false);
3029                         return;
3030                 }
3031         }
3032         bemit8(0x8B);
3033         bemit_mod_am(reg_gp_map[out->index], node);
3034 }
3035
3036 /**
3037  * Emits a MOV [mem], in.
3038  */
3039 static void bemit_store(const ir_node *node)
3040 {
3041         const ir_node *value = get_irn_n(node, n_ia32_Store_val);
3042         unsigned       size  = get_mode_size_bits(get_ia32_ls_mode(node));
3043
3044         if (is_ia32_Immediate(value)) {
3045                 if (size == 8) {
3046                         bemit8(0xC6);
3047                         bemit_mod_am(0, node);
3048                         bemit8(get_ia32_immediate_attr_const(value)->offset);
3049                 } else if (size == 16) {
3050                         bemit8(0x66);
3051                         bemit8(0xC7);
3052                         bemit_mod_am(0, node);
3053                         bemit16(get_ia32_immediate_attr_const(value)->offset);
3054                 } else {
3055                         bemit8(0xC7);
3056                         bemit_mod_am(0, node);
3057                         bemit_immediate(value, false);
3058                 }
3059         } else {
3060                 const arch_register_t *in = arch_get_irn_register_in(node, n_ia32_Store_val);
3061
3062                 if (in->index == REG_GP_EAX) {
3063                         ir_node   *base      = get_irn_n(node, n_ia32_base);
3064                         int        has_base  = !is_ia32_NoReg_GP(base);
3065                         ir_node   *idx       = get_irn_n(node, n_ia32_index);
3066                         int        has_index = !is_ia32_NoReg_GP(idx);
3067                         if (!has_base && !has_index) {
3068                                 ir_entity *ent  = get_ia32_am_sc(node);
3069                                 int        offs = get_ia32_am_offs_int(node);
3070                                 /* store to constant address from EAX can be encoded as
3071                                  * 0xA2/0xA3 [offset]*/
3072                                 if (size == 8) {
3073                                         bemit8(0xA2);
3074                                 } else {
3075                                         if (size == 16)
3076                                                 bemit8(0x66);
3077                                         bemit8(0xA3);
3078                                 }
3079                                 bemit_entity(ent, 0, offs, false);
3080                                 return;
3081                         }
3082                 }
3083
3084                 if (size == 8) {
3085                         bemit8(0x88);
3086                 } else {
3087                         if (size == 16)
3088                                 bemit8(0x66);
3089                         bemit8(0x89);
3090                 }
3091                 bemit_mod_am(reg_gp_map[in->index], node);
3092         }
3093 }
3094
3095 static void bemit_conv_i2i(const ir_node *node)
3096 {
3097         ir_mode  *smaller_mode = get_ia32_ls_mode(node);
3098         unsigned  opcode;
3099
3100         bemit8(0x0F);
3101         /*        8 16 bit source
3102          * movzx B6 B7
3103          * movsx BE BF
3104          */
3105         opcode = 0xB6;
3106         if (mode_is_signed(smaller_mode))           opcode |= 0x08;
3107         if (get_mode_size_bits(smaller_mode) == 16) opcode |= 0x01;
3108         bemit_unop_reg(node, opcode, n_ia32_Conv_I2I_val);
3109 }
3110
3111 /**
3112  * Emit a Push.
3113  */
3114 static void bemit_push(const ir_node *node)
3115 {
3116         const ir_node *value = get_irn_n(node, n_ia32_Push_val);
3117
3118         if (is_ia32_Immediate(value)) {
3119                 const ia32_immediate_attr_t *attr
3120                         = get_ia32_immediate_attr_const(value);
3121                 unsigned size = get_signed_imm_size(attr->offset);
3122                 if (attr->symconst)
3123                         size = 4;
3124                 switch (size) {
3125                 case 1:
3126                         bemit8(0x6A);
3127                         bemit8((unsigned char)attr->offset);
3128                         break;
3129                 case 2:
3130                 case 4:
3131                         bemit8(0x68);
3132                         bemit_immediate(value, false);
3133                         break;
3134                 }
3135         } else if (is_ia32_NoReg_GP(value)) {
3136                 bemit8(0xFF);
3137                 bemit_mod_am(6, node);
3138         } else {
3139                 const arch_register_t *reg = arch_get_irn_register_in(node, n_ia32_Push_val);
3140                 bemit8(0x50 + reg_gp_map[reg->index]);
3141         }
3142 }
3143
3144 /**
3145  * Emit a Pop.
3146  */
3147 static void bemit_pop(const ir_node *node)
3148 {
3149         const arch_register_t *reg = arch_get_irn_register_out(node, pn_ia32_Pop_res);
3150         bemit8(0x58 + reg_gp_map[reg->index]);
3151 }
3152
3153 static void bemit_popmem(const ir_node *node)
3154 {
3155         bemit8(0x8F);
3156         bemit_mod_am(0, node);
3157 }
3158
3159 static void bemit_call(const ir_node *node)
3160 {
3161         ir_node *proc = get_irn_n(node, n_ia32_Call_addr);
3162
3163         if (is_ia32_Immediate(proc)) {
3164                 bemit8(0xE8);
3165                 bemit_immediate(proc, true);
3166         } else {
3167                 bemit_unop(node, 0xFF, 2, n_ia32_Call_addr);
3168         }
3169 }
3170
3171 static void bemit_jmp(const ir_node *dest_block)
3172 {
3173         bemit8(0xE9);
3174         bemit_jmp_destination(dest_block);
3175 }
3176
3177 static void bemit_jump(const ir_node *node)
3178 {
3179         if (can_be_fallthrough(node))
3180                 return;
3181
3182         bemit_jmp(get_cfop_target_block(node));
3183 }
3184
3185 static void bemit_jcc(ia32_condition_code_t pnc, const ir_node *dest_block)
3186 {
3187         unsigned char cc = pnc2cc(pnc);
3188         bemit8(0x0F);
3189         bemit8(0x80 + cc);
3190         bemit_jmp_destination(dest_block);
3191 }
3192
3193 static void bemit_jp(bool odd, const ir_node *dest_block)
3194 {
3195         bemit8(0x0F);
3196         bemit8(0x8A + odd);
3197         bemit_jmp_destination(dest_block);
3198 }
3199
3200 static void bemit_ia32_jcc(const ir_node *node)
3201 {
3202         ia32_condition_code_t cc = get_ia32_condcode(node);
3203         const ir_node        *proj_true;
3204         const ir_node        *proj_false;
3205         const ir_node        *dest_true;
3206         const ir_node        *dest_false;
3207
3208         cc = determine_final_cc(node, 0, cc);
3209
3210         /* get both Projs */
3211         proj_true = get_proj(node, pn_ia32_Jcc_true);
3212         assert(proj_true && "Jcc without true Proj");
3213
3214         proj_false = get_proj(node, pn_ia32_Jcc_false);
3215         assert(proj_false && "Jcc without false Proj");
3216
3217         if (can_be_fallthrough(proj_true)) {
3218                 /* exchange both proj's so the second one can be omitted */
3219                 const ir_node *t = proj_true;
3220
3221                 proj_true  = proj_false;
3222                 proj_false = t;
3223                 cc         = ia32_negate_condition_code(cc);
3224         }
3225
3226         dest_true  = get_cfop_target_block(proj_true);
3227         dest_false = get_cfop_target_block(proj_false);
3228
3229         if (cc & ia32_cc_float_parity_cases) {
3230                 /* Some floating point comparisons require a test of the parity flag,
3231                  * which indicates that the result is unordered */
3232                 if (cc & ia32_cc_negated) {
3233                         bemit_jp(false, dest_true);
3234                 } else {
3235                         /* we need a local label if the false proj is a fallthrough
3236                          * as the falseblock might have no label emitted then */
3237                         if (can_be_fallthrough(proj_false)) {
3238                                 bemit8(0x7A);
3239                                 bemit8(0x06);  // jp + 6
3240                         } else {
3241                                 bemit_jp(false, dest_false);
3242                         }
3243                 }
3244         }
3245         bemit_jcc(cc, dest_true);
3246
3247         /* the second Proj might be a fallthrough */
3248         if (can_be_fallthrough(proj_false)) {
3249                 /* it's a fallthrough */
3250         } else {
3251                 bemit_jmp(dest_false);
3252         }
3253 }
3254
3255 static void bemit_switchjmp(const ir_node *node)
3256 {
3257         ir_entity             *jump_table = get_ia32_am_sc(node);
3258         const ir_switch_table *table      = get_ia32_switch_table(node);
3259
3260         bemit8(0xFF); // jmp *tbl.label(,%in,4)
3261         bemit_mod_am(0x05, node);
3262
3263         be_emit_jump_table(node, table, jump_table, get_cfop_target_block);
3264 }
3265
3266 /**
3267  * Emits a return.
3268  */
3269 static void bemit_return(const ir_node *node)
3270 {
3271         unsigned pop = be_Return_get_pop(node);
3272         if (pop > 0 || be_Return_get_emit_pop(node)) {
3273                 bemit8(0xC2);
3274                 assert(pop <= 0xffff);
3275                 bemit16(pop);
3276         } else {
3277                 bemit8(0xC3);
3278         }
3279 }
3280
3281 static void bemit_subsp(const ir_node *node)
3282 {
3283         const arch_register_t *out;
3284         /* sub %in, %esp */
3285         bemit_sub(node);
3286         /* mov %esp, %out */
3287         bemit8(0x8B);
3288         out = arch_get_irn_register_out(node, 1);
3289         bemit8(MOD_REG | ENC_REG(reg_gp_map[out->index]) | ENC_RM(0x04));
3290 }
3291
3292 static void bemit_incsp(const ir_node *node)
3293 {
3294         int                    offs;
3295         const arch_register_t *reg;
3296         unsigned               size;
3297         unsigned               ext;
3298
3299         offs = be_get_IncSP_offset(node);
3300         if (offs == 0)
3301                 return;
3302
3303         if (offs > 0) {
3304                 ext = 5; /* sub */
3305         } else {
3306                 ext = 0; /* add */
3307                 offs = -offs;
3308         }
3309
3310         size = get_signed_imm_size(offs);
3311         bemit8(size == 1 ? 0x83 : 0x81);
3312
3313         reg  = arch_get_irn_register_out(node, 0);
3314         bemit_modru(reg, ext);
3315
3316         if (size == 1) {
3317                 bemit8(offs);
3318         } else {
3319                 bemit32(offs);
3320         }
3321 }
3322
3323 static void bemit_copybi(const ir_node *node)
3324 {
3325         unsigned size = get_ia32_copyb_size(node);
3326         if (size & 1)
3327                 bemit8(0xA4); // movsb
3328         if (size & 2) {
3329                 bemit8(0x66);
3330                 bemit8(0xA5); // movsw
3331         }
3332         size >>= 2;
3333         while (size--) {
3334                 bemit8(0xA5); // movsl
3335         }
3336 }
3337
3338 static void bemit_fbinop(const ir_node *node, unsigned code, unsigned code_to)
3339 {
3340         if (get_ia32_op_type(node) == ia32_Normal) {
3341                 const ia32_x87_attr_t *x87_attr = get_ia32_x87_attr_const(node);
3342                 const arch_register_t *in1      = x87_attr->x87[0];
3343                 const arch_register_t *in       = x87_attr->x87[1];
3344                 const arch_register_t *out      = x87_attr->x87[2];
3345
3346                 if (out == NULL) {
3347                         out = in1;
3348                 } else if (out == in) {
3349                         in = in1;
3350                 }
3351
3352                 if (out->index == 0) {
3353                         bemit8(0xD8);
3354                         bemit8(MOD_REG | ENC_REG(code) | ENC_RM(in->index));
3355                 } else {
3356                         bemit8(0xDC);
3357                         bemit8(MOD_REG | ENC_REG(code_to) | ENC_RM(out->index));
3358                 }
3359         } else {
3360                 if (get_mode_size_bits(get_ia32_ls_mode(node)) == 32) {
3361                         bemit8(0xD8);
3362                 } else {
3363                         bemit8(0xDC);
3364                 }
3365                 bemit_mod_am(code, node);
3366         }
3367 }
3368
3369 static void bemit_fbinopp(const ir_node *node, unsigned const code)
3370 {
3371         const ia32_x87_attr_t *x87_attr = get_ia32_x87_attr_const(node);
3372         const arch_register_t *out      = x87_attr->x87[2];
3373         bemit8(0xDE);
3374         bemit8(code + out->index);
3375 }
3376
3377 static void bemit_fabs(const ir_node *node)
3378 {
3379         (void)node;
3380
3381         bemit8(0xD9);
3382         bemit8(0xE1);
3383 }
3384
3385 static void bemit_fadd(const ir_node *node)
3386 {
3387         bemit_fbinop(node, 0, 0);
3388 }
3389
3390 static void bemit_faddp(const ir_node *node)
3391 {
3392         bemit_fbinopp(node, 0xC0);
3393 }
3394
3395 static void bemit_fchs(const ir_node *node)
3396 {
3397         (void)node;
3398
3399         bemit8(0xD9);
3400         bemit8(0xE0);
3401 }
3402
3403 static void bemit_fdiv(const ir_node *node)
3404 {
3405         bemit_fbinop(node, 6, 7);
3406 }
3407
3408 static void bemit_fdivp(const ir_node *node)
3409 {
3410         bemit_fbinopp(node, 0xF8);
3411 }
3412
3413 static void bemit_fdivr(const ir_node *node)
3414 {
3415         bemit_fbinop(node, 7, 6);
3416 }
3417
3418 static void bemit_fdivrp(const ir_node *node)
3419 {
3420         bemit_fbinopp(node, 0xF0);
3421 }
3422
3423 static void bemit_fild(const ir_node *node)
3424 {
3425         switch (get_mode_size_bits(get_ia32_ls_mode(node))) {
3426                 case 16:
3427                         bemit8(0xDF); // filds
3428                         bemit_mod_am(0, node);
3429                         return;
3430
3431                 case 32:
3432                         bemit8(0xDB); // fildl
3433                         bemit_mod_am(0, node);
3434                         return;
3435
3436                 case 64:
3437                         bemit8(0xDF); // fildll
3438                         bemit_mod_am(5, node);
3439                         return;
3440
3441                 default:
3442                         panic("invalid mode size");
3443         }
3444 }
3445
3446 static void bemit_fist(const ir_node *node)
3447 {
3448         switch (get_mode_size_bits(get_ia32_ls_mode(node))) {
3449                 case 16:
3450                         bemit8(0xDF); // fists
3451                         break;
3452
3453                 case 32:
3454                         bemit8(0xDB); // fistl
3455                         break;
3456
3457                 default:
3458                         panic("invalid mode size");
3459         }
3460         bemit_mod_am(2, node);
3461 }
3462
3463 static void bemit_fistp(const ir_node *node)
3464 {
3465         switch (get_mode_size_bits(get_ia32_ls_mode(node))) {
3466                 case 16:
3467                         bemit8(0xDF); // fistps
3468                         bemit_mod_am(3, node);
3469                         return;
3470
3471                 case 32:
3472                         bemit8(0xDB); // fistpl
3473                         bemit_mod_am(3, node);
3474                         return;
3475
3476                 case 64:
3477                         bemit8(0xDF); // fistpll
3478                         bemit_mod_am(7, node);
3479                         return;
3480
3481                 default:
3482                         panic("invalid mode size");
3483         }
3484 }
3485
3486 static void bemit_fld(const ir_node *node)
3487 {
3488         switch (get_mode_size_bits(get_ia32_ls_mode(node))) {
3489                 case 32:
3490                         bemit8(0xD9); // flds
3491                         bemit_mod_am(0, node);
3492                         return;
3493
3494                 case 64:
3495                         bemit8(0xDD); // fldl
3496                         bemit_mod_am(0, node);
3497                         return;
3498
3499                 case 80:
3500                 case 96:
3501                         bemit8(0xDB); // fldt
3502                         bemit_mod_am(5, node);
3503                         return;
3504
3505                 default:
3506                         panic("invalid mode size");
3507         }
3508 }
3509
3510 static void bemit_fld1(const ir_node *node)
3511 {
3512         (void)node;
3513         bemit8(0xD9);
3514         bemit8(0xE8); // fld1
3515 }
3516
3517 static void bemit_fldcw(const ir_node *node)
3518 {
3519         bemit8(0xD9); // fldcw
3520         bemit_mod_am(5, node);
3521 }
3522
3523 static void bemit_fldz(const ir_node *node)
3524 {
3525         (void)node;
3526         bemit8(0xD9);
3527         bemit8(0xEE); // fldz
3528 }
3529
3530 static void bemit_fmul(const ir_node *node)
3531 {
3532         bemit_fbinop(node, 1, 1);
3533 }
3534
3535 static void bemit_fmulp(const ir_node *node)
3536 {
3537         bemit_fbinopp(node, 0xC8);
3538 }
3539
3540 static void bemit_fpop(const ir_node *node)
3541 {
3542         const ia32_x87_attr_t *attr = get_ia32_x87_attr_const(node);
3543         bemit8(0xDD);
3544         bemit8(0xD8 + attr->x87[0]->index);
3545 }
3546
3547 static void bemit_fpush(const ir_node *node)
3548 {
3549         const ia32_x87_attr_t *attr = get_ia32_x87_attr_const(node);
3550         bemit8(0xD9);
3551         bemit8(0xC0 + attr->x87[0]->index);
3552 }
3553
3554 static void bemit_fpushcopy(const ir_node *node)
3555 {
3556         const ia32_x87_attr_t *attr = get_ia32_x87_attr_const(node);
3557         bemit8(0xD9);
3558         bemit8(0xC0 + attr->x87[0]->index);
3559 }
3560
3561 static void bemit_fst(const ir_node *node)
3562 {
3563         switch (get_mode_size_bits(get_ia32_ls_mode(node))) {
3564                 case 32:
3565                         bemit8(0xD9); // fsts
3566                         break;
3567
3568                 case 64:
3569                         bemit8(0xDD); // fstl
3570                         break;
3571
3572                 default:
3573                         panic("invalid mode size");
3574         }
3575         bemit_mod_am(2, node);
3576 }
3577
3578 static void bemit_fstp(const ir_node *node)
3579 {
3580         switch (get_mode_size_bits(get_ia32_ls_mode(node))) {
3581                 case 32:
3582                         bemit8(0xD9); // fstps
3583                         bemit_mod_am(3, node);
3584                         return;
3585
3586                 case 64:
3587                         bemit8(0xDD); // fstpl
3588                         bemit_mod_am(3, node);
3589                         return;
3590
3591                 case 80:
3592                 case 96:
3593                         bemit8(0xDB); // fstpt
3594                         bemit_mod_am(7, node);
3595                         return;
3596
3597                 default:
3598                         panic("invalid mode size");
3599         }
3600 }
3601
3602 static void bemit_fsub(const ir_node *node)
3603 {
3604         bemit_fbinop(node, 4, 5);
3605 }
3606
3607 static void bemit_fsubp(const ir_node *node)
3608 {
3609         bemit_fbinopp(node, 0xE8);
3610 }
3611
3612 static void bemit_fsubr(const ir_node *node)
3613 {
3614         bemit_fbinop(node, 5, 4);
3615 }
3616
3617 static void bemit_fsubrp(const ir_node *node)
3618 {
3619         bemit_fbinopp(node, 0xE0);
3620 }
3621
3622 static void bemit_fnstcw(const ir_node *node)
3623 {
3624         bemit8(0xD9); // fnstcw
3625         bemit_mod_am(7, node);
3626 }
3627
3628 static void bemit_fnstsw(void)
3629 {
3630         bemit8(0xDF); // fnstsw %ax
3631         bemit8(0xE0);
3632 }
3633
3634 static void bemit_ftstfnstsw(const ir_node *node)
3635 {
3636         (void)node;
3637
3638         bemit8(0xD9); // ftst
3639         bemit8(0xE4);
3640         bemit_fnstsw();
3641 }
3642
3643 static void bemit_fucomi(const ir_node *node)
3644 {
3645         const ia32_x87_attr_t *attr = get_ia32_x87_attr_const(node);
3646         bemit8(0xDB); // fucomi
3647         bemit8(0xE8 + attr->x87[1]->index);
3648 }
3649
3650 static void bemit_fucomip(const ir_node *node)
3651 {
3652         const ia32_x87_attr_t *attr = get_ia32_x87_attr_const(node);
3653         bemit8(0xDF); // fucomip
3654         bemit8(0xE8 + attr->x87[1]->index);
3655 }
3656
3657 static void bemit_fucomfnstsw(const ir_node *node)
3658 {
3659         const ia32_x87_attr_t *attr = get_ia32_x87_attr_const(node);
3660         bemit8(0xDD); // fucom
3661         bemit8(0xE0 + attr->x87[1]->index);
3662         bemit_fnstsw();
3663 }
3664
3665 static void bemit_fucompfnstsw(const ir_node *node)
3666 {
3667         const ia32_x87_attr_t *attr = get_ia32_x87_attr_const(node);
3668         bemit8(0xDD); // fucomp
3669         bemit8(0xE8 + attr->x87[1]->index);
3670         bemit_fnstsw();
3671 }
3672
3673 static void bemit_fucomppfnstsw(const ir_node *node)
3674 {
3675         (void)node;
3676
3677         bemit8(0xDA); // fucompp
3678         bemit8(0xE9);
3679         bemit_fnstsw();
3680 }
3681
3682 static void bemit_fxch(const ir_node *node)
3683 {
3684         const ia32_x87_attr_t *attr = get_ia32_x87_attr_const(node);
3685         bemit8(0xD9);
3686         bemit8(0xC8 + attr->x87[0]->index);
3687 }
3688
3689 /**
3690  * The type of a emitter function.
3691  */
3692 typedef void (*emit_func) (const ir_node *);
3693
3694 /**
3695  * Set a node emitter. Make it a bit more type safe.
3696  */
3697 static void register_emitter(ir_op *op, emit_func func)
3698 {
3699         op->ops.generic = (op_func) func;
3700 }
3701
3702 static void ia32_register_binary_emitters(void)
3703 {
3704         /* first clear the generic function pointer for all ops */
3705         ir_clear_opcodes_generic_func();
3706
3707         /* benode emitter */
3708         register_emitter(op_be_Copy,            bemit_copy);
3709         register_emitter(op_be_CopyKeep,        bemit_copy);
3710         register_emitter(op_be_IncSP,           bemit_incsp);
3711         register_emitter(op_be_Perm,            bemit_perm);
3712         register_emitter(op_be_Return,          bemit_return);
3713         register_emitter(op_ia32_Adc,           bemit_adc);
3714         register_emitter(op_ia32_Add,           bemit_add);
3715         register_emitter(op_ia32_AddMem,        bemit_addmem);
3716         register_emitter(op_ia32_AddMem8Bit,    bemit_addmem8bit);
3717         register_emitter(op_ia32_And,           bemit_and);
3718         register_emitter(op_ia32_AndMem,        bemit_andmem);
3719         register_emitter(op_ia32_AndMem8Bit,    bemit_andmem8bit);
3720         register_emitter(op_ia32_Breakpoint,    bemit_int3);
3721         register_emitter(op_ia32_CMovcc,        bemit_cmovcc);
3722         register_emitter(op_ia32_Call,          bemit_call);
3723         register_emitter(op_ia32_Cltd,          bemit_cltd);
3724         register_emitter(op_ia32_Cmc,           bemit_cmc);
3725         register_emitter(op_ia32_Cmp,           bemit_cmp);
3726         register_emitter(op_ia32_Cmp8Bit,       bemit_cmp8bit);
3727         register_emitter(op_ia32_Const,         bemit_mov_const);
3728         register_emitter(op_ia32_Conv_I2I,      bemit_conv_i2i);
3729         register_emitter(op_ia32_Conv_I2I8Bit,  bemit_conv_i2i);
3730         register_emitter(op_ia32_CopyB_i,       bemit_copybi);
3731         register_emitter(op_ia32_Cwtl,          bemit_cwtl);
3732         register_emitter(op_ia32_Dec,           bemit_dec);
3733         register_emitter(op_ia32_DecMem,        bemit_decmem);
3734         register_emitter(op_ia32_Div,           bemit_div);
3735         register_emitter(op_ia32_FldCW,         bemit_fldcw);
3736         register_emitter(op_ia32_FnstCW,        bemit_fnstcw);
3737         register_emitter(op_ia32_FtstFnstsw,    bemit_ftstfnstsw);
3738         register_emitter(op_ia32_FucomFnstsw,   bemit_fucomfnstsw);
3739         register_emitter(op_ia32_Fucomi,        bemit_fucomi);
3740         register_emitter(op_ia32_FucompFnstsw,  bemit_fucompfnstsw);
3741         register_emitter(op_ia32_Fucompi,       bemit_fucomip);
3742         register_emitter(op_ia32_FucomppFnstsw, bemit_fucomppfnstsw);
3743         register_emitter(op_ia32_IDiv,          bemit_idiv);
3744         register_emitter(op_ia32_IJmp,          bemit_ijmp);
3745         register_emitter(op_ia32_IMul,          bemit_imul);
3746         register_emitter(op_ia32_IMul1OP,       bemit_imul1op);
3747         register_emitter(op_ia32_Inc,           bemit_inc);
3748         register_emitter(op_ia32_IncMem,        bemit_incmem);
3749         register_emitter(op_ia32_Jcc,           bemit_ia32_jcc);
3750         register_emitter(op_ia32_Jmp,           bemit_jump);
3751         register_emitter(op_ia32_LdTls,         bemit_ldtls);
3752         register_emitter(op_ia32_Lea,           bemit_lea);
3753         register_emitter(op_ia32_Leave,         bemit_leave);
3754         register_emitter(op_ia32_Load,          bemit_load);
3755         register_emitter(op_ia32_Minus64Bit,    bemit_minus64bit);
3756         register_emitter(op_ia32_Mul,           bemit_mul);
3757         register_emitter(op_ia32_Neg,           bemit_neg);
3758         register_emitter(op_ia32_NegMem,        bemit_negmem);
3759         register_emitter(op_ia32_Not,           bemit_not);
3760         register_emitter(op_ia32_NotMem,        bemit_notmem);
3761         register_emitter(op_ia32_Or,            bemit_or);
3762         register_emitter(op_ia32_OrMem,         bemit_ormem);
3763         register_emitter(op_ia32_OrMem8Bit,     bemit_ormem8bit);
3764         register_emitter(op_ia32_Pop,           bemit_pop);
3765         register_emitter(op_ia32_PopEbp,        bemit_pop);
3766         register_emitter(op_ia32_PopMem,        bemit_popmem);
3767         register_emitter(op_ia32_Push,          bemit_push);
3768         register_emitter(op_ia32_RepPrefix,     bemit_rep);
3769         register_emitter(op_ia32_Rol,           bemit_rol);
3770         register_emitter(op_ia32_RolMem,        bemit_rolmem);
3771         register_emitter(op_ia32_Ror,           bemit_ror);
3772         register_emitter(op_ia32_RorMem,        bemit_rormem);
3773         register_emitter(op_ia32_Sahf,          bemit_sahf);
3774         register_emitter(op_ia32_Sar,           bemit_sar);
3775         register_emitter(op_ia32_SarMem,        bemit_sarmem);
3776         register_emitter(op_ia32_Sbb,           bemit_sbb);
3777         register_emitter(op_ia32_Setcc,         bemit_setcc);
3778         register_emitter(op_ia32_Shl,           bemit_shl);
3779         register_emitter(op_ia32_ShlD,          bemit_shld);
3780         register_emitter(op_ia32_ShlMem,        bemit_shlmem);
3781         register_emitter(op_ia32_Shr,           bemit_shr);
3782         register_emitter(op_ia32_ShrD,          bemit_shrd);
3783         register_emitter(op_ia32_ShrMem,        bemit_shrmem);
3784         register_emitter(op_ia32_Stc,           bemit_stc);
3785         register_emitter(op_ia32_Store,         bemit_store);
3786         register_emitter(op_ia32_Store8Bit,     bemit_store);
3787         register_emitter(op_ia32_Sub,           bemit_sub);
3788         register_emitter(op_ia32_SubMem,        bemit_submem);
3789         register_emitter(op_ia32_SubMem8Bit,    bemit_submem8bit);
3790         register_emitter(op_ia32_SubSP,         bemit_subsp);
3791         register_emitter(op_ia32_SwitchJmp,     bemit_switchjmp);
3792         register_emitter(op_ia32_Test,          bemit_test);
3793         register_emitter(op_ia32_Test8Bit,      bemit_test8bit);
3794         register_emitter(op_ia32_Xor,           bemit_xor);
3795         register_emitter(op_ia32_Xor0,          bemit_xor0);
3796         register_emitter(op_ia32_XorMem,        bemit_xormem);
3797         register_emitter(op_ia32_XorMem8Bit,    bemit_xormem8bit);
3798         register_emitter(op_ia32_fabs,          bemit_fabs);
3799         register_emitter(op_ia32_fadd,          bemit_fadd);
3800         register_emitter(op_ia32_faddp,         bemit_faddp);
3801         register_emitter(op_ia32_fchs,          bemit_fchs);
3802         register_emitter(op_ia32_fdiv,          bemit_fdiv);
3803         register_emitter(op_ia32_fdivp,         bemit_fdivp);
3804         register_emitter(op_ia32_fdivr,         bemit_fdivr);
3805         register_emitter(op_ia32_fdivrp,        bemit_fdivrp);
3806         register_emitter(op_ia32_fild,          bemit_fild);
3807         register_emitter(op_ia32_fist,          bemit_fist);
3808         register_emitter(op_ia32_fistp,         bemit_fistp);
3809         register_emitter(op_ia32_fld,           bemit_fld);
3810         register_emitter(op_ia32_fld1,          bemit_fld1);
3811         register_emitter(op_ia32_fldz,          bemit_fldz);
3812         register_emitter(op_ia32_fmul,          bemit_fmul);
3813         register_emitter(op_ia32_fmulp,         bemit_fmulp);
3814         register_emitter(op_ia32_fpop,          bemit_fpop);
3815         register_emitter(op_ia32_fpush,         bemit_fpush);
3816         register_emitter(op_ia32_fpushCopy,     bemit_fpushcopy);
3817         register_emitter(op_ia32_fst,           bemit_fst);
3818         register_emitter(op_ia32_fstp,          bemit_fstp);
3819         register_emitter(op_ia32_fsub,          bemit_fsub);
3820         register_emitter(op_ia32_fsubp,         bemit_fsubp);
3821         register_emitter(op_ia32_fsubr,         bemit_fsubr);
3822         register_emitter(op_ia32_fsubrp,        bemit_fsubrp);
3823         register_emitter(op_ia32_fxch,          bemit_fxch);
3824
3825         /* ignore the following nodes */
3826         register_emitter(op_ia32_ProduceVal,   emit_Nothing);
3827         register_emitter(op_be_Keep,           emit_Nothing);
3828         register_emitter(op_be_Start,          emit_Nothing);
3829         register_emitter(op_Phi,               emit_Nothing);
3830         register_emitter(op_Start,             emit_Nothing);
3831 }
3832
3833 static void gen_binary_block(ir_node *block)
3834 {
3835         ia32_emit_block_header(block);
3836
3837         /* emit the contents of the block */
3838         sched_foreach(block, node) {
3839                 ia32_emit_node(node);
3840         }
3841 }
3842
3843 void ia32_gen_binary_routine(ir_graph *irg)
3844 {
3845         ir_entity        *entity    = get_irg_entity(irg);
3846         const arch_env_t *arch_env  = be_get_irg_arch_env(irg);
3847         ia32_irg_data_t  *irg_data  = ia32_get_irg_data(irg);
3848         ir_node         **blk_sched = irg_data->blk_sched;
3849         size_t            i, n;
3850         parameter_dbg_info_t *infos;
3851
3852         isa = (ia32_isa_t*) arch_env;
3853
3854         ia32_register_binary_emitters();
3855
3856         infos = construct_parameter_infos(irg);
3857         be_gas_emit_function_prolog(entity, ia32_cg_config.function_alignment,
3858                                     NULL);
3859         xfree(infos);
3860
3861         /* we use links to point to target blocks */
3862         ir_reserve_resources(irg, IR_RESOURCE_IRN_LINK);
3863         irg_block_walk_graph(irg, ia32_gen_labels, NULL, NULL);
3864
3865         /* initialize next block links */
3866         n = ARR_LEN(blk_sched);
3867         for (i = 0; i < n; ++i) {
3868                 ir_node *block = blk_sched[i];
3869                 ir_node *prev  = i > 0 ? blk_sched[i-1] : NULL;
3870
3871                 set_irn_link(block, prev);
3872         }
3873
3874         for (i = 0; i < n; ++i) {
3875                 ir_node *block = blk_sched[i];
3876                 gen_binary_block(block);
3877         }
3878
3879         be_gas_emit_function_epilog(entity);
3880
3881         ir_free_resources(irg, IR_RESOURCE_IRN_LINK);
3882 }
3883
3884
3885 void ia32_init_emitter(void)
3886 {
3887         lc_opt_entry_t *be_grp;
3888         lc_opt_entry_t *ia32_grp;
3889
3890         be_grp   = lc_opt_get_grp(firm_opt_get_root(), "be");
3891         ia32_grp = lc_opt_get_grp(be_grp, "ia32");
3892
3893         lc_opt_add_table(ia32_grp, ia32_emitter_options);
3894
3895         build_reg_map();
3896
3897         FIRM_DBG_REGISTER(dbg, "firm.be.ia32.emitter");
3898 }