nsz Git - libfirm/blob - ir/be/ia32/ia32_emitter.c

   1 /*
   2  * Copyright (C) 1995-2008 University of Karlsruhe.  All right reserved.
   3  *
   4  * This file is part of libFirm.
   5  *
   6  * This file may be distributed and/or modified under the terms of the
   7  * GNU General Public License version 2 as published by the Free Software
   8  * Foundation and appearing in the file LICENSE.GPL included in the
   9  * packaging of this file.
  10  *
  11  * Licensees holding valid libFirm Professional Edition licenses may use
  12  * this file in accordance with the libFirm Commercial License.
  13  * Agreement provided with the Software.
  14  *
  15  * This file is provided AS IS with NO WARRANTY OF ANY KIND, INCLUDING THE
  16  * WARRANTY OF DESIGN, MERCHANTABILITY AND FITNESS FOR A PARTICULAR
  17  * PURPOSE.
  18  */
  19
  20 /**
  21  * @file
  22  * @brief       This file implements the ia32 node emitter.
  23  * @author      Christian Wuerdig, Matthias Braun
  24  * @version     $Id$
  25  */
  26 #ifdef HAVE_CONFIG_H
  27 #include "config.h"
  28 #endif
  29
  30 #include <limits.h>
  31
  32 #include "xmalloc.h"
  33 #include "tv.h"
  34 #include "iredges.h"
  35 #include "debug.h"
  36 #include "irgwalk.h"
  37 #include "irprintf.h"
  38 #include "irop_t.h"
  39 #include "irargs_t.h"
  40 #include "irprog_t.h"
  41 #include "iredges_t.h"
  42 #include "execfreq.h"
  43 #include "error.h"
  44 #include "raw_bitset.h"
  45 #include "dbginfo.h"
  46
  47 #include "../besched_t.h"
  48 #include "../benode_t.h"
  49 #include "../beabi.h"
  50 #include "../be_dbgout.h"
  51 #include "../beemitter.h"
  52 #include "../begnuas.h"
  53 #include "../beirg_t.h"
  54 #include "../be_dbgout.h"
  55
  56 #include "ia32_emitter.h"
  57 #include "gen_ia32_emitter.h"
  58 #include "gen_ia32_regalloc_if.h"
  59 #include "ia32_nodes_attr.h"
  60 #include "ia32_new_nodes.h"
  61 #include "ia32_map_regs.h"
  62 #include "ia32_architecture.h"
  63 #include "bearch_ia32_t.h"
  64
  65 DEBUG_ONLY(static firm_dbg_module_t *dbg = NULL;)
  66
  67 #define BLOCK_PREFIX ".L"
  68
  69 #define SNPRINTF_BUF_LEN 128
  70
  71 static const arch_env_t *arch_env;
  72 static const ia32_isa_t *isa;
  73 static ia32_code_gen_t  *cg;
  74 static int               do_pic;
  75 static char              pic_base_label[128];
  76 static ir_label_t        exc_label_id;
  77 static int               mark_spill_reload = 0;
  78
  79 /** Return the next block in Block schedule */
  80 static ir_node *get_prev_block_sched(const ir_node *block)
  81 {
  82         return get_irn_link(block);
  83 }
  84
  85 static int is_fallthrough(const ir_node *cfgpred)
  86 {
  87         ir_node *pred;
  88
  89         if (!is_Proj(cfgpred))
  90                 return 1;
  91         pred = get_Proj_pred(cfgpred);
  92         if (is_ia32_SwitchJmp(pred))
  93                 return 0;
  94
  95         return 1;
  96 }
  97
  98 static int block_needs_label(const ir_node *block)
  99 {
 100         int need_label = 1;
 101         int  n_cfgpreds = get_Block_n_cfgpreds(block);
 102
 103         if (n_cfgpreds == 0) {
 104                 need_label = 0;
 105         } else if (n_cfgpreds == 1) {
 106                 ir_node *cfgpred       = get_Block_cfgpred(block, 0);
 107                 ir_node *cfgpred_block = get_nodes_block(cfgpred);
 108
 109                 if (get_prev_block_sched(block) == cfgpred_block
 110                                 && is_fallthrough(cfgpred)) {
 111                         need_label = 0;
 112                 }
 113         }
 114
 115         return need_label;
 116 }
 117
 118 /**
 119  * Returns the register at in position pos.
 120  */
 121 static const arch_register_t *get_in_reg(const ir_node *irn, int pos)
 122 {
 123         ir_node               *op;
 124         const arch_register_t *reg = NULL;
 125
 126         assert(get_irn_arity(irn) > pos && "Invalid IN position");
 127
 128         /* The out register of the operator at position pos is the
 129            in register we need. */
 130         op = get_irn_n(irn, pos);
 131
 132         reg = arch_get_irn_register(arch_env, op);
 133
 134         assert(reg && "no in register found");
 135
 136         if (reg == &ia32_gp_regs[REG_GP_NOREG])
 137                 panic("trying to emit noreg for %+F input %d", irn, pos);
 138
 139         /* in case of unknown register: just return a valid register */
 140         if (reg == &ia32_gp_regs[REG_GP_UKNWN]) {
 141                 const arch_register_req_t *req = arch_get_register_req(irn, pos);
 142
 143                 if (arch_register_req_is(req, limited)) {
 144                         /* in case of limited requirements: get the first allowed register */
 145                         unsigned idx = rbitset_next(req->limited, 0, 1);
 146                         reg = arch_register_for_index(req->cls, idx);
 147                 } else {
 148                         /* otherwise get first register in class */
 149                         reg = arch_register_for_index(req->cls, 0);
 150                 }
 151         }
 152
 153         return reg;
 154 }
 155
 156 /**
 157  * Returns the register at out position pos.
 158  */
 159 static const arch_register_t *get_out_reg(const ir_node *irn, int pos)
 160 {
 161         ir_node               *proj;
 162         const arch_register_t *reg = NULL;
 163
 164         /* 1st case: irn is not of mode_T, so it has only                 */
 165         /*           one OUT register -> good                             */
 166         /* 2nd case: irn is of mode_T -> collect all Projs and ask the    */
 167         /*           Proj with the corresponding projnum for the register */
 168
 169         if (get_irn_mode(irn) != mode_T) {
 170                 assert(pos == 0);
 171                 reg = arch_get_irn_register(arch_env, irn);
 172         } else if (is_ia32_irn(irn)) {
 173                 reg = get_ia32_out_reg(irn, pos);
 174         } else {
 175                 const ir_edge_t *edge;
 176
 177                 foreach_out_edge(irn, edge) {
 178                         proj = get_edge_src_irn(edge);
 179                         assert(is_Proj(proj) && "non-Proj from mode_T node");
 180                         if (get_Proj_proj(proj) == pos) {
 181                                 reg = arch_get_irn_register(arch_env, proj);
 182                                 break;
 183                         }
 184                 }
 185         }
 186
 187         assert(reg && "no out register found");
 188         return reg;
 189 }
 190
 191 /**
 192  * Add a number to a prefix. This number will not be used a second time.
 193  */
 194 static char *get_unique_label(char *buf, size_t buflen, const char *prefix)
 195 {
 196         static unsigned long id = 0;
 197         snprintf(buf, buflen, "%s%lu", prefix, ++id);
 198         return buf;
 199 }
 200
 201 /*************************************************************
 202  *             _       _    __   _          _
 203  *            (_)     | |  / _| | |        | |
 204  *  _ __  _ __ _ _ __ | |_| |_  | |__   ___| |_ __   ___ _ __
 205  * | '_ \| '__| | '_ \| __|  _| | '_ \ / _ \ | '_ \ / _ \ '__|
 206  * | |_) | |  | | | | | |_| |   | | | |  __/ | |_) |  __/ |
 207  * | .__/|_|  |_|_| |_|\__|_|   |_| |_|\___|_| .__/ \___|_|
 208  * | |                                       | |
 209  * |_|                                       |_|
 210  *************************************************************/
 211
 212 static void emit_8bit_register(const arch_register_t *reg)
 213 {
 214         const char *reg_name = arch_register_get_name(reg);
 215
 216         be_emit_char('%');
 217         be_emit_char(reg_name[1]);
 218         be_emit_char('l');
 219 }
 220
 221 static void emit_16bit_register(const arch_register_t *reg)
 222 {
 223         const char *reg_name = ia32_get_mapped_reg_name(isa->regs_16bit, reg);
 224
 225         be_emit_char('%');
 226         be_emit_string(reg_name);
 227 }
 228
 229 static void emit_register(const arch_register_t *reg, const ir_mode *mode)
 230 {
 231         const char *reg_name;
 232
 233         if (mode != NULL) {
 234                 int size = get_mode_size_bits(mode);
 235                 switch (size) {
 236                         case  8: emit_8bit_register(reg);  return;
 237                         case 16: emit_16bit_register(reg); return;
 238                 }
 239                 assert(mode_is_float(mode) || size == 32);
 240         }
 241
 242         reg_name = arch_register_get_name(reg);
 243
 244         be_emit_char('%');
 245         be_emit_string(reg_name);
 246 }
 247
 248 void ia32_emit_source_register(const ir_node *node, int pos)
 249 {
 250         const arch_register_t *reg = get_in_reg(node, pos);
 251
 252         emit_register(reg, NULL);
 253 }
 254
 255 static void ia32_emit_entity(ir_entity *entity, int no_pic_adjust)
 256 {
 257         ident *id;
 258
 259         set_entity_backend_marked(entity, 1);
 260         id = get_entity_ld_ident(entity);
 261         be_emit_ident(id);
 262
 263         if (get_entity_owner(entity) == get_tls_type()) {
 264                 if (get_entity_visibility(entity) == visibility_external_allocated) {
 265                         be_emit_cstring("@INDNTPOFF");
 266                 } else {
 267                         be_emit_cstring("@NTPOFF");
 268                 }
 269         }
 270
 271         if (!no_pic_adjust && do_pic) {
 272                 /* TODO: only do this when necessary */
 273                 be_emit_char('-');
 274                 be_emit_string(pic_base_label);
 275         }
 276 }
 277
 278 static void emit_ia32_Immediate_no_prefix(const ir_node *node)
 279 {
 280         const ia32_immediate_attr_t *attr = get_ia32_immediate_attr_const(node);
 281
 282         if (attr->symconst != NULL) {
 283                 if (attr->sc_sign)
 284                         be_emit_char('-');
 285                 ia32_emit_entity(attr->symconst, 0);
 286         }
 287         if (attr->symconst == NULL || attr->offset != 0) {
 288                 if (attr->symconst != NULL) {
 289                         be_emit_irprintf("%+d", attr->offset);
 290                 } else {
 291                         be_emit_irprintf("0x%X", attr->offset);
 292                 }
 293         }
 294 }
 295
 296 static void emit_ia32_Immediate(const ir_node *node)
 297 {
 298         be_emit_char('$');
 299         emit_ia32_Immediate_no_prefix(node);
 300 }
 301
 302 void ia32_emit_8bit_source_register_or_immediate(const ir_node *node, int pos)
 303 {
 304         const arch_register_t *reg;
 305         ir_node               *in = get_irn_n(node, pos);
 306         if (is_ia32_Immediate(in)) {
 307                 emit_ia32_Immediate(in);
 308                 return;
 309         }
 310
 311         reg = get_in_reg(node, pos);
 312         emit_8bit_register(reg);
 313 }
 314
 315 void ia32_emit_dest_register(const ir_node *node, int pos)
 316 {
 317         const arch_register_t *reg  = get_out_reg(node, pos);
 318
 319         emit_register(reg, NULL);
 320 }
 321
 322 void ia32_emit_8bit_dest_register(const ir_node *node, int pos)
 323 {
 324         const arch_register_t *reg  = get_out_reg(node, pos);
 325
 326         emit_register(reg, mode_Bu);
 327 }
 328
 329 void ia32_emit_x87_register(const ir_node *node, int pos)
 330 {
 331         const ia32_x87_attr_t *attr = get_ia32_x87_attr_const(node);
 332
 333         assert(pos < 3);
 334         be_emit_char('%');
 335         be_emit_string(attr->x87[pos]->name);
 336 }
 337
 338 static void ia32_emit_mode_suffix_mode(const ir_mode *mode)
 339 {
 340         assert(mode_is_int(mode) || mode_is_reference(mode));
 341         switch (get_mode_size_bits(mode)) {
 342                 case 8:  be_emit_char('b');     return;
 343                 case 16: be_emit_char('w');     return;
 344                 case 32: be_emit_char('l');     return;
 345                 /* gas docu says q is the suffix but gcc, objdump and icc use ll
 346                  * apparently */
 347                 case 64: be_emit_cstring("ll"); return;
 348         }
 349         panic("Can't output mode_suffix for %+F", mode);
 350 }
 351
 352 void ia32_emit_mode_suffix(const ir_node *node)
 353 {
 354         ir_mode *mode = get_ia32_ls_mode(node);
 355         if (mode == NULL)
 356                 mode = mode_Iu;
 357
 358         ia32_emit_mode_suffix_mode(mode);
 359 }
 360
 361 void ia32_emit_x87_mode_suffix(const ir_node *node)
 362 {
 363         ir_mode *mode;
 364
 365         /* we only need to emit the mode on address mode */
 366         if (get_ia32_op_type(node) == ia32_Normal)
 367                 return;
 368
 369         mode = get_ia32_ls_mode(node);
 370         assert(mode != NULL);
 371
 372         if (mode_is_float(mode)) {
 373                 switch (get_mode_size_bits(mode)) {
 374                         case 32: be_emit_char('s'); return;
 375                         case 64: be_emit_char('l'); return;
 376                         case 80:
 377                         case 96: be_emit_char('t'); return;
 378                 }
 379         } else {
 380                 assert(mode_is_int(mode));
 381                 switch (get_mode_size_bits(mode)) {
 382                         case 16: be_emit_char('s');     return;
 383                         case 32: be_emit_char('l');     return;
 384                         /* gas docu says q is the suffix but gcc, objdump and icc use ll
 385                          * apparently */
 386                         case 64: be_emit_cstring("ll"); return;
 387                 }
 388         }
 389         panic("Can't output mode_suffix for %+F", mode);
 390 }
 391
 392 static char get_xmm_mode_suffix(ir_mode *mode)
 393 {
 394         assert(mode_is_float(mode));
 395         switch(get_mode_size_bits(mode)) {
 396         case 32: return 's';
 397         case 64: return 'd';
 398         default: panic("Invalid XMM mode");
 399         }
 400 }
 401
 402 void ia32_emit_xmm_mode_suffix(const ir_node *node)
 403 {
 404         ir_mode *mode = get_ia32_ls_mode(node);
 405         assert(mode != NULL);
 406         be_emit_char('s');
 407         be_emit_char(get_xmm_mode_suffix(mode));
 408 }
 409
 410 void ia32_emit_xmm_mode_suffix_s(const ir_node *node)
 411 {
 412         ir_mode *mode = get_ia32_ls_mode(node);
 413         assert(mode != NULL);
 414         be_emit_char(get_xmm_mode_suffix(mode));
 415 }
 416
 417 void ia32_emit_extend_suffix(const ir_mode *mode)
 418 {
 419         if (get_mode_size_bits(mode) == 32)
 420                 return;
 421         be_emit_char(mode_is_signed(mode) ? 's' : 'z');
 422 }
 423
 424 void ia32_emit_source_register_or_immediate(const ir_node *node, int pos)
 425 {
 426         ir_node *in = get_irn_n(node, pos);
 427         if (is_ia32_Immediate(in)) {
 428                 emit_ia32_Immediate(in);
 429         } else {
 430                 const ir_mode         *mode = get_ia32_ls_mode(node);
 431                 const arch_register_t *reg  = get_in_reg(node, pos);
 432                 emit_register(reg, mode);
 433         }
 434 }
 435
 436 /**
 437  * Returns the target block for a control flow node.
 438  */
 439 static ir_node *get_cfop_target_block(const ir_node *irn)
 440 {
 441         assert(get_irn_mode(irn) == mode_X);
 442         return get_irn_link(irn);
 443 }
 444
 445 /**
 446  * Emits a block label for the given block.
 447  */
 448 static void ia32_emit_block_name(const ir_node *block)
 449 {
 450         if (has_Block_label(block)) {
 451                 be_emit_string(be_gas_block_label_prefix());
 452                 be_emit_irprintf("%lu", get_Block_label(block));
 453         } else {
 454                 be_emit_cstring(BLOCK_PREFIX);
 455                 be_emit_irprintf("%ld", get_irn_node_nr(block));
 456         }
 457 }
 458
 459 /**
 460  * Emits the target label for a control flow node.
 461  */
 462 static void ia32_emit_cfop_target(const ir_node *node)
 463 {
 464         ir_node *block = get_cfop_target_block(node);
 465         ia32_emit_block_name(block);
 466 }
 467
 468 /*
 469  * coding of conditions
 470  */
 471 struct cmp2conditon_t {
 472         const char *name;
 473         int         num;
 474 };
 475
 476 /*
 477  * positive conditions for signed compares
 478  */
 479 static const struct cmp2conditon_t cmp2condition_s[] = {
 480         { NULL,              pn_Cmp_False },  /* always false */
 481         { "e",               pn_Cmp_Eq },     /* == */
 482         { "l",               pn_Cmp_Lt },     /* < */
 483         { "le",              pn_Cmp_Le },     /* <= */
 484         { "g",               pn_Cmp_Gt },     /* > */
 485         { "ge",              pn_Cmp_Ge },     /* >= */
 486         { "ne",              pn_Cmp_Lg },     /* != */
 487         { NULL,              pn_Cmp_Leg},     /* always true */
 488 };
 489
 490 /*
 491  * positive conditions for unsigned compares
 492  */
 493 static const struct cmp2conditon_t cmp2condition_u[] = {
 494         { NULL,              pn_Cmp_False },  /* always false */
 495         { "e",               pn_Cmp_Eq },     /* == */
 496         { "b",               pn_Cmp_Lt },     /* < */
 497         { "be",              pn_Cmp_Le },     /* <= */
 498         { "a",               pn_Cmp_Gt },     /* > */
 499         { "ae",              pn_Cmp_Ge },     /* >= */
 500         { "ne",              pn_Cmp_Lg },     /* != */
 501         { NULL,              pn_Cmp_Leg },   /* always true  */
 502 };
 503
 504 static void ia32_emit_cmp_suffix(int pnc)
 505 {
 506         const char *str;
 507
 508         if ((pnc & ia32_pn_Cmp_float) || (pnc & ia32_pn_Cmp_unsigned)) {
 509                 pnc = pnc & 7;
 510                 assert(cmp2condition_u[pnc].num == pnc);
 511                 str = cmp2condition_u[pnc].name;
 512         } else {
 513                 pnc = pnc & 7;
 514                 assert(cmp2condition_s[pnc].num == pnc);
 515                 str = cmp2condition_s[pnc].name;
 516         }
 517
 518         be_emit_string(str);
 519 }
 520
 521 typedef enum ia32_emit_mod_t {
 522         EMIT_RESPECT_LS   = 1U << 0,
 523         EMIT_ALTERNATE_AM = 1U << 1
 524 } ia32_emit_mod_t;
 525
 526 /**
 527  * fmt  parameter               output
 528  * ---- ----------------------  ---------------------------------------------
 529  * %%                           %
 530  * %AM  <node>                  address mode of the node
 531  * %AR  const arch_register_t*  address mode of the node or register
 532  * %ASx <node>                  address mode of the node or source register x
 533  * %Dx  <node>                  destination register x
 534  * %I   <node>                  immediate of the node
 535  * %L   <node>                  control flow target of the node
 536  * %M   <node>                  mode suffix of the node
 537  * %P   int                     condition code
 538  * %R   const arch_register_t*  register
 539  * %Sx  <node>                  source register x
 540  * %s   const char*             string
 541  * %u   unsigned int            unsigned int
 542  *
 543  * x starts at 0
 544  * # modifier for %ASx, %D and %S uses ls mode of node to alter register width
 545  * * modifier does not prefix immediates with $, but AM with *
 546  */
 547 static void ia32_emitf(const ir_node *node, const char *fmt, ...)
 548 {
 549         va_list ap;
 550         va_start(ap, fmt);
 551
 552         for (;;) {
 553                 const char      *start = fmt;
 554                 ia32_emit_mod_t  mod   = 0;
 555
 556                 while (*fmt != '%' && *fmt != '\n' && *fmt != '\0')
 557                         ++fmt;
 558                 if (fmt != start) {
 559                         be_emit_string_len(start, fmt - start);
 560                 }
 561
 562                 if (*fmt == '\n') {
 563                         be_emit_finish_line_gas(node);
 564                         ++fmt;
 565                         if (*fmt == '\0')
 566                                 break;
 567                         continue;
 568                 }
 569
 570                 if (*fmt == '\0')
 571                         break;
 572
 573                 ++fmt;
 574                 if (*fmt == '*') {
 575                         mod |= EMIT_ALTERNATE_AM;
 576                         ++fmt;
 577                 }
 578
 579                 if (*fmt == '#') {
 580                         mod |= EMIT_RESPECT_LS;
 581                         ++fmt;
 582                 }
 583
 584                 switch (*fmt++) {
 585                         case '%':
 586                                 be_emit_char('%');
 587                                 break;
 588
 589                         case 'A': {
 590                                 switch (*fmt++) {
 591                                         case 'M':
 592                                                 if (mod & EMIT_ALTERNATE_AM)
 593                                                         be_emit_char('*');
 594                                                 ia32_emit_am(node);
 595                                                 break;
 596
 597                                         case 'R': {
 598                                                 const arch_register_t *reg = va_arg(ap, const arch_register_t*);
 599                                                 if (mod & EMIT_ALTERNATE_AM)
 600                                                         be_emit_char('*');
 601                                                 if (get_ia32_op_type(node) == ia32_AddrModeS) {
 602                                                         ia32_emit_am(node);
 603                                                 } else {
 604                                                         emit_register(reg, NULL);
 605                                                 }
 606                                                 break;
 607                                         }
 608
 609                                         case 'S':
 610                                                 if (get_ia32_op_type(node) == ia32_AddrModeS) {
 611                                                         if (mod & EMIT_ALTERNATE_AM)
 612                                                                 be_emit_char('*');
 613                                                         ia32_emit_am(node);
 614                                                         ++fmt;
 615                                                 } else {
 616                                                         assert(get_ia32_op_type(node) == ia32_Normal);
 617                                                         goto emit_S;
 618                                                 }
 619                                                 break;
 620
 621                                         default: goto unknown;
 622                                 }
 623                                 break;
 624                         }
 625
 626                         case 'D': {
 627                                 unsigned               pos;
 628                                 const arch_register_t *reg;
 629
 630                                 if (*fmt < '0' || '9' <= *fmt)
 631                                         goto unknown;
 632
 633                                 pos = *fmt++ - '0';
 634                                 reg = get_out_reg(node, pos);
 635                                 emit_register(reg, mod & EMIT_RESPECT_LS ? get_ia32_ls_mode(node) : NULL);
 636                                 break;
 637                         }
 638
 639                         case 'I':
 640                                 if (!(mod & EMIT_ALTERNATE_AM))
 641                                         be_emit_char('$');
 642                                 emit_ia32_Immediate_no_prefix(node);
 643                                 break;
 644
 645                         case 'L':
 646                                 ia32_emit_cfop_target(node);
 647                                 break;
 648
 649                         case 'M': {
 650                                 ia32_emit_mode_suffix_mode(get_ia32_ls_mode(node));
 651                                 break;
 652                         }
 653
 654                         case 'P': {
 655                                 int pnc = va_arg(ap, int);
 656                                 ia32_emit_cmp_suffix(pnc);
 657                                 break;
 658                         }
 659
 660                         case 'R': {
 661                                 const arch_register_t *reg = va_arg(ap, const arch_register_t*);
 662                                 emit_register(reg, NULL);
 663                                 break;
 664                         }
 665
 666 emit_S:
 667                         case 'S': {
 668                                 unsigned       pos;
 669                                 const ir_node *in;
 670
 671                                 if (*fmt < '0' || '9' <= *fmt)
 672                                         goto unknown;
 673
 674                                 pos = *fmt++ - '0';
 675                                 in  = get_irn_n(node, pos);
 676                                 if (is_ia32_Immediate(in)) {
 677                                         if (!(mod & EMIT_ALTERNATE_AM))
 678                                                 be_emit_char('$');
 679                                         emit_ia32_Immediate_no_prefix(in);
 680                                 } else {
 681                                         if (mod & EMIT_ALTERNATE_AM)
 682                                                 be_emit_char('*');
 683                                         const arch_register_t *reg = get_in_reg(node, pos);
 684                                         emit_register(reg, mod & EMIT_RESPECT_LS ? get_ia32_ls_mode(node) : NULL);
 685                                 }
 686                                 break;
 687                         }
 688
 689                         case 's': {
 690                                 const char *str = va_arg(ap, const char*);
 691                                 be_emit_string(str);
 692                                 break;
 693                         }
 694
 695                         case 'u': {
 696                                 unsigned num = va_arg(ap, unsigned);
 697                                 be_emit_irprintf("%u", num);
 698                                 break;
 699                         }
 700
 701                         default:
 702 unknown:
 703                                 panic("unknown conversion");
 704                 }
 705         }
 706
 707         va_end(ap);
 708 }
 709
 710 /**
 711  * Emits registers and/or address mode of a binary operation.
 712  */
 713 void ia32_emit_binop(const ir_node *node)
 714 {
 715         if (is_ia32_Immediate(get_irn_n(node, n_ia32_binary_right))) {
 716                 ia32_emitf(node, "%#S4, %#AS3");
 717         } else {
 718                 ia32_emitf(node, "%#AS4, %#S3");
 719         }
 720 }
 721
 722 /**
 723  * Emits registers and/or address mode of a binary operation.
 724  */
 725 void ia32_emit_x87_binop(const ir_node *node)
 726 {
 727         switch(get_ia32_op_type(node)) {
 728                 case ia32_Normal:
 729                         {
 730                                 const ia32_x87_attr_t *x87_attr = get_ia32_x87_attr_const(node);
 731                                 const arch_register_t *in1      = x87_attr->x87[0];
 732                                 const arch_register_t *in       = x87_attr->x87[1];
 733                                 const arch_register_t *out      = x87_attr->x87[2];
 734
 735                                 if (out == NULL) {
 736                                         out = in1;
 737                                 } else if (out == in) {
 738                                         in = in1;
 739                                 }
 740
 741                                 be_emit_char('%');
 742                                 be_emit_string(arch_register_get_name(in));
 743                                 be_emit_cstring(", %");
 744                                 be_emit_string(arch_register_get_name(out));
 745                         }
 746                         break;
 747                 case ia32_AddrModeS:
 748                         ia32_emit_am(node);
 749                         break;
 750                 case ia32_AddrModeD:
 751                 default:
 752                         assert(0 && "unsupported op type");
 753         }
 754 }
 755
 756 /**
 757  * Emits registers and/or address mode of a unary operation.
 758  */
 759 void ia32_emit_unop(const ir_node *node, int pos)
 760 {
 761         char fmt[] = "%ASx";
 762         fmt[3] = '0' + pos;
 763         ia32_emitf(node, fmt);
 764 }
 765
 766 /**
 767  * Emits address mode.
 768  */
 769 void ia32_emit_am(const ir_node *node)
 770 {
 771         ir_entity *ent       = get_ia32_am_sc(node);
 772         int        offs      = get_ia32_am_offs_int(node);
 773         ir_node   *base      = get_irn_n(node, n_ia32_base);
 774         int        has_base  = !is_ia32_NoReg_GP(base);
 775         ir_node   *index     = get_irn_n(node, n_ia32_index);
 776         int        has_index = !is_ia32_NoReg_GP(index);
 777
 778         /* just to be sure... */
 779         assert(!is_ia32_use_frame(node) || get_ia32_frame_ent(node) != NULL);
 780
 781         /* emit offset */
 782         if (ent != NULL) {
 783                 if (is_ia32_am_sc_sign(node))
 784                         be_emit_char('-');
 785                 ia32_emit_entity(ent, 0);
 786         }
 787
 788         /* also handle special case if nothing is set */
 789         if (offs != 0 || (ent == NULL && !has_base && !has_index)) {
 790                 if (ent != NULL) {
 791                         be_emit_irprintf("%+d", offs);
 792                 } else {
 793                         be_emit_irprintf("%d", offs);
 794                 }
 795         }
 796
 797         if (has_base || has_index) {
 798                 be_emit_char('(');
 799
 800                 /* emit base */
 801                 if (has_base) {
 802                         const arch_register_t *reg = get_in_reg(node, n_ia32_base);
 803                         emit_register(reg, NULL);
 804                 }
 805
 806                 /* emit index + scale */
 807                 if (has_index) {
 808                         const arch_register_t *reg = get_in_reg(node, n_ia32_index);
 809                         int scale;
 810                         be_emit_char(',');
 811                         emit_register(reg, NULL);
 812
 813                         scale = get_ia32_am_scale(node);
 814                         if (scale > 0) {
 815                                 be_emit_irprintf(",%d", 1 << scale);
 816                         }
 817                 }
 818                 be_emit_char(')');
 819         }
 820 }
 821
 822 static void emit_ia32_IMul(const ir_node *node)
 823 {
 824         ir_node               *left    = get_irn_n(node, n_ia32_IMul_left);
 825         const arch_register_t *out_reg = get_out_reg(node, pn_ia32_IMul_res);
 826
 827         /* do we need the 3-address form? */
 828         if (is_ia32_NoReg_GP(left) ||
 829                         get_in_reg(node, n_ia32_IMul_left) != out_reg) {
 830                 ia32_emitf(node, "\timul%M %#S4, %#AS3, %#D0\n");
 831         } else {
 832                 ia32_emitf(node, "\timul%M %#AS4, %#S3\n");
 833         }
 834 }
 835
 836 /**
 837  * walks up a tree of copies/perms/spills/reloads to find the original value
 838  * that is moved around
 839  */
 840 static ir_node *find_original_value(ir_node *node)
 841 {
 842         if (irn_visited(node))
 843                 return NULL;
 844
 845         mark_irn_visited(node);
 846         if (be_is_Copy(node)) {
 847                 return find_original_value(be_get_Copy_op(node));
 848         } else if (be_is_CopyKeep(node)) {
 849                 return find_original_value(be_get_CopyKeep_op(node));
 850         } else if (is_Proj(node)) {
 851                 ir_node *pred = get_Proj_pred(node);
 852                 if (be_is_Perm(pred)) {
 853                         return find_original_value(get_irn_n(pred, get_Proj_proj(node)));
 854                 } else if (be_is_MemPerm(pred)) {
 855                         return find_original_value(get_irn_n(pred, get_Proj_proj(node) + 1));
 856                 } else if (is_ia32_Load(pred)) {
 857                         return find_original_value(get_irn_n(pred, n_ia32_Load_mem));
 858                 } else {
 859                         return node;
 860                 }
 861         } else if (is_ia32_Store(node)) {
 862                 return find_original_value(get_irn_n(node, n_ia32_Store_val));
 863         } else if (is_Phi(node)) {
 864                 int i, arity;
 865                 arity = get_irn_arity(node);
 866                 for (i = 0; i < arity; ++i) {
 867                         ir_node *in  = get_irn_n(node, i);
 868                         ir_node *res = find_original_value(in);
 869
 870                         if (res != NULL)
 871                                 return res;
 872                 }
 873                 return NULL;
 874         } else {
 875                 return node;
 876         }
 877 }
 878
 879 static int determine_final_pnc(const ir_node *node, int flags_pos,
 880                                int pnc)
 881 {
 882         ir_node           *flags = get_irn_n(node, flags_pos);
 883         const ia32_attr_t *flags_attr;
 884         flags = skip_Proj(flags);
 885
 886         if (is_ia32_Sahf(flags)) {
 887                 ir_node *cmp = get_irn_n(flags, n_ia32_Sahf_val);
 888                 if (!(is_ia32_FucomFnstsw(cmp) || is_ia32_FucompFnstsw(cmp)
 889                                 || is_ia32_FucomppFnstsw(cmp) || is_ia32_FtstFnstsw(cmp))) {
 890                         inc_irg_visited(current_ir_graph);
 891                         cmp = find_original_value(cmp);
 892                         assert(cmp != NULL);
 893                         assert(is_ia32_FucomFnstsw(cmp) || is_ia32_FucompFnstsw(cmp)
 894                                || is_ia32_FucomppFnstsw(cmp) || is_ia32_FtstFnstsw(cmp));
 895                 }
 896
 897                 flags_attr = get_ia32_attr_const(cmp);
 898                 if (flags_attr->data.ins_permuted)
 899                         pnc = get_mirrored_pnc(pnc);
 900                 pnc |= ia32_pn_Cmp_float;
 901         } else if (is_ia32_Ucomi(flags) || is_ia32_Fucomi(flags)
 902                         || is_ia32_Fucompi(flags)) {
 903                 flags_attr = get_ia32_attr_const(flags);
 904
 905                 if (flags_attr->data.ins_permuted)
 906                         pnc = get_mirrored_pnc(pnc);
 907                 pnc |= ia32_pn_Cmp_float;
 908         } else {
 909                 flags_attr = get_ia32_attr_const(flags);
 910
 911                 if (flags_attr->data.ins_permuted)
 912                         pnc = get_mirrored_pnc(pnc);
 913                 if (flags_attr->data.cmp_unsigned)
 914                         pnc |= ia32_pn_Cmp_unsigned;
 915         }
 916
 917         return pnc;
 918 }
 919
 920 void ia32_emit_cmp_suffix_node(const ir_node *node,
 921                                int flags_pos)
 922 {
 923         const ia32_attr_t *attr = get_ia32_attr_const(node);
 924
 925         pn_Cmp pnc = get_ia32_condcode(node);
 926
 927         pnc = determine_final_pnc(node, flags_pos, pnc);
 928         if (attr->data.ins_permuted) {
 929                 if (pnc & ia32_pn_Cmp_float) {
 930                         pnc = get_negated_pnc(pnc, mode_F);
 931                 } else {
 932                         pnc = get_negated_pnc(pnc, mode_Iu);
 933                 }
 934         }
 935
 936         ia32_emit_cmp_suffix(pnc);
 937 }
 938
 939 /**
 940  * Emits an exception label for a given node.
 941  */
 942 static void ia32_emit_exc_label(const ir_node *node)
 943 {
 944         be_emit_string(be_gas_insn_label_prefix());
 945         be_emit_irprintf("%lu", get_ia32_exc_label_id(node));
 946 }
 947
 948 /**
 949  * Returns the Proj with projection number proj and NOT mode_M
 950  */
 951 static ir_node *get_proj(const ir_node *node, long proj)
 952 {
 953         const ir_edge_t *edge;
 954         ir_node         *src;
 955
 956         assert(get_irn_mode(node) == mode_T && "expected mode_T node");
 957
 958         foreach_out_edge(node, edge) {
 959                 src = get_edge_src_irn(edge);
 960
 961                 assert(is_Proj(src) && "Proj expected");
 962                 if (get_irn_mode(src) == mode_M)
 963                         continue;
 964
 965                 if (get_Proj_proj(src) == proj)
 966                         return src;
 967         }
 968         return NULL;
 969 }
 970
 971 static int can_be_fallthrough(const ir_node *node)
 972 {
 973         ir_node *target_block = get_cfop_target_block(node);
 974         ir_node *block        = get_nodes_block(node);
 975         return get_prev_block_sched(target_block) == block;
 976 }
 977
 978 /**
 979  * Emits the jump sequence for a conditional jump (cmp + jmp_true + jmp_false)
 980  */
 981 static void emit_ia32_Jcc(const ir_node *node)
 982 {
 983         int            need_parity_label = 0;
 984         const ir_node *proj_true;
 985         const ir_node *proj_false;
 986         const ir_node *block;
 987         pn_Cmp         pnc = get_ia32_condcode(node);
 988
 989         pnc = determine_final_pnc(node, 0, pnc);
 990
 991         /* get both Projs */
 992         proj_true = get_proj(node, pn_ia32_Jcc_true);
 993         assert(proj_true && "Jcc without true Proj");
 994
 995         proj_false = get_proj(node, pn_ia32_Jcc_false);
 996         assert(proj_false && "Jcc without false Proj");
 997
 998         block      = get_nodes_block(node);
 999
1000         if (can_be_fallthrough(proj_true)) {
1001                 /* exchange both proj's so the second one can be omitted */
1002                 const ir_node *t = proj_true;
1003
1004                 proj_true  = proj_false;
1005                 proj_false = t;
1006                 if (pnc & ia32_pn_Cmp_float) {
1007                         pnc = get_negated_pnc(pnc, mode_F);
1008                 } else {
1009                         pnc = get_negated_pnc(pnc, mode_Iu);
1010                 }
1011         }
1012
1013         if (pnc & ia32_pn_Cmp_float) {
1014                 /* Some floating point comparisons require a test of the parity flag,
1015                  * which indicates that the result is unordered */
1016                 switch (pnc & 15) {
1017                         case pn_Cmp_Uo: {
1018                                 ia32_emitf(proj_true, "\tjp %L\n");
1019                                 break;
1020                         }
1021
1022                         case pn_Cmp_Leg:
1023                                 ia32_emitf(proj_true, "\tjnp %L\n");
1024                                 break;
1025
1026                         case pn_Cmp_Eq:
1027                         case pn_Cmp_Lt:
1028                         case pn_Cmp_Le:
1029                                 /* we need a local label if the false proj is a fallthrough
1030                                  * as the falseblock might have no label emitted then */
1031                                 if (can_be_fallthrough(proj_false)) {
1032                                         need_parity_label = 1;
1033                                         ia32_emitf(proj_false, "\tjp 1f\n");
1034                                 } else {
1035                                         ia32_emitf(proj_false, "\tjp %L\n");
1036                                 }
1037                                 goto emit_jcc;
1038
1039                         case pn_Cmp_Ug:
1040                         case pn_Cmp_Uge:
1041                         case pn_Cmp_Ne:
1042                                 ia32_emitf(proj_true, "\tjp %L\n");
1043                                 goto emit_jcc;
1044
1045                         default:
1046                                 goto emit_jcc;
1047                 }
1048         } else {
1049 emit_jcc:
1050                 ia32_emitf(proj_true, "\tj%P %L\n", pnc);
1051         }
1052
1053         if (need_parity_label) {
1054                 ia32_emitf(NULL, "1:\n");
1055         }
1056
1057         /* the second Proj might be a fallthrough */
1058         if (can_be_fallthrough(proj_false)) {
1059                 ia32_emitf(proj_false, "\t/* fallthrough to %L */\n");
1060         } else {
1061                 ia32_emitf(proj_false, "\tjmp %L\n");
1062         }
1063 }
1064
1065 static void emit_ia32_CMov(const ir_node *node)
1066 {
1067         const ia32_attr_t     *attr         = get_ia32_attr_const(node);
1068         int                    ins_permuted = attr->data.ins_permuted;
1069         const arch_register_t *out          = arch_get_irn_register(arch_env, node);
1070         pn_Cmp                 pnc          = get_ia32_condcode(node);
1071         const arch_register_t *in_true;
1072         const arch_register_t *in_false;
1073
1074         pnc = determine_final_pnc(node, n_ia32_CMov_eflags, pnc);
1075
1076         in_true  = arch_get_irn_register(arch_env,
1077                                          get_irn_n(node, n_ia32_CMov_val_true));
1078         in_false = arch_get_irn_register(arch_env,
1079                                          get_irn_n(node, n_ia32_CMov_val_false));
1080
1081         /* should be same constraint fullfilled? */
1082         if (out == in_false) {
1083                 /* yes -> nothing to do */
1084         } else if (out == in_true) {
1085                 const arch_register_t *tmp;
1086
1087                 assert(get_ia32_op_type(node) == ia32_Normal);
1088
1089                 ins_permuted = !ins_permuted;
1090
1091                 tmp      = in_true;
1092                 in_true  = in_false;
1093                 in_false = tmp;
1094         } else {
1095                 /* we need a mov */
1096                 ia32_emitf(node, "\tmovl %R, %R\n", in_false, out);
1097         }
1098
1099         if (ins_permuted) {
1100                 if (pnc & ia32_pn_Cmp_float) {
1101                         pnc = get_negated_pnc(pnc, mode_F);
1102                 } else {
1103                         pnc = get_negated_pnc(pnc, mode_Iu);
1104                 }
1105         }
1106
1107         /* TODO: handling of Nans isn't correct yet */
1108
1109         ia32_emitf(node, "\tcmov%P %AR, %#R\n", pnc, in_true, out);
1110 }
1111
1112 /*********************************************************
1113  *                 _ _       _
1114  *                (_) |     (_)
1115  *   ___ _ __ ___  _| |_     _ _   _ _ __ ___  _ __  ___
1116  *  / _ \ '_ ` _ \| | __|   | | | | | '_ ` _ \| '_ \/ __|
1117  * |  __/ | | | | | | |_    | | |_| | | | | | | |_) \__ \
1118  *  \___|_| |_| |_|_|\__|   | |\__,_|_| |_| |_| .__/|___/
1119  *                         _/ |               | |
1120  *                        |__/                |_|
1121  *********************************************************/
1122
1123 /* jump table entry (target and corresponding number) */
1124 typedef struct _branch_t {
1125         ir_node *target;
1126         int      value;
1127 } branch_t;
1128
1129 /* jump table for switch generation */
1130 typedef struct _jmp_tbl_t {
1131         ir_node  *defProj;         /**< default target */
1132         long      min_value;       /**< smallest switch case */
1133         long      max_value;       /**< largest switch case */
1134         long      num_branches;    /**< number of jumps */
1135         char     *label;           /**< label of the jump table */
1136         branch_t *branches;        /**< jump array */
1137 } jmp_tbl_t;
1138
1139 /**
1140  * Compare two variables of type branch_t. Used to sort all switch cases
1141  */
1142 static int ia32_cmp_branch_t(const void *a, const void *b)
1143 {
1144         branch_t *b1 = (branch_t *)a;
1145         branch_t *b2 = (branch_t *)b;
1146
1147         if (b1->value <= b2->value)
1148                 return -1;
1149         else
1150                 return 1;
1151 }
1152
1153 /**
1154  * Emits code for a SwitchJmp (creates a jump table if
1155  * possible otherwise a cmp-jmp cascade). Port from
1156  * cggg ia32 backend
1157  */
1158 static void emit_ia32_SwitchJmp(const ir_node *node)
1159 {
1160         unsigned long       interval;
1161         int                 last_value, i;
1162         long                pnc;
1163         long                default_pn;
1164         jmp_tbl_t           tbl;
1165         ir_node            *proj;
1166         const ir_edge_t    *edge;
1167
1168         /* fill the table structure */
1169         tbl.label        = XMALLOCN(char, SNPRINTF_BUF_LEN);
1170         tbl.label        = get_unique_label(tbl.label, SNPRINTF_BUF_LEN, ".TBL_");
1171         tbl.defProj      = NULL;
1172         tbl.num_branches = get_irn_n_edges(node) - 1;
1173         tbl.branches     = XMALLOCNZ(branch_t, tbl.num_branches);
1174         tbl.min_value    = INT_MAX;
1175         tbl.max_value    = INT_MIN;
1176
1177         default_pn = get_ia32_condcode(node);
1178         i = 0;
1179         /* go over all proj's and collect them */
1180         foreach_out_edge(node, edge) {
1181                 proj = get_edge_src_irn(edge);
1182                 assert(is_Proj(proj) && "Only proj allowed at SwitchJmp");
1183
1184                 pnc = get_Proj_proj(proj);
1185
1186                 /* check for default proj */
1187                 if (pnc == default_pn) {
1188                         assert(tbl.defProj == NULL && "found two default Projs at SwitchJmp");
1189                         tbl.defProj = proj;
1190                 } else {
1191                         tbl.min_value = pnc < tbl.min_value ? pnc : tbl.min_value;
1192                         tbl.max_value = pnc > tbl.max_value ? pnc : tbl.max_value;
1193
1194                         /* create branch entry */
1195                         tbl.branches[i].target = proj;
1196                         tbl.branches[i].value  = pnc;
1197                         ++i;
1198                 }
1199
1200         }
1201         assert(i == tbl.num_branches);
1202
1203         /* sort the branches by their number */
1204         qsort(tbl.branches, tbl.num_branches, sizeof(tbl.branches[0]), ia32_cmp_branch_t);
1205
1206         /* two-complement's magic make this work without overflow */
1207         interval = tbl.max_value - tbl.min_value;
1208
1209         /* emit the table */
1210         ia32_emitf(node,        "\tcmpl $%u, %S0\n", interval);
1211         ia32_emitf(tbl.defProj, "\tja %L\n");
1212
1213         if (tbl.num_branches > 1) {
1214                 /* create table */
1215                 ia32_emitf(node, "\tjmp *%s(,%S0,4)\n", tbl.label);
1216
1217                 be_gas_emit_switch_section(GAS_SECTION_RODATA);
1218                 ia32_emitf(NULL, "\t.align 4\n");
1219                 ia32_emitf(NULL, "%s:\n", tbl.label);
1220
1221                 last_value = tbl.branches[0].value;
1222                 for (i = 0; i != tbl.num_branches; ++i) {
1223                         while (last_value != tbl.branches[i].value) {
1224                                 ia32_emitf(tbl.defProj, ".long %L\n");
1225                                 ++last_value;
1226                         }
1227                         ia32_emitf(tbl.branches[i].target, ".long %L\n");
1228                         ++last_value;
1229                 }
1230                 be_gas_emit_switch_section(GAS_SECTION_TEXT);
1231         } else {
1232                 /* one jump is enough */
1233                 ia32_emitf(tbl.branches[0].target, "\tjmp %L\n");
1234         }
1235
1236         if (tbl.label)
1237                 free(tbl.label);
1238         if (tbl.branches)
1239                 free(tbl.branches);
1240 }
1241
1242 /**
1243  * Emits code for a unconditional jump.
1244  */
1245 static void emit_Jmp(const ir_node *node)
1246 {
1247         ir_node *block;
1248
1249         /* for now, the code works for scheduled and non-schedules blocks */
1250         block = get_nodes_block(node);
1251
1252         /* we have a block schedule */
1253         if (can_be_fallthrough(node)) {
1254                 ia32_emitf(node, "\t/* fallthrough to %L */\n");
1255         } else {
1256                 ia32_emitf(node, "\tjmp %L\n");
1257         }
1258 }
1259
1260 /**
1261  * Emit an inline assembler operand.
1262  *
1263  * @param node  the ia32_ASM node
1264  * @param s     points to the operand (a %c)
1265  *
1266  * @return  pointer to the first char in s NOT in the current operand
1267  */
1268 static const char* emit_asm_operand(const ir_node *node, const char *s)
1269 {
1270         const ia32_attr_t     *ia32_attr = get_ia32_attr_const(node);
1271         const ia32_asm_attr_t *attr      = CONST_CAST_IA32_ATTR(ia32_asm_attr_t,
1272                                                             ia32_attr);
1273         const arch_register_t *reg;
1274         const ia32_asm_reg_t  *asm_regs = attr->register_map;
1275         const ia32_asm_reg_t  *asm_reg;
1276         const char            *reg_name;
1277         char                   c;
1278         char                   modifier = 0;
1279         int                    num      = -1;
1280         int                    p;
1281
1282         assert(*s == '%');
1283         c = *(++s);
1284
1285         /* parse modifiers */
1286         switch(c) {
1287         case 0:
1288                 ir_fprintf(stderr, "Warning: asm text (%+F) ends with %\n", node);
1289                 be_emit_char('%');
1290                 return s + 1;
1291         case '%':
1292                 be_emit_char('%');
1293                 return s + 1;
1294         case 'w':
1295         case 'b':
1296         case 'h':
1297                 modifier = c;
1298                 ++s;
1299                 break;
1300         case '0':
1301         case '1':
1302         case '2':
1303         case '3':
1304         case '4':
1305         case '5':
1306         case '6':
1307         case '7':
1308         case '8':
1309         case '9':
1310                 break;
1311         default:
1312                 ir_fprintf(stderr, "Warning: asm text (%+F) contains unknown modifier "
1313                            "'%c' for asm op\n", node, c);
1314                 ++s;
1315                 break;
1316         }
1317
1318         /* parse number */
1319         sscanf(s, "%d%n", &num, &p);
1320         if (num < 0) {
1321                 ir_fprintf(stderr, "Warning: Couldn't parse assembler operand (%+F)\n",
1322                            node);
1323                 return s;
1324         } else {
1325                 s += p;
1326         }
1327
1328         if (num < 0 || num >= ARR_LEN(asm_regs)) {
1329                 ir_fprintf(stderr, "Error: Custom assembler references invalid "
1330                            "input/output (%+F)\n", node);
1331                 return s;
1332         }
1333         asm_reg = & asm_regs[num];
1334         assert(asm_reg->valid);
1335
1336         /* get register */
1337         if (asm_reg->use_input == 0) {
1338                 reg = get_out_reg(node, asm_reg->inout_pos);
1339         } else {
1340                 ir_node *pred = get_irn_n(node, asm_reg->inout_pos);
1341
1342                 /* might be an immediate value */
1343                 if (is_ia32_Immediate(pred)) {
1344                         emit_ia32_Immediate(pred);
1345                         return s;
1346                 }
1347                 reg = get_in_reg(node, asm_reg->inout_pos);
1348         }
1349         if (reg == NULL) {
1350                 ir_fprintf(stderr, "Warning: no register assigned for %d asm op "
1351                            "(%+F)\n", num, node);
1352                 return s;
1353         }
1354
1355         if (asm_reg->memory) {
1356                 be_emit_char('(');
1357         }
1358
1359         /* emit it */
1360         if (modifier != 0) {
1361                 be_emit_char('%');
1362                 switch(modifier) {
1363                 case 'b':
1364                         reg_name = ia32_get_mapped_reg_name(isa->regs_8bit, reg);
1365                         break;
1366                 case 'h':
1367                         reg_name = ia32_get_mapped_reg_name(isa->regs_8bit_high, reg);
1368                         break;
1369                 case 'w':
1370                         reg_name = ia32_get_mapped_reg_name(isa->regs_16bit, reg);
1371                         break;
1372                 default:
1373                         panic("Invalid asm op modifier");
1374                 }
1375                 be_emit_string(reg_name);
1376         } else {
1377                 emit_register(reg, asm_reg->mode);
1378         }
1379
1380         if (asm_reg->memory) {
1381                 be_emit_char(')');
1382         }
1383
1384         return s;
1385 }
1386
1387 /**
1388  * Emits code for an ASM pseudo op.
1389  */
1390 static void emit_ia32_Asm(const ir_node *node)
1391 {
1392         const void            *gen_attr = get_irn_generic_attr_const(node);
1393         const ia32_asm_attr_t *attr
1394                 = CONST_CAST_IA32_ATTR(ia32_asm_attr_t, gen_attr);
1395         ident                 *asm_text = attr->asm_text;
1396         const char            *s        = get_id_str(asm_text);
1397
1398         ia32_emitf(node, "#APP\t\n");
1399
1400         if (s[0] != '\t')
1401                 be_emit_char('\t');
1402
1403         while(*s != 0) {
1404                 if (*s == '%') {
1405                         s = emit_asm_operand(node, s);
1406                 } else {
1407                         be_emit_char(*s++);
1408                 }
1409         }
1410
1411         ia32_emitf(NULL, "\n#NO_APP\n");
1412 }
1413
1414 /**********************************
1415  *   _____                  ____
1416  *  / ____|                |  _ \
1417  * | |     ___  _ __  _   _| |_) |
1418  * | |    / _ \| '_ \| | | |  _ <
1419  * | |___| (_) | |_) | |_| | |_) |
1420  *  \_____\___/| .__/ \__, |____/
1421  *             | |     __/ |
1422  *             |_|    |___/
1423  **********************************/
1424
1425 /**
1426  * Emit movsb/w instructions to make mov count divideable by 4
1427  */
1428 static void emit_CopyB_prolog(unsigned size)
1429 {
1430         if (size & 1)
1431                 ia32_emitf(NULL, "\tmovsb\n");
1432         if (size & 2)
1433                 ia32_emitf(NULL, "\tmovsw\n");
1434 }
1435
1436 /**
1437  * Emit rep movsd instruction for memcopy.
1438  */
1439 static void emit_ia32_CopyB(const ir_node *node)
1440 {
1441         unsigned size = get_ia32_copyb_size(node);
1442
1443         emit_CopyB_prolog(size);
1444         ia32_emitf(node, "\trep movsd\n");
1445 }
1446
1447 /**
1448  * Emits unrolled memcopy.
1449  */
1450 static void emit_ia32_CopyB_i(const ir_node *node)
1451 {
1452         unsigned size = get_ia32_copyb_size(node);
1453
1454         emit_CopyB_prolog(size);
1455
1456         size >>= 2;
1457         while (size--) {
1458                 ia32_emitf(NULL, "\tmovsd\n");
1459         }
1460 }
1461
1462
1463
1464 /***************************
1465  *   _____
1466  *  / ____|
1467  * | |     ___  _ ____   __
1468  * | |    / _ \| '_ \ \ / /
1469  * | |___| (_) | | | \ V /
1470  *  \_____\___/|_| |_|\_/
1471  *
1472  ***************************/
1473
1474 /**
1475  * Emit code for conversions (I, FP), (FP, I) and (FP, FP).
1476  */
1477 static void emit_ia32_Conv_with_FP(const ir_node *node)
1478 {
1479         ir_mode            *ls_mode = get_ia32_ls_mode(node);
1480         int                 ls_bits = get_mode_size_bits(ls_mode);
1481         const char         *conv;
1482
1483         if (is_ia32_Conv_I2FP(node)) {
1484                 if (ls_bits == 32) {
1485                         conv = "si2ss";
1486                 } else {
1487                         conv = "si2sd";
1488                 }
1489         } else if (is_ia32_Conv_FP2I(node)) {
1490                 if (ls_bits == 32) {
1491                         conv = "ss2si";
1492                 } else {
1493                         conv = "sd2si";
1494                 }
1495         } else {
1496                 assert(is_ia32_Conv_FP2FP(node));
1497                 if (ls_bits == 32) {
1498                         conv = "sd2ss";
1499                 } else {
1500                         conv = "ss2sd";
1501                 }
1502         }
1503
1504         ia32_emitf(node, "\tcvt%s %AS3, %D0\n", conv);
1505 }
1506
1507 static void emit_ia32_Conv_I2FP(const ir_node *node)
1508 {
1509         emit_ia32_Conv_with_FP(node);
1510 }
1511
1512 static void emit_ia32_Conv_FP2I(const ir_node *node)
1513 {
1514         emit_ia32_Conv_with_FP(node);
1515 }
1516
1517 static void emit_ia32_Conv_FP2FP(const ir_node *node)
1518 {
1519         emit_ia32_Conv_with_FP(node);
1520 }
1521
1522 /**
1523  * Emits code for an Int conversion.
1524  */
1525 static void emit_ia32_Conv_I2I(const ir_node *node)
1526 {
1527         ir_mode *smaller_mode = get_ia32_ls_mode(node);
1528         int      smaller_bits = get_mode_size_bits(smaller_mode);
1529         int      signed_mode  = mode_is_signed(smaller_mode);
1530
1531         assert(!mode_is_float(smaller_mode));
1532         assert(smaller_bits == 8 || smaller_bits == 16);
1533
1534         if (signed_mode                                    &&
1535                         smaller_bits == 16                             &&
1536                         &ia32_gp_regs[REG_EAX] == get_out_reg(node, 0) &&
1537                         &ia32_gp_regs[REG_EAX] == arch_get_irn_register(arch_env, get_irn_n(node, n_ia32_unary_op))) {
1538                 /* argument and result are both in EAX and signedness is ok: use the
1539                  * smaller cwtl opcode */
1540                 ia32_emitf(node, "\tcwtl\n");
1541         } else {
1542                 const char *sign_suffix = signed_mode ? "s" : "z";
1543                 ia32_emitf(node, "\tmov%s%Ml %#AS3, %D0\n", sign_suffix);
1544         }
1545 }
1546
1547 /**
1548  * Emits a call
1549  */
1550 static void emit_ia32_Call(const ir_node *node)
1551 {
1552         /* Special case: Call must not have its immediates prefixed by $, instead
1553          * address mode is prefixed by *. */
1554         ia32_emitf(node, "\tcall %*AS3\n");
1555 }
1556
1557
1558 /*******************************************
1559  *  _                          _
1560  * | |                        | |
1561  * | |__   ___ _ __   ___   __| | ___  ___
1562  * | '_ \ / _ \ '_ \ / _ \ / _` |/ _ \/ __|
1563  * | |_) |  __/ | | | (_) | (_| |  __/\__ \
1564  * |_.__/ \___|_| |_|\___/ \__,_|\___||___/
1565  *
1566  *******************************************/
1567
1568 /**
1569  * Emits code to increase stack pointer.
1570  */
1571 static void emit_be_IncSP(const ir_node *node)
1572 {
1573         int offs = be_get_IncSP_offset(node);
1574
1575         if (offs == 0)
1576                 return;
1577
1578         if (offs > 0) {
1579                 ia32_emitf(node, "\tsubl $%u, %D0\n", offs);
1580         } else {
1581                 ia32_emitf(node, "\taddl $%u, %D0\n", -offs);
1582         }
1583 }
1584
1585 /**
1586  * Emits code for Copy/CopyKeep.
1587  */
1588 static void Copy_emitter(const ir_node *node, const ir_node *op)
1589 {
1590         const arch_register_t *in  = arch_get_irn_register(arch_env, op);
1591         const arch_register_t *out = arch_get_irn_register(arch_env, node);
1592
1593         if (in == out) {
1594                 return;
1595         }
1596         if (is_unknown_reg(in))
1597                 return;
1598         /* copies of vf nodes aren't real... */
1599         if (arch_register_get_class(in) == &ia32_reg_classes[CLASS_ia32_vfp])
1600                 return;
1601
1602         if (get_irn_mode(node) == mode_E) {
1603                 ia32_emitf(node, "\tmovsd %R, %R\n", in, out);
1604         } else {
1605                 ia32_emitf(node, "\tmovl %R, %R\n", in, out);
1606         }
1607 }
1608
1609 static void emit_be_Copy(const ir_node *node)
1610 {
1611         Copy_emitter(node, be_get_Copy_op(node));
1612 }
1613
1614 static void emit_be_CopyKeep(const ir_node *node)
1615 {
1616         Copy_emitter(node, be_get_CopyKeep_op(node));
1617 }
1618
1619 /**
1620  * Emits code for exchange.
1621  */
1622 static void emit_be_Perm(const ir_node *node)
1623 {
1624         const arch_register_t *in0, *in1;
1625         const arch_register_class_t *cls0, *cls1;
1626
1627         in0 = arch_get_irn_register(arch_env, get_irn_n(node, 0));
1628         in1 = arch_get_irn_register(arch_env, get_irn_n(node, 1));
1629
1630         cls0 = arch_register_get_class(in0);
1631         cls1 = arch_register_get_class(in1);
1632
1633         assert(cls0 == cls1 && "Register class mismatch at Perm");
1634
1635         if (cls0 == &ia32_reg_classes[CLASS_ia32_gp]) {
1636                 ia32_emitf(node, "\txchg %R, %R\n", in1, in0);
1637         } else if (cls0 == &ia32_reg_classes[CLASS_ia32_xmm]) {
1638                 ia32_emitf(NULL, "\txorpd %R, %R\n", in1, in0);
1639                 ia32_emitf(NULL, "\txorpd %R, %R\n", in0, in1);
1640                 ia32_emitf(node, "\txorpd %R, %R\n", in1, in0);
1641         } else if (cls0 == &ia32_reg_classes[CLASS_ia32_vfp]) {
1642                 /* is a NOP */
1643         } else if (cls0 == &ia32_reg_classes[CLASS_ia32_st]) {
1644                 /* is a NOP */
1645         } else {
1646                 panic("unexpected register class in be_Perm (%+F)", node);
1647         }
1648 }
1649
1650 /**
1651  * Emits code for Constant loading.
1652  */
1653 static void emit_ia32_Const(const ir_node *node)
1654 {
1655         ia32_emitf(node, "\tmovl %I, %D0\n");
1656 }
1657
1658 /**
1659  * Emits code to load the TLS base
1660  */
1661 static void emit_ia32_LdTls(const ir_node *node)
1662 {
1663         ia32_emitf(node, "\tmovl %%gs:0, %D0\n");
1664 }
1665
1666 /* helper function for emit_ia32_Minus64Bit */
1667 static void emit_mov(const ir_node* node, const arch_register_t *src, const arch_register_t *dst)
1668 {
1669         ia32_emitf(node, "\tmovl %R, %R\n", src, dst);
1670 }
1671
1672 /* helper function for emit_ia32_Minus64Bit */
1673 static void emit_neg(const ir_node* node, const arch_register_t *reg)
1674 {
1675         ia32_emitf(node, "\tnegl %R\n", reg);
1676 }
1677
1678 /* helper function for emit_ia32_Minus64Bit */
1679 static void emit_sbb0(const ir_node* node, const arch_register_t *reg)
1680 {
1681         ia32_emitf(node, "\tsbbl $0, %R\n", reg);
1682 }
1683
1684 /* helper function for emit_ia32_Minus64Bit */
1685 static void emit_sbb(const ir_node* node, const arch_register_t *src, const arch_register_t *dst)
1686 {
1687         ia32_emitf(node, "\tsbbl %R, %R\n", src, dst);
1688 }
1689
1690 /* helper function for emit_ia32_Minus64Bit */
1691 static void emit_xchg(const ir_node* node, const arch_register_t *src, const arch_register_t *dst)
1692 {
1693         ia32_emitf(node, "\txchgl %R, %R\n", src, dst);
1694 }
1695
1696 /* helper function for emit_ia32_Minus64Bit */
1697 static void emit_zero(const ir_node* node, const arch_register_t *reg)
1698 {
1699         ia32_emitf(node, "\txorl %R, %R\n", reg, reg);
1700 }
1701
1702 static void emit_ia32_Minus64Bit(const ir_node *node)
1703 {
1704         const arch_register_t *in_lo  = get_in_reg(node, 0);
1705         const arch_register_t *in_hi  = get_in_reg(node, 1);
1706         const arch_register_t *out_lo = get_out_reg(node, 0);
1707         const arch_register_t *out_hi = get_out_reg(node, 1);
1708
1709         if (out_lo == in_lo) {
1710                 if (out_hi != in_hi) {
1711                         /* a -> a, b -> d */
1712                         goto zero_neg;
1713                 } else {
1714                         /* a -> a, b -> b */
1715                         goto normal_neg;
1716                 }
1717         } else if (out_lo == in_hi) {
1718                 if (out_hi == in_lo) {
1719                         /* a -> b, b -> a */
1720                         emit_xchg(node, in_lo, in_hi);
1721                         goto normal_neg;
1722                 } else {
1723                         /* a -> b, b -> d */
1724                         emit_mov(node, in_hi, out_hi);
1725                         emit_mov(node, in_lo, out_lo);
1726                         goto normal_neg;
1727                 }
1728         } else {
1729                 if (out_hi == in_lo) {
1730                         /* a -> c, b -> a */
1731                         emit_mov(node, in_lo, out_lo);
1732                         goto zero_neg;
1733                 } else if (out_hi == in_hi) {
1734                         /* a -> c, b -> b */
1735                         emit_mov(node, in_lo, out_lo);
1736                         goto normal_neg;
1737                 } else {
1738                         /* a -> c, b -> d */
1739                         emit_mov(node, in_lo, out_lo);
1740                         goto zero_neg;
1741                 }
1742         }
1743
1744 normal_neg:
1745         emit_neg( node, out_hi);
1746         emit_neg( node, out_lo);
1747         emit_sbb0(node, out_hi);
1748         return;
1749
1750 zero_neg:
1751         emit_zero(node, out_hi);
1752         emit_neg( node, out_lo);
1753         emit_sbb( node, in_hi, out_hi);
1754 }
1755
1756 static void emit_ia32_GetEIP(const ir_node *node)
1757 {
1758         ia32_emitf(node, "\tcall %s\n", pic_base_label);
1759         ia32_emitf(NULL, "%s:\n", pic_base_label);
1760         ia32_emitf(node, "\tpopl %D0\n");
1761 }
1762
1763 static void emit_be_Return(const ir_node *node)
1764 {
1765         unsigned pop = be_Return_get_pop(node);
1766
1767         if (pop > 0 || be_Return_get_emit_pop(node)) {
1768                 ia32_emitf(node, "\tret $%u\n", pop);
1769         } else {
1770                 ia32_emitf(node, "\tret\n");
1771         }
1772 }
1773
1774 static void emit_Nothing(const ir_node *node)
1775 {
1776         (void) node;
1777 }
1778
1779
1780 /***********************************************************************************
1781  *                  _          __                                             _
1782  *                 (_)        / _|                                           | |
1783  *  _ __ ___   __ _ _ _ __   | |_ _ __ __ _ _ __ ___   _____      _____  _ __| | __
1784  * | '_ ` _ \ / _` | | '_ \  |  _| '__/ _` | '_ ` _ \ / _ \ \ /\ / / _ \| '__| |/ /
1785  * | | | | | | (_| | | | | | | | | | | (_| | | | | | |  __/\ V  V / (_) | |  |   <
1786  * |_| |_| |_|\__,_|_|_| |_| |_| |_|  \__,_|_| |_| |_|\___| \_/\_/ \___/|_|  |_|\_\
1787  *
1788  ***********************************************************************************/
1789
1790 /**
1791  * Enters the emitter functions for handled nodes into the generic
1792  * pointer of an opcode.
1793  */
1794 static void ia32_register_emitters(void)
1795 {
1796 #define IA32_EMIT2(a,b) op_ia32_##a->ops.generic = (op_func)emit_ia32_##b
1797 #define IA32_EMIT(a)    IA32_EMIT2(a,a)
1798 #define EMIT(a)         op_##a->ops.generic = (op_func)emit_##a
1799 #define IGN(a)                  op_##a->ops.generic = (op_func)emit_Nothing
1800 #define BE_EMIT(a)      op_be_##a->ops.generic = (op_func)emit_be_##a
1801 #define BE_IGN(a)               op_be_##a->ops.generic = (op_func)emit_Nothing
1802
1803         /* first clear the generic function pointer for all ops */
1804         clear_irp_opcodes_generic_func();
1805
1806         /* register all emitter functions defined in spec */
1807         ia32_register_spec_emitters();
1808
1809         /* other ia32 emitter functions */
1810         IA32_EMIT2(Conv_I2I8Bit, Conv_I2I);
1811         IA32_EMIT(Asm);
1812         IA32_EMIT(CMov);
1813         IA32_EMIT(Call);
1814         IA32_EMIT(Const);
1815         IA32_EMIT(Conv_FP2FP);
1816         IA32_EMIT(Conv_FP2I);
1817         IA32_EMIT(Conv_I2FP);
1818         IA32_EMIT(Conv_I2I);
1819         IA32_EMIT(CopyB);
1820         IA32_EMIT(CopyB_i);
1821         IA32_EMIT(GetEIP);
1822         IA32_EMIT(IMul);
1823         IA32_EMIT(Jcc);
1824         IA32_EMIT(LdTls);
1825         IA32_EMIT(Minus64Bit);
1826         IA32_EMIT(SwitchJmp);
1827
1828         /* benode emitter */
1829         BE_EMIT(Copy);
1830         BE_EMIT(CopyKeep);
1831         BE_EMIT(IncSP);
1832         BE_EMIT(Perm);
1833         BE_EMIT(Return);
1834
1835         BE_IGN(Barrier);
1836         BE_IGN(Keep);
1837         BE_IGN(RegParams);
1838
1839         /* firm emitter */
1840         EMIT(Jmp);
1841         IGN(Phi);
1842         IGN(Start);
1843
1844 #undef BE_EMIT
1845 #undef EMIT
1846 #undef IGN
1847 #undef IA32_EMIT2
1848 #undef IA32_EMIT
1849 }
1850
1851 typedef void (*emit_func_ptr) (const ir_node *);
1852
1853 /**
1854  * Assign and emit an exception label if the current instruction can fail.
1855  */
1856 static void ia32_assign_exc_label(ir_node *node)
1857 {
1858         /* assign a new ID to the instruction */
1859         set_ia32_exc_label_id(node, ++exc_label_id);
1860         /* print it */
1861         ia32_emit_exc_label(node);
1862         be_emit_char(':');
1863         be_emit_pad_comment();
1864         be_emit_cstring("/* exception to Block ");
1865         ia32_emit_cfop_target(node);
1866         be_emit_cstring(" */\n");
1867         be_emit_write_line();
1868 }
1869
1870 /**
1871  * Emits code for a node.
1872  */
1873 static void ia32_emit_node(ir_node *node)
1874 {
1875         ir_op *op = get_irn_op(node);
1876
1877         DBG((dbg, LEVEL_1, "emitting code for %+F\n", node));
1878
1879         if (is_ia32_irn(node)) {
1880                 if (get_ia32_exc_label(node)) {
1881                         /* emit the exception label of this instruction */
1882                         ia32_assign_exc_label(node);
1883                 }
1884                 if (mark_spill_reload) {
1885                         if (is_ia32_is_spill(node)) {
1886                                 ia32_emitf(NULL, "\txchg %ebx, %ebx        /* spill mark */\n");
1887                         }
1888                         if (is_ia32_is_reload(node)) {
1889                                 ia32_emitf(NULL, "\txchg %edx, %edx        /* reload mark */\n");
1890                         }
1891                         if (is_ia32_is_remat(node)) {
1892                                 ia32_emitf(NULL, "\txchg %ecx, %ecx        /* remat mark */\n");
1893                         }
1894                 }
1895         }
1896         if (op->ops.generic) {
1897                 emit_func_ptr func = (emit_func_ptr) op->ops.generic;
1898
1899                 be_dbg_set_dbg_info(get_irn_dbg_info(node));
1900
1901                 (*func) (node);
1902         } else {
1903                 emit_Nothing(node);
1904                 ir_fprintf(stderr, "Error: No emit handler for node %+F (%+G, graph %+F)\n", node, node, current_ir_graph);
1905                 abort();
1906         }
1907 }
1908
1909 /**
1910  * Emits gas alignment directives
1911  */
1912 static void ia32_emit_alignment(unsigned align, unsigned skip)
1913 {
1914         ia32_emitf(NULL, "\t.p2align %u,,%u\n", align, skip);
1915 }
1916
1917 /**
1918  * Emits gas alignment directives for Labels depended on cpu architecture.
1919  */
1920 static void ia32_emit_align_label(void)
1921 {
1922         unsigned align        = ia32_cg_config.label_alignment;
1923         unsigned maximum_skip = ia32_cg_config.label_alignment_max_skip;
1924         ia32_emit_alignment(align, maximum_skip);
1925 }
1926
1927 /**
1928  * Test whether a block should be aligned.
1929  * For cpus in the P4/Athlon class it is useful to align jump labels to
1930  * 16 bytes. However we should only do that if the alignment nops before the
1931  * label aren't executed more often than we have jumps to the label.
1932  */
1933 static int should_align_block(const ir_node *block)
1934 {
1935         static const double DELTA = .0001;
1936         ir_exec_freq *exec_freq   = cg->birg->exec_freq;
1937         ir_node      *prev        = get_prev_block_sched(block);
1938         double        block_freq;
1939         double        prev_freq = 0;  /**< execfreq of the fallthrough block */
1940         double        jmp_freq  = 0;  /**< execfreq of all non-fallthrough blocks */
1941         int           i, n_cfgpreds;
1942
1943         if (exec_freq == NULL)
1944                 return 0;
1945         if (ia32_cg_config.label_alignment_factor <= 0)
1946                 return 0;
1947
1948         block_freq = get_block_execfreq(exec_freq, block);
1949         if (block_freq < DELTA)
1950                 return 0;
1951
1952         n_cfgpreds = get_Block_n_cfgpreds(block);
1953         for(i = 0; i < n_cfgpreds; ++i) {
1954                 const ir_node *pred      = get_Block_cfgpred_block(block, i);
1955                 double         pred_freq = get_block_execfreq(exec_freq, pred);
1956
1957                 if (pred == prev) {
1958                         prev_freq += pred_freq;
1959                 } else {
1960                         jmp_freq  += pred_freq;
1961                 }
1962         }
1963
1964         if (prev_freq < DELTA && !(jmp_freq < DELTA))
1965                 return 1;
1966
1967         jmp_freq /= prev_freq;
1968
1969         return jmp_freq > ia32_cg_config.label_alignment_factor;
1970 }
1971
1972 /**
1973  * Emit the block header for a block.
1974  *
1975  * @param block       the block
1976  * @param prev_block  the previous block
1977  */
1978 static void ia32_emit_block_header(ir_node *block)
1979 {
1980         ir_graph     *irg = current_ir_graph;
1981         int           need_label = block_needs_label(block);
1982         int           i, arity;
1983         ir_exec_freq *exec_freq = cg->birg->exec_freq;
1984
1985         if (block == get_irg_end_block(irg) || block == get_irg_start_block(irg))
1986                 return;
1987
1988         if (ia32_cg_config.label_alignment > 0) {
1989                 /* align the current block if:
1990                  * a) if should be aligned due to its execution frequency
1991                  * b) there is no fall-through here
1992                  */
1993                 if (should_align_block(block)) {
1994                         ia32_emit_align_label();
1995                 } else {
1996                         /* if the predecessor block has no fall-through,
1997                            we can always align the label. */
1998                         int i;
1999                         int has_fallthrough = 0;
2000
2001                         for (i = get_Block_n_cfgpreds(block) - 1; i >= 0; --i) {
2002                                 ir_node *cfg_pred = get_Block_cfgpred(block, i);
2003                                 if (can_be_fallthrough(cfg_pred)) {
2004                                         has_fallthrough = 1;
2005                                         break;
2006                                 }
2007                         }
2008
2009                         if (!has_fallthrough)
2010                                 ia32_emit_align_label();
2011                 }
2012         }
2013
2014         if (need_label || has_Block_label(block)) {
2015                 ia32_emit_block_name(block);
2016                 be_emit_char(':');
2017
2018                 be_emit_pad_comment();
2019                 be_emit_cstring("   /* ");
2020         } else {
2021                 be_emit_cstring("\t/* ");
2022                 ia32_emit_block_name(block);
2023                 be_emit_cstring(": ");
2024         }
2025
2026         be_emit_cstring("preds:");
2027
2028         /* emit list of pred blocks in comment */
2029         arity = get_irn_arity(block);
2030         for (i = 0; i < arity; ++i) {
2031                 ir_node *predblock = get_Block_cfgpred_block(block, i);
2032                 be_emit_irprintf(" %d", get_irn_node_nr(predblock));
2033         }
2034         if (exec_freq != NULL) {
2035                 be_emit_irprintf(" freq: %f",
2036                                  get_block_execfreq(exec_freq, block));
2037         }
2038         be_emit_cstring(" */\n");
2039         be_emit_write_line();
2040 }
2041
2042 /**
2043  * Walks over the nodes in a block connected by scheduling edges
2044  * and emits code for each node.
2045  */
2046 static void ia32_gen_block(ir_node *block)
2047 {
2048         ir_node *node;
2049
2050         ia32_emit_block_header(block);
2051
2052         /* emit the contents of the block */
2053         be_dbg_set_dbg_info(get_irn_dbg_info(block));
2054         sched_foreach(block, node) {
2055                 ia32_emit_node(node);
2056         }
2057 }
2058
2059 typedef struct exc_entry {
2060         ir_node *exc_instr;  /** The instruction that can issue an exception. */
2061         ir_node *block;      /** The block to call then. */
2062 } exc_entry;
2063
2064 /**
2065  * Block-walker:
2066  * Sets labels for control flow nodes (jump target).
2067  * Links control predecessors to there destination blocks.
2068  */
2069 static void ia32_gen_labels(ir_node *block, void *data)
2070 {
2071         exc_entry **exc_list = data;
2072         ir_node *pred;
2073         int     n;
2074
2075         for (n = get_Block_n_cfgpreds(block) - 1; n >= 0; --n) {
2076                 pred = get_Block_cfgpred(block, n);
2077                 set_irn_link(pred, block);
2078
2079                 pred = skip_Proj(pred);
2080                 if (is_ia32_irn(pred) && get_ia32_exc_label(pred)) {
2081                         exc_entry e;
2082
2083                         e.exc_instr = pred;
2084                         e.block     = block;
2085                         ARR_APP1(exc_entry, *exc_list, e);
2086                         set_irn_link(pred, block);
2087                 }
2088         }
2089 }
2090
2091 /**
2092  * Compare two exception_entries.
2093  */
2094 static int cmp_exc_entry(const void *a, const void *b)
2095 {
2096         const exc_entry *ea = a;
2097         const exc_entry *eb = b;
2098
2099         if (get_ia32_exc_label_id(ea->exc_instr) < get_ia32_exc_label_id(eb->exc_instr))
2100                 return -1;
2101         return +1;
2102 }
2103
2104 /**
2105  * Main driver. Emits the code for one routine.
2106  */
2107 void ia32_gen_routine(ia32_code_gen_t *ia32_cg, ir_graph *irg)
2108 {
2109         ir_entity *entity     = get_irg_entity(irg);
2110         exc_entry *exc_list   = NEW_ARR_F(exc_entry, 0);
2111         int i, n;
2112
2113         cg       = ia32_cg;
2114         isa      = (const ia32_isa_t*) cg->arch_env;
2115         arch_env = cg->arch_env;
2116         do_pic   = cg->birg->main_env->options->pic;
2117
2118         ia32_register_emitters();
2119
2120         get_unique_label(pic_base_label, sizeof(pic_base_label), ".PIC_BASE");
2121
2122         be_dbg_method_begin(entity, be_abi_get_stack_layout(cg->birg->abi));
2123         be_gas_emit_function_prolog(entity, ia32_cg_config.function_alignment);
2124
2125         /* we use links to point to target blocks */
2126         ir_reserve_resources(irg, IR_RESOURCE_IRN_LINK);
2127         irg_block_walk_graph(irg, ia32_gen_labels, NULL, &exc_list);
2128
2129         /* initialize next block links */
2130         n = ARR_LEN(cg->blk_sched);
2131         for (i = 0; i < n; ++i) {
2132                 ir_node *block = cg->blk_sched[i];
2133                 ir_node *prev  = i > 0 ? cg->blk_sched[i-1] : NULL;
2134
2135                 set_irn_link(block, prev);
2136         }
2137
2138         for (i = 0; i < n; ++i) {
2139                 ir_node *block = cg->blk_sched[i];
2140
2141                 ia32_gen_block(block);
2142         }
2143
2144         be_gas_emit_function_epilog(entity);
2145         be_dbg_method_end();
2146         be_emit_char('\n');
2147         be_emit_write_line();
2148
2149         ir_free_resources(irg, IR_RESOURCE_IRN_LINK);
2150
2151         /* Sort the exception table using the exception label id's.
2152            Those are ascending with ascending addresses. */
2153         qsort(exc_list, ARR_LEN(exc_list), sizeof(exc_list[0]), cmp_exc_entry);
2154         {
2155                 int i;
2156
2157                 for (i = 0; i < ARR_LEN(exc_list); ++i) {
2158                         be_emit_cstring("\t.long ");
2159                         ia32_emit_exc_label(exc_list[i].exc_instr);
2160                         be_emit_char('\n');
2161                         be_emit_cstring("\t.long ");
2162                         ia32_emit_block_name(exc_list[i].block);
2163                         be_emit_char('\n');
2164                 }
2165         }
2166         DEL_ARR_F(exc_list);
2167 }
2168
2169 static const lc_opt_table_entry_t ia32_emitter_options[] = {
2170         LC_OPT_ENT_BOOL("mark_spill_reload",   "mark spills and reloads with ud opcodes", &mark_spill_reload),
2171         LC_OPT_LAST
2172 };
2173
2174 void ia32_init_emitter(void)
2175 {
2176         lc_opt_entry_t *be_grp;
2177         lc_opt_entry_t *ia32_grp;
2178
2179         be_grp   = lc_opt_get_grp(firm_opt_get_root(), "be");
2180         ia32_grp = lc_opt_get_grp(be_grp, "ia32");
2181
2182         lc_opt_add_table(ia32_grp, ia32_emitter_options);
2183
2184         FIRM_DBG_REGISTER(dbg, "firm.be.ia32.emitter");
2185 }