nsz Git - libfirm/blob - ir/be/ia32/ia32_finish.c

   1 /*
   2  * Copyright (C) 1995-2008 University of Karlsruhe.  All right reserved.
   3  *
   4  * This file is part of libFirm.
   5  *
   6  * This file may be distributed and/or modified under the terms of the
   7  * GNU General Public License version 2 as published by the Free Software
   8  * Foundation and appearing in the file LICENSE.GPL included in the
   9  * packaging of this file.
  10  *
  11  * Licensees holding valid libFirm Professional Edition licenses may use
  12  * this file in accordance with the libFirm Commercial License.
  13  * Agreement provided with the Software.
  14  *
  15  * This file is provided AS IS with NO WARRANTY OF ANY KIND, INCLUDING THE
  16  * WARRANTY OF DESIGN, MERCHANTABILITY AND FITNESS FOR A PARTICULAR
  17  * PURPOSE.
  18  */
  19
  20 /**
  21  * @file
  22  * @brief   This file implements functions to finalize the irg for emit.
  23  * @author  Christian Wuerdig
  24  * @version $Id$
  25  */
  26 #ifdef HAVE_CONFIG_H
  27 #include "config.h"
  28 #endif
  29
  30 #include "irnode.h"
  31 #include "ircons.h"
  32 #include "irgmod.h"
  33 #include "irgwalk.h"
  34 #include "iredges.h"
  35 #include "irprintf.h"
  36 #include "pdeq.h"
  37 #include "error.h"
  38
  39 #include "../bearch_t.h"
  40 #include "../besched_t.h"
  41 #include "../benode_t.h"
  42
  43 #include "bearch_ia32_t.h"
  44 #include "ia32_finish.h"
  45 #include "ia32_new_nodes.h"
  46 #include "ia32_map_regs.h"
  47 #include "ia32_common_transform.h"
  48 #include "ia32_transform.h"
  49 #include "ia32_dbg_stat.h"
  50 #include "ia32_optimize.h"
  51 #include "gen_ia32_regalloc_if.h"
  52
  53 DEBUG_ONLY(static firm_dbg_module_t *dbg = NULL;)
  54
  55 /**
  56  * Transforms a Sub or xSub into Neg--Add iff OUT_REG == SRC2_REG.
  57  * THIS FUNCTIONS MUST BE CALLED AFTER REGISTER ALLOCATION.
  58  */
  59 static void ia32_transform_sub_to_neg_add(ir_node *irn, ia32_code_gen_t *cg) {
  60         ir_graph *irg;
  61         ir_node *in1, *in2, *noreg, *nomem, *res;
  62         ir_node *noreg_fp, *block;
  63         dbg_info *dbg;
  64         const arch_register_t *in1_reg, *in2_reg, *out_reg;
  65
  66         /* fix_am will solve this for AddressMode variants */
  67         if (get_ia32_op_type(irn) != ia32_Normal)
  68                 return;
  69
  70         noreg    = ia32_new_NoReg_gp(cg);
  71         noreg_fp = ia32_new_NoReg_xmm(cg);
  72         nomem    = new_rd_NoMem(cg->irg);
  73         in1      = get_irn_n(irn, n_ia32_binary_left);
  74         in2      = get_irn_n(irn, n_ia32_binary_right);
  75         in1_reg  = arch_get_irn_register(cg->arch_env, in1);
  76         in2_reg  = arch_get_irn_register(cg->arch_env, in2);
  77         out_reg  = get_ia32_out_reg(irn, 0);
  78
  79         irg     = cg->irg;
  80         block   = get_nodes_block(irn);
  81
  82         /* in case of sub and OUT == SRC2 we can transform the sequence into neg src2 -- add */
  83         if (out_reg != in2_reg)
  84                 return;
  85
  86         dbg = get_irn_dbg_info(irn);
  87
  88         /* generate the neg src2 */
  89         if (is_ia32_xSub(irn)) {
  90                 int size;
  91                 ir_entity *entity;
  92                 ir_mode *op_mode = get_ia32_ls_mode(irn);
  93
  94                 assert(get_irn_mode(irn) != mode_T);
  95
  96                 res = new_rd_ia32_xXor(dbg, irg, block, noreg, noreg, nomem, in2, noreg_fp);
  97                 size = get_mode_size_bits(op_mode);
  98                 entity = ia32_gen_fp_known_const(size == 32 ? ia32_SSIGN : ia32_DSIGN);
  99                 set_ia32_am_sc(res, entity);
 100                 set_ia32_op_type(res, ia32_AddrModeS);
 101                 set_ia32_ls_mode(res, op_mode);
 102
 103                 arch_set_irn_register(cg->arch_env, res, in2_reg);
 104
 105                 /* add to schedule */
 106                 sched_add_before(irn, res);
 107
 108                 /* generate the add */
 109                 res = new_rd_ia32_xAdd(dbg, irg, block, noreg, noreg, nomem, res, in1);
 110                 set_ia32_ls_mode(res, get_ia32_ls_mode(irn));
 111
 112                 /* exchange the add and the sub */
 113                 edges_reroute(irn, res, irg);
 114
 115                 /* add to schedule */
 116                 sched_add_before(irn, res);
 117         } else {
 118                 ir_node         *res_proj   = NULL;
 119                 ir_node         *flags_proj = NULL;
 120                 const ir_edge_t *edge;
 121
 122                 if (get_irn_mode(irn) == mode_T) {
 123                         /* collect the Proj uses */
 124                         foreach_out_edge(irn, edge) {
 125                                 ir_node *proj = get_edge_src_irn(edge);
 126                                 long     pn   = get_Proj_proj(proj);
 127                                 if(pn == pn_ia32_Sub_res) {
 128                                         assert(res_proj == NULL);
 129                                         res_proj = proj;
 130                                 } else {
 131                                         assert(pn == pn_ia32_Sub_flags);
 132                                         assert(flags_proj == NULL);
 133                                         flags_proj = proj;
 134                                 }
 135                         }
 136                 }
 137
 138                 if (flags_proj == NULL) {
 139                         res = new_rd_ia32_Neg(dbg, irg, block, in2);
 140                         arch_set_irn_register(cg->arch_env, res, in2_reg);
 141
 142                         /* add to schedule */
 143                         sched_add_before(irn, res);
 144
 145                         /* generate the add */
 146                         res = new_rd_ia32_Add(dbg, irg, block, noreg, noreg, nomem, res, in1);
 147                         arch_set_irn_register(cg->arch_env, res, out_reg);
 148                         set_ia32_commutative(res);
 149
 150                         /* exchange the add and the sub */
 151                         edges_reroute(irn, res, irg);
 152
 153                         /* add to schedule */
 154                         sched_add_before(irn, res);
 155                 } else {
 156                         ir_node *stc, *cmc, *not, *adc;
 157                         ir_node *adc_flags;
 158
 159                         /*
 160                          * ARG, the above technique does NOT set the flags right.
 161                          * So, we must produce the following code:
 162                          * t1 = ~b
 163                          * t2 = a + ~b + Carry
 164                          * Complement Carry
 165                          *
 166                          * a + -b = a + (~b + 1)  would set the carry flag IF a == b ...
 167                          */
 168                         not = new_rd_ia32_Not(dbg, irg, block, in2);
 169                         arch_set_irn_register(cg->arch_env, not, in2_reg);
 170                         sched_add_before(irn, not);
 171
 172                         stc = new_rd_ia32_Stc(dbg, irg, block);
 173                         arch_set_irn_register(cg->arch_env, stc,
 174                                               &ia32_flags_regs[REG_EFLAGS]);
 175                         sched_add_before(irn, stc);
 176
 177                         adc = new_rd_ia32_Adc(dbg, irg, block, noreg, noreg, nomem, not,
 178                                               in1, stc);
 179                         arch_set_irn_register(cg->arch_env, adc, out_reg);
 180                         sched_add_before(irn, adc);
 181
 182                         set_irn_mode(adc, mode_T);
 183                         adc_flags = new_r_Proj(irg, block, adc, mode_Iu, pn_ia32_Adc_flags);
 184                         arch_set_irn_register(cg->arch_env, adc_flags,
 185                                               &ia32_flags_regs[REG_EFLAGS]);
 186
 187                         cmc = new_rd_ia32_Cmc(dbg, irg, block, adc_flags);
 188                         arch_set_irn_register(cg->arch_env, cmc,
 189                                               &ia32_flags_regs[REG_EFLAGS]);
 190                         sched_add_before(irn, cmc);
 191
 192                         exchange(flags_proj, cmc);
 193                         if (res_proj != NULL) {
 194                                 set_Proj_pred(res_proj, adc);
 195                                 set_Proj_proj(res_proj, pn_ia32_Adc_res);
 196                         }
 197
 198                         res = adc;
 199                 }
 200         }
 201
 202         SET_IA32_ORIG_NODE(res, ia32_get_old_node_name(cg, irn));
 203
 204         /* remove the old sub */
 205         sched_remove(irn);
 206         kill_node(irn);
 207
 208         DBG_OPT_SUB2NEGADD(irn, res);
 209 }
 210
 211 static INLINE int need_constraint_copy(ir_node *irn)
 212 {
 213         /* TODO this should be determined from the node specification */
 214         switch (get_ia32_irn_opcode(irn)) {
 215                 case iro_ia32_IMul: {
 216                         /* the 3 operand form of IMul needs no constraint copy */
 217                         ir_node *right = get_irn_n(irn, n_ia32_IMul_right);
 218                         return !is_ia32_Immediate(right);
 219                 }
 220
 221                 case iro_ia32_Lea:
 222                 case iro_ia32_Conv_I2I:
 223                 case iro_ia32_Conv_I2I8Bit:
 224                 case iro_ia32_CMov:
 225                         return 0;
 226
 227                 default:
 228                         return 1;
 229         }
 230 }
 231
 232 /**
 233  * Returns the index of the "same" register.
 234  * On the x86, we should have only one.
 235  */
 236 static int get_first_same(const arch_register_req_t* req)
 237 {
 238         const unsigned other = req->other_same;
 239         int i;
 240
 241         for (i = 0; i < 32; ++i) {
 242                 if (other & (1U << i)) return i;
 243         }
 244         assert(! "same position not found");
 245         return 32;
 246 }
 247
 248 /**
 249  * Insert copies for all ia32 nodes where the should_be_same requirement
 250  * is not fulfilled.
 251  * Transform Sub into Neg -- Add if IN2 == OUT
 252  */
 253 static void assure_should_be_same_requirements(ia32_code_gen_t *cg,
 254                                                ir_node *node)
 255 {
 256         ir_graph                   *irg      = cg->irg;
 257         const arch_env_t           *arch_env = cg->arch_env;
 258         const arch_register_req_t **reqs;
 259         const arch_register_t      *out_reg, *in_reg;
 260         int                         n_res, i;
 261         ir_node                    *in_node, *block;
 262
 263         reqs  = get_ia32_out_req_all(node);
 264         n_res = get_ia32_n_res(node);
 265         block = get_nodes_block(node);
 266
 267         /* check all OUT requirements, if there is a should_be_same */
 268         for (i = 0; i < n_res; i++) {
 269                 int                          i2, arity;
 270                 int                          same_pos;
 271                 ir_node                     *perm;
 272                 ir_node                     *in[2];
 273                 ir_node                     *perm_proj0;
 274                 ir_node                     *perm_proj1;
 275                 ir_node                     *uses_out_reg;
 276                 const arch_register_req_t   *req = reqs[i];
 277                 const arch_register_class_t *cls;
 278                 int                         uses_out_reg_pos;
 279
 280                 if (!arch_register_req_is(req, should_be_same))
 281                         continue;
 282
 283                 same_pos = get_first_same(req);
 284
 285                 /* get in and out register */
 286                 out_reg  = get_ia32_out_reg(node, i);
 287                 in_node  = get_irn_n(node, same_pos);
 288                 in_reg   = arch_get_irn_register(arch_env, in_node);
 289
 290                 /* requirement already fulfilled? */
 291                 if (in_reg == out_reg)
 292                         continue;
 293                 /* unknowns can be changed to any register we want on emitting */
 294                 if (is_unknown_reg(in_reg))
 295                         continue;
 296                 cls = arch_register_get_class(in_reg);
 297                 assert(cls == arch_register_get_class(out_reg));
 298
 299                 /* check if any other input operands uses the out register */
 300                 arity = get_irn_arity(node);
 301                 uses_out_reg     = NULL;
 302                 uses_out_reg_pos = -1;
 303                 for(i2 = 0; i2 < arity; ++i2) {
 304                         ir_node               *in     = get_irn_n(node, i2);
 305                         const arch_register_t *in_reg;
 306
 307                         if(!mode_is_data(get_irn_mode(in)))
 308                                 continue;
 309
 310                         in_reg = arch_get_irn_register(arch_env, in);
 311
 312                         if(in_reg != out_reg)
 313                                 continue;
 314
 315                         if(uses_out_reg != NULL && in != uses_out_reg) {
 316                                 panic("invalid register allocation");
 317                         }
 318                         uses_out_reg = in;
 319                         if(uses_out_reg_pos >= 0)
 320                                 uses_out_reg_pos = -1; /* multiple inputs... */
 321                         else
 322                                 uses_out_reg_pos = i2;
 323                 }
 324
 325                 /* no-one else is using the out reg, we can simply copy it
 326                  * (the register can't be live since the operation will override it
 327                  *  anyway) */
 328                 if(uses_out_reg == NULL) {
 329                         ir_node *copy = be_new_Copy(cls, irg, block, in_node);
 330                         DBG_OPT_2ADDRCPY(copy);
 331
 332                         /* destination is the out register */
 333                         arch_set_irn_register(arch_env, copy, out_reg);
 334
 335                         /* insert copy before the node into the schedule */
 336                         sched_add_before(node, copy);
 337
 338                         /* set copy as in */
 339                         set_irn_n(node, same_pos, copy);
 340
 341                         DBG((dbg, LEVEL_1, "created copy %+F for should be same argument "
 342                              "at input %d of %+F\n", copy, same_pos, node));
 343                         continue;
 344                 }
 345
 346                 /* for commutative nodes we can simply swap the left/right */
 347                 if (uses_out_reg_pos == n_ia32_binary_right && is_ia32_commutative(node)) {
 348                         ia32_swap_left_right(node);
 349                         DBG((dbg, LEVEL_1, "swapped left/right input of %+F to resolve "
 350                              "should be same constraint\n", node));
 351                         continue;
 352                 }
 353
 354 #ifdef DEBUG_libfirm
 355                 ir_fprintf(stderr, "Note: need perm to resolve should_be_same constraint at %+F (this is unsafe and should not happen in theory...)\n", node);
 356 #endif
 357                 /* the out reg is used as node input: we need to permutate our input
 358                  * and the other (this is allowed, since the other node can't be live
 359                  * after! the operation as we will override the register. */
 360                 in[0] = in_node;
 361                 in[1] = uses_out_reg;
 362                 perm  = be_new_Perm(cls, irg, block, 2, in);
 363
 364                 perm_proj0 = new_r_Proj(irg, block, perm, get_irn_mode(in[0]), 0);
 365                 perm_proj1 = new_r_Proj(irg, block, perm, get_irn_mode(in[1]), 1);
 366
 367                 arch_set_irn_register(arch_env, perm_proj0, out_reg);
 368                 arch_set_irn_register(arch_env, perm_proj1, in_reg);
 369
 370                 sched_add_before(node, perm);
 371
 372                 DBG((dbg, LEVEL_1, "created perm %+F for should be same argument "
 373                      "at input %d of %+F (need permutate with %+F)\n", perm, same_pos,
 374                      node, uses_out_reg));
 375
 376                 /* use the perm results */
 377                 for(i2 = 0; i2 < arity; ++i2) {
 378                         ir_node *in = get_irn_n(node, i2);
 379
 380                         if(in == in_node) {
 381                                 set_irn_n(node, i2, perm_proj0);
 382                         } else if(in == uses_out_reg) {
 383                                 set_irn_n(node, i2, perm_proj1);
 384                         }
 385                 }
 386         }
 387 }
 388
 389 /**
 390  * Following Problem:
 391  * We have a source address mode node with base or index register equal to
 392  * result register and unfulfilled should_be_same requirement. The constraint
 393  * handler will insert a copy from the remaining input operand to the result
 394  * register -> base or index is broken then.
 395  * Solution: Turn back this address mode into explicit Load + Operation.
 396  */
 397 static void fix_am_source(ir_node *irn, void *env)
 398 {
 399         ia32_code_gen_t            *cg = env;
 400         const arch_env_t           *arch_env = cg->arch_env;
 401         ir_node                    *base;
 402         ir_node                    *index;
 403         ir_node                    *noreg;
 404         const arch_register_t      *reg_base;
 405         const arch_register_t      *reg_index;
 406         const arch_register_req_t **reqs;
 407         int                         n_res, i;
 408
 409         /* check only ia32 nodes with source address mode */
 410         if (! is_ia32_irn(irn) || get_ia32_op_type(irn) != ia32_AddrModeS)
 411                 return;
 412         /* only need to fix binary operations */
 413         if (get_ia32_am_support(irn) != ia32_am_binary)
 414                 return;
 415
 416         base  = get_irn_n(irn, n_ia32_base);
 417         index = get_irn_n(irn, n_ia32_index);
 418
 419         reg_base  = arch_get_irn_register(arch_env, base);
 420         reg_index = arch_get_irn_register(arch_env, index);
 421         reqs      = get_ia32_out_req_all(irn);
 422
 423         noreg = ia32_new_NoReg_gp(cg);
 424
 425         n_res = get_ia32_n_res(irn);
 426
 427         for (i = 0; i < n_res; i++) {
 428                 if (arch_register_req_is(reqs[i], should_be_same)) {
 429                         /* get in and out register */
 430                         const arch_register_t *out_reg   = get_ia32_out_reg(irn, i);
 431                         int                    same_pos  = get_first_same(reqs[i]);
 432                         ir_node               *same_node = get_irn_n(irn, same_pos);
 433                         const arch_register_t *same_reg
 434                                 = arch_get_irn_register(arch_env, same_node);
 435                         const arch_register_class_t *same_cls;
 436                         ir_graph              *irg   = cg->irg;
 437                         dbg_info              *dbgi  = get_irn_dbg_info(irn);
 438                         ir_node               *block = get_nodes_block(irn);
 439                         ir_mode               *proj_mode;
 440                         ir_node               *load;
 441                         ir_node               *load_res;
 442                         ir_node               *mem;
 443                         int                    pnres;
 444                         int                    pnmem;
 445
 446                         /* should_be same constraint is fullfilled, nothing to do */
 447                         if(out_reg == same_reg)
 448                                 continue;
 449
 450                         /* we only need to do something if the out reg is the same as base
 451                            or index register */
 452                         if (out_reg != reg_base && out_reg != reg_index)
 453                                 continue;
 454
 455                         /* turn back address mode */
 456                         same_cls = arch_register_get_class(same_reg);
 457                         mem = get_irn_n(irn, n_ia32_mem);
 458                         assert(get_irn_mode(mem) == mode_M);
 459                         if (same_cls == &ia32_reg_classes[CLASS_ia32_gp]) {
 460                                 load      = new_rd_ia32_Load(dbgi, irg, block, base, index, mem);
 461                                 pnres     = pn_ia32_Load_res;
 462                                 pnmem     = pn_ia32_Load_M;
 463                                 proj_mode = mode_Iu;
 464                         } else if (same_cls == &ia32_reg_classes[CLASS_ia32_xmm]) {
 465                                 load      = new_rd_ia32_xLoad(dbgi, irg, block, base, index, mem,
 466                                                               get_ia32_ls_mode(irn));
 467                                 pnres     = pn_ia32_xLoad_res;
 468                                 pnmem     = pn_ia32_xLoad_M;
 469                                 proj_mode = mode_E;
 470                         } else {
 471                                 panic("cannot turn back address mode for this register class");
 472                         }
 473
 474                         /* copy address mode information to load */
 475                         set_ia32_op_type(load, ia32_AddrModeS);
 476                         ia32_copy_am_attrs(load, irn);
 477                         if (is_ia32_is_reload(irn))
 478                                 set_ia32_is_reload(load);
 479
 480                         /* insert the load into schedule */
 481                         sched_add_before(irn, load);
 482
 483                         DBG((dbg, LEVEL_3, "irg %+F: build back AM source for node %+F, inserted load %+F\n", cg->irg, irn, load));
 484
 485                         load_res = new_r_Proj(cg->irg, block, load, proj_mode, pnres);
 486                         arch_set_irn_register(cg->arch_env, load_res, out_reg);
 487
 488                         /* set the new input operand */
 489                         if (is_ia32_Immediate(get_irn_n(irn, n_ia32_binary_right)))
 490                                 set_irn_n(irn, n_ia32_binary_left, load_res);
 491                         else
 492                                 set_irn_n(irn, n_ia32_binary_right, load_res);
 493                         if (get_irn_mode(irn) == mode_T) {
 494                                 const ir_edge_t *edge, *next;
 495                                 foreach_out_edge_safe(irn, edge, next) {
 496                                         ir_node *node = get_edge_src_irn(edge);
 497                                         int      pn   = get_Proj_proj(node);
 498                                         if (pn == pn_ia32_res) {
 499                                                 exchange(node, irn);
 500                                         } else if (pn == pn_ia32_mem) {
 501                                                 set_Proj_pred(node, load);
 502                                                 set_Proj_proj(node, pnmem);
 503                                         } else {
 504                                                 panic("Unexpected Proj");
 505                                         }
 506                                 }
 507                                 set_irn_mode(irn, mode_Iu);
 508                         }
 509
 510                         /* this is a normal node now */
 511                         set_irn_n(irn, n_ia32_base,  noreg);
 512                         set_irn_n(irn, n_ia32_index, noreg);
 513                         set_ia32_op_type(irn, ia32_Normal);
 514                         break;
 515                 }
 516         }
 517 }
 518
 519 /**
 520  * Block walker: finishes a block
 521  */
 522 static void ia32_finish_irg_walker(ir_node *block, void *env) {
 523         ia32_code_gen_t *cg = env;
 524         ir_node *irn, *next;
 525
 526         /* first: turn back AM source if necessary */
 527         for (irn = sched_first(block); ! sched_is_end(irn); irn = next) {
 528                 next = sched_next(irn);
 529                 fix_am_source(irn, env);
 530         }
 531
 532         for (irn = sched_first(block); ! sched_is_end(irn); irn = next) {
 533                 ia32_code_gen_t *cg = env;
 534
 535                 next = sched_next(irn);
 536
 537                 /* check if there is a sub which need to be transformed */
 538                 if (is_ia32_Sub(irn) || is_ia32_xSub(irn)) {
 539                         ia32_transform_sub_to_neg_add(irn, cg);
 540                 }
 541         }
 542
 543         /* second: insert copies and finish irg */
 544         for (irn = sched_first(block); ! sched_is_end(irn); irn = next) {
 545                 next = sched_next(irn);
 546                 if (is_ia32_irn(irn)) {
 547                         /* some nodes are just a bit less efficient, but need no fixing if the
 548                          * should be same requirement is not fulfilled */
 549                         if (need_constraint_copy(irn))
 550                                 assure_should_be_same_requirements(cg, irn);
 551                 }
 552         }
 553 }
 554
 555 /**
 556  * Block walker: pushes all blocks on a wait queue
 557  */
 558 static void ia32_push_on_queue_walker(ir_node *block, void *env) {
 559         waitq *wq = env;
 560         waitq_put(wq, block);
 561 }
 562
 563
 564 /**
 565  * Add Copy nodes for not fulfilled should_be_equal constraints
 566  */
 567 void ia32_finish_irg(ir_graph *irg, ia32_code_gen_t *cg) {
 568         waitq *wq = new_waitq();
 569
 570         /* Push the blocks on the waitq because ia32_finish_irg_walker starts more walks ... */
 571         irg_block_walk_graph(irg, NULL, ia32_push_on_queue_walker, wq);
 572
 573         while (! waitq_empty(wq)) {
 574                 ir_node *block = waitq_get(wq);
 575                 ia32_finish_irg_walker(block, cg);
 576         }
 577         del_waitq(wq);
 578 }
 579
 580 void ia32_init_finish(void)
 581 {
 582         FIRM_DBG_REGISTER(dbg, "firm.be.ia32.finish");
 583 }