- Improved addressmode optimisation for conv nodes
[libfirm] / ir / be / ia32 / ia32_finish.c
1 /**
2  * This file implements functions to finalize the irg for emit.
3  * @author Christian Wuerdig
4  * $Id$
5  */
6
7 #include "irnode.h"
8 #include "ircons.h"
9 #include "irgmod.h"
10 #include "irgwalk.h"
11 #include "pdeq.h"
12
13 #include "../bearch.h"
14 #include "../besched_t.h"
15 #include "../benode_t.h"
16
17 #include "bearch_ia32_t.h"
18 #include "ia32_finish.h"
19 #include "ia32_new_nodes.h"
20 #include "ia32_map_regs.h"
21 #include "ia32_transform.h"
22 #include "ia32_dbg_stat.h"
23 #include "ia32_optimize.h"
24 #include "gen_ia32_regalloc_if.h"
25
26 /**
27  * Transforms a Sub or xSub into Neg--Add iff OUT_REG == SRC2_REG.
28  * THIS FUNCTIONS MUST BE CALLED AFTER REGISTER ALLOCATION.
29  */
30 static void ia32_transform_sub_to_neg_add(ir_node *irn, ia32_code_gen_t *cg) {
31         ia32_transform_env_t tenv;
32         ir_node *in1, *in2, *noreg, *nomem, *res;
33         const arch_register_t *in1_reg, *in2_reg, *out_reg, **slots;
34
35         /* Return if AM node or not a Sub or xSub */
36         if (!(is_ia32_Sub(irn) || is_ia32_xSub(irn)) || get_ia32_op_type(irn) != ia32_Normal)
37                 return;
38
39         noreg   = ia32_new_NoReg_gp(cg);
40         nomem   = new_rd_NoMem(cg->irg);
41         in1     = get_irn_n(irn, 2);
42         in2     = get_irn_n(irn, 3);
43         in1_reg = arch_get_irn_register(cg->arch_env, in1);
44         in2_reg = arch_get_irn_register(cg->arch_env, in2);
45         out_reg = get_ia32_out_reg(irn, 0);
46
47         tenv.block    = get_nodes_block(irn);
48         tenv.dbg      = get_irn_dbg_info(irn);
49         tenv.irg      = cg->irg;
50         tenv.irn      = irn;
51         tenv.mode     = get_ia32_res_mode(irn);
52         tenv.cg       = cg;
53         DEBUG_ONLY(tenv.mod      = cg->mod;)
54
55         /* in case of sub and OUT == SRC2 we can transform the sequence into neg src2 -- add */
56         if (REGS_ARE_EQUAL(out_reg, in2_reg)) {
57                 /* generate the neg src2 */
58                 res = gen_Minus_ex(&tenv, in2);
59                 arch_set_irn_register(cg->arch_env, res, in2_reg);
60
61                 /* add to schedule */
62                 sched_add_before(irn, get_Proj_pred(res));
63                 sched_add_before(irn, res);
64
65                 /* generate the add */
66                 if (mode_is_float(tenv.mode)) {
67                         res = new_rd_ia32_xAdd(tenv.dbg, tenv.irg, tenv.block, noreg, noreg, res, in1, nomem);
68                         set_ia32_am_support(res, ia32_am_Source);
69                 }
70                 else {
71                         res = new_rd_ia32_Add(tenv.dbg, tenv.irg, tenv.block, noreg, noreg, res, in1, nomem);
72                         set_ia32_am_support(res, ia32_am_Full);
73                         set_ia32_commutative(res);
74                 }
75             set_ia32_res_mode(res, tenv.mode);
76
77                 SET_IA32_ORIG_NODE(res, ia32_get_old_node_name(tenv.cg, irn));
78                 /* copy register */
79                 slots    = get_ia32_slots(res);
80                 slots[0] = in2_reg;
81
82                 /* add to schedule */
83                 sched_add_before(irn, res);
84
85                 /* remove the old sub */
86                 sched_remove(irn);
87
88                 DBG_OPT_SUB2NEGADD(irn, res);
89
90                 /* exchange the add and the sub */
91                 exchange(irn, res);
92         }
93 }
94
95 /**
96  * Transforms a LEA into an Add if possible
97  * THIS FUNCTIONS MUST BE CALLED AFTER REGISTER ALLOCATION.
98  */
99 static void ia32_transform_lea_to_add(ir_node *irn, ia32_code_gen_t *cg) {
100         ia32_am_flavour_t am_flav;
101         int               imm = 0;
102         ir_node          *res = NULL;
103         ir_node          *nomem, *noreg, *base, *index, *op1, *op2;
104         const char       *offs = NULL;
105         ia32_transform_env_t tenv;
106         const arch_register_t *out_reg, *base_reg, *index_reg;
107         int              imm_tp = ia32_ImmConst;
108
109         /* must be a LEA */
110         if (! is_ia32_Lea(irn))
111                 return;
112
113         am_flav = get_ia32_am_flavour(irn);
114
115         if (get_ia32_am_sc(irn))
116                 return;
117
118         /* only some LEAs can be transformed to an Add */
119         if (am_flav != ia32_am_B && am_flav != ia32_am_OB && am_flav != ia32_am_OI && am_flav != ia32_am_BI)
120                 return;
121
122         noreg = ia32_new_NoReg_gp(cg);
123         nomem = new_rd_NoMem(cg->irg);
124         op1   = noreg;
125         op2   = noreg;
126         base  = get_irn_n(irn, 0);
127         index = get_irn_n(irn,1);
128
129         if (am_flav & ia32_O) {
130                 offs  = get_ia32_am_offs(irn);
131
132                 if (! offs) {
133                         ident *id = get_ia32_am_sc(irn);
134
135                         assert(id != NULL);
136                         offs   = get_id_str(id);
137                         imm_tp = ia32_ImmSymConst;
138                 }
139                 /* offset has a explicit sign -> we need to skip + */
140                 else if (offs[0] == '+')
141                         offs++;
142         }
143
144         out_reg   = arch_get_irn_register(cg->arch_env, irn);
145         base_reg  = arch_get_irn_register(cg->arch_env, base);
146         index_reg = arch_get_irn_register(cg->arch_env, index);
147
148         tenv.block = get_nodes_block(irn);
149         tenv.dbg   = get_irn_dbg_info(irn);
150         tenv.irg   = cg->irg;
151         tenv.irn   = irn;
152         DEBUG_ONLY(tenv.mod   = cg->mod;)
153         tenv.mode  = get_irn_mode(irn);
154         tenv.cg    = cg;
155
156         switch(get_ia32_am_flavour(irn)) {
157                 case ia32_am_B:
158                         /* out register must be same as base register */
159                         if (! REGS_ARE_EQUAL(out_reg, base_reg))
160                                 return;
161
162                         op1 = base;
163                         break;
164                 case ia32_am_OB:
165                         /* out register must be same as base register */
166                         if (! REGS_ARE_EQUAL(out_reg, base_reg))
167                                 return;
168
169                         op1 = base;
170                         imm = 1;
171                         break;
172                 case ia32_am_OI:
173                         /* out register must be same as index register */
174                         if (! REGS_ARE_EQUAL(out_reg, index_reg))
175                                 return;
176
177                         op1 = index;
178                         imm = 1;
179                         break;
180                 case ia32_am_BI:
181                         /* out register must be same as one in register */
182                         if (REGS_ARE_EQUAL(out_reg, base_reg)) {
183                                 op1 = base;
184                                 op2 = index;
185                         }
186                         else if (REGS_ARE_EQUAL(out_reg, index_reg)) {
187                                 op1 = index;
188                                 op2 = base;
189                         }
190                         else {
191                                 /* in registers a different from out -> no Add possible */
192                                 return;
193                         }
194                 default:
195                         break;
196         }
197
198         res = new_rd_ia32_Add(tenv.dbg, tenv.irg, tenv.block, noreg, noreg, op1, op2, nomem);
199         arch_set_irn_register(cg->arch_env, res, out_reg);
200         set_ia32_op_type(res, ia32_Normal);
201         set_ia32_commutative(res);
202         set_ia32_res_mode(res, tenv.mode);
203
204         if (imm) {
205                 set_ia32_cnst(res, offs);
206                 set_ia32_immop_type(res, imm_tp);
207         }
208
209         SET_IA32_ORIG_NODE(res, ia32_get_old_node_name(cg, irn));
210
211         /* add Add to schedule */
212         sched_add_before(irn, res);
213
214         DBG_OPT_LEA2ADD(irn, res);
215
216         res = new_rd_Proj(tenv.dbg, tenv.irg, tenv.block, res, tenv.mode, pn_ia32_Add_res);
217
218         /* add result Proj to schedule */
219         sched_add_before(irn, res);
220
221         /* remove the old LEA */
222         sched_remove(irn);
223
224         /* exchange the Add and the LEA */
225         exchange(irn, res);
226 }
227
228 static INLINE int need_constraint_copy(ir_node *irn) {
229         return \
230                 ! is_ia32_Lea(irn)          && \
231                 ! is_ia32_Conv_I2I(irn)     && \
232                 ! is_ia32_Conv_I2I8Bit(irn) && \
233                 ! is_ia32_CmpCMov(irn)      && \
234                 ! is_ia32_PsiCondCMov(irn)  && \
235                 ! is_ia32_CmpSet(irn);
236 }
237
238 /**
239  * Insert copies for all ia32 nodes where the should_be_same requirement
240  * is not fulfilled.
241  * Transform Sub into Neg -- Add if IN2 == OUT
242  */
243 static void ia32_finish_node(ir_node *irn, void *env) {
244         ia32_code_gen_t            *cg = env;
245         const ia32_register_req_t **reqs;
246         const arch_register_t      *out_reg, *in_reg, *in2_reg;
247         int                         n_res, i;
248         ir_node                    *copy, *in_node, *block, *in2_node;
249         ia32_op_type_t              op_tp;
250
251         if (is_ia32_irn(irn)) {
252                 /* AM Dest nodes don't produce any values  */
253                 op_tp = get_ia32_op_type(irn);
254                 if (op_tp == ia32_AddrModeD)
255                         goto end;
256
257                 reqs  = get_ia32_out_req_all(irn);
258                 n_res = get_ia32_n_res(irn);
259                 block = get_nodes_block(irn);
260
261                 /* check all OUT requirements, if there is a should_be_same */
262                 if ((op_tp == ia32_Normal || op_tp == ia32_AddrModeS) && need_constraint_copy(irn))
263                 {
264                         for (i = 0; i < n_res; i++) {
265                                 if (arch_register_req_is(&(reqs[i]->req), should_be_same)) {
266                                         /* get in and out register */
267                                         out_reg  = get_ia32_out_reg(irn, i);
268                                         in_node  = get_irn_n(irn, reqs[i]->same_pos);
269                                         in_reg   = arch_get_irn_register(cg->arch_env, in_node);
270
271                                         /* don't copy ignore nodes */
272                                         if (arch_irn_is(cg->arch_env, in_node, ignore) && is_Proj(in_node))
273                                                 continue;
274
275                                         /* check if in and out register are equal */
276                                         if (! REGS_ARE_EQUAL(out_reg, in_reg)) {
277                                                 /* in case of a commutative op: just exchange the in's */
278                                                 /* beware: the current op could be everything, so test for ia32 */
279                                                 /*         commutativity first before getting the second in     */
280                                                 if (is_ia32_commutative(irn)) {
281                                                         in2_node = get_irn_n(irn, reqs[i]->same_pos ^ 1);
282                                                         in2_reg  = arch_get_irn_register(cg->arch_env, in2_node);
283
284                                                         if (REGS_ARE_EQUAL(out_reg, in2_reg)) {
285                                                                 set_irn_n(irn, reqs[i]->same_pos, in2_node);
286                                                                 set_irn_n(irn, reqs[i]->same_pos ^ 1, in_node);
287                                                         }
288                                                         else
289                                                                 goto insert_copy;
290                                                 }
291                                                 else {
292 insert_copy:
293                                                         DBG((cg->mod, LEVEL_1, "inserting copy for %+F in_pos %d\n", irn, reqs[i]->same_pos));
294                                                         /* create copy from in register */
295                                                         copy = be_new_Copy(arch_register_get_class(in_reg), cg->irg, block, in_node);
296
297                                                         DBG_OPT_2ADDRCPY(copy);
298
299                                                         /* destination is the out register */
300                                                         arch_set_irn_register(cg->arch_env, copy, out_reg);
301
302                                                         /* insert copy before the node into the schedule */
303                                                         sched_add_before(irn, copy);
304
305                                                         /* set copy as in */
306                                                         set_irn_n(irn, reqs[i]->same_pos, copy);
307                                                 }
308                                         }
309                                 }
310                         }
311                 }
312
313                 /* check xCmp: try to avoid unordered cmp */
314                 if ((is_ia32_xCmp(irn) || is_ia32_xCmpCMov(irn) || is_ia32_xCmpSet(irn)) &&
315                         op_tp == ia32_Normal    &&
316                         ! is_ia32_ImmConst(irn) && ! is_ia32_ImmSymConst(irn))
317                 {
318                         long pnc = get_ia32_pncode(irn);
319
320                         if (pnc & pn_Cmp_Uo) {
321                                 ir_node *tmp;
322                                 int idx1 = 2, idx2 = 3;
323
324                                 if (is_ia32_xCmpCMov(irn)) {
325                                         idx1 = 0;
326                                         idx2 = 1;
327                                 }
328
329                                 tmp = get_irn_n(irn, idx1);
330                                 set_irn_n(irn, idx1, get_irn_n(irn, idx2));
331                                 set_irn_n(irn, idx2, tmp);
332
333                                 set_ia32_pncode(irn, get_negated_pnc(pnc, mode_D));
334                         }
335                 }
336
337                 /*
338                         If we have a CondJmp/CmpSet/xCmpSet with immediate,
339                         we need to check if it's the right operand, otherwise
340                         we have to change it, as CMP doesn't support immediate
341                         as left operands.
342                 */
343 #if 0
344                 if ((is_ia32_CondJmp(irn) || is_ia32_CmpSet(irn) || is_ia32_xCmpSet(irn)) &&
345                         (is_ia32_ImmConst(irn) || is_ia32_ImmSymConst(irn))                   &&
346                         op_tp == ia32_AddrModeS)
347                 {
348                         set_ia32_op_type(irn, ia32_AddrModeD);
349                         set_ia32_pncode(irn, get_inversed_pnc(get_ia32_pncode(irn)));
350                 }
351 #endif
352         }
353 end: ;
354 }
355
356 /**
357  * Following Problem:
358  * We have a source address mode node with base or index register equal to
359  * result register. The constraint handler will insert a copy from the
360  * remaining input operand to the result register -> base or index is
361  * broken then.
362  * Solution: Turn back this address mode into explicit Load + Operation.
363  */
364 static void fix_am_source(ir_node *irn, void *env) {
365         ia32_code_gen_t *cg = env;
366         ir_node *base, *index, *noreg;
367         const arch_register_t *reg_base, *reg_index;
368         const ia32_register_req_t **reqs;
369         int n_res, i;
370
371         /* check only ia32 nodes with source address mode */
372         if (! is_ia32_irn(irn) || get_ia32_op_type(irn) != ia32_AddrModeS)
373                 return;
374         /* no need to fix unary operations */
375         if (get_irn_arity(irn) == 4)
376                 return;
377
378         base  = get_irn_n(irn, 0);
379         index = get_irn_n(irn, 1);
380
381         reg_base  = arch_get_irn_register(cg->arch_env, base);
382         reg_index = arch_get_irn_register(cg->arch_env, index);
383         reqs      = get_ia32_out_req_all(irn);
384
385         noreg = ia32_new_NoReg_gp(cg);
386
387         n_res = get_ia32_n_res(irn);
388
389         for (i = 0; i < n_res; i++) {
390                 if (arch_register_req_is(&(reqs[i]->req), should_be_same)) {
391                         /* get in and out register */
392                         const arch_register_t *out_reg  = get_ia32_out_reg(irn, i);
393
394                         /*
395                                 there is a constraint for the remaining operand
396                                 and the result register is equal to base or index register
397                         */
398                         if (reqs[i]->same_pos == 2 &&
399                                 (REGS_ARE_EQUAL(out_reg, reg_base) || REGS_ARE_EQUAL(out_reg, reg_index)))
400                         {
401                                 /* turn back address mode */
402                                 ir_node               *in_node = get_irn_n(irn, 2);
403                                 const arch_register_t *in_reg  = arch_get_irn_register(cg->arch_env, in_node);
404                                 ir_node               *block   = get_nodes_block(irn);
405                                 ir_mode               *ls_mode = get_ia32_ls_mode(irn);
406                                 ir_node *load;
407                                 int pnres;
408
409                                 if (arch_register_get_class(in_reg) == &ia32_reg_classes[CLASS_ia32_gp]) {
410                                         load  = new_rd_ia32_Load(NULL, cg->irg, block, base, index, get_irn_n(irn, 4));
411                                         pnres = pn_ia32_Load_res;
412                                 }
413                                 else if (arch_register_get_class(in_reg) == &ia32_reg_classes[CLASS_ia32_xmm]) {
414                                         load  = new_rd_ia32_xLoad(NULL, cg->irg, block, base, index, get_irn_n(irn, 4));
415                                         pnres = pn_ia32_xLoad_res;
416                                 }
417                                 else {
418                                         assert(0 && "cannot turn back address mode for this register class");
419                                 }
420
421                                 /* copy address mode information to load */
422                                 set_ia32_ls_mode(load, ls_mode);
423                                 set_ia32_am_flavour(load, get_ia32_am_flavour(irn));
424                                 set_ia32_op_type(load, ia32_AddrModeS);
425                                 set_ia32_am_support(load, ia32_am_Source);
426                                 set_ia32_am_scale(load, get_ia32_am_scale(irn));
427                                 set_ia32_am_sc(load, get_ia32_am_sc(irn));
428                                 add_ia32_am_offs(load, get_ia32_am_offs(irn));
429                                 set_ia32_frame_ent(load, get_ia32_frame_ent(irn));
430
431                                 if (is_ia32_use_frame(irn))
432                                         set_ia32_use_frame(load);
433
434                                 /* insert the load into schedule */
435                                 sched_add_before(irn, load);
436
437                                 DBG((cg->mod, LEVEL_3, "irg %+F: build back AM source for node %+F, inserted load %+F\n", cg->irg, irn, load));
438
439                                 load = new_r_Proj(cg->irg, block, load, ls_mode, pnres);
440                                 arch_set_irn_register(cg->arch_env, load, out_reg);
441
442                                 /* insert the load result proj into schedule */
443                                 sched_add_before(irn, load);
444
445                                 /* set the new input operand */
446                                 set_irn_n(irn, 3, load);
447
448                                 /* this is a normal node now */
449                                 set_irn_n(irn, 0, noreg);
450                                 set_irn_n(irn, 1, noreg);
451                                 set_ia32_op_type(irn, ia32_Normal);
452
453                                 break;
454                         }
455                 }
456         }
457 }
458
459 static void ia32_finish_irg_walker(ir_node *block, void *env) {
460         ir_node *irn, *next;
461
462         /* first: turn back AM source if necessary */
463         for (irn = sched_first(block); ! sched_is_end(irn); irn = next) {
464                 next = sched_next(irn);
465                 fix_am_source(irn, env);
466         }
467
468         for (irn = sched_first(block); ! sched_is_end(irn); irn = next) {
469                 ia32_code_gen_t *cg = env;
470
471                 next = sched_next(irn);
472
473                 /* check if there is a sub which need to be transformed */
474                 ia32_transform_sub_to_neg_add(irn, cg);
475
476                 /* transform a LEA into an Add if possible */
477                 ia32_transform_lea_to_add(irn, cg);
478         }
479
480         /* second: insert copies and finish irg */
481         for (irn = sched_first(block); ! sched_is_end(irn); irn = next) {
482                 next = sched_next(irn);
483                 ia32_finish_node(irn, env);
484         }
485 }
486
487 static void ia32_push_on_queue_walker(ir_node *block, void *env) {
488         waitq *wq = env;
489         waitq_put(wq, block);
490 }
491
492
493 /**
494  * Add Copy nodes for not fulfilled should_be_equal constraints
495  */
496 void ia32_finish_irg(ir_graph *irg, ia32_code_gen_t *cg) {
497         waitq *wq = new_waitq();
498
499         /* Push the blocks on the waitq because ia32_finish_irg_walker starts more walks ... */
500         irg_block_walk_graph(irg, NULL, ia32_push_on_queue_walker, wq);
501
502         while (! waitq_empty(wq)) {
503                 ir_node *block = waitq_get(wq);
504                 ia32_finish_irg_walker(block, cg);
505         }
506         del_waitq(wq);
507 }