implement some cases of =A asm-constraint
[libfirm] / ir / be / ia32 / ia32_common_transform.c
1 /*
2  * Copyright (C) 1995-2008 University of Karlsruhe.  All right reserved.
3  *
4  * This file is part of libFirm.
5  *
6  * This file may be distributed and/or modified under the terms of the
7  * GNU General Public License version 2 as published by the Free Software
8  * Foundation and appearing in the file LICENSE.GPL included in the
9  * packaging of this file.
10  *
11  * Licensees holding valid libFirm Professional Edition licenses may use
12  * this file in accordance with the libFirm Commercial License.
13  * Agreement provided with the Software.
14  *
15  * This file is provided AS IS with NO WARRANTY OF ANY KIND, INCLUDING THE
16  * WARRANTY OF DESIGN, MERCHANTABILITY AND FITNESS FOR A PARTICULAR
17  * PURPOSE.
18  */
19
20 /**
21  * @file
22  * @brief       This file implements the common parts of IR transformation from
23  *              firm into ia32-Firm.
24  * @author      Matthias Braun, Sebastian Buchwald
25  * @version     $Id: ia32_common_transform.c 21012 2008-08-06 13:35:17Z beck $
26  */
27 #include "config.h"
28
29 #include "error.h"
30 #include "ircons.h"
31 #include "irprintf.h"
32 #include "typerep.h"
33 #include "bitset.h"
34 #include "heights.h"
35
36 #include "../betranshlp.h"
37 #include "../beirg.h"
38 #include "../beabi.h"
39
40 #include "ia32_architecture.h"
41 #include "ia32_common_transform.h"
42 #include "ia32_new_nodes.h"
43
44 #include "gen_ia32_new_nodes.h"
45 #include "gen_ia32_regalloc_if.h"
46
47 ir_heights_t *ia32_heights = NULL;
48
49 static int check_immediate_constraint(long val, char immediate_constraint_type)
50 {
51         switch (immediate_constraint_type) {
52                 case 0:
53                 case 'i': return 1;
54
55                 case 'I': return    0 <= val && val <=  31;
56                 case 'J': return    0 <= val && val <=  63;
57                 case 'K': return -128 <= val && val <= 127;
58                 case 'L': return val == 0xff || val == 0xffff;
59                 case 'M': return    0 <= val && val <=   3;
60                 case 'N': return    0 <= val && val <= 255;
61                 case 'O': return    0 <= val && val <= 127;
62
63                 default: panic("Invalid immediate constraint found");
64         }
65 }
66
67 /**
68  * Get a primitive type for a mode with alignment 16.
69  */
70 static ir_type *ia32_get_prim_type(pmap *types, ir_mode *mode)
71 {
72         ir_type *res = (ir_type*)pmap_get(types, mode);
73         if (res != NULL)
74                 return res;
75
76         res = new_type_primitive(mode);
77         if (get_mode_size_bits(mode) >= 80) {
78                 set_type_alignment_bytes(res, 16);
79         }
80         pmap_insert(types, mode, res);
81         return res;
82 }
83
84 ir_entity *ia32_create_float_const_entity(ir_node *cnst)
85 {
86         ir_graph         *irg      = get_irn_irg(cnst);
87         const arch_env_t *arch_env = be_get_irg_arch_env(irg);
88         ia32_isa_t       *isa      = (ia32_isa_t*) arch_env;
89         ir_tarval        *tv       = get_Const_tarval(cnst);
90         ir_entity        *res      = (ir_entity*)pmap_get(isa->tv_ent, tv);
91         ir_initializer_t *initializer;
92         ir_mode          *mode;
93         ir_type          *tp;
94
95         if (res != NULL)
96                 return res;
97
98         mode = get_tarval_mode(tv);
99
100         if (! ia32_cg_config.use_sse2) {
101                 /* try to reduce the mode to produce smaller sized entities */
102                 if (mode != mode_F) {
103                         if (tarval_ieee754_can_conv_lossless(tv, mode_F)) {
104                                 mode = mode_F;
105                                 tv = tarval_convert_to(tv, mode);
106                         } else if (mode != mode_D) {
107                                 if (tarval_ieee754_can_conv_lossless(tv, mode_D)) {
108                                         mode = mode_D;
109                                         tv = tarval_convert_to(tv, mode);
110                                 }
111                         }
112                 }
113         }
114
115         tp  = ia32_get_prim_type(isa->types, mode);
116         res = new_entity(get_glob_type(), id_unique("C%u"), tp);
117         set_entity_ld_ident(res, get_entity_ident(res));
118         set_entity_visibility(res, ir_visibility_private);
119         add_entity_linkage(res, IR_LINKAGE_CONSTANT);
120
121         initializer = create_initializer_tarval(tv);
122         set_entity_initializer(res, initializer);
123
124         pmap_insert(isa->tv_ent, tv, res);
125         return res;
126 }
127
128 ir_node *ia32_create_Immediate(ir_entity *symconst, int symconst_sign, long val)
129 {
130         ir_graph *irg         = current_ir_graph;
131         ir_node  *start_block = get_irg_start_block(irg);
132         ir_node  *immediate   = new_bd_ia32_Immediate(NULL, start_block, symconst,
133                         symconst_sign, ia32_no_pic_adjust, val);
134         arch_set_irn_register(immediate, &ia32_registers[REG_GP_NOREG]);
135
136         return immediate;
137 }
138
139 const arch_register_t *ia32_get_clobber_register(const char *clobber)
140 {
141         const arch_register_t       *reg = NULL;
142         int                          c;
143         size_t                       r;
144         const arch_register_class_t *cls;
145
146         /* TODO: construct a hashmap instead of doing linear search for clobber
147          * register */
148         for (c = 0; c < N_IA32_CLASSES; ++c) {
149                 cls = & ia32_reg_classes[c];
150                 for (r = 0; r < cls->n_regs; ++r) {
151                         const arch_register_t *temp_reg = arch_register_for_index(cls, r);
152                         if (strcmp(temp_reg->name, clobber) == 0
153                                         || (c == CLASS_ia32_gp && strcmp(temp_reg->name+1, clobber) == 0)) {
154                                 reg = temp_reg;
155                                 break;
156                         }
157                 }
158                 if (reg != NULL)
159                         break;
160         }
161
162         return reg;
163 }
164
165 int ia32_mode_needs_gp_reg(ir_mode *mode)
166 {
167         if (mode == ia32_mode_fpcw)
168                 return 0;
169         if (get_mode_size_bits(mode) > 32)
170                 return 0;
171         return mode_is_int(mode) || mode_is_reference(mode) || mode == mode_b;
172 }
173
174 static void parse_asm_constraints(constraint_t *constraint, const char *c,
175                            int is_output)
176 {
177         char                         immediate_type     = '\0';
178         unsigned                     limited            = 0;
179         const arch_register_class_t *cls                = NULL;
180         int                          memory_possible       = 0;
181         int                          all_registers_allowed = 0;
182         int                          p;
183         int                          same_as = -1;
184
185         memset(constraint, 0, sizeof(constraint[0]));
186         constraint->same_as = -1;
187
188         if (*c == 0) {
189                 /* a memory constraint: no need to do anything in backend about it
190                  * (the dependencies are already respected by the memory edge of
191                  * the node) */
192                 return;
193         }
194
195         /* TODO: improve error messages with node and source info. (As users can
196          * easily hit these) */
197         while (*c != 0) {
198                 switch (*c) {
199                 case ' ':
200                 case '\t':
201                 case '\n':
202                         break;
203
204                 /* Skip out/in-out marker */
205                 case '=': break;
206                 case '+': break;
207
208                 case '&': break;
209
210                 case '*':
211                         ++c;
212                         break;
213                 case '#':
214                         while (*c != 0 && *c != ',')
215                                 ++c;
216                         break;
217
218                 case 'a':
219                         assert(cls == NULL || cls == &ia32_reg_classes[CLASS_ia32_gp]);
220                         cls      = &ia32_reg_classes[CLASS_ia32_gp];
221                         limited |= 1 << REG_GP_EAX;
222                         break;
223                 case 'b':
224                         assert(cls == NULL || cls == &ia32_reg_classes[CLASS_ia32_gp]);
225                         cls      = &ia32_reg_classes[CLASS_ia32_gp];
226                         limited |= 1 << REG_GP_EBX;
227                         break;
228                 case 'c':
229                         assert(cls == NULL || cls == &ia32_reg_classes[CLASS_ia32_gp]);
230                         cls      = &ia32_reg_classes[CLASS_ia32_gp];
231                         limited |= 1 << REG_GP_ECX;
232                         break;
233                 case 'd':
234                         assert(cls == NULL || cls == &ia32_reg_classes[CLASS_ia32_gp]);
235                         cls      = &ia32_reg_classes[CLASS_ia32_gp];
236                         limited |= 1 << REG_GP_EDX;
237                         break;
238                 case 'D':
239                         assert(cls == NULL || cls == &ia32_reg_classes[CLASS_ia32_gp]);
240                         cls      = &ia32_reg_classes[CLASS_ia32_gp];
241                         limited |= 1 << REG_GP_EDI;
242                         break;
243                 case 'S':
244                         assert(cls == NULL || cls == &ia32_reg_classes[CLASS_ia32_gp]);
245                         cls      = &ia32_reg_classes[CLASS_ia32_gp];
246                         limited |= 1 << REG_GP_ESI;
247                         break;
248                 case 'Q':
249                 case 'q':
250                         /* q means lower part of the regs only, this makes no
251                          * difference to Q for us (we only assign whole registers) */
252                         assert(cls == NULL || cls == &ia32_reg_classes[CLASS_ia32_gp]);
253                         cls      = &ia32_reg_classes[CLASS_ia32_gp];
254                         limited |= 1 << REG_GP_EAX | 1 << REG_GP_EBX | 1 << REG_GP_ECX |
255                                    1 << REG_GP_EDX;
256                         break;
257                 case 'A':
258                         assert(cls == NULL || cls == &ia32_reg_classes[CLASS_ia32_gp]);
259                         cls      = &ia32_reg_classes[CLASS_ia32_gp];
260                         limited |= 1 << REG_GP_EAX | 1 << REG_GP_EDX;
261                         break;
262                 case 'l':
263                         assert(cls == NULL || cls == &ia32_reg_classes[CLASS_ia32_gp]);
264                         cls      = &ia32_reg_classes[CLASS_ia32_gp];
265                         limited |= 1 << REG_GP_EAX | 1 << REG_GP_EBX | 1 << REG_GP_ECX |
266                                    1 << REG_GP_EDX | 1 << REG_GP_ESI | 1 << REG_GP_EDI |
267                                    1 << REG_GP_EBP;
268                         break;
269
270                 case 'R':
271                 case 'r':
272                 case 'p':
273                         if (cls != NULL && cls != &ia32_reg_classes[CLASS_ia32_gp])
274                                 panic("multiple register classes not supported");
275                         cls                   = &ia32_reg_classes[CLASS_ia32_gp];
276                         all_registers_allowed = 1;
277                         break;
278
279                 case 'f':
280                 case 't':
281                 case 'u':
282                         /* TODO: mark values so the x87 simulator knows about t and u */
283                         if (cls != NULL && cls != &ia32_reg_classes[CLASS_ia32_vfp])
284                                 panic("multiple register classes not supported");
285                         cls                   = &ia32_reg_classes[CLASS_ia32_vfp];
286                         all_registers_allowed = 1;
287                         break;
288
289                 case 'Y':
290                 case 'x':
291                         if (cls != NULL && cls != &ia32_reg_classes[CLASS_ia32_xmm])
292                                 panic("multiple register classes not supproted");
293                         cls                   = &ia32_reg_classes[CLASS_ia32_xmm];
294                         all_registers_allowed = 1;
295                         break;
296
297                 case 'I':
298                 case 'J':
299                 case 'K':
300                 case 'L':
301                 case 'M':
302                 case 'N':
303                 case 'O':
304                         if (cls != NULL && cls != &ia32_reg_classes[CLASS_ia32_gp])
305                                 panic("multiple register classes not supported");
306                         if (immediate_type != '\0')
307                                 panic("multiple immediate types not supported");
308                         cls            = &ia32_reg_classes[CLASS_ia32_gp];
309                         immediate_type = *c;
310                         break;
311                 case 'n':
312                 case 'i':
313                         if (cls != NULL && cls != &ia32_reg_classes[CLASS_ia32_gp])
314                                 panic("multiple register classes not supported");
315                         if (immediate_type != '\0')
316                                 panic("multiple immediate types not supported");
317                         cls            = &ia32_reg_classes[CLASS_ia32_gp];
318                         immediate_type = 'i';
319                         break;
320
321                 case 'X':
322                 case 'g':
323                         if (cls != NULL && cls != &ia32_reg_classes[CLASS_ia32_gp])
324                                 panic("multiple register classes not supported");
325                         if (immediate_type != '\0')
326                                 panic("multiple immediate types not supported");
327                         immediate_type        = 'i';
328                         cls                   = &ia32_reg_classes[CLASS_ia32_gp];
329                         all_registers_allowed = 1;
330                         memory_possible       = 1;
331                         break;
332
333                 case '0':
334                 case '1':
335                 case '2':
336                 case '3':
337                 case '4':
338                 case '5':
339                 case '6':
340                 case '7':
341                 case '8':
342                 case '9':
343                         if (is_output)
344                                 panic("can only specify same constraint on input");
345
346                         sscanf(c, "%d%n", &same_as, &p);
347                         if (same_as >= 0) {
348                                 c += p;
349                                 continue;
350                         }
351                         break;
352
353                 case 'm':
354                 case 'o':
355                 case 'V':
356                         /* memory constraint no need to do anything in backend about it
357                          * (the dependencies are already respected by the memory edge of
358                          * the node) */
359                         memory_possible = 1;
360                         break;
361
362                 case 'E': /* no float consts yet */
363                 case 'F': /* no float consts yet */
364                 case 's': /* makes no sense on x86 */
365                 case '<': /* no autodecrement on x86 */
366                 case '>': /* no autoincrement on x86 */
367                 case 'C': /* sse constant not supported yet */
368                 case 'G': /* 80387 constant not supported yet */
369                 case 'y': /* we don't support mmx registers yet */
370                 case 'Z': /* not available in 32 bit mode */
371                 case 'e': /* not available in 32 bit mode */
372                         panic("unsupported asm constraint '%c' found in (%+F)",
373                               *c, current_ir_graph);
374                         break;
375                 default:
376                         panic("unknown asm constraint '%c' found in (%+F)", *c,
377                               current_ir_graph);
378                         break;
379                 }
380                 ++c;
381         }
382
383         if (same_as >= 0) {
384                 if (cls != NULL)
385                         panic("same as and register constraint not supported");
386                 if (immediate_type != '\0')
387                         panic("same as and immediate constraint not supported");
388         }
389
390         if (cls == NULL && same_as < 0) {
391                 if (!memory_possible)
392                         panic("no constraint specified for assembler input");
393         }
394
395         constraint->same_as               = same_as;
396         constraint->cls                   = cls;
397         constraint->allowed_registers     = limited;
398         constraint->all_registers_allowed = all_registers_allowed;
399         constraint->memory_possible       = memory_possible;
400         constraint->immediate_type        = immediate_type;
401 }
402
403 static bool can_match(const arch_register_req_t *in,
404                       const arch_register_req_t *out)
405 {
406         if (in->cls != out->cls)
407                 return false;
408         if ( (in->type & arch_register_req_type_limited) == 0
409                 || (out->type & arch_register_req_type_limited) == 0 )
410                 return true;
411
412         return (*in->limited & *out->limited) != 0;
413 }
414
415 static inline ir_node *get_new_node(ir_node *node)
416 {
417 #ifdef FIRM_GRGEN_BE
418         if (be_transformer == TRANSFORMER_DEFAULT) {
419                 return be_transform_node(node);
420         } else {
421                 return node;
422         }
423 #else
424         return be_transform_node(node);
425 #endif
426 }
427
428 ir_node *ia32_gen_ASM(ir_node *node)
429 {
430         ir_node                    *block     = get_nodes_block(node);
431         ir_node                    *new_block = get_new_node(block);
432         dbg_info                   *dbgi      = get_irn_dbg_info(node);
433         int                         i, arity;
434         int                         value_arity;
435         int                         out_idx;
436         ir_node                   **in;
437         ir_node                    *new_node;
438         int                         out_arity;
439         int                         n_out_constraints;
440         int                         n_clobbers;
441         const arch_register_req_t **out_reg_reqs;
442         const arch_register_req_t **in_reg_reqs;
443         ia32_asm_reg_t             *register_map;
444         unsigned                    reg_map_size = 0;
445         struct obstack             *obst;
446         const ir_asm_constraint    *in_constraints;
447         const ir_asm_constraint    *out_constraints;
448         ident                     **clobbers;
449         int                         clobbers_flags = 0;
450         unsigned                    clobber_bits[N_IA32_CLASSES];
451         int                         out_size;
452         backend_info_t             *info;
453
454         memset(&clobber_bits, 0, sizeof(clobber_bits));
455
456         /* workaround for lots of buggy code out there as most people think volatile
457          * asm is enough for everything and forget the flags (linux kernel, etc.)
458          */
459         if (get_irn_pinned(node) == op_pin_state_pinned) {
460                 clobbers_flags = 1;
461         }
462
463         arity = get_irn_arity(node);
464         in    = ALLOCANZ(ir_node*, arity);
465
466         clobbers   = get_ASM_clobbers(node);
467         n_clobbers = 0;
468         for (i = 0; i < get_ASM_n_clobbers(node); ++i) {
469                 const arch_register_req_t *req;
470                 const char                *c = get_id_str(clobbers[i]);
471
472                 if (strcmp(c, "memory") == 0)
473                         continue;
474                 if (strcmp(c, "cc") == 0) {
475                         clobbers_flags = 1;
476                         continue;
477                 }
478
479                 req = ia32_parse_clobber(c);
480                 clobber_bits[req->cls->index] |= *req->limited;
481
482                 n_clobbers++;
483         }
484         n_out_constraints = get_ASM_n_output_constraints(node);
485         out_arity         = n_out_constraints + n_clobbers;
486
487         in_constraints  = get_ASM_input_constraints(node);
488         out_constraints = get_ASM_output_constraints(node);
489
490         /* determine size of register_map */
491         for (out_idx = 0; out_idx < n_out_constraints; ++out_idx) {
492                 const ir_asm_constraint *constraint = &out_constraints[out_idx];
493                 if (constraint->pos > reg_map_size)
494                         reg_map_size = constraint->pos;
495         }
496         for (i = 0; i < arity; ++i) {
497                 const ir_asm_constraint *constraint = &in_constraints[i];
498                 if (constraint->pos > reg_map_size)
499                         reg_map_size = constraint->pos;
500         }
501         ++reg_map_size;
502
503         obst         = get_irg_obstack(current_ir_graph);
504         register_map = NEW_ARR_D(ia32_asm_reg_t, obst, reg_map_size);
505         memset(register_map, 0, reg_map_size * sizeof(register_map[0]));
506
507         /* construct output constraints */
508         out_size = out_arity + 1;
509         out_reg_reqs = OALLOCN(obst, const arch_register_req_t*, out_size);
510
511         for (out_idx = 0; out_idx < n_out_constraints; ++out_idx) {
512                 const ir_asm_constraint   *constraint = &out_constraints[out_idx];
513                 const char                *c       = get_id_str(constraint->constraint);
514                 unsigned                   pos     = constraint->pos;
515                 constraint_t               parsed_constraint;
516                 const arch_register_req_t *req;
517
518                 parse_asm_constraints(&parsed_constraint, c, 1);
519                 req = ia32_make_register_req(&parsed_constraint, n_out_constraints,
520                                         out_reg_reqs, out_idx);
521                 out_reg_reqs[out_idx] = req;
522
523                 /* multiple constraints for same pos. This can happen for example when
524                  * a =A constraint gets lowered to two constraints: =a and =d for the
525                  * same pos */
526                 if (register_map[pos].valid)
527                         continue;
528
529                 register_map[pos].use_input = 0;
530                 register_map[pos].valid     = 1;
531                 register_map[pos].memory    = 0;
532                 register_map[pos].inout_pos = out_idx;
533                 register_map[pos].mode      = constraint->mode;
534         }
535
536         /* inputs + input constraints */
537         in_reg_reqs = OALLOCN(obst, const arch_register_req_t*, arity);
538         for (i = 0; i < arity; ++i) {
539                 ir_node                   *pred         = get_irn_n(node, i);
540                 const ir_asm_constraint   *constraint   = &in_constraints[i];
541                 ident                     *constr_id    = constraint->constraint;
542                 const char                *c            = get_id_str(constr_id);
543                 unsigned                   pos          = constraint->pos;
544                 int                        is_memory_op = 0;
545                 ir_node                   *input        = NULL;
546                 unsigned                   r_clobber_bits;
547                 constraint_t               parsed_constraint;
548                 const arch_register_req_t *req;
549
550                 parse_asm_constraints(&parsed_constraint, c, 0);
551                 if (parsed_constraint.cls != NULL) {
552                         r_clobber_bits = clobber_bits[parsed_constraint.cls->index];
553                         if (r_clobber_bits != 0) {
554                                 if (parsed_constraint.all_registers_allowed) {
555                                         parsed_constraint.all_registers_allowed = 0;
556                                         be_set_allocatable_regs(current_ir_graph,
557                                                         parsed_constraint.cls,
558                                                         &parsed_constraint.allowed_registers);
559                                 }
560                                 parsed_constraint.allowed_registers &= ~r_clobber_bits;
561                         }
562                 }
563
564                 req = ia32_make_register_req(&parsed_constraint, n_out_constraints,
565                                         out_reg_reqs, i);
566                 in_reg_reqs[i] = req;
567
568                 if (parsed_constraint.immediate_type != '\0') {
569                         char imm_type = parsed_constraint.immediate_type;
570                         input = ia32_try_create_Immediate(pred, imm_type);
571                 }
572
573                 if (input == NULL) {
574                         ir_node *pred = get_irn_n(node, i);
575                         input = get_new_node(pred);
576
577                         if (parsed_constraint.cls == NULL
578                                         && parsed_constraint.same_as < 0) {
579                                 is_memory_op = 1;
580                         } else if (parsed_constraint.memory_possible) {
581                                 /* TODO: match Load or Load/Store if memory possible is set */
582                         }
583                 }
584                 in[i] = input;
585
586                 register_map[pos].use_input = 1;
587                 register_map[pos].valid     = 1;
588                 register_map[pos].memory    = is_memory_op;
589                 register_map[pos].inout_pos = i;
590                 register_map[pos].mode      = constraint->mode;
591         }
592
593         /* parse clobbers */
594         for (i = 0; i < get_ASM_n_clobbers(node); ++i) {
595                 const char                *c = get_id_str(clobbers[i]);
596                 const arch_register_req_t *req;
597
598                 if (strcmp(c, "memory") == 0 || strcmp(c, "cc") == 0)
599                         continue;
600
601                 req = ia32_parse_clobber(c);
602                 out_reg_reqs[out_idx] = req;
603                 ++out_idx;
604         }
605
606         /* count inputs which are real values (and not memory) */
607         value_arity = 0;
608         for (i = 0; i < arity; ++i) {
609                 ir_node *in = get_irn_n(node, i);
610                 if (get_irn_mode(in) == mode_M)
611                         continue;
612                 ++value_arity;
613         }
614
615         /* Attempt to make ASM node register pressure faithful.
616          * (This does not work for complicated cases yet!)
617          *
618          * Algorithm: Check if there are fewer inputs or outputs (I will call this
619          * the smaller list). Then try to match each constraint of the smaller list
620          * to 1 of the other list. If we can't match it, then we have to add a dummy
621          * input/output to the other list
622          *
623          * FIXME: This is still broken in lots of cases. But at least better than
624          *        before...
625          * FIXME: need to do this per register class...
626          */
627         if (out_arity <= value_arity) {
628                 int       orig_arity = arity;
629                 int       in_size    = arity;
630                 int       o;
631                 bitset_t *used_ins = bitset_alloca(arity);
632                 for (o = 0; o < out_arity; ++o) {
633                         int   i;
634                         const arch_register_req_t *outreq = out_reg_reqs[o];
635
636                         if (outreq->cls == NULL) {
637                                 continue;
638                         }
639
640                         for (i = 0; i < orig_arity; ++i) {
641                                 const arch_register_req_t *inreq;
642                                 if (bitset_is_set(used_ins, i))
643                                         continue;
644                                 inreq = in_reg_reqs[i];
645                                 if (!can_match(outreq, inreq))
646                                         continue;
647                                 bitset_set(used_ins, i);
648                                 break;
649                         }
650                         /* did we find any match? */
651                         if (i < orig_arity)
652                                 continue;
653
654                         /* we might need more space in the input arrays */
655                         if (arity >= in_size) {
656                                 const arch_register_req_t **new_in_reg_reqs;
657                                 ir_node             **new_in;
658
659                                 in_size *= 2;
660                                 new_in_reg_reqs = OALLOCN(obst, const arch_register_req_t*,
661                                                           in_size);
662                                 memcpy(new_in_reg_reqs, in_reg_reqs, arity * sizeof(new_in_reg_reqs[0]));
663                                 new_in = ALLOCANZ(ir_node*, in_size);
664                                 memcpy(new_in, in, arity*sizeof(new_in[0]));
665
666                                 in_reg_reqs = new_in_reg_reqs;
667                                 in          = new_in;
668                         }
669
670                         /* add a new (dummy) input which occupies the register */
671                         assert(outreq->type & arch_register_req_type_limited);
672                         in_reg_reqs[arity] = outreq;
673                         in[arity]          = new_bd_ia32_ProduceVal(NULL, block);
674                         ++arity;
675                 }
676         } else {
677                 int       i;
678                 bitset_t *used_outs = bitset_alloca(out_arity);
679                 int       orig_out_arity = out_arity;
680                 for (i = 0; i < arity; ++i) {
681                         int   o;
682                         const arch_register_req_t *inreq = in_reg_reqs[i];
683
684                         if (inreq->cls == NULL) {
685                                 continue;
686                         }
687
688                         for (o = 0; o < orig_out_arity; ++o) {
689                                 const arch_register_req_t *outreq;
690                                 if (bitset_is_set(used_outs, o))
691                                         continue;
692                                 outreq = out_reg_reqs[o];
693                                 if (!can_match(outreq, inreq))
694                                         continue;
695                                 bitset_set(used_outs, i);
696                                 break;
697                         }
698                         /* did we find any match? */
699                         if (o < orig_out_arity)
700                                 continue;
701
702                         /* we might need more space in the output arrays */
703                         if (out_arity >= out_size) {
704                                 const arch_register_req_t **new_out_reg_reqs;
705
706                                 out_size *= 2;
707                                 new_out_reg_reqs
708                                         = OALLOCN(obst, const arch_register_req_t*, out_size);
709                                 memcpy(new_out_reg_reqs, out_reg_reqs,
710                                        out_arity * sizeof(new_out_reg_reqs[0]));
711                                 out_reg_reqs = new_out_reg_reqs;
712                         }
713
714                         /* add a new (dummy) output which occupies the register */
715                         assert(inreq->type & arch_register_req_type_limited);
716                         out_reg_reqs[out_arity] = inreq;
717                         ++out_arity;
718                 }
719         }
720
721         /* append none register requirement for the memory output */
722         if (out_arity + 1 >= out_size) {
723                 const arch_register_req_t **new_out_reg_reqs;
724
725                 out_size = out_arity + 1;
726                 new_out_reg_reqs
727                         = OALLOCN(obst, const arch_register_req_t*, out_size);
728                 memcpy(new_out_reg_reqs, out_reg_reqs,
729                            out_arity * sizeof(new_out_reg_reqs[0]));
730                 out_reg_reqs = new_out_reg_reqs;
731         }
732
733         /* add a new (dummy) output which occupies the register */
734         out_reg_reqs[out_arity] = arch_no_register_req;
735         ++out_arity;
736
737         new_node = new_bd_ia32_Asm(dbgi, new_block, arity, in, out_arity,
738                                    get_ASM_text(node), register_map);
739
740         info = be_get_info(new_node);
741         for (i = 0; i < out_arity; ++i) {
742                 info->out_infos[i].req = out_reg_reqs[i];
743         }
744         arch_set_in_register_reqs(new_node, in_reg_reqs);
745
746         SET_IA32_ORIG_NODE(new_node, node);
747
748         return new_node;
749 }
750
751 ir_node *ia32_gen_CopyB(ir_node *node)
752 {
753         ir_node  *block    = get_new_node(get_nodes_block(node));
754         ir_node  *src      = get_CopyB_src(node);
755         ir_node  *new_src  = get_new_node(src);
756         ir_node  *dst      = get_CopyB_dst(node);
757         ir_node  *new_dst  = get_new_node(dst);
758         ir_node  *mem      = get_CopyB_mem(node);
759         ir_node  *new_mem  = get_new_node(mem);
760         ir_node  *res      = NULL;
761         dbg_info *dbgi     = get_irn_dbg_info(node);
762         int      size      = get_type_size_bytes(get_CopyB_type(node));
763         int      rem;
764
765         /* If we have to copy more than 32 bytes, we use REP MOVSx and */
766         /* then we need the size explicitly in ECX.                    */
767         if (size >= 32 * 4) {
768                 rem = size & 0x3; /* size % 4 */
769                 size >>= 2;
770
771                 res = new_bd_ia32_Const(dbgi, block, NULL, 0, 0, size);
772
773                 res = new_bd_ia32_CopyB(dbgi, block, new_dst, new_src, res, new_mem, rem);
774         } else {
775                 if (size == 0) {
776                         ir_fprintf(stderr, "Optimization warning copyb %+F with size <4\n",
777                                    node);
778                 }
779                 res = new_bd_ia32_CopyB_i(dbgi, block, new_dst, new_src, new_mem, size);
780         }
781
782         SET_IA32_ORIG_NODE(res, node);
783
784         return res;
785 }
786
787 ir_node *ia32_gen_Proj_tls(ir_node *node)
788 {
789         ir_node *block = get_new_node(get_nodes_block(node));
790         ir_node *res   = new_bd_ia32_LdTls(NULL, block);
791         return res;
792 }
793
794 ir_node *ia32_gen_Unknown(ir_node *node)
795 {
796         ir_mode  *mode  = get_irn_mode(node);
797         ir_graph *irg   = current_ir_graph;
798         dbg_info *dbgi  = get_irn_dbg_info(node);
799         ir_node  *block = get_irg_start_block(irg);
800         ir_node  *res   = NULL;
801
802         if (mode_is_float(mode)) {
803                 if (ia32_cg_config.use_sse2) {
804                         res = new_bd_ia32_xUnknown(dbgi, block);
805                 } else {
806                         res = new_bd_ia32_vfldz(dbgi, block);
807                 }
808         } else if (ia32_mode_needs_gp_reg(mode)) {
809                 res = new_bd_ia32_Unknown(dbgi, block);
810         } else {
811                 panic("unsupported Unknown-Mode");
812         }
813
814         return res;
815 }
816
817 const arch_register_req_t *ia32_make_register_req(const constraint_t *constraint,
818                 int n_outs, const arch_register_req_t **out_reqs, int pos)
819 {
820         struct obstack      *obst    = get_irg_obstack(current_ir_graph);
821         int                  same_as = constraint->same_as;
822         arch_register_req_t *req;
823
824         if (same_as >= 0) {
825                 const arch_register_req_t *other_constr;
826
827                 if (same_as >= n_outs)
828                         panic("invalid output number in same_as constraint");
829
830                 other_constr     = out_reqs[same_as];
831
832                 req              = OALLOC(obst, arch_register_req_t);
833                 *req             = *other_constr;
834                 req->type       |= arch_register_req_type_should_be_same;
835                 req->other_same  = 1U << pos;
836                 req->width       = 1;
837
838                 /* switch constraints. This is because in firm we have same_as
839                  * constraints on the output constraints while in the gcc asm syntax
840                  * they are specified on the input constraints */
841                 out_reqs[same_as] = req;
842                 return other_constr;
843         }
844
845         /* pure memory ops */
846         if (constraint->cls == NULL) {
847                 return arch_no_register_req;
848         }
849
850         if (constraint->allowed_registers != 0
851                         && !constraint->all_registers_allowed) {
852                 unsigned *limited_ptr;
853
854                 req         = (arch_register_req_t*)obstack_alloc(obst, sizeof(req[0]) + sizeof(unsigned));
855                 memset(req, 0, sizeof(req[0]));
856                 limited_ptr = (unsigned*) (req+1);
857
858                 req->type    = arch_register_req_type_limited;
859                 *limited_ptr = constraint->allowed_registers;
860                 req->limited = limited_ptr;
861         } else {
862                 req       = OALLOCZ(obst, arch_register_req_t);
863                 req->type = arch_register_req_type_normal;
864         }
865         req->cls   = constraint->cls;
866         req->width = 1;
867
868         return req;
869 }
870
871 const arch_register_req_t *ia32_parse_clobber(const char *clobber)
872 {
873         struct obstack        *obst = get_irg_obstack(current_ir_graph);
874         const arch_register_t *reg  = ia32_get_clobber_register(clobber);
875         arch_register_req_t   *req;
876         unsigned              *limited;
877
878         if (reg == NULL) {
879                 panic("Register '%s' mentioned in asm clobber is unknown", clobber);
880         }
881
882         assert(reg->index < 32);
883
884         limited  = OALLOC(obst, unsigned);
885         *limited = 1 << reg->index;
886
887         req          = OALLOCZ(obst, arch_register_req_t);
888         req->type    = arch_register_req_type_limited;
889         req->cls     = arch_register_get_class(reg);
890         req->limited = limited;
891         req->width   = 1;
892
893         return req;
894 }
895
896
897 int ia32_prevents_AM(ir_node *const block, ir_node *const am_candidate,
898                        ir_node *const other)
899 {
900         if (get_nodes_block(other) != block)
901                 return 0;
902
903         if (is_Sync(other)) {
904                 int i;
905
906                 for (i = get_Sync_n_preds(other) - 1; i >= 0; --i) {
907                         ir_node *const pred = get_Sync_pred(other, i);
908
909                         if (get_nodes_block(pred) != block)
910                                 continue;
911
912                         /* Do not block ourselves from getting eaten */
913                         if (is_Proj(pred) && get_Proj_pred(pred) == am_candidate)
914                                 continue;
915
916                         if (!heights_reachable_in_block(ia32_heights, pred, am_candidate))
917                                 continue;
918
919                         return 1;
920                 }
921
922                 return 0;
923         } else {
924                 /* Do not block ourselves from getting eaten */
925                 if (is_Proj(other) && get_Proj_pred(other) == am_candidate)
926                         return 0;
927
928                 if (!heights_reachable_in_block(ia32_heights, other, am_candidate))
929                         return 0;
930
931                 return 1;
932         }
933 }
934
935 ir_node *ia32_try_create_Immediate(ir_node *node, char immediate_constraint_type)
936 {
937         long       val = 0;
938         ir_entity *symconst_ent  = NULL;
939         ir_mode   *mode;
940         ir_node   *cnst          = NULL;
941         ir_node   *symconst      = NULL;
942         ir_node   *new_node;
943
944         mode = get_irn_mode(node);
945         if (!mode_is_int(mode) && !mode_is_reference(mode)) {
946                 return NULL;
947         }
948
949         if (is_Const(node)) {
950                 cnst     = node;
951                 symconst = NULL;
952         } else if (is_SymConst_addr_ent(node)
953                         && get_entity_owner(get_SymConst_entity(node)) != get_tls_type()) {
954                 cnst     = NULL;
955                 symconst = node;
956         } else if (is_Add(node)) {
957                 ir_node *left  = get_Add_left(node);
958                 ir_node *right = get_Add_right(node);
959                 if (is_Const(left) && is_SymConst_addr_ent(right)) {
960                         cnst     = left;
961                         symconst = right;
962                 } else if (is_SymConst_addr_ent(left) && is_Const(right)) {
963                         cnst     = right;
964                         symconst = left;
965                 }
966         } else {
967                 return NULL;
968         }
969
970         if (cnst != NULL) {
971                 ir_tarval *offset = get_Const_tarval(cnst);
972                 if (!tarval_is_long(offset)) {
973                         ir_fprintf(stderr, "Optimisation Warning: tarval of %+F is not a long?\n", cnst);
974                         return NULL;
975                 }
976
977                 val = get_tarval_long(offset);
978                 if (!check_immediate_constraint(val, immediate_constraint_type))
979                         return NULL;
980         }
981         if (symconst != NULL) {
982                 if (immediate_constraint_type != 0) {
983                         /* we need full 32bits for symconsts */
984                         return NULL;
985                 }
986
987                 symconst_ent = get_Global_entity(symconst);
988         }
989         if (cnst == NULL && symconst == NULL)
990                 return NULL;
991
992         new_node = ia32_create_Immediate(symconst_ent, 0, val);
993         return new_node;
994 }