ab56822abe0f2e3d41acbf172f5d1c27ec23d860
[libfirm] / ir / be / ia32 / ia32_emitter.c
1 /*
2  * Copyright (C) 1995-2007 University of Karlsruhe.  All right reserved.
3  *
4  * This file is part of libFirm.
5  *
6  * This file may be distributed and/or modified under the terms of the
7  * GNU General Public License version 2 as published by the Free Software
8  * Foundation and appearing in the file LICENSE.GPL included in the
9  * packaging of this file.
10  *
11  * Licensees holding valid libFirm Professional Edition licenses may use
12  * this file in accordance with the libFirm Commercial License.
13  * Agreement provided with the Software.
14  *
15  * This file is provided AS IS with NO WARRANTY OF ANY KIND, INCLUDING THE
16  * WARRANTY OF DESIGN, MERCHANTABILITY AND FITNESS FOR A PARTICULAR
17  * PURPOSE.
18  */
19
20 /**
21  * @file
22  * @brief       This file implements the ia32 node emitter.
23  * @author      Christian Wuerdig, Matthias Braun
24  * @version     $Id$
25  */
26 #ifdef HAVE_CONFIG_H
27 #include "config.h"
28 #endif
29
30 #include <limits.h>
31
32 #include "xmalloc.h"
33 #include "tv.h"
34 #include "iredges.h"
35 #include "debug.h"
36 #include "irgwalk.h"
37 #include "irprintf.h"
38 #include "irop_t.h"
39 #include "irargs_t.h"
40 #include "irprog_t.h"
41 #include "iredges_t.h"
42 #include "execfreq.h"
43 #include "error.h"
44 #include "raw_bitset.h"
45
46 #include "../besched_t.h"
47 #include "../benode_t.h"
48 #include "../beabi.h"
49 #include "../be_dbgout.h"
50 #include "../beemitter.h"
51 #include "../begnuas.h"
52 #include "../beirg_t.h"
53
54 #include "ia32_emitter.h"
55 #include "gen_ia32_emitter.h"
56 #include "gen_ia32_regalloc_if.h"
57 #include "ia32_nodes_attr.h"
58 #include "ia32_new_nodes.h"
59 #include "ia32_map_regs.h"
60 #include "bearch_ia32_t.h"
61
62 DEBUG_ONLY(static firm_dbg_module_t *dbg = NULL;)
63
64 #define BLOCK_PREFIX ".L"
65
66 #define SNPRINTF_BUF_LEN 128
67
68 /**
69  * Returns the register at in position pos.
70  */
71 static
72 const arch_register_t *get_in_reg(ia32_emit_env_t *env, const ir_node *irn,
73                                   int pos)
74 {
75         const arch_env_t       *arch_env = env->arch_env;
76         ir_node                *op;
77         const arch_register_t  *reg = NULL;
78
79         assert(get_irn_arity(irn) > pos && "Invalid IN position");
80
81         /* The out register of the operator at position pos is the
82            in register we need. */
83         op = get_irn_n(irn, pos);
84
85         reg = arch_get_irn_register(arch_env, op);
86
87         assert(reg && "no in register found");
88
89         /* in case of a joker register: just return a valid register */
90         if (arch_register_type_is(reg, joker)) {
91                 const arch_register_req_t *req;
92
93                 /* ask for the requirements */
94                 req = arch_get_register_req(arch_env, irn, pos);
95
96                 if (arch_register_req_is(req, limited)) {
97                         /* in case of limited requirements: get the first allowed register */
98                         unsigned idx = rbitset_next(req->limited, 0, 1);
99                         reg = arch_register_for_index(req->cls, idx);
100                 } else {
101                         /* otherwise get first register in class */
102                         reg = arch_register_for_index(req->cls, 0);
103                 }
104         }
105
106         return reg;
107 }
108
109 /**
110  * Returns the register at out position pos.
111  */
112 static
113 const arch_register_t *get_out_reg(ia32_emit_env_t *env, const ir_node *irn,
114                                    int pos)
115 {
116         const arch_env_t      *arch_env = env->arch_env;
117         ir_node               *proj;
118         const arch_register_t *reg = NULL;
119
120         /* 1st case: irn is not of mode_T, so it has only                 */
121         /*           one OUT register -> good                             */
122         /* 2nd case: irn is of mode_T -> collect all Projs and ask the    */
123         /*           Proj with the corresponding projnum for the register */
124
125         if (get_irn_mode(irn) != mode_T) {
126                 reg = arch_get_irn_register(arch_env, irn);
127         } else if (is_ia32_irn(irn)) {
128                 reg = get_ia32_out_reg(irn, pos);
129         } else {
130                 const ir_edge_t *edge;
131
132                 foreach_out_edge(irn, edge) {
133                         proj = get_edge_src_irn(edge);
134                         assert(is_Proj(proj) && "non-Proj from mode_T node");
135                         if (get_Proj_proj(proj) == pos) {
136                                 reg = arch_get_irn_register(arch_env, proj);
137                                 break;
138                         }
139                 }
140         }
141
142         assert(reg && "no out register found");
143         return reg;
144 }
145
146 /**
147  * Determine the gnu assembler suffix that indicates a mode
148  */
149 static
150 char get_mode_suffix(const ir_mode *mode) {
151         if(mode_is_float(mode)) {
152                 switch(get_mode_size_bits(mode)) {
153                 case 32:
154                         return 's';
155                 case 64:
156                         return 'l';
157                 case 80:
158                         return 't';
159                 }
160         } else {
161                 assert(mode_is_int(mode) || mode_is_reference(mode) || mode_is_character(mode));
162                 switch(get_mode_size_bits(mode)) {
163                 case 64:
164                         return 'q';
165                 case 32:
166                         return 'l';
167                 case 16:
168                         return 'w';
169                 case 8:
170                         return 'b';
171                 }
172         }
173         panic("Can't output mode_suffix for %+F\n", mode);
174 }
175
176 static
177 int produces_result(const ir_node *node) {
178         return !(is_ia32_St(node) ||
179                 is_ia32_CondJmp(node) ||
180                 is_ia32_xCondJmp(node) ||
181                 is_ia32_CmpSet(node) ||
182                 is_ia32_xCmpSet(node) ||
183                 is_ia32_SwitchJmp(node));
184 }
185
186 static
187 const char *ia32_get_reg_name_for_mode(ia32_emit_env_t *env, ir_mode *mode,
188                                        const arch_register_t *reg) {
189         switch(get_mode_size_bits(mode)) {
190                 case 8:
191                         return ia32_get_mapped_reg_name(env->isa->regs_8bit, reg);
192                 case 16:
193                         return ia32_get_mapped_reg_name(env->isa->regs_16bit, reg);
194                 default:
195                         return (char *)arch_register_get_name(reg);
196         }
197 }
198
199 /**
200  * Add a number to a prefix. This number will not be used a second time.
201  */
202 static
203 char *get_unique_label(char *buf, size_t buflen, const char *prefix) {
204         static unsigned long id = 0;
205         snprintf(buf, buflen, "%s%lu", prefix, ++id);
206         return buf;
207 }
208
209 /*************************************************************
210  *             _       _    __   _          _
211  *            (_)     | |  / _| | |        | |
212  *  _ __  _ __ _ _ __ | |_| |_  | |__   ___| |_ __   ___ _ __
213  * | '_ \| '__| | '_ \| __|  _| | '_ \ / _ \ | '_ \ / _ \ '__|
214  * | |_) | |  | | | | | |_| |   | | | |  __/ | |_) |  __/ |
215  * | .__/|_|  |_|_| |_|\__|_|   |_| |_|\___|_| .__/ \___|_|
216  * | |                                       | |
217  * |_|                                       |_|
218  *************************************************************/
219
220 // we have no C++ and can't define an implicit ia32_emit_env_t* cast to
221 // be_emit_env_t* so we cheat a bit...
222 #define be_emit_char(env,c)             be_emit_char(env->emit,c)
223 #define be_emit_string(env,s)           be_emit_string(env->emit,s)
224 #undef be_emit_cstring
225 #define be_emit_cstring(env,x)          { be_emit_string_len(env->emit, x, sizeof(x)-1); }
226 #define be_emit_ident(env,i)            be_emit_ident(env->emit,i)
227 #define be_emit_tarval(env,tv)          be_emit_tarval(env->emit,tv)
228 #define be_emit_write_line(env)         be_emit_write_line(env->emit)
229 #define be_emit_finish_line_gas(env,n)  be_emit_finish_line_gas(env->emit,n)
230 #define be_emit_pad_comment(env)        be_emit_pad_comment(env->emit)
231
232 void ia32_emit_source_register(ia32_emit_env_t *env, const ir_node *node, int pos)
233 {
234         const arch_register_t *reg = get_in_reg(env, node, pos);
235         const char *reg_name = arch_register_get_name(reg);
236
237         assert(pos < get_irn_arity(node));
238
239         be_emit_char(env, '%');
240         be_emit_string(env, reg_name);
241 }
242
243 void ia32_emit_dest_register(ia32_emit_env_t *env, const ir_node *node, int pos) {
244         const arch_register_t *reg = get_out_reg(env, node, pos);
245         const char *reg_name = arch_register_get_name(reg);
246
247         be_emit_char(env, '%');
248         be_emit_string(env, reg_name);
249 }
250
251 void ia32_emit_x87_name(ia32_emit_env_t *env, const ir_node *node, int pos)
252 {
253         const ia32_x87_attr_t *attr = get_ia32_x87_attr_const(node);
254
255         assert(pos < 3);
256         be_emit_char(env, '%');
257         be_emit_string(env, attr->x87[pos]->name);
258 }
259
260 void ia32_emit_immediate(ia32_emit_env_t *env, const ir_node *node)
261 {
262         tarval *tv;
263         ir_entity *ent;
264         ident *id;
265
266         be_emit_char(env, '$');
267
268         switch(get_ia32_immop_type(node)) {
269         case ia32_ImmConst:
270                 tv = get_ia32_Immop_tarval(node);
271                 be_emit_tarval(env, tv);
272                 return;
273         case ia32_ImmSymConst:
274                 ent = get_ia32_Immop_symconst(node);
275                 mark_entity_visited(ent);
276                 id = get_entity_ld_ident(ent);
277                 be_emit_ident(env, id);
278                 return;
279         case ia32_ImmNone:
280                 break;
281         }
282
283         assert(0);
284         be_emit_string(env, "BAD");
285         return;
286 }
287
288 static
289 void ia32_emit_mode_suffix_mode(ia32_emit_env_t *env, const ir_mode *mode)
290 {
291         be_emit_char(env, get_mode_suffix(mode));
292 }
293
294 void ia32_emit_mode_suffix(ia32_emit_env_t *env, const ir_node *node)
295 {
296         ir_mode *mode = get_ia32_ls_mode(node);
297         if(mode == NULL)
298                 mode = mode_Iu;
299
300         ia32_emit_mode_suffix_mode(env, mode);
301 }
302
303 void ia32_emit_x87_mode_suffix(ia32_emit_env_t *env, const ir_node *node)
304 {
305         ir_mode *mode = get_ia32_ls_mode(node);
306         if(mode != NULL)
307                 ia32_emit_mode_suffix_mode(env, mode);
308 }
309
310 static
311 char get_xmm_mode_suffix(ir_mode *mode)
312 {
313         assert(mode_is_float(mode));
314         switch(get_mode_size_bits(mode)) {
315         case 32:
316                 return 's';
317         case 64:
318                 return 'd';
319         default:
320                 assert(0);
321         }
322         return '%';
323 }
324
325 void ia32_emit_xmm_mode_suffix(ia32_emit_env_t *env, const ir_node *node)
326 {
327         ir_mode *mode = get_ia32_ls_mode(node);
328         assert(mode != NULL);
329         be_emit_char(env, 's');
330         be_emit_char(env, get_xmm_mode_suffix(mode));
331 }
332
333 void ia32_emit_xmm_mode_suffix_s(ia32_emit_env_t *env, const ir_node *node)
334 {
335         ir_mode *mode = get_ia32_ls_mode(node);
336         assert(mode != NULL);
337         be_emit_char(env, get_xmm_mode_suffix(mode));
338 }
339
340 void ia32_emit_extend_suffix(ia32_emit_env_t *env, const ir_mode *mode)
341 {
342         if(get_mode_size_bits(mode) == 32)
343                 return;
344         if(mode_is_signed(mode)) {
345                 be_emit_char(env, 's');
346         } else {
347                 be_emit_char(env, 'z');
348         }
349 }
350
351 static
352 void ia32_emit_function_object(ia32_emit_env_t *env, const char *name)
353 {
354         switch (be_gas_flavour) {
355         case GAS_FLAVOUR_NORMAL:
356                 be_emit_cstring(env, "\t.type\t");
357                 be_emit_string(env, name);
358                 be_emit_cstring(env, ", @function\n");
359                 be_emit_write_line(env);
360                 break;
361         case GAS_FLAVOUR_MINGW:
362                 be_emit_cstring(env, "\t.def\t");
363                 be_emit_string(env, name);
364                 be_emit_cstring(env, ";\t.scl\t2;\t.type\t32;\t.endef\n");
365                 be_emit_write_line(env);
366                 break;
367         default:
368                 break;
369         }
370 }
371
372 static
373 void ia32_emit_function_size(ia32_emit_env_t *env, const char *name)
374 {
375         switch (be_gas_flavour) {
376         case GAS_FLAVOUR_NORMAL:
377                 be_emit_cstring(env, "\t.size\t");
378                 be_emit_string(env, name);
379                 be_emit_cstring(env, ", .-");
380                 be_emit_string(env, name);
381                 be_emit_char(env, '\n');
382                 be_emit_write_line(env);
383                 break;
384         default:
385                 break;
386         }
387 }
388
389
390 static
391 void emit_ia32_Immediate(ia32_emit_env_t *env, const ir_node *node);
392
393 /**
394  * Emits registers and/or address mode of a binary operation.
395  */
396 void ia32_emit_binop(ia32_emit_env_t *env, const ir_node *node) {
397         const ir_node *right_op;
398
399         switch(get_ia32_op_type(node)) {
400         case ia32_Normal:
401                 right_op = get_irn_n(node, 3);
402                 if(is_ia32_Immediate(right_op)) {
403                         emit_ia32_Immediate(env, right_op);
404                         be_emit_cstring(env, ", ");
405                         ia32_emit_source_register(env, node, 2);
406                         break;
407                 } else if (is_ia32_ImmConst(node) || is_ia32_ImmSymConst(node)) {
408                         ia32_emit_immediate(env, node);
409                         be_emit_cstring(env, ", ");
410                         ia32_emit_source_register(env, node, 2);
411                 } else {
412                         const arch_register_t *in1 = get_in_reg(env, node, 2);
413                         const arch_register_t *in2 = get_in_reg(env, node, 3);
414                         const arch_register_t *out = produces_result(node) ? get_out_reg(env, node, 0) : NULL;
415                         const arch_register_t *in;
416                         const char            *in_name;
417
418                         in      = out ? (REGS_ARE_EQUAL(out, in2) ? in1 : in2) : in2;
419                         out     = out ? out : in1;
420                         in_name = arch_register_get_name(in);
421
422                         if (is_ia32_emit_cl(node)) {
423                                 assert(REGS_ARE_EQUAL(&ia32_gp_regs[REG_ECX], in) && "shift operation needs ecx");
424                                 in_name = "cl";
425                         }
426
427                         be_emit_char(env, '%');
428                         be_emit_string(env, in_name);
429                         be_emit_cstring(env, ", %");
430                         be_emit_string(env, arch_register_get_name(out));
431                 }
432                 break;
433         case ia32_AddrModeS:
434                 ia32_emit_am(env, node);
435                 be_emit_cstring(env, ", ");
436                 if (is_ia32_ImmConst(node) || is_ia32_ImmSymConst(node)) {
437                         assert(!produces_result(node) && "Source AM with Const must not produce result");
438                         ia32_emit_immediate(env, node);
439                 } else if (produces_result(node)) {
440                         ia32_emit_dest_register(env, node, 0);
441                 } else {
442                         ia32_emit_source_register(env, node, 2);
443                 }
444                 break;
445         case ia32_AddrModeD:
446                 right_op = get_irn_n(node, 3);
447                 if(is_ia32_Immediate(right_op)) {
448                         emit_ia32_Immediate(env, right_op);
449                         be_emit_cstring(env, ", ");
450                         ia32_emit_am(env, node);
451                         break;
452                 } else if (is_ia32_ImmConst(node) || is_ia32_ImmSymConst(node)) {
453                         ia32_emit_immediate(env, node);
454                         be_emit_cstring(env, ", ");
455                         ia32_emit_am(env, node);
456                 } else {
457                         const arch_register_t *in1 = get_in_reg(env, node,
458                                                                     get_irn_arity(node) == 5 ? 3 : 2);
459                         ir_mode               *mode = get_ia32_ls_mode(node);
460                         const char            *in_name;
461
462                         in_name = ia32_get_reg_name_for_mode(env, mode, in1);
463
464                         if (is_ia32_emit_cl(node)) {
465                                 assert(REGS_ARE_EQUAL(&ia32_gp_regs[REG_ECX], in1) && "shift operation needs ecx");
466                                 in_name = "cl";
467                         }
468
469                         be_emit_char(env, '%');
470                         be_emit_string(env, in_name);
471                         be_emit_cstring(env, ", ");
472                         ia32_emit_am(env, node);
473                 }
474                 break;
475         default:
476                 assert(0 && "unsupported op type");
477         }
478 }
479
480 /**
481  * Emits registers and/or address mode of a binary operation.
482  */
483 void ia32_emit_x87_binop(ia32_emit_env_t *env, const ir_node *node) {
484         switch(get_ia32_op_type(node)) {
485                 case ia32_Normal:
486                         if (is_ia32_ImmConst(node) || is_ia32_ImmSymConst(node)) {
487                                 // should not happen...
488                                 assert(0);
489                         } else {
490                                 const ia32_x87_attr_t *x87_attr = get_ia32_x87_attr_const(node);
491                                 const arch_register_t *in1      = x87_attr->x87[0];
492                                 const arch_register_t *in2      = x87_attr->x87[1];
493                                 const arch_register_t *out      = x87_attr->x87[2];
494                                 const arch_register_t *in;
495
496                                 in  = out ? (REGS_ARE_EQUAL(out, in2) ? in1 : in2) : in2;
497                                 out = out ? out : in1;
498
499                                 be_emit_char(env, '%');
500                                 be_emit_string(env, arch_register_get_name(in));
501                                 be_emit_cstring(env, ", %");
502                                 be_emit_string(env, arch_register_get_name(out));
503                         }
504                         break;
505                 case ia32_AddrModeS:
506                 case ia32_AddrModeD:
507                         ia32_emit_am(env, node);
508                         break;
509                 default:
510                         assert(0 && "unsupported op type");
511         }
512 }
513
514 void ia32_emit_am_or_dest_register(ia32_emit_env_t *env, const ir_node *node,
515                                    int pos) {
516         if(get_ia32_op_type(node) == ia32_Normal) {
517                 ia32_emit_dest_register(env, node, pos);
518         } else {
519                 assert(get_ia32_op_type(node) == ia32_AddrModeD);
520                 ia32_emit_am(env, node);
521         }
522 }
523
524 /**
525  * Emits registers and/or address mode of a unary operation.
526  */
527 void ia32_emit_unop(ia32_emit_env_t *env, const ir_node *node, int pos) {
528         const ir_node *op;
529
530         switch(get_ia32_op_type(node)) {
531         case ia32_Normal:
532                 op = get_irn_n(node, pos);
533                 if (is_ia32_Immediate(op)) {
534                         emit_ia32_Immediate(env, op);
535                 } else if (is_ia32_ImmConst(node) || is_ia32_ImmSymConst(node)) {
536                         ia32_emit_immediate(env, node);
537                 } else {
538                         ia32_emit_source_register(env, node, pos);
539                 }
540                 break;
541         case ia32_AddrModeS:
542         case ia32_AddrModeD:
543                 ia32_emit_am(env, node);
544                 break;
545         default:
546                 assert(0 && "unsupported op type");
547         }
548 }
549
550 /**
551  * Emits address mode.
552  */
553 void ia32_emit_am(ia32_emit_env_t *env, const ir_node *node) {
554         ir_entity *ent       = get_ia32_am_sc(node);
555         int        offs      = get_ia32_am_offs_int(node);
556         ir_node   *base      = get_irn_n(node, 0);
557         int        has_base  = !is_ia32_NoReg_GP(base);
558         ir_node   *index     = get_irn_n(node, 1);
559         int        has_index = !is_ia32_NoReg_GP(index);
560
561         /* just to be sure... */
562         assert(!is_ia32_use_frame(node) || get_ia32_frame_ent(node) != NULL);
563
564         /* emit offset */
565         if (ent != NULL) {
566                 ident *id;
567
568                 mark_entity_visited(ent);
569                 id = get_entity_ld_ident(ent);
570                 if (is_ia32_am_sc_sign(node))
571                         be_emit_char(env, '-');
572                 be_emit_ident(env, id);
573
574                 if(get_entity_owner(ent) == get_tls_type()) {
575                         if (get_entity_visibility(ent) == visibility_external_allocated) {
576                                 be_emit_cstring(env, "@INDNTPOFF");
577                         } else {
578                                 be_emit_cstring(env, "@NTPOFF");
579                         }
580                 }
581         }
582
583         if(offs != 0) {
584                 if(ent != NULL) {
585                         be_emit_irprintf(env->emit, "%+d", offs);
586                 } else {
587                         be_emit_irprintf(env->emit, "%d", offs);
588                 }
589         }
590
591         if (has_base || has_index) {
592                 be_emit_char(env, '(');
593
594                 /* emit base */
595                 if (has_base) {
596                         ia32_emit_source_register(env, node, 0);
597                 }
598
599                 /* emit index + scale */
600                 if (has_index) {
601                         int scale;
602                         be_emit_char(env, ',');
603                         ia32_emit_source_register(env, node, 1);
604
605                         scale = get_ia32_am_scale(node);
606                         if (scale > 0) {
607                                 be_emit_irprintf(env->emit, ",%d", 1 << get_ia32_am_scale(node));
608                         }
609                 }
610                 be_emit_char(env, ')');
611         }
612 }
613
614 /*************************************************
615  *                 _ _                         _
616  *                (_) |                       | |
617  *   ___ _ __ ___  _| |_    ___ ___  _ __   __| |
618  *  / _ \ '_ ` _ \| | __|  / __/ _ \| '_ \ / _` |
619  * |  __/ | | | | | | |_  | (_| (_) | | | | (_| |
620  *  \___|_| |_| |_|_|\__|  \___\___/|_| |_|\__,_|
621  *
622  *************************************************/
623
624 #undef IA32_DO_EMIT
625 #define IA32_DO_EMIT(irn) ia32_fprintf_format(F, irn, cmd_buf, cmnt_buf)
626
627 /*
628  * coding of conditions
629  */
630 struct cmp2conditon_t {
631         const char *name;
632         pn_Cmp      num;
633 };
634
635 /*
636  * positive conditions for signed compares
637  */
638 static
639 const struct cmp2conditon_t cmp2condition_s[] = {
640         { NULL,              pn_Cmp_False },  /* always false */
641         { "e",               pn_Cmp_Eq },     /* == */
642         { "l",               pn_Cmp_Lt },     /* < */
643         { "le",              pn_Cmp_Le },     /* <= */
644         { "g",               pn_Cmp_Gt },     /* > */
645         { "ge",              pn_Cmp_Ge },     /* >= */
646         { "ne",              pn_Cmp_Lg },     /* != */
647         { NULL,              pn_Cmp_Leg},     /* Floating point: ordered */
648         { NULL,              pn_Cmp_Uo },     /* Floating point: unordered */
649         { "e",               pn_Cmp_Ue },     /* Floating point: unordered or == */
650         { "b",               pn_Cmp_Ul },     /* Floating point: unordered or < */
651         { "be",              pn_Cmp_Ule },    /* Floating point: unordered or <= */
652         { "a",               pn_Cmp_Ug },     /* Floating point: unordered or > */
653         { "ae",              pn_Cmp_Uge },    /* Floating point: unordered or >= */
654         { "ne",              pn_Cmp_Ne },     /* Floating point: unordered or != */
655         { NULL,              pn_Cmp_True },   /* always true */
656 };
657
658 /*
659  * positive conditions for unsigned compares
660  */
661 static
662 const struct cmp2conditon_t cmp2condition_u[] = {
663         { NULL,              pn_Cmp_False },  /* always false */
664         { "e",               pn_Cmp_Eq },     /* == */
665         { "b",               pn_Cmp_Lt },     /* < */
666         { "be",              pn_Cmp_Le },     /* <= */
667         { "a",               pn_Cmp_Gt },     /* > */
668         { "ae",              pn_Cmp_Ge },     /* >= */
669         { "ne",              pn_Cmp_Lg },     /* != */
670         { NULL,              pn_Cmp_True },   /* always true */
671 };
672
673 /*
674  * returns the condition code
675  */
676 static
677 const char *get_cmp_suffix(int cmp_code)
678 {
679         assert( (cmp2condition_s[cmp_code & 15].num) == (cmp_code & 15));
680         assert( (cmp2condition_u[cmp_code & 7].num) == (cmp_code & 7));
681
682         if((cmp_code & ia32_pn_Cmp_Unsigned)) {
683                 return cmp2condition_u[cmp_code & 7].name;
684         } else {
685                 return cmp2condition_s[cmp_code & 15].name;
686         }
687 }
688
689 void ia32_emit_cmp_suffix(ia32_emit_env_t *env, long pnc)
690 {
691         be_emit_string(env, get_cmp_suffix(pnc));
692 }
693
694
695 /**
696  * Returns the target block for a control flow node.
697  */
698 static
699 ir_node *get_cfop_target_block(const ir_node *irn) {
700         return get_irn_link(irn);
701 }
702
703 static
704 void ia32_emit_block_name(ia32_emit_env_t *env, const ir_node *block)
705 {
706         be_emit_cstring(env, BLOCK_PREFIX);
707         be_emit_irprintf(env->emit, "%d", get_irn_node_nr(block));
708 }
709
710 /**
711  * Returns the target label for a control flow node.
712  */
713 static
714 void ia32_emit_cfop_target(ia32_emit_env_t * env, const ir_node *node) {
715         ir_node *block = get_cfop_target_block(node);
716
717         ia32_emit_block_name(env, block);
718 }
719
720 /** Return the next block in Block schedule */
721 static ir_node *next_blk_sched(const ir_node *block) {
722         return get_irn_link(block);
723 }
724
725 /**
726  * Returns the Proj with projection number proj and NOT mode_M
727  */
728 static
729 ir_node *get_proj(const ir_node *node, long proj) {
730         const ir_edge_t *edge;
731         ir_node         *src;
732
733         assert(get_irn_mode(node) == mode_T && "expected mode_T node");
734
735         foreach_out_edge(node, edge) {
736                 src = get_edge_src_irn(edge);
737
738                 assert(is_Proj(src) && "Proj expected");
739                 if (get_irn_mode(src) == mode_M)
740                         continue;
741
742                 if (get_Proj_proj(src) == proj)
743                         return src;
744         }
745         return NULL;
746 }
747
748 /**
749  * Emits the jump sequence for a conditional jump (cmp + jmp_true + jmp_false)
750  */
751 static
752 void finish_CondJmp(ia32_emit_env_t *env, const ir_node *node, ir_mode *mode,
753                     long pnc) {
754         const ir_node *proj_true;
755         const ir_node *proj_false;
756         const ir_node *block;
757         const ir_node *next_block;
758         int flipped = 0;
759
760         /* get both Proj's */
761         proj_true = get_proj(node, pn_Cond_true);
762         assert(proj_true && "CondJmp without true Proj");
763
764         proj_false = get_proj(node, pn_Cond_false);
765         assert(proj_false && "CondJmp without false Proj");
766
767         /* for now, the code works for scheduled and non-schedules blocks */
768         block = get_nodes_block(node);
769
770         /* we have a block schedule */
771         next_block = next_blk_sched(block);
772
773         if (get_cfop_target_block(proj_true) == next_block) {
774                 /* exchange both proj's so the second one can be omitted */
775                 const ir_node *t = proj_true;
776
777                 proj_true  = proj_false;
778                 proj_false = t;
779                 flipped    = 1;
780                 pnc        = get_negated_pnc(pnc, mode);
781         }
782
783         /* in case of unordered compare, check for parity */
784         if (pnc & pn_Cmp_Uo) {
785                 be_emit_cstring(env, "\tjp ");
786                 ia32_emit_cfop_target(env, proj_true);
787                 be_emit_finish_line_gas(env, proj_true);
788         }
789
790         be_emit_cstring(env, "\tj");
791         ia32_emit_cmp_suffix(env, pnc);
792         be_emit_char(env, ' ');
793         ia32_emit_cfop_target(env, proj_true);
794         be_emit_finish_line_gas(env, proj_true);
795
796         /* the second Proj might be a fallthrough */
797         if (get_cfop_target_block(proj_false) != next_block) {
798                 be_emit_cstring(env, "\tjmp ");
799                 ia32_emit_cfop_target(env, proj_false);
800                 be_emit_finish_line_gas(env, proj_false);
801         } else {
802                 be_emit_cstring(env, "\t/* fallthrough to ");
803                 ia32_emit_cfop_target(env, proj_false);
804                 be_emit_cstring(env, " */");
805                 be_emit_finish_line_gas(env, proj_false);
806         }
807 }
808
809 /**
810  * Emits code for conditional jump.
811  */
812 static
813 void CondJmp_emitter(ia32_emit_env_t *env, const ir_node *node) {
814         be_emit_cstring(env, "\tcmp ");
815         ia32_emit_binop(env, node);
816         be_emit_finish_line_gas(env, node);
817
818         finish_CondJmp(env, node, mode_Iu, get_ia32_pncode(node));
819 }
820
821 /**
822  * Emits code for conditional jump with two variables.
823  */
824 static
825 void emit_ia32_CondJmp(ia32_emit_env_t *env, const ir_node *node) {
826         CondJmp_emitter(env, node);
827 }
828
829 /**
830  * Emits code for conditional test and jump.
831  */
832 static
833 void TestJmp_emitter(ia32_emit_env_t *env, const ir_node *node) {
834         if(is_ia32_ImmSymConst(node) || is_ia32_ImmConst(node)) {
835                 be_emit_cstring(env, "\ttest ");
836                 ia32_emit_immediate(env, node);
837                 be_emit_cstring(env, ", ");
838                 ia32_emit_source_register(env, node, 0);
839                 be_emit_finish_line_gas(env, node);
840         } else {
841                 be_emit_cstring(env, "\ttest ");
842                 ia32_emit_source_register(env, node, 1);
843                 be_emit_cstring(env, ", ");
844                 ia32_emit_source_register(env, node, 0);
845                 be_emit_finish_line_gas(env, node);
846         }
847         finish_CondJmp(env, node, mode_Iu, get_ia32_pncode(node));
848 }
849
850 /**
851  * Emits code for conditional test and jump with two variables.
852  */
853 static
854 void emit_ia32_TestJmp(ia32_emit_env_t *env, const ir_node *node) {
855         TestJmp_emitter(env, node);
856 }
857
858 static
859 void emit_ia32_CJmp(ia32_emit_env_t *env, const ir_node *node) {
860         be_emit_cstring(env, "/* omitted redundant test */");
861         be_emit_finish_line_gas(env, node);
862
863         finish_CondJmp(env, node, mode_Is, get_ia32_pncode(node));
864 }
865
866 static
867 void emit_ia32_CJmpAM(ia32_emit_env_t *env, const ir_node *node) {
868         be_emit_cstring(env, "/* omitted redundant test/cmp */");
869         be_emit_finish_line_gas(env, node);
870
871         finish_CondJmp(env, node, mode_Is, get_ia32_pncode(node));
872 }
873
874 /**
875  * Emits code for conditional SSE floating point jump with two variables.
876  */
877 static
878 void emit_ia32_xCondJmp(ia32_emit_env_t *env, const ir_node *node) {
879         be_emit_cstring(env, "\tucomi");
880         ia32_emit_xmm_mode_suffix(env, node);
881         be_emit_char(env, ' ');
882         ia32_emit_binop(env, node);
883         be_emit_finish_line_gas(env, node);
884
885         finish_CondJmp(env, node, mode_F, get_ia32_pncode(node));
886 }
887
888 /**
889  * Emits code for conditional x87 floating point jump with two variables.
890  */
891 static
892 void emit_ia32_x87CondJmp(ia32_emit_env_t *env, const ir_node *node) {
893         const ia32_x87_attr_t *x87_attr = get_ia32_x87_attr_const(node);
894         const char            *reg      = x87_attr->x87[1]->name;
895         long                   pnc      = get_ia32_pncode(node);
896
897         switch (get_ia32_irn_opcode(node)) {
898         case iro_ia32_fcomrJmp:
899                 pnc = get_inversed_pnc(pnc);
900                 reg = x87_attr->x87[0]->name;
901         case iro_ia32_fcomJmp:
902         default:
903                 be_emit_cstring(env, "\tfucom ");
904                 break;
905         case iro_ia32_fcomrpJmp:
906                 pnc = get_inversed_pnc(pnc);
907                 reg = x87_attr->x87[0]->name;
908         case iro_ia32_fcompJmp:
909                 be_emit_cstring(env, "\tfucomp ");
910                 break;
911         case iro_ia32_fcomrppJmp:
912                 pnc = get_inversed_pnc(pnc);
913         case iro_ia32_fcomppJmp:
914                 be_emit_cstring(env, "\tfucompp ");
915                 reg = "";
916                 break;
917         }
918
919         if(reg[0] != '\0') {
920                 be_emit_char(env, '%');
921                 be_emit_string(env, reg);
922         }
923         be_emit_finish_line_gas(env, node);
924
925         be_emit_cstring(env, "\tfnstsw %ax");
926         be_emit_finish_line_gas(env, node);
927         be_emit_cstring(env, "\tsahf");
928         be_emit_finish_line_gas(env, node);
929
930         finish_CondJmp(env, node, mode_E, pnc);
931 }
932
933 static
934 void CMov_emitter(ia32_emit_env_t *env, const ir_node *node) {
935         long pnc = get_ia32_pncode(node);
936         int is_PsiCondCMov = is_ia32_PsiCondCMov(node);
937         int idx_left  = 2 - is_PsiCondCMov;
938         int idx_right = 3 - is_PsiCondCMov;
939         const arch_register_t *in1, *in2, *out;
940
941         out = arch_get_irn_register(env->arch_env, node);
942         in1 = arch_get_irn_register(env->arch_env, get_irn_n(node, idx_left));
943         in2 = arch_get_irn_register(env->arch_env, get_irn_n(node, idx_right));
944
945         /* we have to emit the cmp first, because the destination register */
946         /* could be one of the compare registers                           */
947         if (is_ia32_CmpCMov(node)) {
948                 be_emit_cstring(env, "\tcmp ");
949                 ia32_emit_source_register(env, node, 1);
950                 be_emit_cstring(env, ", ");
951                 ia32_emit_source_register(env, node, 0);
952         } else if (is_ia32_xCmpCMov(node)) {
953                 be_emit_cstring(env, "\tucomis");
954                 ia32_emit_mode_suffix_mode(env, get_irn_mode(node));
955                 be_emit_char(env, ' ');
956                 ia32_emit_source_register(env, node, 1);
957                 be_emit_cstring(env, ", ");
958                 ia32_emit_source_register(env, node, 0);
959         } else if (is_PsiCondCMov) {
960                 /* omit compare because flags are already set by And/Or */
961                 be_emit_cstring(env, "\ttest ");
962                 ia32_emit_source_register(env, node, 0);
963                 be_emit_cstring(env, ", ");
964                 ia32_emit_source_register(env, node, 0);
965         } else {
966                 assert(0 && "unsupported CMov");
967         }
968         be_emit_finish_line_gas(env, node);
969
970         if (REGS_ARE_EQUAL(out, in2)) {
971                 /* best case: default in == out -> do nothing */
972         } else if (REGS_ARE_EQUAL(out, in1)) {
973                 ir_node *n = (ir_node*) node;
974                 /* true in == out -> need complement compare and exchange true and default in */
975                 ir_node *t = get_irn_n(n, idx_left);
976                 set_irn_n(n, idx_left, get_irn_n(n, idx_right));
977                 set_irn_n(n, idx_right, t);
978
979                 pnc = get_negated_pnc(pnc, get_irn_mode(node));
980         } else {
981                 /* out is different from in: need copy default -> out */
982                 if (is_PsiCondCMov) {
983                         be_emit_cstring(env, "\tmovl ");
984                         ia32_emit_dest_register(env, node, 2);
985                         be_emit_cstring(env, ", ");
986                         ia32_emit_dest_register(env, node, 0);
987                 } else {
988                         be_emit_cstring(env, "\tmovl ");
989                         ia32_emit_source_register(env, node, 3);
990                         be_emit_cstring(env, ", ");
991                         ia32_emit_dest_register(env, node, 0);
992                 }
993                 be_emit_finish_line_gas(env, node);
994         }
995
996         if (is_PsiCondCMov) {
997                 be_emit_cstring(env, "\tcmov");
998                 ia32_emit_cmp_suffix(env, pnc);
999                 be_emit_cstring(env, "l ");
1000                 ia32_emit_source_register(env, node, 1);
1001                 be_emit_cstring(env, ", ");
1002                 ia32_emit_dest_register(env, node, 0);
1003         } else {
1004                 be_emit_cstring(env, "\tcmov");
1005                 ia32_emit_cmp_suffix(env, pnc);
1006                 be_emit_cstring(env, "l ");
1007                 ia32_emit_source_register(env, node, 2);
1008                 be_emit_cstring(env, ", ");
1009                 ia32_emit_dest_register(env, node, 0);
1010         }
1011         be_emit_finish_line_gas(env, node);
1012 }
1013
1014 static
1015 void emit_ia32_CmpCMov(ia32_emit_env_t *env, const ir_node *node) {
1016         CMov_emitter(env, node);
1017 }
1018
1019 static
1020 void emit_ia32_PsiCondCMov(ia32_emit_env_t *env, const ir_node *node) {
1021         CMov_emitter(env, node);
1022 }
1023
1024 static
1025 void emit_ia32_xCmpCMov(ia32_emit_env_t *env, const ir_node *node) {
1026         CMov_emitter(env, node);
1027 }
1028
1029 static
1030 void Set_emitter(ia32_emit_env_t *env, const ir_node *node, ir_mode *mode) {
1031         int pnc = get_ia32_pncode(node);
1032         const char *reg8bit;
1033         const arch_register_t *out;
1034
1035         out     = arch_get_irn_register(env->arch_env, node);
1036         reg8bit = ia32_get_mapped_reg_name(env->isa->regs_8bit, out);
1037
1038         if (is_ia32_CmpSet(node)) {
1039                 be_emit_cstring(env, "\tcmp ");
1040                 ia32_emit_binop(env, node);
1041         } else if (is_ia32_xCmpSet(node)) {
1042                 be_emit_cstring(env, "\tucomis");
1043                 ia32_emit_mode_suffix_mode(env, get_irn_mode(get_irn_n(node, 2)));
1044                 be_emit_char(env, ' ');
1045                 ia32_emit_binop(env, node);
1046         } else if (is_ia32_PsiCondSet(node)) {
1047                 be_emit_cstring(env, "\tcmp $0, ");
1048                 ia32_emit_source_register(env, node, 0);
1049         } else {
1050                 assert(0 && "unsupported Set");
1051         }
1052         be_emit_finish_line_gas(env, node);
1053
1054         /* use mov to clear target because it doesn't affect the eflags */
1055         be_emit_cstring(env, "\tmovl $0, %");
1056         be_emit_string(env, arch_register_get_name(out));
1057         be_emit_finish_line_gas(env, node);
1058
1059         be_emit_cstring(env, "\tset");
1060         ia32_emit_cmp_suffix(env, pnc);
1061         be_emit_cstring(env, " %");
1062         be_emit_string(env, reg8bit);
1063         be_emit_finish_line_gas(env, node);
1064 }
1065
1066 static
1067 void emit_ia32_CmpSet(ia32_emit_env_t *env, const ir_node *node) {
1068         Set_emitter(env, node, get_irn_mode(get_irn_n(node, 2)));
1069 }
1070
1071 static
1072 void emit_ia32_PsiCondSet(ia32_emit_env_t *env, const ir_node *node) {
1073         Set_emitter(env, node, get_irn_mode(get_irn_n(node, 0)));
1074 }
1075
1076 static
1077 void emit_ia32_xCmpSet(ia32_emit_env_t *env, const ir_node *node) {
1078         Set_emitter(env, node, get_irn_mode(get_irn_n(node, 2)));
1079 }
1080
1081 static
1082 void emit_ia32_xCmp(ia32_emit_env_t *env, const ir_node *node) {
1083         int  sse_pnc  = -1;
1084         long pnc      = get_ia32_pncode(node);
1085         long unord    = pnc & pn_Cmp_Uo;
1086
1087         assert( (pnc & ia32_pn_Cmp_Unsigned) == 0);
1088
1089         switch (pnc) {
1090                 case pn_Cmp_Leg: /* odered */
1091                         sse_pnc = 7;
1092                         break;
1093                 case pn_Cmp_Uo:  /* unordered */
1094                         sse_pnc = 3;
1095                         break;
1096                 case pn_Cmp_Ue:
1097                 case pn_Cmp_Eq:  /* == */
1098                         sse_pnc = 0;
1099                         break;
1100                 case pn_Cmp_Ul:
1101                 case pn_Cmp_Lt:  /* < */
1102                         sse_pnc = 1;
1103                         break;
1104                 case pn_Cmp_Ule:
1105                 case pn_Cmp_Le: /* <= */
1106                         sse_pnc = 2;
1107                         break;
1108                 case pn_Cmp_Ug:
1109                 case pn_Cmp_Gt:  /* > */
1110                         sse_pnc = 6;
1111                         break;
1112                 case pn_Cmp_Uge:
1113                 case pn_Cmp_Ge: /* >= */
1114                         sse_pnc = 5;
1115                         break;
1116                 case pn_Cmp_Ne:
1117                 case pn_Cmp_Lg:  /* != */
1118                         sse_pnc = 4;
1119                         break;
1120         }
1121
1122         assert(sse_pnc >= 0 && "unsupported compare");
1123
1124         if (unord && sse_pnc != 3) {
1125                 /*
1126                         We need a separate compare against unordered.
1127                         Quick and Dirty solution:
1128                         - get some memory on stack
1129                         - compare
1130                         - store result
1131                         - compare
1132                         - and result and stored result
1133                     - cleanup stack
1134                 */
1135                 be_emit_cstring(env, "\tsubl $8, %esp");
1136                 be_emit_finish_line_gas(env, node);
1137
1138                 be_emit_cstring(env, "\tcmpsd $3, ");
1139                 ia32_emit_binop(env, node);
1140                 be_emit_finish_line_gas(env, node);
1141
1142                 be_emit_cstring(env, "\tmovsd ");
1143                 ia32_emit_dest_register(env, node, 0);
1144                 be_emit_cstring(env, ", (%esp)");
1145                 be_emit_finish_line_gas(env, node);
1146         }
1147
1148         be_emit_cstring(env, "\tcmpsd ");
1149         be_emit_irprintf(env->emit, "%d, ", sse_pnc);
1150         ia32_emit_binop(env, node);
1151         be_emit_finish_line_gas(env, node);
1152
1153         if (unord && sse_pnc != 3) {
1154                 be_emit_cstring(env, "\tandpd (%esp), ");
1155                 ia32_emit_dest_register(env, node, 0);
1156                 be_emit_finish_line_gas(env, node);
1157
1158                 be_emit_cstring(env, "\taddl $8, %esp");
1159                 be_emit_finish_line_gas(env, node);
1160         }
1161 }
1162
1163 /*********************************************************
1164  *                 _ _       _
1165  *                (_) |     (_)
1166  *   ___ _ __ ___  _| |_     _ _   _ _ __ ___  _ __  ___
1167  *  / _ \ '_ ` _ \| | __|   | | | | | '_ ` _ \| '_ \/ __|
1168  * |  __/ | | | | | | |_    | | |_| | | | | | | |_) \__ \
1169  *  \___|_| |_| |_|_|\__|   | |\__,_|_| |_| |_| .__/|___/
1170  *                         _/ |               | |
1171  *                        |__/                |_|
1172  *********************************************************/
1173
1174 /* jump table entry (target and corresponding number) */
1175 typedef struct _branch_t {
1176         ir_node *target;
1177         int      value;
1178 } branch_t;
1179
1180 /* jump table for switch generation */
1181 typedef struct _jmp_tbl_t {
1182         ir_node  *defProj;         /**< default target */
1183         int       min_value;       /**< smallest switch case */
1184         int       max_value;       /**< largest switch case */
1185         int       num_branches;    /**< number of jumps */
1186         char     *label;           /**< label of the jump table */
1187         branch_t *branches;        /**< jump array */
1188 } jmp_tbl_t;
1189
1190 /**
1191  * Compare two variables of type branch_t. Used to sort all switch cases
1192  */
1193 static
1194 int ia32_cmp_branch_t(const void *a, const void *b) {
1195         branch_t *b1 = (branch_t *)a;
1196         branch_t *b2 = (branch_t *)b;
1197
1198         if (b1->value <= b2->value)
1199                 return -1;
1200         else
1201                 return 1;
1202 }
1203
1204 /**
1205  * Emits code for a SwitchJmp (creates a jump table if
1206  * possible otherwise a cmp-jmp cascade). Port from
1207  * cggg ia32 backend
1208  */
1209 static
1210 void emit_ia32_SwitchJmp(ia32_emit_env_t *env, const ir_node *node) {
1211         unsigned long       interval;
1212         int                 last_value, i;
1213         long                pnc;
1214         jmp_tbl_t           tbl;
1215         ir_node            *proj;
1216         const ir_edge_t    *edge;
1217
1218         /* fill the table structure */
1219         tbl.label        = xmalloc(SNPRINTF_BUF_LEN);
1220         tbl.label        = get_unique_label(tbl.label, SNPRINTF_BUF_LEN, ".TBL_");
1221         tbl.defProj      = NULL;
1222         tbl.num_branches = get_irn_n_edges(node);
1223         tbl.branches     = xcalloc(tbl.num_branches, sizeof(tbl.branches[0]));
1224         tbl.min_value    = INT_MAX;
1225         tbl.max_value    = INT_MIN;
1226
1227         i = 0;
1228         /* go over all proj's and collect them */
1229         foreach_out_edge(node, edge) {
1230                 proj = get_edge_src_irn(edge);
1231                 assert(is_Proj(proj) && "Only proj allowed at SwitchJmp");
1232
1233                 pnc = get_Proj_proj(proj);
1234
1235                 /* create branch entry */
1236                 tbl.branches[i].target = proj;
1237                 tbl.branches[i].value  = pnc;
1238
1239                 tbl.min_value = pnc < tbl.min_value ? pnc : tbl.min_value;
1240                 tbl.max_value = pnc > tbl.max_value ? pnc : tbl.max_value;
1241
1242                 /* check for default proj */
1243                 if (pnc == get_ia32_pncode(node)) {
1244                         assert(tbl.defProj == NULL && "found two defProjs at SwitchJmp");
1245                         tbl.defProj = proj;
1246                 }
1247
1248                 i++;
1249         }
1250
1251         /* sort the branches by their number */
1252         qsort(tbl.branches, tbl.num_branches, sizeof(tbl.branches[0]), ia32_cmp_branch_t);
1253
1254         /* two-complement's magic make this work without overflow */
1255         interval = tbl.max_value - tbl.min_value;
1256
1257         /* emit the table */
1258         be_emit_cstring(env, "\tcmpl $");
1259         be_emit_irprintf(env->emit, "%u, ", interval);
1260         ia32_emit_source_register(env, node, 0);
1261         be_emit_finish_line_gas(env, node);
1262
1263         be_emit_cstring(env, "\tja ");
1264         ia32_emit_cfop_target(env, tbl.defProj);
1265         be_emit_finish_line_gas(env, node);
1266
1267         if (tbl.num_branches > 1) {
1268                 /* create table */
1269                 be_emit_cstring(env, "\tjmp *");
1270                 be_emit_string(env, tbl.label);
1271                 be_emit_cstring(env, "(,");
1272                 ia32_emit_source_register(env, node, 0);
1273                 be_emit_cstring(env, ",4)");
1274                 be_emit_finish_line_gas(env, node);
1275
1276                 be_gas_emit_switch_section(env->emit, GAS_SECTION_RODATA);
1277                 be_emit_cstring(env, "\t.align 4\n");
1278                 be_emit_write_line(env);
1279
1280                 be_emit_string(env, tbl.label);
1281                 be_emit_cstring(env, ":\n");
1282                 be_emit_write_line(env);
1283
1284                 be_emit_cstring(env, ".long ");
1285                 ia32_emit_cfop_target(env, tbl.branches[0].target);
1286                 be_emit_finish_line_gas(env, NULL);
1287
1288                 last_value = tbl.branches[0].value;
1289                 for (i = 1; i < tbl.num_branches; ++i) {
1290                         while (++last_value < tbl.branches[i].value) {
1291                                 be_emit_cstring(env, ".long ");
1292                                 ia32_emit_cfop_target(env, tbl.defProj);
1293                                 be_emit_finish_line_gas(env, NULL);
1294                         }
1295                         be_emit_cstring(env, ".long ");
1296                         ia32_emit_cfop_target(env, tbl.branches[i].target);
1297                         be_emit_finish_line_gas(env, NULL);
1298                 }
1299                 be_gas_emit_switch_section(env->emit, GAS_SECTION_TEXT);
1300         } else {
1301                 /* one jump is enough */
1302                 be_emit_cstring(env, "\tjmp ");
1303                 ia32_emit_cfop_target(env, tbl.branches[0].target);
1304                 be_emit_finish_line_gas(env, node);
1305         }
1306
1307         if (tbl.label)
1308                 free(tbl.label);
1309         if (tbl.branches)
1310                 free(tbl.branches);
1311 }
1312
1313 /**
1314  * Emits code for a unconditional jump.
1315  */
1316 static
1317 void emit_Jmp(ia32_emit_env_t *env, const ir_node *node) {
1318         ir_node *block, *next_block;
1319
1320         /* for now, the code works for scheduled and non-schedules blocks */
1321         block = get_nodes_block(node);
1322
1323         /* we have a block schedule */
1324         next_block = next_blk_sched(block);
1325         if (get_cfop_target_block(node) != next_block) {
1326                 be_emit_cstring(env, "\tjmp ");
1327                 ia32_emit_cfop_target(env, node);
1328         } else {
1329                 be_emit_cstring(env, "\t/* fallthrough to ");
1330                 ia32_emit_cfop_target(env, node);
1331                 be_emit_cstring(env, " */");
1332         }
1333         be_emit_finish_line_gas(env, node);
1334 }
1335
1336 static
1337 void emit_ia32_Immediate(ia32_emit_env_t *env, const ir_node *node)
1338 {
1339         const ia32_attr_t *attr = get_ia32_attr_const(node);
1340
1341         assert(attr->am_sc != NULL || attr->cnst_val.tv != NULL);
1342         if(attr->am_sc != NULL) {
1343                 ident *id = get_entity_ld_ident(attr->am_sc);
1344
1345                 if(attr->data.am_sc_sign)
1346                         be_emit_char(env, '-');
1347                 be_emit_ident(env, id);
1348         }
1349         if(attr->cnst_val.tv != NULL) {
1350                 if(attr->am_sc != NULL)
1351                         be_emit_char(env, '+');
1352                 else
1353                         be_emit_char(env, '$');
1354                 be_emit_tarval(env, attr->cnst_val.tv);
1355         }
1356 }
1357
1358 static
1359 const char* emit_asm_operand(ia32_emit_env_t *env, const ir_node *node,
1360                              const char *s)
1361 {
1362         const arch_register_t *reg;
1363         const char            *reg_name;
1364         char                   c;
1365         char                   modifier = 0;
1366         int                    num      = -1;
1367         const ia32_attr_t     *attr;
1368         int                    n_outs;
1369         int                    p;
1370
1371         assert(*s == '%');
1372         c = *(++s);
1373
1374         /* parse modifiers */
1375         switch(c) {
1376         case 0:
1377                 ir_fprintf(stderr, "Warning: asm text (%+F) ends with %\n", node);
1378                 be_emit_char(env, '%');
1379                 return s + 1;
1380         case '%':
1381                 be_emit_char(env, '%');
1382                 return s + 1;
1383         case 'w':
1384         case 'b':
1385         case 'h':
1386                 modifier = c;
1387                 ++s;
1388                 break;
1389         case '0':
1390         case '1':
1391         case '2':
1392         case '3':
1393         case '4':
1394         case '5':
1395         case '6':
1396         case '7':
1397         case '8':
1398         case '9':
1399                 break;
1400         default:
1401                 ir_fprintf(stderr, "Warning: asm text (%+F) contains unknown modifier "
1402                            "'%c' for asm op\n", node, c);
1403                 ++s;
1404                 break;
1405         }
1406
1407         /* parse number */
1408         sscanf(s, "%d%n", &num, &p);
1409         if(num < 0) {
1410                 ir_fprintf(stderr, "Warning: Couldn't parse assembler operand (%+F)\n",
1411                            node);
1412                 return s;
1413         } else {
1414                 s += p;
1415         }
1416
1417         /* get register */
1418         attr   = get_ia32_attr_const(node);
1419         n_outs = ARR_LEN(attr->slots);
1420         if(num < n_outs) {
1421                 reg = get_out_reg(env, node, num);
1422         } else {
1423                 ir_node *pred;
1424                 int      in = num - n_outs;
1425                 if(in >= get_irn_arity(node)) {
1426                         ir_fprintf(stderr, "Warning: Invalid input %d specified in asm "
1427                                    "op (%+F)\n", num, node);
1428                         return s;
1429                 }
1430                 pred = get_irn_n(node, in);
1431                 /* might be an immediate value */
1432                 if(is_ia32_Immediate(pred)) {
1433                         emit_ia32_Immediate(env, pred);
1434                         return s;
1435                 }
1436                 reg = get_in_reg(env, node, in);
1437         }
1438         if(reg == NULL) {
1439                 ir_fprintf(stderr, "Warning: no register assigned for %d asm op "
1440                            "(%+F)\n", num, node);
1441                 return s;
1442         }
1443
1444         /* emit it */
1445         be_emit_char(env, '%');
1446         switch(modifier) {
1447         case 0:
1448                 reg_name = arch_register_get_name(reg);
1449                 break;
1450         case 'b':
1451                 reg_name = ia32_get_mapped_reg_name(env->isa->regs_8bit, reg);
1452                 break;
1453         case 'h':
1454                 reg_name = ia32_get_mapped_reg_name(env->isa->regs_8bit_high, reg);
1455                 break;
1456         case 'w':
1457                 reg_name = ia32_get_mapped_reg_name(env->isa->regs_16bit, reg);
1458                 break;
1459         default:
1460                 panic("Invalid asm op modifier");
1461         }
1462         be_emit_string(env, reg_name);
1463
1464         return s;
1465 }
1466
1467 /**
1468  * Emits code for an ASM pseudo op.
1469  */
1470 static
1471 void emit_ia32_Asm(ia32_emit_env_t *env, const ir_node *node)
1472 {
1473         const void            *gen_attr = get_irn_generic_attr_const(node);
1474         const ia32_asm_attr_t *attr
1475                 = CONST_CAST_IA32_ATTR(ia32_asm_attr_t, gen_attr);
1476         ident                 *asm_text = attr->asm_text;
1477         const char            *s        = get_id_str(asm_text);
1478
1479         be_emit_cstring(env, "# Begin ASM \t");
1480         be_emit_finish_line_gas(env, node);
1481
1482         if (s[0] != '\t')
1483                 be_emit_char(env, '\t');
1484
1485         while(*s != 0) {
1486                 if(*s == '%') {
1487                         s = emit_asm_operand(env, node, s);
1488                         continue;
1489                 } else {
1490                         be_emit_char(env, *s);
1491                 }
1492                 ++s;
1493         }
1494
1495         be_emit_char(env, '\n');
1496         be_emit_write_line(env);
1497
1498         be_emit_cstring(env, "# End ASM\n");
1499         be_emit_write_line(env);
1500 }
1501
1502 /**********************************
1503  *   _____                  ____
1504  *  / ____|                |  _ \
1505  * | |     ___  _ __  _   _| |_) |
1506  * | |    / _ \| '_ \| | | |  _ <
1507  * | |___| (_) | |_) | |_| | |_) |
1508  *  \_____\___/| .__/ \__, |____/
1509  *             | |     __/ |
1510  *             |_|    |___/
1511  **********************************/
1512
1513 /**
1514  * Emit movsb/w instructions to make mov count divideable by 4
1515  */
1516 static
1517 void emit_CopyB_prolog(ia32_emit_env_t *env, int rem) {
1518         be_emit_cstring(env, "\tcld");
1519         be_emit_finish_line_gas(env, NULL);
1520
1521         switch(rem) {
1522         case 1:
1523                 be_emit_cstring(env, "\tmovsb");
1524                 be_emit_finish_line_gas(env, NULL);
1525                 break;
1526         case 2:
1527                 be_emit_cstring(env, "\tmovsw");
1528                 be_emit_finish_line_gas(env, NULL);
1529                 break;
1530         case 3:
1531                 be_emit_cstring(env, "\tmovsb");
1532                 be_emit_finish_line_gas(env, NULL);
1533                 be_emit_cstring(env, "\tmovsw");
1534                 be_emit_finish_line_gas(env, NULL);
1535                 break;
1536         }
1537 }
1538
1539 /**
1540  * Emit rep movsd instruction for memcopy.
1541  */
1542 static
1543 void emit_ia32_CopyB(ia32_emit_env_t *env, const ir_node *node) {
1544         tarval *tv = get_ia32_Immop_tarval(node);
1545         int    rem = get_tarval_long(tv);
1546
1547         emit_CopyB_prolog(env, rem);
1548
1549         be_emit_cstring(env, "\trep movsd");
1550         be_emit_finish_line_gas(env, node);
1551 }
1552
1553 /**
1554  * Emits unrolled memcopy.
1555  */
1556 static
1557 void emit_ia32_CopyB_i(ia32_emit_env_t *env, const ir_node *node) {
1558         tarval *tv   = get_ia32_Immop_tarval(node);
1559         int     size = get_tarval_long(tv);
1560
1561         emit_CopyB_prolog(env, size & 0x3);
1562
1563         size >>= 2;
1564         while (size--) {
1565                 be_emit_cstring(env, "\tmovsd");
1566                 be_emit_finish_line_gas(env, NULL);
1567         }
1568 }
1569
1570
1571
1572 /***************************
1573  *   _____
1574  *  / ____|
1575  * | |     ___  _ ____   __
1576  * | |    / _ \| '_ \ \ / /
1577  * | |___| (_) | | | \ V /
1578  *  \_____\___/|_| |_|\_/
1579  *
1580  ***************************/
1581
1582 /**
1583  * Emit code for conversions (I, FP), (FP, I) and (FP, FP).
1584  */
1585 static
1586 void emit_ia32_Conv_with_FP(ia32_emit_env_t *env, const ir_node *node) {
1587         ir_mode            *ls_mode = get_ia32_ls_mode(node);
1588         int                 ls_bits = get_mode_size_bits(ls_mode);
1589
1590         be_emit_cstring(env, "\tcvt");
1591
1592         if(is_ia32_Conv_I2FP(node)) {
1593                 if(ls_bits == 32) {
1594                         be_emit_cstring(env, "si2ss");
1595                 } else {
1596                         be_emit_cstring(env, "si2sd");
1597                 }
1598         } else if(is_ia32_Conv_FP2I(node)) {
1599                 if(ls_bits == 32) {
1600                         be_emit_cstring(env, "ss2si");
1601                 } else {
1602                         be_emit_cstring(env, "sd2si");
1603                 }
1604         } else {
1605                 assert(is_ia32_Conv_FP2FP(node));
1606                 if(ls_bits == 32) {
1607                         be_emit_cstring(env, "sd2ss");
1608                 } else {
1609                         be_emit_cstring(env, "ss2sd");
1610                 }
1611         }
1612         be_emit_char(env, ' ');
1613
1614         switch(get_ia32_op_type(node)) {
1615                 case ia32_Normal:
1616                         ia32_emit_source_register(env, node, 2);
1617                         be_emit_cstring(env, ", ");
1618                         ia32_emit_dest_register(env, node, 0);
1619                         break;
1620                 case ia32_AddrModeS:
1621                         ia32_emit_dest_register(env, node, 0);
1622                         be_emit_cstring(env, ", ");
1623                         ia32_emit_am(env, node);
1624                         break;
1625                 default:
1626                         assert(0 && "unsupported op type for Conv");
1627         }
1628         be_emit_finish_line_gas(env, node);
1629 }
1630
1631 static
1632 void emit_ia32_Conv_I2FP(ia32_emit_env_t *env, const ir_node *node) {
1633         emit_ia32_Conv_with_FP(env, node);
1634 }
1635
1636 static
1637 void emit_ia32_Conv_FP2I(ia32_emit_env_t *env, const ir_node *node) {
1638         emit_ia32_Conv_with_FP(env, node);
1639 }
1640
1641 static
1642 void emit_ia32_Conv_FP2FP(ia32_emit_env_t *env, const ir_node *node) {
1643         emit_ia32_Conv_with_FP(env, node);
1644 }
1645
1646 /**
1647  * Emits code for an Int conversion.
1648  */
1649 static
1650 void emit_ia32_Conv_I2I(ia32_emit_env_t *env, const ir_node *node) {
1651         const char *sign_suffix;
1652         ir_mode *smaller_mode = get_ia32_ls_mode(node);
1653         int smaller_bits = get_mode_size_bits(smaller_mode);
1654         int signed_mode;
1655         const arch_register_t *in_reg, *out_reg;
1656
1657         assert(!mode_is_float(smaller_mode));
1658         assert(smaller_bits == 8 || smaller_bits == 16 || smaller_bits == 32);
1659
1660         signed_mode = mode_is_signed(smaller_mode);
1661         if(smaller_bits == 32) {
1662                 // this should not happen as it's no convert
1663                 assert(0);
1664                 sign_suffix = "";
1665         } else {
1666                 sign_suffix = signed_mode ? "s" : "z";
1667         }
1668
1669         switch(get_ia32_op_type(node)) {
1670                 case ia32_Normal:
1671                         in_reg  = get_in_reg(env, node, 2);
1672                         out_reg = get_out_reg(env, node, 0);
1673
1674                         if (REGS_ARE_EQUAL(in_reg, &ia32_gp_regs[REG_EAX]) &&
1675                                 REGS_ARE_EQUAL(out_reg, in_reg)                &&
1676                                 signed_mode &&
1677                                 smaller_bits == 16)
1678                         {
1679                                 /* argument and result are both in EAX and */
1680                                 /* signedness is ok: -> use the smaller cwtl opcode */
1681                                 be_emit_cstring(env, "\tcwtl");
1682                         } else {
1683                                 const char *sreg = ia32_get_reg_name_for_mode(env, smaller_mode, in_reg);
1684
1685                                 be_emit_cstring(env, "\tmov");
1686                                 be_emit_string(env, sign_suffix);
1687                                 ia32_emit_mode_suffix_mode(env, smaller_mode);
1688                                 be_emit_cstring(env, "l %");
1689                                 be_emit_string(env, sreg);
1690                                 be_emit_cstring(env, ", ");
1691                                 ia32_emit_dest_register(env, node, 0);
1692                         }
1693                         break;
1694                 case ia32_AddrModeS: {
1695                         be_emit_cstring(env, "\tmov");
1696                         be_emit_string(env, sign_suffix);
1697                         ia32_emit_mode_suffix_mode(env, smaller_mode);
1698                         be_emit_cstring(env, "l %");
1699                         ia32_emit_am(env, node);
1700                         be_emit_cstring(env, ", ");
1701                         ia32_emit_dest_register(env, node, 0);
1702                         break;
1703                 }
1704                 default:
1705                         assert(0 && "unsupported op type for Conv");
1706         }
1707         be_emit_finish_line_gas(env, node);
1708 }
1709
1710 /**
1711  * Emits code for an 8Bit Int conversion.
1712  */
1713 void emit_ia32_Conv_I2I8Bit(ia32_emit_env_t *env, const ir_node *node) {
1714         emit_ia32_Conv_I2I(env, node);
1715 }
1716
1717
1718 /*******************************************
1719  *  _                          _
1720  * | |                        | |
1721  * | |__   ___ _ __   ___   __| | ___  ___
1722  * | '_ \ / _ \ '_ \ / _ \ / _` |/ _ \/ __|
1723  * | |_) |  __/ | | | (_) | (_| |  __/\__ \
1724  * |_.__/ \___|_| |_|\___/ \__,_|\___||___/
1725  *
1726  *******************************************/
1727
1728 /**
1729  * Emits a backend call
1730  */
1731 static
1732 void emit_be_Call(ia32_emit_env_t *env, const ir_node *node) {
1733         ir_entity *ent = be_Call_get_entity(node);
1734
1735         be_emit_cstring(env, "\tcall ");
1736         if (ent) {
1737                 mark_entity_visited(ent);
1738                 be_emit_string(env, get_entity_ld_name(ent));
1739         } else {
1740                 be_emit_char(env, '*');
1741                 ia32_emit_dest_register(env, get_irn_n(node, be_pos_Call_ptr), 0);
1742         }
1743         be_emit_finish_line_gas(env, node);
1744 }
1745
1746 /**
1747  * Emits code to increase stack pointer.
1748  */
1749 static
1750 void emit_be_IncSP(ia32_emit_env_t *env, const ir_node *node) {
1751         int offs = be_get_IncSP_offset(node);
1752
1753         if (offs == 0)
1754                 return;
1755
1756         if (offs > 0) {
1757                 be_emit_cstring(env, "\tsubl $");
1758                 be_emit_irprintf(env->emit, "%u, ", offs);
1759                 ia32_emit_source_register(env, node, 0);
1760         } else {
1761                 be_emit_cstring(env, "\taddl $");
1762                 be_emit_irprintf(env->emit, "%u, ", -offs);
1763                 ia32_emit_source_register(env, node, 0);
1764         }
1765         be_emit_finish_line_gas(env, node);
1766 }
1767
1768 /**
1769  * Emits code to set stack pointer.
1770  */
1771 static
1772 void emit_be_SetSP(ia32_emit_env_t *env, const ir_node *node) {
1773         be_emit_cstring(env, "\tmovl ");
1774         ia32_emit_source_register(env, node, 2);
1775         be_emit_cstring(env, ", ");
1776         ia32_emit_dest_register(env, node, 0);
1777         be_emit_finish_line_gas(env, node);
1778 }
1779
1780 /**
1781  * Emits code for Copy/CopyKeep.
1782  */
1783 static
1784 void Copy_emitter(ia32_emit_env_t *env, const ir_node *node, const ir_node *op)
1785 {
1786         const arch_env_t *aenv = env->arch_env;
1787         ir_mode *mode;
1788
1789         if (REGS_ARE_EQUAL(arch_get_irn_register(aenv, node), arch_get_irn_register(aenv, op)) ||
1790                 arch_register_type_is(arch_get_irn_register(aenv, op), virtual))
1791                 return;
1792
1793         mode = get_irn_mode(node);
1794         if (mode == mode_E) {
1795                 be_emit_cstring(env, "\tmovsd ");
1796                 ia32_emit_source_register(env, node, 0);
1797                 be_emit_cstring(env, ", ");
1798                 ia32_emit_dest_register(env, node, 0);
1799         } else {
1800                 be_emit_cstring(env, "\tmovl ");
1801                 ia32_emit_source_register(env, node, 0);
1802                 be_emit_cstring(env, ", ");
1803                 ia32_emit_dest_register(env, node, 0);
1804         }
1805         be_emit_finish_line_gas(env, node);
1806 }
1807
1808 static
1809 void emit_be_Copy(ia32_emit_env_t *env, const ir_node *node) {
1810         Copy_emitter(env, node, be_get_Copy_op(node));
1811 }
1812
1813 static
1814 void emit_be_CopyKeep(ia32_emit_env_t *env, const ir_node *node) {
1815         Copy_emitter(env, node, be_get_CopyKeep_op(node));
1816 }
1817
1818 /**
1819  * Emits code for exchange.
1820  */
1821 static
1822 void emit_be_Perm(ia32_emit_env_t *env, const ir_node *node) {
1823         const arch_register_t *in1, *in2;
1824         const arch_register_class_t *cls1, *cls2;
1825
1826         in1 = arch_get_irn_register(env->arch_env, get_irn_n(node, 0));
1827         in2 = arch_get_irn_register(env->arch_env, get_irn_n(node, 1));
1828
1829         cls1 = arch_register_get_class(in1);
1830         cls2 = arch_register_get_class(in2);
1831
1832         assert(cls1 == cls2 && "Register class mismatch at Perm");
1833
1834         if (cls1 == &ia32_reg_classes[CLASS_ia32_gp]) {
1835                 be_emit_cstring(env, "\txchg ");
1836                 ia32_emit_source_register(env, node, 1);
1837                 be_emit_cstring(env, ", ");
1838                 ia32_emit_source_register(env, node, 0);
1839                 be_emit_finish_line_gas(env, node);
1840         } else if (cls1 == &ia32_reg_classes[CLASS_ia32_xmm]) {
1841                 be_emit_cstring(env, "\txorpd ");
1842                 ia32_emit_source_register(env, node, 1);
1843                 be_emit_cstring(env, ", ");
1844                 ia32_emit_source_register(env, node, 0);
1845                 be_emit_finish_line_gas(env, NULL);
1846
1847                 be_emit_cstring(env, "\txorpd ");
1848                 ia32_emit_source_register(env, node, 0);
1849                 be_emit_cstring(env, ", ");
1850                 ia32_emit_source_register(env, node, 1);
1851                 be_emit_finish_line_gas(env, NULL);
1852
1853                 be_emit_cstring(env, "\txorpd ");
1854                 ia32_emit_source_register(env, node, 1);
1855                 be_emit_cstring(env, ", ");
1856                 ia32_emit_source_register(env, node, 0);
1857                 be_emit_finish_line_gas(env, node);
1858         } else if (cls1 == &ia32_reg_classes[CLASS_ia32_vfp]) {
1859                 /* is a NOP */
1860         } else if (cls1 == &ia32_reg_classes[CLASS_ia32_st]) {
1861                 /* is a NOP */
1862         }
1863 }
1864
1865 /**
1866  * Emits code for Constant loading.
1867  */
1868 static
1869 void emit_ia32_Const(ia32_emit_env_t *env, const ir_node *node) {
1870         ia32_immop_type_t imm_tp = get_ia32_immop_type(node);
1871
1872         if (imm_tp == ia32_ImmSymConst) {
1873                 be_emit_cstring(env, "\tmovl ");
1874                 ia32_emit_immediate(env, node);
1875                 be_emit_cstring(env, ", ");
1876                 ia32_emit_dest_register(env, node, 0);
1877         } else {
1878                 tarval *tv = get_ia32_Immop_tarval(node);
1879                 assert(get_irn_mode(node) == mode_Iu);
1880                 /* beware: in some rare cases mode is mode_b which has no tarval_null() */
1881                 if (tarval_is_null(tv)) {
1882                         if (env->isa->opt_arch == arch_pentium_4) {
1883                                 /* P4 prefers sub r, r, others xor r, r */
1884                                 be_emit_cstring(env, "\tsubl ");
1885                         } else {
1886                                 be_emit_cstring(env, "\txorl ");
1887                         }
1888                         ia32_emit_dest_register(env, node, 0);
1889                         be_emit_cstring(env, ", ");
1890                         ia32_emit_dest_register(env, node, 0);
1891                 } else {
1892                         be_emit_cstring(env, "\tmovl ");
1893                         ia32_emit_immediate(env, node);
1894                         be_emit_cstring(env, ", ");
1895                         ia32_emit_dest_register(env, node, 0);
1896                 }
1897         }
1898         be_emit_finish_line_gas(env, node);
1899 }
1900
1901 /**
1902  * Emits code to load the TLS base
1903  */
1904 static
1905 void emit_ia32_LdTls(ia32_emit_env_t *env, const ir_node *node) {
1906         be_emit_cstring(env, "\tmovl %gs:0, ");
1907         ia32_emit_dest_register(env, node, 0);
1908         be_emit_finish_line_gas(env, node);
1909 }
1910
1911 static
1912 void emit_be_Return(ia32_emit_env_t *env, const ir_node *node) {
1913         be_emit_cstring(env, "\tret");
1914         be_emit_finish_line_gas(env, node);
1915 }
1916
1917 static
1918 void emit_Nothing(ia32_emit_env_t *env, const ir_node *node) {
1919 }
1920
1921
1922 /***********************************************************************************
1923  *                  _          __                                             _
1924  *                 (_)        / _|                                           | |
1925  *  _ __ ___   __ _ _ _ __   | |_ _ __ __ _ _ __ ___   _____      _____  _ __| | __
1926  * | '_ ` _ \ / _` | | '_ \  |  _| '__/ _` | '_ ` _ \ / _ \ \ /\ / / _ \| '__| |/ /
1927  * | | | | | | (_| | | | | | | | | | | (_| | | | | | |  __/\ V  V / (_) | |  |   <
1928  * |_| |_| |_|\__,_|_|_| |_| |_| |_|  \__,_|_| |_| |_|\___| \_/\_/ \___/|_|  |_|\_\
1929  *
1930  ***********************************************************************************/
1931
1932 /**
1933  * Enters the emitter functions for handled nodes into the generic
1934  * pointer of an opcode.
1935  */
1936 static
1937 void ia32_register_emitters(void) {
1938
1939 #define IA32_EMIT2(a,b) op_ia32_##a->ops.generic = (op_func)emit_ia32_##b
1940 #define IA32_EMIT(a)    IA32_EMIT2(a,a)
1941 #define EMIT(a)         op_##a->ops.generic = (op_func)emit_##a
1942 #define IGN(a)                  op_##a->ops.generic = (op_func)emit_Nothing
1943 #define BE_EMIT(a)      op_be_##a->ops.generic = (op_func)emit_be_##a
1944 #define BE_IGN(a)               op_be_##a->ops.generic = (op_func)emit_Nothing
1945
1946         /* first clear the generic function pointer for all ops */
1947         clear_irp_opcodes_generic_func();
1948
1949         /* register all emitter functions defined in spec */
1950         ia32_register_spec_emitters();
1951
1952         /* other ia32 emitter functions */
1953         IA32_EMIT(Asm);
1954         IA32_EMIT(CondJmp);
1955         IA32_EMIT(TestJmp);
1956         IA32_EMIT(CJmp);
1957         IA32_EMIT(CJmpAM);
1958         IA32_EMIT(CmpCMov);
1959         IA32_EMIT(PsiCondCMov);
1960         IA32_EMIT(CmpSet);
1961         IA32_EMIT(PsiCondSet);
1962         IA32_EMIT(SwitchJmp);
1963         IA32_EMIT(CopyB);
1964         IA32_EMIT(CopyB_i);
1965         IA32_EMIT(Conv_I2FP);
1966         IA32_EMIT(Conv_FP2I);
1967         IA32_EMIT(Conv_FP2FP);
1968         IA32_EMIT(Conv_I2I);
1969         IA32_EMIT(Conv_I2I8Bit);
1970         IA32_EMIT(Const);
1971         IA32_EMIT(LdTls);
1972         IA32_EMIT(xCmp);
1973         IA32_EMIT(xCmpSet);
1974         IA32_EMIT(xCmpCMov);
1975         IA32_EMIT(xCondJmp);
1976         IA32_EMIT2(fcomJmp, x87CondJmp);
1977         IA32_EMIT2(fcompJmp, x87CondJmp);
1978         IA32_EMIT2(fcomppJmp, x87CondJmp);
1979         IA32_EMIT2(fcomrJmp, x87CondJmp);
1980         IA32_EMIT2(fcomrpJmp, x87CondJmp);
1981         IA32_EMIT2(fcomrppJmp, x87CondJmp);
1982
1983         /* benode emitter */
1984         BE_EMIT(Call);
1985         BE_EMIT(IncSP);
1986         BE_EMIT(SetSP);
1987         BE_EMIT(Copy);
1988         BE_EMIT(CopyKeep);
1989         BE_EMIT(Perm);
1990         BE_EMIT(Return);
1991
1992         BE_IGN(RegParams);
1993         BE_IGN(Barrier);
1994         BE_IGN(Keep);
1995
1996         /* firm emitter */
1997         EMIT(Jmp);
1998         IGN(Proj);
1999         IGN(Phi);
2000         IGN(Start);
2001
2002 #undef BE_EMIT
2003 #undef EMIT
2004 #undef IGN
2005 #undef IA32_EMIT2
2006 #undef IA32_EMIT
2007 }
2008
2009 static const char *last_name = NULL;
2010 static unsigned last_line = -1;
2011 static unsigned num = -1;
2012
2013 /**
2014  * Emit the debug support for node node.
2015  */
2016 static
2017 void ia32_emit_dbg(ia32_emit_env_t *env, const ir_node *node) {
2018         dbg_info *db = get_irn_dbg_info(node);
2019         unsigned lineno;
2020         const char *fname = be_retrieve_dbg_info(db, &lineno);
2021
2022         if (! env->cg->birg->main_env->options->stabs_debug_support)
2023                 return;
2024
2025         if (fname) {
2026                 if (last_name != fname) {
2027                         last_line = -1;
2028                         be_dbg_include_begin(env->cg->birg->main_env->db_handle, fname);
2029                         last_name = fname;
2030                 }
2031                 if (last_line != lineno) {
2032                         char name[64];
2033
2034                         snprintf(name, sizeof(name), ".LM%u", ++num);
2035                         last_line = lineno;
2036                         be_dbg_line(env->cg->birg->main_env->db_handle, lineno, name);
2037                         be_emit_string(env, name);
2038                         be_emit_cstring(env, ":\n");
2039                         be_emit_write_line(env);
2040                 }
2041         }
2042 }
2043
2044 typedef void (*emit_func_ptr) (ia32_emit_env_t *, const ir_node *);
2045
2046 /**
2047  * Emits code for a node.
2048  */
2049 static
2050 void ia32_emit_node(ia32_emit_env_t *env, const ir_node *node) {
2051         ir_op *op = get_irn_op(node);
2052
2053         DBG((dbg, LEVEL_1, "emitting code for %+F\n", node));
2054
2055         if (op->ops.generic) {
2056                 emit_func_ptr func = (emit_func_ptr) op->ops.generic;
2057                 ia32_emit_dbg(env, node);
2058                 (*func) (env, node);
2059         } else {
2060                 emit_Nothing(env, node);
2061                 ir_fprintf(stderr, "Warning: No emit handler for node %+F (%+G)\n", node, node);
2062         }
2063 }
2064
2065 /**
2066  * Emits gas alignment directives
2067  */
2068 static
2069 void ia32_emit_alignment(ia32_emit_env_t *env, unsigned align, unsigned skip) {
2070         be_emit_cstring(env, "\t.p2align ");
2071         be_emit_irprintf(env->emit, "%u,,%u\n", align, skip);
2072         be_emit_write_line(env);
2073 }
2074
2075 /**
2076  * Emits gas alignment directives for Functions depended on cpu architecture.
2077  */
2078 static
2079 void ia32_emit_align_func(ia32_emit_env_t *env, cpu_support cpu) {
2080         unsigned align;
2081         unsigned maximum_skip;
2082
2083         switch (cpu) {
2084                 case arch_i386:
2085                         align = 2;
2086                         break;
2087                 case arch_i486:
2088                         align = 4;
2089                         break;
2090                 case arch_k6:
2091                         align = 5;
2092                         break;
2093                 default:
2094                         align = 4;
2095         }
2096         maximum_skip = (1 << align) - 1;
2097         ia32_emit_alignment(env, align, maximum_skip);
2098 }
2099
2100 /**
2101  * Emits gas alignment directives for Labels depended on cpu architecture.
2102  */
2103 static
2104 void ia32_emit_align_label(ia32_emit_env_t *env, cpu_support cpu) {
2105         unsigned align; unsigned maximum_skip;
2106
2107         switch (cpu) {
2108                 case arch_i386:
2109                         align = 2;
2110                         break;
2111                 case arch_i486:
2112                         align = 4;
2113                         break;
2114                 case arch_k6:
2115                         align = 5;
2116                         break;
2117                 default:
2118                         align = 4;
2119         }
2120         maximum_skip = (1 << align) - 1;
2121         ia32_emit_alignment(env, align, maximum_skip);
2122 }
2123
2124 /**
2125  * Test wether a block should be aligned.
2126  * For cpus in the P4/Athlon class it is usefull to align jump labels to
2127  * 16 bytes. However we should only do that if the alignment nops before the
2128  * label aren't executed more often than we have jumps to the label.
2129  */
2130 static
2131 int should_align_block(ia32_emit_env_t *env, ir_node *block, ir_node *prev) {
2132         static const double DELTA = .0001;
2133         ir_exec_freq *exec_freq = env->cg->birg->exec_freq;
2134         double        block_freq;
2135         double        prev_freq = 0;  /**< execfreq of the fallthrough block */
2136         double        jmp_freq  = 0;  /**< execfreq of all non-fallthrough blocks */
2137         cpu_support   cpu       = env->isa->opt_arch;
2138         int           i, n_cfgpreds;
2139
2140         if(exec_freq == NULL)
2141                 return 0;
2142         if(cpu == arch_i386 || cpu == arch_i486)
2143                 return 0;
2144
2145         block_freq = get_block_execfreq(exec_freq, block);
2146         if(block_freq < DELTA)
2147                 return 0;
2148
2149         n_cfgpreds = get_Block_n_cfgpreds(block);
2150         for(i = 0; i < n_cfgpreds; ++i) {
2151                 ir_node *pred      = get_Block_cfgpred_block(block, i);
2152                 double   pred_freq = get_block_execfreq(exec_freq, pred);
2153
2154                 if(pred == prev) {
2155                         prev_freq += pred_freq;
2156                 } else {
2157                         jmp_freq  += pred_freq;
2158                 }
2159         }
2160
2161         if(prev_freq < DELTA && !(jmp_freq < DELTA))
2162                 return 1;
2163
2164         jmp_freq /= prev_freq;
2165
2166         switch (cpu) {
2167                 case arch_athlon:
2168                 case arch_athlon_64:
2169                 case arch_k6:
2170                         return jmp_freq > 3;
2171                 default:
2172                         return jmp_freq > 2;
2173         }
2174 }
2175
2176 static
2177 void ia32_emit_block_header(ia32_emit_env_t *env, ir_node *block, ir_node *prev)
2178 {
2179         int           n_cfgpreds;
2180         int           need_label;
2181         int           i, arity;
2182         ir_exec_freq  *exec_freq = env->cg->birg->exec_freq;
2183
2184         need_label = 1;
2185         n_cfgpreds = get_Block_n_cfgpreds(block);
2186         if (n_cfgpreds == 0) {
2187                 need_label = 0;
2188         } else if (n_cfgpreds == 1) {
2189                 ir_node *pred       = get_Block_cfgpred(block, 0);
2190                 ir_node *pred_block = get_nodes_block(pred);
2191
2192                 /* we don't need labels for fallthrough blocks, however switch-jmps
2193                  * are no fallthoughs */
2194                 if(pred_block == prev &&
2195                                 !(is_Proj(pred) && is_ia32_SwitchJmp(get_Proj_pred(pred)))) {
2196                         need_label = 0;
2197                 } else {
2198                         need_label = 1;
2199                 }
2200         } else {
2201                 need_label = 1;
2202         }
2203
2204         if (should_align_block(env, block, prev)) {
2205                 assert(need_label);
2206                 ia32_emit_align_label(env, env->isa->opt_arch);
2207         }
2208
2209         if(need_label) {
2210                 ia32_emit_block_name(env, block);
2211                 be_emit_char(env, ':');
2212
2213                 be_emit_pad_comment(env);
2214                 be_emit_cstring(env, "   /* preds:");
2215
2216                 /* emit list of pred blocks in comment */
2217                 arity = get_irn_arity(block);
2218                 for (i = 0; i < arity; ++i) {
2219                         ir_node *predblock = get_Block_cfgpred_block(block, i);
2220                         be_emit_irprintf(env->emit, " %d", get_irn_node_nr(predblock));
2221                 }
2222         } else {
2223                 be_emit_cstring(env, "\t/* ");
2224                 ia32_emit_block_name(env, block);
2225                 be_emit_cstring(env, ": ");
2226         }
2227         if (exec_freq != NULL) {
2228                 be_emit_irprintf(env->emit, " freq: %f",
2229                                  get_block_execfreq(exec_freq, block));
2230         }
2231         be_emit_cstring(env, " */\n");
2232         be_emit_write_line(env);
2233 }
2234
2235 /**
2236  * Walks over the nodes in a block connected by scheduling edges
2237  * and emits code for each node.
2238  */
2239 static
2240 void ia32_gen_block(ia32_emit_env_t *env, ir_node *block, ir_node *last_block)
2241 {
2242         const ir_node *node;
2243
2244         ia32_emit_block_header(env, block, last_block);
2245
2246         /* emit the contents of the block */
2247         ia32_emit_dbg(env, block);
2248         sched_foreach(block, node) {
2249                 ia32_emit_node(env, node);
2250         }
2251 }
2252
2253 /**
2254  * Emits code for function start.
2255  */
2256 static
2257 void ia32_emit_func_prolog(ia32_emit_env_t *env, ir_graph *irg) {
2258         ir_entity  *irg_ent  = get_irg_entity(irg);
2259         const char *irg_name = get_entity_ld_name(irg_ent);
2260         cpu_support cpu      = env->isa->opt_arch;
2261         const be_irg_t *birg = env->cg->birg;
2262
2263         be_emit_write_line(env);
2264         be_gas_emit_switch_section(env->emit, GAS_SECTION_TEXT);
2265         be_dbg_method_begin(birg->main_env->db_handle, irg_ent, be_abi_get_stack_layout(birg->abi));
2266         ia32_emit_align_func(env, cpu);
2267         if (get_entity_visibility(irg_ent) == visibility_external_visible) {
2268                 be_emit_cstring(env, ".global ");
2269                 be_emit_string(env, irg_name);
2270                 be_emit_char(env, '\n');
2271                 be_emit_write_line(env);
2272         }
2273         ia32_emit_function_object(env, irg_name);
2274         be_emit_string(env, irg_name);
2275         be_emit_cstring(env, ":\n");
2276         be_emit_write_line(env);
2277 }
2278
2279 /**
2280  * Emits code for function end
2281  */
2282 static
2283 void ia32_emit_func_epilog(ia32_emit_env_t *env, ir_graph *irg) {
2284         const char *irg_name = get_entity_ld_name(get_irg_entity(irg));
2285         const be_irg_t *birg = env->cg->birg;
2286
2287         ia32_emit_function_size(env, irg_name);
2288         be_dbg_method_end(birg->main_env->db_handle);
2289         be_emit_char(env, '\n');
2290         be_emit_write_line(env);
2291 }
2292
2293 /**
2294  * Block-walker:
2295  * Sets labels for control flow nodes (jump target)
2296  */
2297 static
2298 void ia32_gen_labels(ir_node *block, void *data) {
2299         ir_node *pred;
2300         int n = get_Block_n_cfgpreds(block);
2301
2302         for (n--; n >= 0; n--) {
2303                 pred = get_Block_cfgpred(block, n);
2304                 set_irn_link(pred, block);
2305         }
2306 }
2307
2308 /**
2309  * Emit an exception label if the current instruction can fail.
2310  */
2311 void ia32_emit_exc_label(ia32_emit_env_t *env, const ir_node *node) {
2312         if (get_ia32_exc_label(node)) {
2313                 be_emit_irprintf(env->emit, ".EXL%u\n", 0);
2314                 be_emit_write_line(env);
2315         }
2316 }
2317
2318 /**
2319  * Main driver. Emits the code for one routine.
2320  */
2321 void ia32_gen_routine(ia32_code_gen_t *cg, ir_graph *irg) {
2322         ia32_emit_env_t env;
2323         ir_node *block;
2324         ir_node *last_block = NULL;
2325         int i, n;
2326
2327         env.isa      = (ia32_isa_t *)cg->arch_env->isa;
2328         env.emit     = &env.isa->emit;
2329         env.arch_env = cg->arch_env;
2330         env.cg       = cg;
2331
2332         ia32_register_emitters();
2333
2334         ia32_emit_func_prolog(&env, irg);
2335         irg_block_walk_graph(irg, ia32_gen_labels, NULL, &env);
2336
2337         n = ARR_LEN(cg->blk_sched);
2338         for (i = 0; i < n;) {
2339                 ir_node *next_bl;
2340
2341                 block   = cg->blk_sched[i];
2342                 ++i;
2343                 next_bl = i < n ? cg->blk_sched[i] : NULL;
2344
2345                 /* set here the link. the emitter expects to find the next block here */
2346                 set_irn_link(block, next_bl);
2347                 ia32_gen_block(&env, block, last_block);
2348                 last_block = block;
2349         }
2350
2351         ia32_emit_func_epilog(&env, irg);
2352 }
2353
2354 void ia32_init_emitter(void)
2355 {
2356         FIRM_DBG_REGISTER(dbg, "firm.be.ia32.emitter");
2357 }