added function to retrieve irn ops
[libfirm] / ir / be / ia32 / ia32_transform.c
index 0874908..52ee5ea 100644 (file)
@@ -1,7 +1,6 @@
 /**
- * This file implements the IR transformation from firm into
- * ia32-Firm.
- *
+ * This file implements the IR transformation from firm into ia32-Firm.
+ * @author Christian Wuerdig
  * $Id$
  */
 
 #include "dbginfo.h"
 #include "irprintf.h"
 #include "debug.h"
+#include "irdom.h"
+#include "type.h"
+#include "entity.h"
+#include "archop.h"     /* we need this for Min and Max nodes */
 
 #include "../benode_t.h"
 #include "../besched.h"
 #include "../beabi.h"
 
 #include "bearch_ia32_t.h"
-
 #include "ia32_nodes_attr.h"
-#include "../arch/archop.h"     /* we need this for Min and Max nodes */
 #include "ia32_transform.h"
 #include "ia32_new_nodes.h"
 #include "ia32_map_regs.h"
 #include "ia32_dbg_stat.h"
+#include "ia32_optimize.h"
+#include "ia32_util.h"
 
 #include "gen_ia32_regalloc_if.h"
 
@@ -82,14 +85,16 @@ typedef enum {
  * Returns 1 if irn is a Const representing 0, 0 otherwise
  */
 static INLINE int is_ia32_Const_0(ir_node *irn) {
-       return is_ia32_Const(irn) ? classify_tarval(get_ia32_Immop_tarval(irn)) == TV_CLASSIFY_NULL : 0;
+       return (is_ia32_irn(irn) && get_ia32_op_type(irn) == ia32_Const) ?
+               classify_tarval(get_ia32_Immop_tarval(irn)) == TV_CLASSIFY_NULL : 0;
 }
 
 /**
  * Returns 1 if irn is a Const representing 1, 0 otherwise
  */
 static INLINE int is_ia32_Const_1(ir_node *irn) {
-       return is_ia32_Const(irn) ? classify_tarval(get_ia32_Immop_tarval(irn)) == TV_CLASSIFY_ONE : 0;
+       return (is_ia32_irn(irn) && get_ia32_op_type(irn) == ia32_Const) ?
+               classify_tarval(get_ia32_Immop_tarval(irn)) == TV_CLASSIFY_ONE : 0;
 }
 
 /**
@@ -145,6 +150,24 @@ static ir_node *gen_sse_conv_int2float(ia32_code_gen_t *cg, dbg_info *dbg, ir_gr
        return new_rd_Proj(dbg, irg, block, conv, tgt_mode, pn_ia32_Conv_I2FP_res);
 }
 
+/**
+* SSE convert of an float node into a double node.
+*/
+static ir_node *gen_sse_conv_f2d(ia32_code_gen_t *cg, dbg_info *dbg, ir_graph *irg, ir_node *block,
+                                                                          ir_node *in, ir_node *old_node)
+{
+       ir_node *noreg = ia32_new_NoReg_gp(cg);
+       ir_node *nomem = new_rd_NoMem(irg);
+
+       ir_node *conv = new_rd_ia32_Conv_FP2FP(dbg, irg, block, noreg, noreg, in, nomem);
+       set_ia32_src_mode(conv, mode_F);
+       set_ia32_tgt_mode(conv, mode_D);
+       set_ia32_am_support(conv, ia32_am_Source);
+       SET_IA32_ORIG_NODE(conv, ia32_get_old_node_name(cg, old_node));
+
+       return new_rd_Proj(dbg, irg, block, conv, mode_D, pn_ia32_Conv_FP2FP_res);
+}
+
 /* Generates an entity for a known FP const (used for FP Neg + Abs) */
 static ident *gen_fp_known_const(ir_mode *mode, ia32_known_const_t kct) {
        static const struct {
@@ -233,22 +256,31 @@ static ir_node *get_expr_op(ir_node *op1, ir_node *op2) {
  * @return The constructed ia32 node.
  */
 static ir_node *gen_binop(ia32_transform_env_t *env, ir_node *op1, ir_node *op2, construct_binop_func *func) {
-       ir_node           *new_op   = NULL;
-       ir_mode           *mode     = env->mode;
-       dbg_info          *dbg      = env->dbg;
-       ir_graph          *irg      = env->irg;
-       ir_node           *block    = env->block;
-       ir_node           *noreg_gp = ia32_new_NoReg_gp(env->cg);
-       ir_node           *noreg_fp = ia32_new_NoReg_fp(env->cg);
-       ir_node           *nomem    = new_NoMem();
-       ir_node           *expr_op, *imm_op;
+       ir_node  *new_op   = NULL;
+       ir_mode  *mode     = env->mode;
+       dbg_info *dbg      = env->dbg;
+       ir_graph *irg      = env->irg;
+       ir_node  *block    = env->block;
+       ir_node  *noreg_gp = ia32_new_NoReg_gp(env->cg);
+       ir_node  *noreg_fp = ia32_new_NoReg_fp(env->cg);
+       ir_node  *nomem    = new_NoMem();
+       int      is_mul    = 0;
+       ir_node  *expr_op, *imm_op;
        DEBUG_ONLY(firm_dbg_module_t *mod = env->mod;)
 
        /* Check if immediate optimization is on and */
        /* if it's an operation with immediate.      */
-       if (! (env->cg->opt & IA32_OPT_IMMOPS)) {
+       /* Mul/MulS/Mulh don't support immediates    */
+       if (! (env->cg->opt & IA32_OPT_IMMOPS) ||
+               func == new_rd_ia32_Mul            ||
+               func == new_rd_ia32_Mulh           ||
+               func == new_rd_ia32_MulS)
+       {
                expr_op = op1;
                imm_op  = NULL;
+               /* immediate operations are requested, but we are here: it a mul */
+               if (env->cg->opt & IA32_OPT_IMMOPS)
+                       is_mul = 1;
        }
        else if (is_op_commutative(get_irn_op(env->irn))) {
                imm_op  = get_immediate_op(op1, op2);
@@ -300,6 +332,10 @@ static ir_node *gen_binop(ia32_transform_env_t *env, ir_node *op1, ir_node *op2,
                        /* set AM support */
                        set_ia32_am_support(new_op, ia32_am_Full);
                }
+
+               /* Muls can only have AM source */
+               if (is_mul)
+                       set_ia32_am_support(new_op, ia32_am_Source);
        }
 
        SET_IA32_ORIG_NODE(new_op, ia32_get_old_node_name(env->cg, env->irn));
@@ -356,6 +392,7 @@ static ir_node *gen_shift_binop(ia32_transform_env_t *env, ir_node *op1, ir_node
 
                if (tv) {
                        tv = tarval_mod(tv, new_tarval_from_long(32, mode_Iu));
+                       set_ia32_Immop_tarval(imm_op, tv);
                }
                else {
                        imm_op = NULL;
@@ -523,13 +560,13 @@ static ir_node *gen_Add(ia32_transform_env_t *env) {
                                set_ia32_am_sc(new_op, get_ia32_id_cnst(op2));
                                set_ia32_am_flavour(new_op, ia32_am_OB);
 
-                               DBG_OPT_LEA1(op2, new_op);
+                               DBG_OPT_LEA3(op1, op2, env->irn, new_op);
                        }
                        else {
                                /* this is the 1st case */
                                new_op = new_rd_ia32_Lea(dbg, irg, block, noreg, noreg, mode);
 
-                               DBG_OPT_LEA2(op1, op2, new_op);
+                               DBG_OPT_LEA3(op1, op2, env->irn, new_op);
 
                                if (get_ia32_op_type(op1) == ia32_SymConst) {
                                        set_ia32_am_sc(new_op, get_ia32_id_cnst(op1));
@@ -831,13 +868,13 @@ static ir_node *gen_Sub(ia32_transform_env_t *env) {
        }
        else {
                /* integer SUB */
-               if (!expr_op) {
+               if (! expr_op) {
                        /* No expr_op means, that we have two const - one symconst and */
                        /* one tarval or another symconst - because this case is not   */
                        /* covered by constant folding                                 */
                        /* We need to check for:                                       */
-                       /*  1) symconst + const    -> becomes a LEA                    */
-                       /*  2) symconst + symconst -> becomes a const + LEA as the elf */
+                       /*  1) symconst - const    -> becomes a LEA                    */
+                       /*  2) symconst - symconst -> becomes a const - LEA as the elf */
                        /*        linker doesn't support two symconsts                 */
 
                        if (get_ia32_op_type(op1) == ia32_SymConst && get_ia32_op_type(op2) == ia32_SymConst) {
@@ -847,13 +884,13 @@ static ir_node *gen_Sub(ia32_transform_env_t *env) {
                                set_ia32_am_sc_sign(new_op);
                                set_ia32_am_flavour(new_op, ia32_am_OB);
 
-                               DBG_OPT_LEA1(op2, new_op);
+                               DBG_OPT_LEA3(op1, op2, env->irn, new_op);
                        }
                        else {
                                /* this is the 1st case */
                                new_op = new_rd_ia32_Lea(dbg, irg, block, noreg, noreg, mode);
 
-                               DBG_OPT_LEA2(op1, op2, new_op);
+                               DBG_OPT_LEA3(op1, op2, env->irn, new_op);
 
                                if (get_ia32_op_type(op1) == ia32_SymConst) {
                                        set_ia32_am_sc(new_op, get_ia32_id_cnst(op1));
@@ -919,6 +956,7 @@ static ir_node *generate_DivMod(ia32_transform_env_t *env, ir_node *dividend, ir
        ir_mode  *mode  = env->mode;
        ir_node  *irn   = env->irn;
        ir_node  *mem;
+       int      n;
 
        switch (dm_flav) {
                case flavour_Div:
@@ -956,17 +994,23 @@ static ir_node *generate_DivMod(ia32_transform_env_t *env, ir_node *dividend, ir
        /* Only one proj is used -> We must add a second proj and */
        /* connect this one to a Keep node to eat up the second   */
        /* destroyed register.                                    */
-       if (get_irn_n_edges(irn) == 1) {
-               proj = get_edge_src_irn(get_irn_out_edge_first(irn));
-               assert(is_Proj(proj) && "non-Proj to Div/Mod node");
+       n    = get_irn_n_edges(irn);
+       proj = NULL;
+       if (n == 2)
+               proj = ia32_get_proj_for_mode(irn, mode_M);
+
+       /* in case of two projs, one must be the memory proj */
+       if (n == 1 || (n == 2 && proj)) {
+               proj = ia32_get_res_proj(irn);
+               assert(proj && "Result proj expected");
 
                if (get_irn_op(irn) == op_Div) {
                        set_Proj_proj(proj, pn_DivMod_res_div);
-                       in_keep[0] = new_rd_Proj(dbg, irg, block, res, mode_Is, pn_DivMod_res_mod);
+                       in_keep[0] = new_rd_Proj(dbg, irg, block, res, mode, pn_DivMod_res_mod);
                }
                else {
                        set_Proj_proj(proj, pn_DivMod_res_mod);
-                       in_keep[0] = new_rd_Proj(dbg, irg, block, res, mode_Is, pn_DivMod_res_div);
+                       in_keep[0] = new_rd_Proj(dbg, irg, block, res, mode, pn_DivMod_res_div);
                }
 
                be_new_Keep(&ia32_reg_classes[CLASS_ia32_gp], irg, block, 1, in_keep);
@@ -974,7 +1018,7 @@ static ir_node *generate_DivMod(ia32_transform_env_t *env, ir_node *dividend, ir
 
        SET_IA32_ORIG_NODE(res, ia32_get_old_node_name(env->cg, env->irn));
 
-       set_ia32_res_mode(res, mode_Is);
+       set_ia32_res_mode(res, mode);
 
        return res;
 }
@@ -1164,7 +1208,7 @@ static ir_node *gen_Rot(ia32_transform_env_t *env) {
  * @param op    The Minus operand
  * @return The created ia32 Minus node
  */
-static ir_node *gen_Minus_ex(ia32_transform_env_t *env, ir_node *op) {
+ir_node *gen_Minus_ex(ia32_transform_env_t *env, ir_node *op) {
        ident   *name;
        ir_node *new_op;
        int      size;
@@ -1181,12 +1225,13 @@ static ir_node *gen_Minus_ex(ia32_transform_env_t *env, ir_node *op) {
                        size   = get_mode_size_bits(env->mode);
                        name   = gen_fp_known_const(env->mode, size == 32 ? ia32_SSIGN : ia32_DSIGN);
 
-                       set_ia32_sc(new_op, name);
+                       set_ia32_am_sc(new_op, name);
 
                        SET_IA32_ORIG_NODE(new_op, ia32_get_old_node_name(env->cg, env->irn));
 
                        set_ia32_res_mode(new_op, env->mode);
-                       set_ia32_immop_type(new_op, ia32_ImmSymConst);
+                       set_ia32_op_type(new_op, ia32_AddrModeS);
+                       set_ia32_ls_mode(new_op, env->mode);
 
                        new_op = new_rd_Proj(env->dbg, env->irg, env->block, new_op, env->mode, pn_ia32_xEor_res);
                }
@@ -1253,12 +1298,13 @@ static ir_node *gen_Abs(ia32_transform_env_t *env) {
                        size   = get_mode_size_bits(mode);
                        name   = gen_fp_known_const(mode, size == 32 ? ia32_SABS : ia32_DABS);
 
-                       set_ia32_sc(res, name);
+                       set_ia32_am_sc(res, name);
 
                        SET_IA32_ORIG_NODE(res, ia32_get_old_node_name(env->cg, env->irn));
 
                        set_ia32_res_mode(res, mode);
-                       set_ia32_immop_type(res, ia32_ImmSymConst);
+                       set_ia32_op_type(res, ia32_AddrModeS);
+                       set_ia32_ls_mode(res, env->mode);
 
                        res = new_rd_Proj(dbg, irg, block, res, mode, pn_ia32_xAnd_res);
                }
@@ -1300,14 +1346,14 @@ static ir_node *gen_Abs(ia32_transform_env_t *env) {
  * @return the created ia32 Load node
  */
 static ir_node *gen_Load(ia32_transform_env_t *env) {
-       ir_node    *node  = env->irn;
-       ir_node    *noreg = ia32_new_NoReg_gp(env->cg);
-       ir_node    *ptr   = get_Load_ptr(node);
-       ir_node    *lptr  = ptr;
-       ir_mode    *mode  = get_Load_mode(node);
-       int        is_imm = 0;
+       ir_node *node  = env->irn;
+       ir_node *noreg = ia32_new_NoReg_gp(env->cg);
+       ir_node *ptr   = get_Load_ptr(node);
+       ir_node *lptr  = ptr;
+       ir_mode *mode  = get_Load_mode(node);
+       int     is_imm = 0;
        ir_node *new_op;
-       ia32_am_flavour_t am_flav = ia32_B;
+       ia32_am_flavour_t am_flav = ia32_am_B;
 
        /* address might be a constant (symconst or absolute address) */
        if (is_ia32_Const(ptr)) {
@@ -1328,14 +1374,14 @@ static ir_node *gen_Load(ia32_transform_env_t *env) {
 
        /* base is an constant address */
        if (is_imm) {
-               if (get_ia32_immop_type(ptr) == ia32_ImmSymConst) {
+               if (get_ia32_op_type(ptr) == ia32_SymConst) {
                        set_ia32_am_sc(new_op, get_ia32_id_cnst(ptr));
+                       am_flav = ia32_am_N;
                }
                else {
                        add_ia32_am_offs(new_op, get_ia32_cnst(ptr));
+                       am_flav = ia32_am_O;
                }
-
-               am_flav = ia32_O;
        }
 
        set_ia32_am_support(new_op, ia32_am_Source);
@@ -1343,6 +1389,16 @@ static ir_node *gen_Load(ia32_transform_env_t *env) {
        set_ia32_am_flavour(new_op, am_flav);
        set_ia32_ls_mode(new_op, mode);
 
+       /*
+               check for special case: the loaded value might not be used (optimized, volatile, ...)
+               we add a Proj + Keep for volatile loads and ignore all other cases
+       */
+       if (! get_proj_for_pn(node, pn_Load_res) && get_Load_volatility(node) == volatility_is_volatile) {
+               /* add a result proj and a Keep to produce a pseudo use */
+               ir_node *proj = new_r_Proj(env->irg, env->block, new_op, mode, pn_ia32_Load_res);
+               be_new_Keep(arch_get_irn_reg_class(env->cg->arch_env, proj, -1), env->irg, env->block, 1, &proj);
+       }
+
        SET_IA32_ORIG_NODE(new_op, ia32_get_old_node_name(env->cg, env->irn));
 
        return new_op;
@@ -1367,7 +1423,7 @@ static ir_node *gen_Store(ia32_transform_env_t *env) {
        ir_node *sval    = val;
        int      is_imm  = 0;
        ir_node *new_op;
-       ia32_am_flavour_t am_flav = ia32_B;
+       ia32_am_flavour_t am_flav = ia32_am_B;
        ia32_immop_type_t immop   = ia32_ImmNone;
 
        if (! mode_is_float(mode)) {
@@ -1416,18 +1472,18 @@ static ir_node *gen_Store(ia32_transform_env_t *env) {
        if (is_imm) {
                if (get_ia32_immop_type(ptr) == ia32_ImmSymConst) {
                        set_ia32_am_sc(new_op, get_ia32_id_cnst(ptr));
+                       am_flav = ia32_am_N;
                }
                else {
                        add_ia32_am_offs(new_op, get_ia32_cnst(ptr));
+                       am_flav = ia32_am_O;
                }
-
-               am_flav = ia32_O;
        }
 
        set_ia32_am_support(new_op, ia32_am_Dest);
        set_ia32_op_type(new_op, ia32_AddrModeD);
        set_ia32_am_flavour(new_op, am_flav);
-       set_ia32_ls_mode(new_op, get_irn_mode(val));
+       set_ia32_ls_mode(new_op, mode);
        set_ia32_immop_type(new_op, immop);
 
        SET_IA32_ORIG_NODE(new_op, ia32_get_old_node_name(env->cg, env->irn));
@@ -1472,7 +1528,9 @@ static ir_node *gen_Cond(ia32_transform_env_t *env) {
                        pn_Cmp pnc = get_Proj_proj(sel);
 
                        if ((pnc == pn_Cmp_Eq || pnc == pn_Cmp_Lg) && mode_is_int(get_irn_mode(expr))) {
-                               if (classify_tarval(get_ia32_Immop_tarval(cnst)) == TV_CLASSIFY_NULL) {
+                               if (get_ia32_op_type(cnst) == ia32_Const &&
+                                       classify_tarval(get_ia32_Immop_tarval(cnst)) == TV_CLASSIFY_NULL)
+                               {
                                        /* a Cmp A =/!= 0 */
                                        ir_node    *op1  = expr;
                                        ir_node    *op2  = expr;
@@ -1575,21 +1633,23 @@ static ir_node *gen_Cond(ia32_transform_env_t *env) {
  * @return The transformed node.
  */
 static ir_node *gen_CopyB(ia32_transform_env_t *env) {
-       ir_node  *res   = NULL;
-       dbg_info *dbg   = env->dbg;
-       ir_graph *irg   = env->irg;
-       ir_mode  *mode  = env->mode;
-       ir_node  *block = env->block;
-       ir_node  *node  = env->irn;
-       ir_node  *src   = get_CopyB_src(node);
-       ir_node  *dst   = get_CopyB_dst(node);
-       ir_node  *mem   = get_CopyB_mem(node);
-       int       size  = get_type_size_bytes(get_CopyB_type(node));
-       int       rem;
-
-       /* If we have to copy more than 16 bytes, we use REP MOVSx and */
+       ir_node  *res      = NULL;
+       dbg_info *dbg      = env->dbg;
+       ir_graph *irg      = env->irg;
+       ir_node  *block    = env->block;
+       ir_node  *node     = env->irn;
+       ir_node  *src      = get_CopyB_src(node);
+       ir_node  *dst      = get_CopyB_dst(node);
+       ir_node  *mem      = get_CopyB_mem(node);
+       int      size      = get_type_size_bytes(get_CopyB_type(node));
+       ir_mode  *dst_mode = get_irn_mode(dst);
+       ir_mode  *src_mode = get_irn_mode(src);
+       int      rem;
+       ir_node  *in[3], *tmp;
+
+       /* If we have to copy more than 32 bytes, we use REP MOVSx and */
        /* then we need the size explicitly in ECX.                    */
-       if (size >= 16 * 4) {
+       if (size >= 32 * 4) {
                rem = size & 0x3; /* size % 4 */
                size >>= 2;
 
@@ -1597,13 +1657,30 @@ static ir_node *gen_CopyB(ia32_transform_env_t *env) {
                set_ia32_op_type(res, ia32_Const);
                set_ia32_Immop_tarval(res, new_tarval_from_long(size, mode_Is));
 
-               res = new_rd_ia32_CopyB(dbg, irg, block, dst, src, res, mem, mode);
+               res = new_rd_ia32_CopyB(dbg, irg, block, dst, src, res, mem);
                set_ia32_Immop_tarval(res, new_tarval_from_long(rem, mode_Is));
+
+               /* ok: now attach Proj's because rep movsd will destroy esi, edi and ecx */
+               in[0] = new_r_Proj(irg, block, res, dst_mode, pn_ia32_CopyB_DST);
+               in[1] = new_r_Proj(irg, block, res, src_mode, pn_ia32_CopyB_SRC);
+               in[2] = new_r_Proj(irg, block, res, mode_Is, pn_ia32_CopyB_CNT);
+               be_new_Keep(&ia32_reg_classes[CLASS_ia32_gp], irg, block, 3, in);
+
+               tmp = ia32_get_proj_for_mode(node, mode_M);
+               set_Proj_proj(tmp, pn_ia32_CopyB_M);
        }
        else {
-               res = new_rd_ia32_CopyB_i(dbg, irg, block, dst, src, mem, mode);
+               res = new_rd_ia32_CopyB_i(dbg, irg, block, dst, src, mem);
                set_ia32_Immop_tarval(res, new_tarval_from_long(size, mode_Is));
                set_ia32_immop_type(res, ia32_ImmConst);
+
+               /* ok: now attach Proj's because movsd will destroy esi and edi */
+               in[0] = new_r_Proj(irg, block, res, dst_mode, pn_ia32_CopyB_i_DST);
+               in[1] = new_r_Proj(irg, block, res, src_mode, pn_ia32_CopyB_i_SRC);
+               be_new_Keep(&ia32_reg_classes[CLASS_ia32_gp], irg, block, 2, in);
+
+               tmp = ia32_get_proj_for_mode(node, mode_M);
+               set_Proj_proj(tmp, pn_ia32_CopyB_i_M);
        }
 
        SET_IA32_ORIG_NODE(res, ia32_get_old_node_name(env->cg, env->irn));
@@ -1632,7 +1709,6 @@ static ir_node *gen_Mux(ia32_transform_env_t *env) {
        return NULL;
 }
 
-typedef ir_node *set_func_t(dbg_info *db, ir_graph *irg, ir_node *block, ir_node *cmp_a, ir_node *cmp_b, ir_mode *mode);
 typedef ir_node *cmov_func_t(dbg_info *db, ir_graph *irg, ir_node *block, ir_node *cmp_a, ir_node *cmp_b, \
                              ir_node *psi_true, ir_node *psi_default, ir_mode *mode);
 
@@ -1681,7 +1757,7 @@ static ir_node *gen_Psi(ia32_transform_env_t *env) {
                                cmp_a = gen_sse_conv_int2float(cg, dbg, irg, block, cmp_a, node, mode_D);
                                cmp_b = gen_sse_conv_int2float(cg, dbg, irg, block, cmp_b, node, mode_D);
 
-                               pnc += pn_Cmp_Uo;  /* transform integer compare to fp compare */
+                               pnc |= 8;  /* transform integer compare to fp compare */
                        }
 
                        new_op = new_rd_ia32_xCmp(dbg, irg, block, noreg, noreg, cmp_a, cmp_b, nomem);
@@ -1692,19 +1768,19 @@ static ir_node *gen_Psi(ia32_transform_env_t *env) {
                        new_op = new_rd_Proj(dbg, irg, block, new_op, mode, pn_ia32_xCmp_res);
 
                        and1 = new_rd_ia32_xAnd(dbg, irg, block, noreg, noreg, psi_true, new_op, nomem);
-                       set_ia32_am_support(and1, ia32_am_Source);
+                       set_ia32_am_support(and1, ia32_am_None);
                        set_ia32_res_mode(and1, mode);
                        SET_IA32_ORIG_NODE(and1, ia32_get_old_node_name(cg, node));
                        and1 = new_rd_Proj(dbg, irg, block, and1, mode, pn_ia32_xAnd_res);
 
-                       and2 = new_rd_ia32_xAndNot(dbg, irg, block, noreg, noreg, psi_default, new_op, nomem);
-                       set_ia32_am_support(and2, ia32_am_Source);
+                       and2 = new_rd_ia32_xAndNot(dbg, irg, block, noreg, noreg, new_op, psi_default, nomem);
+                       set_ia32_am_support(and2, ia32_am_None);
                        set_ia32_res_mode(and2, mode);
                        SET_IA32_ORIG_NODE(and2, ia32_get_old_node_name(cg, node));
                        and2 = new_rd_Proj(dbg, irg, block, and2, mode, pn_ia32_xAndNot_res);
 
                        new_op = new_rd_ia32_xOr(dbg, irg, block, noreg, noreg, and1, and2, nomem);
-                       set_ia32_am_support(new_op, ia32_am_Source);
+                       set_ia32_am_support(new_op, ia32_am_None);
                        set_ia32_res_mode(new_op, mode);
                        SET_IA32_ORIG_NODE(new_op, ia32_get_old_node_name(cg, node));
                        new_op = new_rd_Proj(dbg, irg, block, new_op, mode, pn_ia32_xOr_res);
@@ -1718,8 +1794,8 @@ static ir_node *gen_Psi(ia32_transform_env_t *env) {
        }
        else {
                /* integer psi */
-               set_func_t  *set_func  = NULL;
-               cmov_func_t *cmov_func = NULL;
+               construct_binop_func *set_func  = NULL;
+               cmov_func_t          *cmov_func = NULL;
 
                if (mode_is_float(get_irn_mode(cmp_a))) {
                        /* 1st case: compare operands are floats */
@@ -1735,33 +1811,60 @@ static ir_node *gen_Psi(ia32_transform_env_t *env) {
                                set_func  = new_rd_ia32_vfCmpSet;
                                cmov_func = new_rd_ia32_vfCmpCMov;
                        }
+
+                       pnc &= 7; /* fp compare -> int compare */
                }
                else {
                        /* 2nd case: compare operand are integer too */
-                       set_func  = new_rd_ia32_Set;
-                       cmov_func = new_rd_ia32_CMov;
+                       set_func  = new_rd_ia32_CmpSet;
+                       cmov_func = new_rd_ia32_CmpCMov;
                }
 
                /* create the nodes */
 
-               if (is_ia32_Const_1(psi_true) && is_ia32_Const_0(psi_default)) {
-                       /* first case for SETcc: default is 0, set to 1 iff condition is true */
-                       new_op = set_func(dbg, irg, block, cmp_a, cmp_b, mode);
-                       set_ia32_pncode(new_op, pnc);
-               }
-               else if (is_ia32_Const_0(psi_true) && is_ia32_Const_1(psi_default)) {
-                       /* second case for SETcc: default is 1, set to 0 iff condition is true: */
-                       /*                        we invert condition and set default to 0      */
-                       new_op = set_func(dbg, irg, block, cmp_a, cmp_b, mode);
-                       set_ia32_pncode(new_op, get_negated_pnc(pnc, get_irn_mode(cmp_a)));
+               /* check for special case first: And/Or -- Cmp with 0 -- Psi */
+               if (is_ia32_Const_0(cmp_b) && is_Proj(cmp_a) && (is_ia32_And(get_Proj_pred(cmp_a)) || is_ia32_Or(get_Proj_pred(cmp_a)))) {
+                       if (is_ia32_Const_1(psi_true) && is_ia32_Const_0(psi_default)) {
+                               /* first case for SETcc: default is 0, set to 1 iff condition is true */
+                               new_op = new_rd_ia32_PsiCondSet(dbg, irg, block, cmp_a, mode);
+                               set_ia32_pncode(new_op, pnc);
+                       }
+                       else if (is_ia32_Const_0(psi_true) && is_ia32_Const_1(psi_default)) {
+                               /* second case for SETcc: default is 1, set to 0 iff condition is true: */
+                               /*                        we invert condition and set default to 0      */
+                               new_op = new_rd_ia32_PsiCondSet(dbg, irg, block, cmp_a, mode);
+                               set_ia32_pncode(new_op, get_inversed_pnc(pnc));
+                       }
+                       else {
+                               /* otherwise: use CMOVcc */
+                               new_op = new_rd_ia32_PsiCondCMov(dbg, irg, block, cmp_a, psi_true, psi_default, mode);
+                               set_ia32_pncode(new_op, pnc);
+                       }
+
+                       SET_IA32_ORIG_NODE(new_op, ia32_get_old_node_name(cg, node));
                }
                else {
-                       /* otherwise: use CMOVcc */
-                       new_op = cmov_func(dbg, irg, block, cmp_a, cmp_b, psi_true, psi_default, mode);
-                       set_ia32_pncode(new_op, pnc);
+                       env->irn = cmp;
+                       if (is_ia32_Const_1(psi_true) && is_ia32_Const_0(psi_default)) {
+                               /* first case for SETcc: default is 0, set to 1 iff condition is true */
+                               new_op = gen_binop(env, cmp_a, cmp_b, set_func);
+                               set_ia32_pncode(get_Proj_pred(new_op), pnc);
+                               set_ia32_am_support(get_Proj_pred(new_op), ia32_am_Source);
+                       }
+                       else if (is_ia32_Const_0(psi_true) && is_ia32_Const_1(psi_default)) {
+                               /* second case for SETcc: default is 1, set to 0 iff condition is true: */
+                               /*                        we invert condition and set default to 0      */
+                               new_op = gen_binop(env, cmp_a, cmp_b, set_func);
+                               set_ia32_pncode(get_Proj_pred(new_op), get_inversed_pnc(pnc));
+                               set_ia32_am_support(get_Proj_pred(new_op), ia32_am_Source);
+                       }
+                       else {
+                               /* otherwise: use CMOVcc */
+                               new_op = cmov_func(dbg, irg, block, cmp_a, cmp_b, psi_true, psi_default, mode);
+                               set_ia32_pncode(new_op, pnc);
+                               SET_IA32_ORIG_NODE(new_op, ia32_get_old_node_name(cg, node));
+                       }
                }
-
-               SET_IA32_ORIG_NODE(new_op, ia32_get_old_node_name(cg, node));
        }
 
        return new_op;
@@ -1824,7 +1927,7 @@ static ir_node *gen_x87_fp_to_gp(ia32_transform_env_t *env, ir_mode *tgt_mode) {
        set_ia32_am_support(fist, ia32_am_Dest);
        set_ia32_op_type(fist, ia32_AddrModeD);
        set_ia32_am_flavour(fist, ia32_B);
-       set_ia32_ls_mode(fist, mode_E);
+       set_ia32_ls_mode(fist, mode_F);
 
        mem  = new_r_Proj(irg, block, fist, mode_M, pn_ia32_vfist_M);
 
@@ -1893,9 +1996,9 @@ static ir_node *gen_x87_gp_to_fp(ia32_transform_env_t *env, ir_mode *src_mode) {
        set_ia32_am_support(fild, ia32_am_Source);
        set_ia32_op_type(fild, ia32_AddrModeS);
        set_ia32_am_flavour(fild, ia32_B);
-       set_ia32_ls_mode(fild, mode_E);
+       set_ia32_ls_mode(fild, mode_F);
 
-       return new_r_Proj(irg, block, fild, mode_E, 0);
+       return new_r_Proj(irg, block, fild, mode_F, 0);
 }
 
 /**
@@ -1913,6 +2016,7 @@ static ir_node *gen_Conv(ia32_transform_env_t *env) {
        int      src_bits  = get_mode_size_bits(src_mode);
        int      tgt_bits  = get_mode_size_bits(tgt_mode);
        int      pn        = -1;
+       int      kill      = 0;
        ir_node  *block    = env->block;
        ir_node  *new_op   = NULL;
        ir_node  *noreg    = ia32_new_NoReg_gp(env->cg);
@@ -1936,7 +2040,13 @@ static ir_node *gen_Conv(ia32_transform_env_t *env) {
                        }
                        else {
                                DB((mod, LEVEL_1, "killed Conv(float, float) ..."));
-                               edges_reroute(env->irn, op, irg);
+                               /*
+                                       remark: we create a intermediate conv here, so modes will be spread correctly
+                                       these convs will be killed later
+                               */
+                               new_op = new_rd_ia32_Conv_FP2FP(dbg, irg, block, noreg, noreg, op, nomem);
+                               pn     = pn_ia32_Conv_FP2FP_res;
+                               kill   = 1;
                        }
                }
                else {
@@ -1986,7 +2096,13 @@ static ir_node *gen_Conv(ia32_transform_env_t *env) {
                        /* ... to int */
                        if (get_mode_size_bits(src_mode) == tgt_bits) {
                                DB((mod, LEVEL_1, "omitting equal size Conv(%+F, %+F) ...", src_mode, tgt_mode));
-                               edges_reroute(env->irn, op, irg);
+                               /*
+                                       remark: we create a intermediate conv here, so modes will be spread correctly
+                                       these convs will be killed later
+                               */
+                               new_op = new_rd_ia32_Conv_I2I(dbg, irg, block, noreg, noreg, op, nomem);
+                               pn     = pn_ia32_Conv_I2I_res;
+                               kill   = 1;
                        }
                        else {
                                DB((mod, LEVEL_1, "create Conv(int, int) ...", src_mode, tgt_mode));
@@ -2010,6 +2126,9 @@ static ir_node *gen_Conv(ia32_transform_env_t *env) {
                set_ia32_am_support(new_op, ia32_am_Source);
 
                new_op = new_rd_Proj(dbg, irg, block, new_op, tgt_mode, pn);
+
+               if (kill)
+                       nodeset_insert(env->cg->kill_conv, new_op);
        }
 
        return new_op;
@@ -2027,20 +2146,50 @@ static ir_node *gen_Conv(ia32_transform_env_t *env) {
  *
  ********************************************/
 
+ /**
+  * Decides in which block the transformed StackParam should be placed.
+  * If the StackParam has more than one user, the dominator block of
+  * the users will be returned. In case of only one user, this is either
+  * the user block or, in case of a Phi, the predecessor block of the Phi.
+  */
+ static ir_node *get_block_transformed_stack_param(ir_node *irn) {
+        ir_node *dom_bl = NULL;
+
+        if (get_irn_n_edges(irn) == 1) {
+                ir_node *src = get_edge_src_irn(get_irn_out_edge_first(irn));
+
+                if (! is_Phi(src)) {
+                        dom_bl = get_nodes_block(src);
+                }
+                else {
+                        /* Determine on which in position of the Phi the irn is */
+                        /* and get the corresponding cfg predecessor block.     */
+
+                        int i  = get_irn_pred_pos(src, irn);
+                        assert(i >= 0 && "kaputt");
+                        dom_bl = get_Block_cfgpred_block(get_nodes_block(src), i);
+                }
+        }
+        else {
+                dom_bl = node_users_smallest_common_dominator(irn, 1);
+        }
+
+        assert(dom_bl && "dominator block not found");
+
+        return dom_bl;
+ }
+
 static ir_node *gen_be_StackParam(ia32_transform_env_t *env) {
        ir_node *new_op = NULL;
        ir_node *node   = env->irn;
        ir_node *noreg  = ia32_new_NoReg_gp(env->cg);
        ir_node *mem    = new_rd_NoMem(env->irg);
        ir_node *ptr    = get_irn_n(node, 0);
-       entity  *ent    = be_get_frame_entity(node);
+       entity  *ent    = arch_get_frame_entity(env->cg->arch_env, node);
        ir_mode *mode   = env->mode;
 
-//     /* If the StackParam has only one user ->     */
-//     /* put it in the Block where the user resides */
-//     if (get_irn_n_edges(node) == 1) {
-//             env->block = get_nodes_block(get_edge_src_irn(get_irn_out_edge_first(node)));
-//     }
+       /* choose the block where to place the load */
+       env->block = get_block_transformed_stack_param(node);
 
        if (mode_is_float(mode)) {
                FP_USED(env->cg);
@@ -2060,6 +2209,7 @@ static ir_node *gen_be_StackParam(ia32_transform_env_t *env) {
        set_ia32_op_type(new_op, ia32_AddrModeS);
        set_ia32_am_flavour(new_op, ia32_B);
        set_ia32_ls_mode(new_op, mode);
+       set_ia32_flags(new_op, get_ia32_flags(new_op) | arch_irn_flags_rematerializable);
 
        SET_IA32_ORIG_NODE(new_op, ia32_get_old_node_name(env->cg, env->irn));
 
@@ -2077,7 +2227,7 @@ static ir_node *gen_be_FrameAddr(ia32_transform_env_t *env) {
        ir_node *nomem  = new_rd_NoMem(env->irg);
 
        new_op = new_rd_ia32_Add(env->dbg, env->irg, env->block, noreg, noreg, op, noreg, nomem);
-       set_ia32_frame_ent(new_op, be_get_frame_entity(node));
+       set_ia32_frame_ent(new_op, arch_get_frame_entity(env->cg->arch_env, node));
        set_ia32_am_support(new_op, ia32_am_Full);
        set_ia32_use_frame(new_op);
        set_ia32_immop_type(new_op, ia32_ImmConst);
@@ -2097,7 +2247,7 @@ static ir_node *gen_be_FrameLoad(ia32_transform_env_t *env) {
        ir_node *noreg  = ia32_new_NoReg_gp(env->cg);
        ir_node *mem    = get_irn_n(node, 0);
        ir_node *ptr    = get_irn_n(node, 1);
-       entity  *ent    = be_get_frame_entity(node);
+       entity  *ent    = arch_get_frame_entity(env->cg->arch_env, node);
        ir_mode *mode   = get_type_mode(get_entity_type(ent));
 
        if (mode_is_float(mode)) {
@@ -2134,7 +2284,7 @@ static ir_node *gen_be_FrameStore(ia32_transform_env_t *env) {
        ir_node *mem    = get_irn_n(node, 0);
        ir_node *ptr    = get_irn_n(node, 1);
        ir_node *val    = get_irn_n(node, 2);
-       entity  *ent    = be_get_frame_entity(node);
+       entity  *ent    = arch_get_frame_entity(env->cg->arch_env, node);
        ir_mode *mode   = get_irn_mode(val);
 
        if (mode_is_float(mode)) {
@@ -2164,6 +2314,158 @@ static ir_node *gen_be_FrameStore(ia32_transform_env_t *env) {
        return new_op;
 }
 
+/**
+ * In case SSE is used we need to copy the result from FPU TOS.
+ */
+static ir_node *gen_be_Call(ia32_transform_env_t *env) {
+       ir_node *call_res = get_proj_for_pn(env->irn, pn_be_Call_first_res);
+       ir_node *call_mem = get_proj_for_pn(env->irn, pn_be_Call_M_regular);
+       ir_mode *mode;
+
+       if (! call_res || ! USE_SSE2(env->cg))
+               return NULL;
+
+       mode = get_irn_mode(call_res);
+
+       /* in case there is no memory output: create one to serialize the copy FPU -> SSE */
+       if (! call_mem)
+               call_mem = new_r_Proj(env->irg, env->block, env->irn, mode_M, pn_be_Call_M_regular);
+
+       if (mode_is_float(mode)) {
+               /* store st(0) onto stack */
+               ir_node *frame = get_irg_frame(env->irg);
+               ir_node *fstp  = new_rd_ia32_GetST0(env->dbg, env->irg, env->block, frame, call_mem);
+               ir_node *mproj = new_r_Proj(env->irg, env->block, fstp, mode_M, pn_ia32_GetST0_M);
+               entity  *ent   = frame_alloc_area(get_irg_frame_type(env->irg), get_mode_size_bytes(mode), 16, 0);
+               ir_node *sse_load;
+
+               set_ia32_ls_mode(fstp, mode);
+               set_ia32_op_type(fstp, ia32_AddrModeD);
+               set_ia32_use_frame(fstp);
+               set_ia32_frame_ent(fstp, ent);
+               set_ia32_am_flavour(fstp, ia32_B);
+               set_ia32_am_support(fstp, ia32_am_Dest);
+
+               /* load into SSE register */
+               sse_load = new_rd_ia32_xLoad(env->dbg, env->irg, env->block, frame, ia32_new_NoReg_gp(env->cg), mproj);
+               set_ia32_ls_mode(sse_load, mode);
+               set_ia32_op_type(sse_load, ia32_AddrModeS);
+               set_ia32_use_frame(sse_load);
+               set_ia32_frame_ent(sse_load, ent);
+               set_ia32_am_flavour(sse_load, ia32_B);
+               set_ia32_am_support(sse_load, ia32_am_Source);
+               sse_load = new_r_Proj(env->irg, env->block, sse_load, mode, pn_ia32_xLoad_res);
+
+               /* reroute all users of the result proj to the sse load */
+               edges_reroute(call_res, sse_load, env->irg);
+       }
+
+       return NULL;
+}
+
+/**
+ * In case SSE is used we need to copy the result from XMM0 to FPU TOS before return.
+ */
+static ir_node *gen_be_Return(ia32_transform_env_t *env) {
+       ir_node *ret_val = get_irn_n(env->irn, be_pos_Return_val);
+       ir_node *ret_mem = get_irn_n(env->irn, be_pos_Return_mem);
+       entity *ent      = get_irg_entity(get_irn_irg(ret_val));
+       ir_type *tp      = get_entity_type(ent);
+
+       if (be_Return_get_n_rets(env->irn) < 1 || ! ret_val || ! USE_SSE2(env->cg))
+               return NULL;
+
+
+       if (get_method_n_ress(tp) == 1) {
+               ir_type *res_type = get_method_res_type(tp, 0);
+               ir_mode *mode;
+
+               if(is_Primitive_type(res_type)) {
+                       mode = get_type_mode(res_type);
+                       if(mode_is_float(mode)) {
+                               ir_node *frame = get_irg_frame(env->irg);
+                               entity  *ent   = frame_alloc_area(get_irg_frame_type(env->irg), get_mode_size_bytes(mode), 16, 0);
+                               ir_node *sse_store, *fld, *mproj;
+
+                               /* store xmm0 onto stack */
+                               sse_store = new_rd_ia32_xStoreSimple(env->dbg, env->irg, env->block, frame, ret_val, ret_mem);
+                               set_ia32_ls_mode(sse_store, mode);
+                               set_ia32_op_type(sse_store, ia32_AddrModeD);
+                               set_ia32_use_frame(sse_store);
+                               set_ia32_frame_ent(sse_store, ent);
+                               set_ia32_am_flavour(sse_store, ia32_B);
+                               set_ia32_am_support(sse_store, ia32_am_Dest);
+                               sse_store = new_r_Proj(env->irg, env->block, sse_store, mode_M, pn_ia32_xStore_M);
+
+                               /* load into st0 */
+                               fld = new_rd_ia32_SetST0(env->dbg, env->irg, env->block, frame, sse_store);
+                               set_ia32_ls_mode(fld, mode);
+                               set_ia32_op_type(fld, ia32_AddrModeS);
+                               set_ia32_use_frame(fld);
+                               set_ia32_frame_ent(fld, ent);
+                               set_ia32_am_flavour(fld, ia32_B);
+                               set_ia32_am_support(fld, ia32_am_Source);
+                               mproj = new_r_Proj(env->irg, env->block, fld, mode_M, pn_ia32_SetST0_M);
+                               fld   = new_r_Proj(env->irg, env->block, fld, mode, pn_ia32_SetST0_res);
+
+                               /* set new return value */
+                               set_irn_n(env->irn, be_pos_Return_val, fld);
+                               set_irn_n(env->irn, be_pos_Return_mem, mproj);
+                       }
+               }
+       }
+
+       return NULL;
+}
+
+/**
+ * Transform a be_AddSP into an ia32_AddSP. Eat up const sizes.
+ */
+static ir_node *gen_be_AddSP(ia32_transform_env_t *env) {
+       ir_node *new_op;
+       const ir_edge_t *edge;
+       ir_node *sz = get_irn_n(env->irn, be_pos_AddSP_size);
+       ir_node *sp = get_irn_n(env->irn, be_pos_AddSP_old_sp);
+
+       new_op = new_rd_ia32_AddSP(env->dbg, env->irg, env->block, sp, sz);
+
+       if (is_ia32_Const(sz)) {
+               set_ia32_Immop_attr(new_op, sz);
+               set_irn_n(new_op, 1, ia32_new_NoReg_gp(env->cg));
+       }
+       else if (is_ia32_Load(sz) && get_ia32_am_flavour(sz) == ia32_O) {
+               set_ia32_immop_type(new_op, ia32_ImmSymConst);
+               set_ia32_op_type(new_op, ia32_AddrModeS);
+               set_ia32_am_sc(new_op, get_ia32_am_sc(sz));
+               add_ia32_am_offs(new_op, get_ia32_am_offs(sz));
+               set_irn_n(new_op, 1, ia32_new_NoReg_gp(env->cg));
+       }
+
+       /* fix proj nums */
+       foreach_out_edge(env->irn, edge) {
+               ir_node *proj = get_edge_src_irn(edge);
+
+               assert(is_Proj(proj));
+
+               if (get_Proj_proj(proj) == pn_be_AddSP_res) {
+                       /* the node is not yet exchanged: we need to set the register manually */
+                       ia32_attr_t *attr = get_ia32_attr(new_op);
+                       attr->slots[pn_ia32_AddSP_stack] = &ia32_gp_regs[REG_ESP];
+                       set_Proj_proj(proj, pn_ia32_AddSP_stack);
+               }
+               else if (get_Proj_proj(proj) == pn_be_AddSP_M) {
+                       set_Proj_proj(proj, pn_ia32_AddSP_M);
+               }
+               else {
+                       assert(0);
+               }
+       }
+
+       SET_IA32_ORIG_NODE(new_op, ia32_get_old_node_name(env->cg, env->irn));
+
+       return new_op;
+}
+
 /**
  * This function just sets the register for the Unknown node
  * as this is not done during register allocation because Unknown
@@ -2189,205 +2491,363 @@ static ir_node *gen_Unknown(ia32_transform_env_t *env) {
        return NULL;
 }
 
-
-/*********************************************************
- *                  _             _      _
- *                 (_)           | |    (_)
- *  _ __ ___   __ _ _ _ __     __| |_ __ ___   _____ _ __
- * | '_ ` _ \ / _` | | '_ \   / _` | '__| \ \ / / _ \ '__|
- * | | | | | | (_| | | | | | | (_| | |  | |\ V /  __/ |
- * |_| |_| |_|\__,_|_|_| |_|  \__,_|_|  |_| \_/ \___|_|
+/**********************************************************************
+ *  _                                _                   _
+ * | |                              | |                 | |
+ * | | _____      _____ _ __ ___  __| |  _ __   ___   __| | ___  ___
+ * | |/ _ \ \ /\ / / _ \ '__/ _ \/ _` | | '_ \ / _ \ / _` |/ _ \/ __|
+ * | | (_) \ V  V /  __/ | |  __/ (_| | | | | | (_) | (_| |  __/\__ \
+ * |_|\___/ \_/\_/ \___|_|  \___|\__,_| |_| |_|\___/ \__,_|\___||___/
  *
- *********************************************************/
+ **********************************************************************/
+
+/* These nodes are created in intrinsic lowering (64bit -> 32bit) */
+
+typedef ir_node *construct_load_func(dbg_info *db, ir_graph *irg, ir_node *block, ir_node *base, ir_node *index, \
+                                     ir_node *mem);
+
+typedef ir_node *construct_store_func(dbg_info *db, ir_graph *irg, ir_node *block, ir_node *base, ir_node *index, \
+                                      ir_node *val, ir_node *mem);
 
 /**
- * Transforms a Sub or xSub into Neg--Add iff OUT_REG == SRC2_REG.
- * THIS FUNCTIONS MUST BE CALLED AFTER REGISTER ALLOCATION.
+ * Transforms a lowered Load into a "real" one.
  */
-void ia32_transform_sub_to_neg_add(ir_node *irn, ia32_code_gen_t *cg) {
-       ia32_transform_env_t tenv;
-       ir_node *in1, *in2, *noreg, *nomem, *res;
-       const arch_register_t *in1_reg, *in2_reg, *out_reg, **slots;
+static ir_node *gen_lowered_Load(ia32_transform_env_t *env, construct_load_func func, char fp_unit) {
+       ir_node *node  = env->irn;
+       ir_node *noreg = ia32_new_NoReg_gp(env->cg);
+       ir_mode *mode  = get_ia32_ls_mode(node);
+       ir_node *new_op;
+       char    *am_offs;
+       ia32_am_flavour_t am_flav = ia32_B;
 
-       /* Return if AM node or not a Sub or xSub */
-       if (get_ia32_op_type(irn) != ia32_Normal || !(is_ia32_Sub(irn) || is_ia32_xSub(irn)))
-               return;
+       /*
+               Could be that we have SSE2 unit, but due to 64Bit Div/Conv
+               lowering we have x87 nodes, so we need to enforce simulation.
+       */
+       if (mode_is_float(mode)) {
+               FP_USED(env->cg);
+               if (fp_unit == fp_x87)
+                       FORCE_x87(env->cg);
+       }
 
-       noreg   = ia32_new_NoReg_gp(cg);
-       nomem   = new_rd_NoMem(cg->irg);
-       in1     = get_irn_n(irn, 2);
-       in2     = get_irn_n(irn, 3);
-       in1_reg = arch_get_irn_register(cg->arch_env, in1);
-       in2_reg = arch_get_irn_register(cg->arch_env, in2);
-       out_reg = get_ia32_out_reg(irn, 0);
-
-       tenv.block    = get_nodes_block(irn);
-       tenv.dbg      = get_irn_dbg_info(irn);
-       tenv.irg      = cg->irg;
-       tenv.irn      = irn;
-       tenv.mode     = get_ia32_res_mode(irn);
-       tenv.cg       = cg;
-       DEBUG_ONLY(tenv.mod      = cg->mod;)
-
-       /* in case of sub and OUT == SRC2 we can transform the sequence into neg src2 -- add */
-       if (REGS_ARE_EQUAL(out_reg, in2_reg)) {
-               /* generate the neg src2 */
-               res = gen_Minus_ex(&tenv, in2);
-               arch_set_irn_register(cg->arch_env, res, in2_reg);
-
-               /* add to schedule */
-               sched_add_before(irn, res);
-
-               /* generate the add */
-               if (mode_is_float(tenv.mode)) {
-                       res = new_rd_ia32_xAdd(tenv.dbg, tenv.irg, tenv.block, noreg, noreg, res, in1, nomem);
-                       set_ia32_am_support(res, ia32_am_Source);
-               }
-               else {
-                       res = new_rd_ia32_Add(tenv.dbg, tenv.irg, tenv.block, noreg, noreg, res, in1, nomem);
-                       set_ia32_am_support(res, ia32_am_Full);
-                       set_ia32_commutative(res);
-               }
-           set_ia32_res_mode(res, tenv.mode);
+       new_op  = func(env->dbg, env->irg, env->block, get_irn_n(node, 0), noreg, get_irn_n(node, 1));
+       am_offs = get_ia32_am_offs(node);
 
-               SET_IA32_ORIG_NODE(res, ia32_get_old_node_name(tenv.cg, irn));
-               /* copy register */
-               slots    = get_ia32_slots(res);
-               slots[0] = in2_reg;
+       if (am_offs) {
+               am_flav |= ia32_O;
+               add_ia32_am_offs(new_op, am_offs);
+       }
 
-               /* add to schedule */
-               sched_add_before(irn, res);
+       set_ia32_am_support(new_op, ia32_am_Source);
+       set_ia32_op_type(new_op, ia32_AddrModeS);
+       set_ia32_am_flavour(new_op, am_flav);
+       set_ia32_ls_mode(new_op, mode);
+       set_ia32_frame_ent(new_op, get_ia32_frame_ent(node));
+       set_ia32_use_frame(new_op);
 
-               /* remove the old sub */
-               sched_remove(irn);
+       SET_IA32_ORIG_NODE(new_op, ia32_get_old_node_name(env->cg, node));
+
+       return new_op;
+}
 
-               DBG_OPT_SUB2NEGADD(irn, res);
+/**
+* Transforms a lowered Store into a "real" one.
+*/
+static ir_node *gen_lowered_Store(ia32_transform_env_t *env, construct_store_func func, char fp_unit) {
+       ir_node *node  = env->irn;
+       ir_node *noreg = ia32_new_NoReg_gp(env->cg);
+       ir_mode *mode  = get_ia32_ls_mode(node);
+       ir_node *new_op;
+       char    *am_offs;
+       ia32_am_flavour_t am_flav = ia32_B;
 
-               /* exchange the add and the sub */
-               exchange(irn, res);
+       /*
+               Could be that we have SSE2 unit, but due to 64Bit Div/Conv
+               lowering we have x87 nodes, so we need to enforce simulation.
+       */
+       if (mode_is_float(mode)) {
+               FP_USED(env->cg);
+               if (fp_unit == fp_x87)
+                       FORCE_x87(env->cg);
+       }
+
+       new_op = func(env->dbg, env->irg, env->block, get_irn_n(node, 0), noreg, get_irn_n(node, 1), get_irn_n(node, 2));
+
+       if ((am_offs = get_ia32_am_offs(node)) != NULL) {
+               am_flav |= ia32_O;
+               add_ia32_am_offs(new_op, am_offs);
        }
+
+       set_ia32_am_support(new_op, ia32_am_Dest);
+       set_ia32_op_type(new_op, ia32_AddrModeD);
+       set_ia32_am_flavour(new_op, am_flav);
+       set_ia32_ls_mode(new_op, mode);
+       set_ia32_frame_ent(new_op, get_ia32_frame_ent(node));
+       set_ia32_use_frame(new_op);
+
+       SET_IA32_ORIG_NODE(new_op, ia32_get_old_node_name(env->cg, node));
+
+       return new_op;
 }
 
+
 /**
- * Transforms a LEA into an Add if possible
- * THIS FUNCTIONS MUST BE CALLED AFTER REGISTER ALLOCATION.
+ * Transforms an ia32_l_XXX into a "real" XXX node
+ *
+ * @param env   The transformation environment
+ * @return the created ia32 XXX node
  */
-void ia32_transform_lea_to_add(ir_node *irn, ia32_code_gen_t *cg) {
-       ia32_am_flavour_t am_flav;
-       int               imm = 0;
-       ir_node          *res = NULL;
-       ir_node          *nomem, *noreg, *base, *index, *op1, *op2;
-       char             *offs;
-       ia32_transform_env_t tenv;
-       const arch_register_t *out_reg, *base_reg, *index_reg;
+#define GEN_LOWERED_OP(op)                                                                            \
+       static ir_node *gen_ia32_l_##op(ia32_transform_env_t *env) {                                      \
+               if (mode_is_float(env->mode))                                                                 \
+                       FP_USED(env->cg);                                                                         \
+               return gen_binop(env, get_binop_left(env->irn), get_binop_right(env->irn), new_rd_ia32_##op); \
+       }
 
-       /* must be a LEA */
-       if (! is_ia32_Lea(irn))
-               return;
+#define GEN_LOWERED_x87_OP(op)                                                                          \
+       static ir_node *gen_ia32_l_##op(ia32_transform_env_t *env) {                                        \
+               ir_node *new_op;                                                                                \
+               FORCE_x87(env->cg);                                                                             \
+               new_op = gen_binop(env, get_binop_left(env->irn), get_binop_right(env->irn), new_rd_ia32_##op); \
+               set_ia32_am_support(get_Proj_pred(new_op), ia32_am_None);                                       \
+               return new_op;                                                                                  \
+       }
 
-       am_flav = get_ia32_am_flavour(irn);
+#define GEN_LOWERED_UNOP(op)                                           \
+       static ir_node *gen_ia32_l_##op(ia32_transform_env_t *env) {       \
+               return gen_unop(env, get_unop_op(env->irn), new_rd_ia32_##op); \
+       }
 
-       /* only some LEAs can be transformed to an Add */
-       if (am_flav != ia32_am_B && am_flav != ia32_am_OB && am_flav != ia32_am_OI && am_flav != ia32_am_BI)
-               return;
+#define GEN_LOWERED_SHIFT_OP(op)                                                                            \
+       static ir_node *gen_ia32_l_##op(ia32_transform_env_t *env) {                                            \
+               return gen_shift_binop(env, get_binop_left(env->irn), get_binop_right(env->irn), new_rd_ia32_##op); \
+       }
 
-       noreg = ia32_new_NoReg_gp(cg);
-       nomem = new_rd_NoMem(cg->irg);
-       op1   = noreg;
-       op2   = noreg;
-       base  = get_irn_n(irn, 0);
-       index = get_irn_n(irn,1);
-
-       offs  = get_ia32_am_offs(irn);
-
-       /* offset has a explicit sign -> we need to skip + */
-       if (offs && offs[0] == '+')
-               offs++;
-
-       out_reg   = arch_get_irn_register(cg->arch_env, irn);
-       base_reg  = arch_get_irn_register(cg->arch_env, base);
-       index_reg = arch_get_irn_register(cg->arch_env, index);
-
-       tenv.block = get_nodes_block(irn);
-       tenv.dbg   = get_irn_dbg_info(irn);
-       tenv.irg   = cg->irg;
-       tenv.irn   = irn;
-       DEBUG_ONLY(tenv.mod   = cg->mod;)
-       tenv.mode  = get_irn_mode(irn);
-       tenv.cg    = cg;
-
-       switch(get_ia32_am_flavour(irn)) {
-               case ia32_am_B:
-                       /* out register must be same as base register */
-                       if (! REGS_ARE_EQUAL(out_reg, base_reg))
-                               return;
-
-                       op1 = base;
-                       break;
-               case ia32_am_OB:
-                       /* out register must be same as base register */
-                       if (! REGS_ARE_EQUAL(out_reg, base_reg))
-                               return;
+#define GEN_LOWERED_LOAD(op, fp_unit)                            \
+       static ir_node *gen_ia32_l_##op(ia32_transform_env_t *env) { \
+               return gen_lowered_Load(env, new_rd_ia32_##op, fp_unit); \
+       }
 
-                       op1 = base;
-                       imm = 1;
-                       break;
-               case ia32_am_OI:
-                       /* out register must be same as index register */
-                       if (! REGS_ARE_EQUAL(out_reg, index_reg))
-                               return;
+#define GEN_LOWERED_STORE(op, fp_unit)                           \
+       static ir_node *gen_ia32_l_##op(ia32_transform_env_t *env) { \
+       return gen_lowered_Store(env, new_rd_ia32_##op, fp_unit);    \
+}
 
-                       op1 = index;
-                       imm = 1;
-                       break;
-               case ia32_am_BI:
-                       /* out register must be same as one in register */
-                       if (REGS_ARE_EQUAL(out_reg, base_reg)) {
-                               op1 = base;
-                               op2 = index;
-                       }
-                       else if (REGS_ARE_EQUAL(out_reg, index_reg)) {
-                               op1 = index;
-                               op2 = base;
-                       }
-                       else {
-                               /* in registers a different from out -> no Add possible */
-                               return;
-                       }
-               default:
-                       break;
+GEN_LOWERED_OP(AddC)
+GEN_LOWERED_OP(Add)
+GEN_LOWERED_OP(SubC)
+GEN_LOWERED_OP(Sub)
+GEN_LOWERED_OP(Mul)
+GEN_LOWERED_OP(Eor)
+GEN_LOWERED_x87_OP(vfdiv)
+GEN_LOWERED_x87_OP(vfmul)
+GEN_LOWERED_x87_OP(vfsub)
+
+GEN_LOWERED_UNOP(Minus)
+
+GEN_LOWERED_LOAD(vfild, fp_x87)
+GEN_LOWERED_LOAD(Load, fp_none)
+GEN_LOWERED_STORE(vfist, fp_x87)
+GEN_LOWERED_STORE(Store, fp_none)
+
+/**
+ * Transforms a l_MulS into a "real" MulS node.
+ *
+ * @param env   The transformation environment
+ * @return the created ia32 MulS node
+ */
+static ir_node *gen_ia32_l_MulS(ia32_transform_env_t *env) {
+
+       /* l_MulS is already a mode_T node, so we create the MulS in the normal way   */
+       /* and then skip the result Proj, because all needed Projs are already there. */
+
+       ir_node *new_op = gen_binop(env, get_binop_left(env->irn), get_binop_right(env->irn), new_rd_ia32_MulS);
+       ir_node *muls   = get_Proj_pred(new_op);
+
+       /* MulS cannot have AM for destination */
+       if (get_ia32_am_support(muls) != ia32_am_None)
+               set_ia32_am_support(muls, ia32_am_Source);
+
+       return muls;
+}
+
+GEN_LOWERED_SHIFT_OP(Shl)
+GEN_LOWERED_SHIFT_OP(Shr)
+GEN_LOWERED_SHIFT_OP(Shrs)
+
+/**
+ * Transforms a l_ShlD/l_ShrD into a ShlD/ShrD. Those nodes have 3 data inputs:
+ * op1 - target to be shifted
+ * op2 - contains bits to be shifted into target
+ * op3 - shift count
+ * Only op3 can be an immediate.
+ */
+static ir_node *gen_lowered_64bit_shifts(ia32_transform_env_t *env, ir_node *op1, ir_node *op2, ir_node *count) {
+       ir_node           *new_op = NULL;
+       ir_mode           *mode   = env->mode;
+       dbg_info          *dbg    = env->dbg;
+       ir_graph          *irg    = env->irg;
+       ir_node           *block  = env->block;
+       ir_node           *noreg  = ia32_new_NoReg_gp(env->cg);
+       ir_node           *nomem  = new_NoMem();
+       ir_node           *imm_op;
+       tarval            *tv;
+       DEBUG_ONLY(firm_dbg_module_t *mod = env->mod;)
+
+       assert(! mode_is_float(mode) && "Shift/Rotate with float not supported");
+
+       /* Check if immediate optimization is on and */
+       /* if it's an operation with immediate.      */
+       imm_op  = (env->cg->opt & IA32_OPT_IMMOPS) ? get_immediate_op(NULL, count) : NULL;
+
+       /* Limit imm_op within range imm8 */
+       if (imm_op) {
+               tv = get_ia32_Immop_tarval(imm_op);
+
+               if (tv) {
+                       tv = tarval_mod(tv, new_tarval_from_long(32, mode_Iu));
+                       set_ia32_Immop_tarval(imm_op, tv);
+               }
+               else {
+                       imm_op = NULL;
+               }
        }
 
-       res = new_rd_ia32_Add(tenv.dbg, tenv.irg, tenv.block, noreg, noreg, op1, op2, nomem);
-       arch_set_irn_register(cg->arch_env, res, out_reg);
-       set_ia32_op_type(res, ia32_Normal);
-       set_ia32_commutative(res);
-       set_ia32_res_mode(res, tenv.mode);
+       /* integer operations */
+       if (imm_op) {
+               /* This is ShiftD with const */
+               DB((mod, LEVEL_1, "ShiftD with immediate ..."));
 
-       if (imm) {
-               set_ia32_cnst(res, offs);
-               set_ia32_immop_type(res, ia32_ImmConst);
+               if (is_ia32_l_ShlD(env->irn))
+                       new_op = new_rd_ia32_ShlD(dbg, irg, block, noreg, noreg, op1, op2, noreg, nomem);
+               else
+                       new_op = new_rd_ia32_ShrD(dbg, irg, block, noreg, noreg, op1, op2, noreg, nomem);
+               set_ia32_Immop_attr(new_op, imm_op);
+       }
+       else {
+               /* This is a normal ShiftD */
+               DB((mod, LEVEL_1, "ShiftD binop ..."));
+               if (is_ia32_l_ShlD(env->irn))
+                       new_op = new_rd_ia32_ShlD(dbg, irg, block, noreg, noreg, op1, op2, count, nomem);
+               else
+                       new_op = new_rd_ia32_ShrD(dbg, irg, block, noreg, noreg, op1, op2, count, nomem);
        }
 
-       SET_IA32_ORIG_NODE(res, ia32_get_old_node_name(cg, irn));
+       /* set AM support */
+       set_ia32_am_support(new_op, ia32_am_Dest);
+
+       SET_IA32_ORIG_NODE(new_op, ia32_get_old_node_name(env->cg, env->irn));
+
+       set_ia32_res_mode(new_op, mode);
+       set_ia32_emit_cl(new_op);
+
+       return new_rd_Proj(dbg, irg, block, new_op, mode, 0);
+}
+
+static ir_node *gen_ia32_l_ShlD(ia32_transform_env_t *env) {
+       return gen_lowered_64bit_shifts(env, get_irn_n(env->irn, 0), get_irn_n(env->irn, 1), get_irn_n(env->irn, 2));
+}
 
-       /* add Add to schedule */
-       sched_add_before(irn, res);
+static ir_node *gen_ia32_l_ShrD(ia32_transform_env_t *env) {
+       return gen_lowered_64bit_shifts(env, get_irn_n(env->irn, 0), get_irn_n(env->irn, 1), get_irn_n(env->irn, 2));
+}
+
+/**
+ * In case SSE Unit is used, the node is transformed into a vfst + xLoad.
+ */
+static ir_node *gen_ia32_l_X87toSSE(ia32_transform_env_t *env) {
+       ia32_code_gen_t *cg  = env->cg;
+       ir_node         *res = NULL;
+       ir_node         *ptr = get_irn_n(env->irn, 0);
+       ir_node         *val = get_irn_n(env->irn, 1);
+       ir_node         *mem = get_irn_n(env->irn, 2);
+
+       if (USE_SSE2(cg)) {
+               ir_node *noreg = ia32_new_NoReg_gp(cg);
+
+               /* Store x87 -> MEM */
+               res = new_rd_ia32_vfst(env->dbg, env->irg, env->block, ptr, noreg, val, mem);
+               set_ia32_frame_ent(res, get_ia32_frame_ent(env->irn));
+               set_ia32_use_frame(res);
+               set_ia32_ls_mode(res, get_ia32_ls_mode(env->irn));
+               set_ia32_am_support(res, ia32_am_Dest);
+               set_ia32_am_flavour(res, ia32_B);
+               res = new_rd_Proj(env->dbg, env->irg, env->block, res, mode_M, pn_ia32_vfst_M);
+
+               /* Load MEM -> SSE */
+               res = new_rd_ia32_xLoad(env->dbg, env->irg, env->block, ptr, noreg, res);
+               set_ia32_frame_ent(res, get_ia32_frame_ent(env->irn));
+               set_ia32_use_frame(res);
+               set_ia32_ls_mode(res, get_ia32_ls_mode(env->irn));
+               set_ia32_am_support(res, ia32_am_Source);
+               set_ia32_am_flavour(res, ia32_B);
+               res = new_rd_Proj(env->dbg, env->irg, env->block, res, get_ia32_ls_mode(env->irn), pn_ia32_xLoad_res);
+       }
+       else {
+               /* SSE unit is not used -> skip this node. */
+               int i;
 
-       DBG_OPT_LEA2ADD(irn, res);
+               edges_reroute(env->irn, val, env->irg);
+               for (i = get_irn_arity(env->irn) - 1; i >= 0; i--)
+                       set_irn_n(env->irn, i, get_irg_bad(env->irg));
+       }
 
-       res = new_rd_Proj(tenv.dbg, tenv.irg, tenv.block, res, tenv.mode, pn_ia32_Add_res);
+       return res;
+}
 
-       /* add result Proj to schedule */
-       sched_add_before(irn, res);
+/**
+ * In case SSE Unit is used, the node is transformed into a xStore + vfld.
+ */
+static ir_node *gen_ia32_l_SSEtoX87(ia32_transform_env_t *env) {
+       ia32_code_gen_t *cg  = env->cg;
+       ir_node         *res = NULL;
+       ir_node         *ptr = get_irn_n(env->irn, 0);
+       ir_node         *val = get_irn_n(env->irn, 1);
+       ir_node         *mem = get_irn_n(env->irn, 2);
+
+       if (USE_SSE2(cg)) {
+               ir_node *noreg = ia32_new_NoReg_gp(cg);
+
+               /* Store SSE -> MEM */
+               res = new_rd_ia32_xStore(env->dbg, env->irg, env->block, ptr, noreg, val, mem);
+               set_ia32_frame_ent(res, get_ia32_frame_ent(env->irn));
+               set_ia32_use_frame(res);
+               set_ia32_ls_mode(res, get_ia32_ls_mode(env->irn));
+               set_ia32_am_support(res, ia32_am_Dest);
+               set_ia32_am_flavour(res, ia32_B);
+               res = new_rd_Proj(env->dbg, env->irg, env->block, res, mode_M, pn_ia32_xStore_M);
+
+               /* Load MEM -> x87 */
+               res = new_rd_ia32_vfld(env->dbg, env->irg, env->block, ptr, noreg, mem);
+               set_ia32_frame_ent(res, get_ia32_frame_ent(env->irn));
+               set_ia32_use_frame(res);
+               set_ia32_ls_mode(res, get_ia32_ls_mode(env->irn));
+               set_ia32_am_support(res, ia32_am_Source);
+               set_ia32_am_flavour(res, ia32_B);
+               res = new_rd_Proj(env->dbg, env->irg, env->block, res, get_ia32_ls_mode(env->irn), pn_ia32_vfld_res);
+       }
+       else {
+               /* SSE unit is not used -> skip this node. */
+               int i;
 
-       /* remove the old LEA */
-       sched_remove(irn);
+               edges_reroute(env->irn, val, env->irg);
+               for (i = get_irn_arity(env->irn) - 1; i >= 0; i--)
+                       set_irn_n(env->irn, i, get_irg_bad(env->irg));
+       }
 
-       /* exchange the Add and the LEA */
-       exchange(irn, res);
+       return res;
 }
 
+/*********************************************************
+ *                  _             _      _
+ *                 (_)           | |    (_)
+ *  _ __ ___   __ _ _ _ __     __| |_ __ ___   _____ _ __
+ * | '_ ` _ \ / _` | | '_ \   / _` | '__| \ \ / / _ \ '__|
+ * | | | | | | (_| | | | | | | (_| | |  | |\ V /  __/ |
+ * |_| |_| |_|\__,_|_|_| |_|  \__,_|_|  |_| \_/ \___|_|
+ *
+ *********************************************************/
+
 /**
  * the BAD transformer.
  */
@@ -2441,6 +2901,30 @@ void ia32_register_transformers(void) {
        GEN(Mux);
        GEN(Psi);
 
+       /* transform ops from intrinsic lowering */
+       GEN(ia32_l_Add);
+       GEN(ia32_l_AddC);
+       GEN(ia32_l_Sub);
+       GEN(ia32_l_SubC);
+       GEN(ia32_l_Minus);
+       GEN(ia32_l_Mul);
+       GEN(ia32_l_Eor);
+       GEN(ia32_l_MulS);
+       GEN(ia32_l_Shl);
+       GEN(ia32_l_Shr);
+       GEN(ia32_l_Shrs);
+       GEN(ia32_l_ShlD);
+       GEN(ia32_l_ShrD);
+       GEN(ia32_l_vfdiv);
+       GEN(ia32_l_vfmul);
+       GEN(ia32_l_vfsub);
+       GEN(ia32_l_vfild);
+       GEN(ia32_l_Load);
+       GEN(ia32_l_vfist);
+       GEN(ia32_l_Store);
+       GEN(ia32_l_X87toSSE);
+       GEN(ia32_l_SSEtoX87);
+
        IGN(Call);
        IGN(Alloc);
 
@@ -2459,6 +2943,7 @@ void ia32_register_transformers(void) {
        IGN(SymConst);
        IGN(Sync);
 
+       /* we should never see these nodes */
        BAD(Raise);
        BAD(Sel);
        BAD(InstOf);
@@ -2473,10 +2958,14 @@ void ia32_register_transformers(void) {
        BAD(EndReg);
        BAD(EndExcept);
 
+       /* handle generic backend nodes */
        GEN(be_FrameAddr);
+       GEN(be_Call);
+       GEN(be_Return);
        GEN(be_FrameLoad);
        GEN(be_FrameStore);
        GEN(be_StackParam);
+       GEN(be_AddSP);
 
        /* set the register for all Unknown nodes */
        GEN(Unknown);
@@ -2525,12 +3014,12 @@ void ia32_transform_node(ir_node *node, void *env) {
                ia32_transform_env_t  tenv;
                transform_func *transform = (transform_func *)op->ops.generic;
 
-               tenv.block    = get_nodes_block(node);
-               tenv.dbg      = get_irn_dbg_info(node);
-               tenv.irg      = current_ir_graph;
-               tenv.irn      = node;
-               tenv.mode     = get_irn_mode(node);
-               tenv.cg       = cg;
+               tenv.block = get_nodes_block(node);
+               tenv.dbg   = get_irn_dbg_info(node);
+               tenv.irg   = current_ir_graph;
+               tenv.irn   = node;
+               tenv.mode  = get_irn_mode(node);
+               tenv.cg    = cg;
                DEBUG_ONLY(tenv.mod = cg->mod;)
 
                asm_node = (*transform)(&tenv);
@@ -2552,7 +3041,12 @@ void ia32_transform_node(ir_node *node, void *env) {
 static void transform_psi_cond(ir_node *cond, ir_mode *mode, ia32_code_gen_t *cg) {
        int i;
 
+       /* if the mode is target mode, we have already seen this part of the tree */
+       if (get_irn_mode(cond) == mode)
+               return;
+
        assert(get_irn_mode(cond) == mode_b && "logical operator for condition must be mode_b");
+
        set_irn_mode(cond, mode);
 
        for (i = get_irn_arity(cond) - 1; i >= 0; i--) {
@@ -2576,11 +3070,16 @@ static void transform_psi_cond(ir_node *cond, ir_mode *mode, ia32_code_gen_t *cg
                                /* Psi is float, we need a floating point compare */
 
                                if (USE_SSE2(cg)) {
+                                       ir_mode *m = get_irn_mode(cmp_a);
                                        /* SSE FPU */
-                                       if (! mode_is_float(get_irn_mode(cmp_a))) {
+                                       if (! mode_is_float(m)) {
                                                cmp_a = gen_sse_conv_int2float(cg, dbg, irg, block, cmp_a, cmp_a, mode);
                                                cmp_b = gen_sse_conv_int2float(cg, dbg, irg, block, cmp_b, cmp_b, mode);
-                                               pnc  += pn_Cmp_Uo;
+                                       }
+                                       else if (m == mode_F) {
+                                               /* we convert cmp values always to double, to get correct bitmask with cmpsd */
+                                               cmp_a = gen_sse_conv_f2d(cg, dbg, irg, block, cmp_a, cmp_a);
+                                               cmp_b = gen_sse_conv_f2d(cg, dbg, irg, block, cmp_b, cmp_b);
                                        }
 
                                        new_op = new_rd_ia32_xCmp(dbg, irg, block, noreg, noreg, cmp_a, cmp_b, nomem);
@@ -2594,13 +3093,44 @@ static void transform_psi_cond(ir_node *cond, ir_mode *mode, ia32_code_gen_t *cg
                        }
                        else {
                                /* integer Psi */
-                               new_op = new_rd_ia32_Set(dbg, irg, block, cmp_a, cmp_b, mode);
-                               set_ia32_pncode(new_op, pnc);
-                               SET_IA32_ORIG_NODE(new_op, ia32_get_old_node_name(cg, cmp));
+                               ia32_transform_env_t tenv;
+                               construct_binop_func *set_func  = NULL;
+
+                               if (mode_is_float(get_irn_mode(cmp_a))) {
+                                       /* 1st case: compare operands are floats */
+                                       FP_USED(cg);
+
+                                       if (USE_SSE2(cg)) {
+                                               /* SSE FPU */
+                                               set_func  = new_rd_ia32_xCmpSet;
+                                       }
+                                       else {
+                                               /* x87 FPU */
+                                               set_func  = new_rd_ia32_vfCmpSet;
+                                       }
+
+                                       pnc &= 7; /* fp compare -> int compare */
+                               }
+                               else {
+                                       /* 2nd case: compare operand are integer too */
+                                       set_func  = new_rd_ia32_CmpSet;
+                               }
+
+                               tenv.block = block;
+                               tenv.cg    = cg;
+                               tenv.dbg   = dbg;
+                               tenv.irg   = irg;
+                               tenv.irn   = cmp;
+                               tenv.mode  = mode;
+                               tenv.mod   = cg->mod;
+
+                               new_op = gen_binop(&tenv, cmp_a, cmp_b, set_func);
+                               set_ia32_pncode(get_Proj_pred(new_op), pnc);
+                               set_ia32_am_support(get_Proj_pred(new_op), ia32_am_Source);
                        }
 
-                       /* exchange with old compare */
-                       exchange(in, new_op);
+                       /* the the new compare as in */
+                       set_irn_n(cond, i, new_op);
                }
                else {
                        /* another complex condition */
@@ -2616,7 +3146,7 @@ static void transform_psi_cond(ir_node *cond, ir_mode *mode, ia32_code_gen_t *cg
  * "And"s and "Or"s are transformed later, we just have to set their mode right.
  */
 void ia32_transform_psi_cond_tree(ir_node *node, void *env) {
-       ia32_code_gen_t *cg      = (ia32_code_gen_t *)env;
+       ia32_code_gen_t *cg env;
        ir_node         *psi_sel, *new_cmp, *block;
        ir_graph        *irg;
        ir_mode         *mode;