BugFix: Fixed off-by-one error introduced by r26724.
[libfirm] / ir / be / beabi.c
1 /*
2  * Copyright (C) 1995-2008 University of Karlsruhe.  All right reserved.
3  *
4  * This file is part of libFirm.
5  *
6  * This file may be distributed and/or modified under the terms of the
7  * GNU General Public License version 2 as published by the Free Software
8  * Foundation and appearing in the file LICENSE.GPL included in the
9  * packaging of this file.
10  *
11  * Licensees holding valid libFirm Professional Edition licenses may use
12  * this file in accordance with the libFirm Commercial License.
13  * Agreement provided with the Software.
14  *
15  * This file is provided AS IS with NO WARRANTY OF ANY KIND, INCLUDING THE
16  * WARRANTY OF DESIGN, MERCHANTABILITY AND FITNESS FOR A PARTICULAR
17  * PURPOSE.
18  */
19
20 /**
21  * @file
22  * @brief       Backend ABI implementation.
23  * @author      Sebastian Hack, Michael Beck
24  * @version     $Id$
25  */
26 #include "config.h"
27
28 #include "obst.h"
29 #include "offset.h"
30
31 #include "irgopt.h"
32
33 #include "irgraph_t.h"
34 #include "irnode_t.h"
35 #include "ircons_t.h"
36 #include "iredges_t.h"
37 #include "irgmod.h"
38 #include "irgwalk.h"
39 #include "irprintf_t.h"
40 #include "irgopt.h"
41 #include "irbitset.h"
42 #include "height.h"
43 #include "pdeq.h"
44 #include "irtools.h"
45 #include "raw_bitset.h"
46 #include "error.h"
47 #include "pset_new.h"
48
49 #include "be.h"
50 #include "beabi.h"
51 #include "bearch.h"
52 #include "benode.h"
53 #include "belive_t.h"
54 #include "besched.h"
55 #include "beirg.h"
56 #include "bessaconstr.h"
57 #include "bemodule.h"
58
59 DEBUG_ONLY(static firm_dbg_module_t *dbg;)
60
61 typedef struct _be_abi_call_arg_t {
62         unsigned is_res   : 1;  /**< 1: the call argument is a return value. 0: it's a call parameter. */
63         unsigned in_reg   : 1;  /**< 1: this argument is transmitted in registers. */
64         unsigned on_stack : 1;  /**< 1: this argument is transmitted on the stack. */
65
66         int                    pos;
67         const arch_register_t *reg;
68         ir_entity             *stack_ent;
69         ir_mode               *load_mode;
70         unsigned               alignment;    /**< stack alignment */
71         unsigned               space_before; /**< allocate space before */
72         unsigned               space_after;  /**< allocate space after */
73 } be_abi_call_arg_t;
74
75 struct _be_abi_call_t {
76         be_abi_call_flags_t          flags;  /**< Flags describing the ABI behavior on calls */
77         int                          pop;    /**< number of bytes the stack frame is shrinked by the callee on return. */
78         const be_abi_callbacks_t    *cb;
79         ir_type                     *between_type;
80         set                         *params;
81         const arch_register_class_t *cls_addr; /**< register class of the call address */
82 };
83
84 /**
85  * The ABI information for the current birg.
86  */
87 struct _be_abi_irg_t {
88         be_irg_t             *birg;         /**< The back end IRG. */
89         ir_graph             *irg;
90         const arch_env_t     *arch_env;
91         survive_dce_t        *dce_survivor;
92
93         be_abi_call_t        *call;         /**< The ABI call information. */
94         ir_type              *method_type;  /**< The type of the method of the IRG. */
95
96         ir_node              *init_sp;      /**< The node representing the stack pointer
97                                                  at the start of the function. */
98
99         ir_node              *start;        /**< The be_Start params node. */
100         pmap                 *regs;         /**< A map of all callee-save and ignore regs to
101                                                  their Projs to the RegParams node. */
102
103         int                  start_block_bias; /**< The stack bias at the end of the start block. */
104
105         void                 *cb;           /**< ABI Callback self pointer. */
106
107         pmap                 *keep_map;     /**< mapping blocks to keep nodes. */
108         pset                 *ignore_regs;  /**< Additional registers which shall be ignored. */
109
110         ir_node              **calls;       /**< flexible array containing all be_Call nodes */
111
112         arch_register_req_t  *sp_req;
113
114         be_stack_layout_t    frame;         /**< The stack frame model. */
115 };
116
117 static heights_t *ir_heights;
118
119 /** Flag: if set, try to omit the frame pointer in all routines. */
120 static int be_omit_fp = 1;
121
122 /** Flag: if set, try to omit the frame pointer in leaf routines only. */
123 static int be_omit_leaf_fp = 1;
124
125 /*
126      _    ____ ___    ____      _ _ _                _
127     / \  | __ )_ _|  / ___|__ _| | | |__   __ _  ___| | _____
128    / _ \ |  _ \| |  | |   / _` | | | '_ \ / _` |/ __| |/ / __|
129   / ___ \| |_) | |  | |__| (_| | | | |_) | (_| | (__|   <\__ \
130  /_/   \_\____/___|  \____\__,_|_|_|_.__/ \__,_|\___|_|\_\___/
131
132   These callbacks are used by the backend to set the parameters
133   for a specific call type.
134 */
135
136 /**
137  * Set compare function: compares two ABI call object arguments.
138  */
139 static int cmp_call_arg(const void *a, const void *b, size_t n)
140 {
141         const be_abi_call_arg_t *p = a, *q = b;
142         (void) n;
143         return !(p->is_res == q->is_res && p->pos == q->pos);
144 }
145
146 /**
147  * Get  an ABI call object argument.
148  *
149  * @param call      the abi call
150  * @param is_res    true for call results, false for call arguments
151  * @param pos       position of the argument
152  */
153 static be_abi_call_arg_t *get_call_arg(be_abi_call_t *call, int is_res, int pos)
154 {
155         be_abi_call_arg_t arg;
156         unsigned hash;
157
158         memset(&arg, 0, sizeof(arg));
159         arg.is_res = is_res;
160         arg.pos    = pos;
161
162         hash = is_res * 128 + pos;
163
164         return set_find(call->params, &arg, sizeof(arg), hash);
165 }
166
167 /**
168  * Set an ABI call object argument.
169  *
170  * @param call      the abi call
171  * @param is_res    true for call results, false for call arguments
172  * @param pos       position of the argument
173  */
174 static be_abi_call_arg_t *create_call_arg(be_abi_call_t *call, int is_res, int pos)
175 {
176         be_abi_call_arg_t arg;
177         unsigned hash;
178
179         memset(&arg, 0, sizeof(arg));
180         arg.is_res = is_res;
181         arg.pos    = pos;
182
183         hash = is_res * 128 + pos;
184
185         return set_insert(call->params, &arg, sizeof(arg), hash);
186 }
187
188 /* Set the flags for a call. */
189 void be_abi_call_set_flags(be_abi_call_t *call, be_abi_call_flags_t flags, const be_abi_callbacks_t *cb)
190 {
191         call->flags = flags;
192         call->cb    = cb;
193 }
194
195 /* Sets the number of bytes the stackframe is shrinked by the callee on return */
196 void be_abi_call_set_pop(be_abi_call_t *call, int pop)
197 {
198         assert(pop >= 0);
199         call->pop = pop;
200 }
201
202 /* Set register class for call address */
203 void be_abi_call_set_call_address_reg_class(be_abi_call_t *call, const arch_register_class_t *cls)
204 {
205         call->cls_addr = cls;
206 }
207
208
209 void be_abi_call_param_stack(be_abi_call_t *call, int arg_pos, ir_mode *load_mode, unsigned alignment, unsigned space_before, unsigned space_after)
210 {
211         be_abi_call_arg_t *arg = create_call_arg(call, 0, arg_pos);
212         arg->on_stack     = 1;
213         arg->load_mode    = load_mode;
214         arg->alignment    = alignment;
215         arg->space_before = space_before;
216         arg->space_after  = space_after;
217         assert(alignment > 0 && "Alignment must be greater than 0");
218 }
219
220 void be_abi_call_param_reg(be_abi_call_t *call, int arg_pos, const arch_register_t *reg)
221 {
222         be_abi_call_arg_t *arg = create_call_arg(call, 0, arg_pos);
223         arg->in_reg = 1;
224         arg->reg = reg;
225 }
226
227 void be_abi_call_res_reg(be_abi_call_t *call, int arg_pos, const arch_register_t *reg)
228 {
229         be_abi_call_arg_t *arg = create_call_arg(call, 1, arg_pos);
230         arg->in_reg = 1;
231         arg->reg = reg;
232 }
233
234 /* Get the flags of a ABI call object. */
235 be_abi_call_flags_t be_abi_call_get_flags(const be_abi_call_t *call)
236 {
237         return call->flags;
238 }
239
240 /**
241  * Constructor for a new ABI call object.
242  *
243  * @param cls_addr  register class of the call address
244  *
245  * @return the new ABI call object
246  */
247 static be_abi_call_t *be_abi_call_new(const arch_register_class_t *cls_addr)
248 {
249         be_abi_call_t *call = XMALLOCZ(be_abi_call_t);
250
251         call->flags.val  = 0;
252         call->params     = new_set(cmp_call_arg, 16);
253         call->cb         = NULL;
254         call->cls_addr   = cls_addr;
255
256         call->flags.bits.try_omit_fp = be_omit_fp | be_omit_leaf_fp;
257
258         return call;
259 }
260
261 /**
262  * Destructor for an ABI call object.
263  */
264 static void be_abi_call_free(be_abi_call_t *call)
265 {
266         del_set(call->params);
267         free(call);
268 }
269
270 /*
271   _____                           _   _                 _ _ _
272  |  ___| __ __ _ _ __ ___   ___  | | | | __ _ _ __   __| | (_)_ __   __ _
273  | |_ | '__/ _` | '_ ` _ \ / _ \ | |_| |/ _` | '_ \ / _` | | | '_ \ / _` |
274  |  _|| | | (_| | | | | | |  __/ |  _  | (_| | | | | (_| | | | | | | (_| |
275  |_|  |_|  \__,_|_| |_| |_|\___| |_| |_|\__,_|_| |_|\__,_|_|_|_| |_|\__, |
276                                                                     |___/
277
278   Handling of the stack frame. It is composed of three types:
279   1) The type of the arguments which are pushed on the stack.
280   2) The "between type" which consists of stuff the call of the
281      function pushes on the stack (like the return address and
282          the old base pointer for ia32).
283   3) The Firm frame type which consists of all local variables
284      and the spills.
285 */
286
287 static int get_stack_entity_offset(be_stack_layout_t *frame, ir_entity *ent,
288                                    int bias)
289 {
290         ir_type *t = get_entity_owner(ent);
291         int ofs    = get_entity_offset(ent);
292
293         int index;
294
295         /* Find the type the entity is contained in. */
296         for (index = 0; index < N_FRAME_TYPES; ++index) {
297                 if (frame->order[index] == t)
298                         break;
299                 /* Add the size of all the types below the one of the entity to the entity's offset */
300                 ofs += get_type_size_bytes(frame->order[index]);
301         }
302
303         /* correct the offset by the initial position of the frame pointer */
304         ofs -= frame->initial_offset;
305
306         /* correct the offset with the current bias. */
307         ofs += bias;
308
309         return ofs;
310 }
311
312 /**
313  * Retrieve the entity with given offset from a frame type.
314  */
315 static ir_entity *search_ent_with_offset(ir_type *t, int offset)
316 {
317         int i, n;
318
319         for (i = 0, n = get_compound_n_members(t); i < n; ++i) {
320                 ir_entity *ent = get_compound_member(t, i);
321                 if (get_entity_offset(ent) == offset)
322                         return ent;
323         }
324
325         return NULL;
326 }
327
328 static int stack_frame_compute_initial_offset(be_stack_layout_t *frame)
329 {
330         ir_type  *base = frame->stack_dir < 0 ? frame->between_type : frame->frame_type;
331         ir_entity *ent = search_ent_with_offset(base, 0);
332
333         if (ent == NULL) {
334                 frame->initial_offset
335                         = frame->stack_dir < 0 ? get_type_size_bytes(frame->frame_type) : get_type_size_bytes(frame->between_type);
336         } else {
337                 frame->initial_offset = get_stack_entity_offset(frame, ent, 0);
338         }
339
340         return frame->initial_offset;
341 }
342
343 /**
344  * Initializes the frame layout from parts
345  *
346  * @param frame     the stack layout that will be initialized
347  * @param args      the stack argument layout type
348  * @param between   the between layout type
349  * @param locals    the method frame type
350  * @param stack_dir the stack direction: < 0 decreasing, > 0 increasing addresses
351  * @param param_map an array mapping method argument positions to the stack argument type
352  *
353  * @return the initialized stack layout
354  */
355 static be_stack_layout_t *stack_frame_init(be_stack_layout_t *frame, ir_type *args,
356                                            ir_type *between, ir_type *locals, int stack_dir,
357                                            ir_entity *param_map[])
358 {
359         frame->arg_type       = args;
360         frame->between_type   = between;
361         frame->frame_type     = locals;
362         frame->initial_offset = 0;
363         frame->initial_bias   = 0;
364         frame->stack_dir      = stack_dir;
365         frame->order[1]       = between;
366         frame->param_map      = param_map;
367
368         if (stack_dir > 0) {
369                 frame->order[0] = args;
370                 frame->order[2] = locals;
371         }
372         else {
373                 /* typical decreasing stack: locals have the
374                  * lowest addresses, arguments the highest */
375                 frame->order[0] = locals;
376                 frame->order[2] = args;
377         }
378         return frame;
379 }
380
381 /**
382  * Returns non-zero if the call argument at given position
383  * is transfered on the stack.
384  */
385 static inline int is_on_stack(be_abi_call_t *call, int pos)
386 {
387         be_abi_call_arg_t *arg = get_call_arg(call, 0, pos);
388         return arg && !arg->in_reg;
389 }
390
391 /*
392    ____      _ _
393   / ___|__ _| | |___
394  | |   / _` | | / __|
395  | |__| (_| | | \__ \
396   \____\__,_|_|_|___/
397
398   Adjustment of the calls inside a graph.
399
400 */
401
402 /**
403  * Transform a call node into a be_Call node.
404  *
405  * @param env The ABI environment for the current irg.
406  * @param irn The call node.
407  * @param curr_sp The stack pointer node to use.
408  * @return The stack pointer after the call.
409  */
410 static ir_node *adjust_call(be_abi_irg_t *env, ir_node *irn, ir_node *curr_sp)
411 {
412         ir_graph *irg              = env->birg->irg;
413         const arch_env_t *arch_env = env->birg->main_env->arch_env;
414         ir_type *call_tp           = get_Call_type(irn);
415         ir_node *call_ptr          = get_Call_ptr(irn);
416         int n_params               = get_method_n_params(call_tp);
417         ir_node *curr_mem          = get_Call_mem(irn);
418         ir_node *bl                = get_nodes_block(irn);
419         int stack_size             = 0;
420         int stack_dir              = arch_env->stack_dir;
421         const arch_register_t *sp  = arch_env->sp;
422         be_abi_call_t *call        = be_abi_call_new(sp->reg_class);
423         ir_mode *mach_mode         = sp->reg_class->mode;
424         struct obstack *obst       = be_get_birg_obst(irg);
425         int no_alloc               = call->flags.bits.frame_is_setup_on_call;
426         int n_res                  = get_method_n_ress(call_tp);
427         int do_seq                 = call->flags.bits.store_args_sequential && !no_alloc;
428
429         ir_node *res_proj  = NULL;
430         int n_reg_params   = 0;
431         int n_stack_params = 0;
432         int n_ins;
433
434         pset_new_t              destroyed_regs, states;
435         pset_new_iterator_t     iter;
436         ir_node                *low_call;
437         ir_node               **in;
438         ir_node               **res_projs;
439         int                     n_reg_results = 0;
440         const arch_register_t  *reg;
441         const ir_edge_t        *edge;
442         int                    *reg_param_idxs;
443         int                    *stack_param_idx;
444         int                     i, n, destroy_all_regs;
445         dbg_info               *dbgi;
446
447         pset_new_init(&destroyed_regs);
448         pset_new_init(&states);
449
450         /* Let the isa fill out the abi description for that call node. */
451         arch_env_get_call_abi(arch_env, call_tp, call);
452
453         /* Insert code to put the stack arguments on the stack. */
454         assert(get_Call_n_params(irn) == n_params);
455         assert(obstack_object_size(obst) == 0);
456         stack_param_idx = ALLOCAN(int, n_params);
457         for (i = 0; i < n_params; ++i) {
458                 be_abi_call_arg_t *arg = get_call_arg(call, 0, i);
459                 assert(arg);
460                 if (arg->on_stack) {
461                         int arg_size = get_type_size_bytes(get_method_param_type(call_tp, i));
462
463                         stack_size += round_up2(arg->space_before, arg->alignment);
464                         stack_size += round_up2(arg_size, arg->alignment);
465                         stack_size += round_up2(arg->space_after, arg->alignment);
466
467                         stack_param_idx[n_stack_params++] = i;
468                 }
469         }
470
471         /* Collect all arguments which are passed in registers. */
472         reg_param_idxs = ALLOCAN(int, n_params);
473         for (i = 0; i < n_params; ++i) {
474                 be_abi_call_arg_t *arg = get_call_arg(call, 0, i);
475                 if (arg && arg->in_reg) {
476                         reg_param_idxs[n_reg_params++] = i;
477                 }
478         }
479
480         /*
481          * If the stack is decreasing and we do not want to store sequentially,
482          * or someone else allocated the call frame
483          * we allocate as much space on the stack all parameters need, by
484          * moving the stack pointer along the stack's direction.
485          *
486          * Note: we also have to do this for stack_size == 0, because we may have
487          * to adjust stack alignment for the call.
488          */
489         if (stack_dir < 0 && !do_seq && !no_alloc) {
490                 curr_sp = be_new_IncSP(sp, bl, curr_sp, stack_size, 1);
491         }
492
493         dbgi = get_irn_dbg_info(irn);
494         /* If there are some parameters which shall be passed on the stack. */
495         if (n_stack_params > 0) {
496                 int       curr_ofs = 0;
497                 ir_node **in       = ALLOCAN(ir_node*, n_stack_params+1);
498                 unsigned  n_in     = 0;
499
500                 /*
501                  * Reverse list of stack parameters if call arguments are from left to right.
502                  * We must them reverse again if they are pushed (not stored) and the stack
503                  * direction is downwards.
504                  */
505                 if (call->flags.bits.left_to_right ^ (do_seq && stack_dir < 0)) {
506                         for (i = 0; i < n_stack_params >> 1; ++i) {
507                                 int other  = n_stack_params - i - 1;
508                                 int tmp    = stack_param_idx[i];
509                                 stack_param_idx[i]     = stack_param_idx[other];
510                                 stack_param_idx[other] = tmp;
511                         }
512                 }
513
514                 curr_mem = get_Call_mem(irn);
515                 if (! do_seq) {
516                         in[n_in++] = curr_mem;
517                 }
518
519                 for (i = 0; i < n_stack_params; ++i) {
520                         int p                  = stack_param_idx[i];
521                         be_abi_call_arg_t *arg = get_call_arg(call, 0, p);
522                         ir_node *param         = get_Call_param(irn, p);
523                         ir_node *addr          = curr_sp;
524                         ir_node *mem           = NULL;
525                         ir_type *param_type    = get_method_param_type(call_tp, p);
526                         int param_size         = get_type_size_bytes(param_type) + arg->space_after;
527
528                         /*
529                          * If we wanted to build the arguments sequentially,
530                          * the stack pointer for the next must be incremented,
531                          * and the memory value propagated.
532                          */
533                         if (do_seq) {
534                                 curr_ofs = 0;
535                                 addr = curr_sp = be_new_IncSP(sp, bl, curr_sp,
536                                                               param_size + arg->space_before, 0);
537                                 add_irn_dep(curr_sp, curr_mem);
538                         } else {
539                                 curr_ofs += arg->space_before;
540                                 curr_ofs =  round_up2(curr_ofs, arg->alignment);
541
542                                 /* Make the expression to compute the argument's offset. */
543                                 if (curr_ofs > 0) {
544                                         ir_mode *constmode = mach_mode;
545                                         if (mode_is_reference(mach_mode)) {
546                                                 constmode = mode_Is;
547                                         }
548                                         addr = new_r_Const_long(irg, constmode, curr_ofs);
549                                         addr = new_r_Add(bl, curr_sp, addr, mach_mode);
550                                 }
551                         }
552
553                         /* Insert a store for primitive arguments. */
554                         if (is_atomic_type(param_type)) {
555                                 ir_node *store;
556                                 ir_node *mem_input = do_seq ? curr_mem : new_NoMem();
557                                 store = new_rd_Store(dbgi, bl, mem_input, addr, param, 0);
558                                 mem   = new_r_Proj(bl, store, mode_M, pn_Store_M);
559                         } else {
560                                 /* Make a mem copy for compound arguments. */
561                                 ir_node *copy;
562
563                                 assert(mode_is_reference(get_irn_mode(param)));
564                                 copy = new_rd_CopyB(dbgi, bl, curr_mem, addr, param, param_type);
565                                 mem = new_r_Proj(bl, copy, mode_M, pn_CopyB_M_regular);
566                         }
567
568                         curr_ofs += param_size;
569
570                         if (do_seq)
571                                 curr_mem = mem;
572                         else
573                                 in[n_in++] = mem;
574                 }
575
576                 /* We need the sync only, if we didn't build the stores sequentially. */
577                 if (! do_seq) {
578                         if (n_stack_params >= 1) {
579                                 curr_mem = new_r_Sync(bl, n_in, in);
580                         } else {
581                                 curr_mem = get_Call_mem(irn);
582                         }
583                 }
584         }
585
586         /* check for the return_twice property */
587         destroy_all_regs = 0;
588         if (is_SymConst_addr_ent(call_ptr)) {
589                 ir_entity *ent = get_SymConst_entity(call_ptr);
590
591                 if (get_entity_additional_properties(ent) & mtp_property_returns_twice)
592                         destroy_all_regs = 1;
593         } else {
594                 ir_type *call_tp = get_Call_type(irn);
595
596                 if (get_method_additional_properties(call_tp) & mtp_property_returns_twice)
597                         destroy_all_regs = 1;
598         }
599
600         /* Put caller save into the destroyed set and state registers in the states set */
601         for (i = 0, n = arch_env_get_n_reg_class(arch_env); i < n; ++i) {
602                 unsigned j;
603                 const arch_register_class_t *cls = arch_env_get_reg_class(arch_env, i);
604                 for (j = 0; j < cls->n_regs; ++j) {
605                         const arch_register_t *reg = arch_register_for_index(cls, j);
606
607                         if (destroy_all_regs || arch_register_type_is(reg, caller_save)) {
608                                 if (! arch_register_type_is(reg, ignore))
609                                         pset_new_insert(&destroyed_regs, (void *) reg);
610                         }
611                         if (arch_register_type_is(reg, state)) {
612                                 pset_new_insert(&destroyed_regs, (void*) reg);
613                                 pset_new_insert(&states, (void*) reg);
614                         }
615                 }
616         }
617
618         if (destroy_all_regs) {
619                 /* even if destroyed all is specified, neither SP nor FP are destroyed (else bad things will happen) */
620                 pset_new_remove(&destroyed_regs, arch_env->sp);
621                 pset_new_remove(&destroyed_regs, arch_env->bp);
622         }
623
624         /* search the largest result proj number */
625         res_projs = ALLOCANZ(ir_node*, n_res);
626
627         foreach_out_edge(irn, edge) {
628                 const ir_edge_t *res_edge;
629                 ir_node         *irn = get_edge_src_irn(edge);
630
631                 if (!is_Proj(irn) || get_Proj_proj(irn) != pn_Call_T_result)
632                         continue;
633
634                 foreach_out_edge(irn, res_edge) {
635                         int proj;
636                         ir_node *res = get_edge_src_irn(res_edge);
637
638                         assert(is_Proj(res));
639
640                         proj = get_Proj_proj(res);
641                         assert(proj < n_res);
642                         assert(res_projs[proj] == NULL);
643                         res_projs[proj] = res;
644                 }
645                 res_proj = irn;
646                 break;
647         }
648
649         /** TODO: this is not correct for cases where return values are passed
650          * on the stack, but no known ABI does this currently...
651          */
652         n_reg_results = n_res;
653
654         assert(obstack_object_size(obst) == 0);
655         n_ins = 0;
656         in    = ALLOCAN(ir_node*, n_reg_params + pset_new_size(&states));
657
658         /* make the back end call node and set its register requirements. */
659         for (i = 0; i < n_reg_params; ++i) {
660                 in[n_ins++] = get_Call_param(irn, reg_param_idxs[i]);
661         }
662
663         /* add state registers ins */
664         foreach_pset_new(&states, reg, iter) {
665                 const arch_register_class_t *cls = arch_register_get_class(reg);
666 #if 0
667                 ir_node *regnode = be_abi_reg_map_get(env->regs, reg);
668                 ir_fprintf(stderr, "Adding %+F\n", regnode);
669 #endif
670                 ir_node *regnode = new_r_Unknown(irg, arch_register_class_mode(cls));
671                 in[n_ins++]      = regnode;
672         }
673         assert(n_ins == (int) (n_reg_params + pset_new_size(&states)));
674
675         /* ins collected, build the call */
676         if (env->call->flags.bits.call_has_imm && is_SymConst(call_ptr)) {
677                 /* direct call */
678                 low_call = be_new_Call(dbgi, irg, bl, curr_mem, curr_sp, curr_sp,
679                                        n_reg_results + pn_be_Call_first_res + pset_new_size(&destroyed_regs),
680                                        n_ins, in, get_Call_type(irn));
681                 be_Call_set_entity(low_call, get_SymConst_entity(call_ptr));
682         } else {
683                 /* indirect call */
684                 low_call = be_new_Call(dbgi, irg, bl, curr_mem, curr_sp, call_ptr,
685                                        n_reg_results + pn_be_Call_first_res + pset_new_size(&destroyed_regs),
686                                        n_ins, in, get_Call_type(irn));
687         }
688         be_Call_set_pop(low_call, call->pop);
689
690         /* put the call into the list of all calls for later processing */
691         ARR_APP1(ir_node *, env->calls, low_call);
692
693         /* create new stack pointer */
694         curr_sp = new_r_Proj(bl, low_call, get_irn_mode(curr_sp), pn_be_Call_sp);
695         be_set_constr_single_reg_out(low_call, pn_be_Call_sp, sp,
696                         arch_register_req_type_ignore | arch_register_req_type_produces_sp);
697         arch_set_irn_register(curr_sp, sp);
698
699         /* now handle results */
700         for (i = 0; i < n_res; ++i) {
701                 int pn;
702                 ir_node           *proj = res_projs[i];
703                 be_abi_call_arg_t *arg  = get_call_arg(call, 1, i);
704
705                 /* returns values on stack not supported yet */
706                 assert(arg->in_reg);
707
708                 /*
709                         shift the proj number to the right, since we will drop the
710                         unspeakable Proj_T from the Call. Therefore, all real argument
711                         Proj numbers must be increased by pn_be_Call_first_res
712                 */
713                 pn = i + pn_be_Call_first_res;
714
715                 if (proj == NULL) {
716                         ir_type *res_type = get_method_res_type(call_tp, i);
717                         ir_mode *mode     = get_type_mode(res_type);
718                         proj              = new_r_Proj(bl, low_call, mode, pn);
719                         res_projs[i]      = proj;
720                 } else {
721                         set_Proj_pred(proj, low_call);
722                         set_Proj_proj(proj, pn);
723                 }
724
725                 if (arg->in_reg) {
726                         pset_new_remove(&destroyed_regs, arg->reg);
727                 }
728         }
729
730         /*
731                 Set the register class of the call address to
732                 the backend provided class (default: stack pointer class)
733         */
734         be_node_set_reg_class_in(low_call, be_pos_Call_ptr, call->cls_addr);
735
736         DBG((dbg, LEVEL_3, "\tcreated backend call %+F\n", low_call));
737
738         /* Set the register classes and constraints of the Call parameters. */
739         for (i = 0; i < n_reg_params; ++i) {
740                 int index = reg_param_idxs[i];
741                 be_abi_call_arg_t *arg = get_call_arg(call, 0, index);
742                 assert(arg->reg != NULL);
743
744                 be_set_constr_single_reg_in(low_call, be_pos_Call_first_arg + i,
745                                             arg->reg, 0);
746         }
747
748         /* Set the register constraints of the results. */
749         for (i = 0; i < n_res; ++i) {
750                 ir_node                 *proj = res_projs[i];
751                 const be_abi_call_arg_t *arg  = get_call_arg(call, 1, i);
752                 int                      pn   = get_Proj_proj(proj);
753
754                 assert(arg->in_reg);
755                 be_set_constr_single_reg_out(low_call, pn, arg->reg, 0);
756                 arch_set_irn_register(proj, arg->reg);
757         }
758         exchange(irn, low_call);
759
760         /* kill the ProjT node */
761         if (res_proj != NULL) {
762                 kill_node(res_proj);
763         }
764
765         /* Make additional projs for the caller save registers
766            and the Keep node which keeps them alive. */
767         {
768                 const arch_register_t *reg;
769                 ir_node               **in, *keep;
770                 int                   i;
771                 int                   n = 0;
772                 int                   curr_res_proj = pn_be_Call_first_res + n_reg_results;
773                 pset_new_iterator_t   iter;
774                 int                   n_ins;
775
776                 n_ins = (int)pset_new_size(&destroyed_regs) + n_reg_results + 1;
777                 in    = ALLOCAN(ir_node *, n_ins);
778
779                 /* also keep the stack pointer */
780                 set_irn_link(curr_sp, (void*) sp);
781                 in[n++] = curr_sp;
782
783                 foreach_pset_new(&destroyed_regs, reg, iter) {
784                         ir_node *proj = new_r_Proj(bl, low_call, reg->reg_class->mode, curr_res_proj);
785
786                         /* memorize the register in the link field. we need afterwards to set the register class of the keep correctly. */
787                         be_set_constr_single_reg_out(low_call, curr_res_proj, reg, 0);
788                         arch_set_irn_register(proj, reg);
789
790                         set_irn_link(proj, (void*) reg);
791                         in[n++] = proj;
792                         ++curr_res_proj;
793                 }
794
795                 for (i = 0; i < n_reg_results; ++i) {
796                         ir_node *proj = res_projs[i];
797                         const arch_register_t *reg = arch_get_irn_register(proj);
798                         set_irn_link(proj, (void*) reg);
799                         in[n++] = proj;
800                 }
801                 assert(n <= n_ins);
802
803                 /* create the Keep for the caller save registers */
804                 keep = be_new_Keep(bl, n, in);
805                 for (i = 0; i < n; ++i) {
806                         const arch_register_t *reg = get_irn_link(in[i]);
807                         be_node_set_reg_class_in(keep, i, reg->reg_class);
808                 }
809         }
810
811         /* Clean up the stack. */
812         assert(stack_size >= call->pop);
813         stack_size -= call->pop;
814
815         if (stack_size > 0) {
816                 ir_node *mem_proj = NULL;
817
818                 foreach_out_edge(low_call, edge) {
819                         ir_node *irn = get_edge_src_irn(edge);
820                         if (is_Proj(irn) && get_Proj_proj(irn) == pn_Call_M) {
821                                 mem_proj = irn;
822                                 break;
823                         }
824                 }
825
826                 if (! mem_proj) {
827                         mem_proj = new_r_Proj(bl, low_call, mode_M, pn_be_Call_M_regular);
828                         keep_alive(mem_proj);
829                 }
830         }
831         /* Clean up the stack frame or revert alignment fixes if we allocated it */
832         if (! no_alloc) {
833                 curr_sp = be_new_IncSP(sp, bl, curr_sp, -stack_size, 0);
834         }
835
836         be_abi_call_free(call);
837
838         pset_new_destroy(&states);
839         pset_new_destroy(&destroyed_regs);
840
841         return curr_sp;
842 }
843
844 /**
845  * Adjust the size of a node representing a stack alloc or free for the minimum stack alignment.
846  *
847  * @param alignment  the minimum stack alignment
848  * @param size       the node containing the non-aligned size
849  * @param block      the block where new nodes are allocated on
850  * @param dbg        debug info for new nodes
851  *
852  * @return a node representing the aligned size
853  */
854 static ir_node *adjust_alloc_size(unsigned stack_alignment, ir_node *size,
855                                   ir_node *block, dbg_info *dbg)
856 {
857         if (stack_alignment > 1) {
858                 ir_mode  *mode;
859                 tarval   *tv;
860                 ir_node  *mask;
861                 ir_graph *irg;
862
863                 assert(is_po2(stack_alignment));
864
865                 mode = get_irn_mode(size);
866                 tv   = new_tarval_from_long(stack_alignment-1, mode);
867                 irg  = get_Block_irg(block);
868                 mask = new_r_Const(irg, tv);
869                 size = new_rd_Add(dbg, block, size, mask, mode);
870
871                 tv   = new_tarval_from_long(-(long)stack_alignment, mode);
872                 mask = new_r_Const(irg, tv);
873                 size = new_rd_And(dbg, block, size, mask, mode);
874         }
875         return size;
876 }
877 /**
878  * Adjust an alloca.
879  * The alloca is transformed into a back end alloca node and connected to the stack nodes.
880  */
881 static ir_node *adjust_alloc(be_abi_irg_t *env, ir_node *alloc, ir_node *curr_sp)
882 {
883         ir_node *block;
884         ir_graph *irg;
885         ir_node *alloc_mem;
886         ir_node *alloc_res;
887         ir_type *type;
888         dbg_info *dbg;
889
890         const ir_edge_t *edge;
891         ir_node *new_alloc, *size, *addr, *ins[2];
892         unsigned stack_alignment;
893
894         assert(get_Alloc_where(alloc) == stack_alloc);
895
896         block = get_nodes_block(alloc);
897         irg   = get_Block_irg(block);
898         alloc_mem = NULL;
899         alloc_res = NULL;
900         type = get_Alloc_type(alloc);
901
902         foreach_out_edge(alloc, edge) {
903                 ir_node *irn = get_edge_src_irn(edge);
904
905                 assert(is_Proj(irn));
906                 switch (get_Proj_proj(irn)) {
907                 case pn_Alloc_M:
908                         alloc_mem = irn;
909                         break;
910                 case pn_Alloc_res:
911                         alloc_res = irn;
912                         break;
913                 default:
914                         break;
915                 }
916         }
917
918         /* Beware: currently Alloc nodes without a result might happen,
919            only escape analysis kills them and this phase runs only for object
920            oriented source. We kill the Alloc here. */
921         if (alloc_res == NULL && alloc_mem) {
922                 exchange(alloc_mem, get_Alloc_mem(alloc));
923                 return curr_sp;
924         }
925
926         dbg  = get_irn_dbg_info(alloc);
927         size = get_Alloc_size(alloc);
928
929         /* we might need to multiply the size with the element size */
930         if (type != firm_unknown_type && get_type_size_bytes(type) != 1) {
931                 ir_mode *mode = get_irn_mode(size);
932                 tarval *tv    = new_tarval_from_long(get_type_size_bytes(type),
933                                                      mode);
934                 ir_node *cnst = new_rd_Const(dbg, irg, tv);
935                 size          = new_rd_Mul(dbg, block, size, cnst, mode);
936         }
937
938         /* The stack pointer will be modified in an unknown manner.
939            We cannot omit it. */
940         env->call->flags.bits.try_omit_fp = 0;
941
942         stack_alignment = 1 << env->arch_env->stack_alignment;
943         size            = adjust_alloc_size(stack_alignment, size, block, dbg);
944         new_alloc       = be_new_AddSP(env->arch_env->sp, block, curr_sp, size);
945         set_irn_dbg_info(new_alloc, dbg);
946
947         if (alloc_mem != NULL) {
948                 ir_node *addsp_mem;
949                 ir_node *sync;
950
951                 addsp_mem = new_r_Proj(block, new_alloc, mode_M, pn_be_AddSP_M);
952
953                 /* We need to sync the output mem of the AddSP with the input mem
954                    edge into the alloc node. */
955                 ins[0] = get_Alloc_mem(alloc);
956                 ins[1] = addsp_mem;
957                 sync = new_r_Sync(block, 2, ins);
958
959                 exchange(alloc_mem, sync);
960         }
961
962         exchange(alloc, new_alloc);
963
964         /* fix projnum of alloca res */
965         set_Proj_proj(alloc_res, pn_be_AddSP_res);
966
967         addr    = alloc_res;
968         curr_sp = new_r_Proj(block, new_alloc,  get_irn_mode(curr_sp),
969                              pn_be_AddSP_sp);
970
971         return curr_sp;
972 }
973
974 /**
975  * Adjust a Free.
976  * The Free is transformed into a back end free node and connected to the stack nodes.
977  */
978 static ir_node *adjust_free(be_abi_irg_t *env, ir_node *free, ir_node *curr_sp)
979 {
980         ir_node *block;
981         ir_graph *irg;
982         ir_node *subsp, *mem, *res, *size, *sync;
983         ir_type *type;
984         ir_node *in[2];
985         ir_mode *sp_mode;
986         unsigned stack_alignment;
987         dbg_info *dbg;
988
989         assert(get_Free_where(free) == stack_alloc);
990
991         block = get_nodes_block(free);
992         irg = get_irn_irg(block);
993         type = get_Free_type(free);
994         sp_mode = env->arch_env->sp->reg_class->mode;
995         dbg = get_irn_dbg_info(free);
996
997         /* we might need to multiply the size with the element size */
998         if (type != firm_unknown_type && get_type_size_bytes(type) != 1) {
999                 tarval *tv = new_tarval_from_long(get_type_size_bytes(type), mode_Iu);
1000                 ir_node *cnst = new_rd_Const(dbg, irg, tv);
1001                 ir_node *mul = new_rd_Mul(dbg, block, get_Free_size(free),
1002                                           cnst, mode_Iu);
1003                 size = mul;
1004         } else {
1005                 size = get_Free_size(free);
1006         }
1007
1008         stack_alignment = 1 << env->arch_env->stack_alignment;
1009         size            = adjust_alloc_size(stack_alignment, size, block, dbg);
1010
1011         /* The stack pointer will be modified in an unknown manner.
1012            We cannot omit it. */
1013         env->call->flags.bits.try_omit_fp = 0;
1014         subsp = be_new_SubSP(env->arch_env->sp, block, curr_sp, size);
1015         set_irn_dbg_info(subsp, dbg);
1016
1017         mem = new_r_Proj(block, subsp, mode_M, pn_be_SubSP_M);
1018         res = new_r_Proj(block, subsp, sp_mode, pn_be_SubSP_sp);
1019
1020         /* we need to sync the memory */
1021         in[0] = get_Free_mem(free);
1022         in[1] = mem;
1023         sync = new_r_Sync(block, 2, in);
1024
1025         /* and make the AddSP dependent on the former memory */
1026         add_irn_dep(subsp, get_Free_mem(free));
1027
1028         /* kill the free */
1029         exchange(free, sync);
1030         curr_sp = res;
1031
1032         return curr_sp;
1033 }
1034
1035 /**
1036  * Check if a node is somehow data dependent on another one.
1037  * both nodes must be in the same basic block.
1038  * @param n1 The first node.
1039  * @param n2 The second node.
1040  * @return 1, if n1 is data dependent (transitively) on n2, 0 if not.
1041  */
1042 static int dependent_on(ir_node *n1, ir_node *n2)
1043 {
1044         assert(get_nodes_block(n1) == get_nodes_block(n2));
1045
1046         return heights_reachable_in_block(ir_heights, n1, n2);
1047 }
1048
1049 static int cmp_call_dependency(const void *c1, const void *c2)
1050 {
1051         ir_node *n1 = *(ir_node **) c1;
1052         ir_node *n2 = *(ir_node **) c2;
1053
1054         /*
1055                 Classical qsort() comparison function behavior:
1056                 0  if both elements are equal
1057                 1  if second is "smaller" that first
1058                 -1 if first is "smaller" that second
1059         */
1060         if (dependent_on(n1, n2))
1061                 return -1;
1062
1063         if (dependent_on(n2, n1))
1064                 return 1;
1065
1066         /* The nodes have no depth order, but we need a total order because qsort()
1067          * is not stable. */
1068         return get_irn_idx(n1) - get_irn_idx(n2);
1069 }
1070
1071 /**
1072  * Walker: links all Call/Alloc/Free nodes to the Block they are contained.
1073  * Clears the irg_is_leaf flag if a Call is detected.
1074  */
1075 static void link_ops_in_block_walker(ir_node *irn, void *data)
1076 {
1077         be_abi_irg_t *env  = data;
1078         ir_opcode     code = get_irn_opcode(irn);
1079
1080         if (code == iro_Call ||
1081            (code == iro_Alloc && get_Alloc_where(irn) == stack_alloc) ||
1082            (code == iro_Free && get_Free_where(irn) == stack_alloc)) {
1083                 ir_node *bl       = get_nodes_block(irn);
1084                 void *save        = get_irn_link(bl);
1085
1086                 if (code == iro_Call)
1087                         env->call->flags.bits.irg_is_leaf = 0;
1088
1089                 set_irn_link(irn, save);
1090                 set_irn_link(bl, irn);
1091         }
1092
1093         if (code == iro_Builtin && get_Builtin_kind(irn) == ir_bk_return_address) {
1094                 ir_node       *param = get_Builtin_param(irn, 0);
1095                 tarval        *tv    = get_Const_tarval(param);
1096                 unsigned long  value = get_tarval_long(tv);
1097                 /* use ebp, so the climbframe algo works... */
1098                 if (value > 0) {
1099                         env->call->flags.bits.try_omit_fp = 0;
1100                 }
1101         }
1102 }
1103
1104 /**
1105  * Block-walker:
1106  * Process all Call/Alloc/Free nodes inside a basic block.
1107  * Note that the link field of the block must contain a linked list of all
1108  * Call nodes inside the Block. We first order this list according to data dependency
1109  * and that connect the calls together.
1110  */
1111 static void process_ops_in_block(ir_node *bl, void *data)
1112 {
1113         be_abi_irg_t   *env     = data;
1114         ir_node        *curr_sp = env->init_sp;
1115         ir_node        *irn;
1116         ir_node       **nodes;
1117         int             n;
1118         int             n_nodes;
1119
1120         n_nodes = 0;
1121         for (irn = get_irn_link(bl); irn != NULL; irn = get_irn_link(irn)) {
1122                 ++n_nodes;
1123         }
1124
1125         nodes = ALLOCAN(ir_node*, n_nodes);
1126         for (irn = get_irn_link(bl), n = 0; irn; irn = get_irn_link(irn), ++n) {
1127                 nodes[n] = irn;
1128         }
1129
1130         /* If there were call nodes in the block. */
1131         if (n > 0) {
1132                 ir_node *keep;
1133                 int i;
1134
1135                 /* order the call nodes according to data dependency */
1136                 qsort(nodes, n_nodes, sizeof(nodes[0]), cmp_call_dependency);
1137
1138                 for (i = n_nodes - 1; i >= 0; --i) {
1139                         ir_node *irn = nodes[i];
1140
1141                         DBG((dbg, LEVEL_3, "\tprocessing call %+F\n", irn));
1142                         switch (get_irn_opcode(irn)) {
1143                         case iro_Call:
1144                                 if (! be_omit_fp) {
1145                                         /* The stack pointer will be modified due to a call. */
1146                                         env->call->flags.bits.try_omit_fp = 0;
1147                                 }
1148                                 curr_sp = adjust_call(env, irn, curr_sp);
1149                                 break;
1150                         case iro_Alloc:
1151                                 if (get_Alloc_where(irn) == stack_alloc)
1152                                         curr_sp = adjust_alloc(env, irn, curr_sp);
1153                                 break;
1154                         case iro_Free:
1155                                 if (get_Free_where(irn) == stack_alloc)
1156                                         curr_sp = adjust_free(env, irn, curr_sp);
1157                                 break;
1158                         default:
1159                                 panic("invalid call");
1160                                 break;
1161                         }
1162                 }
1163
1164                 /* Keep the last stack state in the block by tying it to Keep node,
1165                  * the proj from calls is already kept */
1166                 if (curr_sp != env->init_sp &&
1167                     !(is_Proj(curr_sp) && be_is_Call(get_Proj_pred(curr_sp)))) {
1168                         nodes[0] = curr_sp;
1169                         keep     = be_new_Keep(bl, 1, nodes);
1170                         pmap_insert(env->keep_map, bl, keep);
1171                 }
1172         }
1173
1174         set_irn_link(bl, curr_sp);
1175 }
1176
1177 /**
1178  * Adjust all call nodes in the graph to the ABI conventions.
1179  */
1180 static void process_calls(be_abi_irg_t *env)
1181 {
1182         ir_graph *irg = env->birg->irg;
1183
1184         env->call->flags.bits.irg_is_leaf = 1;
1185         irg_walk_graph(irg, firm_clear_link, link_ops_in_block_walker, env);
1186
1187         ir_heights = heights_new(env->birg->irg);
1188         irg_block_walk_graph(irg, NULL, process_ops_in_block, env);
1189         heights_free(ir_heights);
1190 }
1191
1192 /**
1193  * Computes the stack argument layout type.
1194  * Changes a possibly allocated value param type by moving
1195  * entities to the stack layout type.
1196  *
1197  * @param env           the ABI environment
1198  * @param call          the current call ABI
1199  * @param method_type   the method type
1200  * @param val_param_tp  the value parameter type, will be destroyed
1201  * @param param_map     an array mapping method arguments to the stack layout type
1202  *
1203  * @return the stack argument layout type
1204  */
1205 static ir_type *compute_arg_type(be_abi_irg_t *env, be_abi_call_t *call,
1206                                                                  ir_type *method_type, ir_type *val_param_tp,
1207                                                                  ir_entity ***param_map)
1208 {
1209         int dir  = env->call->flags.bits.left_to_right ? 1 : -1;
1210         int inc  = env->birg->main_env->arch_env->stack_dir * dir;
1211         int n    = get_method_n_params(method_type);
1212         int curr = inc > 0 ? 0 : n - 1;
1213         struct obstack *obst = be_get_birg_obst(env->irg);
1214         int ofs  = 0;
1215
1216         char buf[128];
1217         ir_type *res;
1218         int i;
1219         ident *id = get_entity_ident(get_irg_entity(env->birg->irg));
1220         ir_entity **map;
1221
1222         *param_map = map = OALLOCN(obst, ir_entity*, n);
1223         res = new_type_struct(id_mangle_u(id, new_id_from_chars("arg_type", 8)));
1224         for (i = 0; i < n; ++i, curr += inc) {
1225                 ir_type *param_type    = get_method_param_type(method_type, curr);
1226                 be_abi_call_arg_t *arg = get_call_arg(call, 0, curr);
1227
1228                 map[i] = NULL;
1229                 if (arg->on_stack) {
1230                         if (val_param_tp != NULL) {
1231                                 /* the entity was already created, create a copy in the param type */
1232                                 ir_entity *val_ent = get_method_value_param_ent(method_type, i);
1233                                 arg->stack_ent = copy_entity_own(val_ent, res);
1234                                 set_entity_link(val_ent, arg->stack_ent);
1235                                 set_entity_link(arg->stack_ent, NULL);
1236                                 /* must be automatic to set a fixed layout */
1237                                 set_entity_allocation(arg->stack_ent, allocation_automatic);
1238                         } else {
1239                                 /* create a new entity */
1240                                 snprintf(buf, sizeof(buf), "param_%d", i);
1241                                 arg->stack_ent = new_entity(res, new_id_from_str(buf), param_type);
1242                         }
1243                         ofs += arg->space_before;
1244                         ofs = round_up2(ofs, arg->alignment);
1245                         set_entity_offset(arg->stack_ent, ofs);
1246                         ofs += arg->space_after;
1247                         ofs += get_type_size_bytes(param_type);
1248                         map[i] = arg->stack_ent;
1249                 }
1250         }
1251         set_type_size_bytes(res, ofs);
1252         set_type_state(res, layout_fixed);
1253         return res;
1254 }
1255
1256 typedef struct {
1257         const arch_register_t *reg;
1258         ir_node *irn;
1259 } reg_node_map_t;
1260
1261 static int cmp_regs(const void *a, const void *b)
1262 {
1263         const reg_node_map_t *p = a;
1264         const reg_node_map_t *q = b;
1265
1266         if (p->reg->reg_class == q->reg->reg_class)
1267                 return p->reg->index - q->reg->index;
1268         else
1269                 return p->reg->reg_class - q->reg->reg_class;
1270 }
1271
1272 static void reg_map_to_arr(reg_node_map_t *res, pmap *reg_map)
1273 {
1274         pmap_entry *ent;
1275         int n = pmap_count(reg_map);
1276         int i = 0;
1277
1278         foreach_pmap(reg_map, ent) {
1279                 res[i].reg = ent->key;
1280                 res[i].irn = ent->value;
1281                 i++;
1282         }
1283
1284         qsort(res, n, sizeof(res[0]), cmp_regs);
1285 }
1286
1287 /**
1288  * Creates a barrier.
1289  */
1290 static ir_node *create_barrier(ir_node *bl, ir_node **mem, pmap *regs,
1291                                int in_req)
1292 {
1293         int             n_regs = pmap_count(regs);
1294         int             n;
1295         ir_node        *irn;
1296         ir_node       **in;
1297         reg_node_map_t *rm;
1298
1299         in = ALLOCAN(ir_node*, n_regs+1);
1300         rm = ALLOCAN(reg_node_map_t, n_regs);
1301         reg_map_to_arr(rm, regs);
1302         for (n = 0; n < n_regs; ++n) {
1303                 in[n] = rm[n].irn;
1304         }
1305
1306         if (mem) {
1307                 in[n++] = *mem;
1308         }
1309
1310         irn = be_new_Barrier(bl, n, in);
1311
1312         for (n = 0; n < n_regs; ++n) {
1313                 ir_node               *pred     = rm[n].irn;
1314                 const arch_register_t *reg      = rm[n].reg;
1315                 arch_register_type_t   add_type = 0;
1316                 ir_node               *proj;
1317                 const backend_info_t  *info;
1318
1319                 /* stupid workaround for now... as not all nodes report register
1320                  * requirements. */
1321                 info = be_get_info(skip_Proj(pred));
1322                 if (info != NULL && info->out_infos != NULL) {
1323                         const arch_register_req_t *ireq = arch_get_register_req_out(pred);
1324                         if (ireq->type & arch_register_req_type_ignore)
1325                                 add_type |= arch_register_req_type_ignore;
1326                         if (ireq->type & arch_register_req_type_produces_sp)
1327                                 add_type |= arch_register_req_type_produces_sp;
1328                 }
1329
1330                 proj = new_r_Proj(bl, irn, get_irn_mode(pred), n);
1331                 be_node_set_reg_class_in(irn, n, reg->reg_class);
1332                 if (in_req)
1333                         be_set_constr_single_reg_in(irn, n, reg, 0);
1334                 be_set_constr_single_reg_out(irn, n, reg, add_type);
1335                 arch_set_irn_register(proj, reg);
1336
1337                 pmap_insert(regs, (void *) reg, proj);
1338         }
1339
1340         if (mem) {
1341                 *mem = new_r_Proj(bl, irn, mode_M, n);
1342         }
1343
1344         return irn;
1345 }
1346
1347 /**
1348  * Creates a be_Return for a Return node.
1349  *
1350  * @param @env    the abi environment
1351  * @param irn     the Return node or NULL if there was none
1352  * @param bl      the block where the be_Retun should be placed
1353  * @param mem     the current memory
1354  * @param n_res   number of return results
1355  */
1356 static ir_node *create_be_return(be_abi_irg_t *env, ir_node *irn, ir_node *bl,
1357                 ir_node *mem, int n_res)
1358 {
1359         be_abi_call_t    *call     = env->call;
1360         const arch_env_t *arch_env = env->birg->main_env->arch_env;
1361         dbg_info *dbgi;
1362         pmap *reg_map  = pmap_create();
1363         ir_node *keep  = pmap_get(env->keep_map, bl);
1364         int in_max;
1365         ir_node *ret;
1366         int i, n;
1367         unsigned pop;
1368         ir_node **in;
1369         ir_node *stack;
1370         const arch_register_t **regs;
1371         pmap_entry *ent;
1372
1373         /*
1374                 get the valid stack node in this block.
1375                 If we had a call in that block there is a Keep constructed by process_calls()
1376                 which points to the last stack modification in that block. we'll use
1377                 it then. Else we use the stack from the start block and let
1378                 the ssa construction fix the usage.
1379         */
1380         stack = be_abi_reg_map_get(env->regs, arch_env->sp);
1381         if (keep) {
1382                 stack = get_irn_n(keep, 0);
1383                 kill_node(keep);
1384                 remove_End_keepalive(get_irg_end(env->birg->irg), keep);
1385         }
1386
1387         /* Insert results for Return into the register map. */
1388         for (i = 0; i < n_res; ++i) {
1389                 ir_node *res           = get_Return_res(irn, i);
1390                 be_abi_call_arg_t *arg = get_call_arg(call, 1, i);
1391                 assert(arg->in_reg && "return value must be passed in register");
1392                 pmap_insert(reg_map, (void *) arg->reg, res);
1393         }
1394
1395         /* Add uses of the callee save registers. */
1396         foreach_pmap(env->regs, ent) {
1397                 const arch_register_t *reg = ent->key;
1398                 if (arch_register_type_is(reg, callee_save) || arch_register_type_is(reg, ignore))
1399                         pmap_insert(reg_map, ent->key, ent->value);
1400         }
1401
1402         be_abi_reg_map_set(reg_map, arch_env->sp, stack);
1403
1404         /* Make the Epilogue node and call the arch's epilogue maker. */
1405         create_barrier(bl, &mem, reg_map, 1);
1406         call->cb->epilogue(env->cb, bl, &mem, reg_map);
1407
1408         /*
1409                 Maximum size of the in array for Return nodes is
1410                 return args + callee save/ignore registers + memory + stack pointer
1411         */
1412         in_max = pmap_count(reg_map) + n_res + 2;
1413
1414         in   = ALLOCAN(ir_node*,               in_max);
1415         regs = ALLOCAN(arch_register_t const*, in_max);
1416
1417         in[0]   = mem;
1418         in[1]   = be_abi_reg_map_get(reg_map, arch_env->sp);
1419         regs[0] = NULL;
1420         regs[1] = arch_env->sp;
1421         n       = 2;
1422
1423         /* clear SP entry, since it has already been grown. */
1424         pmap_insert(reg_map, (void *) arch_env->sp, NULL);
1425         for (i = 0; i < n_res; ++i) {
1426                 be_abi_call_arg_t *arg = get_call_arg(call, 1, i);
1427
1428                 in[n]     = be_abi_reg_map_get(reg_map, arg->reg);
1429                 regs[n++] = arg->reg;
1430
1431                 /* Clear the map entry to mark the register as processed. */
1432                 be_abi_reg_map_set(reg_map, arg->reg, NULL);
1433         }
1434
1435         /* grow the rest of the stuff. */
1436         foreach_pmap(reg_map, ent) {
1437                 if (ent->value) {
1438                         in[n]     = ent->value;
1439                         regs[n++] = ent->key;
1440                 }
1441         }
1442
1443         /* The in array for the new back end return is now ready. */
1444         if (irn != NULL) {
1445                 dbgi = get_irn_dbg_info(irn);
1446         } else {
1447                 dbgi = NULL;
1448         }
1449         /* we have to pop the shadow parameter in in case of struct returns */
1450         pop = call->pop;
1451         ret = be_new_Return(dbgi, env->birg->irg, bl, n_res, pop, n, in);
1452
1453         /* Set the register classes of the return's parameter accordingly. */
1454         for (i = 0; i < n; ++i) {
1455                 if (regs[i] == NULL)
1456                         continue;
1457
1458                 be_node_set_reg_class_in(ret, i, regs[i]->reg_class);
1459         }
1460
1461         /* Free the space of the Epilog's in array and the register <-> proj map. */
1462         pmap_destroy(reg_map);
1463
1464         return ret;
1465 }
1466
1467 typedef struct ent_pos_pair ent_pos_pair;
1468 struct ent_pos_pair {
1469         ir_entity    *ent;   /**< a value param entity */
1470         int          pos;    /**< its parameter number */
1471         ent_pos_pair *next;  /**< for linking */
1472 };
1473
1474 typedef struct lower_frame_sels_env_t {
1475         ent_pos_pair *value_param_list;          /**< the list of all value param entities */
1476         ir_node      *frame;                     /**< the current frame */
1477         const arch_register_class_t *sp_class;   /**< register class of the stack pointer */
1478         const arch_register_class_t *link_class; /**< register class of the link pointer */
1479         ir_type      *value_tp;                  /**< the value type if any */
1480         ir_type      *frame_tp;                  /**< the frame type */
1481         int          static_link_pos;            /**< argument number of the hidden static link */
1482 } lower_frame_sels_env_t;
1483
1484 /**
1485  * Return an entity from the backend for an value param entity.
1486  *
1487  * @param ent  an value param type entity
1488  * @param ctx  context
1489  */
1490 static ir_entity *get_argument_entity(ir_entity *ent, lower_frame_sels_env_t *ctx)
1491 {
1492         ir_entity *argument_ent = get_entity_link(ent);
1493
1494         if (argument_ent == NULL) {
1495                 /* we have NO argument entity yet: This is bad, as we will
1496                 * need one for backing store.
1497                 * Create one here.
1498                 */
1499                 ir_type *frame_tp = ctx->frame_tp;
1500                 unsigned offset   = get_type_size_bytes(frame_tp);
1501                 ir_type  *tp      = get_entity_type(ent);
1502                 unsigned align    = get_type_alignment_bytes(tp);
1503
1504                 offset += align - 1;
1505                 offset &= ~(align - 1);
1506
1507                 argument_ent = copy_entity_own(ent, frame_tp);
1508
1509                 /* must be automatic to set a fixed layout */
1510                 set_entity_allocation(argument_ent, allocation_automatic);
1511                 set_entity_offset(argument_ent, offset);
1512                 offset += get_type_size_bytes(tp);
1513
1514                 set_type_size_bytes(frame_tp, offset);
1515                 set_entity_link(ent, argument_ent);
1516         }
1517         return argument_ent;
1518 }
1519 /**
1520  * Walker: Replaces Sels of frame type and
1521  * value param type entities by FrameAddress.
1522  * Links all used entities.
1523  */
1524 static void lower_frame_sels_walker(ir_node *irn, void *data)
1525 {
1526         lower_frame_sels_env_t *ctx = data;
1527
1528         if (is_Sel(irn)) {
1529                 ir_node *ptr = get_Sel_ptr(irn);
1530
1531                 if (ptr == ctx->frame) {
1532                         ir_entity    *ent = get_Sel_entity(irn);
1533                         ir_node      *bl  = get_nodes_block(irn);
1534                         ir_node      *nw;
1535                         int          pos = 0;
1536                         int          is_value_param = 0;
1537
1538                         if (get_entity_owner(ent) == ctx->value_tp) {
1539                                 is_value_param = 1;
1540
1541                                 /* replace by its copy from the argument type */
1542                                 pos = get_struct_member_index(ctx->value_tp, ent);
1543                                 ent = get_argument_entity(ent, ctx);
1544                         }
1545
1546                         nw = be_new_FrameAddr(ctx->sp_class, bl, ctx->frame, ent);
1547                         exchange(irn, nw);
1548
1549                         /* check, if it's a param Sel and if have not seen this entity before */
1550                         if (is_value_param && get_entity_link(ent) == NULL) {
1551                                 ent_pos_pair pair;
1552
1553                                 pair.ent  = ent;
1554                                 pair.pos  = pos;
1555                                 pair.next = NULL;
1556                                 ARR_APP1(ent_pos_pair, ctx->value_param_list, pair);
1557                                 /* just a mark */
1558                                 set_entity_link(ent, ctx->value_param_list);
1559                         }
1560                 }
1561         }
1562 }
1563
1564 /**
1565  * Check if a value parameter is transmitted as a register.
1566  * This might happen if the address of an parameter is taken which is
1567  * transmitted in registers.
1568  *
1569  * Note that on some architectures this case must be handled specially
1570  * because the place of the backing store is determined by their ABI.
1571  *
1572  * In the default case we move the entity to the frame type and create
1573  * a backing store into the first block.
1574  */
1575 static void fix_address_of_parameter_access(be_abi_irg_t *env, ent_pos_pair *value_param_list)
1576 {
1577         be_abi_call_t *call = env->call;
1578         ir_graph      *irg  = env->birg->irg;
1579         ent_pos_pair  *entry, *new_list;
1580         ir_type       *frame_tp;
1581         int           i, n = ARR_LEN(value_param_list);
1582
1583         new_list = NULL;
1584         for (i = 0; i < n; ++i) {
1585                 int               pos  = value_param_list[i].pos;
1586                 be_abi_call_arg_t *arg = get_call_arg(call, 0, pos);
1587
1588                 if (arg->in_reg) {
1589                         DBG((dbg, LEVEL_2, "\targ #%d need backing store\n", pos));
1590                         value_param_list[i].next = new_list;
1591                         new_list = &value_param_list[i];
1592                 }
1593         }
1594         if (new_list != NULL) {
1595                 /* ok, change the graph */
1596                 ir_node *start_bl = get_irg_start_block(irg);
1597                 ir_node *first_bl = NULL;
1598                 ir_node *frame, *imem, *nmem, *store, *mem, *args, *args_bl;
1599                 const ir_edge_t *edge;
1600                 optimization_state_t state;
1601                 unsigned offset;
1602
1603                 foreach_block_succ(start_bl, edge) {
1604                         first_bl = get_edge_src_irn(edge);
1605                         break;
1606                 }
1607                 assert(first_bl && first_bl != start_bl);
1608                 /* we had already removed critical edges, so the following
1609                    assertion should be always true. */
1610                 assert(get_Block_n_cfgpreds(first_bl) == 1);
1611
1612                 /* now create backing stores */
1613                 frame = get_irg_frame(irg);
1614                 imem = get_irg_initial_mem(irg);
1615
1616                 save_optimization_state(&state);
1617                 set_optimize(0);
1618                 nmem = new_r_Proj(start_bl, get_irg_start(irg), mode_M, pn_Start_M);
1619                 restore_optimization_state(&state);
1620
1621                 /* reroute all edges to the new memory source */
1622                 edges_reroute(imem, nmem, irg);
1623
1624                 store   = NULL;
1625                 mem     = imem;
1626                 args    = get_irg_args(irg);
1627                 args_bl = get_nodes_block(args);
1628                 for (entry = new_list; entry != NULL; entry = entry->next) {
1629                         int     i     = entry->pos;
1630                         ir_type *tp   = get_entity_type(entry->ent);
1631                         ir_mode *mode = get_type_mode(tp);
1632                         ir_node *addr;
1633
1634                         /* address for the backing store */
1635                         addr = be_new_FrameAddr(env->arch_env->sp->reg_class, first_bl, frame, entry->ent);
1636
1637                         if (store)
1638                                 mem = new_r_Proj(first_bl, store, mode_M, pn_Store_M);
1639
1640                         /* the backing store itself */
1641                         store = new_r_Store(first_bl, mem, addr,
1642                                             new_r_Proj(args_bl, args, mode, i), 0);
1643                 }
1644                 /* the new memory Proj gets the last Proj from store */
1645                 set_Proj_pred(nmem, store);
1646                 set_Proj_proj(nmem, pn_Store_M);
1647
1648                 /* move all entities to the frame type */
1649                 frame_tp = get_irg_frame_type(irg);
1650                 offset   = get_type_size_bytes(frame_tp);
1651
1652                 /* we will add new entities: set the layout to undefined */
1653                 assert(get_type_state(frame_tp) == layout_fixed);
1654                 set_type_state(frame_tp, layout_undefined);
1655                 for (entry = new_list; entry != NULL; entry = entry->next) {
1656                         ir_entity *ent = entry->ent;
1657
1658                         /* If the entity is still on the argument type, move it to the frame type.
1659                            This happens if the value_param type was build due to compound
1660                            params. */
1661                         if (get_entity_owner(ent) != frame_tp) {
1662                                 ir_type  *tp   = get_entity_type(ent);
1663                                 unsigned align = get_type_alignment_bytes(tp);
1664
1665                                 offset += align - 1;
1666                                 offset &= ~(align - 1);
1667                                 set_entity_owner(ent, frame_tp);
1668                                 add_class_member(frame_tp, ent);
1669                                 /* must be automatic to set a fixed layout */
1670                                 set_entity_allocation(ent, allocation_automatic);
1671                                 set_entity_offset(ent, offset);
1672                                 offset += get_type_size_bytes(tp);
1673                         }
1674                 }
1675                 set_type_size_bytes(frame_tp, offset);
1676                 /* fix the layout again */
1677                 set_type_state(frame_tp, layout_fixed);
1678         }
1679 }
1680
1681 /**
1682  * The start block has no jump, instead it has an initial exec Proj.
1683  * The backend wants to handle all blocks the same way, so we replace
1684  * the out cfg edge with a real jump.
1685  */
1686 static void fix_start_block(ir_graph *irg)
1687 {
1688         ir_node         *initial_X   = get_irg_initial_exec(irg);
1689         ir_node         *start_block = get_irg_start_block(irg);
1690         const ir_edge_t *edge;
1691
1692         assert(is_Proj(initial_X));
1693
1694         foreach_out_edge(initial_X, edge) {
1695                 ir_node *block = get_edge_src_irn(edge);
1696
1697                 if (is_Anchor(block))
1698                         continue;
1699                 if (block != start_block) {
1700                         ir_node *jmp = new_r_Jmp(start_block);
1701                         set_Block_cfgpred(block, get_edge_src_pos(edge), jmp);
1702                         set_irg_initial_exec(irg, jmp);
1703                         return;
1704                 }
1705         }
1706         panic("Initial exec has no follow block in %+F", irg);
1707 }
1708
1709 /**
1710  * Update the entity of Sels to the outer value parameters.
1711  */
1712 static void update_outer_frame_sels(ir_node *irn, void *env) {
1713         lower_frame_sels_env_t *ctx = env;
1714         ir_node                *ptr;
1715         ir_entity              *ent;
1716         int                    pos = 0;
1717
1718         if (! is_Sel(irn))
1719                 return;
1720         ptr = get_Sel_ptr(irn);
1721         if (! is_arg_Proj(ptr))
1722                 return;
1723         if (get_Proj_proj(ptr) != ctx->static_link_pos)
1724                 return;
1725         ent   = get_Sel_entity(irn);
1726
1727         if (get_entity_owner(ent) == ctx->value_tp) {
1728                 /* replace by its copy from the argument type */
1729                 pos = get_struct_member_index(ctx->value_tp, ent);
1730                 ent = get_argument_entity(ent, ctx);
1731                 set_Sel_entity(irn, ent);
1732
1733                 /* check, if we have not seen this entity before */
1734                 if (get_entity_link(ent) == NULL) {
1735                         ent_pos_pair pair;
1736
1737                         pair.ent  = ent;
1738                         pair.pos  = pos;
1739                         pair.next = NULL;
1740                         ARR_APP1(ent_pos_pair, ctx->value_param_list, pair);
1741                         /* just a mark */
1742                         set_entity_link(ent, ctx->value_param_list);
1743                 }
1744         }
1745 }
1746
1747 /**
1748  * Fix access to outer local variables.
1749  */
1750 static void fix_outer_variable_access(be_abi_irg_t *env,
1751                                       lower_frame_sels_env_t *ctx)
1752 {
1753         int      i;
1754         ir_graph *irg;
1755         (void) env;
1756
1757         for (i = get_class_n_members(ctx->frame_tp) - 1; i >= 0; --i) {
1758                 ir_entity *ent = get_class_member(ctx->frame_tp, i);
1759
1760                 if (! is_method_entity(ent))
1761                         continue;
1762                 if (get_entity_peculiarity(ent) == peculiarity_description)
1763                         continue;
1764
1765                 /*
1766                  * FIXME: find the number of the static link parameter
1767                  * for now we assume 0 here
1768                  */
1769                 ctx->static_link_pos = 0;
1770
1771                 irg = get_entity_irg(ent);
1772                 irg_walk_graph(irg, NULL, update_outer_frame_sels, ctx);
1773         }
1774 }
1775
1776 /**
1777  * Modify the irg itself and the frame type.
1778  */
1779 static void modify_irg(be_abi_irg_t *env)
1780 {
1781         be_abi_call_t *call       = env->call;
1782         const arch_env_t *arch_env= env->birg->main_env->arch_env;
1783         const arch_register_t *sp = arch_env->sp;
1784         ir_graph *irg             = env->birg->irg;
1785         ir_node *end;
1786         ir_node *old_mem;
1787         ir_node *new_mem_proj;
1788         ir_node *mem;
1789         ir_type *method_type      = get_entity_type(get_irg_entity(irg));
1790         struct obstack *obst      = be_get_birg_obst(irg);
1791
1792         int n_params;
1793         int i, n;
1794         unsigned j;
1795         unsigned frame_size;
1796
1797         reg_node_map_t *rm;
1798         const arch_register_t *fp_reg;
1799         ir_node *frame_pointer;
1800         ir_node *start_bl;
1801         ir_node **args;
1802         ir_node *arg_tuple;
1803         const ir_edge_t *edge;
1804         ir_type *arg_type, *bet_type, *tp;
1805         lower_frame_sels_env_t ctx;
1806         ir_entity **param_map;
1807
1808         DBG((dbg, LEVEL_1, "introducing abi on %+F\n", irg));
1809
1810         /* Must fetch memory here, otherwise the start Barrier gets the wrong
1811          * memory, which leads to loops in the DAG. */
1812         old_mem = get_irg_initial_mem(irg);
1813
1814         irp_reserve_resources(irp, IR_RESOURCE_ENTITY_LINK);
1815
1816         /* set the links of all frame entities to NULL, we use it
1817            to detect if an entity is already linked in the value_param_list */
1818         tp = get_method_value_param_type(method_type);
1819         ctx.value_tp = tp;
1820         if (tp != NULL) {
1821                 /* clear the links of the clone type, let the
1822                    original entities point to its clones */
1823                 for (i = get_struct_n_members(tp) - 1; i >= 0; --i) {
1824                         ir_entity *mem  = get_struct_member(tp, i);
1825                         set_entity_link(mem, NULL);
1826                 }
1827         }
1828
1829         arg_type = compute_arg_type(env, call, method_type, tp, &param_map);
1830
1831         /* Convert the Sel nodes in the irg to frame addr nodes: */
1832         ctx.value_param_list = NEW_ARR_F(ent_pos_pair, 0);
1833         ctx.frame            = get_irg_frame(irg);
1834         ctx.sp_class         = env->arch_env->sp->reg_class;
1835         ctx.link_class       = env->arch_env->link_class;
1836         ctx.frame_tp         = get_irg_frame_type(irg);
1837
1838         /* we will possible add new entities to the frame: set the layout to undefined */
1839         assert(get_type_state(ctx.frame_tp) == layout_fixed);
1840         set_type_state(ctx.frame_tp, layout_undefined);
1841
1842         irg_walk_graph(irg, lower_frame_sels_walker, NULL, &ctx);
1843
1844         /* fix the frame type layout again */
1845         set_type_state(ctx.frame_tp, layout_fixed);
1846         /* align stackframe to 4 byte */
1847         frame_size = get_type_size_bytes(ctx.frame_tp);
1848         if (frame_size % 4 != 0) {
1849                 set_type_size_bytes(ctx.frame_tp, frame_size + 4 - (frame_size % 4));
1850         }
1851
1852         env->regs  = pmap_create();
1853
1854         n_params = get_method_n_params(method_type);
1855         args     = OALLOCNZ(obst, ir_node*, n_params);
1856
1857         /*
1858          * for inner function we must now fix access to outer frame entities.
1859          */
1860         fix_outer_variable_access(env, &ctx);
1861
1862         /* Check if a value parameter is transmitted as a register.
1863          * This might happen if the address of an parameter is taken which is
1864          * transmitted in registers.
1865          *
1866          * Note that on some architectures this case must be handled specially
1867          * because the place of the backing store is determined by their ABI.
1868          *
1869          * In the default case we move the entity to the frame type and create
1870          * a backing store into the first block.
1871          */
1872         fix_address_of_parameter_access(env, ctx.value_param_list);
1873
1874         DEL_ARR_F(ctx.value_param_list);
1875         irp_free_resources(irp, IR_RESOURCE_ENTITY_LINK);
1876
1877         /* Fill the argument vector */
1878         arg_tuple = get_irg_args(irg);
1879         foreach_out_edge(arg_tuple, edge) {
1880                 ir_node *irn = get_edge_src_irn(edge);
1881                 if (! is_Anchor(irn)) {
1882                         int nr       = get_Proj_proj(irn);
1883                         args[nr]     = irn;
1884                         DBG((dbg, LEVEL_2, "\treading arg: %d -> %+F\n", nr, irn));
1885                 }
1886         }
1887
1888         bet_type = call->cb->get_between_type(env->cb);
1889         stack_frame_init(&env->frame, arg_type, bet_type, get_irg_frame_type(irg), arch_env->stack_dir, param_map);
1890
1891         /* Count the register params and add them to the number of Projs for the RegParams node */
1892         for (i = 0; i < n_params; ++i) {
1893                 be_abi_call_arg_t *arg = get_call_arg(call, 0, i);
1894                 if (arg->in_reg && args[i]) {
1895                         assert(arg->reg != sp && "cannot use stack pointer as parameter register");
1896                         assert(i == get_Proj_proj(args[i]));
1897
1898                         /* For now, associate the register with the old Proj from Start representing that argument. */
1899                         pmap_insert(env->regs, (void *) arg->reg, args[i]);
1900                         DBG((dbg, LEVEL_2, "\targ #%d -> reg %s\n", i, arg->reg->name));
1901                 }
1902         }
1903
1904         /* Collect all callee-save registers */
1905         for (i = 0, n = arch_env_get_n_reg_class(arch_env); i < n; ++i) {
1906                 const arch_register_class_t *cls = arch_env_get_reg_class(arch_env, i);
1907                 for (j = 0; j < cls->n_regs; ++j) {
1908                         const arch_register_t *reg = &cls->regs[j];
1909                         if (arch_register_type_is(reg, callee_save) ||
1910                                         arch_register_type_is(reg, state)) {
1911                                 pmap_insert(env->regs, (void *) reg, NULL);
1912                         }
1913                 }
1914         }
1915
1916         /* handle start block here (place a jump in the block) */
1917         fix_start_block(irg);
1918
1919         pmap_insert(env->regs, (void *) sp, NULL);
1920         pmap_insert(env->regs, (void *) arch_env->bp, NULL);
1921         start_bl   = get_irg_start_block(irg);
1922         env->start = be_new_Start(NULL, start_bl, pmap_count(env->regs) + 1);
1923
1924         /*
1925          * make proj nodes for the callee save registers.
1926          * memorize them, since Return nodes get those as inputs.
1927          *
1928          * Note, that if a register corresponds to an argument, the regs map contains
1929          * the old Proj from start for that argument.
1930          */
1931
1932         rm = ALLOCAN(reg_node_map_t, pmap_count(env->regs));
1933         reg_map_to_arr(rm, env->regs);
1934         for (i = 0, n = pmap_count(env->regs); i < n; ++i) {
1935                 arch_register_t          *reg      = (void *) rm[i].reg;
1936                 ir_mode                  *mode     = reg->reg_class->mode;
1937                 long                      nr       = i;
1938                 arch_register_req_type_t  add_type = 0;
1939                 ir_node                  *proj;
1940
1941                 if (reg == sp)
1942                         add_type |= arch_register_req_type_produces_sp | arch_register_req_type_ignore;
1943
1944                 assert(nr >= 0);
1945                 proj = new_r_Proj(start_bl, env->start, mode, nr + 1);
1946                 pmap_insert(env->regs, (void *) reg, proj);
1947                 be_set_constr_single_reg_out(env->start, nr + 1, reg, add_type);
1948                 arch_set_irn_register(proj, reg);
1949
1950                 DBG((dbg, LEVEL_2, "\tregister save proj #%d -> reg %s\n", nr, reg->name));
1951         }
1952
1953         /* create a new initial memory proj */
1954         assert(is_Proj(old_mem));
1955         arch_set_out_register_req(env->start, 0, arch_no_register_req);
1956         new_mem_proj = new_r_Proj(start_bl, env->start, mode_M, 0);
1957         mem = new_mem_proj;
1958         set_irg_initial_mem(irg, mem);
1959
1960         /* Generate the Prologue */
1961         fp_reg = call->cb->prologue(env->cb, &mem, env->regs, &env->frame.initial_bias);
1962
1963         /* do the stack allocation BEFORE the barrier, or spill code
1964            might be added before it */
1965         env->init_sp = be_abi_reg_map_get(env->regs, sp);
1966         env->init_sp = be_new_IncSP(sp, start_bl, env->init_sp, BE_STACK_FRAME_SIZE_EXPAND, 0);
1967         be_abi_reg_map_set(env->regs, sp, env->init_sp);
1968
1969         create_barrier(start_bl, &mem, env->regs, 0);
1970
1971         env->init_sp = be_abi_reg_map_get(env->regs, sp);
1972         arch_set_irn_register(env->init_sp, sp);
1973
1974         frame_pointer = be_abi_reg_map_get(env->regs, fp_reg);
1975         set_irg_frame(irg, frame_pointer);
1976         pset_insert_ptr(env->ignore_regs, fp_reg);
1977
1978         /* rewire old mem users to new mem */
1979         exchange(old_mem, mem);
1980
1981         set_irg_initial_mem(irg, mem);
1982
1983         /* Now, introduce stack param nodes for all parameters passed on the stack */
1984         for (i = 0; i < n_params; ++i) {
1985                 ir_node *arg_proj = args[i];
1986                 ir_node *repl     = NULL;
1987
1988                 if (arg_proj != NULL) {
1989                         be_abi_call_arg_t *arg;
1990                         ir_type *param_type;
1991                         int     nr = get_Proj_proj(arg_proj);
1992                         ir_mode *mode;
1993
1994                         nr         = MIN(nr, n_params);
1995                         arg        = get_call_arg(call, 0, nr);
1996                         param_type = get_method_param_type(method_type, nr);
1997
1998                         if (arg->in_reg) {
1999                                 repl = pmap_get(env->regs, (void *) arg->reg);
2000                         } else if (arg->on_stack) {
2001                                 ir_node *addr = be_new_FrameAddr(sp->reg_class, start_bl, frame_pointer, arg->stack_ent);
2002
2003                                 /* For atomic parameters which are actually used, we create a Load node. */
2004                                 if (is_atomic_type(param_type) && get_irn_n_edges(args[i]) > 0) {
2005                                         ir_mode *mode      = get_type_mode(param_type);
2006                                         ir_mode *load_mode = arg->load_mode;
2007
2008                                         ir_node *load = new_r_Load(start_bl, new_NoMem(), addr, load_mode, cons_floats);
2009                                         repl = new_r_Proj(start_bl, load, load_mode, pn_Load_res);
2010
2011                                         if (mode != load_mode) {
2012                                                 repl = new_r_Conv(start_bl, repl, mode);
2013                                         }
2014                                 } else {
2015                                         /* The stack parameter is not primitive (it is a struct or array),
2016                                          * we thus will create a node representing the parameter's address
2017                                          * on the stack. */
2018                                         repl = addr;
2019                                 }
2020                         }
2021
2022                         assert(repl != NULL);
2023
2024                         /* Beware: the mode of the register parameters is always the mode of the register class
2025                            which may be wrong. Add Conv's then. */
2026                         mode = get_irn_mode(args[i]);
2027                         if (mode != get_irn_mode(repl)) {
2028                                 repl = new_r_Conv(get_nodes_block(repl), repl, mode);
2029                         }
2030                         exchange(args[i], repl);
2031                 }
2032         }
2033
2034         /* the arg proj is not needed anymore now and should be only used by the anchor */
2035         assert(get_irn_n_edges(arg_tuple) == 1);
2036         kill_node(arg_tuple);
2037         set_irg_args(irg, new_r_Bad(irg));
2038
2039         /* All Return nodes hang on the End node, so look for them there. */
2040         end = get_irg_end_block(irg);
2041         for (i = 0, n = get_Block_n_cfgpreds(end); i < n; ++i) {
2042                 ir_node *irn = get_Block_cfgpred(end, i);
2043
2044                 if (is_Return(irn)) {
2045                         ir_node *blk = get_nodes_block(irn);
2046                         ir_node *mem = get_Return_mem(irn);
2047                         ir_node *ret = create_be_return(env, irn, blk, mem, get_Return_n_ress(irn));
2048                         exchange(irn, ret);
2049                 }
2050         }
2051
2052         /* if we have endless loops here, n might be <= 0. Do NOT create a be_Return then,
2053            the code is dead and will never be executed. */
2054 }
2055
2056 /** Fix the state inputs of calls that still hang on unknowns */
2057 static
2058 void fix_call_state_inputs(be_abi_irg_t *env)
2059 {
2060         const arch_env_t *arch_env = env->arch_env;
2061         int i, n, n_states;
2062         arch_register_t **stateregs = NEW_ARR_F(arch_register_t*, 0);
2063
2064         /* Collect caller save registers */
2065         n = arch_env_get_n_reg_class(arch_env);
2066         for (i = 0; i < n; ++i) {
2067                 unsigned j;
2068                 const arch_register_class_t *cls = arch_env_get_reg_class(arch_env, i);
2069                 for (j = 0; j < cls->n_regs; ++j) {
2070                         const arch_register_t *reg = arch_register_for_index(cls, j);
2071                         if (arch_register_type_is(reg, state)) {
2072                                 ARR_APP1(arch_register_t*, stateregs, (arch_register_t *)reg);
2073                         }
2074                 }
2075         }
2076
2077         n = ARR_LEN(env->calls);
2078         n_states = ARR_LEN(stateregs);
2079         for (i = 0; i < n; ++i) {
2080                 int s, arity;
2081                 ir_node *call = env->calls[i];
2082
2083                 arity = get_irn_arity(call);
2084
2085                 /* the state reg inputs are the last n inputs of the calls */
2086                 for (s = 0; s < n_states; ++s) {
2087                         int inp = arity - n_states + s;
2088                         const arch_register_t *reg = stateregs[s];
2089                         ir_node *regnode = be_abi_reg_map_get(env->regs, reg);
2090
2091                         set_irn_n(call, inp, regnode);
2092                 }
2093         }
2094
2095         DEL_ARR_F(stateregs);
2096 }
2097
2098 /**
2099  * Create a trampoline entity for the given method.
2100  */
2101 static ir_entity *create_trampoline(be_main_env_t *be, ir_entity *method)
2102 {
2103         ir_type   *type   = get_entity_type(method);
2104         ident     *old_id = get_entity_ld_ident(method);
2105         ident     *id     = id_mangle3("L", old_id, "$stub");
2106         ir_type   *parent = be->pic_trampolines_type;
2107         ir_entity *ent    = new_entity(parent, old_id, type);
2108         set_entity_ld_ident(ent, id);
2109         set_entity_visibility(ent, visibility_local);
2110         set_entity_variability(ent, variability_uninitialized);
2111
2112         return ent;
2113 }
2114
2115 /**
2116  * Returns the trampoline entity for the given method.
2117  */
2118 static ir_entity *get_trampoline(be_main_env_t *env, ir_entity *method)
2119 {
2120         ir_entity *result = pmap_get(env->ent_trampoline_map, method);
2121         if (result == NULL) {
2122                 result = create_trampoline(env, method);
2123                 pmap_insert(env->ent_trampoline_map, method, result);
2124         }
2125
2126         return result;
2127 }
2128
2129 static ir_entity *create_pic_symbol(be_main_env_t *be, ir_entity *entity)
2130 {
2131         ident     *old_id = get_entity_ld_ident(entity);
2132         ident     *id     = id_mangle3("L", old_id, "$non_lazy_ptr");
2133         ir_type   *e_type = get_entity_type(entity);
2134         ir_type   *type   = new_type_pointer(id, e_type, mode_P_data);
2135         ir_type   *parent = be->pic_symbols_type;
2136         ir_entity *ent    = new_entity(parent, old_id, type);
2137         set_entity_ld_ident(ent, id);
2138         set_entity_visibility(ent, visibility_local);
2139         set_entity_variability(ent, variability_uninitialized);
2140
2141         return ent;
2142 }
2143
2144 static ir_entity *get_pic_symbol(be_main_env_t *env, ir_entity *entity)
2145 {
2146         ir_entity *result = pmap_get(env->ent_pic_symbol_map, entity);
2147         if (result == NULL) {
2148                 result = create_pic_symbol(env, entity);
2149                 pmap_insert(env->ent_pic_symbol_map, entity, result);
2150         }
2151
2152         return result;
2153 }
2154
2155
2156
2157 /**
2158  * Returns non-zero if a given entity can be accessed using a relative address.
2159  */
2160 static int can_address_relative(ir_entity *entity)
2161 {
2162         return get_entity_visibility(entity) != visibility_external_allocated;
2163 }
2164
2165 /** patches SymConsts to work in position independent code */
2166 static void fix_pic_symconsts(ir_node *node, void *data)
2167 {
2168         ir_graph     *irg;
2169         ir_node      *pic_base;
2170         ir_node      *add;
2171         ir_node      *block;
2172         ir_node      *unknown;
2173         ir_mode      *mode;
2174         ir_node      *load;
2175         ir_node      *load_res;
2176         be_abi_irg_t *env = data;
2177         int           arity, i;
2178         be_main_env_t *be = env->birg->main_env;
2179
2180         arity = get_irn_arity(node);
2181         for (i = 0; i < arity; ++i) {
2182                 dbg_info  *dbgi;
2183                 ir_node   *pred = get_irn_n(node, i);
2184                 ir_entity *entity;
2185                 ir_entity *pic_symbol;
2186                 ir_node   *pic_symconst;
2187
2188                 if (!is_SymConst(pred))
2189                         continue;
2190
2191                 entity = get_SymConst_entity(pred);
2192                 block  = get_nodes_block(pred);
2193                 irg    = get_irn_irg(pred);
2194
2195                 /* calls can jump to relative addresses, so we can directly jump to
2196                    the (relatively) known call address or the trampoline */
2197                 if (i == 1 && is_Call(node)) {
2198                         ir_entity *trampoline;
2199                         ir_node   *trampoline_const;
2200
2201                         if (can_address_relative(entity))
2202                                 continue;
2203
2204                         dbgi             = get_irn_dbg_info(pred);
2205                         trampoline       = get_trampoline(be, entity);
2206                         trampoline_const = new_rd_SymConst_addr_ent(dbgi, irg, mode_P_code,
2207                                                                     trampoline, NULL);
2208                         set_irn_n(node, i, trampoline_const);
2209                         continue;
2210                 }
2211
2212                 /* everything else is accessed relative to EIP */
2213                 mode     = get_irn_mode(pred);
2214                 unknown  = new_r_Unknown(irg, mode);
2215                 pic_base = arch_code_generator_get_pic_base(env->birg->cg);
2216
2217                 /* all ok now for locally constructed stuff */
2218                 if (can_address_relative(entity)) {
2219                         ir_node *add = new_r_Add(block, pic_base, pred, mode);
2220
2221                         /* make sure the walker doesn't visit this add again */
2222                         mark_irn_visited(add);
2223                         set_irn_n(node, i, add);
2224                         continue;
2225                 }
2226
2227                 /* get entry from pic symbol segment */
2228                 dbgi         = get_irn_dbg_info(pred);
2229                 pic_symbol   = get_pic_symbol(be, entity);
2230                 pic_symconst = new_rd_SymConst_addr_ent(dbgi, irg, mode_P_code,
2231                                                         pic_symbol, NULL);
2232                 add = new_r_Add(block, pic_base, pic_symconst, mode);
2233                 mark_irn_visited(add);
2234
2235                 /* we need an extra indirection for global data outside our current
2236                    module. The loads are always safe and can therefore float
2237                    and need no memory input */
2238                 load     = new_r_Load(block, new_NoMem(), add, mode, cons_floats);
2239                 load_res = new_r_Proj(block, load, mode, pn_Load_res);
2240
2241                 set_irn_n(node, i, load_res);
2242         }
2243 }
2244
2245 be_abi_irg_t *be_abi_introduce(be_irg_t *birg)
2246 {
2247         be_abi_irg_t *env  = XMALLOC(be_abi_irg_t);
2248         ir_node *old_frame = get_irg_frame(birg->irg);
2249         ir_graph *irg      = birg->irg;
2250         struct obstack *obst = be_get_birg_obst(irg);
2251
2252         pmap_entry *ent;
2253         ir_node *dummy;
2254         optimization_state_t state;
2255         unsigned *limited_bitset;
2256         arch_register_req_t *sp_req;
2257
2258         be_omit_fp      = birg->main_env->options->omit_fp;
2259         be_omit_leaf_fp = birg->main_env->options->omit_leaf_fp;
2260
2261         obstack_init(obst);
2262
2263         env->arch_env    = birg->main_env->arch_env;
2264         env->method_type = get_entity_type(get_irg_entity(irg));
2265         env->call        = be_abi_call_new(env->arch_env->sp->reg_class);
2266         arch_env_get_call_abi(env->arch_env, env->method_type, env->call);
2267
2268         env->ignore_regs  = pset_new_ptr_default();
2269         env->keep_map     = pmap_create();
2270         env->dce_survivor = new_survive_dce();
2271         env->birg         = birg;
2272         env->irg          = irg;
2273
2274         sp_req = OALLOCZ(obst, arch_register_req_t);
2275         env->sp_req = sp_req;
2276
2277         sp_req->type = arch_register_req_type_limited
2278                      | arch_register_req_type_produces_sp;
2279         sp_req->cls  = arch_register_get_class(env->arch_env->sp);
2280
2281         limited_bitset = rbitset_obstack_alloc(obst, sp_req->cls->n_regs);
2282         rbitset_set(limited_bitset, arch_register_get_index(env->arch_env->sp));
2283         sp_req->limited = limited_bitset;
2284         if (env->arch_env->sp->type & arch_register_type_ignore) {
2285                 sp_req->type |= arch_register_req_type_ignore;
2286         }
2287
2288         /* Beware: later we replace this node by the real one, ensure it is not CSE'd
2289            to another Unknown or the stack pointer gets used */
2290         save_optimization_state(&state);
2291         set_optimize(0);
2292         env->init_sp = dummy  = new_r_Unknown(irg, env->arch_env->sp->reg_class->mode);
2293         restore_optimization_state(&state);
2294
2295         env->calls = NEW_ARR_F(ir_node*, 0);
2296
2297         if (birg->main_env->options->pic) {
2298                 irg_walk_graph(irg, fix_pic_symconsts, NULL, env);
2299         }
2300
2301         /* Lower all call nodes in the IRG. */
2302         process_calls(env);
2303
2304         /*
2305                 Beware: init backend abi call object after processing calls,
2306                 otherwise some information might be not yet available.
2307         */
2308         env->cb = env->call->cb->init(env->call, birg->main_env->arch_env, irg);
2309
2310         /* Process the IRG */
2311         modify_irg(env);
2312
2313         /* fix call inputs for state registers */
2314         fix_call_state_inputs(env);
2315
2316         /* We don't need the keep map anymore. */
2317         pmap_destroy(env->keep_map);
2318         env->keep_map = NULL;
2319
2320         /* calls array is not needed anymore */
2321         DEL_ARR_F(env->calls);
2322         env->calls = NULL;
2323
2324         /* reroute the stack origin of the calls to the true stack origin. */
2325         exchange(dummy, env->init_sp);
2326         exchange(old_frame, get_irg_frame(irg));
2327
2328         /* Make some important node pointers survive the dead node elimination. */
2329         survive_dce_register_irn(env->dce_survivor, &env->init_sp);
2330         foreach_pmap(env->regs, ent) {
2331                 survive_dce_register_irn(env->dce_survivor, (ir_node **) &ent->value);
2332         }
2333
2334         env->call->cb->done(env->cb);
2335         env->cb = NULL;
2336         return env;
2337 }
2338
2339 void be_abi_free(be_abi_irg_t *env)
2340 {
2341         be_abi_call_free(env->call);
2342         free_survive_dce(env->dce_survivor);
2343         del_pset(env->ignore_regs);
2344         pmap_destroy(env->regs);
2345         free(env);
2346 }
2347
2348 void be_abi_put_ignore_regs(be_abi_irg_t *abi, const arch_register_class_t *cls, bitset_t *bs)
2349 {
2350         arch_register_t *reg;
2351
2352         for (reg = pset_first(abi->ignore_regs); reg; reg = pset_next(abi->ignore_regs))
2353                 if (reg->reg_class == cls)
2354                         bitset_set(bs, reg->index);
2355 }
2356
2357 void be_abi_set_non_ignore_regs(be_abi_irg_t *abi, const arch_register_class_t *cls, unsigned *raw_bitset)
2358 {
2359         unsigned         i;
2360         arch_register_t *reg;
2361
2362         for (i = 0; i < cls->n_regs; ++i) {
2363                 if (arch_register_type_is(&cls->regs[i], ignore))
2364                         continue;
2365
2366                 rbitset_set(raw_bitset, i);
2367         }
2368
2369         for (reg = pset_first(abi->ignore_regs); reg != NULL;
2370              reg = pset_next(abi->ignore_regs)) {
2371                 if (reg->reg_class != cls)
2372                         continue;
2373
2374                 rbitset_clear(raw_bitset, reg->index);
2375         }
2376 }
2377
2378 /* Returns the stack layout from a abi environment. */
2379 const be_stack_layout_t *be_abi_get_stack_layout(const be_abi_irg_t *abi)
2380 {
2381         return &abi->frame;
2382 }
2383
2384 /*
2385
2386   _____ _        ____  _             _
2387  |  ___(_)_  __ / ___|| |_ __ _  ___| | __
2388  | |_  | \ \/ / \___ \| __/ _` |/ __| |/ /
2389  |  _| | |>  <   ___) | || (_| | (__|   <
2390  |_|   |_/_/\_\ |____/ \__\__,_|\___|_|\_\
2391
2392 */
2393
2394 typedef ir_node **node_array;
2395
2396 typedef struct fix_stack_walker_env_t {
2397         node_array sp_nodes;
2398 } fix_stack_walker_env_t;
2399
2400 /**
2401  * Walker. Collect all stack modifying nodes.
2402  */
2403 static void collect_stack_nodes_walker(ir_node *node, void *data)
2404 {
2405         ir_node                   *insn = node;
2406         fix_stack_walker_env_t    *env = data;
2407         const arch_register_req_t *req;
2408
2409         if (is_Proj(node)) {
2410                 insn = get_Proj_pred(node);
2411         }
2412
2413         if (arch_irn_get_n_outs(insn) == 0)
2414                 return;
2415
2416         req = arch_get_register_req_out(node);
2417         if (! (req->type & arch_register_req_type_produces_sp))
2418                 return;
2419
2420         ARR_APP1(ir_node*, env->sp_nodes, node);
2421 }
2422
2423 void be_abi_fix_stack_nodes(be_abi_irg_t *env)
2424 {
2425         be_ssa_construction_env_t senv;
2426         int i, len;
2427         ir_node **phis;
2428         be_irg_t *birg = env->birg;
2429         be_lv_t *lv = be_get_birg_liveness(birg);
2430         fix_stack_walker_env_t walker_env;
2431
2432         walker_env.sp_nodes = NEW_ARR_F(ir_node*, 0);
2433
2434         irg_walk_graph(birg->irg, collect_stack_nodes_walker, NULL, &walker_env);
2435
2436         /* nothing to be done if we didn't find any node, in fact we mustn't
2437          * continue, as for endless loops incsp might have had no users and is bad
2438          * now.
2439          */
2440         len = ARR_LEN(walker_env.sp_nodes);
2441         if (len == 0) {
2442                 DEL_ARR_F(walker_env.sp_nodes);
2443                 return;
2444         }
2445
2446         be_ssa_construction_init(&senv, birg);
2447         be_ssa_construction_add_copies(&senv, walker_env.sp_nodes,
2448                                    ARR_LEN(walker_env.sp_nodes));
2449         be_ssa_construction_fix_users_array(&senv, walker_env.sp_nodes,
2450                                             ARR_LEN(walker_env.sp_nodes));
2451
2452         if (lv != NULL) {
2453                 len = ARR_LEN(walker_env.sp_nodes);
2454                 for (i = 0; i < len; ++i) {
2455                         be_liveness_update(lv, walker_env.sp_nodes[i]);
2456                 }
2457                 be_ssa_construction_update_liveness_phis(&senv, lv);
2458         }
2459
2460         phis = be_ssa_construction_get_new_phis(&senv);
2461
2462         /* set register requirements for stack phis */
2463         len = ARR_LEN(phis);
2464         for (i = 0; i < len; ++i) {
2465                 ir_node *phi = phis[i];
2466                 be_set_phi_reg_req(phi, env->sp_req);
2467                 arch_set_irn_register(phi, env->arch_env->sp);
2468         }
2469         be_ssa_construction_destroy(&senv);
2470
2471         DEL_ARR_F(walker_env.sp_nodes);
2472 }
2473
2474 /**
2475  * Fix all stack accessing operations in the block bl.
2476  *
2477  * @param env        the abi environment
2478  * @param bl         the block to process
2479  * @param real_bias  the bias value
2480  *
2481  * @return the bias at the end of this block
2482  */
2483 static int process_stack_bias(be_abi_irg_t *env, ir_node *bl, int real_bias)
2484 {
2485         int               omit_fp  = env->call->flags.bits.try_omit_fp;
2486         ir_node          *irn;
2487         int               wanted_bias = real_bias;
2488
2489         sched_foreach(bl, irn) {
2490                 int ofs;
2491
2492                 /*
2493                    Check, if the node relates to an entity on the stack frame.
2494                    If so, set the true offset (including the bias) for that
2495                    node.
2496                  */
2497                 ir_entity *ent = arch_get_frame_entity(irn);
2498                 if (ent != NULL) {
2499                         int bias   = omit_fp ? real_bias : 0;
2500                         int offset = get_stack_entity_offset(&env->frame, ent, bias);
2501                         arch_set_frame_offset(irn, offset);
2502                         DBG((dbg, LEVEL_2, "%F has offset %d (including bias %d)\n",
2503                              ent, offset, bias));
2504                 }
2505
2506                 /*
2507                  * If the node modifies the stack pointer by a constant offset,
2508                  * record that in the bias.
2509                  */
2510                 ofs = arch_get_sp_bias(irn);
2511
2512                 if (be_is_IncSP(irn)) {
2513                         /* fill in real stack frame size */
2514                         if (ofs == BE_STACK_FRAME_SIZE_EXPAND) {
2515                                 ir_type *frame_type = get_irg_frame_type(env->birg->irg);
2516                                 ofs = (int) get_type_size_bytes(frame_type);
2517                                 be_set_IncSP_offset(irn, ofs);
2518                         } else if (ofs == BE_STACK_FRAME_SIZE_SHRINK) {
2519                                 ir_type *frame_type = get_irg_frame_type(env->birg->irg);
2520                                 ofs = - (int)get_type_size_bytes(frame_type);
2521                                 be_set_IncSP_offset(irn, ofs);
2522                         } else {
2523                                 if (be_get_IncSP_align(irn)) {
2524                                         /* patch IncSP to produce an aligned stack pointer */
2525                                         ir_type *between_type = env->frame.between_type;
2526                                         int      between_size = get_type_size_bytes(between_type);
2527                                         int      alignment    = 1 << env->arch_env->stack_alignment;
2528                                         int      delta        = (real_bias + ofs + between_size) & (alignment - 1);
2529                                         assert(ofs >= 0);
2530                                         if (delta > 0) {
2531                                                 be_set_IncSP_offset(irn, ofs + alignment - delta);
2532                                                 real_bias += alignment - delta;
2533                                         }
2534                                 } else {
2535                                         /* adjust so real_bias corresponds with wanted_bias */
2536                                         int delta = wanted_bias - real_bias;
2537                                         assert(delta <= 0);
2538                                         if (delta != 0) {
2539                                                 be_set_IncSP_offset(irn, ofs + delta);
2540                                                 real_bias += delta;
2541                                         }
2542                                 }
2543                         }
2544                 }
2545
2546                 real_bias   += ofs;
2547                 wanted_bias += ofs;
2548         }
2549
2550         assert(real_bias == wanted_bias);
2551         return real_bias;
2552 }
2553
2554 /**
2555  * A helper struct for the bias walker.
2556  */
2557 struct bias_walk {
2558         be_abi_irg_t *env;     /**< The ABI irg environment. */
2559         int           start_block_bias;  /**< The bias at the end of the start block. */
2560         int           between_size;
2561         ir_node      *start_block;  /**< The start block of the current graph. */
2562 };
2563
2564 /**
2565  * Block-Walker: fix all stack offsets for all blocks
2566  * except the start block
2567  */
2568 static void stack_bias_walker(ir_node *bl, void *data)
2569 {
2570         struct bias_walk *bw = data;
2571         if (bl != bw->start_block) {
2572                 process_stack_bias(bw->env, bl, bw->start_block_bias);
2573         }
2574 }
2575
2576 /**
2577  * Walker: finally lower all Sels of outer frame or parameter
2578  * entities.
2579  */
2580 static void lower_outer_frame_sels(ir_node *sel, void *ctx) {
2581         be_abi_irg_t *env = ctx;
2582         ir_node      *ptr;
2583         ir_entity    *ent;
2584         ir_type      *owner;
2585
2586         if (! is_Sel(sel))
2587                 return;
2588
2589         ent   = get_Sel_entity(sel);
2590         owner = get_entity_owner(ent);
2591         ptr   = get_Sel_ptr(sel);
2592
2593         if (owner == env->frame.frame_type || owner == env->frame.arg_type) {
2594                 /* found access to outer frame or arguments */
2595                 int offset = get_stack_entity_offset(&env->frame, ent, 0);
2596
2597                 if (offset != 0) {
2598                         ir_node  *bl   = get_nodes_block(sel);
2599                         dbg_info *dbgi = get_irn_dbg_info(sel);
2600                         ir_mode  *mode = get_irn_mode(sel);
2601                         ir_mode  *mode_UInt = get_reference_mode_unsigned_eq(mode);
2602                         ir_node  *cnst = new_r_Const_long(current_ir_graph, mode_UInt, offset);
2603
2604                         ptr = new_rd_Add(dbgi, bl, ptr, cnst, mode);
2605                 }
2606                 exchange(sel, ptr);
2607         }
2608 }
2609
2610 void be_abi_fix_stack_bias(be_abi_irg_t *env)
2611 {
2612         ir_graph          *irg = env->birg->irg;
2613         ir_type           *frame_tp;
2614         int               i;
2615         struct bias_walk  bw;
2616
2617         stack_frame_compute_initial_offset(&env->frame);
2618         // stack_layout_dump(stdout, frame);
2619
2620         /* Determine the stack bias at the end of the start block. */
2621         bw.start_block_bias = process_stack_bias(env, get_irg_start_block(irg), env->frame.initial_bias);
2622         bw.between_size     = get_type_size_bytes(env->frame.between_type);
2623
2624         /* fix the bias is all other blocks */
2625         bw.env = env;
2626         bw.start_block = get_irg_start_block(irg);
2627         irg_block_walk_graph(irg, stack_bias_walker, NULL, &bw);
2628
2629         /* fix now inner functions: these still have Sel node to outer
2630            frame and parameter entities */
2631         frame_tp = get_irg_frame_type(irg);
2632         for (i = get_class_n_members(frame_tp) - 1; i >= 0; --i) {
2633                 ir_entity *ent = get_class_member(frame_tp, i);
2634
2635                 if (is_method_entity(ent) && get_entity_peculiarity(ent) != peculiarity_description) {
2636                         ir_graph *irg = get_entity_irg(ent);
2637
2638                         irg_walk_graph(irg, NULL, lower_outer_frame_sels, env);
2639                 }
2640         }
2641 }
2642
2643 ir_node *be_abi_get_callee_save_irn(be_abi_irg_t *abi, const arch_register_t *reg)
2644 {
2645         assert(arch_register_type_is(reg, callee_save));
2646         assert(pmap_contains(abi->regs, (void *) reg));
2647         return pmap_get(abi->regs, (void *) reg);
2648 }
2649
2650 ir_node *be_abi_get_ignore_irn(be_abi_irg_t *abi, const arch_register_t *reg)
2651 {
2652         assert(arch_register_type_is(reg, ignore));
2653         assert(pmap_contains(abi->regs, (void *) reg));
2654         return pmap_get(abi->regs, (void *) reg);
2655 }
2656
2657 /**
2658  * Returns non-zero if the ABI has omitted the frame pointer in
2659  * the current graph.
2660  */
2661 int be_abi_omit_fp(const be_abi_irg_t *abi)
2662 {
2663         return abi->call->flags.bits.try_omit_fp;
2664 }
2665
2666 void be_init_abi(void)
2667 {
2668         FIRM_DBG_REGISTER(dbg, "firm.be.abi");
2669 }
2670
2671 BE_REGISTER_MODULE_CONSTRUCTOR(be_init_abi);