a381fd5850fb2f36006661dd596539df955c1a0f
[libfirm] / ir / be / belive.c
1 /*
2  * This file is part of libFirm.
3  * Copyright (C) 2012 University of Karlsruhe.
4  */
5
6 /**
7  * @file
8  * @brief       Interblock liveness analysis.
9  * @author      Sebastian Hack
10  * @date        06.12.2004
11  */
12 #include "config.h"
13
14 /* statev is expensive here, only enable when needed */
15 #define DISABLE_STATEV
16
17 #include "iredges_t.h"
18 #include "irgwalk.h"
19 #include "irprintf.h"
20 #include "irdump_t.h"
21 #include "irnodeset.h"
22
23 #include "absgraph.h"
24 #include "statev_t.h"
25 #include "be_t.h"
26 #include "bearch.h"
27 #include "beutil.h"
28 #include "belive_t.h"
29 #include "besched.h"
30 #include "bemodule.h"
31
32 DEBUG_ONLY(static firm_dbg_module_t *dbg = NULL;)
33
34 #define LV_STD_SIZE             64
35
36 int (be_is_live_in)(const be_lv_t *lv, const ir_node *block, const ir_node *irn)
37 {
38         return _be_is_live_xxx(lv, block, irn, be_lv_state_in);
39 }
40
41 int (be_is_live_out)(const be_lv_t *lv, const ir_node *block, const ir_node *irn)
42 {
43         return _be_is_live_xxx(lv, block, irn, be_lv_state_out);
44 }
45
46 int (be_is_live_end)(const be_lv_t *lv, const ir_node *block, const ir_node *irn)
47 {
48         return _be_is_live_xxx(lv, block, irn, be_lv_state_end);
49 }
50
51 static inline unsigned _be_liveness_bsearch(be_lv_info_t *arr, const ir_node *node)
52 {
53         be_lv_info_t *payload = arr + 1;
54
55         unsigned n   = arr[0].head.n_members;
56         unsigned res = 0;
57         int lo       = 0;
58         int hi       = n;
59
60         if (n == 0)
61                 return 0;
62
63         do {
64                 int md           = lo + ((hi - lo) >> 1);
65                 ir_node *md_node = payload[md].node.node;
66
67                 if (node > md_node)
68                         lo = md + 1;
69                 else if (node < md_node)
70                         hi = md;
71                 else {
72                         res = md;
73                         break;
74                 }
75
76                 res = lo;
77         } while (lo < hi);
78
79         return res;
80 }
81
82 be_lv_info_node_t *be_lv_get(const be_lv_t *li, const ir_node *bl,
83                              const ir_node *irn)
84 {
85         be_lv_info_t *irn_live;
86         be_lv_info_node_t *res = NULL;
87
88         stat_ev_tim_push();
89         irn_live = ir_nodehashmap_get(be_lv_info_t, &li->map, bl);
90         if (irn_live != NULL) {
91                 /* Get the position of the index in the array. */
92                 int pos = _be_liveness_bsearch(irn_live, irn);
93
94                 /* Get the record in question. 1 must be added, since the first record contains information about the array and must be skipped. */
95                 be_lv_info_node_t *rec = &irn_live[pos + 1].node;
96
97                 /* Check, if the irn is in deed in the array. */
98                 if (rec->node == irn)
99                         res = rec;
100         }
101         stat_ev_tim_pop("be_lv_get");
102
103         return res;
104 }
105
106 static be_lv_info_node_t *be_lv_get_or_set(be_lv_t *li, ir_node *bl,
107                                            ir_node *irn)
108 {
109         be_lv_info_t *irn_live = ir_nodehashmap_get(be_lv_info_t, &li->map, bl);
110         if (irn_live == NULL) {
111                 irn_live = OALLOCNZ(&li->obst, be_lv_info_t, LV_STD_SIZE);
112                 irn_live[0].head.n_size = LV_STD_SIZE-1;
113                 ir_nodehashmap_insert(&li->map, bl, irn_live);
114         }
115
116         /* Get the position of the index in the array. */
117         unsigned pos = _be_liveness_bsearch(irn_live, irn);
118
119         /* Get the record in question. 1 must be added, since the first record contains information about the array and must be skipped. */
120         be_lv_info_node_t *res = &irn_live[pos + 1].node;
121
122         /* Check, if the irn is in deed in the array. */
123         if (res->node != irn) {
124                 be_lv_info_t *payload;
125                 unsigned n_members = irn_live[0].head.n_members;
126                 unsigned n_size    = irn_live[0].head.n_size;
127                 unsigned i;
128
129                 if (n_members + 1 >= n_size) {
130                         /* double the array size. Remember that the first entry is
131                          * metadata about the array and not a real array element */
132                         unsigned old_size_bytes  = (n_size + 1) * sizeof(irn_live[0]);
133                         unsigned new_size        = (2 * n_size) + 1;
134                         size_t   new_size_bytes  = new_size * sizeof(irn_live[0]);
135                         be_lv_info_t *nw = OALLOCN(&li->obst, be_lv_info_t, new_size);
136                         memcpy(nw, irn_live, old_size_bytes);
137                         memset(((char*) nw) + old_size_bytes, 0,
138                                new_size_bytes - old_size_bytes);
139                         nw[0].head.n_size = new_size - 1;
140                         irn_live = nw;
141                         ir_nodehashmap_insert(&li->map, bl, nw);
142                 }
143
144                 payload = &irn_live[1];
145                 for (i = n_members; i > pos; --i) {
146                         payload[i] = payload[i - 1];
147                 }
148
149                 ++irn_live[0].head.n_members;
150
151                 res        = &payload[pos].node;
152                 res->node  = irn;
153                 res->flags = 0;
154         }
155
156         return res;
157 }
158
159 /**
160  * Removes a node from the list of live variables of a block.
161  * @return 1 if the node was live at that block, 0 if not.
162  */
163 static int be_lv_remove(be_lv_t *li, const ir_node *bl,
164                         const ir_node *irn)
165 {
166         be_lv_info_t *irn_live = ir_nodehashmap_get(be_lv_info_t, &li->map, bl);
167
168         if (irn_live != NULL) {
169                 unsigned n   = irn_live[0].head.n_members;
170                 unsigned pos = _be_liveness_bsearch(irn_live, irn);
171                 be_lv_info_t *payload  = irn_live + 1;
172                 be_lv_info_node_t *res = &payload[pos].node;
173
174                 /* The node is in deed in the block's array. Let's remove it. */
175                 if (res->node == irn) {
176                         unsigned i;
177
178                         for (i = pos + 1; i < n; ++i)
179                                 payload[i - 1] = payload[i];
180
181                         payload[n - 1].node.node  = NULL;
182                         payload[n - 1].node.flags = 0;
183
184                         --irn_live[0].head.n_members;
185                         DBG((dbg, LEVEL_3, "\tdeleting %+F from %+F at pos %d\n", irn, bl, pos));
186                         return 1;
187                 }
188         }
189
190         return 0;
191 }
192
193 static struct {
194         be_lv_t  *lv;         /**< The liveness object. */
195         ir_node  *def;        /**< The node (value). */
196         ir_node  *def_block;  /**< The block of def. */
197 } re;
198
199 /**
200  * Mark a node (value) live out at a certain block. Do this also
201  * transitively, i.e. if the block is not the block of the value's
202  * definition, all predecessors are also marked live.
203  * @param block The block to mark the value live out of.
204  * @param state The liveness bits to set, either end or end+out.
205  */
206 static void live_end_at_block(ir_node *const block, be_lv_state_t const state)
207 {
208         be_lv_info_node_t *const n      = be_lv_get_or_set(re.lv, block, re.def);
209         be_lv_state_t      const before = n->flags;
210
211         assert(state == be_lv_state_end || state == (be_lv_state_end | be_lv_state_out));
212         DBG((dbg, LEVEL_2, "marking %+F live %s at %+F\n", re.def, state & be_lv_state_out ? "end+out" : "end", block));
213         n->flags |= state;
214
215         /* There is no need to recurse further, if we where here before (i.e., any
216          * live state bits were set before). */
217         if (before != be_lv_state_none)
218                 return;
219
220         /* Stop going up further, if this is the block of the definition. */
221         if (re.def_block == block)
222                 return;
223
224         DBG((dbg, LEVEL_2, "marking %+F live in at %+F\n", re.def, block));
225         n->flags |= be_lv_state_in;
226
227         for (int i = get_Block_n_cfgpreds(block); i-- != 0;) {
228                 ir_node *const pred_block = get_Block_cfgpred_block(block, i);
229                 live_end_at_block(pred_block, be_lv_state_end | be_lv_state_out);
230         }
231 }
232
233 typedef struct lv_remove_walker_t {
234         be_lv_t       *lv;
235         const ir_node *irn;
236 } lv_remove_walker_t;
237
238
239 /**
240  * Liveness analysis for a value.
241  * Compute the set of all blocks a value is live in.
242  * @param irn     The node (value).
243  */
244 static void liveness_for_node(ir_node *irn)
245 {
246         ir_node *const def_block = get_nodes_block(irn);
247
248         re.def       = irn;
249         re.def_block = def_block;
250
251         /* Go over all uses of the value */
252         foreach_out_edge(irn, edge) {
253                 ir_node *use = edge->src;
254                 ir_node *use_block;
255
256                 DBG((dbg, LEVEL_4, "%+F: use at %+F, pos %d in %+F\n", irn, use, edge->pos, get_block(use)));
257                 assert(get_irn_n(use, edge->pos) == irn);
258
259                 /*
260                  * If the usage is no data node, skip this use, since it does not
261                  * affect the liveness of the node.
262                  */
263                 if (!is_liveness_node(use))
264                         continue;
265
266                 /* Get the block where the usage is in. */
267                 use_block = get_nodes_block(use);
268
269                 /*
270                  * If the use is a phi function, determine the corresponding block
271                  * through which the value reaches the phi function and mark the
272                  * value as live out of that block.
273                  */
274                 if (is_Phi(use)) {
275                         ir_node *pred_block = get_Block_cfgpred_block(use_block, edge->pos);
276                         live_end_at_block(pred_block, be_lv_state_end);
277                 }
278
279                 /*
280                  * Else, the value is live in at this block. Mark it and call live
281                  * out on the predecessors.
282                  */
283                 else if (def_block != use_block) {
284                         int i;
285
286                         be_lv_info_node_t *const n = be_lv_get_or_set(re.lv, use_block, irn);
287                         DBG((dbg, LEVEL_2, "marking %+F live in at %+F\n", irn, use_block));
288                         n->flags |= be_lv_state_in;
289
290                         for (i = get_Block_n_cfgpreds(use_block) - 1; i >= 0; --i) {
291                                 ir_node *pred_block = get_Block_cfgpred_block(use_block, i);
292                                 live_end_at_block(pred_block, be_lv_state_end | be_lv_state_out);
293                         }
294                 }
295         }
296 }
297
298 static void lv_remove_irn_walker(ir_node *bl, void *data)
299 {
300         lv_remove_walker_t *w = (lv_remove_walker_t*)data;
301         be_lv_remove(w->lv, bl, w->irn);
302 }
303
304 /**
305  * Walker, collect all nodes for which we want calculate liveness info
306  * on an obstack.
307  */
308 static void collect_liveness_nodes(ir_node *irn, void *data)
309 {
310         ir_node **nodes = (ir_node**)data;
311         if (is_liveness_node(irn))
312                 nodes[get_irn_idx(irn)] = irn;
313 }
314
315 void be_liveness_compute_sets(be_lv_t *lv)
316 {
317         int       i;
318         int       n;
319
320         if (lv->sets_valid)
321                 return;
322
323         be_timer_push(T_LIVE);
324         ir_nodehashmap_init(&lv->map);
325         obstack_init(&lv->obst);
326
327         n = get_irg_last_idx(lv->irg);
328         ir_node **const nodes = NEW_ARR_FZ(ir_node*, n);
329
330         /* inserting the variables sorted by their ID is probably
331          * more efficient since the binary sorted set insertion
332          * will not need to move around the data. */
333         irg_walk_graph(lv->irg, NULL, collect_liveness_nodes, nodes);
334
335         re.lv = lv;
336
337         for (i = 0; i < n; ++i) {
338                 if (nodes[i] != NULL)
339                         liveness_for_node(nodes[i]);
340         }
341
342         DEL_ARR_F(nodes);
343
344         be_timer_pop(T_LIVE);
345
346         lv->sets_valid = true;
347 }
348
349 void be_liveness_compute_chk(be_lv_t *lv)
350 {
351         if (lv->lvc != NULL)
352                 return;
353         lv->lvc = lv_chk_new(lv->irg);
354 }
355
356 void be_liveness_invalidate_sets(be_lv_t *lv)
357 {
358         if (!lv->sets_valid)
359                 return;
360         obstack_free(&lv->obst, NULL);
361         ir_nodehashmap_destroy(&lv->map);
362         lv->sets_valid = false;
363 }
364
365 void be_liveness_invalidate_chk(be_lv_t *lv)
366 {
367         be_liveness_invalidate_sets(lv);
368
369         if (lv->lvc == NULL)
370                 return;
371         lv_chk_free(lv->lvc);
372         lv->lvc = NULL;
373 }
374
375 be_lv_t *be_liveness_new(ir_graph *irg)
376 {
377         be_lv_t *lv = XMALLOCZ(be_lv_t);
378
379         lv->irg = irg;
380
381         return lv;
382 }
383
384 void be_liveness_free(be_lv_t *lv)
385 {
386         be_liveness_invalidate_sets(lv);
387         be_liveness_invalidate_chk(lv);
388
389         xfree(lv);
390 }
391
392 void be_liveness_remove(be_lv_t *lv, const ir_node *irn)
393 {
394         if (lv->sets_valid) {
395                 lv_remove_walker_t w;
396
397                 /*
398                  * Removes a single irn from the liveness information.
399                  * Since an irn can only be live at blocks dominated by the block of its
400                  * definition, we only have to process that dominance subtree.
401                  */
402                 w.lv  = lv;
403                 w.irn = irn;
404                 dom_tree_walk(get_nodes_block(irn), lv_remove_irn_walker, NULL, &w);
405         }
406 }
407
408 void be_liveness_introduce(be_lv_t *lv, ir_node *irn)
409 {
410         /* Don't compute liveness information for non-data nodes. */
411         if (lv->sets_valid && is_liveness_node(irn)) {
412                 re.lv = lv;
413                 liveness_for_node(irn);
414         }
415 }
416
417 void be_liveness_update(be_lv_t *lv, ir_node *irn)
418 {
419         be_liveness_remove(lv, irn);
420         be_liveness_introduce(lv, irn);
421 }
422
423 void be_liveness_transfer(const arch_register_class_t *cls,
424                           ir_node *node, ir_nodeset_t *nodeset)
425 {
426         /* You should better break out of your loop when hitting the first phi
427          * function. */
428         assert(!is_Phi(node) && "liveness_transfer produces invalid results for phi nodes");
429
430         be_foreach_definition(node, cls, value, req,
431                 ir_nodeset_remove(nodeset, value);
432         );
433
434         be_foreach_use(node, cls, in_req, op, op_req,
435                 ir_nodeset_insert(nodeset, op);
436         );
437 }
438
439
440
441 void be_liveness_end_of_block(const be_lv_t *lv,
442                               const arch_register_class_t *cls,
443                               const ir_node *block, ir_nodeset_t *live)
444 {
445         assert(lv->sets_valid && "live sets must be computed");
446         be_lv_foreach_cls(lv, block, be_lv_state_end, cls, node) {
447                 ir_nodeset_insert(live, node);
448         }
449 }
450
451
452
453 void be_liveness_nodes_live_before(be_lv_t const *const lv, arch_register_class_t const *const cls, ir_node const *const pos, ir_nodeset_t *const live)
454 {
455         ir_node *const bl = get_nodes_block(pos);
456         be_liveness_end_of_block(lv, cls, bl, live);
457         sched_foreach_reverse(bl, irn) {
458                 be_liveness_transfer(cls, irn, live);
459                 if (irn == pos)
460                         return;
461         }
462 }
463
464 static void collect_node(ir_node *irn, void *data)
465 {
466         struct obstack *obst = (struct obstack*)data;
467         obstack_ptr_grow(obst, irn);
468 }
469
470 static void be_live_chk_compare(be_lv_t *lv, lv_chk_t *lvc)
471 {
472         ir_graph *irg    = lv->irg;
473
474         struct obstack obst;
475         ir_node **nodes;
476         ir_node **blocks;
477         int i, j;
478
479         obstack_init(&obst);
480
481         irg_block_walk_graph(irg, collect_node, NULL, &obst);
482         obstack_ptr_grow(&obst, NULL);
483         blocks = (ir_node**)obstack_finish(&obst);
484
485         irg_walk_graph(irg, collect_node, NULL, &obst);
486         obstack_ptr_grow(&obst, NULL);
487         nodes = (ir_node**)obstack_finish(&obst);
488
489         stat_ev_ctx_push("be_lv_chk_compare");
490         for (j = 0; nodes[j]; ++j) {
491                 ir_node *irn = nodes[j];
492                 if (is_Block(irn))
493                         continue;
494
495                 for (i = 0; blocks[i]; ++i) {
496                         ir_node *bl = blocks[i];
497                         int lvr_in  = be_is_live_in (lv, bl, irn);
498                         int lvr_out = be_is_live_out(lv, bl, irn);
499                         int lvr_end = be_is_live_end(lv, bl, irn);
500
501                         int lvc_in  = lv_chk_bl_in (lvc, bl, irn);
502                         int lvc_out = lv_chk_bl_out(lvc, bl, irn);
503                         int lvc_end = lv_chk_bl_end(lvc, bl, irn);
504
505                         if (lvr_in - lvc_in != 0)
506                                 ir_fprintf(stderr, "live in  info for %+F at %+F differs: nml: %d, chk: %d\n", irn, bl, lvr_in, lvc_in);
507
508                         if (lvr_end - lvc_end != 0)
509                                 ir_fprintf(stderr, "live end info for %+F at %+F differs: nml: %d, chk: %d\n", irn, bl, lvr_end, lvc_end);
510
511                         if (lvr_out - lvc_out != 0)
512                                 ir_fprintf(stderr, "live out info for %+F at %+F differs: nml: %d, chk: %d\n", irn, bl, lvr_out, lvc_out);
513                 }
514         }
515         stat_ev_ctx_pop("be_lv_chk_compare");
516
517         obstack_free(&obst, NULL);
518 }
519
520 BE_REGISTER_MODULE_CONSTRUCTOR(be_init_live)
521 void be_init_live(void)
522 {
523         (void)be_live_chk_compare;
524         FIRM_DBG_REGISTER(dbg, "firm.be.liveness");
525 }