cleanup spill code; assert that no wide values are used yet
[libfirm] / ir / be / bespilldaemel.c
1 /*
2  * Copyright (C) 1995-2008 University of Karlsruhe.  All right reserved.
3  *
4  * This file is part of libFirm.
5  *
6  * This file may be distributed and/or modified under the terms of the
7  * GNU General Public License version 2 as published by the Free Software
8  * Foundation and appearing in the file LICENSE.GPL included in the
9  * packaging of this file.
10  *
11  * Licensees holding valid libFirm Professional Edition licenses may use
12  * this file in accordance with the libFirm Commercial License.
13  * Agreement provided with the Software.
14  *
15  * This file is provided AS IS with NO WARRANTY OF ANY KIND, INCLUDING THE
16  * WARRANTY OF DESIGN, MERCHANTABILITY AND FITNESS FOR A PARTICULAR
17  * PURPOSE.
18  */
19
20 /**
21  * @file
22  * @brief       Naive spilling algorithm
23  * @author      Matthias Braun
24  * @date        20.09.2005
25  * @version     $Id: bespillbelady.c 13913 2007-05-18 12:48:56Z matze $
26  * @brief
27  *   This implements a naive spilling algorithm. It is designed to produce
28  *   similar effects to the spill decisions produced by traditional graph
29  *   coloring register allocators that spill while they are coloring the graph.
30  *
31  *   This spiller walks over all blocks and looks for places with too high
32  *   register pressure where it spills the values that are cheapest to spill.
33  *   Spilling in this context means placing a spill instruction behind the
34  *   definition of the value and a reload before each usage.
35  */
36 #include "config.h"
37
38 #include "debug.h"
39
40 #include "irnodeset.h"
41 #include "irgwalk.h"
42 #include "irprintf.h"
43 #include "iredges_t.h"
44 #include "error.h"
45
46 #include "beirg.h"
47 #include "bespill.h"
48 #include "bespillutil.h"
49 #include "bemodule.h"
50 #include "besched.h"
51 #include "bearch.h"
52 #include "be_t.h"
53 #include "benode.h"
54 #include "beirg.h"
55 #include "belive.h"
56
57 DEBUG_ONLY(static firm_dbg_module_t *dbg = NULL;)
58
59 static spill_env_t                 *spill_env;
60 static int                          n_regs;
61 static const arch_register_class_t *cls;
62 static const be_lv_t               *lv;
63 static bitset_t                    *spilled_nodes;
64
65 typedef struct spill_candidate_t spill_candidate_t;
66 struct spill_candidate_t {
67         double   costs;
68         ir_node *node;
69 };
70
71 static int compare_spill_candidates_desc(const void *d1, const void *d2)
72 {
73         const spill_candidate_t *c1 = d1;
74         const spill_candidate_t *c2 = d2;
75
76         return (int) (c1->costs - c2->costs);
77 }
78
79 static double get_spill_costs(ir_node *node)
80 {
81         const ir_edge_t *edge;
82         ir_node         *spill_place = skip_Proj(node);
83         double           costs       = be_get_spill_costs(spill_env, node,
84                                                           spill_place);
85
86         foreach_out_edge(node, edge) {
87                 ir_node *use = get_edge_src_irn(edge);
88
89                 /* keeps should be directly below the node */
90                 if (be_is_Keep(use)) {
91                         continue;
92                 }
93
94                 if (is_Phi(use)) {
95                         int      in    = get_edge_src_pos(edge);
96                         ir_node *block = get_nodes_block(use);
97
98                         costs += be_get_reload_costs_on_edge(spill_env, node, block, in);
99                 } else {
100                         costs += be_get_reload_costs(spill_env, node, use);
101                 }
102         }
103
104         return costs;
105 }
106
107 /**
108  * spills a node by placing a reload before each usage
109  */
110 static void spill_node(ir_node *node)
111 {
112         const ir_edge_t *edge;
113
114         DBG((dbg, LEVEL_3, "\tspilling %+F\n", node));
115
116         foreach_out_edge(node, edge) {
117                 ir_node *use = get_edge_src_irn(edge);
118                 if (is_Anchor(use))
119                         continue;
120                 if (be_is_Keep(use))
121                         continue;
122
123                 if (is_Phi(use)) {
124                         int      in         = get_edge_src_pos(edge);
125                         ir_node *block      = get_nodes_block(use);
126
127                         be_add_reload_on_edge(spill_env, node, block, in, cls, 1);
128                 } else {
129                         be_add_reload(spill_env, node, use, cls, 1);
130                 }
131         }
132
133         bitset_set(spilled_nodes, get_irn_idx(node));
134 }
135
136 /**
137  * spill @p n nodes from a nodeset. Removes the nodes from the nodeset and
138  * sets the spilled bits in spilled_nodes.
139  */
140 static void do_spilling(ir_nodeset_t *live_nodes, ir_node *node)
141 {
142         size_t                 n_live_nodes     = ir_nodeset_size(live_nodes);
143         size_t                 values_defined   = 0;
144         size_t                 free_regs_needed = 0;
145         spill_candidate_t     *candidates;
146         ir_nodeset_iterator_t  iter;
147         size_t                 i, arity;
148         int                    spills_needed;
149         size_t                 cand_idx;
150         ir_node               *n;
151         ir_node               *value;
152
153         be_foreach_definition(node, cls, value,
154                 assert(req_->width == 1); /* no support for wide-values yet */
155                 ++values_defined;
156         );
157
158         /* we need registers for the non-live argument values */
159         arity = get_irn_arity(node);
160         for (i = 0; i < arity; ++i) {
161                 ir_node *pred = get_irn_n(node, i);
162                 if (arch_irn_consider_in_reg_alloc(cls, pred)
163                                 && !ir_nodeset_contains(live_nodes, pred)) {
164                         ++free_regs_needed;
165                 }
166         }
167
168         /* we can reuse all reloaded values for the defined values, but we might
169          * need even more registers */
170         if (values_defined > free_regs_needed)
171                 free_regs_needed = values_defined;
172
173         spills_needed = (n_live_nodes + free_regs_needed) - n_regs;
174         if (spills_needed <= 0)
175                 return;
176         DBG((dbg, LEVEL_2, "\tspills needed after %+F: %d\n", node, spills_needed));
177
178         candidates = ALLOCAN(spill_candidate_t, n_live_nodes);
179
180         /* construct array with spill candidates and calculate their costs */
181         i = 0;
182         foreach_ir_nodeset(live_nodes, n, iter) {
183                 spill_candidate_t *candidate = & candidates[i];
184
185                 assert(!bitset_is_set(spilled_nodes, get_irn_idx(n)));
186
187                 candidate->node  = n;
188                 candidate->costs = get_spill_costs(n);
189                 ++i;
190         }
191         assert(i == n_live_nodes);
192
193         /* sort spill candidates */
194         qsort(candidates, n_live_nodes, sizeof(candidates[0]),
195               compare_spill_candidates_desc);
196
197         /* spill cheapest ones */
198         cand_idx = 0;
199         while (spills_needed > 0) {
200                 bool               is_use = false;
201                 spill_candidate_t *candidate;
202                 ir_node           *cand_node;
203
204                 if (cand_idx >= n_live_nodes) {
205                         panic("can't spill enough values for node %+F", node);
206                 }
207
208                 candidate = &candidates[cand_idx];
209                 cand_node = candidate->node;
210                 ++cand_idx;
211
212                 if (arch_irn_is(skip_Proj_const(cand_node), dont_spill))
213                         continue;
214
215                 /* make sure the node is not an argument of the instruction */
216                 for (i = 0; i < arity; ++i) {
217                         ir_node *in = get_irn_n(node, i);
218                         if (in == cand_node) {
219                                 is_use = true;
220                                 break;
221                         }
222                 }
223                 if (is_use) {
224                         continue;
225                 }
226
227                 spill_node(cand_node);
228                 ir_nodeset_remove(live_nodes, cand_node);
229                 --spills_needed;
230         }
231 }
232
233 /**
234  * removes all values from the nodeset that are defined by node
235  */
236 static void remove_defs(ir_node *node, ir_nodeset_t *nodeset)
237 {
238         ir_node *value;
239         /* You must break out of your loop when hitting the first phi function. */
240         assert(!is_Phi(node));
241
242         be_foreach_definition(node, cls, value,
243                 ir_nodeset_remove(nodeset, value);
244         );
245 }
246
247 static void add_uses(ir_node *node, ir_nodeset_t *nodeset)
248 {
249         int i, arity;
250
251         arity = get_irn_arity(node);
252         for (i = 0; i < arity; ++i) {
253                 ir_node *op = get_irn_n(node, i);
254
255                 if (arch_irn_consider_in_reg_alloc(cls, op) &&
256                                 !bitset_is_set(spilled_nodes, get_irn_idx(op))) {
257                         ir_nodeset_insert(nodeset, op);
258                 }
259         }
260 }
261
262 static __attribute__((unused))
263 void print_nodeset(ir_nodeset_t *nodeset)
264 {
265         ir_nodeset_iterator_t  iter;
266         ir_node               *node;
267
268         foreach_ir_nodeset(nodeset, node, iter) {
269                 ir_fprintf(stderr, "%+F ", node);
270         }
271         fprintf(stderr, "\n");
272 }
273
274 /**
275  * make sure register pressure in a block is always equal or below the number
276  * of available registers
277  */
278 static void spill_block(ir_node *block, void *data)
279 {
280         ir_nodeset_t           live_nodes;
281         ir_nodeset_iterator_t  iter;
282         ir_node               *node;
283         int                    n_phi_values_spilled;
284         int                    regpressure;
285         int                    phi_spills_needed;
286         (void) data;
287
288         DBG((dbg, LEVEL_1, "spilling block %+F\n", block));
289
290         /* construct set of live nodes at end of block */
291         ir_nodeset_init(&live_nodes);
292         be_liveness_end_of_block(lv, cls, block, &live_nodes);
293
294         /* remove already spilled nodes from liveset */
295         foreach_ir_nodeset(&live_nodes, node, iter) {
296                 DBG((dbg, LEVEL_2, "\t%+F is live-end... ", node));
297                 if (bitset_is_set(spilled_nodes, get_irn_idx(node))) {
298                         DBG((dbg, LEVEL_2, "but spilled; removing.\n"));
299                         ir_nodeset_remove_iterator(&live_nodes, &iter);
300                 } else {
301                         DBG((dbg, LEVEL_2, "keeping.\n"));
302                 }
303         }
304
305         /* walk schedule backwards and spill until register pressure is fine at
306          * each node */
307         sched_foreach_reverse(block, node) {
308                 if (is_Phi(node))
309                         break;
310
311                 remove_defs(node, &live_nodes);
312                 do_spilling(&live_nodes, node);
313                 add_uses(node, &live_nodes);
314         }
315
316         /* until now only the values of some phis have been spilled the phis itself
317          * are still there and occupy registers, so we need to count them and might
318          * have to spill some of them. */
319         n_phi_values_spilled = 0;
320         sched_foreach(block, node) {
321                 if (!is_Phi(node))
322                         break;
323
324                 if (bitset_is_set(spilled_nodes, get_irn_idx(node))) {
325                         ++n_phi_values_spilled;
326                 }
327         }
328
329         /* calculate how many of the phis need to be spilled */
330         regpressure       = ir_nodeset_size(&live_nodes) + n_phi_values_spilled;
331         phi_spills_needed = regpressure - n_regs;
332         DBG((dbg, LEVEL_3, "Regpressure before phis: %d phispills: %d\n",
333              regpressure, phi_spills_needed));
334
335         /* spill as many phis as needed */
336         /* TODO: we should really estimate costs of the phi spill as well...
337          * and preferably spill phis with lower costs... */
338         sched_foreach(block, node) {
339                 if (!is_Phi(node))
340                         break;
341                 if (phi_spills_needed <= 0)
342                         break;
343
344                 if (bitset_is_set(spilled_nodes, get_irn_idx(node))) {
345                         be_spill_phi(spill_env, node);
346                         --phi_spills_needed;
347                 }
348         }
349         assert(phi_spills_needed <= 0);
350
351         ir_nodeset_destroy(&live_nodes);
352 }
353
354 static void be_spill_daemel(ir_graph *irg, const arch_register_class_t *new_cls)
355 {
356         n_regs = new_cls->n_regs - be_put_ignore_regs(irg, new_cls, NULL);
357         if (n_regs == 0)
358                 return;
359
360         be_liveness_assure_sets(be_assure_liveness(irg));
361
362         spill_env     = be_new_spill_env(irg);
363         cls           = new_cls;
364         lv            = be_get_irg_liveness(irg);
365         spilled_nodes = bitset_malloc(get_irg_last_idx(irg));
366
367         DBG((dbg, LEVEL_1, "*** RegClass %s\n", cls->name));
368
369         irg_block_walk_graph(irg, spill_block, NULL, NULL);
370
371         bitset_free(spilled_nodes);
372
373         be_insert_spills_reloads(spill_env);
374         be_delete_spill_env(spill_env);
375 }
376
377 BE_REGISTER_MODULE_CONSTRUCTOR(be_init_daemelspill);
378 void be_init_daemelspill(void)
379 {
380         static be_spiller_t daemel_spiller = {
381                 be_spill_daemel
382         };
383
384         be_register_spiller("daemel", &daemel_spiller);
385         FIRM_DBG_REGISTER(dbg, "firm.be.spilldaemel");
386 }