Replace the reassoc env struct by its only member.
[libfirm] / ir / opt / tropt.c
1 /*
2  * Copyright (C) 1995-2011 University of Karlsruhe.  All right reserved.
3  *
4  * This file is part of libFirm.
5  *
6  * This file may be distributed and/or modified under the terms of the
7  * GNU General Public License version 2 as published by the Free Software
8  * Foundation and appearing in the file LICENSE.GPL included in the
9  * packaging of this file.
10  *
11  * Licensees holding valid libFirm Professional Edition licenses may use
12  * this file in accordance with the libFirm Commercial License.
13  * Agreement provided with the Software.
14  *
15  * This file is provided AS IS with NO WARRANTY OF ANY KIND, INCLUDING THE
16  * WARRANTY OF DESIGN, MERCHANTABILITY AND FITNESS FOR A PARTICULAR
17  * PURPOSE.
18  */
19
20 /**
21  * @file
22  * @brief   Perform optimizations of the type representation.
23  * @date    20.4.2005
24  * @author  Goetz Lindenmaier
25  */
26 #include "config.h"
27
28 #include <assert.h>
29
30 #include "iroptimize.h"
31 #include "irprog.h"
32 #include "irtypeinfo.h"
33 #include "irgwalk.h"
34 #include "trouts.h"
35 #include "ircons.h"
36 #include "irgmod.h"
37 #include "irflag_t.h"
38 #include "xmalloc.h"
39 #include "debug.h"
40 #include "opt_init.h"
41
42 DEBUG_ONLY(static firm_dbg_module_t *dbg;)
43
44 /* - statistics ---------------------------------------------- */
45
46 static size_t n_casts_normalized = 0;
47 static size_t n_casts_removed    = 0;
48 static size_t n_sels_concretized = 0;
49
50 /* - Cast normalization. ------------------------------------- */
51
52 static ir_type *default_gen_pointer_type_to(ir_type *tp);
53
54 #define PTR_TYPE_SUFFIX "cc_ptr_tp"  /* class cast pointer type. */
55 static ident *ptr_type_suffix = NULL;
56 static gen_pointer_type_to_func gen_pointer_type_to = default_gen_pointer_type_to;
57
58 /**
59  * Find a pointer type to a given type.
60  * Uses and updates trouts if available.
61  */
62 static ir_type *default_gen_pointer_type_to(ir_type *tp)
63 {
64         ir_type *res = find_pointer_type_to_type(tp);
65         if (is_unknown_type(res))
66                 res = new_type_pointer(tp);
67
68         return res;
69 }
70
71 /** Return a type that is a depth times pointer to type. */
72 static ir_type *pointerize_type(ir_type *tp, size_t depth)
73 {
74         for (; depth > 0; --depth) {
75                 tp = gen_pointer_type_to(tp);
76         }
77         return tp;
78 }
79
80
81 static ir_node *normalize_values_type(ir_type *totype, ir_node *pred)
82 {
83         ir_type *fromtype = get_irn_typeinfo_type(pred);
84         ir_node *new_cast = pred;
85         ir_node *block;
86         size_t  ref_depth = 0;
87
88         if (totype == fromtype) return pred;   /* Case for optimization! */
89
90         while (is_Pointer_type(totype) && is_Pointer_type(fromtype)) {
91                 totype   = get_pointer_points_to_type(totype);
92                 fromtype = get_pointer_points_to_type(fromtype);
93                 ++ref_depth;
94         }
95
96         if (!is_Class_type(totype))   return pred;
97         if (!is_Class_type(fromtype)) return pred;
98
99         if ((get_class_supertype_index(totype, fromtype) != (size_t)-1) ||
100                 (get_class_supertype_index(fromtype, totype) != (size_t)-1) ) {
101                         /* It's just what we want ... */
102                         return pred;
103         }
104
105         block = get_nodes_block(pred);
106
107         if (is_SubClass_of(totype, fromtype)) {
108                 /* downcast */
109                 while (get_class_subtype_index(fromtype, totype) == (size_t)-1) {
110                         /* Insert a cast to a subtype of fromtype. */
111                         ir_type *new_type = NULL;
112                         ir_node *new_cast;
113                         size_t   i;
114                         size_t   n_subtypes = get_class_n_subtypes(fromtype);
115                         for (i = 0; i < n_subtypes && !new_type; ++i) {
116                                 ir_type *new_sub = get_class_subtype(fromtype, i);
117                                 if (is_SuperClass_of(new_sub, totype))
118                                         new_type = new_sub;
119                         }
120                         assert(new_type);
121                         fromtype = new_type;
122                         new_type = pointerize_type(new_type, ref_depth);
123                         new_cast = new_r_Cast(block, pred, new_type);
124                         pred = new_cast;
125                         ++n_casts_normalized;
126                         set_irn_typeinfo_type(new_cast, new_type);  /* keep type information up to date. */
127                 }
128         } else {
129                 assert(is_SuperClass_of(totype, fromtype));
130                 /* upcast */
131                 while (get_class_supertype_index(fromtype, totype) == (size_t)-1) {
132                         /* Insert a cast to a supertype of fromtype. */
133                         ir_type *new_type = NULL;
134                         size_t i, n_supertypes = get_class_n_supertypes(fromtype);
135                         for (i = 0; i < n_supertypes && !new_type; ++i) {
136                                 ir_type *new_super = get_class_supertype(fromtype, i);
137                                 if (is_SubClass_of(new_super, totype))
138                                         new_type = new_super;
139                         }
140                         assert(new_type);
141                         fromtype = new_type;
142                         new_type = pointerize_type(new_type, ref_depth);
143                         new_cast = new_r_Cast(block, pred, new_type);
144                         pred = new_cast;
145                         ++n_casts_normalized;
146                         set_irn_typeinfo_type(new_cast, new_type);  /* keep type information up to date. */
147                 }
148         }
149         return new_cast;
150 }
151
152 /**
153  * Post-Walker.
154  */
155 static void normalize_irn_class_cast(ir_node *n, void *env)
156 {
157         ir_node *res;
158         (void) env;
159         if (is_Cast(n)) {
160                 ir_node *pred   = get_Cast_op(n);
161                 ir_type *totype = get_Cast_type(n);
162                 res = normalize_values_type(totype, pred);
163                 set_Cast_op(n, res);
164         } else if (is_Call(n)) {
165                 size_t n_params = get_Call_n_params(n);
166                 size_t i;
167                 ir_type *tp = get_Call_type(n);
168                 for (i = 0; i < n_params; ++i) {
169                         res = normalize_values_type(get_method_param_type(tp, i), get_Call_param(n, i));
170                         set_Call_param(n, i, res);
171                 }
172         }
173 }
174
175
176 static void pure_normalize_irg_class_casts(ir_graph *irg)
177 {
178         assert(get_irg_class_cast_state(irg) != ir_class_casts_any &&
179                "Cannot normalize irregular casts.");
180         if (get_irg_class_cast_state(irg) == ir_class_casts_normalized) {
181                 return;
182         }
183
184         irg_walk_graph(irg, NULL, normalize_irn_class_cast, NULL);
185         set_irg_class_cast_state(irg, ir_class_casts_normalized);
186 }
187
188
189 void normalize_irg_class_casts(ir_graph *irg, gen_pointer_type_to_func gppt_fct)
190 {
191         assert(get_irp_typeinfo_state() == ir_typeinfo_consistent);
192
193         if (gppt_fct) gen_pointer_type_to = gppt_fct;
194
195         if (!ptr_type_suffix)
196                 ptr_type_suffix = new_id_from_str(PTR_TYPE_SUFFIX);
197
198         pure_normalize_irg_class_casts(irg);
199
200         gen_pointer_type_to = default_gen_pointer_type_to;
201 }
202
203 void normalize_irp_class_casts(gen_pointer_type_to_func gppt_fct)
204 {
205         size_t i, n;
206         if (gppt_fct) gen_pointer_type_to = gppt_fct;
207
208 #if 0
209         if (get_irp_typeinfo_state() != ir_typeinfo_consistent)
210                 simple_analyse_types();
211 #endif
212
213         for (i = 0, n = get_irp_n_irgs(); i < n; ++i) {
214                 ir_graph *irg = get_irp_irg(i);
215                 pure_normalize_irg_class_casts(irg);
216         }
217
218         set_irp_class_cast_state(ir_class_casts_normalized);
219         gen_pointer_type_to = default_gen_pointer_type_to;
220
221         DB((dbg, SET_LEVEL_1, " Cast normalization: %zu Casts inserted.\n", n_casts_normalized));
222 }
223
224
225
226 /* - Cast optimization. ------------------------------------------- */
227
228 /**
229  * Optimizes Casts:
230  *
231  *  (T1)(T2)x<T1> -> x<T1>
232  *
233  *  (T3)(T2)x<T1> -> (T3)x<T1>
234  *
235  * if possible.
236  *
237  * @param cast  the Cast node
238  *
239  * @return 1 if the cast was changed
240  */
241 static int cancel_out_casts(ir_node *cast)
242 {
243         ir_node *orig, *pred = get_Cast_op(cast);
244         ir_type *tp_cast, *tp_pred, *tp_orig;
245
246         if (!is_Cast(pred)) return 0;
247         orig = get_Cast_op(pred);
248
249         tp_cast = get_Cast_type(cast);
250         tp_pred = get_Cast_type(pred);
251         tp_orig = get_irn_typeinfo_type(orig);
252
253         while (is_Pointer_type(tp_cast) &&
254               is_Pointer_type(tp_pred) &&
255               is_Pointer_type(tp_orig)   ) {
256                 tp_cast = get_pointer_points_to_type(tp_cast);
257                 tp_pred = get_pointer_points_to_type(tp_pred);
258                 tp_orig = get_pointer_points_to_type(tp_orig);
259         }
260
261         if (!is_Class_type(tp_cast) || !is_Class_type(tp_pred) || !is_Class_type(tp_orig))
262                 return 0;
263
264         if (is_SubClass_of(tp_pred, tp_cast) && get_opt_suppress_downcast_optimization())
265                 return 0;
266
267         if (tp_cast == tp_orig) {
268                 exchange(cast, orig);
269                 n_casts_removed += 2;
270                 return 1;
271         }
272
273         if (!(is_SubClass_of  (tp_cast, tp_orig) || is_SubClass_of  (tp_orig, tp_cast))) {
274                 /* Avoid (B2)(A)(new B1()) --> (B2)(new B1())
275                 * if B1 =!> B2  and  B2 =!> B1
276                 */
277                 return 0;
278         }
279
280         if ((is_SubClass_of  (tp_cast, tp_pred) && is_SuperClass_of(tp_pred, tp_orig)) ||
281             (is_SuperClass_of(tp_cast, tp_pred) && is_SubClass_of  (tp_pred, tp_orig))) {
282                 /* Cast --> Pred --> Orig */
283                 set_Cast_op(cast, orig);
284                 ++n_casts_removed;
285                 return 1;
286         }
287         return 0;
288 }
289
290 /**
291  * Optimize Sel(Cast(type, ptr), ent) into Sel(ptr_type, ent_type)
292  *
293  * @param sel  the Sel node
294  *
295  * @return 1 if Cast's where removed
296  */
297 static int concretize_selected_entity(ir_node *sel)
298 {
299         ir_node   *cast, *ptr = get_Sel_ptr(sel);
300         ir_type   *orig_tp, *cast_tp;
301         ir_entity *new_ent, *sel_ent;
302         int       res = 0;
303
304         sel_ent = get_Sel_entity(sel);
305         cast    = get_Sel_ptr(sel);
306
307         while (is_Cast(cast)) {
308                 cast_tp = get_Cast_type(cast);
309                 ptr     = get_Cast_op(cast);
310                 orig_tp = get_irn_typeinfo_type(ptr);
311
312                 /* we handle only classes */
313                 if (!is_Pointer_type(orig_tp)|| !is_Pointer_type(cast_tp))
314                         return res;
315                 orig_tp = get_pointer_points_to_type(orig_tp);
316                 cast_tp = get_pointer_points_to_type(cast_tp);
317                 if (!is_Class_type(orig_tp) || !is_Class_type(cast_tp))
318                         return res;
319
320                 /* We only want to concretize, but not generalize. */
321                 if (!is_SuperClass_of(cast_tp, orig_tp))
322                         return res;
323
324                 /* The sel entity should be a member of the cast_tp, else
325                    the graph was not properly typed. */
326                 if (get_class_member_index(cast_tp, sel_ent) == (size_t)-1)
327                         return res;
328
329                 new_ent = resolve_ent_polymorphy(orig_tp, sel_ent);
330
331                 /* New ent must be member of orig_tp. */
332                 if (get_class_member_index(orig_tp, new_ent) == (size_t)-1)
333                         return res;
334
335                 /* all checks done, we can remove the Cast and update the Sel */
336                 set_Sel_entity(sel, new_ent);
337                 set_Sel_ptr(sel, ptr);
338                 ++n_sels_concretized;
339
340                 sel_ent = new_ent;
341                 cast    = ptr;
342                 res     = 1;
343         }
344         return res;
345 }
346
347 /**
348  * Move Casts of the same type through a Phi node, i.e.
349  * Phi(Cast(type, x_0), ..., Cast(type, x_n)) -> Cast(type, Phi(x_0, ..., x_n))
350  *
351  * @param phi  the Phi node
352  *
353  * @return 1 if Cast's where moved
354  */
355 static int concretize_Phi_type(ir_node *phi)
356 {
357         int       n_preds = get_Phi_n_preds(phi);
358         ir_node **pred    = ALLOCAN(ir_node*, n_preds);
359         ir_node  *nn, *blk;
360         ir_type  *totype;
361         ir_type  *fromtype;
362         int       i;
363
364         if (n_preds == 0)
365                 return 0;
366         pred[0] = get_Phi_pred(phi, 0);
367
368         if (!is_Cast(pred[0]))
369                 return 0;
370
371         if (!is_Cast_upcast(pred[0]))
372                 return 0;
373
374         fromtype = get_irn_typeinfo_type(get_Cast_op(pred[0]));
375         totype   = get_Cast_type(pred[0]);
376
377         pred[0] = get_Cast_op(pred[0]);
378         for (i = 1; i < n_preds; ++i) {
379                 pred[i] = get_Phi_pred(phi, i);
380                 if (!is_Cast(pred[i]))
381                         return 0;
382                 if (get_irn_typeinfo_type(get_Cast_op(pred[i])) != fromtype)
383                         return 0;
384                 pred[i] = get_Cast_op(pred[i]);
385         }
386
387         /* Transform Phi */
388         blk = get_nodes_block(phi);
389         nn  = new_r_Phi(blk, n_preds, pred, get_irn_mode(phi));
390         set_irn_typeinfo_type(nn, fromtype);
391         nn  = new_r_Cast(blk, nn, totype);
392         set_irn_typeinfo_type(nn, totype);
393         exchange(phi, nn);
394         return 1;
395 }
396
397 /**
398  * Remove Casted null checks, i.e.
399  *
400  * Cmp(Cast(type, x_orig), NULL_type) -> Cmp(x_orig, NULL_orig)
401  *
402  * @param cmp  the Cmp node
403  *
404  * @return 1 if Cast's where removed
405  */
406 static int remove_Cmp_Null_cast(ir_node *cmp)
407 {
408         ir_graph *irg;
409         ir_node *cast, *null, *new_null;
410         int     cast_pos, null_pos;
411         ir_type *fromtype;
412         ir_mode *mode;
413
414         cast = get_Cmp_left(cmp);
415         if (!is_Cast(cast)) {
416                 null     = cast;
417                 null_pos = 0;
418                 cast     = get_Cmp_right(cmp);
419                 cast_pos = 1;
420                 if (!is_Cast(cast))
421                         return 0;
422         } else {
423                 null = get_Cmp_right(cmp);
424                 cast_pos = 0;
425                 null_pos = 1;
426         }
427
428         if (! is_Const(null))
429                 return 0;
430         mode = get_irn_mode(null);
431         if (!mode_is_reference(mode))
432                 return 0;
433         if (get_Const_tarval(null) != get_mode_null(mode))
434                 return 0;
435
436         /* Transform Cmp */
437         irg = get_irn_irg(cmp);
438         set_irn_n(cmp, cast_pos, get_Cast_op(cast));
439         fromtype = get_irn_typeinfo_type(get_Cast_op(cast));
440         new_null = new_r_Const(irg, get_Const_tarval(null));
441         set_irn_typeinfo_type(new_null, fromtype);
442         set_irn_n(cmp, null_pos, new_null);
443         ++n_casts_removed;
444         return 1;
445 }
446
447 /**
448  * Post-Walker: Optimize class casts (mostly by trying to remove them)
449  */
450 static void irn_optimize_class_cast(ir_node *n, void *env)
451 {
452         int *changed = (int*)env;
453
454         if (is_Cast(n))
455                 *changed |= cancel_out_casts(n);
456         else if (is_Sel(n))
457                 *changed |= concretize_selected_entity(n);
458         else if (is_Phi(n))
459                 *changed |= concretize_Phi_type(n);
460         else if (is_Cmp(n))
461                 *changed |= remove_Cmp_Null_cast(n);
462 }
463
464 void optimize_class_casts(void)
465 {
466         int changed;
467
468 #if 0
469         if (get_irp_typeinfo_state() != ir_typeinfo_consistent)
470                 simple_analyse_types();
471 #endif
472
473         changed = 0;
474         all_irg_walk(NULL, irn_optimize_class_cast, &changed);
475
476         DB((dbg, SET_LEVEL_1, " Cast optimization: %zu Casts removed, %zu Sels concretized.\n",
477                 n_casts_removed, n_sels_concretized));
478 }
479
480 void firm_init_class_casts_opt(void)
481 {
482         FIRM_DBG_REGISTER(dbg, "firm.opt.tropt");
483 }