jumpthreading: do not rely on current_ir_graph
[libfirm] / ir / opt / proc_cloning.c
1 /*
2  * Copyright (C) 1995-2008 University of Karlsruhe.  All right reserved.
3  *
4  * This file is part of libFirm.
5  *
6  * This file may be distributed and/or modified under the terms of the
7  * GNU General Public License version 2 as published by the Free Software
8  * Foundation and appearing in the file LICENSE.GPL included in the
9  * packaging of this file.
10  *
11  * Licensees holding valid libFirm Professional Edition licenses may use
12  * this file in accordance with the libFirm Commercial License.
13  * Agreement provided with the Software.
14  *
15  * This file is provided AS IS with NO WARRANTY OF ANY KIND, INCLUDING THE
16  * WARRANTY OF DESIGN, MERCHANTABILITY AND FITNESS FOR A PARTICULAR
17  * PURPOSE.
18  */
19
20 /**
21  * @file
22  * @brief   Procedure cloning.
23  * @author  Beyhan Veliev, Michael Beck
24  * @version $Id$
25  * @brief
26  *
27  * The purpose is first to find and analyze functions, that are called
28  * with constant parameter(s).
29  * The second step is to optimize the function that are found from our
30  * analyze. Optimize mean to make a new function with parameters, that
31  * aren't be constant. The constant parameters of the function are placed
32  * in the function graph. They aren't be passed as parameters.
33  */
34 #include "config.h"
35
36 #include <string.h>
37
38 #include "iroptimize.h"
39 #include "tv.h"
40 #include "set.h"
41 #include "irprog_t.h"
42 #include "hashptr.h"
43 #include "irgwalk.h"
44 #include "analyze_irg_args.h"
45 #include "irprintf.h"
46 #include "ircons.h"
47 #include "irouts.h"
48 #include "irnode_t.h"
49 #include "irtools.h"
50 #include "irgmod.h"
51 #include "array_t.h"
52 #include "irpass_t.h"
53
54 /**
55  * This struct contains the information quadruple for a Call, which we need to
56  * decide if this function must be cloned.
57  */
58 typedef struct quadruple {
59         ir_entity       *ent;     /**< The entity of our Call. */
60         int             pos;      /**< Position of a constant argument of our Call. */
61         tarval          *tv;      /**< The tarval of this argument if Const node. */
62         ir_node         **calls;  /**< The list of all calls with the same characteristics */
63 } quadruple_t;
64
65 /**
66  * The quadruplets are hold in a sorted list
67  */
68 typedef struct entry {
69         quadruple_t  q;      /**< the quadruple */
70         float        weight; /**< its weight */
71         struct entry *next;  /**< link to the next one */
72 } entry_t;
73
74 typedef struct q_set {
75         struct obstack obst;        /**< an obstack containing all entries */
76         pset           *map;        /**< a hash map containing the quadruples */
77         entry_t        *heavy_uses; /**< the ordered list of heavy uses */
78 } q_set;
79
80 /**
81  * Compare two quadruplets.
82  *
83  * @return zero if they are identically, non-zero else
84  */
85 static int entry_cmp(const void *elt, const void *key)
86 {
87         const entry_t *e1 = elt;
88         const entry_t *e2 = key;
89
90         return (e1->q.ent != e2->q.ent) || (e1->q.pos != e2->q.pos) || (e1->q.tv != e2->q.tv);
91 }
92
93 /**
94  * Hash an element of type entry_t.
95  *
96  * @param entry  The element to be hashed.
97  */
98 static int hash_entry(const entry_t *entry)
99 {
100         return HASH_PTR(entry->q.ent) ^ HASH_PTR(entry->q.tv) ^ (entry->q.pos * 9);
101 }
102
103 /**
104  * Free memory associated with a quadruplet.
105  */
106 static void kill_entry(entry_t *entry)
107 {
108         if (entry->q.calls) {
109                 DEL_ARR_F(entry->q.calls);
110                 entry->q.calls = NULL;
111         }
112 }
113
114 /**
115  * Process a call node.
116  *
117  * @param call    A ir_node to be checked.
118  * @param callee  The entity of the callee
119  * @param hmap    The quadruple-set containing the calls with constant parameters
120  */
121 static void process_call(ir_node *call, ir_entity *callee, q_set *hmap)
122 {
123         ir_type *mtp;
124         entry_t *key, *entry;
125         ir_node *call_param;
126         int i, n_params;
127
128         n_params = get_Call_n_params(call);
129
130         /* Beware: we cannot clone variadic parameters as well as the
131          * last non-variadic one, which might be needed for the va_start()
132          * magic
133          */
134         mtp = get_Call_type(call);
135         if (get_method_variadicity(mtp) != variadicity_non_variadic) {
136                 n_params = get_method_first_variadic_param_index(mtp) - 1;
137         }
138
139         /* In this for loop we collect the calls, that have
140            an constant parameter. */
141         for (i = n_params - 1; i >= 0; --i) {
142                 call_param = get_Call_param(call, i);
143                 if (is_Const(call_param)) {
144                         /* we have found a Call to collect and we save the informations,
145                            which we need.*/
146                         if (! hmap->map)
147                                 hmap->map = new_pset(entry_cmp, 8);
148
149                         key = OALLOC(&hmap->obst, entry_t);
150
151                         key->q.ent   = callee;
152                         key->q.pos   = i;
153                         key->q.tv    = get_Const_tarval(call_param);
154                         key->q.calls = NULL;
155                         key->weight  = 0.0F;
156                         key->next    = NULL;
157
158                         /* We insert our information in the set, where we collect the calls.*/
159                         entry = pset_insert(hmap->map, key, hash_entry(key));
160
161                         if (entry != key)
162                                 obstack_free(&hmap->obst, key);
163
164                         /* add the call to the list */
165                         if (! entry->q.calls) {
166                                 entry->q.calls = NEW_ARR_F(ir_node *, 1);
167                                 entry->q.calls[0] = call;
168                         } else
169                                 ARR_APP1(ir_node *, entry->q.calls, call);
170                 }
171         }
172 }
173
174 /**
175  * Collect all calls in a ir_graph to a set.
176  *
177  * @param call   A ir_node to be checked.
178  * @param env   The quadruple-set containing the calls with constant parameters
179  */
180 static void collect_irg_calls(ir_node *call, void *env)
181 {
182         q_set *hmap = env;
183         ir_node *call_ptr;
184         ir_entity *callee;
185
186         /* We collect just "Call" nodes */
187         if (is_Call(call)) {
188                 call_ptr = get_Call_ptr(call);
189
190                 if (! is_Global(call_ptr))
191                         return;
192
193                 callee = get_Global_entity(call_ptr);
194
195                 /* we don't know which function gets finally bound to a weak symbol */
196                 if (get_entity_linkage(callee) & IR_LINKAGE_WEAK)
197                         return;
198
199                 /* we can only clone calls to existing entities */
200                 if (get_entity_irg(callee) == NULL)
201                         return;
202
203                 process_call(call, callee, hmap);
204         }
205 }
206
207 /**
208  * Make a name for a clone. The clone name is
209  * the name of the original method suffixed with "_cl_pos_nr".
210  * pos is the pos from our quadruplet and nr is a counter.
211  *
212  * @param id  The ident of the cloned function.
213  * @param pos The "pos" from our quadruplet.
214  * @param nr  A counter for the clones.
215  */
216 static ident *get_clone_ident(ident *id, int pos, unsigned nr)
217 {
218         char clone_postfix[32];
219
220         snprintf(clone_postfix, sizeof(clone_postfix), "_cl_%d_%u", pos, nr);
221
222         return id_mangle(id, new_id_from_str(clone_postfix));
223 }
224
225 /**
226  * Pre-Walker: Copies blocks and nodes from the original method graph
227  * to the cloned graph. Fixes the argument projection numbers for
228  * all arguments behind the removed one.
229  *
230  * @param irn  A node from the original method graph.
231  * @param env  The clone graph.
232  */
233 static void copy_nodes(ir_node *irn, void *env)
234 {
235         ir_node *arg, *irg_args, *irn_copy;
236         int proj_nr;
237         ir_graph *clone_irg = env;
238
239         arg      = get_irg_link(clone_irg);
240         irg_args = get_Proj_pred(arg);
241
242         /* Copy all nodes except the arg. */
243         if (irn != arg)
244                 copy_irn_to_irg(irn, clone_irg);
245
246         irn_copy = get_irn_link(irn);
247
248         /* Fix argument numbers */
249         if (is_Proj(irn) && get_Proj_pred(irn) == irg_args) {
250                 proj_nr = get_Proj_proj(irn);
251                 if (get_Proj_proj(arg) < proj_nr)
252                         set_Proj_proj(irn_copy, proj_nr - 1);
253         }
254 }
255
256 /**
257  * Post-walker: Set the predecessors of the copied nodes.
258  * The copied nodes are set as link of their original nodes. The links of
259  * "irn" predecessors are the predecessors of copied node.
260  */
261 static void set_preds(ir_node *irn, void *env)
262 {
263         int i;
264         ir_node *irn_copy, *pred, *arg;
265         ir_graph *clone_irg = env;
266
267         arg = get_irg_link(clone_irg);
268         /* Arg is the method argument, that we have replaced by a constant.*/
269         if (arg == irn)
270                 return;
271
272         irn_copy  = get_irn_link(irn);
273
274         if (is_Block(irn)) {
275                 for (i = get_Block_n_cfgpreds(irn) - 1; i >= 0; i--) {
276                         pred = get_Block_cfgpred(irn, i);
277                         /* "End" block must be handled extra, because it is not matured.*/
278                         if (get_irg_end_block(current_ir_graph) == irn)
279                                 add_immBlock_pred(get_irg_end_block(clone_irg), get_irn_link(pred));
280                         else
281                                 set_Block_cfgpred(irn_copy, i, get_irn_link(pred));
282                 }
283         } else {
284                 /* First we set the block our copy if it is not a block.*/
285                 set_nodes_block(irn_copy, get_irn_link(get_nodes_block(irn)));
286                 if (is_End(irn)) {
287                         /* Handle the keep-alives. This must be done separately, because
288                            the End node was NOT copied */
289                         for (i = 0; i < get_End_n_keepalives(irn); ++i)
290                                 add_End_keepalive(irn_copy, get_irn_link(get_End_keepalive(irn, i)));
291                 } else {
292                         for (i = get_irn_arity(irn) - 1; i >= 0; i--) {
293                                 pred = get_irn_n(irn, i);
294                                 set_irn_n(irn_copy, i, get_irn_link(pred));
295                         }
296                 }
297         }
298 }
299
300 /**
301  * Get the method argument at the position "pos".
302  *
303  * @param irg  irg that must be cloned.
304  * @param pos  The position of the argument.
305  */
306 static ir_node *get_irg_arg(ir_graph *irg, int pos)
307 {
308         ir_node *irg_args = get_irg_args(irg), *arg = NULL;
309         int i;
310
311         /* Call algorithm that computes the out edges */
312         assure_irg_outs(irg);
313
314         /* Search the argument with the number pos.*/
315         for (i = get_irn_n_outs(irg_args) - 1; i >= 0; --i) {
316                 ir_node *proj = get_irn_out(irg_args, i);
317                 if (pos == get_Proj_proj(proj)) {
318                         if (arg) {
319                                 /*
320                                  * More than one arg node found:
321                                  * We rely on the fact the only one arg exists, so do
322                                  * a cheap CSE in this case.
323                                  */
324                                 set_irn_out(irg_args, i, arg, 0);
325                                 exchange(proj, arg);
326                         } else
327                                 arg = proj;
328                 }
329         }
330         assert(arg && "Argument not found");
331         return arg;
332 }
333
334 /**
335  * Create a new graph for the clone of the method,
336  * that we want to clone.
337  *
338  * @param ent The entity of the method that must be cloned.
339  * @param q   Our quadruplet.
340  */
341 static void create_clone_proc_irg(ir_entity *ent, quadruple_t *q)
342 {
343         ir_graph *method_irg, *clone_irg;
344         ir_node *arg, *const_arg;
345
346         method_irg = get_entity_irg(ent);
347
348         /* We create the skeleton of the clone irg.*/
349         clone_irg  = new_ir_graph(ent, 0);
350
351         arg        = get_irg_arg(get_entity_irg(q->ent), q->pos);
352         /* we will replace the argument in position "q->pos" by this constant. */
353         const_arg  = new_r_Const_type(
354                 clone_irg, q->tv,
355                 get_method_param_type(get_entity_type(q->ent), q->pos));
356
357         /* args copy in the cloned graph will be the const. */
358         set_irn_link(arg, const_arg);
359
360         /* Store the arg that will be replaced here, so we can easily detect it. */
361         set_irg_link(clone_irg, arg);
362
363         /* We copy the blocks and nodes, that must be in
364         the clone graph and set their predecessors. */
365         irg_walk_graph(method_irg, copy_nodes, set_preds, clone_irg);
366
367         /* The "cloned" graph must be matured. */
368         mature_immBlock(get_irg_end_block(clone_irg));
369         irg_finalize_cons(clone_irg);
370 }
371
372 /**
373  * The function create a new entity type
374  * for our clone and set it to clone entity.
375  *
376  * @param q   Contains information for the method to clone.
377  * @param ent The entity of the clone.
378  * @param nr  A pointer to the counter of clones.
379  **/
380 static void change_entity_type(quadruple_t *q, ir_entity *ent)
381 {
382         ir_type *mtp, *new_mtp, *tp;
383         int     i, j, n_params, n_ress;
384
385         mtp      = get_entity_type(q->ent);
386         n_params = get_method_n_params(mtp);
387         n_ress   = get_method_n_ress(mtp);
388
389         /* Create the new type for our clone. It must have one parameter
390            less then the original.*/
391         new_mtp  = new_type_method(n_params - 1, n_ress);
392
393         /* We must set the type of the methods parameters.*/
394         for (i = j = 0; i < n_params; ++i) {
395                 if (i == q->pos)
396                 /* This is the position of the argument, that we have
397                 replaced. */
398                 continue;
399
400                 tp = get_method_param_type(mtp, i);
401                 set_method_param_type(new_mtp, j++, tp);
402         }
403         /* Copy the methods result types. */
404         for (i = 0; i < n_ress; ++i) {
405                 tp = get_method_res_type(mtp, i);
406                 set_method_res_type(new_mtp, i, tp);
407         }
408         set_entity_type(ent, new_mtp);
409 }
410
411 /**
412  * Make a clone of a method.
413  *
414  * @param q   Contains information for the method to clone.
415  */
416 static ir_entity *clone_method(quadruple_t *q)
417 {
418         ir_entity *new_entity;
419         ident *clone_ident;
420         symconst_symbol sym;
421         /* A counter for the clones.*/
422         static unsigned nr = 0;
423
424         /* We get a new ident for our clone method.*/
425         clone_ident = get_clone_ident(get_entity_ident(q->ent), q->pos, nr);
426         /* We get our entity for the clone method. */
427         new_entity  = copy_entity_name(q->ent, clone_ident);
428
429         /* a cloned entity is always local */
430         set_entity_visibility(new_entity, ir_visibility_local);
431
432         /* set a ld name here: Should we mangle this ? */
433         set_entity_ld_ident(new_entity, get_entity_ident(new_entity));
434
435         /* set a new type here. */
436         change_entity_type(q, new_entity);
437
438         /* We need now a new ir_graph for our clone method. */
439         create_clone_proc_irg(new_entity, q);
440
441         /* We must set the atomic value of our "new_entity". */
442         sym.entity_p = new_entity;
443
444         /* The "new_entity" don't have this information. */
445         new_entity->attr.mtd_attr.param_access = NULL;
446         new_entity->attr.mtd_attr.param_weight = NULL;
447
448         return new_entity;
449 }
450
451 /**
452  * Creates a new "cloned" Call node and return it.
453  *
454  * @param call        The call that must be cloned.
455  * @param new_entity  The entity of the cloned function.
456  * @param pos         The position of the replaced parameter of this call.
457  **/
458 static ir_node *new_cl_Call(ir_node *call, ir_entity *new_entity, int pos)
459 {
460         ir_node **in;
461         int i, n_params, new_params = 0;
462         ir_node *callee;
463         symconst_symbol sym;
464         ir_graph *irg = get_irn_irg(call);
465         ir_node *bl = get_nodes_block(call);
466
467         sym.entity_p = new_entity;
468         callee = new_r_SymConst(irg, mode_P_code, sym, symconst_addr_ent);
469
470         n_params = get_Call_n_params(call);
471         NEW_ARR_A(ir_node *, in, n_params - 1);
472
473         /* we save the parameters of the new call in the array "in" without the
474          * parameter in position "pos", that is replaced with a constant.*/
475         for (i = 0; i < n_params; i++){
476                 if (pos != i)
477                         in[new_params++] = get_Call_param(call, i);
478         }
479         /* Create and return the new Call. */
480         return new_r_Call(bl, get_Call_mem(call),
481                 callee, n_params - 1, in, get_entity_type(new_entity));
482 }
483
484 /**
485  * Exchange all Calls stored in the quadruplet to Calls of the cloned entity.
486  *
487  * @param q             The quadruple
488  * @param cloned_ent    The entity of the new function that must be called
489  *                      from the new Call.
490  */
491 static void exchange_calls(quadruple_t *q, ir_entity *cloned_ent)
492 {
493         int pos = q->pos;
494         ir_node *new_call, *call;
495         int i;
496
497         /* We iterate the list of the "call".*/
498         for (i = 0; i < ARR_LEN(q->calls); ++i) {
499                 call = q->calls[i];
500
501                 /* A clone exist and the copy of "call" in this
502                  * clone graph must be exchanged with new one.*/
503                 new_call = new_cl_Call(call, cloned_ent, pos);
504                 exchange(call, new_call);
505         }
506 }
507
508 /**
509  * The weight formula:
510  * We save one instruction in every caller and param_weight instructions
511  * in the callee.
512  */
513 static float calculate_weight(const entry_t *entry)
514 {
515         return ARR_LEN(entry->q.calls) *
516                 (float)(get_method_param_weight(entry->q.ent, entry->q.pos) + 1);
517 }
518
519 /**
520  * After we exchanged all calls, some entries on the list for
521  * the next cloned entity may get invalid, so we have to check
522  * them and may even update the list of heavy uses.
523  */
524 static void reorder_weights(q_set *hmap, float threshold)
525 {
526         entry_t **adr, *p, *entry;
527         int i, len;
528         ir_entity *callee;
529
530 restart:
531         entry = hmap->heavy_uses;
532         if (! entry)
533                 return;
534
535         len = ARR_LEN(entry->q.calls);
536         for (i = 0; i < len; ++i) {
537                 ir_node *ptr, *call = entry->q.calls[i];
538
539                 /* might be exchanged, so skip Id nodes here. */
540                 call = skip_Id(call);
541
542                 /* we know, that a SymConst is here */
543                 ptr = get_Call_ptr(call);
544                 assert(is_SymConst(ptr));
545
546                 callee = get_SymConst_entity(ptr);
547                 if (callee != entry->q.ent) {
548                         /*
549                          * This call is already changed because of a previous
550                          * optimization. Remove it from the list.
551                          */
552                         --len;
553                         entry->q.calls[i] = entry->q.calls[len];
554                         entry->q.calls[len] = NULL;
555
556                         /* the new call should be processed */
557                         process_call(call, callee, hmap);
558                         --i;
559                 }
560         }
561
562         /* the length might be changed */
563         ARR_SHRINKLEN(entry->q.calls, len);
564
565         /* recalculate the weight and resort the heavy uses map */
566         entry->weight = calculate_weight(entry);
567
568         if (len <= 0 || entry->weight < threshold) {
569                 hmap->heavy_uses = entry->next;
570                 kill_entry(entry);
571
572                 /* we have changed the list, check the next one */
573                 goto restart;
574         }
575
576         adr = NULL;
577         for (p = entry->next; p && entry->weight < p->weight; p = p->next) {
578                 adr = &p->next;
579         }
580
581         if (adr) {
582                 hmap->heavy_uses = entry->next;
583                 entry->next      = *adr;
584                 *adr             = entry;
585                 entry            = hmap->heavy_uses;
586
587                 /* we have changed the list, check the next one */
588                 goto restart;
589         }
590 }
591
592 /*
593  * Do the procedure cloning. Evaluate a heuristic weight for every
594  * call(..., Const, ...). If the weight is bigger than threshold,
595  * clone the entity and fix the calls.
596  */
597 void proc_cloning(float threshold)
598 {
599         entry_t *entry = NULL, *p;
600         ir_graph *irg;
601         int i;
602         q_set hmap;
603
604         obstack_init(&hmap.obst);
605         hmap.map        = NULL;
606         hmap.heavy_uses = NULL;
607
608         /* initially fill our map by visiting all irgs */
609         for (i = get_irp_n_irgs() - 1; i >= 0; --i) {
610                 irg = get_irp_irg(i);
611                 irg_walk_graph(irg, collect_irg_calls, NULL, &hmap);
612         }
613
614         /* We have the "Call" nodes to optimize in set "set_entries". Our algorithm
615            replace one constant parameter and make a new "Call" node for all found "Calls". It exchange the
616            old one with the new one and the algorithm is called with the new "Call".
617          */
618         while (hmap.map || hmap.heavy_uses) {
619                 /* We iterate the set and arrange the element of the set in a list.
620                    The elements are arranged dependent of their value descending.*/
621                 if (hmap.map) {
622                         foreach_pset(hmap.map, entry) {
623                                 entry->weight = calculate_weight(entry);
624
625                                 /*
626                                  * Do not put entry with a weight < threshold in the list
627                                  */
628                                 if (entry->weight < threshold) {
629                                         kill_entry(entry);
630                                         continue;
631                                 }
632
633                                 /* put entry in the heavy uses list */
634                                 entry->next = NULL;
635                                 if (! hmap.heavy_uses)
636                                         hmap.heavy_uses = entry;
637                                 else {
638                                         if (entry->weight >= hmap.heavy_uses->weight) {
639                                                 entry->next     = hmap.heavy_uses;
640                                                 hmap.heavy_uses = entry;
641                                         } else {
642                                                 for (p = hmap.heavy_uses; p->next; p = p->next) {
643                                                         if (entry->weight >= p->next->weight) {
644                                                                 entry->next = p->next;
645                                                                 p->next     = entry;
646                                                                 break;
647                                                         }
648                                                 }
649                                                 if (! p->next)
650                                                         p->next = entry;
651                                         }
652                                 }
653                         }
654                         del_pset(hmap.map);
655                         hmap.map = NULL;
656                 }
657
658                 /* Print some information about the list. */
659                 printf("-----------------\n");
660                 for (entry = hmap.heavy_uses; entry; entry = entry->next) {
661                         printf("\nweight: is %f\n", entry->weight);
662                         ir_printf("Call for Method %E\n", entry->q.ent);
663                         printf("Position %i\n", entry->q.pos);
664                         ir_printf("Value %T\n", entry->q.tv);
665                 }
666
667                 entry = hmap.heavy_uses;
668                 if (entry) {
669                         ir_entity *ent = clone_method(&entry->q);
670
671                         hmap.heavy_uses = entry->next;
672
673                         /* We must exchange the copies of this call in all clones too.*/
674                         exchange_calls(&entry->q, ent);
675                         kill_entry(entry);
676
677                         /*
678                          * after we exchanged all calls, some entries on the list for
679                          * the next cloned entity may get invalid, so we have to check
680                          * them and may even update the list of heavy uses.
681                          */
682                         reorder_weights(&hmap, threshold);
683                 }
684         }
685         obstack_free(&hmap.obst, NULL);
686 }
687
688 struct pass_t {
689         ir_prog_pass_t pass;
690         float          threshold;
691 };
692
693 /**
694  * Wrapper to run proc_cloning() as an ir_prog pass.
695  */
696 static int proc_cloning_wrapper(ir_prog *irp, void *context)
697 {
698         struct pass_t *pass = context;
699
700         (void)irp;
701         proc_cloning(pass->threshold);
702         return 0;
703 }
704
705 /* create a ir_prog pass */
706 ir_prog_pass_t *proc_cloning_pass(const char *name, float threshold)
707 {
708         struct pass_t *pass = XMALLOCZ(struct pass_t);
709
710         pass->threshold = threshold;
711         return def_prog_pass_constructor(
712                 &pass->pass, name ? name : "cloning", proc_cloning_wrapper);
713 }