nsz Git - libfirm/blob - ir/opt/tailrec.c

   1 /*
   2  * Copyright (C) 1995-2011 University of Karlsruhe.  All right reserved.
   3  *
   4  * This file is part of libFirm.
   5  *
   6  * This file may be distributed and/or modified under the terms of the
   7  * GNU General Public License version 2 as published by the Free Software
   8  * Foundation and appearing in the file LICENSE.GPL included in the
   9  * packaging of this file.
  10  *
  11  * Licensees holding valid libFirm Professional Edition licenses may use
  12  * this file in accordance with the libFirm Commercial License.
  13  * Agreement provided with the Software.
  14  *
  15  * This file is provided AS IS with NO WARRANTY OF ANY KIND, INCLUDING THE
  16  * WARRANTY OF DESIGN, MERCHANTABILITY AND FITNESS FOR A PARTICULAR
  17  * PURPOSE.
  18  */
  19
  20 /**
  21  * @file
  22  * @brief   Tail-recursion call optimization.
  23  * @date    08.06.2004
  24  * @author  Michael Beck
  25  * @version $Id$
  26  */
  27 #include "config.h"
  28
  29 #include <string.h>
  30 #include <assert.h>
  31
  32 #include "debug.h"
  33 #include "iroptimize.h"
  34 #include "scalar_replace.h"
  35 #include "array_t.h"
  36 #include "irprog_t.h"
  37 #include "irgwalk.h"
  38 #include "irgmod.h"
  39 #include "irop.h"
  40 #include "irnode_t.h"
  41 #include "irgraph_t.h"
  42 #include "ircons.h"
  43 #include "irflag.h"
  44 #include "trouts.h"
  45 #include "irouts.h"
  46 #include "irhooks.h"
  47 #include "ircons_t.h"
  48 #include "irpass.h"
  49
  50 DEBUG_ONLY(static firm_dbg_module_t *dbg);
  51
  52 /**
  53  * the environment for collecting data
  54  */
  55 typedef struct collect_t {
  56         ir_node *proj_X;      /**< initial exec proj */
  57         ir_node *block;       /**< old first block */
  58         int     blk_idx;      /**< cfgpred index of the initial exec in block */
  59         ir_node *proj_m;      /**< memory from start proj's */
  60         ir_node *proj_data;   /**< linked list of all parameter access proj's */
  61 } collect_t;
  62
  63 /**
  64  * walker for collecting data, fills a collect_t environment
  65  */
  66 static void collect_data(ir_node *node, void *env)
  67 {
  68         collect_t *data = (collect_t*)env;
  69         ir_node *pred;
  70         ir_opcode opcode;
  71
  72         switch (get_irn_opcode(node)) {
  73         case iro_Proj:
  74                 pred = get_Proj_pred(node);
  75
  76                 opcode = get_irn_opcode(pred);
  77                 if (opcode == iro_Proj) {
  78                         ir_node *start = get_Proj_pred(pred);
  79
  80                         if (is_Start(start)) {
  81                                 if (get_Proj_proj(pred) == pn_Start_T_args) {
  82                                         /* found Proj(ProjT(Start)) */
  83                                         set_irn_link(node, data->proj_data);
  84                                         data->proj_data = node;
  85                                 }
  86                         }
  87                 } else if (opcode == iro_Start) {
  88                         if (get_Proj_proj(node) == pn_Start_X_initial_exec) {
  89                                 /* found ProjX(Start) */
  90                                 data->proj_X = node;
  91                         }
  92                 }
  93                 break;
  94         case iro_Block: {
  95                 int i, n_pred = get_Block_n_cfgpreds(node);
  96
  97                 /*
  98                  * the first block has the initial exec as cfg predecessor
  99                  */
 100                 if (node != get_irg_start_block(get_irn_irg(node))) {
 101                         for (i = 0; i < n_pred; ++i) {
 102                                 if (get_Block_cfgpred(node, i) == data->proj_X) {
 103                                         data->block   = node;
 104                                         data->blk_idx = i;
 105                                         break;
 106                                 }
 107                         }
 108                 }
 109                 break;
 110         }
 111         default:
 112                 break;
 113         }
 114 }
 115
 116 typedef enum tail_rec_variants {
 117         TR_DIRECT,  /**< direct return value, i.e. return func(). */
 118         TR_ADD,     /**< additive return value, i.e. return x +/- func() */
 119         TR_MUL,     /**< multiplicative return value, i.e. return x * func() or return -func() */
 120         TR_BAD,     /**< any other transformation */
 121         TR_UNKNOWN  /**< during construction */
 122 } tail_rec_variants;
 123
 124 typedef struct tr_env {
 125         int               n_tail_calls;  /**< number of tail calls found */
 126         int               n_ress;        /**< number of return values */
 127         tail_rec_variants *variants;     /**< return value variants */
 128         ir_node           *rets;         /**< list of returns that can be transformed */
 129 } tr_env;
 130
 131
 132 /**
 133  * do the graph reconstruction for tail-recursion elimination
 134  *
 135  * @param irg  the graph that will reconstructed
 136  * @param env  tail recursion environment
 137  */
 138 static void do_opt_tail_rec(ir_graph *irg, tr_env *env)
 139 {
 140         ir_node *end_block = get_irg_end_block(irg);
 141         ir_node *block, *jmp, *call, *calls;
 142         ir_node **in;
 143         ir_node **phis;
 144         ir_node ***call_params;
 145         ir_node *p, *n;
 146         int i, j, n_params, n_locs;
 147         collect_t data;
 148         int rem            = get_optimize();
 149         ir_entity *ent     = get_irg_entity(irg);
 150         ir_type *method_tp = get_entity_type(ent);
 151
 152         assert(env->n_tail_calls > 0);
 153
 154         /* we add new blocks and change the control flow */
 155         set_irg_doms_inconsistent(irg);
 156         set_irg_extblk_inconsistent(irg);
 157
 158         /* calls are removed */
 159         set_trouts_inconsistent();
 160
 161         /* we must build some new nodes WITHOUT CSE */
 162         set_optimize(0);
 163
 164         /* collect needed data */
 165         data.proj_X    = NULL;
 166         data.block     = NULL;
 167         data.blk_idx   = -1;
 168         data.proj_m    = get_irg_initial_mem(irg);
 169         data.proj_data = NULL;
 170         irg_walk_graph(irg, NULL, collect_data, &data);
 171
 172         /* check number of arguments */
 173         call     = (ir_node*)get_irn_link(end_block);
 174         n_params = get_Call_n_params(call);
 175
 176         assert(data.proj_X && "Could not find initial exec from Start");
 177         assert(data.block  && "Could not find first block");
 178         assert(data.proj_m && "Could not find initial memory");
 179         assert((data.proj_data || n_params == 0) && "Could not find Proj(ProjT(Start)) of non-void function");
 180
 181         /* allocate in's for phi and block construction */
 182         NEW_ARR_A(ir_node *, in, env->n_tail_calls + 1);
 183
 184         /* build a new header block for the loop we create */
 185         i = 0;
 186         in[i++] = data.proj_X;
 187
 188         /* turn Return's into Jmp's */
 189         for (p = env->rets; p; p = n) {
 190                 ir_node *block = get_nodes_block(p);
 191
 192                 n = (ir_node*)get_irn_link(p);
 193                 in[i++] = new_r_Jmp(block);
 194
 195                 // exchange(p, new_r_Bad(irg));
 196
 197                 /* we might generate an endless loop, so add
 198                  * the block to the keep-alive list */
 199                 add_End_keepalive(get_irg_end(irg), block);
 200         }
 201         assert(i == env->n_tail_calls + 1);
 202
 203         /* now create it */
 204         block = new_r_Block(irg, i, in);
 205         jmp   = new_r_Jmp(block);
 206
 207         /* the old first block is now the second one */
 208         set_Block_cfgpred(data.block, data.blk_idx, jmp);
 209
 210         /* allocate phi's, position 0 contains the memory phi */
 211         NEW_ARR_A(ir_node *, phis, n_params + 1);
 212
 213         /* build the memory phi */
 214         i = 0;
 215         in[i] = new_r_Proj(get_irg_start(irg), mode_M, pn_Start_M);
 216         set_irg_initial_mem(irg, in[i]);
 217         ++i;
 218
 219         for (calls = call; calls != NULL; calls = (ir_node*)get_irn_link(calls)) {
 220                 in[i] = get_Call_mem(calls);
 221                 ++i;
 222         }
 223         assert(i == env->n_tail_calls + 1);
 224
 225         phis[0] = new_r_Phi(block, env->n_tail_calls + 1, in, mode_M);
 226
 227         /* build the data Phi's */
 228         if (n_params > 0) {
 229                 ir_node *calls;
 230                 ir_node *args;
 231                 ir_node *args_bl;
 232
 233                 NEW_ARR_A(ir_node **, call_params, env->n_tail_calls);
 234
 235                 /* collect all parameters */
 236                 for (i = 0, calls = call; calls != NULL;
 237                      calls = (ir_node*)get_irn_link(calls)) {
 238                         call_params[i] = get_Call_param_arr(calls);
 239                         ++i;
 240                 }
 241
 242                 /* build new Proj's and Phi's */
 243                 args    = get_irg_args(irg);
 244                 args_bl = get_nodes_block(args);
 245                 for (i = 0; i < n_params; ++i) {
 246                         ir_mode *mode = get_type_mode(get_method_param_type(method_tp, i));
 247
 248                         in[0] = new_r_Proj(args, mode, i);
 249                         for (j = 0; j < env->n_tail_calls; ++j)
 250                                 in[j + 1] = call_params[j][i];
 251
 252                         phis[i + 1] = new_r_Phi(block, env->n_tail_calls + 1, in, mode);
 253                 }
 254         }
 255
 256         /*
 257          * ok, we are here, so we have build and collected all needed Phi's
 258          * now exchange all Projs into links to Phi
 259          */
 260         exchange(data.proj_m, phis[0]);
 261         for (p = data.proj_data; p; p = n) {
 262                 long proj = get_Proj_proj(p);
 263
 264                 assert(0 <= proj && proj < n_params);
 265                 n = (ir_node*)get_irn_link(p);
 266                 exchange(p, phis[proj + 1]);
 267         }
 268
 269         /* tail recursion was done, all info is invalid */
 270         set_irg_doms_inconsistent(irg);
 271         set_irg_extblk_inconsistent(irg);
 272         set_irg_loopinfo_state(irg, loopinfo_cf_inconsistent);
 273         set_trouts_inconsistent();
 274         set_irg_callee_info_state(irg, irg_callee_info_inconsistent);
 275
 276         set_optimize(rem);
 277
 278         /* check if we need new values */
 279         n_locs = 0;
 280         for (i = 0; i < env->n_ress; ++i) {
 281                 if (env->variants[i] != TR_DIRECT) {
 282                         ++n_locs;
 283                         break;
 284                 }
 285         }
 286
 287         if (n_locs > 0) {
 288                 ir_node *start_block;
 289                 ir_node **in;
 290                 ir_mode **modes;
 291
 292                 NEW_ARR_A(ir_node *, in, env->n_ress);
 293                 NEW_ARR_A(ir_mode *, modes, env->n_ress);
 294                 ssa_cons_start(irg, env->n_ress);
 295
 296                 start_block = get_irg_start_block(irg);
 297                 set_r_cur_block(irg, start_block);
 298
 299                 /* set the neutral elements for the iteration start */
 300                 for (i = 0; i < env->n_ress; ++i) {
 301                         ir_type *tp = get_method_res_type(method_tp, i);
 302                         ir_mode *mode = get_type_mode(tp);
 303
 304                         modes[i] = mode;
 305                         if (env->variants[i] == TR_ADD) {
 306                                 set_r_value(irg, i, new_r_Const(irg, get_mode_null(mode)));
 307                         } else if (env->variants[i] == TR_MUL) {
 308                                 set_r_value(irg, i, new_r_Const(irg, get_mode_one(mode)));
 309                         }
 310                 }
 311                 mature_immBlock(start_block);
 312
 313                 /* no: we can kill all returns */
 314                 for (p = env->rets; p; p = n) {
 315                         ir_node *block = get_nodes_block(p);
 316                         ir_node *call, *mem, *jmp, *tuple;
 317
 318                         set_r_cur_block(irg, block);
 319                         n = (ir_node*)get_irn_link(p);
 320
 321                         call = skip_Proj(get_Return_mem(p));
 322                         assert(is_Call(call));
 323
 324                         mem = get_Call_mem(call);
 325
 326                         /* create a new jump, free of CSE */
 327                         set_optimize(0);
 328                         jmp = new_r_Jmp(block);
 329                         set_optimize(rem);
 330
 331                         for (i = 0; i < env->n_ress; ++i) {
 332                                 ir_mode *mode = modes[i];
 333                                 if (env->variants[i] != TR_DIRECT) {
 334                                         in[i] = get_r_value(irg, i, mode);
 335                                 } else {
 336                                         in[i] = new_r_Bad(irg, mode);
 337                                 }
 338                         }
 339                         /* create a new tuple for the return values */
 340                         tuple = new_r_Tuple(block, env->n_ress, in);
 341
 342                         turn_into_tuple(call, pn_Call_max);
 343                         set_Tuple_pred(call, pn_Call_M,         mem);
 344                         set_Tuple_pred(call, pn_Call_X_regular, jmp);
 345                         set_Tuple_pred(call, pn_Call_X_except,  new_r_Bad(irg, mode_X));
 346                         set_Tuple_pred(call, pn_Call_T_result,  tuple);
 347
 348                         for (i = 0; i < env->n_ress; ++i) {
 349                                 ir_node *res = get_Return_res(p, i);
 350                                 if (env->variants[i] != TR_DIRECT) {
 351                                         set_r_value(irg, i, res);
 352                                 }
 353                         }
 354
 355                         exchange(p, new_r_Bad(irg, mode_X));
 356                 }
 357
 358                 /* finally fix all other returns */
 359                 end_block = get_irg_end_block(irg);
 360                 for (i = get_Block_n_cfgpreds(end_block) - 1; i >= 0; --i) {
 361                         ir_node *ret = get_Block_cfgpred(end_block, i);
 362                         ir_node *block;
 363
 364                         /* search all Returns of a block */
 365                         if (! is_Return(ret))
 366                                 continue;
 367
 368                         block = get_nodes_block(ret);
 369                         set_r_cur_block(irg, block);
 370                         for (j = 0; j < env->n_ress; ++j) {
 371                                 ir_node *pred = get_Return_res(ret, j);
 372                                 ir_node *n;
 373
 374                                 switch (env->variants[j]) {
 375                                 case TR_DIRECT:
 376                                         continue;
 377
 378                                 case TR_ADD:
 379                                         n = get_r_value(irg, j, modes[j]);
 380                                         n = new_r_Add(block, n, pred, modes[j]);
 381                                         set_Return_res(ret, j, n);
 382                                         break;
 383
 384                                 case TR_MUL:
 385                                         n = get_r_value(irg, j, modes[j]);
 386                                         n = new_r_Mul(block, n, pred, modes[j]);
 387                                         set_Return_res(ret, j, n);
 388                                         break;
 389
 390                                 default:
 391                                         assert(!"unexpected tail recursion variant");
 392                                 }
 393                         }
 394                 }
 395                 ssa_cons_finish(irg);
 396         } else {
 397                 ir_node *bad = new_r_Bad(irg, mode_X);
 398
 399                 /* no: we can kill all returns */
 400                 for (p = env->rets; p; p = n) {
 401                         n = (ir_node*)get_irn_link(p);
 402                         exchange(p, bad);
 403                 }
 404         }
 405 }
 406
 407 /**
 408  * Check the lifetime of locals in the given graph.
 409  * Tail recursion can only be done, if we can prove that
 410  * the lifetime of locals end with the recursive call.
 411  * We do this by checking that no address of a local variable is
 412  * stored or transmitted as an argument to a call.
 413  *
 414  * @return non-zero if it's ok to do tail recursion
 415  */
 416 static int check_lifetime_of_locals(ir_graph *irg)
 417 {
 418         ir_node *irg_frame;
 419         int i;
 420         ir_type *frame_tp = get_irg_frame_type(irg);
 421
 422         irg_frame = get_irg_frame(irg);
 423         for (i = get_irn_n_outs(irg_frame) - 1; i >= 0; --i) {
 424                 ir_node *succ = get_irn_out(irg_frame, i);
 425
 426                 if (is_Sel(succ)) {
 427                         /* Check if we have compound arguments.
 428                            For now, we cannot handle them, */
 429                         if (get_entity_owner(get_Sel_entity(succ)) != frame_tp)
 430                                 return 0;
 431
 432                         if (is_address_taken(succ))
 433                                 return 0;
 434                 }
 435         }
 436         return 1;
 437 }
 438
 439 /**
 440  * Examine irn and detect the recursion variant.
 441  */
 442 static tail_rec_variants find_variant(ir_node *irn, ir_node *call)
 443 {
 444         ir_node           *a, *b;
 445         tail_rec_variants va, vb, res;
 446
 447         if (skip_Proj(skip_Proj(irn)) == call) {
 448                 /* found it */
 449                 return TR_DIRECT;
 450         }
 451         switch (get_irn_opcode(irn)) {
 452         case iro_Add:
 453                 /* try additive */
 454                 a = get_Add_left(irn);
 455                 if (get_nodes_block(a) != get_nodes_block(call)) {
 456                         /* we are outside, ignore */
 457                         va = TR_UNKNOWN;
 458                 } else {
 459                         va = find_variant(a, call);
 460                         if (va == TR_BAD)
 461                                 return TR_BAD;
 462                 }
 463                 b = get_Add_right(irn);
 464                 if (get_nodes_block(b) != get_nodes_block(call)) {
 465                         /* we are outside, ignore */
 466                         vb = TR_UNKNOWN;
 467                 } else {
 468                         vb = find_variant(b, call);
 469                         if (vb == TR_BAD)
 470                                 return TR_BAD;
 471                 }
 472                 if (va == vb) {
 473                         res = va;
 474                 }
 475                 else if (va == TR_UNKNOWN)
 476                         res = vb;
 477                 else if (vb == TR_UNKNOWN)
 478                         res = va;
 479                 else {
 480                         /* they are different but none is TR_UNKNOWN -> incompatible */
 481                         return TR_BAD;
 482                 }
 483                 if (res == TR_DIRECT || res == TR_ADD)
 484                         return TR_ADD;
 485                 /* not compatible */
 486                 return TR_BAD;
 487
 488         case iro_Sub:
 489                 /* try additive, but return value must be left */
 490                 a = get_Sub_left(irn);
 491                 if (get_nodes_block(a) != get_nodes_block(call)) {
 492                         /* we are outside, ignore */
 493                         va = TR_UNKNOWN;
 494                 } else {
 495                         va = find_variant(a, call);
 496                         if (va == TR_BAD)
 497                                 return TR_BAD;
 498                 }
 499                 b = get_Sub_right(irn);
 500                 if (get_nodes_block(b) != get_nodes_block(call)) {
 501                         /* we are outside, ignore */
 502                         vb = TR_UNKNOWN;
 503                 } else {
 504                         vb = find_variant(b, call);
 505                         if (vb != TR_UNKNOWN)
 506                                 return TR_BAD;
 507                 }
 508                 res = va;
 509                 if (res == TR_DIRECT || res == TR_ADD)
 510                         return res;
 511                 /* not compatible */
 512                 return TR_BAD;
 513
 514         case iro_Mul:
 515                 /* try multiplicative */
 516                 a = get_Mul_left(irn);
 517                 if (get_nodes_block(a) != get_nodes_block(call)) {
 518                         /* we are outside, ignore */
 519                         va = TR_UNKNOWN;
 520                 } else {
 521                         va = find_variant(a, call);
 522                         if (va == TR_BAD)
 523                                 return TR_BAD;
 524                 }
 525                 b = get_Mul_right(irn);
 526                 if (get_nodes_block(b) != get_nodes_block(call)) {
 527                         /* we are outside, ignore */
 528                         vb = TR_UNKNOWN;
 529                 } else {
 530                         vb = find_variant(b, call);
 531                         if (vb == TR_BAD)
 532                                 return TR_BAD;
 533                 }
 534                 if (va == vb) {
 535                         res = va;
 536                 }
 537                 else if (va == TR_UNKNOWN)
 538                         res = vb;
 539                 else if (vb == TR_UNKNOWN)
 540                         res = va;
 541                 else {
 542                         /* they are different but none is TR_UNKNOWN -> incompatible */
 543                         return TR_BAD;
 544                 }
 545                 if (res == TR_DIRECT || res == TR_MUL)
 546                         return TR_MUL;
 547                 /* not compatible */
 548                 return TR_BAD;
 549
 550         case iro_Minus:
 551                 /* try multiplicative */
 552                 a = get_Minus_op(irn);
 553                 res =  find_variant(a, call);
 554                 if (res == TR_DIRECT)
 555                         return TR_MUL;
 556                 if (res == TR_MUL || res == TR_UNKNOWN)
 557                         return res;
 558                 /* not compatible */
 559                 return TR_BAD;
 560
 561         default:
 562                 return TR_UNKNOWN;
 563         }
 564 }
 565
 566
 567 /*
 568  * convert simple tail-calls into loops
 569  */
 570 int opt_tail_rec_irg(ir_graph *irg)
 571 {
 572         tr_env            env;
 573         ir_node           *end_block;
 574         int               i, n_ress, n_tail_calls = 0;
 575         ir_node           *rets = NULL;
 576         ir_type           *mtd_type, *call_type;
 577         ir_entity         *ent;
 578         ir_graph          *rem;
 579
 580         FIRM_DBG_REGISTER(dbg, "firm.opt.tailrec");
 581
 582         assure_irg_outs(irg);
 583
 584         if (! check_lifetime_of_locals(irg))
 585                 return 0;
 586
 587         rem = current_ir_graph;
 588         current_ir_graph = irg;
 589
 590         ent      = get_irg_entity(irg);
 591         mtd_type = get_entity_type(ent);
 592         n_ress   = get_method_n_ress(mtd_type);
 593
 594         env.variants = NULL;
 595         env.n_ress   = n_ress;
 596
 597         if (n_ress > 0) {
 598                 NEW_ARR_A(tail_rec_variants, env.variants, n_ress);
 599
 600                 for (i = 0; i < n_ress; ++i)
 601                         env.variants[i] = TR_DIRECT;
 602         }
 603
 604         /*
 605          * This tail recursion optimization works best
 606          * if the Returns are normalized.
 607          */
 608         normalize_n_returns(irg);
 609
 610         ir_reserve_resources(irg, IR_RESOURCE_IRN_LINK);
 611
 612         end_block = get_irg_end_block(irg);
 613         set_irn_link(end_block, NULL);
 614
 615         for (i = get_Block_n_cfgpreds(end_block) - 1; i >= 0; --i) {
 616                 ir_node *ret = get_Block_cfgpred(end_block, i);
 617                 ir_node *call, *call_ptr;
 618                 int j;
 619                 ir_node **ress;
 620
 621                 /* search all Returns of a block */
 622                 if (! is_Return(ret))
 623                         continue;
 624
 625                 /* check, if it's a Return self() */
 626                 call = skip_Proj(get_Return_mem(ret));
 627                 if (! is_Call(call))
 628                         continue;
 629
 630                 /* the call must be in the same block as the return */
 631                 if (get_nodes_block(call) != get_nodes_block(ret))
 632                         continue;
 633
 634                 /* check if it's a recursive call */
 635                 call_ptr = get_Call_ptr(call);
 636
 637                 if (! is_Global(call_ptr))
 638                         continue;
 639
 640                 ent = get_Global_entity(call_ptr);
 641                 if (!ent || get_entity_irg(ent) != irg)
 642                         continue;
 643
 644                 /*
 645                  * Check, that the types match. At least in C
 646                  * this might fail.
 647                  */
 648                 mtd_type  = get_entity_type(ent);
 649                 call_type = get_Call_type(call);
 650
 651                 if (mtd_type != call_type) {
 652                         /*
 653                          * Hmm, the types did not match, bad.
 654                          * This can happen in C when no prototype is given
 655                          * or K&R style is used.
 656                          */
 657                         DB((dbg, LEVEL_3, "  tail recursion fails because of call type mismatch: %+F != %+F\n", mtd_type, call_type));
 658                         continue;
 659                 }
 660
 661                 /* ok, mem is routed to a recursive call, check return args */
 662                 ress = get_Return_res_arr(ret);
 663                 for (j = get_Return_n_ress(ret) - 1; j >= 0; --j) {
 664                         tail_rec_variants var = find_variant(ress[j], call);
 665
 666                         if (var >= TR_BAD) {
 667                                 /* cannot be transformed */
 668                                 break;
 669                         }
 670                         if (var == TR_DIRECT)
 671                                 var = env.variants[j];
 672                         else if (env.variants[j] == TR_DIRECT)
 673                                 env.variants[j] = var;
 674                         if (env.variants[j] != var) {
 675                                 /* not compatible */
 676                                 DB((dbg, LEVEL_3, "  tail recursion fails for %d return value of %+F\n", j, ret));
 677                                 break;
 678                         }
 679                 }
 680                 if (j >= 0)
 681                         continue;
 682
 683                 /* here, we have found a call */
 684                 set_irn_link(call, get_irn_link(end_block));
 685                 set_irn_link(end_block, call);
 686                 ++n_tail_calls;
 687
 688                 /* link all returns, we will need this */
 689                 set_irn_link(ret, rets);
 690                 rets = ret;
 691         }
 692
 693         /* now, end_block->link contains the list of all tail calls */
 694         if (n_tail_calls > 0) {
 695                 DB((dbg, LEVEL_2, "  Performing tail recursion for graph %s and %d Calls\n",
 696                     get_entity_ld_name(get_irg_entity(irg)), n_tail_calls));
 697
 698                 hook_tail_rec(irg, n_tail_calls);
 699
 700                 env.n_tail_calls = n_tail_calls;
 701                 env.rets         = rets;
 702                 do_opt_tail_rec(irg, &env);
 703         }
 704         ir_free_resources(irg, IR_RESOURCE_IRN_LINK);
 705         current_ir_graph = rem;
 706         return n_tail_calls;
 707 }
 708
 709 ir_graph_pass_t *opt_tail_rec_irg_pass(const char *name)
 710 {
 711         return def_graph_pass_ret(name ? name : "tailrec", opt_tail_rec_irg);
 712 }
 713
 714 /*
 715  * optimize tail recursion away
 716  */
 717 void opt_tail_recursion(void)
 718 {
 719         size_t i, n;
 720         size_t n_opt_applications = 0;
 721
 722         FIRM_DBG_REGISTER(dbg, "firm.opt.tailrec");
 723
 724         DB((dbg, LEVEL_1, "Performing tail recursion ...\n"));
 725         for (i = 0, n = get_irp_n_irgs(); i < n; ++i) {
 726                 ir_graph *irg = get_irp_irg(i);
 727
 728                 if (opt_tail_rec_irg(irg))
 729                         ++n_opt_applications;
 730         }
 731
 732         DB((dbg, LEVEL_1, "Done for %zu of %zu graphs.\n",
 733             n_opt_applications, get_irp_n_irgs()));
 734 }
 735
 736 ir_prog_pass_t *opt_tail_recursion_pass(const char *name)
 737 {
 738         return def_prog_pass(name ? name : "tailrec", opt_tail_recursion);
 739 }