nsz Git - libfirm/blob - ir/ana/irmemory.c

   1 /*
   2  * Copyright (C) 1995-2007 University of Karlsruhe.  All right reserved.
   3  *
   4  * This file is part of libFirm.
   5  *
   6  * This file may be distributed and/or modified under the terms of the
   7  * GNU General Public License version 2 as published by the Free Software
   8  * Foundation and appearing in the file LICENSE.GPL included in the
   9  * packaging of this file.
  10  *
  11  * Licensees holding valid libFirm Professional Edition licenses may use
  12  * this file in accordance with the libFirm Commercial License.
  13  * Agreement provided with the Software.
  14  *
  15  * This file is provided AS IS with NO WARRANTY OF ANY KIND, INCLUDING THE
  16  * WARRANTY OF DESIGN, MERCHANTABILITY AND FITNESS FOR A PARTICULAR
  17  * PURPOSE.
  18  */
  19
  20 /**
  21  * @file
  22  * @brief    Memory disambiguator
  23  * @author   Michael Beck
  24  * @date     27.12.2006
  25  * @version  $Id$
  26  */
  27 #ifdef HAVE_CONFIG_H
  28 #include "config.h"
  29 #endif
  30
  31 #include <stdlib.h>
  32
  33 #include "irnode_t.h"
  34 #include "irgraph_t.h"
  35 #include "irprog_t.h"
  36 #include "irmemory.h"
  37 #include "irflag.h"
  38 #include "hashptr.h"
  39 #include "irflag.h"
  40 #include "irouts.h"
  41 #include "irgwalk.h"
  42 #include "irprintf.h"
  43 #include "debug.h"
  44
  45 /** The debug handle. */
  46 DEBUG_ONLY(static firm_dbg_module_t *dbg = NULL;)
  47
  48 /** The source language specific language disambiguator function. */
  49 static DISAMBIGUATOR_FUNC language_disambuigator = NULL;
  50
  51 /** The global memory disambiguator options. */
  52 static unsigned global_mem_disamgig_opt = aa_opt_no_opt;
  53
  54 /* Get the memory disambiguator options for a graph. */
  55 unsigned get_irg_memory_disambiguator_options(ir_graph *irg) {
  56         unsigned opt = irg->mem_disambig_opt;
  57         if (opt & aa_opt_inherited)
  58                 return global_mem_disamgig_opt;
  59         return opt;
  60 }  /* get_irg_memory_disambiguator_options */
  61
  62 /*  Set the memory disambiguator options for a graph. */
  63 void set_irg_memory_disambiguator_options(ir_graph *irg, unsigned options) {
  64         irg->mem_disambig_opt = options & ~aa_opt_inherited;
  65 }  /* set_irg_memory_disambiguator_options */
  66
  67 /* Set the global disambiguator options for all graphs not having local options. */
  68 void set_irp_memory_disambiguator_options(unsigned options) {
  69         global_mem_disamgig_opt = options;
  70 }  /* set_irp_memory_disambiguator_options */
  71
  72 /**
  73  * Find the base address and entity of an Sel node.
  74  *
  75  * @param sel  the node
  76  * @param pEnt after return points to the base entity.
  77  *
  78  * @return the base address.
  79  */
  80 static ir_node *find_base_adr(ir_node *sel, ir_entity **pEnt) {
  81         ir_node *ptr = get_Sel_ptr(sel);
  82
  83         while (is_Sel(ptr)) {
  84                 sel = ptr;
  85                 ptr = get_Sel_ptr(sel);
  86         }
  87         *pEnt = get_Sel_entity(sel);
  88         return ptr;
  89 }  /* find_base_adr */
  90
  91 /**
  92  * Check if a given Const node is greater or equal a given size.
  93  *
  94  * @return no_alias if the Const is greater, may_alias else
  95  */
  96 static ir_alias_relation check_const(ir_node *cns, int size) {
  97         tarval *tv = get_Const_tarval(cns);
  98         tarval *tv_size;
  99
 100         if (size == 0)
 101                 return classify_tarval(tv) != TV_CLASSIFY_NULL ? no_alias : may_alias;
 102         tv_size = new_tarval_from_long(size, get_tarval_mode(tv));
 103         return tarval_cmp(tv_size, tv) & (pn_Cmp_Eq|pn_Cmp_Lt) ? no_alias : may_alias;
 104 }  /* check_const */
 105
 106 /**
 107  * Treat idx1 and idx2 as integer indexes and check if they differ always more than size.
 108  *
 109  * @return sure_alias iff idx1 == idx2
 110  *         no_alias iff they ALWAYS differ more than size
 111  *         may_alias else
 112  */
 113 static ir_alias_relation different_index(ir_node *idx1, ir_node *idx2, int size) {
 114         if (idx1 == idx2)
 115                 return sure_alias;
 116         if (is_Const(idx1) && is_Const(idx2)) {
 117                 /* both are const, we can compare them */
 118                 tarval *tv1 = get_Const_tarval(idx1);
 119                 tarval *tv2 = get_Const_tarval(idx2);
 120                 tarval *tv, *tv_size;
 121                 ir_mode *m1, *m2;
 122
 123                 if (size == 0)
 124                         return tv1 == tv2 ? sure_alias : no_alias;
 125
 126                 /* arg, modes may be different */
 127                 m1 = get_tarval_mode(tv1);
 128                 m2 = get_tarval_mode(tv2);
 129                 if (m1 != m2) {
 130                         int size = get_mode_size_bits(m1) - get_mode_size_bits(m2);
 131
 132                         if (size < 0) {
 133                                 /* m1 is a small mode, cast up */
 134                                 m1 = mode_is_signed(m1) ? find_signed_mode(m2) : find_unsigned_mode(m2);
 135                                 if (m1 == NULL) {
 136                                         /* should NOT happen, but if it does we give up here */
 137                                         return may_alias;
 138                                 }
 139                                 tv1 = tarval_convert_to(tv1, m1);
 140                         } else if (size > 0) {
 141                                 /* m2 is a small mode, cast up */
 142                                 m2 = mode_is_signed(m2) ? find_signed_mode(m1) : find_unsigned_mode(m1);
 143                                 if (m2 == NULL) {
 144                                         /* should NOT happen, but if it does we give up here */
 145                                         return may_alias;
 146                                 }
 147                                 tv2 = tarval_convert_to(tv2, m2);
 148                         }
 149                         /* here the size should be identical, check for signed */
 150                         if (get_mode_sign(m1) != get_mode_sign(m2)) {
 151                                 /* find the signed */
 152                                 if (mode_is_signed(m2)) {
 153                                         tarval *t = tv1;
 154                                         ir_mode *tm = m1;
 155                                         tv1 = tv2; m1 = m2;
 156                                         tv2 = t;   m2 = tm;
 157                                 }
 158
 159                                 /* m1 is now the signed one */
 160                                 if (tarval_cmp(tv1, get_tarval_null(m1)) & (pn_Cmp_Eq|pn_Cmp_Gt)) {
 161                                         /* tv1 is signed, but >= 0, simply cast into unsigned */
 162                                         tv1 = tarval_convert_to(tv1, m2);
 163                                 } else {
 164                                         tv_size = new_tarval_from_long(size, m2);
 165
 166                                         if (tarval_cmp(tv2, tv_size) & (pn_Cmp_Eq|pn_Cmp_Gt)) {
 167                                                 /* tv1 is negative and tv2 >= tv_size, so the difference is bigger than size */
 168                                                 return no_alias;
 169                                         }
 170                                         /* tv_size > tv2, so we can subtract without overflow */
 171                                         tv2 = tarval_sub(tv_size, tv2);
 172
 173                                         /* tv1 is < 0, so we can negate it */
 174                                         tv1 = tarval_neg(tv1);
 175
 176                                         /* cast it into unsigned. for two-complement it does the right thing for MIN_INT */
 177                                         tv1 = tarval_convert_to(tv1, m2);
 178
 179                                         /* now we can compare without overflow */
 180                                         return tarval_cmp(tv1, tv2) & (pn_Cmp_Eq|pn_Cmp_Gt) ? no_alias : may_alias;
 181                                 }
 182                         }
 183                 }
 184                 if (tarval_cmp(tv1, tv2) == pn_Cmp_Gt) {
 185                         tarval *t = tv1;
 186                         tv1 = tv2;
 187                         tv2 = t;
 188                 }
 189                 /* tv1 is now the "smaller" one */
 190                 tv      = tarval_sub(tv2, tv1);
 191                 tv_size = new_tarval_from_long(size, get_tarval_mode(tv));
 192                 return tarval_cmp(tv_size, tv) & (pn_Cmp_Eq|pn_Cmp_Lt) ? no_alias : may_alias;
 193         }
 194
 195         /* Note: we rely here on the fact that normalization puts constants on the RIGHT side */
 196         if (is_Add(idx1)) {
 197                 ir_node *l1 = get_Add_left(idx1);
 198                 ir_node *r1 = get_Add_right(idx1);
 199
 200                 if (l1 == idx2) {
 201                         /* x + c == y */
 202                         if (is_Const(r1))
 203                                 return check_const(r1, size);
 204                 }
 205                 if (is_Add(idx2)) {
 206                         /* both are Adds, check if they are of x + a == x + b kind */
 207                         ir_node *l2 = get_Add_left(idx2);
 208                         ir_node *r2 = get_Add_right(idx2);
 209
 210                         if (l1 == l2)
 211                                 return different_index(r1, r2, size);
 212                         else if (l1 == r2)
 213                                 return different_index(r1, l2, size);
 214                         else if (r1 == r2)
 215                                 return different_index(l1, l2, size);
 216                         else if (r1 == l2)
 217                                 return different_index(l1, r2, size);
 218                 }
 219         }
 220         if (is_Add(idx2)) {
 221                 ir_node *l2 = get_Add_left(idx2);
 222                 ir_node *r2 = get_Add_right(idx2);
 223
 224                 if (l2 == idx1) {
 225                         /* x + c == y */
 226                         if (is_Const(r2))
 227                                 return check_const(r2, size);
 228                 }
 229         }
 230
 231         if (is_Sub(idx1)) {
 232                 ir_node *l1 = get_Sub_left(idx1);
 233                 ir_node *r1 = get_Sub_right(idx1);
 234
 235                 if (l1 == idx2) {
 236                         /* x - c == y */
 237                         if (is_Const(r1))
 238                                 return check_const(r1, size);
 239                 }
 240
 241                 if (is_Sub(idx2)) {
 242                         /* both are Subs, check if they are of x - a == x - b kind */
 243                         ir_node *l2 = get_Sub_left(idx2);
 244
 245                         if (l1 == l2) {
 246                                 ir_node *r2 = get_Sub_right(idx2);
 247                                 return different_index(r1, r2, size);
 248                         }
 249                 }
 250         }
 251         if (is_Sub(idx2)) {
 252                 ir_node *l2 = get_Sub_left(idx2);
 253                 ir_node *r2 = get_Sub_right(idx2);
 254
 255                 if (l2 == idx1) {
 256                         /* x - c == y */
 257                         if (is_Const(r2))
 258                                 return check_const(r2, size);
 259                 }
 260
 261         }
 262         return may_alias;
 263 }  /* different_index */
 264
 265 /**
 266  * Two Sel addresses have the same base address, check if there offsets are different.
 267  *
 268  * @param adr1  The first address.
 269  * @param adr2  The second address.
 270  */
 271 static ir_alias_relation different_sel_offsets(ir_node *sel1, ir_node *sel2) {
 272         ir_entity *ent1 = get_Sel_entity(sel1);
 273         ir_entity *ent2 = get_Sel_entity(sel2);
 274         int i, check_arr = 0;
 275
 276         if (ent1 == ent2)
 277                 check_arr = 1;
 278         else {
 279                 ir_type *tp1 = get_entity_type(ent1);
 280                 ir_type *tp2 = get_entity_type(ent2);
 281
 282                 if (tp1 == tp2)
 283                         check_arr = 1;
 284                 else if (get_type_state(tp1) == layout_fixed && get_type_state(tp2) == layout_fixed &&
 285                          get_type_size_bits(tp1) == get_type_size_bits(tp2))
 286                         check_arr = 1;
 287         }
 288         if (check_arr) {
 289                 /* we select an entity of same size, check for indexes */
 290                 int n = get_Sel_n_indexs(sel1);
 291                 int have_no = 0;
 292
 293                 if (n > 0 && n == get_Sel_n_indexs(sel2)) {
 294                         /* same non-zero number of indexes, an array access, check */
 295                         for (i = 0; i < n; ++i) {
 296                                 ir_node *idx1 = get_Sel_index(sel1, i);
 297                                 ir_node *idx2 = get_Sel_index(sel2, i);
 298                                 ir_alias_relation res = different_index(idx1, idx2, 0); /* we can safely IGNORE the size here if it's at least >0 */
 299
 300                                 if (res == may_alias)
 301                                         return may_alias;
 302                                 else if (res == no_alias)
 303                                         have_no = 1;
 304                         }
 305                         /* if we have at least one no_alias, there is no alias relation, else we have sure */
 306                         return have_no > 0 ? no_alias : sure_alias;
 307                 }
 308         }
 309         return may_alias;
 310 }  /* different_sel_offsets */
 311
 312 /**
 313  * Determine the alias relation by checking if adr1 and adr2 are pointer
 314  * to different type.
 315  *
 316  * @param adr1    The first address.
 317  * @param adr2    The second address.
 318  */
 319 static ir_alias_relation different_types(ir_node *adr1, ir_node *adr2)
 320 {
 321         ir_entity *ent1 = NULL, *ent2 = NULL;
 322
 323         if (is_SymConst(adr1) && get_SymConst_kind(adr1) == symconst_addr_ent)
 324                 ent1 = get_SymConst_entity(adr1);
 325         else if (is_Sel(adr1))
 326                 ent1 = get_Sel_entity(adr1);
 327
 328         if (is_SymConst(adr2) && get_SymConst_kind(adr2) == symconst_addr_ent)
 329                 ent2 = get_SymConst_entity(adr2);
 330         else if (is_Sel(adr2))
 331                 ent2 = get_Sel_entity(adr2);
 332
 333         if (ent1 != NULL && ent2 != NULL) {
 334                 ir_type *tp1 = get_entity_type(ent1);
 335                 ir_type *tp2 = get_entity_type(ent2);
 336
 337                 if (tp1 != tp2) {
 338                         if (is_Pointer_type(tp1) && is_Pointer_type(tp2)) {
 339                                 /* do deref until no pointer types are found */
 340                                 do {
 341                                         tp1 = get_pointer_points_to_type(tp1);
 342                                         tp2 = get_pointer_points_to_type(tp2);
 343                                 } while (is_Pointer_type(tp1) && is_Pointer_type(tp2));
 344                         }
 345
 346                         if (get_type_tpop(tp1) != get_type_tpop(tp2)) {
 347                                 /* different type structure */
 348                                 return no_alias;
 349                         }
 350                         if (is_Class_type(tp1)) {
 351                                 /* check class hierarchy */
 352                                 if (! is_SubClass_of(tp1, tp2) &&
 353                                         ! is_SubClass_of(tp2, tp1))
 354                                         return no_alias;
 355                         } else {
 356                                 /* different types */
 357                                 return no_alias;
 358                         }
 359                 }
 360         }
 361         return may_alias;
 362 }  /* different_types */
 363
 364 /**
 365  * Check if an offset is a constant and these constant is bigger or equal
 366  * than a given size.
 367  */
 368 static int check_const_offset(ir_node *offset, int size) {
 369         ir_mode *mode = get_irn_mode(offset);
 370
 371         /* ok, we found an offset, check for constant */
 372         if (is_Const(offset) && mode_is_int(mode)) {
 373                 tarval *tv = new_tarval_from_long(size, mode);
 374
 375                 /* size <= offset ? */
 376                 if (tarval_cmp(tv, get_Const_tarval(offset)) & (pn_Cmp_Eq|pn_Cmp_Lt))
 377                         return 1;
 378         }
 379         return 0;
 380 }  /* check_const_offset */
 381
 382 /**
 383  * Check if we can determine that the two pointers always have an offset bigger then size
 384  */
 385 static ir_alias_relation _different_pointer(ir_node *adr1, ir_node *adr2, int size) {
 386         int found = 0;
 387
 388         if (is_Add(adr1)) {
 389                 /* first address is the result of a pointer addition */
 390                 ir_node *l1 = get_Add_left(adr1);
 391                 ir_node *r1  = get_Add_right(adr1);
 392
 393                 if (l1 == adr2) {
 394                         found = check_const_offset(r1, size);
 395                 } else if (r1 == adr2) {
 396                         found = check_const_offset(l1, size);
 397                 } else if (is_Add(adr2)) {
 398                         /* second address is the result of a pointer addition */
 399                         ir_node *l2 = get_Add_left(adr2);
 400                         ir_node *r2 = get_Add_right(adr2);
 401
 402                         if (l1 == l2) {
 403                                 return _different_pointer(r1, r2, size);
 404                         } else if (l1 == r2) {
 405                                 return _different_pointer(r1, l2, size);
 406                         } else if (r1 == l2) {
 407                                 return _different_pointer(l1, r2, size);
 408                         } else if (r1 == r2) {
 409                                 return _different_pointer(l1, l2, size);
 410                         }
 411                 }
 412         } else if (is_Add(adr2)) {
 413                 /* second address is the result of a pointer addition */
 414                 ir_node *l2 = get_Add_left(adr2);
 415                 ir_node *r2  = get_Add_right(adr2);
 416
 417                 if (l2 == adr1) {
 418                         found = check_const_offset(r2, size);
 419                 } else if (r2 == adr1) {
 420                         found = check_const_offset(l2, size);
 421                 }
 422         } else {
 423                 return different_index(adr1, adr2, size);
 424         }
 425         return found ? no_alias : may_alias;
 426 }  /* _different_pointer */
 427
 428 /**
 429  * Check if we can determine that the two pointers always have an offset bigger then the maximum size of mode1, mode2
 430  */
 431 static ir_alias_relation different_pointer(ir_node *adr1, ir_mode *mode1, ir_node *adr2, ir_mode *mode2) {
 432         int size = get_mode_size_bytes(mode1);
 433         int n    = get_mode_size_bytes(mode2);
 434
 435         if (n > size)
 436                 size = n;
 437         return _different_pointer(adr1, adr2, size);
 438 }  /* different_pointer */
 439
 440 /**
 441  * Returns non-zero if a node is a routine parameter.
 442  *
 443  * @param node  the node to test
 444  */
 445 static int is_arg_Proj(ir_node *node) {
 446         if (! is_Proj(node))
 447                 return 0;
 448         node = get_Proj_pred(node);
 449         if (! is_Proj(node))
 450                 return 0;
 451         return pn_Start_T_args == get_Proj_proj(node) && is_Start(get_Proj_pred(node));
 452 }  /* is_arg_Proj */
 453
 454 /**
 455  * Returns true if an address represents a global variable.
 456  */
 457 static INLINE int is_global_var(ir_node *irn) {
 458         return is_SymConst(irn) && get_SymConst_kind(irn) == symconst_addr_ent;
 459 }  /* is_global_var */
 460
 461 /**
 462  * Determine the alias relation between two addresses.
 463  */
 464 static ir_alias_relation _get_alias_relation(
 465         ir_graph *irg,
 466         ir_node *adr1, ir_mode *mode1,
 467         ir_node *adr2, ir_mode *mode2)
 468 {
 469         ir_opcode op1, op2;
 470         ir_entity *ent1, *ent2;
 471         unsigned options;
 472
 473         if (! get_opt_alias_analysis())
 474                 return may_alias;
 475
 476         if (adr1 == adr2)
 477                 return sure_alias;
 478
 479         options = get_irg_memory_disambiguator_options(irg);
 480
 481         /* The Armageddon switch */
 482         if (options & aa_opt_no_alias)
 483                 return no_alias;
 484
 485         /* Two save some code, sort the addresses by its id's. Beware, this
 486            might break some things, so better check here. */
 487         assert(iro_SymConst < iro_Sel && iro_Sel < iro_Proj && "Code dependence breaked");
 488         op1 = get_irn_opcode(adr1);
 489         op2 = get_irn_opcode(adr2);
 490
 491         if (op1 > op2) {
 492                 ir_node *t = adr1;
 493                 ir_mode *m = mode1;
 494                 adr1  = adr2;
 495                 mode1 = mode2;
 496                 adr2  = t;
 497                 mode2 = m;
 498         }
 499
 500         if (is_global_var(adr1)) {
 501                 /* first address is a global variable */
 502
 503                 if (is_global_var(adr2)) {
 504                         /* both addresses are global variables and we know
 505                            they are different (R1 a) */
 506                         if (get_SymConst_entity(adr1) != get_SymConst_entity(adr2))
 507                                 return no_alias;
 508                         else {
 509                                 /* equal entity addresses */
 510                                 return sure_alias;
 511                         }
 512                 }
 513                 if (is_Sel(adr2)) {
 514                         ir_node *base2 = find_base_adr(adr2, &ent2);
 515
 516                         if (is_global_var(base2)) {
 517                                 /* base2 address is a global var (R1 a) */
 518                                 if (adr1 != base2)
 519                                         return no_alias;
 520                         } else if (base2 == get_irg_frame(irg)) {
 521                                 /* the second one is a local variable so they are always
 522                                    different (R1 b) */
 523                                 return no_alias;
 524                         } else if (base2 == get_irg_tls(irg)) {
 525                                 /* the second one is a TLS variable so they are always
 526                                    different (R1 c) */
 527                                 return no_alias;
 528                         }
 529                 }
 530
 531                 /* Here we are: the first is a global var, the second some pointer. */
 532                 ent1 = get_SymConst_entity(adr1);
 533                 if (get_entity_address_taken(ent1) == ir_address_not_taken) {
 534                         /* The address of the global variable was never taken, so
 535                            the pointer cannot match (R2). */
 536                         return no_alias;
 537                 }
 538         } else if (is_Sel(adr1)) {
 539                 /* the first address is a Sel */
 540                 ir_node *base1 = find_base_adr(adr1, &ent1);
 541
 542                 if (base1 == get_irg_frame(irg)) {
 543                         /* first is a local variable ent1 */
 544                         if (is_Sel(adr2)) {
 545                                 /* the second address is a Sel */
 546                                 ir_node *base2 = find_base_adr(adr2, &ent2);
 547
 548                                 if (base1 == base2) {
 549                                         /* identical bases: check for different offsets */
 550                                         return different_sel_offsets(adr1, adr2);
 551                                 } else if (base2 == get_irg_frame(irg)) {
 552                                         /* both addresses are local variables and we know
 553                                            they are different (R1 a) */
 554                                         if (ent1 != ent2)
 555                                                 return no_alias;
 556                                 } else if (base2 == get_irg_tls(irg)) {
 557                                         /* the second one is a TLS variable so they are always
 558                                        different (R1 d) */
 559                                         return no_alias;
 560                                 } else if (is_arg_Proj(base2)) {
 561                                         /* the second one is an offset from a parameter so they are
 562                                            always different (R1 e) */
 563                                         return no_alias;
 564                                 }
 565                         } else if (is_arg_Proj(adr2)) {
 566                                 /* a local variable and a parameter are always different (R1 e) */
 567                                 return no_alias;
 568                         }
 569                 } else if (base1 == get_irg_tls(irg)) {
 570                         /* the first is a TLS variable */
 571                         if (is_Sel(adr2)) {
 572                                 /* the second address is a Sel */
 573                                 ir_node *base2 = find_base_adr(adr2, &ent2);
 574
 575                                 if (base1 == base2)
 576                                         return different_sel_offsets(adr1, adr2);
 577                                 else if (base2 == get_irg_frame(irg)) {
 578                                         /* the second one is a local variable so they are always
 579                                        different (R1 d) */
 580                                         return no_alias;
 581                                 } else if (base2 == get_irg_tls(irg)) {
 582                                         /* both addresses are TLS variables and we know
 583                                            they are different (R1 a) */
 584                                         if (ent1 != ent2)
 585                                                 return no_alias;
 586                                 }
 587                         }
 588                 } else if (is_arg_Proj(base1)) {
 589                         /* the first one is an offset from a parameter */
 590                         if (is_Sel(adr2)) {
 591                                 /* the second address is a Sel */
 592                                 ir_node *base2 = find_base_adr(adr2, &ent2);
 593
 594                                 if (base2 == get_irg_frame(irg)) {
 595                                         /* the second one is a local variable so they are always
 596                                        different (R1 e) */
 597                                         return no_alias;
 598                                 }
 599                         }
 600                 } else if (is_global_var(base1)) {
 601                         /* the first one is a global variable */
 602                         ent1 = get_SymConst_entity(base1);
 603                         if (is_Sel(adr2)) {
 604                                 /* the second address is a Sel */
 605                                 ir_node *base2 = find_base_adr(adr2, &ent2);
 606
 607                                 if (base1 == base2)
 608                                         return different_sel_offsets(adr1, adr2);
 609                                 else if (base2 == get_irg_frame(irg)) {
 610                                         /* the second one is a local variable so they are always
 611                                        different (R1 a) */
 612                                         return no_alias;
 613                                 } else if (base2 == get_irg_tls(irg)) {
 614                                         /* the second one is a TLS variable so they are always
 615                                        different (R1 a) */
 616                                         return no_alias;
 617                                 } else if (is_arg_Proj(base2)) {
 618                                         if (get_entity_address_taken(ent1) == ir_address_not_taken) {
 619                                                 /* The address of the global variable was never taken, so
 620                                                    the pointer cannot match (R2). */
 621                                                 return no_alias;
 622                                         }
 623                                 } else if (is_global_var(base2)) {
 624                                         ent2 = get_SymConst_entity(base2);
 625                                         /* both addresses are global variables and we know
 626                                            they are different (R1 a) */
 627                                         if (ent1 != ent2)
 628                                                 return no_alias;
 629                                 }
 630                         }
 631                 }
 632         } else {
 633                 /* some pointers, check if they have the same base buf constant offset */
 634                 ir_alias_relation rel = different_pointer(adr1, mode1, adr2, mode2);
 635                 if (rel != may_alias)
 636                         return rel;
 637         }
 638
 639
 640         if (options & aa_opt_type_based) { /* Type based alias analysis */
 641                 ir_alias_relation rel;
 642
 643                 if (options & aa_opt_byte_type_may_alias) {
 644                         if (get_mode_size_bits(mode1) == 8 || get_mode_size_bits(mode2) == 8) {
 645                                 /* One of the modes address a byte. Assume a may_alias and leave
 646                                    the type based check. */
 647                                 goto leave_type_based_alias;
 648                         }
 649                 }
 650                 /* cheap check: If the mode sizes did not match, the types MUST be different */
 651                 if (get_mode_size_bits(mode1) != get_mode_size_bits(mode2))
 652                         return no_alias;
 653
 654                 /* try rule R5 */
 655                 rel = different_types(adr1, adr2);
 656                 if (rel != may_alias)
 657                         return rel;
 658 leave_type_based_alias:;
 659         }
 660
 661         /* do we have a language specific memory disambiguator? */
 662         if (language_disambuigator) {
 663                 ir_alias_relation rel = (*language_disambuigator)(irg, adr1, mode1, adr2, mode2);
 664                 if (rel != may_alias)
 665                         return rel;
 666         }
 667
 668         /* access points-to information here */
 669         return may_alias;
 670 }  /* _get_alias_relation */
 671
 672 /*
 673  * Determine the alias relation between two addresses.
 674  */
 675 ir_alias_relation get_alias_relation(
 676         ir_graph *irg,
 677         ir_node *adr1, ir_mode *mode1,
 678         ir_node *adr2, ir_mode *mode2)
 679 {
 680         ir_alias_relation rel = _get_alias_relation(irg, adr1, mode1, adr2, mode2);
 681         return rel;
 682 }  /* get_alias_relation */
 683
 684 /* Set a source language specific memory disambiguator function. */
 685 void set_language_memory_disambiguator(DISAMBIGUATOR_FUNC func) {
 686         language_disambuigator = func;
 687 }  /* set_language_memory_disambiguator */
 688
 689 /** The result cache for the memory disambiguator. */
 690 static set *result_cache = NULL;
 691
 692 /** An entry in the relation cache. */
 693 typedef struct mem_disambig_entry {
 694         ir_node           *adr1;    /**< The first address. */
 695         ir_node           *adr2;    /**< The second address. */
 696         ir_alias_relation result;   /**< The alias relation result. */
 697 } mem_disambig_entry;
 698
 699 #define HASH_ENTRY(adr1, adr2)  (HASH_PTR(adr1) ^ HASH_PTR(adr2))
 700
 701 /**
 702  * Compare two relation cache entries.
 703  */
 704 static int cmp_mem_disambig_entry(const void *elt, const void *key, size_t size) {
 705         const mem_disambig_entry *p1 = elt;
 706         const mem_disambig_entry *p2 = key;
 707         (void) size;
 708
 709         return p1->adr1 == p2->adr1 && p1->adr2 == p2->adr2;
 710 }  /* cmp_mem_disambig_entry */
 711
 712 /**
 713  * Initialize the relation cache.
 714  */
 715 void mem_disambig_init(void) {
 716         result_cache = new_set(cmp_mem_disambig_entry, 8);
 717 }  /* mem_disambig_init */
 718
 719 /*
 720  * Determine the alias relation between two addresses.
 721  */
 722 ir_alias_relation get_alias_relation_ex(
 723         ir_graph *irg,
 724         ir_node *adr1, ir_mode *mode1,
 725         ir_node *adr2, ir_mode *mode2)
 726 {
 727         mem_disambig_entry key, *entry;
 728
 729         if (! get_opt_alias_analysis())
 730                 return may_alias;
 731
 732         if (get_irn_opcode(adr1) > get_irn_opcode(adr2)) {
 733                 ir_node *t = adr1;
 734                 adr1 = adr2;
 735                 adr2 = t;
 736         }
 737
 738         key.adr1 = adr1;
 739         key.adr2 = adr2;
 740         entry = set_find(result_cache, &key, sizeof(key), HASH_ENTRY(adr1, adr2));
 741         if (entry)
 742                 return entry->result;
 743
 744         key.result = get_alias_relation(irg, adr1, mode1, adr2, mode2);
 745
 746         set_insert(result_cache, &key, sizeof(key), HASH_ENTRY(adr1, adr2));
 747         return key.result;
 748 }  /* get_alias_relation_ex */
 749
 750 /* Free the relation cache. */
 751 void mem_disambig_term(void) {
 752         if (result_cache) {
 753                 del_set(result_cache);
 754                 result_cache = NULL;
 755         }
 756 }  /* mem_disambig_term */
 757
 758 /**
 759  * Check the mode of a Load/Store with the mode of the entity
 760  * that is accessed.
 761  * If the mode of the entity and the Load/Store mode do not match, we
 762  * have the bad reinterpret case:
 763  *
 764  * int i;
 765  * char b = *(char *)&i;
 766  *
 767  * We do NOT count this as one value and return address_taken
 768  * in that case.
 769  * However, we support an often used case. If the mode is two-complement
 770  * we allow casts between signed/unsigned.
 771  *
 772  * @param mode     the mode of the Load/Store
 773  * @param ent_mode the mode of the accessed entity
 774  *
 775  * @return non-zero if the Load/Store is a hidden cast, zero else
 776  */
 777 static int is_hidden_cast(ir_mode *mode, ir_mode *ent_mode) {
 778         if (ent_mode != mode) {
 779                 if (ent_mode == NULL ||
 780                         get_mode_size_bits(ent_mode) != get_mode_size_bits(mode) ||
 781                         get_mode_sort(ent_mode) != get_mode_sort(mode) ||
 782                         get_mode_arithmetic(ent_mode) != irma_twos_complement ||
 783                         get_mode_arithmetic(mode) != irma_twos_complement)
 784                         return 1;
 785         }
 786         return 0;
 787 }  /* is_hidden_cast */
 788
 789 /**
 790  * Determine the address_taken state of a node (or it's successor Sels).
 791  *
 792  * @param irn  the node
 793  */
 794 static ir_address_taken_state find_address_taken_state(ir_node *irn) {
 795         int     i, j;
 796         ir_mode *emode, *mode;
 797         ir_node *value;
 798         ir_entity *ent;
 799
 800         for (i = get_irn_n_outs(irn) - 1; i >= 0; --i) {
 801                 ir_node *succ = get_irn_out(irn, i);
 802
 803                 switch (get_irn_opcode(succ)) {
 804                 case iro_Load:
 805                         /* check if this load is not a hidden conversion */
 806                         mode = get_Load_mode(succ);
 807                         ent = is_SymConst(irn) ? get_SymConst_entity(irn) : get_Sel_entity(irn);
 808                         emode = get_type_mode(get_entity_type(ent));
 809                         if (is_hidden_cast(mode, emode))
 810                                 return ir_address_taken;
 811                         break;
 812
 813                 case iro_Store:
 814                         /* check that the node is not the Store's value */
 815                         value = get_Store_value(succ);
 816                         if (value == irn)
 817                                 return ir_address_taken;
 818                         /* check if this Store is not a hidden conversion */
 819                         mode = get_irn_mode(value);
 820                         ent = is_SymConst(irn) ? get_SymConst_entity(irn) : get_Sel_entity(irn);
 821                         emode = get_type_mode(get_entity_type(ent));
 822                         if (is_hidden_cast(mode, emode))
 823                                 return ir_address_taken;
 824                         break;
 825
 826                 case iro_Sel: {
 827                         /* Check the successor of irn. */
 828                         ir_address_taken_state res = find_address_taken_state(succ);
 829                         if (res != ir_address_not_taken)
 830                                 return res;
 831                         break;
 832                 }
 833
 834                 case iro_Call:
 835                         /* Only the call address is not an address taker but
 836                            this is an uninteresting case, so we ignore it here. */
 837                         for (j = get_Call_n_params(succ) - 1; j >= 0; --j) {
 838                                 ir_node *param = get_Call_param(succ, j);
 839                                 if (param == irn)
 840                                         return ir_address_taken;
 841                         }
 842                         break;
 843
 844                 default:
 845                         /* another op, the address may be taken */
 846                         return ir_address_taken_unknown;
 847                 }
 848         }
 849         /* All successors finished, the address is not taken. */
 850         return ir_address_not_taken;
 851 }  /* find_address_taken_state */
 852
 853 /**
 854  * Update the "address taken" flag of all frame entities.
 855  */
 856 static void analyse_irg_address_taken(ir_graph *irg) {
 857         ir_type *ft = get_irg_frame_type(irg);
 858         ir_node *irg_frame;
 859         int i;
 860
 861         /* set initial state to not_taken, as this is the "smallest" state */
 862         for (i = get_class_n_members(ft) - 1; i >= 0; --i) {
 863                 ir_entity *ent = get_class_member(ft, i);
 864
 865                 set_entity_address_taken(ent, ir_address_not_taken);
 866         }
 867
 868         assure_irg_outs(irg);
 869
 870         irg_frame = get_irg_frame(irg);
 871
 872         for (i = get_irn_n_outs(irg_frame) - 1; i >= 0; --i) {
 873                 ir_node *succ = get_irn_out(irg_frame, i);
 874                 ir_address_taken_state state;
 875
 876             if (is_Sel(succ)) {
 877                         ir_entity *ent = get_Sel_entity(succ);
 878
 879                         if (get_entity_address_taken(ent) == ir_address_taken)
 880                                 continue;
 881
 882                         state = find_address_taken_state(succ);
 883                         if (state > get_entity_address_taken(ent))
 884                                 set_entity_address_taken(ent, state);
 885                 }
 886         }
 887         /* now computed */
 888         irg->adr_taken_state = ir_address_taken_computed;
 889 }  /* analyse_address_taken */
 890
 891 /* Returns the current address taken state of the graph. */
 892 ir_address_taken_computed_state get_irg_address_taken_state(const ir_graph *irg) {
 893         return irg->adr_taken_state;
 894 }  /* get_irg_address_taken_state */
 895
 896 /* Sets the current address taken state of the graph. */
 897 void set_irg_address_taken_state(ir_graph *irg, ir_address_taken_computed_state state) {
 898         irg->adr_taken_state = state;
 899 }  /* set_irg_address_taken_state */
 900
 901 /* Assure that the address taken flag is computed for the given graph. */
 902 void assure_irg_address_taken_computed(ir_graph *irg) {
 903         if (irg->adr_taken_state == ir_address_taken_not_computed)
 904                 analyse_irg_address_taken(irg);
 905 }  /* assure_irg_address_taken_computed */
 906
 907
 908 /**
 909  * Initialize the address_taken flag for a global type like type.
 910  */
 911 static void init_taken_flag(ir_type * tp) {
 912         int i;
 913
 914         /* All external visible entities are at least
 915            ir_address_taken_unknown. This is very conservative. */
 916         for (i = get_compound_n_members(tp) - 1; i >= 0; --i) {
 917                 ir_entity *ent = get_compound_member(tp, i);
 918                 ir_address_taken_state state;
 919
 920                 state = get_entity_visibility(ent) == visibility_external_visible ?
 921                                 ir_address_taken_unknown : ir_address_not_taken ;
 922                 set_entity_address_taken(ent, state);
 923         }
 924 }  /* init_taken_flag */
 925
 926 /**
 927  * Mark all entities used in the initializer for the given entity as address taken
 928  */
 929 static void check_initializer(ir_entity *ent) {
 930         ir_node *n;
 931         int i;
 932
 933         /* do not check uninitialized values */
 934         if (get_entity_variability(ent) == variability_uninitialized)
 935                 return;
 936
 937         /* Beware: Methods initialized with "themself". This does not count as a taken
 938            address. */
 939         if (is_Method_type(get_entity_type(ent)))
 940                 return;
 941
 942         if (is_atomic_entity(ent)) {
 943                 /* let's check if it's an address */
 944                 n = get_atomic_ent_value(ent);
 945                 if (is_SymConst(n) && get_SymConst_kind(n) == symconst_addr_ent) {
 946                         ir_entity *ent = get_SymConst_entity(n);
 947                         set_entity_address_taken(ent, ir_address_taken);
 948                 }
 949         } else {
 950                 for (i = get_compound_ent_n_values(ent) - 1; i >= 0; --i) {
 951                         n = get_compound_ent_value(ent, i);
 952
 953                         /* let's check if it's an address */
 954                         if (is_SymConst(n) && get_SymConst_kind(n) == symconst_addr_ent) {
 955                                 ir_entity *ent = get_SymConst_entity(n);
 956                                 set_entity_address_taken(ent, ir_address_taken);
 957                         }
 958                 }
 959         }
 960 }  /* check_initializer */
 961
 962
 963 /**
 964  * Mark all entities used in initializers as address taken
 965  */
 966 static void check_initializers(ir_type *tp) {
 967         int i;
 968
 969         for (i = get_compound_n_members(tp) - 1; i >= 0; --i) {
 970                 ir_entity *ent = get_compound_member(tp, i);
 971
 972                 check_initializer(ent);
 973         }
 974 }  /* check_initializers */
 975
 976 #ifdef DEBUG_libfirm
 977 /**
 978  * Print the address taken state of all entities of a given type for debugging.
 979  */
 980 static void print_address_taken_state(ir_type *tp) {
 981         int i;
 982         for (i = get_compound_n_members(tp) - 1; i >= 0; --i) {
 983                 ir_entity *ent = get_compound_member(tp, i);
 984                 ir_address_taken_state state = get_entity_address_taken(ent);
 985
 986                 if (state != ir_address_not_taken) {
 987                         assert(ir_address_not_taken <= (int) state && state <= ir_address_taken);
 988                         ir_printf("%+F: %s\n", ent, get_address_taken_state_name(state));
 989                 }
 990         }
 991 }  /* print_address_taken_state */
 992 #endif /* DEBUG_libfirm */
 993
 994 /**
 995  * Post-walker: check for global entity address
 996  */
 997 static void check_global_address(ir_node *irn, void *env) {
 998         ir_node *tls = env;
 999         ir_entity *ent;
1000         ir_address_taken_state state;
1001
1002         if (is_SymConst(irn) && get_SymConst_kind(irn) == symconst_addr_ent) {
1003                 /* A global. */
1004                 ent = get_SymConst_entity(irn);
1005         } else if (is_Sel(irn) && get_Sel_ptr(irn) == tls) {
1006                 /* A TLS variable. */
1007                 ent = get_Sel_entity(irn);
1008         } else
1009                 return;
1010
1011         if (get_entity_address_taken(ent) >= ir_address_taken) {
1012                 /* Already at the maximum. */
1013                 return;
1014         }
1015         state = find_address_taken_state(irn);
1016         if (state > get_entity_address_taken(ent))
1017                 set_entity_address_taken(ent, state);
1018 }  /* check_global_address */
1019
1020 /**
1021  * Update the "address taken" flag of all global entities.
1022  */
1023 static void analyse_irp_globals_address_taken(void) {
1024         int i;
1025
1026         FIRM_DBG_REGISTER(dbg, "firm.ana.irmemory");
1027
1028         init_taken_flag(get_glob_type());
1029         init_taken_flag(get_tls_type());
1030
1031         check_initializers(get_glob_type());
1032         check_initializers(get_tls_type());
1033
1034         for (i = get_irp_n_irgs() - 1; i >= 0; --i) {
1035                 ir_graph *irg = get_irp_irg(i);
1036
1037                 assure_irg_outs(irg);
1038                 irg_walk_graph(irg, NULL, check_global_address, get_irg_tls(irg));
1039         }
1040
1041 #ifdef DEBUG_libfirm
1042         if (firm_dbg_get_mask(dbg) & LEVEL_1) {
1043                 print_address_taken_state(get_glob_type());
1044                 print_address_taken_state(get_tls_type());
1045         }
1046 #endif /* DEBUG_libfirm */
1047
1048         /* now computed */
1049         irp->globals_adr_taken_state = ir_address_taken_computed;
1050 }  /* analyse_irp_globals_address_taken */
1051
1052 /* Returns the current address taken state of the globals. */
1053 ir_address_taken_computed_state get_irp_globals_address_taken_state(void) {
1054         return irp->globals_adr_taken_state;
1055 }  /* get_irp_globals_address_taken_state */
1056
1057 /* Sets the current address taken state of the graph. */
1058 void set_irp_globals_address_taken_state(ir_address_taken_computed_state state) {
1059         irp->globals_adr_taken_state = state;
1060 }  /* set_irg_address_taken_state */
1061
1062 /* Assure that the address taken flag is computed for the globals. */
1063 void assure_irp_globals_address_taken_computed(void) {
1064         if (irp->globals_adr_taken_state == ir_address_taken_not_computed)
1065                 analyse_irp_globals_address_taken();
1066 }  /* assure_irp_globals_address_taken_computed */
1067
1068
1069 DEBUG_ONLY(static firm_dbg_module_t *dbgcall = NULL;)
1070
1071 /**
1072  * Copy the calling conventions from the entities to the call type.
1073  */
1074 static void update_calls(ir_node *call, void *env) {
1075         (void) env;
1076         if (is_Call(call)) {
1077                 ir_node *ptr = get_Call_ptr(call);
1078
1079                 if (is_SymConst(ptr)) {
1080                         ir_entity *ent = get_SymConst_entity(ptr);
1081                         ir_type *mtp = get_entity_type(ent);
1082                         ir_type *ctp = get_Call_type(call);
1083
1084                         if (mtp != ctp && get_method_additional_properties(mtp) & mtp_property_private) {
1085                                 set_method_additional_property(ctp, mtp_property_private);
1086                                 DB((dbgcall, LEVEL_1, "changed call to private method %+F\n", ent));
1087                         }
1088                 }
1089         }
1090 }
1091
1092 /* Mark all private methods, i.e. those of which all call sites are known. */
1093 void mark_private_methods(void) {
1094         int i;
1095         int changed = 0;
1096
1097         FIRM_DBG_REGISTER(dbgcall, "firm.opt.cc");
1098
1099         assure_irp_globals_address_taken_computed();
1100
1101         /* first step: change the calling conventions of the local non-escaped entities */
1102         for (i = get_irp_n_irgs() - 1; i >= 0; --i) {
1103                 ir_graph               *irg = get_irp_irg(i);
1104                 ir_entity              *ent = get_irg_entity(irg);
1105                 ir_address_taken_state state = get_entity_address_taken(ent);
1106
1107                 if (get_entity_visibility(ent) == visibility_local &&
1108                     state == ir_address_not_taken) {
1109                         ir_type *mtp = get_entity_type(ent);
1110
1111                         set_method_additional_property(mtp, mtp_property_private);
1112                         changed = 1;
1113                         DB((dbgcall, LEVEL_1, "found private method %+F\n", ent));
1114                 }
1115         }
1116
1117         if (changed)
1118                 all_irg_walk(NULL, update_calls, NULL);
1119 }