130a8f0474a68e3cd5e4fbed10dda63e5ed97a42
[libm] / src / math / __rem_pio2l.h
1 /* origin: FreeBSD /usr/src/lib/msun/ld80/e_rem_pio2.c */
2 /*
3  * ====================================================
4  * Copyright (C) 1993 by Sun Microsystems, Inc. All rights reserved.
5  * Copyright (c) 2008 Steven G. Kargl, David Schultz, Bruce D. Evans.
6  *
7  * Developed at SunSoft, a Sun Microsystems, Inc. business.
8  * Permission to use, copy, modify, and distribute this
9  * software is freely granted, provided that this notice
10  * is preserved.
11  * ====================================================
12  *
13  * Optimized by Bruce D. Evans.
14  */
15 #include "libm.h"
16 #if LD80
17 /* ld80 version of __rem_pio2(x,y)
18  *
19  * return the remainder of x rem pi/2 in y[0]+y[1]
20  * use __rem_pio2_large() for large x
21  */
22
23 #define BIAS    (LDBL_MAX_EXP - 1)
24
25 /*
26  * invpio2:  64 bits of 2/pi
27  * pio2_1:   first  39 bits of pi/2
28  * pio2_1t:  pi/2 - pio2_1
29  * pio2_2:   second 39 bits of pi/2
30  * pio2_2t:  pi/2 - (pio2_1+pio2_2)
31  * pio2_3:   third  39 bits of pi/2
32  * pio2_3t:  pi/2 - (pio2_1+pio2_2+pio2_3)
33  */
34 static const double
35 zero   =  0.00000000000000000000e+00, /* 0x00000000, 0x00000000 */
36 two24  =  1.67772160000000000000e+07, /* 0x41700000, 0x00000000 */
37 pio2_1 =  1.57079632679597125389e+00, /* 0x3FF921FB, 0x54444000 */
38 pio2_2 = -1.07463465549783099519e-12, /* -0x12e7b967674000.0p-92 */
39 pio2_3 =  6.36831716351370313614e-25; /*  0x18a2e037074000.0p-133 */
40
41 // FIXME: this should be verified (maybe old gcc specific hack)
42 //#if defined(__amd64__) || defined(__i386__)
43 /* Long double constants are slow on these arches, and broken on i386. */
44 static const volatile double
45 invpio2hi =  6.3661977236758138e-01,    /*  0x145f306dc9c883.0p-53 */
46 invpio2lo = -3.9356538861223811e-17,    /* -0x16b00000000000.0p-107 */
47 pio2_1thi = -1.0746346554971943e-12,    /* -0x12e7b9676733af.0p-92 */
48 pio2_1tlo =  8.8451028997905949e-29,    /*  0x1c080000000000.0p-146 */
49 pio2_2thi =  6.3683171635109499e-25,    /*  0x18a2e03707344a.0p-133 */
50 pio2_2tlo =  2.3183081793789774e-41,    /*  0x10280000000000.0p-187 */
51 pio2_3thi = -2.7529965190440717e-37,    /* -0x176b7ed8fbbacc.0p-174 */
52 pio2_3tlo = -4.2006647512740502e-54;    /* -0x19c00000000000.0p-230 */
53 #define invpio2 ((long double)invpio2hi + invpio2lo)
54 #define pio2_1t ((long double)pio2_1thi + pio2_1tlo)
55 #define pio2_2t ((long double)pio2_2thi + pio2_2tlo)
56 #define pio2_3t ((long double)pio2_3thi + pio2_3tlo)
57 //#else
58 #if 0
59 static const long double
60 invpio2 =  6.36619772367581343076e-01L, /*  0xa2f9836e4e44152a.0p-64 */
61 pio2_1t = -1.07463465549719416346e-12L, /* -0x973dcb3b399d747f.0p-103 */
62 pio2_2t =  6.36831716351095013979e-25L, /*  0xc51701b839a25205.0p-144 */
63 pio2_3t = -2.75299651904407171810e-37L; /* -0xbb5bf6c7ddd660ce.0p-185 */
64 #endif
65
66 static inline int __rem_pio2l(long double x, long double *y)
67 {
68         union IEEEl2bits u,u1;
69         long double z,w,t,r,fn;
70         double tx[3],ty[2];
71         int e0,ex,i,j,nx,n;
72         int16_t expsign;
73
74         u.e = x;
75         expsign = u.xbits.expsign;
76         ex = expsign & 0x7fff;
77         if (ex < BIAS + 25 || (ex == BIAS + 25 && u.bits.manh < 0xc90fdaa2)) {
78                 union IEEEl2bits u2;
79                 int ex1;
80
81                 /* |x| ~< 2^25*(pi/2), medium size */
82                 /* Use a specialized rint() to get fn.  Assume round-to-nearest. */
83                 fn = x*invpio2 + 0x1.8p63;
84                 fn = fn - 0x1.8p63;
85 // FIXME
86 //#ifdef HAVE_EFFICIENT_IRINT
87 //              n = irint(fn);
88 //#else
89                 n = fn;
90 //#endif
91                 r = x-fn*pio2_1;
92                 w = fn*pio2_1t;    /* 1st round good to 102 bit */
93                 j = ex;
94                 y[0] = r-w;
95                 u2.e = y[0];
96                 ex1 = u2.xbits.expsign & 0x7fff;
97                 i = j-ex1;
98                 if (i > 22) {  /* 2nd iteration needed, good to 141 */
99                         t = r;
100                         w = fn*pio2_2;
101                         r = t-w;
102                         w = fn*pio2_2t-((t-r)-w);
103                         y[0] = r-w;
104                         u2.e = y[0];
105                         ex1 = u2.xbits.expsign & 0x7fff;
106                         i = j-ex1;
107                         if (i > 61) {  /* 3rd iteration need, 180 bits acc */
108                                 t = r; /* will cover all possible cases */
109                                 w = fn*pio2_3;
110                                 r = t-w;
111                                 w = fn*pio2_3t-((t-r)-w);
112                                 y[0] = r-w;
113                         }
114                 }
115                 y[1] = (r - y[0]) - w;
116                 return n;
117         }
118         /*
119          * all other (large) arguments
120          */
121         if (ex == 0x7fff) {                /* x is inf or NaN */
122                 y[0] = y[1] = x - x;
123                 return 0;
124         }
125         /* set z = scalbn(|x|,ilogb(x)-23) */
126         u1.e = x;
127         e0 = ex - BIAS - 23;            /* e0 = ilogb(|x|)-23; */
128         u1.xbits.expsign = ex - e0;
129         z = u1.e;
130         for (i=0; i<2; i++) {
131                 tx[i] = (double)(int32_t)z;
132                 z     = (z-tx[i])*two24;
133         }
134         tx[2] = z;
135         nx = 3;
136         while (tx[nx-1] == zero)
137                 nx--;     /* skip zero term */
138         n = __rem_pio2_large(tx,ty,e0,nx,2);
139         r = (long double)ty[0] + ty[1];
140         w = ty[1] - (r - ty[0]);
141         if (expsign < 0) {
142                 y[0] = -r;
143                 y[1] = -w;
144                 return -n;
145         }
146         y[0] = r;
147         y[1] = w;
148         return n;
149 }
150 #endif