math: use the rounding idiom consistently
authorSzabolcs Nagy <nsz@port70.net>
Tue, 28 Oct 2014 23:34:37 +0000 (00:34 +0100)
committerRich Felker <dalias@aerifal.cx>
Fri, 31 Oct 2014 15:35:40 +0000 (11:35 -0400)
commit0ce946cf808274c2d6e5419b139e130c8ad4bd30
treee6614e756dde0afbcd48e38916d0208fed93ece1
parent79ca86094d70f43252b683c3a3ccb572d462cf28
math: use the rounding idiom consistently

the idiomatic rounding of x is

  n = x + toint - toint;

where toint is either 1/EPSILON (x is non-negative) or 1.5/EPSILON
(x may be negative and nearest rounding mode is assumed) and EPSILON is
according to the evaluation precision (the type of toint is not very
important, because single precision float can represent the 1/EPSILON of
ieee binary128).

in case of FLT_EVAL_METHOD!=0 this avoids a useless store to double or
float precision, and the long double code became cleaner with
1/LDBL_EPSILON instead of ifdefs for toint.

__rem_pio2f and __rem_pio2 functions slightly changed semantics:
on i386 a double-rounding is avoided so close to half-way cases may
get evaluated differently eg. as sin(pi/4-eps) instead of cos(pi/4+eps)
13 files changed:
src/math/__rem_pio2.c
src/math/__rem_pio2f.c
src/math/__rem_pio2l.c
src/math/ceil.c
src/math/ceill.c
src/math/floor.c
src/math/floorl.c
src/math/modfl.c
src/math/rintl.c
src/math/round.c
src/math/roundf.c
src/math/roundl.c
src/math/truncl.c