math: do correctly rounded checks where it's appropriate
authorSzabolcs Nagy <nsz@port70.net>
Thu, 25 Oct 2012 20:56:48 +0000 (22:56 +0200)
committerSzabolcs Nagy <nsz@port70.net>
Thu, 25 Oct 2012 20:56:48 +0000 (22:56 +0200)
49 files changed:
src/math/ceil.c
src/math/ceilf.c
src/math/ceill.c
src/math/copysign.c
src/math/copysignf.c
src/math/copysignl.c
src/math/fabs.c
src/math/fabsf.c
src/math/fabsl.c
src/math/floor.c
src/math/floorf.c
src/math/floorl.c
src/math/fma.c
src/math/fmaf.c
src/math/fmal.c
src/math/fmax.c
src/math/fmaxf.c
src/math/fmaxl.c
src/math/fmin.c
src/math/fminf.c
src/math/fminl.c
src/math/frexp.c
src/math/frexpf.c
src/math/frexpl.c
src/math/nextafter.c
src/math/nextafterf.c
src/math/nextafterl.c
src/math/nexttoward.c
src/math/nexttowardf.c
src/math/nexttowardl.c
src/math/rint.c
src/math/rintf.c
src/math/rintl.c
src/math/round.c
src/math/roundf.c
src/math/roundl.c
src/math/scalbln.c
src/math/scalblnf.c
src/math/scalblnl.c
src/math/scalbn.c
src/math/scalbnf.c
src/math/scalbnl.c
src/math/sqrt.c
src/math/sqrtf.c
src/math/sqrtl.c
src/math/trunc.c
src/math/truncf.c
src/math/truncl.c
src/math/util.h

index 65c587d..e19e0a5 100644 (file)
@@ -33,7 +33,7 @@ int main(void)
                        err++;
                }
                d = ulperr(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s ceil(%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 4b0a317..2afa703 100644 (file)
@@ -33,7 +33,7 @@ int main(void)
                        err++;
                }
                d = ulperrf(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s ceilf(%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->y, y, d, d-p->dy, p->dy);
                        err++;
index d3a3ed4..23f5b2b 100644 (file)
@@ -38,7 +38,7 @@ int main(void)
                        err++;
                }
                d = ulperrl(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s ceill(%La) want %La got %La ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 1f27fd0..829780e 100644 (file)
@@ -32,7 +32,7 @@ int main(void)
                        err++;
                }
                d = ulperr(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s copysign(%a,%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->y, y, d, d-p->dy, p->dy);
                        err++;
index a53f6f2..3e86729 100644 (file)
@@ -32,7 +32,7 @@ int main(void)
                        err++;
                }
                d = ulperrf(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s copysignf(%a,%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 8e21ba1..bdab602 100644 (file)
@@ -37,7 +37,7 @@ int main(void)
                        err++;
                }
                d = ulperrl(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s copysignl(%La,%La) want %La got %La ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 6a93081..5c156d5 100644 (file)
@@ -33,7 +33,7 @@ int main(void)
                        err++;
                }
                d = ulperr(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s fabs(%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 1dc99b4..11abddf 100644 (file)
@@ -33,7 +33,7 @@ int main(void)
                        err++;
                }
                d = ulperrf(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s fabsf(%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->y, y, d, d-p->dy, p->dy);
                        err++;
index df170ea..ac65003 100644 (file)
@@ -38,7 +38,7 @@ int main(void)
                        err++;
                }
                d = ulperrl(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s fabsl(%La) want %La got %La ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 1a8f809..6b035cc 100644 (file)
@@ -33,7 +33,7 @@ int main(void)
                        err++;
                }
                d = ulperr(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s floor(%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 2808f13..63ee702 100644 (file)
@@ -33,7 +33,7 @@ int main(void)
                        err++;
                }
                d = ulperrf(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s floorf(%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 42c79de..4c91694 100644 (file)
@@ -38,7 +38,7 @@ int main(void)
                        err++;
                }
                d = ulperrl(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s floorl(%La) want %La got %La ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 4a353f9..88acd08 100644 (file)
@@ -31,7 +31,7 @@ int main(void)
                        err++;
                }
                d = ulperr(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s fma(%a,%a,%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->x3, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 20fdb02..05fb09a 100644 (file)
@@ -31,7 +31,7 @@ int main(void)
                        err++;
                }
                d = ulperrf(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s fmaf(%a,%a,%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->x3, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 801a7a3..6b76bc5 100644 (file)
@@ -35,7 +35,7 @@ int main(void)
                        err++;
                }
                d = ulperrl(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s fmal(%La,%La,%La) want %La got %La ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->x3, p->y, y, d, d-p->dy, p->dy);
                        err++;
index f0ae9a7..9b3a8cf 100644 (file)
@@ -32,7 +32,7 @@ int main(void)
                        err++;
                }
                d = ulperr(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s fmax(%a,%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 9268786..d90b908 100644 (file)
@@ -32,7 +32,7 @@ int main(void)
                        err++;
                }
                d = ulperrf(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s fmaxf(%a,%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 5f4f1f3..f793c0c 100644 (file)
@@ -37,7 +37,7 @@ int main(void)
                        err++;
                }
                d = ulperrl(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s fmaxl(%La,%La) want %La got %La ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->y, y, d, d-p->dy, p->dy);
                        err++;
index d18387d..062dd63 100644 (file)
@@ -32,7 +32,7 @@ int main(void)
                        err++;
                }
                d = ulperr(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s fmin(%a,%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->y, y, d, d-p->dy, p->dy);
                        err++;
index db85a51..b649110 100644 (file)
@@ -32,7 +32,7 @@ int main(void)
                        err++;
                }
                d = ulperrf(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s fminf(%a,%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->y, y, d, d-p->dy, p->dy);
                        err++;
index aca8246..c3c4ffd 100644 (file)
@@ -37,7 +37,7 @@ int main(void)
                        err++;
                }
                d = ulperrl(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s fminl(%La,%La) want %La got %La ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 73a415e..bf0eb9a 100644 (file)
@@ -33,7 +33,7 @@ int main(void)
                        err++;
                }
                d = ulperr(y, p->y, p->dy);
-               if (!checkulp(d, p->r) || yi != p->i) {
+               if (!checkcr(y, p->y, p->r) || yi != p->i) {
                        printf("%s:%d: %s frexp(%a) want %a,%lld got %a,%d ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->y, p->i, y, yi, d, d-p->dy, p->dy);
                        err++;
index 6eefa7d..773540a 100644 (file)
@@ -33,7 +33,7 @@ int main(void)
                        err++;
                }
                d = ulperrf(y, p->y, p->dy);
-               if (!checkulp(d, p->r) || yi != p->i) {
+               if (!checkcr(y, p->y, p->r) || yi != p->i) {
                        printf("%s:%d: %s frexpf(%a) want %a,%lld got %a,%d ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->y, p->i, y, yi, d, d-p->dy, p->dy);
                        err++;
index 275e979..23fffa1 100644 (file)
@@ -38,7 +38,7 @@ int main(void)
                        err++;
                }
                d = ulperrl(y, p->y, p->dy);
-               if (!checkulp(d, p->r) || yi != p->i) {
+               if (!checkcr(y, p->y, p->r) || yi != p->i) {
                        printf("%s:%d: %s frexpl(%La) want %La,%lld got %La,%d ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->y, p->i, y, yi, d, d-p->dy, p->dy);
                        err++;
index 8c47fb5..73c0844 100644 (file)
@@ -32,7 +32,7 @@ int main(void)
                        err++;
                }
                d = ulperr(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s nextafter(%a,%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 8a8033d..1f9c447 100644 (file)
@@ -32,7 +32,7 @@ int main(void)
                        err++;
                }
                d = ulperrf(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s nextafterf(%a,%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 2e9fc06..58737ee 100644 (file)
@@ -37,7 +37,7 @@ int main(void)
                        err++;
                }
                d = ulperrl(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s nextafterl(%La,%La) want %La got %La ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 9a87d00..1532127 100644 (file)
@@ -37,7 +37,7 @@ int main(void)
                        err++;
                }
                d = ulperrl(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s nexttoward(%La,%La) want %La got %La ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->y, y, d, d-p->dy, p->dy);
                        err++;
index c402015..4b558b9 100644 (file)
@@ -37,7 +37,7 @@ int main(void)
                        err++;
                }
                d = ulperrl(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s nexttowardf(%La,%La) want %La got %La ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 5f28334..8625354 100644 (file)
@@ -37,7 +37,7 @@ int main(void)
                        err++;
                }
                d = ulperrl(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s nexttowardl(%La,%La) want %La got %La ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 5cadc61..36ecd2c 100644 (file)
@@ -32,7 +32,7 @@ int main(void)
                        err++;
                }
                d = ulperr(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s rint(%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 6fc6f5a..083413b 100644 (file)
@@ -32,7 +32,7 @@ int main(void)
                        err++;
                }
                d = ulperrf(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s rintf(%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->y, y, d, d-p->dy, p->dy);
                        err++;
index bda368e..e8cd73b 100644 (file)
@@ -37,7 +37,7 @@ int main(void)
                        err++;
                }
                d = ulperrl(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s rintl(%La) want %La got %La ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->y, y, d, d-p->dy, p->dy);
                        err++;
index a3fd5e9..ca5470b 100644 (file)
@@ -32,7 +32,7 @@ int main(void)
                        err++;
                }
                d = ulperr(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s round(%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->y, y, d, d-p->dy, p->dy);
                        err++;
index d572d94..50c15dd 100644 (file)
@@ -32,7 +32,7 @@ int main(void)
                        err++;
                }
                d = ulperrf(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s roundf(%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->y, y, d, d-p->dy, p->dy);
                        err++;
index f4fa024..06abed6 100644 (file)
@@ -37,7 +37,7 @@ int main(void)
                        err++;
                }
                d = ulperrl(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s roundl(%La) want %La got %La ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 0231ceb..2b5124b 100644 (file)
@@ -32,7 +32,7 @@ int main(void)
                        err++;
                }
                d = ulperr(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s scalbln(%a, %lld) want %a got %a, ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->i, p->y, y, d, d-p->dy, p->dy);
                        err++;
index f80c3fc..659bea4 100644 (file)
@@ -32,7 +32,7 @@ int main(void)
                        err++;
                }
                d = ulperrf(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s scalblnf(%a, %lld) want %a got %a, ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->i, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 71ef477..fc9d0d8 100644 (file)
@@ -37,7 +37,7 @@ int main(void)
                        err++;
                }
                d = ulperrl(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s scalblnl(%La, %lld) want %La got %La ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->i, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 99fdc1b..79f6bb2 100644 (file)
@@ -32,7 +32,7 @@ int main(void)
                        err++;
                }
                d = ulperr(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s scalbn(%a, %lld) want %a got %a, ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->i, p->y, y, d, d-p->dy, p->dy);
                        err++;
index de588a2..8b50e27 100644 (file)
@@ -32,7 +32,7 @@ int main(void)
                        err++;
                }
                d = ulperrf(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s scalbnf(%a, %lld) want %a got %a, ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->i, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 05ad3d9..cb7eb15 100644 (file)
@@ -37,7 +37,7 @@ int main(void)
                        err++;
                }
                d = ulperrl(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s scalbnl(%La, %lld) want %La got %La ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->i, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 29ff800..dae1e20 100644 (file)
@@ -33,7 +33,7 @@ int main(void)
                        err++;
                }
                d = ulperr(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s sqrt(%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 6c3fb04..fb910d0 100644 (file)
@@ -33,7 +33,7 @@ int main(void)
                        err++;
                }
                d = ulperrf(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s sqrtf(%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 24d5b59..ab22eac 100644 (file)
@@ -38,7 +38,7 @@ int main(void)
                        err++;
                }
                d = ulperrl(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s sqrtl(%La) want %La got %La ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 49c50e0..071695b 100644 (file)
@@ -32,7 +32,7 @@ int main(void)
                        err++;
                }
                d = ulperr(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s trunc(%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 1df8781..739a000 100644 (file)
@@ -32,7 +32,7 @@ int main(void)
                        err++;
                }
                d = ulperrf(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s truncf(%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 11125b2..a3b3a7a 100644 (file)
@@ -37,7 +37,7 @@ int main(void)
                        err++;
                }
                d = ulperrl(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s truncl(%La) want %La got %La ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 875203b..d84b0e3 100644 (file)
@@ -116,3 +116,10 @@ static int checkulp(float d, int r)
        return 1;
 }
 
+static int checkcr(long double y, long double ywant, int r)
+{
+       if (isnan(ywant))
+               return isnan(y);
+       return y == ywant;
+}
+