math: correct-rounding check in remainder functions and 1ulp check in hypot
authorSzabolcs Nagy <nsz@port70.net>
Thu, 5 Sep 2013 11:33:07 +0000 (11:33 +0000)
committerSzabolcs Nagy <nsz@port70.net>
Thu, 5 Sep 2013 11:33:07 +0000 (11:33 +0000)
12 files changed:
src/math/fmod.c
src/math/fmodf.c
src/math/fmodl.c
src/math/hypot.c
src/math/hypotf.c
src/math/hypotl.c
src/math/remainder.c
src/math/remainderf.c
src/math/remainderl.c
src/math/remquo.c
src/math/remquof.c
src/math/remquol.c

index 3ba4427..76c2634 100644 (file)
@@ -34,7 +34,7 @@ int main(void)
                        err++;
                }
                d = ulperr(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s fmod(%a,%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 9a4aa52..1a70350 100644 (file)
@@ -34,7 +34,7 @@ int main(void)
                        err++;
                }
                d = ulperrf(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s fmodf(%a,%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->y, y, d, d-p->dy, p->dy);
                        err++;
index e10cd8a..3dd7f4f 100644 (file)
@@ -40,7 +40,7 @@ int main(void)
                        err++;
                }
                d = ulperrl(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s fmodl(%La,%La) want %La got %La ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 9890ed4..8c40b97 100644 (file)
@@ -34,7 +34,7 @@ int main(void)
                        err++;
                }
                d = ulperr(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkulp(d, p->r) || (p->r == RN && fabs(d) >= 1.0)) {
                        printf("%s:%d: %s hypot(%a,%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->y, y, d, d-p->dy, p->dy);
                        err++;
index bd5830b..19d8525 100644 (file)
@@ -34,7 +34,7 @@ int main(void)
                        err++;
                }
                d = ulperrf(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkulp(d, p->r) || (p->r == RN && fabs(d) >= 1.0)) {
                        printf("%s:%d: %s hypotf(%a,%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 27ca819..cae06dd 100644 (file)
@@ -40,7 +40,7 @@ int main(void)
                        err++;
                }
                d = ulperrl(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkulp(d, p->r) || (p->r == RN && fabs(d) >= 1.0)) {
                        printf("%s:%d: %s hypotl(%La,%La) want %La got %La ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->y, y, d, d-p->dy, p->dy);
                        err++;
index f8278ba..2debbb7 100644 (file)
@@ -33,7 +33,7 @@ int main(void)
                        err++;
                }
                d = ulperr(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s remainder(%a,%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->y, y, d, d-p->dy, p->dy);
                        err++;
index a06f2bd..a648b04 100644 (file)
@@ -33,7 +33,7 @@ int main(void)
                        err++;
                }
                d = ulperrf(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s remainderf(%a,%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 83cedc1..b028519 100644 (file)
@@ -39,7 +39,7 @@ int main(void)
                        err++;
                }
                d = ulperrl(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s remainderl(%La,%La) want %La got %La ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->y, y, d, d-p->dy, p->dy);
                        err++;
index afcab78..8694688 100644 (file)
@@ -33,7 +33,7 @@ int main(void)
                        err++;
                }
                d = ulperr(y, p->y, p->dy);
-               if (!checkulp(d, p->r) ||
+               if (!checkcr(y, p->y, p->r) ||
                (!isnan(p->y) && (yi & 7) != (p->i & 7)) ||
                (!isnan(p->y) && (yi < 0) != (p->i < 0))) {
                        printf("%s:%d: %s remquo(%a,%a) want %a,%lld got %a,%d ulperr %.3f = %a + %a\n",
index f27402a..46cc9d5 100644 (file)
@@ -33,7 +33,7 @@ int main(void)
                        err++;
                }
                d = ulperr(y, p->y, p->dy);
-               if (!checkulp(d, p->r) ||
+               if (!checkcr(y, p->y, p->r) ||
                (!isnan(p->y) && (yi & 7) != (p->i & 7)) ||
                (!isnan(p->y) && (yi < 0) != (p->i < 0))) {
                        printf("%s:%d: %s remquof(%a,%a) want %a,%lld got %a,%d ulperr %.3f = %a + %a\n",
index 257b044..cf64126 100644 (file)
@@ -33,7 +33,7 @@ int main(void)
                        err++;
                }
                d = ulperr(y, p->y, p->dy);
-               if (!checkulp(d, p->r) ||
+               if (!checkcr(y, p->y, p->r) ||
                (!isnan(p->y) && (yi & 7) != (p->i & 7)) ||
                (!isnan(p->y) && (yi < 0) != (p->i < 0))) {
                        printf("%s:%d: %s remquol(%La,%La) want %La,%lld got %La,%d ulperr %.3f = %a + %a\n",