math: fdim is correctly rounded
authorSzabolcs Nagy <nsz@port70.net>
Thu, 1 Nov 2012 13:52:04 +0000 (14:52 +0100)
committerSzabolcs Nagy <nsz@port70.net>
Thu, 1 Nov 2012 13:52:04 +0000 (14:52 +0100)
src/math/fdim.c
src/math/fdimf.c
src/math/fdiml.c

index c3177de..c5680cc 100644 (file)
@@ -32,7 +32,7 @@ int main(void)
                        err++;
                }
                d = ulperr(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s fdim(%a,%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 56dac2f..d7792bf 100644 (file)
@@ -32,7 +32,7 @@ int main(void)
                        err++;
                }
                d = ulperrf(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s fdimf(%a,%a) want %a got %a ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->y, y, d, d-p->dy, p->dy);
                        err++;
index 9f07940..9f6eb95 100644 (file)
@@ -37,7 +37,7 @@ int main(void)
                        err++;
                }
                d = ulperrl(y, p->y, p->dy);
-               if (!checkulp(d, p->r)) {
+               if (!checkcr(y, p->y, p->r)) {
                        printf("%s:%d: %s fdiml(%La,%La) want %La got %La ulperr %.3f = %a + %a\n",
                                p->file, p->line, rstr(p->r), p->x, p->x2, p->y, y, d, d-p->dy, p->dy);
                        err++;