non-nearest rounding ulp check
authorSzabolcs Nagy <nsz@port70.net>
Sat, 1 Sep 2018 06:15:00 +0000 (06:15 +0000)
committerSzabolcs Nagy <nsz@port70.net>
Sat, 7 Sep 2019 15:35:32 +0000 (15:35 +0000)
src/common/mtest.h

index d390d03..706c1ba 100644 (file)
@@ -122,7 +122,8 @@ static int checkulp(float d, int r)
        // TODO: we only care about >=1.5 ulp errors for now, should be 1.0
        if (r == RN)
                return fabsf(d) < 1.5;
-       return 1;
+       // accept larger error in non-nearest rounding mode
+       return fabsf(d) < 3.0;
 }
 
 static int checkcr(long double y, long double ywant, int r)