fix signed overflows at most-negative values in ato(i|l|ll)
authorRich Felker <dalias@aerifal.cx>
Fri, 11 Nov 2011 01:44:44 +0000 (20:44 -0500)
committerRich Felker <dalias@aerifal.cx>
Fri, 11 Nov 2011 01:44:44 +0000 (20:44 -0500)
patch by Pascal Cuoq (with minor tweaks to comments)

src/stdlib/atoi.c
src/stdlib/atol.c
src/stdlib/atoll.c

index 648b154..9baca7b 100644 (file)
@@ -9,7 +9,8 @@ int atoi(const char *s)
        case '-': neg=1;
        case '+': s++;
        }
+       /* Compute n as a negative number to avoid overflow on INT_MIN */
        while (isdigit(*s))
-               n = 10*n + *s++ - '0';
-       return neg ? -n : n;
+               n = 10*n - (*s++ - '0');
+       return neg ? n : -n;
 }
index 9c91bba..140ea3e 100644 (file)
@@ -10,7 +10,8 @@ long atol(const char *s)
        case '-': neg=1;
        case '+': s++;
        }
+       /* Compute n as a negative number to avoid overflow on LONG_MIN */
        while (isdigit(*s))
-               n = 10*n + *s++ - '0';
-       return neg ? -n : n;
+               n = 10*n - (*s++ - '0');
+       return neg ? n : -n;
 }
index 0e03e0a..b693048 100644 (file)
@@ -10,7 +10,8 @@ long long atoll(const char *s)
        case '-': neg=1;
        case '+': s++;
        }
+       /* Compute n as a negative number to avoid overflow on LLONG_MIN */
        while (isdigit(*s))
-               n = 10*n + *s++ - '0';
-       return neg ? -n : n;
+               n = 10*n - (*s++ - '0');
+       return neg ? n : -n;
 }