math: fix signed int left shift ub in sqrt
authorSzabolcs Nagy <nsz@port70.net>
Sun, 13 Oct 2019 14:54:31 +0000 (14:54 +0000)
committerRich Felker <dalias@aerifal.cx>
Sun, 13 Oct 2019 21:46:58 +0000 (17:46 -0400)
commite858063070eedb7fe78c37eba5177d8c5cfccfa6
tree096107b70bf29ed69cdb761894a91c230b885fa7
parent716745e00e304a650a8eef57c15fbd326168096e
math: fix signed int left shift ub in sqrt

Both sqrt and sqrtf shifted the signed exponent as signed int to adjust
the bit representation of the result. There are signed right shifts too
in the code but those are implementation defined and are expected to
compile to arithmetic shift on supported compilers and targets.
src/math/sqrt.c
src/math/sqrtf.c