]> git.proxmox.com Git - qemu.git/commit
fpu: Correct edgecase in float64_muladd
authorPeter Maydell <peter.maydell@linaro.org>
Fri, 12 Apr 2013 15:37:52 +0000 (16:37 +0100)
committerAurelien Jarno <aurelien@aurel32.net>
Mon, 15 Apr 2013 14:06:15 +0000 (16:06 +0200)
commite3d142d073d02f0a3a4aad79eb838c15b6f99c01
treee65094d23a3e50f776f83d0276b11d2af884f5b7
parentdb08dc213ba87d16c34c235f5c83f70f0239f023
fpu: Correct edgecase in float64_muladd

In handling float64_muladd, if we end up doing a subtraction of the
product and c, and the 128 bit result of this subtraction happens to
have its most significant bit in bit 63, we weren't handling this
correctly when attempting to normalize to put the most significant
bit into bit 126.  We would end up doing a right shift by a negative
number (undefined behaviour in C) so at best we would return an
incorrect result to the guest.  MSB in bit 63 has to be handled as a
special case separately from MSB in 0..62 and MSB in 63..126.  (MSB
in 127 is not possible.)

Signed-off-by: Peter Maydell <peter.maydell@linaro.org>
Reviewed-by: Aurelien Jarno <aurelien@aurel32.net>
Signed-off-by: Aurelien Jarno <aurelien@aurel32.net>
fpu/softfloat.c