Math::BigInt does floored divs, BN_div does truncated div, compensate
[openssl.git] / test / recipes / bc.pl
index 29a4a8a84a0789064d04a86e4fd54ac6a70c2f0e..f7d4dc681d7d95431cb67bc7df56e34f53bf7ca4 100644 (file)
@@ -46,7 +46,16 @@ sub __multiplier {
        if ($operator eq "*") {
            $operand1->bmul($operand2);
        } elsif ($operator eq "/") {
+           # Math::BigInt->bdiv() is documented to do floored division,
+           # i.e. 1 / -4 = -1, while bc and OpenSSL BN_div do truncated
+           # division, i.e. 1 / -4 = 0.  We need to make the operation
+           # work like OpenSSL's BN_div to be able to verify.
+           my $neg = ($operand1->is_neg()
+                      ? !$operand2->is_neg() : $operand2->is_neg());
+           $operand1->babs();
+           $operand2->babs();
            $operand1->bdiv($operand2);
+           if ($neg) { $operand1->bneg(); }
        } elsif ($operator eq "%") {
            # Here's a bit of a quirk...
            # With OpenSSL's BN, as well as bc, the result of -10 % 3 is -1