Fix crash in BN_rshift.

[openssl.git] / crypto / bn / bn_shift.c

diff --git a/crypto/bn/bn_shift.c b/crypto/bn/bn_shift.c
index 37c6988da3dfdb1d358855a1a1d3802e3d554837..c4d301afc4675b7739ede6517f3cebcde52a285a 100644 (file)
--- a/crypto/bn/bn_shift.c
+++ b/crypto/bn/bn_shift.c
@@ -65,6 +65,9 @@ int BN_lshift1(BIGNUM *r, const BIGNUM *a)
        register BN_ULONG *ap,*rp,t,c;
        int i;
 
+       bn_check_top(r);
+       bn_check_top(a);
+
        if (r != a)
                {
                r->neg=a->neg;
@@ -89,6 +92,7 @@ int BN_lshift1(BIGNUM *r, const BIGNUM *a)
                *rp=1;
                r->top++;
                }
+       bn_check_top(r);
        return(1);
        }
 
@@ -97,6 +101,9 @@ int BN_rshift1(BIGNUM *r, const BIGNUM *a)
        BN_ULONG *ap,*rp,t,c;
        int i;
 
+       bn_check_top(r);
+       bn_check_top(a);
+
        if (BN_is_zero(a))
                {
                BN_zero(r);
@@ -117,7 +124,8 @@ int BN_rshift1(BIGNUM *r, const BIGNUM *a)
                rp[i]=((t>>1)&BN_MASK2)|c;
                c=(t&1)?BN_TBIT:0;
                }
-       bn_fix_top(r);
+       bn_correct_top(r);
+       bn_check_top(r);
        return(1);
        }
 
@@ -127,6 +135,9 @@ int BN_lshift(BIGNUM *r, const BIGNUM *a, int n)
        BN_ULONG *t,*f;
        BN_ULONG l;
 
+       bn_check_top(r);
+       bn_check_top(a);
+
        r->neg=a->neg;
        nw=n/BN_BITS2;
        if (bn_wexpand(r,a->top+nw+1) == NULL) return(0);
@@ -149,7 +160,8 @@ int BN_lshift(BIGNUM *r, const BIGNUM *a, int n)
 /*     for (i=0; i<nw; i++)
                t[i]=0;*/
        r->top=a->top+nw+1;
-       bn_fix_top(r);
+       bn_correct_top(r);
+       bn_check_top(r);
        return(1);
        }
 
@@ -159,10 +171,13 @@ int BN_rshift(BIGNUM *r, const BIGNUM *a, int n)
        BN_ULONG *t,*f;
        BN_ULONG l,tmp;
 
+       bn_check_top(r);
+       bn_check_top(a);
+
        nw=n/BN_BITS2;
        rb=n%BN_BITS2;
        lb=BN_BITS2-rb;
-       if (nw > a->top || a->top == 0)
+       if (nw >= a->top || a->top == 0)
                {
                BN_zero(r);
                return(1);
@@ -172,6 +187,11 @@ int BN_rshift(BIGNUM *r, const BIGNUM *a, int n)
                r->neg=a->neg;
                if (bn_wexpand(r,a->top-nw+1) == NULL) return(0);
                }
+       else
+               {
+               if (n == 0)
+                       return 1; /* or the copying loop will go berserk */
+               }
 
        f= &(a->d[nw]);
        t=r->d;
@@ -180,13 +200,13 @@ int BN_rshift(BIGNUM *r, const BIGNUM *a, int n)
 
        if (rb == 0)
                {
-               for (i=j+1; i > 0; i--)
+               for (i=j; i != 0; i--)
                        *(t++)= *(f++);
                }
        else
                {
                l= *(f++);
-               for (i=1; i<j; i++)
+               for (i=j-1; i != 0; i--)
                        {
                        tmp =(l>>rb)&BN_MASK2;
                        l= *(f++);
@@ -194,7 +214,7 @@ int BN_rshift(BIGNUM *r, const BIGNUM *a, int n)
                        }
                *(t++) =(l>>rb)&BN_MASK2;
                }
-       *t=0;
-       bn_fix_top(r);
+       bn_correct_top(r);
+       bn_check_top(r);
        return(1);
        }