forgot to remove the loop variable
[openssl.git] / crypto / bn / bntest.c
index 8289b39dd6320a26c12f89478346d1a7f25188f5..91563dd22228ad1a314a24c4576f06027f66f7de 100644 (file)
@@ -124,9 +124,7 @@ int main(int argc, char *argv[])
 
        results = 0;
 
-       RAND_seed(rnd_seed, sizeof rnd_seed); /* or BN_rand may fail, and we don't
-                                              * even check its return value
-                                              * (which we should) */
+       RAND_seed(rnd_seed, sizeof rnd_seed); /* or BN_generate_prime may fail */
 
        argc--;
        argv++;
@@ -257,21 +255,17 @@ int test_add(BIO *bp)
        {
        BIGNUM a,b,c;
        int i;
-       int j;
 
        BN_init(&a);
        BN_init(&b);
        BN_init(&c);
 
-       BN_rand(&a,512,0,0);
+       BN_bntest_rand(&a,512,0,0);
        for (i=0; i<num0; i++)
                {
-               BN_rand(&b,450+i,0,0);
+               BN_bntest_rand(&b,450+i,0,0);
                a.neg=rand_neg();
                b.neg=rand_neg();
-               if (bp == NULL)
-                       for (j=0; j<10000; j++)
-                               BN_add(&c,&a,&b);
                BN_add(&c,&a,&b);
                if (bp != NULL)
                        {
@@ -305,7 +299,6 @@ int test_sub(BIO *bp)
        {
        BIGNUM a,b,c;
        int i;
-       int j;
 
        BN_init(&a);
        BN_init(&b);
@@ -315,20 +308,17 @@ int test_sub(BIO *bp)
                {
                if (i < num1)
                        {
-                       BN_rand(&a,512,0,0);
+                       BN_bntest_rand(&a,512,0,0);
                        BN_copy(&b,&a);
                        if (BN_set_bit(&a,i)==0) return(0);
                        BN_add_word(&b,i);
                        }
                else
                        {
-                       BN_rand(&b,400+i-num1,0,0);
+                       BN_bntest_rand(&b,400+i-num1,0,0);
                        a.neg=rand_neg();
                        b.neg=rand_neg();
                        }
-               if (bp == NULL)
-                       for (j=0; j<10000; j++)
-                               BN_sub(&c,&a,&b);
                BN_sub(&c,&a,&b);
                if (bp != NULL)
                        {
@@ -360,7 +350,6 @@ int test_div(BIO *bp, BN_CTX *ctx)
        {
        BIGNUM a,b,c,d,e;
        int i;
-       int j;
 
        BN_init(&a);
        BN_init(&b);
@@ -372,18 +361,15 @@ int test_div(BIO *bp, BN_CTX *ctx)
                {
                if (i < num1)
                        {
-                       BN_rand(&a,400,0,0);
+                       BN_bntest_rand(&a,400,0,0);
                        BN_copy(&b,&a);
                        BN_lshift(&a,&a,i);
                        BN_add_word(&a,i);
                        }
                else
-                       BN_rand(&b,50+3*(i-num1),0,0);
+                       BN_bntest_rand(&b,50+3*(i-num1),0,0);
                a.neg=rand_neg();
                b.neg=rand_neg();
-               if (bp == NULL)
-                       for (j=0; j<100; j++)
-                               BN_div(&d,&c,&a,&b,ctx);
                BN_div(&d,&c,&a,&b,ctx);
                if (bp != NULL)
                        {
@@ -429,7 +415,6 @@ int test_div_recp(BIO *bp, BN_CTX *ctx)
        BIGNUM a,b,c,d,e;
        BN_RECP_CTX recp;
        int i;
-       int j;
 
        BN_RECP_CTX_init(&recp);
        BN_init(&a);
@@ -442,19 +427,16 @@ int test_div_recp(BIO *bp, BN_CTX *ctx)
                {
                if (i < num1)
                        {
-                       BN_rand(&a,400,0,0);
+                       BN_bntest_rand(&a,400,0,0);
                        BN_copy(&b,&a);
                        BN_lshift(&a,&a,i);
                        BN_add_word(&a,i);
                        }
                else
-                       BN_rand(&b,50+3*(i-num1),0,0);
+                       BN_bntest_rand(&b,50+3*(i-num1),0,0);
                a.neg=rand_neg();
                b.neg=rand_neg();
                BN_RECP_CTX_set(&recp,&b,ctx);
-               if (bp == NULL)
-                       for (j=0; j<100; j++)
-                               BN_div_recp(&d,&c,&a,&recp,ctx);
                BN_div_recp(&d,&c,&a,&recp,ctx);
                if (bp != NULL)
                        {
@@ -505,7 +487,6 @@ int test_mul(BIO *bp)
        {
        BIGNUM a,b,c,d,e;
        int i;
-       int j;
        BN_CTX ctx;
 
        BN_CTX_init(&ctx);
@@ -519,16 +500,13 @@ int test_mul(BIO *bp)
                {
                if (i <= num1)
                        {
-                       BN_rand(&a,100,0,0);
-                       BN_rand(&b,100,0,0);
+                       BN_bntest_rand(&a,100,0,0);
+                       BN_bntest_rand(&b,100,0,0);
                        }
                else
-                       BN_rand(&b,i-num1,0,0);
+                       BN_bntest_rand(&b,i-num1,0,0);
                a.neg=rand_neg();
                b.neg=rand_neg();
-               if (bp == NULL)
-                       for (j=0; j<100; j++)
-                               BN_mul(&c,&a,&b,&ctx);
                BN_mul(&c,&a,&b,&ctx);
                if (bp != NULL)
                        {
@@ -563,7 +541,6 @@ int test_sqr(BIO *bp, BN_CTX *ctx)
        {
        BIGNUM a,c,d,e;
        int i;
-       int j;
 
        BN_init(&a);
        BN_init(&c);
@@ -572,11 +549,8 @@ int test_sqr(BIO *bp, BN_CTX *ctx)
 
        for (i=0; i<num0; i++)
                {
-               BN_rand(&a,40+i*10,0,0);
+               BN_bntest_rand(&a,40+i*10,0,0);
                a.neg=rand_neg();
-               if (bp == NULL)
-                       for (j=0; j<100; j++)
-                               BN_sqr(&c,&a,ctx);
                BN_sqr(&c,&a,ctx);
                if (bp != NULL)
                        {
@@ -610,7 +584,6 @@ int test_mont(BIO *bp, BN_CTX *ctx)
        BIGNUM a,b,c,d,A,B;
        BIGNUM n;
        int i;
-       int j;
        BN_MONT_CTX *mont;
 
        BN_init(&a);
@@ -623,15 +596,15 @@ int test_mont(BIO *bp, BN_CTX *ctx)
 
        mont=BN_MONT_CTX_new();
 
-       BN_rand(&a,100,0,0); /**/
-       BN_rand(&b,100,0,0); /**/
+       BN_bntest_rand(&a,100,0,0); /**/
+       BN_bntest_rand(&b,100,0,0); /**/
        for (i=0; i<num2; i++)
                {
                int bits = (200*(i+1))/num2;
 
                if (bits == 0)
                        continue;
-               BN_rand(&n,bits,0,1);
+               BN_bntest_rand(&n,bits,0,1);
                BN_MONT_CTX_set(mont,&n,ctx);
 
                BN_nnmod(&a,&a,&n,ctx);
@@ -640,9 +613,6 @@ int test_mont(BIO *bp, BN_CTX *ctx)
                BN_to_montgomery(&A,&a,mont,ctx);
                BN_to_montgomery(&B,&b,mont,ctx);
 
-               if (bp == NULL)
-                       for (j=0; j<100; j++)
-                               BN_mod_mul_montgomery(&c,&A,&B,mont,ctx);/**/
                BN_mod_mul_montgomery(&c,&A,&B,mont,ctx);/**/
                BN_from_montgomery(&A,&c,mont,ctx);/**/
                if (bp != NULL)
@@ -688,7 +658,6 @@ int test_mod(BIO *bp, BN_CTX *ctx)
        {
        BIGNUM *a,*b,*c,*d,*e;
        int i;
-       int j;
 
        a=BN_new();
        b=BN_new();
@@ -696,15 +665,12 @@ int test_mod(BIO *bp, BN_CTX *ctx)
        d=BN_new();
        e=BN_new();
 
-       BN_rand(a,1024,0,0); /**/
+       BN_bntest_rand(a,1024,0,0); /**/
        for (i=0; i<num0; i++)
                {
-               BN_rand(b,450+i*10,0,0); /**/
+               BN_bntest_rand(b,450+i*10,0,0); /**/
                a->neg=rand_neg();
                b->neg=rand_neg();
-               if (bp == NULL)
-                       for (j=0; j<100; j++)
-                               BN_mod(c,a,b,ctx);/**/
                BN_mod(c,a,b,ctx);/**/
                if (bp != NULL)
                        {
@@ -745,17 +711,13 @@ int test_mod_mul(BIO *bp, BN_CTX *ctx)
        d=BN_new();
        e=BN_new();
 
-       BN_rand(c,1024,0,0); /**/
+       BN_bntest_rand(c,1024,0,0); /**/
        for (i=0; i<num0; i++)
                {
-               BN_rand(a,475+i*10,0,0); /**/
-               BN_rand(b,425+i*11,0,0); /**/
+               BN_bntest_rand(a,475+i*10,0,0); /**/
+               BN_bntest_rand(b,425+i*11,0,0); /**/
                a->neg=rand_neg();
                b->neg=rand_neg();
-       /*      if (bp == NULL)
-                       for (j=0; j<100; j++)
-                               BN_mod_mul(d,a,b,c,ctx);*/ /**/
-
                if (!BN_mod_mul(e,a,b,c,ctx))
                        {
                        unsigned long l;
@@ -818,11 +780,11 @@ int test_mod_exp(BIO *bp, BN_CTX *ctx)
        d=BN_new();
        e=BN_new();
 
-       BN_rand(c,30,0,1); /* must be odd for montgomery */
+       BN_bntest_rand(c,30,0,1); /* must be odd for montgomery */
        for (i=0; i<num2; i++)
                {
-               BN_rand(a,20+i*5,0,0); /**/
-               BN_rand(b,2+i,0,0); /**/
+               BN_bntest_rand(a,20+i*5,0,0); /**/
+               BN_bntest_rand(b,2+i,0,0); /**/
 
                if (!BN_mod_exp(d,a,b,c,ctx))
                        return(00);
@@ -872,8 +834,8 @@ int test_exp(BIO *bp, BN_CTX *ctx)
 
        for (i=0; i<num2; i++)
                {
-               BN_rand(a,20+i*5,0,0); /**/
-               BN_rand(b,2+i,0,0); /**/
+               BN_bntest_rand(a,20+i*5,0,0); /**/
+               BN_bntest_rand(b,2+i,0,0); /**/
 
                if (!BN_exp(d,a,b,ctx))
                        return(00);
@@ -924,7 +886,7 @@ static void genprime_cb(int p, int n, void *arg)
 
 int test_kron(BIO *bp, BN_CTX *ctx)
        {
-       BIGNUM *a,*b,*r;
+       BIGNUM *a,*b,*r,*t;
        int i;
        int legendre, kronecker;
        int ret = 0;
@@ -932,7 +894,8 @@ int test_kron(BIO *bp, BN_CTX *ctx)
        a = BN_new();
        b = BN_new();
        r = BN_new();
-       if (a == NULL || b == NULL || r == NULL) goto err;
+       t = BN_new();
+       if (a == NULL || b == NULL || r == NULL || t == NULL) goto err;
        
        /* We test BN_kronecker(a, b, ctx) just for  b  odd (Jacobi symbol).
         * In this case we know that if  b  is prime, then BN_kronecker(a, b, ctx)
@@ -948,58 +911,20 @@ int test_kron(BIO *bp, BN_CTX *ctx)
 
        for (i = 0; i < num0; i++)
                {
-               if (!BN_rand(a, 512, 0, 0)) goto err;
+               if (!BN_bntest_rand(a, 512, 0, 0)) goto err;
                a->neg = rand_neg();
 
-               /* r := (b-1)/2  (note that b is odd) */
-               if (!BN_copy(r, b)) goto err;
-               if (!BN_sub_word(r, 1)) goto err;
-               if (!BN_rshift1(r, r)) goto err;
-               /* r := a^r mod b */
-#if 0 /* These three variants should produce the same result, but with
-       * BN_mod_exp_recp or BN_mod_exp_simple, the test fails with
-       * the "Legendre symbol computation failed" error.
-       * (Platform: debug-solaris-sparcv9-gcc)
-       */
-               if (!BN_mod_exp(r, a, r, b, ctx)) goto err;
-#elif 0
-               if (!BN_mod_exp_recp(r, a, r, b, ctx)) goto err;
-#else
-               if (!BN_mod_exp_simple(r, a, r, b, ctx)) goto err;
-#endif
-
-/*
-On my Linux system, all variants of BN_mod_exp appear to work here,
-but a SIGSEGV occurs later:
-
-Program received signal SIGSEGV, Segmentation fault.
-0x40066e59 in   ()
-(gdb) bt
-#0  0x40066e59 in   ()
-#1  0x40066d3e in   ()
-#2  0x805e64a in CRYPTO_free (str=0x807d968) at mem.c:248
-#3  0x804f68f in bn_expand2 (b=0x807d6b4, words=10) at bn_lib.c:438
-#4  0x8055366 in BN_lshift (r=0x807d6b4, a=0x807d68c, n=63) at bn_shift.c:132
-#5  0x804ca7a in BN_div (dv=0x0, rm=0x807d68c, num=0x807d68c, 
-    divisor=0x807d678, ctx=0x807d610) at bn_div.c:205
-#6  0x805391a in BN_nnmod (r=0x807d68c, m=0x807d68c, d=0x807d678, 
-    ctx=0x807d610) at bn_mod.c:132
-#7  0x8056198 in BN_kronecker (a=0x807d664, b=0x807d848, ctx=0x807d610)
-    at bn_kron.c:170
-#8  0x805d351 in BN_mod_sqrt (in=0x807d860, a=0x807d830, p=0x807d848, 
-    ctx=0x807d610) at bn_sqrt.c:165
-#9  0x804b365 in test_sqrt (bp=0x807d7e8, ctx=0x807d610) at bntest.c:1057
-#10 0x8048da8 in main (argc=0, argv=0xbffffbb8) at bntest.c:240
-#11 0x4002f78a in   ()
-
-These symptoms indicate that the error probably happens earlier
-in the program.  I've disabled the calls to all earlier test_...
-functions and replaced BN_generate_prime by BN_set_word(.., 65537)
-in bntest.c, but this does not help.
- */
+               /* t := (b-1)/2  (note that b is odd) */
+               if (!BN_copy(t, b)) goto err;
+               if (!BN_sub_word(t, 1)) goto err;
+               if (!BN_rshift1(t, t)) goto err;
+               /* r := a^t mod b */
+               if (!BN_mod_exp(r, a, t, b, ctx)) goto err;
 
                if (BN_is_word(r, 1))
                        legendre = 1;
+               else if (BN_is_zero(r))
+                       legendre = 0;
                else
                        {
                        if (!BN_add_word(r, 1)) goto err;
@@ -1010,7 +935,7 @@ in bntest.c, but this does not help.
                                }
                        legendre = -1;
                        }
-
+               
                kronecker = BN_kronecker(a, b, ctx);
                if (kronecker < -1) goto err;
                
@@ -1018,7 +943,7 @@ in bntest.c, but this does not help.
                        {
                        fprintf(stderr, "legendre != kronecker; a = ");
                        BN_print_fp(stderr, a);
-                       fprintf(stderr, ", a = ");
+                       fprintf(stderr, ", b = ");
                        BN_print_fp(stderr, b);
                        fprintf(stderr, "\n");
                        goto err;
@@ -1035,6 +960,7 @@ in bntest.c, but this does not help.
        if (a != NULL) BN_free(a);
        if (b != NULL) BN_free(b);
        if (r != NULL) BN_free(r);
+       if (t != NULL) BN_free(t);
        return ret;
        }
 
@@ -1070,10 +996,10 @@ int test_sqrt(BIO *bp, BN_CTX *ctx)
                        {
                        /* construct 'a' such that it is a square modulo p,
                         * but in general not a proper square and not reduced modulo p */
-                       if (!BN_rand(r, 256, 0, 3)) goto err;
+                       if (!BN_bntest_rand(r, 256, 0, 3)) goto err;
                        if (!BN_nnmod(r, r, p, ctx)) goto err;
                        if (!BN_mod_sqr(r, r, p, ctx)) goto err;
-                       if (!BN_rand(a, 256, 0, 3)) goto err;
+                       if (!BN_bntest_rand(a, 256, 0, 3)) goto err;
                        if (!BN_nnmod(a, a, p, ctx)) goto err;
                        if (!BN_mod_sqr(a, a, p, ctx)) goto err;
                        if (!BN_mul(a, a, r, ctx)) goto err;
@@ -1125,7 +1051,7 @@ int test_lshift(BIO *bp,BN_CTX *ctx,BIGNUM *a_)
        else
            {
            a=BN_new();
-           BN_rand(a,200,0,0); /**/
+           BN_bntest_rand(a,200,0,0); /**/
            a->neg=rand_neg();
            }
        for (i=0; i<num0; i++)
@@ -1177,7 +1103,7 @@ int test_lshift1(BIO *bp)
        b=BN_new();
        c=BN_new();
 
-       BN_rand(a,200,0,0); /**/
+       BN_bntest_rand(a,200,0,0); /**/
        a->neg=rand_neg();
        for (i=0; i<num0; i++)
                {
@@ -1221,7 +1147,7 @@ int test_rshift(BIO *bp,BN_CTX *ctx)
        e=BN_new();
        BN_one(c);
 
-       BN_rand(a,200,0,0); /**/
+       BN_bntest_rand(a,200,0,0); /**/
        a->neg=rand_neg();
        for (i=0; i<num0; i++)
                {
@@ -1264,7 +1190,7 @@ int test_rshift1(BIO *bp)
        b=BN_new();
        c=BN_new();
 
-       BN_rand(a,200,0,0); /**/
+       BN_bntest_rand(a,200,0,0); /**/
        a->neg=rand_neg();
        for (i=0; i<num0; i++)
                {