crypto/dsa/dsa_gen.c

   1 /* crypto/dsa/dsa_gen.c */
   2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
   3  * All rights reserved.
   4  *
   5  * This package is an SSL implementation written
   6  * by Eric Young (eay@cryptsoft.com).
   7  * The implementation was written so as to conform with Netscapes SSL.
   8  *
   9  * This library is free for commercial and non-commercial use as long as
  10  * the following conditions are aheared to.  The following conditions
  11  * apply to all code found in this distribution, be it the RC4, RSA,
  12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
  13  * included with this distribution is covered by the same copyright terms
  14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
  15  *
  16  * Copyright remains Eric Young's, and as such any Copyright notices in
  17  * the code are not to be removed.
  18  * If this package is used in a product, Eric Young should be given attribution
  19  * as the author of the parts of the library used.
  20  * This can be in the form of a textual message at program startup or
  21  * in documentation (online or textual) provided with the package.
  22  *
  23  * Redistribution and use in source and binary forms, with or without
  24  * modification, are permitted provided that the following conditions
  25  * are met:
  26  * 1. Redistributions of source code must retain the copyright
  27  *    notice, this list of conditions and the following disclaimer.
  28  * 2. Redistributions in binary form must reproduce the above copyright
  29  *    notice, this list of conditions and the following disclaimer in the
  30  *    documentation and/or other materials provided with the distribution.
  31  * 3. All advertising materials mentioning features or use of this software
  32  *    must display the following acknowledgement:
  33  *    "This product includes cryptographic software written by
  34  *     Eric Young (eay@cryptsoft.com)"
  35  *    The word 'cryptographic' can be left out if the rouines from the library
  36  *    being used are not cryptographic related :-).
  37  * 4. If you include any Windows specific code (or a derivative thereof) from
  38  *    the apps directory (application code) you must include an acknowledgement:
  39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
  40  *
  41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
  42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
  45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  51  * SUCH DAMAGE.
  52  *
  53  * The licence and distribution terms for any publically available version or
  54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
  55  * copied and put under another distribution licence
  56  * [including the GNU Public Licence.]
  57  */
  58
  59 #undef GENUINE_DSA
  60
  61 #ifdef GENUINE_DSA
  62 /*
  63  * Parameter generation follows the original release of FIPS PUB 186,
  64  * Appendix 2.2 (i.e. use SHA as defined in FIPS PUB 180)
  65  */
  66 # define HASH    EVP_sha()
  67 #else
  68 /*
  69  * Parameter generation follows the updated Appendix 2.2 for FIPS PUB 186,
  70  * also Appendix 2.2 of FIPS PUB 186-1 (i.e. use SHA as defined in FIPS PUB
  71  * 180-1)
  72  */
  73 # define HASH    EVP_sha1()
  74 #endif
  75
  76 #include <openssl/opensslconf.h> /* To see if OPENSSL_NO_SHA is defined */
  77
  78 #ifndef OPENSSL_NO_SHA
  79
  80 # include <stdio.h>
  81 # include "cryptlib.h"
  82 # include <openssl/evp.h>
  83 # include <openssl/bn.h>
  84 # include <openssl/rand.h>
  85 # include <openssl/sha.h>
  86 # include "dsa_locl.h"
  87
  88 # ifdef OPENSSL_FIPS
  89 /* Workaround bug in prototype */
  90 #  define fips_dsa_builtin_paramgen2 fips_dsa_paramgen_bad
  91 #  include <openssl/fips.h>
  92 # endif
  93
  94 int DSA_generate_parameters_ex(DSA *ret, int bits,
  95                                const unsigned char *seed_in, int seed_len,
  96                                int *counter_ret, unsigned long *h_ret,
  97                                BN_GENCB *cb)
  98 {
  99 # ifdef OPENSSL_FIPS
 100     if (FIPS_mode() && !(ret->meth->flags & DSA_FLAG_FIPS_METHOD)
 101         && !(ret->flags & DSA_FLAG_NON_FIPS_ALLOW)) {
 102         DSAerr(DSA_F_DSA_GENERATE_PARAMETERS_EX, DSA_R_NON_FIPS_DSA_METHOD);
 103         return 0;
 104     }
 105 # endif
 106     if (ret->meth->dsa_paramgen)
 107         return ret->meth->dsa_paramgen(ret, bits, seed_in, seed_len,
 108                                        counter_ret, h_ret, cb);
 109 # ifdef OPENSSL_FIPS
 110     else if (FIPS_mode()) {
 111         return FIPS_dsa_generate_parameters_ex(ret, bits,
 112                                                seed_in, seed_len,
 113                                                counter_ret, h_ret, cb);
 114     }
 115 # endif
 116     else {
 117         const EVP_MD *evpmd;
 118         size_t qbits = bits >= 2048 ? 256 : 160;
 119
 120         if (bits >= 2048) {
 121             qbits = 256;
 122             evpmd = EVP_sha256();
 123         } else {
 124             qbits = 160;
 125             evpmd = EVP_sha1();
 126         }
 127
 128         return dsa_builtin_paramgen(ret, bits, qbits, evpmd,
 129                                     seed_in, seed_len, NULL, counter_ret,
 130                                     h_ret, cb);
 131     }
 132 }
 133
 134 int dsa_builtin_paramgen(DSA *ret, size_t bits, size_t qbits,
 135                          const EVP_MD *evpmd, const unsigned char *seed_in,
 136                          size_t seed_len, unsigned char *seed_out,
 137                          int *counter_ret, unsigned long *h_ret, BN_GENCB *cb)
 138 {
 139     int ok = 0;
 140     unsigned char seed[SHA256_DIGEST_LENGTH];
 141     unsigned char md[SHA256_DIGEST_LENGTH];
 142     unsigned char buf[SHA256_DIGEST_LENGTH], buf2[SHA256_DIGEST_LENGTH];
 143     BIGNUM *r0, *W, *X, *c, *test;
 144     BIGNUM *g = NULL, *q = NULL, *p = NULL;
 145     BN_MONT_CTX *mont = NULL;
 146     int i, k, n = 0, m = 0, qsize = qbits >> 3;
 147     int counter = 0;
 148     int r = 0;
 149     BN_CTX *ctx = NULL;
 150     unsigned int h = 2;
 151
 152     if (qsize != SHA_DIGEST_LENGTH && qsize != SHA224_DIGEST_LENGTH &&
 153         qsize != SHA256_DIGEST_LENGTH)
 154         /* invalid q size */
 155         return 0;
 156
 157     if (evpmd == NULL)
 158         /* use SHA1 as default */
 159         evpmd = EVP_sha1();
 160
 161     if (bits < 512)
 162         bits = 512;
 163
 164     bits = (bits + 63) / 64 * 64;
 165
 166     /*
 167      * NB: seed_len == 0 is special case: copy generated seed to seed_in if
 168      * it is not NULL.
 169      */
 170     if (seed_len && (seed_len < (size_t)qsize))
 171         seed_in = NULL;         /* seed buffer too small -- ignore */
 172     if (seed_len > (size_t)qsize)
 173         seed_len = qsize;       /* App. 2.2 of FIPS PUB 186 allows larger
 174                                  * SEED, but our internal buffers are
 175                                  * restricted to 160 bits */
 176     if (seed_in != NULL)
 177         memcpy(seed, seed_in, seed_len);
 178
 179     if ((mont = BN_MONT_CTX_new()) == NULL)
 180         goto err;
 181
 182     if ((ctx = BN_CTX_new()) == NULL)
 183         goto err;
 184
 185     BN_CTX_start(ctx);
 186
 187     r0 = BN_CTX_get(ctx);
 188     g = BN_CTX_get(ctx);
 189     W = BN_CTX_get(ctx);
 190     q = BN_CTX_get(ctx);
 191     X = BN_CTX_get(ctx);
 192     c = BN_CTX_get(ctx);
 193     p = BN_CTX_get(ctx);
 194     test = BN_CTX_get(ctx);
 195
 196     if (!BN_lshift(test, BN_value_one(), bits - 1))
 197         goto err;
 198
 199     for (;;) {
 200         for (;;) {              /* find q */
 201             int seed_is_random;
 202
 203             /* step 1 */
 204             if (!BN_GENCB_call(cb, 0, m++))
 205                 goto err;
 206
 207             if (!seed_len || !seed_in) {
 208                 if (RAND_pseudo_bytes(seed, qsize) < 0)
 209                     goto err;
 210                 seed_is_random = 1;
 211             } else {
 212                 seed_is_random = 0;
 213                 seed_len = 0;   /* use random seed if 'seed_in' turns out to
 214                                  * be bad */
 215             }
 216             memcpy(buf, seed, qsize);
 217             memcpy(buf2, seed, qsize);
 218             /* precompute "SEED + 1" for step 7: */
 219             for (i = qsize - 1; i >= 0; i--) {
 220                 buf[i]++;
 221                 if (buf[i] != 0)
 222                     break;
 223             }
 224
 225             /* step 2 */
 226             if (!EVP_Digest(seed, qsize, md, NULL, evpmd, NULL))
 227                 goto err;
 228             if (!EVP_Digest(buf, qsize, buf2, NULL, evpmd, NULL))
 229                 goto err;
 230             for (i = 0; i < qsize; i++)
 231                 md[i] ^= buf2[i];
 232
 233             /* step 3 */
 234             md[0] |= 0x80;
 235             md[qsize - 1] |= 0x01;
 236             if (!BN_bin2bn(md, qsize, q))
 237                 goto err;
 238
 239             /* step 4 */
 240             r = BN_is_prime_fasttest_ex(q, DSS_prime_checks, ctx,
 241                                         seed_is_random, cb);
 242             if (r > 0)
 243                 break;
 244             if (r != 0)
 245                 goto err;
 246
 247             /* do a callback call */
 248             /* step 5 */
 249         }
 250
 251         if (!BN_GENCB_call(cb, 2, 0))
 252             goto err;
 253         if (!BN_GENCB_call(cb, 3, 0))
 254             goto err;
 255
 256         /* step 6 */
 257         counter = 0;
 258         /* "offset = 2" */
 259
 260         n = (bits - 1) / 160;
 261
 262         for (;;) {
 263             if ((counter != 0) && !BN_GENCB_call(cb, 0, counter))
 264                 goto err;
 265
 266             /* step 7 */
 267             BN_zero(W);
 268             /* now 'buf' contains "SEED + offset - 1" */
 269             for (k = 0; k <= n; k++) {
 270                 /*
 271                  * obtain "SEED + offset + k" by incrementing:
 272                  */
 273                 for (i = qsize - 1; i >= 0; i--) {
 274                     buf[i]++;
 275                     if (buf[i] != 0)
 276                         break;
 277                 }
 278
 279                 if (!EVP_Digest(buf, qsize, md, NULL, evpmd, NULL))
 280                     goto err;
 281
 282                 /* step 8 */
 283                 if (!BN_bin2bn(md, qsize, r0))
 284                     goto err;
 285                 if (!BN_lshift(r0, r0, (qsize << 3) * k))
 286                     goto err;
 287                 if (!BN_add(W, W, r0))
 288                     goto err;
 289             }
 290
 291             /* more of step 8 */
 292             if (!BN_mask_bits(W, bits - 1))
 293                 goto err;
 294             if (!BN_copy(X, W))
 295                 goto err;
 296             if (!BN_add(X, X, test))
 297                 goto err;
 298
 299             /* step 9 */
 300             if (!BN_lshift1(r0, q))
 301                 goto err;
 302             if (!BN_mod(c, X, r0, ctx))
 303                 goto err;
 304             if (!BN_sub(r0, c, BN_value_one()))
 305                 goto err;
 306             if (!BN_sub(p, X, r0))
 307                 goto err;
 308
 309             /* step 10 */
 310             if (BN_cmp(p, test) >= 0) {
 311                 /* step 11 */
 312                 r = BN_is_prime_fasttest_ex(p, DSS_prime_checks, ctx, 1, cb);
 313                 if (r > 0)
 314                     goto end;   /* found it */
 315                 if (r != 0)
 316                     goto err;
 317             }
 318
 319             /* step 13 */
 320             counter++;
 321             /* "offset = offset + n + 1" */
 322
 323             /* step 14 */
 324             if (counter >= 4096)
 325                 break;
 326         }
 327     }
 328  end:
 329     if (!BN_GENCB_call(cb, 2, 1))
 330         goto err;
 331
 332     /* We now need to generate g */
 333     /* Set r0=(p-1)/q */
 334     if (!BN_sub(test, p, BN_value_one()))
 335         goto err;
 336     if (!BN_div(r0, NULL, test, q, ctx))
 337         goto err;
 338
 339     if (!BN_set_word(test, h))
 340         goto err;
 341     if (!BN_MONT_CTX_set(mont, p, ctx))
 342         goto err;
 343
 344     for (;;) {
 345         /* g=test^r0%p */
 346         if (!BN_mod_exp_mont(g, test, r0, p, ctx, mont))
 347             goto err;
 348         if (!BN_is_one(g))
 349             break;
 350         if (!BN_add(test, test, BN_value_one()))
 351             goto err;
 352         h++;
 353     }
 354
 355     if (!BN_GENCB_call(cb, 3, 1))
 356         goto err;
 357
 358     ok = 1;
 359  err:
 360     if (ok) {
 361         if (ret->p)
 362             BN_free(ret->p);
 363         if (ret->q)
 364             BN_free(ret->q);
 365         if (ret->g)
 366             BN_free(ret->g);
 367         ret->p = BN_dup(p);
 368         ret->q = BN_dup(q);
 369         ret->g = BN_dup(g);
 370         if (ret->p == NULL || ret->q == NULL || ret->g == NULL) {
 371             ok = 0;
 372             goto err;
 373         }
 374         if (counter_ret != NULL)
 375             *counter_ret = counter;
 376         if (h_ret != NULL)
 377             *h_ret = h;
 378         if (seed_out)
 379             memcpy(seed_out, seed, qsize);
 380     }
 381     if (ctx) {
 382         BN_CTX_end(ctx);
 383         BN_CTX_free(ctx);
 384     }
 385     if (mont != NULL)
 386         BN_MONT_CTX_free(mont);
 387     return ok;
 388 }
 389
 390 # ifdef OPENSSL_FIPS
 391 #  undef fips_dsa_builtin_paramgen2
 392 extern int fips_dsa_builtin_paramgen2(DSA *ret, size_t L, size_t N,
 393                                       const EVP_MD *evpmd,
 394                                       const unsigned char *seed_in,
 395                                       size_t seed_len, int idx,
 396                                       unsigned char *seed_out,
 397                                       int *counter_ret, unsigned long *h_ret,
 398                                       BN_GENCB *cb);
 399 # endif
 400
 401 /*
 402  * This is a parameter generation algorithm for the DSA2 algorithm as
 403  * described in FIPS 186-3.
 404  */
 405
 406 int dsa_builtin_paramgen2(DSA *ret, size_t L, size_t N,
 407                           const EVP_MD *evpmd, const unsigned char *seed_in,
 408                           size_t seed_len, int idx, unsigned char *seed_out,
 409                           int *counter_ret, unsigned long *h_ret,
 410                           BN_GENCB *cb)
 411 {
 412     int ok = -1;
 413     unsigned char *seed = NULL, *seed_tmp = NULL;
 414     unsigned char md[EVP_MAX_MD_SIZE];
 415     int mdsize;
 416     BIGNUM *r0, *W, *X, *c, *test;
 417     BIGNUM *g = NULL, *q = NULL, *p = NULL;
 418     BN_MONT_CTX *mont = NULL;
 419     int i, k, n = 0, m = 0, qsize = N >> 3;
 420     int counter = 0;
 421     int r = 0;
 422     BN_CTX *ctx = NULL;
 423     EVP_MD_CTX mctx;
 424     unsigned int h = 2;
 425
 426 # ifdef OPENSSL_FIPS
 427
 428     if (FIPS_mode())
 429         return fips_dsa_builtin_paramgen2(ret, L, N, evpmd,
 430                                           seed_in, seed_len, idx,
 431                                           seed_out, counter_ret, h_ret, cb);
 432 # endif
 433
 434     EVP_MD_CTX_init(&mctx);
 435
 436     if (evpmd == NULL) {
 437         if (N == 160)
 438             evpmd = EVP_sha1();
 439         else if (N == 224)
 440             evpmd = EVP_sha224();
 441         else
 442             evpmd = EVP_sha256();
 443     }
 444
 445     mdsize = EVP_MD_size(evpmd);
 446     /* If unverificable g generation only don't need seed */
 447     if (!ret->p || !ret->q || idx >= 0) {
 448         if (seed_len == 0)
 449             seed_len = mdsize;
 450
 451         seed = OPENSSL_malloc(seed_len);
 452
 453         if (seed_out)
 454             seed_tmp = seed_out;
 455         else
 456             seed_tmp = OPENSSL_malloc(seed_len);
 457
 458         if (!seed || !seed_tmp)
 459             goto err;
 460
 461         if (seed_in)
 462             memcpy(seed, seed_in, seed_len);
 463
 464     }
 465
 466     if ((ctx = BN_CTX_new()) == NULL)
 467         goto err;
 468
 469     if ((mont = BN_MONT_CTX_new()) == NULL)
 470         goto err;
 471
 472     BN_CTX_start(ctx);
 473     r0 = BN_CTX_get(ctx);
 474     g = BN_CTX_get(ctx);
 475     W = BN_CTX_get(ctx);
 476     X = BN_CTX_get(ctx);
 477     c = BN_CTX_get(ctx);
 478     test = BN_CTX_get(ctx);
 479
 480     /* if p, q already supplied generate g only */
 481     if (ret->p && ret->q) {
 482         p = ret->p;
 483         q = ret->q;
 484         if (idx >= 0)
 485             memcpy(seed_tmp, seed, seed_len);
 486         goto g_only;
 487     } else {
 488         p = BN_CTX_get(ctx);
 489         q = BN_CTX_get(ctx);
 490     }
 491
 492     if (!BN_lshift(test, BN_value_one(), L - 1))
 493         goto err;
 494     for (;;) {
 495         for (;;) {              /* find q */
 496             unsigned char *pmd;
 497             /* step 1 */
 498             if (!BN_GENCB_call(cb, 0, m++))
 499                 goto err;
 500
 501             if (!seed_in) {
 502                 if (RAND_pseudo_bytes(seed, seed_len) < 0)
 503                     goto err;
 504             }
 505             /* step 2 */
 506             if (!EVP_Digest(seed, seed_len, md, NULL, evpmd, NULL))
 507                 goto err;
 508             /* Take least significant bits of md */
 509             if (mdsize > qsize)
 510                 pmd = md + mdsize - qsize;
 511             else
 512                 pmd = md;
 513
 514             if (mdsize < qsize)
 515                 memset(md + mdsize, 0, qsize - mdsize);
 516
 517             /* step 3 */
 518             pmd[0] |= 0x80;
 519             pmd[qsize - 1] |= 0x01;
 520             if (!BN_bin2bn(pmd, qsize, q))
 521                 goto err;
 522
 523             /* step 4 */
 524             r = BN_is_prime_fasttest_ex(q, DSS_prime_checks, ctx,
 525                                         seed_in ? 1 : 0, cb);
 526             if (r > 0)
 527                 break;
 528             if (r != 0)
 529                 goto err;
 530             /* Provided seed didn't produce a prime: error */
 531             if (seed_in) {
 532                 ok = 0;
 533                 DSAerr(DSA_F_DSA_BUILTIN_PARAMGEN2, DSA_R_Q_NOT_PRIME);
 534                 goto err;
 535             }
 536
 537             /* do a callback call */
 538             /* step 5 */
 539         }
 540         /* Copy seed to seed_out before we mess with it */
 541         if (seed_out)
 542             memcpy(seed_out, seed, seed_len);
 543
 544         if (!BN_GENCB_call(cb, 2, 0))
 545             goto err;
 546         if (!BN_GENCB_call(cb, 3, 0))
 547             goto err;
 548
 549         /* step 6 */
 550         counter = 0;
 551         /* "offset = 1" */
 552
 553         n = (L - 1) / (mdsize << 3);
 554
 555         for (;;) {
 556             if ((counter != 0) && !BN_GENCB_call(cb, 0, counter))
 557                 goto err;
 558
 559             /* step 7 */
 560             BN_zero(W);
 561             /* now 'buf' contains "SEED + offset - 1" */
 562             for (k = 0; k <= n; k++) {
 563                 /*
 564                  * obtain "SEED + offset + k" by incrementing:
 565                  */
 566                 for (i = seed_len - 1; i >= 0; i--) {
 567                     seed[i]++;
 568                     if (seed[i] != 0)
 569                         break;
 570                 }
 571
 572                 if (!EVP_Digest(seed, seed_len, md, NULL, evpmd, NULL))
 573                     goto err;
 574
 575                 /* step 8 */
 576                 if (!BN_bin2bn(md, mdsize, r0))
 577                     goto err;
 578                 if (!BN_lshift(r0, r0, (mdsize << 3) * k))
 579                     goto err;
 580                 if (!BN_add(W, W, r0))
 581                     goto err;
 582             }
 583
 584             /* more of step 8 */
 585             if (!BN_mask_bits(W, L - 1))
 586                 goto err;
 587             if (!BN_copy(X, W))
 588                 goto err;
 589             if (!BN_add(X, X, test))
 590                 goto err;
 591
 592             /* step 9 */
 593             if (!BN_lshift1(r0, q))
 594                 goto err;
 595             if (!BN_mod(c, X, r0, ctx))
 596                 goto err;
 597             if (!BN_sub(r0, c, BN_value_one()))
 598                 goto err;
 599             if (!BN_sub(p, X, r0))
 600                 goto err;
 601
 602             /* step 10 */
 603             if (BN_cmp(p, test) >= 0) {
 604                 /* step 11 */
 605                 r = BN_is_prime_fasttest_ex(p, DSS_prime_checks, ctx, 1, cb);
 606                 if (r > 0)
 607                     goto end;   /* found it */
 608                 if (r != 0)
 609                     goto err;
 610             }
 611
 612             /* step 13 */
 613             counter++;
 614             /* "offset = offset + n + 1" */
 615
 616             /* step 14 */
 617             if (counter >= (int)(4 * L))
 618                 break;
 619         }
 620         if (seed_in) {
 621             ok = 0;
 622             DSAerr(DSA_F_DSA_BUILTIN_PARAMGEN2, DSA_R_INVALID_PARAMETERS);
 623             goto err;
 624         }
 625     }
 626  end:
 627     if (!BN_GENCB_call(cb, 2, 1))
 628         goto err;
 629
 630  g_only:
 631
 632     /* We now need to generate g */
 633     /* Set r0=(p-1)/q */
 634     if (!BN_sub(test, p, BN_value_one()))
 635         goto err;
 636     if (!BN_div(r0, NULL, test, q, ctx))
 637         goto err;
 638
 639     if (idx < 0) {
 640         if (!BN_set_word(test, h))
 641             goto err;
 642     } else
 643         h = 1;
 644     if (!BN_MONT_CTX_set(mont, p, ctx))
 645         goto err;
 646
 647     for (;;) {
 648         static const unsigned char ggen[4] = { 0x67, 0x67, 0x65, 0x6e };
 649         if (idx >= 0) {
 650             md[0] = idx & 0xff;
 651             md[1] = (h >> 8) & 0xff;
 652             md[2] = h & 0xff;
 653             if (!EVP_DigestInit_ex(&mctx, evpmd, NULL))
 654                 goto err;
 655             if (!EVP_DigestUpdate(&mctx, seed_tmp, seed_len))
 656                 goto err;
 657             if (!EVP_DigestUpdate(&mctx, ggen, sizeof(ggen)))
 658                 goto err;
 659             if (!EVP_DigestUpdate(&mctx, md, 3))
 660                 goto err;
 661             if (!EVP_DigestFinal_ex(&mctx, md, NULL))
 662                 goto err;
 663             if (!BN_bin2bn(md, mdsize, test))
 664                 goto err;
 665         }
 666         /* g=test^r0%p */
 667         if (!BN_mod_exp_mont(g, test, r0, p, ctx, mont))
 668             goto err;
 669         if (!BN_is_one(g))
 670             break;
 671         if (idx < 0 && !BN_add(test, test, BN_value_one()))
 672             goto err;
 673         h++;
 674         if (idx >= 0 && h > 0xffff)
 675             goto err;
 676     }
 677
 678     if (!BN_GENCB_call(cb, 3, 1))
 679         goto err;
 680
 681     ok = 1;
 682  err:
 683     if (ok == 1) {
 684         if (p != ret->p) {
 685             if (ret->p)
 686                 BN_free(ret->p);
 687             ret->p = BN_dup(p);
 688         }
 689         if (q != ret->q) {
 690             if (ret->q)
 691                 BN_free(ret->q);
 692             ret->q = BN_dup(q);
 693         }
 694         if (ret->g)
 695             BN_free(ret->g);
 696         ret->g = BN_dup(g);
 697         if (ret->p == NULL || ret->q == NULL || ret->g == NULL) {
 698             ok = -1;
 699             goto err;
 700         }
 701         if (counter_ret != NULL)
 702             *counter_ret = counter;
 703         if (h_ret != NULL)
 704             *h_ret = h;
 705     }
 706     if (seed)
 707         OPENSSL_free(seed);
 708     if (seed_out != seed_tmp)
 709         OPENSSL_free(seed_tmp);
 710     if (ctx) {
 711         BN_CTX_end(ctx);
 712         BN_CTX_free(ctx);
 713     }
 714     if (mont != NULL)
 715         BN_MONT_CTX_free(mont);
 716     EVP_MD_CTX_cleanup(&mctx);
 717     return ok;
 718 }
 719
 720 int dsa_paramgen_check_g(DSA *dsa)
 721 {
 722     BN_CTX *ctx;
 723     BIGNUM *tmp;
 724     BN_MONT_CTX *mont = NULL;
 725     int rv = -1;
 726     ctx = BN_CTX_new();
 727     if (!ctx)
 728         return -1;
 729     BN_CTX_start(ctx);
 730     if (BN_cmp(dsa->g, BN_value_one()) <= 0)
 731         return 0;
 732     if (BN_cmp(dsa->g, dsa->p) >= 0)
 733         return 0;
 734     tmp = BN_CTX_get(ctx);
 735     if (!tmp)
 736         goto err;
 737     if ((mont = BN_MONT_CTX_new()) == NULL)
 738         goto err;
 739     if (!BN_MONT_CTX_set(mont, dsa->p, ctx))
 740         goto err;
 741     /* Work out g^q mod p */
 742     if (!BN_mod_exp_mont(tmp, dsa->g, dsa->q, dsa->p, ctx, mont))
 743         goto err;
 744     if (!BN_cmp(tmp, BN_value_one()))
 745         rv = 1;
 746     else
 747         rv = 0;
 748  err:
 749     BN_CTX_end(ctx);
 750     if (mont)
 751         BN_MONT_CTX_free(mont);
 752     BN_CTX_free(ctx);
 753     return rv;
 754
 755 }
 756 #endif