test/bntest.c

   1 /*
   2  * Copyright 1995-2018 The OpenSSL Project Authors. All Rights Reserved.
   3  *
   4  * Licensed under the OpenSSL license (the "License").  You may not use
   5  * this file except in compliance with the License.  You can obtain a copy
   6  * in the file LICENSE in the source distribution or at
   7  * https://www.openssl.org/source/license.html
   8  */
   9 #include <assert.h>
  10 #include <errno.h>
  11 #include <stdio.h>
  12 #include <string.h>
  13 #include <ctype.h>
  14
  15 #include <openssl/bn.h>
  16 #include <openssl/crypto.h>
  17 #include <openssl/err.h>
  18 #include <openssl/rand.h>
  19 #include "internal/nelem.h"
  20 #include "internal/numbers.h"
  21 #include "testutil.h"
  22
  23 #ifdef OPENSSL_SYS_WINDOWS
  24 # define strcasecmp _stricmp
  25 #endif
  26
  27 /*
  28  * Things in boring, not in openssl.  TODO we should add them.
  29  */
  30 #define HAVE_BN_PADDED 0
  31 #define HAVE_BN_SQRT 0
  32
  33 typedef struct filetest_st {
  34     const char *name;
  35     int (*func)(STANZA *s);
  36 } FILETEST;
  37
  38 typedef struct mpitest_st {
  39     const char *base10;
  40     const char *mpi;
  41     size_t mpi_len;
  42 } MPITEST;
  43
  44 static const int NUM0 = 100;           /* number of tests */
  45 static const int NUM1 = 50;            /* additional tests for some functions */
  46 static BN_CTX *ctx;
  47
  48 /*
  49  * Polynomial coefficients used in GFM tests.
  50  */
  51 #ifndef OPENSSL_NO_EC2M
  52 static int p0[] = { 163, 7, 6, 3, 0, -1 };
  53 static int p1[] = { 193, 15, 0, -1 };
  54 #endif
  55
  56 /*
  57  * Look for |key| in the stanza and return it or NULL if not found.
  58  */
  59 static const char *findattr(STANZA *s, const char *key)
  60 {
  61     int i = s->numpairs;
  62     PAIR *pp = s->pairs;
  63
  64     for ( ; --i >= 0; pp++)
  65         if (strcasecmp(pp->key, key) == 0)
  66             return pp->value;
  67     return NULL;
  68 }
  69
  70 /*
  71  * Parse BIGNUM from sparse hex-strings, return |BN_hex2bn| result.
  72  */
  73 static int parse_bigBN(BIGNUM **out, const char *bn_strings[])
  74 {
  75     char *bigstring = glue_strings(bn_strings, NULL);
  76     int ret = BN_hex2bn(out, bigstring);
  77
  78     OPENSSL_free(bigstring);
  79     return ret;
  80 }
  81
  82 /*
  83  * Parse BIGNUM, return number of bytes parsed.
  84  */
  85 static int parseBN(BIGNUM **out, const char *in)
  86 {
  87     *out = NULL;
  88     return BN_hex2bn(out, in);
  89 }
  90
  91 static int parsedecBN(BIGNUM **out, const char *in)
  92 {
  93     *out = NULL;
  94     return BN_dec2bn(out, in);
  95 }
  96
  97 static BIGNUM *getBN(STANZA *s, const char *attribute)
  98 {
  99     const char *hex;
 100     BIGNUM *ret = NULL;
 101
 102     if ((hex = findattr(s, attribute)) == NULL) {
 103         TEST_error("%s:%d: Can't find %s", s->test_file, s->start, attribute);
 104         return NULL;
 105     }
 106
 107     if (parseBN(&ret, hex) != (int)strlen(hex)) {
 108         TEST_error("Could not decode '%s'", hex);
 109         return NULL;
 110     }
 111     return ret;
 112 }
 113
 114 static int getint(STANZA *s, int *out, const char *attribute)
 115 {
 116     BIGNUM *ret;
 117     BN_ULONG word;
 118     int st = 0;
 119
 120     if (!TEST_ptr(ret = getBN(s, attribute))
 121             || !TEST_ulong_le(word = BN_get_word(ret), INT_MAX))
 122         goto err;
 123
 124     *out = (int)word;
 125     st = 1;
 126 err:
 127     BN_free(ret);
 128     return st;
 129 }
 130
 131 static int equalBN(const char *op, const BIGNUM *expected, const BIGNUM *actual)
 132 {
 133     if (BN_cmp(expected, actual) == 0)
 134         return 1;
 135
 136     TEST_error("unexpected %s value", op);
 137     TEST_BN_eq(expected, actual);
 138     return 0;
 139 }
 140
 141
 142 /*
 143  * Return a "random" flag for if a BN should be negated.
 144  */
 145 static int rand_neg(void)
 146 {
 147     static unsigned int neg = 0;
 148     static int sign[8] = { 0, 0, 0, 1, 1, 0, 1, 1 };
 149
 150     return sign[(neg++) % 8];
 151 }
 152
 153
 154 static int test_sub(void)
 155 {
 156     BIGNUM *a = NULL, *b = NULL, *c = NULL;
 157     int i, st = 0;
 158
 159     if (!TEST_ptr(a = BN_new())
 160             || !TEST_ptr(b = BN_new())
 161             || !TEST_ptr(c = BN_new()))
 162         goto err;
 163
 164     for (i = 0; i < NUM0 + NUM1; i++) {
 165         if (i < NUM1) {
 166             BN_bntest_rand(a, 512, 0, 0);
 167             BN_copy(b, a);
 168             if (!TEST_int_ne(BN_set_bit(a, i), 0))
 169                 goto err;
 170             BN_add_word(b, i);
 171         } else {
 172             BN_bntest_rand(b, 400 + i - NUM1, 0, 0);
 173             BN_set_negative(a, rand_neg());
 174             BN_set_negative(b, rand_neg());
 175         }
 176         BN_sub(c, a, b);
 177         BN_add(c, c, b);
 178         BN_sub(c, c, a);
 179         if (!TEST_BN_eq_zero(c))
 180             goto err;
 181     }
 182     st = 1;
 183 err:
 184     BN_free(a);
 185     BN_free(b);
 186     BN_free(c);
 187     return st;
 188 }
 189
 190
 191 static int test_div_recip(void)
 192 {
 193     BIGNUM *a = NULL, *b = NULL, *c = NULL, *d = NULL, *e = NULL;
 194     BN_RECP_CTX *recp = NULL;
 195     int st = 0, i;
 196
 197     if (!TEST_ptr(a = BN_new())
 198             || !TEST_ptr(b = BN_new())
 199             || !TEST_ptr(c = BN_new())
 200             || !TEST_ptr(d = BN_new())
 201             || !TEST_ptr(e = BN_new())
 202             || !TEST_ptr(recp = BN_RECP_CTX_new()))
 203         goto err;
 204
 205     for (i = 0; i < NUM0 + NUM1; i++) {
 206         if (i < NUM1) {
 207             BN_bntest_rand(a, 400, 0, 0);
 208             BN_copy(b, a);
 209             BN_lshift(a, a, i);
 210             BN_add_word(a, i);
 211         } else
 212             BN_bntest_rand(b, 50 + 3 * (i - NUM1), 0, 0);
 213         BN_set_negative(a, rand_neg());
 214         BN_set_negative(b, rand_neg());
 215         BN_RECP_CTX_set(recp, b, ctx);
 216         BN_div_recp(d, c, a, recp, ctx);
 217         BN_mul(e, d, b, ctx);
 218         BN_add(d, e, c);
 219         BN_sub(d, d, a);
 220         if (!TEST_BN_eq_zero(d))
 221             goto err;
 222     }
 223     st = 1;
 224 err:
 225     BN_free(a);
 226     BN_free(b);
 227     BN_free(c);
 228     BN_free(d);
 229     BN_free(e);
 230     BN_RECP_CTX_free(recp);
 231     return st;
 232 }
 233
 234
 235 static int test_mod(void)
 236 {
 237     BIGNUM *a = NULL, *b = NULL, *c = NULL, *d = NULL, *e = NULL;
 238     int st = 0, i;
 239
 240     if (!TEST_ptr(a = BN_new())
 241             || !TEST_ptr(b = BN_new())
 242             || !TEST_ptr(c = BN_new())
 243             || !TEST_ptr(d = BN_new())
 244             || !TEST_ptr(e = BN_new()))
 245         goto err;
 246
 247     BN_bntest_rand(a, 1024, 0, 0);
 248     for (i = 0; i < NUM0; i++) {
 249         BN_bntest_rand(b, 450 + i * 10, 0, 0);
 250         BN_set_negative(a, rand_neg());
 251         BN_set_negative(b, rand_neg());
 252         BN_mod(c, a, b, ctx);
 253         BN_div(d, e, a, b, ctx);
 254         BN_sub(e, e, c);
 255         if (!TEST_BN_eq_zero(e))
 256             goto err;
 257     }
 258     st = 1;
 259 err:
 260     BN_free(a);
 261     BN_free(b);
 262     BN_free(c);
 263     BN_free(d);
 264     BN_free(e);
 265     return st;
 266 }
 267
 268 static const char *bn1strings[] = {
 269     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
 270     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
 271     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
 272     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
 273     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
 274     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
 275     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
 276     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF00000000000000FFFFFFFF00",
 277     "0000000000000000000000000000000000000000000000000000000000000000",
 278     "0000000000000000000000000000000000000000000000000000000000000000",
 279     "0000000000000000000000000000000000000000000000000000000000000000",
 280     "0000000000000000000000000000000000000000000000000000000000000000",
 281     "0000000000000000000000000000000000000000000000000000000000000000",
 282     "0000000000000000000000000000000000000000000000000000000000000000",
 283     "0000000000000000000000000000000000000000000000000000000000000000",
 284     "00000000000000000000000000000000000000000000000000FFFFFFFFFFFFFF",
 285     NULL
 286 };
 287
 288 static const char *bn2strings[] = {
 289     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
 290     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
 291     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
 292     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
 293     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
 294     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
 295     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
 296     "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF00000000000000FFFFFFFF0000000000",
 297     "0000000000000000000000000000000000000000000000000000000000000000",
 298     "0000000000000000000000000000000000000000000000000000000000000000",
 299     "0000000000000000000000000000000000000000000000000000000000000000",
 300     "0000000000000000000000000000000000000000000000000000000000000000",
 301     "0000000000000000000000000000000000000000000000000000000000000000",
 302     "0000000000000000000000000000000000000000000000000000000000000000",
 303     "0000000000000000000000000000000000000000000000000000000000000000",
 304     "000000000000000000000000000000000000000000FFFFFFFFFFFFFF00000000",
 305     NULL
 306 };
 307
 308 /*
 309  * Test constant-time modular exponentiation with 1024-bit inputs, which on
 310  * x86_64 cause a different code branch to be taken.
 311  */
 312 static int test_modexp_mont5(void)
 313 {
 314     BIGNUM *a = NULL, *p = NULL, *m = NULL, *d = NULL, *e = NULL;
 315     BIGNUM *b = NULL, *n = NULL, *c = NULL;
 316     BN_MONT_CTX *mont = NULL;
 317     int st = 0;
 318
 319     if (!TEST_ptr(a = BN_new())
 320             || !TEST_ptr(p = BN_new())
 321             || !TEST_ptr(m = BN_new())
 322             || !TEST_ptr(d = BN_new())
 323             || !TEST_ptr(e = BN_new())
 324             || !TEST_ptr(b = BN_new())
 325             || !TEST_ptr(n = BN_new())
 326             || !TEST_ptr(c = BN_new())
 327             || !TEST_ptr(mont = BN_MONT_CTX_new()))
 328         goto err;
 329
 330     BN_bntest_rand(m, 1024, 0, 1); /* must be odd for montgomery */
 331     /* Zero exponent */
 332     BN_bntest_rand(a, 1024, 0, 0);
 333     BN_zero(p);
 334     if (!TEST_true(BN_mod_exp_mont_consttime(d, a, p, m, ctx, NULL)))
 335         goto err;
 336     if (!TEST_BN_eq_one(d))
 337         goto err;
 338
 339     /* Regression test for carry bug in mulx4x_mont */
 340     BN_hex2bn(&a,
 341         "7878787878787878787878787878787878787878787878787878787878787878"
 342         "7878787878787878787878787878787878787878787878787878787878787878"
 343         "7878787878787878787878787878787878787878787878787878787878787878"
 344         "7878787878787878787878787878787878787878787878787878787878787878");
 345     BN_hex2bn(&b,
 346         "095D72C08C097BA488C5E439C655A192EAFB6380073D8C2664668EDDB4060744"
 347         "E16E57FB4EDB9AE10A0CEFCDC28A894F689A128379DB279D48A2E20849D68593"
 348         "9B7803BCF46CEBF5C533FB0DD35B080593DE5472E3FE5DB951B8BFF9B4CB8F03"
 349         "9CC638A5EE8CDD703719F8000E6A9F63BEED5F2FCD52FF293EA05A251BB4AB81");
 350     BN_hex2bn(&n,
 351         "D78AF684E71DB0C39CFF4E64FB9DB567132CB9C50CC98009FEB820B26F2DED9B"
 352         "91B9B5E2B83AE0AE4EB4E0523CA726BFBE969B89FD754F674CE99118C3F2D1C5"
 353         "D81FDC7C54E02B60262B241D53C040E99E45826ECA37A804668E690E1AFC1CA4"
 354         "2C9A15D84D4954425F0B7642FC0BD9D7B24E2618D2DCC9B729D944BADACFDDAF");
 355     BN_MONT_CTX_set(mont, n, ctx);
 356     BN_mod_mul_montgomery(c, a, b, mont, ctx);
 357     BN_mod_mul_montgomery(d, b, a, mont, ctx);
 358     if (!TEST_BN_eq(c, d))
 359         goto err;
 360
 361     /* Regression test for carry bug in sqr[x]8x_mont */
 362     parse_bigBN(&n, bn1strings);
 363     parse_bigBN(&a, bn2strings);
 364     BN_free(b);
 365     b = BN_dup(a);
 366     BN_MONT_CTX_set(mont, n, ctx);
 367     BN_mod_mul_montgomery(c, a, a, mont, ctx);
 368     BN_mod_mul_montgomery(d, a, b, mont, ctx);
 369     if (!TEST_BN_eq(c, d))
 370         goto err;
 371
 372     /* Regression test for carry bug in bn_sqrx8x_internal */
 373     {
 374         static const char *ahex[] = {
 375                       "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
 376             "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
 377             "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
 378             "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
 379             "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF8FFEADBCFC4DAE7FFF908E92820306B",
 380             "9544D954000000006C0000000000000000000000000000000000000000000000",
 381             "00000000000000000000FF030202FFFFF8FFEBDBCFC4DAE7FFF908E92820306B",
 382             "9544D954000000006C000000FF0302030000000000FFFFFFFFFFFFFFFFFFFFFF",
 383             "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF01FC00FF02FFFFFFFF",
 384             "00FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF00FCFD",
 385             "FCFFFFFFFFFF000000000000000000FF0302030000000000FFFFFFFFFFFFFFFF",
 386             "FF00FCFDFDFF030202FF00000000FFFFFFFFFFFFFFFFFF00FCFDFCFFFFFFFFFF",
 387             NULL
 388         };
 389         static const char *nhex[] = {
 390                       "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
 391             "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
 392             "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
 393             "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
 394             "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF8F8F8F8000000",
 395             "00000010000000006C0000000000000000000000000000000000000000000000",
 396             "00000000000000000000000000000000000000FFFFFFFFFFFFF8F8F8F8000000",
 397             "00000010000000006C000000000000000000000000FFFFFFFFFFFFFFFFFFFFFF",
 398             "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
 399             "00FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
 400             "FFFFFFFFFFFF000000000000000000000000000000000000FFFFFFFFFFFFFFFF",
 401             "FFFFFFFFFFFFFFFFFFFF00000000FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF",
 402             NULL
 403         };
 404
 405         parse_bigBN(&a, ahex);
 406         parse_bigBN(&n, nhex);
 407     }
 408     BN_free(b);
 409     b = BN_dup(a);
 410     BN_MONT_CTX_set(mont, n, ctx);
 411     BN_mod_mul_montgomery(c, a, a, mont, ctx);
 412     BN_mod_mul_montgomery(d, a, b, mont, ctx);
 413     if (!TEST_BN_eq(c, d))
 414         goto err;
 415
 416     /* Regression test for bug in rsaz_1024_mul_avx2 */
 417     BN_hex2bn(&a,
 418         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF"
 419         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF"
 420         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF"
 421         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF2020202020DF");
 422     BN_hex2bn(&b,
 423         "2020202020202020202020202020202020202020202020202020202020202020"
 424         "2020202020202020202020202020202020202020202020202020202020202020"
 425         "20202020202020FF202020202020202020202020202020202020202020202020"
 426         "2020202020202020202020202020202020202020202020202020202020202020");
 427     BN_hex2bn(&n,
 428         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF"
 429         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF"
 430         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF"
 431         "FFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF2020202020FF");
 432     BN_MONT_CTX_set(mont, n, ctx);
 433     BN_mod_exp_mont_consttime(c, a, b, n, ctx, mont);
 434     BN_mod_exp_mont(d, a, b, n, ctx, mont);
 435     if (!TEST_BN_eq(c, d))
 436         goto err;
 437
 438     /* Zero input */
 439     BN_bntest_rand(p, 1024, 0, 0);
 440     BN_zero(a);
 441     if (!TEST_true(BN_mod_exp_mont_consttime(d, a, p, m, ctx, NULL))
 442             || !TEST_BN_eq_zero(d))
 443         goto err;
 444
 445     /*
 446      * Craft an input whose Montgomery representation is 1, i.e., shorter
 447      * than the modulus m, in order to test the const time precomputation
 448      * scattering/gathering.
 449      */
 450     BN_one(a);
 451     BN_MONT_CTX_set(mont, m, ctx);
 452     if (!TEST_true(BN_from_montgomery(e, a, mont, ctx))
 453             || !TEST_true(BN_mod_exp_mont_consttime(d, e, p, m, ctx, NULL))
 454             || !TEST_true(BN_mod_exp_simple(a, e, p, m, ctx))
 455             || !TEST_BN_eq(a, d))
 456         goto err;
 457
 458     /* Finally, some regular test vectors. */
 459     BN_bntest_rand(e, 1024, 0, 0);
 460     if (!TEST_true(BN_mod_exp_mont_consttime(d, e, p, m, ctx, NULL))
 461             || !TEST_true(BN_mod_exp_simple(a, e, p, m, ctx))
 462             || !TEST_BN_eq(a, d))
 463         goto err;
 464
 465     st = 1;
 466
 467 err:
 468     BN_MONT_CTX_free(mont);
 469     BN_free(a);
 470     BN_free(p);
 471     BN_free(m);
 472     BN_free(d);
 473     BN_free(e);
 474     BN_free(b);
 475     BN_free(n);
 476     BN_free(c);
 477     return st;
 478 }
 479
 480 #ifndef OPENSSL_NO_EC2M
 481 static int test_gf2m_add(void)
 482 {
 483     BIGNUM *a = NULL, *b = NULL, *c = NULL;
 484     int i, st = 0;
 485
 486     if (!TEST_ptr(a = BN_new())
 487             || !TEST_ptr(b = BN_new())
 488             || !TEST_ptr(c = BN_new()))
 489         goto err;
 490
 491     for (i = 0; i < NUM0; i++) {
 492         BN_rand(a, 512, 0, 0);
 493         BN_copy(b, BN_value_one());
 494         BN_set_negative(a, rand_neg());
 495         BN_set_negative(b, rand_neg());
 496         BN_GF2m_add(c, a, b);
 497         /* Test that two added values have the correct parity. */
 498         if (!TEST_false((BN_is_odd(a) && BN_is_odd(c))
 499                         || (!BN_is_odd(a) && !BN_is_odd(c))))
 500             goto err;
 501         BN_GF2m_add(c, c, c);
 502         /* Test that c + c = 0. */
 503         if (!TEST_BN_eq_zero(c))
 504             goto err;
 505     }
 506     st = 1;
 507  err:
 508     BN_free(a);
 509     BN_free(b);
 510     BN_free(c);
 511     return st;
 512 }
 513
 514 static int test_gf2m_mod(void)
 515 {
 516     BIGNUM *a = NULL, *b[2] = {NULL,NULL}, *c = NULL, *d = NULL, *e = NULL;
 517     int i, j, st = 0;
 518
 519     if (!TEST_ptr(a = BN_new())
 520             || !TEST_ptr(b[0] = BN_new())
 521             || !TEST_ptr(b[1] = BN_new())
 522             || !TEST_ptr(c = BN_new())
 523             || !TEST_ptr(d = BN_new())
 524             || !TEST_ptr(e = BN_new()))
 525         goto err;
 526
 527     BN_GF2m_arr2poly(p0, b[0]);
 528     BN_GF2m_arr2poly(p1, b[1]);
 529
 530     for (i = 0; i < NUM0; i++) {
 531         BN_bntest_rand(a, 1024, 0, 0);
 532         for (j = 0; j < 2; j++) {
 533             BN_GF2m_mod(c, a, b[j]);
 534             BN_GF2m_add(d, a, c);
 535             BN_GF2m_mod(e, d, b[j]);
 536             /* Test that a + (a mod p) mod p == 0. */
 537             if (!TEST_BN_eq_zero(e))
 538                 goto err;
 539         }
 540     }
 541     st = 1;
 542  err:
 543     BN_free(a);
 544     BN_free(b[0]);
 545     BN_free(b[1]);
 546     BN_free(c);
 547     BN_free(d);
 548     BN_free(e);
 549     return st;
 550 }
 551
 552 static int test_gf2m_mul(void)
 553 {
 554     BIGNUM *a, *b[2] = {NULL, NULL}, *c = NULL, *d = NULL;
 555     BIGNUM *e = NULL, *f = NULL, *g = NULL, *h = NULL;
 556     int i, j, st = 0;
 557
 558     if (!TEST_ptr(a = BN_new())
 559             || !TEST_ptr(b[0] = BN_new())
 560             || !TEST_ptr(b[1] = BN_new())
 561             || !TEST_ptr(c = BN_new())
 562             || !TEST_ptr(d = BN_new())
 563             || !TEST_ptr(e = BN_new())
 564             || !TEST_ptr(f = BN_new())
 565             || !TEST_ptr(g = BN_new())
 566             || !TEST_ptr(h = BN_new()))
 567         goto err;
 568
 569     BN_GF2m_arr2poly(p0, b[0]);
 570     BN_GF2m_arr2poly(p1, b[1]);
 571
 572     for (i = 0; i < NUM0; i++) {
 573         BN_bntest_rand(a, 1024, 0, 0);
 574         BN_bntest_rand(c, 1024, 0, 0);
 575         BN_bntest_rand(d, 1024, 0, 0);
 576         for (j = 0; j < 2; j++) {
 577             BN_GF2m_mod_mul(e, a, c, b[j], ctx);
 578             BN_GF2m_add(f, a, d);
 579             BN_GF2m_mod_mul(g, f, c, b[j], ctx);
 580             BN_GF2m_mod_mul(h, d, c, b[j], ctx);
 581             BN_GF2m_add(f, e, g);
 582             BN_GF2m_add(f, f, h);
 583             /* Test that (a+d)*c = a*c + d*c. */
 584             if (!TEST_BN_eq_zero(f))
 585                 goto err;
 586         }
 587     }
 588     st = 1;
 589
 590  err:
 591     BN_free(a);
 592     BN_free(b[0]);
 593     BN_free(b[1]);
 594     BN_free(c);
 595     BN_free(d);
 596     BN_free(e);
 597     BN_free(f);
 598     BN_free(g);
 599     BN_free(h);
 600     return st;
 601 }
 602
 603 static int test_gf2m_sqr(void)
 604 {
 605     BIGNUM *a = NULL, *b[2] = {NULL,NULL}, *c = NULL, *d = NULL;
 606     int i, j, st = 0;
 607
 608     if (!TEST_ptr(a = BN_new())
 609             || !TEST_ptr(b[0] = BN_new())
 610             || !TEST_ptr(b[1] = BN_new())
 611             || !TEST_ptr(c = BN_new())
 612             || !TEST_ptr(d = BN_new()))
 613         goto err;
 614
 615     BN_GF2m_arr2poly(p0, b[0]);
 616     BN_GF2m_arr2poly(p1, b[1]);
 617
 618     for (i = 0; i < NUM0; i++) {
 619         BN_bntest_rand(a, 1024, 0, 0);
 620         for (j = 0; j < 2; j++) {
 621             BN_GF2m_mod_sqr(c, a, b[j], ctx);
 622             BN_copy(d, a);
 623             BN_GF2m_mod_mul(d, a, d, b[j], ctx);
 624             BN_GF2m_add(d, c, d);
 625             /* Test that a*a = a^2. */
 626             if (!TEST_BN_eq_zero(d))
 627                 goto err;
 628         }
 629     }
 630     st = 1;
 631  err:
 632     BN_free(a);
 633     BN_free(b[0]);
 634     BN_free(b[1]);
 635     BN_free(c);
 636     BN_free(d);
 637     return st;
 638 }
 639
 640 static int test_gf2m_modinv(void)
 641 {
 642     BIGNUM *a = NULL, *b[2] = {NULL,NULL}, *c = NULL, *d = NULL;
 643     int i, j, st = 0;
 644
 645     if (!TEST_ptr(a = BN_new())
 646             || !TEST_ptr(b[0] = BN_new())
 647             || !TEST_ptr(b[1] = BN_new())
 648             || !TEST_ptr(c = BN_new())
 649             || !TEST_ptr(d = BN_new()))
 650         goto err;
 651
 652     BN_GF2m_arr2poly(p0, b[0]);
 653     BN_GF2m_arr2poly(p1, b[1]);
 654
 655     for (i = 0; i < NUM0; i++) {
 656         BN_bntest_rand(a, 512, 0, 0);
 657         for (j = 0; j < 2; j++) {
 658             BN_GF2m_mod_inv(c, a, b[j], ctx);
 659             BN_GF2m_mod_mul(d, a, c, b[j], ctx);
 660             /* Test that ((1/a)*a) = 1. */
 661             if (!TEST_BN_eq_one(d))
 662                 goto err;
 663         }
 664     }
 665     st = 1;
 666  err:
 667     BN_free(a);
 668     BN_free(b[0]);
 669     BN_free(b[1]);
 670     BN_free(c);
 671     BN_free(d);
 672     return st;
 673 }
 674
 675 static int test_gf2m_moddiv(void)
 676 {
 677     BIGNUM *a = NULL, *b[2] = {NULL,NULL}, *c = NULL, *d = NULL;
 678     BIGNUM *e = NULL, *f = NULL;
 679     int i, j, st = 0;
 680
 681     if (!TEST_ptr(a = BN_new())
 682             || !TEST_ptr(b[0] = BN_new())
 683             || !TEST_ptr(b[1] = BN_new())
 684             || !TEST_ptr(c = BN_new())
 685             || !TEST_ptr(d = BN_new())
 686             || !TEST_ptr(e = BN_new())
 687             || !TEST_ptr(f = BN_new()))
 688         goto err;
 689
 690     BN_GF2m_arr2poly(p0, b[0]);
 691     BN_GF2m_arr2poly(p1, b[1]);
 692
 693     for (i = 0; i < NUM0; i++) {
 694         BN_bntest_rand(a, 512, 0, 0);
 695         BN_bntest_rand(c, 512, 0, 0);
 696         for (j = 0; j < 2; j++) {
 697             BN_GF2m_mod_div(d, a, c, b[j], ctx);
 698             BN_GF2m_mod_mul(e, d, c, b[j], ctx);
 699             BN_GF2m_mod_div(f, a, e, b[j], ctx);
 700             /* Test that ((a/c)*c)/a = 1. */
 701             if (!TEST_BN_eq_one(f))
 702                 goto err;
 703         }
 704     }
 705     st = 1;
 706  err:
 707     BN_free(a);
 708     BN_free(b[0]);
 709     BN_free(b[1]);
 710     BN_free(c);
 711     BN_free(d);
 712     BN_free(e);
 713     BN_free(f);
 714     return st;
 715 }
 716
 717 static int test_gf2m_modexp(void)
 718 {
 719     BIGNUM *a = NULL, *b[2] = {NULL,NULL}, *c = NULL, *d = NULL;
 720     BIGNUM *e = NULL, *f = NULL;
 721     int i, j, st = 0;
 722
 723     if (!TEST_ptr(a = BN_new())
 724             || !TEST_ptr(b[0] = BN_new())
 725             || !TEST_ptr(b[1] = BN_new())
 726             || !TEST_ptr(c = BN_new())
 727             || !TEST_ptr(d = BN_new())
 728             || !TEST_ptr(e = BN_new())
 729             || !TEST_ptr(f = BN_new()))
 730         goto err;
 731
 732     BN_GF2m_arr2poly(p0, b[0]);
 733     BN_GF2m_arr2poly(p1, b[1]);
 734
 735     for (i = 0; i < NUM0; i++) {
 736         BN_bntest_rand(a, 512, 0, 0);
 737         BN_bntest_rand(c, 512, 0, 0);
 738         BN_bntest_rand(d, 512, 0, 0);
 739         for (j = 0; j < 2; j++) {
 740             BN_GF2m_mod_exp(e, a, c, b[j], ctx);
 741             BN_GF2m_mod_exp(f, a, d, b[j], ctx);
 742             BN_GF2m_mod_mul(e, e, f, b[j], ctx);
 743             BN_add(f, c, d);
 744             BN_GF2m_mod_exp(f, a, f, b[j], ctx);
 745             BN_GF2m_add(f, e, f);
 746             /* Test that a^(c+d)=a^c*a^d. */
 747             if (!TEST_BN_eq_zero(f))
 748                 goto err;
 749         }
 750     }
 751     st = 1;
 752  err:
 753     BN_free(a);
 754     BN_free(b[0]);
 755     BN_free(b[1]);
 756     BN_free(c);
 757     BN_free(d);
 758     BN_free(e);
 759     BN_free(f);
 760     return st;
 761 }
 762
 763 static int test_gf2m_modsqrt(void)
 764 {
 765     BIGNUM *a = NULL, *b[2] = {NULL,NULL}, *c = NULL, *d = NULL;
 766     BIGNUM *e = NULL, *f = NULL;
 767     int i, j, st = 0;
 768
 769     if (!TEST_ptr(a = BN_new())
 770             || !TEST_ptr(b[0] = BN_new())
 771             || !TEST_ptr(b[1] = BN_new())
 772             || !TEST_ptr(c = BN_new())
 773             || !TEST_ptr(d = BN_new())
 774             || !TEST_ptr(e = BN_new())
 775             || !TEST_ptr(f = BN_new()))
 776         goto err;
 777
 778     BN_GF2m_arr2poly(p0, b[0]);
 779     BN_GF2m_arr2poly(p1, b[1]);
 780
 781     for (i = 0; i < NUM0; i++) {
 782         BN_bntest_rand(a, 512, 0, 0);
 783         for (j = 0; j < 2; j++) {
 784             BN_GF2m_mod(c, a, b[j]);
 785             BN_GF2m_mod_sqrt(d, a, b[j], ctx);
 786             BN_GF2m_mod_sqr(e, d, b[j], ctx);
 787             BN_GF2m_add(f, c, e);
 788             /* Test that d^2 = a, where d = sqrt(a). */
 789             if (!TEST_BN_eq_zero(f))
 790                 goto err;
 791         }
 792     }
 793     st = 1;
 794  err:
 795     BN_free(a);
 796     BN_free(b[0]);
 797     BN_free(b[1]);
 798     BN_free(c);
 799     BN_free(d);
 800     BN_free(e);
 801     BN_free(f);
 802     return st;
 803 }
 804
 805 static int test_gf2m_modsolvequad(void)
 806 {
 807     BIGNUM *a = NULL, *b[2] = {NULL,NULL}, *c = NULL, *d = NULL;
 808     BIGNUM *e = NULL;
 809     int i, j, s = 0, t, st = 0;
 810
 811     if (!TEST_ptr(a = BN_new())
 812             || !TEST_ptr(b[0] = BN_new())
 813             || !TEST_ptr(b[1] = BN_new())
 814             || !TEST_ptr(c = BN_new())
 815             || !TEST_ptr(d = BN_new())
 816             || !TEST_ptr(e = BN_new()))
 817         goto err;
 818
 819     BN_GF2m_arr2poly(p0, b[0]);
 820     BN_GF2m_arr2poly(p1, b[1]);
 821
 822     for (i = 0; i < NUM0; i++) {
 823         BN_bntest_rand(a, 512, 0, 0);
 824         for (j = 0; j < 2; j++) {
 825             t = BN_GF2m_mod_solve_quad(c, a, b[j], ctx);
 826             if (t) {
 827                 s++;
 828                 BN_GF2m_mod_sqr(d, c, b[j], ctx);
 829                 BN_GF2m_add(d, c, d);
 830                 BN_GF2m_mod(e, a, b[j]);
 831                 BN_GF2m_add(e, e, d);
 832                 /*
 833                  * Test that solution of quadratic c satisfies c^2 + c = a.
 834                  */
 835                 if (!TEST_BN_eq_zero(e))
 836                     goto err;
 837             }
 838         }
 839     }
 840     if (!TEST_int_ge(s, 0)) {
 841         TEST_info("%d tests found no roots; probably an error", NUM0);
 842         goto err;
 843     }
 844     st = 1;
 845  err:
 846     BN_free(a);
 847     BN_free(b[0]);
 848     BN_free(b[1]);
 849     BN_free(c);
 850     BN_free(d);
 851     BN_free(e);
 852     return st;
 853 }
 854 #endif
 855
 856 static int test_kronecker(void)
 857 {
 858     BIGNUM *a = NULL, *b = NULL, *r = NULL, *t = NULL;
 859     int i, legendre, kronecker, st = 0;
 860
 861     if (!TEST_ptr(a = BN_new())
 862             || !TEST_ptr(b = BN_new())
 863             || !TEST_ptr(r = BN_new())
 864             || !TEST_ptr(t = BN_new()))
 865         goto err;
 866
 867     /*
 868      * We test BN_kronecker(a, b, ctx) just for b odd (Jacobi symbol). In
 869      * this case we know that if b is prime, then BN_kronecker(a, b, ctx) is
 870      * congruent to $a^{(b-1)/2}$, modulo $b$ (Legendre symbol). So we
 871      * generate a random prime b and compare these values for a number of
 872      * random a's.  (That is, we run the Solovay-Strassen primality test to
 873      * confirm that b is prime, except that we don't want to test whether b
 874      * is prime but whether BN_kronecker works.)
 875      */
 876
 877     if (!TEST_true(BN_generate_prime_ex(b, 512, 0, NULL, NULL, NULL)))
 878         goto err;
 879     BN_set_negative(b, rand_neg());
 880
 881     for (i = 0; i < NUM0; i++) {
 882         if (!TEST_true(BN_bntest_rand(a, 512, 0, 0)))
 883             goto err;
 884         BN_set_negative(a, rand_neg());
 885
 886         /* t := (|b|-1)/2  (note that b is odd) */
 887         if (!TEST_true(BN_copy(t, b)))
 888             goto err;
 889         BN_set_negative(t, 0);
 890         if (!TEST_true(BN_sub_word(t, 1)))
 891             goto err;
 892         if (!TEST_true(BN_rshift1(t, t)))
 893             goto err;
 894         /* r := a^t mod b */
 895         BN_set_negative(b, 0);
 896
 897         if (!TEST_true(BN_mod_exp_recp(r, a, t, b, ctx)))
 898             goto err;
 899         BN_set_negative(b, 1);
 900
 901         if (BN_is_word(r, 1))
 902             legendre = 1;
 903         else if (BN_is_zero(r))
 904             legendre = 0;
 905         else {
 906             if (!TEST_true(BN_add_word(r, 1)))
 907                 goto err;
 908             if (!TEST_int_eq(BN_ucmp(r, b), 0)) {
 909                 TEST_info("Legendre symbol computation failed");
 910                 goto err;
 911             }
 912             legendre = -1;
 913         }
 914
 915         if (!TEST_int_ge(kronecker = BN_kronecker(a, b, ctx), -1))
 916             goto err;
 917         /* we actually need BN_kronecker(a, |b|) */
 918         if (BN_is_negative(a) && BN_is_negative(b))
 919             kronecker = -kronecker;
 920
 921         if (!TEST_int_eq(legendre, kronecker))
 922             goto err;
 923     }
 924
 925     st = 1;
 926  err:
 927     BN_free(a);
 928     BN_free(b);
 929     BN_free(r);
 930     BN_free(t);
 931     return st;
 932 }
 933
 934 static int file_sum(STANZA *s)
 935 {
 936     BIGNUM *a = NULL, *b = NULL, *sum = NULL, *ret = NULL;
 937     BN_ULONG b_word;
 938     int st = 0;
 939
 940     if (!TEST_ptr(a = getBN(s, "A"))
 941             || !TEST_ptr(b = getBN(s, "B"))
 942             || !TEST_ptr(sum = getBN(s, "Sum"))
 943             || !TEST_ptr(ret = BN_new()))
 944         goto err;
 945
 946     if (!TEST_true(BN_add(ret, a, b))
 947             || !equalBN("A + B", sum, ret)
 948             || !TEST_true(BN_sub(ret, sum, a))
 949             || !equalBN("Sum - A", b, ret)
 950             || !TEST_true(BN_sub(ret, sum, b))
 951             || !equalBN("Sum - B", a, ret))
 952         goto err;
 953
 954     /*
 955      * Test that the functions work when |r| and |a| point to the same BIGNUM,
 956      * or when |r| and |b| point to the same BIGNUM.
 957      * TODO: Test where all of |r|, |a|, and |b| point to the same BIGNUM.
 958      */
 959     if (!TEST_true(BN_copy(ret, a))
 960             || !TEST_true(BN_add(ret, ret, b))
 961             || !equalBN("A + B (r is a)", sum, ret)
 962             || !TEST_true(BN_copy(ret, b))
 963             || !TEST_true(BN_add(ret, a, ret))
 964             || !equalBN("A + B (r is b)", sum, ret)
 965             || !TEST_true(BN_copy(ret, sum))
 966             || !TEST_true(BN_sub(ret, ret, a))
 967             || !equalBN("Sum - A (r is a)", b, ret)
 968             || !TEST_true(BN_copy(ret, a))
 969             || !TEST_true(BN_sub(ret, sum, ret))
 970             || !equalBN("Sum - A (r is b)", b, ret)
 971             || !TEST_true(BN_copy(ret, sum))
 972             || !TEST_true(BN_sub(ret, ret, b))
 973             || !equalBN("Sum - B (r is a)", a, ret)
 974             || !TEST_true(BN_copy(ret, b))
 975             || !TEST_true(BN_sub(ret, sum, ret))
 976             || !equalBN("Sum - B (r is b)", a, ret))
 977         goto err;
 978
 979     /*
 980      * Test BN_uadd() and BN_usub() with the prerequisites they are
 981      * documented as having. Note that these functions are frequently used
 982      * when the prerequisites don't hold. In those cases, they are supposed
 983      * to work as if the prerequisite hold, but we don't test that yet.
 984      * TODO: test that.
 985      */
 986     if (!BN_is_negative(a) && !BN_is_negative(b) && BN_cmp(a, b) >= 0) {
 987         if (!TEST_true(BN_uadd(ret, a, b))
 988                 || !equalBN("A +u B", sum, ret)
 989                 || !TEST_true(BN_usub(ret, sum, a))
 990                 || !equalBN("Sum -u A", b, ret)
 991                 || !TEST_true(BN_usub(ret, sum, b))
 992                 || !equalBN("Sum -u B", a, ret))
 993             goto err;
 994         /*
 995          * Test that the functions work when |r| and |a| point to the same
 996          * BIGNUM, or when |r| and |b| point to the same BIGNUM.
 997          * TODO: Test where all of |r|, |a|, and |b| point to the same BIGNUM.
 998          */
 999         if (!TEST_true(BN_copy(ret, a))
1000                 || !TEST_true(BN_uadd(ret, ret, b))
1001                 || !equalBN("A +u B (r is a)", sum, ret)
1002                 || !TEST_true(BN_copy(ret, b))
1003                 || !TEST_true(BN_uadd(ret, a, ret))
1004                 || !equalBN("A +u B (r is b)", sum, ret)
1005                 || !TEST_true(BN_copy(ret, sum))
1006                 || !TEST_true(BN_usub(ret, ret, a))
1007                 || !equalBN("Sum -u A (r is a)", b, ret)
1008                 || !TEST_true(BN_copy(ret, a))
1009                 || !TEST_true(BN_usub(ret, sum, ret))
1010                 || !equalBN("Sum -u A (r is b)", b, ret)
1011                 || !TEST_true(BN_copy(ret, sum))
1012                 || !TEST_true(BN_usub(ret, ret, b))
1013                 || !equalBN("Sum -u B (r is a)", a, ret)
1014                 || !TEST_true(BN_copy(ret, b))
1015                 || !TEST_true(BN_usub(ret, sum, ret))
1016                 || !equalBN("Sum -u B (r is b)", a, ret))
1017             goto err;
1018     }
1019
1020     /*
1021      * Test with BN_add_word() and BN_sub_word() if |b| is small enough.
1022      */
1023     b_word = BN_get_word(b);
1024     if (!BN_is_negative(b) && b_word != (BN_ULONG)-1) {
1025         if (!TEST_true(BN_copy(ret, a))
1026                 || !TEST_true(BN_add_word(ret, b_word))
1027                 || !equalBN("A + B (word)", sum, ret)
1028                 || !TEST_true(BN_copy(ret, sum))
1029                 || !TEST_true(BN_sub_word(ret, b_word))
1030                 || !equalBN("Sum - B (word)", a, ret))
1031             goto err;
1032     }
1033     st = 1;
1034
1035 err:
1036     BN_free(a);
1037     BN_free(b);
1038     BN_free(sum);
1039     BN_free(ret);
1040     return st;
1041 }
1042
1043 static int file_lshift1(STANZA *s)
1044 {
1045     BIGNUM *a = NULL, *lshift1 = NULL, *zero = NULL, *ret = NULL;
1046     BIGNUM *two = NULL, *remainder = NULL;
1047     int st = 0;
1048
1049     if (!TEST_ptr(a = getBN(s, "A"))
1050             || !TEST_ptr(lshift1 = getBN(s, "LShift1"))
1051             || !TEST_ptr(zero = BN_new())
1052             || !TEST_ptr(ret = BN_new())
1053             || !TEST_ptr(two = BN_new())
1054             || !TEST_ptr(remainder = BN_new()))
1055         goto err;
1056
1057     BN_zero(zero);
1058
1059     if (!TEST_true(BN_set_word(two, 2))
1060             || !TEST_true(BN_add(ret, a, a))
1061             || !equalBN("A + A", lshift1, ret)
1062             || !TEST_true(BN_mul(ret, a, two, ctx))
1063             || !equalBN("A * 2", lshift1, ret)
1064             || !TEST_true(BN_div(ret, remainder, lshift1, two, ctx))
1065             || !equalBN("LShift1 / 2", a, ret)
1066             || !equalBN("LShift1 % 2", zero, remainder)
1067             || !TEST_true(BN_lshift1(ret, a))
1068             || !equalBN("A << 1", lshift1, ret)
1069             || !TEST_true(BN_rshift1(ret, lshift1))
1070             || !equalBN("LShift >> 1", a, ret)
1071             || !TEST_true(BN_rshift1(ret, lshift1))
1072             || !equalBN("LShift >> 1", a, ret))
1073         goto err;
1074
1075     /* Set the LSB to 1 and test rshift1 again. */
1076     if (!TEST_true(BN_set_bit(lshift1, 0))
1077             || !TEST_true(BN_div(ret, NULL /* rem */ , lshift1, two, ctx))
1078             || !equalBN("(LShift1 | 1) / 2", a, ret)
1079             || !TEST_true(BN_rshift1(ret, lshift1))
1080             || !equalBN("(LShift | 1) >> 1", a, ret))
1081         goto err;
1082
1083     st = 1;
1084 err:
1085     BN_free(a);
1086     BN_free(lshift1);
1087     BN_free(zero);
1088     BN_free(ret);
1089     BN_free(two);
1090     BN_free(remainder);
1091
1092     return st;
1093 }
1094
1095 static int file_lshift(STANZA *s)
1096 {
1097     BIGNUM *a = NULL, *lshift = NULL, *ret = NULL;
1098     int n = 0, st = 0;
1099
1100     if (!TEST_ptr(a = getBN(s, "A"))
1101             || !TEST_ptr(lshift = getBN(s, "LShift"))
1102             || !TEST_ptr(ret = BN_new())
1103             || !getint(s, &n, "N"))
1104         goto err;
1105
1106     if (!TEST_true(BN_lshift(ret, a, n))
1107             || !equalBN("A << N", lshift, ret)
1108             || !TEST_true(BN_rshift(ret, lshift, n))
1109             || !equalBN("A >> N", a, ret))
1110         goto err;
1111
1112     st = 1;
1113 err:
1114     BN_free(a);
1115     BN_free(lshift);
1116     BN_free(ret);
1117     return st;
1118 }
1119
1120 static int file_rshift(STANZA *s)
1121 {
1122     BIGNUM *a = NULL, *rshift = NULL, *ret = NULL;
1123     int n = 0, st = 0;
1124
1125     if (!TEST_ptr(a = getBN(s, "A"))
1126             || !TEST_ptr(rshift = getBN(s, "RShift"))
1127             || !TEST_ptr(ret = BN_new())
1128             || !getint(s, &n, "N"))
1129         goto err;
1130
1131     if (!TEST_true(BN_rshift(ret, a, n))
1132             || !equalBN("A >> N", rshift, ret))
1133         goto err;
1134
1135     /* If N == 1, try with rshift1 as well */
1136     if (n == 1) {
1137         if (!TEST_true(BN_rshift1(ret, a))
1138                 || !equalBN("A >> 1 (rshift1)", rshift, ret))
1139             goto err;
1140     }
1141     st = 1;
1142
1143 err:
1144     BN_free(a);
1145     BN_free(rshift);
1146     BN_free(ret);
1147     return st;
1148 }
1149
1150 static int file_square(STANZA *s)
1151 {
1152     BIGNUM *a = NULL, *square = NULL, *zero = NULL, *ret = NULL;
1153     BIGNUM *remainder = NULL, *tmp = NULL;
1154     int st = 0;
1155
1156     if (!TEST_ptr(a = getBN(s, "A"))
1157             || !TEST_ptr(square = getBN(s, "Square"))
1158             || !TEST_ptr(zero = BN_new())
1159             || !TEST_ptr(ret = BN_new())
1160             || !TEST_ptr(remainder = BN_new()))
1161         goto err;
1162
1163     BN_zero(zero);
1164     if (!TEST_true(BN_sqr(ret, a, ctx))
1165             || !equalBN("A^2", square, ret)
1166             || !TEST_true(BN_mul(ret, a, a, ctx))
1167             || !equalBN("A * A", square, ret)
1168             || !TEST_true(BN_div(ret, remainder, square, a, ctx))
1169             || !equalBN("Square / A", a, ret)
1170             || !equalBN("Square % A", zero, remainder))
1171         goto err;
1172
1173 #if HAVE_BN_SQRT
1174     BN_set_negative(a, 0);
1175     if (!TEST_true(BN_sqrt(ret, square, ctx))
1176             || !equalBN("sqrt(Square)", a, ret))
1177         goto err;
1178
1179     /* BN_sqrt should fail on non-squares and negative numbers. */
1180     if (!TEST_BN_eq_zero(square)) {
1181         if (!TEST_ptr(tmp = BN_new())
1182                 || !TEST_true(BN_copy(tmp, square)))
1183             goto err;
1184         BN_set_negative(tmp, 1);
1185
1186         if (!TEST_int_eq(BN_sqrt(ret, tmp, ctx), 0))
1187             goto err;
1188         ERR_clear_error();
1189
1190         BN_set_negative(tmp, 0);
1191         if (BN_add(tmp, tmp, BN_value_one()))
1192             goto err;
1193         if (!TEST_int_eq(BN_sqrt(ret, tmp, ctx)))
1194             goto err;
1195         ERR_clear_error();
1196     }
1197 #endif
1198
1199     st = 1;
1200 err:
1201     BN_free(a);
1202     BN_free(square);
1203     BN_free(zero);
1204     BN_free(ret);
1205     BN_free(remainder);
1206     BN_free(tmp);
1207     return st;
1208 }
1209
1210 static int file_product(STANZA *s)
1211 {
1212     BIGNUM *a = NULL, *b = NULL, *product = NULL, *ret = NULL;
1213     BIGNUM *remainder = NULL, *zero = NULL;
1214     int st = 0;
1215
1216     if (!TEST_ptr(a = getBN(s, "A"))
1217             || !TEST_ptr(b = getBN(s, "B"))
1218             || !TEST_ptr(product = getBN(s, "Product"))
1219             || !TEST_ptr(ret = BN_new())
1220             || !TEST_ptr(remainder = BN_new())
1221             || !TEST_ptr(zero = BN_new()))
1222         goto err;
1223
1224     BN_zero(zero);
1225
1226     if (!TEST_true(BN_mul(ret, a, b, ctx))
1227             || !equalBN("A * B", product, ret)
1228             || !TEST_true(BN_div(ret, remainder, product, a, ctx))
1229             || !equalBN("Product / A", b, ret)
1230             || !equalBN("Product % A", zero, remainder)
1231             || !TEST_true(BN_div(ret, remainder, product, b, ctx))
1232             || !equalBN("Product / B", a, ret)
1233             || !equalBN("Product % B", zero, remainder))
1234         goto err;
1235
1236     st = 1;
1237 err:
1238     BN_free(a);
1239     BN_free(b);
1240     BN_free(product);
1241     BN_free(ret);
1242     BN_free(remainder);
1243     BN_free(zero);
1244     return st;
1245 }
1246
1247 static int file_quotient(STANZA *s)
1248 {
1249     BIGNUM *a = NULL, *b = NULL, *quotient = NULL, *remainder = NULL;
1250     BIGNUM *ret = NULL, *ret2 = NULL, *nnmod = NULL;
1251     BN_ULONG b_word, ret_word;
1252     int st = 0;
1253
1254     if (!TEST_ptr(a = getBN(s, "A"))
1255             || !TEST_ptr(b = getBN(s, "B"))
1256             || !TEST_ptr(quotient = getBN(s, "Quotient"))
1257             || !TEST_ptr(remainder = getBN(s, "Remainder"))
1258             || !TEST_ptr(ret = BN_new())
1259             || !TEST_ptr(ret2 = BN_new())
1260             || !TEST_ptr(nnmod = BN_new()))
1261         goto err;
1262
1263     if (!TEST_true(BN_div(ret, ret2, a, b, ctx))
1264             || !equalBN("A / B", quotient, ret)
1265             || !equalBN("A % B", remainder, ret2)
1266             || !TEST_true(BN_mul(ret, quotient, b, ctx))
1267             || !TEST_true(BN_add(ret, ret, remainder))
1268             || !equalBN("Quotient * B + Remainder", a, ret))
1269         goto err;
1270
1271     /*
1272      * Test with BN_mod_word() and BN_div_word() if the divisor is
1273      * small enough.
1274      */
1275     b_word = BN_get_word(b);
1276     if (!BN_is_negative(b) && b_word != (BN_ULONG)-1) {
1277         BN_ULONG remainder_word = BN_get_word(remainder);
1278
1279         assert(remainder_word != (BN_ULONG)-1);
1280         if (!TEST_ptr(BN_copy(ret, a)))
1281             goto err;
1282         ret_word = BN_div_word(ret, b_word);
1283         if (ret_word != remainder_word) {
1284 #ifdef BN_DEC_FMT1
1285             TEST_error(
1286                     "Got A %% B (word) = " BN_DEC_FMT1 ", wanted " BN_DEC_FMT1,
1287                     ret_word, remainder_word);
1288 #else
1289             TEST_error("Got A %% B (word) mismatch");
1290 #endif
1291             goto err;
1292         }
1293         if (!equalBN ("A / B (word)", quotient, ret))
1294             goto err;
1295
1296         ret_word = BN_mod_word(a, b_word);
1297         if (ret_word != remainder_word) {
1298 #ifdef BN_DEC_FMT1
1299             TEST_error(
1300                     "Got A %% B (word) = " BN_DEC_FMT1 ", wanted " BN_DEC_FMT1 "",
1301                     ret_word, remainder_word);
1302 #else
1303             TEST_error("Got A %% B (word) mismatch");
1304 #endif
1305             goto err;
1306         }
1307     }
1308
1309     /* Test BN_nnmod. */
1310     if (!BN_is_negative(b)) {
1311         if (!TEST_true(BN_copy(nnmod, remainder))
1312                 || (BN_is_negative(nnmod)
1313                         && !TEST_true(BN_add(nnmod, nnmod, b)))
1314                 || !TEST_true(BN_nnmod(ret, a, b, ctx))
1315                 || !equalBN("A % B (non-negative)", nnmod, ret))
1316             goto err;
1317     }
1318
1319     st = 1;
1320 err:
1321     BN_free(a);
1322     BN_free(b);
1323     BN_free(quotient);
1324     BN_free(remainder);
1325     BN_free(ret);
1326     BN_free(ret2);
1327     BN_free(nnmod);
1328     return st;
1329 }
1330
1331 static int file_modmul(STANZA *s)
1332 {
1333     BIGNUM *a = NULL, *b = NULL, *m = NULL, *mod_mul = NULL, *ret = NULL;
1334     int st = 0;
1335
1336     if (!TEST_ptr(a = getBN(s, "A"))
1337             || !TEST_ptr(b = getBN(s, "B"))
1338             || !TEST_ptr(m = getBN(s, "M"))
1339             || !TEST_ptr(mod_mul = getBN(s, "ModMul"))
1340             || !TEST_ptr(ret = BN_new()))
1341         goto err;
1342
1343     if (!TEST_true(BN_mod_mul(ret, a, b, m, ctx))
1344             || !equalBN("A * B (mod M)", mod_mul, ret))
1345         goto err;
1346
1347     if (BN_is_odd(m)) {
1348         /* Reduce |a| and |b| and test the Montgomery version. */
1349         BN_MONT_CTX *mont = BN_MONT_CTX_new();
1350         BIGNUM *a_tmp = BN_new();
1351         BIGNUM *b_tmp = BN_new();
1352
1353         if (mont == NULL || a_tmp == NULL || b_tmp == NULL
1354                 || !TEST_true(BN_MONT_CTX_set(mont, m, ctx))
1355                 || !TEST_true(BN_nnmod(a_tmp, a, m, ctx))
1356                 || !TEST_true(BN_nnmod(b_tmp, b, m, ctx))
1357                 || !TEST_true(BN_to_montgomery(a_tmp, a_tmp, mont, ctx))
1358                 || !TEST_true(BN_to_montgomery(b_tmp, b_tmp, mont, ctx))
1359                 || !TEST_true(BN_mod_mul_montgomery(ret, a_tmp, b_tmp,
1360                                                     mont, ctx))
1361                 || !TEST_true(BN_from_montgomery(ret, ret, mont, ctx))
1362                 || !equalBN("A * B (mod M) (mont)", mod_mul, ret))
1363             st = 0;
1364         else
1365             st = 1;
1366         BN_MONT_CTX_free(mont);
1367         BN_free(a_tmp);
1368         BN_free(b_tmp);
1369         if (st == 0)
1370             goto err;
1371     }
1372
1373     st = 1;
1374 err:
1375     BN_free(a);
1376     BN_free(b);
1377     BN_free(m);
1378     BN_free(mod_mul);
1379     BN_free(ret);
1380     return st;
1381 }
1382
1383 static int file_modexp(STANZA *s)
1384 {
1385     BIGNUM *a = NULL, *e = NULL, *m = NULL, *mod_exp = NULL, *ret = NULL;
1386     BIGNUM *b = NULL, *c = NULL, *d = NULL;
1387     int st = 0;
1388
1389     if (!TEST_ptr(a = getBN(s, "A"))
1390             || !TEST_ptr(e = getBN(s, "E"))
1391             || !TEST_ptr(m = getBN(s, "M"))
1392             || !TEST_ptr(mod_exp = getBN(s, "ModExp"))
1393             || !TEST_ptr(ret = BN_new())
1394             || !TEST_ptr(d = BN_new()))
1395         goto err;
1396
1397     if (!TEST_true(BN_mod_exp(ret, a, e, m, ctx))
1398             || !equalBN("A ^ E (mod M)", mod_exp, ret))
1399         goto err;
1400
1401     if (BN_is_odd(m)) {
1402         if (!TEST_true(BN_mod_exp_mont(ret, a, e, m, ctx, NULL))
1403                 || !equalBN("A ^ E (mod M) (mont)", mod_exp, ret)
1404                 || !TEST_true(BN_mod_exp_mont_consttime(ret, a, e, m,
1405                                                         ctx, NULL))
1406                 || !equalBN("A ^ E (mod M) (mont const", mod_exp, ret))
1407             goto err;
1408     }
1409
1410     /* Regression test for carry propagation bug in sqr8x_reduction */
1411     BN_hex2bn(&a, "050505050505");
1412     BN_hex2bn(&b, "02");
1413     BN_hex2bn(&c,
1414         "4141414141414141414141274141414141414141414141414141414141414141"
1415         "4141414141414141414141414141414141414141414141414141414141414141"
1416         "4141414141414141414141800000000000000000000000000000000000000000"
1417         "0000000000000000000000000000000000000000000000000000000000000000"
1418         "0000000000000000000000000000000000000000000000000000000000000000"
1419         "0000000000000000000000000000000000000000000000000000000001");
1420     if (!TEST_true(BN_mod_exp(d, a, b, c, ctx))
1421         || !TEST_true(BN_mul(e, a, a, ctx))
1422         || !TEST_BN_eq(d, e))
1423         goto err;
1424
1425     st = 1;
1426 err:
1427     BN_free(a);
1428     BN_free(b);
1429     BN_free(c);
1430     BN_free(d);
1431     BN_free(e);
1432     BN_free(m);
1433     BN_free(mod_exp);
1434     BN_free(ret);
1435     return st;
1436 }
1437
1438 static int file_exp(STANZA *s)
1439 {
1440     BIGNUM *a = NULL, *e = NULL, *exp = NULL, *ret = NULL;
1441     int st = 0;
1442
1443     if (!TEST_ptr(a = getBN(s, "A"))
1444             || !TEST_ptr(e = getBN(s, "E"))
1445             || !TEST_ptr(exp = getBN(s, "Exp"))
1446             || !TEST_ptr(ret = BN_new()))
1447         goto err;
1448
1449     if (!TEST_true(BN_exp(ret, a, e, ctx))
1450             || !equalBN("A ^ E", exp, ret))
1451         goto err;
1452
1453     st = 1;
1454 err:
1455     BN_free(a);
1456     BN_free(e);
1457     BN_free(exp);
1458     BN_free(ret);
1459     return st;
1460 }
1461
1462 static int file_modsqrt(STANZA *s)
1463 {
1464     BIGNUM *a = NULL, *p = NULL, *mod_sqrt = NULL, *ret = NULL, *ret2 = NULL;
1465     int st = 0;
1466
1467     if (!TEST_ptr(a = getBN(s, "A"))
1468             || !TEST_ptr(p = getBN(s, "P"))
1469             || !TEST_ptr(mod_sqrt = getBN(s, "ModSqrt"))
1470             || !TEST_ptr(ret = BN_new())
1471             || !TEST_ptr(ret2 = BN_new()))
1472         goto err;
1473
1474     /* There are two possible answers. */
1475     if (!TEST_true(BN_mod_sqrt(ret, a, p, ctx))
1476             || !TEST_true(BN_sub(ret2, p, ret)))
1477         goto err;
1478
1479     /* The first condition should NOT be a test. */
1480     if (BN_cmp(ret2, mod_sqrt) != 0
1481             && !equalBN("sqrt(A) (mod P)", mod_sqrt, ret))
1482         goto err;
1483
1484     st = 1;
1485 err:
1486     BN_free(a);
1487     BN_free(p);
1488     BN_free(mod_sqrt);
1489     BN_free(ret);
1490     BN_free(ret2);
1491     return st;
1492 }
1493
1494 static int test_bn2padded(void)
1495 {
1496 #if HAVE_BN_PADDED
1497     uint8_t zeros[256], out[256], reference[128];
1498     BIGNUM *n = BN_new();
1499     int st = 0;
1500
1501     /* Test edge case at 0. */
1502     if (n == NULL)
1503         goto err;
1504     if (!TEST_true(BN_bn2bin_padded(NULL, 0, n)))
1505         goto err;
1506     memset(out, -1, sizeof(out));
1507     if (!TEST_true(BN_bn2bin_padded(out, sizeof(out)), n))
1508         goto err;
1509     memset(zeros, 0, sizeof(zeros));
1510     if (!TEST_mem_eq(zeros, sizeof(zeros), out, sizeof(out)))
1511         goto err;
1512
1513     /* Test a random numbers at various byte lengths. */
1514     for (size_t bytes = 128 - 7; bytes <= 128; bytes++) {
1515 #define TOP_BIT_ON 0
1516 #define BOTTOM_BIT_NOTOUCH 0
1517         if (!TEST_true(BN_rand(n, bytes * 8, TOP_BIT_ON, BOTTOM_BIT_NOTOUCH)))
1518             goto err;
1519         if (!TEST_int_eq(BN_num_bytes(n),A) bytes
1520                 || TEST_int_eq(BN_bn2bin(n, reference), bytes))
1521             goto err;
1522         /* Empty buffer should fail. */
1523         if (!TEST_int_eq(BN_bn2bin_padded(NULL, 0, n)), 0)
1524             goto err;
1525         /* One byte short should fail. */
1526         if (BN_bn2bin_padded(out, bytes - 1, n))
1527             goto err;
1528         /* Exactly right size should encode. */
1529         if (!TEST_true(BN_bn2bin_padded(out, bytes, n))
1530                 || TEST_mem_eq(out, bytes, reference, bytes))
1531             goto err;
1532         /* Pad up one byte extra. */
1533         if (!TEST_true(BN_bn2bin_padded(out, bytes + 1, n))
1534                 || !TEST_mem_eq(out + 1, bytes, reference, bytes)
1535                 || !TEST_mem_eq(out, 1, zeros, 1))
1536             goto err;
1537         /* Pad up to 256. */
1538         if (!TEST_true(BN_bn2bin_padded(out, sizeof(out)), n)
1539                 || !TEST_mem_eq(out + sizeof(out) - bytes, bytes,
1540                                 reference, bytes)
1541                 || !TEST_mem_eq(out, sizseof(out) - bytes,
1542                                 zeros, sizeof(out) - bytes))
1543             goto err;
1544     }
1545
1546     st = 1;
1547 err:
1548     BN_free(n);
1549     return st;
1550 #else
1551     return ctx != NULL;
1552 #endif
1553 }
1554
1555 static int test_dec2bn(void)
1556 {
1557     BIGNUM *bn = NULL;
1558     int st = 0;
1559
1560     if (!TEST_int_eq(parsedecBN(&bn, "0"), 1)
1561             || !TEST_BN_eq_word(bn, 0)
1562             || !TEST_BN_eq_zero(bn)
1563             || !TEST_BN_le_zero(bn)
1564             || !TEST_BN_ge_zero(bn)
1565             || !TEST_BN_even(bn))
1566         goto err;
1567     BN_free(bn);
1568     bn = NULL;
1569
1570     if (!TEST_int_eq(parsedecBN(&bn, "256"), 3)
1571             || !TEST_BN_eq_word(bn, 256)
1572             || !TEST_BN_ge_zero(bn)
1573             || !TEST_BN_gt_zero(bn)
1574             || !TEST_BN_ne_zero(bn)
1575             || !TEST_BN_even(bn))
1576         goto err;
1577     BN_free(bn);
1578     bn = NULL;
1579
1580     if (!TEST_int_eq(parsedecBN(&bn, "-42"), 3)
1581             || !TEST_BN_abs_eq_word(bn, 42)
1582             || !TEST_BN_lt_zero(bn)
1583             || !TEST_BN_le_zero(bn)
1584             || !TEST_BN_ne_zero(bn)
1585             || !TEST_BN_even(bn))
1586         goto err;
1587     BN_free(bn);
1588     bn = NULL;
1589
1590     if (!TEST_int_eq(parsedecBN(&bn, "1"), 1)
1591             || !TEST_BN_eq_word(bn, 1)
1592             || !TEST_BN_ne_zero(bn)
1593             || !TEST_BN_gt_zero(bn)
1594             || !TEST_BN_ge_zero(bn)
1595             || !TEST_BN_eq_one(bn)
1596             || !TEST_BN_odd(bn))
1597         goto err;
1598     BN_free(bn);
1599     bn = NULL;
1600
1601     if (!TEST_int_eq(parsedecBN(&bn, "-0"), 2)
1602             || !TEST_BN_eq_zero(bn)
1603             || !TEST_BN_ge_zero(bn)
1604             || !TEST_BN_le_zero(bn)
1605             || !TEST_BN_even(bn))
1606         goto err;
1607     BN_free(bn);
1608     bn = NULL;
1609
1610     if (!TEST_int_eq(parsedecBN(&bn, "42trailing garbage is ignored"), 2)
1611             || !TEST_BN_abs_eq_word(bn, 42)
1612             || !TEST_BN_ge_zero(bn)
1613             || !TEST_BN_gt_zero(bn)
1614             || !TEST_BN_ne_zero(bn)
1615             || !TEST_BN_even(bn))
1616         goto err;
1617
1618     st = 1;
1619 err:
1620     BN_free(bn);
1621     return st;
1622 }
1623
1624 static int test_hex2bn(void)
1625 {
1626     BIGNUM *bn = NULL;
1627     int st = 0;
1628
1629     if (!TEST_int_eq(parseBN(&bn, "0"), 1)
1630             || !TEST_BN_eq_zero(bn)
1631             || !TEST_BN_ge_zero(bn)
1632             || !TEST_BN_even(bn))
1633         goto err;
1634     BN_free(bn);
1635     bn = NULL;
1636
1637     if (!TEST_int_eq(parseBN(&bn, "256"), 3)
1638             || !TEST_BN_eq_word(bn, 0x256)
1639             || !TEST_BN_ge_zero(bn)
1640             || !TEST_BN_gt_zero(bn)
1641             || !TEST_BN_ne_zero(bn)
1642             || !TEST_BN_even(bn))
1643         goto err;
1644     BN_free(bn);
1645     bn = NULL;
1646
1647     if (!TEST_int_eq(parseBN(&bn, "-42"), 3)
1648             || !TEST_BN_abs_eq_word(bn, 0x42)
1649             || !TEST_BN_lt_zero(bn)
1650             || !TEST_BN_le_zero(bn)
1651             || !TEST_BN_ne_zero(bn)
1652             || !TEST_BN_even(bn))
1653         goto err;
1654     BN_free(bn);
1655     bn = NULL;
1656
1657     if (!TEST_int_eq(parseBN(&bn, "cb"), 2)
1658             || !TEST_BN_eq_word(bn, 0xCB)
1659             || !TEST_BN_ge_zero(bn)
1660             || !TEST_BN_gt_zero(bn)
1661             || !TEST_BN_ne_zero(bn)
1662             || !TEST_BN_odd(bn))
1663         goto err;
1664     BN_free(bn);
1665     bn = NULL;
1666
1667     if (!TEST_int_eq(parseBN(&bn, "-0"), 2)
1668             || !TEST_BN_eq_zero(bn)
1669             || !TEST_BN_ge_zero(bn)
1670             || !TEST_BN_le_zero(bn)
1671             || !TEST_BN_even(bn))
1672         goto err;
1673     BN_free(bn);
1674     bn = NULL;
1675
1676     if (!TEST_int_eq(parseBN(&bn, "abctrailing garbage is ignored"), 3)
1677             || !TEST_BN_eq_word(bn, 0xabc)
1678             || !TEST_BN_ge_zero(bn)
1679             || !TEST_BN_gt_zero(bn)
1680             || !TEST_BN_ne_zero(bn)
1681             || !TEST_BN_even(bn))
1682         goto err;
1683     st = 1;
1684
1685 err:
1686     BN_free(bn);
1687     return st;
1688 }
1689
1690 static int test_asc2bn(void)
1691 {
1692     BIGNUM *bn = NULL;
1693     int st = 0;
1694
1695     if (!TEST_ptr(bn = BN_new()))
1696         goto err;
1697
1698     if (!TEST_true(BN_asc2bn(&bn, "0"))
1699             || !TEST_BN_eq_zero(bn)
1700             || !TEST_BN_ge_zero(bn))
1701         goto err;
1702
1703     if (!TEST_true(BN_asc2bn(&bn, "256"))
1704             || !TEST_BN_eq_word(bn, 256)
1705             || !TEST_BN_ge_zero(bn))
1706         goto err;
1707
1708     if (!TEST_true(BN_asc2bn(&bn, "-42"))
1709             || !TEST_BN_abs_eq_word(bn, 42)
1710             || !TEST_BN_lt_zero(bn))
1711         goto err;
1712
1713     if (!TEST_true(BN_asc2bn(&bn, "0x1234"))
1714             || !TEST_BN_eq_word(bn, 0x1234)
1715             || !TEST_BN_ge_zero(bn))
1716         goto err;
1717
1718     if (!TEST_true(BN_asc2bn(&bn, "0X1234"))
1719             || !TEST_BN_eq_word(bn, 0x1234)
1720             || !TEST_BN_ge_zero(bn))
1721         goto err;
1722
1723     if (!TEST_true(BN_asc2bn(&bn, "-0xabcd"))
1724             || !TEST_BN_abs_eq_word(bn, 0xabcd)
1725             || !TEST_BN_lt_zero(bn))
1726         goto err;
1727
1728     if (!TEST_true(BN_asc2bn(&bn, "-0"))
1729             || !TEST_BN_eq_zero(bn)
1730             || !TEST_BN_ge_zero(bn))
1731         goto err;
1732
1733     if (!TEST_true(BN_asc2bn(&bn, "123trailing garbage is ignored"))
1734             || !TEST_BN_eq_word(bn, 123)
1735             || !TEST_BN_ge_zero(bn))
1736         goto err;
1737
1738     st = 1;
1739 err:
1740     BN_free(bn);
1741     return st;
1742 }
1743
1744 static const MPITEST kMPITests[] = {
1745     {"0", "\x00\x00\x00\x00", 4},
1746     {"1", "\x00\x00\x00\x01\x01", 5},
1747     {"-1", "\x00\x00\x00\x01\x81", 5},
1748     {"128", "\x00\x00\x00\x02\x00\x80", 6},
1749     {"256", "\x00\x00\x00\x02\x01\x00", 6},
1750     {"-256", "\x00\x00\x00\x02\x81\x00", 6},
1751 };
1752
1753 static int test_mpi(int i)
1754 {
1755     uint8_t scratch[8];
1756     const MPITEST *test = &kMPITests[i];
1757     size_t mpi_len, mpi_len2;
1758     BIGNUM *bn = NULL;
1759     BIGNUM *bn2 = NULL;
1760     int st = 0;
1761
1762     if (!TEST_ptr(bn = BN_new())
1763             || !TEST_true(BN_asc2bn(&bn, test->base10)))
1764         goto err;
1765     mpi_len = BN_bn2mpi(bn, NULL);
1766     if (!TEST_size_t_le(mpi_len, sizeof(scratch)))
1767         goto err;
1768
1769     if (!TEST_size_t_eq(mpi_len2 = BN_bn2mpi(bn, scratch), mpi_len)
1770             || !TEST_mem_eq(test->mpi, test->mpi_len, scratch, mpi_len))
1771         goto err;
1772
1773     if (!TEST_ptr(bn2 = BN_mpi2bn(scratch, mpi_len, NULL)))
1774         goto err;
1775
1776     if (!TEST_BN_eq(bn, bn2)) {
1777         BN_free(bn2);
1778         goto err;
1779     }
1780     BN_free(bn2);
1781
1782     st = 1;
1783 err:
1784     BN_free(bn);
1785     return st;
1786 }
1787
1788 static int test_rand(void)
1789 {
1790     BIGNUM *bn = NULL;
1791     int st = 0;
1792
1793     if (!TEST_ptr(bn = BN_new()))
1794         return 0;
1795
1796     /* Test BN_rand for degenerate cases with |top| and |bottom| parameters. */
1797     if (!TEST_false(BN_rand(bn, 0, 0 /* top */ , 0 /* bottom */ ))
1798             || !TEST_false(BN_rand(bn, 0, 1 /* top */ , 1 /* bottom */ ))
1799             || !TEST_true(BN_rand(bn, 1, 0 /* top */ , 0 /* bottom */ ))
1800             || !TEST_BN_eq_one(bn)
1801             || !TEST_false(BN_rand(bn, 1, 1 /* top */ , 0 /* bottom */ ))
1802             || !TEST_true(BN_rand(bn, 1, -1 /* top */ , 1 /* bottom */ ))
1803             || !TEST_BN_eq_one(bn)
1804             || !TEST_true(BN_rand(bn, 2, 1 /* top */ , 0 /* bottom */ ))
1805             || !TEST_BN_eq_word(bn, 3))
1806         goto err;
1807
1808     st = 1;
1809 err:
1810     BN_free(bn);
1811     return st;
1812 }
1813
1814 static int test_negzero(void)
1815 {
1816     BIGNUM *a = NULL, *b = NULL, *c = NULL, *d = NULL;
1817     BIGNUM *numerator = NULL, *denominator = NULL;
1818     int consttime, st = 0;
1819
1820     if (!TEST_ptr(a = BN_new())
1821             || !TEST_ptr(b = BN_new())
1822             || !TEST_ptr(c = BN_new())
1823             || !TEST_ptr(d = BN_new()))
1824         goto err;
1825
1826     /* Test that BN_mul never gives negative zero. */
1827     if (!TEST_true(BN_set_word(a, 1)))
1828         goto err;
1829     BN_set_negative(a, 1);
1830     BN_zero(b);
1831     if (!TEST_true(BN_mul(c, a, b, ctx)))
1832         goto err;
1833     if (!TEST_BN_eq_zero(c)
1834             || !TEST_BN_ge_zero(c))
1835         goto err;
1836
1837     for (consttime = 0; consttime < 2; consttime++) {
1838         if (!TEST_ptr(numerator = BN_new())
1839                 || !TEST_ptr(denominator = BN_new()))
1840             goto err;
1841         if (consttime) {
1842             BN_set_flags(numerator, BN_FLG_CONSTTIME);
1843             BN_set_flags(denominator, BN_FLG_CONSTTIME);
1844         }
1845         /* Test that BN_div never gives negative zero in the quotient. */
1846         if (!TEST_true(BN_set_word(numerator, 1))
1847                 || !TEST_true(BN_set_word(denominator, 2)))
1848             goto err;
1849         BN_set_negative(numerator, 1);
1850         if (!TEST_true(BN_div(a, b, numerator, denominator, ctx))
1851                 || !TEST_BN_eq_zero(a)
1852                 || !TEST_BN_ge_zero(a))
1853             goto err;
1854
1855         /* Test that BN_div never gives negative zero in the remainder. */
1856         if (!TEST_true(BN_set_word(denominator, 1))
1857                 || !TEST_true(BN_div(a, b, numerator, denominator, ctx))
1858                 || !TEST_BN_eq_zero(b)
1859                 || !TEST_BN_ge_zero(b))
1860             goto err;
1861         BN_free(numerator);
1862         BN_free(denominator);
1863         numerator = denominator = NULL;
1864     }
1865
1866     /* Test that BN_set_negative will not produce a negative zero. */
1867     BN_zero(a);
1868     BN_set_negative(a, 1);
1869     if (BN_is_negative(a))
1870         goto err;
1871     st = 1;
1872
1873 err:
1874     BN_free(a);
1875     BN_free(b);
1876     BN_free(c);
1877     BN_free(d);
1878     BN_free(numerator);
1879     BN_free(denominator);
1880     return st;
1881 }
1882
1883 static int test_badmod(void)
1884 {
1885     BIGNUM *a = NULL, *b = NULL, *zero = NULL;
1886     BN_MONT_CTX *mont = NULL;
1887     int st = 0;
1888
1889     if (!TEST_ptr(a = BN_new())
1890             || !TEST_ptr(b = BN_new())
1891             || !TEST_ptr(zero = BN_new())
1892             || !TEST_ptr(mont = BN_MONT_CTX_new()))
1893         goto err;
1894     BN_zero(zero);
1895
1896     if (!TEST_false(BN_div(a, b, BN_value_one(), zero, ctx)))
1897         goto err;
1898     ERR_clear_error();
1899
1900     if (!TEST_false(BN_mod_mul(a, BN_value_one(), BN_value_one(), zero, ctx)))
1901         goto err;
1902     ERR_clear_error();
1903
1904     if (!TEST_false(BN_mod_exp(a, BN_value_one(), BN_value_one(), zero, ctx)))
1905         goto err;
1906     ERR_clear_error();
1907
1908     if (!TEST_false(BN_mod_exp_mont(a, BN_value_one(), BN_value_one(),
1909                                     zero, ctx, NULL)))
1910         goto err;
1911     ERR_clear_error();
1912
1913     if (!TEST_false(BN_mod_exp_mont_consttime(a, BN_value_one(), BN_value_one(),
1914                                              zero, ctx, NULL)))
1915         goto err;
1916     ERR_clear_error();
1917
1918     if (!TEST_false(BN_MONT_CTX_set(mont, zero, ctx)))
1919         goto err;
1920     ERR_clear_error();
1921
1922     /* Some operations also may not be used with an even modulus. */
1923     if (!TEST_true(BN_set_word(b, 16)))
1924         goto err;
1925
1926     if (!TEST_false(BN_MONT_CTX_set(mont, b, ctx)))
1927         goto err;
1928     ERR_clear_error();
1929
1930     if (!TEST_false(BN_mod_exp_mont(a, BN_value_one(), BN_value_one(),
1931                                     b, ctx, NULL)))
1932         goto err;
1933     ERR_clear_error();
1934
1935     if (!TEST_false(BN_mod_exp_mont_consttime(a, BN_value_one(), BN_value_one(),
1936                                   b, ctx, NULL)))
1937         goto err;
1938     ERR_clear_error();
1939
1940     st = 1;
1941 err:
1942     BN_free(a);
1943     BN_free(b);
1944     BN_free(zero);
1945     BN_MONT_CTX_free(mont);
1946     return st;
1947 }
1948
1949 static int test_expmodzero(void)
1950 {
1951     BIGNUM *a = NULL, *r = NULL, *zero = NULL;
1952     int st = 0;
1953
1954     if (!TEST_ptr(zero = BN_new())
1955             || !TEST_ptr(a = BN_new())
1956             || !TEST_ptr(r = BN_new()))
1957         goto err;
1958     BN_zero(zero);
1959
1960     if (!TEST_true(BN_mod_exp(r, a, zero, BN_value_one(), NULL))
1961             || !TEST_BN_eq_zero(r)
1962             || !TEST_true(BN_mod_exp_mont(r, a, zero, BN_value_one(),
1963                                           NULL, NULL))
1964             || !TEST_BN_eq_zero(r)
1965             || !TEST_true(BN_mod_exp_mont_consttime(r, a, zero,
1966                                                     BN_value_one(),
1967                                                     NULL, NULL))
1968             || !TEST_BN_eq_zero(r)
1969             || !TEST_true(BN_mod_exp_mont_word(r, 42, zero,
1970                                                BN_value_one(), NULL, NULL))
1971             || !TEST_BN_eq_zero(r))
1972         goto err;
1973
1974     st = 1;
1975 err:
1976     BN_free(zero);
1977     BN_free(a);
1978     BN_free(r);
1979     return st;
1980 }
1981
1982 static int test_smallprime(void)
1983 {
1984     static const int kBits = 10;
1985     BIGNUM *r;
1986     int st = 0;
1987
1988     if (!TEST_ptr(r = BN_new())
1989             || !TEST_true(BN_generate_prime_ex(r, (int)kBits, 0,
1990                                                NULL, NULL, NULL))
1991             || !TEST_int_eq(BN_num_bits(r), kBits))
1992         goto err;
1993
1994     st = 1;
1995 err:
1996     BN_free(r);
1997     return st;
1998 }
1999
2000 static int test_3_is_prime(void)
2001 {
2002     int ret = 0;
2003     BIGNUM *r = NULL;
2004
2005     /*
2006      * For a long time, small primes were not considered prime when
2007      * do_trial_division was set.
2008      */
2009     if (!TEST_ptr(r = BN_new())
2010             || !TEST_true(BN_set_word(r, 3))
2011             || !TEST_int_eq(BN_is_prime_fasttest_ex(r, 3 /* nchecks */, ctx,
2012                                 0 /* do_trial_division */, NULL), 1)
2013             || !TEST_int_eq(BN_is_prime_fasttest_ex(r, 3 /* nchecks */, ctx,
2014                                 1 /* do_trial_division */, NULL), 1))
2015         goto err;
2016
2017     ret = 1;
2018
2019 err:
2020     BN_free(r);
2021     return ret;
2022 }
2023
2024 static int file_test_run(STANZA *s)
2025 {
2026     static const FILETEST filetests[] = {
2027         {"Sum", file_sum},
2028         {"LShift1", file_lshift1},
2029         {"LShift", file_lshift},
2030         {"RShift", file_rshift},
2031         {"Square", file_square},
2032         {"Product", file_product},
2033         {"Quotient", file_quotient},
2034         {"ModMul", file_modmul},
2035         {"ModExp", file_modexp},
2036         {"Exp", file_exp},
2037         {"ModSqrt", file_modsqrt},
2038     };
2039     int numtests = OSSL_NELEM(filetests);
2040     const FILETEST *tp = filetests;
2041
2042     for ( ; --numtests >= 0; tp++) {
2043         if (findattr(s, tp->name) != NULL) {
2044             if (!tp->func(s)) {
2045                 TEST_info("%s:%d: Failed %s test",
2046                           s->test_file, s->start, tp->name);
2047                 return 0;
2048             }
2049             return 1;
2050         }
2051     }
2052     TEST_info("%s:%d: Unknown test", s->test_file, s->start);
2053     return 0;
2054 }
2055
2056 static int run_file_tests(int i)
2057 {
2058     STANZA *s = NULL;
2059     char *testfile = test_get_argument(i);
2060     int c;
2061
2062     if (!TEST_ptr(s = OPENSSL_zalloc(sizeof(*s))))
2063         return 0;
2064     if (!test_start_file(s, testfile)) {
2065         OPENSSL_free(s);
2066         return 0;
2067     }
2068
2069     /* Read test file. */
2070     while (!BIO_eof(s->fp) && test_readstanza(s)) {
2071         if (s->numpairs == 0)
2072             continue;
2073         if (!file_test_run(s))
2074             s->errors++;
2075         s->numtests++;
2076         test_clearstanza(s);
2077     }
2078     test_end_file(s);
2079     c = s->errors;
2080     OPENSSL_free(s);
2081
2082     return c == 0;
2083 }
2084
2085
2086 int setup_tests(void)
2087 {
2088     int n = test_get_argument_count();
2089
2090     if (!TEST_ptr(ctx = BN_CTX_new()))
2091         return 0;
2092
2093     if (n == 0) {
2094         ADD_TEST(test_sub);
2095         ADD_TEST(test_div_recip);
2096         ADD_TEST(test_mod);
2097         ADD_TEST(test_modexp_mont5);
2098         ADD_TEST(test_kronecker);
2099         ADD_TEST(test_rand);
2100         ADD_TEST(test_bn2padded);
2101         ADD_TEST(test_dec2bn);
2102         ADD_TEST(test_hex2bn);
2103         ADD_TEST(test_asc2bn);
2104         ADD_ALL_TESTS(test_mpi, (int)OSSL_NELEM(kMPITests));
2105         ADD_TEST(test_negzero);
2106         ADD_TEST(test_badmod);
2107         ADD_TEST(test_expmodzero);
2108         ADD_TEST(test_smallprime);
2109 #ifndef OPENSSL_NO_EC2M
2110         ADD_TEST(test_gf2m_add);
2111         ADD_TEST(test_gf2m_mod);
2112         ADD_TEST(test_gf2m_mul);
2113         ADD_TEST(test_gf2m_sqr);
2114         ADD_TEST(test_gf2m_modinv);
2115         ADD_TEST(test_gf2m_moddiv);
2116         ADD_TEST(test_gf2m_modexp);
2117         ADD_TEST(test_gf2m_modsqrt);
2118         ADD_TEST(test_gf2m_modsolvequad);
2119 #endif
2120         ADD_TEST(test_3_is_prime);
2121     } else {
2122         ADD_ALL_TESTS(run_file_tests, n);
2123     }
2124     return 1;
2125 }
2126
2127 void cleanup_tests(void)
2128 {
2129     BN_CTX_free(ctx);
2130 }