Fix spurious bntest failures.
[openssl.git] / test / bntest.c
1 /* crypto/bn/bntest.c */
2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
3  * All rights reserved.
4  *
5  * This package is an SSL implementation written
6  * by Eric Young (eay@cryptsoft.com).
7  * The implementation was written so as to conform with Netscapes SSL.
8  *
9  * This library is free for commercial and non-commercial use as long as
10  * the following conditions are aheared to.  The following conditions
11  * apply to all code found in this distribution, be it the RC4, RSA,
12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
13  * included with this distribution is covered by the same copyright terms
14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
15  *
16  * Copyright remains Eric Young's, and as such any Copyright notices in
17  * the code are not to be removed.
18  * If this package is used in a product, Eric Young should be given attribution
19  * as the author of the parts of the library used.
20  * This can be in the form of a textual message at program startup or
21  * in documentation (online or textual) provided with the package.
22  *
23  * Redistribution and use in source and binary forms, with or without
24  * modification, are permitted provided that the following conditions
25  * are met:
26  * 1. Redistributions of source code must retain the copyright
27  *    notice, this list of conditions and the following disclaimer.
28  * 2. Redistributions in binary form must reproduce the above copyright
29  *    notice, this list of conditions and the following disclaimer in the
30  *    documentation and/or other materials provided with the distribution.
31  * 3. All advertising materials mentioning features or use of this software
32  *    must display the following acknowledgement:
33  *    "This product includes cryptographic software written by
34  *     Eric Young (eay@cryptsoft.com)"
35  *    The word 'cryptographic' can be left out if the rouines from the library
36  *    being used are not cryptographic related :-).
37  * 4. If you include any Windows specific code (or a derivative thereof) from
38  *    the apps directory (application code) you must include an acknowledgement:
39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
40  *
41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
51  * SUCH DAMAGE.
52  *
53  * The licence and distribution terms for any publically available version or
54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
55  * copied and put under another distribution licence
56  * [including the GNU Public Licence.]
57  */
58 /* ====================================================================
59  * Copyright 2002 Sun Microsystems, Inc. ALL RIGHTS RESERVED.
60  *
61  * Portions of the attached software ("Contribution") are developed by
62  * SUN MICROSYSTEMS, INC., and are contributed to the OpenSSL project.
63  *
64  * The Contribution is licensed pursuant to the Eric Young open source
65  * license provided above.
66  *
67  * The binary polynomial arithmetic software is originally written by
68  * Sheueling Chang Shantz and Douglas Stebila of Sun Microsystems Laboratories.
69  *
70  */
71
72 #include <stdio.h>
73 #include <stdlib.h>
74 #include <string.h>
75
76 #include "e_os.h"
77
78 #include <openssl/bio.h>
79 #include <openssl/bn.h>
80 #include <openssl/rand.h>
81 #include <openssl/x509.h>
82 #include <openssl/err.h>
83
84 #include "../crypto/bn/bn_lcl.h"
85
86 const int num0 = 100;           /* number of tests */
87 const int num1 = 50;            /* additional tests for some functions */
88 const int num2 = 5;             /* number of tests for slow functions */
89
90 int test_add(BIO *bp);
91 int test_sub(BIO *bp);
92 int test_lshift1(BIO *bp);
93 int test_lshift(BIO *bp, BN_CTX *ctx, BIGNUM *a_);
94 int test_rshift1(BIO *bp);
95 int test_rshift(BIO *bp, BN_CTX *ctx);
96 int test_div(BIO *bp, BN_CTX *ctx);
97 int test_div_word(BIO *bp);
98 int test_div_recp(BIO *bp, BN_CTX *ctx);
99 int test_mul(BIO *bp);
100 int test_sqr(BIO *bp, BN_CTX *ctx);
101 int test_mont(BIO *bp, BN_CTX *ctx);
102 int test_mod(BIO *bp, BN_CTX *ctx);
103 int test_mod_mul(BIO *bp, BN_CTX *ctx);
104 int test_mod_exp(BIO *bp, BN_CTX *ctx);
105 int test_mod_exp_mont_consttime(BIO *bp, BN_CTX *ctx);
106 int test_mod_exp_mont5(BIO *bp, BN_CTX *ctx);
107 int test_exp(BIO *bp, BN_CTX *ctx);
108 int test_gf2m_add(BIO *bp);
109 int test_gf2m_mod(BIO *bp);
110 int test_gf2m_mod_mul(BIO *bp, BN_CTX *ctx);
111 int test_gf2m_mod_sqr(BIO *bp, BN_CTX *ctx);
112 int test_gf2m_mod_inv(BIO *bp, BN_CTX *ctx);
113 int test_gf2m_mod_div(BIO *bp, BN_CTX *ctx);
114 int test_gf2m_mod_exp(BIO *bp, BN_CTX *ctx);
115 int test_gf2m_mod_sqrt(BIO *bp, BN_CTX *ctx);
116 int test_gf2m_mod_solve_quad(BIO *bp, BN_CTX *ctx);
117 int test_kron(BIO *bp, BN_CTX *ctx);
118 int test_sqrt(BIO *bp, BN_CTX *ctx);
119 int test_small_prime(BIO *bp, BN_CTX *ctx);
120 int test_probable_prime_coprime(BIO *bp, BN_CTX *ctx);
121 int rand_neg(void);
122 static int results = 0;
123
124 static unsigned char lst[] =
125     "\xC6\x4F\x43\x04\x2A\xEA\xCA\x6E\x58\x36\x80\x5B\xE8\xC9"
126     "\x9B\x04\x5D\x48\x36\xC2\xFD\x16\xC9\x64\xF0";
127
128 static const char rnd_seed[] =
129     "string to make the random number generator think it has entropy";
130
131 static void message(BIO *out, char *m)
132 {
133     fprintf(stderr, "test %s\n", m);
134     BIO_puts(out, "print \"test ");
135     BIO_puts(out, m);
136     BIO_puts(out, "\\n\"\n");
137 }
138
139 int main(int argc, char *argv[])
140 {
141     BN_CTX *ctx;
142     BIO *out;
143     char *outfile = NULL;
144
145     results = 0;
146
147     RAND_seed(rnd_seed, sizeof rnd_seed); /* or BN_generate_prime may fail */
148
149     argc--;
150     argv++;
151     while (argc >= 1) {
152         if (strcmp(*argv, "-results") == 0)
153             results = 1;
154         else if (strcmp(*argv, "-out") == 0) {
155             if (--argc < 1)
156                 break;
157             outfile = *(++argv);
158         }
159         argc--;
160         argv++;
161     }
162
163     ctx = BN_CTX_new();
164     if (ctx == NULL)
165         EXIT(1);
166
167     out = BIO_new(BIO_s_file());
168     if (out == NULL)
169         EXIT(1);
170     if (outfile == NULL) {
171         BIO_set_fp(out, stdout, BIO_NOCLOSE);
172     } else {
173         if (!BIO_write_filename(out, outfile)) {
174             perror(outfile);
175             EXIT(1);
176         }
177     }
178
179     if (!results)
180         BIO_puts(out, "obase=16\nibase=16\n");
181
182     message(out, "BN_add");
183     if (!test_add(out))
184         goto err;
185     (void)BIO_flush(out);
186
187     message(out, "BN_sub");
188     if (!test_sub(out))
189         goto err;
190     (void)BIO_flush(out);
191
192     message(out, "BN_lshift1");
193     if (!test_lshift1(out))
194         goto err;
195     (void)BIO_flush(out);
196
197     message(out, "BN_lshift (fixed)");
198     if (!test_lshift(out, ctx, BN_bin2bn(lst, sizeof(lst) - 1, NULL)))
199         goto err;
200     (void)BIO_flush(out);
201
202     message(out, "BN_lshift");
203     if (!test_lshift(out, ctx, NULL))
204         goto err;
205     (void)BIO_flush(out);
206
207     message(out, "BN_rshift1");
208     if (!test_rshift1(out))
209         goto err;
210     (void)BIO_flush(out);
211
212     message(out, "BN_rshift");
213     if (!test_rshift(out, ctx))
214         goto err;
215     (void)BIO_flush(out);
216
217     message(out, "BN_sqr");
218     if (!test_sqr(out, ctx))
219         goto err;
220     (void)BIO_flush(out);
221
222     message(out, "BN_mul");
223     if (!test_mul(out))
224         goto err;
225     (void)BIO_flush(out);
226
227     message(out, "BN_div");
228     if (!test_div(out, ctx))
229         goto err;
230     (void)BIO_flush(out);
231
232     message(out, "BN_div_word");
233     if (!test_div_word(out))
234         goto err;
235     (void)BIO_flush(out);
236
237     message(out, "BN_div_recp");
238     if (!test_div_recp(out, ctx))
239         goto err;
240     (void)BIO_flush(out);
241
242     message(out, "BN_mod");
243     if (!test_mod(out, ctx))
244         goto err;
245     (void)BIO_flush(out);
246
247     message(out, "BN_mod_mul");
248     if (!test_mod_mul(out, ctx))
249         goto err;
250     (void)BIO_flush(out);
251
252     message(out, "BN_mont");
253     if (!test_mont(out, ctx))
254         goto err;
255     (void)BIO_flush(out);
256
257     message(out, "BN_mod_exp");
258     if (!test_mod_exp(out, ctx))
259         goto err;
260     (void)BIO_flush(out);
261
262     message(out, "BN_mod_exp_mont_consttime");
263     if (!test_mod_exp_mont_consttime(out, ctx))
264         goto err;
265     if (!test_mod_exp_mont5(out, ctx))
266         goto err;
267     (void)BIO_flush(out);
268
269     message(out, "BN_exp");
270     if (!test_exp(out, ctx))
271         goto err;
272     (void)BIO_flush(out);
273
274     message(out, "BN_kronecker");
275     if (!test_kron(out, ctx))
276         goto err;
277     (void)BIO_flush(out);
278
279     message(out, "BN_mod_sqrt");
280     if (!test_sqrt(out, ctx))
281         goto err;
282     (void)BIO_flush(out);
283
284     message(out, "Small prime generation");
285     if (!test_small_prime(out, ctx))
286         goto err;
287     (void)BIO_flush(out);
288
289 #ifdef OPENSSL_SYS_WIN32
290     message(out, "Probable prime generation with coprimes disabled");
291 #else
292     message(out, "Probable prime generation with coprimes");
293     if (!test_probable_prime_coprime(out, ctx))
294         goto err;
295 #endif
296     (void)BIO_flush(out);
297
298 #ifndef OPENSSL_NO_EC2M
299     message(out, "BN_GF2m_add");
300     if (!test_gf2m_add(out))
301         goto err;
302     (void)BIO_flush(out);
303
304     message(out, "BN_GF2m_mod");
305     if (!test_gf2m_mod(out))
306         goto err;
307     (void)BIO_flush(out);
308
309     message(out, "BN_GF2m_mod_mul");
310     if (!test_gf2m_mod_mul(out, ctx))
311         goto err;
312     (void)BIO_flush(out);
313
314     message(out, "BN_GF2m_mod_sqr");
315     if (!test_gf2m_mod_sqr(out, ctx))
316         goto err;
317     (void)BIO_flush(out);
318
319     message(out, "BN_GF2m_mod_inv");
320     if (!test_gf2m_mod_inv(out, ctx))
321         goto err;
322     (void)BIO_flush(out);
323
324     message(out, "BN_GF2m_mod_div");
325     if (!test_gf2m_mod_div(out, ctx))
326         goto err;
327     (void)BIO_flush(out);
328
329     message(out, "BN_GF2m_mod_exp");
330     if (!test_gf2m_mod_exp(out, ctx))
331         goto err;
332     (void)BIO_flush(out);
333
334     message(out, "BN_GF2m_mod_sqrt");
335     if (!test_gf2m_mod_sqrt(out, ctx))
336         goto err;
337     (void)BIO_flush(out);
338
339     message(out, "BN_GF2m_mod_solve_quad");
340     if (!test_gf2m_mod_solve_quad(out, ctx))
341         goto err;
342     (void)BIO_flush(out);
343 #endif
344     BN_CTX_free(ctx);
345     BIO_free(out);
346
347     EXIT(0);
348  err:
349     BIO_puts(out, "1\n");       /* make sure the Perl script fed by bc
350                                  * notices the failure, see test_bn in
351                                  * test/Makefile.ssl */
352     (void)BIO_flush(out);
353     ERR_load_crypto_strings();
354     ERR_print_errors_fp(stderr);
355     EXIT(1);
356 }
357
358 int test_add(BIO *bp)
359 {
360     BIGNUM *a, *b, *c;
361     int i;
362
363     a = BN_new();
364     b = BN_new();
365     c = BN_new();
366
367     BN_bntest_rand(a, 512, 0, 0);
368     for (i = 0; i < num0; i++) {
369         BN_bntest_rand(b, 450 + i, 0, 0);
370         a->neg = rand_neg();
371         b->neg = rand_neg();
372         BN_add(c, a, b);
373         if (bp != NULL) {
374             if (!results) {
375                 BN_print(bp, a);
376                 BIO_puts(bp, " + ");
377                 BN_print(bp, b);
378                 BIO_puts(bp, " - ");
379             }
380             BN_print(bp, c);
381             BIO_puts(bp, "\n");
382         }
383         a->neg = !a->neg;
384         b->neg = !b->neg;
385         BN_add(c, c, b);
386         BN_add(c, c, a);
387         if (!BN_is_zero(c)) {
388             fprintf(stderr, "Add test failed!\n");
389             return 0;
390         }
391     }
392     BN_free(a);
393     BN_free(b);
394     BN_free(c);
395     return (1);
396 }
397
398 int test_sub(BIO *bp)
399 {
400     BIGNUM *a, *b, *c;
401     int i;
402
403     a = BN_new();
404     b = BN_new();
405     c = BN_new();
406
407     for (i = 0; i < num0 + num1; i++) {
408         if (i < num1) {
409             BN_bntest_rand(a, 512, 0, 0);
410             BN_copy(b, a);
411             if (BN_set_bit(a, i) == 0)
412                 return (0);
413             BN_add_word(b, i);
414         } else {
415             BN_bntest_rand(b, 400 + i - num1, 0, 0);
416             a->neg = rand_neg();
417             b->neg = rand_neg();
418         }
419         BN_sub(c, a, b);
420         if (bp != NULL) {
421             if (!results) {
422                 BN_print(bp, a);
423                 BIO_puts(bp, " - ");
424                 BN_print(bp, b);
425                 BIO_puts(bp, " - ");
426             }
427             BN_print(bp, c);
428             BIO_puts(bp, "\n");
429         }
430         BN_add(c, c, b);
431         BN_sub(c, c, a);
432         if (!BN_is_zero(c)) {
433             fprintf(stderr, "Subtract test failed!\n");
434             return 0;
435         }
436     }
437     BN_free(a);
438     BN_free(b);
439     BN_free(c);
440     return (1);
441 }
442
443 int test_div(BIO *bp, BN_CTX *ctx)
444 {
445     BIGNUM *a, *b, *c, *d, *e;
446     int i;
447
448     a = BN_new();
449     b = BN_new();
450     c = BN_new();
451     d = BN_new();
452     e = BN_new();
453
454     for (i = 0; i < num0 + num1; i++) {
455         if (i < num1) {
456             BN_bntest_rand(a, 400, 0, 0);
457             BN_copy(b, a);
458             BN_lshift(a, a, i);
459             BN_add_word(a, i);
460         } else
461             BN_bntest_rand(b, 50 + 3 * (i - num1), 0, 0);
462         a->neg = rand_neg();
463         b->neg = rand_neg();
464         BN_div(d, c, a, b, ctx);
465         if (bp != NULL) {
466             if (!results) {
467                 BN_print(bp, a);
468                 BIO_puts(bp, " / ");
469                 BN_print(bp, b);
470                 BIO_puts(bp, " - ");
471             }
472             BN_print(bp, d);
473             BIO_puts(bp, "\n");
474
475             if (!results) {
476                 BN_print(bp, a);
477                 BIO_puts(bp, " % ");
478                 BN_print(bp, b);
479                 BIO_puts(bp, " - ");
480             }
481             BN_print(bp, c);
482             BIO_puts(bp, "\n");
483         }
484         BN_mul(e, d, b, ctx);
485         BN_add(d, e, c);
486         BN_sub(d, d, a);
487         if (!BN_is_zero(d)) {
488             fprintf(stderr, "Division test failed!\n");
489             return 0;
490         }
491     }
492     BN_free(a);
493     BN_free(b);
494     BN_free(c);
495     BN_free(d);
496     BN_free(e);
497     return (1);
498 }
499
500 static void print_word(BIO *bp, BN_ULONG w)
501 {
502 #ifdef SIXTY_FOUR_BIT
503     if (sizeof(w) > sizeof(unsigned long)) {
504         unsigned long h = (unsigned long)(w >> 32), l = (unsigned long)(w);
505
506         if (h)
507             BIO_printf(bp, "%lX%08lX", h, l);
508         else
509             BIO_printf(bp, "%lX", l);
510         return;
511     }
512 #endif
513     BIO_printf(bp, BN_HEX_FMT1, w);
514 }
515
516 int test_div_word(BIO *bp)
517 {
518     BIGNUM *a, *b;
519     BN_ULONG r, s;
520     int i;
521
522     a = BN_new();
523     b = BN_new();
524
525     for (i = 0; i < num0; i++) {
526         do {
527             BN_bntest_rand(a, 512, -1, 0);
528             BN_bntest_rand(b, BN_BITS2, -1, 0);
529         } while (BN_is_zero(b));
530
531         s = b->d[0];
532         BN_copy(b, a);
533         r = BN_div_word(b, s);
534
535         if (bp != NULL) {
536             if (!results) {
537                 BN_print(bp, a);
538                 BIO_puts(bp, " / ");
539                 print_word(bp, s);
540                 BIO_puts(bp, " - ");
541             }
542             BN_print(bp, b);
543             BIO_puts(bp, "\n");
544
545             if (!results) {
546                 BN_print(bp, a);
547                 BIO_puts(bp, " % ");
548                 print_word(bp, s);
549                 BIO_puts(bp, " - ");
550             }
551             print_word(bp, r);
552             BIO_puts(bp, "\n");
553         }
554         BN_mul_word(b, s);
555         BN_add_word(b, r);
556         BN_sub(b, a, b);
557         if (!BN_is_zero(b)) {
558             fprintf(stderr, "Division (word) test failed!\n");
559             return 0;
560         }
561     }
562     BN_free(a);
563     BN_free(b);
564     return (1);
565 }
566
567 int test_div_recp(BIO *bp, BN_CTX *ctx)
568 {
569     BIGNUM *a, *b, *c, *d, *e;
570     BN_RECP_CTX *recp;
571     int i;
572
573     recp = BN_RECP_CTX_new();
574     a = BN_new();
575     b = BN_new();
576     c = BN_new();
577     d = BN_new();
578     e = BN_new();
579
580     for (i = 0; i < num0 + num1; i++) {
581         if (i < num1) {
582             BN_bntest_rand(a, 400, 0, 0);
583             BN_copy(b, a);
584             BN_lshift(a, a, i);
585             BN_add_word(a, i);
586         } else
587             BN_bntest_rand(b, 50 + 3 * (i - num1), 0, 0);
588         a->neg = rand_neg();
589         b->neg = rand_neg();
590         BN_RECP_CTX_set(recp, b, ctx);
591         BN_div_recp(d, c, a, recp, ctx);
592         if (bp != NULL) {
593             if (!results) {
594                 BN_print(bp, a);
595                 BIO_puts(bp, " / ");
596                 BN_print(bp, b);
597                 BIO_puts(bp, " - ");
598             }
599             BN_print(bp, d);
600             BIO_puts(bp, "\n");
601
602             if (!results) {
603                 BN_print(bp, a);
604                 BIO_puts(bp, " % ");
605                 BN_print(bp, b);
606                 BIO_puts(bp, " - ");
607             }
608             BN_print(bp, c);
609             BIO_puts(bp, "\n");
610         }
611         BN_mul(e, d, b, ctx);
612         BN_add(d, e, c);
613         BN_sub(d, d, a);
614         if (!BN_is_zero(d)) {
615             fprintf(stderr, "Reciprocal division test failed!\n");
616             fprintf(stderr, "a=");
617             BN_print_fp(stderr, a);
618             fprintf(stderr, "\nb=");
619             BN_print_fp(stderr, b);
620             fprintf(stderr, "\n");
621             return 0;
622         }
623     }
624     BN_free(a);
625     BN_free(b);
626     BN_free(c);
627     BN_free(d);
628     BN_free(e);
629     BN_RECP_CTX_free(recp);
630     return (1);
631 }
632
633 int test_mul(BIO *bp)
634 {
635     BIGNUM *a, *b, *c, *d, *e;
636     int i;
637     BN_CTX *ctx;
638
639     ctx = BN_CTX_new();
640     if (ctx == NULL)
641         EXIT(1);
642
643     a = BN_new();
644     b = BN_new();
645     c = BN_new();
646     d = BN_new();
647     e = BN_new();
648
649     for (i = 0; i < num0 + num1; i++) {
650         if (i <= num1) {
651             BN_bntest_rand(a, 100, 0, 0);
652             BN_bntest_rand(b, 100, 0, 0);
653         } else
654             BN_bntest_rand(b, i - num1, 0, 0);
655         a->neg = rand_neg();
656         b->neg = rand_neg();
657         BN_mul(c, a, b, ctx);
658         if (bp != NULL) {
659             if (!results) {
660                 BN_print(bp, a);
661                 BIO_puts(bp, " * ");
662                 BN_print(bp, b);
663                 BIO_puts(bp, " - ");
664             }
665             BN_print(bp, c);
666             BIO_puts(bp, "\n");
667         }
668         BN_div(d, e, c, a, ctx);
669         BN_sub(d, d, b);
670         if (!BN_is_zero(d) || !BN_is_zero(e)) {
671             fprintf(stderr, "Multiplication test failed!\n");
672             return 0;
673         }
674     }
675     BN_free(a);
676     BN_free(b);
677     BN_free(c);
678     BN_free(d);
679     BN_free(e);
680     BN_CTX_free(ctx);
681     return (1);
682 }
683
684 int test_sqr(BIO *bp, BN_CTX *ctx)
685 {
686     BIGNUM *a, *c, *d, *e;
687     int i, ret = 0;
688
689     a = BN_new();
690     c = BN_new();
691     d = BN_new();
692     e = BN_new();
693     if (a == NULL || c == NULL || d == NULL || e == NULL) {
694         goto err;
695     }
696
697     for (i = 0; i < num0; i++) {
698         BN_bntest_rand(a, 40 + i * 10, 0, 0);
699         a->neg = rand_neg();
700         BN_sqr(c, a, ctx);
701         if (bp != NULL) {
702             if (!results) {
703                 BN_print(bp, a);
704                 BIO_puts(bp, " * ");
705                 BN_print(bp, a);
706                 BIO_puts(bp, " - ");
707             }
708             BN_print(bp, c);
709             BIO_puts(bp, "\n");
710         }
711         BN_div(d, e, c, a, ctx);
712         BN_sub(d, d, a);
713         if (!BN_is_zero(d) || !BN_is_zero(e)) {
714             fprintf(stderr, "Square test failed!\n");
715             goto err;
716         }
717     }
718
719     /* Regression test for a BN_sqr overflow bug. */
720     BN_hex2bn(&a,
721               "80000000000000008000000000000001"
722               "FFFFFFFFFFFFFFFE0000000000000000");
723     BN_sqr(c, a, ctx);
724     if (bp != NULL) {
725         if (!results) {
726             BN_print(bp, a);
727             BIO_puts(bp, " * ");
728             BN_print(bp, a);
729             BIO_puts(bp, " - ");
730         }
731         BN_print(bp, c);
732         BIO_puts(bp, "\n");
733     }
734     BN_mul(d, a, a, ctx);
735     if (BN_cmp(c, d)) {
736         fprintf(stderr, "Square test failed: BN_sqr and BN_mul produce "
737                 "different results!\n");
738         goto err;
739     }
740
741     /* Regression test for a BN_sqr overflow bug. */
742     BN_hex2bn(&a,
743               "80000000000000000000000080000001"
744               "FFFFFFFE000000000000000000000000");
745     BN_sqr(c, a, ctx);
746     if (bp != NULL) {
747         if (!results) {
748             BN_print(bp, a);
749             BIO_puts(bp, " * ");
750             BN_print(bp, a);
751             BIO_puts(bp, " - ");
752         }
753         BN_print(bp, c);
754         BIO_puts(bp, "\n");
755     }
756     BN_mul(d, a, a, ctx);
757     if (BN_cmp(c, d)) {
758         fprintf(stderr, "Square test failed: BN_sqr and BN_mul produce "
759                 "different results!\n");
760         goto err;
761     }
762     ret = 1;
763  err:
764     BN_free(a);
765     BN_free(c);
766     BN_free(d);
767     BN_free(e);
768     return ret;
769 }
770
771 int test_mont(BIO *bp, BN_CTX *ctx)
772 {
773     BIGNUM *a, *b, *c, *d, *A, *B;
774     BIGNUM *n;
775     int i;
776     BN_MONT_CTX *mont;
777
778     a = BN_new();
779     b = BN_new();
780     c = BN_new();
781     d = BN_new();
782     A = BN_new();
783     B = BN_new();
784     n = BN_new();
785
786     mont = BN_MONT_CTX_new();
787     if (mont == NULL)
788         return 0;
789
790     BN_bntest_rand(a, 100, 0, 0);
791     BN_bntest_rand(b, 100, 0, 0);
792     for (i = 0; i < num2; i++) {
793         int bits = (200 * (i + 1)) / num2;
794
795         if (bits == 0)
796             continue;
797         BN_bntest_rand(n, bits, 0, 1);
798         BN_MONT_CTX_set(mont, n, ctx);
799
800         BN_nnmod(a, a, n, ctx);
801         BN_nnmod(b, b, n, ctx);
802
803         BN_to_montgomery(A, a, mont, ctx);
804         BN_to_montgomery(B, b, mont, ctx);
805
806         BN_mod_mul_montgomery(c, A, B, mont, ctx);
807         BN_from_montgomery(A, c, mont, ctx);
808         if (bp != NULL) {
809             if (!results) {
810                 BN_print(bp, a);
811                 BIO_puts(bp, " * ");
812                 BN_print(bp, b);
813                 BIO_puts(bp, " % ");
814                 BN_print(bp, &mont->N);
815                 BIO_puts(bp, " - ");
816             }
817             BN_print(bp, A);
818             BIO_puts(bp, "\n");
819         }
820         BN_mod_mul(d, a, b, n, ctx);
821         BN_sub(d, d, A);
822         if (!BN_is_zero(d)) {
823             fprintf(stderr, "Montgomery multiplication test failed!\n");
824             return 0;
825         }
826     }
827     BN_MONT_CTX_free(mont);
828     BN_free(a);
829     BN_free(b);
830     BN_free(c);
831     BN_free(d);
832     BN_free(A);
833     BN_free(B);
834     BN_free(n);
835     return (1);
836 }
837
838 int test_mod(BIO *bp, BN_CTX *ctx)
839 {
840     BIGNUM *a, *b, *c, *d, *e;
841     int i;
842
843     a = BN_new();
844     b = BN_new();
845     c = BN_new();
846     d = BN_new();
847     e = BN_new();
848
849     BN_bntest_rand(a, 1024, 0, 0);
850     for (i = 0; i < num0; i++) {
851         BN_bntest_rand(b, 450 + i * 10, 0, 0);
852         a->neg = rand_neg();
853         b->neg = rand_neg();
854         BN_mod(c, a, b, ctx);
855         if (bp != NULL) {
856             if (!results) {
857                 BN_print(bp, a);
858                 BIO_puts(bp, " % ");
859                 BN_print(bp, b);
860                 BIO_puts(bp, " - ");
861             }
862             BN_print(bp, c);
863             BIO_puts(bp, "\n");
864         }
865         BN_div(d, e, a, b, ctx);
866         BN_sub(e, e, c);
867         if (!BN_is_zero(e)) {
868             fprintf(stderr, "Modulo test failed!\n");
869             return 0;
870         }
871     }
872     BN_free(a);
873     BN_free(b);
874     BN_free(c);
875     BN_free(d);
876     BN_free(e);
877     return (1);
878 }
879
880 int test_mod_mul(BIO *bp, BN_CTX *ctx)
881 {
882     BIGNUM *a, *b, *c, *d, *e;
883     int i, j;
884
885     a = BN_new();
886     b = BN_new();
887     c = BN_new();
888     d = BN_new();
889     e = BN_new();
890
891     for (j = 0; j < 3; j++) {
892         BN_bntest_rand(c, 1024, 0, 0);
893         for (i = 0; i < num0; i++) {
894             BN_bntest_rand(a, 475 + i * 10, 0, 0);
895             BN_bntest_rand(b, 425 + i * 11, 0, 0);
896             a->neg = rand_neg();
897             b->neg = rand_neg();
898             if (!BN_mod_mul(e, a, b, c, ctx)) {
899                 unsigned long l;
900
901                 while ((l = ERR_get_error()))
902                     fprintf(stderr, "ERROR:%s\n", ERR_error_string(l, NULL));
903                 EXIT(1);
904             }
905             if (bp != NULL) {
906                 if (!results) {
907                     BN_print(bp, a);
908                     BIO_puts(bp, " * ");
909                     BN_print(bp, b);
910                     BIO_puts(bp, " % ");
911                     BN_print(bp, c);
912                     if ((a->neg ^ b->neg) && !BN_is_zero(e)) {
913                         /*
914                          * If (a*b) % c is negative, c must be added in order
915                          * to obtain the normalized remainder (new with
916                          * OpenSSL 0.9.7, previous versions of BN_mod_mul
917                          * could generate negative results)
918                          */
919                         BIO_puts(bp, " + ");
920                         BN_print(bp, c);
921                     }
922                     BIO_puts(bp, " - ");
923                 }
924                 BN_print(bp, e);
925                 BIO_puts(bp, "\n");
926             }
927             BN_mul(d, a, b, ctx);
928             BN_sub(d, d, e);
929             BN_div(a, b, d, c, ctx);
930             if (!BN_is_zero(b)) {
931                 fprintf(stderr, "Modulo multiply test failed!\n");
932                 ERR_print_errors_fp(stderr);
933                 return 0;
934             }
935         }
936     }
937     BN_free(a);
938     BN_free(b);
939     BN_free(c);
940     BN_free(d);
941     BN_free(e);
942     return (1);
943 }
944
945 int test_mod_exp(BIO *bp, BN_CTX *ctx)
946 {
947     BIGNUM *a, *b, *c, *d, *e;
948     int i;
949
950     a = BN_new();
951     b = BN_new();
952     c = BN_new();
953     d = BN_new();
954     e = BN_new();
955
956     BN_bntest_rand(c, 30, 0, 1); /* must be odd for montgomery */
957     for (i = 0; i < num2; i++) {
958         BN_bntest_rand(a, 20 + i * 5, 0, 0);
959         BN_bntest_rand(b, 2 + i, 0, 0);
960
961         if (!BN_mod_exp(d, a, b, c, ctx))
962             return (0);
963
964         if (bp != NULL) {
965             if (!results) {
966                 BN_print(bp, a);
967                 BIO_puts(bp, " ^ ");
968                 BN_print(bp, b);
969                 BIO_puts(bp, " % ");
970                 BN_print(bp, c);
971                 BIO_puts(bp, " - ");
972             }
973             BN_print(bp, d);
974             BIO_puts(bp, "\n");
975         }
976         BN_exp(e, a, b, ctx);
977         BN_sub(e, e, d);
978         BN_div(a, b, e, c, ctx);
979         if (!BN_is_zero(b)) {
980             fprintf(stderr, "Modulo exponentiation test failed!\n");
981             return 0;
982         }
983     }
984     BN_free(a);
985     BN_free(b);
986     BN_free(c);
987     BN_free(d);
988     BN_free(e);
989     return (1);
990 }
991
992 int test_mod_exp_mont_consttime(BIO *bp, BN_CTX *ctx)
993 {
994     BIGNUM *a, *b, *c, *d, *e;
995     int i;
996
997     a = BN_new();
998     b = BN_new();
999     c = BN_new();
1000     d = BN_new();
1001     e = BN_new();
1002
1003     BN_bntest_rand(c, 30, 0, 1); /* must be odd for montgomery */
1004     for (i = 0; i < num2; i++) {
1005         BN_bntest_rand(a, 20 + i * 5, 0, 0);
1006         BN_bntest_rand(b, 2 + i, 0, 0);
1007
1008         if (!BN_mod_exp_mont_consttime(d, a, b, c, ctx, NULL))
1009             return (00);
1010
1011         if (bp != NULL) {
1012             if (!results) {
1013                 BN_print(bp, a);
1014                 BIO_puts(bp, " ^ ");
1015                 BN_print(bp, b);
1016                 BIO_puts(bp, " % ");
1017                 BN_print(bp, c);
1018                 BIO_puts(bp, " - ");
1019             }
1020             BN_print(bp, d);
1021             BIO_puts(bp, "\n");
1022         }
1023         BN_exp(e, a, b, ctx);
1024         BN_sub(e, e, d);
1025         BN_div(a, b, e, c, ctx);
1026         if (!BN_is_zero(b)) {
1027             fprintf(stderr, "Modulo exponentiation test failed!\n");
1028             return 0;
1029         }
1030     }
1031     BN_free(a);
1032     BN_free(b);
1033     BN_free(c);
1034     BN_free(d);
1035     BN_free(e);
1036     return (1);
1037 }
1038
1039 /*
1040  * Test constant-time modular exponentiation with 1024-bit inputs, which on
1041  * x86_64 cause a different code branch to be taken.
1042  */
1043 int test_mod_exp_mont5(BIO *bp, BN_CTX *ctx)
1044 {
1045     BIGNUM *a, *p, *m, *d, *e;
1046     BN_MONT_CTX *mont;
1047
1048     a = BN_new();
1049     p = BN_new();
1050     m = BN_new();
1051     d = BN_new();
1052     e = BN_new();
1053     mont = BN_MONT_CTX_new();
1054
1055     BN_bntest_rand(m, 1024, 0, 1); /* must be odd for montgomery */
1056     /* Zero exponent */
1057     BN_bntest_rand(a, 1024, 0, 0);
1058     BN_zero(p);
1059     if (!BN_mod_exp_mont_consttime(d, a, p, m, ctx, NULL))
1060         return 0;
1061     if (!BN_is_one(d)) {
1062         fprintf(stderr, "Modular exponentiation test failed!\n");
1063         return 0;
1064     }
1065     /* Zero input */
1066     BN_bntest_rand(p, 1024, 0, 0);
1067     BN_zero(a);
1068     if (!BN_mod_exp_mont_consttime(d, a, p, m, ctx, NULL))
1069         return 0;
1070     if (!BN_is_zero(d)) {
1071         fprintf(stderr, "Modular exponentiation test failed!\n");
1072         return 0;
1073     }
1074     /*
1075      * Craft an input whose Montgomery representation is 1, i.e., shorter
1076      * than the modulus m, in order to test the const time precomputation
1077      * scattering/gathering.
1078      */
1079     BN_one(a);
1080     BN_MONT_CTX_set(mont, m, ctx);
1081     if (!BN_from_montgomery(e, a, mont, ctx))
1082         return 0;
1083     if (!BN_mod_exp_mont_consttime(d, e, p, m, ctx, NULL))
1084         return 0;
1085     if (!BN_mod_exp_simple(a, e, p, m, ctx))
1086         return 0;
1087     if (BN_cmp(a, d) != 0) {
1088         fprintf(stderr, "Modular exponentiation test failed!\n");
1089         return 0;
1090     }
1091     /* Finally, some regular test vectors. */
1092     BN_bntest_rand(e, 1024, 0, 0);
1093     if (!BN_mod_exp_mont_consttime(d, e, p, m, ctx, NULL))
1094         return 0;
1095     if (!BN_mod_exp_simple(a, e, p, m, ctx))
1096         return 0;
1097     if (BN_cmp(a, d) != 0) {
1098         fprintf(stderr, "Modular exponentiation test failed!\n");
1099         return 0;
1100     }
1101     BN_MONT_CTX_free(mont);
1102     BN_free(a);
1103     BN_free(p);
1104     BN_free(m);
1105     BN_free(d);
1106     BN_free(e);
1107     return (1);
1108 }
1109
1110 int test_exp(BIO *bp, BN_CTX *ctx)
1111 {
1112     BIGNUM *a, *b, *d, *e, *one;
1113     int i;
1114
1115     a = BN_new();
1116     b = BN_new();
1117     d = BN_new();
1118     e = BN_new();
1119     one = BN_new();
1120     BN_one(one);
1121
1122     for (i = 0; i < num2; i++) {
1123         BN_bntest_rand(a, 20 + i * 5, 0, 0);
1124         BN_bntest_rand(b, 2 + i, 0, 0);
1125
1126         if (BN_exp(d, a, b, ctx) <= 0)
1127             return (0);
1128
1129         if (bp != NULL) {
1130             if (!results) {
1131                 BN_print(bp, a);
1132                 BIO_puts(bp, " ^ ");
1133                 BN_print(bp, b);
1134                 BIO_puts(bp, " - ");
1135             }
1136             BN_print(bp, d);
1137             BIO_puts(bp, "\n");
1138         }
1139         BN_one(e);
1140         for (; !BN_is_zero(b); BN_sub(b, b, one))
1141             BN_mul(e, e, a, ctx);
1142         BN_sub(e, e, d);
1143         if (!BN_is_zero(e)) {
1144             fprintf(stderr, "Exponentiation test failed!\n");
1145             return 0;
1146         }
1147     }
1148     BN_free(a);
1149     BN_free(b);
1150     BN_free(d);
1151     BN_free(e);
1152     BN_free(one);
1153     return (1);
1154 }
1155
1156 #ifndef OPENSSL_NO_EC2M
1157 int test_gf2m_add(BIO *bp)
1158 {
1159     BIGNUM *a, *b, *c;
1160     int i, ret = 0;
1161
1162     a = BN_new();
1163     b = BN_new();
1164     c = BN_new();
1165
1166     for (i = 0; i < num0; i++) {
1167         BN_rand(a, 512, 0, 0);
1168         BN_copy(b, BN_value_one());
1169         a->neg = rand_neg();
1170         b->neg = rand_neg();
1171         BN_GF2m_add(c, a, b);
1172         /* Test that two added values have the correct parity. */
1173         if ((BN_is_odd(a) && BN_is_odd(c))
1174             || (!BN_is_odd(a) && !BN_is_odd(c))) {
1175             fprintf(stderr, "GF(2^m) addition test (a) failed!\n");
1176             goto err;
1177         }
1178         BN_GF2m_add(c, c, c);
1179         /* Test that c + c = 0. */
1180         if (!BN_is_zero(c)) {
1181             fprintf(stderr, "GF(2^m) addition test (b) failed!\n");
1182             goto err;
1183         }
1184     }
1185     ret = 1;
1186  err:
1187     BN_free(a);
1188     BN_free(b);
1189     BN_free(c);
1190     return ret;
1191 }
1192
1193 int test_gf2m_mod(BIO *bp)
1194 {
1195     BIGNUM *a, *b[2], *c, *d, *e;
1196     int i, j, ret = 0;
1197     int p0[] = { 163, 7, 6, 3, 0, -1 };
1198     int p1[] = { 193, 15, 0, -1 };
1199
1200     a = BN_new();
1201     b[0] = BN_new();
1202     b[1] = BN_new();
1203     c = BN_new();
1204     d = BN_new();
1205     e = BN_new();
1206
1207     BN_GF2m_arr2poly(p0, b[0]);
1208     BN_GF2m_arr2poly(p1, b[1]);
1209
1210     for (i = 0; i < num0; i++) {
1211         BN_bntest_rand(a, 1024, 0, 0);
1212         for (j = 0; j < 2; j++) {
1213             BN_GF2m_mod(c, a, b[j]);
1214             BN_GF2m_add(d, a, c);
1215             BN_GF2m_mod(e, d, b[j]);
1216             /* Test that a + (a mod p) mod p == 0. */
1217             if (!BN_is_zero(e)) {
1218                 fprintf(stderr, "GF(2^m) modulo test failed!\n");
1219                 goto err;
1220             }
1221         }
1222     }
1223     ret = 1;
1224  err:
1225     BN_free(a);
1226     BN_free(b[0]);
1227     BN_free(b[1]);
1228     BN_free(c);
1229     BN_free(d);
1230     BN_free(e);
1231     return ret;
1232 }
1233
1234 int test_gf2m_mod_mul(BIO *bp, BN_CTX *ctx)
1235 {
1236     BIGNUM *a, *b[2], *c, *d, *e, *f, *g, *h;
1237     int i, j, ret = 0;
1238     int p0[] = { 163, 7, 6, 3, 0, -1 };
1239     int p1[] = { 193, 15, 0, -1 };
1240
1241     a = BN_new();
1242     b[0] = BN_new();
1243     b[1] = BN_new();
1244     c = BN_new();
1245     d = BN_new();
1246     e = BN_new();
1247     f = BN_new();
1248     g = BN_new();
1249     h = BN_new();
1250
1251     BN_GF2m_arr2poly(p0, b[0]);
1252     BN_GF2m_arr2poly(p1, b[1]);
1253
1254     for (i = 0; i < num0; i++) {
1255         BN_bntest_rand(a, 1024, 0, 0);
1256         BN_bntest_rand(c, 1024, 0, 0);
1257         BN_bntest_rand(d, 1024, 0, 0);
1258         for (j = 0; j < 2; j++) {
1259             BN_GF2m_mod_mul(e, a, c, b[j], ctx);
1260             BN_GF2m_add(f, a, d);
1261             BN_GF2m_mod_mul(g, f, c, b[j], ctx);
1262             BN_GF2m_mod_mul(h, d, c, b[j], ctx);
1263             BN_GF2m_add(f, e, g);
1264             BN_GF2m_add(f, f, h);
1265             /* Test that (a+d)*c = a*c + d*c. */
1266             if (!BN_is_zero(f)) {
1267                 fprintf(stderr,
1268                         "GF(2^m) modular multiplication test failed!\n");
1269                 goto err;
1270             }
1271         }
1272     }
1273     ret = 1;
1274  err:
1275     BN_free(a);
1276     BN_free(b[0]);
1277     BN_free(b[1]);
1278     BN_free(c);
1279     BN_free(d);
1280     BN_free(e);
1281     BN_free(f);
1282     BN_free(g);
1283     BN_free(h);
1284     return ret;
1285 }
1286
1287 int test_gf2m_mod_sqr(BIO *bp, BN_CTX *ctx)
1288 {
1289     BIGNUM *a, *b[2], *c, *d;
1290     int i, j, ret = 0;
1291     int p0[] = { 163, 7, 6, 3, 0, -1 };
1292     int p1[] = { 193, 15, 0, -1 };
1293
1294     a = BN_new();
1295     b[0] = BN_new();
1296     b[1] = BN_new();
1297     c = BN_new();
1298     d = BN_new();
1299
1300     BN_GF2m_arr2poly(p0, b[0]);
1301     BN_GF2m_arr2poly(p1, b[1]);
1302
1303     for (i = 0; i < num0; i++) {
1304         BN_bntest_rand(a, 1024, 0, 0);
1305         for (j = 0; j < 2; j++) {
1306             BN_GF2m_mod_sqr(c, a, b[j], ctx);
1307             BN_copy(d, a);
1308             BN_GF2m_mod_mul(d, a, d, b[j], ctx);
1309             BN_GF2m_add(d, c, d);
1310             /* Test that a*a = a^2. */
1311             if (!BN_is_zero(d)) {
1312                 fprintf(stderr, "GF(2^m) modular squaring test failed!\n");
1313                 goto err;
1314             }
1315         }
1316     }
1317     ret = 1;
1318  err:
1319     BN_free(a);
1320     BN_free(b[0]);
1321     BN_free(b[1]);
1322     BN_free(c);
1323     BN_free(d);
1324     return ret;
1325 }
1326
1327 int test_gf2m_mod_inv(BIO *bp, BN_CTX *ctx)
1328 {
1329     BIGNUM *a, *b[2], *c, *d;
1330     int i, j, ret = 0;
1331     int p0[] = { 163, 7, 6, 3, 0, -1 };
1332     int p1[] = { 193, 15, 0, -1 };
1333
1334     a = BN_new();
1335     b[0] = BN_new();
1336     b[1] = BN_new();
1337     c = BN_new();
1338     d = BN_new();
1339
1340     BN_GF2m_arr2poly(p0, b[0]);
1341     BN_GF2m_arr2poly(p1, b[1]);
1342
1343     for (i = 0; i < num0; i++) {
1344         BN_bntest_rand(a, 512, 0, 0);
1345         for (j = 0; j < 2; j++) {
1346             BN_GF2m_mod_inv(c, a, b[j], ctx);
1347             BN_GF2m_mod_mul(d, a, c, b[j], ctx);
1348             /* Test that ((1/a)*a) = 1. */
1349             if (!BN_is_one(d)) {
1350                 fprintf(stderr, "GF(2^m) modular inversion test failed!\n");
1351                 goto err;
1352             }
1353         }
1354     }
1355     ret = 1;
1356  err:
1357     BN_free(a);
1358     BN_free(b[0]);
1359     BN_free(b[1]);
1360     BN_free(c);
1361     BN_free(d);
1362     return ret;
1363 }
1364
1365 int test_gf2m_mod_div(BIO *bp, BN_CTX *ctx)
1366 {
1367     BIGNUM *a, *b[2], *c, *d, *e, *f;
1368     int i, j, ret = 0;
1369     int p0[] = { 163, 7, 6, 3, 0, -1 };
1370     int p1[] = { 193, 15, 0, -1 };
1371
1372     a = BN_new();
1373     b[0] = BN_new();
1374     b[1] = BN_new();
1375     c = BN_new();
1376     d = BN_new();
1377     e = BN_new();
1378     f = BN_new();
1379
1380     BN_GF2m_arr2poly(p0, b[0]);
1381     BN_GF2m_arr2poly(p1, b[1]);
1382
1383     for (i = 0; i < num0; i++) {
1384         BN_bntest_rand(a, 512, 0, 0);
1385         BN_bntest_rand(c, 512, 0, 0);
1386         for (j = 0; j < 2; j++) {
1387             BN_GF2m_mod_div(d, a, c, b[j], ctx);
1388             BN_GF2m_mod_mul(e, d, c, b[j], ctx);
1389             BN_GF2m_mod_div(f, a, e, b[j], ctx);
1390             /* Test that ((a/c)*c)/a = 1. */
1391             if (!BN_is_one(f)) {
1392                 fprintf(stderr, "GF(2^m) modular division test failed!\n");
1393                 goto err;
1394             }
1395         }
1396     }
1397     ret = 1;
1398  err:
1399     BN_free(a);
1400     BN_free(b[0]);
1401     BN_free(b[1]);
1402     BN_free(c);
1403     BN_free(d);
1404     BN_free(e);
1405     BN_free(f);
1406     return ret;
1407 }
1408
1409 int test_gf2m_mod_exp(BIO *bp, BN_CTX *ctx)
1410 {
1411     BIGNUM *a, *b[2], *c, *d, *e, *f;
1412     int i, j, ret = 0;
1413     int p0[] = { 163, 7, 6, 3, 0, -1 };
1414     int p1[] = { 193, 15, 0, -1 };
1415
1416     a = BN_new();
1417     b[0] = BN_new();
1418     b[1] = BN_new();
1419     c = BN_new();
1420     d = BN_new();
1421     e = BN_new();
1422     f = BN_new();
1423
1424     BN_GF2m_arr2poly(p0, b[0]);
1425     BN_GF2m_arr2poly(p1, b[1]);
1426
1427     for (i = 0; i < num0; i++) {
1428         BN_bntest_rand(a, 512, 0, 0);
1429         BN_bntest_rand(c, 512, 0, 0);
1430         BN_bntest_rand(d, 512, 0, 0);
1431         for (j = 0; j < 2; j++) {
1432             BN_GF2m_mod_exp(e, a, c, b[j], ctx);
1433             BN_GF2m_mod_exp(f, a, d, b[j], ctx);
1434             BN_GF2m_mod_mul(e, e, f, b[j], ctx);
1435             BN_add(f, c, d);
1436             BN_GF2m_mod_exp(f, a, f, b[j], ctx);
1437             BN_GF2m_add(f, e, f);
1438             /* Test that a^(c+d)=a^c*a^d. */
1439             if (!BN_is_zero(f)) {
1440                 fprintf(stderr,
1441                         "GF(2^m) modular exponentiation test failed!\n");
1442                 goto err;
1443             }
1444         }
1445     }
1446     ret = 1;
1447  err:
1448     BN_free(a);
1449     BN_free(b[0]);
1450     BN_free(b[1]);
1451     BN_free(c);
1452     BN_free(d);
1453     BN_free(e);
1454     BN_free(f);
1455     return ret;
1456 }
1457
1458 int test_gf2m_mod_sqrt(BIO *bp, BN_CTX *ctx)
1459 {
1460     BIGNUM *a, *b[2], *c, *d, *e, *f;
1461     int i, j, ret = 0;
1462     int p0[] = { 163, 7, 6, 3, 0, -1 };
1463     int p1[] = { 193, 15, 0, -1 };
1464
1465     a = BN_new();
1466     b[0] = BN_new();
1467     b[1] = BN_new();
1468     c = BN_new();
1469     d = BN_new();
1470     e = BN_new();
1471     f = BN_new();
1472
1473     BN_GF2m_arr2poly(p0, b[0]);
1474     BN_GF2m_arr2poly(p1, b[1]);
1475
1476     for (i = 0; i < num0; i++) {
1477         BN_bntest_rand(a, 512, 0, 0);
1478         for (j = 0; j < 2; j++) {
1479             BN_GF2m_mod(c, a, b[j]);
1480             BN_GF2m_mod_sqrt(d, a, b[j], ctx);
1481             BN_GF2m_mod_sqr(e, d, b[j], ctx);
1482             BN_GF2m_add(f, c, e);
1483             /* Test that d^2 = a, where d = sqrt(a). */
1484             if (!BN_is_zero(f)) {
1485                 fprintf(stderr, "GF(2^m) modular square root test failed!\n");
1486                 goto err;
1487             }
1488         }
1489     }
1490     ret = 1;
1491  err:
1492     BN_free(a);
1493     BN_free(b[0]);
1494     BN_free(b[1]);
1495     BN_free(c);
1496     BN_free(d);
1497     BN_free(e);
1498     BN_free(f);
1499     return ret;
1500 }
1501
1502 int test_gf2m_mod_solve_quad(BIO *bp, BN_CTX *ctx)
1503 {
1504     BIGNUM *a, *b[2], *c, *d, *e;
1505     int i, j, s = 0, t, ret = 0;
1506     int p0[] = { 163, 7, 6, 3, 0, -1 };
1507     int p1[] = { 193, 15, 0, -1 };
1508
1509     a = BN_new();
1510     b[0] = BN_new();
1511     b[1] = BN_new();
1512     c = BN_new();
1513     d = BN_new();
1514     e = BN_new();
1515
1516     BN_GF2m_arr2poly(p0, b[0]);
1517     BN_GF2m_arr2poly(p1, b[1]);
1518
1519     for (i = 0; i < num0; i++) {
1520         BN_bntest_rand(a, 512, 0, 0);
1521         for (j = 0; j < 2; j++) {
1522             t = BN_GF2m_mod_solve_quad(c, a, b[j], ctx);
1523             if (t) {
1524                 s++;
1525                 BN_GF2m_mod_sqr(d, c, b[j], ctx);
1526                 BN_GF2m_add(d, c, d);
1527                 BN_GF2m_mod(e, a, b[j]);
1528                 BN_GF2m_add(e, e, d);
1529                 /*
1530                  * Test that solution of quadratic c satisfies c^2 + c = a.
1531                  */
1532                 if (!BN_is_zero(e)) {
1533                     fprintf(stderr,
1534                             "GF(2^m) modular solve quadratic test failed!\n");
1535                     goto err;
1536                 }
1537
1538             }
1539         }
1540     }
1541     if (s == 0) {
1542         fprintf(stderr,
1543                 "All %i tests of GF(2^m) modular solve quadratic resulted in no roots;\n",
1544                 num0);
1545         fprintf(stderr,
1546                 "this is very unlikely and probably indicates an error.\n");
1547         goto err;
1548     }
1549     ret = 1;
1550  err:
1551     BN_free(a);
1552     BN_free(b[0]);
1553     BN_free(b[1]);
1554     BN_free(c);
1555     BN_free(d);
1556     BN_free(e);
1557     return ret;
1558 }
1559 #endif
1560 static int genprime_cb(int p, int n, BN_GENCB *arg)
1561 {
1562     char c = '*';
1563
1564     if (p == 0)
1565         c = '.';
1566     if (p == 1)
1567         c = '+';
1568     if (p == 2)
1569         c = '*';
1570     if (p == 3)
1571         c = '\n';
1572     putc(c, stderr);
1573     fflush(stderr);
1574     return 1;
1575 }
1576
1577 int test_kron(BIO *bp, BN_CTX *ctx)
1578 {
1579     BN_GENCB cb;
1580     BIGNUM *a, *b, *r, *t;
1581     int i;
1582     int legendre, kronecker;
1583     int ret = 0;
1584
1585     a = BN_new();
1586     b = BN_new();
1587     r = BN_new();
1588     t = BN_new();
1589     if (a == NULL || b == NULL || r == NULL || t == NULL)
1590         goto err;
1591
1592     BN_GENCB_set(&cb, genprime_cb, NULL);
1593
1594     /*
1595      * We test BN_kronecker(a, b, ctx) just for b odd (Jacobi symbol). In
1596      * this case we know that if b is prime, then BN_kronecker(a, b, ctx) is
1597      * congruent to $a^{(b-1)/2}$, modulo $b$ (Legendre symbol). So we
1598      * generate a random prime b and compare these values for a number of
1599      * random a's.  (That is, we run the Solovay-Strassen primality test to
1600      * confirm that b is prime, except that we don't want to test whether b
1601      * is prime but whether BN_kronecker works.)
1602      */
1603
1604     if (!BN_generate_prime_ex(b, 512, 0, NULL, NULL, &cb))
1605         goto err;
1606     b->neg = rand_neg();
1607     putc('\n', stderr);
1608
1609     for (i = 0; i < num0; i++) {
1610         if (!BN_bntest_rand(a, 512, 0, 0))
1611             goto err;
1612         a->neg = rand_neg();
1613
1614         /* t := (|b|-1)/2  (note that b is odd) */
1615         if (!BN_copy(t, b))
1616             goto err;
1617         t->neg = 0;
1618         if (!BN_sub_word(t, 1))
1619             goto err;
1620         if (!BN_rshift1(t, t))
1621             goto err;
1622         /* r := a^t mod b */
1623         b->neg = 0;
1624
1625         if (!BN_mod_exp_recp(r, a, t, b, ctx))
1626             goto err;
1627         b->neg = 1;
1628
1629         if (BN_is_word(r, 1))
1630             legendre = 1;
1631         else if (BN_is_zero(r))
1632             legendre = 0;
1633         else {
1634             if (!BN_add_word(r, 1))
1635                 goto err;
1636             if (0 != BN_ucmp(r, b)) {
1637                 fprintf(stderr, "Legendre symbol computation failed\n");
1638                 goto err;
1639             }
1640             legendre = -1;
1641         }
1642
1643         kronecker = BN_kronecker(a, b, ctx);
1644         if (kronecker < -1)
1645             goto err;
1646         /* we actually need BN_kronecker(a, |b|) */
1647         if (a->neg && b->neg)
1648             kronecker = -kronecker;
1649
1650         if (legendre != kronecker) {
1651             fprintf(stderr, "legendre != kronecker; a = ");
1652             BN_print_fp(stderr, a);
1653             fprintf(stderr, ", b = ");
1654             BN_print_fp(stderr, b);
1655             fprintf(stderr, "\n");
1656             goto err;
1657         }
1658
1659         putc('.', stderr);
1660         fflush(stderr);
1661     }
1662
1663     putc('\n', stderr);
1664     fflush(stderr);
1665     ret = 1;
1666  err:
1667     BN_free(a);
1668     BN_free(b);
1669     BN_free(r);
1670     BN_free(t);
1671     return ret;
1672 }
1673
1674 int test_sqrt(BIO *bp, BN_CTX *ctx)
1675 {
1676     BN_GENCB cb;
1677     BIGNUM *a, *p, *r;
1678     int i, j;
1679     int ret = 0;
1680
1681     a = BN_new();
1682     p = BN_new();
1683     r = BN_new();
1684     if (a == NULL || p == NULL || r == NULL)
1685         goto err;
1686
1687     BN_GENCB_set(&cb, genprime_cb, NULL);
1688
1689     for (i = 0; i < 16; i++) {
1690         if (i < 8) {
1691             unsigned primes[8] = { 2, 3, 5, 7, 11, 13, 17, 19 };
1692
1693             if (!BN_set_word(p, primes[i]))
1694                 goto err;
1695         } else {
1696             if (!BN_set_word(a, 32))
1697                 goto err;
1698             if (!BN_set_word(r, 2 * i + 1))
1699                 goto err;
1700
1701             if (!BN_generate_prime_ex(p, 256, 0, a, r, &cb))
1702                 goto err;
1703             putc('\n', stderr);
1704         }
1705         p->neg = rand_neg();
1706
1707         for (j = 0; j < num2; j++) {
1708             /*
1709              * construct 'a' such that it is a square modulo p, but in
1710              * general not a proper square and not reduced modulo p
1711              */
1712             if (!BN_bntest_rand(r, 256, 0, 3))
1713                 goto err;
1714             if (!BN_nnmod(r, r, p, ctx))
1715                 goto err;
1716             if (!BN_mod_sqr(r, r, p, ctx))
1717                 goto err;
1718             if (!BN_bntest_rand(a, 256, 0, 3))
1719                 goto err;
1720             if (!BN_nnmod(a, a, p, ctx))
1721                 goto err;
1722             if (!BN_mod_sqr(a, a, p, ctx))
1723                 goto err;
1724             if (!BN_mul(a, a, r, ctx))
1725                 goto err;
1726             if (rand_neg())
1727                 if (!BN_sub(a, a, p))
1728                     goto err;
1729
1730             if (!BN_mod_sqrt(r, a, p, ctx))
1731                 goto err;
1732             if (!BN_mod_sqr(r, r, p, ctx))
1733                 goto err;
1734
1735             if (!BN_nnmod(a, a, p, ctx))
1736                 goto err;
1737
1738             if (BN_cmp(a, r) != 0) {
1739                 fprintf(stderr, "BN_mod_sqrt failed: a = ");
1740                 BN_print_fp(stderr, a);
1741                 fprintf(stderr, ", r = ");
1742                 BN_print_fp(stderr, r);
1743                 fprintf(stderr, ", p = ");
1744                 BN_print_fp(stderr, p);
1745                 fprintf(stderr, "\n");
1746                 goto err;
1747             }
1748
1749             putc('.', stderr);
1750             fflush(stderr);
1751         }
1752
1753         putc('\n', stderr);
1754         fflush(stderr);
1755     }
1756     ret = 1;
1757  err:
1758     BN_free(a);
1759     BN_free(p);
1760     BN_free(r);
1761     return ret;
1762 }
1763
1764 int test_small_prime(BIO *bp, BN_CTX *ctx)
1765 {
1766     static const int bits = 10;
1767     int ret = 0;
1768     BIGNUM *r;
1769
1770     r = BN_new();
1771     if (!BN_generate_prime_ex(r, bits, 0, NULL, NULL, NULL))
1772         goto err;
1773     if (BN_num_bits(r) != bits) {
1774         BIO_printf(bp, "Expected %d bit prime, got %d bit number\n", bits,
1775                    BN_num_bits(r));
1776         goto err;
1777     }
1778
1779     ret = 1;
1780
1781  err:
1782     BN_clear_free(r);
1783     return ret;
1784 }
1785
1786 #ifndef OPENSSL_SYS_WIN32
1787 int test_probable_prime_coprime(BIO *bp, BN_CTX *ctx)
1788 {
1789     int i, j, ret = 0;
1790     BIGNUM *r;
1791     BN_ULONG primes[5] = { 2, 3, 5, 7, 11 };
1792
1793     r = BN_new();
1794
1795     for (i = 0; i < 1000; i++) {
1796         if (!bn_probable_prime_dh_coprime(r, 1024, ctx))
1797             goto err;
1798
1799         for (j = 0; j < 5; j++) {
1800             if (BN_mod_word(r, primes[j]) == 0) {
1801                 BIO_printf(bp, "Number generated is not coprime to "
1802                            BN_DEC_FMT1 ":\n", primes[j]);
1803                 BN_print_fp(stdout, r);
1804                 BIO_printf(bp, "\n");
1805                 goto err;
1806             }
1807         }
1808     }
1809
1810     ret = 1;
1811
1812  err:
1813     BN_clear_free(r);
1814     return ret;
1815 }
1816 #endif
1817 int test_lshift(BIO *bp, BN_CTX *ctx, BIGNUM *a_)
1818 {
1819     BIGNUM *a, *b, *c, *d;
1820     int i;
1821
1822     b = BN_new();
1823     c = BN_new();
1824     d = BN_new();
1825     BN_one(c);
1826
1827     if (a_)
1828         a = a_;
1829     else {
1830         a = BN_new();
1831         BN_bntest_rand(a, 200, 0, 0);
1832         a->neg = rand_neg();
1833     }
1834     for (i = 0; i < num0; i++) {
1835         BN_lshift(b, a, i + 1);
1836         BN_add(c, c, c);
1837         if (bp != NULL) {
1838             if (!results) {
1839                 BN_print(bp, a);
1840                 BIO_puts(bp, " * ");
1841                 BN_print(bp, c);
1842                 BIO_puts(bp, " - ");
1843             }
1844             BN_print(bp, b);
1845             BIO_puts(bp, "\n");
1846         }
1847         BN_mul(d, a, c, ctx);
1848         BN_sub(d, d, b);
1849         if (!BN_is_zero(d)) {
1850             fprintf(stderr, "Left shift test failed!\n");
1851             fprintf(stderr, "a=");
1852             BN_print_fp(stderr, a);
1853             fprintf(stderr, "\nb=");
1854             BN_print_fp(stderr, b);
1855             fprintf(stderr, "\nc=");
1856             BN_print_fp(stderr, c);
1857             fprintf(stderr, "\nd=");
1858             BN_print_fp(stderr, d);
1859             fprintf(stderr, "\n");
1860             return 0;
1861         }
1862     }
1863     BN_free(a);
1864     BN_free(b);
1865     BN_free(c);
1866     BN_free(d);
1867     return (1);
1868 }
1869
1870 int test_lshift1(BIO *bp)
1871 {
1872     BIGNUM *a, *b, *c;
1873     int i;
1874
1875     a = BN_new();
1876     b = BN_new();
1877     c = BN_new();
1878
1879     BN_bntest_rand(a, 200, 0, 0);
1880     a->neg = rand_neg();
1881     for (i = 0; i < num0; i++) {
1882         BN_lshift1(b, a);
1883         if (bp != NULL) {
1884             if (!results) {
1885                 BN_print(bp, a);
1886                 BIO_puts(bp, " * 2");
1887                 BIO_puts(bp, " - ");
1888             }
1889             BN_print(bp, b);
1890             BIO_puts(bp, "\n");
1891         }
1892         BN_add(c, a, a);
1893         BN_sub(a, b, c);
1894         if (!BN_is_zero(a)) {
1895             fprintf(stderr, "Left shift one test failed!\n");
1896             return 0;
1897         }
1898
1899         BN_copy(a, b);
1900     }
1901     BN_free(a);
1902     BN_free(b);
1903     BN_free(c);
1904     return (1);
1905 }
1906
1907 int test_rshift(BIO *bp, BN_CTX *ctx)
1908 {
1909     BIGNUM *a, *b, *c, *d, *e;
1910     int i;
1911
1912     a = BN_new();
1913     b = BN_new();
1914     c = BN_new();
1915     d = BN_new();
1916     e = BN_new();
1917     BN_one(c);
1918
1919     BN_bntest_rand(a, 200, 0, 0);
1920     a->neg = rand_neg();
1921     for (i = 0; i < num0; i++) {
1922         BN_rshift(b, a, i + 1);
1923         BN_add(c, c, c);
1924         if (bp != NULL) {
1925             if (!results) {
1926                 BN_print(bp, a);
1927                 BIO_puts(bp, " / ");
1928                 BN_print(bp, c);
1929                 BIO_puts(bp, " - ");
1930             }
1931             BN_print(bp, b);
1932             BIO_puts(bp, "\n");
1933         }
1934         BN_div(d, e, a, c, ctx);
1935         BN_sub(d, d, b);
1936         if (!BN_is_zero(d)) {
1937             fprintf(stderr, "Right shift test failed!\n");
1938             return 0;
1939         }
1940     }
1941     BN_free(a);
1942     BN_free(b);
1943     BN_free(c);
1944     BN_free(d);
1945     BN_free(e);
1946     return (1);
1947 }
1948
1949 int test_rshift1(BIO *bp)
1950 {
1951     BIGNUM *a, *b, *c;
1952     int i;
1953
1954     a = BN_new();
1955     b = BN_new();
1956     c = BN_new();
1957
1958     BN_bntest_rand(a, 200, 0, 0);
1959     a->neg = rand_neg();
1960     for (i = 0; i < num0; i++) {
1961         BN_rshift1(b, a);
1962         if (bp != NULL) {
1963             if (!results) {
1964                 BN_print(bp, a);
1965                 BIO_puts(bp, " / 2");
1966                 BIO_puts(bp, " - ");
1967             }
1968             BN_print(bp, b);
1969             BIO_puts(bp, "\n");
1970         }
1971         BN_sub(c, a, b);
1972         BN_sub(c, c, b);
1973         if (!BN_is_zero(c) && !BN_abs_is_word(c, 1)) {
1974             fprintf(stderr, "Right shift one test failed!\n");
1975             return 0;
1976         }
1977         BN_copy(a, b);
1978     }
1979     BN_free(a);
1980     BN_free(b);
1981     BN_free(c);
1982     return (1);
1983 }
1984
1985 int rand_neg(void)
1986 {
1987     static unsigned int neg = 0;
1988     static int sign[8] = { 0, 0, 0, 1, 1, 0, 1, 1 };
1989
1990     return (sign[(neg++) % 8]);
1991 }