Never return -1 from BN_exp
[openssl.git] / crypto / bn / bn_x931p.c
1 /*
2  * Copyright 2011-2016 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the OpenSSL license (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #include <stdio.h>
11 #include <openssl/bn.h>
12 #include "bn_lcl.h"
13
14 /* X9.31 routines for prime derivation */
15
16 /*
17  * X9.31 prime derivation. This is used to generate the primes pi (p1, p2,
18  * q1, q2) from a parameter Xpi by checking successive odd integers.
19  */
20
21 static int bn_x931_derive_pi(BIGNUM *pi, const BIGNUM *Xpi, BN_CTX *ctx,
22                              BN_GENCB *cb)
23 {
24     int i = 0, is_prime;
25     if (!BN_copy(pi, Xpi))
26         return 0;
27     if (!BN_is_odd(pi) && !BN_add_word(pi, 1))
28         return 0;
29     for (;;) {
30         i++;
31         BN_GENCB_call(cb, 0, i);
32         /* NB 27 MR is specified in X9.31 */
33         is_prime = BN_is_prime_fasttest_ex(pi, 27, ctx, 1, cb);
34         if (is_prime < 0)
35             return 0;
36         if (is_prime)
37             break;
38         if (!BN_add_word(pi, 2))
39             return 0;
40     }
41     BN_GENCB_call(cb, 2, i);
42     return 1;
43 }
44
45 /*
46  * This is the main X9.31 prime derivation function. From parameters Xp1, Xp2
47  * and Xp derive the prime p. If the parameters p1 or p2 are not NULL they
48  * will be returned too: this is needed for testing.
49  */
50
51 int BN_X931_derive_prime_ex(BIGNUM *p, BIGNUM *p1, BIGNUM *p2,
52                             const BIGNUM *Xp, const BIGNUM *Xp1,
53                             const BIGNUM *Xp2, const BIGNUM *e, BN_CTX *ctx,
54                             BN_GENCB *cb)
55 {
56     int ret = 0;
57
58     BIGNUM *t, *p1p2, *pm1;
59
60     /* Only even e supported */
61     if (!BN_is_odd(e))
62         return 0;
63
64     BN_CTX_start(ctx);
65     if (!p1)
66         p1 = BN_CTX_get(ctx);
67
68     if (!p2)
69         p2 = BN_CTX_get(ctx);
70
71     t = BN_CTX_get(ctx);
72
73     p1p2 = BN_CTX_get(ctx);
74
75     pm1 = BN_CTX_get(ctx);
76
77     if (!bn_x931_derive_pi(p1, Xp1, ctx, cb))
78         goto err;
79
80     if (!bn_x931_derive_pi(p2, Xp2, ctx, cb))
81         goto err;
82
83     if (!BN_mul(p1p2, p1, p2, ctx))
84         goto err;
85
86     /* First set p to value of Rp */
87
88     if (!BN_mod_inverse(p, p2, p1, ctx))
89         goto err;
90
91     if (!BN_mul(p, p, p2, ctx))
92         goto err;
93
94     if (!BN_mod_inverse(t, p1, p2, ctx))
95         goto err;
96
97     if (!BN_mul(t, t, p1, ctx))
98         goto err;
99
100     if (!BN_sub(p, p, t))
101         goto err;
102
103     if (p->neg && !BN_add(p, p, p1p2))
104         goto err;
105
106     /* p now equals Rp */
107
108     if (!BN_mod_sub(p, p, Xp, p1p2, ctx))
109         goto err;
110
111     if (!BN_add(p, p, Xp))
112         goto err;
113
114     /* p now equals Yp0 */
115
116     for (;;) {
117         int i = 1;
118         BN_GENCB_call(cb, 0, i++);
119         if (!BN_copy(pm1, p))
120             goto err;
121         if (!BN_sub_word(pm1, 1))
122             goto err;
123         if (!BN_gcd(t, pm1, e, ctx))
124             goto err;
125         if (BN_is_one(t)) {
126             /*
127              * X9.31 specifies 8 MR and 1 Lucas test or any prime test
128              * offering similar or better guarantees 50 MR is considerably
129              * better.
130              */
131             int r = BN_is_prime_fasttest_ex(p, 50, ctx, 1, cb);
132             if (r < 0)
133                 goto err;
134             if (r)
135                 break;
136         }
137         if (!BN_add(p, p, p1p2))
138             goto err;
139     }
140
141     BN_GENCB_call(cb, 3, 0);
142
143     ret = 1;
144
145  err:
146
147     BN_CTX_end(ctx);
148
149     return ret;
150 }
151
152 /*
153  * Generate pair of parameters Xp, Xq for X9.31 prime generation. Note: nbits
154  * parameter is sum of number of bits in both.
155  */
156
157 int BN_X931_generate_Xpq(BIGNUM *Xp, BIGNUM *Xq, int nbits, BN_CTX *ctx)
158 {
159     BIGNUM *t;
160     int i;
161     /*
162      * Number of bits for each prime is of the form 512+128s for s = 0, 1,
163      * ...
164      */
165     if ((nbits < 1024) || (nbits & 0xff))
166         return 0;
167     nbits >>= 1;
168     /*
169      * The random value Xp must be between sqrt(2) * 2^(nbits-1) and 2^nbits
170      * - 1. By setting the top two bits we ensure that the lower bound is
171      * exceeded.
172      */
173     if (!BN_rand(Xp, nbits, BN_RAND_TOP_TWO, BN_RAND_BOTTOM_ANY))
174         goto err;
175
176     BN_CTX_start(ctx);
177     t = BN_CTX_get(ctx);
178
179     for (i = 0; i < 1000; i++) {
180         if (!BN_rand(Xq, nbits, BN_RAND_TOP_TWO, BN_RAND_BOTTOM_ANY))
181             goto err;
182         /* Check that |Xp - Xq| > 2^(nbits - 100) */
183         BN_sub(t, Xp, Xq);
184         if (BN_num_bits(t) > (nbits - 100))
185             break;
186     }
187
188     BN_CTX_end(ctx);
189
190     if (i < 1000)
191         return 1;
192
193     return 0;
194
195  err:
196     BN_CTX_end(ctx);
197     return 0;
198 }
199
200 /*
201  * Generate primes using X9.31 algorithm. Of the values p, p1, p2, Xp1 and
202  * Xp2 only 'p' needs to be non-NULL. If any of the others are not NULL the
203  * relevant parameter will be stored in it. Due to the fact that |Xp - Xq| >
204  * 2^(nbits - 100) must be satisfied Xp and Xq are generated using the
205  * previous function and supplied as input.
206  */
207
208 int BN_X931_generate_prime_ex(BIGNUM *p, BIGNUM *p1, BIGNUM *p2,
209                               BIGNUM *Xp1, BIGNUM *Xp2,
210                               const BIGNUM *Xp,
211                               const BIGNUM *e, BN_CTX *ctx, BN_GENCB *cb)
212 {
213     int ret = 0;
214
215     BN_CTX_start(ctx);
216     if (!Xp1)
217         Xp1 = BN_CTX_get(ctx);
218     if (!Xp2)
219         Xp2 = BN_CTX_get(ctx);
220
221     if (!BN_rand(Xp1, 101, BN_RAND_TOP_ONE, BN_RAND_BOTTOM_ANY))
222         goto error;
223     if (!BN_rand(Xp2, 101, BN_RAND_TOP_ONE, BN_RAND_BOTTOM_ANY))
224         goto error;
225     if (!BN_X931_derive_prime_ex(p, p1, p2, Xp, Xp1, Xp2, e, ctx, cb))
226         goto error;
227
228     ret = 1;
229
230  error:
231     BN_CTX_end(ctx);
232
233     return ret;
234
235 }