Reorganize private crypto header files
[openssl.git] / crypto / rsa / rsa_sp800_56b_gen.c
1 /*
2  * Copyright 2018-2019 The OpenSSL Project Authors. All Rights Reserved.
3  * Copyright (c) 2018-2019, Oracle and/or its affiliates.  All rights reserved.
4  *
5  * Licensed under the OpenSSL license (the "License").  You may not use
6  * this file except in compliance with the License.  You can obtain a copy
7  * in the file LICENSE in the source distribution or at
8  * https://www.openssl.org/source/license.html
9  */
10
11 #include <openssl/err.h>
12 #include <openssl/bn.h>
13 #include "crypto/bn.h"
14 #include "rsa_locl.h"
15
16 #define RSA_FIPS1864_MIN_KEYGEN_KEYSIZE 2048
17 #define RSA_FIPS1864_MIN_KEYGEN_STRENGTH 112
18 #define RSA_FIPS1864_MAX_KEYGEN_STRENGTH 256
19
20 /*
21  * Generate probable primes 'p' & 'q'. See FIPS 186-4 Section B.3.6
22  * "Generation of Probable Primes with Conditions Based on Auxiliary Probable
23  * Primes".
24  *
25  * Params:
26  *     rsa  Object used to store primes p & q.
27  *     p1, p2 The returned auxiliary primes for p. If NULL they are not returned.
28  *     Xpout An optionally returned random number used during generation of p.
29  *     Xp An optional passed in value (that is random number used during
30  *        generation of p).
31  *     Xp1, Xp2 Optionally passed in randomly generated numbers from which
32  *              auxiliary primes p1 & p2 are calculated. If NULL these values
33  *              are generated internally.
34  *     q1, q2 The returned auxiliary primes for q. If NULL they are not returned.
35  *     Xqout An optionally returned random number used during generation of q.
36  *     Xq An optional passed in value (that is random number used during
37  *        generation of q).
38  *     Xq1, Xq2 Optionally passed in randomly generated numbers from which
39  *              auxiliary primes q1 & q2 are calculated. If NULL these values
40  *              are generated internally.
41  *     nbits The key size in bits (The size of the modulus n).
42  *     e The public exponent.
43  *     ctx A BN_CTX object.
44  *     cb An optional BIGNUM callback.
45  * Returns: 1 if successful, or  0 otherwise.
46  * Notes:
47  *     p1, p2, q1, q2, Xpout, Xqout are returned if they are not NULL.
48  *     Xp, Xp1, Xp2, Xq, Xq1, Xq2 are optionally passed in.
49  *     (Required for CAVS testing).
50  */
51 int rsa_fips186_4_gen_prob_primes(RSA *rsa, BIGNUM *p1, BIGNUM *p2,
52                                   BIGNUM *Xpout, const BIGNUM *Xp,
53                                   const BIGNUM *Xp1, const BIGNUM *Xp2,
54                                   BIGNUM *q1, BIGNUM *q2, BIGNUM *Xqout,
55                                   const BIGNUM *Xq, const BIGNUM *Xq1,
56                                   const BIGNUM *Xq2, int nbits,
57                                   const BIGNUM *e, BN_CTX *ctx, BN_GENCB *cb)
58 {
59     int ret = 0, ok;
60     BIGNUM *Xpo = NULL, *Xqo = NULL, *tmp = NULL;
61
62     /* (Step 1) Check key length
63      * NOTE: SP800-131A Rev1 Disallows key lengths of < 2048 bits for RSA
64      * Signature Generation and Key Agree/Transport.
65      */
66     if (nbits < RSA_FIPS1864_MIN_KEYGEN_KEYSIZE) {
67         RSAerr(RSA_F_RSA_FIPS186_4_GEN_PROB_PRIMES, RSA_R_INVALID_KEY_LENGTH);
68         return 0;
69     }
70
71     if (!rsa_check_public_exponent(e)) {
72         RSAerr(RSA_F_RSA_FIPS186_4_GEN_PROB_PRIMES,
73                RSA_R_PUB_EXPONENT_OUT_OF_RANGE);
74         return 0;
75     }
76
77     /* (Step 3) Determine strength and check rand generator strength is ok -
78      * this step is redundant because the generator always returns a higher
79      * strength than is required.
80      */
81
82     BN_CTX_start(ctx);
83     tmp = BN_CTX_get(ctx);
84     Xpo = (Xpout != NULL) ? Xpout : BN_CTX_get(ctx);
85     Xqo = (Xqout != NULL) ? Xqout : BN_CTX_get(ctx);
86     if (tmp == NULL || Xpo == NULL || Xqo == NULL)
87         goto err;
88
89     if (rsa->p == NULL)
90         rsa->p = BN_secure_new();
91     if (rsa->q == NULL)
92         rsa->q = BN_secure_new();
93     if (rsa->p == NULL || rsa->q == NULL)
94         goto err;
95
96     /* (Step 4) Generate p, Xp */
97     if (!bn_rsa_fips186_4_gen_prob_primes(rsa->p, Xpo, p1, p2, Xp, Xp1, Xp2,
98                                           nbits, e, ctx, cb))
99         goto err;
100     for(;;) {
101         /* (Step 5) Generate q, Xq*/
102         if (!bn_rsa_fips186_4_gen_prob_primes(rsa->q, Xqo, q1, q2, Xq, Xq1,
103                                               Xq2, nbits, e, ctx, cb))
104             goto err;
105
106         /* (Step 6) |Xp - Xq| > 2^(nbitlen/2 - 100) */
107         ok = rsa_check_pminusq_diff(tmp, Xpo, Xqo, nbits);
108         if (ok < 0)
109             goto err;
110         if (ok == 0)
111             continue;
112
113         /* (Step 6) |p - q| > 2^(nbitlen/2 - 100) */
114         ok = rsa_check_pminusq_diff(tmp, rsa->p, rsa->q, nbits);
115         if (ok < 0)
116             goto err;
117         if (ok == 0)
118             continue;
119         break; /* successfully finished */
120     }
121     ret = 1;
122 err:
123     /* Zeroize any internally generated values that are not returned */
124     if (Xpo != Xpout)
125         BN_clear(Xpo);
126     if (Xqo != Xqout)
127         BN_clear(Xqo);
128     BN_clear(tmp);
129
130     BN_CTX_end(ctx);
131     return ret;
132 }
133
134 /*
135  * Validates the RSA key size based on the target strength.
136  * See SP800-56Br1 6.3.1.1 (Steps 1a-1b)
137  *
138  * Params:
139  *     nbits The key size in bits.
140  *     strength The target strength in bits. -1 means the target
141  *              strength is unknown.
142  * Returns: 1 if the key size matches the target strength, or 0 otherwise.
143  */
144 int rsa_sp800_56b_validate_strength(int nbits, int strength)
145 {
146     int s = (int)rsa_compute_security_bits(nbits);
147
148     if (s < RSA_FIPS1864_MIN_KEYGEN_STRENGTH
149             || s > RSA_FIPS1864_MAX_KEYGEN_STRENGTH) {
150         RSAerr(RSA_F_RSA_SP800_56B_VALIDATE_STRENGTH, RSA_R_INVALID_MODULUS);
151         return 0;
152     }
153     if (strength != -1 && s != strength) {
154         RSAerr(RSA_F_RSA_SP800_56B_VALIDATE_STRENGTH, RSA_R_INVALID_STRENGTH);
155         return 0;
156     }
157     return 1;
158 }
159
160 /*
161  *
162  * Using p & q, calculate other required parameters such as n, d.
163  * as well as the CRT parameters dP, dQ, qInv.
164  *
165  * See SP800-56Br1
166  *   6.3.1.1 rsakpg1 - basic (Steps 3-4)
167  *   6.3.1.3 rsakpg1 - crt   (Step 5)
168  *
169  * Params:
170  *     rsa An rsa object.
171  *     nbits The key size.
172  *     e The public exponent.
173  *     ctx A BN_CTX object.
174  * Notes:
175  *   There is a small chance that the generated d will be too small.
176  * Returns: -1 = error,
177  *           0 = d is too small,
178  *           1 = success.
179  */
180 int rsa_sp800_56b_derive_params_from_pq(RSA *rsa, int nbits,
181                                         const BIGNUM *e, BN_CTX *ctx)
182 {
183     int ret = -1;
184     BIGNUM *p1, *q1, *lcm, *p1q1, *gcd;
185
186     BN_CTX_start(ctx);
187     p1 = BN_CTX_get(ctx);
188     q1 = BN_CTX_get(ctx);
189     lcm = BN_CTX_get(ctx);
190     p1q1 = BN_CTX_get(ctx);
191     gcd = BN_CTX_get(ctx);
192     if (gcd == NULL)
193         goto err;
194
195     /* LCM((p-1, q-1)) */
196     if (rsa_get_lcm(ctx, rsa->p, rsa->q, lcm, gcd, p1, q1, p1q1) != 1)
197         goto err;
198
199     /* copy e */
200     BN_free(rsa->e);
201     rsa->e = BN_dup(e);
202     if (rsa->e == NULL)
203         goto err;
204
205     BN_clear_free(rsa->d);
206     /* (Step 3) d = (e^-1) mod (LCM(p-1, q-1)) */
207     rsa->d = BN_secure_new();
208     if (rsa->d == NULL || BN_mod_inverse(rsa->d, e, lcm, ctx) == NULL)
209         goto err;
210
211     /* (Step 3) return an error if d is too small */
212     if (BN_num_bits(rsa->d) <= (nbits >> 1)) {
213         ret = 0;
214         goto err;
215     }
216
217     /* (Step 4) n = pq */
218     if (rsa->n == NULL)
219         rsa->n = BN_new();
220     if (rsa->n == NULL || !BN_mul(rsa->n, rsa->p, rsa->q, ctx))
221         goto err;
222
223     /* (Step 5a) dP = d mod (p-1) */
224     if (rsa->dmp1 == NULL)
225         rsa->dmp1 = BN_new();
226     if (rsa->dmp1 == NULL || !BN_mod(rsa->dmp1, rsa->d, p1, ctx))
227         goto err;
228
229     /* (Step 5b) dQ = d mod (q-1) */
230     if (rsa->dmq1 == NULL)
231         rsa->dmq1 = BN_secure_new();
232     if (rsa->dmq1 == NULL || !BN_mod(rsa->dmq1, rsa->d, q1, ctx))
233         goto err;
234
235     /* (Step 5c) qInv = (inverse of q) mod p */
236     BN_free(rsa->iqmp);
237     rsa->iqmp = BN_secure_new();
238     if (rsa->iqmp == NULL
239             || BN_mod_inverse(rsa->iqmp, rsa->q, rsa->p, ctx) == NULL)
240         goto err;
241
242     ret = 1;
243 err:
244     if (ret != 1) {
245         BN_free(rsa->e);
246         rsa->e = NULL;
247         BN_free(rsa->d);
248         rsa->d = NULL;
249         BN_free(rsa->n);
250         rsa->n = NULL;
251         BN_free(rsa->iqmp);
252         rsa->iqmp = NULL;
253         BN_free(rsa->dmq1);
254         rsa->dmq1 = NULL;
255         BN_free(rsa->dmp1);
256         rsa->dmp1 = NULL;
257     }
258     BN_clear(p1);
259     BN_clear(q1);
260     BN_clear(lcm);
261     BN_clear(p1q1);
262     BN_clear(gcd);
263
264     BN_CTX_end(ctx);
265     return ret;
266 }
267
268 /*
269  * Generate a SP800-56B RSA key.
270  *
271  * See SP800-56Br1 6.3.1 "RSA Key-Pair Generation with a Fixed Public Exponent"
272  *    6.3.1.1 rsakpg1 - basic
273  *    6.3.1.3 rsakpg1 - crt
274  *
275  * See also FIPS 186-4 Section B.3.6
276  * "Generation of Probable Primes with Conditions Based on Auxiliary
277  * Probable Primes."
278  *
279  * Params:
280  *     rsa The rsa object.
281  *     nbits The intended key size in bits.
282  *     efixed The public exponent. If NULL a default of 65537 is used.
283  *     cb An optional BIGNUM callback.
284  * Returns: 1 if successfully generated otherwise it returns 0.
285  */
286 int rsa_sp800_56b_generate_key(RSA *rsa, int nbits, const BIGNUM *efixed,
287                                BN_GENCB *cb)
288 {
289     int ret = 0;
290     int ok;
291     BN_CTX *ctx = NULL;
292     BIGNUM *e = NULL;
293
294     /* (Steps 1a-1b) : Currently ignores the strength check */
295     if (!rsa_sp800_56b_validate_strength(nbits, -1))
296         return 0;
297
298     ctx = BN_CTX_new();
299     if (ctx == NULL)
300         return 0;
301
302     /* Set default if e is not passed in */
303     if (efixed == NULL) {
304         e = BN_new();
305         if (e == NULL || !BN_set_word(e, 65537))
306             goto err;
307     } else {
308         e = (BIGNUM *)efixed;
309     }
310     /* (Step 1c) fixed exponent is checked later . */
311
312     for (;;) {
313         /* (Step 2) Generate prime factors */
314         if (!rsa_fips186_4_gen_prob_primes(rsa, NULL, NULL, NULL, NULL, NULL,
315                                            NULL, NULL, NULL, NULL, NULL, NULL,
316                                            NULL, nbits, e, ctx, cb))
317             goto err;
318         /* (Steps 3-5) Compute params d, n, dP, dQ, qInv */
319         ok = rsa_sp800_56b_derive_params_from_pq(rsa, nbits, e, ctx);
320         if (ok < 0)
321             goto err;
322         if (ok > 0)
323             break;
324         /* Gets here if computed d is too small - so try again */
325     }
326
327     /* (Step 6) Do pairwise test - optional validity test has been omitted */
328     ret = rsa_sp800_56b_pairwise_test(rsa, ctx);
329 err:
330     if (efixed == NULL)
331         BN_free(e);
332     BN_CTX_free(ctx);
333     return ret;
334 }
335
336 /*
337  * See SP800-56Br1 6.3.1.3 (Step 6) Perform a pair-wise consistency test by
338  * verifying that: k = (k^e)^d mod n for some integer k where 1 < k < n-1.
339  *
340  * Returns 1 if the RSA key passes the pairwise test or 0 it it fails.
341  */
342 int rsa_sp800_56b_pairwise_test(RSA *rsa, BN_CTX *ctx)
343 {
344     int ret = 0;
345     BIGNUM *k, *tmp;
346
347     BN_CTX_start(ctx);
348     tmp = BN_CTX_get(ctx);
349     k = BN_CTX_get(ctx);
350     if (k == NULL)
351         goto err;
352
353     ret = (BN_set_word(k, 2)
354           && BN_mod_exp(tmp, k, rsa->e, rsa->n, ctx)
355           && BN_mod_exp(tmp, tmp, rsa->d, rsa->n, ctx)
356           && BN_cmp(k, tmp) == 0);
357     if (ret == 0)
358         RSAerr(RSA_F_RSA_SP800_56B_PAIRWISE_TEST, RSA_R_PAIRWISE_TEST_FAILURE);
359 err:
360     BN_CTX_end(ctx);
361     return ret;
362 }