Clean away unnecessary length related OSSL_PARAM key names
[openssl.git] / crypto / rsa / rsa_lib.c
1 /*
2  * Copyright 1995-2020 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the Apache License 2.0 (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 /*
11  * RSA low level APIs are deprecated for public use, but still ok for
12  * internal use.
13  */
14 #include "internal/deprecated.h"
15
16 #include <stdio.h>
17 #include <openssl/crypto.h>
18 #include <openssl/core_names.h>
19 #include <openssl/engine.h>
20 #include <openssl/evp.h>
21 #include "internal/cryptlib.h"
22 #include "internal/refcount.h"
23 #include "openssl/param_build.h"
24 #include "crypto/bn.h"
25 #include "crypto/evp.h"
26 #include "crypto/rsa.h"
27 #include "crypto/security_bits.h"
28 #include "rsa_local.h"
29
30 static RSA *rsa_new_intern(ENGINE *engine, OSSL_LIB_CTX *libctx);
31
32 #ifndef FIPS_MODULE
33 RSA *RSA_new(void)
34 {
35     return rsa_new_intern(NULL, NULL);
36 }
37
38 const RSA_METHOD *RSA_get_method(const RSA *rsa)
39 {
40     return rsa->meth;
41 }
42
43 int RSA_set_method(RSA *rsa, const RSA_METHOD *meth)
44 {
45     /*
46      * NB: The caller is specifically setting a method, so it's not up to us
47      * to deal with which ENGINE it comes from.
48      */
49     const RSA_METHOD *mtmp;
50     mtmp = rsa->meth;
51     if (mtmp->finish)
52         mtmp->finish(rsa);
53 #ifndef OPENSSL_NO_ENGINE
54     ENGINE_finish(rsa->engine);
55     rsa->engine = NULL;
56 #endif
57     rsa->meth = meth;
58     if (meth->init)
59         meth->init(rsa);
60     return 1;
61 }
62
63 RSA *RSA_new_method(ENGINE *engine)
64 {
65     return rsa_new_intern(engine, NULL);
66 }
67 #endif
68
69 RSA *ossl_rsa_new_with_ctx(OSSL_LIB_CTX *libctx)
70 {
71     return rsa_new_intern(NULL, libctx);
72 }
73
74 static RSA *rsa_new_intern(ENGINE *engine, OSSL_LIB_CTX *libctx)
75 {
76     RSA *ret = OPENSSL_zalloc(sizeof(*ret));
77
78     if (ret == NULL) {
79         ERR_raise(ERR_LIB_RSA, ERR_R_MALLOC_FAILURE);
80         return NULL;
81     }
82
83     ret->references = 1;
84     ret->lock = CRYPTO_THREAD_lock_new();
85     if (ret->lock == NULL) {
86         ERR_raise(ERR_LIB_RSA, ERR_R_MALLOC_FAILURE);
87         OPENSSL_free(ret);
88         return NULL;
89     }
90
91     ret->libctx = libctx;
92     ret->meth = RSA_get_default_method();
93 #if !defined(OPENSSL_NO_ENGINE) && !defined(FIPS_MODULE)
94     ret->flags = ret->meth->flags & ~RSA_FLAG_NON_FIPS_ALLOW;
95     if (engine) {
96         if (!ENGINE_init(engine)) {
97             ERR_raise(ERR_LIB_RSA, ERR_R_ENGINE_LIB);
98             goto err;
99         }
100         ret->engine = engine;
101     } else {
102         ret->engine = ENGINE_get_default_RSA();
103     }
104     if (ret->engine) {
105         ret->meth = ENGINE_get_RSA(ret->engine);
106         if (ret->meth == NULL) {
107             ERR_raise(ERR_LIB_RSA, ERR_R_ENGINE_LIB);
108             goto err;
109         }
110     }
111 #endif
112
113     ret->flags = ret->meth->flags & ~RSA_FLAG_NON_FIPS_ALLOW;
114 #ifndef FIPS_MODULE
115     if (!CRYPTO_new_ex_data(CRYPTO_EX_INDEX_RSA, ret, &ret->ex_data)) {
116         goto err;
117     }
118 #endif
119
120     if ((ret->meth->init != NULL) && !ret->meth->init(ret)) {
121         ERR_raise(ERR_LIB_RSA, ERR_R_INIT_FAIL);
122         goto err;
123     }
124
125     return ret;
126
127  err:
128     RSA_free(ret);
129     return NULL;
130 }
131
132 void RSA_free(RSA *r)
133 {
134     int i;
135
136     if (r == NULL)
137         return;
138
139     CRYPTO_DOWN_REF(&r->references, &i, r->lock);
140     REF_PRINT_COUNT("RSA", r);
141     if (i > 0)
142         return;
143     REF_ASSERT_ISNT(i < 0);
144
145     if (r->meth != NULL && r->meth->finish != NULL)
146         r->meth->finish(r);
147 #if !defined(OPENSSL_NO_ENGINE) && !defined(FIPS_MODULE)
148     ENGINE_finish(r->engine);
149 #endif
150
151 #ifndef FIPS_MODULE
152     CRYPTO_free_ex_data(CRYPTO_EX_INDEX_RSA, r, &r->ex_data);
153 #endif
154
155     CRYPTO_THREAD_lock_free(r->lock);
156
157     BN_free(r->n);
158     BN_free(r->e);
159     BN_clear_free(r->d);
160     BN_clear_free(r->p);
161     BN_clear_free(r->q);
162     BN_clear_free(r->dmp1);
163     BN_clear_free(r->dmq1);
164     BN_clear_free(r->iqmp);
165
166 #if defined(FIPS_MODULE) && !defined(OPENSSL_NO_ACVP_TESTS)
167     rsa_acvp_test_free(r->acvp_test);
168 #endif
169
170 #ifndef FIPS_MODULE
171     RSA_PSS_PARAMS_free(r->pss);
172     sk_RSA_PRIME_INFO_pop_free(r->prime_infos, rsa_multip_info_free);
173 #endif
174     BN_BLINDING_free(r->blinding);
175     BN_BLINDING_free(r->mt_blinding);
176     OPENSSL_free(r->bignum_data);
177     OPENSSL_free(r);
178 }
179
180 int RSA_up_ref(RSA *r)
181 {
182     int i;
183
184     if (CRYPTO_UP_REF(&r->references, &i, r->lock) <= 0)
185         return 0;
186
187     REF_PRINT_COUNT("RSA", r);
188     REF_ASSERT_ISNT(i < 2);
189     return i > 1 ? 1 : 0;
190 }
191
192 OSSL_LIB_CTX *ossl_rsa_get0_libctx(RSA *r)
193 {
194     return r->libctx;
195 }
196
197 void ossl_rsa_set0_libctx(RSA *r, OSSL_LIB_CTX *libctx)
198 {
199     r->libctx = libctx;
200 }
201
202 #ifndef FIPS_MODULE
203 int RSA_set_ex_data(RSA *r, int idx, void *arg)
204 {
205     return CRYPTO_set_ex_data(&r->ex_data, idx, arg);
206 }
207
208 void *RSA_get_ex_data(const RSA *r, int idx)
209 {
210     return CRYPTO_get_ex_data(&r->ex_data, idx);
211 }
212 #endif
213
214 /*
215  * Define a scaling constant for our fixed point arithmetic.
216  * This value must be a power of two because the base two logarithm code
217  * makes this assumption.  The exponent must also be a multiple of three so
218  * that the scale factor has an exact cube root.  Finally, the scale factor
219  * should not be so large that a multiplication of two scaled numbers
220  * overflows a 64 bit unsigned integer.
221  */
222 static const unsigned int scale = 1 << 18;
223 static const unsigned int cbrt_scale = 1 << (2 * 18 / 3);
224
225 /* Define some constants, none exceed 32 bits */
226 static const unsigned int log_2  = 0x02c5c8;    /* scale * log(2) */
227 static const unsigned int log_e  = 0x05c551;    /* scale * log2(M_E) */
228 static const unsigned int c1_923 = 0x07b126;    /* scale * 1.923 */
229 static const unsigned int c4_690 = 0x12c28f;    /* scale * 4.690 */
230
231 /*
232  * Multiply two scaled integers together and rescale the result.
233  */
234 static ossl_inline uint64_t mul2(uint64_t a, uint64_t b)
235 {
236     return a * b / scale;
237 }
238
239 /*
240  * Calculate the cube root of a 64 bit scaled integer.
241  * Although the cube root of a 64 bit number does fit into a 32 bit unsigned
242  * integer, this is not guaranteed after scaling, so this function has a
243  * 64 bit return.  This uses the shifting nth root algorithm with some
244  * algebraic simplifications.
245  */
246 static uint64_t icbrt64(uint64_t x)
247 {
248     uint64_t r = 0;
249     uint64_t b;
250     int s;
251
252     for (s = 63; s >= 0; s -= 3) {
253         r <<= 1;
254         b = 3 * r * (r + 1) + 1;
255         if ((x >> s) >= b) {
256             x -= b << s;
257             r++;
258         }
259     }
260     return r * cbrt_scale;
261 }
262
263 /*
264  * Calculate the natural logarithm of a 64 bit scaled integer.
265  * This is done by calculating a base two logarithm and scaling.
266  * The maximum logarithm (base 2) is 64 and this reduces base e, so
267  * a 32 bit result should not overflow.  The argument passed must be
268  * greater than unity so we don't need to handle negative results.
269  */
270 static uint32_t ilog_e(uint64_t v)
271 {
272     uint32_t i, r = 0;
273
274     /*
275      * Scale down the value into the range 1 .. 2.
276      *
277      * If fractional numbers need to be processed, another loop needs
278      * to go here that checks v < scale and if so multiplies it by 2 and
279      * reduces r by scale.  This also means making r signed.
280      */
281     while (v >= 2 * scale) {
282         v >>= 1;
283         r += scale;
284     }
285     for (i = scale / 2; i != 0; i /= 2) {
286         v = mul2(v, v);
287         if (v >= 2 * scale) {
288             v >>= 1;
289             r += i;
290         }
291     }
292     r = (r * (uint64_t)scale) / log_e;
293     return r;
294 }
295
296 /*
297  * NIST SP 800-56B rev 2 Appendix D: Maximum Security Strength Estimates for IFC
298  * Modulus Lengths.
299  *
300  * Note that this formula is also referred to in SP800-56A rev3 Appendix D:
301  * for FFC safe prime groups for modp and ffdhe.
302  * After Table 25 and Table 26 it refers to
303  * "The maximum security strength estimates were calculated using the formula in
304  * Section 7.5 of the FIPS 140 IG and rounded to the nearest multiple of eight
305  * bits".
306  *
307  * The formula is:
308  *
309  * E = \frac{1.923 \sqrt[3]{nBits \cdot log_e(2)}
310  *           \cdot(log_e(nBits \cdot log_e(2))^{2/3} - 4.69}{log_e(2)}
311  * The two cube roots are merged together here.
312  */
313 uint16_t ifc_ffc_compute_security_bits(int n)
314 {
315     uint64_t x;
316     uint32_t lx;
317     uint16_t y;
318
319     /* Look for common values as listed in SP 800-56B rev 2 Appendix D */
320     switch (n) {
321     case 2048:
322         return 112;
323     case 3072:
324         return 128;
325     case 4096:
326         return 152;
327     case 6144:
328         return 176;
329     case 8192:
330         return 200;
331     }
332     /*
333      * The first incorrect result (i.e. not accurate or off by one low) occurs
334      * for n = 699668.  The true value here is 1200.  Instead of using this n
335      * as the check threshold, the smallest n such that the correct result is
336      * 1200 is used instead.
337      */
338     if (n >= 687737)
339         return 1200;
340     if (n < 8)
341         return 0;
342
343     x = n * (uint64_t)log_2;
344     lx = ilog_e(x);
345     y = (uint16_t)((mul2(c1_923, icbrt64(mul2(mul2(x, lx), lx))) - c4_690)
346                    / log_2);
347     return (y + 4) & ~7;
348 }
349
350
351
352 int RSA_security_bits(const RSA *rsa)
353 {
354     int bits = BN_num_bits(rsa->n);
355
356 #ifndef FIPS_MODULE
357     if (rsa->version == RSA_ASN1_VERSION_MULTI) {
358         /* This ought to mean that we have private key at hand. */
359         int ex_primes = sk_RSA_PRIME_INFO_num(rsa->prime_infos);
360
361         if (ex_primes <= 0 || (ex_primes + 2) > rsa_multip_cap(bits))
362             return 0;
363     }
364 #endif
365     return ifc_ffc_compute_security_bits(bits);
366 }
367
368 int RSA_set0_key(RSA *r, BIGNUM *n, BIGNUM *e, BIGNUM *d)
369 {
370     /* If the fields n and e in r are NULL, the corresponding input
371      * parameters MUST be non-NULL for n and e.  d may be
372      * left NULL (in case only the public key is used).
373      */
374     if ((r->n == NULL && n == NULL)
375         || (r->e == NULL && e == NULL))
376         return 0;
377
378     if (n != NULL) {
379         BN_free(r->n);
380         r->n = n;
381     }
382     if (e != NULL) {
383         BN_free(r->e);
384         r->e = e;
385     }
386     if (d != NULL) {
387         BN_clear_free(r->d);
388         r->d = d;
389         BN_set_flags(r->d, BN_FLG_CONSTTIME);
390     }
391     r->dirty_cnt++;
392
393     return 1;
394 }
395
396 int RSA_set0_factors(RSA *r, BIGNUM *p, BIGNUM *q)
397 {
398     /* If the fields p and q in r are NULL, the corresponding input
399      * parameters MUST be non-NULL.
400      */
401     if ((r->p == NULL && p == NULL)
402         || (r->q == NULL && q == NULL))
403         return 0;
404
405     if (p != NULL) {
406         BN_clear_free(r->p);
407         r->p = p;
408         BN_set_flags(r->p, BN_FLG_CONSTTIME);
409     }
410     if (q != NULL) {
411         BN_clear_free(r->q);
412         r->q = q;
413         BN_set_flags(r->q, BN_FLG_CONSTTIME);
414     }
415     r->dirty_cnt++;
416
417     return 1;
418 }
419
420 int RSA_set0_crt_params(RSA *r, BIGNUM *dmp1, BIGNUM *dmq1, BIGNUM *iqmp)
421 {
422     /* If the fields dmp1, dmq1 and iqmp in r are NULL, the corresponding input
423      * parameters MUST be non-NULL.
424      */
425     if ((r->dmp1 == NULL && dmp1 == NULL)
426         || (r->dmq1 == NULL && dmq1 == NULL)
427         || (r->iqmp == NULL && iqmp == NULL))
428         return 0;
429
430     if (dmp1 != NULL) {
431         BN_clear_free(r->dmp1);
432         r->dmp1 = dmp1;
433         BN_set_flags(r->dmp1, BN_FLG_CONSTTIME);
434     }
435     if (dmq1 != NULL) {
436         BN_clear_free(r->dmq1);
437         r->dmq1 = dmq1;
438         BN_set_flags(r->dmq1, BN_FLG_CONSTTIME);
439     }
440     if (iqmp != NULL) {
441         BN_clear_free(r->iqmp);
442         r->iqmp = iqmp;
443         BN_set_flags(r->iqmp, BN_FLG_CONSTTIME);
444     }
445     r->dirty_cnt++;
446
447     return 1;
448 }
449
450 #ifndef FIPS_MODULE
451 /*
452  * Is it better to export RSA_PRIME_INFO structure
453  * and related functions to let user pass a triplet?
454  */
455 int RSA_set0_multi_prime_params(RSA *r, BIGNUM *primes[], BIGNUM *exps[],
456                                 BIGNUM *coeffs[], int pnum)
457 {
458     STACK_OF(RSA_PRIME_INFO) *prime_infos, *old = NULL;
459     RSA_PRIME_INFO *pinfo;
460     int i;
461
462     if (primes == NULL || exps == NULL || coeffs == NULL || pnum == 0)
463         return 0;
464
465     prime_infos = sk_RSA_PRIME_INFO_new_reserve(NULL, pnum);
466     if (prime_infos == NULL)
467         return 0;
468
469     if (r->prime_infos != NULL)
470         old = r->prime_infos;
471
472     for (i = 0; i < pnum; i++) {
473         pinfo = rsa_multip_info_new();
474         if (pinfo == NULL)
475             goto err;
476         if (primes[i] != NULL && exps[i] != NULL && coeffs[i] != NULL) {
477             BN_clear_free(pinfo->r);
478             BN_clear_free(pinfo->d);
479             BN_clear_free(pinfo->t);
480             pinfo->r = primes[i];
481             pinfo->d = exps[i];
482             pinfo->t = coeffs[i];
483             BN_set_flags(pinfo->r, BN_FLG_CONSTTIME);
484             BN_set_flags(pinfo->d, BN_FLG_CONSTTIME);
485             BN_set_flags(pinfo->t, BN_FLG_CONSTTIME);
486         } else {
487             rsa_multip_info_free(pinfo);
488             goto err;
489         }
490         (void)sk_RSA_PRIME_INFO_push(prime_infos, pinfo);
491     }
492
493     r->prime_infos = prime_infos;
494
495     if (!rsa_multip_calc_product(r)) {
496         r->prime_infos = old;
497         goto err;
498     }
499
500     if (old != NULL) {
501         /*
502          * This is hard to deal with, since the old infos could
503          * also be set by this function and r, d, t should not
504          * be freed in that case. So currently, stay consistent
505          * with other *set0* functions: just free it...
506          */
507         sk_RSA_PRIME_INFO_pop_free(old, rsa_multip_info_free);
508     }
509
510     r->version = RSA_ASN1_VERSION_MULTI;
511     r->dirty_cnt++;
512
513     return 1;
514  err:
515     /* r, d, t should not be freed */
516     sk_RSA_PRIME_INFO_pop_free(prime_infos, rsa_multip_info_free_ex);
517     return 0;
518 }
519 #endif
520
521 void RSA_get0_key(const RSA *r,
522                   const BIGNUM **n, const BIGNUM **e, const BIGNUM **d)
523 {
524     if (n != NULL)
525         *n = r->n;
526     if (e != NULL)
527         *e = r->e;
528     if (d != NULL)
529         *d = r->d;
530 }
531
532 void RSA_get0_factors(const RSA *r, const BIGNUM **p, const BIGNUM **q)
533 {
534     if (p != NULL)
535         *p = r->p;
536     if (q != NULL)
537         *q = r->q;
538 }
539
540 #ifndef FIPS_MODULE
541 int RSA_get_multi_prime_extra_count(const RSA *r)
542 {
543     int pnum;
544
545     pnum = sk_RSA_PRIME_INFO_num(r->prime_infos);
546     if (pnum <= 0)
547         pnum = 0;
548     return pnum;
549 }
550
551 int RSA_get0_multi_prime_factors(const RSA *r, const BIGNUM *primes[])
552 {
553     int pnum, i;
554     RSA_PRIME_INFO *pinfo;
555
556     if ((pnum = RSA_get_multi_prime_extra_count(r)) == 0)
557         return 0;
558
559     /*
560      * return other primes
561      * it's caller's responsibility to allocate oth_primes[pnum]
562      */
563     for (i = 0; i < pnum; i++) {
564         pinfo = sk_RSA_PRIME_INFO_value(r->prime_infos, i);
565         primes[i] = pinfo->r;
566     }
567
568     return 1;
569 }
570 #endif
571
572 void RSA_get0_crt_params(const RSA *r,
573                          const BIGNUM **dmp1, const BIGNUM **dmq1,
574                          const BIGNUM **iqmp)
575 {
576     if (dmp1 != NULL)
577         *dmp1 = r->dmp1;
578     if (dmq1 != NULL)
579         *dmq1 = r->dmq1;
580     if (iqmp != NULL)
581         *iqmp = r->iqmp;
582 }
583
584 #ifndef FIPS_MODULE
585 int RSA_get0_multi_prime_crt_params(const RSA *r, const BIGNUM *exps[],
586                                     const BIGNUM *coeffs[])
587 {
588     int pnum;
589
590     if ((pnum = RSA_get_multi_prime_extra_count(r)) == 0)
591         return 0;
592
593     /* return other primes */
594     if (exps != NULL || coeffs != NULL) {
595         RSA_PRIME_INFO *pinfo;
596         int i;
597
598         /* it's the user's job to guarantee the buffer length */
599         for (i = 0; i < pnum; i++) {
600             pinfo = sk_RSA_PRIME_INFO_value(r->prime_infos, i);
601             if (exps != NULL)
602                 exps[i] = pinfo->d;
603             if (coeffs != NULL)
604                 coeffs[i] = pinfo->t;
605         }
606     }
607
608     return 1;
609 }
610 #endif
611
612 const BIGNUM *RSA_get0_n(const RSA *r)
613 {
614     return r->n;
615 }
616
617 const BIGNUM *RSA_get0_e(const RSA *r)
618 {
619     return r->e;
620 }
621
622 const BIGNUM *RSA_get0_d(const RSA *r)
623 {
624     return r->d;
625 }
626
627 const BIGNUM *RSA_get0_p(const RSA *r)
628 {
629     return r->p;
630 }
631
632 const BIGNUM *RSA_get0_q(const RSA *r)
633 {
634     return r->q;
635 }
636
637 const BIGNUM *RSA_get0_dmp1(const RSA *r)
638 {
639     return r->dmp1;
640 }
641
642 const BIGNUM *RSA_get0_dmq1(const RSA *r)
643 {
644     return r->dmq1;
645 }
646
647 const BIGNUM *RSA_get0_iqmp(const RSA *r)
648 {
649     return r->iqmp;
650 }
651
652 const RSA_PSS_PARAMS *RSA_get0_pss_params(const RSA *r)
653 {
654 #ifdef FIPS_MODULE
655     return NULL;
656 #else
657     return r->pss;
658 #endif
659 }
660
661 /* Internal */
662 RSA_PSS_PARAMS_30 *ossl_rsa_get0_pss_params_30(RSA *r)
663 {
664     return &r->pss_params;
665 }
666
667 void RSA_clear_flags(RSA *r, int flags)
668 {
669     r->flags &= ~flags;
670 }
671
672 int RSA_test_flags(const RSA *r, int flags)
673 {
674     return r->flags & flags;
675 }
676
677 void RSA_set_flags(RSA *r, int flags)
678 {
679     r->flags |= flags;
680 }
681
682 int RSA_get_version(RSA *r)
683 {
684     /* { two-prime(0), multi(1) } */
685     return r->version;
686 }
687
688 #ifndef FIPS_MODULE
689 ENGINE *RSA_get0_engine(const RSA *r)
690 {
691     return r->engine;
692 }
693
694 int RSA_pkey_ctx_ctrl(EVP_PKEY_CTX *ctx, int optype, int cmd, int p1, void *p2)
695 {
696     /* If key type not RSA or RSA-PSS return error */
697     if (ctx != NULL && ctx->pmeth != NULL
698         && ctx->pmeth->pkey_id != EVP_PKEY_RSA
699         && ctx->pmeth->pkey_id != EVP_PKEY_RSA_PSS)
700         return -1;
701      return EVP_PKEY_CTX_ctrl(ctx, -1, optype, cmd, p1, p2);
702 }
703 #endif
704
705 DEFINE_STACK_OF(BIGNUM)
706
707 int ossl_rsa_set0_all_params(RSA *r, const STACK_OF(BIGNUM) *primes,
708                              const STACK_OF(BIGNUM) *exps,
709                              const STACK_OF(BIGNUM) *coeffs)
710 {
711 #ifndef FIPS_MODULE
712     STACK_OF(RSA_PRIME_INFO) *prime_infos, *old_infos = NULL;
713 #endif
714     int pnum;
715
716     if (primes == NULL || exps == NULL || coeffs == NULL)
717         return 0;
718
719     pnum = sk_BIGNUM_num(primes);
720     if (pnum < 2
721         || pnum != sk_BIGNUM_num(exps)
722         || pnum != sk_BIGNUM_num(coeffs) + 1)
723         return 0;
724
725     if (!RSA_set0_factors(r, sk_BIGNUM_value(primes, 0),
726                           sk_BIGNUM_value(primes, 1))
727         || !RSA_set0_crt_params(r, sk_BIGNUM_value(exps, 0),
728                                 sk_BIGNUM_value(exps, 1),
729                                 sk_BIGNUM_value(coeffs, 0)))
730         return 0;
731
732 #ifndef FIPS_MODULE
733     old_infos = r->prime_infos;
734 #endif
735
736     if (pnum > 2) {
737 #ifndef FIPS_MODULE
738         int i;
739
740         prime_infos = sk_RSA_PRIME_INFO_new_reserve(NULL, pnum);
741         if (prime_infos == NULL)
742             return 0;
743
744         for (i = 2; i < pnum; i++) {
745             BIGNUM *prime = sk_BIGNUM_value(primes, i);
746             BIGNUM *exp = sk_BIGNUM_value(exps, i);
747             BIGNUM *coeff = sk_BIGNUM_value(coeffs, i - 1);
748             RSA_PRIME_INFO *pinfo = NULL;
749
750             if (!ossl_assert(prime != NULL && exp != NULL && coeff != NULL))
751                 goto err;
752
753             /* Using rsa_multip_info_new() is wasteful, so allocate directly */
754             if ((pinfo = OPENSSL_zalloc(sizeof(*pinfo))) == NULL) {
755                 ERR_raise(ERR_LIB_RSA, ERR_R_MALLOC_FAILURE);
756                 goto err;
757             }
758
759             pinfo->r = prime;
760             pinfo->d = exp;
761             pinfo->t = coeff;
762             BN_set_flags(pinfo->r, BN_FLG_CONSTTIME);
763             BN_set_flags(pinfo->d, BN_FLG_CONSTTIME);
764             BN_set_flags(pinfo->t, BN_FLG_CONSTTIME);
765             (void)sk_RSA_PRIME_INFO_push(prime_infos, pinfo);
766         }
767
768         r->prime_infos = prime_infos;
769
770         if (!rsa_multip_calc_product(r)) {
771             r->prime_infos = old_infos;
772             goto err;
773         }
774 #else
775         return 0;
776 #endif
777     }
778
779 #ifndef FIPS_MODULE
780     if (old_infos != NULL) {
781         /*
782          * This is hard to deal with, since the old infos could
783          * also be set by this function and r, d, t should not
784          * be freed in that case. So currently, stay consistent
785          * with other *set0* functions: just free it...
786          */
787         sk_RSA_PRIME_INFO_pop_free(old_infos, rsa_multip_info_free);
788     }
789 #endif
790
791     r->version = pnum > 2 ? RSA_ASN1_VERSION_MULTI : RSA_ASN1_VERSION_DEFAULT;
792     r->dirty_cnt++;
793
794     return 1;
795 #ifndef FIPS_MODULE
796  err:
797     /* r, d, t should not be freed */
798     sk_RSA_PRIME_INFO_pop_free(prime_infos, rsa_multip_info_free_ex);
799     return 0;
800 #endif
801 }
802
803 DEFINE_SPECIAL_STACK_OF_CONST(BIGNUM_const, BIGNUM)
804
805 int ossl_rsa_get0_all_params(RSA *r, STACK_OF(BIGNUM_const) *primes,
806                              STACK_OF(BIGNUM_const) *exps,
807                              STACK_OF(BIGNUM_const) *coeffs)
808 {
809 #ifndef FIPS_MODULE
810     RSA_PRIME_INFO *pinfo;
811     int i, pnum;
812 #endif
813
814     if (r == NULL)
815         return 0;
816
817     /* If |p| is NULL, there are no CRT parameters */
818     if (RSA_get0_p(r) == NULL)
819         return 1;
820
821     sk_BIGNUM_const_push(primes, RSA_get0_p(r));
822     sk_BIGNUM_const_push(primes, RSA_get0_q(r));
823     sk_BIGNUM_const_push(exps, RSA_get0_dmp1(r));
824     sk_BIGNUM_const_push(exps, RSA_get0_dmq1(r));
825     sk_BIGNUM_const_push(coeffs, RSA_get0_iqmp(r));
826
827 #ifndef FIPS_MODULE
828     pnum = RSA_get_multi_prime_extra_count(r);
829     for (i = 0; i < pnum; i++) {
830         pinfo = sk_RSA_PRIME_INFO_value(r->prime_infos, i);
831         sk_BIGNUM_const_push(primes, pinfo->r);
832         sk_BIGNUM_const_push(exps, pinfo->d);
833         sk_BIGNUM_const_push(coeffs, pinfo->t);
834     }
835 #endif
836
837     return 1;
838 }
839
840 #ifndef FIPS_MODULE
841 int EVP_PKEY_CTX_set_rsa_padding(EVP_PKEY_CTX *ctx, int pad_mode)
842 {
843     OSSL_PARAM pad_params[2], *p = pad_params;
844
845     if (ctx == NULL) {
846         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
847         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
848         return -2;
849     }
850
851     /* If key type not RSA or RSA-PSS return error */
852     if (ctx->pmeth != NULL
853             && ctx->pmeth->pkey_id != EVP_PKEY_RSA
854             && ctx->pmeth->pkey_id != EVP_PKEY_RSA_PSS)
855         return -1;
856
857     /* TODO(3.0): Remove this eventually when no more legacy */
858     if ((!EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)
859          || ctx->op.ciph.ciphprovctx == NULL)
860         && (!EVP_PKEY_CTX_IS_SIGNATURE_OP(ctx)
861             || ctx->op.sig.sigprovctx == NULL))
862         return EVP_PKEY_CTX_ctrl(ctx, -1, -1, EVP_PKEY_CTRL_RSA_PADDING,
863                                  pad_mode, NULL);
864
865     *p++ = OSSL_PARAM_construct_int(OSSL_PKEY_PARAM_PAD_MODE, &pad_mode);
866     *p++ = OSSL_PARAM_construct_end();
867
868     return EVP_PKEY_CTX_set_params(ctx, pad_params);
869 }
870
871 int EVP_PKEY_CTX_get_rsa_padding(EVP_PKEY_CTX *ctx, int *pad_mode)
872 {
873     OSSL_PARAM pad_params[2], *p = pad_params;
874
875     if (ctx == NULL || pad_mode == NULL) {
876         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
877         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
878         return -2;
879     }
880
881     /* If key type not RSA or RSA-PSS return error */
882     if (ctx->pmeth != NULL
883             && ctx->pmeth->pkey_id != EVP_PKEY_RSA
884             && ctx->pmeth->pkey_id != EVP_PKEY_RSA_PSS)
885         return -1;
886
887     /* TODO(3.0): Remove this eventually when no more legacy */
888     if ((!EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)
889          || ctx->op.ciph.ciphprovctx == NULL)
890         && (!EVP_PKEY_CTX_IS_SIGNATURE_OP(ctx)
891             || ctx->op.sig.sigprovctx == NULL))
892         return EVP_PKEY_CTX_ctrl(ctx, -1, -1, EVP_PKEY_CTRL_GET_RSA_PADDING, 0,
893                                  pad_mode);
894
895     *p++ = OSSL_PARAM_construct_int(OSSL_PKEY_PARAM_PAD_MODE, pad_mode);
896     *p++ = OSSL_PARAM_construct_end();
897
898     if (!EVP_PKEY_CTX_get_params(ctx, pad_params))
899         return 0;
900
901     return 1;
902
903 }
904
905 int EVP_PKEY_CTX_set_rsa_oaep_md(EVP_PKEY_CTX *ctx, const EVP_MD *md)
906 {
907     const char *name;
908
909     if (ctx == NULL || !EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)) {
910         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
911         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
912         return -2;
913     }
914
915     /* If key type not RSA return error */
916     if (ctx->pmeth != NULL && ctx->pmeth->pkey_id != EVP_PKEY_RSA)
917         return -1;
918
919     /* TODO(3.0): Remove this eventually when no more legacy */
920     if (ctx->op.ciph.ciphprovctx == NULL)
921         return EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, EVP_PKEY_OP_TYPE_CRYPT,
922                                  EVP_PKEY_CTRL_RSA_OAEP_MD, 0, (void *)md);
923
924     name = (md == NULL) ? "" : EVP_MD_name(md);
925
926     return EVP_PKEY_CTX_set_rsa_oaep_md_name(ctx, name, NULL);
927 }
928
929 int EVP_PKEY_CTX_set_rsa_oaep_md_name(EVP_PKEY_CTX *ctx, const char *mdname,
930                                       const char *mdprops)
931 {
932     OSSL_PARAM rsa_params[3], *p = rsa_params;
933
934     if (ctx == NULL || !EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)) {
935         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
936         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
937         return -2;
938     }
939
940     /* If key type not RSA return error */
941     if (ctx->pmeth != NULL && ctx->pmeth->pkey_id != EVP_PKEY_RSA)
942         return -1;
943
944
945     *p++ = OSSL_PARAM_construct_utf8_string(OSSL_ASYM_CIPHER_PARAM_OAEP_DIGEST,
946                                             /*
947                                              * Cast away the const. This is read
948                                              * only so should be safe
949                                              */
950                                             (char *)mdname, 0);
951     if (mdprops != NULL) {
952         *p++ = OSSL_PARAM_construct_utf8_string(
953                     OSSL_ASYM_CIPHER_PARAM_OAEP_DIGEST_PROPS,
954                     /*
955                      * Cast away the const. This is read
956                      * only so should be safe
957                      */
958                     (char *)mdprops, 0);
959     }
960     *p++ = OSSL_PARAM_construct_end();
961
962     return EVP_PKEY_CTX_set_params(ctx, rsa_params);
963 }
964
965 int EVP_PKEY_CTX_get_rsa_oaep_md_name(EVP_PKEY_CTX *ctx, char *name,
966                                       size_t namelen)
967 {
968     OSSL_PARAM rsa_params[2], *p = rsa_params;
969
970     if (ctx == NULL || !EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)) {
971         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
972         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
973         return -2;
974     }
975
976     /* If key type not RSA return error */
977     if (ctx->pmeth != NULL && ctx->pmeth->pkey_id != EVP_PKEY_RSA)
978         return -1;
979
980     *p++ = OSSL_PARAM_construct_utf8_string(OSSL_ASYM_CIPHER_PARAM_OAEP_DIGEST,
981                                             name, namelen);
982     *p++ = OSSL_PARAM_construct_end();
983
984     if (!EVP_PKEY_CTX_get_params(ctx, rsa_params))
985         return -1;
986
987     return 1;
988 }
989
990 int EVP_PKEY_CTX_get_rsa_oaep_md(EVP_PKEY_CTX *ctx, const EVP_MD **md)
991 {
992     /* 80 should be big enough */
993     char name[80] = "";
994
995     if (ctx == NULL || md == NULL || !EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)) {
996         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
997         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
998         return -2;
999     }
1000
1001     /* If key type not RSA return error */
1002     if (ctx->pmeth != NULL && ctx->pmeth->pkey_id != EVP_PKEY_RSA)
1003         return -1;
1004
1005     /* TODO(3.0): Remove this eventually when no more legacy */
1006     if (ctx->op.ciph.ciphprovctx == NULL)
1007         return EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, EVP_PKEY_OP_TYPE_CRYPT,
1008                                  EVP_PKEY_CTRL_GET_RSA_OAEP_MD, 0, (void *)md);
1009
1010     if (EVP_PKEY_CTX_get_rsa_oaep_md_name(ctx, name, sizeof(name)) <= 0)
1011         return -1;
1012
1013     /* May be NULL meaning "unknown" */
1014     *md = evp_get_digestbyname_ex(ctx->libctx, name);
1015
1016     return 1;
1017 }
1018
1019 static int int_set_rsa_mgf1_md(EVP_PKEY_CTX *ctx,
1020                                /* For EVP_PKEY_CTX_ctrl() */
1021                                int keytype, int optype, int cmd,
1022                                const EVP_MD *md,
1023                                /* For EVP_PKEY_CTX_set_params() */
1024                                const char *mdname, const char *mdprops)
1025 {
1026     OSSL_PARAM rsa_params[3], *p = rsa_params;
1027
1028     if (ctx == NULL || (ctx->operation & optype) == 0) {
1029         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1030         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1031         return -2;
1032     }
1033
1034     /* If key type not RSA return error */
1035     if (ctx->pmeth != NULL
1036         && (keytype == -1
1037             ? (ctx->pmeth->pkey_id != EVP_PKEY_RSA
1038                && ctx->pmeth->pkey_id != EVP_PKEY_RSA_PSS)
1039             : ctx->pmeth->pkey_id != keytype))
1040         return -1;
1041
1042     /* TODO(3.0): Remove this eventually when no more legacy */
1043     if (cmd != -1) {
1044         if ((EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)
1045              && ctx->op.ciph.ciphprovctx == NULL)
1046             || (EVP_PKEY_CTX_IS_SIGNATURE_OP(ctx)
1047                 && ctx->op.sig.sigprovctx == NULL)
1048             || (EVP_PKEY_CTX_IS_GEN_OP(ctx)
1049                 && ctx->op.keymgmt.genctx == NULL))
1050             return EVP_PKEY_CTX_ctrl(ctx, keytype, optype, cmd, 0, (void *)md);
1051
1052         mdname = (md == NULL) ? "" : EVP_MD_name(md);
1053     }
1054
1055
1056     *p++ = OSSL_PARAM_construct_utf8_string(OSSL_PKEY_PARAM_MGF1_DIGEST,
1057                                             /*
1058                                              * Cast away the const. This is
1059                                              * read only so should be safe
1060                                              */
1061                                             (char *)mdname, 0);
1062     if (mdprops != NULL) {
1063         *p++ =
1064             OSSL_PARAM_construct_utf8_string(OSSL_PKEY_PARAM_MGF1_PROPERTIES,
1065                                              /*
1066                                               * Cast away the const. This is
1067                                               * read only so should be safe
1068                                               */
1069                                              (char *)mdprops, 0);
1070     }
1071     *p++ = OSSL_PARAM_construct_end();
1072
1073     return EVP_PKEY_CTX_set_params(ctx, rsa_params);
1074 }
1075
1076 int EVP_PKEY_CTX_set_rsa_mgf1_md(EVP_PKEY_CTX *ctx, const EVP_MD *md)
1077 {
1078     return int_set_rsa_mgf1_md(ctx, -1,
1079                                EVP_PKEY_OP_TYPE_CRYPT | EVP_PKEY_OP_TYPE_SIG,
1080                                EVP_PKEY_CTRL_RSA_MGF1_MD, md, NULL, NULL);
1081 }
1082
1083 int EVP_PKEY_CTX_set_rsa_mgf1_md_name(EVP_PKEY_CTX *ctx, const char *mdname,
1084                                       const char *mdprops)
1085 {
1086     return int_set_rsa_mgf1_md(ctx, -1,
1087                                EVP_PKEY_OP_TYPE_CRYPT | EVP_PKEY_OP_TYPE_SIG,
1088                                -1, NULL, mdname, mdprops);
1089 }
1090
1091 int EVP_PKEY_CTX_set_rsa_pss_keygen_mgf1_md(EVP_PKEY_CTX *ctx, const EVP_MD *md)
1092 {
1093     return int_set_rsa_mgf1_md(ctx, EVP_PKEY_RSA_PSS,
1094                                EVP_PKEY_OP_KEYGEN, EVP_PKEY_CTRL_RSA_MGF1_MD,
1095                                md, NULL, NULL);
1096 }
1097
1098 int EVP_PKEY_CTX_set_rsa_pss_keygen_mgf1_md_name(EVP_PKEY_CTX *ctx,
1099                                                  const char *mdname)
1100 {
1101     return int_set_rsa_mgf1_md(ctx, EVP_PKEY_RSA_PSS,
1102                                EVP_PKEY_OP_TYPE_CRYPT | EVP_PKEY_OP_TYPE_SIG,
1103                                -1, NULL, mdname, NULL);
1104 }
1105
1106 int EVP_PKEY_CTX_get_rsa_mgf1_md_name(EVP_PKEY_CTX *ctx, char *name,
1107                                       size_t namelen)
1108 {
1109     OSSL_PARAM rsa_params[2], *p = rsa_params;
1110
1111     if (ctx == NULL
1112             || (!EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)
1113                 && !EVP_PKEY_CTX_IS_SIGNATURE_OP(ctx))) {
1114         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1115         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1116         return -2;
1117     }
1118
1119     /* If key type not RSA or RSA-PSS return error */
1120     if (ctx->pmeth != NULL
1121             && ctx->pmeth->pkey_id != EVP_PKEY_RSA
1122             && ctx->pmeth->pkey_id != EVP_PKEY_RSA_PSS)
1123         return -1;
1124
1125     *p++ = OSSL_PARAM_construct_utf8_string(OSSL_PKEY_PARAM_MGF1_DIGEST,
1126                                             name, namelen);
1127     *p++ = OSSL_PARAM_construct_end();
1128
1129     if (!EVP_PKEY_CTX_get_params(ctx, rsa_params))
1130         return -1;
1131
1132     return 1;
1133 }
1134
1135 int EVP_PKEY_CTX_get_rsa_mgf1_md(EVP_PKEY_CTX *ctx, const EVP_MD **md)
1136 {
1137     /* 80 should be big enough */
1138     char name[80] = "";
1139
1140     if (ctx == NULL
1141             || (!EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)
1142                 && !EVP_PKEY_CTX_IS_SIGNATURE_OP(ctx))) {
1143         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1144         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1145         return -2;
1146     }
1147
1148     /* If key type not RSA or RSA-PSS return error */
1149     if (ctx->pmeth != NULL
1150             && ctx->pmeth->pkey_id != EVP_PKEY_RSA
1151             && ctx->pmeth->pkey_id != EVP_PKEY_RSA_PSS)
1152         return -1;
1153
1154     /* TODO(3.0): Remove this eventually when no more legacy */
1155     if ((EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)
1156                 && ctx->op.ciph.ciphprovctx == NULL)
1157             || (EVP_PKEY_CTX_IS_SIGNATURE_OP(ctx)
1158                 && ctx->op.sig.sigprovctx == NULL))
1159         return EVP_PKEY_CTX_ctrl(ctx, -1,
1160                                  EVP_PKEY_OP_TYPE_SIG | EVP_PKEY_OP_TYPE_CRYPT,
1161                                  EVP_PKEY_CTRL_GET_RSA_MGF1_MD, 0, (void *)md);
1162
1163     if (EVP_PKEY_CTX_get_rsa_mgf1_md_name(ctx, name, sizeof(name)) <= 0)
1164         return -1;
1165
1166     /* May be NULL meaning "unknown" */
1167     *md = evp_get_digestbyname_ex(ctx->libctx, name);
1168
1169     return 1;
1170 }
1171
1172 int EVP_PKEY_CTX_set0_rsa_oaep_label(EVP_PKEY_CTX *ctx, void *label, int llen)
1173 {
1174     OSSL_PARAM rsa_params[2], *p = rsa_params;
1175
1176     if (ctx == NULL || !EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)) {
1177         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1178         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1179         return -2;
1180     }
1181
1182     /* If key type not RSA return error */
1183     if (ctx->pmeth != NULL && ctx->pmeth->pkey_id != EVP_PKEY_RSA)
1184         return -1;
1185
1186     /* TODO(3.0): Remove this eventually when no more legacy */
1187     if (ctx->op.ciph.ciphprovctx == NULL)
1188         return EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, EVP_PKEY_OP_TYPE_CRYPT,
1189                                  EVP_PKEY_CTRL_RSA_OAEP_LABEL, llen,
1190                                  (void *)label);
1191
1192     *p++ = OSSL_PARAM_construct_octet_string(OSSL_ASYM_CIPHER_PARAM_OAEP_LABEL,
1193                                              /*
1194                                               * Cast away the const. This is
1195                                               * read only so should be safe
1196                                               */
1197                                              (void *)label,
1198                                              (size_t)llen);
1199     *p++ = OSSL_PARAM_construct_end();
1200
1201     if (!EVP_PKEY_CTX_set_params(ctx, rsa_params))
1202         return 0;
1203
1204     OPENSSL_free(label);
1205     return 1;
1206 }
1207
1208 int EVP_PKEY_CTX_get0_rsa_oaep_label(EVP_PKEY_CTX *ctx, unsigned char **label)
1209 {
1210     OSSL_PARAM rsa_params[2], *p = rsa_params;
1211     size_t labellen;
1212
1213     if (ctx == NULL || !EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)) {
1214         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1215         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1216         return -2;
1217     }
1218
1219     /* If key type not RSA return error */
1220     if (ctx->pmeth != NULL && ctx->pmeth->pkey_id != EVP_PKEY_RSA)
1221         return -1;
1222
1223     /* TODO(3.0): Remove this eventually when no more legacy */
1224     if (ctx->op.ciph.ciphprovctx == NULL)
1225         return EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, EVP_PKEY_OP_TYPE_CRYPT,
1226                                  EVP_PKEY_CTRL_GET_RSA_OAEP_LABEL, 0,
1227                                  (void *)label);
1228
1229     *p++ = OSSL_PARAM_construct_octet_ptr(OSSL_ASYM_CIPHER_PARAM_OAEP_LABEL,
1230                                           (void **)label, 0);
1231     *p++ = OSSL_PARAM_construct_end();
1232
1233     if (!EVP_PKEY_CTX_get_params(ctx, rsa_params))
1234         return -1;
1235
1236     labellen = rsa_params[0].return_size;
1237     if (labellen > INT_MAX)
1238         return -1;
1239
1240     return (int)labellen;
1241 }
1242
1243 static int int_set_rsa_pss_saltlen(EVP_PKEY_CTX *ctx, int saltlen,
1244                                    int keytype, int optype)
1245 {
1246     OSSL_PARAM pad_params[2], *p = pad_params;
1247
1248     if (ctx == NULL || (ctx->operation & optype) == 0) {
1249         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1250         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1251         return -2;
1252     }
1253
1254     /* If key type not RSA or RSA-PSS return error */
1255     if (ctx->pmeth != NULL
1256         && (keytype == -1
1257             ? (ctx->pmeth->pkey_id != EVP_PKEY_RSA
1258                && ctx->pmeth->pkey_id != EVP_PKEY_RSA_PSS)
1259             : ctx->pmeth->pkey_id != keytype))
1260         return -1;
1261
1262     /* TODO(3.0): Remove this eventually when no more legacy */
1263     if ((EVP_PKEY_CTX_IS_SIGNATURE_OP(ctx)
1264          && ctx->op.sig.sigprovctx == NULL)
1265         || (EVP_PKEY_CTX_IS_GEN_OP(ctx)
1266             && ctx->op.keymgmt.genctx == NULL))
1267         return EVP_PKEY_CTX_ctrl(ctx, keytype, optype,
1268                                  EVP_PKEY_CTRL_RSA_PSS_SALTLEN,
1269                                  saltlen, NULL);
1270
1271     *p++ =
1272         OSSL_PARAM_construct_int(OSSL_SIGNATURE_PARAM_PSS_SALTLEN, &saltlen);
1273     *p++ = OSSL_PARAM_construct_end();
1274
1275     return EVP_PKEY_CTX_set_params(ctx, pad_params);
1276 }
1277
1278 int EVP_PKEY_CTX_set_rsa_pss_saltlen(EVP_PKEY_CTX *ctx, int saltlen)
1279 {
1280     return int_set_rsa_pss_saltlen(ctx, saltlen, -1, EVP_PKEY_OP_TYPE_SIG);
1281 }
1282
1283 int EVP_PKEY_CTX_set_rsa_pss_keygen_saltlen(EVP_PKEY_CTX *ctx, int saltlen)
1284 {
1285     return int_set_rsa_pss_saltlen(ctx, saltlen, EVP_PKEY_RSA_PSS,
1286                                    EVP_PKEY_OP_KEYGEN);
1287 }
1288
1289 int EVP_PKEY_CTX_get_rsa_pss_saltlen(EVP_PKEY_CTX *ctx, int *saltlen)
1290 {
1291     OSSL_PARAM pad_params[2], *p = pad_params;
1292
1293     if (ctx == NULL || saltlen == NULL) {
1294         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1295         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1296         return -2;
1297     }
1298
1299     /* If key type not RSA or RSA-PSS return error */
1300     if (ctx->pmeth != NULL
1301             && ctx->pmeth->pkey_id != EVP_PKEY_RSA
1302             && ctx->pmeth->pkey_id != EVP_PKEY_RSA_PSS)
1303         return -1;
1304
1305     /* TODO(3.0): Remove this eventually when no more legacy */
1306     if (!EVP_PKEY_CTX_IS_SIGNATURE_OP(ctx)
1307         || ctx->op.sig.sigprovctx == NULL)
1308         return EVP_PKEY_CTX_ctrl(ctx, -1, -1,
1309                                  EVP_PKEY_CTRL_GET_RSA_PSS_SALTLEN,
1310                                  0, saltlen);
1311
1312     *p++ =
1313         OSSL_PARAM_construct_int(OSSL_SIGNATURE_PARAM_PSS_SALTLEN, saltlen);
1314     *p++ = OSSL_PARAM_construct_end();
1315
1316     if (!EVP_PKEY_CTX_get_params(ctx, pad_params))
1317         return 0;
1318
1319     return 1;
1320
1321 }
1322
1323 int EVP_PKEY_CTX_set_rsa_keygen_bits(EVP_PKEY_CTX *ctx, int bits)
1324 {
1325     OSSL_PARAM params[2], *p = params;
1326     size_t bits2 = bits;
1327
1328     if (ctx == NULL || !EVP_PKEY_CTX_IS_GEN_OP(ctx)) {
1329         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1330         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1331         return -2;
1332     }
1333
1334     /* If key type not RSA return error */
1335     if (ctx->pmeth != NULL && ctx->pmeth->pkey_id != EVP_PKEY_RSA)
1336         return -1;
1337
1338     /* TODO(3.0): Remove this eventually when no more legacy */
1339     if (ctx->op.keymgmt.genctx == NULL)
1340         return EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, EVP_PKEY_OP_KEYGEN,
1341                                  EVP_PKEY_CTRL_RSA_KEYGEN_BITS, bits, NULL);
1342
1343     *p++ = OSSL_PARAM_construct_size_t(OSSL_PKEY_PARAM_RSA_BITS, &bits2);
1344     *p++ = OSSL_PARAM_construct_end();
1345
1346     if (!EVP_PKEY_CTX_set_params(ctx, params))
1347         return 0;
1348
1349     return 1;
1350 }
1351
1352 static int evp_pkey_ctx_set_rsa_keygen_pubexp_intern(EVP_PKEY_CTX *ctx,
1353                                                      BIGNUM *pubexp,
1354                                                      int copy)
1355 {
1356     OSSL_PARAM_BLD *tmpl;
1357     OSSL_PARAM *params;
1358     int ret;
1359
1360     if (ctx == NULL || !EVP_PKEY_CTX_IS_GEN_OP(ctx)) {
1361         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1362         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1363         return -2;
1364     }
1365
1366     /* If key type not RSA return error */
1367     if (ctx->pmeth != NULL && ctx->pmeth->pkey_id != EVP_PKEY_RSA)
1368         return -1;
1369
1370     /* TODO(3.0): Remove this eventually when no more legacy */
1371     if (ctx->op.keymgmt.genctx == NULL) {
1372         if (copy == 1)
1373             pubexp = BN_dup(pubexp);
1374         ret = EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, EVP_PKEY_OP_KEYGEN,
1375                                 EVP_PKEY_CTRL_RSA_KEYGEN_PUBEXP, 0, pubexp);
1376         if ((copy == 1) && (ret <= 0))
1377             BN_free(pubexp);
1378         return ret;
1379     }
1380
1381     if ((tmpl = OSSL_PARAM_BLD_new()) == NULL)
1382         return 0;
1383     if (!OSSL_PARAM_BLD_push_BN(tmpl, OSSL_PKEY_PARAM_RSA_E, pubexp)
1384         || (params = OSSL_PARAM_BLD_to_param(tmpl)) == NULL) {
1385         OSSL_PARAM_BLD_free(tmpl);
1386         return 0;
1387     }
1388     OSSL_PARAM_BLD_free(tmpl);
1389
1390     ret = EVP_PKEY_CTX_set_params(ctx, params);
1391     OSSL_PARAM_BLD_free_params(params);
1392
1393     /*
1394      * Satisfy memory semantics for pre-3.0 callers of
1395      * EVP_PKEY_CTX_set_rsa_keygen_pubexp(): their expectation is that input
1396      * pubexp BIGNUM becomes managed by the EVP_PKEY_CTX on success.
1397      */
1398     if ((copy == 0) && (ret > 0))
1399         ctx->rsa_pubexp = pubexp;
1400
1401     return ret;
1402 }
1403
1404 int EVP_PKEY_CTX_set_rsa_keygen_pubexp(EVP_PKEY_CTX *ctx, BIGNUM *pubexp)
1405 {
1406     return evp_pkey_ctx_set_rsa_keygen_pubexp_intern(ctx, pubexp, 0);
1407 }
1408
1409 int EVP_PKEY_CTX_set1_rsa_keygen_pubexp(EVP_PKEY_CTX *ctx, BIGNUM *pubexp)
1410 {
1411     return evp_pkey_ctx_set_rsa_keygen_pubexp_intern(ctx, pubexp, 1);
1412 }
1413
1414 int EVP_PKEY_CTX_set_rsa_keygen_primes(EVP_PKEY_CTX *ctx, int primes)
1415 {
1416     OSSL_PARAM params[2], *p = params;
1417     size_t primes2 = primes;
1418
1419     if (ctx == NULL || !EVP_PKEY_CTX_IS_GEN_OP(ctx)) {
1420         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1421         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1422         return -2;
1423     }
1424
1425     /* If key type not RSA return error */
1426     if (ctx->pmeth != NULL && ctx->pmeth->pkey_id != EVP_PKEY_RSA)
1427         return -1;
1428
1429     /* TODO(3.0): Remove this eventually when no more legacy */
1430     if (ctx->op.keymgmt.genctx == NULL)
1431         return EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, EVP_PKEY_OP_KEYGEN,
1432                                  EVP_PKEY_CTRL_RSA_KEYGEN_PRIMES, primes,
1433                                  NULL);
1434
1435     *p++ = OSSL_PARAM_construct_size_t(OSSL_PKEY_PARAM_RSA_PRIMES, &primes2);
1436     *p++ = OSSL_PARAM_construct_end();
1437
1438     if (!EVP_PKEY_CTX_set_params(ctx, params))
1439         return 0;
1440
1441     return 1;
1442 }
1443 #endif