crypto/rsa/rsa_lib.c

   1 /*
   2  * Copyright 1995-2020 The OpenSSL Project Authors. All Rights Reserved.
   3  *
   4  * Licensed under the Apache License 2.0 (the "License").  You may not use
   5  * this file except in compliance with the License.  You can obtain a copy
   6  * in the file LICENSE in the source distribution or at
   7  * https://www.openssl.org/source/license.html
   8  */
   9
  10 /*
  11  * RSA low level APIs are deprecated for public use, but still ok for
  12  * internal use.
  13  */
  14 #include "internal/deprecated.h"
  15
  16 #include <stdio.h>
  17 #include <openssl/crypto.h>
  18 #include <openssl/core_names.h>
  19 #include <openssl/engine.h>
  20 #include <openssl/evp.h>
  21 #include "internal/cryptlib.h"
  22 #include "internal/refcount.h"
  23 #include "openssl/param_build.h"
  24 #include "crypto/bn.h"
  25 #include "crypto/evp.h"
  26 #include "crypto/rsa.h"
  27 #include "crypto/security_bits.h"
  28 #include "rsa_local.h"
  29
  30 static RSA *rsa_new_intern(ENGINE *engine, OPENSSL_CTX *libctx);
  31
  32 #ifndef FIPS_MODULE
  33 RSA *RSA_new(void)
  34 {
  35     return rsa_new_intern(NULL, NULL);
  36 }
  37
  38 const RSA_METHOD *RSA_get_method(const RSA *rsa)
  39 {
  40     return rsa->meth;
  41 }
  42
  43 int RSA_set_method(RSA *rsa, const RSA_METHOD *meth)
  44 {
  45     /*
  46      * NB: The caller is specifically setting a method, so it's not up to us
  47      * to deal with which ENGINE it comes from.
  48      */
  49     const RSA_METHOD *mtmp;
  50     mtmp = rsa->meth;
  51     if (mtmp->finish)
  52         mtmp->finish(rsa);
  53 #ifndef OPENSSL_NO_ENGINE
  54     ENGINE_finish(rsa->engine);
  55     rsa->engine = NULL;
  56 #endif
  57     rsa->meth = meth;
  58     if (meth->init)
  59         meth->init(rsa);
  60     return 1;
  61 }
  62
  63 RSA *RSA_new_method(ENGINE *engine)
  64 {
  65     return rsa_new_intern(engine, NULL);
  66 }
  67 #endif
  68
  69 RSA *rsa_new_with_ctx(OPENSSL_CTX *libctx)
  70 {
  71     return rsa_new_intern(NULL, libctx);
  72 }
  73
  74 static RSA *rsa_new_intern(ENGINE *engine, OPENSSL_CTX *libctx)
  75 {
  76     RSA *ret = OPENSSL_zalloc(sizeof(*ret));
  77
  78     if (ret == NULL) {
  79         RSAerr(0, ERR_R_MALLOC_FAILURE);
  80         return NULL;
  81     }
  82
  83     ret->references = 1;
  84     ret->lock = CRYPTO_THREAD_lock_new();
  85     if (ret->lock == NULL) {
  86         RSAerr(0, ERR_R_MALLOC_FAILURE);
  87         OPENSSL_free(ret);
  88         return NULL;
  89     }
  90
  91     ret->libctx = libctx;
  92     ret->meth = RSA_get_default_method();
  93 #if !defined(OPENSSL_NO_ENGINE) && !defined(FIPS_MODULE)
  94     ret->flags = ret->meth->flags & ~RSA_FLAG_NON_FIPS_ALLOW;
  95     if (engine) {
  96         if (!ENGINE_init(engine)) {
  97             RSAerr(0, ERR_R_ENGINE_LIB);
  98             goto err;
  99         }
 100         ret->engine = engine;
 101     } else {
 102         ret->engine = ENGINE_get_default_RSA();
 103     }
 104     if (ret->engine) {
 105         ret->meth = ENGINE_get_RSA(ret->engine);
 106         if (ret->meth == NULL) {
 107             RSAerr(0, ERR_R_ENGINE_LIB);
 108             goto err;
 109         }
 110     }
 111 #endif
 112
 113     ret->flags = ret->meth->flags & ~RSA_FLAG_NON_FIPS_ALLOW;
 114 #ifndef FIPS_MODULE
 115     if (!CRYPTO_new_ex_data(CRYPTO_EX_INDEX_RSA, ret, &ret->ex_data)) {
 116         goto err;
 117     }
 118 #endif
 119
 120     if ((ret->meth->init != NULL) && !ret->meth->init(ret)) {
 121         RSAerr(0, ERR_R_INIT_FAIL);
 122         goto err;
 123     }
 124
 125     return ret;
 126
 127  err:
 128     RSA_free(ret);
 129     return NULL;
 130 }
 131
 132 void RSA_free(RSA *r)
 133 {
 134     int i;
 135
 136     if (r == NULL)
 137         return;
 138
 139     CRYPTO_DOWN_REF(&r->references, &i, r->lock);
 140     REF_PRINT_COUNT("RSA", r);
 141     if (i > 0)
 142         return;
 143     REF_ASSERT_ISNT(i < 0);
 144
 145     if (r->meth != NULL && r->meth->finish != NULL)
 146         r->meth->finish(r);
 147 #if !defined(OPENSSL_NO_ENGINE) && !defined(FIPS_MODULE)
 148     ENGINE_finish(r->engine);
 149 #endif
 150
 151 #ifndef FIPS_MODULE
 152     CRYPTO_free_ex_data(CRYPTO_EX_INDEX_RSA, r, &r->ex_data);
 153 #endif
 154
 155     CRYPTO_THREAD_lock_free(r->lock);
 156
 157     BN_free(r->n);
 158     BN_free(r->e);
 159     BN_clear_free(r->d);
 160     BN_clear_free(r->p);
 161     BN_clear_free(r->q);
 162     BN_clear_free(r->dmp1);
 163     BN_clear_free(r->dmq1);
 164     BN_clear_free(r->iqmp);
 165
 166 #if defined(FIPS_MODULE) && !defined(OPENSSL_NO_ACVP_TESTS)
 167     rsa_acvp_test_free(r->acvp_test);
 168 #endif
 169
 170 #ifndef FIPS_MODULE
 171     RSA_PSS_PARAMS_free(r->pss);
 172     sk_RSA_PRIME_INFO_pop_free(r->prime_infos, rsa_multip_info_free);
 173 #endif
 174     BN_BLINDING_free(r->blinding);
 175     BN_BLINDING_free(r->mt_blinding);
 176     OPENSSL_free(r->bignum_data);
 177     OPENSSL_free(r);
 178 }
 179
 180 int RSA_up_ref(RSA *r)
 181 {
 182     int i;
 183
 184     if (CRYPTO_UP_REF(&r->references, &i, r->lock) <= 0)
 185         return 0;
 186
 187     REF_PRINT_COUNT("RSA", r);
 188     REF_ASSERT_ISNT(i < 2);
 189     return i > 1 ? 1 : 0;
 190 }
 191
 192 OPENSSL_CTX *rsa_get0_libctx(RSA *r)
 193 {
 194     return r->libctx;
 195 }
 196
 197 #ifndef FIPS_MODULE
 198 int RSA_set_ex_data(RSA *r, int idx, void *arg)
 199 {
 200     return CRYPTO_set_ex_data(&r->ex_data, idx, arg);
 201 }
 202
 203 void *RSA_get_ex_data(const RSA *r, int idx)
 204 {
 205     return CRYPTO_get_ex_data(&r->ex_data, idx);
 206 }
 207 #endif
 208
 209 /*
 210  * Define a scaling constant for our fixed point arithmetic.
 211  * This value must be a power of two because the base two logarithm code
 212  * makes this assumption.  The exponent must also be a multiple of three so
 213  * that the scale factor has an exact cube root.  Finally, the scale factor
 214  * should not be so large that a multiplication of two scaled numbers
 215  * overflows a 64 bit unsigned integer.
 216  */
 217 static const unsigned int scale = 1 << 18;
 218 static const unsigned int cbrt_scale = 1 << (2 * 18 / 3);
 219
 220 /* Define some constants, none exceed 32 bits */
 221 static const unsigned int log_2  = 0x02c5c8;    /* scale * log(2) */
 222 static const unsigned int log_e  = 0x05c551;    /* scale * log2(M_E) */
 223 static const unsigned int c1_923 = 0x07b126;    /* scale * 1.923 */
 224 static const unsigned int c4_690 = 0x12c28f;    /* scale * 4.690 */
 225
 226 /*
 227  * Multiply two scaled integers together and rescale the result.
 228  */
 229 static ossl_inline uint64_t mul2(uint64_t a, uint64_t b)
 230 {
 231     return a * b / scale;
 232 }
 233
 234 /*
 235  * Calculate the cube root of a 64 bit scaled integer.
 236  * Although the cube root of a 64 bit number does fit into a 32 bit unsigned
 237  * integer, this is not guaranteed after scaling, so this function has a
 238  * 64 bit return.  This uses the shifting nth root algorithm with some
 239  * algebraic simplifications.
 240  */
 241 static uint64_t icbrt64(uint64_t x)
 242 {
 243     uint64_t r = 0;
 244     uint64_t b;
 245     int s;
 246
 247     for (s = 63; s >= 0; s -= 3) {
 248         r <<= 1;
 249         b = 3 * r * (r + 1) + 1;
 250         if ((x >> s) >= b) {
 251             x -= b << s;
 252             r++;
 253         }
 254     }
 255     return r * cbrt_scale;
 256 }
 257
 258 /*
 259  * Calculate the natural logarithm of a 64 bit scaled integer.
 260  * This is done by calculating a base two logarithm and scaling.
 261  * The maximum logarithm (base 2) is 64 and this reduces base e, so
 262  * a 32 bit result should not overflow.  The argument passed must be
 263  * greater than unity so we don't need to handle negative results.
 264  */
 265 static uint32_t ilog_e(uint64_t v)
 266 {
 267     uint32_t i, r = 0;
 268
 269     /*
 270      * Scale down the value into the range 1 .. 2.
 271      *
 272      * If fractional numbers need to be processed, another loop needs
 273      * to go here that checks v < scale and if so multiplies it by 2 and
 274      * reduces r by scale.  This also means making r signed.
 275      */
 276     while (v >= 2 * scale) {
 277         v >>= 1;
 278         r += scale;
 279     }
 280     for (i = scale / 2; i != 0; i /= 2) {
 281         v = mul2(v, v);
 282         if (v >= 2 * scale) {
 283             v >>= 1;
 284             r += i;
 285         }
 286     }
 287     r = (r * (uint64_t)scale) / log_e;
 288     return r;
 289 }
 290
 291 /*
 292  * NIST SP 800-56B rev 2 Appendix D: Maximum Security Strength Estimates for IFC
 293  * Modulus Lengths.
 294  *
 295  * Note that this formula is also referred to in SP800-56A rev3 Appendix D:
 296  * for FFC safe prime groups for modp and ffdhe.
 297  * After Table 25 and Table 26 it refers to
 298  * "The maximum security strength estimates were calculated using the formula in
 299  * Section 7.5 of the FIPS 140 IG and rounded to the nearest multiple of eight
 300  * bits".
 301  *
 302  * The formula is:
 303  *
 304  * E = \frac{1.923 \sqrt[3]{nBits \cdot log_e(2)}
 305  *           \cdot(log_e(nBits \cdot log_e(2))^{2/3} - 4.69}{log_e(2)}
 306  * The two cube roots are merged together here.
 307  */
 308 uint16_t ifc_ffc_compute_security_bits(int n)
 309 {
 310     uint64_t x;
 311     uint32_t lx;
 312     uint16_t y;
 313
 314     /* Look for common values as listed in SP 800-56B rev 2 Appendix D */
 315     switch (n) {
 316     case 2048:
 317         return 112;
 318     case 3072:
 319         return 128;
 320     case 4096:
 321         return 152;
 322     case 6144:
 323         return 176;
 324     case 8192:
 325         return 200;
 326     }
 327     /*
 328      * The first incorrect result (i.e. not accurate or off by one low) occurs
 329      * for n = 699668.  The true value here is 1200.  Instead of using this n
 330      * as the check threshold, the smallest n such that the correct result is
 331      * 1200 is used instead.
 332      */
 333     if (n >= 687737)
 334         return 1200;
 335     if (n < 8)
 336         return 0;
 337
 338     x = n * (uint64_t)log_2;
 339     lx = ilog_e(x);
 340     y = (uint16_t)((mul2(c1_923, icbrt64(mul2(mul2(x, lx), lx))) - c4_690)
 341                    / log_2);
 342     return (y + 4) & ~7;
 343 }
 344
 345
 346
 347 int RSA_security_bits(const RSA *rsa)
 348 {
 349     int bits = BN_num_bits(rsa->n);
 350
 351 #ifndef FIPS_MODULE
 352     if (rsa->version == RSA_ASN1_VERSION_MULTI) {
 353         /* This ought to mean that we have private key at hand. */
 354         int ex_primes = sk_RSA_PRIME_INFO_num(rsa->prime_infos);
 355
 356         if (ex_primes <= 0 || (ex_primes + 2) > rsa_multip_cap(bits))
 357             return 0;
 358     }
 359 #endif
 360     return ifc_ffc_compute_security_bits(bits);
 361 }
 362
 363 int RSA_set0_key(RSA *r, BIGNUM *n, BIGNUM *e, BIGNUM *d)
 364 {
 365     /* If the fields n and e in r are NULL, the corresponding input
 366      * parameters MUST be non-NULL for n and e.  d may be
 367      * left NULL (in case only the public key is used).
 368      */
 369     if ((r->n == NULL && n == NULL)
 370         || (r->e == NULL && e == NULL))
 371         return 0;
 372
 373     if (n != NULL) {
 374         BN_free(r->n);
 375         r->n = n;
 376     }
 377     if (e != NULL) {
 378         BN_free(r->e);
 379         r->e = e;
 380     }
 381     if (d != NULL) {
 382         BN_clear_free(r->d);
 383         r->d = d;
 384         BN_set_flags(r->d, BN_FLG_CONSTTIME);
 385     }
 386     r->dirty_cnt++;
 387
 388     return 1;
 389 }
 390
 391 int RSA_set0_factors(RSA *r, BIGNUM *p, BIGNUM *q)
 392 {
 393     /* If the fields p and q in r are NULL, the corresponding input
 394      * parameters MUST be non-NULL.
 395      */
 396     if ((r->p == NULL && p == NULL)
 397         || (r->q == NULL && q == NULL))
 398         return 0;
 399
 400     if (p != NULL) {
 401         BN_clear_free(r->p);
 402         r->p = p;
 403         BN_set_flags(r->p, BN_FLG_CONSTTIME);
 404     }
 405     if (q != NULL) {
 406         BN_clear_free(r->q);
 407         r->q = q;
 408         BN_set_flags(r->q, BN_FLG_CONSTTIME);
 409     }
 410     r->dirty_cnt++;
 411
 412     return 1;
 413 }
 414
 415 int RSA_set0_crt_params(RSA *r, BIGNUM *dmp1, BIGNUM *dmq1, BIGNUM *iqmp)
 416 {
 417     /* If the fields dmp1, dmq1 and iqmp in r are NULL, the corresponding input
 418      * parameters MUST be non-NULL.
 419      */
 420     if ((r->dmp1 == NULL && dmp1 == NULL)
 421         || (r->dmq1 == NULL && dmq1 == NULL)
 422         || (r->iqmp == NULL && iqmp == NULL))
 423         return 0;
 424
 425     if (dmp1 != NULL) {
 426         BN_clear_free(r->dmp1);
 427         r->dmp1 = dmp1;
 428         BN_set_flags(r->dmp1, BN_FLG_CONSTTIME);
 429     }
 430     if (dmq1 != NULL) {
 431         BN_clear_free(r->dmq1);
 432         r->dmq1 = dmq1;
 433         BN_set_flags(r->dmq1, BN_FLG_CONSTTIME);
 434     }
 435     if (iqmp != NULL) {
 436         BN_clear_free(r->iqmp);
 437         r->iqmp = iqmp;
 438         BN_set_flags(r->iqmp, BN_FLG_CONSTTIME);
 439     }
 440     r->dirty_cnt++;
 441
 442     return 1;
 443 }
 444
 445 #ifndef FIPS_MODULE
 446 /*
 447  * Is it better to export RSA_PRIME_INFO structure
 448  * and related functions to let user pass a triplet?
 449  */
 450 int RSA_set0_multi_prime_params(RSA *r, BIGNUM *primes[], BIGNUM *exps[],
 451                                 BIGNUM *coeffs[], int pnum)
 452 {
 453     STACK_OF(RSA_PRIME_INFO) *prime_infos, *old = NULL;
 454     RSA_PRIME_INFO *pinfo;
 455     int i;
 456
 457     if (primes == NULL || exps == NULL || coeffs == NULL || pnum == 0)
 458         return 0;
 459
 460     prime_infos = sk_RSA_PRIME_INFO_new_reserve(NULL, pnum);
 461     if (prime_infos == NULL)
 462         return 0;
 463
 464     if (r->prime_infos != NULL)
 465         old = r->prime_infos;
 466
 467     for (i = 0; i < pnum; i++) {
 468         pinfo = rsa_multip_info_new();
 469         if (pinfo == NULL)
 470             goto err;
 471         if (primes[i] != NULL && exps[i] != NULL && coeffs[i] != NULL) {
 472             BN_clear_free(pinfo->r);
 473             BN_clear_free(pinfo->d);
 474             BN_clear_free(pinfo->t);
 475             pinfo->r = primes[i];
 476             pinfo->d = exps[i];
 477             pinfo->t = coeffs[i];
 478             BN_set_flags(pinfo->r, BN_FLG_CONSTTIME);
 479             BN_set_flags(pinfo->d, BN_FLG_CONSTTIME);
 480             BN_set_flags(pinfo->t, BN_FLG_CONSTTIME);
 481         } else {
 482             rsa_multip_info_free(pinfo);
 483             goto err;
 484         }
 485         (void)sk_RSA_PRIME_INFO_push(prime_infos, pinfo);
 486     }
 487
 488     r->prime_infos = prime_infos;
 489
 490     if (!rsa_multip_calc_product(r)) {
 491         r->prime_infos = old;
 492         goto err;
 493     }
 494
 495     if (old != NULL) {
 496         /*
 497          * This is hard to deal with, since the old infos could
 498          * also be set by this function and r, d, t should not
 499          * be freed in that case. So currently, stay consistent
 500          * with other *set0* functions: just free it...
 501          */
 502         sk_RSA_PRIME_INFO_pop_free(old, rsa_multip_info_free);
 503     }
 504
 505     r->version = RSA_ASN1_VERSION_MULTI;
 506     r->dirty_cnt++;
 507
 508     return 1;
 509  err:
 510     /* r, d, t should not be freed */
 511     sk_RSA_PRIME_INFO_pop_free(prime_infos, rsa_multip_info_free_ex);
 512     return 0;
 513 }
 514 #endif
 515
 516 void RSA_get0_key(const RSA *r,
 517                   const BIGNUM **n, const BIGNUM **e, const BIGNUM **d)
 518 {
 519     if (n != NULL)
 520         *n = r->n;
 521     if (e != NULL)
 522         *e = r->e;
 523     if (d != NULL)
 524         *d = r->d;
 525 }
 526
 527 void RSA_get0_factors(const RSA *r, const BIGNUM **p, const BIGNUM **q)
 528 {
 529     if (p != NULL)
 530         *p = r->p;
 531     if (q != NULL)
 532         *q = r->q;
 533 }
 534
 535 #ifndef FIPS_MODULE
 536 int RSA_get_multi_prime_extra_count(const RSA *r)
 537 {
 538     int pnum;
 539
 540     pnum = sk_RSA_PRIME_INFO_num(r->prime_infos);
 541     if (pnum <= 0)
 542         pnum = 0;
 543     return pnum;
 544 }
 545
 546 int RSA_get0_multi_prime_factors(const RSA *r, const BIGNUM *primes[])
 547 {
 548     int pnum, i;
 549     RSA_PRIME_INFO *pinfo;
 550
 551     if ((pnum = RSA_get_multi_prime_extra_count(r)) == 0)
 552         return 0;
 553
 554     /*
 555      * return other primes
 556      * it's caller's responsibility to allocate oth_primes[pnum]
 557      */
 558     for (i = 0; i < pnum; i++) {
 559         pinfo = sk_RSA_PRIME_INFO_value(r->prime_infos, i);
 560         primes[i] = pinfo->r;
 561     }
 562
 563     return 1;
 564 }
 565 #endif
 566
 567 void RSA_get0_crt_params(const RSA *r,
 568                          const BIGNUM **dmp1, const BIGNUM **dmq1,
 569                          const BIGNUM **iqmp)
 570 {
 571     if (dmp1 != NULL)
 572         *dmp1 = r->dmp1;
 573     if (dmq1 != NULL)
 574         *dmq1 = r->dmq1;
 575     if (iqmp != NULL)
 576         *iqmp = r->iqmp;
 577 }
 578
 579 #ifndef FIPS_MODULE
 580 int RSA_get0_multi_prime_crt_params(const RSA *r, const BIGNUM *exps[],
 581                                     const BIGNUM *coeffs[])
 582 {
 583     int pnum;
 584
 585     if ((pnum = RSA_get_multi_prime_extra_count(r)) == 0)
 586         return 0;
 587
 588     /* return other primes */
 589     if (exps != NULL || coeffs != NULL) {
 590         RSA_PRIME_INFO *pinfo;
 591         int i;
 592
 593         /* it's the user's job to guarantee the buffer length */
 594         for (i = 0; i < pnum; i++) {
 595             pinfo = sk_RSA_PRIME_INFO_value(r->prime_infos, i);
 596             if (exps != NULL)
 597                 exps[i] = pinfo->d;
 598             if (coeffs != NULL)
 599                 coeffs[i] = pinfo->t;
 600         }
 601     }
 602
 603     return 1;
 604 }
 605 #endif
 606
 607 const BIGNUM *RSA_get0_n(const RSA *r)
 608 {
 609     return r->n;
 610 }
 611
 612 const BIGNUM *RSA_get0_e(const RSA *r)
 613 {
 614     return r->e;
 615 }
 616
 617 const BIGNUM *RSA_get0_d(const RSA *r)
 618 {
 619     return r->d;
 620 }
 621
 622 const BIGNUM *RSA_get0_p(const RSA *r)
 623 {
 624     return r->p;
 625 }
 626
 627 const BIGNUM *RSA_get0_q(const RSA *r)
 628 {
 629     return r->q;
 630 }
 631
 632 const BIGNUM *RSA_get0_dmp1(const RSA *r)
 633 {
 634     return r->dmp1;
 635 }
 636
 637 const BIGNUM *RSA_get0_dmq1(const RSA *r)
 638 {
 639     return r->dmq1;
 640 }
 641
 642 const BIGNUM *RSA_get0_iqmp(const RSA *r)
 643 {
 644     return r->iqmp;
 645 }
 646
 647 const RSA_PSS_PARAMS *RSA_get0_pss_params(const RSA *r)
 648 {
 649 #ifdef FIPS_MODULE
 650     return NULL;
 651 #else
 652     return r->pss;
 653 #endif
 654 }
 655
 656 /* Internal */
 657 RSA_PSS_PARAMS_30 *rsa_get0_pss_params_30(RSA *r)
 658 {
 659     return &r->pss_params;
 660 }
 661
 662 void RSA_clear_flags(RSA *r, int flags)
 663 {
 664     r->flags &= ~flags;
 665 }
 666
 667 int RSA_test_flags(const RSA *r, int flags)
 668 {
 669     return r->flags & flags;
 670 }
 671
 672 void RSA_set_flags(RSA *r, int flags)
 673 {
 674     r->flags |= flags;
 675 }
 676
 677 int RSA_get_version(RSA *r)
 678 {
 679     /* { two-prime(0), multi(1) } */
 680     return r->version;
 681 }
 682
 683 #ifndef FIPS_MODULE
 684 ENGINE *RSA_get0_engine(const RSA *r)
 685 {
 686     return r->engine;
 687 }
 688
 689 int RSA_pkey_ctx_ctrl(EVP_PKEY_CTX *ctx, int optype, int cmd, int p1, void *p2)
 690 {
 691     /* If key type not RSA or RSA-PSS return error */
 692     if (ctx != NULL && ctx->pmeth != NULL
 693         && ctx->pmeth->pkey_id != EVP_PKEY_RSA
 694         && ctx->pmeth->pkey_id != EVP_PKEY_RSA_PSS)
 695         return -1;
 696      return EVP_PKEY_CTX_ctrl(ctx, -1, optype, cmd, p1, p2);
 697 }
 698 #endif
 699
 700 DEFINE_STACK_OF(BIGNUM)
 701
 702 int rsa_set0_all_params(RSA *r, const STACK_OF(BIGNUM) *primes,
 703                         const STACK_OF(BIGNUM) *exps,
 704                         const STACK_OF(BIGNUM) *coeffs)
 705 {
 706 #ifndef FIPS_MODULE
 707     STACK_OF(RSA_PRIME_INFO) *prime_infos, *old_infos = NULL;
 708 #endif
 709     int pnum;
 710
 711     if (primes == NULL || exps == NULL || coeffs == NULL)
 712         return 0;
 713
 714     pnum = sk_BIGNUM_num(primes);
 715     if (pnum < 2
 716         || pnum != sk_BIGNUM_num(exps)
 717         || pnum != sk_BIGNUM_num(coeffs) + 1)
 718         return 0;
 719
 720     if (!RSA_set0_factors(r, sk_BIGNUM_value(primes, 0),
 721                           sk_BIGNUM_value(primes, 1))
 722         || !RSA_set0_crt_params(r, sk_BIGNUM_value(exps, 0),
 723                                 sk_BIGNUM_value(exps, 1),
 724                                 sk_BIGNUM_value(coeffs, 0)))
 725         return 0;
 726
 727 #ifndef FIPS_MODULE
 728     old_infos = r->prime_infos;
 729 #endif
 730
 731     if (pnum > 2) {
 732 #ifndef FIPS_MODULE
 733         int i;
 734
 735         prime_infos = sk_RSA_PRIME_INFO_new_reserve(NULL, pnum);
 736         if (prime_infos == NULL)
 737             return 0;
 738
 739         for (i = 2; i < pnum; i++) {
 740             BIGNUM *prime = sk_BIGNUM_value(primes, i);
 741             BIGNUM *exp = sk_BIGNUM_value(exps, i);
 742             BIGNUM *coeff = sk_BIGNUM_value(coeffs, i - 1);
 743             RSA_PRIME_INFO *pinfo = NULL;
 744
 745             if (!ossl_assert(prime != NULL && exp != NULL && coeff != NULL))
 746                 goto err;
 747
 748             /* Using rsa_multip_info_new() is wasteful, so allocate directly */
 749             if ((pinfo = OPENSSL_zalloc(sizeof(*pinfo))) == NULL) {
 750                 ERR_raise(ERR_LIB_RSA, ERR_R_MALLOC_FAILURE);
 751                 goto err;
 752             }
 753
 754             pinfo->r = prime;
 755             pinfo->d = exp;
 756             pinfo->t = coeff;
 757             BN_set_flags(pinfo->r, BN_FLG_CONSTTIME);
 758             BN_set_flags(pinfo->d, BN_FLG_CONSTTIME);
 759             BN_set_flags(pinfo->t, BN_FLG_CONSTTIME);
 760             (void)sk_RSA_PRIME_INFO_push(prime_infos, pinfo);
 761         }
 762
 763         r->prime_infos = prime_infos;
 764
 765         if (!rsa_multip_calc_product(r)) {
 766             r->prime_infos = old_infos;
 767             goto err;
 768         }
 769 #else
 770         return 0;
 771 #endif
 772     }
 773
 774 #ifndef FIPS_MODULE
 775     if (old_infos != NULL) {
 776         /*
 777          * This is hard to deal with, since the old infos could
 778          * also be set by this function and r, d, t should not
 779          * be freed in that case. So currently, stay consistent
 780          * with other *set0* functions: just free it...
 781          */
 782         sk_RSA_PRIME_INFO_pop_free(old_infos, rsa_multip_info_free);
 783     }
 784 #endif
 785
 786     r->version = pnum > 2 ? RSA_ASN1_VERSION_MULTI : RSA_ASN1_VERSION_DEFAULT;
 787     r->dirty_cnt++;
 788
 789     return 1;
 790 #ifndef FIPS_MODULE
 791  err:
 792     /* r, d, t should not be freed */
 793     sk_RSA_PRIME_INFO_pop_free(prime_infos, rsa_multip_info_free_ex);
 794     return 0;
 795 #endif
 796 }
 797
 798 DEFINE_SPECIAL_STACK_OF_CONST(BIGNUM_const, BIGNUM)
 799
 800 int rsa_get0_all_params(RSA *r, STACK_OF(BIGNUM_const) *primes,
 801                         STACK_OF(BIGNUM_const) *exps,
 802                         STACK_OF(BIGNUM_const) *coeffs)
 803 {
 804 #ifndef FIPS_MODULE
 805     RSA_PRIME_INFO *pinfo;
 806     int i, pnum;
 807 #endif
 808
 809     if (r == NULL)
 810         return 0;
 811
 812     /* If |p| is NULL, there are no CRT parameters */
 813     if (RSA_get0_p(r) == NULL)
 814         return 1;
 815
 816     sk_BIGNUM_const_push(primes, RSA_get0_p(r));
 817     sk_BIGNUM_const_push(primes, RSA_get0_q(r));
 818     sk_BIGNUM_const_push(exps, RSA_get0_dmp1(r));
 819     sk_BIGNUM_const_push(exps, RSA_get0_dmq1(r));
 820     sk_BIGNUM_const_push(coeffs, RSA_get0_iqmp(r));
 821
 822 #ifndef FIPS_MODULE
 823     pnum = RSA_get_multi_prime_extra_count(r);
 824     for (i = 0; i < pnum; i++) {
 825         pinfo = sk_RSA_PRIME_INFO_value(r->prime_infos, i);
 826         sk_BIGNUM_const_push(primes, pinfo->r);
 827         sk_BIGNUM_const_push(exps, pinfo->d);
 828         sk_BIGNUM_const_push(coeffs, pinfo->t);
 829     }
 830 #endif
 831
 832     return 1;
 833 }
 834
 835 #ifndef FIPS_MODULE
 836 int EVP_PKEY_CTX_set_rsa_padding(EVP_PKEY_CTX *ctx, int pad_mode)
 837 {
 838     OSSL_PARAM pad_params[2], *p = pad_params;
 839
 840     if (ctx == NULL) {
 841         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
 842         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
 843         return -2;
 844     }
 845
 846     /* If key type not RSA or RSA-PSS return error */
 847     if (ctx->pmeth != NULL
 848             && ctx->pmeth->pkey_id != EVP_PKEY_RSA
 849             && ctx->pmeth->pkey_id != EVP_PKEY_RSA_PSS)
 850         return -1;
 851
 852     /* TODO(3.0): Remove this eventually when no more legacy */
 853     if ((!EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)
 854          || ctx->op.ciph.ciphprovctx == NULL)
 855         && (!EVP_PKEY_CTX_IS_SIGNATURE_OP(ctx)
 856             || ctx->op.sig.sigprovctx == NULL))
 857         return EVP_PKEY_CTX_ctrl(ctx, -1, -1, EVP_PKEY_CTRL_RSA_PADDING,
 858                                  pad_mode, NULL);
 859
 860     *p++ = OSSL_PARAM_construct_int(OSSL_PKEY_PARAM_PAD_MODE, &pad_mode);
 861     *p++ = OSSL_PARAM_construct_end();
 862
 863     return EVP_PKEY_CTX_set_params(ctx, pad_params);
 864 }
 865
 866 int EVP_PKEY_CTX_get_rsa_padding(EVP_PKEY_CTX *ctx, int *pad_mode)
 867 {
 868     OSSL_PARAM pad_params[2], *p = pad_params;
 869
 870     if (ctx == NULL || pad_mode == NULL) {
 871         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
 872         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
 873         return -2;
 874     }
 875
 876     /* If key type not RSA or RSA-PSS return error */
 877     if (ctx->pmeth != NULL
 878             && ctx->pmeth->pkey_id != EVP_PKEY_RSA
 879             && ctx->pmeth->pkey_id != EVP_PKEY_RSA_PSS)
 880         return -1;
 881
 882     /* TODO(3.0): Remove this eventually when no more legacy */
 883     if ((!EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)
 884          || ctx->op.ciph.ciphprovctx == NULL)
 885         && (!EVP_PKEY_CTX_IS_SIGNATURE_OP(ctx)
 886             || ctx->op.sig.sigprovctx == NULL))
 887         return EVP_PKEY_CTX_ctrl(ctx, -1, -1, EVP_PKEY_CTRL_GET_RSA_PADDING, 0,
 888                                  pad_mode);
 889
 890     *p++ = OSSL_PARAM_construct_int(OSSL_PKEY_PARAM_PAD_MODE, pad_mode);
 891     *p++ = OSSL_PARAM_construct_end();
 892
 893     if (!EVP_PKEY_CTX_get_params(ctx, pad_params))
 894         return 0;
 895
 896     return 1;
 897
 898 }
 899
 900 int EVP_PKEY_CTX_set_rsa_oaep_md(EVP_PKEY_CTX *ctx, const EVP_MD *md)
 901 {
 902     const char *name;
 903
 904     if (ctx == NULL || !EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)) {
 905         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
 906         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
 907         return -2;
 908     }
 909
 910     /* If key type not RSA return error */
 911     if (ctx->pmeth != NULL && ctx->pmeth->pkey_id != EVP_PKEY_RSA)
 912         return -1;
 913
 914     /* TODO(3.0): Remove this eventually when no more legacy */
 915     if (ctx->op.ciph.ciphprovctx == NULL)
 916         return EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, EVP_PKEY_OP_TYPE_CRYPT,
 917                                  EVP_PKEY_CTRL_RSA_OAEP_MD, 0, (void *)md);
 918
 919     name = (md == NULL) ? "" : EVP_MD_name(md);
 920
 921     return EVP_PKEY_CTX_set_rsa_oaep_md_name(ctx, name, NULL);
 922 }
 923
 924 int EVP_PKEY_CTX_set_rsa_oaep_md_name(EVP_PKEY_CTX *ctx, const char *mdname,
 925                                       const char *mdprops)
 926 {
 927     OSSL_PARAM rsa_params[3], *p = rsa_params;
 928
 929     if (ctx == NULL || !EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)) {
 930         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
 931         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
 932         return -2;
 933     }
 934
 935     /* If key type not RSA return error */
 936     if (ctx->pmeth != NULL && ctx->pmeth->pkey_id != EVP_PKEY_RSA)
 937         return -1;
 938
 939
 940     *p++ = OSSL_PARAM_construct_utf8_string(OSSL_ASYM_CIPHER_PARAM_OAEP_DIGEST,
 941                                             /*
 942                                              * Cast away the const. This is read
 943                                              * only so should be safe
 944                                              */
 945                                             (char *)mdname, 0);
 946     if (mdprops != NULL) {
 947         *p++ = OSSL_PARAM_construct_utf8_string(
 948                     OSSL_ASYM_CIPHER_PARAM_OAEP_DIGEST_PROPS,
 949                     /*
 950                      * Cast away the const. This is read
 951                      * only so should be safe
 952                      */
 953                     (char *)mdprops, 0);
 954     }
 955     *p++ = OSSL_PARAM_construct_end();
 956
 957     return EVP_PKEY_CTX_set_params(ctx, rsa_params);
 958 }
 959
 960 int EVP_PKEY_CTX_get_rsa_oaep_md_name(EVP_PKEY_CTX *ctx, char *name,
 961                                       size_t namelen)
 962 {
 963     OSSL_PARAM rsa_params[2], *p = rsa_params;
 964
 965     if (ctx == NULL || !EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)) {
 966         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
 967         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
 968         return -2;
 969     }
 970
 971     /* If key type not RSA return error */
 972     if (ctx->pmeth != NULL && ctx->pmeth->pkey_id != EVP_PKEY_RSA)
 973         return -1;
 974
 975     *p++ = OSSL_PARAM_construct_utf8_string(OSSL_ASYM_CIPHER_PARAM_OAEP_DIGEST,
 976                                             name, namelen);
 977     *p++ = OSSL_PARAM_construct_end();
 978
 979     if (!EVP_PKEY_CTX_get_params(ctx, rsa_params))
 980         return -1;
 981
 982     return 1;
 983 }
 984
 985 int EVP_PKEY_CTX_get_rsa_oaep_md(EVP_PKEY_CTX *ctx, const EVP_MD **md)
 986 {
 987     /* 80 should be big enough */
 988     char name[80] = "";
 989
 990     if (ctx == NULL || md == NULL || !EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)) {
 991         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
 992         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
 993         return -2;
 994     }
 995
 996     /* If key type not RSA return error */
 997     if (ctx->pmeth != NULL && ctx->pmeth->pkey_id != EVP_PKEY_RSA)
 998         return -1;
 999
1000     /* TODO(3.0): Remove this eventually when no more legacy */
1001     if (ctx->op.ciph.ciphprovctx == NULL)
1002         return EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, EVP_PKEY_OP_TYPE_CRYPT,
1003                                  EVP_PKEY_CTRL_GET_RSA_OAEP_MD, 0, (void *)md);
1004
1005     if (EVP_PKEY_CTX_get_rsa_oaep_md_name(ctx, name, sizeof(name)) <= 0)
1006         return -1;
1007
1008     /* May be NULL meaning "unknown" */
1009     *md = EVP_get_digestbyname(name);
1010
1011     return 1;
1012 }
1013
1014 static int int_set_rsa_mgf1_md(EVP_PKEY_CTX *ctx,
1015                                /* For EVP_PKEY_CTX_ctrl() */
1016                                int keytype, int optype, int cmd,
1017                                const EVP_MD *md,
1018                                /* For EVP_PKEY_CTX_set_params() */
1019                                const char *mdname, const char *mdprops)
1020 {
1021     OSSL_PARAM rsa_params[3], *p = rsa_params;
1022
1023     if (ctx == NULL || (ctx->operation & optype) == 0) {
1024         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1025         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1026         return -2;
1027     }
1028
1029     /* If key type not RSA return error */
1030     if (ctx->pmeth != NULL
1031         && (keytype == -1
1032             ? (ctx->pmeth->pkey_id != EVP_PKEY_RSA
1033                && ctx->pmeth->pkey_id != EVP_PKEY_RSA_PSS)
1034             : ctx->pmeth->pkey_id != keytype))
1035         return -1;
1036
1037     /* TODO(3.0): Remove this eventually when no more legacy */
1038     if (cmd != -1) {
1039         if ((EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)
1040              && ctx->op.ciph.ciphprovctx == NULL)
1041             || (EVP_PKEY_CTX_IS_SIGNATURE_OP(ctx)
1042                 && ctx->op.sig.sigprovctx == NULL)
1043             || (EVP_PKEY_CTX_IS_GEN_OP(ctx)
1044                 && ctx->op.keymgmt.genctx == NULL))
1045             return EVP_PKEY_CTX_ctrl(ctx, keytype, optype, cmd, 0, (void *)md);
1046
1047         mdname = (md == NULL) ? "" : EVP_MD_name(md);
1048     }
1049
1050
1051     *p++ = OSSL_PARAM_construct_utf8_string(OSSL_PKEY_PARAM_MGF1_DIGEST,
1052                                             /*
1053                                              * Cast away the const. This is
1054                                              * read only so should be safe
1055                                              */
1056                                             (char *)mdname, 0);
1057     if (mdprops != NULL) {
1058         *p++ =
1059             OSSL_PARAM_construct_utf8_string(OSSL_PKEY_PARAM_MGF1_PROPERTIES,
1060                                              /*
1061                                               * Cast away the const. This is
1062                                               * read only so should be safe
1063                                               */
1064                                              (char *)mdprops, 0);
1065     }
1066     *p++ = OSSL_PARAM_construct_end();
1067
1068     return EVP_PKEY_CTX_set_params(ctx, rsa_params);
1069 }
1070
1071 int EVP_PKEY_CTX_set_rsa_mgf1_md(EVP_PKEY_CTX *ctx, const EVP_MD *md)
1072 {
1073     return int_set_rsa_mgf1_md(ctx, -1,
1074                                EVP_PKEY_OP_TYPE_CRYPT | EVP_PKEY_OP_TYPE_SIG,
1075                                EVP_PKEY_CTRL_RSA_MGF1_MD, md, NULL, NULL);
1076 }
1077
1078 int EVP_PKEY_CTX_set_rsa_mgf1_md_name(EVP_PKEY_CTX *ctx, const char *mdname,
1079                                       const char *mdprops)
1080 {
1081     return int_set_rsa_mgf1_md(ctx, -1,
1082                                EVP_PKEY_OP_TYPE_CRYPT | EVP_PKEY_OP_TYPE_SIG,
1083                                -1, NULL, mdname, mdprops);
1084 }
1085
1086 int EVP_PKEY_CTX_set_rsa_pss_keygen_mgf1_md(EVP_PKEY_CTX *ctx, const EVP_MD *md)
1087 {
1088     return int_set_rsa_mgf1_md(ctx, EVP_PKEY_RSA_PSS,
1089                                EVP_PKEY_OP_KEYGEN, EVP_PKEY_CTRL_RSA_MGF1_MD,
1090                                md, NULL, NULL);
1091 }
1092
1093 int EVP_PKEY_CTX_set_rsa_pss_keygen_mgf1_md_name(EVP_PKEY_CTX *ctx,
1094                                                  const char *mdname)
1095 {
1096     return int_set_rsa_mgf1_md(ctx, EVP_PKEY_RSA_PSS,
1097                                EVP_PKEY_OP_TYPE_CRYPT | EVP_PKEY_OP_TYPE_SIG,
1098                                -1, NULL, mdname, NULL);
1099 }
1100
1101 int EVP_PKEY_CTX_get_rsa_mgf1_md_name(EVP_PKEY_CTX *ctx, char *name,
1102                                       size_t namelen)
1103 {
1104     OSSL_PARAM rsa_params[2], *p = rsa_params;
1105
1106     if (ctx == NULL
1107             || (!EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)
1108                 && !EVP_PKEY_CTX_IS_SIGNATURE_OP(ctx))) {
1109         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1110         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1111         return -2;
1112     }
1113
1114     /* If key type not RSA or RSA-PSS return error */
1115     if (ctx->pmeth != NULL
1116             && ctx->pmeth->pkey_id != EVP_PKEY_RSA
1117             && ctx->pmeth->pkey_id != EVP_PKEY_RSA_PSS)
1118         return -1;
1119
1120     *p++ = OSSL_PARAM_construct_utf8_string(OSSL_PKEY_PARAM_MGF1_DIGEST,
1121                                             name, namelen);
1122     *p++ = OSSL_PARAM_construct_end();
1123
1124     if (!EVP_PKEY_CTX_get_params(ctx, rsa_params))
1125         return -1;
1126
1127     return 1;
1128 }
1129
1130 int EVP_PKEY_CTX_get_rsa_mgf1_md(EVP_PKEY_CTX *ctx, const EVP_MD **md)
1131 {
1132     /* 80 should be big enough */
1133     char name[80] = "";
1134
1135     if (ctx == NULL
1136             || (!EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)
1137                 && !EVP_PKEY_CTX_IS_SIGNATURE_OP(ctx))) {
1138         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1139         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1140         return -2;
1141     }
1142
1143     /* If key type not RSA or RSA-PSS return error */
1144     if (ctx->pmeth != NULL
1145             && ctx->pmeth->pkey_id != EVP_PKEY_RSA
1146             && ctx->pmeth->pkey_id != EVP_PKEY_RSA_PSS)
1147         return -1;
1148
1149     /* TODO(3.0): Remove this eventually when no more legacy */
1150     if ((EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)
1151                 && ctx->op.ciph.ciphprovctx == NULL)
1152             || (EVP_PKEY_CTX_IS_SIGNATURE_OP(ctx)
1153                 && ctx->op.sig.sigprovctx == NULL))
1154         return EVP_PKEY_CTX_ctrl(ctx, -1,
1155                                  EVP_PKEY_OP_TYPE_SIG | EVP_PKEY_OP_TYPE_CRYPT,
1156                                  EVP_PKEY_CTRL_GET_RSA_MGF1_MD, 0, (void *)md);
1157
1158     if (EVP_PKEY_CTX_get_rsa_mgf1_md_name(ctx, name, sizeof(name)) <= 0)
1159         return -1;
1160
1161     /* May be NULL meaning "unknown" */
1162     *md = EVP_get_digestbyname(name);
1163
1164     return 1;
1165 }
1166
1167 int EVP_PKEY_CTX_set0_rsa_oaep_label(EVP_PKEY_CTX *ctx, void *label, int llen)
1168 {
1169     OSSL_PARAM rsa_params[2], *p = rsa_params;
1170
1171     if (ctx == NULL || !EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)) {
1172         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1173         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1174         return -2;
1175     }
1176
1177     /* If key type not RSA return error */
1178     if (ctx->pmeth != NULL && ctx->pmeth->pkey_id != EVP_PKEY_RSA)
1179         return -1;
1180
1181     /* TODO(3.0): Remove this eventually when no more legacy */
1182     if (ctx->op.ciph.ciphprovctx == NULL)
1183         return EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, EVP_PKEY_OP_TYPE_CRYPT,
1184                                  EVP_PKEY_CTRL_RSA_OAEP_LABEL, llen,
1185                                  (void *)label);
1186
1187     *p++ = OSSL_PARAM_construct_octet_string(OSSL_ASYM_CIPHER_PARAM_OAEP_LABEL,
1188                                              /*
1189                                               * Cast away the const. This is
1190                                               * read only so should be safe
1191                                               */
1192                                              (void *)label,
1193                                              (size_t)llen);
1194     *p++ = OSSL_PARAM_construct_end();
1195
1196     if (!EVP_PKEY_CTX_set_params(ctx, rsa_params))
1197         return 0;
1198
1199     OPENSSL_free(label);
1200     return 1;
1201 }
1202
1203 int EVP_PKEY_CTX_get0_rsa_oaep_label(EVP_PKEY_CTX *ctx, unsigned char **label)
1204 {
1205     OSSL_PARAM rsa_params[3], *p = rsa_params;
1206     size_t labellen;
1207
1208     if (ctx == NULL || !EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)) {
1209         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1210         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1211         return -2;
1212     }
1213
1214     /* If key type not RSA return error */
1215     if (ctx->pmeth != NULL && ctx->pmeth->pkey_id != EVP_PKEY_RSA)
1216         return -1;
1217
1218     /* TODO(3.0): Remove this eventually when no more legacy */
1219     if (ctx->op.ciph.ciphprovctx == NULL)
1220         return EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, EVP_PKEY_OP_TYPE_CRYPT,
1221                                  EVP_PKEY_CTRL_GET_RSA_OAEP_LABEL, 0,
1222                                  (void *)label);
1223
1224     *p++ = OSSL_PARAM_construct_octet_ptr(OSSL_ASYM_CIPHER_PARAM_OAEP_LABEL,
1225                                           (void **)label, 0);
1226     *p++ = OSSL_PARAM_construct_size_t(OSSL_ASYM_CIPHER_PARAM_OAEP_LABEL_LEN,
1227                                        &labellen);
1228     *p++ = OSSL_PARAM_construct_end();
1229
1230     if (!EVP_PKEY_CTX_get_params(ctx, rsa_params))
1231         return -1;
1232
1233     if (labellen > INT_MAX)
1234         return -1;
1235
1236     return (int)labellen;
1237 }
1238
1239 static int int_set_rsa_pss_saltlen(EVP_PKEY_CTX *ctx, int saltlen,
1240                                    int keytype, int optype)
1241 {
1242     OSSL_PARAM pad_params[2], *p = pad_params;
1243
1244     if (ctx == NULL || (ctx->operation & optype) == 0) {
1245         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1246         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1247         return -2;
1248     }
1249
1250     /* If key type not RSA or RSA-PSS return error */
1251     if (ctx->pmeth != NULL
1252         && (keytype == -1
1253             ? (ctx->pmeth->pkey_id != EVP_PKEY_RSA
1254                && ctx->pmeth->pkey_id != EVP_PKEY_RSA_PSS)
1255             : ctx->pmeth->pkey_id != keytype))
1256         return -1;
1257
1258     /* TODO(3.0): Remove this eventually when no more legacy */
1259     if ((EVP_PKEY_CTX_IS_SIGNATURE_OP(ctx)
1260          && ctx->op.sig.sigprovctx == NULL)
1261         || (EVP_PKEY_CTX_IS_GEN_OP(ctx)
1262             && ctx->op.keymgmt.genctx == NULL))
1263         return EVP_PKEY_CTX_ctrl(ctx, keytype, optype,
1264                                  EVP_PKEY_CTRL_RSA_PSS_SALTLEN,
1265                                  saltlen, NULL);
1266
1267     *p++ =
1268         OSSL_PARAM_construct_int(OSSL_SIGNATURE_PARAM_PSS_SALTLEN, &saltlen);
1269     *p++ = OSSL_PARAM_construct_end();
1270
1271     return EVP_PKEY_CTX_set_params(ctx, pad_params);
1272 }
1273
1274 int EVP_PKEY_CTX_set_rsa_pss_saltlen(EVP_PKEY_CTX *ctx, int saltlen)
1275 {
1276     return int_set_rsa_pss_saltlen(ctx, saltlen, -1, EVP_PKEY_OP_TYPE_SIG);
1277 }
1278
1279 int EVP_PKEY_CTX_set_rsa_pss_keygen_saltlen(EVP_PKEY_CTX *ctx, int saltlen)
1280 {
1281     return int_set_rsa_pss_saltlen(ctx, saltlen, EVP_PKEY_RSA_PSS,
1282                                    EVP_PKEY_OP_KEYGEN);
1283 }
1284
1285 int EVP_PKEY_CTX_get_rsa_pss_saltlen(EVP_PKEY_CTX *ctx, int *saltlen)
1286 {
1287     OSSL_PARAM pad_params[2], *p = pad_params;
1288
1289     if (ctx == NULL || saltlen == NULL) {
1290         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1291         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1292         return -2;
1293     }
1294
1295     /* If key type not RSA or RSA-PSS return error */
1296     if (ctx->pmeth != NULL
1297             && ctx->pmeth->pkey_id != EVP_PKEY_RSA
1298             && ctx->pmeth->pkey_id != EVP_PKEY_RSA_PSS)
1299         return -1;
1300
1301     /* TODO(3.0): Remove this eventually when no more legacy */
1302     if (!EVP_PKEY_CTX_IS_SIGNATURE_OP(ctx)
1303         || ctx->op.sig.sigprovctx == NULL)
1304         return EVP_PKEY_CTX_ctrl(ctx, -1, -1,
1305                                  EVP_PKEY_CTRL_GET_RSA_PSS_SALTLEN,
1306                                  0, saltlen);
1307
1308     *p++ =
1309         OSSL_PARAM_construct_int(OSSL_SIGNATURE_PARAM_PSS_SALTLEN, saltlen);
1310     *p++ = OSSL_PARAM_construct_end();
1311
1312     if (!EVP_PKEY_CTX_get_params(ctx, pad_params))
1313         return 0;
1314
1315     return 1;
1316
1317 }
1318
1319 int EVP_PKEY_CTX_set_rsa_keygen_bits(EVP_PKEY_CTX *ctx, int bits)
1320 {
1321     OSSL_PARAM params[2], *p = params;
1322     size_t bits2 = bits;
1323
1324     if (ctx == NULL || !EVP_PKEY_CTX_IS_GEN_OP(ctx)) {
1325         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1326         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1327         return -2;
1328     }
1329
1330     /* If key type not RSA return error */
1331     if (ctx->pmeth != NULL && ctx->pmeth->pkey_id != EVP_PKEY_RSA)
1332         return -1;
1333
1334     /* TODO(3.0): Remove this eventually when no more legacy */
1335     if (ctx->op.keymgmt.genctx == NULL)
1336         return EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, EVP_PKEY_OP_KEYGEN,
1337                                  EVP_PKEY_CTRL_RSA_KEYGEN_BITS, bits, NULL);
1338
1339     *p++ = OSSL_PARAM_construct_size_t(OSSL_PKEY_PARAM_RSA_BITS, &bits2);
1340     *p++ = OSSL_PARAM_construct_end();
1341
1342     if (!EVP_PKEY_CTX_set_params(ctx, params))
1343         return 0;
1344
1345     return 1;
1346 }
1347
1348 int EVP_PKEY_CTX_set_rsa_keygen_pubexp(EVP_PKEY_CTX *ctx, BIGNUM *pubexp)
1349 {
1350     OSSL_PARAM_BLD *tmpl;
1351     OSSL_PARAM *params;
1352     int ret;
1353
1354     if (ctx == NULL || !EVP_PKEY_CTX_IS_GEN_OP(ctx)) {
1355         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1356         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1357         return -2;
1358     }
1359
1360     /* If key type not RSA return error */
1361     if (ctx->pmeth != NULL && ctx->pmeth->pkey_id != EVP_PKEY_RSA)
1362         return -1;
1363
1364     /* TODO(3.0): Remove this eventually when no more legacy */
1365     if (ctx->op.keymgmt.genctx == NULL)
1366         return EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, EVP_PKEY_OP_KEYGEN,
1367                                  EVP_PKEY_CTRL_RSA_KEYGEN_PUBEXP, 0, pubexp);
1368
1369     if ((tmpl = OSSL_PARAM_BLD_new()) == NULL)
1370         return 0;
1371     if (!OSSL_PARAM_BLD_push_BN(tmpl, OSSL_PKEY_PARAM_RSA_E, pubexp)
1372         || (params = OSSL_PARAM_BLD_to_param(tmpl)) == NULL) {
1373         OSSL_PARAM_BLD_free(tmpl);
1374         return 0;
1375     }
1376     OSSL_PARAM_BLD_free(tmpl);
1377
1378     ret = EVP_PKEY_CTX_set_params(ctx, params);
1379     OSSL_PARAM_BLD_free_params(params);
1380     return ret;
1381 }
1382
1383 int EVP_PKEY_CTX_set_rsa_keygen_primes(EVP_PKEY_CTX *ctx, int primes)
1384 {
1385     OSSL_PARAM params[2], *p = params;
1386     size_t primes2 = primes;
1387
1388     if (ctx == NULL || !EVP_PKEY_CTX_IS_GEN_OP(ctx)) {
1389         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1390         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1391         return -2;
1392     }
1393
1394     /* If key type not RSA return error */
1395     if (ctx->pmeth != NULL && ctx->pmeth->pkey_id != EVP_PKEY_RSA)
1396         return -1;
1397
1398     /* TODO(3.0): Remove this eventually when no more legacy */
1399     if (ctx->op.keymgmt.genctx == NULL)
1400         return EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, EVP_PKEY_OP_KEYGEN,
1401                                  EVP_PKEY_CTRL_RSA_KEYGEN_PRIMES, primes,
1402                                  NULL);
1403
1404     *p++ = OSSL_PARAM_construct_size_t(OSSL_PKEY_PARAM_RSA_PRIMES, &primes2);
1405     *p++ = OSSL_PARAM_construct_end();
1406
1407     if (!EVP_PKEY_CTX_set_params(ctx, params))
1408         return 0;
1409
1410     return 1;
1411 }
1412 #endif