crypto/rsa/rsa_lib.c

   1 /*
   2  * Copyright 1995-2020 The OpenSSL Project Authors. All Rights Reserved.
   3  *
   4  * Licensed under the Apache License 2.0 (the "License").  You may not use
   5  * this file except in compliance with the License.  You can obtain a copy
   6  * in the file LICENSE in the source distribution or at
   7  * https://www.openssl.org/source/license.html
   8  */
   9
  10 /*
  11  * RSA low level APIs are deprecated for public use, but still ok for
  12  * internal use.
  13  */
  14 #include "internal/deprecated.h"
  15
  16 #include <stdio.h>
  17 #include <openssl/crypto.h>
  18 #include <openssl/core_names.h>
  19 #include <openssl/engine.h>
  20 #include <openssl/evp.h>
  21 #include "internal/cryptlib.h"
  22 #include "internal/refcount.h"
  23 #include "openssl/param_build.h"
  24 #include "crypto/bn.h"
  25 #include "crypto/evp.h"
  26 #include "crypto/rsa.h"
  27 #include "crypto/security_bits.h"
  28 #include "rsa_local.h"
  29
  30 static RSA *rsa_new_intern(ENGINE *engine, OPENSSL_CTX *libctx);
  31
  32 #ifndef FIPS_MODULE
  33 RSA *RSA_new(void)
  34 {
  35     return rsa_new_intern(NULL, NULL);
  36 }
  37
  38 const RSA_METHOD *RSA_get_method(const RSA *rsa)
  39 {
  40     return rsa->meth;
  41 }
  42
  43 int RSA_set_method(RSA *rsa, const RSA_METHOD *meth)
  44 {
  45     /*
  46      * NB: The caller is specifically setting a method, so it's not up to us
  47      * to deal with which ENGINE it comes from.
  48      */
  49     const RSA_METHOD *mtmp;
  50     mtmp = rsa->meth;
  51     if (mtmp->finish)
  52         mtmp->finish(rsa);
  53 #ifndef OPENSSL_NO_ENGINE
  54     ENGINE_finish(rsa->engine);
  55     rsa->engine = NULL;
  56 #endif
  57     rsa->meth = meth;
  58     if (meth->init)
  59         meth->init(rsa);
  60     return 1;
  61 }
  62
  63 RSA *RSA_new_method(ENGINE *engine)
  64 {
  65     return rsa_new_intern(engine, NULL);
  66 }
  67 #endif
  68
  69 RSA *rsa_new_with_ctx(OPENSSL_CTX *libctx)
  70 {
  71     return rsa_new_intern(NULL, libctx);
  72 }
  73
  74 static RSA *rsa_new_intern(ENGINE *engine, OPENSSL_CTX *libctx)
  75 {
  76     RSA *ret = OPENSSL_zalloc(sizeof(*ret));
  77
  78     if (ret == NULL) {
  79         RSAerr(0, ERR_R_MALLOC_FAILURE);
  80         return NULL;
  81     }
  82
  83     ret->references = 1;
  84     ret->lock = CRYPTO_THREAD_lock_new();
  85     if (ret->lock == NULL) {
  86         RSAerr(0, ERR_R_MALLOC_FAILURE);
  87         OPENSSL_free(ret);
  88         return NULL;
  89     }
  90
  91     ret->libctx = libctx;
  92     ret->meth = RSA_get_default_method();
  93 #if !defined(OPENSSL_NO_ENGINE) && !defined(FIPS_MODULE)
  94     ret->flags = ret->meth->flags & ~RSA_FLAG_NON_FIPS_ALLOW;
  95     if (engine) {
  96         if (!ENGINE_init(engine)) {
  97             RSAerr(0, ERR_R_ENGINE_LIB);
  98             goto err;
  99         }
 100         ret->engine = engine;
 101     } else {
 102         ret->engine = ENGINE_get_default_RSA();
 103     }
 104     if (ret->engine) {
 105         ret->meth = ENGINE_get_RSA(ret->engine);
 106         if (ret->meth == NULL) {
 107             RSAerr(0, ERR_R_ENGINE_LIB);
 108             goto err;
 109         }
 110     }
 111 #endif
 112
 113     ret->flags = ret->meth->flags & ~RSA_FLAG_NON_FIPS_ALLOW;
 114 #ifndef FIPS_MODULE
 115     if (!CRYPTO_new_ex_data(CRYPTO_EX_INDEX_RSA, ret, &ret->ex_data)) {
 116         goto err;
 117     }
 118 #endif
 119
 120     if ((ret->meth->init != NULL) && !ret->meth->init(ret)) {
 121         RSAerr(0, ERR_R_INIT_FAIL);
 122         goto err;
 123     }
 124
 125     return ret;
 126
 127  err:
 128     RSA_free(ret);
 129     return NULL;
 130 }
 131
 132 void RSA_free(RSA *r)
 133 {
 134     int i;
 135
 136     if (r == NULL)
 137         return;
 138
 139     CRYPTO_DOWN_REF(&r->references, &i, r->lock);
 140     REF_PRINT_COUNT("RSA", r);
 141     if (i > 0)
 142         return;
 143     REF_ASSERT_ISNT(i < 0);
 144
 145     if (r->meth != NULL && r->meth->finish != NULL)
 146         r->meth->finish(r);
 147 #if !defined(OPENSSL_NO_ENGINE) && !defined(FIPS_MODULE)
 148     ENGINE_finish(r->engine);
 149 #endif
 150
 151 #ifndef FIPS_MODULE
 152     CRYPTO_free_ex_data(CRYPTO_EX_INDEX_RSA, r, &r->ex_data);
 153 #endif
 154
 155     CRYPTO_THREAD_lock_free(r->lock);
 156
 157     BN_free(r->n);
 158     BN_free(r->e);
 159     BN_clear_free(r->d);
 160     BN_clear_free(r->p);
 161     BN_clear_free(r->q);
 162     BN_clear_free(r->dmp1);
 163     BN_clear_free(r->dmq1);
 164     BN_clear_free(r->iqmp);
 165 #ifndef FIPS_MODULE
 166     RSA_PSS_PARAMS_free(r->pss);
 167     sk_RSA_PRIME_INFO_pop_free(r->prime_infos, rsa_multip_info_free);
 168 #endif
 169     BN_BLINDING_free(r->blinding);
 170     BN_BLINDING_free(r->mt_blinding);
 171     OPENSSL_free(r->bignum_data);
 172     OPENSSL_free(r);
 173 }
 174
 175 int RSA_up_ref(RSA *r)
 176 {
 177     int i;
 178
 179     if (CRYPTO_UP_REF(&r->references, &i, r->lock) <= 0)
 180         return 0;
 181
 182     REF_PRINT_COUNT("RSA", r);
 183     REF_ASSERT_ISNT(i < 2);
 184     return i > 1 ? 1 : 0;
 185 }
 186
 187 OPENSSL_CTX *rsa_get0_libctx(RSA *r)
 188 {
 189     return r->libctx;
 190 }
 191
 192 #ifndef FIPS_MODULE
 193 int RSA_set_ex_data(RSA *r, int idx, void *arg)
 194 {
 195     return CRYPTO_set_ex_data(&r->ex_data, idx, arg);
 196 }
 197
 198 void *RSA_get_ex_data(const RSA *r, int idx)
 199 {
 200     return CRYPTO_get_ex_data(&r->ex_data, idx);
 201 }
 202 #endif
 203
 204 /*
 205  * Define a scaling constant for our fixed point arithmetic.
 206  * This value must be a power of two because the base two logarithm code
 207  * makes this assumption.  The exponent must also be a multiple of three so
 208  * that the scale factor has an exact cube root.  Finally, the scale factor
 209  * should not be so large that a multiplication of two scaled numbers
 210  * overflows a 64 bit unsigned integer.
 211  */
 212 static const unsigned int scale = 1 << 18;
 213 static const unsigned int cbrt_scale = 1 << (2 * 18 / 3);
 214
 215 /* Define some constants, none exceed 32 bits */
 216 static const unsigned int log_2  = 0x02c5c8;    /* scale * log(2) */
 217 static const unsigned int log_e  = 0x05c551;    /* scale * log2(M_E) */
 218 static const unsigned int c1_923 = 0x07b126;    /* scale * 1.923 */
 219 static const unsigned int c4_690 = 0x12c28f;    /* scale * 4.690 */
 220
 221 /*
 222  * Multiply two scaled integers together and rescale the result.
 223  */
 224 static ossl_inline uint64_t mul2(uint64_t a, uint64_t b)
 225 {
 226     return a * b / scale;
 227 }
 228
 229 /*
 230  * Calculate the cube root of a 64 bit scaled integer.
 231  * Although the cube root of a 64 bit number does fit into a 32 bit unsigned
 232  * integer, this is not guaranteed after scaling, so this function has a
 233  * 64 bit return.  This uses the shifting nth root algorithm with some
 234  * algebraic simplifications.
 235  */
 236 static uint64_t icbrt64(uint64_t x)
 237 {
 238     uint64_t r = 0;
 239     uint64_t b;
 240     int s;
 241
 242     for (s = 63; s >= 0; s -= 3) {
 243         r <<= 1;
 244         b = 3 * r * (r + 1) + 1;
 245         if ((x >> s) >= b) {
 246             x -= b << s;
 247             r++;
 248         }
 249     }
 250     return r * cbrt_scale;
 251 }
 252
 253 /*
 254  * Calculate the natural logarithm of a 64 bit scaled integer.
 255  * This is done by calculating a base two logarithm and scaling.
 256  * The maximum logarithm (base 2) is 64 and this reduces base e, so
 257  * a 32 bit result should not overflow.  The argument passed must be
 258  * greater than unity so we don't need to handle negative results.
 259  */
 260 static uint32_t ilog_e(uint64_t v)
 261 {
 262     uint32_t i, r = 0;
 263
 264     /*
 265      * Scale down the value into the range 1 .. 2.
 266      *
 267      * If fractional numbers need to be processed, another loop needs
 268      * to go here that checks v < scale and if so multiplies it by 2 and
 269      * reduces r by scale.  This also means making r signed.
 270      */
 271     while (v >= 2 * scale) {
 272         v >>= 1;
 273         r += scale;
 274     }
 275     for (i = scale / 2; i != 0; i /= 2) {
 276         v = mul2(v, v);
 277         if (v >= 2 * scale) {
 278             v >>= 1;
 279             r += i;
 280         }
 281     }
 282     r = (r * (uint64_t)scale) / log_e;
 283     return r;
 284 }
 285
 286 /*
 287  * NIST SP 800-56B rev 2 Appendix D: Maximum Security Strength Estimates for IFC
 288  * Modulus Lengths.
 289  *
 290  * Note that this formula is also referred to in SP800-56A rev3 Appendix D:
 291  * for FFC safe prime groups for modp and ffdhe.
 292  * After Table 25 and Table 26 it refers to
 293  * "The maximum security strength estimates were calculated using the formula in
 294  * Section 7.5 of the FIPS 140 IG and rounded to the nearest multiple of eight
 295  * bits".
 296  *
 297  * The formula is:
 298  *
 299  * E = \frac{1.923 \sqrt[3]{nBits \cdot log_e(2)}
 300  *           \cdot(log_e(nBits \cdot log_e(2))^{2/3} - 4.69}{log_e(2)}
 301  * The two cube roots are merged together here.
 302  */
 303 uint16_t ifc_ffc_compute_security_bits(int n)
 304 {
 305     uint64_t x;
 306     uint32_t lx;
 307     uint16_t y;
 308
 309     /* Look for common values as listed in SP 800-56B rev 2 Appendix D */
 310     switch (n) {
 311     case 2048:
 312         return 112;
 313     case 3072:
 314         return 128;
 315     case 4096:
 316         return 152;
 317     case 6144:
 318         return 176;
 319     case 8192:
 320         return 200;
 321     }
 322     /*
 323      * The first incorrect result (i.e. not accurate or off by one low) occurs
 324      * for n = 699668.  The true value here is 1200.  Instead of using this n
 325      * as the check threshold, the smallest n such that the correct result is
 326      * 1200 is used instead.
 327      */
 328     if (n >= 687737)
 329         return 1200;
 330     if (n < 8)
 331         return 0;
 332
 333     x = n * (uint64_t)log_2;
 334     lx = ilog_e(x);
 335     y = (uint16_t)((mul2(c1_923, icbrt64(mul2(mul2(x, lx), lx))) - c4_690)
 336                    / log_2);
 337     return (y + 4) & ~7;
 338 }
 339
 340
 341
 342 int RSA_security_bits(const RSA *rsa)
 343 {
 344     int bits = BN_num_bits(rsa->n);
 345
 346 #ifndef FIPS_MODULE
 347     if (rsa->version == RSA_ASN1_VERSION_MULTI) {
 348         /* This ought to mean that we have private key at hand. */
 349         int ex_primes = sk_RSA_PRIME_INFO_num(rsa->prime_infos);
 350
 351         if (ex_primes <= 0 || (ex_primes + 2) > rsa_multip_cap(bits))
 352             return 0;
 353     }
 354 #endif
 355     return ifc_ffc_compute_security_bits(bits);
 356 }
 357
 358 int RSA_set0_key(RSA *r, BIGNUM *n, BIGNUM *e, BIGNUM *d)
 359 {
 360     /* If the fields n and e in r are NULL, the corresponding input
 361      * parameters MUST be non-NULL for n and e.  d may be
 362      * left NULL (in case only the public key is used).
 363      */
 364     if ((r->n == NULL && n == NULL)
 365         || (r->e == NULL && e == NULL))
 366         return 0;
 367
 368     if (n != NULL) {
 369         BN_free(r->n);
 370         r->n = n;
 371     }
 372     if (e != NULL) {
 373         BN_free(r->e);
 374         r->e = e;
 375     }
 376     if (d != NULL) {
 377         BN_clear_free(r->d);
 378         r->d = d;
 379         BN_set_flags(r->d, BN_FLG_CONSTTIME);
 380     }
 381     r->dirty_cnt++;
 382
 383     return 1;
 384 }
 385
 386 int RSA_set0_factors(RSA *r, BIGNUM *p, BIGNUM *q)
 387 {
 388     /* If the fields p and q in r are NULL, the corresponding input
 389      * parameters MUST be non-NULL.
 390      */
 391     if ((r->p == NULL && p == NULL)
 392         || (r->q == NULL && q == NULL))
 393         return 0;
 394
 395     if (p != NULL) {
 396         BN_clear_free(r->p);
 397         r->p = p;
 398         BN_set_flags(r->p, BN_FLG_CONSTTIME);
 399     }
 400     if (q != NULL) {
 401         BN_clear_free(r->q);
 402         r->q = q;
 403         BN_set_flags(r->q, BN_FLG_CONSTTIME);
 404     }
 405     r->dirty_cnt++;
 406
 407     return 1;
 408 }
 409
 410 int RSA_set0_crt_params(RSA *r, BIGNUM *dmp1, BIGNUM *dmq1, BIGNUM *iqmp)
 411 {
 412     /* If the fields dmp1, dmq1 and iqmp in r are NULL, the corresponding input
 413      * parameters MUST be non-NULL.
 414      */
 415     if ((r->dmp1 == NULL && dmp1 == NULL)
 416         || (r->dmq1 == NULL && dmq1 == NULL)
 417         || (r->iqmp == NULL && iqmp == NULL))
 418         return 0;
 419
 420     if (dmp1 != NULL) {
 421         BN_clear_free(r->dmp1);
 422         r->dmp1 = dmp1;
 423         BN_set_flags(r->dmp1, BN_FLG_CONSTTIME);
 424     }
 425     if (dmq1 != NULL) {
 426         BN_clear_free(r->dmq1);
 427         r->dmq1 = dmq1;
 428         BN_set_flags(r->dmq1, BN_FLG_CONSTTIME);
 429     }
 430     if (iqmp != NULL) {
 431         BN_clear_free(r->iqmp);
 432         r->iqmp = iqmp;
 433         BN_set_flags(r->iqmp, BN_FLG_CONSTTIME);
 434     }
 435     r->dirty_cnt++;
 436
 437     return 1;
 438 }
 439
 440 #ifndef FIPS_MODULE
 441 /*
 442  * Is it better to export RSA_PRIME_INFO structure
 443  * and related functions to let user pass a triplet?
 444  */
 445 int RSA_set0_multi_prime_params(RSA *r, BIGNUM *primes[], BIGNUM *exps[],
 446                                 BIGNUM *coeffs[], int pnum)
 447 {
 448     STACK_OF(RSA_PRIME_INFO) *prime_infos, *old = NULL;
 449     RSA_PRIME_INFO *pinfo;
 450     int i;
 451
 452     if (primes == NULL || exps == NULL || coeffs == NULL || pnum == 0)
 453         return 0;
 454
 455     prime_infos = sk_RSA_PRIME_INFO_new_reserve(NULL, pnum);
 456     if (prime_infos == NULL)
 457         return 0;
 458
 459     if (r->prime_infos != NULL)
 460         old = r->prime_infos;
 461
 462     for (i = 0; i < pnum; i++) {
 463         pinfo = rsa_multip_info_new();
 464         if (pinfo == NULL)
 465             goto err;
 466         if (primes[i] != NULL && exps[i] != NULL && coeffs[i] != NULL) {
 467             BN_clear_free(pinfo->r);
 468             BN_clear_free(pinfo->d);
 469             BN_clear_free(pinfo->t);
 470             pinfo->r = primes[i];
 471             pinfo->d = exps[i];
 472             pinfo->t = coeffs[i];
 473             BN_set_flags(pinfo->r, BN_FLG_CONSTTIME);
 474             BN_set_flags(pinfo->d, BN_FLG_CONSTTIME);
 475             BN_set_flags(pinfo->t, BN_FLG_CONSTTIME);
 476         } else {
 477             rsa_multip_info_free(pinfo);
 478             goto err;
 479         }
 480         (void)sk_RSA_PRIME_INFO_push(prime_infos, pinfo);
 481     }
 482
 483     r->prime_infos = prime_infos;
 484
 485     if (!rsa_multip_calc_product(r)) {
 486         r->prime_infos = old;
 487         goto err;
 488     }
 489
 490     if (old != NULL) {
 491         /*
 492          * This is hard to deal with, since the old infos could
 493          * also be set by this function and r, d, t should not
 494          * be freed in that case. So currently, stay consistent
 495          * with other *set0* functions: just free it...
 496          */
 497         sk_RSA_PRIME_INFO_pop_free(old, rsa_multip_info_free);
 498     }
 499
 500     r->version = RSA_ASN1_VERSION_MULTI;
 501     r->dirty_cnt++;
 502
 503     return 1;
 504  err:
 505     /* r, d, t should not be freed */
 506     sk_RSA_PRIME_INFO_pop_free(prime_infos, rsa_multip_info_free_ex);
 507     return 0;
 508 }
 509 #endif
 510
 511 void RSA_get0_key(const RSA *r,
 512                   const BIGNUM **n, const BIGNUM **e, const BIGNUM **d)
 513 {
 514     if (n != NULL)
 515         *n = r->n;
 516     if (e != NULL)
 517         *e = r->e;
 518     if (d != NULL)
 519         *d = r->d;
 520 }
 521
 522 void RSA_get0_factors(const RSA *r, const BIGNUM **p, const BIGNUM **q)
 523 {
 524     if (p != NULL)
 525         *p = r->p;
 526     if (q != NULL)
 527         *q = r->q;
 528 }
 529
 530 #ifndef FIPS_MODULE
 531 int RSA_get_multi_prime_extra_count(const RSA *r)
 532 {
 533     int pnum;
 534
 535     pnum = sk_RSA_PRIME_INFO_num(r->prime_infos);
 536     if (pnum <= 0)
 537         pnum = 0;
 538     return pnum;
 539 }
 540
 541 int RSA_get0_multi_prime_factors(const RSA *r, const BIGNUM *primes[])
 542 {
 543     int pnum, i;
 544     RSA_PRIME_INFO *pinfo;
 545
 546     if ((pnum = RSA_get_multi_prime_extra_count(r)) == 0)
 547         return 0;
 548
 549     /*
 550      * return other primes
 551      * it's caller's responsibility to allocate oth_primes[pnum]
 552      */
 553     for (i = 0; i < pnum; i++) {
 554         pinfo = sk_RSA_PRIME_INFO_value(r->prime_infos, i);
 555         primes[i] = pinfo->r;
 556     }
 557
 558     return 1;
 559 }
 560 #endif
 561
 562 void RSA_get0_crt_params(const RSA *r,
 563                          const BIGNUM **dmp1, const BIGNUM **dmq1,
 564                          const BIGNUM **iqmp)
 565 {
 566     if (dmp1 != NULL)
 567         *dmp1 = r->dmp1;
 568     if (dmq1 != NULL)
 569         *dmq1 = r->dmq1;
 570     if (iqmp != NULL)
 571         *iqmp = r->iqmp;
 572 }
 573
 574 #ifndef FIPS_MODULE
 575 int RSA_get0_multi_prime_crt_params(const RSA *r, const BIGNUM *exps[],
 576                                     const BIGNUM *coeffs[])
 577 {
 578     int pnum;
 579
 580     if ((pnum = RSA_get_multi_prime_extra_count(r)) == 0)
 581         return 0;
 582
 583     /* return other primes */
 584     if (exps != NULL || coeffs != NULL) {
 585         RSA_PRIME_INFO *pinfo;
 586         int i;
 587
 588         /* it's the user's job to guarantee the buffer length */
 589         for (i = 0; i < pnum; i++) {
 590             pinfo = sk_RSA_PRIME_INFO_value(r->prime_infos, i);
 591             if (exps != NULL)
 592                 exps[i] = pinfo->d;
 593             if (coeffs != NULL)
 594                 coeffs[i] = pinfo->t;
 595         }
 596     }
 597
 598     return 1;
 599 }
 600 #endif
 601
 602 const BIGNUM *RSA_get0_n(const RSA *r)
 603 {
 604     return r->n;
 605 }
 606
 607 const BIGNUM *RSA_get0_e(const RSA *r)
 608 {
 609     return r->e;
 610 }
 611
 612 const BIGNUM *RSA_get0_d(const RSA *r)
 613 {
 614     return r->d;
 615 }
 616
 617 const BIGNUM *RSA_get0_p(const RSA *r)
 618 {
 619     return r->p;
 620 }
 621
 622 const BIGNUM *RSA_get0_q(const RSA *r)
 623 {
 624     return r->q;
 625 }
 626
 627 const BIGNUM *RSA_get0_dmp1(const RSA *r)
 628 {
 629     return r->dmp1;
 630 }
 631
 632 const BIGNUM *RSA_get0_dmq1(const RSA *r)
 633 {
 634     return r->dmq1;
 635 }
 636
 637 const BIGNUM *RSA_get0_iqmp(const RSA *r)
 638 {
 639     return r->iqmp;
 640 }
 641
 642 const RSA_PSS_PARAMS *RSA_get0_pss_params(const RSA *r)
 643 {
 644 #ifdef FIPS_MODULE
 645     return NULL;
 646 #else
 647     return r->pss;
 648 #endif
 649 }
 650
 651 /* Internal */
 652 RSA_PSS_PARAMS_30 *rsa_get0_pss_params_30(RSA *r)
 653 {
 654     return &r->pss_params;
 655 }
 656
 657 void RSA_clear_flags(RSA *r, int flags)
 658 {
 659     r->flags &= ~flags;
 660 }
 661
 662 int RSA_test_flags(const RSA *r, int flags)
 663 {
 664     return r->flags & flags;
 665 }
 666
 667 void RSA_set_flags(RSA *r, int flags)
 668 {
 669     r->flags |= flags;
 670 }
 671
 672 int RSA_get_version(RSA *r)
 673 {
 674     /* { two-prime(0), multi(1) } */
 675     return r->version;
 676 }
 677
 678 #ifndef FIPS_MODULE
 679 ENGINE *RSA_get0_engine(const RSA *r)
 680 {
 681     return r->engine;
 682 }
 683
 684 int RSA_pkey_ctx_ctrl(EVP_PKEY_CTX *ctx, int optype, int cmd, int p1, void *p2)
 685 {
 686     /* If key type not RSA or RSA-PSS return error */
 687     if (ctx != NULL && ctx->pmeth != NULL
 688         && ctx->pmeth->pkey_id != EVP_PKEY_RSA
 689         && ctx->pmeth->pkey_id != EVP_PKEY_RSA_PSS)
 690         return -1;
 691      return EVP_PKEY_CTX_ctrl(ctx, -1, optype, cmd, p1, p2);
 692 }
 693 #endif
 694
 695 DEFINE_STACK_OF(BIGNUM)
 696
 697 int rsa_set0_all_params(RSA *r, const STACK_OF(BIGNUM) *primes,
 698                         const STACK_OF(BIGNUM) *exps,
 699                         const STACK_OF(BIGNUM) *coeffs)
 700 {
 701 #ifndef FIPS_MODULE
 702     STACK_OF(RSA_PRIME_INFO) *prime_infos, *old_infos = NULL;
 703 #endif
 704     int pnum;
 705
 706     if (primes == NULL || exps == NULL || coeffs == NULL)
 707         return 0;
 708
 709     pnum = sk_BIGNUM_num(primes);
 710     if (pnum < 2
 711         || pnum != sk_BIGNUM_num(exps)
 712         || pnum != sk_BIGNUM_num(coeffs) + 1)
 713         return 0;
 714
 715     if (!RSA_set0_factors(r, sk_BIGNUM_value(primes, 0),
 716                           sk_BIGNUM_value(primes, 1))
 717         || !RSA_set0_crt_params(r, sk_BIGNUM_value(exps, 0),
 718                                 sk_BIGNUM_value(exps, 1),
 719                                 sk_BIGNUM_value(coeffs, 0)))
 720         return 0;
 721
 722 #ifndef FIPS_MODULE
 723     old_infos = r->prime_infos;
 724 #endif
 725
 726     if (pnum > 2) {
 727 #ifndef FIPS_MODULE
 728         int i;
 729
 730         prime_infos = sk_RSA_PRIME_INFO_new_reserve(NULL, pnum);
 731         if (prime_infos == NULL)
 732             return 0;
 733
 734         for (i = 2; i < pnum; i++) {
 735             BIGNUM *prime = sk_BIGNUM_value(primes, i);
 736             BIGNUM *exp = sk_BIGNUM_value(exps, i);
 737             BIGNUM *coeff = sk_BIGNUM_value(coeffs, i - 1);
 738             RSA_PRIME_INFO *pinfo = NULL;
 739
 740             if (!ossl_assert(prime != NULL && exp != NULL && coeff != NULL))
 741                 goto err;
 742
 743             /* Using rsa_multip_info_new() is wasteful, so allocate directly */
 744             if ((pinfo = OPENSSL_zalloc(sizeof(*pinfo))) == NULL) {
 745                 ERR_raise(ERR_LIB_RSA, ERR_R_MALLOC_FAILURE);
 746                 goto err;
 747             }
 748
 749             pinfo->r = prime;
 750             pinfo->d = exp;
 751             pinfo->t = coeff;
 752             BN_set_flags(pinfo->r, BN_FLG_CONSTTIME);
 753             BN_set_flags(pinfo->d, BN_FLG_CONSTTIME);
 754             BN_set_flags(pinfo->t, BN_FLG_CONSTTIME);
 755             (void)sk_RSA_PRIME_INFO_push(prime_infos, pinfo);
 756         }
 757
 758         r->prime_infos = prime_infos;
 759
 760         if (!rsa_multip_calc_product(r)) {
 761             r->prime_infos = old_infos;
 762             goto err;
 763         }
 764 #else
 765         return 0;
 766 #endif
 767     }
 768
 769 #ifndef FIPS_MODULE
 770     if (old_infos != NULL) {
 771         /*
 772          * This is hard to deal with, since the old infos could
 773          * also be set by this function and r, d, t should not
 774          * be freed in that case. So currently, stay consistent
 775          * with other *set0* functions: just free it...
 776          */
 777         sk_RSA_PRIME_INFO_pop_free(old_infos, rsa_multip_info_free);
 778     }
 779 #endif
 780
 781     r->version = pnum > 2 ? RSA_ASN1_VERSION_MULTI : RSA_ASN1_VERSION_DEFAULT;
 782     r->dirty_cnt++;
 783
 784     return 1;
 785 #ifndef FIPS_MODULE
 786  err:
 787     /* r, d, t should not be freed */
 788     sk_RSA_PRIME_INFO_pop_free(prime_infos, rsa_multip_info_free_ex);
 789     return 0;
 790 #endif
 791 }
 792
 793 DEFINE_SPECIAL_STACK_OF_CONST(BIGNUM_const, BIGNUM)
 794
 795 int rsa_get0_all_params(RSA *r, STACK_OF(BIGNUM_const) *primes,
 796                         STACK_OF(BIGNUM_const) *exps,
 797                         STACK_OF(BIGNUM_const) *coeffs)
 798 {
 799 #ifndef FIPS_MODULE
 800     RSA_PRIME_INFO *pinfo;
 801     int i, pnum;
 802 #endif
 803
 804     if (r == NULL)
 805         return 0;
 806
 807     /* If |p| is NULL, there are no CRT parameters */
 808     if (RSA_get0_p(r) == NULL)
 809         return 1;
 810
 811     sk_BIGNUM_const_push(primes, RSA_get0_p(r));
 812     sk_BIGNUM_const_push(primes, RSA_get0_q(r));
 813     sk_BIGNUM_const_push(exps, RSA_get0_dmp1(r));
 814     sk_BIGNUM_const_push(exps, RSA_get0_dmq1(r));
 815     sk_BIGNUM_const_push(coeffs, RSA_get0_iqmp(r));
 816
 817 #ifndef FIPS_MODULE
 818     pnum = RSA_get_multi_prime_extra_count(r);
 819     for (i = 0; i < pnum; i++) {
 820         pinfo = sk_RSA_PRIME_INFO_value(r->prime_infos, i);
 821         sk_BIGNUM_const_push(primes, pinfo->r);
 822         sk_BIGNUM_const_push(exps, pinfo->d);
 823         sk_BIGNUM_const_push(coeffs, pinfo->t);
 824     }
 825 #endif
 826
 827     return 1;
 828 }
 829
 830 #ifndef FIPS_MODULE
 831 int EVP_PKEY_CTX_set_rsa_padding(EVP_PKEY_CTX *ctx, int pad_mode)
 832 {
 833     OSSL_PARAM pad_params[2], *p = pad_params;
 834
 835     if (ctx == NULL) {
 836         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
 837         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
 838         return -2;
 839     }
 840
 841     /* If key type not RSA or RSA-PSS return error */
 842     if (ctx->pmeth != NULL
 843             && ctx->pmeth->pkey_id != EVP_PKEY_RSA
 844             && ctx->pmeth->pkey_id != EVP_PKEY_RSA_PSS)
 845         return -1;
 846
 847     /* TODO(3.0): Remove this eventually when no more legacy */
 848     if ((!EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)
 849          || ctx->op.ciph.ciphprovctx == NULL)
 850         && (!EVP_PKEY_CTX_IS_SIGNATURE_OP(ctx)
 851             || ctx->op.sig.sigprovctx == NULL))
 852         return EVP_PKEY_CTX_ctrl(ctx, -1, -1, EVP_PKEY_CTRL_RSA_PADDING,
 853                                  pad_mode, NULL);
 854
 855     *p++ = OSSL_PARAM_construct_int(OSSL_PKEY_PARAM_PAD_MODE, &pad_mode);
 856     *p++ = OSSL_PARAM_construct_end();
 857
 858     return EVP_PKEY_CTX_set_params(ctx, pad_params);
 859 }
 860
 861 int EVP_PKEY_CTX_get_rsa_padding(EVP_PKEY_CTX *ctx, int *pad_mode)
 862 {
 863     OSSL_PARAM pad_params[2], *p = pad_params;
 864
 865     if (ctx == NULL || pad_mode == NULL) {
 866         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
 867         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
 868         return -2;
 869     }
 870
 871     /* If key type not RSA or RSA-PSS return error */
 872     if (ctx->pmeth != NULL
 873             && ctx->pmeth->pkey_id != EVP_PKEY_RSA
 874             && ctx->pmeth->pkey_id != EVP_PKEY_RSA_PSS)
 875         return -1;
 876
 877     /* TODO(3.0): Remove this eventually when no more legacy */
 878     if ((!EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)
 879          || ctx->op.ciph.ciphprovctx == NULL)
 880         && (!EVP_PKEY_CTX_IS_SIGNATURE_OP(ctx)
 881             || ctx->op.sig.sigprovctx == NULL))
 882         return EVP_PKEY_CTX_ctrl(ctx, -1, -1, EVP_PKEY_CTRL_GET_RSA_PADDING, 0,
 883                                  pad_mode);
 884
 885     *p++ = OSSL_PARAM_construct_int(OSSL_PKEY_PARAM_PAD_MODE, pad_mode);
 886     *p++ = OSSL_PARAM_construct_end();
 887
 888     if (!EVP_PKEY_CTX_get_params(ctx, pad_params))
 889         return 0;
 890
 891     return 1;
 892
 893 }
 894
 895 int EVP_PKEY_CTX_set_rsa_oaep_md(EVP_PKEY_CTX *ctx, const EVP_MD *md)
 896 {
 897     const char *name;
 898
 899     if (ctx == NULL || !EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)) {
 900         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
 901         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
 902         return -2;
 903     }
 904
 905     /* If key type not RSA return error */
 906     if (ctx->pmeth != NULL && ctx->pmeth->pkey_id != EVP_PKEY_RSA)
 907         return -1;
 908
 909     /* TODO(3.0): Remove this eventually when no more legacy */
 910     if (ctx->op.ciph.ciphprovctx == NULL)
 911         return EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, EVP_PKEY_OP_TYPE_CRYPT,
 912                                  EVP_PKEY_CTRL_RSA_OAEP_MD, 0, (void *)md);
 913
 914     name = (md == NULL) ? "" : EVP_MD_name(md);
 915
 916     return EVP_PKEY_CTX_set_rsa_oaep_md_name(ctx, name, NULL);
 917 }
 918
 919 int EVP_PKEY_CTX_set_rsa_oaep_md_name(EVP_PKEY_CTX *ctx, const char *mdname,
 920                                       const char *mdprops)
 921 {
 922     OSSL_PARAM rsa_params[3], *p = rsa_params;
 923
 924     if (ctx == NULL || !EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)) {
 925         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
 926         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
 927         return -2;
 928     }
 929
 930     /* If key type not RSA return error */
 931     if (ctx->pmeth != NULL && ctx->pmeth->pkey_id != EVP_PKEY_RSA)
 932         return -1;
 933
 934
 935     *p++ = OSSL_PARAM_construct_utf8_string(OSSL_ASYM_CIPHER_PARAM_OAEP_DIGEST,
 936                                             /*
 937                                              * Cast away the const. This is read
 938                                              * only so should be safe
 939                                              */
 940                                             (char *)mdname, 0);
 941     if (mdprops != NULL) {
 942         *p++ = OSSL_PARAM_construct_utf8_string(
 943                     OSSL_ASYM_CIPHER_PARAM_OAEP_DIGEST_PROPS,
 944                     /*
 945                      * Cast away the const. This is read
 946                      * only so should be safe
 947                      */
 948                     (char *)mdprops, 0);
 949     }
 950     *p++ = OSSL_PARAM_construct_end();
 951
 952     return EVP_PKEY_CTX_set_params(ctx, rsa_params);
 953 }
 954
 955 int EVP_PKEY_CTX_get_rsa_oaep_md_name(EVP_PKEY_CTX *ctx, char *name,
 956                                       size_t namelen)
 957 {
 958     OSSL_PARAM rsa_params[2], *p = rsa_params;
 959
 960     if (ctx == NULL || !EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)) {
 961         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
 962         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
 963         return -2;
 964     }
 965
 966     /* If key type not RSA return error */
 967     if (ctx->pmeth != NULL && ctx->pmeth->pkey_id != EVP_PKEY_RSA)
 968         return -1;
 969
 970     *p++ = OSSL_PARAM_construct_utf8_string(OSSL_ASYM_CIPHER_PARAM_OAEP_DIGEST,
 971                                             name, namelen);
 972     *p++ = OSSL_PARAM_construct_end();
 973
 974     if (!EVP_PKEY_CTX_get_params(ctx, rsa_params))
 975         return -1;
 976
 977     return 1;
 978 }
 979
 980 int EVP_PKEY_CTX_get_rsa_oaep_md(EVP_PKEY_CTX *ctx, const EVP_MD **md)
 981 {
 982     /* 80 should be big enough */
 983     char name[80] = "";
 984
 985     if (ctx == NULL || md == NULL || !EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)) {
 986         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
 987         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
 988         return -2;
 989     }
 990
 991     /* If key type not RSA return error */
 992     if (ctx->pmeth != NULL && ctx->pmeth->pkey_id != EVP_PKEY_RSA)
 993         return -1;
 994
 995     /* TODO(3.0): Remove this eventually when no more legacy */
 996     if (ctx->op.ciph.ciphprovctx == NULL)
 997         return EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, EVP_PKEY_OP_TYPE_CRYPT,
 998                                  EVP_PKEY_CTRL_GET_RSA_OAEP_MD, 0, (void *)md);
 999
1000     if (EVP_PKEY_CTX_get_rsa_oaep_md_name(ctx, name, sizeof(name)) <= 0)
1001         return -1;
1002
1003     /* May be NULL meaning "unknown" */
1004     *md = EVP_get_digestbyname(name);
1005
1006     return 1;
1007 }
1008
1009 static int int_set_rsa_mgf1_md(EVP_PKEY_CTX *ctx,
1010                                /* For EVP_PKEY_CTX_ctrl() */
1011                                int keytype, int optype, int cmd,
1012                                const EVP_MD *md,
1013                                /* For EVP_PKEY_CTX_set_params() */
1014                                const char *mdname, const char *mdprops)
1015 {
1016     OSSL_PARAM rsa_params[3], *p = rsa_params;
1017
1018     if (ctx == NULL || (ctx->operation & optype) == 0) {
1019         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1020         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1021         return -2;
1022     }
1023
1024     /* If key type not RSA return error */
1025     if (ctx->pmeth != NULL
1026         && (keytype == -1
1027             ? (ctx->pmeth->pkey_id != EVP_PKEY_RSA
1028                && ctx->pmeth->pkey_id != EVP_PKEY_RSA_PSS)
1029             : ctx->pmeth->pkey_id != keytype))
1030         return -1;
1031
1032     /* TODO(3.0): Remove this eventually when no more legacy */
1033     if (cmd != -1) {
1034         if ((EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)
1035              && ctx->op.ciph.ciphprovctx == NULL)
1036             || (EVP_PKEY_CTX_IS_SIGNATURE_OP(ctx)
1037                 && ctx->op.sig.sigprovctx == NULL)
1038             || (EVP_PKEY_CTX_IS_GEN_OP(ctx)
1039                 && ctx->op.keymgmt.genctx == NULL))
1040             return EVP_PKEY_CTX_ctrl(ctx, keytype, optype, cmd, 0, (void *)md);
1041
1042         mdname = (md == NULL) ? "" : EVP_MD_name(md);
1043     }
1044
1045
1046     *p++ = OSSL_PARAM_construct_utf8_string(OSSL_PKEY_PARAM_MGF1_DIGEST,
1047                                             /*
1048                                              * Cast away the const. This is
1049                                              * read only so should be safe
1050                                              */
1051                                             (char *)mdname, 0);
1052     if (mdprops != NULL) {
1053         *p++ =
1054             OSSL_PARAM_construct_utf8_string(OSSL_PKEY_PARAM_MGF1_PROPERTIES,
1055                                              /*
1056                                               * Cast away the const. This is
1057                                               * read only so should be safe
1058                                               */
1059                                              (char *)mdprops, 0);
1060     }
1061     *p++ = OSSL_PARAM_construct_end();
1062
1063     return EVP_PKEY_CTX_set_params(ctx, rsa_params);
1064 }
1065
1066 int EVP_PKEY_CTX_set_rsa_mgf1_md(EVP_PKEY_CTX *ctx, const EVP_MD *md)
1067 {
1068     return int_set_rsa_mgf1_md(ctx, -1,
1069                                EVP_PKEY_OP_TYPE_CRYPT | EVP_PKEY_OP_TYPE_SIG,
1070                                EVP_PKEY_CTRL_RSA_MGF1_MD, md, NULL, NULL);
1071 }
1072
1073 int EVP_PKEY_CTX_set_rsa_mgf1_md_name(EVP_PKEY_CTX *ctx, const char *mdname,
1074                                       const char *mdprops)
1075 {
1076     return int_set_rsa_mgf1_md(ctx, -1,
1077                                EVP_PKEY_OP_TYPE_CRYPT | EVP_PKEY_OP_TYPE_SIG,
1078                                -1, NULL, mdname, mdprops);
1079 }
1080
1081 int EVP_PKEY_CTX_set_rsa_pss_keygen_mgf1_md(EVP_PKEY_CTX *ctx, const EVP_MD *md)
1082 {
1083     return int_set_rsa_mgf1_md(ctx, EVP_PKEY_RSA_PSS,
1084                                EVP_PKEY_OP_KEYGEN, EVP_PKEY_CTRL_RSA_MGF1_MD,
1085                                md, NULL, NULL);
1086 }
1087
1088 int EVP_PKEY_CTX_set_rsa_pss_keygen_mgf1_md_name(EVP_PKEY_CTX *ctx,
1089                                                  const char *mdname)
1090 {
1091     return int_set_rsa_mgf1_md(ctx, EVP_PKEY_RSA_PSS,
1092                                EVP_PKEY_OP_TYPE_CRYPT | EVP_PKEY_OP_TYPE_SIG,
1093                                -1, NULL, mdname, NULL);
1094 }
1095
1096 int EVP_PKEY_CTX_get_rsa_mgf1_md_name(EVP_PKEY_CTX *ctx, char *name,
1097                                       size_t namelen)
1098 {
1099     OSSL_PARAM rsa_params[2], *p = rsa_params;
1100
1101     if (ctx == NULL
1102             || (!EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)
1103                 && !EVP_PKEY_CTX_IS_SIGNATURE_OP(ctx))) {
1104         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1105         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1106         return -2;
1107     }
1108
1109     /* If key type not RSA or RSA-PSS return error */
1110     if (ctx->pmeth != NULL
1111             && ctx->pmeth->pkey_id != EVP_PKEY_RSA
1112             && ctx->pmeth->pkey_id != EVP_PKEY_RSA_PSS)
1113         return -1;
1114
1115     *p++ = OSSL_PARAM_construct_utf8_string(OSSL_PKEY_PARAM_MGF1_DIGEST,
1116                                             name, namelen);
1117     *p++ = OSSL_PARAM_construct_end();
1118
1119     if (!EVP_PKEY_CTX_get_params(ctx, rsa_params))
1120         return -1;
1121
1122     return 1;
1123 }
1124
1125 int EVP_PKEY_CTX_get_rsa_mgf1_md(EVP_PKEY_CTX *ctx, const EVP_MD **md)
1126 {
1127     /* 80 should be big enough */
1128     char name[80] = "";
1129
1130     if (ctx == NULL
1131             || (!EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)
1132                 && !EVP_PKEY_CTX_IS_SIGNATURE_OP(ctx))) {
1133         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1134         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1135         return -2;
1136     }
1137
1138     /* If key type not RSA or RSA-PSS return error */
1139     if (ctx->pmeth != NULL
1140             && ctx->pmeth->pkey_id != EVP_PKEY_RSA
1141             && ctx->pmeth->pkey_id != EVP_PKEY_RSA_PSS)
1142         return -1;
1143
1144     /* TODO(3.0): Remove this eventually when no more legacy */
1145     if ((EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)
1146                 && ctx->op.ciph.ciphprovctx == NULL)
1147             || (EVP_PKEY_CTX_IS_SIGNATURE_OP(ctx)
1148                 && ctx->op.sig.sigprovctx == NULL))
1149         return EVP_PKEY_CTX_ctrl(ctx, -1,
1150                                  EVP_PKEY_OP_TYPE_SIG | EVP_PKEY_OP_TYPE_CRYPT,
1151                                  EVP_PKEY_CTRL_GET_RSA_MGF1_MD, 0, (void *)md);
1152
1153     if (EVP_PKEY_CTX_get_rsa_mgf1_md_name(ctx, name, sizeof(name)) <= 0)
1154         return -1;
1155
1156     /* May be NULL meaning "unknown" */
1157     *md = EVP_get_digestbyname(name);
1158
1159     return 1;
1160 }
1161
1162 int EVP_PKEY_CTX_set0_rsa_oaep_label(EVP_PKEY_CTX *ctx, void *label, int llen)
1163 {
1164     OSSL_PARAM rsa_params[2], *p = rsa_params;
1165
1166     if (ctx == NULL || !EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)) {
1167         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1168         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1169         return -2;
1170     }
1171
1172     /* If key type not RSA return error */
1173     if (ctx->pmeth != NULL && ctx->pmeth->pkey_id != EVP_PKEY_RSA)
1174         return -1;
1175
1176     /* TODO(3.0): Remove this eventually when no more legacy */
1177     if (ctx->op.ciph.ciphprovctx == NULL)
1178         return EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, EVP_PKEY_OP_TYPE_CRYPT,
1179                                  EVP_PKEY_CTRL_RSA_OAEP_LABEL, llen,
1180                                  (void *)label);
1181
1182     *p++ = OSSL_PARAM_construct_octet_string(OSSL_ASYM_CIPHER_PARAM_OAEP_LABEL,
1183                                              /*
1184                                               * Cast away the const. This is
1185                                               * read only so should be safe
1186                                               */
1187                                              (void *)label,
1188                                              (size_t)llen);
1189     *p++ = OSSL_PARAM_construct_end();
1190
1191     if (!EVP_PKEY_CTX_set_params(ctx, rsa_params))
1192         return 0;
1193
1194     OPENSSL_free(label);
1195     return 1;
1196 }
1197
1198 int EVP_PKEY_CTX_get0_rsa_oaep_label(EVP_PKEY_CTX *ctx, unsigned char **label)
1199 {
1200     OSSL_PARAM rsa_params[3], *p = rsa_params;
1201     size_t labellen;
1202
1203     if (ctx == NULL || !EVP_PKEY_CTX_IS_ASYM_CIPHER_OP(ctx)) {
1204         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1205         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1206         return -2;
1207     }
1208
1209     /* If key type not RSA return error */
1210     if (ctx->pmeth != NULL && ctx->pmeth->pkey_id != EVP_PKEY_RSA)
1211         return -1;
1212
1213     /* TODO(3.0): Remove this eventually when no more legacy */
1214     if (ctx->op.ciph.ciphprovctx == NULL)
1215         return EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, EVP_PKEY_OP_TYPE_CRYPT,
1216                                  EVP_PKEY_CTRL_GET_RSA_OAEP_LABEL, 0,
1217                                  (void *)label);
1218
1219     *p++ = OSSL_PARAM_construct_octet_ptr(OSSL_ASYM_CIPHER_PARAM_OAEP_LABEL,
1220                                           (void **)label, 0);
1221     *p++ = OSSL_PARAM_construct_size_t(OSSL_ASYM_CIPHER_PARAM_OAEP_LABEL_LEN,
1222                                        &labellen);
1223     *p++ = OSSL_PARAM_construct_end();
1224
1225     if (!EVP_PKEY_CTX_get_params(ctx, rsa_params))
1226         return -1;
1227
1228     if (labellen > INT_MAX)
1229         return -1;
1230
1231     return (int)labellen;
1232 }
1233
1234 static int int_set_rsa_pss_saltlen(EVP_PKEY_CTX *ctx, int saltlen,
1235                                    int keytype, int optype)
1236 {
1237     OSSL_PARAM pad_params[2], *p = pad_params;
1238
1239     if (ctx == NULL || (ctx->operation & optype) == 0) {
1240         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1241         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1242         return -2;
1243     }
1244
1245     /* If key type not RSA or RSA-PSS return error */
1246     if (ctx->pmeth != NULL
1247         && (keytype == -1
1248             ? (ctx->pmeth->pkey_id != EVP_PKEY_RSA
1249                && ctx->pmeth->pkey_id != EVP_PKEY_RSA_PSS)
1250             : ctx->pmeth->pkey_id != keytype))
1251         return -1;
1252
1253     /* TODO(3.0): Remove this eventually when no more legacy */
1254     if ((EVP_PKEY_CTX_IS_SIGNATURE_OP(ctx)
1255          && ctx->op.sig.sigprovctx == NULL)
1256         || (EVP_PKEY_CTX_IS_GEN_OP(ctx)
1257             && ctx->op.keymgmt.genctx == NULL))
1258         return EVP_PKEY_CTX_ctrl(ctx, keytype, optype,
1259                                  EVP_PKEY_CTRL_RSA_PSS_SALTLEN,
1260                                  saltlen, NULL);
1261
1262     *p++ =
1263         OSSL_PARAM_construct_int(OSSL_SIGNATURE_PARAM_PSS_SALTLEN, &saltlen);
1264     *p++ = OSSL_PARAM_construct_end();
1265
1266     return EVP_PKEY_CTX_set_params(ctx, pad_params);
1267 }
1268
1269 int EVP_PKEY_CTX_set_rsa_pss_saltlen(EVP_PKEY_CTX *ctx, int saltlen)
1270 {
1271     return int_set_rsa_pss_saltlen(ctx, saltlen, -1, EVP_PKEY_OP_TYPE_SIG);
1272 }
1273
1274 int EVP_PKEY_CTX_set_rsa_pss_keygen_saltlen(EVP_PKEY_CTX *ctx, int saltlen)
1275 {
1276     return int_set_rsa_pss_saltlen(ctx, saltlen, EVP_PKEY_RSA_PSS,
1277                                    EVP_PKEY_OP_KEYGEN);
1278 }
1279
1280 int EVP_PKEY_CTX_get_rsa_pss_saltlen(EVP_PKEY_CTX *ctx, int *saltlen)
1281 {
1282     OSSL_PARAM pad_params[2], *p = pad_params;
1283
1284     if (ctx == NULL || saltlen == NULL) {
1285         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1286         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1287         return -2;
1288     }
1289
1290     /* If key type not RSA or RSA-PSS return error */
1291     if (ctx->pmeth != NULL
1292             && ctx->pmeth->pkey_id != EVP_PKEY_RSA
1293             && ctx->pmeth->pkey_id != EVP_PKEY_RSA_PSS)
1294         return -1;
1295
1296     /* TODO(3.0): Remove this eventually when no more legacy */
1297     if (!EVP_PKEY_CTX_IS_SIGNATURE_OP(ctx)
1298         || ctx->op.sig.sigprovctx == NULL)
1299         return EVP_PKEY_CTX_ctrl(ctx, -1, -1,
1300                                  EVP_PKEY_CTRL_GET_RSA_PSS_SALTLEN,
1301                                  0, saltlen);
1302
1303     *p++ =
1304         OSSL_PARAM_construct_int(OSSL_SIGNATURE_PARAM_PSS_SALTLEN, saltlen);
1305     *p++ = OSSL_PARAM_construct_end();
1306
1307     if (!EVP_PKEY_CTX_get_params(ctx, pad_params))
1308         return 0;
1309
1310     return 1;
1311
1312 }
1313
1314 int EVP_PKEY_CTX_set_rsa_keygen_bits(EVP_PKEY_CTX *ctx, int bits)
1315 {
1316     OSSL_PARAM params[2], *p = params;
1317     size_t bits2 = bits;
1318
1319     if (ctx == NULL || !EVP_PKEY_CTX_IS_GEN_OP(ctx)) {
1320         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1321         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1322         return -2;
1323     }
1324
1325     /* If key type not RSA return error */
1326     if (ctx->pmeth != NULL && ctx->pmeth->pkey_id != EVP_PKEY_RSA)
1327         return -1;
1328
1329     /* TODO(3.0): Remove this eventually when no more legacy */
1330     if (ctx->op.keymgmt.genctx == NULL)
1331         return EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, EVP_PKEY_OP_KEYGEN,
1332                                  EVP_PKEY_CTRL_RSA_KEYGEN_BITS, bits, NULL);
1333
1334     *p++ = OSSL_PARAM_construct_size_t(OSSL_PKEY_PARAM_RSA_BITS, &bits2);
1335     *p++ = OSSL_PARAM_construct_end();
1336
1337     if (!EVP_PKEY_CTX_set_params(ctx, params))
1338         return 0;
1339
1340     return 1;
1341 }
1342
1343 int EVP_PKEY_CTX_set_rsa_keygen_pubexp(EVP_PKEY_CTX *ctx, BIGNUM *pubexp)
1344 {
1345     OSSL_PARAM_BLD *tmpl;
1346     OSSL_PARAM *params;
1347     int ret;
1348
1349     if (ctx == NULL || !EVP_PKEY_CTX_IS_GEN_OP(ctx)) {
1350         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1351         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1352         return -2;
1353     }
1354
1355     /* If key type not RSA return error */
1356     if (ctx->pmeth != NULL && ctx->pmeth->pkey_id != EVP_PKEY_RSA)
1357         return -1;
1358
1359     /* TODO(3.0): Remove this eventually when no more legacy */
1360     if (ctx->op.keymgmt.genctx == NULL)
1361         return EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, EVP_PKEY_OP_KEYGEN,
1362                                  EVP_PKEY_CTRL_RSA_KEYGEN_PUBEXP, 0, pubexp);
1363
1364     if ((tmpl = OSSL_PARAM_BLD_new()) == NULL)
1365         return 0;
1366     if (!OSSL_PARAM_BLD_push_BN(tmpl, OSSL_PKEY_PARAM_RSA_E, pubexp)
1367         || (params = OSSL_PARAM_BLD_to_param(tmpl)) == NULL) {
1368         OSSL_PARAM_BLD_free(tmpl);
1369         return 0;
1370     }
1371     OSSL_PARAM_BLD_free(tmpl);
1372
1373     ret = EVP_PKEY_CTX_set_params(ctx, params);
1374     OSSL_PARAM_BLD_free_params(params);
1375     return ret;
1376 }
1377
1378 int EVP_PKEY_CTX_set_rsa_keygen_primes(EVP_PKEY_CTX *ctx, int primes)
1379 {
1380     OSSL_PARAM params[2], *p = params;
1381     size_t primes2 = primes;
1382
1383     if (ctx == NULL || !EVP_PKEY_CTX_IS_GEN_OP(ctx)) {
1384         ERR_raise(ERR_LIB_EVP, EVP_R_COMMAND_NOT_SUPPORTED);
1385         /* Uses the same return values as EVP_PKEY_CTX_ctrl */
1386         return -2;
1387     }
1388
1389     /* If key type not RSA return error */
1390     if (ctx->pmeth != NULL && ctx->pmeth->pkey_id != EVP_PKEY_RSA)
1391         return -1;
1392
1393     /* TODO(3.0): Remove this eventually when no more legacy */
1394     if (ctx->op.keymgmt.genctx == NULL)
1395         return EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, EVP_PKEY_OP_KEYGEN,
1396                                  EVP_PKEY_CTRL_RSA_KEYGEN_PRIMES, primes,
1397                                  NULL);
1398
1399     *p++ = OSSL_PARAM_construct_size_t(OSSL_PKEY_PARAM_RSA_PRIMES, &primes2);
1400     *p++ = OSSL_PARAM_construct_end();
1401
1402     if (!EVP_PKEY_CTX_set_params(ctx, params))
1403         return 0;
1404
1405     return 1;
1406 }
1407 #endif