providers/implementations/keymgmt/rsa_kmgmt.c

   1 /*
   2  * Copyright 2019-2020 The OpenSSL Project Authors. All Rights Reserved.
   3  *
   4  * Licensed under the Apache License 2.0 (the "License").  You may not use
   5  * this file except in compliance with the License.  You can obtain a copy
   6  * in the file LICENSE in the source distribution or at
   7  * https://www.openssl.org/source/license.html
   8  */
   9
  10 /*
  11  * RSA low level APIs are deprecated for public use, but still ok for
  12  * internal use.
  13  */
  14 #include "internal/deprecated.h"
  15
  16 #include <openssl/core_dispatch.h>
  17 #include <openssl/core_names.h>
  18 #include <openssl/bn.h>
  19 #include <openssl/err.h>
  20 #include <openssl/rsa.h>
  21 #include <openssl/evp.h>
  22 #include "prov/implementations.h"
  23 #include "prov/providercommon.h"
  24 #include "prov/provider_ctx.h"
  25 #include "crypto/rsa.h"
  26 #include "crypto/cryptlib.h"
  27 #include "internal/param_build_set.h"
  28
  29 static OSSL_FUNC_keymgmt_new_fn rsa_newdata;
  30 static OSSL_FUNC_keymgmt_new_fn rsapss_newdata;
  31 static OSSL_FUNC_keymgmt_gen_init_fn rsa_gen_init;
  32 static OSSL_FUNC_keymgmt_gen_init_fn rsapss_gen_init;
  33 static OSSL_FUNC_keymgmt_gen_set_params_fn rsa_gen_set_params;
  34 static OSSL_FUNC_keymgmt_gen_settable_params_fn rsa_gen_settable_params;
  35 static OSSL_FUNC_keymgmt_gen_settable_params_fn rsapss_gen_settable_params;
  36 static OSSL_FUNC_keymgmt_gen_fn rsa_gen;
  37 static OSSL_FUNC_keymgmt_gen_cleanup_fn rsa_gen_cleanup;
  38 static OSSL_FUNC_keymgmt_load_fn rsa_load;
  39 static OSSL_FUNC_keymgmt_free_fn rsa_freedata;
  40 static OSSL_FUNC_keymgmt_get_params_fn rsa_get_params;
  41 static OSSL_FUNC_keymgmt_gettable_params_fn rsa_gettable_params;
  42 static OSSL_FUNC_keymgmt_has_fn rsa_has;
  43 static OSSL_FUNC_keymgmt_match_fn rsa_match;
  44 static OSSL_FUNC_keymgmt_validate_fn rsa_validate;
  45 static OSSL_FUNC_keymgmt_import_fn rsa_import;
  46 static OSSL_FUNC_keymgmt_import_types_fn rsa_import_types;
  47 static OSSL_FUNC_keymgmt_export_fn rsa_export;
  48 static OSSL_FUNC_keymgmt_export_types_fn rsa_export_types;
  49 static OSSL_FUNC_keymgmt_query_operation_name_fn rsapss_query_operation_name;
  50
  51 #define RSA_DEFAULT_MD "SHA256"
  52 #define RSA_PSS_DEFAULT_MD OSSL_DIGEST_NAME_SHA1
  53 #define RSA_POSSIBLE_SELECTIONS                                        \
  54     (OSSL_KEYMGMT_SELECT_KEYPAIR | OSSL_KEYMGMT_SELECT_OTHER_PARAMETERS)
  55
  56 DEFINE_STACK_OF(BIGNUM)
  57 DEFINE_SPECIAL_STACK_OF_CONST(BIGNUM_const, BIGNUM)
  58
  59 static int pss_params_fromdata(RSA_PSS_PARAMS_30 *pss_params,
  60                                const OSSL_PARAM params[], int rsa_type,
  61                                OPENSSL_CTX *libctx)
  62 {
  63     if (!rsa_pss_params_30_fromdata(pss_params, params, libctx))
  64         return 0;
  65
  66     /* If not a PSS type RSA, sending us PSS parameters is wrong */
  67     if (rsa_type != RSA_FLAG_TYPE_RSASSAPSS
  68         && !rsa_pss_params_30_is_unrestricted(pss_params))
  69         return 0;
  70
  71     return 1;
  72 }
  73
  74 static void *rsa_newdata(void *provctx)
  75 {
  76     OPENSSL_CTX *libctx = PROV_LIBRARY_CONTEXT_OF(provctx);
  77     RSA *rsa = rsa_new_with_ctx(libctx);
  78
  79     if (rsa != NULL) {
  80         RSA_clear_flags(rsa, RSA_FLAG_TYPE_MASK);
  81         RSA_set_flags(rsa, RSA_FLAG_TYPE_RSA);
  82     }
  83     return rsa;
  84 }
  85
  86 static void *rsapss_newdata(void *provctx)
  87 {
  88     OPENSSL_CTX *libctx = PROV_LIBRARY_CONTEXT_OF(provctx);
  89     RSA *rsa = rsa_new_with_ctx(libctx);
  90
  91     if (rsa != NULL) {
  92         RSA_clear_flags(rsa, RSA_FLAG_TYPE_MASK);
  93         RSA_set_flags(rsa, RSA_FLAG_TYPE_RSASSAPSS);
  94     }
  95     return rsa;
  96 }
  97
  98 static void rsa_freedata(void *keydata)
  99 {
 100     RSA_free(keydata);
 101 }
 102
 103 static int rsa_has(void *keydata, int selection)
 104 {
 105     RSA *rsa = keydata;
 106     int ok = 0;
 107
 108     if (rsa != NULL) {
 109         if ((selection & RSA_POSSIBLE_SELECTIONS) != 0)
 110             ok = 1;
 111
 112         if ((selection & OSSL_KEYMGMT_SELECT_OTHER_PARAMETERS) != 0)
 113             /* This will change with OAEP */
 114             ok = ok && (RSA_test_flags(rsa, RSA_FLAG_TYPE_RSASSAPSS) != 0);
 115         if ((selection & OSSL_KEYMGMT_SELECT_KEYPAIR) != 0)
 116             ok = ok && (RSA_get0_e(rsa) != NULL);
 117         if ((selection & OSSL_KEYMGMT_SELECT_PUBLIC_KEY) != 0)
 118             ok = ok && (RSA_get0_n(rsa) != NULL);
 119         if ((selection & OSSL_KEYMGMT_SELECT_PRIVATE_KEY) != 0)
 120             ok = ok && (RSA_get0_d(rsa) != NULL);
 121     }
 122     return ok;
 123 }
 124
 125 static int rsa_match(const void *keydata1, const void *keydata2, int selection)
 126 {
 127     const RSA *rsa1 = keydata1;
 128     const RSA *rsa2 = keydata2;
 129     int ok = 1;
 130
 131     /* There is always an |e| */
 132     ok = ok && BN_cmp(RSA_get0_e(rsa1), RSA_get0_e(rsa2)) == 0;
 133     if ((selection & OSSL_KEYMGMT_SELECT_PUBLIC_KEY) != 0)
 134         ok = ok && BN_cmp(RSA_get0_n(rsa1), RSA_get0_n(rsa2)) == 0;
 135     if ((selection & OSSL_KEYMGMT_SELECT_PRIVATE_KEY) != 0)
 136         ok = ok && BN_cmp(RSA_get0_d(rsa1), RSA_get0_d(rsa2)) == 0;
 137     return ok;
 138 }
 139
 140 static int rsa_import(void *keydata, int selection, const OSSL_PARAM params[])
 141 {
 142     RSA *rsa = keydata;
 143     int rsa_type;
 144     int ok = 1;
 145
 146     if (rsa == NULL)
 147         return 0;
 148
 149     if ((selection & RSA_POSSIBLE_SELECTIONS) == 0)
 150         return 0;
 151
 152     rsa_type = RSA_test_flags(rsa, RSA_FLAG_TYPE_MASK);
 153
 154     /* TODO(3.0) OAEP should bring on parameters as well */
 155
 156     if ((selection & OSSL_KEYMGMT_SELECT_OTHER_PARAMETERS) != 0)
 157         ok = ok && pss_params_fromdata(rsa_get0_pss_params_30(rsa), params,
 158                                        rsa_type, rsa_get0_libctx(rsa));
 159     if ((selection & OSSL_KEYMGMT_SELECT_KEYPAIR) != 0)
 160         ok = ok && rsa_fromdata(rsa, params);
 161
 162     return ok;
 163 }
 164
 165 static int rsa_export(void *keydata, int selection,
 166                       OSSL_CALLBACK *param_callback, void *cbarg)
 167 {
 168     RSA *rsa = keydata;
 169     const RSA_PSS_PARAMS_30 *pss_params = rsa_get0_pss_params_30(rsa);
 170     OSSL_PARAM_BLD *tmpl;
 171     OSSL_PARAM *params = NULL;
 172     int ok = 1;
 173
 174     if (rsa == NULL)
 175         return 0;
 176
 177     /* TODO(3.0) OAEP should bring on parameters */
 178
 179     tmpl = OSSL_PARAM_BLD_new();
 180     if (tmpl == NULL)
 181         return 0;
 182
 183     if ((selection & OSSL_KEYMGMT_SELECT_OTHER_PARAMETERS) != 0)
 184         ok = ok && (rsa_pss_params_30_is_unrestricted(pss_params)
 185                     || rsa_pss_params_30_todata(pss_params, NULL, tmpl, NULL));
 186     if ((selection & OSSL_KEYMGMT_SELECT_KEYPAIR) != 0)
 187         ok = ok && rsa_todata(rsa, tmpl, NULL);
 188
 189     if (!ok
 190         || (params = OSSL_PARAM_BLD_to_param(tmpl)) == NULL)
 191         goto err;
 192
 193     ok = param_callback(params, cbarg);
 194     OSSL_PARAM_BLD_free_params(params);
 195 err:
 196     OSSL_PARAM_BLD_free(tmpl);
 197     return ok;
 198 }
 199
 200 #ifdef FIPS_MODULE
 201 /* In fips mode there are no multi-primes. */
 202 # define RSA_KEY_MP_TYPES()                                                    \
 203 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_FACTOR1, NULL, 0),                           \
 204 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_FACTOR2, NULL, 0),                           \
 205 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_EXPONENT1, NULL, 0),                         \
 206 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_EXPONENT2, NULL, 0),                         \
 207 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_COEFFICIENT1, NULL, 0),
 208 #else
 209 /*
 210  * We allow up to 10 prime factors (starting with p, q).
 211  * NOTE: there is only 9 OSSL_PKEY_PARAM_RSA_COEFFICIENT
 212  */
 213 # define RSA_KEY_MP_TYPES()                                                    \
 214 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_FACTOR1, NULL, 0),                           \
 215 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_FACTOR2, NULL, 0),                           \
 216 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_FACTOR3, NULL, 0),                           \
 217 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_FACTOR4, NULL, 0),                           \
 218 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_FACTOR5, NULL, 0),                           \
 219 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_FACTOR6, NULL, 0),                           \
 220 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_FACTOR7, NULL, 0),                           \
 221 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_FACTOR8, NULL, 0),                           \
 222 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_FACTOR9, NULL, 0),                           \
 223 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_FACTOR10, NULL, 0),                          \
 224 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_EXPONENT1, NULL, 0),                         \
 225 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_EXPONENT2, NULL, 0),                         \
 226 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_EXPONENT3, NULL, 0),                         \
 227 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_EXPONENT4, NULL, 0),                         \
 228 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_EXPONENT5, NULL, 0),                         \
 229 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_EXPONENT6, NULL, 0),                         \
 230 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_EXPONENT7, NULL, 0),                         \
 231 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_EXPONENT8, NULL, 0),                         \
 232 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_EXPONENT9, NULL, 0),                         \
 233 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_EXPONENT10, NULL, 0),                        \
 234 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_COEFFICIENT1, NULL, 0),                      \
 235 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_COEFFICIENT2, NULL, 0),                      \
 236 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_COEFFICIENT3, NULL, 0),                      \
 237 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_COEFFICIENT4, NULL, 0),                      \
 238 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_COEFFICIENT5, NULL, 0),                      \
 239 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_COEFFICIENT6, NULL, 0),                      \
 240 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_COEFFICIENT7, NULL, 0),                      \
 241 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_COEFFICIENT8, NULL, 0),                      \
 242 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_COEFFICIENT9, NULL, 0),
 243 #endif
 244
 245 #define RSA_KEY_TYPES()                                                        \
 246 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_N, NULL, 0),                                 \
 247 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_E, NULL, 0),                                 \
 248 OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_D, NULL, 0),                                 \
 249 RSA_KEY_MP_TYPES()
 250
 251 /*
 252  * This provider can export everything in an RSA key, so we use the exact
 253  * same type description for export as for import.  Other providers might
 254  * choose to import full keys, but only export the public parts, and will
 255  * therefore have the importkey_types and importkey_types functions return
 256  * different arrays.
 257  */
 258 static const OSSL_PARAM rsa_key_types[] = {
 259     RSA_KEY_TYPES()
 260     OSSL_PARAM_END
 261 };
 262 /*
 263  * We lied about the amount of factors, exponents and coefficients, the
 264  * export and import functions can really deal with an infinite amount
 265  * of these numbers.  However, RSA keys with too many primes are futile,
 266  * so we at least pretend to have some limits.
 267  */
 268
 269 static const OSSL_PARAM *rsa_imexport_types(int selection)
 270 {
 271     if ((selection & OSSL_KEYMGMT_SELECT_KEYPAIR) != 0)
 272         return rsa_key_types;
 273     return NULL;
 274 }
 275
 276 static const OSSL_PARAM *rsa_import_types(int selection)
 277 {
 278     return rsa_imexport_types(selection);
 279 }
 280
 281 static const OSSL_PARAM *rsa_export_types(int selection)
 282 {
 283     return rsa_imexport_types(selection);
 284 }
 285
 286 static int rsa_get_params(void *key, OSSL_PARAM params[])
 287 {
 288     RSA *rsa = key;
 289     const RSA_PSS_PARAMS_30 *pss_params = rsa_get0_pss_params_30(rsa);
 290     int rsa_type = RSA_test_flags(rsa, RSA_FLAG_TYPE_MASK);
 291     OSSL_PARAM *p;
 292
 293     if ((p = OSSL_PARAM_locate(params, OSSL_PKEY_PARAM_BITS)) != NULL
 294         && !OSSL_PARAM_set_int(p, RSA_bits(rsa)))
 295         return 0;
 296     if ((p = OSSL_PARAM_locate(params, OSSL_PKEY_PARAM_SECURITY_BITS)) != NULL
 297         && !OSSL_PARAM_set_int(p, RSA_security_bits(rsa)))
 298         return 0;
 299     if ((p = OSSL_PARAM_locate(params, OSSL_PKEY_PARAM_MAX_SIZE)) != NULL
 300         && !OSSL_PARAM_set_int(p, RSA_size(rsa)))
 301         return 0;
 302
 303     /*
 304      * For RSA-PSS keys, we ignore the default digest request
 305      * TODO(3.0) with RSA-OAEP keys, this may need to be amended
 306      */
 307     if ((p = OSSL_PARAM_locate(params, OSSL_PKEY_PARAM_DEFAULT_DIGEST)) != NULL
 308         && rsa_type != RSA_FLAG_TYPE_RSASSAPSS) {
 309         if (!OSSL_PARAM_set_utf8_string(p, RSA_DEFAULT_MD))
 310             return 0;
 311     }
 312
 313     /*
 314      * For non-RSA-PSS keys, we ignore the mandatory digest request
 315      * TODO(3.0) with RSA-OAEP keys, this may need to be amended
 316      */
 317     if ((p = OSSL_PARAM_locate(params,
 318                                OSSL_PKEY_PARAM_MANDATORY_DIGEST)) != NULL
 319         && rsa_type == RSA_FLAG_TYPE_RSASSAPSS) {
 320         const char *mdname = RSA_PSS_DEFAULT_MD;
 321
 322         if (!rsa_pss_params_30_is_unrestricted(pss_params)) {
 323             mdname =
 324                 rsa_oaeppss_nid2name(rsa_pss_params_30_hashalg(pss_params));
 325
 326             if (mdname == NULL || !OSSL_PARAM_set_utf8_string(p, mdname))
 327                 return 0;
 328         }
 329     }
 330     return (rsa_type != RSA_FLAG_TYPE_RSASSAPSS
 331             || rsa_pss_params_30_todata(pss_params, NULL, NULL, params))
 332         && rsa_todata(rsa, NULL, params);
 333 }
 334
 335 static const OSSL_PARAM rsa_params[] = {
 336     OSSL_PARAM_int(OSSL_PKEY_PARAM_BITS, NULL),
 337     OSSL_PARAM_int(OSSL_PKEY_PARAM_SECURITY_BITS, NULL),
 338     OSSL_PARAM_int(OSSL_PKEY_PARAM_MAX_SIZE, NULL),
 339     OSSL_PARAM_utf8_string(OSSL_PKEY_PARAM_DEFAULT_DIGEST, NULL, 0),
 340     RSA_KEY_TYPES()
 341     OSSL_PARAM_END
 342 };
 343
 344 static const OSSL_PARAM *rsa_gettable_params(void *provctx)
 345 {
 346     return rsa_params;
 347 }
 348
 349 static int rsa_validate(void *keydata, int selection)
 350 {
 351     RSA *rsa = keydata;
 352     int ok = 0;
 353
 354     if ((selection & RSA_POSSIBLE_SELECTIONS) != 0)
 355         ok = 1;
 356
 357     /* If the whole key is selected, we do a pairwise validation */
 358     if ((selection & OSSL_KEYMGMT_SELECT_KEYPAIR)
 359         == OSSL_KEYMGMT_SELECT_KEYPAIR) {
 360         ok = ok && rsa_validate_pairwise(rsa);
 361     } else {
 362         if ((selection & OSSL_KEYMGMT_SELECT_PRIVATE_KEY) != 0)
 363             ok = ok && rsa_validate_private(rsa);
 364         if ((selection & OSSL_KEYMGMT_SELECT_PUBLIC_KEY) != 0)
 365             ok = ok && rsa_validate_public(rsa);
 366     }
 367     return ok;
 368 }
 369
 370 struct rsa_gen_ctx {
 371     OPENSSL_CTX *libctx;
 372
 373     int rsa_type;
 374
 375     size_t nbits;
 376     BIGNUM *pub_exp;
 377     size_t primes;
 378
 379     /* For PSS */
 380     RSA_PSS_PARAMS_30 pss_params;
 381
 382     /* For generation callback */
 383     OSSL_CALLBACK *cb;
 384     void *cbarg;
 385
 386 #if defined(FIPS_MODULE) && !defined(OPENSSL_NO_ACVP_TESTS)
 387     /* ACVP test parameters */
 388     OSSL_PARAM *acvp_test_params;
 389 #endif
 390 };
 391
 392 static int rsa_gencb(int p, int n, BN_GENCB *cb)
 393 {
 394     struct rsa_gen_ctx *gctx = BN_GENCB_get_arg(cb);
 395     OSSL_PARAM params[] = { OSSL_PARAM_END, OSSL_PARAM_END, OSSL_PARAM_END };
 396
 397     params[0] = OSSL_PARAM_construct_int(OSSL_GEN_PARAM_POTENTIAL, &p);
 398     params[1] = OSSL_PARAM_construct_int(OSSL_GEN_PARAM_ITERATION, &n);
 399     return gctx->cb(params, gctx->cbarg);
 400 }
 401
 402 static void *gen_init(void *provctx, int selection, int rsa_type)
 403 {
 404     OPENSSL_CTX *libctx = PROV_LIBRARY_CONTEXT_OF(provctx);
 405     struct rsa_gen_ctx *gctx = NULL;
 406
 407     if ((selection & OSSL_KEYMGMT_SELECT_KEYPAIR) == 0)
 408         return NULL;
 409
 410     if ((gctx = OPENSSL_zalloc(sizeof(*gctx))) != NULL) {
 411         gctx->libctx = libctx;
 412         if ((gctx->pub_exp = BN_new()) == NULL
 413             || !BN_set_word(gctx->pub_exp, RSA_F4)) {
 414             BN_free(gctx->pub_exp);
 415             OPENSSL_free(gctx);
 416             gctx = NULL;
 417         } else {
 418             gctx->nbits = 2048;
 419             gctx->primes = RSA_DEFAULT_PRIME_NUM;
 420             gctx->rsa_type = rsa_type;
 421         }
 422     }
 423     return gctx;
 424 }
 425
 426 static void *rsa_gen_init(void *provctx, int selection)
 427 {
 428     return gen_init(provctx, selection, RSA_FLAG_TYPE_RSA);
 429 }
 430
 431 static void *rsapss_gen_init(void *provctx, int selection)
 432 {
 433     return gen_init(provctx, selection, RSA_FLAG_TYPE_RSASSAPSS);
 434 }
 435
 436 /*
 437  * This function is common for all RSA sub-types, to detect possible
 438  * misuse, such as PSS parameters being passed when a plain RSA key
 439  * is generated.
 440  */
 441 static int rsa_gen_set_params(void *genctx, const OSSL_PARAM params[])
 442 {
 443     struct rsa_gen_ctx *gctx = genctx;
 444     const OSSL_PARAM *p;
 445
 446     if ((p = OSSL_PARAM_locate_const(params, OSSL_PKEY_PARAM_RSA_BITS)) != NULL
 447         && !OSSL_PARAM_get_size_t(p, &gctx->nbits))
 448         return 0;
 449     if ((p = OSSL_PARAM_locate_const(params, OSSL_PKEY_PARAM_RSA_PRIMES)) != NULL
 450         && !OSSL_PARAM_get_size_t(p, &gctx->primes))
 451         return 0;
 452     if ((p = OSSL_PARAM_locate_const(params, OSSL_PKEY_PARAM_RSA_E)) != NULL
 453         && !OSSL_PARAM_get_BN(p, &gctx->pub_exp))
 454         return 0;
 455     /* Only attempt to get PSS parameters when generating an RSA-PSS key */
 456     if (gctx->rsa_type == RSA_FLAG_TYPE_RSASSAPSS
 457         && !pss_params_fromdata(&gctx->pss_params, params, gctx->rsa_type,
 458                                 gctx->libctx))
 459         return 0;
 460 #if defined(FIPS_MODULE) && !defined(OPENSSL_NO_ACVP_TESTS)
 461     /* Any ACVP test related parameters are copied into a params[] */
 462     if (!rsa_acvp_test_gen_params_new(&gctx->acvp_test_params, params))
 463         return 0;
 464 #endif
 465     return 1;
 466 }
 467
 468 #define rsa_gen_basic                                           \
 469     OSSL_PARAM_size_t(OSSL_PKEY_PARAM_RSA_BITS, NULL),          \
 470     OSSL_PARAM_size_t(OSSL_PKEY_PARAM_RSA_PRIMES, NULL),        \
 471     OSSL_PARAM_BN(OSSL_PKEY_PARAM_RSA_E, NULL, 0)
 472
 473 /*
 474  * The following must be kept in sync with rsa_pss_params_30_fromdata()
 475  * in crypto/rsa/rsa_backend.c
 476  */
 477 #define rsa_gen_pss                                                     \
 478     OSSL_PARAM_utf8_string(OSSL_PKEY_PARAM_RSA_DIGEST, NULL, 0),        \
 479     OSSL_PARAM_utf8_string(OSSL_PKEY_PARAM_RSA_MASKGENFUNC, NULL, 0),   \
 480     OSSL_PARAM_utf8_string(OSSL_PKEY_PARAM_RSA_MGF1_DIGEST, NULL, 0),   \
 481     OSSL_PARAM_int(OSSL_PKEY_PARAM_RSA_PSS_SALTLEN, NULL)
 482
 483 static const OSSL_PARAM *rsa_gen_settable_params(void *provctx)
 484 {
 485     static OSSL_PARAM settable[] = {
 486         rsa_gen_basic,
 487         OSSL_PARAM_END
 488     };
 489
 490     return settable;
 491 }
 492
 493 static const OSSL_PARAM *rsapss_gen_settable_params(void *provctx)
 494 {
 495     static OSSL_PARAM settable[] = {
 496         rsa_gen_basic,
 497         rsa_gen_pss,
 498         OSSL_PARAM_END
 499     };
 500
 501     return settable;
 502 }
 503
 504 static void *rsa_gen(void *genctx, OSSL_CALLBACK *osslcb, void *cbarg)
 505 {
 506     struct rsa_gen_ctx *gctx = genctx;
 507     RSA *rsa = NULL, *rsa_tmp = NULL;
 508     BN_GENCB *gencb = NULL;
 509
 510     if (gctx == NULL)
 511         return NULL;
 512
 513     switch (gctx->rsa_type) {
 514     case RSA_FLAG_TYPE_RSA:
 515         /* For plain RSA keys, PSS parameters must not be set */
 516         if (!rsa_pss_params_30_is_unrestricted(&gctx->pss_params))
 517             goto err;
 518         break;
 519     case RSA_FLAG_TYPE_RSASSAPSS:
 520         /*
 521          * For plain RSA-PSS keys, PSS parameters may be set but don't have
 522          * to, so not check.
 523          */
 524         break;
 525     default:
 526         /* Unsupported RSA key sub-type... */
 527         return NULL;
 528     }
 529
 530     if ((rsa_tmp = rsa_new_with_ctx(gctx->libctx)) == NULL)
 531         return NULL;
 532
 533     gctx->cb = osslcb;
 534     gctx->cbarg = cbarg;
 535     gencb = BN_GENCB_new();
 536     if (gencb != NULL)
 537         BN_GENCB_set(gencb, rsa_gencb, genctx);
 538
 539 #if defined(FIPS_MODULE) && !defined(OPENSSL_NO_ACVP_TESTS)
 540     if (gctx->acvp_test_params != NULL) {
 541         if (!rsa_acvp_test_set_params(rsa_tmp, gctx->acvp_test_params))
 542             goto err;
 543     }
 544 #endif
 545
 546     if (!RSA_generate_multi_prime_key(rsa_tmp,
 547                                       (int)gctx->nbits, (int)gctx->primes,
 548                                       gctx->pub_exp, gencb))
 549         goto err;
 550
 551     if (!rsa_pss_params_30_copy(rsa_get0_pss_params_30(rsa_tmp),
 552                                 &gctx->pss_params))
 553         goto err;
 554
 555     RSA_clear_flags(rsa_tmp, RSA_FLAG_TYPE_MASK);
 556     RSA_set_flags(rsa_tmp, gctx->rsa_type);
 557
 558     rsa = rsa_tmp;
 559     rsa_tmp = NULL;
 560  err:
 561     BN_GENCB_free(gencb);
 562     RSA_free(rsa_tmp);
 563     return rsa;
 564 }
 565
 566 static void rsa_gen_cleanup(void *genctx)
 567 {
 568     struct rsa_gen_ctx *gctx = genctx;
 569
 570     if (gctx == NULL)
 571         return;
 572 #if defined(FIPS_MODULE) && !defined(OPENSSL_NO_ACVP_TESTS)
 573     rsa_acvp_test_gen_params_free(gctx->acvp_test_params);
 574     gctx->acvp_test_params = NULL;
 575 #endif
 576     BN_clear_free(gctx->pub_exp);
 577     OPENSSL_free(gctx);
 578 }
 579
 580 void *rsa_load(const void *reference, size_t reference_sz)
 581 {
 582     RSA *rsa = NULL;
 583
 584     if (reference_sz == sizeof(rsa)) {
 585         /* The contents of the reference is the address to our object */
 586         rsa = *(RSA **)reference;
 587         /* We grabbed, so we detach it */
 588         *(RSA **)reference = NULL;
 589         return rsa;
 590     }
 591     return NULL;
 592 }
 593
 594 /* For any RSA key, we use the "RSA" algorithms regardless of sub-type. */
 595 static const char *rsapss_query_operation_name(int operation_id)
 596 {
 597     return "RSA";
 598 }
 599
 600 const OSSL_DISPATCH rsa_keymgmt_functions[] = {
 601     { OSSL_FUNC_KEYMGMT_NEW, (void (*)(void))rsa_newdata },
 602     { OSSL_FUNC_KEYMGMT_GEN_INIT, (void (*)(void))rsa_gen_init },
 603     { OSSL_FUNC_KEYMGMT_GEN_SET_PARAMS,
 604       (void (*)(void))rsa_gen_set_params },
 605     { OSSL_FUNC_KEYMGMT_GEN_SETTABLE_PARAMS,
 606       (void (*)(void))rsa_gen_settable_params },
 607     { OSSL_FUNC_KEYMGMT_GEN, (void (*)(void))rsa_gen },
 608     { OSSL_FUNC_KEYMGMT_GEN_CLEANUP, (void (*)(void))rsa_gen_cleanup },
 609     { OSSL_FUNC_KEYMGMT_LOAD, (void (*)(void))rsa_load },
 610     { OSSL_FUNC_KEYMGMT_FREE, (void (*)(void))rsa_freedata },
 611     { OSSL_FUNC_KEYMGMT_GET_PARAMS, (void (*) (void))rsa_get_params },
 612     { OSSL_FUNC_KEYMGMT_GETTABLE_PARAMS, (void (*) (void))rsa_gettable_params },
 613     { OSSL_FUNC_KEYMGMT_HAS, (void (*)(void))rsa_has },
 614     { OSSL_FUNC_KEYMGMT_MATCH, (void (*)(void))rsa_match },
 615     { OSSL_FUNC_KEYMGMT_VALIDATE, (void (*)(void))rsa_validate },
 616     { OSSL_FUNC_KEYMGMT_IMPORT, (void (*)(void))rsa_import },
 617     { OSSL_FUNC_KEYMGMT_IMPORT_TYPES, (void (*)(void))rsa_import_types },
 618     { OSSL_FUNC_KEYMGMT_EXPORT, (void (*)(void))rsa_export },
 619     { OSSL_FUNC_KEYMGMT_EXPORT_TYPES, (void (*)(void))rsa_export_types },
 620     { 0, NULL }
 621 };
 622
 623 const OSSL_DISPATCH rsapss_keymgmt_functions[] = {
 624     { OSSL_FUNC_KEYMGMT_NEW, (void (*)(void))rsapss_newdata },
 625     { OSSL_FUNC_KEYMGMT_GEN_INIT, (void (*)(void))rsapss_gen_init },
 626     { OSSL_FUNC_KEYMGMT_GEN_SET_PARAMS, (void (*)(void))rsa_gen_set_params },
 627     { OSSL_FUNC_KEYMGMT_GEN_SETTABLE_PARAMS,
 628       (void (*)(void))rsapss_gen_settable_params },
 629     { OSSL_FUNC_KEYMGMT_GEN, (void (*)(void))rsa_gen },
 630     { OSSL_FUNC_KEYMGMT_GEN_CLEANUP, (void (*)(void))rsa_gen_cleanup },
 631     { OSSL_FUNC_KEYMGMT_LOAD, (void (*)(void))rsa_load },
 632     { OSSL_FUNC_KEYMGMT_FREE, (void (*)(void))rsa_freedata },
 633     { OSSL_FUNC_KEYMGMT_GET_PARAMS, (void (*) (void))rsa_get_params },
 634     { OSSL_FUNC_KEYMGMT_GETTABLE_PARAMS, (void (*) (void))rsa_gettable_params },
 635     { OSSL_FUNC_KEYMGMT_HAS, (void (*)(void))rsa_has },
 636     { OSSL_FUNC_KEYMGMT_MATCH, (void (*)(void))rsa_match },
 637     { OSSL_FUNC_KEYMGMT_VALIDATE, (void (*)(void))rsa_validate },
 638     { OSSL_FUNC_KEYMGMT_IMPORT, (void (*)(void))rsa_import },
 639     { OSSL_FUNC_KEYMGMT_IMPORT_TYPES, (void (*)(void))rsa_import_types },
 640     { OSSL_FUNC_KEYMGMT_EXPORT, (void (*)(void))rsa_export },
 641     { OSSL_FUNC_KEYMGMT_EXPORT_TYPES, (void (*)(void))rsa_export_types },
 642     { OSSL_FUNC_KEYMGMT_QUERY_OPERATION_NAME,
 643       (void (*)(void))rsapss_query_operation_name },
 644     { 0, NULL }
 645 };