crypto/rsa/rsa_ameth.c

   1 /* crypto/rsa/rsa_ameth.c */
   2 /*
   3  * Written by Dr Stephen N Henson (steve@openssl.org) for the OpenSSL project
   4  * 2006.
   5  */
   6 /* ====================================================================
   7  * Copyright (c) 2006 The OpenSSL Project.  All rights reserved.
   8  *
   9  * Redistribution and use in source and binary forms, with or without
  10  * modification, are permitted provided that the following conditions
  11  * are met:
  12  *
  13  * 1. Redistributions of source code must retain the above copyright
  14  *    notice, this list of conditions and the following disclaimer.
  15  *
  16  * 2. Redistributions in binary form must reproduce the above copyright
  17  *    notice, this list of conditions and the following disclaimer in
  18  *    the documentation and/or other materials provided with the
  19  *    distribution.
  20  *
  21  * 3. All advertising materials mentioning features or use of this
  22  *    software must display the following acknowledgment:
  23  *    "This product includes software developed by the OpenSSL Project
  24  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
  25  *
  26  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
  27  *    endorse or promote products derived from this software without
  28  *    prior written permission. For written permission, please contact
  29  *    licensing@OpenSSL.org.
  30  *
  31  * 5. Products derived from this software may not be called "OpenSSL"
  32  *    nor may "OpenSSL" appear in their names without prior written
  33  *    permission of the OpenSSL Project.
  34  *
  35  * 6. Redistributions of any form whatsoever must retain the following
  36  *    acknowledgment:
  37  *    "This product includes software developed by the OpenSSL Project
  38  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
  39  *
  40  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
  41  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  42  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
  43  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
  44  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
  45  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
  46  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
  47  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
  49  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
  50  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
  51  * OF THE POSSIBILITY OF SUCH DAMAGE.
  52  * ====================================================================
  53  *
  54  * This product includes cryptographic software written by Eric Young
  55  * (eay@cryptsoft.com).  This product includes software written by Tim
  56  * Hudson (tjh@cryptsoft.com).
  57  *
  58  */
  59
  60 #include <stdio.h>
  61 #include "cryptlib.h"
  62 #include <openssl/asn1t.h>
  63 #include <openssl/x509.h>
  64 #include <openssl/rsa.h>
  65 #include <openssl/bn.h>
  66 #ifndef OPENSSL_NO_CMS
  67 # include <openssl/cms.h>
  68 #endif
  69 #include "internal/asn1_int.h"
  70
  71 static int rsa_cms_sign(CMS_SignerInfo *si);
  72 static int rsa_cms_verify(CMS_SignerInfo *si);
  73 static int rsa_cms_decrypt(CMS_RecipientInfo *ri);
  74 static int rsa_cms_encrypt(CMS_RecipientInfo *ri);
  75
  76 static int rsa_pub_encode(X509_PUBKEY *pk, const EVP_PKEY *pkey)
  77 {
  78     unsigned char *penc = NULL;
  79     int penclen;
  80     penclen = i2d_RSAPublicKey(pkey->pkey.rsa, &penc);
  81     if (penclen <= 0)
  82         return 0;
  83     if (X509_PUBKEY_set0_param(pk, OBJ_nid2obj(EVP_PKEY_RSA),
  84                                V_ASN1_NULL, NULL, penc, penclen))
  85         return 1;
  86
  87     OPENSSL_free(penc);
  88     return 0;
  89 }
  90
  91 static int rsa_pub_decode(EVP_PKEY *pkey, X509_PUBKEY *pubkey)
  92 {
  93     const unsigned char *p;
  94     int pklen;
  95     RSA *rsa = NULL;
  96     if (!X509_PUBKEY_get0_param(NULL, &p, &pklen, NULL, pubkey))
  97         return 0;
  98     if (!(rsa = d2i_RSAPublicKey(NULL, &p, pklen))) {
  99         RSAerr(RSA_F_RSA_PUB_DECODE, ERR_R_RSA_LIB);
 100         return 0;
 101     }
 102     EVP_PKEY_assign_RSA(pkey, rsa);
 103     return 1;
 104 }
 105
 106 static int rsa_pub_cmp(const EVP_PKEY *a, const EVP_PKEY *b)
 107 {
 108     if (BN_cmp(b->pkey.rsa->n, a->pkey.rsa->n) != 0
 109         || BN_cmp(b->pkey.rsa->e, a->pkey.rsa->e) != 0)
 110         return 0;
 111     return 1;
 112 }
 113
 114 static int old_rsa_priv_decode(EVP_PKEY *pkey,
 115                                const unsigned char **pder, int derlen)
 116 {
 117     RSA *rsa;
 118     if (!(rsa = d2i_RSAPrivateKey(NULL, pder, derlen))) {
 119         RSAerr(RSA_F_OLD_RSA_PRIV_DECODE, ERR_R_RSA_LIB);
 120         return 0;
 121     }
 122     EVP_PKEY_assign_RSA(pkey, rsa);
 123     return 1;
 124 }
 125
 126 static int old_rsa_priv_encode(const EVP_PKEY *pkey, unsigned char **pder)
 127 {
 128     return i2d_RSAPrivateKey(pkey->pkey.rsa, pder);
 129 }
 130
 131 static int rsa_priv_encode(PKCS8_PRIV_KEY_INFO *p8, const EVP_PKEY *pkey)
 132 {
 133     unsigned char *rk = NULL;
 134     int rklen;
 135     rklen = i2d_RSAPrivateKey(pkey->pkey.rsa, &rk);
 136
 137     if (rklen <= 0) {
 138         RSAerr(RSA_F_RSA_PRIV_ENCODE, ERR_R_MALLOC_FAILURE);
 139         return 0;
 140     }
 141
 142     if (!PKCS8_pkey_set0(p8, OBJ_nid2obj(NID_rsaEncryption), 0,
 143                          V_ASN1_NULL, NULL, rk, rklen)) {
 144         RSAerr(RSA_F_RSA_PRIV_ENCODE, ERR_R_MALLOC_FAILURE);
 145         return 0;
 146     }
 147
 148     return 1;
 149 }
 150
 151 static int rsa_priv_decode(EVP_PKEY *pkey, PKCS8_PRIV_KEY_INFO *p8)
 152 {
 153     const unsigned char *p;
 154     int pklen;
 155     if (!PKCS8_pkey_get0(NULL, &p, &pklen, NULL, p8))
 156         return 0;
 157     return old_rsa_priv_decode(pkey, &p, pklen);
 158 }
 159
 160 static int int_rsa_size(const EVP_PKEY *pkey)
 161 {
 162     return RSA_size(pkey->pkey.rsa);
 163 }
 164
 165 static int rsa_bits(const EVP_PKEY *pkey)
 166 {
 167     return BN_num_bits(pkey->pkey.rsa->n);
 168 }
 169
 170 static int rsa_security_bits(const EVP_PKEY *pkey)
 171 {
 172     return RSA_security_bits(pkey->pkey.rsa);
 173 }
 174
 175 static void int_rsa_free(EVP_PKEY *pkey)
 176 {
 177     RSA_free(pkey->pkey.rsa);
 178 }
 179
 180 static void update_buflen(const BIGNUM *b, size_t *pbuflen)
 181 {
 182     size_t i;
 183     if (!b)
 184         return;
 185     if (*pbuflen < (i = (size_t)BN_num_bytes(b)))
 186         *pbuflen = i;
 187 }
 188
 189 static int do_rsa_print(BIO *bp, const RSA *x, int off, int priv)
 190 {
 191     char *str;
 192     const char *s;
 193     unsigned char *m = NULL;
 194     int ret = 0, mod_len = 0;
 195     size_t buf_len = 0;
 196
 197     update_buflen(x->n, &buf_len);
 198     update_buflen(x->e, &buf_len);
 199
 200     if (priv) {
 201         update_buflen(x->d, &buf_len);
 202         update_buflen(x->p, &buf_len);
 203         update_buflen(x->q, &buf_len);
 204         update_buflen(x->dmp1, &buf_len);
 205         update_buflen(x->dmq1, &buf_len);
 206         update_buflen(x->iqmp, &buf_len);
 207     }
 208
 209     m = OPENSSL_malloc(buf_len + 10);
 210     if (m == NULL) {
 211         RSAerr(RSA_F_DO_RSA_PRINT, ERR_R_MALLOC_FAILURE);
 212         goto err;
 213     }
 214
 215     if (x->n != NULL)
 216         mod_len = BN_num_bits(x->n);
 217
 218     if (!BIO_indent(bp, off, 128))
 219         goto err;
 220
 221     if (priv && x->d) {
 222         if (BIO_printf(bp, "Private-Key: (%d bit)\n", mod_len)
 223             <= 0)
 224             goto err;
 225         str = "modulus:";
 226         s = "publicExponent:";
 227     } else {
 228         if (BIO_printf(bp, "Public-Key: (%d bit)\n", mod_len)
 229             <= 0)
 230             goto err;
 231         str = "Modulus:";
 232         s = "Exponent:";
 233     }
 234     if (!ASN1_bn_print(bp, str, x->n, m, off))
 235         goto err;
 236     if (!ASN1_bn_print(bp, s, x->e, m, off))
 237         goto err;
 238     if (priv) {
 239         if (!ASN1_bn_print(bp, "privateExponent:", x->d, m, off))
 240             goto err;
 241         if (!ASN1_bn_print(bp, "prime1:", x->p, m, off))
 242             goto err;
 243         if (!ASN1_bn_print(bp, "prime2:", x->q, m, off))
 244             goto err;
 245         if (!ASN1_bn_print(bp, "exponent1:", x->dmp1, m, off))
 246             goto err;
 247         if (!ASN1_bn_print(bp, "exponent2:", x->dmq1, m, off))
 248             goto err;
 249         if (!ASN1_bn_print(bp, "coefficient:", x->iqmp, m, off))
 250             goto err;
 251     }
 252     ret = 1;
 253  err:
 254     OPENSSL_free(m);
 255     return (ret);
 256 }
 257
 258 static int rsa_pub_print(BIO *bp, const EVP_PKEY *pkey, int indent,
 259                          ASN1_PCTX *ctx)
 260 {
 261     return do_rsa_print(bp, pkey->pkey.rsa, indent, 0);
 262 }
 263
 264 static int rsa_priv_print(BIO *bp, const EVP_PKEY *pkey, int indent,
 265                           ASN1_PCTX *ctx)
 266 {
 267     return do_rsa_print(bp, pkey->pkey.rsa, indent, 1);
 268 }
 269
 270 /* Given an MGF1 Algorithm ID decode to an Algorithm Identifier */
 271 static X509_ALGOR *rsa_mgf1_decode(X509_ALGOR *alg)
 272 {
 273     if (alg == NULL)
 274         return NULL;
 275     if (OBJ_obj2nid(alg->algorithm) != NID_mgf1)
 276         return NULL;
 277     return ASN1_TYPE_unpack_sequence(ASN1_ITEM_rptr(X509_ALGOR),
 278                                      alg->parameter);
 279 }
 280
 281 static RSA_PSS_PARAMS *rsa_pss_decode(const X509_ALGOR *alg,
 282                                       X509_ALGOR **pmaskHash)
 283 {
 284     RSA_PSS_PARAMS *pss;
 285
 286     *pmaskHash = NULL;
 287
 288     pss = ASN1_TYPE_unpack_sequence(ASN1_ITEM_rptr(RSA_PSS_PARAMS),
 289                                     alg->parameter);
 290
 291     if (!pss)
 292         return NULL;
 293
 294     *pmaskHash = rsa_mgf1_decode(pss->maskGenAlgorithm);
 295
 296     return pss;
 297 }
 298
 299 static int rsa_pss_param_print(BIO *bp, RSA_PSS_PARAMS *pss,
 300                                X509_ALGOR *maskHash, int indent)
 301 {
 302     int rv = 0;
 303     if (!pss) {
 304         if (BIO_puts(bp, " (INVALID PSS PARAMETERS)\n") <= 0)
 305             return 0;
 306         return 1;
 307     }
 308     if (BIO_puts(bp, "\n") <= 0)
 309         goto err;
 310     if (!BIO_indent(bp, indent, 128))
 311         goto err;
 312     if (BIO_puts(bp, "Hash Algorithm: ") <= 0)
 313         goto err;
 314
 315     if (pss->hashAlgorithm) {
 316         if (i2a_ASN1_OBJECT(bp, pss->hashAlgorithm->algorithm) <= 0)
 317             goto err;
 318     } else if (BIO_puts(bp, "sha1 (default)") <= 0)
 319         goto err;
 320
 321     if (BIO_puts(bp, "\n") <= 0)
 322         goto err;
 323
 324     if (!BIO_indent(bp, indent, 128))
 325         goto err;
 326
 327     if (BIO_puts(bp, "Mask Algorithm: ") <= 0)
 328         goto err;
 329     if (pss->maskGenAlgorithm) {
 330         if (i2a_ASN1_OBJECT(bp, pss->maskGenAlgorithm->algorithm) <= 0)
 331             goto err;
 332         if (BIO_puts(bp, " with ") <= 0)
 333             goto err;
 334         if (maskHash) {
 335             if (i2a_ASN1_OBJECT(bp, maskHash->algorithm) <= 0)
 336                 goto err;
 337         } else if (BIO_puts(bp, "INVALID") <= 0)
 338             goto err;
 339     } else if (BIO_puts(bp, "mgf1 with sha1 (default)") <= 0)
 340         goto err;
 341     BIO_puts(bp, "\n");
 342
 343     if (!BIO_indent(bp, indent, 128))
 344         goto err;
 345     if (BIO_puts(bp, "Salt Length: 0x") <= 0)
 346         goto err;
 347     if (pss->saltLength) {
 348         if (i2a_ASN1_INTEGER(bp, pss->saltLength) <= 0)
 349             goto err;
 350     } else if (BIO_puts(bp, "14 (default)") <= 0)
 351         goto err;
 352     BIO_puts(bp, "\n");
 353
 354     if (!BIO_indent(bp, indent, 128))
 355         goto err;
 356     if (BIO_puts(bp, "Trailer Field: 0x") <= 0)
 357         goto err;
 358     if (pss->trailerField) {
 359         if (i2a_ASN1_INTEGER(bp, pss->trailerField) <= 0)
 360             goto err;
 361     } else if (BIO_puts(bp, "BC (default)") <= 0)
 362         goto err;
 363     BIO_puts(bp, "\n");
 364
 365     rv = 1;
 366
 367  err:
 368     return rv;
 369
 370 }
 371
 372 static int rsa_sig_print(BIO *bp, const X509_ALGOR *sigalg,
 373                          const ASN1_STRING *sig, int indent, ASN1_PCTX *pctx)
 374 {
 375     if (OBJ_obj2nid(sigalg->algorithm) == NID_rsassaPss) {
 376         int rv;
 377         RSA_PSS_PARAMS *pss;
 378         X509_ALGOR *maskHash;
 379         pss = rsa_pss_decode(sigalg, &maskHash);
 380         rv = rsa_pss_param_print(bp, pss, maskHash, indent);
 381         RSA_PSS_PARAMS_free(pss);
 382         X509_ALGOR_free(maskHash);
 383         if (!rv)
 384             return 0;
 385     } else if (!sig && BIO_puts(bp, "\n") <= 0)
 386         return 0;
 387     if (sig)
 388         return X509_signature_dump(bp, sig, indent);
 389     return 1;
 390 }
 391
 392 static int rsa_pkey_ctrl(EVP_PKEY *pkey, int op, long arg1, void *arg2)
 393 {
 394     X509_ALGOR *alg = NULL;
 395     switch (op) {
 396
 397     case ASN1_PKEY_CTRL_PKCS7_SIGN:
 398         if (arg1 == 0)
 399             PKCS7_SIGNER_INFO_get0_algs(arg2, NULL, NULL, &alg);
 400         break;
 401
 402     case ASN1_PKEY_CTRL_PKCS7_ENCRYPT:
 403         if (arg1 == 0)
 404             PKCS7_RECIP_INFO_get0_alg(arg2, &alg);
 405         break;
 406 #ifndef OPENSSL_NO_CMS
 407     case ASN1_PKEY_CTRL_CMS_SIGN:
 408         if (arg1 == 0)
 409             return rsa_cms_sign(arg2);
 410         else if (arg1 == 1)
 411             return rsa_cms_verify(arg2);
 412         break;
 413
 414     case ASN1_PKEY_CTRL_CMS_ENVELOPE:
 415         if (arg1 == 0)
 416             return rsa_cms_encrypt(arg2);
 417         else if (arg1 == 1)
 418             return rsa_cms_decrypt(arg2);
 419         break;
 420
 421     case ASN1_PKEY_CTRL_CMS_RI_TYPE:
 422         *(int *)arg2 = CMS_RECIPINFO_TRANS;
 423         return 1;
 424 #endif
 425
 426     case ASN1_PKEY_CTRL_DEFAULT_MD_NID:
 427         *(int *)arg2 = NID_sha256;
 428         return 1;
 429
 430     default:
 431         return -2;
 432
 433     }
 434
 435     if (alg)
 436         X509_ALGOR_set0(alg, OBJ_nid2obj(NID_rsaEncryption), V_ASN1_NULL, 0);
 437
 438     return 1;
 439
 440 }
 441
 442 /* allocate and set algorithm ID from EVP_MD, default SHA1 */
 443 static int rsa_md_to_algor(X509_ALGOR **palg, const EVP_MD *md)
 444 {
 445     if (EVP_MD_type(md) == NID_sha1)
 446         return 1;
 447     *palg = X509_ALGOR_new();
 448     if (!*palg)
 449         return 0;
 450     X509_ALGOR_set_md(*palg, md);
 451     return 1;
 452 }
 453
 454 /* Allocate and set MGF1 algorithm ID from EVP_MD */
 455 static int rsa_md_to_mgf1(X509_ALGOR **palg, const EVP_MD *mgf1md)
 456 {
 457     X509_ALGOR *algtmp = NULL;
 458     ASN1_STRING *stmp = NULL;
 459     *palg = NULL;
 460     if (EVP_MD_type(mgf1md) == NID_sha1)
 461         return 1;
 462     /* need to embed algorithm ID inside another */
 463     if (!rsa_md_to_algor(&algtmp, mgf1md))
 464         goto err;
 465     if (!ASN1_item_pack(algtmp, ASN1_ITEM_rptr(X509_ALGOR), &stmp))
 466          goto err;
 467     *palg = X509_ALGOR_new();
 468     if (!*palg)
 469         goto err;
 470     X509_ALGOR_set0(*palg, OBJ_nid2obj(NID_mgf1), V_ASN1_SEQUENCE, stmp);
 471     stmp = NULL;
 472  err:
 473     ASN1_STRING_free(stmp);
 474     X509_ALGOR_free(algtmp);
 475     if (*palg)
 476         return 1;
 477     return 0;
 478 }
 479
 480 /* convert algorithm ID to EVP_MD, default SHA1 */
 481 static const EVP_MD *rsa_algor_to_md(X509_ALGOR *alg)
 482 {
 483     const EVP_MD *md;
 484     if (!alg)
 485         return EVP_sha1();
 486     md = EVP_get_digestbyobj(alg->algorithm);
 487     if (md == NULL)
 488         RSAerr(RSA_F_RSA_ALGOR_TO_MD, RSA_R_UNKNOWN_DIGEST);
 489     return md;
 490 }
 491
 492 /* convert MGF1 algorithm ID to EVP_MD, default SHA1 */
 493 static const EVP_MD *rsa_mgf1_to_md(X509_ALGOR *alg, X509_ALGOR *maskHash)
 494 {
 495     const EVP_MD *md;
 496     if (!alg)
 497         return EVP_sha1();
 498     /* Check mask and lookup mask hash algorithm */
 499     if (OBJ_obj2nid(alg->algorithm) != NID_mgf1) {
 500         RSAerr(RSA_F_RSA_MGF1_TO_MD, RSA_R_UNSUPPORTED_MASK_ALGORITHM);
 501         return NULL;
 502     }
 503     if (!maskHash) {
 504         RSAerr(RSA_F_RSA_MGF1_TO_MD, RSA_R_UNSUPPORTED_MASK_PARAMETER);
 505         return NULL;
 506     }
 507     md = EVP_get_digestbyobj(maskHash->algorithm);
 508     if (md == NULL) {
 509         RSAerr(RSA_F_RSA_MGF1_TO_MD, RSA_R_UNKNOWN_MASK_DIGEST);
 510         return NULL;
 511     }
 512     return md;
 513 }
 514
 515 /*
 516  * Convert EVP_PKEY_CTX is PSS mode into corresponding algorithm parameter,
 517  * suitable for setting an AlgorithmIdentifier.
 518  */
 519
 520 static ASN1_STRING *rsa_ctx_to_pss(EVP_PKEY_CTX *pkctx)
 521 {
 522     const EVP_MD *sigmd, *mgf1md;
 523     RSA_PSS_PARAMS *pss = NULL;
 524     ASN1_STRING *os = NULL;
 525     EVP_PKEY *pk = EVP_PKEY_CTX_get0_pkey(pkctx);
 526     int saltlen, rv = 0;
 527     if (EVP_PKEY_CTX_get_signature_md(pkctx, &sigmd) <= 0)
 528         goto err;
 529     if (EVP_PKEY_CTX_get_rsa_mgf1_md(pkctx, &mgf1md) <= 0)
 530         goto err;
 531     if (!EVP_PKEY_CTX_get_rsa_pss_saltlen(pkctx, &saltlen))
 532         goto err;
 533     if (saltlen == -1)
 534         saltlen = EVP_MD_size(sigmd);
 535     else if (saltlen == -2) {
 536         saltlen = EVP_PKEY_size(pk) - EVP_MD_size(sigmd) - 2;
 537         if (((EVP_PKEY_bits(pk) - 1) & 0x7) == 0)
 538             saltlen--;
 539     }
 540     pss = RSA_PSS_PARAMS_new();
 541     if (!pss)
 542         goto err;
 543     if (saltlen != 20) {
 544         pss->saltLength = ASN1_INTEGER_new();
 545         if (!pss->saltLength)
 546             goto err;
 547         if (!ASN1_INTEGER_set(pss->saltLength, saltlen))
 548             goto err;
 549     }
 550     if (!rsa_md_to_algor(&pss->hashAlgorithm, sigmd))
 551         goto err;
 552     if (!rsa_md_to_mgf1(&pss->maskGenAlgorithm, mgf1md))
 553         goto err;
 554     /* Finally create string with pss parameter encoding. */
 555     if (!ASN1_item_pack(pss, ASN1_ITEM_rptr(RSA_PSS_PARAMS), &os))
 556          goto err;
 557     rv = 1;
 558  err:
 559     RSA_PSS_PARAMS_free(pss);
 560     if (rv)
 561         return os;
 562     ASN1_STRING_free(os);
 563     return NULL;
 564 }
 565
 566 /*
 567  * From PSS AlgorithmIdentifier set public key parameters. If pkey isn't NULL
 568  * then the EVP_MD_CTX is setup and initalised. If it is NULL parameters are
 569  * passed to pkctx instead.
 570  */
 571
 572 static int rsa_pss_to_ctx(EVP_MD_CTX *ctx, EVP_PKEY_CTX *pkctx,
 573                           X509_ALGOR *sigalg, EVP_PKEY *pkey)
 574 {
 575     int rv = -1;
 576     int saltlen;
 577     const EVP_MD *mgf1md = NULL, *md = NULL;
 578     RSA_PSS_PARAMS *pss;
 579     X509_ALGOR *maskHash;
 580     /* Sanity check: make sure it is PSS */
 581     if (OBJ_obj2nid(sigalg->algorithm) != NID_rsassaPss) {
 582         RSAerr(RSA_F_RSA_PSS_TO_CTX, RSA_R_UNSUPPORTED_SIGNATURE_TYPE);
 583         return -1;
 584     }
 585     /* Decode PSS parameters */
 586     pss = rsa_pss_decode(sigalg, &maskHash);
 587
 588     if (pss == NULL) {
 589         RSAerr(RSA_F_RSA_PSS_TO_CTX, RSA_R_INVALID_PSS_PARAMETERS);
 590         goto err;
 591     }
 592     mgf1md = rsa_mgf1_to_md(pss->maskGenAlgorithm, maskHash);
 593     if (!mgf1md)
 594         goto err;
 595     md = rsa_algor_to_md(pss->hashAlgorithm);
 596     if (!md)
 597         goto err;
 598
 599     if (pss->saltLength) {
 600         saltlen = ASN1_INTEGER_get(pss->saltLength);
 601
 602         /*
 603          * Could perform more salt length sanity checks but the main RSA
 604          * routines will trap other invalid values anyway.
 605          */
 606         if (saltlen < 0) {
 607             RSAerr(RSA_F_RSA_PSS_TO_CTX, RSA_R_INVALID_SALT_LENGTH);
 608             goto err;
 609         }
 610     } else
 611         saltlen = 20;
 612
 613     /*
 614      * low-level routines support only trailer field 0xbc (value 1) and
 615      * PKCS#1 says we should reject any other value anyway.
 616      */
 617     if (pss->trailerField && ASN1_INTEGER_get(pss->trailerField) != 1) {
 618         RSAerr(RSA_F_RSA_PSS_TO_CTX, RSA_R_INVALID_TRAILER);
 619         goto err;
 620     }
 621
 622     /* We have all parameters now set up context */
 623
 624     if (pkey) {
 625         if (!EVP_DigestVerifyInit(ctx, &pkctx, md, NULL, pkey))
 626             goto err;
 627     } else {
 628         const EVP_MD *checkmd;
 629         if (EVP_PKEY_CTX_get_signature_md(pkctx, &checkmd) <= 0)
 630             goto err;
 631         if (EVP_MD_type(md) != EVP_MD_type(checkmd)) {
 632             RSAerr(RSA_F_RSA_PSS_TO_CTX, RSA_R_DIGEST_DOES_NOT_MATCH);
 633             goto err;
 634         }
 635     }
 636
 637     if (EVP_PKEY_CTX_set_rsa_padding(pkctx, RSA_PKCS1_PSS_PADDING) <= 0)
 638         goto err;
 639
 640     if (EVP_PKEY_CTX_set_rsa_pss_saltlen(pkctx, saltlen) <= 0)
 641         goto err;
 642
 643     if (EVP_PKEY_CTX_set_rsa_mgf1_md(pkctx, mgf1md) <= 0)
 644         goto err;
 645     /* Carry on */
 646     rv = 1;
 647
 648  err:
 649     RSA_PSS_PARAMS_free(pss);
 650     X509_ALGOR_free(maskHash);
 651     return rv;
 652 }
 653
 654 static int rsa_cms_verify(CMS_SignerInfo *si)
 655 {
 656     int nid, nid2;
 657     X509_ALGOR *alg;
 658     EVP_PKEY_CTX *pkctx = CMS_SignerInfo_get0_pkey_ctx(si);
 659     CMS_SignerInfo_get0_algs(si, NULL, NULL, NULL, &alg);
 660     nid = OBJ_obj2nid(alg->algorithm);
 661     if (nid == NID_rsaEncryption)
 662         return 1;
 663     if (nid == NID_rsassaPss)
 664         return rsa_pss_to_ctx(NULL, pkctx, alg, NULL);
 665     /* Workaround for some implementation that use a signature OID */
 666     if (OBJ_find_sigid_algs(nid, NULL, &nid2)) {
 667         if (nid2 == NID_rsaEncryption)
 668             return 1;
 669     }
 670     return 0;
 671 }
 672
 673 /*
 674  * Customised RSA item verification routine. This is called when a signature
 675  * is encountered requiring special handling. We currently only handle PSS.
 676  */
 677
 678 static int rsa_item_verify(EVP_MD_CTX *ctx, const ASN1_ITEM *it, void *asn,
 679                            X509_ALGOR *sigalg, ASN1_BIT_STRING *sig,
 680                            EVP_PKEY *pkey)
 681 {
 682     /* Sanity check: make sure it is PSS */
 683     if (OBJ_obj2nid(sigalg->algorithm) != NID_rsassaPss) {
 684         RSAerr(RSA_F_RSA_ITEM_VERIFY, RSA_R_UNSUPPORTED_SIGNATURE_TYPE);
 685         return -1;
 686     }
 687     if (rsa_pss_to_ctx(ctx, NULL, sigalg, pkey) > 0) {
 688         /* Carry on */
 689         return 2;
 690     }
 691     return -1;
 692 }
 693
 694 static int rsa_cms_sign(CMS_SignerInfo *si)
 695 {
 696     int pad_mode = RSA_PKCS1_PADDING;
 697     X509_ALGOR *alg;
 698     EVP_PKEY_CTX *pkctx = CMS_SignerInfo_get0_pkey_ctx(si);
 699     ASN1_STRING *os = NULL;
 700     CMS_SignerInfo_get0_algs(si, NULL, NULL, NULL, &alg);
 701     if (pkctx) {
 702         if (EVP_PKEY_CTX_get_rsa_padding(pkctx, &pad_mode) <= 0)
 703             return 0;
 704     }
 705     if (pad_mode == RSA_PKCS1_PADDING) {
 706         X509_ALGOR_set0(alg, OBJ_nid2obj(NID_rsaEncryption), V_ASN1_NULL, 0);
 707         return 1;
 708     }
 709     /* We don't support it */
 710     if (pad_mode != RSA_PKCS1_PSS_PADDING)
 711         return 0;
 712     os = rsa_ctx_to_pss(pkctx);
 713     if (!os)
 714         return 0;
 715     X509_ALGOR_set0(alg, OBJ_nid2obj(NID_rsassaPss), V_ASN1_SEQUENCE, os);
 716     return 1;
 717 }
 718
 719 static int rsa_item_sign(EVP_MD_CTX *ctx, const ASN1_ITEM *it, void *asn,
 720                          X509_ALGOR *alg1, X509_ALGOR *alg2,
 721                          ASN1_BIT_STRING *sig)
 722 {
 723     int pad_mode;
 724     EVP_PKEY_CTX *pkctx = ctx->pctx;
 725     if (EVP_PKEY_CTX_get_rsa_padding(pkctx, &pad_mode) <= 0)
 726         return 0;
 727     if (pad_mode == RSA_PKCS1_PADDING)
 728         return 2;
 729     if (pad_mode == RSA_PKCS1_PSS_PADDING) {
 730         ASN1_STRING *os1 = NULL;
 731         os1 = rsa_ctx_to_pss(pkctx);
 732         if (!os1)
 733             return 0;
 734         /* Duplicate parameters if we have to */
 735         if (alg2) {
 736             ASN1_STRING *os2 = ASN1_STRING_dup(os1);
 737             if (!os2) {
 738                 ASN1_STRING_free(os1);
 739                 return 0;
 740             }
 741             X509_ALGOR_set0(alg2, OBJ_nid2obj(NID_rsassaPss),
 742                             V_ASN1_SEQUENCE, os2);
 743         }
 744         X509_ALGOR_set0(alg1, OBJ_nid2obj(NID_rsassaPss),
 745                         V_ASN1_SEQUENCE, os1);
 746         return 3;
 747     }
 748     return 2;
 749 }
 750
 751 static RSA_OAEP_PARAMS *rsa_oaep_decode(const X509_ALGOR *alg,
 752                                         X509_ALGOR **pmaskHash)
 753 {
 754     RSA_OAEP_PARAMS *pss;
 755
 756     *pmaskHash = NULL;
 757
 758     pss = ASN1_TYPE_unpack_sequence(ASN1_ITEM_rptr(RSA_OAEP_PARAMS),
 759                                     alg->parameter);
 760
 761     if (!pss)
 762         return NULL;
 763
 764     *pmaskHash = rsa_mgf1_decode(pss->maskGenFunc);
 765
 766     return pss;
 767 }
 768
 769 static int rsa_cms_decrypt(CMS_RecipientInfo *ri)
 770 {
 771     EVP_PKEY_CTX *pkctx;
 772     X509_ALGOR *cmsalg;
 773     int nid;
 774     int rv = -1;
 775     unsigned char *label = NULL;
 776     int labellen = 0;
 777     const EVP_MD *mgf1md = NULL, *md = NULL;
 778     RSA_OAEP_PARAMS *oaep;
 779     X509_ALGOR *maskHash;
 780     pkctx = CMS_RecipientInfo_get0_pkey_ctx(ri);
 781     if (!pkctx)
 782         return 0;
 783     if (!CMS_RecipientInfo_ktri_get0_algs(ri, NULL, NULL, &cmsalg))
 784         return -1;
 785     nid = OBJ_obj2nid(cmsalg->algorithm);
 786     if (nid == NID_rsaEncryption)
 787         return 1;
 788     if (nid != NID_rsaesOaep) {
 789         RSAerr(RSA_F_RSA_CMS_DECRYPT, RSA_R_UNSUPPORTED_ENCRYPTION_TYPE);
 790         return -1;
 791     }
 792     /* Decode OAEP parameters */
 793     oaep = rsa_oaep_decode(cmsalg, &maskHash);
 794
 795     if (oaep == NULL) {
 796         RSAerr(RSA_F_RSA_CMS_DECRYPT, RSA_R_INVALID_OAEP_PARAMETERS);
 797         goto err;
 798     }
 799
 800     mgf1md = rsa_mgf1_to_md(oaep->maskGenFunc, maskHash);
 801     if (!mgf1md)
 802         goto err;
 803     md = rsa_algor_to_md(oaep->hashFunc);
 804     if (!md)
 805         goto err;
 806
 807     if (oaep->pSourceFunc) {
 808         X509_ALGOR *plab = oaep->pSourceFunc;
 809         if (OBJ_obj2nid(plab->algorithm) != NID_pSpecified) {
 810             RSAerr(RSA_F_RSA_CMS_DECRYPT, RSA_R_UNSUPPORTED_LABEL_SOURCE);
 811             goto err;
 812         }
 813         if (plab->parameter->type != V_ASN1_OCTET_STRING) {
 814             RSAerr(RSA_F_RSA_CMS_DECRYPT, RSA_R_INVALID_LABEL);
 815             goto err;
 816         }
 817
 818         label = plab->parameter->value.octet_string->data;
 819         /* Stop label being freed when OAEP parameters are freed */
 820         plab->parameter->value.octet_string->data = NULL;
 821         labellen = plab->parameter->value.octet_string->length;
 822     }
 823
 824     if (EVP_PKEY_CTX_set_rsa_padding(pkctx, RSA_PKCS1_OAEP_PADDING) <= 0)
 825         goto err;
 826     if (EVP_PKEY_CTX_set_rsa_oaep_md(pkctx, md) <= 0)
 827         goto err;
 828     if (EVP_PKEY_CTX_set_rsa_mgf1_md(pkctx, mgf1md) <= 0)
 829         goto err;
 830     if (EVP_PKEY_CTX_set0_rsa_oaep_label(pkctx, label, labellen) <= 0)
 831         goto err;
 832     /* Carry on */
 833     rv = 1;
 834
 835  err:
 836     RSA_OAEP_PARAMS_free(oaep);
 837     X509_ALGOR_free(maskHash);
 838     return rv;
 839 }
 840
 841 static int rsa_cms_encrypt(CMS_RecipientInfo *ri)
 842 {
 843     const EVP_MD *md, *mgf1md;
 844     RSA_OAEP_PARAMS *oaep = NULL;
 845     ASN1_STRING *os = NULL;
 846     X509_ALGOR *alg;
 847     EVP_PKEY_CTX *pkctx = CMS_RecipientInfo_get0_pkey_ctx(ri);
 848     int pad_mode = RSA_PKCS1_PADDING, rv = 0, labellen;
 849     unsigned char *label;
 850     CMS_RecipientInfo_ktri_get0_algs(ri, NULL, NULL, &alg);
 851     if (pkctx) {
 852         if (EVP_PKEY_CTX_get_rsa_padding(pkctx, &pad_mode) <= 0)
 853             return 0;
 854     }
 855     if (pad_mode == RSA_PKCS1_PADDING) {
 856         X509_ALGOR_set0(alg, OBJ_nid2obj(NID_rsaEncryption), V_ASN1_NULL, 0);
 857         return 1;
 858     }
 859     /* Not supported */
 860     if (pad_mode != RSA_PKCS1_OAEP_PADDING)
 861         return 0;
 862     if (EVP_PKEY_CTX_get_rsa_oaep_md(pkctx, &md) <= 0)
 863         goto err;
 864     if (EVP_PKEY_CTX_get_rsa_mgf1_md(pkctx, &mgf1md) <= 0)
 865         goto err;
 866     labellen = EVP_PKEY_CTX_get0_rsa_oaep_label(pkctx, &label);
 867     if (labellen < 0)
 868         goto err;
 869     oaep = RSA_OAEP_PARAMS_new();
 870     if (!oaep)
 871         goto err;
 872     if (!rsa_md_to_algor(&oaep->hashFunc, md))
 873         goto err;
 874     if (!rsa_md_to_mgf1(&oaep->maskGenFunc, mgf1md))
 875         goto err;
 876     if (labellen > 0) {
 877         ASN1_OCTET_STRING *los = ASN1_OCTET_STRING_new();
 878         oaep->pSourceFunc = X509_ALGOR_new();
 879         if (!oaep->pSourceFunc)
 880             goto err;
 881         if (!los)
 882             goto err;
 883         if (!ASN1_OCTET_STRING_set(los, label, labellen)) {
 884             ASN1_OCTET_STRING_free(los);
 885             goto err;
 886         }
 887         X509_ALGOR_set0(oaep->pSourceFunc, OBJ_nid2obj(NID_pSpecified),
 888                         V_ASN1_OCTET_STRING, los);
 889     }
 890     /* create string with pss parameter encoding. */
 891     if (!ASN1_item_pack(oaep, ASN1_ITEM_rptr(RSA_OAEP_PARAMS), &os))
 892          goto err;
 893     X509_ALGOR_set0(alg, OBJ_nid2obj(NID_rsaesOaep), V_ASN1_SEQUENCE, os);
 894     os = NULL;
 895     rv = 1;
 896  err:
 897     RSA_OAEP_PARAMS_free(oaep);
 898     ASN1_STRING_free(os);
 899     return rv;
 900 }
 901
 902 const EVP_PKEY_ASN1_METHOD rsa_asn1_meths[] = {
 903     {
 904      EVP_PKEY_RSA,
 905      EVP_PKEY_RSA,
 906      ASN1_PKEY_SIGPARAM_NULL,
 907
 908      "RSA",
 909      "OpenSSL RSA method",
 910
 911      rsa_pub_decode,
 912      rsa_pub_encode,
 913      rsa_pub_cmp,
 914      rsa_pub_print,
 915
 916      rsa_priv_decode,
 917      rsa_priv_encode,
 918      rsa_priv_print,
 919
 920      int_rsa_size,
 921      rsa_bits,
 922      rsa_security_bits,
 923
 924      0, 0, 0, 0, 0, 0,
 925
 926      rsa_sig_print,
 927      int_rsa_free,
 928      rsa_pkey_ctrl,
 929      old_rsa_priv_decode,
 930      old_rsa_priv_encode,
 931      rsa_item_verify,
 932      rsa_item_sign},
 933
 934     {
 935      EVP_PKEY_RSA2,
 936      EVP_PKEY_RSA,
 937      ASN1_PKEY_ALIAS}
 938 };