crypto/cms/cms_smime.c

   1 /*
   2  * Copyright 2008-2020 The OpenSSL Project Authors. All Rights Reserved.
   3  *
   4  * Licensed under the Apache License 2.0 (the "License").  You may not use
   5  * this file except in compliance with the License.  You can obtain a copy
   6  * in the file LICENSE in the source distribution or at
   7  * https://www.openssl.org/source/license.html
   8  */
   9
  10 #include "internal/cryptlib.h"
  11 #include <openssl/asn1t.h>
  12 #include <openssl/x509.h>
  13 #include <openssl/x509v3.h>
  14 #include <openssl/err.h>
  15 #include <openssl/cms.h>
  16 #include "cms_local.h"
  17 #include "crypto/asn1.h"
  18
  19 static BIO *cms_get_text_bio(BIO *out, unsigned int flags)
  20 {
  21     BIO *rbio;
  22
  23     if (out == NULL)
  24         rbio = BIO_new(BIO_s_null());
  25     else if (flags & CMS_TEXT) {
  26         rbio = BIO_new(BIO_s_mem());
  27         BIO_set_mem_eof_return(rbio, 0);
  28     } else
  29         rbio = out;
  30     return rbio;
  31 }
  32
  33 static int cms_copy_content(BIO *out, BIO *in, unsigned int flags)
  34 {
  35     unsigned char buf[4096];
  36     int r = 0, i;
  37     BIO *tmpout;
  38
  39     tmpout = cms_get_text_bio(out, flags);
  40
  41     if (tmpout == NULL) {
  42         ERR_raise(ERR_LIB_CMS, ERR_R_MALLOC_FAILURE);
  43         goto err;
  44     }
  45
  46     /* Read all content through chain to process digest, decrypt etc */
  47     for (;;) {
  48         i = BIO_read(in, buf, sizeof(buf));
  49         if (i <= 0) {
  50             if (BIO_method_type(in) == BIO_TYPE_CIPHER) {
  51                 if (!BIO_get_cipher_status(in))
  52                     goto err;
  53             }
  54             if (i < 0)
  55                 goto err;
  56             break;
  57         }
  58
  59         if (tmpout != NULL && (BIO_write(tmpout, buf, i) != i))
  60             goto err;
  61     }
  62
  63     if (flags & CMS_TEXT) {
  64         if (!SMIME_text(tmpout, out)) {
  65             ERR_raise(ERR_LIB_CMS, CMS_R_SMIME_TEXT_ERROR);
  66             goto err;
  67         }
  68     }
  69
  70     r = 1;
  71  err:
  72     if (tmpout != out)
  73         BIO_free(tmpout);
  74     return r;
  75
  76 }
  77
  78 static int check_content(CMS_ContentInfo *cms)
  79 {
  80     ASN1_OCTET_STRING **pos = CMS_get0_content(cms);
  81
  82     if (pos == NULL || *pos == NULL) {
  83         ERR_raise(ERR_LIB_CMS, CMS_R_NO_CONTENT);
  84         return 0;
  85     }
  86     return 1;
  87 }
  88
  89 static void do_free_upto(BIO *f, BIO *upto)
  90 {
  91     if (upto != NULL) {
  92         BIO *tbio;
  93
  94         do {
  95             tbio = BIO_pop(f);
  96             BIO_free(f);
  97             f = tbio;
  98         } while (f != NULL && f != upto);
  99     } else {
 100         BIO_free_all(f);
 101     }
 102 }
 103
 104 int CMS_data(CMS_ContentInfo *cms, BIO *out, unsigned int flags)
 105 {
 106     BIO *cont;
 107     int r;
 108
 109     if (OBJ_obj2nid(CMS_get0_type(cms)) != NID_pkcs7_data) {
 110         ERR_raise(ERR_LIB_CMS, CMS_R_TYPE_NOT_DATA);
 111         return 0;
 112     }
 113     cont = CMS_dataInit(cms, NULL);
 114     if (cont == NULL)
 115         return 0;
 116     r = cms_copy_content(out, cont, flags);
 117     BIO_free_all(cont);
 118     return r;
 119 }
 120
 121 CMS_ContentInfo *CMS_data_create_ex(BIO *in, unsigned int flags,
 122                                     OSSL_LIB_CTX *libctx, const char *propq)
 123 {
 124     CMS_ContentInfo *cms = cms_Data_create(libctx, propq);
 125
 126     if (cms == NULL)
 127         return NULL;
 128
 129     if ((flags & CMS_STREAM) || CMS_final(cms, in, NULL, flags))
 130         return cms;
 131
 132     CMS_ContentInfo_free(cms);
 133     return NULL;
 134 }
 135
 136 CMS_ContentInfo *CMS_data_create(BIO *in, unsigned int flags)
 137 {
 138     return CMS_data_create_ex(in, flags, NULL, NULL);
 139 }
 140
 141 int CMS_digest_verify(CMS_ContentInfo *cms, BIO *dcont, BIO *out,
 142                       unsigned int flags)
 143 {
 144     BIO *cont;
 145     int r;
 146
 147     if (OBJ_obj2nid(CMS_get0_type(cms)) != NID_pkcs7_digest) {
 148         ERR_raise(ERR_LIB_CMS, CMS_R_TYPE_NOT_DIGESTED_DATA);
 149         return 0;
 150     }
 151
 152     if (dcont == NULL && !check_content(cms))
 153         return 0;
 154
 155     cont = CMS_dataInit(cms, dcont);
 156     if (cont == NULL)
 157         return 0;
 158
 159     r = cms_copy_content(out, cont, flags);
 160     if (r)
 161         r = cms_DigestedData_do_final(cms, cont, 1);
 162     do_free_upto(cont, dcont);
 163     return r;
 164 }
 165
 166 CMS_ContentInfo *CMS_digest_create_ex(BIO *in, const EVP_MD *md,
 167                                       unsigned int flags, OSSL_LIB_CTX *ctx,
 168                                       const char *propq)
 169 {
 170     CMS_ContentInfo *cms;
 171
 172     if (md == NULL)
 173         md = EVP_sha1();
 174     cms = cms_DigestedData_create(md, ctx, propq);
 175     if (cms == NULL)
 176         return NULL;
 177
 178     if (!(flags & CMS_DETACHED))
 179         CMS_set_detached(cms, 0);
 180
 181     if ((flags & CMS_STREAM) || CMS_final(cms, in, NULL, flags))
 182         return cms;
 183
 184     CMS_ContentInfo_free(cms);
 185     return NULL;
 186 }
 187
 188 CMS_ContentInfo *CMS_digest_create(BIO *in, const EVP_MD *md,
 189                                    unsigned int flags)
 190 {
 191     return CMS_digest_create_ex(in, md, flags, NULL, NULL);
 192 }
 193
 194 int CMS_EncryptedData_decrypt(CMS_ContentInfo *cms,
 195                               const unsigned char *key, size_t keylen,
 196                               BIO *dcont, BIO *out, unsigned int flags)
 197 {
 198     BIO *cont;
 199     int r;
 200
 201     if (OBJ_obj2nid(CMS_get0_type(cms)) != NID_pkcs7_encrypted) {
 202         ERR_raise(ERR_LIB_CMS, CMS_R_TYPE_NOT_ENCRYPTED_DATA);
 203         return 0;
 204     }
 205
 206     if (dcont == NULL && !check_content(cms))
 207         return 0;
 208
 209     if (CMS_EncryptedData_set1_key(cms, NULL, key, keylen) <= 0)
 210         return 0;
 211     cont = CMS_dataInit(cms, dcont);
 212     if (cont == NULL)
 213         return 0;
 214     r = cms_copy_content(out, cont, flags);
 215     do_free_upto(cont, dcont);
 216     return r;
 217 }
 218
 219 CMS_ContentInfo *CMS_EncryptedData_encrypt_ex(BIO *in, const EVP_CIPHER *cipher,
 220                                               const unsigned char *key,
 221                                               size_t keylen, unsigned int flags,
 222                                               OSSL_LIB_CTX *libctx,
 223                                               const char *propq)
 224 {
 225     CMS_ContentInfo *cms;
 226
 227     if (cipher == NULL) {
 228         ERR_raise(ERR_LIB_CMS, CMS_R_NO_CIPHER);
 229         return NULL;
 230     }
 231     cms = CMS_ContentInfo_new_ex(libctx, propq);
 232     if (cms == NULL)
 233         return NULL;
 234     if (!CMS_EncryptedData_set1_key(cms, cipher, key, keylen))
 235         return NULL;
 236
 237     if (!(flags & CMS_DETACHED))
 238         CMS_set_detached(cms, 0);
 239
 240     if ((flags & (CMS_STREAM | CMS_PARTIAL))
 241         || CMS_final(cms, in, NULL, flags))
 242         return cms;
 243
 244     CMS_ContentInfo_free(cms);
 245     return NULL;
 246 }
 247
 248 CMS_ContentInfo *CMS_EncryptedData_encrypt(BIO *in, const EVP_CIPHER *cipher,
 249                                            const unsigned char *key,
 250                                            size_t keylen, unsigned int flags)
 251 {
 252     return CMS_EncryptedData_encrypt_ex(in, cipher, key, keylen, flags, NULL,
 253                                         NULL);
 254 }
 255
 256 static int cms_signerinfo_verify_cert(CMS_SignerInfo *si,
 257                                       X509_STORE *store,
 258                                       STACK_OF(X509) *certs,
 259                                       STACK_OF(X509_CRL) *crls,
 260                                       STACK_OF(X509) **chain,
 261                                       const CMS_CTX *cms_ctx)
 262 {
 263     X509_STORE_CTX *ctx;
 264     X509 *signer;
 265     int i, j, r = 0;
 266
 267     ctx = X509_STORE_CTX_new_ex(cms_ctx->libctx, cms_ctx->propq);
 268     if (ctx == NULL) {
 269         ERR_raise(ERR_LIB_CMS, ERR_R_MALLOC_FAILURE);
 270         goto err;
 271     }
 272     CMS_SignerInfo_get0_algs(si, NULL, &signer, NULL, NULL);
 273     if (!X509_STORE_CTX_init(ctx, store, signer, certs)) {
 274         ERR_raise(ERR_LIB_CMS, CMS_R_STORE_INIT_ERROR);
 275         goto err;
 276     }
 277     X509_STORE_CTX_set_default(ctx, "smime_sign");
 278     if (crls != NULL)
 279         X509_STORE_CTX_set0_crls(ctx, crls);
 280
 281     i = X509_verify_cert(ctx);
 282     if (i <= 0) {
 283         j = X509_STORE_CTX_get_error(ctx);
 284         ERR_raise(ERR_LIB_CMS,
 285                CMS_R_CERTIFICATE_VERIFY_ERROR);
 286         ERR_add_error_data(2, "Verify error:",
 287                            X509_verify_cert_error_string(j));
 288         goto err;
 289     }
 290     r = 1;
 291
 292     /* also send back the trust chain when required */
 293     if (chain != NULL)
 294         *chain = X509_STORE_CTX_get1_chain(ctx);
 295  err:
 296     X509_STORE_CTX_free(ctx);
 297     return r;
 298
 299 }
 300
 301 int CMS_verify(CMS_ContentInfo *cms, STACK_OF(X509) *certs,
 302                X509_STORE *store, BIO *dcont, BIO *out, unsigned int flags)
 303 {
 304     CMS_SignerInfo *si;
 305     STACK_OF(CMS_SignerInfo) *sinfos;
 306     STACK_OF(X509) *cms_certs = NULL;
 307     STACK_OF(X509_CRL) *crls = NULL;
 308     STACK_OF(X509) **si_chains = NULL;
 309     X509 *signer;
 310     int i, scount = 0, ret = 0;
 311     BIO *cmsbio = NULL, *tmpin = NULL, *tmpout = NULL;
 312     int cadesVerify = (flags & CMS_CADES) != 0;
 313     const CMS_CTX *ctx = cms_get0_cmsctx(cms);
 314
 315     if (dcont == NULL && !check_content(cms))
 316         return 0;
 317     if (dcont != NULL && !(flags & CMS_BINARY)) {
 318         const ASN1_OBJECT *coid = CMS_get0_eContentType(cms);
 319
 320         if (OBJ_obj2nid(coid) == NID_id_ct_asciiTextWithCRLF)
 321             flags |= CMS_ASCIICRLF;
 322     }
 323
 324     /* Attempt to find all signer certificates */
 325
 326     sinfos = CMS_get0_SignerInfos(cms);
 327
 328     if (sk_CMS_SignerInfo_num(sinfos) <= 0) {
 329         ERR_raise(ERR_LIB_CMS, CMS_R_NO_SIGNERS);
 330         goto err;
 331     }
 332
 333     for (i = 0; i < sk_CMS_SignerInfo_num(sinfos); i++) {
 334         si = sk_CMS_SignerInfo_value(sinfos, i);
 335         CMS_SignerInfo_get0_algs(si, NULL, &signer, NULL, NULL);
 336         if (signer)
 337             scount++;
 338     }
 339
 340     if (scount != sk_CMS_SignerInfo_num(sinfos))
 341         scount += CMS_set1_signers_certs(cms, certs, flags);
 342
 343     if (scount != sk_CMS_SignerInfo_num(sinfos)) {
 344         ERR_raise(ERR_LIB_CMS, CMS_R_SIGNER_CERTIFICATE_NOT_FOUND);
 345         goto err;
 346     }
 347
 348     /* Attempt to verify all signers certs */
 349     /* at this point scount == sk_CMS_SignerInfo_num(sinfos) */
 350
 351     if ((flags & CMS_NO_SIGNER_CERT_VERIFY) == 0 || cadesVerify) {
 352         if (cadesVerify) {
 353             /* Certificate trust chain is required to check CAdES signature */
 354             si_chains = OPENSSL_zalloc(scount * sizeof(si_chains[0]));
 355             if (si_chains == NULL) {
 356                 ERR_raise(ERR_LIB_CMS, ERR_R_MALLOC_FAILURE);
 357                 goto err;
 358             }
 359         }
 360         cms_certs = CMS_get1_certs(cms);
 361         if (!(flags & CMS_NOCRL))
 362             crls = CMS_get1_crls(cms);
 363         for (i = 0; i < scount; i++) {
 364             si = sk_CMS_SignerInfo_value(sinfos, i);
 365
 366             if (!cms_signerinfo_verify_cert(si, store, cms_certs, crls,
 367                                             si_chains ? &si_chains[i] : NULL,
 368                                             ctx))
 369                 goto err;
 370         }
 371     }
 372
 373     /* Attempt to verify all SignerInfo signed attribute signatures */
 374
 375     if ((flags & CMS_NO_ATTR_VERIFY) == 0 || cadesVerify) {
 376         for (i = 0; i < scount; i++) {
 377             si = sk_CMS_SignerInfo_value(sinfos, i);
 378             if (CMS_signed_get_attr_count(si) < 0)
 379                 continue;
 380             if (CMS_SignerInfo_verify(si) <= 0)
 381                 goto err;
 382             if (cadesVerify) {
 383                 STACK_OF(X509) *si_chain = si_chains ? si_chains[i] : NULL;
 384
 385                 if (ess_check_signing_certs(si, si_chain) <= 0)
 386                     goto err;
 387             }
 388         }
 389     }
 390
 391     /*
 392      * Performance optimization: if the content is a memory BIO then store
 393      * its contents in a temporary read only memory BIO. This avoids
 394      * potentially large numbers of slow copies of data which will occur when
 395      * reading from a read write memory BIO when signatures are calculated.
 396      */
 397
 398     if (dcont != NULL && (BIO_method_type(dcont) == BIO_TYPE_MEM)) {
 399         char *ptr;
 400         long len;
 401
 402         len = BIO_get_mem_data(dcont, &ptr);
 403         tmpin = (len == 0) ? dcont : BIO_new_mem_buf(ptr, len);
 404         if (tmpin == NULL) {
 405             ERR_raise(ERR_LIB_CMS, ERR_R_MALLOC_FAILURE);
 406             goto err2;
 407         }
 408     } else {
 409         tmpin = dcont;
 410     }
 411     /*
 412      * If not binary mode and detached generate digests by *writing* through
 413      * the BIO. That makes it possible to canonicalise the input.
 414      */
 415     if (!(flags & SMIME_BINARY) && dcont) {
 416         /*
 417          * Create output BIO so we can either handle text or to ensure
 418          * included content doesn't override detached content.
 419          */
 420         tmpout = cms_get_text_bio(out, flags);
 421         if (tmpout == NULL) {
 422             ERR_raise(ERR_LIB_CMS, ERR_R_MALLOC_FAILURE);
 423             goto err;
 424         }
 425         cmsbio = CMS_dataInit(cms, tmpout);
 426         if (cmsbio == NULL)
 427             goto err;
 428         /*
 429          * Don't use SMIME_TEXT for verify: it adds headers and we want to
 430          * remove them.
 431          */
 432         SMIME_crlf_copy(dcont, cmsbio, flags & ~SMIME_TEXT);
 433
 434         if (flags & CMS_TEXT) {
 435             if (!SMIME_text(tmpout, out)) {
 436                 ERR_raise(ERR_LIB_CMS, CMS_R_SMIME_TEXT_ERROR);
 437                 goto err;
 438             }
 439         }
 440     } else {
 441         cmsbio = CMS_dataInit(cms, tmpin);
 442         if (cmsbio == NULL)
 443             goto err;
 444
 445         if (!cms_copy_content(out, cmsbio, flags))
 446             goto err;
 447
 448     }
 449     if (!(flags & CMS_NO_CONTENT_VERIFY)) {
 450         for (i = 0; i < sk_CMS_SignerInfo_num(sinfos); i++) {
 451             si = sk_CMS_SignerInfo_value(sinfos, i);
 452             if (CMS_SignerInfo_verify_content(si, cmsbio) <= 0) {
 453                 ERR_raise(ERR_LIB_CMS, CMS_R_CONTENT_VERIFY_ERROR);
 454                 goto err;
 455             }
 456         }
 457     }
 458
 459     ret = 1;
 460  err:
 461     if (!(flags & SMIME_BINARY) && dcont) {
 462         do_free_upto(cmsbio, tmpout);
 463         if (tmpin != dcont)
 464             BIO_free(tmpin);
 465     } else {
 466         if (dcont && (tmpin == dcont))
 467             do_free_upto(cmsbio, dcont);
 468         else
 469             BIO_free_all(cmsbio);
 470     }
 471
 472     if (out != tmpout)
 473         BIO_free_all(tmpout);
 474
 475  err2:
 476     if (si_chains != NULL) {
 477         for (i = 0; i < scount; ++i)
 478             sk_X509_pop_free(si_chains[i], X509_free);
 479         OPENSSL_free(si_chains);
 480     }
 481     sk_X509_pop_free(cms_certs, X509_free);
 482     sk_X509_CRL_pop_free(crls, X509_CRL_free);
 483
 484     return ret;
 485 }
 486
 487 int CMS_verify_receipt(CMS_ContentInfo *rcms, CMS_ContentInfo *ocms,
 488                        STACK_OF(X509) *certs,
 489                        X509_STORE *store, unsigned int flags)
 490 {
 491     int r;
 492
 493     flags &= ~(CMS_DETACHED | CMS_TEXT);
 494     r = CMS_verify(rcms, certs, store, NULL, NULL, flags);
 495     if (r <= 0)
 496         return r;
 497     return cms_Receipt_verify(rcms, ocms);
 498 }
 499
 500 CMS_ContentInfo *CMS_sign_ex(X509 *signcert, EVP_PKEY *pkey,
 501                              STACK_OF(X509) *certs, BIO *data,
 502                              unsigned int flags, OSSL_LIB_CTX *libctx,
 503                              const char *propq)
 504 {
 505     CMS_ContentInfo *cms;
 506     int i;
 507
 508     cms = CMS_ContentInfo_new_ex(libctx, propq);
 509     if (cms == NULL || !CMS_SignedData_init(cms))
 510         goto merr;
 511     if (flags & CMS_ASCIICRLF
 512         && !CMS_set1_eContentType(cms,
 513                                   OBJ_nid2obj(NID_id_ct_asciiTextWithCRLF)))
 514         goto err;
 515
 516     if (pkey != NULL && !CMS_add1_signer(cms, signcert, pkey, NULL, flags)) {
 517         ERR_raise(ERR_LIB_CMS, CMS_R_ADD_SIGNER_ERROR);
 518         goto err;
 519     }
 520
 521     for (i = 0; i < sk_X509_num(certs); i++) {
 522         X509 *x = sk_X509_value(certs, i);
 523
 524         if (!CMS_add1_cert(cms, x))
 525             goto merr;
 526     }
 527
 528     if (!(flags & CMS_DETACHED))
 529         CMS_set_detached(cms, 0);
 530
 531     if ((flags & (CMS_STREAM | CMS_PARTIAL))
 532         || CMS_final(cms, data, NULL, flags))
 533         return cms;
 534     else
 535         goto err;
 536
 537  merr:
 538     ERR_raise(ERR_LIB_CMS, ERR_R_MALLOC_FAILURE);
 539
 540  err:
 541     CMS_ContentInfo_free(cms);
 542     return NULL;
 543 }
 544
 545 CMS_ContentInfo *CMS_sign(X509 *signcert, EVP_PKEY *pkey, STACK_OF(X509) *certs,
 546                           BIO *data, unsigned int flags)
 547 {
 548     return CMS_sign_ex(signcert, pkey, certs, data, flags, NULL, NULL);
 549 }
 550
 551 CMS_ContentInfo *CMS_sign_receipt(CMS_SignerInfo *si,
 552                                   X509 *signcert, EVP_PKEY *pkey,
 553                                   STACK_OF(X509) *certs, unsigned int flags)
 554 {
 555     CMS_SignerInfo *rct_si;
 556     CMS_ContentInfo *cms = NULL;
 557     ASN1_OCTET_STRING **pos, *os;
 558     BIO *rct_cont = NULL;
 559     int r = 0;
 560     const CMS_CTX *ctx = si->cms_ctx;
 561
 562     flags &= ~(CMS_STREAM | CMS_TEXT);
 563     /* Not really detached but avoids content being allocated */
 564     flags |= CMS_PARTIAL | CMS_BINARY | CMS_DETACHED;
 565     if (pkey == NULL || signcert == NULL) {
 566         ERR_raise(ERR_LIB_CMS, CMS_R_NO_KEY_OR_CERT);
 567         return NULL;
 568     }
 569
 570     /* Initialize signed data */
 571
 572     cms = CMS_sign_ex(NULL, NULL, certs, NULL, flags, ctx->libctx, ctx->propq);
 573     if (cms == NULL)
 574         goto err;
 575
 576     /* Set inner content type to signed receipt */
 577     if (!CMS_set1_eContentType(cms, OBJ_nid2obj(NID_id_smime_ct_receipt)))
 578         goto err;
 579
 580     rct_si = CMS_add1_signer(cms, signcert, pkey, NULL, flags);
 581     if (!rct_si) {
 582         ERR_raise(ERR_LIB_CMS, CMS_R_ADD_SIGNER_ERROR);
 583         goto err;
 584     }
 585
 586     os = cms_encode_Receipt(si);
 587     if (os == NULL)
 588         goto err;
 589
 590     /* Set content to digest */
 591     rct_cont = BIO_new_mem_buf(os->data, os->length);
 592     if (rct_cont == NULL)
 593         goto err;
 594
 595     /* Add msgSigDigest attribute */
 596
 597     if (!cms_msgSigDigest_add1(rct_si, si))
 598         goto err;
 599
 600     /* Finalize structure */
 601     if (!CMS_final(cms, rct_cont, NULL, flags))
 602         goto err;
 603
 604     /* Set embedded content */
 605     pos = CMS_get0_content(cms);
 606     *pos = os;
 607
 608     r = 1;
 609
 610  err:
 611     BIO_free(rct_cont);
 612     if (r)
 613         return cms;
 614     CMS_ContentInfo_free(cms);
 615     return NULL;
 616
 617 }
 618
 619 CMS_ContentInfo *CMS_encrypt_ex(STACK_OF(X509) *certs, BIO *data,
 620                                 const EVP_CIPHER *cipher, unsigned int flags,
 621                                 OSSL_LIB_CTX *libctx, const char *propq)
 622 {
 623     CMS_ContentInfo *cms;
 624     int i;
 625     X509 *recip;
 626
 627
 628     cms = (EVP_CIPHER_flags(cipher) & EVP_CIPH_FLAG_AEAD_CIPHER)
 629           ? CMS_AuthEnvelopedData_create_ex(cipher, libctx, propq)
 630           : CMS_EnvelopedData_create_ex(cipher, libctx, propq);
 631     if (cms == NULL)
 632         goto merr;
 633     for (i = 0; i < sk_X509_num(certs); i++) {
 634         recip = sk_X509_value(certs, i);
 635         if (!CMS_add1_recipient_cert(cms, recip, flags)) {
 636             ERR_raise(ERR_LIB_CMS, CMS_R_RECIPIENT_ERROR);
 637             goto err;
 638         }
 639     }
 640
 641     if (!(flags & CMS_DETACHED))
 642         CMS_set_detached(cms, 0);
 643
 644     if ((flags & (CMS_STREAM | CMS_PARTIAL))
 645         || CMS_final(cms, data, NULL, flags))
 646         return cms;
 647     else
 648         goto err;
 649
 650  merr:
 651     ERR_raise(ERR_LIB_CMS, ERR_R_MALLOC_FAILURE);
 652  err:
 653     CMS_ContentInfo_free(cms);
 654     return NULL;
 655 }
 656
 657 CMS_ContentInfo *CMS_encrypt(STACK_OF(X509) *certs, BIO *data,
 658                              const EVP_CIPHER *cipher, unsigned int flags)
 659 {
 660     return CMS_encrypt_ex(certs, data, cipher, flags, NULL, NULL);
 661 }
 662
 663 static int cms_kari_set1_pkey_and_peer(CMS_ContentInfo *cms,
 664                                        CMS_RecipientInfo *ri,
 665                                        EVP_PKEY *pk, X509 *cert, X509 *peer)
 666 {
 667     int i;
 668     STACK_OF(CMS_RecipientEncryptedKey) *reks;
 669     CMS_RecipientEncryptedKey *rek;
 670
 671     reks = CMS_RecipientInfo_kari_get0_reks(ri);
 672     for (i = 0; i < sk_CMS_RecipientEncryptedKey_num(reks); i++) {
 673         int rv;
 674
 675         rek = sk_CMS_RecipientEncryptedKey_value(reks, i);
 676         if (cert != NULL && CMS_RecipientEncryptedKey_cert_cmp(rek, cert))
 677             continue;
 678         CMS_RecipientInfo_kari_set0_pkey_and_peer(ri, pk, peer);
 679         rv = CMS_RecipientInfo_kari_decrypt(cms, ri, rek);
 680         CMS_RecipientInfo_kari_set0_pkey(ri, NULL);
 681         if (rv > 0)
 682             return 1;
 683         return cert == NULL ? 0 : -1;
 684     }
 685     return 0;
 686 }
 687
 688 int CMS_decrypt_set1_pkey(CMS_ContentInfo *cms, EVP_PKEY *pk, X509 *cert)
 689 {
 690      return CMS_decrypt_set1_pkey_and_peer(cms, pk, cert, NULL);
 691 }
 692
 693 int CMS_decrypt_set1_pkey_and_peer(CMS_ContentInfo *cms, EVP_PKEY *pk,
 694                                    X509 *cert, X509 *peer)
 695 {
 696     STACK_OF(CMS_RecipientInfo) *ris;
 697     CMS_RecipientInfo *ri;
 698     int i, r, cms_pkey_ri_type;
 699     int debug = 0, match_ri = 0;
 700
 701     ris = CMS_get0_RecipientInfos(cms);
 702     if (ris != NULL)
 703         debug = cms_get0_env_enc_content(cms)->debug;
 704
 705     cms_pkey_ri_type = cms_pkey_get_ri_type(pk);
 706     if (cms_pkey_ri_type == CMS_RECIPINFO_NONE) {
 707          ERR_raise(ERR_LIB_CMS, CMS_R_NOT_SUPPORTED_FOR_THIS_KEY_TYPE);
 708          return 0;
 709     }
 710
 711     for (i = 0; i < sk_CMS_RecipientInfo_num(ris); i++) {
 712         int ri_type;
 713
 714         ri = sk_CMS_RecipientInfo_value(ris, i);
 715         ri_type = CMS_RecipientInfo_type(ri);
 716         if (!cms_pkey_is_ri_type_supported(pk, ri_type))
 717             continue;
 718         match_ri = 1;
 719         if (ri_type == CMS_RECIPINFO_AGREE) {
 720             r = cms_kari_set1_pkey_and_peer(cms, ri, pk, cert, peer);
 721             if (r > 0)
 722                 return 1;
 723             if (r < 0)
 724                 return 0;
 725         }
 726         /*
 727          * If we have a cert try matching RecipientInfo otherwise try them
 728          * all.
 729          */
 730         else if (cert == NULL|| !CMS_RecipientInfo_ktri_cert_cmp(ri, cert)) {
 731             EVP_PKEY_up_ref(pk);
 732             CMS_RecipientInfo_set0_pkey(ri, pk);
 733             r = CMS_RecipientInfo_decrypt(cms, ri);
 734             CMS_RecipientInfo_set0_pkey(ri, NULL);
 735             if (cert != NULL) {
 736                 /*
 737                  * If not debugging clear any error and return success to
 738                  * avoid leaking of information useful to MMA
 739                  */
 740                 if (!debug) {
 741                     ERR_clear_error();
 742                     return 1;
 743                 }
 744                 if (r > 0)
 745                     return 1;
 746                 ERR_raise(ERR_LIB_CMS, CMS_R_DECRYPT_ERROR);
 747                 return 0;
 748             }
 749             /*
 750              * If no cert and not debugging don't leave loop after first
 751              * successful decrypt. Always attempt to decrypt all recipients
 752              * to avoid leaking timing of a successful decrypt.
 753              */
 754             else if (r > 0 && (debug || cms_pkey_ri_type != CMS_RECIPINFO_TRANS))
 755                 return 1;
 756         }
 757     }
 758     /* If no cert, key transport and not debugging always return success */
 759     if (cert == NULL
 760         && cms_pkey_ri_type == CMS_RECIPINFO_TRANS
 761         && match_ri
 762         && !debug) {
 763         ERR_clear_error();
 764         return 1;
 765     }
 766
 767     ERR_raise(ERR_LIB_CMS, CMS_R_NO_MATCHING_RECIPIENT);
 768     return 0;
 769
 770 }
 771
 772 int CMS_decrypt_set1_key(CMS_ContentInfo *cms,
 773                          unsigned char *key, size_t keylen,
 774                          const unsigned char *id, size_t idlen)
 775 {
 776     STACK_OF(CMS_RecipientInfo) *ris;
 777     CMS_RecipientInfo *ri;
 778     int i, r;
 779
 780     ris = CMS_get0_RecipientInfos(cms);
 781     for (i = 0; i < sk_CMS_RecipientInfo_num(ris); i++) {
 782         ri = sk_CMS_RecipientInfo_value(ris, i);
 783         if (CMS_RecipientInfo_type(ri) != CMS_RECIPINFO_KEK)
 784             continue;
 785
 786         /*
 787          * If we have an id try matching RecipientInfo otherwise try them
 788          * all.
 789          */
 790         if (id == NULL || (CMS_RecipientInfo_kekri_id_cmp(ri, id, idlen) == 0)) {
 791             CMS_RecipientInfo_set0_key(ri, key, keylen);
 792             r = CMS_RecipientInfo_decrypt(cms, ri);
 793             CMS_RecipientInfo_set0_key(ri, NULL, 0);
 794             if (r > 0)
 795                 return 1;
 796             if (id != NULL) {
 797                 ERR_raise(ERR_LIB_CMS, CMS_R_DECRYPT_ERROR);
 798                 return 0;
 799             }
 800             ERR_clear_error();
 801         }
 802     }
 803
 804     ERR_raise(ERR_LIB_CMS, CMS_R_NO_MATCHING_RECIPIENT);
 805     return 0;
 806
 807 }
 808
 809 int CMS_decrypt_set1_password(CMS_ContentInfo *cms,
 810                               unsigned char *pass, ossl_ssize_t passlen)
 811 {
 812     STACK_OF(CMS_RecipientInfo) *ris;
 813     CMS_RecipientInfo *ri;
 814     int i, r;
 815
 816     ris = CMS_get0_RecipientInfos(cms);
 817     for (i = 0; i < sk_CMS_RecipientInfo_num(ris); i++) {
 818         ri = sk_CMS_RecipientInfo_value(ris, i);
 819         if (CMS_RecipientInfo_type(ri) != CMS_RECIPINFO_PASS)
 820             continue;
 821         CMS_RecipientInfo_set0_password(ri, pass, passlen);
 822         r = CMS_RecipientInfo_decrypt(cms, ri);
 823         CMS_RecipientInfo_set0_password(ri, NULL, 0);
 824         if (r > 0)
 825             return 1;
 826     }
 827
 828     ERR_raise(ERR_LIB_CMS, CMS_R_NO_MATCHING_RECIPIENT);
 829     return 0;
 830
 831 }
 832
 833 int CMS_decrypt(CMS_ContentInfo *cms, EVP_PKEY *pk, X509 *cert,
 834                 BIO *dcont, BIO *out, unsigned int flags)
 835 {
 836     int r;
 837     BIO *cont;
 838
 839     int nid = OBJ_obj2nid(CMS_get0_type(cms));
 840
 841     if (nid != NID_pkcs7_enveloped
 842             && nid != NID_id_smime_ct_authEnvelopedData) {
 843         ERR_raise(ERR_LIB_CMS, CMS_R_TYPE_NOT_ENVELOPED_DATA);
 844         return 0;
 845     }
 846     if (dcont == NULL && !check_content(cms))
 847         return 0;
 848     if (flags & CMS_DEBUG_DECRYPT)
 849         cms_get0_env_enc_content(cms)->debug = 1;
 850     else
 851         cms_get0_env_enc_content(cms)->debug = 0;
 852     if (cert == NULL)
 853         cms_get0_env_enc_content(cms)->havenocert = 1;
 854     else
 855         cms_get0_env_enc_content(cms)->havenocert = 0;
 856     if (pk == NULL && cert == NULL && dcont == NULL && out == NULL)
 857         return 1;
 858     if (pk != NULL && !CMS_decrypt_set1_pkey(cms, pk, cert))
 859         return 0;
 860     cont = CMS_dataInit(cms, dcont);
 861     if (cont == NULL)
 862         return 0;
 863     r = cms_copy_content(out, cont, flags);
 864     do_free_upto(cont, dcont);
 865     return r;
 866 }
 867
 868 int CMS_final(CMS_ContentInfo *cms, BIO *data, BIO *dcont, unsigned int flags)
 869 {
 870     BIO *cmsbio;
 871     int ret = 0;
 872
 873     if ((cmsbio = CMS_dataInit(cms, dcont)) == NULL) {
 874         ERR_raise(ERR_LIB_CMS, CMS_R_CMS_LIB);
 875         return 0;
 876     }
 877
 878     ret = SMIME_crlf_copy(data, cmsbio, flags);
 879
 880     (void)BIO_flush(cmsbio);
 881
 882     if (!CMS_dataFinal(cms, cmsbio)) {
 883         ERR_raise(ERR_LIB_CMS, CMS_R_CMS_DATAFINAL_ERROR);
 884         goto err;
 885     }
 886 err:
 887     do_free_upto(cmsbio, dcont);
 888
 889     return ret;
 890
 891 }
 892
 893 #ifdef ZLIB
 894
 895 int CMS_uncompress(CMS_ContentInfo *cms, BIO *dcont, BIO *out,
 896                    unsigned int flags)
 897 {
 898     BIO *cont;
 899     int r;
 900
 901     if (OBJ_obj2nid(CMS_get0_type(cms)) != NID_id_smime_ct_compressedData) {
 902         ERR_raise(ERR_LIB_CMS, CMS_R_TYPE_NOT_COMPRESSED_DATA);
 903         return 0;
 904     }
 905
 906     if (dcont == NULL && !check_content(cms))
 907         return 0;
 908
 909     cont = CMS_dataInit(cms, dcont);
 910     if (cont == NULL)
 911         return 0;
 912     r = cms_copy_content(out, cont, flags);
 913     do_free_upto(cont, dcont);
 914     return r;
 915 }
 916
 917 CMS_ContentInfo *CMS_compress(BIO *in, int comp_nid, unsigned int flags)
 918 {
 919     CMS_ContentInfo *cms;
 920
 921     if (comp_nid <= 0)
 922         comp_nid = NID_zlib_compression;
 923     cms = cms_CompressedData_create(comp_nid, NULL, NULL);
 924     if (cms == NULL)
 925         return NULL;
 926
 927     if (!(flags & CMS_DETACHED))
 928         CMS_set_detached(cms, 0);
 929
 930     if ((flags & CMS_STREAM) || CMS_final(cms, in, NULL, flags))
 931         return cms;
 932
 933     CMS_ContentInfo_free(cms);
 934     return NULL;
 935 }
 936
 937 #else
 938
 939 int CMS_uncompress(CMS_ContentInfo *cms, BIO *dcont, BIO *out,
 940                    unsigned int flags)
 941 {
 942     ERR_raise(ERR_LIB_CMS, CMS_R_UNSUPPORTED_COMPRESSION_ALGORITHM);
 943     return 0;
 944 }
 945
 946 CMS_ContentInfo *CMS_compress(BIO *in, int comp_nid, unsigned int flags)
 947 {
 948     ERR_raise(ERR_LIB_CMS, CMS_R_UNSUPPORTED_COMPRESSION_ALGORITHM);
 949     return NULL;
 950 }
 951
 952 #endif