Always build library object files with shared library cflags
[openssl.git] / crypto / cms / cms_dd.c
1 /*
2  * Written by Dr Stephen N Henson (steve@openssl.org) for the OpenSSL
3  * project.
4  */
5 /* ====================================================================
6  * Copyright (c) 2008 The OpenSSL Project.  All rights reserved.
7  *
8  * Redistribution and use in source and binary forms, with or without
9  * modification, are permitted provided that the following conditions
10  * are met:
11  *
12  * 1. Redistributions of source code must retain the above copyright
13  *    notice, this list of conditions and the following disclaimer.
14  *
15  * 2. Redistributions in binary form must reproduce the above copyright
16  *    notice, this list of conditions and the following disclaimer in
17  *    the documentation and/or other materials provided with the
18  *    distribution.
19  *
20  * 3. All advertising materials mentioning features or use of this
21  *    software must display the following acknowledgment:
22  *    "This product includes software developed by the OpenSSL Project
23  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
24  *
25  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
26  *    endorse or promote products derived from this software without
27  *    prior written permission. For written permission, please contact
28  *    licensing@OpenSSL.org.
29  *
30  * 5. Products derived from this software may not be called "OpenSSL"
31  *    nor may "OpenSSL" appear in their names without prior written
32  *    permission of the OpenSSL Project.
33  *
34  * 6. Redistributions of any form whatsoever must retain the following
35  *    acknowledgment:
36  *    "This product includes software developed by the OpenSSL Project
37  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
38  *
39  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
40  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
41  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
42  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
43  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
44  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
45  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
46  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
47  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
48  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
49  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
50  * OF THE POSSIBILITY OF SUCH DAMAGE.
51  * ====================================================================
52  */
53
54 #include "internal/cryptlib.h"
55 #include <openssl/asn1t.h>
56 #include <openssl/pem.h>
57 #include <openssl/x509v3.h>
58 #include <openssl/err.h>
59 #include <openssl/cms.h>
60 #include "cms_lcl.h"
61
62 /* CMS DigestedData Utilities */
63
64 CMS_ContentInfo *cms_DigestedData_create(const EVP_MD *md)
65 {
66     CMS_ContentInfo *cms;
67     CMS_DigestedData *dd;
68     cms = CMS_ContentInfo_new();
69     if (cms == NULL)
70         return NULL;
71
72     dd = M_ASN1_new_of(CMS_DigestedData);
73
74     if (dd == NULL)
75         goto err;
76
77     cms->contentType = OBJ_nid2obj(NID_pkcs7_digest);
78     cms->d.digestedData = dd;
79
80     dd->version = 0;
81     dd->encapContentInfo->eContentType = OBJ_nid2obj(NID_pkcs7_data);
82
83     X509_ALGOR_set_md(dd->digestAlgorithm, md);
84
85     return cms;
86
87  err:
88     CMS_ContentInfo_free(cms);
89     return NULL;
90 }
91
92 BIO *cms_DigestedData_init_bio(CMS_ContentInfo *cms)
93 {
94     CMS_DigestedData *dd;
95     dd = cms->d.digestedData;
96     return cms_DigestAlgorithm_init_bio(dd->digestAlgorithm);
97 }
98
99 int cms_DigestedData_do_final(CMS_ContentInfo *cms, BIO *chain, int verify)
100 {
101     EVP_MD_CTX *mctx = EVP_MD_CTX_new();
102     unsigned char md[EVP_MAX_MD_SIZE];
103     unsigned int mdlen;
104     int r = 0;
105     CMS_DigestedData *dd;
106
107     if (mctx == NULL) {
108         CMSerr(CMS_F_CMS_DIGESTEDDATA_DO_FINAL, ERR_R_MALLOC_FAILURE);
109         goto err;
110     }
111
112     dd = cms->d.digestedData;
113
114     if (!cms_DigestAlgorithm_find_ctx(mctx, chain, dd->digestAlgorithm))
115         goto err;
116
117     if (EVP_DigestFinal_ex(mctx, md, &mdlen) <= 0)
118         goto err;
119
120     if (verify) {
121         if (mdlen != (unsigned int)dd->digest->length) {
122             CMSerr(CMS_F_CMS_DIGESTEDDATA_DO_FINAL,
123                    CMS_R_MESSAGEDIGEST_WRONG_LENGTH);
124             goto err;
125         }
126
127         if (memcmp(md, dd->digest->data, mdlen))
128             CMSerr(CMS_F_CMS_DIGESTEDDATA_DO_FINAL,
129                    CMS_R_VERIFICATION_FAILURE);
130         else
131             r = 1;
132     } else {
133         if (!ASN1_STRING_set(dd->digest, md, mdlen))
134             goto err;
135         r = 1;
136     }
137
138  err:
139     EVP_MD_CTX_free(mctx);
140
141     return r;
142
143 }