Fix memory leak.
[openssl.git] / crypto / pkcs12 / p12_decr.c
1 /* p12_decr.c */
2 /*
3  * Written by Dr Stephen N Henson (steve@openssl.org) for the OpenSSL project
4  * 1999.
5  */
6 /* ====================================================================
7  * Copyright (c) 1999 The OpenSSL Project.  All rights reserved.
8  *
9  * Redistribution and use in source and binary forms, with or without
10  * modification, are permitted provided that the following conditions
11  * are met:
12  *
13  * 1. Redistributions of source code must retain the above copyright
14  *    notice, this list of conditions and the following disclaimer.
15  *
16  * 2. Redistributions in binary form must reproduce the above copyright
17  *    notice, this list of conditions and the following disclaimer in
18  *    the documentation and/or other materials provided with the
19  *    distribution.
20  *
21  * 3. All advertising materials mentioning features or use of this
22  *    software must display the following acknowledgment:
23  *    "This product includes software developed by the OpenSSL Project
24  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
25  *
26  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
27  *    endorse or promote products derived from this software without
28  *    prior written permission. For written permission, please contact
29  *    licensing@OpenSSL.org.
30  *
31  * 5. Products derived from this software may not be called "OpenSSL"
32  *    nor may "OpenSSL" appear in their names without prior written
33  *    permission of the OpenSSL Project.
34  *
35  * 6. Redistributions of any form whatsoever must retain the following
36  *    acknowledgment:
37  *    "This product includes software developed by the OpenSSL Project
38  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
39  *
40  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
41  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
42  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
43  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
44  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
45  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
46  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
47  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
49  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
50  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
51  * OF THE POSSIBILITY OF SUCH DAMAGE.
52  * ====================================================================
53  *
54  * This product includes cryptographic software written by Eric Young
55  * (eay@cryptsoft.com).  This product includes software written by Tim
56  * Hudson (tjh@cryptsoft.com).
57  *
58  */
59
60 #include <stdio.h>
61 #include "internal/cryptlib.h"
62 #include <openssl/pkcs12.h>
63
64 /* Define this to dump decrypted output to files called DERnnn */
65 /*
66  * #define DEBUG_DECRYPT
67  */
68
69 /*
70  * Encrypt/Decrypt a buffer based on password and algor, result in a
71  * OPENSSL_malloc'ed buffer
72  */
73
74 unsigned char *PKCS12_pbe_crypt(X509_ALGOR *algor, const char *pass,
75                                 int passlen, unsigned char *in, int inlen,
76                                 unsigned char **data, int *datalen, int en_de)
77 {
78     unsigned char *out = NULL;
79     int outlen, i;
80     EVP_CIPHER_CTX ctx;
81
82     EVP_CIPHER_CTX_init(&ctx);
83     /* Decrypt data */
84     if (!EVP_PBE_CipherInit(algor->algorithm, pass, passlen,
85                             algor->parameter, &ctx, en_de)) {
86         PKCS12err(PKCS12_F_PKCS12_PBE_CRYPT,
87                   PKCS12_R_PKCS12_ALGOR_CIPHERINIT_ERROR);
88         goto err;
89     }
90
91     if ((out = OPENSSL_malloc(inlen + EVP_CIPHER_CTX_block_size(&ctx)))
92             == NULL) {
93         PKCS12err(PKCS12_F_PKCS12_PBE_CRYPT, ERR_R_MALLOC_FAILURE);
94         goto err;
95     }
96
97     if (!EVP_CipherUpdate(&ctx, out, &i, in, inlen)) {
98         OPENSSL_free(out);
99         out = NULL;
100         PKCS12err(PKCS12_F_PKCS12_PBE_CRYPT, ERR_R_EVP_LIB);
101         goto err;
102     }
103
104     outlen = i;
105     if (!EVP_CipherFinal_ex(&ctx, out + i, &i)) {
106         OPENSSL_free(out);
107         out = NULL;
108         PKCS12err(PKCS12_F_PKCS12_PBE_CRYPT,
109                   PKCS12_R_PKCS12_CIPHERFINAL_ERROR);
110         goto err;
111     }
112     outlen += i;
113     if (datalen)
114         *datalen = outlen;
115     if (data)
116         *data = out;
117  err:
118     EVP_CIPHER_CTX_cleanup(&ctx);
119     return out;
120
121 }
122
123 /*
124  * Decrypt an OCTET STRING and decode ASN1 structure if zbuf set zero buffer
125  * after use.
126  */
127
128 void *PKCS12_item_decrypt_d2i(X509_ALGOR *algor, const ASN1_ITEM *it,
129                               const char *pass, int passlen,
130                               ASN1_OCTET_STRING *oct, int zbuf)
131 {
132     unsigned char *out;
133     const unsigned char *p;
134     void *ret;
135     int outlen;
136
137     if (!PKCS12_pbe_crypt(algor, pass, passlen, oct->data, oct->length,
138                           &out, &outlen, 0)) {
139         PKCS12err(PKCS12_F_PKCS12_ITEM_DECRYPT_D2I,
140                   PKCS12_R_PKCS12_PBE_CRYPT_ERROR);
141         return NULL;
142     }
143     p = out;
144 #ifdef DEBUG_DECRYPT
145     {
146         FILE *op;
147
148         char fname[30];
149         static int fnm = 1;
150         sprintf(fname, "DER%d", fnm++);
151         op = fopen(fname, "wb");
152         fwrite(p, 1, outlen, op);
153         fclose(op);
154     }
155 #endif
156     ret = ASN1_item_d2i(NULL, &p, outlen, it);
157     if (zbuf)
158         OPENSSL_cleanse(out, outlen);
159     if (!ret)
160         PKCS12err(PKCS12_F_PKCS12_ITEM_DECRYPT_D2I, PKCS12_R_DECODE_ERROR);
161     OPENSSL_free(out);
162     return ret;
163 }
164
165 /*
166  * Encode ASN1 structure and encrypt, return OCTET STRING if zbuf set zero
167  * encoding.
168  */
169
170 ASN1_OCTET_STRING *PKCS12_item_i2d_encrypt(X509_ALGOR *algor,
171                                            const ASN1_ITEM *it,
172                                            const char *pass, int passlen,
173                                            void *obj, int zbuf)
174 {
175     ASN1_OCTET_STRING *oct = NULL;
176     unsigned char *in = NULL;
177     int inlen;
178
179     if ((oct = ASN1_OCTET_STRING_new()) == NULL) {
180         PKCS12err(PKCS12_F_PKCS12_ITEM_I2D_ENCRYPT, ERR_R_MALLOC_FAILURE);
181         goto err;
182     }
183     inlen = ASN1_item_i2d(obj, &in, it);
184     if (!in) {
185         PKCS12err(PKCS12_F_PKCS12_ITEM_I2D_ENCRYPT, PKCS12_R_ENCODE_ERROR);
186         goto err;
187     }
188     if (!PKCS12_pbe_crypt(algor, pass, passlen, in, inlen, &oct->data,
189                           &oct->length, 1)) {
190         PKCS12err(PKCS12_F_PKCS12_ITEM_I2D_ENCRYPT, PKCS12_R_ENCRYPT_ERROR);
191         OPENSSL_free(in);
192         goto err;
193     }
194     if (zbuf)
195         OPENSSL_cleanse(in, inlen);
196     OPENSSL_free(in);
197     return oct;
198  err:
199     ASN1_OCTET_STRING_free(oct);
200     return NULL;
201 }