Remove outdated DEBUG flags.
[openssl.git] / crypto / pkcs12 / p12_decr.c
1 /*
2  * Written by Dr Stephen N Henson (steve@openssl.org) for the OpenSSL project
3  * 1999.
4  */
5 /* ====================================================================
6  * Copyright (c) 1999 The OpenSSL Project.  All rights reserved.
7  *
8  * Redistribution and use in source and binary forms, with or without
9  * modification, are permitted provided that the following conditions
10  * are met:
11  *
12  * 1. Redistributions of source code must retain the above copyright
13  *    notice, this list of conditions and the following disclaimer.
14  *
15  * 2. Redistributions in binary form must reproduce the above copyright
16  *    notice, this list of conditions and the following disclaimer in
17  *    the documentation and/or other materials provided with the
18  *    distribution.
19  *
20  * 3. All advertising materials mentioning features or use of this
21  *    software must display the following acknowledgment:
22  *    "This product includes software developed by the OpenSSL Project
23  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
24  *
25  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
26  *    endorse or promote products derived from this software without
27  *    prior written permission. For written permission, please contact
28  *    licensing@OpenSSL.org.
29  *
30  * 5. Products derived from this software may not be called "OpenSSL"
31  *    nor may "OpenSSL" appear in their names without prior written
32  *    permission of the OpenSSL Project.
33  *
34  * 6. Redistributions of any form whatsoever must retain the following
35  *    acknowledgment:
36  *    "This product includes software developed by the OpenSSL Project
37  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
38  *
39  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
40  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
41  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
42  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
43  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
44  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
45  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
46  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
47  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
48  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
49  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
50  * OF THE POSSIBILITY OF SUCH DAMAGE.
51  * ====================================================================
52  *
53  * This product includes cryptographic software written by Eric Young
54  * (eay@cryptsoft.com).  This product includes software written by Tim
55  * Hudson (tjh@cryptsoft.com).
56  *
57  */
58
59 #include <stdio.h>
60 #include "internal/cryptlib.h"
61 #include <openssl/pkcs12.h>
62
63 /* Define this to dump decrypted output to files called DERnnn */
64 /*
65  * #define OPENSSL_DEBUG_DECRYPT
66  */
67
68 /*
69  * Encrypt/Decrypt a buffer based on password and algor, result in a
70  * OPENSSL_malloc'ed buffer
71  */
72
73 unsigned char *PKCS12_pbe_crypt(X509_ALGOR *algor, const char *pass,
74                                 int passlen, unsigned char *in, int inlen,
75                                 unsigned char **data, int *datalen, int en_de)
76 {
77     unsigned char *out = NULL;
78     int outlen, i;
79     EVP_CIPHER_CTX *ctx = EVP_CIPHER_CTX_new();
80
81     if (ctx == NULL) {
82         PKCS12err(PKCS12_F_PKCS12_PBE_CRYPT, ERR_R_MALLOC_FAILURE);
83         goto err;
84     }
85
86     /* Decrypt data */
87     if (!EVP_PBE_CipherInit(algor->algorithm, pass, passlen,
88                             algor->parameter, ctx, en_de)) {
89         PKCS12err(PKCS12_F_PKCS12_PBE_CRYPT,
90                   PKCS12_R_PKCS12_ALGOR_CIPHERINIT_ERROR);
91         goto err;
92     }
93
94     if ((out = OPENSSL_malloc(inlen + EVP_CIPHER_CTX_block_size(ctx)))
95             == NULL) {
96         PKCS12err(PKCS12_F_PKCS12_PBE_CRYPT, ERR_R_MALLOC_FAILURE);
97         goto err;
98     }
99
100     if (!EVP_CipherUpdate(ctx, out, &i, in, inlen)) {
101         OPENSSL_free(out);
102         out = NULL;
103         PKCS12err(PKCS12_F_PKCS12_PBE_CRYPT, ERR_R_EVP_LIB);
104         goto err;
105     }
106
107     outlen = i;
108     if (!EVP_CipherFinal_ex(ctx, out + i, &i)) {
109         OPENSSL_free(out);
110         out = NULL;
111         PKCS12err(PKCS12_F_PKCS12_PBE_CRYPT,
112                   PKCS12_R_PKCS12_CIPHERFINAL_ERROR);
113         goto err;
114     }
115     outlen += i;
116     if (datalen)
117         *datalen = outlen;
118     if (data)
119         *data = out;
120  err:
121     EVP_CIPHER_CTX_free(ctx);
122     return out;
123
124 }
125
126 /*
127  * Decrypt an OCTET STRING and decode ASN1 structure if zbuf set zero buffer
128  * after use.
129  */
130
131 void *PKCS12_item_decrypt_d2i(X509_ALGOR *algor, const ASN1_ITEM *it,
132                               const char *pass, int passlen,
133                               ASN1_OCTET_STRING *oct, int zbuf)
134 {
135     unsigned char *out;
136     const unsigned char *p;
137     void *ret;
138     int outlen;
139
140     if (!PKCS12_pbe_crypt(algor, pass, passlen, oct->data, oct->length,
141                           &out, &outlen, 0)) {
142         PKCS12err(PKCS12_F_PKCS12_ITEM_DECRYPT_D2I,
143                   PKCS12_R_PKCS12_PBE_CRYPT_ERROR);
144         return NULL;
145     }
146     p = out;
147 #ifdef OPENSSL_DEBUG_DECRYPT
148     {
149         FILE *op;
150
151         char fname[30];
152         static int fnm = 1;
153         sprintf(fname, "DER%d", fnm++);
154         op = fopen(fname, "wb");
155         fwrite(p, 1, outlen, op);
156         fclose(op);
157     }
158 #endif
159     ret = ASN1_item_d2i(NULL, &p, outlen, it);
160     if (zbuf)
161         OPENSSL_cleanse(out, outlen);
162     if (!ret)
163         PKCS12err(PKCS12_F_PKCS12_ITEM_DECRYPT_D2I, PKCS12_R_DECODE_ERROR);
164     OPENSSL_free(out);
165     return ret;
166 }
167
168 /*
169  * Encode ASN1 structure and encrypt, return OCTET STRING if zbuf set zero
170  * encoding.
171  */
172
173 ASN1_OCTET_STRING *PKCS12_item_i2d_encrypt(X509_ALGOR *algor,
174                                            const ASN1_ITEM *it,
175                                            const char *pass, int passlen,
176                                            void *obj, int zbuf)
177 {
178     ASN1_OCTET_STRING *oct = NULL;
179     unsigned char *in = NULL;
180     int inlen;
181
182     if ((oct = ASN1_OCTET_STRING_new()) == NULL) {
183         PKCS12err(PKCS12_F_PKCS12_ITEM_I2D_ENCRYPT, ERR_R_MALLOC_FAILURE);
184         goto err;
185     }
186     inlen = ASN1_item_i2d(obj, &in, it);
187     if (!in) {
188         PKCS12err(PKCS12_F_PKCS12_ITEM_I2D_ENCRYPT, PKCS12_R_ENCODE_ERROR);
189         goto err;
190     }
191     if (!PKCS12_pbe_crypt(algor, pass, passlen, in, inlen, &oct->data,
192                           &oct->length, 1)) {
193         PKCS12err(PKCS12_F_PKCS12_ITEM_I2D_ENCRYPT, PKCS12_R_ENCRYPT_ERROR);
194         OPENSSL_free(in);
195         goto err;
196     }
197     if (zbuf)
198         OPENSSL_cleanse(in, inlen);
199     OPENSSL_free(in);
200     return oct;
201  err:
202     ASN1_OCTET_STRING_free(oct);
203     return NULL;
204 }