Adapt all EVP_CIPHER_CTX users for it becoming opaque
[openssl.git] / crypto / pkcs12 / p12_decr.c
1 /* p12_decr.c */
2 /*
3  * Written by Dr Stephen N Henson (steve@openssl.org) for the OpenSSL project
4  * 1999.
5  */
6 /* ====================================================================
7  * Copyright (c) 1999 The OpenSSL Project.  All rights reserved.
8  *
9  * Redistribution and use in source and binary forms, with or without
10  * modification, are permitted provided that the following conditions
11  * are met:
12  *
13  * 1. Redistributions of source code must retain the above copyright
14  *    notice, this list of conditions and the following disclaimer.
15  *
16  * 2. Redistributions in binary form must reproduce the above copyright
17  *    notice, this list of conditions and the following disclaimer in
18  *    the documentation and/or other materials provided with the
19  *    distribution.
20  *
21  * 3. All advertising materials mentioning features or use of this
22  *    software must display the following acknowledgment:
23  *    "This product includes software developed by the OpenSSL Project
24  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
25  *
26  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
27  *    endorse or promote products derived from this software without
28  *    prior written permission. For written permission, please contact
29  *    licensing@OpenSSL.org.
30  *
31  * 5. Products derived from this software may not be called "OpenSSL"
32  *    nor may "OpenSSL" appear in their names without prior written
33  *    permission of the OpenSSL Project.
34  *
35  * 6. Redistributions of any form whatsoever must retain the following
36  *    acknowledgment:
37  *    "This product includes software developed by the OpenSSL Project
38  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
39  *
40  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
41  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
42  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
43  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
44  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
45  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
46  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
47  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
49  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
50  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
51  * OF THE POSSIBILITY OF SUCH DAMAGE.
52  * ====================================================================
53  *
54  * This product includes cryptographic software written by Eric Young
55  * (eay@cryptsoft.com).  This product includes software written by Tim
56  * Hudson (tjh@cryptsoft.com).
57  *
58  */
59
60 #include <stdio.h>
61 #include "internal/cryptlib.h"
62 #include <openssl/pkcs12.h>
63
64 /* Define this to dump decrypted output to files called DERnnn */
65 /*
66  * #define DEBUG_DECRYPT
67  */
68
69 /*
70  * Encrypt/Decrypt a buffer based on password and algor, result in a
71  * OPENSSL_malloc'ed buffer
72  */
73
74 unsigned char *PKCS12_pbe_crypt(X509_ALGOR *algor, const char *pass,
75                                 int passlen, unsigned char *in, int inlen,
76                                 unsigned char **data, int *datalen, int en_de)
77 {
78     unsigned char *out = NULL;
79     int outlen, i;
80     EVP_CIPHER_CTX *ctx = EVP_CIPHER_CTX_new();
81
82     if (ctx == NULL) {
83         PKCS12err(PKCS12_F_PKCS12_PBE_CRYPT, ERR_R_MALLOC_FAILURE);
84         goto err;
85     }
86
87     /* Decrypt data */
88     if (!EVP_PBE_CipherInit(algor->algorithm, pass, passlen,
89                             algor->parameter, ctx, en_de)) {
90         PKCS12err(PKCS12_F_PKCS12_PBE_CRYPT,
91                   PKCS12_R_PKCS12_ALGOR_CIPHERINIT_ERROR);
92         goto err;
93     }
94
95     if ((out = OPENSSL_malloc(inlen + EVP_CIPHER_CTX_block_size(ctx)))
96             == NULL) {
97         PKCS12err(PKCS12_F_PKCS12_PBE_CRYPT, ERR_R_MALLOC_FAILURE);
98         goto err;
99     }
100
101     if (!EVP_CipherUpdate(ctx, out, &i, in, inlen)) {
102         OPENSSL_free(out);
103         out = NULL;
104         PKCS12err(PKCS12_F_PKCS12_PBE_CRYPT, ERR_R_EVP_LIB);
105         goto err;
106     }
107
108     outlen = i;
109     if (!EVP_CipherFinal_ex(ctx, out + i, &i)) {
110         OPENSSL_free(out);
111         out = NULL;
112         PKCS12err(PKCS12_F_PKCS12_PBE_CRYPT,
113                   PKCS12_R_PKCS12_CIPHERFINAL_ERROR);
114         goto err;
115     }
116     outlen += i;
117     if (datalen)
118         *datalen = outlen;
119     if (data)
120         *data = out;
121  err:
122     EVP_CIPHER_CTX_free(ctx);
123     return out;
124
125 }
126
127 /*
128  * Decrypt an OCTET STRING and decode ASN1 structure if zbuf set zero buffer
129  * after use.
130  */
131
132 void *PKCS12_item_decrypt_d2i(X509_ALGOR *algor, const ASN1_ITEM *it,
133                               const char *pass, int passlen,
134                               ASN1_OCTET_STRING *oct, int zbuf)
135 {
136     unsigned char *out;
137     const unsigned char *p;
138     void *ret;
139     int outlen;
140
141     if (!PKCS12_pbe_crypt(algor, pass, passlen, oct->data, oct->length,
142                           &out, &outlen, 0)) {
143         PKCS12err(PKCS12_F_PKCS12_ITEM_DECRYPT_D2I,
144                   PKCS12_R_PKCS12_PBE_CRYPT_ERROR);
145         return NULL;
146     }
147     p = out;
148 #ifdef DEBUG_DECRYPT
149     {
150         FILE *op;
151
152         char fname[30];
153         static int fnm = 1;
154         sprintf(fname, "DER%d", fnm++);
155         op = fopen(fname, "wb");
156         fwrite(p, 1, outlen, op);
157         fclose(op);
158     }
159 #endif
160     ret = ASN1_item_d2i(NULL, &p, outlen, it);
161     if (zbuf)
162         OPENSSL_cleanse(out, outlen);
163     if (!ret)
164         PKCS12err(PKCS12_F_PKCS12_ITEM_DECRYPT_D2I, PKCS12_R_DECODE_ERROR);
165     OPENSSL_free(out);
166     return ret;
167 }
168
169 /*
170  * Encode ASN1 structure and encrypt, return OCTET STRING if zbuf set zero
171  * encoding.
172  */
173
174 ASN1_OCTET_STRING *PKCS12_item_i2d_encrypt(X509_ALGOR *algor,
175                                            const ASN1_ITEM *it,
176                                            const char *pass, int passlen,
177                                            void *obj, int zbuf)
178 {
179     ASN1_OCTET_STRING *oct = NULL;
180     unsigned char *in = NULL;
181     int inlen;
182
183     if ((oct = ASN1_OCTET_STRING_new()) == NULL) {
184         PKCS12err(PKCS12_F_PKCS12_ITEM_I2D_ENCRYPT, ERR_R_MALLOC_FAILURE);
185         goto err;
186     }
187     inlen = ASN1_item_i2d(obj, &in, it);
188     if (!in) {
189         PKCS12err(PKCS12_F_PKCS12_ITEM_I2D_ENCRYPT, PKCS12_R_ENCODE_ERROR);
190         goto err;
191     }
192     if (!PKCS12_pbe_crypt(algor, pass, passlen, in, inlen, &oct->data,
193                           &oct->length, 1)) {
194         PKCS12err(PKCS12_F_PKCS12_ITEM_I2D_ENCRYPT, PKCS12_R_ENCRYPT_ERROR);
195         OPENSSL_free(in);
196         goto err;
197     }
198     if (zbuf)
199         OPENSSL_cleanse(in, inlen);
200     OPENSSL_free(in);
201     return oct;
202  err:
203     ASN1_OCTET_STRING_free(oct);
204     return NULL;
205 }