crypto/pkcs12/p12_decr.c

   1 /* p12_decr.c */
   2 /* Written by Dr Stephen N Henson (shenson@bigfoot.com) for the OpenSSL
   3  * project 1999.
   4  */
   5 /* ====================================================================
   6  * Copyright (c) 1999 The OpenSSL Project.  All rights reserved.
   7  *
   8  * Redistribution and use in source and binary forms, with or without
   9  * modification, are permitted provided that the following conditions
  10  * are met:
  11  *
  12  * 1. Redistributions of source code must retain the above copyright
  13  *    notice, this list of conditions and the following disclaimer.
  14  *
  15  * 2. Redistributions in binary form must reproduce the above copyright
  16  *    notice, this list of conditions and the following disclaimer in
  17  *    the documentation and/or other materials provided with the
  18  *    distribution.
  19  *
  20  * 3. All advertising materials mentioning features or use of this
  21  *    software must display the following acknowledgment:
  22  *    "This product includes software developed by the OpenSSL Project
  23  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
  24  *
  25  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
  26  *    endorse or promote products derived from this software without
  27  *    prior written permission. For written permission, please contact
  28  *    licensing@OpenSSL.org.
  29  *
  30  * 5. Products derived from this software may not be called "OpenSSL"
  31  *    nor may "OpenSSL" appear in their names without prior written
  32  *    permission of the OpenSSL Project.
  33  *
  34  * 6. Redistributions of any form whatsoever must retain the following
  35  *    acknowledgment:
  36  *    "This product includes software developed by the OpenSSL Project
  37  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
  38  *
  39  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
  40  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  41  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
  42  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
  43  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
  44  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
  45  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
  46  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  47  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
  48  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
  49  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
  50  * OF THE POSSIBILITY OF SUCH DAMAGE.
  51  * ====================================================================
  52  *
  53  * This product includes cryptographic software written by Eric Young
  54  * (eay@cryptsoft.com).  This product includes software written by Tim
  55  * Hudson (tjh@cryptsoft.com).
  56  *
  57  */
  58
  59 #include <stdio.h>
  60 #include "cryptlib.h"
  61 #include <openssl/pkcs12.h>
  62
  63 /* Define this to dump decrypted output to files called DERnnn */
  64 /*#define DEBUG_DECRYPT*/
  65
  66
  67 /* Encrypt/Decrypt a buffer based on password and algor, result in a
  68  * Malloc'ed buffer
  69  */
  70
  71 unsigned char * PKCS12_pbe_crypt (X509_ALGOR *algor, const char *pass,
  72              int passlen, unsigned char *in, int inlen, unsigned char **data,
  73              int *datalen, int en_de)
  74 {
  75         unsigned char *out;
  76         int outlen, i;
  77         EVP_CIPHER_CTX ctx;
  78
  79         if(!(out = Malloc (inlen + 8))) {
  80                 PKCS12err(PKCS12_F_PKCS12_PBE_CRYPT,ERR_R_MALLOC_FAILURE);
  81                 return NULL;
  82         }
  83
  84         /* Decrypt data */
  85         if (!EVP_PBE_CipherInit (algor->algorithm, pass, passlen,
  86                                          algor->parameter, &ctx, en_de)) {
  87                 PKCS12err(PKCS12_F_PKCS12_PBE_CRYPT,PKCS12_R_PKCS12_ALGOR_CIPHERINIT_ERROR);
  88                 return NULL;
  89         }
  90         EVP_CipherUpdate (&ctx, out, &i, in, inlen);
  91         outlen = i;
  92         if(!EVP_CipherFinal (&ctx, out + i, &i)) {
  93                 Free (out);
  94                 PKCS12err(PKCS12_F_PKCS12_PBE_CRYPT,PKCS12_R_PKCS12_CIPHERFINAL_ERROR);
  95                 return NULL;
  96         }
  97         outlen += i;
  98         if (datalen) *datalen = outlen;
  99         if (data) *data = out;
 100         return out;
 101
 102 }
 103
 104 /* Decrypt an OCTET STRING and decode ASN1 structure
 105  * if seq & 1 'obj' is a stack of structures to be encoded
 106  * if seq & 2 zero buffer after use
 107  * as a sequence.
 108  */
 109
 110 char * PKCS12_decrypt_d2i (X509_ALGOR *algor, char * (*d2i)(),
 111              void (*free_func)(), const char *pass, int passlen,
 112              ASN1_OCTET_STRING *oct, int seq)
 113 {
 114         unsigned char *out, *p;
 115         char *ret;
 116         int outlen;
 117
 118         if (!PKCS12_pbe_crypt (algor, pass, passlen, oct->data, oct->length,
 119                                &out, &outlen, 0)) {
 120                 PKCS12err(PKCS12_F_PKCS12_DECRYPT_D2I,PKCS12_R_PKCS12_PBE_CRYPT_ERROR);
 121                 return NULL;
 122         }
 123         p = out;
 124 #ifdef DEBUG_DECRYPT
 125         {
 126                 FILE *op;
 127
 128                 char fname[30];
 129                 static int fnm = 1;
 130                 sprintf(fname, "DER%d", fnm++);
 131                 op = fopen(fname, "wb");
 132                 fwrite (p, 1, outlen, op);
 133                 fclose(op);
 134         }
 135 #endif
 136         if (seq & 1) ret = (char *) d2i_ASN1_SET(NULL, &p, outlen, d2i,
 137                                 free_func, V_ASN1_SEQUENCE, V_ASN1_UNIVERSAL);
 138         else ret = d2i(NULL, &p, outlen);
 139         if (seq & 2) memset(out, 0, outlen);
 140         if(!ret) PKCS12err(PKCS12_F_PKCS12_DECRYPT_D2I,PKCS12_R_DECODE_ERROR);
 141         Free (out);
 142         return ret;
 143 }
 144
 145 /* Encode ASN1 structure and encrypt, return OCTET STRING
 146  * if 'seq' is non-zero 'obj' is a stack of structures to be encoded
 147  * as a sequence
 148  */
 149
 150 ASN1_OCTET_STRING *PKCS12_i2d_encrypt (X509_ALGOR *algor, int (*i2d)(),
 151                                        const char *pass, int passlen,
 152                                        char *obj, int seq)
 153 {
 154         ASN1_OCTET_STRING *oct;
 155         unsigned char *in, *p;
 156         int inlen;
 157         if (!(oct = ASN1_OCTET_STRING_new ())) {
 158                 PKCS12err(PKCS12_F_PKCS12_I2D_ENCRYPT,ERR_R_MALLOC_FAILURE);
 159                 return NULL;
 160         }
 161         if (seq) inlen = i2d_ASN1_SET((STACK *)obj, NULL, i2d, V_ASN1_SEQUENCE,
 162                                                  V_ASN1_UNIVERSAL, IS_SEQUENCE);
 163         else inlen = i2d (obj, NULL);
 164         if (!inlen) {
 165                 PKCS12err(PKCS12_F_PKCS12_I2D_ENCRYPT,PKCS12_R_ENCODE_ERROR);
 166                 return NULL;
 167         }
 168         if (!(in = Malloc (inlen))) {
 169                 PKCS12err(PKCS12_F_PKCS12_I2D_ENCRYPT,ERR_R_MALLOC_FAILURE);
 170                 return NULL;
 171         }
 172         p = in;
 173         if (seq) i2d_ASN1_SET((STACK *)obj, &p, i2d, V_ASN1_SEQUENCE,
 174                                                  V_ASN1_UNIVERSAL, IS_SEQUENCE);
 175         else i2d (obj, &p);
 176         if (!PKCS12_pbe_crypt (algor, pass, passlen, in, inlen, &oct->data,
 177                                  &oct->length, 1)) {
 178                 PKCS12err(PKCS12_F_PKCS12_I2D_ENCRYPT,PKCS12_R_ENCRYPT_ERROR);
 179                 Free(in);
 180                 return NULL;
 181         }
 182         Free (in);
 183         return oct;
 184 }