Fix various less obvious bugs in PKCS#7 handling: such as not zeroing
[openssl.git] / crypto / evp / e_cbc_r2.c
1 /* crypto/evp/e_cbc_r2.c */
2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
3  * All rights reserved.
4  *
5  * This package is an SSL implementation written
6  * by Eric Young (eay@cryptsoft.com).
7  * The implementation was written so as to conform with Netscapes SSL.
8  * 
9  * This library is free for commercial and non-commercial use as long as
10  * the following conditions are aheared to.  The following conditions
11  * apply to all code found in this distribution, be it the RC4, RSA,
12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
13  * included with this distribution is covered by the same copyright terms
14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
15  * 
16  * Copyright remains Eric Young's, and as such any Copyright notices in
17  * the code are not to be removed.
18  * If this package is used in a product, Eric Young should be given attribution
19  * as the author of the parts of the library used.
20  * This can be in the form of a textual message at program startup or
21  * in documentation (online or textual) provided with the package.
22  * 
23  * Redistribution and use in source and binary forms, with or without
24  * modification, are permitted provided that the following conditions
25  * are met:
26  * 1. Redistributions of source code must retain the copyright
27  *    notice, this list of conditions and the following disclaimer.
28  * 2. Redistributions in binary form must reproduce the above copyright
29  *    notice, this list of conditions and the following disclaimer in the
30  *    documentation and/or other materials provided with the distribution.
31  * 3. All advertising materials mentioning features or use of this software
32  *    must display the following acknowledgement:
33  *    "This product includes cryptographic software written by
34  *     Eric Young (eay@cryptsoft.com)"
35  *    The word 'cryptographic' can be left out if the rouines from the library
36  *    being used are not cryptographic related :-).
37  * 4. If you include any Windows specific code (or a derivative thereof) from 
38  *    the apps directory (application code) you must include an acknowledgement:
39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
40  * 
41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
51  * SUCH DAMAGE.
52  * 
53  * The licence and distribution terms for any publically available version or
54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
55  * copied and put under another distribution licence
56  * [including the GNU Public Licence.]
57  */
58
59 #ifndef NO_RC2
60
61 #include <stdio.h>
62 #include "cryptlib.h"
63 #include <openssl/evp.h>
64 #include <openssl/objects.h>
65
66 static void rc2_cbc_init_key(EVP_CIPHER_CTX *ctx, unsigned char *key,
67         unsigned char *iv,int enc);
68 static void rc2_cbc_cipher(EVP_CIPHER_CTX *ctx, unsigned char *out,
69         unsigned char *in, unsigned int inl);
70 static int rc2_meth_to_magic(const EVP_CIPHER *e);
71 static EVP_CIPHER *rc2_magic_to_meth(int i);
72 static int rc2_set_asn1_type_and_iv(EVP_CIPHER_CTX *c, ASN1_TYPE *type);
73 static int rc2_get_asn1_type_and_iv(EVP_CIPHER_CTX *c, ASN1_TYPE *type);
74
75 #define RC2_40_MAGIC    0xa0
76 #define RC2_64_MAGIC    0x78
77 #define RC2_128_MAGIC   0x3a
78
79 static EVP_CIPHER r2_cbc_cipher=
80         {
81         NID_rc2_cbc,
82         8,EVP_RC2_KEY_SIZE,8,
83         rc2_cbc_init_key,
84         rc2_cbc_cipher,
85         NULL,
86         sizeof(EVP_CIPHER_CTX)-sizeof((((EVP_CIPHER_CTX *)NULL)->c))+
87                 sizeof((((EVP_CIPHER_CTX *)NULL)->c.rc2_ks)),
88         rc2_set_asn1_type_and_iv,
89         rc2_get_asn1_type_and_iv,
90         };
91
92 static EVP_CIPHER r2_64_cbc_cipher=
93         {
94         NID_rc2_64_cbc,
95         8,8 /* 64 bit */,8,
96         rc2_cbc_init_key,
97         rc2_cbc_cipher,
98         NULL,
99         sizeof(EVP_CIPHER_CTX)-sizeof((((EVP_CIPHER_CTX *)NULL)->c))+
100                 sizeof((((EVP_CIPHER_CTX *)NULL)->c.rc2_ks)),
101         rc2_set_asn1_type_and_iv,
102         rc2_get_asn1_type_and_iv,
103         };
104
105 static EVP_CIPHER r2_40_cbc_cipher=
106         {
107         NID_rc2_40_cbc,
108         8,5 /* 40 bit */,8,
109         rc2_cbc_init_key,
110         rc2_cbc_cipher,
111         NULL,
112         sizeof(EVP_CIPHER_CTX)-sizeof((((EVP_CIPHER_CTX *)NULL)->c))+
113                 sizeof((((EVP_CIPHER_CTX *)NULL)->c.rc2_ks)),
114         rc2_set_asn1_type_and_iv,
115         rc2_get_asn1_type_and_iv,
116         };
117
118 EVP_CIPHER *EVP_rc2_cbc(void)
119         {
120         return(&r2_cbc_cipher);
121         }
122
123 EVP_CIPHER *EVP_rc2_64_cbc(void)
124         {
125         return(&r2_64_cbc_cipher);
126         }
127
128 EVP_CIPHER *EVP_rc2_40_cbc(void)
129         {
130         return(&r2_40_cbc_cipher);
131         }
132         
133 static void rc2_cbc_init_key(EVP_CIPHER_CTX *ctx, unsigned char *key,
134              unsigned char *iv, int enc)
135         {
136         if (iv != NULL)
137                 memcpy(&(ctx->oiv[0]),iv,8);
138         memcpy(&(ctx->iv[0]),&(ctx->oiv[0]),8);
139         if (key != NULL)
140                 RC2_set_key(&(ctx->c.rc2_ks),EVP_CIPHER_CTX_key_length(ctx),
141                         key,EVP_CIPHER_CTX_key_length(ctx)*8);
142         }
143
144 static void rc2_cbc_cipher(EVP_CIPHER_CTX *ctx, unsigned char *out,
145              unsigned char *in, unsigned int inl)
146         {
147         RC2_cbc_encrypt(
148                 in,out,(long)inl,
149                 &(ctx->c.rc2_ks),&(ctx->iv[0]),
150                 ctx->encrypt);
151         }
152
153 static int rc2_meth_to_magic(const EVP_CIPHER *e)
154         {
155         int i;
156
157         i=EVP_CIPHER_key_length(e);
158         if      (i == 16) return(RC2_128_MAGIC);
159         else if (i == 8)  return(RC2_64_MAGIC);
160         else if (i == 5)  return(RC2_40_MAGIC);
161         else return(0);
162         }
163
164 static EVP_CIPHER *rc2_magic_to_meth(int i)
165         {
166         if      (i == RC2_128_MAGIC) return(EVP_rc2_cbc());
167         else if (i == RC2_64_MAGIC)  return(EVP_rc2_64_cbc());
168         else if (i == RC2_40_MAGIC)  return(EVP_rc2_40_cbc());
169         else
170                 {
171                 EVPerr(EVP_F_RC2_MAGIC_TO_METH,EVP_R_UNSUPPORTED_KEY_SIZE);
172                 return(NULL);
173                 }
174         }
175
176 static int rc2_get_asn1_type_and_iv(EVP_CIPHER_CTX *c, ASN1_TYPE *type)
177         {
178         long num=0;
179         int i=0,l;
180         EVP_CIPHER *e;
181
182         if (type != NULL)
183                 {
184                 l=EVP_CIPHER_CTX_iv_length(c);
185                 i=ASN1_TYPE_get_int_octetstring(type,&num,c->oiv,l);
186                 if (i != l)
187                         return(-1);
188                 else if (i > 0)
189                         memcpy(c->iv,c->oiv,l);
190                 e=rc2_magic_to_meth((int)num);
191                 if (e == NULL)
192                         return(-1);
193                 if (e != EVP_CIPHER_CTX_cipher(c))
194                         {
195                         EVP_CIPHER_CTX_cipher(c)=e;
196                         rc2_cbc_init_key(c,NULL,NULL,1);
197                         }
198                 }
199         return(i);
200         }
201
202 static int rc2_set_asn1_type_and_iv(EVP_CIPHER_CTX *c, ASN1_TYPE *type)
203         {
204         long num;
205         int i=0,j;
206
207         if (type != NULL)
208                 {
209                 num=rc2_meth_to_magic(EVP_CIPHER_CTX_cipher(c));
210                 j=EVP_CIPHER_CTX_iv_length(c);
211                 i=ASN1_TYPE_set_int_octetstring(type,num,c->oiv,j);
212                 }
213         return(i);
214         }
215
216 #endif