evp/e_des3.c: fix typo with potential integer overflow on 32-bit platforms.
[openssl.git] / crypto / evp / e_des.c
1 /* crypto/evp/e_des.c */
2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
3  * All rights reserved.
4  *
5  * This package is an SSL implementation written
6  * by Eric Young (eay@cryptsoft.com).
7  * The implementation was written so as to conform with Netscapes SSL.
8  * 
9  * This library is free for commercial and non-commercial use as long as
10  * the following conditions are aheared to.  The following conditions
11  * apply to all code found in this distribution, be it the RC4, RSA,
12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
13  * included with this distribution is covered by the same copyright terms
14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
15  * 
16  * Copyright remains Eric Young's, and as such any Copyright notices in
17  * the code are not to be removed.
18  * If this package is used in a product, Eric Young should be given attribution
19  * as the author of the parts of the library used.
20  * This can be in the form of a textual message at program startup or
21  * in documentation (online or textual) provided with the package.
22  * 
23  * Redistribution and use in source and binary forms, with or without
24  * modification, are permitted provided that the following conditions
25  * are met:
26  * 1. Redistributions of source code must retain the copyright
27  *    notice, this list of conditions and the following disclaimer.
28  * 2. Redistributions in binary form must reproduce the above copyright
29  *    notice, this list of conditions and the following disclaimer in the
30  *    documentation and/or other materials provided with the distribution.
31  * 3. All advertising materials mentioning features or use of this software
32  *    must display the following acknowledgement:
33  *    "This product includes cryptographic software written by
34  *     Eric Young (eay@cryptsoft.com)"
35  *    The word 'cryptographic' can be left out if the rouines from the library
36  *    being used are not cryptographic related :-).
37  * 4. If you include any Windows specific code (or a derivative thereof) from 
38  *    the apps directory (application code) you must include an acknowledgement:
39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
40  * 
41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
51  * SUCH DAMAGE.
52  * 
53  * The licence and distribution terms for any publically available version or
54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
55  * copied and put under another distribution licence
56  * [including the GNU Public Licence.]
57  */
58
59 #include <stdio.h>
60 #include "cryptlib.h"
61 #ifndef OPENSSL_NO_DES
62 #include <openssl/evp.h>
63 #include <openssl/objects.h>
64 #include "evp_locl.h"
65 #include <openssl/des.h>
66 #include <openssl/rand.h>
67
68 typedef struct
69         {
70         union { double align; DES_key_schedule ks; } ks;
71         union {
72                 void (*cbc)(const void *,void *,size_t,const void *,void *);
73         } stream;
74         } EVP_DES_KEY;
75
76 #if defined(AES_ASM) && (defined(__sparc) || defined(__sparc__))
77 /* ---------^^^ this is not a typo, just a way to detect that
78  * assembler support was in general requested... */
79 #include "sparc_arch.h"
80
81 extern unsigned int OPENSSL_sparcv9cap_P[];
82
83 #define SPARC_DES_CAPABLE       (OPENSSL_sparcv9cap_P[1] & CFR_DES)
84
85 void    des_t4_key_expand(const void *key, DES_key_schedule *ks);
86 void    des_t4_cbc_encrypt(const void *inp,void *out,size_t len,
87                                 DES_key_schedule *ks,unsigned char iv[8]);
88 void    des_t4_cbc_decrypt(const void *inp,void *out,size_t len,
89                                 DES_key_schedule *ks,unsigned char iv[8]);
90 #endif
91
92 static int des_init_key(EVP_CIPHER_CTX *ctx, const unsigned char *key,
93                         const unsigned char *iv, int enc);
94 static int des_ctrl(EVP_CIPHER_CTX *c, int type, int arg, void *ptr);
95
96 /* Because of various casts and different names can't use IMPLEMENT_BLOCK_CIPHER */
97
98 static int des_ecb_cipher(EVP_CIPHER_CTX *ctx, unsigned char *out,
99                           const unsigned char *in, size_t inl)
100 {
101         BLOCK_CIPHER_ecb_loop()
102                 DES_ecb_encrypt((DES_cblock *)(in + i), (DES_cblock *)(out + i), ctx->cipher_data, ctx->encrypt);
103         return 1;
104 }
105
106 static int des_ofb_cipher(EVP_CIPHER_CTX *ctx, unsigned char *out,
107                           const unsigned char *in, size_t inl)
108 {
109         while(inl>=EVP_MAXCHUNK)
110                 {
111                 DES_ofb64_encrypt(in, out, (long)EVP_MAXCHUNK, ctx->cipher_data,
112                                 (DES_cblock *)ctx->iv, &ctx->num);
113                 inl-=EVP_MAXCHUNK;
114                 in +=EVP_MAXCHUNK;
115                 out+=EVP_MAXCHUNK;
116                 }
117         if (inl)
118                 DES_ofb64_encrypt(in, out, (long)inl, ctx->cipher_data,
119                                 (DES_cblock *)ctx->iv, &ctx->num);
120         return 1;
121 }
122
123 static int des_cbc_cipher(EVP_CIPHER_CTX *ctx, unsigned char *out,
124                           const unsigned char *in, size_t inl)
125 {
126         EVP_DES_KEY *dat = (EVP_DES_KEY *)ctx->cipher_data;
127
128         if (dat->stream.cbc)
129                 {
130                 (*dat->stream.cbc)(in,out,inl,&dat->ks.ks,ctx->iv);
131                 return 1;
132                 }
133         while(inl>=EVP_MAXCHUNK)
134                 {
135                 DES_ncbc_encrypt(in, out, (long)EVP_MAXCHUNK, ctx->cipher_data,
136                                 (DES_cblock *)ctx->iv, ctx->encrypt);
137                 inl-=EVP_MAXCHUNK;
138                 in +=EVP_MAXCHUNK;
139                 out+=EVP_MAXCHUNK;
140                 }
141         if (inl)
142                 DES_ncbc_encrypt(in, out, (long)inl, ctx->cipher_data,
143                                 (DES_cblock *)ctx->iv, ctx->encrypt);
144         return 1;
145 }
146
147 static int des_cfb64_cipher(EVP_CIPHER_CTX *ctx, unsigned char *out,
148                             const unsigned char *in, size_t inl)
149 {
150         while(inl>=EVP_MAXCHUNK)
151                 {
152                 DES_cfb64_encrypt(in,out, (long)EVP_MAXCHUNK, ctx->cipher_data,
153                                 (DES_cblock *)ctx->iv, &ctx->num, ctx->encrypt);
154                 inl-=EVP_MAXCHUNK;
155                 in +=EVP_MAXCHUNK;
156                 out+=EVP_MAXCHUNK;
157                 }
158         if (inl)
159                 DES_cfb64_encrypt(in, out, (long)inl, ctx->cipher_data,
160                           (DES_cblock *)ctx->iv, &ctx->num, ctx->encrypt);
161         return 1;
162 }
163
164 /* Although we have a CFB-r implementation for DES, it doesn't pack the right
165    way, so wrap it here */
166 static int des_cfb1_cipher(EVP_CIPHER_CTX *ctx, unsigned char *out,
167                            const unsigned char *in, size_t inl)
168     {
169     size_t n,chunk=EVP_MAXCHUNK/8;
170     unsigned char c[1],d[1];
171
172     if (inl<chunk) chunk=inl;
173
174     while (inl && inl>=chunk)
175         {
176         for(n=0 ; n < chunk*8; ++n)
177             {
178             c[0]=(in[n/8]&(1 << (7-n%8))) ? 0x80 : 0;
179             DES_cfb_encrypt(c,d,1,1,ctx->cipher_data,(DES_cblock *)ctx->iv,
180                         ctx->encrypt);
181             out[n/8]=(out[n/8]&~(0x80 >> (unsigned int)(n%8))) |
182                      ((d[0]&0x80) >> (unsigned int)(n%8));
183             }
184         inl-=chunk;
185         in +=chunk;
186         out+=chunk;
187         if (inl<chunk) chunk=inl;
188         }
189
190     return 1;
191     }
192
193 static int des_cfb8_cipher(EVP_CIPHER_CTX *ctx, unsigned char *out,
194                            const unsigned char *in, size_t inl)
195     {
196     while (inl>=EVP_MAXCHUNK)
197         {
198         DES_cfb_encrypt(in,out,8,(long)EVP_MAXCHUNK,ctx->cipher_data,
199                         (DES_cblock *)ctx->iv,ctx->encrypt);
200         inl-=EVP_MAXCHUNK;
201         in +=EVP_MAXCHUNK;
202         out+=EVP_MAXCHUNK;
203         }
204     if (inl)
205         DES_cfb_encrypt(in,out,8,(long)inl,ctx->cipher_data,
206                         (DES_cblock *)ctx->iv,ctx->encrypt);
207     return 1;
208     }
209
210 BLOCK_CIPHER_defs(des, EVP_DES_KEY, NID_des, 8, 8, 8, 64,
211                         EVP_CIPH_RAND_KEY, des_init_key, NULL,
212                         EVP_CIPHER_set_asn1_iv,
213                         EVP_CIPHER_get_asn1_iv,
214                         des_ctrl)
215
216 BLOCK_CIPHER_def_cfb(des,EVP_DES_KEY,NID_des,8,8,1,
217                      EVP_CIPH_RAND_KEY, des_init_key,NULL,
218                      EVP_CIPHER_set_asn1_iv,
219                      EVP_CIPHER_get_asn1_iv,des_ctrl)
220
221 BLOCK_CIPHER_def_cfb(des,EVP_DES_KEY,NID_des,8,8,8,
222                      EVP_CIPH_RAND_KEY,des_init_key,NULL,
223                      EVP_CIPHER_set_asn1_iv,
224                      EVP_CIPHER_get_asn1_iv,des_ctrl)
225
226 static int des_init_key(EVP_CIPHER_CTX *ctx, const unsigned char *key,
227                         const unsigned char *iv, int enc)
228         {
229         DES_cblock *deskey = (DES_cblock *)key;
230         EVP_DES_KEY *dat = (EVP_DES_KEY *)ctx->cipher_data;
231
232         dat->stream.cbc = NULL;
233 #if defined(SPARC_DES_CAPABLE)
234         if (SPARC_DES_CAPABLE)
235                 {
236                 int mode = ctx->cipher->flags & EVP_CIPH_MODE;
237
238                 if (mode == EVP_CIPH_CBC_MODE)
239                         {
240                         des_t4_key_expand(key,&dat->ks.ks);
241                         dat->stream.cbc = enc ? des_t4_cbc_encrypt :
242                                                 des_t4_cbc_decrypt;
243                         return 1;
244                         }
245                 }
246 #endif
247 #ifdef EVP_CHECK_DES_KEY
248         if(DES_set_key_checked(deskey,dat->ks.ks) != 0)
249                 return 0;
250 #else
251         DES_set_key_unchecked(deskey,ctx->cipher_data);
252 #endif
253         return 1;
254         }
255
256 static int des_ctrl(EVP_CIPHER_CTX *c, int type, int arg, void *ptr)
257         {
258         
259         switch(type)
260                 {
261         case EVP_CTRL_RAND_KEY:
262                 if (RAND_bytes(ptr, 8) <= 0)
263                         return 0;
264                 DES_set_odd_parity((DES_cblock *)ptr);
265                 return 1;
266
267         default:
268                 return -1;
269                 }
270         }
271
272 #endif