dev_crypto_init_key: return error if allocating CDATA(ctx)->key failed
[openssl.git] / crypto / evp / openbsd_hw.c
1 /* Written by Ben Laurie, 2001 */
2 /*
3  * Copyright (c) 2001 The OpenSSL Project.  All rights reserved.
4  *
5  * Redistribution and use in source and binary forms, with or without
6  * modification, are permitted provided that the following conditions
7  * are met:
8  *
9  * 1. Redistributions of source code must retain the above copyright
10  *    notice, this list of conditions and the following disclaimer. 
11  *
12  * 2. Redistributions in binary form must reproduce the above copyright
13  *    notice, this list of conditions and the following disclaimer in
14  *    the documentation and/or other materials provided with the
15  *    distribution.
16  *
17  * 3. All advertising materials mentioning features or use of this
18  *    software must display the following acknowledgment:
19  *    "This product includes software developed by the OpenSSL Project
20  *    for use in the OpenSSL Toolkit. (http://www.openssl.org/)"
21  *
22  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
23  *    endorse or promote products derived from this software without
24  *    prior written permission. For written permission, please contact
25  *    openssl-core@openssl.org.
26  *
27  * 5. Products derived from this software may not be called "OpenSSL"
28  *    nor may "OpenSSL" appear in their names without prior written
29  *    permission of the OpenSSL Project.
30  *
31  * 6. Redistributions of any form whatsoever must retain the following
32  *    acknowledgment:
33  *    "This product includes software developed by the OpenSSL Project
34  *    for use in the OpenSSL Toolkit (http://www.openssl.org/)"
35  *
36  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
37  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
38  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
39  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
40  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
41  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
42  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
43  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
44  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
45  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
46  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
47  * OF THE POSSIBILITY OF SUCH DAMAGE.
48  */
49
50 #include <openssl/evp.h>
51 #include <openssl/objects.h>
52 #include <openssl/rsa.h>
53 #include "evp_locl.h"
54
55 /* This stuff should now all be supported through
56  * crypto/engine/hw_openbsd_dev_crypto.c unless I botched it up */
57 static void *dummy=&dummy;
58
59 #if 0
60
61 /* check flag after OpenSSL headers to ensure make depend works */
62 #ifdef OPENSSL_OPENBSD_DEV_CRYPTO
63
64 #include <fcntl.h>
65 #include <stdio.h>
66 #include <errno.h>
67 #include <sys/ioctl.h>
68 #include <crypto/cryptodev.h>
69 #include <unistd.h>
70 #include <assert.h>
71
72 /* longest key supported in hardware */
73 #define MAX_HW_KEY      24
74 #define MAX_HW_IV       8
75
76 #define MD5_DIGEST_LENGTH       16
77 #define MD5_CBLOCK              64
78
79 static int fd;
80 static int dev_failed;
81
82 typedef struct session_op session_op;
83
84 #define CDATA(ctx) EVP_C_DATA(session_op,ctx)
85
86 static void err(const char *str)
87     {
88     fprintf(stderr,"%s: errno %d\n",str,errno);
89     }
90
91 static int dev_crypto_init(session_op *ses)
92     {
93     if(dev_failed)
94         return 0;
95     if(!fd)
96         {
97         int cryptodev_fd;
98
99         if ((cryptodev_fd=open("/dev/crypto",O_RDWR,0)) < 0)
100             {
101             err("/dev/crypto");
102             dev_failed=1;
103             return 0;
104             }
105         if (ioctl(cryptodev_fd,CRIOGET,&fd) == -1)
106             {
107             err("CRIOGET failed");
108             close(cryptodev_fd);
109             dev_failed=1;
110             return 0;
111             }
112         close(cryptodev_fd);
113         }
114     assert(ses);
115     memset(ses,'\0',sizeof *ses);
116
117     return 1;
118     }
119
120 static int dev_crypto_cleanup(EVP_CIPHER_CTX *ctx)
121     {
122     if(ioctl(fd,CIOCFSESSION,&CDATA(ctx)->ses) == -1)
123         err("CIOCFSESSION failed");
124
125     OPENSSL_free(CDATA(ctx)->key);
126
127     return 1;
128     }
129
130 static int dev_crypto_init_key(EVP_CIPHER_CTX *ctx,int cipher,
131                                const unsigned char *key,int klen)
132     {
133     if(!dev_crypto_init(CDATA(ctx)))
134         return 0;
135
136     CDATA(ctx)->key=OPENSSL_malloc(MAX_HW_KEY);
137     if (CDATA(ctx)->key == NULL)
138         return 0;
139
140     assert(ctx->cipher->iv_len <= MAX_HW_IV);
141
142     memcpy(CDATA(ctx)->key,key,klen);
143     
144     CDATA(ctx)->cipher=cipher;
145     CDATA(ctx)->keylen=klen;
146
147     if (ioctl(fd,CIOCGSESSION,CDATA(ctx)) == -1)
148         {
149         err("CIOCGSESSION failed");
150         return 0;
151         }
152     return 1;
153     }
154
155 static int dev_crypto_cipher(EVP_CIPHER_CTX *ctx,unsigned char *out,
156                              const unsigned char *in,unsigned int inl)
157     {
158     struct crypt_op cryp;
159     unsigned char lb[MAX_HW_IV];
160
161     if(!inl)
162         return 1;
163
164     assert(CDATA(ctx));
165     assert(!dev_failed);
166
167     memset(&cryp,'\0',sizeof cryp);
168     cryp.ses=CDATA(ctx)->ses;
169     cryp.op=ctx->encrypt ? COP_ENCRYPT : COP_DECRYPT;
170     cryp.flags=0;
171     cryp.len=inl;
172     assert((inl&(ctx->cipher->block_size-1)) == 0);
173     cryp.src=(caddr_t)in;
174     cryp.dst=(caddr_t)out;
175     cryp.mac=0;
176     if(ctx->cipher->iv_len)
177         cryp.iv=(caddr_t)ctx->iv;
178
179     if(!ctx->encrypt)
180         memcpy(lb,&in[cryp.len-ctx->cipher->iv_len],ctx->cipher->iv_len);
181
182     if(ioctl(fd, CIOCCRYPT, &cryp) == -1)
183         {
184         if(errno == EINVAL) /* buffers are misaligned */
185             {
186             unsigned int cinl=0;
187             char *cin=NULL;
188             char *cout=NULL;
189
190             /* NB: this can only make cinl != inl with stream ciphers */
191             cinl=(inl+3)/4*4;
192
193             if(((unsigned long)in&3) || cinl != inl)
194                 {
195                 cin=OPENSSL_malloc(cinl);
196                 memcpy(cin,in,inl);
197                 cryp.src=cin;
198                 }
199
200             if(((unsigned long)out&3) || cinl != inl)
201                 {
202                 cout=OPENSSL_malloc(cinl);
203                 cryp.dst=cout;
204                 }
205
206             cryp.len=cinl;
207
208             if(ioctl(fd, CIOCCRYPT, &cryp) == -1)
209                 {
210                 err("CIOCCRYPT(2) failed");
211                 printf("src=%p dst=%p\n",cryp.src,cryp.dst);
212                 abort();
213                 return 0;
214                 }
215                 
216             if(cout)
217                 {
218                 memcpy(out,cout,inl);
219                 OPENSSL_free(cout);
220                 }
221             if(cin)
222                 OPENSSL_free(cin);
223             }
224         else 
225             {       
226             err("CIOCCRYPT failed");
227             abort();
228             return 0;
229             }
230         }
231
232     if(ctx->encrypt)
233         memcpy(ctx->iv,&out[cryp.len-ctx->cipher->iv_len],ctx->cipher->iv_len);
234     else
235         memcpy(ctx->iv,lb,ctx->cipher->iv_len);
236
237     return 1;
238     }
239
240 static int dev_crypto_des_ede3_init_key(EVP_CIPHER_CTX *ctx,
241                                         const unsigned char *key,
242                                         const unsigned char *iv, int enc)
243     { return dev_crypto_init_key(ctx,CRYPTO_3DES_CBC,key,24); }
244
245 #define dev_crypto_des_ede3_cbc_cipher dev_crypto_cipher
246
247 BLOCK_CIPHER_def_cbc(dev_crypto_des_ede3, session_op, NID_des_ede3, 8, 24, 8,
248                      0, dev_crypto_des_ede3_init_key,
249                      dev_crypto_cleanup, 
250                      EVP_CIPHER_set_asn1_iv,
251                      EVP_CIPHER_get_asn1_iv,
252                      NULL)
253
254 static int dev_crypto_rc4_init_key(EVP_CIPHER_CTX *ctx,
255                                         const unsigned char *key,
256                                         const unsigned char *iv, int enc)
257     { return dev_crypto_init_key(ctx,CRYPTO_ARC4,key,16); }
258
259 static const EVP_CIPHER r4_cipher=
260     {
261     NID_rc4,
262     1,16,0,     /* FIXME: key should be up to 256 bytes */
263     EVP_CIPH_VARIABLE_LENGTH,
264     dev_crypto_rc4_init_key,
265     dev_crypto_cipher,
266     dev_crypto_cleanup,
267     sizeof(session_op),
268     NULL,
269     NULL,
270     NULL
271     };
272
273 const EVP_CIPHER *EVP_dev_crypto_rc4(void)
274     { return &r4_cipher; }
275
276 typedef struct
277     {
278     session_op sess;
279     char *data;
280     int len;
281     unsigned char md[EVP_MAX_MD_SIZE];
282     } MD_DATA;
283
284 static int dev_crypto_init_digest(MD_DATA *md_data,int mac)
285     {
286     if(!dev_crypto_init(&md_data->sess))
287         return 0;
288
289     md_data->len=0;
290     md_data->data=NULL;
291
292     md_data->sess.mac=mac;
293
294     if (ioctl(fd,CIOCGSESSION,&md_data->sess) == -1)
295         {
296         err("CIOCGSESSION failed");
297         return 0;
298         }
299     return 1;
300     }
301
302 static int dev_crypto_cleanup_digest(MD_DATA *md_data)
303     {
304     if (ioctl(fd,CIOCFSESSION,&md_data->sess.ses) == -1)
305         {
306         err("CIOCFSESSION failed");
307         return 0;
308         }
309
310     return 1;
311     }
312
313 /* FIXME: if device can do chained MACs, then don't accumulate */
314 /* FIXME: move accumulation to the framework */
315 static int dev_crypto_md5_init(EVP_MD_CTX *ctx)
316     { return dev_crypto_init_digest(ctx->md_data,CRYPTO_MD5); }
317
318 static int do_digest(int ses,unsigned char *md,const void *data,int len)
319     {
320     struct crypt_op cryp;
321     static unsigned char md5zero[16]=
322         {
323         0xd4,0x1d,0x8c,0xd9,0x8f,0x00,0xb2,0x04,
324         0xe9,0x80,0x09,0x98,0xec,0xf8,0x42,0x7e
325         };
326
327     /* some cards can't do zero length */
328     if(!len)
329         {
330         memcpy(md,md5zero,16);
331         return 1;
332         }
333
334     memset(&cryp,'\0',sizeof cryp);
335     cryp.ses=ses;
336     cryp.op=COP_ENCRYPT;/* required to do the MAC rather than check it */
337     cryp.len=len;
338     cryp.src=(caddr_t)data;
339     cryp.dst=(caddr_t)data; // FIXME!!!
340     cryp.mac=(caddr_t)md;
341
342     if(ioctl(fd, CIOCCRYPT, &cryp) == -1)
343         {
344         if(errno == EINVAL) /* buffer is misaligned */
345             {
346             char *dcopy;
347
348             dcopy=OPENSSL_malloc(len);
349             memcpy(dcopy,data,len);
350             cryp.src=dcopy;
351             cryp.dst=cryp.src; // FIXME!!!
352
353             if(ioctl(fd, CIOCCRYPT, &cryp) == -1)
354                 {
355                 err("CIOCCRYPT(MAC2) failed");
356                 abort();
357                 return 0;
358                 }
359             OPENSSL_free(dcopy);
360             }
361         else
362             {
363             err("CIOCCRYPT(MAC) failed");
364             abort();
365             return 0;
366             }
367         }
368     //    printf("done\n");
369
370     return 1;
371     }
372
373 static int dev_crypto_md5_update(EVP_MD_CTX *ctx,const void *data,
374                                  unsigned long len)
375     {
376     MD_DATA *md_data=ctx->md_data;
377
378     if(ctx->flags&EVP_MD_CTX_FLAG_ONESHOT)
379         return do_digest(md_data->sess.ses,md_data->md,data,len);
380
381     md_data->data=OPENSSL_realloc(md_data->data,md_data->len+len);
382     memcpy(md_data->data+md_data->len,data,len);
383     md_data->len+=len;
384
385     return 1;
386     }   
387
388 static int dev_crypto_md5_final(EVP_MD_CTX *ctx,unsigned char *md)
389     {
390     int ret;
391     MD_DATA *md_data=ctx->md_data;
392
393     if(ctx->flags&EVP_MD_CTX_FLAG_ONESHOT)
394         {
395         memcpy(md,md_data->md,MD5_DIGEST_LENGTH);
396         ret=1;
397         }
398     else
399         {
400         ret=do_digest(md_data->sess.ses,md,md_data->data,md_data->len);
401         OPENSSL_free(md_data->data);
402         md_data->data=NULL;
403         md_data->len=0;
404         }
405
406     return ret;
407     }
408
409 static int dev_crypto_md5_copy(EVP_MD_CTX *to,const EVP_MD_CTX *from)
410     {
411     const MD_DATA *from_md=from->md_data;
412     MD_DATA *to_md=to->md_data;
413
414     // How do we copy sessions?
415     assert(from->digest->flags&EVP_MD_FLAG_ONESHOT);
416
417     to_md->data=OPENSSL_malloc(from_md->len);
418     memcpy(to_md->data,from_md->data,from_md->len);
419
420     return 1;
421     }
422
423 static int dev_crypto_md5_cleanup(EVP_MD_CTX *ctx)
424     {
425     return dev_crypto_cleanup_digest(ctx->md_data);
426     }
427
428 static const EVP_MD md5_md=
429     {
430     NID_md5,
431     NID_md5WithRSAEncryption,
432     MD5_DIGEST_LENGTH,
433     EVP_MD_FLAG_ONESHOT,        // XXX: set according to device info...
434     dev_crypto_md5_init,
435     dev_crypto_md5_update,
436     dev_crypto_md5_final,
437     dev_crypto_md5_copy,
438     dev_crypto_md5_cleanup,
439     EVP_PKEY_RSA_method,
440     MD5_CBLOCK,
441     sizeof(MD_DATA),
442     };
443
444 const EVP_MD *EVP_dev_crypto_md5(void)
445     { return &md5_md; }
446
447 #endif
448 #endif