e93b7fd1a23eb7d9fb232fdc1fdb6f2bd3d01805
[openssl.git] / crypto / engine / eng_cryptodev.c
1 /*
2  * Copyright (c) 2002 Bob Beck <beck@openbsd.org>
3  * Copyright (c) 2002 Theo de Raadt
4  * Copyright (c) 2002 Markus Friedl
5  * All rights reserved.
6  *
7  * Redistribution and use in source and binary forms, with or without
8  * modification, are permitted provided that the following conditions
9  * are met:
10  * 1. Redistributions of source code must retain the above copyright
11  *    notice, this list of conditions and the following disclaimer.
12  * 2. Redistributions in binary form must reproduce the above copyright
13  *    notice, this list of conditions and the following disclaimer in the
14  *    documentation and/or other materials provided with the distribution.
15  * 3. Neither the name of the author nor the names of contributors
16  *    may be used to endorse or promote products derived from this software
17  *    without specific prior written permission.
18  *
19  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR AND CONTRIBUTORS ``AS IS'' AND ANY
20  * EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED
21  * WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE
22  * DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE FOR ANY
23  * DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES
24  * (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
25  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND
26  * ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
27  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF
28  * THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
29  *
30  */
31
32 #include <openssl/objects.h>
33 #include <openssl/engine.h>
34 #include <openssl/evp.h>
35
36 #if (defined(__unix__) || defined(unix)) && !defined(USG) && \
37         (defined(OpenBSD) || defined(__FreeBSD_version))
38 #include <sys/param.h>
39 # if (OpenBSD >= 200112) || ((__FreeBSD_version >= 470101 && __FreeBSD_version < 500000) || __FreeBSD_version >= 500041)
40 #  define HAVE_CRYPTODEV
41 # endif
42 # if (OpenBSD >= 200110)
43 #  define HAVE_SYSLOG_R
44 # endif
45 #endif
46
47 #ifndef HAVE_CRYPTODEV
48
49 void
50 ENGINE_load_cryptodev(void)
51 {
52         /* This is a NOP on platforms without /dev/crypto */
53         return;
54 }
55
56 #else 
57  
58 #include <sys/types.h>
59 #include <crypto/cryptodev.h>
60 #include <sys/ioctl.h>
61 #include <errno.h>
62 #include <stdio.h>
63 #include <unistd.h>
64 #include <fcntl.h>
65 #include <stdarg.h>
66 #include <syslog.h>
67 #include <errno.h>
68 #include <string.h>
69
70 struct dev_crypto_state {
71         struct session_op d_sess;
72         int d_fd;
73 };
74
75 static u_int32_t cryptodev_asymfeat = 0;
76
77 static int get_asym_dev_crypto(void);
78 static int open_dev_crypto(void);
79 static int get_dev_crypto(void);
80 static int cryptodev_max_iv(int cipher);
81 static int cryptodev_key_length_valid(int cipher, int len);
82 static int cipher_nid_to_cryptodev(int nid);
83 static int get_cryptodev_ciphers(const int **cnids);
84 static int get_cryptodev_digests(const int **cnids);
85 static int cryptodev_usable_ciphers(const int **nids);
86 static int cryptodev_usable_digests(const int **nids);
87 static int cryptodev_cipher(EVP_CIPHER_CTX *ctx, unsigned char *out,
88     const unsigned char *in, unsigned int inl);
89 static int cryptodev_init_key(EVP_CIPHER_CTX *ctx, const unsigned char *key,
90     const unsigned char *iv, int enc);
91 static int cryptodev_cleanup(EVP_CIPHER_CTX *ctx);
92 static int cryptodev_engine_ciphers(ENGINE *e, const EVP_CIPHER **cipher,
93     const int **nids, int nid);
94 static int cryptodev_engine_digests(ENGINE *e, const EVP_MD **digest,
95     const int **nids, int nid);
96 static int bn2crparam(const BIGNUM *a, struct crparam *crp);
97 static int crparam2bn(struct crparam *crp, BIGNUM *a);
98 static void zapparams(struct crypt_kop *kop);
99 static int cryptodev_asym(struct crypt_kop *kop, int rlen, BIGNUM *r,
100     int slen, BIGNUM *s);
101
102 static int cryptodev_bn_mod_exp(BIGNUM *r, const BIGNUM *a,
103     const BIGNUM *p, const BIGNUM *m, BN_CTX *ctx, BN_MONT_CTX *m_ctx);
104 static int cryptodev_rsa_nocrt_mod_exp(BIGNUM *r0, const BIGNUM *I,
105     RSA *rsa);
106 static int cryptodev_rsa_mod_exp(BIGNUM *r0, const BIGNUM *I, RSA *rsa);
107 static int cryptodev_dsa_bn_mod_exp(DSA *dsa, BIGNUM *r, BIGNUM *a,
108     const BIGNUM *p, const BIGNUM *m, BN_CTX *ctx, BN_MONT_CTX *m_ctx);
109 static int cryptodev_dsa_dsa_mod_exp(DSA *dsa, BIGNUM *t1, BIGNUM *g,
110     BIGNUM *u1, BIGNUM *pub_key, BIGNUM *u2, BIGNUM *p,
111     BN_CTX *ctx, BN_MONT_CTX *mont);
112 static DSA_SIG *cryptodev_dsa_do_sign(const unsigned char *dgst,
113     int dlen, DSA *dsa);
114 static int cryptodev_dsa_verify(const unsigned char *dgst, int dgst_len,
115     DSA_SIG *sig, DSA *dsa);
116 static int cryptodev_mod_exp_dh(const DH *dh, BIGNUM *r, const BIGNUM *a,
117     const BIGNUM *p, const BIGNUM *m, BN_CTX *ctx,
118     BN_MONT_CTX *m_ctx);
119 static int cryptodev_dh_compute_key(unsigned char *key,
120     const BIGNUM *pub_key, DH *dh);
121 static int cryptodev_ctrl(ENGINE *e, int cmd, long i, void *p,
122     void (*f)());
123 void ENGINE_load_cryptodev(void);
124
125 static const ENGINE_CMD_DEFN cryptodev_defns[] = {
126         { 0, NULL, NULL, 0 }
127 };
128
129 static struct {
130         int     id;
131         int     nid;
132         int     ivmax;
133         int     keylen;
134 } ciphers[] = {
135         { CRYPTO_DES_CBC,               NID_des_cbc,            8,       8, },
136         { CRYPTO_3DES_CBC,              NID_des_ede3_cbc,       8,      24, },
137         { CRYPTO_AES_CBC,               NID_aes_128_cbc,        16,     16, },
138         { CRYPTO_BLF_CBC,               NID_bf_cbc,             8,      16, },
139         { CRYPTO_CAST_CBC,              NID_cast5_cbc,          8,      16, },
140         { CRYPTO_SKIPJACK_CBC,          NID_undef,              0,       0, },
141         { 0,                            NID_undef,              0,       0, },
142 };
143
144 static struct {
145         int     id;
146         int     nid;
147 } digests[] = {
148         { CRYPTO_SHA1_HMAC,             NID_hmacWithSHA1,       },
149         { CRYPTO_RIPEMD160_HMAC,        NID_ripemd160,          },
150         { CRYPTO_MD5_KPDK,              NID_undef,              },
151         { CRYPTO_SHA1_KPDK,             NID_undef,              },
152         { CRYPTO_MD5,                   NID_md5,                },
153         { CRYPTO_SHA1,                  NID_undef,              },
154         { 0,                            NID_undef,              },
155 };
156
157 /*
158  * Return a fd if /dev/crypto seems usable, 0 otherwise.
159  */
160 static int
161 open_dev_crypto(void)
162 {
163         static int fd = -1;
164
165         if (fd == -1) {
166                 if ((fd = open("/dev/crypto", O_RDWR, 0)) == -1)
167                         return (-1);
168                 /* close on exec */
169                 if (fcntl(fd, F_SETFD, 1) == -1) {
170                         close(fd);
171                         fd = -1;
172                         return (-1);
173                 }
174         }
175         return (fd);
176 }
177
178 static int
179 get_dev_crypto(void)
180 {
181         int fd, retfd;
182
183         if ((fd = open_dev_crypto()) == -1)
184                 return (-1);
185         if (ioctl(fd, CRIOGET, &retfd) == -1)
186                 return (-1);
187
188         /* close on exec */
189         if (fcntl(retfd, F_SETFD, 1) == -1) {
190                 close(retfd);
191                 return (-1);
192         }
193         return (retfd);
194 }
195
196 /* Caching version for asym operations */
197 static int
198 get_asym_dev_crypto(void)
199 {
200         static int fd = -1;
201
202         if (fd == -1)
203                 fd = get_dev_crypto();
204         return fd;
205 }
206
207 /*
208  * XXXX this needs to be set for each alg - and determined from
209  * a running card.
210  */
211 static int
212 cryptodev_max_iv(int cipher)
213 {
214         int i;
215
216         for (i = 0; ciphers[i].id; i++)
217                 if (ciphers[i].id == cipher)
218                         return (ciphers[i].ivmax);
219         return (0);
220 }
221
222 /*
223  * XXXX this needs to be set for each alg - and determined from
224  * a running card. For now, fake it out - but most of these
225  * for real devices should return 1 for the supported key
226  * sizes the device can handle.
227  */
228 static int
229 cryptodev_key_length_valid(int cipher, int len)
230 {
231         int i;
232
233         for (i = 0; ciphers[i].id; i++)
234                 if (ciphers[i].id == cipher)
235                         return (ciphers[i].keylen == len);
236         return (0);
237 }
238
239 /* convert libcrypto nids to cryptodev */
240 static int
241 cipher_nid_to_cryptodev(int nid)
242 {
243         int i;
244
245         for (i = 0; ciphers[i].id; i++)
246                 if (ciphers[i].nid == nid)
247                         return (ciphers[i].id);
248         return (0);
249 }
250
251 /*
252  * Find out what ciphers /dev/crypto will let us have a session for.
253  * XXX note, that some of these openssl doesn't deal with yet!
254  * returning them here is harmless, as long as we return NULL
255  * when asked for a handler in the cryptodev_engine_ciphers routine
256  */
257 static int
258 get_cryptodev_ciphers(const int **cnids)
259 {
260         static int nids[CRYPTO_ALGORITHM_MAX];
261         struct session_op sess;
262         int fd, i, count = 0;
263
264         if ((fd = get_dev_crypto()) < 0) {
265                 *nids = NULL;
266                 return (0);
267         }
268         memset(&sess, 0, sizeof(sess));
269         sess.key = (caddr_t)"123456781234567812345678";
270
271         for (i = 0; ciphers[i].id && count < CRYPTO_ALGORITHM_MAX; i++) {
272                 if (ciphers[i].nid == NID_undef)
273                         continue;
274                 sess.cipher = ciphers[i].id;
275                 sess.keylen = ciphers[i].keylen;
276                 sess.mac = 0;
277                 if (ioctl(fd, CIOCGSESSION, &sess) != -1 &&
278                     ioctl(fd, CIOCFSESSION, &sess.ses) != -1)
279                         nids[count++] = ciphers[i].nid;
280         }
281         close(fd);
282
283         if (count > 0)
284                 *cnids = nids;
285         else
286                 *cnids = NULL;
287         return (count);
288 }
289
290 /*
291  * Find out what digests /dev/crypto will let us have a session for.
292  * XXX note, that some of these openssl doesn't deal with yet!
293  * returning them here is harmless, as long as we return NULL
294  * when asked for a handler in the cryptodev_engine_digests routine
295  */
296 static int
297 get_cryptodev_digests(const int **cnids)
298 {
299         static int nids[CRYPTO_ALGORITHM_MAX];
300         struct session_op sess;
301         int fd, i, count = 0;
302
303         if ((fd = get_dev_crypto()) < 0) {
304                 *nids = NULL;
305                 return (0);
306         }
307         memset(&sess, 0, sizeof(sess));
308         for (i = 0; digests[i].id && count < CRYPTO_ALGORITHM_MAX; i++) {
309                 if (digests[i].nid == NID_undef)
310                         continue;
311                 sess.mac = digests[i].id;
312                 sess.cipher = 0;
313                 if (ioctl(fd, CIOCGSESSION, &sess) != -1 &&
314                     ioctl(fd, CIOCFSESSION, &sess.ses) != -1)
315                         nids[count++] = digests[i].nid;
316         }
317         close(fd);
318
319         if (count > 0)
320                 *cnids = nids;
321         else
322                 *cnids = NULL;
323         return (count);
324 }
325
326 /*
327  * Find the useable ciphers|digests from dev/crypto - this is the first
328  * thing called by the engine init crud which determines what it
329  * can use for ciphers from this engine. We want to return
330  * only what we can do, anythine else is handled by software.
331  *
332  * If we can't initialize the device to do anything useful for
333  * any reason, we want to return a NULL array, and 0 length,
334  * which forces everything to be done is software. By putting
335  * the initalization of the device in here, we ensure we can
336  * use this engine as the default, and if for whatever reason
337  * /dev/crypto won't do what we want it will just be done in
338  * software
339  *
340  * This can (should) be greatly expanded to perhaps take into
341  * account speed of the device, and what we want to do.
342  * (although the disabling of particular alg's could be controlled
343  * by the device driver with sysctl's.) - this is where we
344  * want most of the decisions made about what we actually want
345  * to use from /dev/crypto.
346  */
347 static int
348 cryptodev_usable_ciphers(const int **nids)
349 {
350         return (get_cryptodev_ciphers(nids));
351 }
352
353 static int
354 cryptodev_usable_digests(const int **nids)
355 {
356         /*
357          * XXXX just disable all digests for now, because it sucks.
358          * we need a better way to decide this - i.e. I may not
359          * want digests on slow cards like hifn on fast machines,
360          * but might want them on slow or loaded machines, etc.
361          * will also want them when using crypto cards that don't
362          * suck moose gonads - would be nice to be able to decide something
363          * as reasonable default without having hackery that's card dependent.
364          * of course, the default should probably be just do everything,
365          * with perhaps a sysctl to turn algoritms off (or have them off
366          * by default) on cards that generally suck like the hifn.
367          */
368         *nids = NULL;
369         return (0);
370 }
371
372 static int
373 cryptodev_cipher(EVP_CIPHER_CTX *ctx, unsigned char *out,
374     const unsigned char *in, unsigned int inl)
375 {
376         struct crypt_op cryp;
377         struct dev_crypto_state *state = ctx->cipher_data;
378         struct session_op *sess = &state->d_sess;
379         void *iiv;
380         unsigned char save_iv[EVP_MAX_IV_LENGTH];
381
382         if (state->d_fd < 0)
383                 return (0);
384         if (!inl)
385                 return (1);
386         if ((inl % ctx->cipher->block_size) != 0)
387                 return (0);
388
389         memset(&cryp, 0, sizeof(cryp));
390
391         cryp.ses = sess->ses;
392         cryp.flags = 0;
393         cryp.len = inl;
394         cryp.src = (caddr_t) in;
395         cryp.dst = (caddr_t) out;
396         cryp.mac = 0;
397
398         cryp.op = ctx->encrypt ? COP_ENCRYPT : COP_DECRYPT;
399
400         if (ctx->cipher->iv_len) {
401                 cryp.iv = (caddr_t) ctx->iv;
402                 if (!ctx->encrypt) {
403                         iiv = (void *) in + inl - ctx->cipher->iv_len;
404                         memcpy(save_iv, iiv, ctx->cipher->iv_len);
405                 }
406         } else
407                 cryp.iv = NULL;
408
409         if (ioctl(state->d_fd, CIOCCRYPT, &cryp) == -1) {
410                 /* XXX need better errror handling
411                  * this can fail for a number of different reasons.
412                  */
413                 return (0);
414         }
415
416         if (ctx->cipher->iv_len) {
417                 if (ctx->encrypt)
418                         iiv = (void *) out + inl - ctx->cipher->iv_len;
419                 else
420                         iiv = save_iv;
421                 memcpy(ctx->iv, iiv, ctx->cipher->iv_len);
422         }
423         return (1);
424 }
425
426 static int
427 cryptodev_init_key(EVP_CIPHER_CTX *ctx, const unsigned char *key,
428     const unsigned char *iv, int enc)
429 {
430         struct dev_crypto_state *state = ctx->cipher_data;
431         struct session_op *sess = &state->d_sess;
432         int cipher;
433
434         if ((cipher = cipher_nid_to_cryptodev(ctx->cipher->nid)) == NID_undef)
435                 return (0);
436
437         if (ctx->cipher->iv_len > cryptodev_max_iv(cipher))
438                 return (0);
439
440         if (!cryptodev_key_length_valid(cipher, ctx->key_len))
441                 return (0);
442
443         memset(sess, 0, sizeof(struct session_op));
444
445         if ((state->d_fd = get_dev_crypto()) < 0)
446                 return (0);
447
448         sess->key = (unsigned char *)key;
449         sess->keylen = ctx->key_len;
450         sess->cipher = cipher;
451
452         if (ioctl(state->d_fd, CIOCGSESSION, sess) == -1) {
453                 close(state->d_fd);
454                 state->d_fd = -1;
455                 return (0);
456         }
457         return (1);
458 }
459
460 /*
461  * free anything we allocated earlier when initting a
462  * session, and close the session.
463  */
464 static int
465 cryptodev_cleanup(EVP_CIPHER_CTX *ctx)
466 {
467         int ret = 0;
468         struct dev_crypto_state *state = ctx->cipher_data;
469         struct session_op *sess = &state->d_sess;
470
471         if (state->d_fd < 0)
472                 return (0);
473
474         /* XXX if this ioctl fails, someting's wrong. the invoker
475          * may have called us with a bogus ctx, or we could
476          * have a device that for whatever reason just doesn't
477          * want to play ball - it's not clear what's right
478          * here - should this be an error? should it just
479          * increase a counter, hmm. For right now, we return
480          * 0 - I don't believe that to be "right". we could
481          * call the gorpy openssl lib error handlers that
482          * print messages to users of the library. hmm..
483          */
484
485         if (ioctl(state->d_fd, CIOCFSESSION, &sess->ses) == -1) {
486                 ret = 0;
487         } else {
488                 ret = 1;
489         }
490         close(state->d_fd);
491         state->d_fd = -1;
492
493         return (ret);
494 }
495
496 /*
497  * libcrypto EVP stuff - this is how we get wired to EVP so the engine
498  * gets called when libcrypto requests a cipher NID.
499  */
500
501 /* DES CBC EVP */
502 const EVP_CIPHER cryptodev_des_cbc = {
503         NID_des_cbc,
504         8, 8, 8,
505         EVP_CIPH_CBC_MODE,
506         cryptodev_init_key,
507         cryptodev_cipher,
508         cryptodev_cleanup,
509         sizeof(struct dev_crypto_state),
510         EVP_CIPHER_set_asn1_iv,
511         EVP_CIPHER_get_asn1_iv,
512         NULL
513 };
514
515 /* 3DES CBC EVP */
516 const EVP_CIPHER cryptodev_3des_cbc = {
517         NID_des_ede3_cbc,
518         8, 24, 8,
519         EVP_CIPH_CBC_MODE,
520         cryptodev_init_key,
521         cryptodev_cipher,
522         cryptodev_cleanup,
523         sizeof(struct dev_crypto_state),
524         EVP_CIPHER_set_asn1_iv,
525         EVP_CIPHER_get_asn1_iv,
526         NULL
527 };
528
529 const EVP_CIPHER cryptodev_bf_cbc = {
530         NID_bf_cbc,
531         8, 16, 8,
532         EVP_CIPH_CBC_MODE,
533         cryptodev_init_key,
534         cryptodev_cipher,
535         cryptodev_cleanup,
536         sizeof(struct dev_crypto_state),
537         EVP_CIPHER_set_asn1_iv,
538         EVP_CIPHER_get_asn1_iv,
539         NULL
540 };
541
542 const EVP_CIPHER cryptodev_cast_cbc = {
543         NID_cast5_cbc,
544         8, 16, 8,
545         EVP_CIPH_CBC_MODE,
546         cryptodev_init_key,
547         cryptodev_cipher,
548         cryptodev_cleanup,
549         sizeof(struct dev_crypto_state),
550         EVP_CIPHER_set_asn1_iv,
551         EVP_CIPHER_get_asn1_iv,
552         NULL
553 };
554
555 const EVP_CIPHER cryptodev_aes_cbc = {
556         NID_aes_128_cbc,
557         16, 16, 16,
558         EVP_CIPH_CBC_MODE,
559         cryptodev_init_key,
560         cryptodev_cipher,
561         cryptodev_cleanup,
562         sizeof(struct dev_crypto_state),
563         EVP_CIPHER_set_asn1_iv,
564         EVP_CIPHER_get_asn1_iv,
565         NULL
566 };
567
568 /*
569  * Registered by the ENGINE when used to find out how to deal with
570  * a particular NID in the ENGINE. this says what we'll do at the
571  * top level - note, that list is restricted by what we answer with
572  */
573 static int
574 cryptodev_engine_ciphers(ENGINE *e, const EVP_CIPHER **cipher,
575     const int **nids, int nid)
576 {
577         if (!cipher)
578                 return (cryptodev_usable_ciphers(nids));
579
580         switch (nid) {
581         case NID_des_ede3_cbc:
582                 *cipher = &cryptodev_3des_cbc;
583                 break;
584         case NID_des_cbc:
585                 *cipher = &cryptodev_des_cbc;
586                 break;
587         case NID_bf_cbc:
588                 *cipher = &cryptodev_bf_cbc;
589                 break;
590         case NID_cast5_cbc:
591                 *cipher = &cryptodev_cast_cbc;
592                 break;
593         case NID_aes_128_cbc:
594                 *cipher = &cryptodev_aes_cbc;
595                 break;
596         default:
597                 *cipher = NULL;
598                 break;
599         }
600         return (*cipher != NULL);
601 }
602
603 static int
604 cryptodev_engine_digests(ENGINE *e, const EVP_MD **digest,
605     const int **nids, int nid)
606 {
607         if (!digest)
608                 return (cryptodev_usable_digests(nids));
609
610         switch (nid) {
611         case NID_md5:
612                 *digest = NULL; /* need to make a clean md5 critter */
613                 break;
614         default:
615                 *digest = NULL;
616                 break;
617         }
618         return (*digest != NULL);
619 }
620
621 /*
622  * Convert a BIGNUM to the representation that /dev/crypto needs.
623  * Upon completion of use, the caller is responsible for freeing
624  * crp->crp_p.
625  */
626 static int
627 bn2crparam(const BIGNUM *a, struct crparam *crp)
628 {
629         int i, j, k;
630         ssize_t words, bytes, bits;
631         u_char *b;
632
633         crp->crp_p = NULL;
634         crp->crp_nbits = 0;
635
636         bits = BN_num_bits(a);
637         bytes = (bits + 7) / 8;
638
639         b = malloc(bytes);
640         if (b == NULL)
641                 return (1);
642
643         crp->crp_p = b;
644         crp->crp_nbits = bits;
645
646         for (i = 0, j = 0; i < a->top; i++) {
647                 for (k = 0; k < BN_BITS2 / 8; k++) {
648                         if ((j + k) >= bytes)
649                                 return (0);
650                         b[j + k] = a->d[i] >> (k * 8);
651                 }
652                 j += BN_BITS2 / 8;
653         }
654         return (0);
655 }
656
657 /* Convert a /dev/crypto parameter to a BIGNUM */
658 static int
659 crparam2bn(struct crparam *crp, BIGNUM *a)
660 {
661         u_int8_t *pd;
662         int i, bytes;
663
664         bytes = (crp->crp_nbits + 7) / 8;
665
666         if (bytes == 0)
667                 return (-1);
668
669         if ((pd = (u_int8_t *) malloc(bytes)) == NULL)
670                 return (-1);
671
672         for (i = 0; i < bytes; i++)
673                 pd[i] = crp->crp_p[bytes - i - 1];
674
675         BN_bin2bn(pd, bytes, a);
676         free(pd);
677
678         return (0);
679 }
680
681 static void
682 zapparams(struct crypt_kop *kop)
683 {
684         int i;
685
686         for (i = 0; i <= kop->crk_iparams + kop->crk_oparams; i++) {
687                 if (kop->crk_param[i].crp_p)
688                         free(kop->crk_param[i].crp_p);
689                 kop->crk_param[i].crp_p = NULL;
690                 kop->crk_param[i].crp_nbits = 0;
691         }
692 }
693
694 static int
695 cryptodev_asym(struct crypt_kop *kop, int rlen, BIGNUM *r, int slen, BIGNUM *s)
696 {
697         int fd, ret = -1;
698
699         if ((fd = get_asym_dev_crypto()) < 0)
700                 return (ret);
701
702         if (r) {
703                 kop->crk_param[kop->crk_iparams].crp_p = calloc(rlen, sizeof(char));
704                 kop->crk_param[kop->crk_iparams].crp_nbits = rlen * 8;
705                 kop->crk_oparams++;
706         }
707         if (s) {
708                 kop->crk_param[kop->crk_iparams+1].crp_p = calloc(slen, sizeof(char));
709                 kop->crk_param[kop->crk_iparams+1].crp_nbits = slen * 8;
710                 kop->crk_oparams++;
711         }
712
713         if (ioctl(fd, CIOCKEY, kop) == 0) {
714                 if (r)
715                         crparam2bn(&kop->crk_param[kop->crk_iparams], r);
716                 if (s)
717                         crparam2bn(&kop->crk_param[kop->crk_iparams+1], s);
718                 ret = 0;
719         }
720
721         return (ret);
722 }
723
724 static int
725 cryptodev_bn_mod_exp(BIGNUM *r, const BIGNUM *a, const BIGNUM *p,
726     const BIGNUM *m, BN_CTX *ctx, BN_MONT_CTX *in_mont)
727 {
728         struct crypt_kop kop;
729         int ret = 1;
730
731         /* Currently, we know we can do mod exp iff we can do any
732          * asymmetric operations at all.
733          */
734         if (cryptodev_asymfeat == 0) {
735                 ret = BN_mod_exp(r, a, p, m, ctx);
736                 return (ret);
737         }
738
739         memset(&kop, 0, sizeof kop);
740         kop.crk_op = CRK_MOD_EXP;
741
742         /* inputs: a^p % m */
743         if (bn2crparam(a, &kop.crk_param[0]))
744                 goto err;
745         if (bn2crparam(p, &kop.crk_param[1]))
746                 goto err;
747         if (bn2crparam(m, &kop.crk_param[2]))
748                 goto err;
749         kop.crk_iparams = 3;
750
751         if (cryptodev_asym(&kop, BN_num_bytes(m), r, 0, NULL) == -1) {
752                 const RSA_METHOD *meth = RSA_PKCS1_SSLeay();
753                 ret = meth->bn_mod_exp(r, a, p, m, ctx, in_mont);
754         }
755 err:
756         zapparams(&kop);
757         return (ret);
758 }
759
760 static int
761 cryptodev_rsa_nocrt_mod_exp(BIGNUM *r0, const BIGNUM *I, RSA *rsa)
762 {
763         int r;
764         BN_CTX *ctx;
765
766         ctx = BN_CTX_new();
767         r = cryptodev_bn_mod_exp(r0, I, rsa->d, rsa->n, ctx, NULL);
768         BN_CTX_free(ctx);
769         return (r);
770 }
771
772 static int
773 cryptodev_rsa_mod_exp(BIGNUM *r0, const BIGNUM *I, RSA *rsa)
774 {
775         struct crypt_kop kop;
776         int ret = 1;
777
778         if (!rsa->p || !rsa->q || !rsa->dmp1 || !rsa->dmq1 || !rsa->iqmp) {
779                 /* XXX 0 means failure?? */
780                 return (0);
781         }
782
783         memset(&kop, 0, sizeof kop);
784         kop.crk_op = CRK_MOD_EXP_CRT;
785         /* inputs: rsa->p rsa->q I rsa->dmp1 rsa->dmq1 rsa->iqmp */
786         if (bn2crparam(rsa->p, &kop.crk_param[0]))
787                 goto err;
788         if (bn2crparam(rsa->q, &kop.crk_param[1]))
789                 goto err;
790         if (bn2crparam(I, &kop.crk_param[2]))
791                 goto err;
792         if (bn2crparam(rsa->dmp1, &kop.crk_param[3]))
793                 goto err;
794         if (bn2crparam(rsa->dmq1, &kop.crk_param[4]))
795                 goto err;
796         if (bn2crparam(rsa->iqmp, &kop.crk_param[5]))
797                 goto err;
798         kop.crk_iparams = 6;
799
800         if (cryptodev_asym(&kop, BN_num_bytes(rsa->n), r0, 0, NULL) == -1) {
801                 const RSA_METHOD *meth = RSA_PKCS1_SSLeay();
802                 ret = (*meth->rsa_mod_exp)(r0, I, rsa);
803         }
804 err:
805         zapparams(&kop);
806         return (ret);
807 }
808
809 static RSA_METHOD cryptodev_rsa = {
810         "cryptodev RSA method",
811         NULL,                           /* rsa_pub_enc */
812         NULL,                           /* rsa_pub_dec */
813         NULL,                           /* rsa_priv_enc */
814         NULL,                           /* rsa_priv_dec */
815         NULL,
816         NULL,
817         NULL,                           /* init */
818         NULL,                           /* finish */
819         0,                              /* flags */
820         NULL,                           /* app_data */
821         NULL,                           /* rsa_sign */
822         NULL                            /* rsa_verify */
823 };
824
825 static int
826 cryptodev_dsa_bn_mod_exp(DSA *dsa, BIGNUM *r, BIGNUM *a, const BIGNUM *p,
827     const BIGNUM *m, BN_CTX *ctx, BN_MONT_CTX *m_ctx)
828 {
829         return (cryptodev_bn_mod_exp(r, a, p, m, ctx, m_ctx));
830 }
831
832 static int
833 cryptodev_dsa_dsa_mod_exp(DSA *dsa, BIGNUM *t1, BIGNUM *g,
834     BIGNUM *u1, BIGNUM *pub_key, BIGNUM *u2, BIGNUM *p,
835     BN_CTX *ctx, BN_MONT_CTX *mont)
836 {
837         BIGNUM t2;
838         int ret = 0;
839
840         BN_init(&t2);
841
842         /* v = ( g^u1 * y^u2 mod p ) mod q */
843         /* let t1 = g ^ u1 mod p */
844         ret = 0;
845
846         if (!dsa->meth->bn_mod_exp(dsa,t1,dsa->g,u1,dsa->p,ctx,mont))
847                 goto err;
848
849         /* let t2 = y ^ u2 mod p */
850         if (!dsa->meth->bn_mod_exp(dsa,&t2,dsa->pub_key,u2,dsa->p,ctx,mont))
851                 goto err;
852         /* let u1 = t1 * t2 mod p */
853         if (!BN_mod_mul(u1,t1,&t2,dsa->p,ctx))
854                 goto err;
855
856         BN_copy(t1,u1);
857
858         ret = 1;
859 err:
860         BN_free(&t2);
861         return(ret);
862 }
863
864 static DSA_SIG *
865 cryptodev_dsa_do_sign(const unsigned char *dgst, int dlen, DSA *dsa)
866 {
867         struct crypt_kop kop;
868         BIGNUM *r = NULL, *s = NULL;
869         DSA_SIG *dsaret = NULL;
870
871         if ((r = BN_new()) == NULL)
872                 goto err;
873         if ((s = BN_new()) == NULL) {
874                 BN_free(r);
875                 goto err;
876         }
877
878         printf("bar\n");
879         memset(&kop, 0, sizeof kop);
880         kop.crk_op = CRK_DSA_SIGN;
881
882         /* inputs: dgst dsa->p dsa->q dsa->g dsa->priv_key */
883         kop.crk_param[0].crp_p = (caddr_t)dgst;
884         kop.crk_param[0].crp_nbits = dlen * 8;
885         if (bn2crparam(dsa->p, &kop.crk_param[1]))
886                 goto err;
887         if (bn2crparam(dsa->q, &kop.crk_param[2]))
888                 goto err;
889         if (bn2crparam(dsa->g, &kop.crk_param[3]))
890                 goto err;
891         if (bn2crparam(dsa->priv_key, &kop.crk_param[4]))
892                 goto err;
893         kop.crk_iparams = 5;
894
895         if (cryptodev_asym(&kop, BN_num_bytes(dsa->q), r,
896             BN_num_bytes(dsa->q), s) == 0) {
897                 dsaret = DSA_SIG_new();
898                 dsaret->r = r;
899                 dsaret->s = s;
900         } else {
901                 const DSA_METHOD *meth = DSA_OpenSSL();
902                 BN_free(r);
903                 BN_free(s);
904                 dsaret = (meth->dsa_do_sign)(dgst, dlen, dsa);
905         }
906 err:
907         kop.crk_param[0].crp_p = NULL;
908         zapparams(&kop);
909         return (dsaret);
910 }
911
912 static int
913 cryptodev_dsa_verify(const unsigned char *dgst, int dlen,
914     DSA_SIG *sig, DSA *dsa)
915 {
916         struct crypt_kop kop;
917         int dsaret = 1;
918
919         memset(&kop, 0, sizeof kop);
920         kop.crk_op = CRK_DSA_VERIFY;
921
922         /* inputs: dgst dsa->p dsa->q dsa->g dsa->pub_key sig->r sig->s */
923         kop.crk_param[0].crp_p = (caddr_t)dgst;
924         kop.crk_param[0].crp_nbits = dlen * 8;
925         if (bn2crparam(dsa->p, &kop.crk_param[1]))
926                 goto err;
927         if (bn2crparam(dsa->q, &kop.crk_param[2]))
928                 goto err;
929         if (bn2crparam(dsa->g, &kop.crk_param[3]))
930                 goto err;
931         if (bn2crparam(dsa->pub_key, &kop.crk_param[4]))
932                 goto err;
933         if (bn2crparam(sig->r, &kop.crk_param[5]))
934                 goto err;
935         if (bn2crparam(sig->s, &kop.crk_param[6]))
936                 goto err;
937         kop.crk_iparams = 7;
938
939         if (cryptodev_asym(&kop, 0, NULL, 0, NULL) == 0) {
940                 dsaret = kop.crk_status;
941         } else {
942                 const DSA_METHOD *meth = DSA_OpenSSL();
943
944                 dsaret = (meth->dsa_do_verify)(dgst, dlen, sig, dsa);
945         }
946 err:
947         kop.crk_param[0].crp_p = NULL;
948         zapparams(&kop);
949         return (dsaret);
950 }
951
952 static DSA_METHOD cryptodev_dsa = {
953         "cryptodev DSA method",
954         NULL,
955         NULL,                           /* dsa_sign_setup */
956         NULL,
957         NULL,                           /* dsa_mod_exp */
958         NULL,
959         NULL,                           /* init */
960         NULL,                           /* finish */
961         0,      /* flags */
962         NULL    /* app_data */
963 };
964
965 static int
966 cryptodev_mod_exp_dh(const DH *dh, BIGNUM *r, const BIGNUM *a,
967     const BIGNUM *p, const BIGNUM *m, BN_CTX *ctx,
968     BN_MONT_CTX *m_ctx)
969 {
970         return (cryptodev_bn_mod_exp(r, a, p, m, ctx, m_ctx));
971 }
972
973 static int
974 cryptodev_dh_compute_key(unsigned char *key, const BIGNUM *pub_key, DH *dh)
975 {
976         struct crypt_kop kop;
977         int dhret = 1;
978         int fd, keylen;
979
980         if ((fd = get_asym_dev_crypto()) < 0) {
981                 const DH_METHOD *meth = DH_OpenSSL();
982
983                 return ((meth->compute_key)(key, pub_key, dh));
984         }
985
986         keylen = BN_num_bits(dh->p);
987
988         memset(&kop, 0, sizeof kop);
989         kop.crk_op = CRK_DH_COMPUTE_KEY;
990
991         /* inputs: dh->priv_key pub_key dh->p key */
992         if (bn2crparam(dh->priv_key, &kop.crk_param[0]))
993                 goto err;
994         if (bn2crparam(pub_key, &kop.crk_param[1]))
995                 goto err;
996         if (bn2crparam(dh->p, &kop.crk_param[2]))
997                 goto err;
998         kop.crk_iparams = 3;
999
1000         kop.crk_param[3].crp_p = key;
1001         kop.crk_param[3].crp_nbits = keylen * 8;
1002         kop.crk_oparams = 1;
1003
1004         if (ioctl(fd, CIOCKEY, &kop) == -1) {
1005                 const DH_METHOD *meth = DH_OpenSSL();
1006
1007                 dhret = (meth->compute_key)(key, pub_key, dh);
1008         }
1009 err:
1010         kop.crk_param[3].crp_p = NULL;
1011         zapparams(&kop);
1012         return (dhret);
1013 }
1014
1015 static DH_METHOD cryptodev_dh = {
1016         "cryptodev DH method",
1017         NULL,                           /* cryptodev_dh_generate_key */
1018         NULL,
1019         NULL,
1020         NULL,
1021         NULL,
1022         0,      /* flags */
1023         NULL    /* app_data */
1024 };
1025
1026 /*
1027  * ctrl right now is just a wrapper that doesn't do much
1028  * but I expect we'll want some options soon.
1029  */
1030 static int
1031 cryptodev_ctrl(ENGINE *e, int cmd, long i, void *p, void (*f)())
1032 {
1033 #ifdef HAVE_SYSLOG_R
1034         struct syslog_data sd = SYSLOG_DATA_INIT;
1035 #endif
1036
1037         switch (cmd) {
1038         default:
1039 #ifdef HAVE_SYSLOG_R
1040                 syslog_r(LOG_ERR, &sd,
1041                     "cryptodev_ctrl: unknown command %d", cmd);
1042 #else
1043                 syslog(LOG_ERR, "cryptodev_ctrl: unknown command %d", cmd);
1044 #endif
1045                 break;
1046         }
1047         return (1);
1048 }
1049
1050 void
1051 ENGINE_load_cryptodev(void)
1052 {
1053         ENGINE *engine = ENGINE_new();
1054         int fd;
1055
1056         if (engine == NULL)
1057                 return;
1058         if ((fd = get_dev_crypto()) < 0)
1059                 return;
1060
1061         /*
1062          * find out what asymmetric crypto algorithms we support
1063          */
1064         if (ioctl(fd, CIOCASYMFEAT, &cryptodev_asymfeat) == -1) {
1065                 close(fd);
1066                 return;
1067         }
1068         close(fd);
1069
1070         if (!ENGINE_set_id(engine, "cryptodev") ||
1071             !ENGINE_set_name(engine, "BSD cryptodev engine") ||
1072             !ENGINE_set_ciphers(engine, cryptodev_engine_ciphers) ||
1073             !ENGINE_set_digests(engine, cryptodev_engine_digests) ||
1074             !ENGINE_set_ctrl_function(engine, cryptodev_ctrl) ||
1075             !ENGINE_set_cmd_defns(engine, cryptodev_defns)) {
1076                 ENGINE_free(engine);
1077                 return;
1078         }
1079
1080         if (ENGINE_set_RSA(engine, &cryptodev_rsa)) {
1081                 const RSA_METHOD *rsa_meth = RSA_PKCS1_SSLeay();
1082
1083                 cryptodev_rsa.bn_mod_exp = rsa_meth->bn_mod_exp;
1084                 cryptodev_rsa.rsa_mod_exp = rsa_meth->rsa_mod_exp;
1085                 cryptodev_rsa.rsa_pub_enc = rsa_meth->rsa_pub_enc;
1086                 cryptodev_rsa.rsa_pub_dec = rsa_meth->rsa_pub_dec;
1087                 cryptodev_rsa.rsa_priv_enc = rsa_meth->rsa_priv_enc;
1088                 cryptodev_rsa.rsa_priv_dec = rsa_meth->rsa_priv_dec;
1089                 if (cryptodev_asymfeat & CRF_MOD_EXP) {
1090                         cryptodev_rsa.bn_mod_exp = cryptodev_bn_mod_exp;
1091                         if (cryptodev_asymfeat & CRF_MOD_EXP_CRT)
1092                                 cryptodev_rsa.rsa_mod_exp =
1093                                     cryptodev_rsa_mod_exp;
1094                         else
1095                                 cryptodev_rsa.rsa_mod_exp =
1096                                     cryptodev_rsa_nocrt_mod_exp;
1097                 }
1098         }
1099
1100         if (ENGINE_set_DSA(engine, &cryptodev_dsa)) {
1101                 const DSA_METHOD *meth = DSA_OpenSSL();
1102
1103                 memcpy(&cryptodev_dsa, meth, sizeof(DSA_METHOD));
1104                 if (cryptodev_asymfeat & CRF_DSA_SIGN)
1105                         cryptodev_dsa.dsa_do_sign = cryptodev_dsa_do_sign;
1106                 if (cryptodev_asymfeat & CRF_MOD_EXP) {
1107                         cryptodev_dsa.bn_mod_exp = cryptodev_dsa_bn_mod_exp;
1108                         cryptodev_dsa.dsa_mod_exp = cryptodev_dsa_dsa_mod_exp;
1109                 }
1110                 if (cryptodev_asymfeat & CRF_DSA_VERIFY)
1111                         cryptodev_dsa.dsa_do_verify = cryptodev_dsa_verify;
1112         }
1113
1114         if (ENGINE_set_DH(engine, &cryptodev_dh)){
1115                 const DH_METHOD *dh_meth = DH_OpenSSL();
1116
1117                 cryptodev_dh.generate_key = dh_meth->generate_key;
1118                 cryptodev_dh.compute_key = dh_meth->compute_key;
1119                 cryptodev_dh.bn_mod_exp = dh_meth->bn_mod_exp;
1120                 if (cryptodev_asymfeat & CRF_MOD_EXP) {
1121                         cryptodev_dh.bn_mod_exp = cryptodev_mod_exp_dh;
1122                         if (cryptodev_asymfeat & CRF_DH_COMPUTE_KEY)
1123                                 cryptodev_dh.compute_key =
1124                                     cryptodev_dh_compute_key;
1125                 }
1126         }
1127
1128         ENGINE_add(engine);
1129         ENGINE_free(engine);
1130         ERR_clear_error();
1131 }
1132
1133 #endif /* HAVE_CRYPTODEV */