Convert the dynlocks in e_chil to the new Thread API locks
[openssl.git] / engines / e_chil.c
1 /*
2  * Written by Richard Levitte (richard@levitte.org), Geoff Thorpe
3  * (geoff@geoffthorpe.net) and Dr Stephen N Henson (steve@openssl.org) for
4  * the OpenSSL project 2000.
5  */
6 /* ====================================================================
7  * Copyright (c) 1999-2001 The OpenSSL Project.  All rights reserved.
8  *
9  * Redistribution and use in source and binary forms, with or without
10  * modification, are permitted provided that the following conditions
11  * are met:
12  *
13  * 1. Redistributions of source code must retain the above copyright
14  *    notice, this list of conditions and the following disclaimer.
15  *
16  * 2. Redistributions in binary form must reproduce the above copyright
17  *    notice, this list of conditions and the following disclaimer in
18  *    the documentation and/or other materials provided with the
19  *    distribution.
20  *
21  * 3. All advertising materials mentioning features or use of this
22  *    software must display the following acknowledgment:
23  *    "This product includes software developed by the OpenSSL Project
24  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
25  *
26  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
27  *    endorse or promote products derived from this software without
28  *    prior written permission. For written permission, please contact
29  *    licensing@OpenSSL.org.
30  *
31  * 5. Products derived from this software may not be called "OpenSSL"
32  *    nor may "OpenSSL" appear in their names without prior written
33  *    permission of the OpenSSL Project.
34  *
35  * 6. Redistributions of any form whatsoever must retain the following
36  *    acknowledgment:
37  *    "This product includes software developed by the OpenSSL Project
38  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
39  *
40  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
41  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
42  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
43  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
44  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
45  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
46  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
47  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
49  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
50  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
51  * OF THE POSSIBILITY OF SUCH DAMAGE.
52  * ====================================================================
53  *
54  * This product includes cryptographic software written by Eric Young
55  * (eay@cryptsoft.com).  This product includes software written by Tim
56  * Hudson (tjh@cryptsoft.com).
57  *
58  */
59
60 #include <stdio.h>
61 #include <string.h>
62 #include <openssl/crypto.h>
63 #include <openssl/pem.h>
64 #include <openssl/dso.h>
65 #include <openssl/engine.h>
66 #include <openssl/ui.h>
67 #include <openssl/rand.h>
68 #ifndef OPENSSL_NO_RSA
69 # include <openssl/rsa.h>
70 #endif
71 #ifndef OPENSSL_NO_DH
72 # include <openssl/dh.h>
73 #endif
74 #include <openssl/bn.h>
75
76 #ifndef OPENSSL_NO_HW
77 # ifndef OPENSSL_NO_HW_CHIL
78
79 /*-
80  * Attribution notice: nCipher have said several times that it's OK for
81  * us to implement a general interface to their boxes, and recently declared
82  * their HWCryptoHook to be public, and therefore available for us to use.
83  * Thanks, nCipher.
84  *
85  * The hwcryptohook.h included here is from May 2000.
86  * [Richard Levitte]
87  */
88 #  ifdef FLAT_INC
89 #   include "hwcryptohook.h"
90 #  else
91 #   include "vendor_defns/hwcryptohook.h"
92 #  endif
93
94 #  define HWCRHK_LIB_NAME "CHIL engine"
95 #  include "e_chil_err.c"
96
97 static CRYPTO_RWLOCK *chil_lock;
98
99 static int hwcrhk_destroy(ENGINE *e);
100 static int hwcrhk_init(ENGINE *e);
101 static int hwcrhk_finish(ENGINE *e);
102 static int hwcrhk_ctrl(ENGINE *e, int cmd, long i, void *p, void (*f) (void));
103
104 /* Functions to handle mutexes */
105 static int hwcrhk_mutex_init(HWCryptoHook_Mutex *,
106                              HWCryptoHook_CallerContext *);
107 static int hwcrhk_mutex_lock(HWCryptoHook_Mutex *);
108 static void hwcrhk_mutex_unlock(HWCryptoHook_Mutex *);
109 static void hwcrhk_mutex_destroy(HWCryptoHook_Mutex *);
110
111 /* BIGNUM stuff */
112 static int hwcrhk_mod_exp(BIGNUM *r, const BIGNUM *a, const BIGNUM *p,
113                           const BIGNUM *m, BN_CTX *ctx);
114
115 #  ifndef OPENSSL_NO_RSA
116 /* RSA stuff */
117 static int hwcrhk_rsa_mod_exp(BIGNUM *r, const BIGNUM *I, RSA *rsa,
118                               BN_CTX *ctx);
119 /* This function is aliased to mod_exp (with the mont stuff dropped). */
120 static int hwcrhk_mod_exp_mont(BIGNUM *r, const BIGNUM *a, const BIGNUM *p,
121                                const BIGNUM *m, BN_CTX *ctx,
122                                BN_MONT_CTX *m_ctx);
123 static int hwcrhk_rsa_finish(RSA *rsa);
124 #  endif
125
126 #  ifndef OPENSSL_NO_DH
127 /* DH stuff */
128 /* This function is alised to mod_exp (with the DH and mont dropped). */
129 static int hwcrhk_mod_exp_dh(const DH *dh, BIGNUM *r,
130                              const BIGNUM *a, const BIGNUM *p,
131                              const BIGNUM *m, BN_CTX *ctx,
132                              BN_MONT_CTX *m_ctx);
133 #  endif
134
135 /* RAND stuff */
136 static int hwcrhk_rand_bytes(unsigned char *buf, int num);
137 static int hwcrhk_rand_status(void);
138
139 /* KM stuff */
140 static EVP_PKEY *hwcrhk_load_privkey(ENGINE *eng, const char *key_id,
141                                      UI_METHOD *ui_method,
142                                      void *callback_data);
143 static EVP_PKEY *hwcrhk_load_pubkey(ENGINE *eng, const char *key_id,
144                                     UI_METHOD *ui_method,
145                                     void *callback_data);
146
147 /* Interaction stuff */
148 static int hwcrhk_insert_card(const char *prompt_info,
149                               const char *wrong_info,
150                               HWCryptoHook_PassphraseContext * ppctx,
151                               HWCryptoHook_CallerContext * cactx);
152 static int hwcrhk_get_pass(const char *prompt_info,
153                            int *len_io, char *buf,
154                            HWCryptoHook_PassphraseContext * ppctx,
155                            HWCryptoHook_CallerContext * cactx);
156 static void hwcrhk_log_message(void *logstr, const char *message);
157
158 /* The definitions for control commands specific to this engine */
159 #  define HWCRHK_CMD_SO_PATH              ENGINE_CMD_BASE
160 #  define HWCRHK_CMD_FORK_CHECK           (ENGINE_CMD_BASE + 1)
161 #  define HWCRHK_CMD_THREAD_LOCKING       (ENGINE_CMD_BASE + 2)
162 #  define HWCRHK_CMD_SET_USER_INTERFACE   (ENGINE_CMD_BASE + 3)
163 #  define HWCRHK_CMD_SET_CALLBACK_DATA    (ENGINE_CMD_BASE + 4)
164 static const ENGINE_CMD_DEFN hwcrhk_cmd_defns[] = {
165     {HWCRHK_CMD_SO_PATH,
166      "SO_PATH",
167      "Specifies the path to the 'hwcrhk' shared library",
168      ENGINE_CMD_FLAG_STRING},
169     {HWCRHK_CMD_FORK_CHECK,
170      "FORK_CHECK",
171      "Turns fork() checking on (non-zero) or off (zero)",
172      ENGINE_CMD_FLAG_NUMERIC},
173     {HWCRHK_CMD_THREAD_LOCKING,
174      "THREAD_LOCKING",
175      "Turns thread-safe locking on (zero) or off (non-zero)",
176      ENGINE_CMD_FLAG_NUMERIC},
177     {HWCRHK_CMD_SET_USER_INTERFACE,
178      "SET_USER_INTERFACE",
179      "Set the global user interface (internal)",
180      ENGINE_CMD_FLAG_INTERNAL},
181     {HWCRHK_CMD_SET_CALLBACK_DATA,
182      "SET_CALLBACK_DATA",
183      "Set the global user interface extra data (internal)",
184      ENGINE_CMD_FLAG_INTERNAL},
185     {0, NULL, NULL, 0}
186 };
187
188 #  ifndef OPENSSL_NO_RSA
189 /* Our internal RSA_METHOD that we provide pointers to */
190 static RSA_METHOD hwcrhk_rsa = {
191     "CHIL RSA method",
192     NULL,
193     NULL,
194     NULL,
195     NULL,
196     hwcrhk_rsa_mod_exp,
197     hwcrhk_mod_exp_mont,
198     NULL,
199     hwcrhk_rsa_finish,
200     0,
201     NULL,
202     NULL,
203     NULL,
204     NULL
205 };
206 #  endif
207
208 #  ifndef OPENSSL_NO_DH
209 /* Our internal DH_METHOD that we provide pointers to */
210 static DH_METHOD hwcrhk_dh = {
211     "CHIL DH method",
212     NULL,
213     NULL,
214     hwcrhk_mod_exp_dh,
215     NULL,
216     NULL,
217     0,
218     NULL,
219     NULL
220 };
221 #  endif
222
223 static RAND_METHOD hwcrhk_rand = {
224     /* "CHIL RAND method", */
225     NULL,
226     hwcrhk_rand_bytes,
227     NULL,
228     NULL,
229     hwcrhk_rand_bytes,
230     hwcrhk_rand_status,
231 };
232
233 /* Constants used when creating the ENGINE */
234 static const char *engine_hwcrhk_id = "chil";
235 static const char *engine_hwcrhk_name = "CHIL hardware engine support";
236 #  ifndef OPENSSL_NO_DYNAMIC_ENGINE
237 /* Compatibility hack, the dynamic library uses this form in the path */
238 static const char *engine_hwcrhk_id_alt = "ncipher";
239 #  endif
240
241 /* Internal stuff for HWCryptoHook */
242
243 /* Some structures needed for proper use of thread locks */
244 /*
245  * hwcryptohook.h has some typedefs that turn struct HWCryptoHook_MutexValue
246  * into HWCryptoHook_Mutex
247  */
248 struct HWCryptoHook_MutexValue {
249     CRYPTO_RWLOCK *lock;
250 };
251
252 /*
253  * hwcryptohook.h has some typedefs that turn struct
254  * HWCryptoHook_PassphraseContextValue into HWCryptoHook_PassphraseContext
255  */
256 struct HWCryptoHook_PassphraseContextValue {
257     UI_METHOD *ui_method;
258     void *callback_data;
259 };
260
261 /*
262  * hwcryptohook.h has some typedefs that turn struct
263  * HWCryptoHook_CallerContextValue into HWCryptoHook_CallerContext
264  */
265 struct HWCryptoHook_CallerContextValue {
266     pem_password_cb *password_callback; /* Deprecated! Only present for
267                                          * backward compatibility! */
268     UI_METHOD *ui_method;
269     void *callback_data;
270 };
271
272 /*
273  * The MPI structure in HWCryptoHook is pretty compatible with OpenSSL
274  * BIGNUM's, so lets define a couple of conversion macros
275  */
276 #  define BN2MPI(mp, bn) \
277     {mp.size = bn->top * sizeof(BN_ULONG); mp.buf = (unsigned char *)bn->d;}
278 #  define MPI2BN(bn, mp) \
279     {mp.size = bn->dmax * sizeof(BN_ULONG); mp.buf = (unsigned char *)bn->d;}
280
281 static BIO *logstream = NULL;
282 static int disable_mutex_callbacks = 0;
283
284 /*
285  * One might wonder why these are needed, since one can pass down at least a
286  * UI_METHOD and a pointer to callback data to the key-loading functions. The
287  * thing is that the ModExp and RSAImmed functions can load keys as well, if
288  * the data they get is in a special, nCipher-defined format (hint: if you
289  * look at the private exponent of the RSA data as a string, you'll see this
290  * string: "nCipher KM tool key id", followed by some bytes, followed a key
291  * identity string, followed by more bytes.  This happens when you use
292  * "embed" keys instead of "hwcrhk" keys).  Unfortunately, those functions do
293  * not take any passphrase or caller context, and our functions can't really
294  * take any callback data either.  Still, the "insert_card" and
295  * "get_passphrase" callbacks may be called down the line, and will need to
296  * know what user interface callbacks to call, and having callback data from
297  * the application may be a nice thing as well, so we need to keep track of
298  * that globally.
299  */
300 static HWCryptoHook_CallerContext password_context = { NULL, NULL, NULL };
301
302 /* Stuff to pass to the HWCryptoHook library */
303 static HWCryptoHook_InitInfo hwcrhk_globals = {
304     HWCryptoHook_InitFlags_SimpleForkCheck, /* Flags */
305     &logstream,                 /* logstream */
306     sizeof(BN_ULONG),           /* limbsize */
307     0,                          /* mslimb first: false for BNs */
308     -1,                         /* msbyte first: use native */
309     0,                          /* Max mutexes, 0 = no small limit */
310     0,                          /* Max simultaneous, 0 = default */
311
312     /*
313      * The next few are mutex stuff: we write wrapper functions around the OS
314      * mutex functions.  We initialise them to 0 here, and change that to
315      * actual function pointers in hwcrhk_init() if dynamic locks are
316      * supported (that is, if the application programmer has made sure of
317      * setting up callbacks bafore starting this engine) *and* if
318      * disable_mutex_callbacks hasn't been set by a call to
319      * ENGINE_ctrl(ENGINE_CTRL_CHIL_NO_LOCKING).
320      */
321     sizeof(HWCryptoHook_Mutex),
322     0,
323     0,
324     0,
325     0,
326
327     /*
328      * The next few are condvar stuff: we write wrapper functions round the
329      * OS functions.  Currently not implemented and not and absolute
330      * necessity even in threaded programs, therefore 0'ed.  Will hopefully
331      * be implemented some day, since it enhances the efficiency of
332      * HWCryptoHook.
333      */
334     0,                          /* sizeof(HWCryptoHook_CondVar), */
335     0,                          /* hwcrhk_cv_init, */
336     0,                          /* hwcrhk_cv_wait, */
337     0,                          /* hwcrhk_cv_signal, */
338     0,                          /* hwcrhk_cv_broadcast, */
339     0,                          /* hwcrhk_cv_destroy, */
340
341     hwcrhk_get_pass,            /* pass phrase */
342     hwcrhk_insert_card,         /* insert a card */
343     hwcrhk_log_message          /* Log message */
344 };
345
346 /* Now, to our own code */
347
348 /*
349  * This internal function is used by ENGINE_chil() and possibly by the
350  * "dynamic" ENGINE support too
351  */
352 static int bind_helper(ENGINE *e)
353 {
354 #  ifndef OPENSSL_NO_RSA
355     const RSA_METHOD *meth1;
356 #  endif
357 #  ifndef OPENSSL_NO_DH
358     const DH_METHOD *meth2;
359 #  endif
360
361     chil_lock = CRYPTO_THREAD_lock_new();
362     if (chil_lock == NULL)
363         return 0;
364
365     if (!ENGINE_set_id(e, engine_hwcrhk_id) ||
366         !ENGINE_set_name(e, engine_hwcrhk_name) ||
367 #  ifndef OPENSSL_NO_RSA
368         !ENGINE_set_RSA(e, &hwcrhk_rsa) ||
369 #  endif
370 #  ifndef OPENSSL_NO_DH
371         !ENGINE_set_DH(e, &hwcrhk_dh) ||
372 #  endif
373         !ENGINE_set_RAND(e, &hwcrhk_rand) ||
374         !ENGINE_set_destroy_function(e, hwcrhk_destroy) ||
375         !ENGINE_set_init_function(e, hwcrhk_init) ||
376         !ENGINE_set_finish_function(e, hwcrhk_finish) ||
377         !ENGINE_set_ctrl_function(e, hwcrhk_ctrl) ||
378         !ENGINE_set_load_privkey_function(e, hwcrhk_load_privkey) ||
379         !ENGINE_set_load_pubkey_function(e, hwcrhk_load_pubkey) ||
380         !ENGINE_set_cmd_defns(e, hwcrhk_cmd_defns))
381         return 0;
382
383 #  ifndef OPENSSL_NO_RSA
384     /*
385      * We know that the "PKCS1_OpenSSL()" functions hook properly to the
386      * cswift-specific mod_exp and mod_exp_crt so we use those functions. NB:
387      * We don't use ENGINE_openssl() or anything "more generic" because
388      * something like the RSAref code may not hook properly, and if you own
389      * one of these cards then you have the right to do RSA operations on it
390      * anyway!
391      */
392     meth1 = RSA_PKCS1_OpenSSL();
393     hwcrhk_rsa.rsa_pub_enc = meth1->rsa_pub_enc;
394     hwcrhk_rsa.rsa_pub_dec = meth1->rsa_pub_dec;
395     hwcrhk_rsa.rsa_priv_enc = meth1->rsa_priv_enc;
396     hwcrhk_rsa.rsa_priv_dec = meth1->rsa_priv_dec;
397 #  endif
398
399 #  ifndef OPENSSL_NO_DH
400     /* Much the same for Diffie-Hellman */
401     meth2 = DH_OpenSSL();
402     hwcrhk_dh.generate_key = meth2->generate_key;
403     hwcrhk_dh.compute_key = meth2->compute_key;
404 #  endif
405
406     /* Ensure the hwcrhk error handling is set up */
407     ERR_load_HWCRHK_strings();
408
409     return 1;
410 }
411
412 #  ifdef OPENSSL_NO_DYNAMIC_ENGINE
413 static ENGINE *engine_chil(void)
414 {
415     ENGINE *ret = ENGINE_new();
416     if (ret == NULL)
417         return NULL;
418     if (!bind_helper(ret)) {
419         ENGINE_free(ret);
420         return NULL;
421     }
422     return ret;
423 }
424
425 void ENGINE_load_chil(void)
426 {
427     /* Copied from eng_[openssl|dyn].c */
428     ENGINE *toadd = engine_chil();
429     if (!toadd)
430         return;
431     ENGINE_add(toadd);
432     ENGINE_free(toadd);
433     ERR_clear_error();
434 }
435 #  endif
436
437 /*
438  * This is a process-global DSO handle used for loading and unloading the
439  * HWCryptoHook library. NB: This is only set (or unset) during an init() or
440  * finish() call (reference counts permitting) and they're operating with
441  * global locks, so this should be thread-safe implicitly.
442  */
443 static DSO *hwcrhk_dso = NULL;
444 static HWCryptoHook_ContextHandle hwcrhk_context = 0;
445 #  ifndef OPENSSL_NO_RSA
446 /* Index for KM handle.  Not really used yet. */
447 static int hndidx_rsa = -1;
448 #  endif
449
450 /*
451  * These are the function pointers that are (un)set when the library has
452  * successfully (un)loaded.
453  */
454 static HWCryptoHook_Init_t *p_hwcrhk_Init = NULL;
455 static HWCryptoHook_Finish_t *p_hwcrhk_Finish = NULL;
456 static HWCryptoHook_ModExp_t *p_hwcrhk_ModExp = NULL;
457 #  ifndef OPENSSL_NO_RSA
458 static HWCryptoHook_RSA_t *p_hwcrhk_RSA = NULL;
459 #  endif
460 static HWCryptoHook_RandomBytes_t *p_hwcrhk_RandomBytes = NULL;
461 #  ifndef OPENSSL_NO_RSA
462 static HWCryptoHook_RSALoadKey_t *p_hwcrhk_RSALoadKey = NULL;
463 static HWCryptoHook_RSAGetPublicKey_t *p_hwcrhk_RSAGetPublicKey = NULL;
464 static HWCryptoHook_RSAUnloadKey_t *p_hwcrhk_RSAUnloadKey = NULL;
465 #  endif
466 static HWCryptoHook_ModExpCRT_t *p_hwcrhk_ModExpCRT = NULL;
467
468 /* Used in the DSO operations. */
469 static const char *HWCRHK_LIBNAME = NULL;
470 static void free_HWCRHK_LIBNAME(void)
471 {
472     OPENSSL_free(HWCRHK_LIBNAME);
473     HWCRHK_LIBNAME = NULL;
474 }
475
476 static const char *get_HWCRHK_LIBNAME(void)
477 {
478     if (HWCRHK_LIBNAME)
479         return HWCRHK_LIBNAME;
480     return "nfhwcrhk";
481 }
482
483 static long set_HWCRHK_LIBNAME(const char *name)
484 {
485     free_HWCRHK_LIBNAME();
486     return (((HWCRHK_LIBNAME = OPENSSL_strdup(name)) != NULL) ? 1 : 0);
487 }
488
489 static const char *n_hwcrhk_Init = "HWCryptoHook_Init";
490 static const char *n_hwcrhk_Finish = "HWCryptoHook_Finish";
491 static const char *n_hwcrhk_ModExp = "HWCryptoHook_ModExp";
492 #  ifndef OPENSSL_NO_RSA
493 static const char *n_hwcrhk_RSA = "HWCryptoHook_RSA";
494 #  endif
495 static const char *n_hwcrhk_RandomBytes = "HWCryptoHook_RandomBytes";
496 #  ifndef OPENSSL_NO_RSA
497 static const char *n_hwcrhk_RSALoadKey = "HWCryptoHook_RSALoadKey";
498 static const char *n_hwcrhk_RSAGetPublicKey = "HWCryptoHook_RSAGetPublicKey";
499 static const char *n_hwcrhk_RSAUnloadKey = "HWCryptoHook_RSAUnloadKey";
500 #  endif
501 static const char *n_hwcrhk_ModExpCRT = "HWCryptoHook_ModExpCRT";
502
503 /*
504  * HWCryptoHook library functions and mechanics - these are used by the
505  * higher-level functions further down. NB: As and where there's no error
506  * checking, take a look lower down where these functions are called, the
507  * checking and error handling is probably down there.
508  */
509
510 /* utility function to obtain a context */
511 static int get_context(HWCryptoHook_ContextHandle * hac,
512                        HWCryptoHook_CallerContext * cac)
513 {
514     char tempbuf[1024];
515     HWCryptoHook_ErrMsgBuf rmsg;
516
517     rmsg.buf = tempbuf;
518     rmsg.size = sizeof(tempbuf);
519
520     *hac = p_hwcrhk_Init(&hwcrhk_globals, sizeof(hwcrhk_globals), &rmsg, cac);
521     if (!*hac)
522         return 0;
523     return 1;
524 }
525
526 /* similarly to release one. */
527 static void release_context(HWCryptoHook_ContextHandle hac)
528 {
529     p_hwcrhk_Finish(hac);
530 }
531
532 /* Destructor (complements the "ENGINE_chil()" constructor) */
533 static int hwcrhk_destroy(ENGINE *e)
534 {
535     free_HWCRHK_LIBNAME();
536     ERR_unload_HWCRHK_strings();
537     CRYPTO_THREAD_lock_free(chil_lock);
538     return 1;
539 }
540
541 /* (de)initialisation functions. */
542 static int hwcrhk_init(ENGINE *e)
543 {
544     HWCryptoHook_Init_t *p1;
545     HWCryptoHook_Finish_t *p2;
546     HWCryptoHook_ModExp_t *p3;
547 #  ifndef OPENSSL_NO_RSA
548     HWCryptoHook_RSA_t *p4;
549     HWCryptoHook_RSALoadKey_t *p5;
550     HWCryptoHook_RSAGetPublicKey_t *p6;
551     HWCryptoHook_RSAUnloadKey_t *p7;
552 #  endif
553     HWCryptoHook_RandomBytes_t *p8;
554     HWCryptoHook_ModExpCRT_t *p9;
555
556     if (hwcrhk_dso != NULL) {
557         HWCRHKerr(HWCRHK_F_HWCRHK_INIT, HWCRHK_R_ALREADY_LOADED);
558         goto err;
559     }
560     /* Attempt to load libnfhwcrhk.so/nfhwcrhk.dll/whatever. */
561     hwcrhk_dso = DSO_load(NULL, get_HWCRHK_LIBNAME(), NULL, 0);
562     if (hwcrhk_dso == NULL) {
563         HWCRHKerr(HWCRHK_F_HWCRHK_INIT, HWCRHK_R_DSO_FAILURE);
564         goto err;
565     }
566
567 #define BINDIT(t, name) (t *)DSO_bind_func(hwcrhk_dso, name)
568     if ((p1 = BINDIT(HWCryptoHook_Init_t, n_hwcrhk_Init)) == NULL
569         || (p2 = BINDIT(HWCryptoHook_Finish_t, n_hwcrhk_Finish)) == NULL
570         || (p3 = BINDIT(HWCryptoHook_ModExp_t, n_hwcrhk_ModExp)) == NULL
571 #  ifndef OPENSSL_NO_RSA
572         || (p4 = BINDIT(HWCryptoHook_RSA_t, n_hwcrhk_RSA)) == NULL
573         || (p5 = BINDIT(HWCryptoHook_RSALoadKey_t, n_hwcrhk_RSALoadKey)) == NULL
574         || (p6 = BINDIT(HWCryptoHook_RSAGetPublicKey_t, n_hwcrhk_RSAGetPublicKey)) == NULL
575         || (p7 = BINDIT(HWCryptoHook_RSAUnloadKey_t, n_hwcrhk_RSAUnloadKey)) == NULL
576 #  endif
577         || (p8 = BINDIT(HWCryptoHook_RandomBytes_t, n_hwcrhk_RandomBytes)) == NULL
578         || (p9 = BINDIT(HWCryptoHook_ModExpCRT_t, n_hwcrhk_ModExpCRT)) == NULL) {
579         HWCRHKerr(HWCRHK_F_HWCRHK_INIT, HWCRHK_R_DSO_FAILURE);
580         goto err;
581     }
582     /* Copy the pointers */
583     p_hwcrhk_Init = p1;
584     p_hwcrhk_Finish = p2;
585     p_hwcrhk_ModExp = p3;
586 #  ifndef OPENSSL_NO_RSA
587     p_hwcrhk_RSA = p4;
588     p_hwcrhk_RSALoadKey = p5;
589     p_hwcrhk_RSAGetPublicKey = p6;
590     p_hwcrhk_RSAUnloadKey = p7;
591 #  endif
592     p_hwcrhk_RandomBytes = p8;
593     p_hwcrhk_ModExpCRT = p9;
594
595     /*
596      * Check if the application decided to support dynamic locks, and if it
597      * does, use them.
598      */
599     if (disable_mutex_callbacks == 0) {
600         hwcrhk_globals.mutex_init = hwcrhk_mutex_init;
601         hwcrhk_globals.mutex_acquire = hwcrhk_mutex_lock;
602         hwcrhk_globals.mutex_release = hwcrhk_mutex_unlock;
603         hwcrhk_globals.mutex_destroy = hwcrhk_mutex_destroy;
604     }
605
606     /*
607      * Try and get a context - if not, we may have a DSO but no accelerator!
608      */
609     if (!get_context(&hwcrhk_context, &password_context)) {
610         HWCRHKerr(HWCRHK_F_HWCRHK_INIT, HWCRHK_R_UNIT_FAILURE);
611         goto err;
612     }
613     /* Everything's fine. */
614 #  ifndef OPENSSL_NO_RSA
615     if (hndidx_rsa == -1)
616         hndidx_rsa = RSA_get_ex_new_index(0,
617                                           "nFast HWCryptoHook RSA key handle",
618                                           NULL, NULL, NULL);
619 #  endif
620     return 1;
621  err:
622     DSO_free(hwcrhk_dso);
623     hwcrhk_dso = NULL;
624     p_hwcrhk_Init = NULL;
625     p_hwcrhk_Finish = NULL;
626     p_hwcrhk_ModExp = NULL;
627 #  ifndef OPENSSL_NO_RSA
628     p_hwcrhk_RSA = NULL;
629     p_hwcrhk_RSALoadKey = NULL;
630     p_hwcrhk_RSAGetPublicKey = NULL;
631     p_hwcrhk_RSAUnloadKey = NULL;
632 #  endif
633     p_hwcrhk_ModExpCRT = NULL;
634     p_hwcrhk_RandomBytes = NULL;
635     return 0;
636 }
637
638 static int hwcrhk_finish(ENGINE *e)
639 {
640     int to_return = 1;
641     free_HWCRHK_LIBNAME();
642     if (hwcrhk_dso == NULL) {
643         HWCRHKerr(HWCRHK_F_HWCRHK_FINISH, HWCRHK_R_NOT_LOADED);
644         to_return = 0;
645         goto err;
646     }
647     release_context(hwcrhk_context);
648     if (!DSO_free(hwcrhk_dso)) {
649         HWCRHKerr(HWCRHK_F_HWCRHK_FINISH, HWCRHK_R_DSO_FAILURE);
650         to_return = 0;
651         goto err;
652     }
653  err:
654     BIO_free(logstream);
655     hwcrhk_dso = NULL;
656     p_hwcrhk_Init = NULL;
657     p_hwcrhk_Finish = NULL;
658     p_hwcrhk_ModExp = NULL;
659 #  ifndef OPENSSL_NO_RSA
660     p_hwcrhk_RSA = NULL;
661     p_hwcrhk_RSALoadKey = NULL;
662     p_hwcrhk_RSAGetPublicKey = NULL;
663     p_hwcrhk_RSAUnloadKey = NULL;
664 #  endif
665     p_hwcrhk_ModExpCRT = NULL;
666     p_hwcrhk_RandomBytes = NULL;
667     return to_return;
668 }
669
670 static int hwcrhk_ctrl(ENGINE *e, int cmd, long i, void *p, void (*f) (void))
671 {
672     int to_return = 1;
673
674     switch (cmd) {
675     case HWCRHK_CMD_SO_PATH:
676         if (hwcrhk_dso) {
677             HWCRHKerr(HWCRHK_F_HWCRHK_CTRL, HWCRHK_R_ALREADY_LOADED);
678             return 0;
679         }
680         if (p == NULL) {
681             HWCRHKerr(HWCRHK_F_HWCRHK_CTRL, ERR_R_PASSED_NULL_PARAMETER);
682             return 0;
683         }
684         return set_HWCRHK_LIBNAME((const char *)p);
685     case ENGINE_CTRL_SET_LOGSTREAM:
686         {
687             BIO *bio = (BIO *)p;
688
689             CRYPTO_THREAD_write_lock(chil_lock);
690             BIO_free(logstream);
691             logstream = NULL;
692             if (BIO_up_ref(bio)
693                 logstream = bio;
694             else
695                 HWCRHKerr(HWCRHK_F_HWCRHK_CTRL, HWCRHK_R_BIO_WAS_FREED);
696         }
697         CRYPTO_THREAD_unlock(chil_lock);
698         break;
699     case ENGINE_CTRL_SET_PASSWORD_CALLBACK:
700         CRYPTO_THREAD_write_lock(chil_lock);
701         password_context.password_callback = (pem_password_cb *)f;
702         CRYPTO_THREAD_unlock(chil_lock);
703         break;
704     case ENGINE_CTRL_SET_USER_INTERFACE:
705     case HWCRHK_CMD_SET_USER_INTERFACE:
706         CRYPTO_THREAD_write_lock(chil_lock);
707         password_context.ui_method = (UI_METHOD *)p;
708         CRYPTO_THREAD_unlock(chil_lock);
709         break;
710     case ENGINE_CTRL_SET_CALLBACK_DATA:
711     case HWCRHK_CMD_SET_CALLBACK_DATA:
712         CRYPTO_THREAD_write_lock(chil_lock);
713         password_context.callback_data = p;
714         CRYPTO_THREAD_unlock(chil_lock);
715         break;
716         /*
717          * this enables or disables the "SimpleForkCheck" flag used in the
718          * initialisation structure.
719          */
720     case ENGINE_CTRL_CHIL_SET_FORKCHECK:
721     case HWCRHK_CMD_FORK_CHECK:
722         CRYPTO_THREAD_write_lock(chil_lock);
723         if (i)
724             hwcrhk_globals.flags |= HWCryptoHook_InitFlags_SimpleForkCheck;
725         else
726             hwcrhk_globals.flags &= ~HWCryptoHook_InitFlags_SimpleForkCheck;
727         CRYPTO_THREAD_unlock(chil_lock);
728         break;
729         /*
730          * This will prevent the initialisation function from "installing"
731          * the mutex-handling callbacks, even if they are available from
732          * within the library (or were provided to the library from the
733          * calling application). This is to remove any baggage for
734          * applications not using multithreading.
735          */
736     case ENGINE_CTRL_CHIL_NO_LOCKING:
737         CRYPTO_THREAD_write_lock(chil_lock);
738         disable_mutex_callbacks = 1;
739         CRYPTO_THREAD_unlock(chil_lock);
740         break;
741     case HWCRHK_CMD_THREAD_LOCKING:
742         CRYPTO_THREAD_write_lock(chil_lock);
743         disable_mutex_callbacks = ((i == 0) ? 0 : 1);
744         CRYPTO_THREAD_unlock(chil_lock);
745         break;
746
747         /* The command isn't understood by this engine */
748     default:
749         HWCRHKerr(HWCRHK_F_HWCRHK_CTRL,
750                   HWCRHK_R_CTRL_COMMAND_NOT_IMPLEMENTED);
751         to_return = 0;
752         break;
753     }
754
755     return to_return;
756 }
757
758 static EVP_PKEY *hwcrhk_load_privkey(ENGINE *eng, const char *key_id,
759                                      UI_METHOD *ui_method,
760                                      void *callback_data)
761 {
762 #  ifndef OPENSSL_NO_RSA
763     RSA *rtmp = NULL;
764 #  endif
765     EVP_PKEY *res = NULL;
766 #  ifndef OPENSSL_NO_RSA
767     HWCryptoHook_MPI e, n;
768     HWCryptoHook_RSAKeyHandle *hptr;
769 #  endif
770 #  if !defined(OPENSSL_NO_RSA)
771     char tempbuf[1024];
772     HWCryptoHook_ErrMsgBuf rmsg;
773     HWCryptoHook_PassphraseContext ppctx;
774 #  endif
775
776 #  if !defined(OPENSSL_NO_RSA)
777     rmsg.buf = tempbuf;
778     rmsg.size = sizeof(tempbuf);
779 #  endif
780
781     if (!hwcrhk_context) {
782         HWCRHKerr(HWCRHK_F_HWCRHK_LOAD_PRIVKEY, HWCRHK_R_NOT_INITIALISED);
783         goto err;
784     }
785 #  ifndef OPENSSL_NO_RSA
786     hptr = OPENSSL_malloc(sizeof(*hptr));
787     if (hptr == NULL) {
788         HWCRHKerr(HWCRHK_F_HWCRHK_LOAD_PRIVKEY, ERR_R_MALLOC_FAILURE);
789         goto err;
790     }
791     ppctx.ui_method = ui_method;
792     ppctx.callback_data = callback_data;
793     if (p_hwcrhk_RSALoadKey(hwcrhk_context, key_id, hptr, &rmsg, &ppctx)) {
794         HWCRHKerr(HWCRHK_F_HWCRHK_LOAD_PRIVKEY, HWCRHK_R_CHIL_ERROR);
795         ERR_add_error_data(1, rmsg.buf);
796         goto err;
797     }
798     if (!*hptr) {
799         HWCRHKerr(HWCRHK_F_HWCRHK_LOAD_PRIVKEY, HWCRHK_R_NO_KEY);
800         goto err;
801     }
802 #  endif
803 #  ifndef OPENSSL_NO_RSA
804     rtmp = RSA_new_method(eng);
805     RSA_set_ex_data(rtmp, hndidx_rsa, (char *)hptr);
806     rtmp->e = BN_new();
807     rtmp->n = BN_new();
808     rtmp->flags |= RSA_FLAG_EXT_PKEY;
809     MPI2BN(rtmp->e, e);
810     MPI2BN(rtmp->n, n);
811     if (p_hwcrhk_RSAGetPublicKey(*hptr, &n, &e, &rmsg)
812         != HWCRYPTOHOOK_ERROR_MPISIZE) {
813         HWCRHKerr(HWCRHK_F_HWCRHK_LOAD_PRIVKEY, HWCRHK_R_CHIL_ERROR);
814         ERR_add_error_data(1, rmsg.buf);
815         goto err;
816     }
817
818     bn_expand2(rtmp->e, e.size / sizeof(BN_ULONG));
819     bn_expand2(rtmp->n, n.size / sizeof(BN_ULONG));
820     MPI2BN(rtmp->e, e);
821     MPI2BN(rtmp->n, n);
822
823     if (p_hwcrhk_RSAGetPublicKey(*hptr, &n, &e, &rmsg)) {
824         HWCRHKerr(HWCRHK_F_HWCRHK_LOAD_PRIVKEY, HWCRHK_R_CHIL_ERROR);
825         ERR_add_error_data(1, rmsg.buf);
826         goto err;
827     }
828     rtmp->e->top = e.size / sizeof(BN_ULONG);
829     bn_fix_top(rtmp->e);
830     rtmp->n->top = n.size / sizeof(BN_ULONG);
831     bn_fix_top(rtmp->n);
832
833     res = EVP_PKEY_new();
834     if (res == NULL) {
835         HWCRHKerr(HWCRHK_F_HWCRHK_LOAD_PRIVKEY, HWCRHK_R_CHIL_ERROR);
836         goto err;
837     }
838     EVP_PKEY_assign_RSA(res, rtmp);
839 #  endif
840
841     if (res == NULL)
842         HWCRHKerr(HWCRHK_F_HWCRHK_LOAD_PRIVKEY,
843                   HWCRHK_R_PRIVATE_KEY_ALGORITHMS_DISABLED);
844
845     return res;
846  err:
847 #  ifndef OPENSSL_NO_RSA
848     RSA_free(rtmp);
849 #  endif
850     return NULL;
851 }
852
853 static EVP_PKEY *hwcrhk_load_pubkey(ENGINE *eng, const char *key_id,
854                                     UI_METHOD *ui_method, void *callback_data)
855 {
856     EVP_PKEY *res = NULL;
857
858 #  ifndef OPENSSL_NO_RSA
859     res = hwcrhk_load_privkey(eng, key_id, ui_method, callback_data);
860 #  endif
861
862     if (res)
863         switch (res->type) {
864 #  ifndef OPENSSL_NO_RSA
865         case EVP_PKEY_RSA:
866             {
867                 RSA *rsa = NULL;
868
869                 CRYPTO_THREAD_write_lock(chil_lock);
870                 rsa = res->pkey.rsa;
871                 res->pkey.rsa = RSA_new();
872                 res->pkey.rsa->n = rsa->n;
873                 res->pkey.rsa->e = rsa->e;
874                 rsa->n = NULL;
875                 rsa->e = NULL;
876                 CRYPTO_THREAD_unlock(chil_lock);
877                 RSA_free(rsa);
878             }
879             break;
880 #  endif
881         default:
882             HWCRHKerr(HWCRHK_F_HWCRHK_LOAD_PUBKEY,
883                       HWCRHK_R_CTRL_COMMAND_NOT_IMPLEMENTED);
884             goto err;
885         }
886
887     return res;
888  err:
889     EVP_PKEY_free(res);
890     return NULL;
891 }
892
893 /* A little mod_exp */
894 static int hwcrhk_mod_exp(BIGNUM *r, const BIGNUM *a, const BIGNUM *p,
895                           const BIGNUM *m, BN_CTX *ctx)
896 {
897     char tempbuf[1024];
898     HWCryptoHook_ErrMsgBuf rmsg;
899     /*
900      * Since HWCryptoHook_MPI is pretty compatible with BIGNUM's, we use them
901      * directly, plus a little macro magic.  We only thing we need to make
902      * sure of is that enough space is allocated.
903      */
904     HWCryptoHook_MPI m_a, m_p, m_n, m_r;
905     int to_return, ret;
906
907     to_return = 0;              /* expect failure */
908     rmsg.buf = tempbuf;
909     rmsg.size = sizeof(tempbuf);
910
911     if (!hwcrhk_context) {
912         HWCRHKerr(HWCRHK_F_HWCRHK_MOD_EXP, HWCRHK_R_NOT_INITIALISED);
913         goto err;
914     }
915     /* Prepare the params */
916     bn_expand2(r, m->top);      /* Check for error !! */
917     BN2MPI(m_a, a);
918     BN2MPI(m_p, p);
919     BN2MPI(m_n, m);
920     MPI2BN(r, m_r);
921
922     /* Perform the operation */
923     ret = p_hwcrhk_ModExp(hwcrhk_context, m_a, m_p, m_n, &m_r, &rmsg);
924
925     /* Convert the response */
926     r->top = m_r.size / sizeof(BN_ULONG);
927     bn_fix_top(r);
928
929     if (ret < 0) {
930         /*
931          * FIXME: When this error is returned, HWCryptoHook is telling us
932          * that falling back to software computation might be a good thing.
933          */
934         if (ret == HWCRYPTOHOOK_ERROR_FALLBACK) {
935             HWCRHKerr(HWCRHK_F_HWCRHK_MOD_EXP, HWCRHK_R_REQUEST_FALLBACK);
936         } else {
937             HWCRHKerr(HWCRHK_F_HWCRHK_MOD_EXP, HWCRHK_R_REQUEST_FAILED);
938         }
939         ERR_add_error_data(1, rmsg.buf);
940         goto err;
941     }
942
943     to_return = 1;
944  err:
945     return to_return;
946 }
947
948 #  ifndef OPENSSL_NO_RSA
949 static int hwcrhk_rsa_mod_exp(BIGNUM *r, const BIGNUM *I, RSA *rsa,
950                               BN_CTX *ctx)
951 {
952     char tempbuf[1024];
953     HWCryptoHook_ErrMsgBuf rmsg;
954     HWCryptoHook_RSAKeyHandle *hptr;
955     int to_return = 0, ret;
956
957     rmsg.buf = tempbuf;
958     rmsg.size = sizeof(tempbuf);
959
960     if (!hwcrhk_context) {
961         HWCRHKerr(HWCRHK_F_HWCRHK_RSA_MOD_EXP, HWCRHK_R_NOT_INITIALISED);
962         goto err;
963     }
964
965     /*
966      * This provides support for nForce keys.  Since that's opaque data all
967      * we do is provide a handle to the proper key and let HWCryptoHook take
968      * care of the rest.
969      */
970     if ((hptr =
971          (HWCryptoHook_RSAKeyHandle *) RSA_get_ex_data(rsa, hndidx_rsa))
972         != NULL) {
973         HWCryptoHook_MPI m_a, m_r;
974
975         if (!rsa->n) {
976             HWCRHKerr(HWCRHK_F_HWCRHK_RSA_MOD_EXP,
977                       HWCRHK_R_MISSING_KEY_COMPONENTS);
978             goto err;
979         }
980
981         /* Prepare the params */
982         bn_expand2(r, rsa->n->top); /* Check for error !! */
983         BN2MPI(m_a, I);
984         MPI2BN(r, m_r);
985
986         /* Perform the operation */
987         ret = p_hwcrhk_RSA(m_a, *hptr, &m_r, &rmsg);
988
989         /* Convert the response */
990         r->top = m_r.size / sizeof(BN_ULONG);
991         bn_fix_top(r);
992
993         if (ret < 0) {
994             /*
995              * FIXME: When this error is returned, HWCryptoHook is telling us
996              * that falling back to software computation might be a good
997              * thing.
998              */
999             if (ret == HWCRYPTOHOOK_ERROR_FALLBACK) {
1000                 HWCRHKerr(HWCRHK_F_HWCRHK_RSA_MOD_EXP,
1001                           HWCRHK_R_REQUEST_FALLBACK);
1002             } else {
1003                 HWCRHKerr(HWCRHK_F_HWCRHK_RSA_MOD_EXP,
1004                           HWCRHK_R_REQUEST_FAILED);
1005             }
1006             ERR_add_error_data(1, rmsg.buf);
1007             goto err;
1008         }
1009     } else {
1010         HWCryptoHook_MPI m_a, m_p, m_q, m_dmp1, m_dmq1, m_iqmp, m_r;
1011
1012         if (!rsa->p || !rsa->q || !rsa->dmp1 || !rsa->dmq1 || !rsa->iqmp) {
1013             HWCRHKerr(HWCRHK_F_HWCRHK_RSA_MOD_EXP,
1014                       HWCRHK_R_MISSING_KEY_COMPONENTS);
1015             goto err;
1016         }
1017
1018         /* Prepare the params */
1019         bn_expand2(r, rsa->n->top); /* Check for error !! */
1020         BN2MPI(m_a, I);
1021         BN2MPI(m_p, rsa->p);
1022         BN2MPI(m_q, rsa->q);
1023         BN2MPI(m_dmp1, rsa->dmp1);
1024         BN2MPI(m_dmq1, rsa->dmq1);
1025         BN2MPI(m_iqmp, rsa->iqmp);
1026         MPI2BN(r, m_r);
1027
1028         /* Perform the operation */
1029         ret = p_hwcrhk_ModExpCRT(hwcrhk_context, m_a, m_p, m_q,
1030                                  m_dmp1, m_dmq1, m_iqmp, &m_r, &rmsg);
1031
1032         /* Convert the response */
1033         r->top = m_r.size / sizeof(BN_ULONG);
1034         bn_fix_top(r);
1035
1036         if (ret < 0) {
1037             /*
1038              * FIXME: When this error is returned, HWCryptoHook is telling us
1039              * that falling back to software computation might be a good
1040              * thing.
1041              */
1042             if (ret == HWCRYPTOHOOK_ERROR_FALLBACK) {
1043                 HWCRHKerr(HWCRHK_F_HWCRHK_RSA_MOD_EXP,
1044                           HWCRHK_R_REQUEST_FALLBACK);
1045             } else {
1046                 HWCRHKerr(HWCRHK_F_HWCRHK_RSA_MOD_EXP,
1047                           HWCRHK_R_REQUEST_FAILED);
1048             }
1049             ERR_add_error_data(1, rmsg.buf);
1050             goto err;
1051         }
1052     }
1053     /*
1054      * If we're here, we must be here with some semblance of success :-)
1055      */
1056     to_return = 1;
1057  err:
1058     return to_return;
1059 }
1060 #  endif
1061
1062 #  ifndef OPENSSL_NO_RSA
1063 /* This function is aliased to mod_exp (with the mont stuff dropped). */
1064 static int hwcrhk_mod_exp_mont(BIGNUM *r, const BIGNUM *a, const BIGNUM *p,
1065                                const BIGNUM *m, BN_CTX *ctx,
1066                                BN_MONT_CTX *m_ctx)
1067 {
1068     return hwcrhk_mod_exp(r, a, p, m, ctx);
1069 }
1070
1071 static int hwcrhk_rsa_finish(RSA *rsa)
1072 {
1073     HWCryptoHook_RSAKeyHandle *hptr;
1074
1075     hptr = RSA_get_ex_data(rsa, hndidx_rsa);
1076     if (hptr) {
1077         p_hwcrhk_RSAUnloadKey(*hptr, NULL);
1078         OPENSSL_free(hptr);
1079         RSA_set_ex_data(rsa, hndidx_rsa, NULL);
1080     }
1081     return 1;
1082 }
1083
1084 #  endif
1085
1086 #  ifndef OPENSSL_NO_DH
1087 /* This function is aliased to mod_exp (with the dh and mont dropped). */
1088 static int hwcrhk_mod_exp_dh(const DH *dh, BIGNUM *r,
1089                              const BIGNUM *a, const BIGNUM *p,
1090                              const BIGNUM *m, BN_CTX *ctx, BN_MONT_CTX *m_ctx)
1091 {
1092     return hwcrhk_mod_exp(r, a, p, m, ctx);
1093 }
1094 #  endif
1095
1096 /* Random bytes are good */
1097 static int hwcrhk_rand_bytes(unsigned char *buf, int num)
1098 {
1099     char tempbuf[1024];
1100     HWCryptoHook_ErrMsgBuf rmsg;
1101     int to_return = 0;          /* assume failure */
1102     int ret;
1103
1104     rmsg.buf = tempbuf;
1105     rmsg.size = sizeof(tempbuf);
1106
1107     if (!hwcrhk_context) {
1108         HWCRHKerr(HWCRHK_F_HWCRHK_RAND_BYTES, HWCRHK_R_NOT_INITIALISED);
1109         goto err;
1110     }
1111
1112     ret = p_hwcrhk_RandomBytes(hwcrhk_context, buf, num, &rmsg);
1113     if (ret < 0) {
1114         /*
1115          * FIXME: When this error is returned, HWCryptoHook is telling us
1116          * that falling back to software computation might be a good thing.
1117          */
1118         if (ret == HWCRYPTOHOOK_ERROR_FALLBACK) {
1119             HWCRHKerr(HWCRHK_F_HWCRHK_RAND_BYTES, HWCRHK_R_REQUEST_FALLBACK);
1120         } else {
1121             HWCRHKerr(HWCRHK_F_HWCRHK_RAND_BYTES, HWCRHK_R_REQUEST_FAILED);
1122         }
1123         ERR_add_error_data(1, rmsg.buf);
1124         goto err;
1125     }
1126     to_return = 1;
1127  err:
1128     return to_return;
1129 }
1130
1131 static int hwcrhk_rand_status(void)
1132 {
1133     return 1;
1134 }
1135
1136 /*
1137  * Mutex calls: since the HWCryptoHook model closely follows the POSIX model
1138  * these just wrap the POSIX functions and add some logging.
1139  */
1140
1141 static int hwcrhk_mutex_init(HWCryptoHook_Mutex * mt,
1142                              HWCryptoHook_CallerContext * cactx)
1143 {
1144     mt->lock = CRYPTO_THREAD_lock_new();
1145     if (mt->lock == NULL)
1146         return 1;               /* failure */
1147     return 0;                   /* success */
1148 }
1149
1150 static int hwcrhk_mutex_lock(HWCryptoHook_Mutex * mt)
1151 {
1152     CRYPTO_THREAD_write_lock(mt->lock);
1153     return 0;
1154 }
1155
1156 static void hwcrhk_mutex_unlock(HWCryptoHook_Mutex * mt)
1157 {
1158     CRYPTO_THREAD_unlock(mt->lock);
1159 }
1160
1161 static void hwcrhk_mutex_destroy(HWCryptoHook_Mutex * mt)
1162 {
1163     CRYPTO_THREAD_lock_free(mt->lock);
1164 }
1165
1166 static int hwcrhk_get_pass(const char *prompt_info,
1167                            int *len_io, char *buf,
1168                            HWCryptoHook_PassphraseContext * ppctx,
1169                            HWCryptoHook_CallerContext * cactx)
1170 {
1171     pem_password_cb *callback = NULL;
1172     void *callback_data = NULL;
1173     UI_METHOD *ui_method = NULL;
1174     /*
1175      * Despite what the documentation says prompt_info can be an empty
1176      * string.
1177      */
1178     if (prompt_info && !*prompt_info)
1179         prompt_info = NULL;
1180
1181     if (cactx) {
1182         if (cactx->ui_method)
1183             ui_method = cactx->ui_method;
1184         if (cactx->password_callback)
1185             callback = cactx->password_callback;
1186         if (cactx->callback_data)
1187             callback_data = cactx->callback_data;
1188     }
1189     if (ppctx) {
1190         if (ppctx->ui_method) {
1191             ui_method = ppctx->ui_method;
1192             callback = NULL;
1193         }
1194         if (ppctx->callback_data)
1195             callback_data = ppctx->callback_data;
1196     }
1197     if (callback == NULL && ui_method == NULL) {
1198         HWCRHKerr(HWCRHK_F_HWCRHK_GET_PASS, HWCRHK_R_NO_CALLBACK);
1199         return -1;
1200     }
1201
1202     if (ui_method) {
1203         UI *ui = UI_new_method(ui_method);
1204         if (ui) {
1205             int ok;
1206             char *prompt = UI_construct_prompt(ui,
1207                                                "pass phrase", prompt_info);
1208
1209             ok = UI_add_input_string(ui, prompt,
1210                                      UI_INPUT_FLAG_DEFAULT_PWD,
1211                                      buf, 0, (*len_io) - 1);
1212             UI_add_user_data(ui, callback_data);
1213             UI_ctrl(ui, UI_CTRL_PRINT_ERRORS, 1, 0, 0);
1214
1215             if (ok >= 0)
1216                 do {
1217                     ok = UI_process(ui);
1218                 }
1219                 while (ok < 0 && UI_ctrl(ui, UI_CTRL_IS_REDOABLE, 0, 0, 0));
1220
1221             if (ok >= 0)
1222                 *len_io = strlen(buf);
1223
1224             UI_free(ui);
1225             OPENSSL_free(prompt);
1226         }
1227     } else {
1228         *len_io = callback(buf, *len_io, 0, callback_data);
1229     }
1230     if (!*len_io)
1231         return -1;
1232     return 0;
1233 }
1234
1235 static int hwcrhk_insert_card(const char *prompt_info,
1236                               const char *wrong_info,
1237                               HWCryptoHook_PassphraseContext * ppctx,
1238                               HWCryptoHook_CallerContext * cactx)
1239 {
1240     int ok = -1;
1241     UI *ui;
1242     void *callback_data = NULL;
1243     UI_METHOD *ui_method = NULL;
1244
1245     if (cactx) {
1246         if (cactx->ui_method)
1247             ui_method = cactx->ui_method;
1248         if (cactx->callback_data)
1249             callback_data = cactx->callback_data;
1250     }
1251     if (ppctx) {
1252         if (ppctx->ui_method)
1253             ui_method = ppctx->ui_method;
1254         if (ppctx->callback_data)
1255             callback_data = ppctx->callback_data;
1256     }
1257     if (ui_method == NULL) {
1258         HWCRHKerr(HWCRHK_F_HWCRHK_INSERT_CARD, HWCRHK_R_NO_CALLBACK);
1259         return -1;
1260     }
1261
1262     ui = UI_new_method(ui_method);
1263
1264     if (ui) {
1265         char answer;
1266         char buf[BUFSIZ];
1267         /*
1268          * Despite what the documentation says wrong_info can be an empty
1269          * string.
1270          */
1271         if (wrong_info && *wrong_info)
1272             BIO_snprintf(buf, sizeof(buf) - 1,
1273                          "Current card: \"%s\"\n", wrong_info);
1274         else
1275             buf[0] = 0;
1276         ok = UI_dup_info_string(ui, buf);
1277         if (ok >= 0 && prompt_info) {
1278             BIO_snprintf(buf, sizeof(buf) - 1,
1279                          "Insert card \"%s\"", prompt_info);
1280             ok = UI_dup_input_boolean(ui, buf,
1281                                       "\n then hit <enter> or C<enter> to cancel\n",
1282                                       "\r\n", "Cc", UI_INPUT_FLAG_ECHO,
1283                                       &answer);
1284         }
1285         UI_add_user_data(ui, callback_data);
1286
1287         if (ok >= 0)
1288             ok = UI_process(ui);
1289         UI_free(ui);
1290
1291         if (ok == -2 || (ok >= 0 && answer == 'C'))
1292             ok = 1;
1293         else if (ok < 0)
1294             ok = -1;
1295         else
1296             ok = 0;
1297     }
1298     return ok;
1299 }
1300
1301 static void hwcrhk_log_message(void *logstr, const char *message)
1302 {
1303     BIO *lstream = NULL;
1304
1305     if (logstr)
1306         lstream = *(BIO **)logstr;
1307     if (lstream) {
1308         BIO_printf(lstream, "%s\n", message);
1309     }
1310 }
1311
1312 /*
1313  * This stuff is needed if this ENGINE is being compiled into a
1314  * self-contained shared-library.
1315  */
1316 #  ifndef OPENSSL_NO_DYNAMIC_ENGINE
1317 static int bind_fn(ENGINE *e, const char *id)
1318 {
1319     if (id && (strcmp(id, engine_hwcrhk_id) != 0) &&
1320         (strcmp(id, engine_hwcrhk_id_alt) != 0))
1321         return 0;
1322     if (!bind_helper(e))
1323         return 0;
1324     return 1;
1325 }
1326
1327 IMPLEMENT_DYNAMIC_CHECK_FN()
1328     IMPLEMENT_DYNAMIC_BIND_FN(bind_fn)
1329 #  endif                        /* OPENSSL_NO_DYNAMIC_ENGINE */
1330 # endif                         /* !OPENSSL_NO_HW_CHIL */
1331 #endif                          /* !OPENSSL_NO_HW */