crypto/initthread.c

   1 /*
   2  * Copyright 2019-2021 The OpenSSL Project Authors. All Rights Reserved.
   3  *
   4  * Licensed under the Apache License 2.0 (the "License").  You may not use
   5  * this file except in compliance with the License.  You can obtain a copy
   6  * in the file LICENSE in the source distribution or at
   7  * https://www.openssl.org/source/license.html
   8  */
   9
  10 #include <openssl/crypto.h>
  11 #include <openssl/core_dispatch.h>
  12 #include "crypto/cryptlib.h"
  13 #include "prov/providercommon.h"
  14 #include "internal/thread_once.h"
  15
  16 #ifdef FIPS_MODULE
  17 #include "prov/provider_ctx.h"
  18
  19 /*
  20  * Thread aware code may want to be told about thread stop events. We register
  21  * to hear about those thread stop events when we see a new thread has started.
  22  * We call the ossl_init_thread_start function to do that. In the FIPS provider
  23  * we have our own copy of ossl_init_thread_start, which cascades notifications
  24  * about threads stopping from libcrypto to all the code in the FIPS provider
  25  * that needs to know about it.
  26  *
  27  * The FIPS provider tells libcrypto about which threads it is interested in
  28  * by calling "c_thread_start" which is a function pointer created during
  29  * provider initialisation (i.e. OSSL_init_provider).
  30  */
  31 extern OSSL_FUNC_core_thread_start_fn *c_thread_start;
  32 #endif
  33
  34 typedef struct thread_event_handler_st THREAD_EVENT_HANDLER;
  35 struct thread_event_handler_st {
  36 #ifndef FIPS_MODULE
  37     const void *index;
  38 #endif
  39     void *arg;
  40     OSSL_thread_stop_handler_fn handfn;
  41     THREAD_EVENT_HANDLER *next;
  42 };
  43
  44 #ifndef FIPS_MODULE
  45 DEFINE_SPECIAL_STACK_OF(THREAD_EVENT_HANDLER_PTR, THREAD_EVENT_HANDLER *)
  46
  47 typedef struct global_tevent_register_st GLOBAL_TEVENT_REGISTER;
  48 struct global_tevent_register_st {
  49     STACK_OF(THREAD_EVENT_HANDLER_PTR) *skhands;
  50     CRYPTO_RWLOCK *lock;
  51 };
  52
  53 static GLOBAL_TEVENT_REGISTER *glob_tevent_reg = NULL;
  54
  55 static CRYPTO_ONCE tevent_register_runonce = CRYPTO_ONCE_STATIC_INIT;
  56
  57 DEFINE_RUN_ONCE_STATIC(create_global_tevent_register)
  58 {
  59     glob_tevent_reg = OPENSSL_zalloc(sizeof(*glob_tevent_reg));
  60     if (glob_tevent_reg == NULL)
  61         return 0;
  62
  63     glob_tevent_reg->skhands = sk_THREAD_EVENT_HANDLER_PTR_new_null();
  64     glob_tevent_reg->lock = CRYPTO_THREAD_lock_new();
  65     if (glob_tevent_reg->skhands == NULL || glob_tevent_reg->lock == NULL) {
  66         sk_THREAD_EVENT_HANDLER_PTR_free(glob_tevent_reg->skhands);
  67         CRYPTO_THREAD_lock_free(glob_tevent_reg->lock);
  68         OPENSSL_free(glob_tevent_reg);
  69         glob_tevent_reg = NULL;
  70         return 0;
  71     }
  72
  73     return 1;
  74 }
  75
  76 static GLOBAL_TEVENT_REGISTER *get_global_tevent_register(void)
  77 {
  78     if (!RUN_ONCE(&tevent_register_runonce, create_global_tevent_register))
  79         return NULL;
  80     return glob_tevent_reg;
  81 }
  82 #endif
  83
  84 #ifndef FIPS_MODULE
  85 static int  init_thread_push_handlers(THREAD_EVENT_HANDLER **hands);
  86 static void init_thread_remove_handlers(THREAD_EVENT_HANDLER **handsin);
  87 static void init_thread_destructor(void *hands);
  88 static int  init_thread_deregister(void *arg, int all);
  89 #endif
  90 static void init_thread_stop(void *arg, THREAD_EVENT_HANDLER **hands);
  91
  92 static THREAD_EVENT_HANDLER **
  93 init_get_thread_local(CRYPTO_THREAD_LOCAL *local, int alloc, int keep)
  94 {
  95     THREAD_EVENT_HANDLER **hands = CRYPTO_THREAD_get_local(local);
  96
  97     if (alloc) {
  98         if (hands == NULL) {
  99
 100             if ((hands = OPENSSL_zalloc(sizeof(*hands))) == NULL)
 101                 return NULL;
 102
 103             if (!CRYPTO_THREAD_set_local(local, hands)) {
 104                 OPENSSL_free(hands);
 105                 return NULL;
 106             }
 107
 108 #ifndef FIPS_MODULE
 109             if (!init_thread_push_handlers(hands)) {
 110                 CRYPTO_THREAD_set_local(local, NULL);
 111                 OPENSSL_free(hands);
 112                 return NULL;
 113             }
 114 #endif
 115         }
 116     } else if (!keep) {
 117         CRYPTO_THREAD_set_local(local, NULL);
 118     }
 119
 120     return hands;
 121 }
 122
 123 #ifndef FIPS_MODULE
 124 /*
 125  * Since per-thread-specific-data destructors are not universally
 126  * available, i.e. not on Windows, only below CRYPTO_THREAD_LOCAL key
 127  * is assumed to have destructor associated. And then an effort is made
 128  * to call this single destructor on non-pthread platform[s].
 129  *
 130  * Initial value is "impossible". It is used as guard value to shortcut
 131  * destructor for threads terminating before libcrypto is initialized or
 132  * after it's de-initialized. Access to the key doesn't have to be
 133  * serialized for the said threads, because they didn't use libcrypto
 134  * and it doesn't matter if they pick "impossible" or dereference real
 135  * key value and pull NULL past initialization in the first thread that
 136  * intends to use libcrypto.
 137  */
 138 static union {
 139     long sane;
 140     CRYPTO_THREAD_LOCAL value;
 141 } destructor_key = { -1 };
 142
 143 /*
 144  * The thread event handler list is a thread specific linked list
 145  * of callback functions which are invoked in list order by the
 146  * current thread in case of certain events. (Currently, there is
 147  * only one type of event, the 'thread stop' event.)
 148  *
 149  * We also keep a global reference to that linked list, so that we
 150  * can deregister handlers if necessary before all the threads are
 151  * stopped.
 152  */
 153 static int init_thread_push_handlers(THREAD_EVENT_HANDLER **hands)
 154 {
 155     int ret;
 156     GLOBAL_TEVENT_REGISTER *gtr;
 157
 158     gtr = get_global_tevent_register();
 159     if (gtr == NULL)
 160         return 0;
 161
 162     if (!CRYPTO_THREAD_write_lock(gtr->lock))
 163         return 0;
 164     ret = (sk_THREAD_EVENT_HANDLER_PTR_push(gtr->skhands, hands) != 0);
 165     CRYPTO_THREAD_unlock(gtr->lock);
 166
 167     return ret;
 168 }
 169
 170 static void init_thread_remove_handlers(THREAD_EVENT_HANDLER **handsin)
 171 {
 172     GLOBAL_TEVENT_REGISTER *gtr;
 173     int i;
 174
 175     gtr = get_global_tevent_register();
 176     if (gtr == NULL)
 177         return;
 178     if (!CRYPTO_THREAD_write_lock(gtr->lock))
 179         return;
 180     for (i = 0; i < sk_THREAD_EVENT_HANDLER_PTR_num(gtr->skhands); i++) {
 181         THREAD_EVENT_HANDLER **hands
 182             = sk_THREAD_EVENT_HANDLER_PTR_value(gtr->skhands, i);
 183
 184         if (hands == handsin) {
 185             sk_THREAD_EVENT_HANDLER_PTR_delete(gtr->skhands, i);
 186             CRYPTO_THREAD_unlock(gtr->lock);
 187             return;
 188         }
 189     }
 190     CRYPTO_THREAD_unlock(gtr->lock);
 191     return;
 192 }
 193
 194 static void init_thread_destructor(void *hands)
 195 {
 196     init_thread_stop(NULL, (THREAD_EVENT_HANDLER **)hands);
 197     init_thread_remove_handlers(hands);
 198     OPENSSL_free(hands);
 199 }
 200
 201 int ossl_init_thread(void)
 202 {
 203     if (!CRYPTO_THREAD_init_local(&destructor_key.value,
 204                                   init_thread_destructor))
 205         return 0;
 206
 207     return 1;
 208 }
 209
 210 void ossl_cleanup_thread(void)
 211 {
 212     init_thread_deregister(NULL, 1);
 213     CRYPTO_THREAD_cleanup_local(&destructor_key.value);
 214     destructor_key.sane = -1;
 215 }
 216
 217 void OPENSSL_thread_stop_ex(OSSL_LIB_CTX *ctx)
 218 {
 219     ctx = ossl_lib_ctx_get_concrete(ctx);
 220     /*
 221      * It would be nice if we could figure out a way to do this on all threads
 222      * that have used the OSSL_LIB_CTX when the context is freed. This is
 223      * currently not possible due to the use of thread local variables.
 224      */
 225     ossl_ctx_thread_stop(ctx);
 226 }
 227
 228 void OPENSSL_thread_stop(void)
 229 {
 230     if (destructor_key.sane != -1) {
 231         THREAD_EVENT_HANDLER **hands
 232             = init_get_thread_local(&destructor_key.value, 0, 0);
 233         init_thread_stop(NULL, hands);
 234
 235         init_thread_remove_handlers(hands);
 236         OPENSSL_free(hands);
 237     }
 238 }
 239
 240 void ossl_ctx_thread_stop(OSSL_LIB_CTX *ctx)
 241 {
 242     if (destructor_key.sane != -1) {
 243         THREAD_EVENT_HANDLER **hands
 244             = init_get_thread_local(&destructor_key.value, 0, 1);
 245         init_thread_stop(ctx, hands);
 246     }
 247 }
 248
 249 #else
 250
 251 static void *thread_event_ossl_ctx_new(OSSL_LIB_CTX *libctx)
 252 {
 253     THREAD_EVENT_HANDLER **hands = NULL;
 254     CRYPTO_THREAD_LOCAL *tlocal = OPENSSL_zalloc(sizeof(*tlocal));
 255
 256     if (tlocal == NULL)
 257         return NULL;
 258
 259     if (!CRYPTO_THREAD_init_local(tlocal,  NULL)) {
 260         goto err;
 261     }
 262
 263     hands = OPENSSL_zalloc(sizeof(*hands));
 264     if (hands == NULL)
 265         goto err;
 266
 267     if (!CRYPTO_THREAD_set_local(tlocal, hands))
 268         goto err;
 269
 270     return tlocal;
 271  err:
 272     OPENSSL_free(hands);
 273     OPENSSL_free(tlocal);
 274     return NULL;
 275 }
 276
 277 static void thread_event_ossl_ctx_free(void *tlocal)
 278 {
 279     OPENSSL_free(tlocal);
 280 }
 281
 282 static const OSSL_LIB_CTX_METHOD thread_event_ossl_ctx_method = {
 283     OSSL_LIB_CTX_METHOD_DEFAULT_PRIORITY,
 284     thread_event_ossl_ctx_new,
 285     thread_event_ossl_ctx_free,
 286 };
 287
 288 static void ossl_arg_thread_stop(void *arg)
 289 {
 290     ossl_ctx_thread_stop((OSSL_LIB_CTX *)arg);
 291 }
 292
 293 void ossl_ctx_thread_stop(OSSL_LIB_CTX *ctx)
 294 {
 295     THREAD_EVENT_HANDLER **hands;
 296     CRYPTO_THREAD_LOCAL *local
 297         = ossl_lib_ctx_get_data(ctx, OSSL_LIB_CTX_THREAD_EVENT_HANDLER_INDEX,
 298                                 &thread_event_ossl_ctx_method);
 299
 300     if (local == NULL)
 301         return;
 302     hands = init_get_thread_local(local, 0, 0);
 303     init_thread_stop(ctx, hands);
 304     OPENSSL_free(hands);
 305 }
 306 #endif /* FIPS_MODULE */
 307
 308
 309 static void init_thread_stop(void *arg, THREAD_EVENT_HANDLER **hands)
 310 {
 311     THREAD_EVENT_HANDLER *curr, *prev = NULL, *tmp;
 312
 313     /* Can't do much about this */
 314     if (hands == NULL)
 315         return;
 316
 317     curr = *hands;
 318     while (curr != NULL) {
 319         if (arg != NULL && curr->arg != arg) {
 320             prev = curr;
 321             curr = curr->next;
 322             continue;
 323         }
 324         curr->handfn(curr->arg);
 325         if (prev == NULL)
 326             *hands = curr->next;
 327         else
 328             prev->next = curr->next;
 329
 330         tmp = curr;
 331         curr = curr->next;
 332
 333         OPENSSL_free(tmp);
 334     }
 335 }
 336
 337 int ossl_init_thread_start(const void *index, void *arg,
 338                            OSSL_thread_stop_handler_fn handfn)
 339 {
 340     THREAD_EVENT_HANDLER **hands;
 341     THREAD_EVENT_HANDLER *hand;
 342 #ifdef FIPS_MODULE
 343     OSSL_LIB_CTX *ctx = arg;
 344
 345     /*
 346      * In FIPS mode the list of THREAD_EVENT_HANDLERs is unique per combination
 347      * of OSSL_LIB_CTX and thread. This is because in FIPS mode each
 348      * OSSL_LIB_CTX gets informed about thread stop events individually.
 349      */
 350     CRYPTO_THREAD_LOCAL *local
 351         = ossl_lib_ctx_get_data(ctx, OSSL_LIB_CTX_THREAD_EVENT_HANDLER_INDEX,
 352                                 &thread_event_ossl_ctx_method);
 353 #else
 354     /*
 355      * Outside of FIPS mode the list of THREAD_EVENT_HANDLERs is unique per
 356      * thread, but may hold multiple OSSL_LIB_CTXs. We only get told about
 357      * thread stop events globally, so we have to ensure all affected
 358      * OSSL_LIB_CTXs are informed.
 359      */
 360     CRYPTO_THREAD_LOCAL *local = &destructor_key.value;
 361 #endif
 362
 363     hands = init_get_thread_local(local, 1, 0);
 364     if (hands == NULL)
 365         return 0;
 366
 367 #ifdef FIPS_MODULE
 368     if (*hands == NULL) {
 369         /*
 370          * We've not yet registered any handlers for this thread. We need to get
 371          * libcrypto to tell us about later thread stop events. c_thread_start
 372          * is a callback to libcrypto defined in fipsprov.c
 373          */
 374         if (!c_thread_start(FIPS_get_core_handle(ctx), ossl_arg_thread_stop,
 375                             ctx))
 376             return 0;
 377     }
 378 #endif
 379
 380     hand = OPENSSL_malloc(sizeof(*hand));
 381     if (hand == NULL)
 382         return 0;
 383
 384     hand->handfn = handfn;
 385     hand->arg = arg;
 386 #ifndef FIPS_MODULE
 387     hand->index = index;
 388 #endif
 389     hand->next = *hands;
 390     *hands = hand;
 391
 392     return 1;
 393 }
 394
 395 #ifndef FIPS_MODULE
 396 static int init_thread_deregister(void *index, int all)
 397 {
 398     GLOBAL_TEVENT_REGISTER *gtr;
 399     int i;
 400
 401     gtr = get_global_tevent_register();
 402     if (gtr == NULL)
 403         return 0;
 404     if (!all) {
 405         if (!CRYPTO_THREAD_write_lock(gtr->lock))
 406             return 0;
 407     } else {
 408         glob_tevent_reg = NULL;
 409     }
 410     for (i = 0; i < sk_THREAD_EVENT_HANDLER_PTR_num(gtr->skhands); i++) {
 411         THREAD_EVENT_HANDLER **hands
 412             = sk_THREAD_EVENT_HANDLER_PTR_value(gtr->skhands, i);
 413         THREAD_EVENT_HANDLER *curr = NULL, *prev = NULL, *tmp;
 414
 415         if (hands == NULL) {
 416             if (!all)
 417                 CRYPTO_THREAD_unlock(gtr->lock);
 418             return 0;
 419         }
 420         curr = *hands;
 421         while (curr != NULL) {
 422             if (all || curr->index == index) {
 423                 if (prev != NULL)
 424                     prev->next = curr->next;
 425                 else
 426                     *hands = curr->next;
 427                 tmp = curr;
 428                 curr = curr->next;
 429                 OPENSSL_free(tmp);
 430                 continue;
 431             }
 432             prev = curr;
 433             curr = curr->next;
 434         }
 435         if (all)
 436             OPENSSL_free(hands);
 437     }
 438     if (all) {
 439         CRYPTO_THREAD_lock_free(gtr->lock);
 440         sk_THREAD_EVENT_HANDLER_PTR_free(gtr->skhands);
 441         OPENSSL_free(gtr);
 442     } else {
 443         CRYPTO_THREAD_unlock(gtr->lock);
 444     }
 445     return 1;
 446 }
 447
 448 int ossl_init_thread_deregister(void *index)
 449 {
 450     return init_thread_deregister(index, 0);
 451 }
 452 #endif