test/shlibloadtest.c

   1 /*
   2  * Copyright 2016-2018 The OpenSSL Project Authors. All Rights Reserved.
   3  *
   4  * Licensed under the OpenSSL license (the "License").  You may not use
   5  * this file except in compliance with the License.  You can obtain a copy
   6  * in the file LICENSE in the source distribution or at
   7  * https://www.openssl.org/source/license.html
   8  */
   9
  10 #include <stdio.h>
  11 #include <string.h>
  12 #include <stdlib.h>
  13 #include <openssl/opensslv.h>
  14 #include <openssl/ssl.h>
  15 #include <openssl/ossl_typ.h>
  16 #include "internal/dso_conf.h"
  17 #include "testutil.h"
  18
  19 typedef void DSO;
  20
  21 typedef const SSL_METHOD * (*TLS_method_t)(void);
  22 typedef SSL_CTX * (*SSL_CTX_new_t)(const SSL_METHOD *meth);
  23 typedef void (*SSL_CTX_free_t)(SSL_CTX *);
  24 typedef unsigned long (*ERR_get_error_t)(void);
  25 typedef unsigned long (*OpenSSL_version_num_t)(void);
  26 typedef DSO * (*DSO_dsobyaddr_t)(void (*addr)(void), int flags);
  27 typedef int (*DSO_free_t)(DSO *dso);
  28
  29 typedef enum test_types_en {
  30     CRYPTO_FIRST,
  31     SSL_FIRST,
  32     JUST_CRYPTO,
  33     DSO_REFTEST
  34 } TEST_TYPE;
  35
  36 static TEST_TYPE test_type;
  37 static const char *path_crypto;
  38 static const char *path_ssl;
  39
  40 #ifdef DSO_DLFCN
  41
  42 # include <dlfcn.h>
  43
  44 # define SHLIB_INIT NULL
  45
  46 typedef void *SHLIB;
  47 typedef void *SHLIB_SYM;
  48
  49 static int shlib_load(const char *filename, SHLIB *lib)
  50 {
  51     *lib = dlopen(filename, RTLD_GLOBAL | RTLD_LAZY);
  52     return *lib == NULL ? 0 : 1;
  53 }
  54
  55 static int shlib_sym(SHLIB lib, const char *symname, SHLIB_SYM *sym)
  56 {
  57     *sym = dlsym(lib, symname);
  58     return *sym != NULL;
  59 }
  60
  61 static int shlib_close(SHLIB lib)
  62 {
  63     return dlclose(lib) != 0 ? 0 : 1;
  64 }
  65 #endif
  66
  67 #ifdef DSO_WIN32
  68
  69 # include <windows.h>
  70
  71 # define SHLIB_INIT 0
  72
  73 typedef HINSTANCE SHLIB;
  74 typedef void *SHLIB_SYM;
  75
  76 static int shlib_load(const char *filename, SHLIB *lib)
  77 {
  78     *lib = LoadLibraryA(filename);
  79     return *lib == NULL ? 0 : 1;
  80 }
  81
  82 static int shlib_sym(SHLIB lib, const char *symname, SHLIB_SYM *sym)
  83 {
  84     *sym = (SHLIB_SYM)GetProcAddress(lib, symname);
  85     return *sym != NULL;
  86 }
  87
  88 static int shlib_close(SHLIB lib)
  89 {
  90     return FreeLibrary(lib) == 0 ? 0 : 1;
  91 }
  92 #endif
  93
  94
  95 #if defined(DSO_DLFCN) || defined(DSO_WIN32)
  96
  97 static int test_lib(void)
  98 {
  99     SHLIB ssllib = SHLIB_INIT;
 100     SHLIB cryptolib = SHLIB_INIT;
 101     SSL_CTX *ctx;
 102     union {
 103         void (*func)(void);
 104         SHLIB_SYM sym;
 105     } symbols[3];
 106     TLS_method_t myTLS_method;
 107     SSL_CTX_new_t mySSL_CTX_new;
 108     SSL_CTX_free_t mySSL_CTX_free;
 109     ERR_get_error_t myERR_get_error;
 110     OpenSSL_version_num_t myOpenSSL_version_num;
 111     int result = 0;
 112
 113     switch (test_type) {
 114     case JUST_CRYPTO:
 115         if (!TEST_true(shlib_load(path_crypto, &cryptolib)))
 116             goto end;
 117         break;
 118     case CRYPTO_FIRST:
 119         if (!TEST_true(shlib_load(path_crypto, &cryptolib))
 120                 || !TEST_true(shlib_load(path_ssl, &ssllib)))
 121             goto end;
 122         break;
 123     case SSL_FIRST:
 124         if (!TEST_true(shlib_load(path_ssl, &ssllib))
 125                 || !TEST_true(shlib_load(path_crypto, &cryptolib)))
 126             goto end;
 127         break;
 128     case DSO_REFTEST:
 129         if (!TEST_true(shlib_load(path_crypto, &cryptolib)))
 130             goto end;
 131         break;
 132     }
 133
 134     if (test_type != JUST_CRYPTO && test_type != DSO_REFTEST) {
 135         if (!TEST_true(shlib_sym(ssllib, "TLS_method", &symbols[0].sym))
 136                 || !TEST_true(shlib_sym(ssllib, "SSL_CTX_new", &symbols[1].sym))
 137                 || !TEST_true(shlib_sym(ssllib, "SSL_CTX_free", &symbols[2].sym)))
 138             goto end;
 139         myTLS_method = (TLS_method_t)symbols[0].func;
 140         mySSL_CTX_new = (SSL_CTX_new_t)symbols[1].func;
 141         mySSL_CTX_free = (SSL_CTX_free_t)symbols[2].func;
 142         if (!TEST_ptr(ctx = mySSL_CTX_new(myTLS_method())))
 143             goto end;
 144         mySSL_CTX_free(ctx);
 145     }
 146
 147     if (!TEST_true(shlib_sym(cryptolib, "ERR_get_error", &symbols[0].sym))
 148             || !TEST_true(shlib_sym(cryptolib, "OpenSSL_version_num",
 149                                     &symbols[1].sym)))
 150         goto end;
 151     myERR_get_error = (ERR_get_error_t)symbols[0].func;
 152     if (!TEST_int_eq(myERR_get_error(), 0))
 153         goto end;
 154
 155     /*
 156      * The bits that COMPATIBILITY_MASK lets through MUST be the same in
 157      * the library and in the application.
 158      * The bits that are masked away MUST be a larger or equal number in
 159      * the library compared to the application.
 160      */
 161 # define COMPATIBILITY_MASK 0xfff00000L
 162     myOpenSSL_version_num = (OpenSSL_version_num_t)symbols[1].func;
 163     if (!TEST_int_eq(myOpenSSL_version_num() & COMPATIBILITY_MASK,
 164                      OPENSSL_VERSION_NUMBER & COMPATIBILITY_MASK))
 165         goto end;
 166     if (!TEST_int_ge(myOpenSSL_version_num() & ~COMPATIBILITY_MASK,
 167                      OPENSSL_VERSION_NUMBER & ~COMPATIBILITY_MASK))
 168         goto end;
 169
 170     if (test_type == DSO_REFTEST) {
 171 # ifdef DSO_DLFCN
 172         DSO_dsobyaddr_t myDSO_dsobyaddr;
 173         DSO_free_t myDSO_free;
 174
 175         /*
 176          * This is resembling the code used in ossl_init_base() and
 177          * OPENSSL_atexit() to block unloading the library after dlclose().
 178          * We are not testing this on Windows, because it is done there in a
 179          * completely different way. Especially as a call to DSO_dsobyaddr()
 180          * will always return an error, because DSO_pathbyaddr() is not
 181          * implemented there.
 182          */
 183         if (!TEST_true(shlib_sym(cryptolib, "DSO_dsobyaddr", &symbols[0].sym))
 184                 || !TEST_true(shlib_sym(cryptolib, "DSO_free",
 185                                         &symbols[1].sym)))
 186             goto end;
 187
 188         myDSO_dsobyaddr = (DSO_dsobyaddr_t)symbols[0].func;
 189         myDSO_free = (DSO_free_t)symbols[1].func;
 190
 191         {
 192             DSO *hndl;
 193             /* use known symbol from crypto module */
 194             if (!TEST_ptr(hndl = myDSO_dsobyaddr((void (*)(void))ERR_get_error, 0)))
 195                 goto end;
 196             myDSO_free(hndl);
 197         }
 198 # endif /* DSO_DLFCN */
 199     }
 200
 201     switch (test_type) {
 202     case JUST_CRYPTO:
 203         if (!TEST_true(shlib_close(cryptolib)))
 204             goto end;
 205         break;
 206     case CRYPTO_FIRST:
 207         if (!TEST_true(shlib_close(cryptolib))
 208                 || !TEST_true(shlib_close(ssllib)))
 209             goto end;
 210         break;
 211     case SSL_FIRST:
 212         if (!TEST_true(shlib_close(ssllib))
 213                 || !TEST_true(shlib_close(cryptolib)))
 214             goto end;
 215         break;
 216     case DSO_REFTEST:
 217         if (!TEST_true(shlib_close(cryptolib)))
 218             goto end;
 219         break;
 220     }
 221
 222     result = 1;
 223 end:
 224     return result;
 225 }
 226 #endif
 227
 228
 229 int setup_tests(void)
 230 {
 231     const char *p = test_get_argument(0);
 232
 233     if (strcmp(p, "-crypto_first") == 0) {
 234         test_type = CRYPTO_FIRST;
 235     } else if (strcmp(p, "-ssl_first") == 0) {
 236         test_type = SSL_FIRST;
 237     } else if (strcmp(p, "-just_crypto") == 0) {
 238         test_type = JUST_CRYPTO;
 239     } else if (strcmp(p, "-dso_ref") == 0) {
 240         test_type = JUST_CRYPTO;
 241     } else {
 242         TEST_error("Unrecognised argument");
 243         return 0;
 244     }
 245     if (!TEST_ptr(path_crypto = test_get_argument(1))
 246             || !TEST_ptr(path_ssl = test_get_argument(2)))
 247         return 0;
 248
 249 #if defined(DSO_DLFCN) || defined(DSO_WIN32)
 250     ADD_TEST(test_lib);
 251 #endif
 252     return 1;
 253 }