Add a test for the certificate callback
[openssl.git] / test / shlibloadtest.c
1 /*
2  * Copyright 2016-2018 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the OpenSSL license (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #include <stdio.h>
11 #include <string.h>
12 #include <stdlib.h>
13 #include <openssl/opensslv.h>
14 #include <openssl/ssl.h>
15 #include <openssl/ossl_typ.h>
16 #include "internal/dso_conf.h"
17 #include "testutil.h"
18
19 typedef void DSO;
20
21 typedef const SSL_METHOD * (*TLS_method_t)(void);
22 typedef SSL_CTX * (*SSL_CTX_new_t)(const SSL_METHOD *meth);
23 typedef void (*SSL_CTX_free_t)(SSL_CTX *);
24 typedef unsigned long (*ERR_get_error_t)(void);
25 typedef unsigned long (*OpenSSL_version_num_t)(void);
26 typedef DSO * (*DSO_dsobyaddr_t)(void (*addr)(void), int flags);
27 typedef int (*DSO_free_t)(DSO *dso);
28
29 typedef enum test_types_en {
30     CRYPTO_FIRST,
31     SSL_FIRST,
32     JUST_CRYPTO,
33     DSO_REFTEST
34 } TEST_TYPE;
35
36 static TEST_TYPE test_type;
37 static const char *path_crypto;
38 static const char *path_ssl;
39
40 #ifdef DSO_DLFCN
41
42 # include <dlfcn.h>
43
44 # define SHLIB_INIT NULL
45
46 typedef void *SHLIB;
47 typedef void *SHLIB_SYM;
48
49 static int shlib_load(const char *filename, SHLIB *lib)
50 {
51     int dl_flags = (RTLD_GLOBAL|RTLD_LAZY);
52 #ifdef _AIX
53     if (filename[strlen(filename) - 1] == ')')
54         dl_flags |= RTLD_MEMBER;
55 #endif
56     *lib = dlopen(filename, dl_flags);
57     return *lib == NULL ? 0 : 1;
58 }
59
60 static int shlib_sym(SHLIB lib, const char *symname, SHLIB_SYM *sym)
61 {
62     *sym = dlsym(lib, symname);
63     return *sym != NULL;
64 }
65
66 static int shlib_close(SHLIB lib)
67 {
68     return dlclose(lib) != 0 ? 0 : 1;
69 }
70 #endif
71
72 #ifdef DSO_WIN32
73
74 # include <windows.h>
75
76 # define SHLIB_INIT 0
77
78 typedef HINSTANCE SHLIB;
79 typedef void *SHLIB_SYM;
80
81 static int shlib_load(const char *filename, SHLIB *lib)
82 {
83     *lib = LoadLibraryA(filename);
84     return *lib == NULL ? 0 : 1;
85 }
86
87 static int shlib_sym(SHLIB lib, const char *symname, SHLIB_SYM *sym)
88 {
89     *sym = (SHLIB_SYM)GetProcAddress(lib, symname);
90     return *sym != NULL;
91 }
92
93 static int shlib_close(SHLIB lib)
94 {
95     return FreeLibrary(lib) == 0 ? 0 : 1;
96 }
97 #endif
98
99
100 #if defined(DSO_DLFCN) || defined(DSO_WIN32)
101
102 static int test_lib(void)
103 {
104     SHLIB ssllib = SHLIB_INIT;
105     SHLIB cryptolib = SHLIB_INIT;
106     SSL_CTX *ctx;
107     union {
108         void (*func)(void);
109         SHLIB_SYM sym;
110     } symbols[3];
111     TLS_method_t myTLS_method;
112     SSL_CTX_new_t mySSL_CTX_new;
113     SSL_CTX_free_t mySSL_CTX_free;
114     ERR_get_error_t myERR_get_error;
115     OpenSSL_version_num_t myOpenSSL_version_num;
116     int result = 0;
117
118     switch (test_type) {
119     case JUST_CRYPTO:
120         if (!TEST_true(shlib_load(path_crypto, &cryptolib)))
121             goto end;
122         break;
123     case CRYPTO_FIRST:
124         if (!TEST_true(shlib_load(path_crypto, &cryptolib))
125                 || !TEST_true(shlib_load(path_ssl, &ssllib)))
126             goto end;
127         break;
128     case SSL_FIRST:
129         if (!TEST_true(shlib_load(path_ssl, &ssllib))
130                 || !TEST_true(shlib_load(path_crypto, &cryptolib)))
131             goto end;
132         break;
133     case DSO_REFTEST:
134         if (!TEST_true(shlib_load(path_crypto, &cryptolib)))
135             goto end;
136         break;
137     }
138
139     if (test_type != JUST_CRYPTO && test_type != DSO_REFTEST) {
140         if (!TEST_true(shlib_sym(ssllib, "TLS_method", &symbols[0].sym))
141                 || !TEST_true(shlib_sym(ssllib, "SSL_CTX_new", &symbols[1].sym))
142                 || !TEST_true(shlib_sym(ssllib, "SSL_CTX_free", &symbols[2].sym)))
143             goto end;
144         myTLS_method = (TLS_method_t)symbols[0].func;
145         mySSL_CTX_new = (SSL_CTX_new_t)symbols[1].func;
146         mySSL_CTX_free = (SSL_CTX_free_t)symbols[2].func;
147         if (!TEST_ptr(ctx = mySSL_CTX_new(myTLS_method())))
148             goto end;
149         mySSL_CTX_free(ctx);
150     }
151
152     if (!TEST_true(shlib_sym(cryptolib, "ERR_get_error", &symbols[0].sym))
153             || !TEST_true(shlib_sym(cryptolib, "OpenSSL_version_num",
154                                     &symbols[1].sym)))
155         goto end;
156     myERR_get_error = (ERR_get_error_t)symbols[0].func;
157     if (!TEST_int_eq(myERR_get_error(), 0))
158         goto end;
159
160     /*
161      * The bits that COMPATIBILITY_MASK lets through MUST be the same in
162      * the library and in the application.
163      * The bits that are masked away MUST be a larger or equal number in
164      * the library compared to the application.
165      */
166 # define COMPATIBILITY_MASK 0xfff00000L
167     myOpenSSL_version_num = (OpenSSL_version_num_t)symbols[1].func;
168     if (!TEST_int_eq(myOpenSSL_version_num() & COMPATIBILITY_MASK,
169                      OPENSSL_VERSION_NUMBER & COMPATIBILITY_MASK))
170         goto end;
171     if (!TEST_int_ge(myOpenSSL_version_num() & ~COMPATIBILITY_MASK,
172                      OPENSSL_VERSION_NUMBER & ~COMPATIBILITY_MASK))
173         goto end;
174
175     if (test_type == DSO_REFTEST) {
176 # ifdef DSO_DLFCN
177         DSO_dsobyaddr_t myDSO_dsobyaddr;
178         DSO_free_t myDSO_free;
179
180         /*
181          * This is resembling the code used in ossl_init_base() and
182          * OPENSSL_atexit() to block unloading the library after dlclose().
183          * We are not testing this on Windows, because it is done there in a
184          * completely different way. Especially as a call to DSO_dsobyaddr()
185          * will always return an error, because DSO_pathbyaddr() is not
186          * implemented there.
187          */
188         if (!TEST_true(shlib_sym(cryptolib, "DSO_dsobyaddr", &symbols[0].sym))
189                 || !TEST_true(shlib_sym(cryptolib, "DSO_free",
190                                         &symbols[1].sym)))
191             goto end;
192
193         myDSO_dsobyaddr = (DSO_dsobyaddr_t)symbols[0].func;
194         myDSO_free = (DSO_free_t)symbols[1].func;
195
196         {
197             DSO *hndl;
198             /* use known symbol from crypto module */
199             if (!TEST_ptr(hndl = myDSO_dsobyaddr((void (*)(void))ERR_get_error, 0)))
200                 goto end;
201             myDSO_free(hndl);
202         }
203 # endif /* DSO_DLFCN */
204     }
205
206     switch (test_type) {
207     case JUST_CRYPTO:
208         if (!TEST_true(shlib_close(cryptolib)))
209             goto end;
210         break;
211     case CRYPTO_FIRST:
212         if (!TEST_true(shlib_close(cryptolib))
213                 || !TEST_true(shlib_close(ssllib)))
214             goto end;
215         break;
216     case SSL_FIRST:
217         if (!TEST_true(shlib_close(ssllib))
218                 || !TEST_true(shlib_close(cryptolib)))
219             goto end;
220         break;
221     case DSO_REFTEST:
222         if (!TEST_true(shlib_close(cryptolib)))
223             goto end;
224         break;
225     }
226
227     result = 1;
228 end:
229     return result;
230 }
231 #endif
232
233
234 int setup_tests(void)
235 {
236     const char *p = test_get_argument(0);
237
238     if (strcmp(p, "-crypto_first") == 0) {
239         test_type = CRYPTO_FIRST;
240     } else if (strcmp(p, "-ssl_first") == 0) {
241         test_type = SSL_FIRST;
242     } else if (strcmp(p, "-just_crypto") == 0) {
243         test_type = JUST_CRYPTO;
244     } else if (strcmp(p, "-dso_ref") == 0) {
245         test_type = JUST_CRYPTO;
246     } else {
247         TEST_error("Unrecognised argument");
248         return 0;
249     }
250     if (!TEST_ptr(path_crypto = test_get_argument(1))
251             || !TEST_ptr(path_ssl = test_get_argument(2)))
252         return 0;
253
254 #if defined(DSO_DLFCN) || defined(DSO_WIN32)
255     ADD_TEST(test_lib);
256 #endif
257     return 1;
258 }