Fix dsaparam -genkey with DER outform
[openssl.git] / test / shlibloadtest.c
1 /*
2  * Copyright 2016-2018 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the OpenSSL license (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #include <stdio.h>
11 #include <string.h>
12 #include <stdlib.h>
13 #include <openssl/opensslv.h>
14 #include <openssl/ssl.h>
15 #include <openssl/ossl_typ.h>
16 #include "internal/dso_conf.h"
17 #include "testutil.h"
18
19 typedef void DSO;
20
21 typedef const SSL_METHOD * (*TLS_method_t)(void);
22 typedef SSL_CTX * (*SSL_CTX_new_t)(const SSL_METHOD *meth);
23 typedef void (*SSL_CTX_free_t)(SSL_CTX *);
24 typedef unsigned long (*ERR_get_error_t)(void);
25 typedef unsigned long (*OpenSSL_version_num_t)(void);
26 typedef DSO * (*DSO_dsobyaddr_t)(void (*addr)(), int flags);
27 typedef int (*DSO_free_t)(DSO *dso);
28
29 typedef enum test_types_en {
30     CRYPTO_FIRST,
31     SSL_FIRST,
32     JUST_CRYPTO,
33     DSO_REFTEST
34 } TEST_TYPE;
35
36 static TEST_TYPE test_type;
37 static const char *path_crypto;
38 static const char *path_ssl;
39
40 #ifdef DSO_DLFCN
41
42 # include <dlfcn.h>
43
44 # define SHLIB_INIT NULL
45
46 typedef void *SHLIB;
47 typedef void *SHLIB_SYM;
48
49 static int shlib_load(const char *filename, SHLIB *lib)
50 {
51     *lib = dlopen(filename, RTLD_GLOBAL | RTLD_LAZY);
52     return *lib == NULL ? 0 : 1;
53 }
54
55 static int shlib_sym(SHLIB lib, const char *symname, SHLIB_SYM *sym)
56 {
57     *sym = dlsym(lib, symname);
58     return *sym != NULL;
59 }
60
61 static int shlib_close(SHLIB lib)
62 {
63     return dlclose(lib) != 0 ? 0 : 1;
64 }
65 #endif
66
67 #ifdef DSO_WIN32
68
69 # include <windows.h>
70
71 # define SHLIB_INIT 0
72
73 typedef HINSTANCE SHLIB;
74 typedef void *SHLIB_SYM;
75
76 static int shlib_load(const char *filename, SHLIB *lib)
77 {
78     *lib = LoadLibraryA(filename);
79     return *lib == NULL ? 0 : 1;
80 }
81
82 static int shlib_sym(SHLIB lib, const char *symname, SHLIB_SYM *sym)
83 {
84     *sym = (SHLIB_SYM)GetProcAddress(lib, symname);
85     return *sym != NULL;
86 }
87
88 static int shlib_close(SHLIB lib)
89 {
90     return FreeLibrary(lib) == 0 ? 0 : 1;
91 }
92 #endif
93
94
95 #if defined(DSO_DLFCN) || defined(DSO_WIN32)
96
97 static int test_lib(void)
98 {
99     SHLIB ssllib = SHLIB_INIT;
100     SHLIB cryptolib = SHLIB_INIT;
101     SSL_CTX *ctx;
102     union {
103         void (*func)(void);
104         SHLIB_SYM sym;
105     } symbols[3];
106     TLS_method_t myTLS_method;
107     SSL_CTX_new_t mySSL_CTX_new;
108     SSL_CTX_free_t mySSL_CTX_free;
109     ERR_get_error_t myERR_get_error;
110     OpenSSL_version_num_t myOpenSSL_version_num;
111     int result = 0;
112
113     switch (test_type) {
114     case JUST_CRYPTO:
115         if (!TEST_true(shlib_load(path_crypto, &cryptolib)))
116             goto end;
117         break;
118     case CRYPTO_FIRST:
119         if (!TEST_true(shlib_load(path_crypto, &cryptolib))
120                 || !TEST_true(shlib_load(path_ssl, &ssllib)))
121             goto end;
122         break;
123     case SSL_FIRST:
124         if (!TEST_true(shlib_load(path_ssl, &ssllib))
125                 || !TEST_true(shlib_load(path_crypto, &cryptolib)))
126             goto end;
127         break;
128     case DSO_REFTEST:
129         if (!TEST_true(shlib_load(path_crypto, &cryptolib)))
130             goto end;
131         break;
132     }
133
134     if (test_type != JUST_CRYPTO && test_type != DSO_REFTEST) {
135         if (!TEST_true(shlib_sym(ssllib, "TLS_method", &symbols[0].sym))
136                 || !TEST_true(shlib_sym(ssllib, "SSL_CTX_new", &symbols[1].sym))
137                 || !TEST_true(shlib_sym(ssllib, "SSL_CTX_free", &symbols[2].sym)))
138             goto end;
139         myTLS_method = (TLS_method_t)symbols[0].func;
140         mySSL_CTX_new = (SSL_CTX_new_t)symbols[1].func;
141         mySSL_CTX_free = (SSL_CTX_free_t)symbols[2].func;
142         if (!TEST_ptr(ctx = mySSL_CTX_new(myTLS_method())))
143             goto end;
144         mySSL_CTX_free(ctx);
145     }
146
147     if (!TEST_true(shlib_sym(cryptolib, "ERR_get_error", &symbols[0].sym))
148             || !TEST_true(shlib_sym(cryptolib, "OpenSSL_version_num",
149                                     &symbols[1].sym)))
150         goto end;
151     myERR_get_error = (ERR_get_error_t)symbols[0].func;
152     if (!TEST_int_eq(myERR_get_error(), 0))
153         goto end;
154
155     /*
156      * The bits that COMPATIBILITY_MASK lets through MUST be the same in
157      * the library and in the application.
158      * The bits that are masked away MUST be a larger or equal number in
159      * the library compared to the application.
160      */
161 # define COMPATIBILITY_MASK 0xfff00000L
162     myOpenSSL_version_num = (OpenSSL_version_num_t)symbols[1].func;
163     if (!TEST_int_eq(myOpenSSL_version_num() & COMPATIBILITY_MASK,
164                      OPENSSL_VERSION_NUMBER & COMPATIBILITY_MASK))
165         goto end;
166     if (!TEST_int_ge(myOpenSSL_version_num() & ~COMPATIBILITY_MASK,
167                      OPENSSL_VERSION_NUMBER & ~COMPATIBILITY_MASK))
168         goto end;
169
170     if (test_type == DSO_REFTEST) {
171 # ifdef DSO_DLFCN
172         DSO_dsobyaddr_t myDSO_dsobyaddr;
173         DSO_free_t myDSO_free;
174
175         /*
176          * This is resembling the code used in ossl_init_base() and
177          * OPENSSL_atexit() to block unloading the library after dlclose().
178          * We are not testing this on Windows, because it is done there in a
179          * completely different way. Especially as a call to DSO_dsobyaddr()
180          * will always return an error, because DSO_pathbyaddr() is not
181          * implemented there.
182          */
183         if (!TEST_true(shlib_sym(cryptolib, "DSO_dsobyaddr", &symbols[0].sym))
184                 || !TEST_true(shlib_sym(cryptolib, "DSO_free",
185                                         &symbols[1].sym)))
186             goto end;
187
188         myDSO_dsobyaddr = (DSO_dsobyaddr_t)symbols[0].func;
189         myDSO_free = (DSO_free_t)symbols[1].func;
190
191         {
192             DSO *hndl;
193             /* use known symbol from crypto module */
194             if (!TEST_ptr(hndl = myDSO_dsobyaddr((void (*)())ERR_get_error, 0)))
195                 goto end;
196             myDSO_free(hndl);
197         }
198 # endif /* DSO_DLFCN */
199     }
200
201     switch (test_type) {
202     case JUST_CRYPTO:
203         if (!TEST_true(shlib_close(cryptolib)))
204             goto end;
205         break;
206     case CRYPTO_FIRST:
207         if (!TEST_true(shlib_close(cryptolib))
208                 || !TEST_true(shlib_close(ssllib)))
209             goto end;
210         break;
211     case SSL_FIRST:
212         if (!TEST_true(shlib_close(ssllib))
213                 || !TEST_true(shlib_close(cryptolib)))
214             goto end;
215         break;
216     case DSO_REFTEST:
217         if (!TEST_true(shlib_close(cryptolib)))
218             goto end;
219         break;
220     }
221
222     result = 1;
223 end:
224     return result;
225 }
226 #endif
227
228
229 int setup_tests(void)
230 {
231     const char *p = test_get_argument(0);
232
233     if (strcmp(p, "-crypto_first") == 0) {
234         test_type = CRYPTO_FIRST;
235     } else if (strcmp(p, "-ssl_first") == 0) {
236         test_type = SSL_FIRST;
237     } else if (strcmp(p, "-just_crypto") == 0) {
238         test_type = JUST_CRYPTO;
239     } else if (strcmp(p, "-dso_ref") == 0) {
240         test_type = JUST_CRYPTO;
241     } else {
242         TEST_error("Unrecognised argument");
243         return 0;
244     }
245     if (!TEST_ptr(path_crypto = test_get_argument(1))
246             || !TEST_ptr(path_ssl = test_get_argument(2)))
247         return 0;
248
249 #if defined(DSO_DLFCN) || defined(DSO_WIN32)
250     ADD_TEST(test_lib);
251 #endif
252     return 1;
253 }