Convert existing usage of assert() to ossl_assert() in libssl
[openssl.git] / test / sslcorrupttest.c
1 /*
2  * Copyright 2016 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the OpenSSL license (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #include <string.h>
11 #include "ssltestlib.h"
12 #include "testutil.h"
13
14 static int docorrupt = 0;
15
16 static void copy_flags(BIO *bio)
17 {
18     int flags;
19     BIO *next = BIO_next(bio);
20
21     flags = BIO_test_flags(next, BIO_FLAGS_SHOULD_RETRY | BIO_FLAGS_RWS);
22     BIO_clear_flags(bio, BIO_FLAGS_SHOULD_RETRY | BIO_FLAGS_RWS);
23     BIO_set_flags(bio, flags);
24 }
25
26 static int tls_corrupt_read(BIO *bio, char *out, int outl)
27 {
28     int ret;
29     BIO *next = BIO_next(bio);
30
31     ret = BIO_read(next, out, outl);
32     copy_flags(bio);
33
34     return ret;
35 }
36
37 static int tls_corrupt_write(BIO *bio, const char *in, int inl)
38 {
39     int ret;
40     BIO *next = BIO_next(bio);
41     char *copy;
42
43     if (docorrupt) {
44         copy = BUF_memdup(in, inl);
45         TEST_check(copy != NULL);
46         /* corrupt last bit of application data */
47         copy[inl-1] ^= 1;
48         ret = BIO_write(next, copy, inl);
49         OPENSSL_free(copy);
50     } else {
51         ret = BIO_write(next, in, inl);
52     }
53     copy_flags(bio);
54
55     return ret;
56 }
57
58 static long tls_corrupt_ctrl(BIO *bio, int cmd, long num, void *ptr)
59 {
60     long ret;
61     BIO *next = BIO_next(bio);
62
63     if (next == NULL)
64         return 0;
65
66     switch (cmd) {
67     case BIO_CTRL_DUP:
68         ret = 0L;
69         break;
70     default:
71         ret = BIO_ctrl(next, cmd, num, ptr);
72         break;
73     }
74     return ret;
75 }
76
77 static int tls_corrupt_gets(BIO *bio, char *buf, int size)
78 {
79     /* We don't support this - not needed anyway */
80     return -1;
81 }
82
83 static int tls_corrupt_puts(BIO *bio, const char *str)
84 {
85     /* We don't support this - not needed anyway */
86     return -1;
87 }
88
89 static int tls_corrupt_new(BIO *bio)
90 {
91     BIO_set_init(bio, 1);
92
93     return 1;
94 }
95
96 static int tls_corrupt_free(BIO *bio)
97 {
98     BIO_set_init(bio, 0);
99
100     return 1;
101 }
102
103 #define BIO_TYPE_CUSTOM_FILTER  (0x80 | BIO_TYPE_FILTER)
104
105 static BIO_METHOD *method_tls_corrupt = NULL;
106
107 /* Note: Not thread safe! */
108 static const BIO_METHOD *bio_f_tls_corrupt_filter(void)
109 {
110     if (method_tls_corrupt == NULL) {
111         method_tls_corrupt = BIO_meth_new(BIO_TYPE_CUSTOM_FILTER,
112                                           "TLS corrupt filter");
113         if (   method_tls_corrupt == NULL
114             || !BIO_meth_set_write(method_tls_corrupt, tls_corrupt_write)
115             || !BIO_meth_set_read(method_tls_corrupt, tls_corrupt_read)
116             || !BIO_meth_set_puts(method_tls_corrupt, tls_corrupt_puts)
117             || !BIO_meth_set_gets(method_tls_corrupt, tls_corrupt_gets)
118             || !BIO_meth_set_ctrl(method_tls_corrupt, tls_corrupt_ctrl)
119             || !BIO_meth_set_create(method_tls_corrupt, tls_corrupt_new)
120             || !BIO_meth_set_destroy(method_tls_corrupt, tls_corrupt_free))
121             return NULL;
122     }
123     return method_tls_corrupt;
124 }
125
126 static void bio_f_tls_corrupt_filter_free(void)
127 {
128     BIO_meth_free(method_tls_corrupt);
129 }
130
131 /*
132  * The test is supposed to be executed with RSA key, customarily
133  * with apps/server.pem used even in other tests. For this reason
134  * |cipher_list| is initialized with RSA ciphers' names. This
135  * naturally means that if test is to be re-purposed for other
136  * type of key, then NID_auth_* filter below would need adjustment.
137  */
138 static const char **cipher_list = NULL;
139
140 static int setup_cipher_list()
141 {
142     SSL_CTX *ctx = NULL;
143     SSL *ssl = NULL;
144     static STACK_OF(SSL_CIPHER) *sk_ciphers = NULL;
145     int i, numciphers;
146
147     ctx = SSL_CTX_new(TLS_server_method());
148     TEST_check(ctx != NULL);
149     ssl = SSL_new(ctx);
150     TEST_check(ssl != NULL);
151     sk_ciphers = SSL_get1_supported_ciphers(ssl);
152     TEST_check(sk_ciphers != NULL);
153
154     /*
155      * The |cipher_list| will be filled only with names of RSA ciphers,
156      * so that some of the allocated space will be wasted, but the loss
157      * is deemed acceptable...
158      */
159     cipher_list = OPENSSL_malloc(sk_SSL_CIPHER_num(sk_ciphers) *
160                                  sizeof(cipher_list[0]));
161     TEST_check(cipher_list != NULL);
162
163     for (numciphers = 0, i = 0; i < sk_SSL_CIPHER_num(sk_ciphers); i++) {
164         const SSL_CIPHER *cipher = sk_SSL_CIPHER_value(sk_ciphers, i);
165
166         if (SSL_CIPHER_get_auth_nid(cipher) == NID_auth_rsa)
167             cipher_list[numciphers++] = SSL_CIPHER_get_name(cipher);
168     }
169     TEST_check(numciphers != 0);
170
171     sk_SSL_CIPHER_free(sk_ciphers);
172     SSL_free(ssl);
173     SSL_CTX_free(ctx);
174
175     return numciphers;
176 }
177
178 static char *cert = NULL;
179 static char *privkey = NULL;
180
181 static int test_ssl_corrupt(int testidx)
182 {
183     static unsigned char junk[16000] = { 0 };
184     SSL_CTX *sctx = NULL, *cctx = NULL;
185     SSL *server = NULL, *client = NULL;
186     BIO *c_to_s_fbio;
187     int testresult = 0;
188     STACK_OF(SSL_CIPHER) *ciphers;
189     const SSL_CIPHER *currcipher;
190
191     docorrupt = 0;
192
193     TEST_info("Starting #%d, %s", testidx, cipher_list[testidx]);
194
195     if (!TEST_true(create_ssl_ctx_pair(TLS_server_method(),
196                                        TLS_client_method(), &sctx,
197                                        &cctx, cert, privkey)))
198         return 0;
199
200     if (!TEST_true(SSL_CTX_set_cipher_list(cctx, cipher_list[testidx])))
201         goto end;
202
203     if (!TEST_ptr(ciphers = SSL_CTX_get_ciphers(cctx))
204             || !TEST_int_eq(sk_SSL_CIPHER_num(ciphers), 1)
205             || !TEST_ptr(currcipher = sk_SSL_CIPHER_value(ciphers, 0)))
206         goto end;
207
208     /*
209      * If we haven't got a TLSv1.3 cipher, then we mustn't attempt to use
210      * TLSv1.3. Version negotiation happens before cipher selection, so we will
211      * get a "no shared cipher" error.
212      */
213     if (strcmp(SSL_CIPHER_get_version(currcipher), "TLSv1.3") != 0) {
214         if (!TEST_true(SSL_CTX_set_max_proto_version(cctx, TLS1_2_VERSION)))
215             goto end;
216     }
217
218     if (!TEST_ptr(c_to_s_fbio = BIO_new(bio_f_tls_corrupt_filter())))
219         goto end;
220
221     /* BIO is freed by create_ssl_connection on error */
222     if (!TEST_true(create_ssl_objects(sctx, cctx, &server, &client, NULL,
223                                       c_to_s_fbio)))
224         goto end;
225
226     if (!TEST_true(create_ssl_connection(server, client, SSL_ERROR_NONE)))
227         goto end;
228
229     docorrupt = 1;
230
231     if (!TEST_int_ge(SSL_write(client, junk, sizeof(junk)), 0))
232         goto end;
233
234     if (!TEST_int_lt(SSL_read(server, junk, sizeof(junk)), 0))
235         goto end;
236
237     if (!TEST_int_eq(ERR_GET_REASON(ERR_peek_error()),
238                      SSL_R_DECRYPTION_FAILED_OR_BAD_RECORD_MAC))
239         goto end;
240
241     testresult = 1;
242  end:
243     SSL_free(server);
244     SSL_free(client);
245     SSL_CTX_free(sctx);
246     SSL_CTX_free(cctx);
247     return testresult;
248 }
249
250 int test_main(int argc, char *argv[])
251 {
252     int ret;
253
254     if (argc != 3) {
255         TEST_error("Usage error");
256         return 0;
257     }
258     cert = argv[1];
259     privkey = argv[2];
260
261     ADD_ALL_TESTS(test_ssl_corrupt, setup_cipher_list());
262
263     ret = run_tests(argv[0]);
264     bio_f_tls_corrupt_filter_free();
265     OPENSSL_free(cipher_list);
266
267     return ret;
268 }