Resolve warnings in VC-WIN32 build, which allows to add /WX.
[openssl.git] / test / clienthellotest.c
1 /*
2  * Copyright 2015-2017 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the OpenSSL license (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #include <string.h>
11
12 #include <openssl/opensslconf.h>
13 #include <openssl/bio.h>
14 #include <openssl/crypto.h>
15 #include <openssl/evp.h>
16 #include <openssl/ssl.h>
17 #include <openssl/err.h>
18 #include <time.h>
19
20 #include "../ssl/packet_locl.h"
21
22 #include "testutil.h"
23
24 #define CLIENT_VERSION_LEN      2
25
26 #define TOTAL_NUM_TESTS                         4
27
28 /*
29  * Test that explicitly setting ticket data results in it appearing in the
30  * ClientHello for a negotiated SSL/TLS version
31  */
32 #define TEST_SET_SESSION_TICK_DATA_VER_NEG      0
33 /* Enable padding and make sure ClientHello is long enough to require it */
34 #define TEST_ADD_PADDING                        1
35 /* Enable padding and make sure ClientHello is short enough to not need it */
36 #define TEST_PADDING_NOT_NEEDED                 2
37 /*
38  * Enable padding and add a PSK to the ClientHello (this will also ensure the
39  * ClientHello is long enough to need padding)
40  */
41 #define TEST_ADD_PADDING_AND_PSK                3
42
43 #define F5_WORKAROUND_MIN_MSG_LEN   0x7f
44 #define F5_WORKAROUND_MAX_MSG_LEN   0x200
45
46 static const char *sessionfile = NULL;
47 /* Dummy ALPN protocols used to pad out the size of the ClientHello */
48 static const char alpn_prots[] =
49     "0123456789012345678901234567890123456789012345678901234567890123456789"
50     "0123456789012345678901234567890123456789012345678901234567890123456789"
51     "01234567890123456789";
52
53 static int test_client_hello(int currtest)
54 {
55     SSL_CTX *ctx;
56     SSL *con = NULL;
57     BIO *rbio;
58     BIO *wbio;
59     long len;
60     unsigned char *data;
61     PACKET pkt = {0}, pkt2 = {0}, pkt3 = {0};
62     char *dummytick = "Hello World!";
63     unsigned int type = 0;
64     int testresult = 0;
65     size_t msglen;
66     BIO *sessbio = NULL;
67     SSL_SESSION *sess = NULL;
68
69 #ifdef OPENSSL_NO_TLS1_3
70     if (currtest == TEST_ADD_PADDING_AND_PSK)
71         return 1;
72 #endif
73
74     /*
75      * For each test set up an SSL_CTX and SSL and see what ClientHello gets
76      * produced when we try to connect
77      */
78     ctx = SSL_CTX_new(TLS_method());
79     if (!TEST_ptr(ctx))
80         goto end;
81
82     switch(currtest) {
83     case TEST_SET_SESSION_TICK_DATA_VER_NEG:
84         /* Testing for session tickets <= TLS1.2; not relevant for 1.3 */
85         if (!TEST_true(SSL_CTX_set_max_proto_version(ctx, TLS1_2_VERSION)))
86             goto end;
87         break;
88
89     case TEST_ADD_PADDING_AND_PSK:
90     case TEST_ADD_PADDING:
91     case TEST_PADDING_NOT_NEEDED:
92         SSL_CTX_set_options(ctx, SSL_OP_TLSEXT_PADDING);
93         /*
94          * Add some dummy ALPN protocols so that the ClientHello is at least
95          * F5_WORKAROUND_MIN_MSG_LEN bytes long - meaning padding will be
96          * needed.
97          */
98         if (currtest == TEST_ADD_PADDING
99                 && (!TEST_false(SSL_CTX_set_alpn_protos(ctx,
100                                     (unsigned char *)alpn_prots,
101                                     sizeof(alpn_prots) - 1))))
102             goto end;
103
104         break;
105
106     default:
107         goto end;
108     }
109
110     con = SSL_new(ctx);
111     if (!TEST_ptr(con))
112         goto end;
113
114     if (currtest == TEST_ADD_PADDING_AND_PSK) {
115         sessbio = BIO_new_file(sessionfile, "r");
116         if (!TEST_ptr(sessbio)) {
117             TEST_info("Unable to open session.pem");
118             goto end;
119         }
120         sess = PEM_read_bio_SSL_SESSION(sessbio, NULL, NULL, NULL);
121         if (!TEST_ptr(sess)) {
122             TEST_info("Unable to load SSL_SESSION");
123             goto end;
124         }
125         /*
126          * We reset the creation time so that we don't discard the session as
127          * too old.
128          */
129         if (!TEST_true(SSL_SESSION_set_time(sess, (long)time(NULL)))
130                 || !TEST_true(SSL_set_session(con, sess)))
131             goto end;
132     }
133
134     rbio = BIO_new(BIO_s_mem());
135     wbio = BIO_new(BIO_s_mem());
136     if (!TEST_ptr(rbio)|| !TEST_ptr(wbio)) {
137         BIO_free(rbio);
138         BIO_free(wbio);
139         goto end;
140     }
141
142     SSL_set_bio(con, rbio, wbio);
143     SSL_set_connect_state(con);
144
145     if (currtest == TEST_SET_SESSION_TICK_DATA_VER_NEG) {
146         if (!TEST_true(SSL_set_session_ticket_ext(con, dummytick,
147                                                   strlen(dummytick))))
148             goto end;
149     }
150
151     if (!TEST_int_le(SSL_connect(con), 0)) {
152         /* This shouldn't succeed because we don't have a server! */
153         goto end;
154     }
155
156     len = BIO_get_mem_data(wbio, (char **)&data);
157     if (!TEST_true(PACKET_buf_init(&pkt, data, len))
158                /* Skip the record header */
159             || !PACKET_forward(&pkt, SSL3_RT_HEADER_LENGTH))
160         goto end;
161
162     msglen = PACKET_remaining(&pkt);
163
164     /* Skip the handshake message header */
165     if (!TEST_true(PACKET_forward(&pkt, SSL3_HM_HEADER_LENGTH))
166                /* Skip client version and random */
167             || !TEST_true(PACKET_forward(&pkt, CLIENT_VERSION_LEN
168                                                + SSL3_RANDOM_SIZE))
169                /* Skip session id */
170             || !TEST_true(PACKET_get_length_prefixed_1(&pkt, &pkt2))
171                /* Skip ciphers */
172             || !TEST_true(PACKET_get_length_prefixed_2(&pkt, &pkt2))
173                /* Skip compression */
174             || !TEST_true(PACKET_get_length_prefixed_1(&pkt, &pkt2))
175                /* Extensions len */
176             || !TEST_true(PACKET_as_length_prefixed_2(&pkt, &pkt2)))
177         goto end;
178
179     /* Loop through all extensions */
180     while (PACKET_remaining(&pkt2)) {
181
182         if (!TEST_true(PACKET_get_net_2(&pkt2, &type))
183                 || !TEST_true(PACKET_get_length_prefixed_2(&pkt2, &pkt3)))
184             goto end;
185
186         if (type == TLSEXT_TYPE_session_ticket) {
187             if (currtest == TEST_SET_SESSION_TICK_DATA_VER_NEG) {
188                 if (TEST_true(PACKET_equal(&pkt3, dummytick,
189                                            strlen(dummytick)))) {
190                     /* Ticket data is as we expected */
191                     testresult = 1;
192                 }
193                 goto end;
194             }
195         }
196         if (type == TLSEXT_TYPE_padding) {
197             if (!TEST_false(currtest == TEST_PADDING_NOT_NEEDED))
198                 goto end;
199             else if (TEST_true(currtest == TEST_ADD_PADDING
200                     || currtest == TEST_ADD_PADDING_AND_PSK))
201                 testresult = TEST_true(msglen == F5_WORKAROUND_MAX_MSG_LEN);
202         }
203     }
204
205     if (currtest == TEST_PADDING_NOT_NEEDED)
206         testresult = 1;
207
208 end:
209     SSL_free(con);
210     SSL_CTX_free(ctx);
211     SSL_SESSION_free(sess);
212     BIO_free(sessbio);
213
214     return testresult;
215 }
216
217 int setup_tests(void)
218 {
219     if (!TEST_ptr(sessionfile = test_get_argument(0)))
220         return 0;
221
222     ADD_ALL_TESTS(test_client_hello, TOTAL_NUM_TESTS);
223     return 1;
224 }