Fix the tests to work with EBCDIC
[openssl.git] / test / clienthellotest.c
1 /* Written by Matt Caswell for the OpenSSL Project */
2 /* ====================================================================
3  * Copyright (c) 1998-2015 The OpenSSL Project.  All rights reserved.
4  *
5  * Redistribution and use in source and binary forms, with or without
6  * modification, are permitted provided that the following conditions
7  * are met:
8  *
9  * 1. Redistributions of source code must retain the above copyright
10  *    notice, this list of conditions and the following disclaimer.
11  *
12  * 2. Redistributions in binary form must reproduce the above copyright
13  *    notice, this list of conditions and the following disclaimer in
14  *    the documentation and/or other materials provided with the
15  *    distribution.
16  *
17  * 3. All advertising materials mentioning features or use of this
18  *    software must display the following acknowledgment:
19  *    "This product includes software developed by the OpenSSL Project
20  *    for use in the OpenSSL Toolkit. (http://www.openssl.org/)"
21  *
22  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
23  *    endorse or promote products derived from this software without
24  *    prior written permission. For written permission, please contact
25  *    openssl-core@openssl.org.
26  *
27  * 5. Products derived from this software may not be called "OpenSSL"
28  *    nor may "OpenSSL" appear in their names without prior written
29  *    permission of the OpenSSL Project.
30  *
31  * 6. Redistributions of any form whatsoever must retain the following
32  *    acknowledgment:
33  *    "This product includes software developed by the OpenSSL Project
34  *    for use in the OpenSSL Toolkit (http://www.openssl.org/)"
35  *
36  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
37  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
38  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
39  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
40  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
41  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
42  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
43  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
44  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
45  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
46  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
47  * OF THE POSSIBILITY OF SUCH DAMAGE.
48  * ====================================================================
49  *
50  * This product includes cryptographic software written by Eric Young
51  * (eay@cryptsoft.com).  This product includes software written by Tim
52  * Hudson (tjh@cryptsoft.com).
53  *
54  */
55
56 #include <string.h>
57
58 #include <openssl/opensslconf.h>
59 #include <openssl/bio.h>
60 #include <openssl/crypto.h>
61 #include <openssl/evp.h>
62 #include <openssl/ssl.h>
63 #include <openssl/err.h>
64
65
66 #define CLIENT_VERSION_LEN      2
67 #define SESSION_ID_LEN_LEN      1
68 #define CIPHERS_LEN_LEN         2
69 #define COMPRESSION_LEN_LEN     1
70 #define EXTENSIONS_LEN_LEN      2
71 #define EXTENSION_TYPE_LEN      2
72 #define EXTENSION_SIZE_LEN      2
73
74
75 #define TOTAL_NUM_TESTS                         1
76
77 /*
78  * Test that explicitly setting ticket data results in it appearing in the
79  * ClientHello for a negotiated SSL/TLS version
80  */
81 #define TEST_SET_SESSION_TICK_DATA_VER_NEG      0
82
83 int main(int argc, char *argv[])
84 {
85     SSL_CTX *ctx;
86     SSL *con;
87     BIO *rbio;
88     BIO *wbio;
89     BIO *err;
90     long len;
91     unsigned char *data;
92     unsigned char *dataend;
93     char *dummytick = "Hello World!";
94     unsigned int tmplen;
95     unsigned int type;
96     unsigned int size;
97     int testresult = 0;
98     int currtest = 0;
99
100     err = BIO_new_fp(stderr, BIO_NOCLOSE | BIO_FP_TEXT);
101
102     CRYPTO_set_mem_debug(1);
103     CRYPTO_mem_ctrl(CRYPTO_MEM_CHECK_ON);
104
105     /*
106      * For each test set up an SSL_CTX and SSL and see what ClientHello gets
107      * produced when we try to connect
108      */
109     for (; currtest < TOTAL_NUM_TESTS; currtest++) {
110         testresult = 0;
111         ctx = SSL_CTX_new(TLS_method());
112         con = SSL_new(ctx);
113
114         rbio = BIO_new(BIO_s_mem());
115         wbio = BIO_new(BIO_s_mem());
116         SSL_set_bio(con, rbio, wbio);
117         SSL_set_connect_state(con);
118
119         if (currtest == TEST_SET_SESSION_TICK_DATA_VER_NEG) {
120             if (!SSL_set_session_ticket_ext(con, dummytick, strlen(dummytick)))
121                 goto end;
122         }
123
124         if (SSL_connect(con) > 0) {
125             /* This shouldn't succeed because we don't have a server! */
126             goto end;
127         }
128
129         len = BIO_get_mem_data(wbio, (char **)&data);
130         dataend = data + len;
131
132         /* Skip the record header */
133         data += SSL3_RT_HEADER_LENGTH;
134         /* Skip the handshake message header */
135         data += SSL3_HM_HEADER_LENGTH;
136         /* Skip client version and random */
137         data += CLIENT_VERSION_LEN + SSL3_RANDOM_SIZE;
138         if (data + SESSION_ID_LEN_LEN > dataend)
139             goto end;
140         /* Skip session id */
141         tmplen = *data;
142         data += SESSION_ID_LEN_LEN + tmplen;
143         if (data + CIPHERS_LEN_LEN > dataend)
144             goto end;
145         /* Skip ciphers */
146         tmplen = ((*data) << 8) | *(data + 1);
147         data += CIPHERS_LEN_LEN + tmplen;
148         if (data + COMPRESSION_LEN_LEN > dataend)
149             goto end;
150         /* Skip compression */
151         tmplen = *data;
152         data += COMPRESSION_LEN_LEN + tmplen;
153         if (data + EXTENSIONS_LEN_LEN > dataend)
154             goto end;
155         /* Extensions len */
156         tmplen = ((*data) << 8) | *(data + 1);
157         data += EXTENSIONS_LEN_LEN;
158         if (data + tmplen > dataend)
159             goto end;
160
161         /* Loop through all extensions */
162         while (tmplen > EXTENSION_TYPE_LEN + EXTENSION_SIZE_LEN) {
163             type = ((*data) << 8) | *(data + 1);
164             data += EXTENSION_TYPE_LEN;
165             size = ((*data) << 8) | *(data + 1);
166             data += EXTENSION_SIZE_LEN;
167             if (data + size > dataend)
168                 goto end;
169
170             if (type == TLSEXT_TYPE_session_ticket) {
171                 if (currtest == TEST_SET_SESSION_TICK_DATA_VER_NEG) {
172                     if (size == strlen(dummytick)
173                             && memcmp(data, dummytick, size) == 0) {
174                         /* Ticket data is as we expected */
175                         testresult = 1;
176                     } else {
177                         printf("Received session ticket is not as expected\n");
178                     }
179                     break;
180                 }
181             }
182
183             tmplen -= EXTENSION_TYPE_LEN + EXTENSION_SIZE_LEN + size;
184             data += size;
185         }
186
187  end:
188         SSL_free(con);
189         SSL_CTX_free(ctx);
190         if (!testresult) {
191             printf("ClientHello test: FAILED (Test %d)\n", currtest);
192             break;
193         }
194     }
195
196 #ifndef OPENSSL_NO_CRYPTO_MDEBUG
197     if (CRYPTO_mem_leaks(err) <= 0)
198         testresult = 0;
199 #endif
200     BIO_free(err);
201
202     return testresult?0:1;
203 }