Updates following review of SSL_stateless() code
[openssl.git] / test / dtlstest.c
1 /*
2  * Copyright 2016-2017 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the OpenSSL license (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #include <openssl/bio.h>
11 #include <openssl/crypto.h>
12 #include <openssl/ssl.h>
13 #include <openssl/err.h>
14
15 #include "ssltestlib.h"
16 #include "testutil.h"
17
18 static char *cert = NULL;
19 static char *privkey = NULL;
20 static unsigned int timer_cb_count;
21
22 #define NUM_TESTS   2
23
24
25 #define DUMMY_CERT_STATUS_LEN  12
26
27 static unsigned char certstatus[] = {
28     SSL3_RT_HANDSHAKE, /* Content type */
29     0xfe, 0xfd, /* Record version */
30     0, 1, /* Epoch */
31     0, 0, 0, 0, 0, 0x0f, /* Record sequence number */
32     0, DTLS1_HM_HEADER_LENGTH + DUMMY_CERT_STATUS_LEN - 2,
33     SSL3_MT_CERTIFICATE_STATUS, /* Cert Status handshake message type */
34     0, 0, DUMMY_CERT_STATUS_LEN, /* Message len */
35     0, 5, /* Message sequence */
36     0, 0, 0, /* Fragment offset */
37     0, 0, DUMMY_CERT_STATUS_LEN - 2, /* Fragment len */
38     0x80, 0x80, 0x80, 0x80, 0x80,
39     0x80, 0x80, 0x80, 0x80, 0x80 /* Dummy data */
40 };
41
42 #define RECORD_SEQUENCE 10
43
44 static unsigned int timer_cb(SSL *s, unsigned int timer_us)
45 {
46     ++timer_cb_count;
47
48     if (timer_us == 0)
49         return 1000000;
50     else
51         return 2 * timer_us;
52 }
53
54 static int test_dtls_unprocessed(int testidx)
55 {
56     SSL_CTX *sctx = NULL, *cctx = NULL;
57     SSL *serverssl1 = NULL, *clientssl1 = NULL;
58     BIO *c_to_s_fbio, *c_to_s_mempacket;
59     int testresult = 0;
60
61     timer_cb_count = 0;
62
63     if (!TEST_true(create_ssl_ctx_pair(DTLS_server_method(),
64                                        DTLS_client_method(), &sctx,
65                                        &cctx, cert, privkey)))
66         return 0;
67
68     if (!TEST_true(SSL_CTX_set_cipher_list(cctx, "AES128-SHA")))
69         goto end;
70
71     c_to_s_fbio = BIO_new(bio_f_tls_dump_filter());
72     if (!TEST_ptr(c_to_s_fbio))
73         goto end;
74
75     /* BIO is freed by create_ssl_connection on error */
76     if (!TEST_true(create_ssl_objects(sctx, cctx, &serverssl1, &clientssl1,
77                                       NULL, c_to_s_fbio)))
78         goto end;
79
80     DTLS_set_timer_cb(clientssl1, timer_cb);
81
82     if (testidx == 1)
83         certstatus[RECORD_SEQUENCE] = 0xff;
84
85     /*
86      * Inject a dummy record from the next epoch. In test 0, this should never
87      * get used because the message sequence number is too big. In test 1 we set
88      * the record sequence number to be way off in the future. This should not
89      * have an impact on the record replay protection because the record should
90      * be dropped before it is marked as arrived
91      */
92     c_to_s_mempacket = SSL_get_wbio(clientssl1);
93     c_to_s_mempacket = BIO_next(c_to_s_mempacket);
94     mempacket_test_inject(c_to_s_mempacket, (char *)certstatus,
95                           sizeof(certstatus), 1, INJECT_PACKET_IGNORE_REC_SEQ);
96
97     if (!TEST_true(create_ssl_connection(serverssl1, clientssl1,
98                                          SSL_ERROR_NONE)))
99         goto end;
100
101     if (timer_cb_count == 0) {
102         printf("timer_callback was not called.\n");
103         goto end;
104     }
105
106     testresult = 1;
107  end:
108     SSL_free(serverssl1);
109     SSL_free(clientssl1);
110     SSL_CTX_free(sctx);
111     SSL_CTX_free(cctx);
112
113     return testresult;
114 }
115
116 int setup_tests(void)
117 {
118     if (!TEST_ptr(cert = test_get_argument(0))
119             || !TEST_ptr(privkey = test_get_argument(1)))
120         return 0;
121
122     ADD_ALL_TESTS(test_dtls_unprocessed, NUM_TESTS);
123     return 1;
124 }
125
126 void cleanup_tests(void)
127 {
128     bio_f_tls_dump_filter_free();
129     bio_s_mempacket_test_free();
130 }