Teach ssl_test_new to have different tests for different loaded providers
[openssl.git] / test / recipes / 80-test_ssl_new.t
1 #! /usr/bin/env perl
2 # Copyright 2015-2018 The OpenSSL Project Authors. All Rights Reserved.
3 #
4 # Licensed under the Apache License 2.0 (the "License").  You may not use
5 # this file except in compliance with the License.  You can obtain a copy
6 # in the file LICENSE in the source distribution or at
7 # https://www.openssl.org/source/license.html
8
9
10 use strict;
11 use warnings;
12
13 use File::Basename;
14 use File::Compare qw/compare_text/;
15 use OpenSSL::Glob;
16 use OpenSSL::Test qw/:DEFAULT srctop_dir srctop_file/;
17 use OpenSSL::Test::Utils qw/disabled alldisabled available_protocols/;
18
19 setup("test_ssl_new");
20
21 $ENV{TEST_CERTS_DIR} = srctop_dir("test", "certs");
22 $ENV{CTLOG_FILE} = srctop_file("test", "ct", "log_list.cnf");
23
24 my @conf_srcs =  glob(srctop_file("test", "ssl-tests", "*.cnf.in"));
25 map { s/;.*// } @conf_srcs if $^O eq "VMS";
26 my @conf_files = map { basename($_, ".in") } @conf_srcs;
27 map { s/\^// } @conf_files if $^O eq "VMS";
28
29 # We hard-code the number of tests to double-check that the globbing above
30 # finds all files as expected.
31 plan tests => 30;  # = scalar @conf_srcs
32
33 # Some test results depend on the configuration of enabled protocols. We only
34 # verify generated sources in the default configuration.
35 my $is_default_tls = (disabled("ssl3") && !disabled("tls1") &&
36                       !disabled("tls1_1") && !disabled("tls1_2") &&
37                       !disabled("tls1_3"));
38
39 my $is_default_dtls = (!disabled("dtls1") && !disabled("dtls1_2"));
40
41 my @all_pre_tls1_3 = ("ssl3", "tls1", "tls1_1", "tls1_2");
42 my $no_tls = alldisabled(available_protocols("tls"));
43 my $no_tls_below1_3 = $no_tls || (disabled("tls1_2") && !disabled("tls1_3"));
44 my $no_pre_tls1_3 = alldisabled(@all_pre_tls1_3);
45 my $no_dtls = alldisabled(available_protocols("dtls"));
46 my $no_npn = disabled("nextprotoneg");
47 my $no_ct = disabled("ct");
48 my $no_ec = disabled("ec");
49 my $no_dh = disabled("dh");
50 my $no_dsa = disabled("dsa");
51 my $no_ec2m = disabled("ec2m");
52 my $no_ocsp = disabled("ocsp");
53
54 # Add your test here if the test conf.in generates test cases and/or
55 # expectations dynamically based on the OpenSSL compile-time config.
56 my %conf_dependent_tests = (
57   "02-protocol-version.cnf" => !$is_default_tls,
58   "04-client_auth.cnf" => !$is_default_tls || !$is_default_dtls
59                            || !disabled("sctp"),
60   "05-sni.cnf" => disabled("tls1_1"),
61   "07-dtls-protocol-version.cnf" => !$is_default_dtls || !disabled("sctp"),
62   "10-resumption.cnf" => !$is_default_tls || $no_ec,
63   "11-dtls_resumption.cnf" => !$is_default_dtls || !disabled("sctp"),
64   "16-dtls-certstatus.cnf" => !$is_default_dtls || !disabled("sctp"),
65   "17-renegotiate.cnf" => disabled("tls1_2"),
66   "18-dtls-renegotiate.cnf" => disabled("dtls1_2") || !disabled("sctp"),
67   "19-mac-then-encrypt.cnf" => !$is_default_tls,
68   "20-cert-select.cnf" => !$is_default_tls || $no_dh || $no_dsa,
69   "22-compression.cnf" => !$is_default_tls,
70   "25-cipher.cnf" => disabled("poly1305") || disabled("chacha"),
71   "27-ticket-appdata.cnf" => !$is_default_tls,
72   "28-seclevel.cnf" => disabled("tls1_2") || $no_ec,
73   "30-extended-master-secret.cnf" => disabled("tls1_2"),
74 );
75
76 # Add your test here if it should be skipped for some compile-time
77 # configurations. Default is $no_tls but some tests have different skip
78 # conditions.
79 my %skip = (
80   "06-sni-ticket.cnf" => $no_tls_below1_3,
81   "07-dtls-protocol-version.cnf" => $no_dtls,
82   "08-npn.cnf" => (disabled("tls1") && disabled("tls1_1")
83                     && disabled("tls1_2")) || $no_npn,
84   "10-resumption.cnf" => disabled("tls1_1") || disabled("tls1_2"),
85   "11-dtls_resumption.cnf" => disabled("dtls1") || disabled("dtls1_2"),
86   "12-ct.cnf" => $no_tls || $no_ct || $no_ec,
87   # We could run some of these tests without TLS 1.2 if we had a per-test
88   # disable instruction but that's a bizarre configuration not worth
89   # special-casing for.
90   # TODO(TLS 1.3): We should review this once we have TLS 1.3.
91   "13-fragmentation.cnf" => disabled("tls1_2"),
92   "14-curves.cnf" => disabled("tls1_2") || $no_ec || $no_ec2m,
93   "15-certstatus.cnf" => $no_tls || $no_ocsp,
94   "16-dtls-certstatus.cnf" => $no_dtls || $no_ocsp,
95   "17-renegotiate.cnf" => $no_tls_below1_3,
96   "18-dtls-renegotiate.cnf" => $no_dtls,
97   "19-mac-then-encrypt.cnf" => $no_pre_tls1_3,
98   "20-cert-select.cnf" => disabled("tls1_2") || $no_ec,
99   "21-key-update.cnf" => disabled("tls1_3"),
100   "22-compression.cnf" => disabled("zlib") || $no_tls,
101   "23-srp.cnf" => (disabled("tls1") && disabled ("tls1_1")
102                     && disabled("tls1_2")) || disabled("srp"),
103   "24-padding.cnf" => disabled("tls1_3"),
104   "25-cipher.cnf" => disabled("ec") || disabled("tls1_2"),
105   "26-tls13_client_auth.cnf" => disabled("tls1_3"),
106   "29-dtls-sctp-label-bug.cnf" => disabled("sctp") || disabled("sock"),
107 );
108
109 foreach my $conf (@conf_files) {
110     subtest "Test configuration $conf" => sub {
111         plan tests => 6;
112         test_conf($conf,
113                   $conf_dependent_tests{$conf} || $^O eq "VMS" ?  0 : 1,
114                   defined($skip{$conf}) ? $skip{$conf} : $no_tls,
115                   "none");
116         test_conf($conf,
117                   0,
118                   defined($skip{$conf}) ? $skip{$conf} : $no_tls,
119                   "default");
120     }
121 }
122
123 sub test_conf {
124     my ($conf, $check_source, $skip, $provider) = @_;
125
126     my $conf_file = srctop_file("test", "ssl-tests", $conf);
127     my $input_file = $conf_file . ".in";
128     my $output_file = $conf . "." . $provider;
129     my $run_test = 1;
130
131   SKIP: {
132       # "Test" 1. Generate the source.
133       skip 'failure', 2 unless
134         ok(run(perltest(["generate_ssl_tests.pl", $input_file, $provider],
135                         interpreter_args => [ "-I", srctop_dir("util", "perl")],
136                         stdout => $output_file)),
137            "Getting output from generate_ssl_tests.pl.");
138
139     SKIP: {
140         # Test 2. Compare against existing output in test/ssl_tests.cnf.
141         skip "Skipping generated source test for $conf", 1
142           if !$check_source;
143
144         $run_test = is(cmp_text($output_file, $conf_file), 0,
145                        "Comparing generated sources.");
146       }
147
148       # Test 3. Run the test.
149       skip "No tests available; skipping tests", 1 if $skip;
150       skip "Stale sources; skipping tests", 1 if !$run_test;
151
152       ok(run(test(["ssl_test", $output_file, $provider])),
153          "running ssl_test $conf");
154     }
155 }
156
157 sub cmp_text {
158     return compare_text(@_, sub {
159         $_[0] =~ s/\R//g;
160         $_[1] =~ s/\R//g;
161         return $_[0] ne $_[1];
162     });
163 }