tests: Shut the shell up unless verbose
[openssl.git] / test / recipes / 80-test_ssl_new.t
1 #! /usr/bin/env perl
2 # Copyright 2015-2016 The OpenSSL Project Authors. All Rights Reserved.
3 #
4 # Licensed under the OpenSSL license (the "License").  You may not use
5 # this file except in compliance with the License.  You can obtain a copy
6 # in the file LICENSE in the source distribution or at
7 # https://www.openssl.org/source/license.html
8
9
10 use strict;
11 use warnings;
12
13 use File::Basename;
14 use File::Compare qw/compare_text/;
15 use if $^O ne "VMS", 'File::Glob' => qw/glob/;
16
17 use OpenSSL::Test qw/:DEFAULT srctop_dir srctop_file/;
18 use OpenSSL::Test::Utils qw/disabled alldisabled available_protocols/;
19
20 setup("test_ssl_new");
21
22 $ENV{TEST_CERTS_DIR} = srctop_dir("test", "certs");
23
24 my @conf_srcs =  glob(srctop_file("test", "ssl-tests", "*.conf.in"));
25 map { s/;.*// } @conf_srcs if $^O eq "VMS";
26 my @conf_files = map { basename($_) } @conf_srcs;
27 map { s/\.in// } @conf_files;
28
29 # 02-protocol-version.conf test results depend on the configuration of enabled
30 # protocols. We only verify generated sources in the default configuration.
31 my $is_default = (disabled("ssl3") && !disabled("tls1") &&
32                   !disabled("tls1_1") && !disabled("tls1_2"));
33
34 my %conf_dependent_tests = ("02-protocol-version.conf" => 1);
35
36 foreach my $conf (@conf_files) {
37     subtest "Test configuration $conf" => sub {
38         test_conf($conf,
39                   $conf_dependent_tests{$conf} || $^O eq "VMS" ?  0 : 1);
40     }
41 }
42
43 # We hard-code the number of tests to double-check that the globbing above
44 # finds all files as expected.
45 plan tests => 4;  # = scalar @conf_srcs
46
47 sub test_conf {
48     plan tests => 3;
49
50     my ($conf, $check_source) = @_;
51
52     my $conf_file = srctop_file("test", "ssl-tests", $conf);
53     my $tmp_file = "${conf}.$$.tmp";
54     my $run_test = 1;
55
56   SKIP: {
57       # "Test" 1. Generate the source.
58       my $input_file = $conf_file . ".in";
59
60       skip 'failure', 2 unless
61         ok(run(perltest(["generate_ssl_tests.pl", $input_file],
62                         interpreter_args => [ "-I", srctop_dir("test", "testlib")],
63                         stdout => $tmp_file)),
64            "Getting output from generate_ssl_tests.pl.");
65
66     SKIP: {
67         # Test 2. Compare against existing output in test/ssl_tests.conf.
68         skip "Skipping generated source test for $conf", 1
69           if !$check_source;
70
71         $run_test = is(cmp_text($tmp_file, $conf_file), 0,
72                        "Comparing generated sources.");
73       }
74
75       # Test 3. Run the test.
76       my $no_tls = alldisabled(available_protocols("tls"));
77       skip "No TLS tests available; skipping tests", 1 if $no_tls;
78       skip "Stale sources; skipping tests", 1 if !$run_test;
79
80       ok(run(test(["ssl_test", $tmp_file])), "running ssl_test $conf");
81     }
82
83     unlink glob $tmp_file;
84 }
85
86 sub cmp_text {
87     return compare_text(@_, sub {
88         $_[0] =~ s/\R//g;
89         $_[1] =~ s/\R//g;
90         return $_[0] ne $_[1];
91     });
92 }