Add tests for deprecated sigalgs with TLS 1.3 ClientHellos
[openssl.git] / test / recipes / 70-test_sslsigalgs.t
1 #! /usr/bin/env perl
2 # Copyright 2016 The OpenSSL Project Authors. All Rights Reserved.
3 #
4 # Licensed under the OpenSSL license (the "License").  You may not use
5 # this file except in compliance with the License.  You can obtain a copy
6 # in the file LICENSE in the source distribution or at
7 # https://www.openssl.org/source/license.html
8
9 use strict;
10 use OpenSSL::Test qw/:DEFAULT cmdstr srctop_file bldtop_dir/;
11 use OpenSSL::Test::Utils;
12 use TLSProxy::Proxy;
13
14 my $test_name = "test_sslsigalgs";
15 setup($test_name);
16
17 plan skip_all => "TLSProxy isn't usable on $^O"
18     if $^O =~ /^(VMS|MSWin32)$/;
19
20 plan skip_all => "$test_name needs the dynamic engine feature enabled"
21     if disabled("engine") || disabled("dynamic-engine");
22
23 plan skip_all => "$test_name needs the sock feature enabled"
24     if disabled("sock");
25
26 plan skip_all => "$test_name needs TLS1.2 or TLS1.3 enabled"
27     if disabled("tls1_2") && disabled("tls1_3");
28
29 $ENV{OPENSSL_ia32cap} = '~0x200000200000000';
30 my $proxy = TLSProxy::Proxy->new(
31     undef,
32     cmdstr(app(["openssl"]), display => 1),
33     srctop_file("apps", "server.pem"),
34     (!$ENV{HARNESS_ACTIVE} || $ENV{HARNESS_VERBOSE})
35 );
36
37 use constant {
38     NO_SIG_ALGS_EXT => 0,
39     EMPTY_SIG_ALGS_EXT => 1,
40     NO_KNOWN_SIG_ALGS => 2,
41     NO_PSS_SIG_ALGS => 3,
42     PSS_ONLY_SIG_ALGS => 4,
43     PURE_SIGALGS => 5,
44     COMPAT_SIGALGS => 6
45 };
46
47 #Note: Throughout this test we override the default ciphersuites where TLSv1.2
48 #      is expected to ensure that a ServerKeyExchange message is sent that uses
49 #      the sigalgs
50
51 #Test 1: Default sig algs should succeed
52 $proxy->start() or plan skip_all => "Unable to start up Proxy for tests";
53 plan tests => 18;
54 ok(TLSProxy::Message->success, "Default sigalgs");
55 my $testtype;
56
57 SKIP: {
58     skip "TLSv1.3 disabled", 5 if disabled("tls1_3");
59
60     $proxy->filter(\&sigalgs_filter);
61
62     #Test 2: Sending no sig algs extension in TLSv1.3 should fail
63     $proxy->clear();
64     $testtype = NO_SIG_ALGS_EXT;
65     $proxy->start();
66     ok(TLSProxy::Message->fail, "No TLSv1.3 sigalgs");
67
68     #Test 3: Sending an empty sig algs extension in TLSv1.3 should fail
69     $proxy->clear();
70     $testtype = EMPTY_SIG_ALGS_EXT;
71     $proxy->start();
72     ok(TLSProxy::Message->fail, "Empty TLSv1.3 sigalgs");
73
74     #Test 4: Sending a list with no recognised sig algs in TLSv1.3 should fail
75     $proxy->clear();
76     $testtype = NO_KNOWN_SIG_ALGS;
77     $proxy->start();
78     ok(TLSProxy::Message->fail, "No known TLSv1.3 sigalgs");
79
80     #Test 5: Sending a sig algs list without pss for an RSA cert in TLSv1.3
81     #        should fail
82     $proxy->clear();
83     $testtype = NO_PSS_SIG_ALGS;
84     $proxy->start();
85     ok(TLSProxy::Message->fail, "No PSS TLSv1.3 sigalgs");
86
87     #Test 6: Sending only TLSv1.3 PSS sig algs in TLSv1.3 should succeed
88     #TODO(TLS1.3): Do we need to verify the cert to make sure its a PSS only
89     #cert in this case?
90     $proxy->clear();
91     $testtype = PSS_ONLY_SIG_ALGS;
92     $proxy->start();
93     ok(TLSProxy::Message->success, "PSS only sigalgs in TLSv1.3");
94 }
95
96 SKIP: {
97     skip "EC or TLSv1.3 disabled", 1
98         if disabled("tls1_3") || disabled("ec");
99     #Test 7: Sending a valid sig algs list but not including a sig type that
100     #        matches the certificate should fail in TLSv1.3.
101     $proxy->clear();
102     $proxy->clientflags("-sigalgs ECDSA+SHA256");
103     $proxy->filter(undef);
104     $proxy->start();
105     ok(TLSProxy::Message->fail, "No matching TLSv1.3 sigalgs");
106 }
107
108 SKIP: {
109     skip "EC, TLSv1.3 or TLSv1.2 disabled", 1
110         if disabled("tls1_2") || disabled("tls1_3") || disabled("ec");
111
112     #Test 8: Sending a full list of TLSv1.3 sig algs but negotiating TLSv1.2
113     #        should succeed
114     $proxy->clear();
115     $proxy->serverflags("-no_tls1_3");
116     $proxy->ciphers("ECDHE-RSA-AES128-SHA:TLS13-AES-128-GCM-SHA256");
117     $proxy->filter(undef);
118     $proxy->start();
119     ok(TLSProxy::Message->success, "TLSv1.3 client TLSv1.2 server");
120 }
121
122 SKIP: {
123     skip "EC or TLSv1.2 disabled", 8 if disabled("tls1_2") || disabled("ec");
124
125     $proxy->filter(\&sigalgs_filter);
126
127     #Test 9: Sending no sig algs extension in TLSv1.2 should succeed
128     $proxy->clear();
129     $testtype = NO_SIG_ALGS_EXT;
130     $proxy->clientflags("-no_tls1_3");
131     $proxy->ciphers("ECDHE-RSA-AES128-SHA:TLS13-AES-128-GCM-SHA256");
132     $proxy->start();
133     ok(TLSProxy::Message->success, "No TLSv1.2 sigalgs");
134
135     #Test 10: Sending an empty sig algs extension in TLSv1.2 should fail
136     $proxy->clear();
137     $testtype = EMPTY_SIG_ALGS_EXT;
138     $proxy->clientflags("-no_tls1_3");
139     $proxy->ciphers("ECDHE-RSA-AES128-SHA:TLS13-AES-128-GCM-SHA256");
140     $proxy->start();
141     ok(TLSProxy::Message->fail, "Empty TLSv1.2 sigalgs");
142
143     #Test 11: Sending a list with no recognised sig algs in TLSv1.2 should fail
144     $proxy->clear();
145     $testtype = NO_KNOWN_SIG_ALGS;
146     $proxy->clientflags("-no_tls1_3");
147     $proxy->ciphers("ECDHE-RSA-AES128-SHA:TLS13-AES-128-GCM-SHA256");
148     $proxy->start();
149     ok(TLSProxy::Message->fail, "No known TLSv1.3 sigalgs");
150
151     #Test 12: Sending a sig algs list without pss for an RSA cert in TLSv1.2
152     #         should succeed
153     $proxy->clear();
154     $testtype = NO_PSS_SIG_ALGS;
155     $proxy->clientflags("-no_tls1_3");
156     $proxy->ciphers("ECDHE-RSA-AES128-SHA:TLS13-AES-128-GCM-SHA256");
157     $proxy->start();
158     ok(TLSProxy::Message->success, "No PSS TLSv1.2 sigalgs");
159
160     #Test 13: Sending only TLSv1.3 PSS sig algs in TLSv1.2 should succeed
161     $proxy->clear();
162     $testtype = PSS_ONLY_SIG_ALGS;
163     $proxy->serverflags("-no_tls1_3");
164     $proxy->ciphers("ECDHE-RSA-AES128-SHA:TLS13-AES-128-GCM-SHA256");
165     $proxy->start();
166     ok(TLSProxy::Message->success, "PSS only sigalgs in TLSv1.2");
167
168     #Test 14: Responding with a sig alg we did not send in TLSv1.2 should fail
169     #         We send rsa_pkcs1_sha256 and respond with rsa_pss_sha256
170     #         TODO(TLS1.3): Add a similar test to the TLSv1.3 section above
171     #         when we have an API capable of configuring the TLSv1.3 sig algs
172     $proxy->clear();
173     $testtype = PSS_ONLY_SIG_ALGS;
174     $proxy->clientflags("-no_tls1_3 -sigalgs RSA+SHA256");
175     $proxy->ciphers("ECDHE-RSA-AES128-SHA:TLS13-AES-128-GCM-SHA256");
176     $proxy->start();
177     ok(TLSProxy::Message->fail, "Sigalg we did not send in TLSv1.2");
178
179     #Test 15: Sending a valid sig algs list but not including a sig type that
180     #         matches the certificate should fail in TLSv1.2
181     $proxy->clear();
182     $proxy->clientflags("-no_tls1_3 -sigalgs ECDSA+SHA256");
183     $proxy->ciphers("ECDHE-RSA-AES128-SHA:TLS13-AES-128-GCM-SHA256");
184     $proxy->filter(undef);
185     $proxy->start();
186     ok(TLSProxy::Message->fail, "No matching TLSv1.2 sigalgs");
187     $proxy->filter(\&sigalgs_filter);
188
189     #Test 16: No sig algs extension, ECDSA cert, TLSv1.2 should succeed
190     $proxy->clear();
191     $testtype = NO_SIG_ALGS_EXT;
192     $proxy->clientflags("-no_tls1_3");
193     $proxy->serverflags("-cert " . srctop_file("test", "certs",
194                                                "server-ecdsa-cert.pem") .
195                         " -key " . srctop_file("test", "certs",
196                                                "server-ecdsa-key.pem")),
197     $proxy->ciphers("ECDHE-ECDSA-AES128-SHA:TLS13-AES-128-GCM-SHA256");
198     $proxy->start();
199     ok(TLSProxy::Message->success, "No TLSv1.2 sigalgs, ECDSA");
200 }
201
202 my ($dsa_status, $sha1_status, $sha224_status);
203 SKIP: {
204     skip "TLSv1.3 disabled", 2 if disabled("tls1_3") || disabled("dsa");
205     #Test 17: signature_algorithms with 1.3-only ClientHello
206     $testtype = PURE_SIGALGS;
207     $dsa_status = $sha1_status = $sha224_status = 0;
208     $proxy->clear();
209     $proxy->clientflags("-tls1_3");
210     $proxy->filter(\&modify_sigalgs_filter);
211     $proxy->start();
212     ok($dsa_status && $sha1_status && $sha224_status,
213        "DSA/SHA2 sigalg sent for 1.3-only ClientHello");
214
215     #Test 18: signature_algorithms with backwards compatible ClientHello
216     $testtype = COMPAT_SIGALGS;
217     $dsa_status = $sha1_status = $sha224_status = 0;
218     $proxy->clear();
219     $proxy->filter(\&modify_sigalgs_filter);
220     $proxy->start();
221     ok($dsa_status && $sha1_status && $sha224_status,
222        "DSA sigalg not sent for compat ClientHello");
223 }
224
225
226
227 sub sigalgs_filter
228 {
229     my $proxy = shift;
230
231     # We're only interested in the initial ClientHello
232     if ($proxy->flight != 0) {
233         return;
234     }
235
236     foreach my $message (@{$proxy->message_list}) {
237         if ($message->mt == TLSProxy::Message::MT_CLIENT_HELLO) {
238             if ($testtype == NO_SIG_ALGS_EXT) {
239                 $message->delete_extension(TLSProxy::Message::EXT_SIG_ALGS);
240             } else {
241                 my $sigalg;
242                 if ($testtype == EMPTY_SIG_ALGS_EXT) {
243                     $sigalg = pack "C2", 0x00, 0x00;
244                 } elsif ($testtype == NO_KNOWN_SIG_ALGS) {
245                     $sigalg = pack "C4", 0x00, 0x02, 0xff, 0xff;
246                 } elsif ($testtype == NO_PSS_SIG_ALGS) {
247                     #No PSS sig algs - just send rsa_pkcs1_sha256
248                     $sigalg = pack "C4", 0x00, 0x02, 0x04, 0x01;
249                 } else {
250                     #PSS sig algs only - just send rsa_pss_sha256
251                     $sigalg = pack "C4", 0x00, 0x02, 0x08, 0x04;
252                 }
253                 $message->set_extension(TLSProxy::Message::EXT_SIG_ALGS, $sigalg);
254             }
255
256             $message->repack();
257         }
258     }
259 }
260
261 sub modify_sigalgs_filter
262 {
263     my $proxy = shift;
264
265     # We're only interested in the initial ClientHello
266     return if ($proxy->flight != 0);
267
268     foreach my $message (@{$proxy->message_list}) {
269         my $ext;
270         my @algs;
271
272         if ($message->mt == TLSProxy::Message::MT_CLIENT_HELLO) {
273             if ($testtype == PURE_SIGALGS) {
274                 my $ok = 1;
275                 $ext = $message->extension_data->{TLSProxy::Message::EXT_SIG_ALGS};
276                 @algs = unpack('S>*', $ext);
277                 # unpack will unpack the length as well
278                 shift @algs;
279                 foreach (@algs) {
280                     if ($_ == TLSProxy::Message::SIG_ALG_DSA_SHA256
281                         || $_ == TLSProxy::Message::SIG_ALG_DSA_SHA384
282                         || $_ == TLSProxy::Message::SIG_ALG_DSA_SHA512
283                         || $_ == TLSProxy::Message::OSSL_SIG_ALG_DSA_SHA224
284                         || $_ == TLSProxy::Message::SIG_ALG_RSA_PKCS1_SHA1
285                         || $_ == TLSProxy::Message::SIG_ALG_DSA_SHA1
286                         || $_ == TLSProxy::Message::SIG_ALG_ECDSA_SHA1) {
287                         $ok = 0;
288                     }
289                 }
290                 $sha1_status = $dsa_status = $sha224_status = 1 if ($ok);
291             } elsif ($testtype == COMPAT_SIGALGS) {
292                 $ext = $message->extension_data->{TLSProxy::Message::EXT_SIG_ALGS};
293                 @algs = unpack('S>*', $ext);
294                 # unpack will unpack the length as well
295                 shift @algs;
296                 foreach (@algs) {
297                     if ($_ == TLSProxy::Message::SIG_ALG_DSA_SHA256
298                         || $_ == TLSProxy::Message::SIG_ALG_DSA_SHA384
299                         || $_ == TLSProxy::Message::SIG_ALG_DSA_SHA512) {
300                         $dsa_status = 1;
301                     }
302                     if ($_ == TLSProxy::Message::SIG_ALG_RSA_PKCS1_SHA1
303                         || $_ == TLSProxy::Message::SIG_ALG_DSA_SHA1
304                         || $_ == TLSProxy::Message::SIG_ALG_ECDSA_SHA1) {
305                         $sha1_status = 1;
306                     }
307                     if ($_ == TLSProxy::Message::OSSL_SIG_ALG_RSA_PKCS1_SHA224
308                         || $_ == TLSProxy::Message::OSSL_SIG_ALG_DSA_SHA224
309                         || $_ == TLSProxy::Message::OSSL_SIG_ALG_ECDSA_SHA224) {
310                         $sha224_status = 1;
311                     }
312                 }
313             }
314         }
315     }
316 }