Fix a gcc-8 warning -Wcast-function-type
[openssl.git] / ssl / t1_lib.c
1 /*
2  * Copyright 1995-2018 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the OpenSSL license (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #include <stdio.h>
11 #include <stdlib.h>
12 #include <openssl/objects.h>
13 #include <openssl/evp.h>
14 #include <openssl/hmac.h>
15 #include <openssl/ocsp.h>
16 #include <openssl/conf.h>
17 #include <openssl/x509v3.h>
18 #include <openssl/dh.h>
19 #include <openssl/bn.h>
20 #include "internal/nelem.h"
21 #include "ssl_locl.h"
22 #include <openssl/ct.h>
23
24 SSL3_ENC_METHOD const TLSv1_enc_data = {
25     tls1_enc,
26     tls1_mac,
27     tls1_setup_key_block,
28     tls1_generate_master_secret,
29     tls1_change_cipher_state,
30     tls1_final_finish_mac,
31     TLS_MD_CLIENT_FINISH_CONST, TLS_MD_CLIENT_FINISH_CONST_SIZE,
32     TLS_MD_SERVER_FINISH_CONST, TLS_MD_SERVER_FINISH_CONST_SIZE,
33     tls1_alert_code,
34     tls1_export_keying_material,
35     0,
36     ssl3_set_handshake_header,
37     tls_close_construct_packet,
38     ssl3_handshake_write
39 };
40
41 SSL3_ENC_METHOD const TLSv1_1_enc_data = {
42     tls1_enc,
43     tls1_mac,
44     tls1_setup_key_block,
45     tls1_generate_master_secret,
46     tls1_change_cipher_state,
47     tls1_final_finish_mac,
48     TLS_MD_CLIENT_FINISH_CONST, TLS_MD_CLIENT_FINISH_CONST_SIZE,
49     TLS_MD_SERVER_FINISH_CONST, TLS_MD_SERVER_FINISH_CONST_SIZE,
50     tls1_alert_code,
51     tls1_export_keying_material,
52     SSL_ENC_FLAG_EXPLICIT_IV,
53     ssl3_set_handshake_header,
54     tls_close_construct_packet,
55     ssl3_handshake_write
56 };
57
58 SSL3_ENC_METHOD const TLSv1_2_enc_data = {
59     tls1_enc,
60     tls1_mac,
61     tls1_setup_key_block,
62     tls1_generate_master_secret,
63     tls1_change_cipher_state,
64     tls1_final_finish_mac,
65     TLS_MD_CLIENT_FINISH_CONST, TLS_MD_CLIENT_FINISH_CONST_SIZE,
66     TLS_MD_SERVER_FINISH_CONST, TLS_MD_SERVER_FINISH_CONST_SIZE,
67     tls1_alert_code,
68     tls1_export_keying_material,
69     SSL_ENC_FLAG_EXPLICIT_IV | SSL_ENC_FLAG_SIGALGS | SSL_ENC_FLAG_SHA256_PRF
70         | SSL_ENC_FLAG_TLS1_2_CIPHERS,
71     ssl3_set_handshake_header,
72     tls_close_construct_packet,
73     ssl3_handshake_write
74 };
75
76 SSL3_ENC_METHOD const TLSv1_3_enc_data = {
77     tls13_enc,
78     tls1_mac,
79     tls13_setup_key_block,
80     tls13_generate_master_secret,
81     tls13_change_cipher_state,
82     tls13_final_finish_mac,
83     TLS_MD_CLIENT_FINISH_CONST, TLS_MD_CLIENT_FINISH_CONST_SIZE,
84     TLS_MD_SERVER_FINISH_CONST, TLS_MD_SERVER_FINISH_CONST_SIZE,
85     tls13_alert_code,
86     tls13_export_keying_material,
87     SSL_ENC_FLAG_SIGALGS | SSL_ENC_FLAG_SHA256_PRF,
88     ssl3_set_handshake_header,
89     tls_close_construct_packet,
90     ssl3_handshake_write
91 };
92
93 long tls1_default_timeout(void)
94 {
95     /*
96      * 2 hours, the 24 hours mentioned in the TLSv1 spec is way too long for
97      * http, the cache would over fill
98      */
99     return (60 * 60 * 2);
100 }
101
102 int tls1_new(SSL *s)
103 {
104     if (!ssl3_new(s))
105         return 0;
106     if (!s->method->ssl_clear(s))
107         return 0;
108
109     return 1;
110 }
111
112 void tls1_free(SSL *s)
113 {
114     OPENSSL_free(s->ext.session_ticket);
115     ssl3_free(s);
116 }
117
118 int tls1_clear(SSL *s)
119 {
120     if (!ssl3_clear(s))
121         return 0;
122
123     if (s->method->version == TLS_ANY_VERSION)
124         s->version = TLS_MAX_VERSION;
125     else
126         s->version = s->method->version;
127
128     return 1;
129 }
130
131 #ifndef OPENSSL_NO_EC
132
133 /*
134  * Table of curve information.
135  * Do not delete entries or reorder this array! It is used as a lookup
136  * table: the index of each entry is one less than the TLS curve id.
137  */
138 static const TLS_GROUP_INFO nid_list[] = {
139     {NID_sect163k1, 80, TLS_CURVE_CHAR2}, /* sect163k1 (1) */
140     {NID_sect163r1, 80, TLS_CURVE_CHAR2}, /* sect163r1 (2) */
141     {NID_sect163r2, 80, TLS_CURVE_CHAR2}, /* sect163r2 (3) */
142     {NID_sect193r1, 80, TLS_CURVE_CHAR2}, /* sect193r1 (4) */
143     {NID_sect193r2, 80, TLS_CURVE_CHAR2}, /* sect193r2 (5) */
144     {NID_sect233k1, 112, TLS_CURVE_CHAR2}, /* sect233k1 (6) */
145     {NID_sect233r1, 112, TLS_CURVE_CHAR2}, /* sect233r1 (7) */
146     {NID_sect239k1, 112, TLS_CURVE_CHAR2}, /* sect239k1 (8) */
147     {NID_sect283k1, 128, TLS_CURVE_CHAR2}, /* sect283k1 (9) */
148     {NID_sect283r1, 128, TLS_CURVE_CHAR2}, /* sect283r1 (10) */
149     {NID_sect409k1, 192, TLS_CURVE_CHAR2}, /* sect409k1 (11) */
150     {NID_sect409r1, 192, TLS_CURVE_CHAR2}, /* sect409r1 (12) */
151     {NID_sect571k1, 256, TLS_CURVE_CHAR2}, /* sect571k1 (13) */
152     {NID_sect571r1, 256, TLS_CURVE_CHAR2}, /* sect571r1 (14) */
153     {NID_secp160k1, 80, TLS_CURVE_PRIME}, /* secp160k1 (15) */
154     {NID_secp160r1, 80, TLS_CURVE_PRIME}, /* secp160r1 (16) */
155     {NID_secp160r2, 80, TLS_CURVE_PRIME}, /* secp160r2 (17) */
156     {NID_secp192k1, 80, TLS_CURVE_PRIME}, /* secp192k1 (18) */
157     {NID_X9_62_prime192v1, 80, TLS_CURVE_PRIME}, /* secp192r1 (19) */
158     {NID_secp224k1, 112, TLS_CURVE_PRIME}, /* secp224k1 (20) */
159     {NID_secp224r1, 112, TLS_CURVE_PRIME}, /* secp224r1 (21) */
160     {NID_secp256k1, 128, TLS_CURVE_PRIME}, /* secp256k1 (22) */
161     {NID_X9_62_prime256v1, 128, TLS_CURVE_PRIME}, /* secp256r1 (23) */
162     {NID_secp384r1, 192, TLS_CURVE_PRIME}, /* secp384r1 (24) */
163     {NID_secp521r1, 256, TLS_CURVE_PRIME}, /* secp521r1 (25) */
164     {NID_brainpoolP256r1, 128, TLS_CURVE_PRIME}, /* brainpoolP256r1 (26) */
165     {NID_brainpoolP384r1, 192, TLS_CURVE_PRIME}, /* brainpoolP384r1 (27) */
166     {NID_brainpoolP512r1, 256, TLS_CURVE_PRIME}, /* brainpool512r1 (28) */
167     {EVP_PKEY_X25519, 128, TLS_CURVE_CUSTOM}, /* X25519 (29) */
168     {EVP_PKEY_X448, 224, TLS_CURVE_CUSTOM}, /* X448 (30) */
169 };
170
171 static const unsigned char ecformats_default[] = {
172     TLSEXT_ECPOINTFORMAT_uncompressed,
173     TLSEXT_ECPOINTFORMAT_ansiX962_compressed_prime,
174     TLSEXT_ECPOINTFORMAT_ansiX962_compressed_char2
175 };
176
177 /* The default curves */
178 static const uint16_t eccurves_default[] = {
179     29,                      /* X25519 (29) */
180     23,                      /* secp256r1 (23) */
181     30,                      /* X448 (30) */
182     25,                      /* secp521r1 (25) */
183     24,                      /* secp384r1 (24) */
184 };
185
186 static const uint16_t suiteb_curves[] = {
187     TLSEXT_curve_P_256,
188     TLSEXT_curve_P_384
189 };
190
191 const TLS_GROUP_INFO *tls1_group_id_lookup(uint16_t group_id)
192 {
193     /* ECC curves from RFC 4492 and RFC 7027 */
194     if (group_id < 1 || group_id > OSSL_NELEM(nid_list))
195         return NULL;
196     return &nid_list[group_id - 1];
197 }
198
199 static uint16_t tls1_nid2group_id(int nid)
200 {
201     size_t i;
202     for (i = 0; i < OSSL_NELEM(nid_list); i++) {
203         if (nid_list[i].nid == nid)
204             return (uint16_t)(i + 1);
205     }
206     return 0;
207 }
208
209 /*
210  * Set *pgroups to the supported groups list and *pgroupslen to
211  * the number of groups supported.
212  */
213 void tls1_get_supported_groups(SSL *s, const uint16_t **pgroups,
214                                size_t *pgroupslen)
215 {
216
217     /* For Suite B mode only include P-256, P-384 */
218     switch (tls1_suiteb(s)) {
219     case SSL_CERT_FLAG_SUITEB_128_LOS:
220         *pgroups = suiteb_curves;
221         *pgroupslen = OSSL_NELEM(suiteb_curves);
222         break;
223
224     case SSL_CERT_FLAG_SUITEB_128_LOS_ONLY:
225         *pgroups = suiteb_curves;
226         *pgroupslen = 1;
227         break;
228
229     case SSL_CERT_FLAG_SUITEB_192_LOS:
230         *pgroups = suiteb_curves + 1;
231         *pgroupslen = 1;
232         break;
233
234     default:
235         if (s->ext.supportedgroups == NULL) {
236             *pgroups = eccurves_default;
237             *pgroupslen = OSSL_NELEM(eccurves_default);
238         } else {
239             *pgroups = s->ext.supportedgroups;
240             *pgroupslen = s->ext.supportedgroups_len;
241         }
242         break;
243     }
244 }
245
246 /* See if curve is allowed by security callback */
247 int tls_curve_allowed(SSL *s, uint16_t curve, int op)
248 {
249     const TLS_GROUP_INFO *cinfo = tls1_group_id_lookup(curve);
250     unsigned char ctmp[2];
251
252     if (cinfo == NULL)
253         return 0;
254 # ifdef OPENSSL_NO_EC2M
255     if (cinfo->flags & TLS_CURVE_CHAR2)
256         return 0;
257 # endif
258     ctmp[0] = curve >> 8;
259     ctmp[1] = curve & 0xff;
260     return ssl_security(s, op, cinfo->secbits, cinfo->nid, (void *)ctmp);
261 }
262
263 /* Return 1 if "id" is in "list" */
264 static int tls1_in_list(uint16_t id, const uint16_t *list, size_t listlen)
265 {
266     size_t i;
267     for (i = 0; i < listlen; i++)
268         if (list[i] == id)
269             return 1;
270     return 0;
271 }
272
273 /*-
274  * For nmatch >= 0, return the id of the |nmatch|th shared group or 0
275  * if there is no match.
276  * For nmatch == -1, return number of matches
277  * For nmatch == -2, return the id of the group to use for
278  * a tmp key, or 0 if there is no match.
279  */
280 uint16_t tls1_shared_group(SSL *s, int nmatch)
281 {
282     const uint16_t *pref, *supp;
283     size_t num_pref, num_supp, i;
284     int k;
285
286     /* Can't do anything on client side */
287     if (s->server == 0)
288         return 0;
289     if (nmatch == -2) {
290         if (tls1_suiteb(s)) {
291             /*
292              * For Suite B ciphersuite determines curve: we already know
293              * these are acceptable due to previous checks.
294              */
295             unsigned long cid = s->s3->tmp.new_cipher->id;
296
297             if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_128_GCM_SHA256)
298                 return TLSEXT_curve_P_256;
299             if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_256_GCM_SHA384)
300                 return TLSEXT_curve_P_384;
301             /* Should never happen */
302             return 0;
303         }
304         /* If not Suite B just return first preference shared curve */
305         nmatch = 0;
306     }
307     /*
308      * If server preference set, our groups are the preference order
309      * otherwise peer decides.
310      */
311     if (s->options & SSL_OP_CIPHER_SERVER_PREFERENCE) {
312         tls1_get_supported_groups(s, &pref, &num_pref);
313         tls1_get_peer_groups(s, &supp, &num_supp);
314     } else {
315         tls1_get_peer_groups(s, &pref, &num_pref);
316         tls1_get_supported_groups(s, &supp, &num_supp);
317     }
318
319     for (k = 0, i = 0; i < num_pref; i++) {
320         uint16_t id = pref[i];
321
322         if (!tls1_in_list(id, supp, num_supp)
323             || !tls_curve_allowed(s, id, SSL_SECOP_CURVE_SHARED))
324                     continue;
325         if (nmatch == k)
326             return id;
327          k++;
328     }
329     if (nmatch == -1)
330         return k;
331     /* Out of range (nmatch > k). */
332     return 0;
333 }
334
335 int tls1_set_groups(uint16_t **pext, size_t *pextlen,
336                     int *groups, size_t ngroups)
337 {
338     uint16_t *glist;
339     size_t i;
340     /*
341      * Bitmap of groups included to detect duplicates: only works while group
342      * ids < 32
343      */
344     unsigned long dup_list = 0;
345     glist = OPENSSL_malloc(ngroups * sizeof(*glist));
346     if (glist == NULL)
347         return 0;
348     for (i = 0; i < ngroups; i++) {
349         unsigned long idmask;
350         uint16_t id;
351         /* TODO(TLS1.3): Convert for DH groups */
352         id = tls1_nid2group_id(groups[i]);
353         idmask = 1L << id;
354         if (!id || (dup_list & idmask)) {
355             OPENSSL_free(glist);
356             return 0;
357         }
358         dup_list |= idmask;
359         glist[i] = id;
360     }
361     OPENSSL_free(*pext);
362     *pext = glist;
363     *pextlen = ngroups;
364     return 1;
365 }
366
367 # define MAX_CURVELIST   28
368
369 typedef struct {
370     size_t nidcnt;
371     int nid_arr[MAX_CURVELIST];
372 } nid_cb_st;
373
374 static int nid_cb(const char *elem, int len, void *arg)
375 {
376     nid_cb_st *narg = arg;
377     size_t i;
378     int nid;
379     char etmp[20];
380     if (elem == NULL)
381         return 0;
382     if (narg->nidcnt == MAX_CURVELIST)
383         return 0;
384     if (len > (int)(sizeof(etmp) - 1))
385         return 0;
386     memcpy(etmp, elem, len);
387     etmp[len] = 0;
388     nid = EC_curve_nist2nid(etmp);
389     if (nid == NID_undef)
390         nid = OBJ_sn2nid(etmp);
391     if (nid == NID_undef)
392         nid = OBJ_ln2nid(etmp);
393     if (nid == NID_undef)
394         return 0;
395     for (i = 0; i < narg->nidcnt; i++)
396         if (narg->nid_arr[i] == nid)
397             return 0;
398     narg->nid_arr[narg->nidcnt++] = nid;
399     return 1;
400 }
401
402 /* Set groups based on a colon separate list */
403 int tls1_set_groups_list(uint16_t **pext, size_t *pextlen, const char *str)
404 {
405     nid_cb_st ncb;
406     ncb.nidcnt = 0;
407     if (!CONF_parse_list(str, ':', 1, nid_cb, &ncb))
408         return 0;
409     if (pext == NULL)
410         return 1;
411     return tls1_set_groups(pext, pextlen, ncb.nid_arr, ncb.nidcnt);
412 }
413 /* Return group id of a key */
414 static uint16_t tls1_get_group_id(EVP_PKEY *pkey)
415 {
416     EC_KEY *ec = EVP_PKEY_get0_EC_KEY(pkey);
417     const EC_GROUP *grp;
418
419     if (ec == NULL)
420         return 0;
421     grp = EC_KEY_get0_group(ec);
422     return tls1_nid2group_id(EC_GROUP_get_curve_name(grp));
423 }
424
425 /* Check a key is compatible with compression extension */
426 static int tls1_check_pkey_comp(SSL *s, EVP_PKEY *pkey)
427 {
428     const EC_KEY *ec;
429     const EC_GROUP *grp;
430     unsigned char comp_id;
431     size_t i;
432
433     /* If not an EC key nothing to check */
434     if (EVP_PKEY_id(pkey) != EVP_PKEY_EC)
435         return 1;
436     ec = EVP_PKEY_get0_EC_KEY(pkey);
437     grp = EC_KEY_get0_group(ec);
438
439     /* Get required compression id */
440     if (EC_KEY_get_conv_form(ec) == POINT_CONVERSION_UNCOMPRESSED) {
441             comp_id = TLSEXT_ECPOINTFORMAT_uncompressed;
442     } else if (SSL_IS_TLS13(s)) {
443             /* Compression not allowed in TLS 1.3 */
444             return 0;
445     } else {
446         int field_type = EC_METHOD_get_field_type(EC_GROUP_method_of(grp));
447
448         if (field_type == NID_X9_62_prime_field)
449             comp_id = TLSEXT_ECPOINTFORMAT_ansiX962_compressed_prime;
450         else if (field_type == NID_X9_62_characteristic_two_field)
451             comp_id = TLSEXT_ECPOINTFORMAT_ansiX962_compressed_char2;
452         else
453             return 0;
454     }
455     /*
456      * If point formats extension present check it, otherwise everything is
457      * supported (see RFC4492).
458      */
459     if (s->session->ext.ecpointformats == NULL)
460         return 1;
461
462     for (i = 0; i < s->session->ext.ecpointformats_len; i++) {
463         if (s->session->ext.ecpointformats[i] == comp_id)
464             return 1;
465     }
466     return 0;
467 }
468
469 /* Check a group id matches preferences */
470 int tls1_check_group_id(SSL *s, uint16_t group_id, int check_own_groups)
471     {
472     const uint16_t *groups;
473     size_t groups_len;
474
475     if (group_id == 0)
476         return 0;
477
478     /* Check for Suite B compliance */
479     if (tls1_suiteb(s) && s->s3->tmp.new_cipher != NULL) {
480         unsigned long cid = s->s3->tmp.new_cipher->id;
481
482         if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_128_GCM_SHA256) {
483             if (group_id != TLSEXT_curve_P_256)
484                 return 0;
485         } else if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_256_GCM_SHA384) {
486             if (group_id != TLSEXT_curve_P_384)
487                 return 0;
488         } else {
489             /* Should never happen */
490             return 0;
491         }
492     }
493
494     if (check_own_groups) {
495         /* Check group is one of our preferences */
496         tls1_get_supported_groups(s, &groups, &groups_len);
497         if (!tls1_in_list(group_id, groups, groups_len))
498             return 0;
499     }
500
501     if (!tls_curve_allowed(s, group_id, SSL_SECOP_CURVE_CHECK))
502         return 0;
503
504     /* For clients, nothing more to check */
505     if (!s->server)
506         return 1;
507
508     /* Check group is one of peers preferences */
509     tls1_get_peer_groups(s, &groups, &groups_len);
510
511     /*
512      * RFC 4492 does not require the supported elliptic curves extension
513      * so if it is not sent we can just choose any curve.
514      * It is invalid to send an empty list in the supported groups
515      * extension, so groups_len == 0 always means no extension.
516      */
517     if (groups_len == 0)
518             return 1;
519     return tls1_in_list(group_id, groups, groups_len);
520 }
521
522 void tls1_get_formatlist(SSL *s, const unsigned char **pformats,
523                          size_t *num_formats)
524 {
525     /*
526      * If we have a custom point format list use it otherwise use default
527      */
528     if (s->ext.ecpointformats) {
529         *pformats = s->ext.ecpointformats;
530         *num_formats = s->ext.ecpointformats_len;
531     } else {
532         *pformats = ecformats_default;
533         /* For Suite B we don't support char2 fields */
534         if (tls1_suiteb(s))
535             *num_formats = sizeof(ecformats_default) - 1;
536         else
537             *num_formats = sizeof(ecformats_default);
538     }
539 }
540
541 /*
542  * Check cert parameters compatible with extensions: currently just checks EC
543  * certificates have compatible curves and compression.
544  */
545 static int tls1_check_cert_param(SSL *s, X509 *x, int check_ee_md)
546 {
547     uint16_t group_id;
548     EVP_PKEY *pkey;
549     pkey = X509_get0_pubkey(x);
550     if (pkey == NULL)
551         return 0;
552     /* If not EC nothing to do */
553     if (EVP_PKEY_id(pkey) != EVP_PKEY_EC)
554         return 1;
555     /* Check compression */
556     if (!tls1_check_pkey_comp(s, pkey))
557         return 0;
558     group_id = tls1_get_group_id(pkey);
559     /*
560      * For a server we allow the certificate to not be in our list of supported
561      * groups.
562      */
563     if (!tls1_check_group_id(s, group_id, !s->server))
564         return 0;
565     /*
566      * Special case for suite B. We *MUST* sign using SHA256+P-256 or
567      * SHA384+P-384.
568      */
569     if (check_ee_md && tls1_suiteb(s)) {
570         int check_md;
571         size_t i;
572         CERT *c = s->cert;
573
574         /* Check to see we have necessary signing algorithm */
575         if (group_id == TLSEXT_curve_P_256)
576             check_md = NID_ecdsa_with_SHA256;
577         else if (group_id == TLSEXT_curve_P_384)
578             check_md = NID_ecdsa_with_SHA384;
579         else
580             return 0;           /* Should never happen */
581         for (i = 0; i < c->shared_sigalgslen; i++) {
582             if (check_md == c->shared_sigalgs[i]->sigandhash)
583                 return 1;;
584         }
585         return 0;
586     }
587     return 1;
588 }
589
590 /*
591  * tls1_check_ec_tmp_key - Check EC temporary key compatibility
592  * @s: SSL connection
593  * @cid: Cipher ID we're considering using
594  *
595  * Checks that the kECDHE cipher suite we're considering using
596  * is compatible with the client extensions.
597  *
598  * Returns 0 when the cipher can't be used or 1 when it can.
599  */
600 int tls1_check_ec_tmp_key(SSL *s, unsigned long cid)
601 {
602     /* If not Suite B just need a shared group */
603     if (!tls1_suiteb(s))
604         return tls1_shared_group(s, 0) != 0;
605     /*
606      * If Suite B, AES128 MUST use P-256 and AES256 MUST use P-384, no other
607      * curves permitted.
608      */
609     if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_128_GCM_SHA256)
610         return tls1_check_group_id(s, TLSEXT_curve_P_256, 1);
611     if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_256_GCM_SHA384)
612         return tls1_check_group_id(s, TLSEXT_curve_P_384, 1);
613
614     return 0;
615 }
616
617 #else
618
619 static int tls1_check_cert_param(SSL *s, X509 *x, int set_ee_md)
620 {
621     return 1;
622 }
623
624 #endif                          /* OPENSSL_NO_EC */
625
626 /* Default sigalg schemes */
627 static const uint16_t tls12_sigalgs[] = {
628 #ifndef OPENSSL_NO_EC
629     TLSEXT_SIGALG_ecdsa_secp256r1_sha256,
630     TLSEXT_SIGALG_ecdsa_secp384r1_sha384,
631     TLSEXT_SIGALG_ecdsa_secp521r1_sha512,
632     TLSEXT_SIGALG_ed25519,
633     TLSEXT_SIGALG_ed448,
634 #endif
635
636     TLSEXT_SIGALG_rsa_pss_pss_sha256,
637     TLSEXT_SIGALG_rsa_pss_pss_sha384,
638     TLSEXT_SIGALG_rsa_pss_pss_sha512,
639     TLSEXT_SIGALG_rsa_pss_rsae_sha256,
640     TLSEXT_SIGALG_rsa_pss_rsae_sha384,
641     TLSEXT_SIGALG_rsa_pss_rsae_sha512,
642
643     TLSEXT_SIGALG_rsa_pkcs1_sha256,
644     TLSEXT_SIGALG_rsa_pkcs1_sha384,
645     TLSEXT_SIGALG_rsa_pkcs1_sha512,
646
647 #ifndef OPENSSL_NO_EC
648     TLSEXT_SIGALG_ecdsa_sha224,
649     TLSEXT_SIGALG_ecdsa_sha1,
650 #endif
651     TLSEXT_SIGALG_rsa_pkcs1_sha224,
652     TLSEXT_SIGALG_rsa_pkcs1_sha1,
653 #ifndef OPENSSL_NO_DSA
654     TLSEXT_SIGALG_dsa_sha224,
655     TLSEXT_SIGALG_dsa_sha1,
656
657     TLSEXT_SIGALG_dsa_sha256,
658     TLSEXT_SIGALG_dsa_sha384,
659     TLSEXT_SIGALG_dsa_sha512
660 #endif
661 };
662
663 #ifndef OPENSSL_NO_EC
664 static const uint16_t suiteb_sigalgs[] = {
665     TLSEXT_SIGALG_ecdsa_secp256r1_sha256,
666     TLSEXT_SIGALG_ecdsa_secp384r1_sha384
667 };
668 #endif
669
670 static const SIGALG_LOOKUP sigalg_lookup_tbl[] = {
671 #ifndef OPENSSL_NO_EC
672     {"ecdsa_secp256r1_sha256", TLSEXT_SIGALG_ecdsa_secp256r1_sha256,
673      NID_sha256, SSL_MD_SHA256_IDX, EVP_PKEY_EC, SSL_PKEY_ECC,
674      NID_ecdsa_with_SHA256, NID_X9_62_prime256v1},
675     {"ecdsa_secp384r1_sha384", TLSEXT_SIGALG_ecdsa_secp384r1_sha384,
676      NID_sha384, SSL_MD_SHA384_IDX, EVP_PKEY_EC, SSL_PKEY_ECC,
677      NID_ecdsa_with_SHA384, NID_secp384r1},
678     {"ecdsa_secp521r1_sha512", TLSEXT_SIGALG_ecdsa_secp521r1_sha512,
679      NID_sha512, SSL_MD_SHA512_IDX, EVP_PKEY_EC, SSL_PKEY_ECC,
680      NID_ecdsa_with_SHA512, NID_secp521r1},
681     {"ed25519", TLSEXT_SIGALG_ed25519,
682      NID_undef, -1, EVP_PKEY_ED25519, SSL_PKEY_ED25519,
683      NID_undef, NID_undef},
684     {"ed448", TLSEXT_SIGALG_ed448,
685      NID_undef, -1, EVP_PKEY_ED448, SSL_PKEY_ED448,
686      NID_undef, NID_undef},
687     {NULL, TLSEXT_SIGALG_ecdsa_sha224,
688      NID_sha224, SSL_MD_SHA224_IDX, EVP_PKEY_EC, SSL_PKEY_ECC,
689      NID_ecdsa_with_SHA224, NID_undef},
690     {NULL, TLSEXT_SIGALG_ecdsa_sha1,
691      NID_sha1, SSL_MD_SHA1_IDX, EVP_PKEY_EC, SSL_PKEY_ECC,
692      NID_ecdsa_with_SHA1, NID_undef},
693 #endif
694     {"rsa_pss_rsae_sha256", TLSEXT_SIGALG_rsa_pss_rsae_sha256,
695      NID_sha256, SSL_MD_SHA256_IDX, EVP_PKEY_RSA_PSS, SSL_PKEY_RSA,
696      NID_undef, NID_undef},
697     {"rsa_pss_rsae_sha384", TLSEXT_SIGALG_rsa_pss_rsae_sha384,
698      NID_sha384, SSL_MD_SHA384_IDX, EVP_PKEY_RSA_PSS, SSL_PKEY_RSA,
699      NID_undef, NID_undef},
700     {"rsa_pss_rsae_sha512", TLSEXT_SIGALG_rsa_pss_rsae_sha512,
701      NID_sha512, SSL_MD_SHA512_IDX, EVP_PKEY_RSA_PSS, SSL_PKEY_RSA,
702      NID_undef, NID_undef},
703     {"rsa_pss_pss_sha256", TLSEXT_SIGALG_rsa_pss_pss_sha256,
704      NID_sha256, SSL_MD_SHA256_IDX, EVP_PKEY_RSA_PSS, SSL_PKEY_RSA_PSS_SIGN,
705      NID_undef, NID_undef},
706     {"rsa_pss_pss_sha384", TLSEXT_SIGALG_rsa_pss_pss_sha384,
707      NID_sha384, SSL_MD_SHA384_IDX, EVP_PKEY_RSA_PSS, SSL_PKEY_RSA_PSS_SIGN,
708      NID_undef, NID_undef},
709     {"rsa_pss_pss_sha512", TLSEXT_SIGALG_rsa_pss_pss_sha512,
710      NID_sha512, SSL_MD_SHA512_IDX, EVP_PKEY_RSA_PSS, SSL_PKEY_RSA_PSS_SIGN,
711      NID_undef, NID_undef},
712     {"rsa_pkcs1_sha256", TLSEXT_SIGALG_rsa_pkcs1_sha256,
713      NID_sha256, SSL_MD_SHA256_IDX, EVP_PKEY_RSA, SSL_PKEY_RSA,
714      NID_sha256WithRSAEncryption, NID_undef},
715     {"rsa_pkcs1_sha384", TLSEXT_SIGALG_rsa_pkcs1_sha384,
716      NID_sha384, SSL_MD_SHA384_IDX, EVP_PKEY_RSA, SSL_PKEY_RSA,
717      NID_sha384WithRSAEncryption, NID_undef},
718     {"rsa_pkcs1_sha512", TLSEXT_SIGALG_rsa_pkcs1_sha512,
719      NID_sha512, SSL_MD_SHA512_IDX, EVP_PKEY_RSA, SSL_PKEY_RSA,
720      NID_sha512WithRSAEncryption, NID_undef},
721     {"rsa_pkcs1_sha224", TLSEXT_SIGALG_rsa_pkcs1_sha224,
722      NID_sha224, SSL_MD_SHA224_IDX, EVP_PKEY_RSA, SSL_PKEY_RSA,
723      NID_sha224WithRSAEncryption, NID_undef},
724     {"rsa_pkcs1_sha1", TLSEXT_SIGALG_rsa_pkcs1_sha1,
725      NID_sha1, SSL_MD_SHA1_IDX, EVP_PKEY_RSA, SSL_PKEY_RSA,
726      NID_sha1WithRSAEncryption, NID_undef},
727 #ifndef OPENSSL_NO_DSA
728     {NULL, TLSEXT_SIGALG_dsa_sha256,
729      NID_sha256, SSL_MD_SHA256_IDX, EVP_PKEY_DSA, SSL_PKEY_DSA_SIGN,
730      NID_dsa_with_SHA256, NID_undef},
731     {NULL, TLSEXT_SIGALG_dsa_sha384,
732      NID_sha384, SSL_MD_SHA384_IDX, EVP_PKEY_DSA, SSL_PKEY_DSA_SIGN,
733      NID_undef, NID_undef},
734     {NULL, TLSEXT_SIGALG_dsa_sha512,
735      NID_sha512, SSL_MD_SHA512_IDX, EVP_PKEY_DSA, SSL_PKEY_DSA_SIGN,
736      NID_undef, NID_undef},
737     {NULL, TLSEXT_SIGALG_dsa_sha224,
738      NID_sha224, SSL_MD_SHA224_IDX, EVP_PKEY_DSA, SSL_PKEY_DSA_SIGN,
739      NID_undef, NID_undef},
740     {NULL, TLSEXT_SIGALG_dsa_sha1,
741      NID_sha1, SSL_MD_SHA1_IDX, EVP_PKEY_DSA, SSL_PKEY_DSA_SIGN,
742      NID_dsaWithSHA1, NID_undef},
743 #endif
744 #ifndef OPENSSL_NO_GOST
745     {NULL, TLSEXT_SIGALG_gostr34102012_256_gostr34112012_256,
746      NID_id_GostR3411_2012_256, SSL_MD_GOST12_256_IDX,
747      NID_id_GostR3410_2012_256, SSL_PKEY_GOST12_256,
748      NID_undef, NID_undef},
749     {NULL, TLSEXT_SIGALG_gostr34102012_512_gostr34112012_512,
750      NID_id_GostR3411_2012_512, SSL_MD_GOST12_512_IDX,
751      NID_id_GostR3410_2012_512, SSL_PKEY_GOST12_512,
752      NID_undef, NID_undef},
753     {NULL, TLSEXT_SIGALG_gostr34102001_gostr3411,
754      NID_id_GostR3411_94, SSL_MD_GOST94_IDX,
755      NID_id_GostR3410_2001, SSL_PKEY_GOST01,
756      NID_undef, NID_undef}
757 #endif
758 };
759 /* Legacy sigalgs for TLS < 1.2 RSA TLS signatures */
760 static const SIGALG_LOOKUP legacy_rsa_sigalg = {
761     "rsa_pkcs1_md5_sha1", 0,
762      NID_md5_sha1, SSL_MD_MD5_SHA1_IDX,
763      EVP_PKEY_RSA, SSL_PKEY_RSA,
764      NID_undef, NID_undef
765 };
766
767 /*
768  * Default signature algorithm values used if signature algorithms not present.
769  * From RFC5246. Note: order must match certificate index order.
770  */
771 static const uint16_t tls_default_sigalg[] = {
772     TLSEXT_SIGALG_rsa_pkcs1_sha1, /* SSL_PKEY_RSA */
773     0, /* SSL_PKEY_RSA_PSS_SIGN */
774     TLSEXT_SIGALG_dsa_sha1, /* SSL_PKEY_DSA_SIGN */
775     TLSEXT_SIGALG_ecdsa_sha1, /* SSL_PKEY_ECC */
776     TLSEXT_SIGALG_gostr34102001_gostr3411, /* SSL_PKEY_GOST01 */
777     TLSEXT_SIGALG_gostr34102012_256_gostr34112012_256, /* SSL_PKEY_GOST12_256 */
778     TLSEXT_SIGALG_gostr34102012_512_gostr34112012_512, /* SSL_PKEY_GOST12_512 */
779     0, /* SSL_PKEY_ED25519 */
780     0, /* SSL_PKEY_ED448 */
781 };
782
783 /* Lookup TLS signature algorithm */
784 static const SIGALG_LOOKUP *tls1_lookup_sigalg(uint16_t sigalg)
785 {
786     size_t i;
787     const SIGALG_LOOKUP *s;
788
789     for (i = 0, s = sigalg_lookup_tbl; i < OSSL_NELEM(sigalg_lookup_tbl);
790          i++, s++) {
791         if (s->sigalg == sigalg)
792             return s;
793     }
794     return NULL;
795 }
796 /* Lookup hash: return 0 if invalid or not enabled */
797 int tls1_lookup_md(const SIGALG_LOOKUP *lu, const EVP_MD **pmd)
798 {
799     const EVP_MD *md;
800     if (lu == NULL)
801         return 0;
802     /* lu->hash == NID_undef means no associated digest */
803     if (lu->hash == NID_undef) {
804         md = NULL;
805     } else {
806         md = ssl_md(lu->hash_idx);
807         if (md == NULL)
808             return 0;
809     }
810     if (pmd)
811         *pmd = md;
812     return 1;
813 }
814
815 /*
816  * Check if key is large enough to generate RSA-PSS signature.
817  *
818  * The key must greater than or equal to 2 * hash length + 2.
819  * SHA512 has a hash length of 64 bytes, which is incompatible
820  * with a 128 byte (1024 bit) key.
821  */
822 #define RSA_PSS_MINIMUM_KEY_SIZE(md) (2 * EVP_MD_size(md) + 2)
823 static int rsa_pss_check_min_key_size(const RSA *rsa, const SIGALG_LOOKUP *lu)
824 {
825     const EVP_MD *md;
826
827     if (rsa == NULL)
828         return 0;
829     if (!tls1_lookup_md(lu, &md) || md == NULL)
830         return 0;
831     if (RSA_size(rsa) < RSA_PSS_MINIMUM_KEY_SIZE(md))
832         return 0;
833     return 1;
834 }
835
836 /*
837  * Return a signature algorithm for TLS < 1.2 where the signature type
838  * is fixed by the certificate type.
839  */
840 static const SIGALG_LOOKUP *tls1_get_legacy_sigalg(const SSL *s, int idx)
841 {
842     if (idx == -1) {
843         if (s->server) {
844             size_t i;
845
846             /* Work out index corresponding to ciphersuite */
847             for (i = 0; i < SSL_PKEY_NUM; i++) {
848                 const SSL_CERT_LOOKUP *clu = ssl_cert_lookup_by_idx(i);
849
850                 if (clu->amask & s->s3->tmp.new_cipher->algorithm_auth) {
851                     idx = i;
852                     break;
853                 }
854             }
855         } else {
856             idx = s->cert->key - s->cert->pkeys;
857         }
858     }
859     if (idx < 0 || idx >= (int)OSSL_NELEM(tls_default_sigalg))
860         return NULL;
861     if (SSL_USE_SIGALGS(s) || idx != SSL_PKEY_RSA) {
862         const SIGALG_LOOKUP *lu = tls1_lookup_sigalg(tls_default_sigalg[idx]);
863
864         if (!tls1_lookup_md(lu, NULL))
865             return NULL;
866         return lu;
867     }
868     return &legacy_rsa_sigalg;
869 }
870 /* Set peer sigalg based key type */
871 int tls1_set_peer_legacy_sigalg(SSL *s, const EVP_PKEY *pkey)
872 {
873     size_t idx;
874     const SIGALG_LOOKUP *lu;
875
876     if (ssl_cert_lookup_by_pkey(pkey, &idx) == NULL)
877         return 0;
878     lu = tls1_get_legacy_sigalg(s, idx);
879     if (lu == NULL)
880         return 0;
881     s->s3->tmp.peer_sigalg = lu;
882     return 1;
883 }
884
885 size_t tls12_get_psigalgs(SSL *s, int sent, const uint16_t **psigs)
886 {
887     /*
888      * If Suite B mode use Suite B sigalgs only, ignore any other
889      * preferences.
890      */
891 #ifndef OPENSSL_NO_EC
892     switch (tls1_suiteb(s)) {
893     case SSL_CERT_FLAG_SUITEB_128_LOS:
894         *psigs = suiteb_sigalgs;
895         return OSSL_NELEM(suiteb_sigalgs);
896
897     case SSL_CERT_FLAG_SUITEB_128_LOS_ONLY:
898         *psigs = suiteb_sigalgs;
899         return 1;
900
901     case SSL_CERT_FLAG_SUITEB_192_LOS:
902         *psigs = suiteb_sigalgs + 1;
903         return 1;
904     }
905 #endif
906     /*
907      *  We use client_sigalgs (if not NULL) if we're a server
908      *  and sending a certificate request or if we're a client and
909      *  determining which shared algorithm to use.
910      */
911     if ((s->server == sent) && s->cert->client_sigalgs != NULL) {
912         *psigs = s->cert->client_sigalgs;
913         return s->cert->client_sigalgslen;
914     } else if (s->cert->conf_sigalgs) {
915         *psigs = s->cert->conf_sigalgs;
916         return s->cert->conf_sigalgslen;
917     } else {
918         *psigs = tls12_sigalgs;
919         return OSSL_NELEM(tls12_sigalgs);
920     }
921 }
922
923 /*
924  * Check signature algorithm is consistent with sent supported signature
925  * algorithms and if so set relevant digest and signature scheme in
926  * s.
927  */
928 int tls12_check_peer_sigalg(SSL *s, uint16_t sig, EVP_PKEY *pkey)
929 {
930     const uint16_t *sent_sigs;
931     const EVP_MD *md = NULL;
932     char sigalgstr[2];
933     size_t sent_sigslen, i;
934     int pkeyid = EVP_PKEY_id(pkey);
935     const SIGALG_LOOKUP *lu;
936
937     /* Should never happen */
938     if (pkeyid == -1)
939         return -1;
940     if (SSL_IS_TLS13(s)) {
941         /* Disallow DSA for TLS 1.3 */
942         if (pkeyid == EVP_PKEY_DSA) {
943             SSLfatal(s, SSL_AD_ILLEGAL_PARAMETER, SSL_F_TLS12_CHECK_PEER_SIGALG,
944                      SSL_R_WRONG_SIGNATURE_TYPE);
945             return 0;
946         }
947         /* Only allow PSS for TLS 1.3 */
948         if (pkeyid == EVP_PKEY_RSA)
949             pkeyid = EVP_PKEY_RSA_PSS;
950     }
951     lu = tls1_lookup_sigalg(sig);
952     /*
953      * Check sigalgs is known. Disallow SHA1/SHA224 with TLS 1.3. Check key type
954      * is consistent with signature: RSA keys can be used for RSA-PSS
955      */
956     if (lu == NULL
957         || (SSL_IS_TLS13(s) && (lu->hash == NID_sha1 || lu->hash == NID_sha224))
958         || (pkeyid != lu->sig
959         && (lu->sig != EVP_PKEY_RSA_PSS || pkeyid != EVP_PKEY_RSA))) {
960         SSLfatal(s, SSL_AD_ILLEGAL_PARAMETER, SSL_F_TLS12_CHECK_PEER_SIGALG,
961                  SSL_R_WRONG_SIGNATURE_TYPE);
962         return 0;
963     }
964 #ifndef OPENSSL_NO_EC
965     if (pkeyid == EVP_PKEY_EC) {
966
967         /* Check point compression is permitted */
968         if (!tls1_check_pkey_comp(s, pkey)) {
969             SSLfatal(s, SSL_AD_ILLEGAL_PARAMETER,
970                      SSL_F_TLS12_CHECK_PEER_SIGALG,
971                      SSL_R_ILLEGAL_POINT_COMPRESSION);
972             return 0;
973         }
974
975         /* For TLS 1.3 or Suite B check curve matches signature algorithm */
976         if (SSL_IS_TLS13(s) || tls1_suiteb(s)) {
977             EC_KEY *ec = EVP_PKEY_get0_EC_KEY(pkey);
978             int curve = EC_GROUP_get_curve_name(EC_KEY_get0_group(ec));
979
980             if (lu->curve != NID_undef && curve != lu->curve) {
981                 SSLfatal(s, SSL_AD_ILLEGAL_PARAMETER,
982                          SSL_F_TLS12_CHECK_PEER_SIGALG, SSL_R_WRONG_CURVE);
983                 return 0;
984             }
985         }
986         if (!SSL_IS_TLS13(s)) {
987             /* Check curve matches extensions */
988             if (!tls1_check_group_id(s, tls1_get_group_id(pkey), 1)) {
989                 SSLfatal(s, SSL_AD_ILLEGAL_PARAMETER,
990                          SSL_F_TLS12_CHECK_PEER_SIGALG, SSL_R_WRONG_CURVE);
991                 return 0;
992             }
993             if (tls1_suiteb(s)) {
994                 /* Check sigalg matches a permissible Suite B value */
995                 if (sig != TLSEXT_SIGALG_ecdsa_secp256r1_sha256
996                     && sig != TLSEXT_SIGALG_ecdsa_secp384r1_sha384) {
997                     SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE,
998                              SSL_F_TLS12_CHECK_PEER_SIGALG,
999                              SSL_R_WRONG_SIGNATURE_TYPE);
1000                     return 0;
1001                 }
1002             }
1003         }
1004     } else if (tls1_suiteb(s)) {
1005         SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE, SSL_F_TLS12_CHECK_PEER_SIGALG,
1006                  SSL_R_WRONG_SIGNATURE_TYPE);
1007         return 0;
1008     }
1009 #endif
1010
1011     /* Check signature matches a type we sent */
1012     sent_sigslen = tls12_get_psigalgs(s, 1, &sent_sigs);
1013     for (i = 0; i < sent_sigslen; i++, sent_sigs++) {
1014         if (sig == *sent_sigs)
1015             break;
1016     }
1017     /* Allow fallback to SHA1 if not strict mode */
1018     if (i == sent_sigslen && (lu->hash != NID_sha1
1019         || s->cert->cert_flags & SSL_CERT_FLAGS_CHECK_TLS_STRICT)) {
1020         SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE, SSL_F_TLS12_CHECK_PEER_SIGALG,
1021                  SSL_R_WRONG_SIGNATURE_TYPE);
1022         return 0;
1023     }
1024     if (!tls1_lookup_md(lu, &md)) {
1025         SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE, SSL_F_TLS12_CHECK_PEER_SIGALG,
1026                  SSL_R_UNKNOWN_DIGEST);
1027         return 0;
1028     }
1029     if (md != NULL) {
1030         /*
1031          * Make sure security callback allows algorithm. For historical
1032          * reasons we have to pass the sigalg as a two byte char array.
1033          */
1034         sigalgstr[0] = (sig >> 8) & 0xff;
1035         sigalgstr[1] = sig & 0xff;
1036         if (!ssl_security(s, SSL_SECOP_SIGALG_CHECK,
1037                     EVP_MD_size(md) * 4, EVP_MD_type(md),
1038                     (void *)sigalgstr)) {
1039             SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE, SSL_F_TLS12_CHECK_PEER_SIGALG,
1040                      SSL_R_WRONG_SIGNATURE_TYPE);
1041             return 0;
1042         }
1043     }
1044     /* Store the sigalg the peer uses */
1045     s->s3->tmp.peer_sigalg = lu;
1046     return 1;
1047 }
1048
1049 int SSL_get_peer_signature_type_nid(const SSL *s, int *pnid)
1050 {
1051     if (s->s3->tmp.peer_sigalg == NULL)
1052         return 0;
1053     *pnid = s->s3->tmp.peer_sigalg->sig;
1054     return 1;
1055 }
1056
1057 /*
1058  * Set a mask of disabled algorithms: an algorithm is disabled if it isn't
1059  * supported, doesn't appear in supported signature algorithms, isn't supported
1060  * by the enabled protocol versions or by the security level.
1061  *
1062  * This function should only be used for checking which ciphers are supported
1063  * by the client.
1064  *
1065  * Call ssl_cipher_disabled() to check that it's enabled or not.
1066  */
1067 int ssl_set_client_disabled(SSL *s)
1068 {
1069     s->s3->tmp.mask_a = 0;
1070     s->s3->tmp.mask_k = 0;
1071     ssl_set_sig_mask(&s->s3->tmp.mask_a, s, SSL_SECOP_SIGALG_MASK);
1072     if (ssl_get_min_max_version(s, &s->s3->tmp.min_ver,
1073                                 &s->s3->tmp.max_ver) != 0)
1074         return 0;
1075 #ifndef OPENSSL_NO_PSK
1076     /* with PSK there must be client callback set */
1077     if (!s->psk_client_callback) {
1078         s->s3->tmp.mask_a |= SSL_aPSK;
1079         s->s3->tmp.mask_k |= SSL_PSK;
1080     }
1081 #endif                          /* OPENSSL_NO_PSK */
1082 #ifndef OPENSSL_NO_SRP
1083     if (!(s->srp_ctx.srp_Mask & SSL_kSRP)) {
1084         s->s3->tmp.mask_a |= SSL_aSRP;
1085         s->s3->tmp.mask_k |= SSL_kSRP;
1086     }
1087 #endif
1088     return 1;
1089 }
1090
1091 /*
1092  * ssl_cipher_disabled - check that a cipher is disabled or not
1093  * @s: SSL connection that you want to use the cipher on
1094  * @c: cipher to check
1095  * @op: Security check that you want to do
1096  * @ecdhe: If set to 1 then TLSv1 ECDHE ciphers are also allowed in SSLv3
1097  *
1098  * Returns 1 when it's disabled, 0 when enabled.
1099  */
1100 int ssl_cipher_disabled(SSL *s, const SSL_CIPHER *c, int op, int ecdhe)
1101 {
1102     if (c->algorithm_mkey & s->s3->tmp.mask_k
1103         || c->algorithm_auth & s->s3->tmp.mask_a)
1104         return 1;
1105     if (s->s3->tmp.max_ver == 0)
1106         return 1;
1107     if (!SSL_IS_DTLS(s)) {
1108         int min_tls = c->min_tls;
1109
1110         /*
1111          * For historical reasons we will allow ECHDE to be selected by a server
1112          * in SSLv3 if we are a client
1113          */
1114         if (min_tls == TLS1_VERSION && ecdhe
1115                 && (c->algorithm_mkey & (SSL_kECDHE | SSL_kECDHEPSK)) != 0)
1116             min_tls = SSL3_VERSION;
1117
1118         if ((min_tls > s->s3->tmp.max_ver) || (c->max_tls < s->s3->tmp.min_ver))
1119             return 1;
1120     }
1121     if (SSL_IS_DTLS(s) && (DTLS_VERSION_GT(c->min_dtls, s->s3->tmp.max_ver)
1122                            || DTLS_VERSION_LT(c->max_dtls, s->s3->tmp.min_ver)))
1123         return 1;
1124
1125     return !ssl_security(s, op, c->strength_bits, 0, (void *)c);
1126 }
1127
1128 int tls_use_ticket(SSL *s)
1129 {
1130     if ((s->options & SSL_OP_NO_TICKET))
1131         return 0;
1132     return ssl_security(s, SSL_SECOP_TICKET, 0, 0, NULL);
1133 }
1134
1135 int tls1_set_server_sigalgs(SSL *s)
1136 {
1137     size_t i;
1138
1139     /* Clear any shared signature algorithms */
1140     OPENSSL_free(s->cert->shared_sigalgs);
1141     s->cert->shared_sigalgs = NULL;
1142     s->cert->shared_sigalgslen = 0;
1143     /* Clear certificate validity flags */
1144     for (i = 0; i < SSL_PKEY_NUM; i++)
1145         s->s3->tmp.valid_flags[i] = 0;
1146     /*
1147      * If peer sent no signature algorithms check to see if we support
1148      * the default algorithm for each certificate type
1149      */
1150     if (s->s3->tmp.peer_cert_sigalgs == NULL
1151             && s->s3->tmp.peer_sigalgs == NULL) {
1152         const uint16_t *sent_sigs;
1153         size_t sent_sigslen = tls12_get_psigalgs(s, 1, &sent_sigs);
1154
1155         for (i = 0; i < SSL_PKEY_NUM; i++) {
1156             const SIGALG_LOOKUP *lu = tls1_get_legacy_sigalg(s, i);
1157             size_t j;
1158
1159             if (lu == NULL)
1160                 continue;
1161             /* Check default matches a type we sent */
1162             for (j = 0; j < sent_sigslen; j++) {
1163                 if (lu->sigalg == sent_sigs[j]) {
1164                         s->s3->tmp.valid_flags[i] = CERT_PKEY_SIGN;
1165                         break;
1166                 }
1167             }
1168         }
1169         return 1;
1170     }
1171
1172     if (!tls1_process_sigalgs(s)) {
1173         SSLfatal(s, SSL_AD_INTERNAL_ERROR,
1174                  SSL_F_TLS1_SET_SERVER_SIGALGS, ERR_R_INTERNAL_ERROR);
1175         return 0;
1176     }
1177     if (s->cert->shared_sigalgs != NULL)
1178         return 1;
1179
1180     /* Fatal error if no shared signature algorithms */
1181     SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE, SSL_F_TLS1_SET_SERVER_SIGALGS,
1182              SSL_R_NO_SHARED_SIGNATURE_ALGORITHMS);
1183     return 0;
1184 }
1185
1186 /*-
1187  * Gets the ticket information supplied by the client if any.
1188  *
1189  *   hello: The parsed ClientHello data
1190  *   ret: (output) on return, if a ticket was decrypted, then this is set to
1191  *       point to the resulting session.
1192  *
1193  * If s->tls_session_secret_cb is set then we are expecting a pre-shared key
1194  * ciphersuite, in which case we have no use for session tickets and one will
1195  * never be decrypted, nor will s->ext.ticket_expected be set to 1.
1196  *
1197  * Returns:
1198  *   -1: fatal error, either from parsing or decrypting the ticket.
1199  *    0: no ticket was found (or was ignored, based on settings).
1200  *    1: a zero length extension was found, indicating that the client supports
1201  *       session tickets but doesn't currently have one to offer.
1202  *    2: either s->tls_session_secret_cb was set, or a ticket was offered but
1203  *       couldn't be decrypted because of a non-fatal error.
1204  *    3: a ticket was successfully decrypted and *ret was set.
1205  *
1206  * Side effects:
1207  *   Sets s->ext.ticket_expected to 1 if the server will have to issue
1208  *   a new session ticket to the client because the client indicated support
1209  *   (and s->tls_session_secret_cb is NULL) but the client either doesn't have
1210  *   a session ticket or we couldn't use the one it gave us, or if
1211  *   s->ctx->ext.ticket_key_cb asked to renew the client's ticket.
1212  *   Otherwise, s->ext.ticket_expected is set to 0.
1213  */
1214 SSL_TICKET_RETURN tls_get_ticket_from_client(SSL *s, CLIENTHELLO_MSG *hello,
1215                                              SSL_SESSION **ret)
1216 {
1217     int retv;
1218     size_t size;
1219     RAW_EXTENSION *ticketext;
1220
1221     *ret = NULL;
1222     s->ext.ticket_expected = 0;
1223
1224     /*
1225      * If tickets disabled or not supported by the protocol version
1226      * (e.g. TLSv1.3) behave as if no ticket present to permit stateful
1227      * resumption.
1228      */
1229     if (s->version <= SSL3_VERSION || !tls_use_ticket(s))
1230         return SSL_TICKET_NONE;
1231
1232     ticketext = &hello->pre_proc_exts[TLSEXT_IDX_session_ticket];
1233     if (!ticketext->present)
1234         return SSL_TICKET_NONE;
1235
1236     size = PACKET_remaining(&ticketext->data);
1237     if (size == 0) {
1238         /*
1239          * The client will accept a ticket but doesn't currently have
1240          * one.
1241          */
1242         s->ext.ticket_expected = 1;
1243         return SSL_TICKET_EMPTY;
1244     }
1245     if (s->ext.session_secret_cb) {
1246         /*
1247          * Indicate that the ticket couldn't be decrypted rather than
1248          * generating the session from ticket now, trigger
1249          * abbreviated handshake based on external mechanism to
1250          * calculate the master secret later.
1251          */
1252         return SSL_TICKET_NO_DECRYPT;
1253     }
1254
1255     retv = tls_decrypt_ticket(s, PACKET_data(&ticketext->data), size,
1256                               hello->session_id, hello->session_id_len, ret);
1257
1258     /*
1259      * If set, the decrypt_ticket_cb() is always called regardless of the
1260      * return from tls_decrypt_ticket(). The callback is responsible for
1261      * checking |retv| before it performs any action
1262      */
1263     if (s->session_ctx->decrypt_ticket_cb != NULL) {
1264         size_t keyname_len = size;
1265
1266         if (keyname_len > TLSEXT_KEYNAME_LENGTH)
1267             keyname_len = TLSEXT_KEYNAME_LENGTH;
1268         retv = s->session_ctx->decrypt_ticket_cb(s, *ret,
1269                                                  PACKET_data(&ticketext->data),
1270                                                  keyname_len,
1271                                                  retv, s->session_ctx->ticket_cb_data);
1272     }
1273
1274     switch (retv) {
1275     case SSL_TICKET_NO_DECRYPT:
1276         s->ext.ticket_expected = 1;
1277         return SSL_TICKET_NO_DECRYPT;
1278
1279     case SSL_TICKET_SUCCESS:
1280         return SSL_TICKET_SUCCESS;
1281
1282     case SSL_TICKET_SUCCESS_RENEW:
1283         s->ext.ticket_expected = 1;
1284         return SSL_TICKET_SUCCESS;
1285
1286     case SSL_TICKET_EMPTY:
1287         s->ext.ticket_expected = 1;
1288         return SSL_TICKET_EMPTY;
1289
1290     case SSL_TICKET_NONE:
1291         return SSL_TICKET_NONE;
1292
1293     default:
1294         return SSL_TICKET_FATAL_ERR_OTHER;
1295     }
1296 }
1297
1298 /*-
1299  * tls_decrypt_ticket attempts to decrypt a session ticket.
1300  *
1301  *   etick: points to the body of the session ticket extension.
1302  *   eticklen: the length of the session tickets extension.
1303  *   sess_id: points at the session ID.
1304  *   sesslen: the length of the session ID.
1305  *   psess: (output) on return, if a ticket was decrypted, then this is set to
1306  *       point to the resulting session.
1307  */
1308 SSL_TICKET_RETURN tls_decrypt_ticket(SSL *s, const unsigned char *etick,
1309                                      size_t eticklen, const unsigned char *sess_id,
1310                                      size_t sesslen, SSL_SESSION **psess)
1311 {
1312     SSL_SESSION *sess;
1313     unsigned char *sdec;
1314     const unsigned char *p;
1315     int slen, renew_ticket = 0, declen;
1316     SSL_TICKET_RETURN ret = SSL_TICKET_FATAL_ERR_OTHER;
1317     size_t mlen;
1318     unsigned char tick_hmac[EVP_MAX_MD_SIZE];
1319     HMAC_CTX *hctx = NULL;
1320     EVP_CIPHER_CTX *ctx = NULL;
1321     SSL_CTX *tctx = s->session_ctx;
1322
1323     /* Need at least keyname + iv */
1324     if (eticklen < TLSEXT_KEYNAME_LENGTH + EVP_MAX_IV_LENGTH) {
1325         ret = SSL_TICKET_NO_DECRYPT;
1326         goto err;
1327     }
1328
1329     /* Initialize session ticket encryption and HMAC contexts */
1330     hctx = HMAC_CTX_new();
1331     if (hctx == NULL)
1332         return SSL_TICKET_FATAL_ERR_MALLOC;
1333     ctx = EVP_CIPHER_CTX_new();
1334     if (ctx == NULL) {
1335         ret = SSL_TICKET_FATAL_ERR_MALLOC;
1336         goto err;
1337     }
1338     if (tctx->ext.ticket_key_cb) {
1339         unsigned char *nctick = (unsigned char *)etick;
1340         int rv = tctx->ext.ticket_key_cb(s, nctick,
1341                                          nctick + TLSEXT_KEYNAME_LENGTH,
1342                                          ctx, hctx, 0);
1343         if (rv < 0)
1344             goto err;
1345         if (rv == 0) {
1346             ret = SSL_TICKET_NO_DECRYPT;
1347             goto err;
1348         }
1349         if (rv == 2)
1350             renew_ticket = 1;
1351     } else {
1352         /* Check key name matches */
1353         if (memcmp(etick, tctx->ext.tick_key_name,
1354                    TLSEXT_KEYNAME_LENGTH) != 0) {
1355             ret = SSL_TICKET_NO_DECRYPT;
1356             goto err;
1357         }
1358         if (HMAC_Init_ex(hctx, tctx->ext.secure->tick_hmac_key,
1359                          sizeof(tctx->ext.secure->tick_hmac_key),
1360                          EVP_sha256(), NULL) <= 0
1361             || EVP_DecryptInit_ex(ctx, EVP_aes_256_cbc(), NULL,
1362                                   tctx->ext.secure->tick_aes_key,
1363                                   etick + TLSEXT_KEYNAME_LENGTH) <= 0) {
1364             goto err;
1365         }
1366     }
1367     /*
1368      * Attempt to process session ticket, first conduct sanity and integrity
1369      * checks on ticket.
1370      */
1371     mlen = HMAC_size(hctx);
1372     if (mlen == 0) {
1373         goto err;
1374     }
1375     /* Sanity check ticket length: must exceed keyname + IV + HMAC */
1376     if (eticklen <=
1377         TLSEXT_KEYNAME_LENGTH + EVP_CIPHER_CTX_iv_length(ctx) + mlen) {
1378         ret = SSL_TICKET_NO_DECRYPT;
1379         goto err;
1380     }
1381     eticklen -= mlen;
1382     /* Check HMAC of encrypted ticket */
1383     if (HMAC_Update(hctx, etick, eticklen) <= 0
1384         || HMAC_Final(hctx, tick_hmac, NULL) <= 0) {
1385         goto err;
1386     }
1387     HMAC_CTX_free(hctx);
1388     if (CRYPTO_memcmp(tick_hmac, etick + eticklen, mlen)) {
1389         EVP_CIPHER_CTX_free(ctx);
1390         return SSL_TICKET_NO_DECRYPT;
1391     }
1392     /* Attempt to decrypt session data */
1393     /* Move p after IV to start of encrypted ticket, update length */
1394     p = etick + TLSEXT_KEYNAME_LENGTH + EVP_CIPHER_CTX_iv_length(ctx);
1395     eticklen -= TLSEXT_KEYNAME_LENGTH + EVP_CIPHER_CTX_iv_length(ctx);
1396     sdec = OPENSSL_malloc(eticklen);
1397     if (sdec == NULL || EVP_DecryptUpdate(ctx, sdec, &slen, p,
1398                                           (int)eticklen) <= 0) {
1399         EVP_CIPHER_CTX_free(ctx);
1400         OPENSSL_free(sdec);
1401         return SSL_TICKET_FATAL_ERR_OTHER;
1402     }
1403     if (EVP_DecryptFinal(ctx, sdec + slen, &declen) <= 0) {
1404         EVP_CIPHER_CTX_free(ctx);
1405         OPENSSL_free(sdec);
1406         return SSL_TICKET_NO_DECRYPT;
1407     }
1408     slen += declen;
1409     EVP_CIPHER_CTX_free(ctx);
1410     ctx = NULL;
1411     p = sdec;
1412
1413     sess = d2i_SSL_SESSION(NULL, &p, slen);
1414     slen -= p - sdec;
1415     OPENSSL_free(sdec);
1416     if (sess) {
1417         /* Some additional consistency checks */
1418         if (slen != 0) {
1419             SSL_SESSION_free(sess);
1420             return SSL_TICKET_NO_DECRYPT;
1421         }
1422         /*
1423          * The session ID, if non-empty, is used by some clients to detect
1424          * that the ticket has been accepted. So we copy it to the session
1425          * structure. If it is empty set length to zero as required by
1426          * standard.
1427          */
1428         if (sesslen) {
1429             memcpy(sess->session_id, sess_id, sesslen);
1430             sess->session_id_length = sesslen;
1431         }
1432         *psess = sess;
1433         if (renew_ticket)
1434             return SSL_TICKET_SUCCESS_RENEW;
1435         else
1436             return SSL_TICKET_SUCCESS;
1437     }
1438     ERR_clear_error();
1439     /*
1440      * For session parse failure, indicate that we need to send a new ticket.
1441      */
1442     return SSL_TICKET_NO_DECRYPT;
1443  err:
1444     EVP_CIPHER_CTX_free(ctx);
1445     HMAC_CTX_free(hctx);
1446     return ret;
1447 }
1448
1449 /* Check to see if a signature algorithm is allowed */
1450 static int tls12_sigalg_allowed(SSL *s, int op, const SIGALG_LOOKUP *lu)
1451 {
1452     unsigned char sigalgstr[2];
1453     int secbits;
1454
1455     /* See if sigalgs is recognised and if hash is enabled */
1456     if (!tls1_lookup_md(lu, NULL))
1457         return 0;
1458     /* DSA is not allowed in TLS 1.3 */
1459     if (SSL_IS_TLS13(s) && lu->sig == EVP_PKEY_DSA)
1460         return 0;
1461     /* TODO(OpenSSL1.2) fully axe DSA/etc. in ClientHello per TLS 1.3 spec */
1462     if (!s->server && !SSL_IS_DTLS(s) && s->s3->tmp.min_ver >= TLS1_3_VERSION
1463         && (lu->sig == EVP_PKEY_DSA || lu->hash_idx == SSL_MD_SHA1_IDX
1464             || lu->hash_idx == SSL_MD_MD5_IDX
1465             || lu->hash_idx == SSL_MD_SHA224_IDX))
1466         return 0;
1467     /* See if public key algorithm allowed */
1468     if (ssl_cert_is_disabled(lu->sig_idx))
1469         return 0;
1470     if (lu->hash == NID_undef)
1471         return 1;
1472     /* Security bits: half digest bits */
1473     secbits = EVP_MD_size(ssl_md(lu->hash_idx)) * 4;
1474     /* Finally see if security callback allows it */
1475     sigalgstr[0] = (lu->sigalg >> 8) & 0xff;
1476     sigalgstr[1] = lu->sigalg & 0xff;
1477     return ssl_security(s, op, secbits, lu->hash, (void *)sigalgstr);
1478 }
1479
1480 /*
1481  * Get a mask of disabled public key algorithms based on supported signature
1482  * algorithms. For example if no signature algorithm supports RSA then RSA is
1483  * disabled.
1484  */
1485
1486 void ssl_set_sig_mask(uint32_t *pmask_a, SSL *s, int op)
1487 {
1488     const uint16_t *sigalgs;
1489     size_t i, sigalgslen;
1490     uint32_t disabled_mask = SSL_aRSA | SSL_aDSS | SSL_aECDSA;
1491     /*
1492      * Go through all signature algorithms seeing if we support any
1493      * in disabled_mask.
1494      */
1495     sigalgslen = tls12_get_psigalgs(s, 1, &sigalgs);
1496     for (i = 0; i < sigalgslen; i++, sigalgs++) {
1497         const SIGALG_LOOKUP *lu = tls1_lookup_sigalg(*sigalgs);
1498         const SSL_CERT_LOOKUP *clu;
1499
1500         if (lu == NULL)
1501             continue;
1502
1503         clu = ssl_cert_lookup_by_idx(lu->sig_idx);
1504         if (clu == NULL)
1505                 continue;
1506
1507         /* If algorithm is disabled see if we can enable it */
1508         if ((clu->amask & disabled_mask) != 0
1509                 && tls12_sigalg_allowed(s, op, lu))
1510             disabled_mask &= ~clu->amask;
1511     }
1512     *pmask_a |= disabled_mask;
1513 }
1514
1515 int tls12_copy_sigalgs(SSL *s, WPACKET *pkt,
1516                        const uint16_t *psig, size_t psiglen)
1517 {
1518     size_t i;
1519     int rv = 0;
1520
1521     for (i = 0; i < psiglen; i++, psig++) {
1522         const SIGALG_LOOKUP *lu = tls1_lookup_sigalg(*psig);
1523
1524         if (!tls12_sigalg_allowed(s, SSL_SECOP_SIGALG_SUPPORTED, lu))
1525             continue;
1526         if (!WPACKET_put_bytes_u16(pkt, *psig))
1527             return 0;
1528         /*
1529          * If TLS 1.3 must have at least one valid TLS 1.3 message
1530          * signing algorithm: i.e. neither RSA nor SHA1/SHA224
1531          */
1532         if (rv == 0 && (!SSL_IS_TLS13(s)
1533             || (lu->sig != EVP_PKEY_RSA
1534                 && lu->hash != NID_sha1
1535                 && lu->hash != NID_sha224)))
1536             rv = 1;
1537     }
1538     if (rv == 0)
1539         SSLerr(SSL_F_TLS12_COPY_SIGALGS, SSL_R_NO_SUITABLE_SIGNATURE_ALGORITHM);
1540     return rv;
1541 }
1542
1543 /* Given preference and allowed sigalgs set shared sigalgs */
1544 static size_t tls12_shared_sigalgs(SSL *s, const SIGALG_LOOKUP **shsig,
1545                                    const uint16_t *pref, size_t preflen,
1546                                    const uint16_t *allow, size_t allowlen)
1547 {
1548     const uint16_t *ptmp, *atmp;
1549     size_t i, j, nmatch = 0;
1550     for (i = 0, ptmp = pref; i < preflen; i++, ptmp++) {
1551         const SIGALG_LOOKUP *lu = tls1_lookup_sigalg(*ptmp);
1552
1553         /* Skip disabled hashes or signature algorithms */
1554         if (!tls12_sigalg_allowed(s, SSL_SECOP_SIGALG_SHARED, lu))
1555             continue;
1556         for (j = 0, atmp = allow; j < allowlen; j++, atmp++) {
1557             if (*ptmp == *atmp) {
1558                 nmatch++;
1559                 if (shsig)
1560                     *shsig++ = lu;
1561                 break;
1562             }
1563         }
1564     }
1565     return nmatch;
1566 }
1567
1568 /* Set shared signature algorithms for SSL structures */
1569 static int tls1_set_shared_sigalgs(SSL *s)
1570 {
1571     const uint16_t *pref, *allow, *conf;
1572     size_t preflen, allowlen, conflen;
1573     size_t nmatch;
1574     const SIGALG_LOOKUP **salgs = NULL;
1575     CERT *c = s->cert;
1576     unsigned int is_suiteb = tls1_suiteb(s);
1577
1578     OPENSSL_free(c->shared_sigalgs);
1579     c->shared_sigalgs = NULL;
1580     c->shared_sigalgslen = 0;
1581     /* If client use client signature algorithms if not NULL */
1582     if (!s->server && c->client_sigalgs && !is_suiteb) {
1583         conf = c->client_sigalgs;
1584         conflen = c->client_sigalgslen;
1585     } else if (c->conf_sigalgs && !is_suiteb) {
1586         conf = c->conf_sigalgs;
1587         conflen = c->conf_sigalgslen;
1588     } else
1589         conflen = tls12_get_psigalgs(s, 0, &conf);
1590     if (s->options & SSL_OP_CIPHER_SERVER_PREFERENCE || is_suiteb) {
1591         pref = conf;
1592         preflen = conflen;
1593         allow = s->s3->tmp.peer_sigalgs;
1594         allowlen = s->s3->tmp.peer_sigalgslen;
1595     } else {
1596         allow = conf;
1597         allowlen = conflen;
1598         pref = s->s3->tmp.peer_sigalgs;
1599         preflen = s->s3->tmp.peer_sigalgslen;
1600     }
1601     nmatch = tls12_shared_sigalgs(s, NULL, pref, preflen, allow, allowlen);
1602     if (nmatch) {
1603         salgs = OPENSSL_malloc(nmatch * sizeof(*salgs));
1604         if (salgs == NULL)
1605             return 0;
1606         nmatch = tls12_shared_sigalgs(s, salgs, pref, preflen, allow, allowlen);
1607     } else {
1608         salgs = NULL;
1609     }
1610     c->shared_sigalgs = salgs;
1611     c->shared_sigalgslen = nmatch;
1612     return 1;
1613 }
1614
1615 int tls1_save_u16(PACKET *pkt, uint16_t **pdest, size_t *pdestlen)
1616 {
1617     unsigned int stmp;
1618     size_t size, i;
1619     uint16_t *buf;
1620
1621     size = PACKET_remaining(pkt);
1622
1623     /* Invalid data length */
1624     if (size == 0 || (size & 1) != 0)
1625         return 0;
1626
1627     size >>= 1;
1628
1629     buf = OPENSSL_malloc(size * sizeof(*buf));
1630     if (buf == NULL)
1631         return 0;
1632     for (i = 0; i < size && PACKET_get_net_2(pkt, &stmp); i++)
1633         buf[i] = stmp;
1634
1635     if (i != size) {
1636         OPENSSL_free(buf);
1637         return 0;
1638     }
1639
1640     OPENSSL_free(*pdest);
1641     *pdest = buf;
1642     *pdestlen = size;
1643
1644     return 1;
1645 }
1646
1647 int tls1_save_sigalgs(SSL *s, PACKET *pkt, int cert)
1648 {
1649     /* Extension ignored for inappropriate versions */
1650     if (!SSL_USE_SIGALGS(s))
1651         return 1;
1652     /* Should never happen */
1653     if (s->cert == NULL)
1654         return 0;
1655
1656     if (cert)
1657         return tls1_save_u16(pkt, &s->s3->tmp.peer_cert_sigalgs,
1658                              &s->s3->tmp.peer_cert_sigalgslen);
1659     else
1660         return tls1_save_u16(pkt, &s->s3->tmp.peer_sigalgs,
1661                              &s->s3->tmp.peer_sigalgslen);
1662
1663 }
1664
1665 /* Set preferred digest for each key type */
1666
1667 int tls1_process_sigalgs(SSL *s)
1668 {
1669     size_t i;
1670     uint32_t *pvalid = s->s3->tmp.valid_flags;
1671     CERT *c = s->cert;
1672
1673     if (!tls1_set_shared_sigalgs(s))
1674         return 0;
1675
1676     for (i = 0; i < SSL_PKEY_NUM; i++)
1677         pvalid[i] = 0;
1678
1679     for (i = 0; i < c->shared_sigalgslen; i++) {
1680         const SIGALG_LOOKUP *sigptr = c->shared_sigalgs[i];
1681         int idx = sigptr->sig_idx;
1682
1683         /* Ignore PKCS1 based sig algs in TLSv1.3 */
1684         if (SSL_IS_TLS13(s) && sigptr->sig == EVP_PKEY_RSA)
1685             continue;
1686         /* If not disabled indicate we can explicitly sign */
1687         if (pvalid[idx] == 0 && !ssl_cert_is_disabled(idx))
1688             pvalid[idx] = CERT_PKEY_EXPLICIT_SIGN | CERT_PKEY_SIGN;
1689     }
1690     return 1;
1691 }
1692
1693 int SSL_get_sigalgs(SSL *s, int idx,
1694                     int *psign, int *phash, int *psignhash,
1695                     unsigned char *rsig, unsigned char *rhash)
1696 {
1697     uint16_t *psig = s->s3->tmp.peer_sigalgs;
1698     size_t numsigalgs = s->s3->tmp.peer_sigalgslen;
1699     if (psig == NULL || numsigalgs > INT_MAX)
1700         return 0;
1701     if (idx >= 0) {
1702         const SIGALG_LOOKUP *lu;
1703
1704         if (idx >= (int)numsigalgs)
1705             return 0;
1706         psig += idx;
1707         if (rhash != NULL)
1708             *rhash = (unsigned char)((*psig >> 8) & 0xff);
1709         if (rsig != NULL)
1710             *rsig = (unsigned char)(*psig & 0xff);
1711         lu = tls1_lookup_sigalg(*psig);
1712         if (psign != NULL)
1713             *psign = lu != NULL ? lu->sig : NID_undef;
1714         if (phash != NULL)
1715             *phash = lu != NULL ? lu->hash : NID_undef;
1716         if (psignhash != NULL)
1717             *psignhash = lu != NULL ? lu->sigandhash : NID_undef;
1718     }
1719     return (int)numsigalgs;
1720 }
1721
1722 int SSL_get_shared_sigalgs(SSL *s, int idx,
1723                            int *psign, int *phash, int *psignhash,
1724                            unsigned char *rsig, unsigned char *rhash)
1725 {
1726     const SIGALG_LOOKUP *shsigalgs;
1727     if (s->cert->shared_sigalgs == NULL
1728         || idx < 0
1729         || idx >= (int)s->cert->shared_sigalgslen
1730         || s->cert->shared_sigalgslen > INT_MAX)
1731         return 0;
1732     shsigalgs = s->cert->shared_sigalgs[idx];
1733     if (phash != NULL)
1734         *phash = shsigalgs->hash;
1735     if (psign != NULL)
1736         *psign = shsigalgs->sig;
1737     if (psignhash != NULL)
1738         *psignhash = shsigalgs->sigandhash;
1739     if (rsig != NULL)
1740         *rsig = (unsigned char)(shsigalgs->sigalg & 0xff);
1741     if (rhash != NULL)
1742         *rhash = (unsigned char)((shsigalgs->sigalg >> 8) & 0xff);
1743     return (int)s->cert->shared_sigalgslen;
1744 }
1745
1746 /* Maximum possible number of unique entries in sigalgs array */
1747 #define TLS_MAX_SIGALGCNT (OSSL_NELEM(sigalg_lookup_tbl) * 2)
1748
1749 typedef struct {
1750     size_t sigalgcnt;
1751     /* TLSEXT_SIGALG_XXX values */
1752     uint16_t sigalgs[TLS_MAX_SIGALGCNT];
1753 } sig_cb_st;
1754
1755 static void get_sigorhash(int *psig, int *phash, const char *str)
1756 {
1757     if (strcmp(str, "RSA") == 0) {
1758         *psig = EVP_PKEY_RSA;
1759     } else if (strcmp(str, "RSA-PSS") == 0 || strcmp(str, "PSS") == 0) {
1760         *psig = EVP_PKEY_RSA_PSS;
1761     } else if (strcmp(str, "DSA") == 0) {
1762         *psig = EVP_PKEY_DSA;
1763     } else if (strcmp(str, "ECDSA") == 0) {
1764         *psig = EVP_PKEY_EC;
1765     } else {
1766         *phash = OBJ_sn2nid(str);
1767         if (*phash == NID_undef)
1768             *phash = OBJ_ln2nid(str);
1769     }
1770 }
1771 /* Maximum length of a signature algorithm string component */
1772 #define TLS_MAX_SIGSTRING_LEN   40
1773
1774 static int sig_cb(const char *elem, int len, void *arg)
1775 {
1776     sig_cb_st *sarg = arg;
1777     size_t i;
1778     const SIGALG_LOOKUP *s;
1779     char etmp[TLS_MAX_SIGSTRING_LEN], *p;
1780     int sig_alg = NID_undef, hash_alg = NID_undef;
1781     if (elem == NULL)
1782         return 0;
1783     if (sarg->sigalgcnt == TLS_MAX_SIGALGCNT)
1784         return 0;
1785     if (len > (int)(sizeof(etmp) - 1))
1786         return 0;
1787     memcpy(etmp, elem, len);
1788     etmp[len] = 0;
1789     p = strchr(etmp, '+');
1790     /*
1791      * We only allow SignatureSchemes listed in the sigalg_lookup_tbl;
1792      * if there's no '+' in the provided name, look for the new-style combined
1793      * name.  If not, match both sig+hash to find the needed SIGALG_LOOKUP.
1794      * Just sig+hash is not unique since TLS 1.3 adds rsa_pss_pss_* and
1795      * rsa_pss_rsae_* that differ only by public key OID; in such cases
1796      * we will pick the _rsae_ variant, by virtue of them appearing earlier
1797      * in the table.
1798      */
1799     if (p == NULL) {
1800         for (i = 0, s = sigalg_lookup_tbl; i < OSSL_NELEM(sigalg_lookup_tbl);
1801              i++, s++) {
1802             if (s->name != NULL && strcmp(etmp, s->name) == 0) {
1803                 sarg->sigalgs[sarg->sigalgcnt++] = s->sigalg;
1804                 break;
1805             }
1806         }
1807         if (i == OSSL_NELEM(sigalg_lookup_tbl))
1808             return 0;
1809     } else {
1810         *p = 0;
1811         p++;
1812         if (*p == 0)
1813             return 0;
1814         get_sigorhash(&sig_alg, &hash_alg, etmp);
1815         get_sigorhash(&sig_alg, &hash_alg, p);
1816         if (sig_alg == NID_undef || hash_alg == NID_undef)
1817             return 0;
1818         for (i = 0, s = sigalg_lookup_tbl; i < OSSL_NELEM(sigalg_lookup_tbl);
1819              i++, s++) {
1820             if (s->hash == hash_alg && s->sig == sig_alg) {
1821                 sarg->sigalgs[sarg->sigalgcnt++] = s->sigalg;
1822                 break;
1823             }
1824         }
1825         if (i == OSSL_NELEM(sigalg_lookup_tbl))
1826             return 0;
1827     }
1828
1829     /* Reject duplicates */
1830     for (i = 0; i < sarg->sigalgcnt - 1; i++) {
1831         if (sarg->sigalgs[i] == sarg->sigalgs[sarg->sigalgcnt - 1]) {
1832             sarg->sigalgcnt--;
1833             return 0;
1834         }
1835     }
1836     return 1;
1837 }
1838
1839 /*
1840  * Set supported signature algorithms based on a colon separated list of the
1841  * form sig+hash e.g. RSA+SHA512:DSA+SHA512
1842  */
1843 int tls1_set_sigalgs_list(CERT *c, const char *str, int client)
1844 {
1845     sig_cb_st sig;
1846     sig.sigalgcnt = 0;
1847     if (!CONF_parse_list(str, ':', 1, sig_cb, &sig))
1848         return 0;
1849     if (c == NULL)
1850         return 1;
1851     return tls1_set_raw_sigalgs(c, sig.sigalgs, sig.sigalgcnt, client);
1852 }
1853
1854 int tls1_set_raw_sigalgs(CERT *c, const uint16_t *psigs, size_t salglen,
1855                      int client)
1856 {
1857     uint16_t *sigalgs;
1858
1859     sigalgs = OPENSSL_malloc(salglen * sizeof(*sigalgs));
1860     if (sigalgs == NULL)
1861         return 0;
1862     memcpy(sigalgs, psigs, salglen * sizeof(*sigalgs));
1863
1864     if (client) {
1865         OPENSSL_free(c->client_sigalgs);
1866         c->client_sigalgs = sigalgs;
1867         c->client_sigalgslen = salglen;
1868     } else {
1869         OPENSSL_free(c->conf_sigalgs);
1870         c->conf_sigalgs = sigalgs;
1871         c->conf_sigalgslen = salglen;
1872     }
1873
1874     return 1;
1875 }
1876
1877 int tls1_set_sigalgs(CERT *c, const int *psig_nids, size_t salglen, int client)
1878 {
1879     uint16_t *sigalgs, *sptr;
1880     size_t i;
1881
1882     if (salglen & 1)
1883         return 0;
1884     sigalgs = OPENSSL_malloc((salglen / 2) * sizeof(*sigalgs));
1885     if (sigalgs == NULL)
1886         return 0;
1887     for (i = 0, sptr = sigalgs; i < salglen; i += 2) {
1888         size_t j;
1889         const SIGALG_LOOKUP *curr;
1890         int md_id = *psig_nids++;
1891         int sig_id = *psig_nids++;
1892
1893         for (j = 0, curr = sigalg_lookup_tbl; j < OSSL_NELEM(sigalg_lookup_tbl);
1894              j++, curr++) {
1895             if (curr->hash == md_id && curr->sig == sig_id) {
1896                 *sptr++ = curr->sigalg;
1897                 break;
1898             }
1899         }
1900
1901         if (j == OSSL_NELEM(sigalg_lookup_tbl))
1902             goto err;
1903     }
1904
1905     if (client) {
1906         OPENSSL_free(c->client_sigalgs);
1907         c->client_sigalgs = sigalgs;
1908         c->client_sigalgslen = salglen / 2;
1909     } else {
1910         OPENSSL_free(c->conf_sigalgs);
1911         c->conf_sigalgs = sigalgs;
1912         c->conf_sigalgslen = salglen / 2;
1913     }
1914
1915     return 1;
1916
1917  err:
1918     OPENSSL_free(sigalgs);
1919     return 0;
1920 }
1921
1922 static int tls1_check_sig_alg(CERT *c, X509 *x, int default_nid)
1923 {
1924     int sig_nid;
1925     size_t i;
1926     if (default_nid == -1)
1927         return 1;
1928     sig_nid = X509_get_signature_nid(x);
1929     if (default_nid)
1930         return sig_nid == default_nid ? 1 : 0;
1931     for (i = 0; i < c->shared_sigalgslen; i++)
1932         if (sig_nid == c->shared_sigalgs[i]->sigandhash)
1933             return 1;
1934     return 0;
1935 }
1936
1937 /* Check to see if a certificate issuer name matches list of CA names */
1938 static int ssl_check_ca_name(STACK_OF(X509_NAME) *names, X509 *x)
1939 {
1940     X509_NAME *nm;
1941     int i;
1942     nm = X509_get_issuer_name(x);
1943     for (i = 0; i < sk_X509_NAME_num(names); i++) {
1944         if (!X509_NAME_cmp(nm, sk_X509_NAME_value(names, i)))
1945             return 1;
1946     }
1947     return 0;
1948 }
1949
1950 /*
1951  * Check certificate chain is consistent with TLS extensions and is usable by
1952  * server. This servers two purposes: it allows users to check chains before
1953  * passing them to the server and it allows the server to check chains before
1954  * attempting to use them.
1955  */
1956
1957 /* Flags which need to be set for a certificate when strict mode not set */
1958
1959 #define CERT_PKEY_VALID_FLAGS \
1960         (CERT_PKEY_EE_SIGNATURE|CERT_PKEY_EE_PARAM)
1961 /* Strict mode flags */
1962 #define CERT_PKEY_STRICT_FLAGS \
1963          (CERT_PKEY_VALID_FLAGS|CERT_PKEY_CA_SIGNATURE|CERT_PKEY_CA_PARAM \
1964          | CERT_PKEY_ISSUER_NAME|CERT_PKEY_CERT_TYPE)
1965
1966 int tls1_check_chain(SSL *s, X509 *x, EVP_PKEY *pk, STACK_OF(X509) *chain,
1967                      int idx)
1968 {
1969     int i;
1970     int rv = 0;
1971     int check_flags = 0, strict_mode;
1972     CERT_PKEY *cpk = NULL;
1973     CERT *c = s->cert;
1974     uint32_t *pvalid;
1975     unsigned int suiteb_flags = tls1_suiteb(s);
1976     /* idx == -1 means checking server chains */
1977     if (idx != -1) {
1978         /* idx == -2 means checking client certificate chains */
1979         if (idx == -2) {
1980             cpk = c->key;
1981             idx = (int)(cpk - c->pkeys);
1982         } else
1983             cpk = c->pkeys + idx;
1984         pvalid = s->s3->tmp.valid_flags + idx;
1985         x = cpk->x509;
1986         pk = cpk->privatekey;
1987         chain = cpk->chain;
1988         strict_mode = c->cert_flags & SSL_CERT_FLAGS_CHECK_TLS_STRICT;
1989         /* If no cert or key, forget it */
1990         if (!x || !pk)
1991             goto end;
1992     } else {
1993         size_t certidx;
1994
1995         if (!x || !pk)
1996             return 0;
1997
1998         if (ssl_cert_lookup_by_pkey(pk, &certidx) == NULL)
1999             return 0;
2000         idx = certidx;
2001         pvalid = s->s3->tmp.valid_flags + idx;
2002
2003         if (c->cert_flags & SSL_CERT_FLAGS_CHECK_TLS_STRICT)
2004             check_flags = CERT_PKEY_STRICT_FLAGS;
2005         else
2006             check_flags = CERT_PKEY_VALID_FLAGS;
2007         strict_mode = 1;
2008     }
2009
2010     if (suiteb_flags) {
2011         int ok;
2012         if (check_flags)
2013             check_flags |= CERT_PKEY_SUITEB;
2014         ok = X509_chain_check_suiteb(NULL, x, chain, suiteb_flags);
2015         if (ok == X509_V_OK)
2016             rv |= CERT_PKEY_SUITEB;
2017         else if (!check_flags)
2018             goto end;
2019     }
2020
2021     /*
2022      * Check all signature algorithms are consistent with signature
2023      * algorithms extension if TLS 1.2 or later and strict mode.
2024      */
2025     if (TLS1_get_version(s) >= TLS1_2_VERSION && strict_mode) {
2026         int default_nid;
2027         int rsign = 0;
2028         if (s->s3->tmp.peer_cert_sigalgs != NULL
2029                 || s->s3->tmp.peer_sigalgs != NULL) {
2030             default_nid = 0;
2031         /* If no sigalgs extension use defaults from RFC5246 */
2032         } else {
2033             switch (idx) {
2034             case SSL_PKEY_RSA:
2035                 rsign = EVP_PKEY_RSA;
2036                 default_nid = NID_sha1WithRSAEncryption;
2037                 break;
2038
2039             case SSL_PKEY_DSA_SIGN:
2040                 rsign = EVP_PKEY_DSA;
2041                 default_nid = NID_dsaWithSHA1;
2042                 break;
2043
2044             case SSL_PKEY_ECC:
2045                 rsign = EVP_PKEY_EC;
2046                 default_nid = NID_ecdsa_with_SHA1;
2047                 break;
2048
2049             case SSL_PKEY_GOST01:
2050                 rsign = NID_id_GostR3410_2001;
2051                 default_nid = NID_id_GostR3411_94_with_GostR3410_2001;
2052                 break;
2053
2054             case SSL_PKEY_GOST12_256:
2055                 rsign = NID_id_GostR3410_2012_256;
2056                 default_nid = NID_id_tc26_signwithdigest_gost3410_2012_256;
2057                 break;
2058
2059             case SSL_PKEY_GOST12_512:
2060                 rsign = NID_id_GostR3410_2012_512;
2061                 default_nid = NID_id_tc26_signwithdigest_gost3410_2012_512;
2062                 break;
2063
2064             default:
2065                 default_nid = -1;
2066                 break;
2067             }
2068         }
2069         /*
2070          * If peer sent no signature algorithms extension and we have set
2071          * preferred signature algorithms check we support sha1.
2072          */
2073         if (default_nid > 0 && c->conf_sigalgs) {
2074             size_t j;
2075             const uint16_t *p = c->conf_sigalgs;
2076             for (j = 0; j < c->conf_sigalgslen; j++, p++) {
2077                 const SIGALG_LOOKUP *lu = tls1_lookup_sigalg(*p);
2078
2079                 if (lu != NULL && lu->hash == NID_sha1 && lu->sig == rsign)
2080                     break;
2081             }
2082             if (j == c->conf_sigalgslen) {
2083                 if (check_flags)
2084                     goto skip_sigs;
2085                 else
2086                     goto end;
2087             }
2088         }
2089         /* Check signature algorithm of each cert in chain */
2090         if (!tls1_check_sig_alg(c, x, default_nid)) {
2091             if (!check_flags)
2092                 goto end;
2093         } else
2094             rv |= CERT_PKEY_EE_SIGNATURE;
2095         rv |= CERT_PKEY_CA_SIGNATURE;
2096         for (i = 0; i < sk_X509_num(chain); i++) {
2097             if (!tls1_check_sig_alg(c, sk_X509_value(chain, i), default_nid)) {
2098                 if (check_flags) {
2099                     rv &= ~CERT_PKEY_CA_SIGNATURE;
2100                     break;
2101                 } else
2102                     goto end;
2103             }
2104         }
2105     }
2106     /* Else not TLS 1.2, so mark EE and CA signing algorithms OK */
2107     else if (check_flags)
2108         rv |= CERT_PKEY_EE_SIGNATURE | CERT_PKEY_CA_SIGNATURE;
2109  skip_sigs:
2110     /* Check cert parameters are consistent */
2111     if (tls1_check_cert_param(s, x, 1))
2112         rv |= CERT_PKEY_EE_PARAM;
2113     else if (!check_flags)
2114         goto end;
2115     if (!s->server)
2116         rv |= CERT_PKEY_CA_PARAM;
2117     /* In strict mode check rest of chain too */
2118     else if (strict_mode) {
2119         rv |= CERT_PKEY_CA_PARAM;
2120         for (i = 0; i < sk_X509_num(chain); i++) {
2121             X509 *ca = sk_X509_value(chain, i);
2122             if (!tls1_check_cert_param(s, ca, 0)) {
2123                 if (check_flags) {
2124                     rv &= ~CERT_PKEY_CA_PARAM;
2125                     break;
2126                 } else
2127                     goto end;
2128             }
2129         }
2130     }
2131     if (!s->server && strict_mode) {
2132         STACK_OF(X509_NAME) *ca_dn;
2133         int check_type = 0;
2134         switch (EVP_PKEY_id(pk)) {
2135         case EVP_PKEY_RSA:
2136             check_type = TLS_CT_RSA_SIGN;
2137             break;
2138         case EVP_PKEY_DSA:
2139             check_type = TLS_CT_DSS_SIGN;
2140             break;
2141         case EVP_PKEY_EC:
2142             check_type = TLS_CT_ECDSA_SIGN;
2143             break;
2144         }
2145         if (check_type) {
2146             const uint8_t *ctypes = s->s3->tmp.ctype;
2147             size_t j;
2148
2149             for (j = 0; j < s->s3->tmp.ctype_len; j++, ctypes++) {
2150                 if (*ctypes == check_type) {
2151                     rv |= CERT_PKEY_CERT_TYPE;
2152                     break;
2153                 }
2154             }
2155             if (!(rv & CERT_PKEY_CERT_TYPE) && !check_flags)
2156                 goto end;
2157         } else {
2158             rv |= CERT_PKEY_CERT_TYPE;
2159         }
2160
2161         ca_dn = s->s3->tmp.peer_ca_names;
2162
2163         if (!sk_X509_NAME_num(ca_dn))
2164             rv |= CERT_PKEY_ISSUER_NAME;
2165
2166         if (!(rv & CERT_PKEY_ISSUER_NAME)) {
2167             if (ssl_check_ca_name(ca_dn, x))
2168                 rv |= CERT_PKEY_ISSUER_NAME;
2169         }
2170         if (!(rv & CERT_PKEY_ISSUER_NAME)) {
2171             for (i = 0; i < sk_X509_num(chain); i++) {
2172                 X509 *xtmp = sk_X509_value(chain, i);
2173                 if (ssl_check_ca_name(ca_dn, xtmp)) {
2174                     rv |= CERT_PKEY_ISSUER_NAME;
2175                     break;
2176                 }
2177             }
2178         }
2179         if (!check_flags && !(rv & CERT_PKEY_ISSUER_NAME))
2180             goto end;
2181     } else
2182         rv |= CERT_PKEY_ISSUER_NAME | CERT_PKEY_CERT_TYPE;
2183
2184     if (!check_flags || (rv & check_flags) == check_flags)
2185         rv |= CERT_PKEY_VALID;
2186
2187  end:
2188
2189     if (TLS1_get_version(s) >= TLS1_2_VERSION)
2190         rv |= *pvalid & (CERT_PKEY_EXPLICIT_SIGN | CERT_PKEY_SIGN);
2191     else
2192         rv |= CERT_PKEY_SIGN | CERT_PKEY_EXPLICIT_SIGN;
2193
2194     /*
2195      * When checking a CERT_PKEY structure all flags are irrelevant if the
2196      * chain is invalid.
2197      */
2198     if (!check_flags) {
2199         if (rv & CERT_PKEY_VALID) {
2200             *pvalid = rv;
2201         } else {
2202             /* Preserve sign and explicit sign flag, clear rest */
2203             *pvalid &= CERT_PKEY_EXPLICIT_SIGN | CERT_PKEY_SIGN;
2204             return 0;
2205         }
2206     }
2207     return rv;
2208 }
2209
2210 /* Set validity of certificates in an SSL structure */
2211 void tls1_set_cert_validity(SSL *s)
2212 {
2213     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_RSA);
2214     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_RSA_PSS_SIGN);
2215     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_DSA_SIGN);
2216     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_ECC);
2217     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_GOST01);
2218     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_GOST12_256);
2219     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_GOST12_512);
2220     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_ED25519);
2221     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_ED448);
2222 }
2223
2224 /* User level utility function to check a chain is suitable */
2225 int SSL_check_chain(SSL *s, X509 *x, EVP_PKEY *pk, STACK_OF(X509) *chain)
2226 {
2227     return tls1_check_chain(s, x, pk, chain, -1);
2228 }
2229
2230 #ifndef OPENSSL_NO_DH
2231 DH *ssl_get_auto_dh(SSL *s)
2232 {
2233     int dh_secbits = 80;
2234     if (s->cert->dh_tmp_auto == 2)
2235         return DH_get_1024_160();
2236     if (s->s3->tmp.new_cipher->algorithm_auth & (SSL_aNULL | SSL_aPSK)) {
2237         if (s->s3->tmp.new_cipher->strength_bits == 256)
2238             dh_secbits = 128;
2239         else
2240             dh_secbits = 80;
2241     } else {
2242         if (s->s3->tmp.cert == NULL)
2243             return NULL;
2244         dh_secbits = EVP_PKEY_security_bits(s->s3->tmp.cert->privatekey);
2245     }
2246
2247     if (dh_secbits >= 128) {
2248         DH *dhp = DH_new();
2249         BIGNUM *p, *g;
2250         if (dhp == NULL)
2251             return NULL;
2252         g = BN_new();
2253         if (g != NULL)
2254             BN_set_word(g, 2);
2255         if (dh_secbits >= 192)
2256             p = BN_get_rfc3526_prime_8192(NULL);
2257         else
2258             p = BN_get_rfc3526_prime_3072(NULL);
2259         if (p == NULL || g == NULL || !DH_set0_pqg(dhp, p, NULL, g)) {
2260             DH_free(dhp);
2261             BN_free(p);
2262             BN_free(g);
2263             return NULL;
2264         }
2265         return dhp;
2266     }
2267     if (dh_secbits >= 112)
2268         return DH_get_2048_224();
2269     return DH_get_1024_160();
2270 }
2271 #endif
2272
2273 static int ssl_security_cert_key(SSL *s, SSL_CTX *ctx, X509 *x, int op)
2274 {
2275     int secbits = -1;
2276     EVP_PKEY *pkey = X509_get0_pubkey(x);
2277     if (pkey) {
2278         /*
2279          * If no parameters this will return -1 and fail using the default
2280          * security callback for any non-zero security level. This will
2281          * reject keys which omit parameters but this only affects DSA and
2282          * omission of parameters is never (?) done in practice.
2283          */
2284         secbits = EVP_PKEY_security_bits(pkey);
2285     }
2286     if (s)
2287         return ssl_security(s, op, secbits, 0, x);
2288     else
2289         return ssl_ctx_security(ctx, op, secbits, 0, x);
2290 }
2291
2292 static int ssl_security_cert_sig(SSL *s, SSL_CTX *ctx, X509 *x, int op)
2293 {
2294     /* Lookup signature algorithm digest */
2295     int secbits, nid, pknid;
2296     /* Don't check signature if self signed */
2297     if ((X509_get_extension_flags(x) & EXFLAG_SS) != 0)
2298         return 1;
2299     if (!X509_get_signature_info(x, &nid, &pknid, &secbits, NULL))
2300         secbits = -1;
2301     /* If digest NID not defined use signature NID */
2302     if (nid == NID_undef)
2303         nid = pknid;
2304     if (s)
2305         return ssl_security(s, op, secbits, nid, x);
2306     else
2307         return ssl_ctx_security(ctx, op, secbits, nid, x);
2308 }
2309
2310 int ssl_security_cert(SSL *s, SSL_CTX *ctx, X509 *x, int vfy, int is_ee)
2311 {
2312     if (vfy)
2313         vfy = SSL_SECOP_PEER;
2314     if (is_ee) {
2315         if (!ssl_security_cert_key(s, ctx, x, SSL_SECOP_EE_KEY | vfy))
2316             return SSL_R_EE_KEY_TOO_SMALL;
2317     } else {
2318         if (!ssl_security_cert_key(s, ctx, x, SSL_SECOP_CA_KEY | vfy))
2319             return SSL_R_CA_KEY_TOO_SMALL;
2320     }
2321     if (!ssl_security_cert_sig(s, ctx, x, SSL_SECOP_CA_MD | vfy))
2322         return SSL_R_CA_MD_TOO_WEAK;
2323     return 1;
2324 }
2325
2326 /*
2327  * Check security of a chain, if |sk| includes the end entity certificate then
2328  * |x| is NULL. If |vfy| is 1 then we are verifying a peer chain and not sending
2329  * one to the peer. Return values: 1 if ok otherwise error code to use
2330  */
2331
2332 int ssl_security_cert_chain(SSL *s, STACK_OF(X509) *sk, X509 *x, int vfy)
2333 {
2334     int rv, start_idx, i;
2335     if (x == NULL) {
2336         x = sk_X509_value(sk, 0);
2337         start_idx = 1;
2338     } else
2339         start_idx = 0;
2340
2341     rv = ssl_security_cert(s, NULL, x, vfy, 1);
2342     if (rv != 1)
2343         return rv;
2344
2345     for (i = start_idx; i < sk_X509_num(sk); i++) {
2346         x = sk_X509_value(sk, i);
2347         rv = ssl_security_cert(s, NULL, x, vfy, 0);
2348         if (rv != 1)
2349             return rv;
2350     }
2351     return 1;
2352 }
2353
2354 /*
2355  * For TLS 1.2 servers check if we have a certificate which can be used
2356  * with the signature algorithm "lu" and return index of certificate.
2357  */
2358
2359 static int tls12_get_cert_sigalg_idx(const SSL *s, const SIGALG_LOOKUP *lu)
2360 {
2361     int sig_idx = lu->sig_idx;
2362     const SSL_CERT_LOOKUP *clu = ssl_cert_lookup_by_idx(sig_idx);
2363
2364     /* If not recognised or not supported by cipher mask it is not suitable */
2365     if (clu == NULL || !(clu->amask & s->s3->tmp.new_cipher->algorithm_auth))
2366         return -1;
2367
2368     return s->s3->tmp.valid_flags[sig_idx] & CERT_PKEY_VALID ? sig_idx : -1;
2369 }
2370
2371 /*
2372  * Returns true if |s| has a usable certificate configured for use
2373  * with signature scheme |sig|.
2374  * "Usable" includes a check for presence as well as applying
2375  * the signature_algorithm_cert restrictions sent by the peer (if any).
2376  * Returns false if no usable certificate is found.
2377  */
2378 static int has_usable_cert(SSL *s, const SIGALG_LOOKUP *sig, int idx)
2379 {
2380     const SIGALG_LOOKUP *lu;
2381     int mdnid, pknid;
2382     size_t i;
2383
2384     /* TLS 1.2 callers can override lu->sig_idx, but not TLS 1.3 callers. */
2385     if (idx == -1)
2386         idx = sig->sig_idx;
2387     if (!ssl_has_cert(s, idx))
2388         return 0;
2389     if (s->s3->tmp.peer_cert_sigalgs != NULL) {
2390         for (i = 0; i < s->s3->tmp.peer_cert_sigalgslen; i++) {
2391             lu = tls1_lookup_sigalg(s->s3->tmp.peer_cert_sigalgs[i]);
2392             if (lu == NULL
2393                 || !X509_get_signature_info(s->cert->pkeys[idx].x509, &mdnid,
2394                                             &pknid, NULL, NULL))
2395                 continue;
2396             /*
2397              * TODO this does not differentiate between the
2398              * rsa_pss_pss_* and rsa_pss_rsae_* schemes since we do not
2399              * have a chain here that lets us look at the key OID in the
2400              * signing certificate.
2401              */
2402             if (mdnid == lu->hash && pknid == lu->sig)
2403                 return 1;
2404         }
2405         return 0;
2406     }
2407     return 1;
2408 }
2409
2410 /*
2411  * Choose an appropriate signature algorithm based on available certificates
2412  * Sets chosen certificate and signature algorithm.
2413  *
2414  * For servers if we fail to find a required certificate it is a fatal error,
2415  * an appropriate error code is set and a TLS alert is sent.
2416  *
2417  * For clients fatalerrs is set to 0. If a certificate is not suitable it is not
2418  * a fatal error: we will either try another certificate or not present one
2419  * to the server. In this case no error is set.
2420  */
2421 int tls_choose_sigalg(SSL *s, int fatalerrs)
2422 {
2423     const SIGALG_LOOKUP *lu = NULL;
2424     int sig_idx = -1;
2425
2426     s->s3->tmp.cert = NULL;
2427     s->s3->tmp.sigalg = NULL;
2428
2429     if (SSL_IS_TLS13(s)) {
2430         size_t i;
2431 #ifndef OPENSSL_NO_EC
2432         int curve = -1, skip_ec = 0;
2433 #endif
2434
2435         /* Look for a certificate matching shared sigalgs */
2436         for (i = 0; i < s->cert->shared_sigalgslen; i++) {
2437             lu = s->cert->shared_sigalgs[i];
2438             sig_idx = -1;
2439
2440             /* Skip SHA1, SHA224, DSA and RSA if not PSS */
2441             if (lu->hash == NID_sha1
2442                 || lu->hash == NID_sha224
2443                 || lu->sig == EVP_PKEY_DSA
2444                 || lu->sig == EVP_PKEY_RSA)
2445                 continue;
2446             /* Check that we have a cert, and signature_algorithms_cert */
2447             if (!tls1_lookup_md(lu, NULL) || !has_usable_cert(s, lu, -1))
2448                 continue;
2449             if (lu->sig == EVP_PKEY_EC) {
2450 #ifndef OPENSSL_NO_EC
2451                 if (curve == -1) {
2452                     EC_KEY *ec = EVP_PKEY_get0_EC_KEY(s->cert->pkeys[SSL_PKEY_ECC].privatekey);
2453
2454                     curve = EC_GROUP_get_curve_name(EC_KEY_get0_group(ec));
2455                     if (EC_KEY_get_conv_form(ec)
2456                         != POINT_CONVERSION_UNCOMPRESSED)
2457                         skip_ec = 1;
2458                 }
2459                 if (skip_ec || (lu->curve != NID_undef && curve != lu->curve))
2460                     continue;
2461 #else
2462                 continue;
2463 #endif
2464             } else if (lu->sig == EVP_PKEY_RSA_PSS) {
2465                 /* validate that key is large enough for the signature algorithm */
2466                 EVP_PKEY *pkey;
2467
2468                 pkey = s->cert->pkeys[lu->sig_idx].privatekey;
2469                 if (!rsa_pss_check_min_key_size(EVP_PKEY_get0(pkey), lu))
2470                     continue;
2471             }
2472             break;
2473         }
2474         if (i == s->cert->shared_sigalgslen) {
2475             if (!fatalerrs)
2476                 return 1;
2477             SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE, SSL_F_TLS_CHOOSE_SIGALG,
2478                      SSL_R_NO_SUITABLE_SIGNATURE_ALGORITHM);
2479             return 0;
2480         }
2481     } else {
2482         /* If ciphersuite doesn't require a cert nothing to do */
2483         if (!(s->s3->tmp.new_cipher->algorithm_auth & SSL_aCERT))
2484             return 1;
2485         if (!s->server && !ssl_has_cert(s, s->cert->key - s->cert->pkeys))
2486                 return 1;
2487
2488         if (SSL_USE_SIGALGS(s)) {
2489             size_t i;
2490             if (s->s3->tmp.peer_sigalgs != NULL) {
2491 #ifndef OPENSSL_NO_EC
2492                 int curve;
2493
2494                 /* For Suite B need to match signature algorithm to curve */
2495                 if (tls1_suiteb(s)) {
2496                     EC_KEY *ec = EVP_PKEY_get0_EC_KEY(s->cert->pkeys[SSL_PKEY_ECC].privatekey);
2497                     curve = EC_GROUP_get_curve_name(EC_KEY_get0_group(ec));
2498                 } else {
2499                     curve = -1;
2500                 }
2501 #endif
2502
2503                 /*
2504                  * Find highest preference signature algorithm matching
2505                  * cert type
2506                  */
2507                 for (i = 0; i < s->cert->shared_sigalgslen; i++) {
2508                     lu = s->cert->shared_sigalgs[i];
2509
2510                     if (s->server) {
2511                         if ((sig_idx = tls12_get_cert_sigalg_idx(s, lu)) == -1)
2512                             continue;
2513                     } else {
2514                         int cc_idx = s->cert->key - s->cert->pkeys;
2515
2516                         sig_idx = lu->sig_idx;
2517                         if (cc_idx != sig_idx)
2518                             continue;
2519                     }
2520                     /* Check that we have a cert, and sig_algs_cert */
2521                     if (!has_usable_cert(s, lu, sig_idx))
2522                         continue;
2523                     if (lu->sig == EVP_PKEY_RSA_PSS) {
2524                         /* validate that key is large enough for the signature algorithm */
2525                         EVP_PKEY *pkey = s->cert->pkeys[sig_idx].privatekey;
2526
2527                         if (!rsa_pss_check_min_key_size(EVP_PKEY_get0(pkey), lu))
2528                             continue;
2529                     }
2530 #ifndef OPENSSL_NO_EC
2531                     if (curve == -1 || lu->curve == curve)
2532 #endif
2533                         break;
2534                 }
2535                 if (i == s->cert->shared_sigalgslen) {
2536                     if (!fatalerrs)
2537                         return 1;
2538                     SSLfatal(s, SSL_AD_INTERNAL_ERROR, SSL_F_TLS_CHOOSE_SIGALG,
2539                              ERR_R_INTERNAL_ERROR);
2540                     return 0;
2541                 }
2542             } else {
2543                 /*
2544                  * If we have no sigalg use defaults
2545                  */
2546                 const uint16_t *sent_sigs;
2547                 size_t sent_sigslen;
2548
2549                 if ((lu = tls1_get_legacy_sigalg(s, -1)) == NULL) {
2550                     if (!fatalerrs)
2551                         return 1;
2552                     SSLfatal(s, SSL_AD_INTERNAL_ERROR, SSL_F_TLS_CHOOSE_SIGALG,
2553                              ERR_R_INTERNAL_ERROR);
2554                     return 0;
2555                 }
2556
2557                 /* Check signature matches a type we sent */
2558                 sent_sigslen = tls12_get_psigalgs(s, 1, &sent_sigs);
2559                 for (i = 0; i < sent_sigslen; i++, sent_sigs++) {
2560                     if (lu->sigalg == *sent_sigs
2561                             && has_usable_cert(s, lu, lu->sig_idx))
2562                         break;
2563                 }
2564                 if (i == sent_sigslen) {
2565                     if (!fatalerrs)
2566                         return 1;
2567                     SSLfatal(s, SSL_AD_ILLEGAL_PARAMETER,
2568                              SSL_F_TLS_CHOOSE_SIGALG,
2569                              SSL_R_WRONG_SIGNATURE_TYPE);
2570                     return 0;
2571                 }
2572             }
2573         } else {
2574             if ((lu = tls1_get_legacy_sigalg(s, -1)) == NULL) {
2575                 if (!fatalerrs)
2576                     return 1;
2577                 SSLfatal(s, SSL_AD_INTERNAL_ERROR, SSL_F_TLS_CHOOSE_SIGALG,
2578                          ERR_R_INTERNAL_ERROR);
2579                 return 0;
2580             }
2581         }
2582     }
2583     if (sig_idx == -1)
2584         sig_idx = lu->sig_idx;
2585     s->s3->tmp.cert = &s->cert->pkeys[sig_idx];
2586     s->cert->key = s->s3->tmp.cert;
2587     s->s3->tmp.sigalg = lu;
2588     return 1;
2589 }
2590
2591 int SSL_CTX_set_tlsext_max_fragment_length(SSL_CTX *ctx, uint8_t mode)
2592 {
2593     if (mode != TLSEXT_max_fragment_length_DISABLED
2594             && !IS_MAX_FRAGMENT_LENGTH_EXT_VALID(mode)) {
2595         SSLerr(SSL_F_SSL_CTX_SET_TLSEXT_MAX_FRAGMENT_LENGTH,
2596                SSL_R_SSL3_EXT_INVALID_MAX_FRAGMENT_LENGTH);
2597         return 0;
2598     }
2599
2600     ctx->ext.max_fragment_len_mode = mode;
2601     return 1;
2602 }
2603
2604 int SSL_set_tlsext_max_fragment_length(SSL *ssl, uint8_t mode)
2605 {
2606     if (mode != TLSEXT_max_fragment_length_DISABLED
2607             && !IS_MAX_FRAGMENT_LENGTH_EXT_VALID(mode)) {
2608         SSLerr(SSL_F_SSL_SET_TLSEXT_MAX_FRAGMENT_LENGTH,
2609                SSL_R_SSL3_EXT_INVALID_MAX_FRAGMENT_LENGTH);
2610         return 0;
2611     }
2612
2613     ssl->ext.max_fragment_len_mode = mode;
2614     return 1;
2615 }
2616
2617 uint8_t SSL_SESSION_get_max_fragment_length(const SSL_SESSION *session)
2618 {
2619     return session->ext.max_fragment_len_mode;
2620 }