6f4923d5b6687b07d6c706447bbfe530f6f3b619
[openssl.git] / ssl / t1_lib.c
1 /*
2  * Copyright 1995-2018 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the OpenSSL license (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #include <stdio.h>
11 #include <stdlib.h>
12 #include <openssl/objects.h>
13 #include <openssl/evp.h>
14 #include <openssl/hmac.h>
15 #include <openssl/ocsp.h>
16 #include <openssl/conf.h>
17 #include <openssl/x509v3.h>
18 #include <openssl/dh.h>
19 #include <openssl/bn.h>
20 #include "internal/nelem.h"
21 #include "ssl_locl.h"
22 #include <openssl/ct.h>
23
24 SSL3_ENC_METHOD const TLSv1_enc_data = {
25     tls1_enc,
26     tls1_mac,
27     tls1_setup_key_block,
28     tls1_generate_master_secret,
29     tls1_change_cipher_state,
30     tls1_final_finish_mac,
31     TLS_MD_CLIENT_FINISH_CONST, TLS_MD_CLIENT_FINISH_CONST_SIZE,
32     TLS_MD_SERVER_FINISH_CONST, TLS_MD_SERVER_FINISH_CONST_SIZE,
33     tls1_alert_code,
34     tls1_export_keying_material,
35     0,
36     ssl3_set_handshake_header,
37     tls_close_construct_packet,
38     ssl3_handshake_write
39 };
40
41 SSL3_ENC_METHOD const TLSv1_1_enc_data = {
42     tls1_enc,
43     tls1_mac,
44     tls1_setup_key_block,
45     tls1_generate_master_secret,
46     tls1_change_cipher_state,
47     tls1_final_finish_mac,
48     TLS_MD_CLIENT_FINISH_CONST, TLS_MD_CLIENT_FINISH_CONST_SIZE,
49     TLS_MD_SERVER_FINISH_CONST, TLS_MD_SERVER_FINISH_CONST_SIZE,
50     tls1_alert_code,
51     tls1_export_keying_material,
52     SSL_ENC_FLAG_EXPLICIT_IV,
53     ssl3_set_handshake_header,
54     tls_close_construct_packet,
55     ssl3_handshake_write
56 };
57
58 SSL3_ENC_METHOD const TLSv1_2_enc_data = {
59     tls1_enc,
60     tls1_mac,
61     tls1_setup_key_block,
62     tls1_generate_master_secret,
63     tls1_change_cipher_state,
64     tls1_final_finish_mac,
65     TLS_MD_CLIENT_FINISH_CONST, TLS_MD_CLIENT_FINISH_CONST_SIZE,
66     TLS_MD_SERVER_FINISH_CONST, TLS_MD_SERVER_FINISH_CONST_SIZE,
67     tls1_alert_code,
68     tls1_export_keying_material,
69     SSL_ENC_FLAG_EXPLICIT_IV | SSL_ENC_FLAG_SIGALGS | SSL_ENC_FLAG_SHA256_PRF
70         | SSL_ENC_FLAG_TLS1_2_CIPHERS,
71     ssl3_set_handshake_header,
72     tls_close_construct_packet,
73     ssl3_handshake_write
74 };
75
76 SSL3_ENC_METHOD const TLSv1_3_enc_data = {
77     tls13_enc,
78     tls1_mac,
79     tls13_setup_key_block,
80     tls13_generate_master_secret,
81     tls13_change_cipher_state,
82     tls13_final_finish_mac,
83     TLS_MD_CLIENT_FINISH_CONST, TLS_MD_CLIENT_FINISH_CONST_SIZE,
84     TLS_MD_SERVER_FINISH_CONST, TLS_MD_SERVER_FINISH_CONST_SIZE,
85     tls13_alert_code,
86     tls13_export_keying_material,
87     SSL_ENC_FLAG_SIGALGS | SSL_ENC_FLAG_SHA256_PRF,
88     ssl3_set_handshake_header,
89     tls_close_construct_packet,
90     ssl3_handshake_write
91 };
92
93 long tls1_default_timeout(void)
94 {
95     /*
96      * 2 hours, the 24 hours mentioned in the TLSv1 spec is way too long for
97      * http, the cache would over fill
98      */
99     return (60 * 60 * 2);
100 }
101
102 int tls1_new(SSL *s)
103 {
104     if (!ssl3_new(s))
105         return 0;
106     if (!s->method->ssl_clear(s))
107         return 0;
108
109     return 1;
110 }
111
112 void tls1_free(SSL *s)
113 {
114     OPENSSL_free(s->ext.session_ticket);
115     ssl3_free(s);
116 }
117
118 int tls1_clear(SSL *s)
119 {
120     if (!ssl3_clear(s))
121         return 0;
122
123     if (s->method->version == TLS_ANY_VERSION)
124         s->version = TLS_MAX_VERSION;
125     else
126         s->version = s->method->version;
127
128     return 1;
129 }
130
131 #ifndef OPENSSL_NO_EC
132
133 /*
134  * Table of curve information.
135  * Do not delete entries or reorder this array! It is used as a lookup
136  * table: the index of each entry is one less than the TLS curve id.
137  */
138 static const TLS_GROUP_INFO nid_list[] = {
139     {NID_sect163k1, 80, TLS_CURVE_CHAR2}, /* sect163k1 (1) */
140     {NID_sect163r1, 80, TLS_CURVE_CHAR2}, /* sect163r1 (2) */
141     {NID_sect163r2, 80, TLS_CURVE_CHAR2}, /* sect163r2 (3) */
142     {NID_sect193r1, 80, TLS_CURVE_CHAR2}, /* sect193r1 (4) */
143     {NID_sect193r2, 80, TLS_CURVE_CHAR2}, /* sect193r2 (5) */
144     {NID_sect233k1, 112, TLS_CURVE_CHAR2}, /* sect233k1 (6) */
145     {NID_sect233r1, 112, TLS_CURVE_CHAR2}, /* sect233r1 (7) */
146     {NID_sect239k1, 112, TLS_CURVE_CHAR2}, /* sect239k1 (8) */
147     {NID_sect283k1, 128, TLS_CURVE_CHAR2}, /* sect283k1 (9) */
148     {NID_sect283r1, 128, TLS_CURVE_CHAR2}, /* sect283r1 (10) */
149     {NID_sect409k1, 192, TLS_CURVE_CHAR2}, /* sect409k1 (11) */
150     {NID_sect409r1, 192, TLS_CURVE_CHAR2}, /* sect409r1 (12) */
151     {NID_sect571k1, 256, TLS_CURVE_CHAR2}, /* sect571k1 (13) */
152     {NID_sect571r1, 256, TLS_CURVE_CHAR2}, /* sect571r1 (14) */
153     {NID_secp160k1, 80, TLS_CURVE_PRIME}, /* secp160k1 (15) */
154     {NID_secp160r1, 80, TLS_CURVE_PRIME}, /* secp160r1 (16) */
155     {NID_secp160r2, 80, TLS_CURVE_PRIME}, /* secp160r2 (17) */
156     {NID_secp192k1, 80, TLS_CURVE_PRIME}, /* secp192k1 (18) */
157     {NID_X9_62_prime192v1, 80, TLS_CURVE_PRIME}, /* secp192r1 (19) */
158     {NID_secp224k1, 112, TLS_CURVE_PRIME}, /* secp224k1 (20) */
159     {NID_secp224r1, 112, TLS_CURVE_PRIME}, /* secp224r1 (21) */
160     {NID_secp256k1, 128, TLS_CURVE_PRIME}, /* secp256k1 (22) */
161     {NID_X9_62_prime256v1, 128, TLS_CURVE_PRIME}, /* secp256r1 (23) */
162     {NID_secp384r1, 192, TLS_CURVE_PRIME}, /* secp384r1 (24) */
163     {NID_secp521r1, 256, TLS_CURVE_PRIME}, /* secp521r1 (25) */
164     {NID_brainpoolP256r1, 128, TLS_CURVE_PRIME}, /* brainpoolP256r1 (26) */
165     {NID_brainpoolP384r1, 192, TLS_CURVE_PRIME}, /* brainpoolP384r1 (27) */
166     {NID_brainpoolP512r1, 256, TLS_CURVE_PRIME}, /* brainpool512r1 (28) */
167     {EVP_PKEY_X25519, 128, TLS_CURVE_CUSTOM}, /* X25519 (29) */
168     {EVP_PKEY_X448, 224, TLS_CURVE_CUSTOM}, /* X448 (30) */
169 };
170
171 static const unsigned char ecformats_default[] = {
172     TLSEXT_ECPOINTFORMAT_uncompressed,
173     TLSEXT_ECPOINTFORMAT_ansiX962_compressed_prime,
174     TLSEXT_ECPOINTFORMAT_ansiX962_compressed_char2
175 };
176
177 /* The default curves */
178 static const uint16_t eccurves_default[] = {
179     29,                      /* X25519 (29) */
180     23,                      /* secp256r1 (23) */
181     30,                      /* X448 (30) */
182     25,                      /* secp521r1 (25) */
183     24,                      /* secp384r1 (24) */
184 };
185
186 static const uint16_t suiteb_curves[] = {
187     TLSEXT_curve_P_256,
188     TLSEXT_curve_P_384
189 };
190
191 const TLS_GROUP_INFO *tls1_group_id_lookup(uint16_t group_id)
192 {
193     /* ECC curves from RFC 4492 and RFC 7027 */
194     if (group_id < 1 || group_id > OSSL_NELEM(nid_list))
195         return NULL;
196     return &nid_list[group_id - 1];
197 }
198
199 static uint16_t tls1_nid2group_id(int nid)
200 {
201     size_t i;
202     for (i = 0; i < OSSL_NELEM(nid_list); i++) {
203         if (nid_list[i].nid == nid)
204             return (uint16_t)(i + 1);
205     }
206     return 0;
207 }
208
209 /*
210  * Set *pgroups to the supported groups list and *pgroupslen to
211  * the number of groups supported.
212  */
213 void tls1_get_supported_groups(SSL *s, const uint16_t **pgroups,
214                                size_t *pgroupslen)
215 {
216
217     /* For Suite B mode only include P-256, P-384 */
218     switch (tls1_suiteb(s)) {
219     case SSL_CERT_FLAG_SUITEB_128_LOS:
220         *pgroups = suiteb_curves;
221         *pgroupslen = OSSL_NELEM(suiteb_curves);
222         break;
223
224     case SSL_CERT_FLAG_SUITEB_128_LOS_ONLY:
225         *pgroups = suiteb_curves;
226         *pgroupslen = 1;
227         break;
228
229     case SSL_CERT_FLAG_SUITEB_192_LOS:
230         *pgroups = suiteb_curves + 1;
231         *pgroupslen = 1;
232         break;
233
234     default:
235         if (s->ext.supportedgroups == NULL) {
236             *pgroups = eccurves_default;
237             *pgroupslen = OSSL_NELEM(eccurves_default);
238         } else {
239             *pgroups = s->ext.supportedgroups;
240             *pgroupslen = s->ext.supportedgroups_len;
241         }
242         break;
243     }
244 }
245
246 /* See if curve is allowed by security callback */
247 int tls_curve_allowed(SSL *s, uint16_t curve, int op)
248 {
249     const TLS_GROUP_INFO *cinfo = tls1_group_id_lookup(curve);
250     unsigned char ctmp[2];
251
252     if (cinfo == NULL)
253         return 0;
254 # ifdef OPENSSL_NO_EC2M
255     if (cinfo->flags & TLS_CURVE_CHAR2)
256         return 0;
257 # endif
258     ctmp[0] = curve >> 8;
259     ctmp[1] = curve & 0xff;
260     return ssl_security(s, op, cinfo->secbits, cinfo->nid, (void *)ctmp);
261 }
262
263 /* Return 1 if "id" is in "list" */
264 static int tls1_in_list(uint16_t id, const uint16_t *list, size_t listlen)
265 {
266     size_t i;
267     for (i = 0; i < listlen; i++)
268         if (list[i] == id)
269             return 1;
270     return 0;
271 }
272
273 /*-
274  * For nmatch >= 0, return the id of the |nmatch|th shared group or 0
275  * if there is no match.
276  * For nmatch == -1, return number of matches
277  * For nmatch == -2, return the id of the group to use for
278  * a tmp key, or 0 if there is no match.
279  */
280 uint16_t tls1_shared_group(SSL *s, int nmatch)
281 {
282     const uint16_t *pref, *supp;
283     size_t num_pref, num_supp, i;
284     int k;
285
286     /* Can't do anything on client side */
287     if (s->server == 0)
288         return 0;
289     if (nmatch == -2) {
290         if (tls1_suiteb(s)) {
291             /*
292              * For Suite B ciphersuite determines curve: we already know
293              * these are acceptable due to previous checks.
294              */
295             unsigned long cid = s->s3->tmp.new_cipher->id;
296
297             if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_128_GCM_SHA256)
298                 return TLSEXT_curve_P_256;
299             if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_256_GCM_SHA384)
300                 return TLSEXT_curve_P_384;
301             /* Should never happen */
302             return 0;
303         }
304         /* If not Suite B just return first preference shared curve */
305         nmatch = 0;
306     }
307     /*
308      * If server preference set, our groups are the preference order
309      * otherwise peer decides.
310      */
311     if (s->options & SSL_OP_CIPHER_SERVER_PREFERENCE) {
312         tls1_get_supported_groups(s, &pref, &num_pref);
313         tls1_get_peer_groups(s, &supp, &num_supp);
314     } else {
315         tls1_get_peer_groups(s, &pref, &num_pref);
316         tls1_get_supported_groups(s, &supp, &num_supp);
317     }
318
319     for (k = 0, i = 0; i < num_pref; i++) {
320         uint16_t id = pref[i];
321
322         if (!tls1_in_list(id, supp, num_supp)
323             || !tls_curve_allowed(s, id, SSL_SECOP_CURVE_SHARED))
324                     continue;
325         if (nmatch == k)
326             return id;
327          k++;
328     }
329     if (nmatch == -1)
330         return k;
331     /* Out of range (nmatch > k). */
332     return 0;
333 }
334
335 int tls1_set_groups(uint16_t **pext, size_t *pextlen,
336                     int *groups, size_t ngroups)
337 {
338     uint16_t *glist;
339     size_t i;
340     /*
341      * Bitmap of groups included to detect duplicates: only works while group
342      * ids < 32
343      */
344     unsigned long dup_list = 0;
345
346     if ((glist = OPENSSL_malloc(ngroups * sizeof(*glist))) == NULL) {
347         SSLerr(SSL_F_TLS1_SET_GROUPS, ERR_R_MALLOC_FAILURE);
348         return 0;
349     }
350     for (i = 0; i < ngroups; i++) {
351         unsigned long idmask;
352         uint16_t id;
353         /* TODO(TLS1.3): Convert for DH groups */
354         id = tls1_nid2group_id(groups[i]);
355         idmask = 1L << id;
356         if (!id || (dup_list & idmask)) {
357             OPENSSL_free(glist);
358             return 0;
359         }
360         dup_list |= idmask;
361         glist[i] = id;
362     }
363     OPENSSL_free(*pext);
364     *pext = glist;
365     *pextlen = ngroups;
366     return 1;
367 }
368
369 # define MAX_CURVELIST   OSSL_NELEM(nid_list)
370
371 typedef struct {
372     size_t nidcnt;
373     int nid_arr[MAX_CURVELIST];
374 } nid_cb_st;
375
376 static int nid_cb(const char *elem, int len, void *arg)
377 {
378     nid_cb_st *narg = arg;
379     size_t i;
380     int nid;
381     char etmp[20];
382     if (elem == NULL)
383         return 0;
384     if (narg->nidcnt == MAX_CURVELIST)
385         return 0;
386     if (len > (int)(sizeof(etmp) - 1))
387         return 0;
388     memcpy(etmp, elem, len);
389     etmp[len] = 0;
390     nid = EC_curve_nist2nid(etmp);
391     if (nid == NID_undef)
392         nid = OBJ_sn2nid(etmp);
393     if (nid == NID_undef)
394         nid = OBJ_ln2nid(etmp);
395     if (nid == NID_undef)
396         return 0;
397     for (i = 0; i < narg->nidcnt; i++)
398         if (narg->nid_arr[i] == nid)
399             return 0;
400     narg->nid_arr[narg->nidcnt++] = nid;
401     return 1;
402 }
403
404 /* Set groups based on a colon separate list */
405 int tls1_set_groups_list(uint16_t **pext, size_t *pextlen, const char *str)
406 {
407     nid_cb_st ncb;
408     ncb.nidcnt = 0;
409     if (!CONF_parse_list(str, ':', 1, nid_cb, &ncb))
410         return 0;
411     if (pext == NULL)
412         return 1;
413     return tls1_set_groups(pext, pextlen, ncb.nid_arr, ncb.nidcnt);
414 }
415 /* Return group id of a key */
416 static uint16_t tls1_get_group_id(EVP_PKEY *pkey)
417 {
418     EC_KEY *ec = EVP_PKEY_get0_EC_KEY(pkey);
419     const EC_GROUP *grp;
420
421     if (ec == NULL)
422         return 0;
423     grp = EC_KEY_get0_group(ec);
424     return tls1_nid2group_id(EC_GROUP_get_curve_name(grp));
425 }
426
427 /* Check a key is compatible with compression extension */
428 static int tls1_check_pkey_comp(SSL *s, EVP_PKEY *pkey)
429 {
430     const EC_KEY *ec;
431     const EC_GROUP *grp;
432     unsigned char comp_id;
433     size_t i;
434
435     /* If not an EC key nothing to check */
436     if (EVP_PKEY_id(pkey) != EVP_PKEY_EC)
437         return 1;
438     ec = EVP_PKEY_get0_EC_KEY(pkey);
439     grp = EC_KEY_get0_group(ec);
440
441     /* Get required compression id */
442     if (EC_KEY_get_conv_form(ec) == POINT_CONVERSION_UNCOMPRESSED) {
443             comp_id = TLSEXT_ECPOINTFORMAT_uncompressed;
444     } else if (SSL_IS_TLS13(s)) {
445             /*
446              * ec_point_formats extension is not used in TLSv1.3 so we ignore
447              * this check.
448              */
449             return 1;
450     } else {
451         int field_type = EC_METHOD_get_field_type(EC_GROUP_method_of(grp));
452
453         if (field_type == NID_X9_62_prime_field)
454             comp_id = TLSEXT_ECPOINTFORMAT_ansiX962_compressed_prime;
455         else if (field_type == NID_X9_62_characteristic_two_field)
456             comp_id = TLSEXT_ECPOINTFORMAT_ansiX962_compressed_char2;
457         else
458             return 0;
459     }
460     /*
461      * If point formats extension present check it, otherwise everything is
462      * supported (see RFC4492).
463      */
464     if (s->session->ext.ecpointformats == NULL)
465         return 1;
466
467     for (i = 0; i < s->session->ext.ecpointformats_len; i++) {
468         if (s->session->ext.ecpointformats[i] == comp_id)
469             return 1;
470     }
471     return 0;
472 }
473
474 /* Check a group id matches preferences */
475 int tls1_check_group_id(SSL *s, uint16_t group_id, int check_own_groups)
476     {
477     const uint16_t *groups;
478     size_t groups_len;
479
480     if (group_id == 0)
481         return 0;
482
483     /* Check for Suite B compliance */
484     if (tls1_suiteb(s) && s->s3->tmp.new_cipher != NULL) {
485         unsigned long cid = s->s3->tmp.new_cipher->id;
486
487         if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_128_GCM_SHA256) {
488             if (group_id != TLSEXT_curve_P_256)
489                 return 0;
490         } else if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_256_GCM_SHA384) {
491             if (group_id != TLSEXT_curve_P_384)
492                 return 0;
493         } else {
494             /* Should never happen */
495             return 0;
496         }
497     }
498
499     if (check_own_groups) {
500         /* Check group is one of our preferences */
501         tls1_get_supported_groups(s, &groups, &groups_len);
502         if (!tls1_in_list(group_id, groups, groups_len))
503             return 0;
504     }
505
506     if (!tls_curve_allowed(s, group_id, SSL_SECOP_CURVE_CHECK))
507         return 0;
508
509     /* For clients, nothing more to check */
510     if (!s->server)
511         return 1;
512
513     /* Check group is one of peers preferences */
514     tls1_get_peer_groups(s, &groups, &groups_len);
515
516     /*
517      * RFC 4492 does not require the supported elliptic curves extension
518      * so if it is not sent we can just choose any curve.
519      * It is invalid to send an empty list in the supported groups
520      * extension, so groups_len == 0 always means no extension.
521      */
522     if (groups_len == 0)
523             return 1;
524     return tls1_in_list(group_id, groups, groups_len);
525 }
526
527 void tls1_get_formatlist(SSL *s, const unsigned char **pformats,
528                          size_t *num_formats)
529 {
530     /*
531      * If we have a custom point format list use it otherwise use default
532      */
533     if (s->ext.ecpointformats) {
534         *pformats = s->ext.ecpointformats;
535         *num_formats = s->ext.ecpointformats_len;
536     } else {
537         *pformats = ecformats_default;
538         /* For Suite B we don't support char2 fields */
539         if (tls1_suiteb(s))
540             *num_formats = sizeof(ecformats_default) - 1;
541         else
542             *num_formats = sizeof(ecformats_default);
543     }
544 }
545
546 /*
547  * Check cert parameters compatible with extensions: currently just checks EC
548  * certificates have compatible curves and compression.
549  */
550 static int tls1_check_cert_param(SSL *s, X509 *x, int check_ee_md)
551 {
552     uint16_t group_id;
553     EVP_PKEY *pkey;
554     pkey = X509_get0_pubkey(x);
555     if (pkey == NULL)
556         return 0;
557     /* If not EC nothing to do */
558     if (EVP_PKEY_id(pkey) != EVP_PKEY_EC)
559         return 1;
560     /* Check compression */
561     if (!tls1_check_pkey_comp(s, pkey))
562         return 0;
563     group_id = tls1_get_group_id(pkey);
564     /*
565      * For a server we allow the certificate to not be in our list of supported
566      * groups.
567      */
568     if (!tls1_check_group_id(s, group_id, !s->server))
569         return 0;
570     /*
571      * Special case for suite B. We *MUST* sign using SHA256+P-256 or
572      * SHA384+P-384.
573      */
574     if (check_ee_md && tls1_suiteb(s)) {
575         int check_md;
576         size_t i;
577         CERT *c = s->cert;
578
579         /* Check to see we have necessary signing algorithm */
580         if (group_id == TLSEXT_curve_P_256)
581             check_md = NID_ecdsa_with_SHA256;
582         else if (group_id == TLSEXT_curve_P_384)
583             check_md = NID_ecdsa_with_SHA384;
584         else
585             return 0;           /* Should never happen */
586         for (i = 0; i < c->shared_sigalgslen; i++) {
587             if (check_md == c->shared_sigalgs[i]->sigandhash)
588                 return 1;;
589         }
590         return 0;
591     }
592     return 1;
593 }
594
595 /*
596  * tls1_check_ec_tmp_key - Check EC temporary key compatibility
597  * @s: SSL connection
598  * @cid: Cipher ID we're considering using
599  *
600  * Checks that the kECDHE cipher suite we're considering using
601  * is compatible with the client extensions.
602  *
603  * Returns 0 when the cipher can't be used or 1 when it can.
604  */
605 int tls1_check_ec_tmp_key(SSL *s, unsigned long cid)
606 {
607     /* If not Suite B just need a shared group */
608     if (!tls1_suiteb(s))
609         return tls1_shared_group(s, 0) != 0;
610     /*
611      * If Suite B, AES128 MUST use P-256 and AES256 MUST use P-384, no other
612      * curves permitted.
613      */
614     if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_128_GCM_SHA256)
615         return tls1_check_group_id(s, TLSEXT_curve_P_256, 1);
616     if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_256_GCM_SHA384)
617         return tls1_check_group_id(s, TLSEXT_curve_P_384, 1);
618
619     return 0;
620 }
621
622 #else
623
624 static int tls1_check_cert_param(SSL *s, X509 *x, int set_ee_md)
625 {
626     return 1;
627 }
628
629 #endif                          /* OPENSSL_NO_EC */
630
631 /* Default sigalg schemes */
632 static const uint16_t tls12_sigalgs[] = {
633 #ifndef OPENSSL_NO_EC
634     TLSEXT_SIGALG_ecdsa_secp256r1_sha256,
635     TLSEXT_SIGALG_ecdsa_secp384r1_sha384,
636     TLSEXT_SIGALG_ecdsa_secp521r1_sha512,
637     TLSEXT_SIGALG_ed25519,
638     TLSEXT_SIGALG_ed448,
639 #endif
640
641     TLSEXT_SIGALG_rsa_pss_pss_sha256,
642     TLSEXT_SIGALG_rsa_pss_pss_sha384,
643     TLSEXT_SIGALG_rsa_pss_pss_sha512,
644     TLSEXT_SIGALG_rsa_pss_rsae_sha256,
645     TLSEXT_SIGALG_rsa_pss_rsae_sha384,
646     TLSEXT_SIGALG_rsa_pss_rsae_sha512,
647
648     TLSEXT_SIGALG_rsa_pkcs1_sha256,
649     TLSEXT_SIGALG_rsa_pkcs1_sha384,
650     TLSEXT_SIGALG_rsa_pkcs1_sha512,
651
652 #ifndef OPENSSL_NO_EC
653     TLSEXT_SIGALG_ecdsa_sha224,
654     TLSEXT_SIGALG_ecdsa_sha1,
655 #endif
656     TLSEXT_SIGALG_rsa_pkcs1_sha224,
657     TLSEXT_SIGALG_rsa_pkcs1_sha1,
658 #ifndef OPENSSL_NO_DSA
659     TLSEXT_SIGALG_dsa_sha224,
660     TLSEXT_SIGALG_dsa_sha1,
661
662     TLSEXT_SIGALG_dsa_sha256,
663     TLSEXT_SIGALG_dsa_sha384,
664     TLSEXT_SIGALG_dsa_sha512
665 #endif
666 };
667
668 #ifndef OPENSSL_NO_EC
669 static const uint16_t suiteb_sigalgs[] = {
670     TLSEXT_SIGALG_ecdsa_secp256r1_sha256,
671     TLSEXT_SIGALG_ecdsa_secp384r1_sha384
672 };
673 #endif
674
675 static const SIGALG_LOOKUP sigalg_lookup_tbl[] = {
676 #ifndef OPENSSL_NO_EC
677     {"ecdsa_secp256r1_sha256", TLSEXT_SIGALG_ecdsa_secp256r1_sha256,
678      NID_sha256, SSL_MD_SHA256_IDX, EVP_PKEY_EC, SSL_PKEY_ECC,
679      NID_ecdsa_with_SHA256, NID_X9_62_prime256v1},
680     {"ecdsa_secp384r1_sha384", TLSEXT_SIGALG_ecdsa_secp384r1_sha384,
681      NID_sha384, SSL_MD_SHA384_IDX, EVP_PKEY_EC, SSL_PKEY_ECC,
682      NID_ecdsa_with_SHA384, NID_secp384r1},
683     {"ecdsa_secp521r1_sha512", TLSEXT_SIGALG_ecdsa_secp521r1_sha512,
684      NID_sha512, SSL_MD_SHA512_IDX, EVP_PKEY_EC, SSL_PKEY_ECC,
685      NID_ecdsa_with_SHA512, NID_secp521r1},
686     {"ed25519", TLSEXT_SIGALG_ed25519,
687      NID_undef, -1, EVP_PKEY_ED25519, SSL_PKEY_ED25519,
688      NID_undef, NID_undef},
689     {"ed448", TLSEXT_SIGALG_ed448,
690      NID_undef, -1, EVP_PKEY_ED448, SSL_PKEY_ED448,
691      NID_undef, NID_undef},
692     {NULL, TLSEXT_SIGALG_ecdsa_sha224,
693      NID_sha224, SSL_MD_SHA224_IDX, EVP_PKEY_EC, SSL_PKEY_ECC,
694      NID_ecdsa_with_SHA224, NID_undef},
695     {NULL, TLSEXT_SIGALG_ecdsa_sha1,
696      NID_sha1, SSL_MD_SHA1_IDX, EVP_PKEY_EC, SSL_PKEY_ECC,
697      NID_ecdsa_with_SHA1, NID_undef},
698 #endif
699     {"rsa_pss_rsae_sha256", TLSEXT_SIGALG_rsa_pss_rsae_sha256,
700      NID_sha256, SSL_MD_SHA256_IDX, EVP_PKEY_RSA_PSS, SSL_PKEY_RSA,
701      NID_undef, NID_undef},
702     {"rsa_pss_rsae_sha384", TLSEXT_SIGALG_rsa_pss_rsae_sha384,
703      NID_sha384, SSL_MD_SHA384_IDX, EVP_PKEY_RSA_PSS, SSL_PKEY_RSA,
704      NID_undef, NID_undef},
705     {"rsa_pss_rsae_sha512", TLSEXT_SIGALG_rsa_pss_rsae_sha512,
706      NID_sha512, SSL_MD_SHA512_IDX, EVP_PKEY_RSA_PSS, SSL_PKEY_RSA,
707      NID_undef, NID_undef},
708     {"rsa_pss_pss_sha256", TLSEXT_SIGALG_rsa_pss_pss_sha256,
709      NID_sha256, SSL_MD_SHA256_IDX, EVP_PKEY_RSA_PSS, SSL_PKEY_RSA_PSS_SIGN,
710      NID_undef, NID_undef},
711     {"rsa_pss_pss_sha384", TLSEXT_SIGALG_rsa_pss_pss_sha384,
712      NID_sha384, SSL_MD_SHA384_IDX, EVP_PKEY_RSA_PSS, SSL_PKEY_RSA_PSS_SIGN,
713      NID_undef, NID_undef},
714     {"rsa_pss_pss_sha512", TLSEXT_SIGALG_rsa_pss_pss_sha512,
715      NID_sha512, SSL_MD_SHA512_IDX, EVP_PKEY_RSA_PSS, SSL_PKEY_RSA_PSS_SIGN,
716      NID_undef, NID_undef},
717     {"rsa_pkcs1_sha256", TLSEXT_SIGALG_rsa_pkcs1_sha256,
718      NID_sha256, SSL_MD_SHA256_IDX, EVP_PKEY_RSA, SSL_PKEY_RSA,
719      NID_sha256WithRSAEncryption, NID_undef},
720     {"rsa_pkcs1_sha384", TLSEXT_SIGALG_rsa_pkcs1_sha384,
721      NID_sha384, SSL_MD_SHA384_IDX, EVP_PKEY_RSA, SSL_PKEY_RSA,
722      NID_sha384WithRSAEncryption, NID_undef},
723     {"rsa_pkcs1_sha512", TLSEXT_SIGALG_rsa_pkcs1_sha512,
724      NID_sha512, SSL_MD_SHA512_IDX, EVP_PKEY_RSA, SSL_PKEY_RSA,
725      NID_sha512WithRSAEncryption, NID_undef},
726     {"rsa_pkcs1_sha224", TLSEXT_SIGALG_rsa_pkcs1_sha224,
727      NID_sha224, SSL_MD_SHA224_IDX, EVP_PKEY_RSA, SSL_PKEY_RSA,
728      NID_sha224WithRSAEncryption, NID_undef},
729     {"rsa_pkcs1_sha1", TLSEXT_SIGALG_rsa_pkcs1_sha1,
730      NID_sha1, SSL_MD_SHA1_IDX, EVP_PKEY_RSA, SSL_PKEY_RSA,
731      NID_sha1WithRSAEncryption, NID_undef},
732 #ifndef OPENSSL_NO_DSA
733     {NULL, TLSEXT_SIGALG_dsa_sha256,
734      NID_sha256, SSL_MD_SHA256_IDX, EVP_PKEY_DSA, SSL_PKEY_DSA_SIGN,
735      NID_dsa_with_SHA256, NID_undef},
736     {NULL, TLSEXT_SIGALG_dsa_sha384,
737      NID_sha384, SSL_MD_SHA384_IDX, EVP_PKEY_DSA, SSL_PKEY_DSA_SIGN,
738      NID_undef, NID_undef},
739     {NULL, TLSEXT_SIGALG_dsa_sha512,
740      NID_sha512, SSL_MD_SHA512_IDX, EVP_PKEY_DSA, SSL_PKEY_DSA_SIGN,
741      NID_undef, NID_undef},
742     {NULL, TLSEXT_SIGALG_dsa_sha224,
743      NID_sha224, SSL_MD_SHA224_IDX, EVP_PKEY_DSA, SSL_PKEY_DSA_SIGN,
744      NID_undef, NID_undef},
745     {NULL, TLSEXT_SIGALG_dsa_sha1,
746      NID_sha1, SSL_MD_SHA1_IDX, EVP_PKEY_DSA, SSL_PKEY_DSA_SIGN,
747      NID_dsaWithSHA1, NID_undef},
748 #endif
749 #ifndef OPENSSL_NO_GOST
750     {NULL, TLSEXT_SIGALG_gostr34102012_256_gostr34112012_256,
751      NID_id_GostR3411_2012_256, SSL_MD_GOST12_256_IDX,
752      NID_id_GostR3410_2012_256, SSL_PKEY_GOST12_256,
753      NID_undef, NID_undef},
754     {NULL, TLSEXT_SIGALG_gostr34102012_512_gostr34112012_512,
755      NID_id_GostR3411_2012_512, SSL_MD_GOST12_512_IDX,
756      NID_id_GostR3410_2012_512, SSL_PKEY_GOST12_512,
757      NID_undef, NID_undef},
758     {NULL, TLSEXT_SIGALG_gostr34102001_gostr3411,
759      NID_id_GostR3411_94, SSL_MD_GOST94_IDX,
760      NID_id_GostR3410_2001, SSL_PKEY_GOST01,
761      NID_undef, NID_undef}
762 #endif
763 };
764 /* Legacy sigalgs for TLS < 1.2 RSA TLS signatures */
765 static const SIGALG_LOOKUP legacy_rsa_sigalg = {
766     "rsa_pkcs1_md5_sha1", 0,
767      NID_md5_sha1, SSL_MD_MD5_SHA1_IDX,
768      EVP_PKEY_RSA, SSL_PKEY_RSA,
769      NID_undef, NID_undef
770 };
771
772 /*
773  * Default signature algorithm values used if signature algorithms not present.
774  * From RFC5246. Note: order must match certificate index order.
775  */
776 static const uint16_t tls_default_sigalg[] = {
777     TLSEXT_SIGALG_rsa_pkcs1_sha1, /* SSL_PKEY_RSA */
778     0, /* SSL_PKEY_RSA_PSS_SIGN */
779     TLSEXT_SIGALG_dsa_sha1, /* SSL_PKEY_DSA_SIGN */
780     TLSEXT_SIGALG_ecdsa_sha1, /* SSL_PKEY_ECC */
781     TLSEXT_SIGALG_gostr34102001_gostr3411, /* SSL_PKEY_GOST01 */
782     TLSEXT_SIGALG_gostr34102012_256_gostr34112012_256, /* SSL_PKEY_GOST12_256 */
783     TLSEXT_SIGALG_gostr34102012_512_gostr34112012_512, /* SSL_PKEY_GOST12_512 */
784     0, /* SSL_PKEY_ED25519 */
785     0, /* SSL_PKEY_ED448 */
786 };
787
788 /* Lookup TLS signature algorithm */
789 static const SIGALG_LOOKUP *tls1_lookup_sigalg(uint16_t sigalg)
790 {
791     size_t i;
792     const SIGALG_LOOKUP *s;
793
794     for (i = 0, s = sigalg_lookup_tbl; i < OSSL_NELEM(sigalg_lookup_tbl);
795          i++, s++) {
796         if (s->sigalg == sigalg)
797             return s;
798     }
799     return NULL;
800 }
801 /* Lookup hash: return 0 if invalid or not enabled */
802 int tls1_lookup_md(const SIGALG_LOOKUP *lu, const EVP_MD **pmd)
803 {
804     const EVP_MD *md;
805     if (lu == NULL)
806         return 0;
807     /* lu->hash == NID_undef means no associated digest */
808     if (lu->hash == NID_undef) {
809         md = NULL;
810     } else {
811         md = ssl_md(lu->hash_idx);
812         if (md == NULL)
813             return 0;
814     }
815     if (pmd)
816         *pmd = md;
817     return 1;
818 }
819
820 /*
821  * Check if key is large enough to generate RSA-PSS signature.
822  *
823  * The key must greater than or equal to 2 * hash length + 2.
824  * SHA512 has a hash length of 64 bytes, which is incompatible
825  * with a 128 byte (1024 bit) key.
826  */
827 #define RSA_PSS_MINIMUM_KEY_SIZE(md) (2 * EVP_MD_size(md) + 2)
828 static int rsa_pss_check_min_key_size(const RSA *rsa, const SIGALG_LOOKUP *lu)
829 {
830     const EVP_MD *md;
831
832     if (rsa == NULL)
833         return 0;
834     if (!tls1_lookup_md(lu, &md) || md == NULL)
835         return 0;
836     if (RSA_size(rsa) < RSA_PSS_MINIMUM_KEY_SIZE(md))
837         return 0;
838     return 1;
839 }
840
841 /*
842  * Return a signature algorithm for TLS < 1.2 where the signature type
843  * is fixed by the certificate type.
844  */
845 static const SIGALG_LOOKUP *tls1_get_legacy_sigalg(const SSL *s, int idx)
846 {
847     if (idx == -1) {
848         if (s->server) {
849             size_t i;
850
851             /* Work out index corresponding to ciphersuite */
852             for (i = 0; i < SSL_PKEY_NUM; i++) {
853                 const SSL_CERT_LOOKUP *clu = ssl_cert_lookup_by_idx(i);
854
855                 if (clu->amask & s->s3->tmp.new_cipher->algorithm_auth) {
856                     idx = i;
857                     break;
858                 }
859             }
860         } else {
861             idx = s->cert->key - s->cert->pkeys;
862         }
863     }
864     if (idx < 0 || idx >= (int)OSSL_NELEM(tls_default_sigalg))
865         return NULL;
866     if (SSL_USE_SIGALGS(s) || idx != SSL_PKEY_RSA) {
867         const SIGALG_LOOKUP *lu = tls1_lookup_sigalg(tls_default_sigalg[idx]);
868
869         if (!tls1_lookup_md(lu, NULL))
870             return NULL;
871         return lu;
872     }
873     return &legacy_rsa_sigalg;
874 }
875 /* Set peer sigalg based key type */
876 int tls1_set_peer_legacy_sigalg(SSL *s, const EVP_PKEY *pkey)
877 {
878     size_t idx;
879     const SIGALG_LOOKUP *lu;
880
881     if (ssl_cert_lookup_by_pkey(pkey, &idx) == NULL)
882         return 0;
883     lu = tls1_get_legacy_sigalg(s, idx);
884     if (lu == NULL)
885         return 0;
886     s->s3->tmp.peer_sigalg = lu;
887     return 1;
888 }
889
890 size_t tls12_get_psigalgs(SSL *s, int sent, const uint16_t **psigs)
891 {
892     /*
893      * If Suite B mode use Suite B sigalgs only, ignore any other
894      * preferences.
895      */
896 #ifndef OPENSSL_NO_EC
897     switch (tls1_suiteb(s)) {
898     case SSL_CERT_FLAG_SUITEB_128_LOS:
899         *psigs = suiteb_sigalgs;
900         return OSSL_NELEM(suiteb_sigalgs);
901
902     case SSL_CERT_FLAG_SUITEB_128_LOS_ONLY:
903         *psigs = suiteb_sigalgs;
904         return 1;
905
906     case SSL_CERT_FLAG_SUITEB_192_LOS:
907         *psigs = suiteb_sigalgs + 1;
908         return 1;
909     }
910 #endif
911     /*
912      *  We use client_sigalgs (if not NULL) if we're a server
913      *  and sending a certificate request or if we're a client and
914      *  determining which shared algorithm to use.
915      */
916     if ((s->server == sent) && s->cert->client_sigalgs != NULL) {
917         *psigs = s->cert->client_sigalgs;
918         return s->cert->client_sigalgslen;
919     } else if (s->cert->conf_sigalgs) {
920         *psigs = s->cert->conf_sigalgs;
921         return s->cert->conf_sigalgslen;
922     } else {
923         *psigs = tls12_sigalgs;
924         return OSSL_NELEM(tls12_sigalgs);
925     }
926 }
927
928 /*
929  * Check signature algorithm is consistent with sent supported signature
930  * algorithms and if so set relevant digest and signature scheme in
931  * s.
932  */
933 int tls12_check_peer_sigalg(SSL *s, uint16_t sig, EVP_PKEY *pkey)
934 {
935     const uint16_t *sent_sigs;
936     const EVP_MD *md = NULL;
937     char sigalgstr[2];
938     size_t sent_sigslen, i;
939     int pkeyid = EVP_PKEY_id(pkey);
940     const SIGALG_LOOKUP *lu;
941
942     /* Should never happen */
943     if (pkeyid == -1)
944         return -1;
945     if (SSL_IS_TLS13(s)) {
946         /* Disallow DSA for TLS 1.3 */
947         if (pkeyid == EVP_PKEY_DSA) {
948             SSLfatal(s, SSL_AD_ILLEGAL_PARAMETER, SSL_F_TLS12_CHECK_PEER_SIGALG,
949                      SSL_R_WRONG_SIGNATURE_TYPE);
950             return 0;
951         }
952         /* Only allow PSS for TLS 1.3 */
953         if (pkeyid == EVP_PKEY_RSA)
954             pkeyid = EVP_PKEY_RSA_PSS;
955     }
956     lu = tls1_lookup_sigalg(sig);
957     /*
958      * Check sigalgs is known. Disallow SHA1/SHA224 with TLS 1.3. Check key type
959      * is consistent with signature: RSA keys can be used for RSA-PSS
960      */
961     if (lu == NULL
962         || (SSL_IS_TLS13(s) && (lu->hash == NID_sha1 || lu->hash == NID_sha224))
963         || (pkeyid != lu->sig
964         && (lu->sig != EVP_PKEY_RSA_PSS || pkeyid != EVP_PKEY_RSA))) {
965         SSLfatal(s, SSL_AD_ILLEGAL_PARAMETER, SSL_F_TLS12_CHECK_PEER_SIGALG,
966                  SSL_R_WRONG_SIGNATURE_TYPE);
967         return 0;
968     }
969 #ifndef OPENSSL_NO_EC
970     if (pkeyid == EVP_PKEY_EC) {
971
972         /* Check point compression is permitted */
973         if (!tls1_check_pkey_comp(s, pkey)) {
974             SSLfatal(s, SSL_AD_ILLEGAL_PARAMETER,
975                      SSL_F_TLS12_CHECK_PEER_SIGALG,
976                      SSL_R_ILLEGAL_POINT_COMPRESSION);
977             return 0;
978         }
979
980         /* For TLS 1.3 or Suite B check curve matches signature algorithm */
981         if (SSL_IS_TLS13(s) || tls1_suiteb(s)) {
982             EC_KEY *ec = EVP_PKEY_get0_EC_KEY(pkey);
983             int curve = EC_GROUP_get_curve_name(EC_KEY_get0_group(ec));
984
985             if (lu->curve != NID_undef && curve != lu->curve) {
986                 SSLfatal(s, SSL_AD_ILLEGAL_PARAMETER,
987                          SSL_F_TLS12_CHECK_PEER_SIGALG, SSL_R_WRONG_CURVE);
988                 return 0;
989             }
990         }
991         if (!SSL_IS_TLS13(s)) {
992             /* Check curve matches extensions */
993             if (!tls1_check_group_id(s, tls1_get_group_id(pkey), 1)) {
994                 SSLfatal(s, SSL_AD_ILLEGAL_PARAMETER,
995                          SSL_F_TLS12_CHECK_PEER_SIGALG, SSL_R_WRONG_CURVE);
996                 return 0;
997             }
998             if (tls1_suiteb(s)) {
999                 /* Check sigalg matches a permissible Suite B value */
1000                 if (sig != TLSEXT_SIGALG_ecdsa_secp256r1_sha256
1001                     && sig != TLSEXT_SIGALG_ecdsa_secp384r1_sha384) {
1002                     SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE,
1003                              SSL_F_TLS12_CHECK_PEER_SIGALG,
1004                              SSL_R_WRONG_SIGNATURE_TYPE);
1005                     return 0;
1006                 }
1007             }
1008         }
1009     } else if (tls1_suiteb(s)) {
1010         SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE, SSL_F_TLS12_CHECK_PEER_SIGALG,
1011                  SSL_R_WRONG_SIGNATURE_TYPE);
1012         return 0;
1013     }
1014 #endif
1015
1016     /* Check signature matches a type we sent */
1017     sent_sigslen = tls12_get_psigalgs(s, 1, &sent_sigs);
1018     for (i = 0; i < sent_sigslen; i++, sent_sigs++) {
1019         if (sig == *sent_sigs)
1020             break;
1021     }
1022     /* Allow fallback to SHA1 if not strict mode */
1023     if (i == sent_sigslen && (lu->hash != NID_sha1
1024         || s->cert->cert_flags & SSL_CERT_FLAGS_CHECK_TLS_STRICT)) {
1025         SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE, SSL_F_TLS12_CHECK_PEER_SIGALG,
1026                  SSL_R_WRONG_SIGNATURE_TYPE);
1027         return 0;
1028     }
1029     if (!tls1_lookup_md(lu, &md)) {
1030         SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE, SSL_F_TLS12_CHECK_PEER_SIGALG,
1031                  SSL_R_UNKNOWN_DIGEST);
1032         return 0;
1033     }
1034     if (md != NULL) {
1035         /*
1036          * Make sure security callback allows algorithm. For historical
1037          * reasons we have to pass the sigalg as a two byte char array.
1038          */
1039         sigalgstr[0] = (sig >> 8) & 0xff;
1040         sigalgstr[1] = sig & 0xff;
1041         if (!ssl_security(s, SSL_SECOP_SIGALG_CHECK,
1042                     EVP_MD_size(md) * 4, EVP_MD_type(md),
1043                     (void *)sigalgstr)) {
1044             SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE, SSL_F_TLS12_CHECK_PEER_SIGALG,
1045                      SSL_R_WRONG_SIGNATURE_TYPE);
1046             return 0;
1047         }
1048     }
1049     /* Store the sigalg the peer uses */
1050     s->s3->tmp.peer_sigalg = lu;
1051     return 1;
1052 }
1053
1054 int SSL_get_peer_signature_type_nid(const SSL *s, int *pnid)
1055 {
1056     if (s->s3->tmp.peer_sigalg == NULL)
1057         return 0;
1058     *pnid = s->s3->tmp.peer_sigalg->sig;
1059     return 1;
1060 }
1061
1062 /*
1063  * Set a mask of disabled algorithms: an algorithm is disabled if it isn't
1064  * supported, doesn't appear in supported signature algorithms, isn't supported
1065  * by the enabled protocol versions or by the security level.
1066  *
1067  * This function should only be used for checking which ciphers are supported
1068  * by the client.
1069  *
1070  * Call ssl_cipher_disabled() to check that it's enabled or not.
1071  */
1072 int ssl_set_client_disabled(SSL *s)
1073 {
1074     s->s3->tmp.mask_a = 0;
1075     s->s3->tmp.mask_k = 0;
1076     ssl_set_sig_mask(&s->s3->tmp.mask_a, s, SSL_SECOP_SIGALG_MASK);
1077     if (ssl_get_min_max_version(s, &s->s3->tmp.min_ver,
1078                                 &s->s3->tmp.max_ver) != 0)
1079         return 0;
1080 #ifndef OPENSSL_NO_PSK
1081     /* with PSK there must be client callback set */
1082     if (!s->psk_client_callback) {
1083         s->s3->tmp.mask_a |= SSL_aPSK;
1084         s->s3->tmp.mask_k |= SSL_PSK;
1085     }
1086 #endif                          /* OPENSSL_NO_PSK */
1087 #ifndef OPENSSL_NO_SRP
1088     if (!(s->srp_ctx.srp_Mask & SSL_kSRP)) {
1089         s->s3->tmp.mask_a |= SSL_aSRP;
1090         s->s3->tmp.mask_k |= SSL_kSRP;
1091     }
1092 #endif
1093     return 1;
1094 }
1095
1096 /*
1097  * ssl_cipher_disabled - check that a cipher is disabled or not
1098  * @s: SSL connection that you want to use the cipher on
1099  * @c: cipher to check
1100  * @op: Security check that you want to do
1101  * @ecdhe: If set to 1 then TLSv1 ECDHE ciphers are also allowed in SSLv3
1102  *
1103  * Returns 1 when it's disabled, 0 when enabled.
1104  */
1105 int ssl_cipher_disabled(SSL *s, const SSL_CIPHER *c, int op, int ecdhe)
1106 {
1107     if (c->algorithm_mkey & s->s3->tmp.mask_k
1108         || c->algorithm_auth & s->s3->tmp.mask_a)
1109         return 1;
1110     if (s->s3->tmp.max_ver == 0)
1111         return 1;
1112     if (!SSL_IS_DTLS(s)) {
1113         int min_tls = c->min_tls;
1114
1115         /*
1116          * For historical reasons we will allow ECHDE to be selected by a server
1117          * in SSLv3 if we are a client
1118          */
1119         if (min_tls == TLS1_VERSION && ecdhe
1120                 && (c->algorithm_mkey & (SSL_kECDHE | SSL_kECDHEPSK)) != 0)
1121             min_tls = SSL3_VERSION;
1122
1123         if ((min_tls > s->s3->tmp.max_ver) || (c->max_tls < s->s3->tmp.min_ver))
1124             return 1;
1125     }
1126     if (SSL_IS_DTLS(s) && (DTLS_VERSION_GT(c->min_dtls, s->s3->tmp.max_ver)
1127                            || DTLS_VERSION_LT(c->max_dtls, s->s3->tmp.min_ver)))
1128         return 1;
1129
1130     return !ssl_security(s, op, c->strength_bits, 0, (void *)c);
1131 }
1132
1133 int tls_use_ticket(SSL *s)
1134 {
1135     if ((s->options & SSL_OP_NO_TICKET))
1136         return 0;
1137     return ssl_security(s, SSL_SECOP_TICKET, 0, 0, NULL);
1138 }
1139
1140 int tls1_set_server_sigalgs(SSL *s)
1141 {
1142     size_t i;
1143
1144     /* Clear any shared signature algorithms */
1145     OPENSSL_free(s->cert->shared_sigalgs);
1146     s->cert->shared_sigalgs = NULL;
1147     s->cert->shared_sigalgslen = 0;
1148     /* Clear certificate validity flags */
1149     for (i = 0; i < SSL_PKEY_NUM; i++)
1150         s->s3->tmp.valid_flags[i] = 0;
1151     /*
1152      * If peer sent no signature algorithms check to see if we support
1153      * the default algorithm for each certificate type
1154      */
1155     if (s->s3->tmp.peer_cert_sigalgs == NULL
1156             && s->s3->tmp.peer_sigalgs == NULL) {
1157         const uint16_t *sent_sigs;
1158         size_t sent_sigslen = tls12_get_psigalgs(s, 1, &sent_sigs);
1159
1160         for (i = 0; i < SSL_PKEY_NUM; i++) {
1161             const SIGALG_LOOKUP *lu = tls1_get_legacy_sigalg(s, i);
1162             size_t j;
1163
1164             if (lu == NULL)
1165                 continue;
1166             /* Check default matches a type we sent */
1167             for (j = 0; j < sent_sigslen; j++) {
1168                 if (lu->sigalg == sent_sigs[j]) {
1169                         s->s3->tmp.valid_flags[i] = CERT_PKEY_SIGN;
1170                         break;
1171                 }
1172             }
1173         }
1174         return 1;
1175     }
1176
1177     if (!tls1_process_sigalgs(s)) {
1178         SSLfatal(s, SSL_AD_INTERNAL_ERROR,
1179                  SSL_F_TLS1_SET_SERVER_SIGALGS, ERR_R_INTERNAL_ERROR);
1180         return 0;
1181     }
1182     if (s->cert->shared_sigalgs != NULL)
1183         return 1;
1184
1185     /* Fatal error if no shared signature algorithms */
1186     SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE, SSL_F_TLS1_SET_SERVER_SIGALGS,
1187              SSL_R_NO_SHARED_SIGNATURE_ALGORITHMS);
1188     return 0;
1189 }
1190
1191 /*-
1192  * Gets the ticket information supplied by the client if any.
1193  *
1194  *   hello: The parsed ClientHello data
1195  *   ret: (output) on return, if a ticket was decrypted, then this is set to
1196  *       point to the resulting session.
1197  *
1198  * If s->tls_session_secret_cb is set then we are expecting a pre-shared key
1199  * ciphersuite, in which case we have no use for session tickets and one will
1200  * never be decrypted, nor will s->ext.ticket_expected be set to 1.
1201  *
1202  * Returns:
1203  *   -1: fatal error, either from parsing or decrypting the ticket.
1204  *    0: no ticket was found (or was ignored, based on settings).
1205  *    1: a zero length extension was found, indicating that the client supports
1206  *       session tickets but doesn't currently have one to offer.
1207  *    2: either s->tls_session_secret_cb was set, or a ticket was offered but
1208  *       couldn't be decrypted because of a non-fatal error.
1209  *    3: a ticket was successfully decrypted and *ret was set.
1210  *
1211  * Side effects:
1212  *   Sets s->ext.ticket_expected to 1 if the server will have to issue
1213  *   a new session ticket to the client because the client indicated support
1214  *   (and s->tls_session_secret_cb is NULL) but the client either doesn't have
1215  *   a session ticket or we couldn't use the one it gave us, or if
1216  *   s->ctx->ext.ticket_key_cb asked to renew the client's ticket.
1217  *   Otherwise, s->ext.ticket_expected is set to 0.
1218  */
1219 SSL_TICKET_RETURN tls_get_ticket_from_client(SSL *s, CLIENTHELLO_MSG *hello,
1220                                              SSL_SESSION **ret)
1221 {
1222     int retv;
1223     size_t size;
1224     RAW_EXTENSION *ticketext;
1225
1226     *ret = NULL;
1227     s->ext.ticket_expected = 0;
1228
1229     /*
1230      * If tickets disabled or not supported by the protocol version
1231      * (e.g. TLSv1.3) behave as if no ticket present to permit stateful
1232      * resumption.
1233      */
1234     if (s->version <= SSL3_VERSION || !tls_use_ticket(s))
1235         return SSL_TICKET_NONE;
1236
1237     ticketext = &hello->pre_proc_exts[TLSEXT_IDX_session_ticket];
1238     if (!ticketext->present)
1239         return SSL_TICKET_NONE;
1240
1241     size = PACKET_remaining(&ticketext->data);
1242     if (size == 0) {
1243         /*
1244          * The client will accept a ticket but doesn't currently have
1245          * one.
1246          */
1247         s->ext.ticket_expected = 1;
1248         return SSL_TICKET_EMPTY;
1249     }
1250     if (s->ext.session_secret_cb) {
1251         /*
1252          * Indicate that the ticket couldn't be decrypted rather than
1253          * generating the session from ticket now, trigger
1254          * abbreviated handshake based on external mechanism to
1255          * calculate the master secret later.
1256          */
1257         return SSL_TICKET_NO_DECRYPT;
1258     }
1259
1260     retv = tls_decrypt_ticket(s, PACKET_data(&ticketext->data), size,
1261                               hello->session_id, hello->session_id_len, ret);
1262
1263     /*
1264      * If set, the decrypt_ticket_cb() is always called regardless of the
1265      * return from tls_decrypt_ticket(). The callback is responsible for
1266      * checking |retv| before it performs any action
1267      */
1268     if (s->session_ctx->decrypt_ticket_cb != NULL) {
1269         size_t keyname_len = size;
1270
1271         if (keyname_len > TLSEXT_KEYNAME_LENGTH)
1272             keyname_len = TLSEXT_KEYNAME_LENGTH;
1273         retv = s->session_ctx->decrypt_ticket_cb(s, *ret,
1274                                                  PACKET_data(&ticketext->data),
1275                                                  keyname_len,
1276                                                  retv, s->session_ctx->ticket_cb_data);
1277     }
1278
1279     switch (retv) {
1280     case SSL_TICKET_NO_DECRYPT:
1281         s->ext.ticket_expected = 1;
1282         return SSL_TICKET_NO_DECRYPT;
1283
1284     case SSL_TICKET_SUCCESS:
1285         return SSL_TICKET_SUCCESS;
1286
1287     case SSL_TICKET_SUCCESS_RENEW:
1288         s->ext.ticket_expected = 1;
1289         return SSL_TICKET_SUCCESS;
1290
1291     case SSL_TICKET_EMPTY:
1292         s->ext.ticket_expected = 1;
1293         return SSL_TICKET_EMPTY;
1294
1295     case SSL_TICKET_NONE:
1296         return SSL_TICKET_NONE;
1297
1298     default:
1299         return SSL_TICKET_FATAL_ERR_OTHER;
1300     }
1301 }
1302
1303 /*-
1304  * tls_decrypt_ticket attempts to decrypt a session ticket.
1305  *
1306  *   etick: points to the body of the session ticket extension.
1307  *   eticklen: the length of the session tickets extension.
1308  *   sess_id: points at the session ID.
1309  *   sesslen: the length of the session ID.
1310  *   psess: (output) on return, if a ticket was decrypted, then this is set to
1311  *       point to the resulting session.
1312  */
1313 SSL_TICKET_RETURN tls_decrypt_ticket(SSL *s, const unsigned char *etick,
1314                                      size_t eticklen, const unsigned char *sess_id,
1315                                      size_t sesslen, SSL_SESSION **psess)
1316 {
1317     SSL_SESSION *sess;
1318     unsigned char *sdec;
1319     const unsigned char *p;
1320     int slen, renew_ticket = 0, declen;
1321     SSL_TICKET_RETURN ret = SSL_TICKET_FATAL_ERR_OTHER;
1322     size_t mlen;
1323     unsigned char tick_hmac[EVP_MAX_MD_SIZE];
1324     HMAC_CTX *hctx = NULL;
1325     EVP_CIPHER_CTX *ctx = NULL;
1326     SSL_CTX *tctx = s->session_ctx;
1327
1328     /* Need at least keyname + iv */
1329     if (eticklen < TLSEXT_KEYNAME_LENGTH + EVP_MAX_IV_LENGTH) {
1330         ret = SSL_TICKET_NO_DECRYPT;
1331         goto err;
1332     }
1333
1334     /* Initialize session ticket encryption and HMAC contexts */
1335     hctx = HMAC_CTX_new();
1336     if (hctx == NULL)
1337         return SSL_TICKET_FATAL_ERR_MALLOC;
1338     ctx = EVP_CIPHER_CTX_new();
1339     if (ctx == NULL) {
1340         ret = SSL_TICKET_FATAL_ERR_MALLOC;
1341         goto err;
1342     }
1343     if (tctx->ext.ticket_key_cb) {
1344         unsigned char *nctick = (unsigned char *)etick;
1345         int rv = tctx->ext.ticket_key_cb(s, nctick,
1346                                          nctick + TLSEXT_KEYNAME_LENGTH,
1347                                          ctx, hctx, 0);
1348         if (rv < 0)
1349             goto err;
1350         if (rv == 0) {
1351             ret = SSL_TICKET_NO_DECRYPT;
1352             goto err;
1353         }
1354         if (rv == 2)
1355             renew_ticket = 1;
1356     } else {
1357         /* Check key name matches */
1358         if (memcmp(etick, tctx->ext.tick_key_name,
1359                    TLSEXT_KEYNAME_LENGTH) != 0) {
1360             ret = SSL_TICKET_NO_DECRYPT;
1361             goto err;
1362         }
1363         if (HMAC_Init_ex(hctx, tctx->ext.secure->tick_hmac_key,
1364                          sizeof(tctx->ext.secure->tick_hmac_key),
1365                          EVP_sha256(), NULL) <= 0
1366             || EVP_DecryptInit_ex(ctx, EVP_aes_256_cbc(), NULL,
1367                                   tctx->ext.secure->tick_aes_key,
1368                                   etick + TLSEXT_KEYNAME_LENGTH) <= 0) {
1369             goto err;
1370         }
1371     }
1372     /*
1373      * Attempt to process session ticket, first conduct sanity and integrity
1374      * checks on ticket.
1375      */
1376     mlen = HMAC_size(hctx);
1377     if (mlen == 0) {
1378         goto err;
1379     }
1380     /* Sanity check ticket length: must exceed keyname + IV + HMAC */
1381     if (eticklen <=
1382         TLSEXT_KEYNAME_LENGTH + EVP_CIPHER_CTX_iv_length(ctx) + mlen) {
1383         ret = SSL_TICKET_NO_DECRYPT;
1384         goto err;
1385     }
1386     eticklen -= mlen;
1387     /* Check HMAC of encrypted ticket */
1388     if (HMAC_Update(hctx, etick, eticklen) <= 0
1389         || HMAC_Final(hctx, tick_hmac, NULL) <= 0) {
1390         goto err;
1391     }
1392     HMAC_CTX_free(hctx);
1393     if (CRYPTO_memcmp(tick_hmac, etick + eticklen, mlen)) {
1394         EVP_CIPHER_CTX_free(ctx);
1395         return SSL_TICKET_NO_DECRYPT;
1396     }
1397     /* Attempt to decrypt session data */
1398     /* Move p after IV to start of encrypted ticket, update length */
1399     p = etick + TLSEXT_KEYNAME_LENGTH + EVP_CIPHER_CTX_iv_length(ctx);
1400     eticklen -= TLSEXT_KEYNAME_LENGTH + EVP_CIPHER_CTX_iv_length(ctx);
1401     sdec = OPENSSL_malloc(eticklen);
1402     if (sdec == NULL || EVP_DecryptUpdate(ctx, sdec, &slen, p,
1403                                           (int)eticklen) <= 0) {
1404         EVP_CIPHER_CTX_free(ctx);
1405         OPENSSL_free(sdec);
1406         return SSL_TICKET_FATAL_ERR_OTHER;
1407     }
1408     if (EVP_DecryptFinal(ctx, sdec + slen, &declen) <= 0) {
1409         EVP_CIPHER_CTX_free(ctx);
1410         OPENSSL_free(sdec);
1411         return SSL_TICKET_NO_DECRYPT;
1412     }
1413     slen += declen;
1414     EVP_CIPHER_CTX_free(ctx);
1415     ctx = NULL;
1416     p = sdec;
1417
1418     sess = d2i_SSL_SESSION(NULL, &p, slen);
1419     slen -= p - sdec;
1420     OPENSSL_free(sdec);
1421     if (sess) {
1422         /* Some additional consistency checks */
1423         if (slen != 0) {
1424             SSL_SESSION_free(sess);
1425             return SSL_TICKET_NO_DECRYPT;
1426         }
1427         /*
1428          * The session ID, if non-empty, is used by some clients to detect
1429          * that the ticket has been accepted. So we copy it to the session
1430          * structure. If it is empty set length to zero as required by
1431          * standard.
1432          */
1433         if (sesslen) {
1434             memcpy(sess->session_id, sess_id, sesslen);
1435             sess->session_id_length = sesslen;
1436         }
1437         *psess = sess;
1438         if (renew_ticket)
1439             return SSL_TICKET_SUCCESS_RENEW;
1440         else
1441             return SSL_TICKET_SUCCESS;
1442     }
1443     ERR_clear_error();
1444     /*
1445      * For session parse failure, indicate that we need to send a new ticket.
1446      */
1447     return SSL_TICKET_NO_DECRYPT;
1448  err:
1449     EVP_CIPHER_CTX_free(ctx);
1450     HMAC_CTX_free(hctx);
1451     return ret;
1452 }
1453
1454 /* Check to see if a signature algorithm is allowed */
1455 static int tls12_sigalg_allowed(SSL *s, int op, const SIGALG_LOOKUP *lu)
1456 {
1457     unsigned char sigalgstr[2];
1458     int secbits;
1459
1460     /* See if sigalgs is recognised and if hash is enabled */
1461     if (!tls1_lookup_md(lu, NULL))
1462         return 0;
1463     /* DSA is not allowed in TLS 1.3 */
1464     if (SSL_IS_TLS13(s) && lu->sig == EVP_PKEY_DSA)
1465         return 0;
1466     /* TODO(OpenSSL1.2) fully axe DSA/etc. in ClientHello per TLS 1.3 spec */
1467     if (!s->server && !SSL_IS_DTLS(s) && s->s3->tmp.min_ver >= TLS1_3_VERSION
1468         && (lu->sig == EVP_PKEY_DSA || lu->hash_idx == SSL_MD_SHA1_IDX
1469             || lu->hash_idx == SSL_MD_MD5_IDX
1470             || lu->hash_idx == SSL_MD_SHA224_IDX))
1471         return 0;
1472     /* See if public key algorithm allowed */
1473     if (ssl_cert_is_disabled(lu->sig_idx))
1474         return 0;
1475     if (lu->hash == NID_undef)
1476         return 1;
1477     /* Security bits: half digest bits */
1478     secbits = EVP_MD_size(ssl_md(lu->hash_idx)) * 4;
1479     /* Finally see if security callback allows it */
1480     sigalgstr[0] = (lu->sigalg >> 8) & 0xff;
1481     sigalgstr[1] = lu->sigalg & 0xff;
1482     return ssl_security(s, op, secbits, lu->hash, (void *)sigalgstr);
1483 }
1484
1485 /*
1486  * Get a mask of disabled public key algorithms based on supported signature
1487  * algorithms. For example if no signature algorithm supports RSA then RSA is
1488  * disabled.
1489  */
1490
1491 void ssl_set_sig_mask(uint32_t *pmask_a, SSL *s, int op)
1492 {
1493     const uint16_t *sigalgs;
1494     size_t i, sigalgslen;
1495     uint32_t disabled_mask = SSL_aRSA | SSL_aDSS | SSL_aECDSA;
1496     /*
1497      * Go through all signature algorithms seeing if we support any
1498      * in disabled_mask.
1499      */
1500     sigalgslen = tls12_get_psigalgs(s, 1, &sigalgs);
1501     for (i = 0; i < sigalgslen; i++, sigalgs++) {
1502         const SIGALG_LOOKUP *lu = tls1_lookup_sigalg(*sigalgs);
1503         const SSL_CERT_LOOKUP *clu;
1504
1505         if (lu == NULL)
1506             continue;
1507
1508         clu = ssl_cert_lookup_by_idx(lu->sig_idx);
1509         if (clu == NULL)
1510                 continue;
1511
1512         /* If algorithm is disabled see if we can enable it */
1513         if ((clu->amask & disabled_mask) != 0
1514                 && tls12_sigalg_allowed(s, op, lu))
1515             disabled_mask &= ~clu->amask;
1516     }
1517     *pmask_a |= disabled_mask;
1518 }
1519
1520 int tls12_copy_sigalgs(SSL *s, WPACKET *pkt,
1521                        const uint16_t *psig, size_t psiglen)
1522 {
1523     size_t i;
1524     int rv = 0;
1525
1526     for (i = 0; i < psiglen; i++, psig++) {
1527         const SIGALG_LOOKUP *lu = tls1_lookup_sigalg(*psig);
1528
1529         if (!tls12_sigalg_allowed(s, SSL_SECOP_SIGALG_SUPPORTED, lu))
1530             continue;
1531         if (!WPACKET_put_bytes_u16(pkt, *psig))
1532             return 0;
1533         /*
1534          * If TLS 1.3 must have at least one valid TLS 1.3 message
1535          * signing algorithm: i.e. neither RSA nor SHA1/SHA224
1536          */
1537         if (rv == 0 && (!SSL_IS_TLS13(s)
1538             || (lu->sig != EVP_PKEY_RSA
1539                 && lu->hash != NID_sha1
1540                 && lu->hash != NID_sha224)))
1541             rv = 1;
1542     }
1543     if (rv == 0)
1544         SSLerr(SSL_F_TLS12_COPY_SIGALGS, SSL_R_NO_SUITABLE_SIGNATURE_ALGORITHM);
1545     return rv;
1546 }
1547
1548 /* Given preference and allowed sigalgs set shared sigalgs */
1549 static size_t tls12_shared_sigalgs(SSL *s, const SIGALG_LOOKUP **shsig,
1550                                    const uint16_t *pref, size_t preflen,
1551                                    const uint16_t *allow, size_t allowlen)
1552 {
1553     const uint16_t *ptmp, *atmp;
1554     size_t i, j, nmatch = 0;
1555     for (i = 0, ptmp = pref; i < preflen; i++, ptmp++) {
1556         const SIGALG_LOOKUP *lu = tls1_lookup_sigalg(*ptmp);
1557
1558         /* Skip disabled hashes or signature algorithms */
1559         if (!tls12_sigalg_allowed(s, SSL_SECOP_SIGALG_SHARED, lu))
1560             continue;
1561         for (j = 0, atmp = allow; j < allowlen; j++, atmp++) {
1562             if (*ptmp == *atmp) {
1563                 nmatch++;
1564                 if (shsig)
1565                     *shsig++ = lu;
1566                 break;
1567             }
1568         }
1569     }
1570     return nmatch;
1571 }
1572
1573 /* Set shared signature algorithms for SSL structures */
1574 static int tls1_set_shared_sigalgs(SSL *s)
1575 {
1576     const uint16_t *pref, *allow, *conf;
1577     size_t preflen, allowlen, conflen;
1578     size_t nmatch;
1579     const SIGALG_LOOKUP **salgs = NULL;
1580     CERT *c = s->cert;
1581     unsigned int is_suiteb = tls1_suiteb(s);
1582
1583     OPENSSL_free(c->shared_sigalgs);
1584     c->shared_sigalgs = NULL;
1585     c->shared_sigalgslen = 0;
1586     /* If client use client signature algorithms if not NULL */
1587     if (!s->server && c->client_sigalgs && !is_suiteb) {
1588         conf = c->client_sigalgs;
1589         conflen = c->client_sigalgslen;
1590     } else if (c->conf_sigalgs && !is_suiteb) {
1591         conf = c->conf_sigalgs;
1592         conflen = c->conf_sigalgslen;
1593     } else
1594         conflen = tls12_get_psigalgs(s, 0, &conf);
1595     if (s->options & SSL_OP_CIPHER_SERVER_PREFERENCE || is_suiteb) {
1596         pref = conf;
1597         preflen = conflen;
1598         allow = s->s3->tmp.peer_sigalgs;
1599         allowlen = s->s3->tmp.peer_sigalgslen;
1600     } else {
1601         allow = conf;
1602         allowlen = conflen;
1603         pref = s->s3->tmp.peer_sigalgs;
1604         preflen = s->s3->tmp.peer_sigalgslen;
1605     }
1606     nmatch = tls12_shared_sigalgs(s, NULL, pref, preflen, allow, allowlen);
1607     if (nmatch) {
1608         if ((salgs = OPENSSL_malloc(nmatch * sizeof(*salgs))) == NULL) {
1609             SSLerr(SSL_F_TLS1_SET_SHARED_SIGALGS, ERR_R_MALLOC_FAILURE);
1610             return 0;
1611         }
1612         nmatch = tls12_shared_sigalgs(s, salgs, pref, preflen, allow, allowlen);
1613     } else {
1614         salgs = NULL;
1615     }
1616     c->shared_sigalgs = salgs;
1617     c->shared_sigalgslen = nmatch;
1618     return 1;
1619 }
1620
1621 int tls1_save_u16(PACKET *pkt, uint16_t **pdest, size_t *pdestlen)
1622 {
1623     unsigned int stmp;
1624     size_t size, i;
1625     uint16_t *buf;
1626
1627     size = PACKET_remaining(pkt);
1628
1629     /* Invalid data length */
1630     if (size == 0 || (size & 1) != 0)
1631         return 0;
1632
1633     size >>= 1;
1634
1635     if ((buf = OPENSSL_malloc(size * sizeof(*buf))) == NULL)  {
1636         SSLerr(SSL_F_TLS1_SAVE_U16, ERR_R_MALLOC_FAILURE);
1637         return 0;
1638     }
1639     for (i = 0; i < size && PACKET_get_net_2(pkt, &stmp); i++)
1640         buf[i] = stmp;
1641
1642     if (i != size) {
1643         OPENSSL_free(buf);
1644         return 0;
1645     }
1646
1647     OPENSSL_free(*pdest);
1648     *pdest = buf;
1649     *pdestlen = size;
1650
1651     return 1;
1652 }
1653
1654 int tls1_save_sigalgs(SSL *s, PACKET *pkt, int cert)
1655 {
1656     /* Extension ignored for inappropriate versions */
1657     if (!SSL_USE_SIGALGS(s))
1658         return 1;
1659     /* Should never happen */
1660     if (s->cert == NULL)
1661         return 0;
1662
1663     if (cert)
1664         return tls1_save_u16(pkt, &s->s3->tmp.peer_cert_sigalgs,
1665                              &s->s3->tmp.peer_cert_sigalgslen);
1666     else
1667         return tls1_save_u16(pkt, &s->s3->tmp.peer_sigalgs,
1668                              &s->s3->tmp.peer_sigalgslen);
1669
1670 }
1671
1672 /* Set preferred digest for each key type */
1673
1674 int tls1_process_sigalgs(SSL *s)
1675 {
1676     size_t i;
1677     uint32_t *pvalid = s->s3->tmp.valid_flags;
1678     CERT *c = s->cert;
1679
1680     if (!tls1_set_shared_sigalgs(s))
1681         return 0;
1682
1683     for (i = 0; i < SSL_PKEY_NUM; i++)
1684         pvalid[i] = 0;
1685
1686     for (i = 0; i < c->shared_sigalgslen; i++) {
1687         const SIGALG_LOOKUP *sigptr = c->shared_sigalgs[i];
1688         int idx = sigptr->sig_idx;
1689
1690         /* Ignore PKCS1 based sig algs in TLSv1.3 */
1691         if (SSL_IS_TLS13(s) && sigptr->sig == EVP_PKEY_RSA)
1692             continue;
1693         /* If not disabled indicate we can explicitly sign */
1694         if (pvalid[idx] == 0 && !ssl_cert_is_disabled(idx))
1695             pvalid[idx] = CERT_PKEY_EXPLICIT_SIGN | CERT_PKEY_SIGN;
1696     }
1697     return 1;
1698 }
1699
1700 int SSL_get_sigalgs(SSL *s, int idx,
1701                     int *psign, int *phash, int *psignhash,
1702                     unsigned char *rsig, unsigned char *rhash)
1703 {
1704     uint16_t *psig = s->s3->tmp.peer_sigalgs;
1705     size_t numsigalgs = s->s3->tmp.peer_sigalgslen;
1706     if (psig == NULL || numsigalgs > INT_MAX)
1707         return 0;
1708     if (idx >= 0) {
1709         const SIGALG_LOOKUP *lu;
1710
1711         if (idx >= (int)numsigalgs)
1712             return 0;
1713         psig += idx;
1714         if (rhash != NULL)
1715             *rhash = (unsigned char)((*psig >> 8) & 0xff);
1716         if (rsig != NULL)
1717             *rsig = (unsigned char)(*psig & 0xff);
1718         lu = tls1_lookup_sigalg(*psig);
1719         if (psign != NULL)
1720             *psign = lu != NULL ? lu->sig : NID_undef;
1721         if (phash != NULL)
1722             *phash = lu != NULL ? lu->hash : NID_undef;
1723         if (psignhash != NULL)
1724             *psignhash = lu != NULL ? lu->sigandhash : NID_undef;
1725     }
1726     return (int)numsigalgs;
1727 }
1728
1729 int SSL_get_shared_sigalgs(SSL *s, int idx,
1730                            int *psign, int *phash, int *psignhash,
1731                            unsigned char *rsig, unsigned char *rhash)
1732 {
1733     const SIGALG_LOOKUP *shsigalgs;
1734     if (s->cert->shared_sigalgs == NULL
1735         || idx < 0
1736         || idx >= (int)s->cert->shared_sigalgslen
1737         || s->cert->shared_sigalgslen > INT_MAX)
1738         return 0;
1739     shsigalgs = s->cert->shared_sigalgs[idx];
1740     if (phash != NULL)
1741         *phash = shsigalgs->hash;
1742     if (psign != NULL)
1743         *psign = shsigalgs->sig;
1744     if (psignhash != NULL)
1745         *psignhash = shsigalgs->sigandhash;
1746     if (rsig != NULL)
1747         *rsig = (unsigned char)(shsigalgs->sigalg & 0xff);
1748     if (rhash != NULL)
1749         *rhash = (unsigned char)((shsigalgs->sigalg >> 8) & 0xff);
1750     return (int)s->cert->shared_sigalgslen;
1751 }
1752
1753 /* Maximum possible number of unique entries in sigalgs array */
1754 #define TLS_MAX_SIGALGCNT (OSSL_NELEM(sigalg_lookup_tbl) * 2)
1755
1756 typedef struct {
1757     size_t sigalgcnt;
1758     /* TLSEXT_SIGALG_XXX values */
1759     uint16_t sigalgs[TLS_MAX_SIGALGCNT];
1760 } sig_cb_st;
1761
1762 static void get_sigorhash(int *psig, int *phash, const char *str)
1763 {
1764     if (strcmp(str, "RSA") == 0) {
1765         *psig = EVP_PKEY_RSA;
1766     } else if (strcmp(str, "RSA-PSS") == 0 || strcmp(str, "PSS") == 0) {
1767         *psig = EVP_PKEY_RSA_PSS;
1768     } else if (strcmp(str, "DSA") == 0) {
1769         *psig = EVP_PKEY_DSA;
1770     } else if (strcmp(str, "ECDSA") == 0) {
1771         *psig = EVP_PKEY_EC;
1772     } else {
1773         *phash = OBJ_sn2nid(str);
1774         if (*phash == NID_undef)
1775             *phash = OBJ_ln2nid(str);
1776     }
1777 }
1778 /* Maximum length of a signature algorithm string component */
1779 #define TLS_MAX_SIGSTRING_LEN   40
1780
1781 static int sig_cb(const char *elem, int len, void *arg)
1782 {
1783     sig_cb_st *sarg = arg;
1784     size_t i;
1785     const SIGALG_LOOKUP *s;
1786     char etmp[TLS_MAX_SIGSTRING_LEN], *p;
1787     int sig_alg = NID_undef, hash_alg = NID_undef;
1788     if (elem == NULL)
1789         return 0;
1790     if (sarg->sigalgcnt == TLS_MAX_SIGALGCNT)
1791         return 0;
1792     if (len > (int)(sizeof(etmp) - 1))
1793         return 0;
1794     memcpy(etmp, elem, len);
1795     etmp[len] = 0;
1796     p = strchr(etmp, '+');
1797     /*
1798      * We only allow SignatureSchemes listed in the sigalg_lookup_tbl;
1799      * if there's no '+' in the provided name, look for the new-style combined
1800      * name.  If not, match both sig+hash to find the needed SIGALG_LOOKUP.
1801      * Just sig+hash is not unique since TLS 1.3 adds rsa_pss_pss_* and
1802      * rsa_pss_rsae_* that differ only by public key OID; in such cases
1803      * we will pick the _rsae_ variant, by virtue of them appearing earlier
1804      * in the table.
1805      */
1806     if (p == NULL) {
1807         for (i = 0, s = sigalg_lookup_tbl; i < OSSL_NELEM(sigalg_lookup_tbl);
1808              i++, s++) {
1809             if (s->name != NULL && strcmp(etmp, s->name) == 0) {
1810                 sarg->sigalgs[sarg->sigalgcnt++] = s->sigalg;
1811                 break;
1812             }
1813         }
1814         if (i == OSSL_NELEM(sigalg_lookup_tbl))
1815             return 0;
1816     } else {
1817         *p = 0;
1818         p++;
1819         if (*p == 0)
1820             return 0;
1821         get_sigorhash(&sig_alg, &hash_alg, etmp);
1822         get_sigorhash(&sig_alg, &hash_alg, p);
1823         if (sig_alg == NID_undef || hash_alg == NID_undef)
1824             return 0;
1825         for (i = 0, s = sigalg_lookup_tbl; i < OSSL_NELEM(sigalg_lookup_tbl);
1826              i++, s++) {
1827             if (s->hash == hash_alg && s->sig == sig_alg) {
1828                 sarg->sigalgs[sarg->sigalgcnt++] = s->sigalg;
1829                 break;
1830             }
1831         }
1832         if (i == OSSL_NELEM(sigalg_lookup_tbl))
1833             return 0;
1834     }
1835
1836     /* Reject duplicates */
1837     for (i = 0; i < sarg->sigalgcnt - 1; i++) {
1838         if (sarg->sigalgs[i] == sarg->sigalgs[sarg->sigalgcnt - 1]) {
1839             sarg->sigalgcnt--;
1840             return 0;
1841         }
1842     }
1843     return 1;
1844 }
1845
1846 /*
1847  * Set supported signature algorithms based on a colon separated list of the
1848  * form sig+hash e.g. RSA+SHA512:DSA+SHA512
1849  */
1850 int tls1_set_sigalgs_list(CERT *c, const char *str, int client)
1851 {
1852     sig_cb_st sig;
1853     sig.sigalgcnt = 0;
1854     if (!CONF_parse_list(str, ':', 1, sig_cb, &sig))
1855         return 0;
1856     if (c == NULL)
1857         return 1;
1858     return tls1_set_raw_sigalgs(c, sig.sigalgs, sig.sigalgcnt, client);
1859 }
1860
1861 int tls1_set_raw_sigalgs(CERT *c, const uint16_t *psigs, size_t salglen,
1862                      int client)
1863 {
1864     uint16_t *sigalgs;
1865
1866     if ((sigalgs = OPENSSL_malloc(salglen * sizeof(*sigalgs))) == NULL) {
1867         SSLerr(SSL_F_TLS1_SET_RAW_SIGALGS, ERR_R_MALLOC_FAILURE);
1868         return 0;
1869     }
1870     memcpy(sigalgs, psigs, salglen * sizeof(*sigalgs));
1871
1872     if (client) {
1873         OPENSSL_free(c->client_sigalgs);
1874         c->client_sigalgs = sigalgs;
1875         c->client_sigalgslen = salglen;
1876     } else {
1877         OPENSSL_free(c->conf_sigalgs);
1878         c->conf_sigalgs = sigalgs;
1879         c->conf_sigalgslen = salglen;
1880     }
1881
1882     return 1;
1883 }
1884
1885 int tls1_set_sigalgs(CERT *c, const int *psig_nids, size_t salglen, int client)
1886 {
1887     uint16_t *sigalgs, *sptr;
1888     size_t i;
1889
1890     if (salglen & 1)
1891         return 0;
1892     if ((sigalgs = OPENSSL_malloc((salglen / 2) * sizeof(*sigalgs))) == NULL) {
1893         SSLerr(SSL_F_TLS1_SET_SIGALGS, ERR_R_MALLOC_FAILURE);
1894         return 0;
1895     }
1896     for (i = 0, sptr = sigalgs; i < salglen; i += 2) {
1897         size_t j;
1898         const SIGALG_LOOKUP *curr;
1899         int md_id = *psig_nids++;
1900         int sig_id = *psig_nids++;
1901
1902         for (j = 0, curr = sigalg_lookup_tbl; j < OSSL_NELEM(sigalg_lookup_tbl);
1903              j++, curr++) {
1904             if (curr->hash == md_id && curr->sig == sig_id) {
1905                 *sptr++ = curr->sigalg;
1906                 break;
1907             }
1908         }
1909
1910         if (j == OSSL_NELEM(sigalg_lookup_tbl))
1911             goto err;
1912     }
1913
1914     if (client) {
1915         OPENSSL_free(c->client_sigalgs);
1916         c->client_sigalgs = sigalgs;
1917         c->client_sigalgslen = salglen / 2;
1918     } else {
1919         OPENSSL_free(c->conf_sigalgs);
1920         c->conf_sigalgs = sigalgs;
1921         c->conf_sigalgslen = salglen / 2;
1922     }
1923
1924     return 1;
1925
1926  err:
1927     OPENSSL_free(sigalgs);
1928     return 0;
1929 }
1930
1931 static int tls1_check_sig_alg(CERT *c, X509 *x, int default_nid)
1932 {
1933     int sig_nid;
1934     size_t i;
1935     if (default_nid == -1)
1936         return 1;
1937     sig_nid = X509_get_signature_nid(x);
1938     if (default_nid)
1939         return sig_nid == default_nid ? 1 : 0;
1940     for (i = 0; i < c->shared_sigalgslen; i++)
1941         if (sig_nid == c->shared_sigalgs[i]->sigandhash)
1942             return 1;
1943     return 0;
1944 }
1945
1946 /* Check to see if a certificate issuer name matches list of CA names */
1947 static int ssl_check_ca_name(STACK_OF(X509_NAME) *names, X509 *x)
1948 {
1949     X509_NAME *nm;
1950     int i;
1951     nm = X509_get_issuer_name(x);
1952     for (i = 0; i < sk_X509_NAME_num(names); i++) {
1953         if (!X509_NAME_cmp(nm, sk_X509_NAME_value(names, i)))
1954             return 1;
1955     }
1956     return 0;
1957 }
1958
1959 /*
1960  * Check certificate chain is consistent with TLS extensions and is usable by
1961  * server. This servers two purposes: it allows users to check chains before
1962  * passing them to the server and it allows the server to check chains before
1963  * attempting to use them.
1964  */
1965
1966 /* Flags which need to be set for a certificate when strict mode not set */
1967
1968 #define CERT_PKEY_VALID_FLAGS \
1969         (CERT_PKEY_EE_SIGNATURE|CERT_PKEY_EE_PARAM)
1970 /* Strict mode flags */
1971 #define CERT_PKEY_STRICT_FLAGS \
1972          (CERT_PKEY_VALID_FLAGS|CERT_PKEY_CA_SIGNATURE|CERT_PKEY_CA_PARAM \
1973          | CERT_PKEY_ISSUER_NAME|CERT_PKEY_CERT_TYPE)
1974
1975 int tls1_check_chain(SSL *s, X509 *x, EVP_PKEY *pk, STACK_OF(X509) *chain,
1976                      int idx)
1977 {
1978     int i;
1979     int rv = 0;
1980     int check_flags = 0, strict_mode;
1981     CERT_PKEY *cpk = NULL;
1982     CERT *c = s->cert;
1983     uint32_t *pvalid;
1984     unsigned int suiteb_flags = tls1_suiteb(s);
1985     /* idx == -1 means checking server chains */
1986     if (idx != -1) {
1987         /* idx == -2 means checking client certificate chains */
1988         if (idx == -2) {
1989             cpk = c->key;
1990             idx = (int)(cpk - c->pkeys);
1991         } else
1992             cpk = c->pkeys + idx;
1993         pvalid = s->s3->tmp.valid_flags + idx;
1994         x = cpk->x509;
1995         pk = cpk->privatekey;
1996         chain = cpk->chain;
1997         strict_mode = c->cert_flags & SSL_CERT_FLAGS_CHECK_TLS_STRICT;
1998         /* If no cert or key, forget it */
1999         if (!x || !pk)
2000             goto end;
2001     } else {
2002         size_t certidx;
2003
2004         if (!x || !pk)
2005             return 0;
2006
2007         if (ssl_cert_lookup_by_pkey(pk, &certidx) == NULL)
2008             return 0;
2009         idx = certidx;
2010         pvalid = s->s3->tmp.valid_flags + idx;
2011
2012         if (c->cert_flags & SSL_CERT_FLAGS_CHECK_TLS_STRICT)
2013             check_flags = CERT_PKEY_STRICT_FLAGS;
2014         else
2015             check_flags = CERT_PKEY_VALID_FLAGS;
2016         strict_mode = 1;
2017     }
2018
2019     if (suiteb_flags) {
2020         int ok;
2021         if (check_flags)
2022             check_flags |= CERT_PKEY_SUITEB;
2023         ok = X509_chain_check_suiteb(NULL, x, chain, suiteb_flags);
2024         if (ok == X509_V_OK)
2025             rv |= CERT_PKEY_SUITEB;
2026         else if (!check_flags)
2027             goto end;
2028     }
2029
2030     /*
2031      * Check all signature algorithms are consistent with signature
2032      * algorithms extension if TLS 1.2 or later and strict mode.
2033      */
2034     if (TLS1_get_version(s) >= TLS1_2_VERSION && strict_mode) {
2035         int default_nid;
2036         int rsign = 0;
2037         if (s->s3->tmp.peer_cert_sigalgs != NULL
2038                 || s->s3->tmp.peer_sigalgs != NULL) {
2039             default_nid = 0;
2040         /* If no sigalgs extension use defaults from RFC5246 */
2041         } else {
2042             switch (idx) {
2043             case SSL_PKEY_RSA:
2044                 rsign = EVP_PKEY_RSA;
2045                 default_nid = NID_sha1WithRSAEncryption;
2046                 break;
2047
2048             case SSL_PKEY_DSA_SIGN:
2049                 rsign = EVP_PKEY_DSA;
2050                 default_nid = NID_dsaWithSHA1;
2051                 break;
2052
2053             case SSL_PKEY_ECC:
2054                 rsign = EVP_PKEY_EC;
2055                 default_nid = NID_ecdsa_with_SHA1;
2056                 break;
2057
2058             case SSL_PKEY_GOST01:
2059                 rsign = NID_id_GostR3410_2001;
2060                 default_nid = NID_id_GostR3411_94_with_GostR3410_2001;
2061                 break;
2062
2063             case SSL_PKEY_GOST12_256:
2064                 rsign = NID_id_GostR3410_2012_256;
2065                 default_nid = NID_id_tc26_signwithdigest_gost3410_2012_256;
2066                 break;
2067
2068             case SSL_PKEY_GOST12_512:
2069                 rsign = NID_id_GostR3410_2012_512;
2070                 default_nid = NID_id_tc26_signwithdigest_gost3410_2012_512;
2071                 break;
2072
2073             default:
2074                 default_nid = -1;
2075                 break;
2076             }
2077         }
2078         /*
2079          * If peer sent no signature algorithms extension and we have set
2080          * preferred signature algorithms check we support sha1.
2081          */
2082         if (default_nid > 0 && c->conf_sigalgs) {
2083             size_t j;
2084             const uint16_t *p = c->conf_sigalgs;
2085             for (j = 0; j < c->conf_sigalgslen; j++, p++) {
2086                 const SIGALG_LOOKUP *lu = tls1_lookup_sigalg(*p);
2087
2088                 if (lu != NULL && lu->hash == NID_sha1 && lu->sig == rsign)
2089                     break;
2090             }
2091             if (j == c->conf_sigalgslen) {
2092                 if (check_flags)
2093                     goto skip_sigs;
2094                 else
2095                     goto end;
2096             }
2097         }
2098         /* Check signature algorithm of each cert in chain */
2099         if (!tls1_check_sig_alg(c, x, default_nid)) {
2100             if (!check_flags)
2101                 goto end;
2102         } else
2103             rv |= CERT_PKEY_EE_SIGNATURE;
2104         rv |= CERT_PKEY_CA_SIGNATURE;
2105         for (i = 0; i < sk_X509_num(chain); i++) {
2106             if (!tls1_check_sig_alg(c, sk_X509_value(chain, i), default_nid)) {
2107                 if (check_flags) {
2108                     rv &= ~CERT_PKEY_CA_SIGNATURE;
2109                     break;
2110                 } else
2111                     goto end;
2112             }
2113         }
2114     }
2115     /* Else not TLS 1.2, so mark EE and CA signing algorithms OK */
2116     else if (check_flags)
2117         rv |= CERT_PKEY_EE_SIGNATURE | CERT_PKEY_CA_SIGNATURE;
2118  skip_sigs:
2119     /* Check cert parameters are consistent */
2120     if (tls1_check_cert_param(s, x, 1))
2121         rv |= CERT_PKEY_EE_PARAM;
2122     else if (!check_flags)
2123         goto end;
2124     if (!s->server)
2125         rv |= CERT_PKEY_CA_PARAM;
2126     /* In strict mode check rest of chain too */
2127     else if (strict_mode) {
2128         rv |= CERT_PKEY_CA_PARAM;
2129         for (i = 0; i < sk_X509_num(chain); i++) {
2130             X509 *ca = sk_X509_value(chain, i);
2131             if (!tls1_check_cert_param(s, ca, 0)) {
2132                 if (check_flags) {
2133                     rv &= ~CERT_PKEY_CA_PARAM;
2134                     break;
2135                 } else
2136                     goto end;
2137             }
2138         }
2139     }
2140     if (!s->server && strict_mode) {
2141         STACK_OF(X509_NAME) *ca_dn;
2142         int check_type = 0;
2143         switch (EVP_PKEY_id(pk)) {
2144         case EVP_PKEY_RSA:
2145             check_type = TLS_CT_RSA_SIGN;
2146             break;
2147         case EVP_PKEY_DSA:
2148             check_type = TLS_CT_DSS_SIGN;
2149             break;
2150         case EVP_PKEY_EC:
2151             check_type = TLS_CT_ECDSA_SIGN;
2152             break;
2153         }
2154         if (check_type) {
2155             const uint8_t *ctypes = s->s3->tmp.ctype;
2156             size_t j;
2157
2158             for (j = 0; j < s->s3->tmp.ctype_len; j++, ctypes++) {
2159                 if (*ctypes == check_type) {
2160                     rv |= CERT_PKEY_CERT_TYPE;
2161                     break;
2162                 }
2163             }
2164             if (!(rv & CERT_PKEY_CERT_TYPE) && !check_flags)
2165                 goto end;
2166         } else {
2167             rv |= CERT_PKEY_CERT_TYPE;
2168         }
2169
2170         ca_dn = s->s3->tmp.peer_ca_names;
2171
2172         if (!sk_X509_NAME_num(ca_dn))
2173             rv |= CERT_PKEY_ISSUER_NAME;
2174
2175         if (!(rv & CERT_PKEY_ISSUER_NAME)) {
2176             if (ssl_check_ca_name(ca_dn, x))
2177                 rv |= CERT_PKEY_ISSUER_NAME;
2178         }
2179         if (!(rv & CERT_PKEY_ISSUER_NAME)) {
2180             for (i = 0; i < sk_X509_num(chain); i++) {
2181                 X509 *xtmp = sk_X509_value(chain, i);
2182                 if (ssl_check_ca_name(ca_dn, xtmp)) {
2183                     rv |= CERT_PKEY_ISSUER_NAME;
2184                     break;
2185                 }
2186             }
2187         }
2188         if (!check_flags && !(rv & CERT_PKEY_ISSUER_NAME))
2189             goto end;
2190     } else
2191         rv |= CERT_PKEY_ISSUER_NAME | CERT_PKEY_CERT_TYPE;
2192
2193     if (!check_flags || (rv & check_flags) == check_flags)
2194         rv |= CERT_PKEY_VALID;
2195
2196  end:
2197
2198     if (TLS1_get_version(s) >= TLS1_2_VERSION)
2199         rv |= *pvalid & (CERT_PKEY_EXPLICIT_SIGN | CERT_PKEY_SIGN);
2200     else
2201         rv |= CERT_PKEY_SIGN | CERT_PKEY_EXPLICIT_SIGN;
2202
2203     /*
2204      * When checking a CERT_PKEY structure all flags are irrelevant if the
2205      * chain is invalid.
2206      */
2207     if (!check_flags) {
2208         if (rv & CERT_PKEY_VALID) {
2209             *pvalid = rv;
2210         } else {
2211             /* Preserve sign and explicit sign flag, clear rest */
2212             *pvalid &= CERT_PKEY_EXPLICIT_SIGN | CERT_PKEY_SIGN;
2213             return 0;
2214         }
2215     }
2216     return rv;
2217 }
2218
2219 /* Set validity of certificates in an SSL structure */
2220 void tls1_set_cert_validity(SSL *s)
2221 {
2222     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_RSA);
2223     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_RSA_PSS_SIGN);
2224     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_DSA_SIGN);
2225     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_ECC);
2226     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_GOST01);
2227     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_GOST12_256);
2228     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_GOST12_512);
2229     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_ED25519);
2230     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_ED448);
2231 }
2232
2233 /* User level utility function to check a chain is suitable */
2234 int SSL_check_chain(SSL *s, X509 *x, EVP_PKEY *pk, STACK_OF(X509) *chain)
2235 {
2236     return tls1_check_chain(s, x, pk, chain, -1);
2237 }
2238
2239 #ifndef OPENSSL_NO_DH
2240 DH *ssl_get_auto_dh(SSL *s)
2241 {
2242     int dh_secbits = 80;
2243     if (s->cert->dh_tmp_auto == 2)
2244         return DH_get_1024_160();
2245     if (s->s3->tmp.new_cipher->algorithm_auth & (SSL_aNULL | SSL_aPSK)) {
2246         if (s->s3->tmp.new_cipher->strength_bits == 256)
2247             dh_secbits = 128;
2248         else
2249             dh_secbits = 80;
2250     } else {
2251         if (s->s3->tmp.cert == NULL)
2252             return NULL;
2253         dh_secbits = EVP_PKEY_security_bits(s->s3->tmp.cert->privatekey);
2254     }
2255
2256     if (dh_secbits >= 128) {
2257         DH *dhp = DH_new();
2258         BIGNUM *p, *g;
2259         if (dhp == NULL)
2260             return NULL;
2261         g = BN_new();
2262         if (g != NULL)
2263             BN_set_word(g, 2);
2264         if (dh_secbits >= 192)
2265             p = BN_get_rfc3526_prime_8192(NULL);
2266         else
2267             p = BN_get_rfc3526_prime_3072(NULL);
2268         if (p == NULL || g == NULL || !DH_set0_pqg(dhp, p, NULL, g)) {
2269             DH_free(dhp);
2270             BN_free(p);
2271             BN_free(g);
2272             return NULL;
2273         }
2274         return dhp;
2275     }
2276     if (dh_secbits >= 112)
2277         return DH_get_2048_224();
2278     return DH_get_1024_160();
2279 }
2280 #endif
2281
2282 static int ssl_security_cert_key(SSL *s, SSL_CTX *ctx, X509 *x, int op)
2283 {
2284     int secbits = -1;
2285     EVP_PKEY *pkey = X509_get0_pubkey(x);
2286     if (pkey) {
2287         /*
2288          * If no parameters this will return -1 and fail using the default
2289          * security callback for any non-zero security level. This will
2290          * reject keys which omit parameters but this only affects DSA and
2291          * omission of parameters is never (?) done in practice.
2292          */
2293         secbits = EVP_PKEY_security_bits(pkey);
2294     }
2295     if (s)
2296         return ssl_security(s, op, secbits, 0, x);
2297     else
2298         return ssl_ctx_security(ctx, op, secbits, 0, x);
2299 }
2300
2301 static int ssl_security_cert_sig(SSL *s, SSL_CTX *ctx, X509 *x, int op)
2302 {
2303     /* Lookup signature algorithm digest */
2304     int secbits, nid, pknid;
2305     /* Don't check signature if self signed */
2306     if ((X509_get_extension_flags(x) & EXFLAG_SS) != 0)
2307         return 1;
2308     if (!X509_get_signature_info(x, &nid, &pknid, &secbits, NULL))
2309         secbits = -1;
2310     /* If digest NID not defined use signature NID */
2311     if (nid == NID_undef)
2312         nid = pknid;
2313     if (s)
2314         return ssl_security(s, op, secbits, nid, x);
2315     else
2316         return ssl_ctx_security(ctx, op, secbits, nid, x);
2317 }
2318
2319 int ssl_security_cert(SSL *s, SSL_CTX *ctx, X509 *x, int vfy, int is_ee)
2320 {
2321     if (vfy)
2322         vfy = SSL_SECOP_PEER;
2323     if (is_ee) {
2324         if (!ssl_security_cert_key(s, ctx, x, SSL_SECOP_EE_KEY | vfy))
2325             return SSL_R_EE_KEY_TOO_SMALL;
2326     } else {
2327         if (!ssl_security_cert_key(s, ctx, x, SSL_SECOP_CA_KEY | vfy))
2328             return SSL_R_CA_KEY_TOO_SMALL;
2329     }
2330     if (!ssl_security_cert_sig(s, ctx, x, SSL_SECOP_CA_MD | vfy))
2331         return SSL_R_CA_MD_TOO_WEAK;
2332     return 1;
2333 }
2334
2335 /*
2336  * Check security of a chain, if |sk| includes the end entity certificate then
2337  * |x| is NULL. If |vfy| is 1 then we are verifying a peer chain and not sending
2338  * one to the peer. Return values: 1 if ok otherwise error code to use
2339  */
2340
2341 int ssl_security_cert_chain(SSL *s, STACK_OF(X509) *sk, X509 *x, int vfy)
2342 {
2343     int rv, start_idx, i;
2344     if (x == NULL) {
2345         x = sk_X509_value(sk, 0);
2346         start_idx = 1;
2347     } else
2348         start_idx = 0;
2349
2350     rv = ssl_security_cert(s, NULL, x, vfy, 1);
2351     if (rv != 1)
2352         return rv;
2353
2354     for (i = start_idx; i < sk_X509_num(sk); i++) {
2355         x = sk_X509_value(sk, i);
2356         rv = ssl_security_cert(s, NULL, x, vfy, 0);
2357         if (rv != 1)
2358             return rv;
2359     }
2360     return 1;
2361 }
2362
2363 /*
2364  * For TLS 1.2 servers check if we have a certificate which can be used
2365  * with the signature algorithm "lu" and return index of certificate.
2366  */
2367
2368 static int tls12_get_cert_sigalg_idx(const SSL *s, const SIGALG_LOOKUP *lu)
2369 {
2370     int sig_idx = lu->sig_idx;
2371     const SSL_CERT_LOOKUP *clu = ssl_cert_lookup_by_idx(sig_idx);
2372
2373     /* If not recognised or not supported by cipher mask it is not suitable */
2374     if (clu == NULL || !(clu->amask & s->s3->tmp.new_cipher->algorithm_auth))
2375         return -1;
2376
2377     return s->s3->tmp.valid_flags[sig_idx] & CERT_PKEY_VALID ? sig_idx : -1;
2378 }
2379
2380 /*
2381  * Returns true if |s| has a usable certificate configured for use
2382  * with signature scheme |sig|.
2383  * "Usable" includes a check for presence as well as applying
2384  * the signature_algorithm_cert restrictions sent by the peer (if any).
2385  * Returns false if no usable certificate is found.
2386  */
2387 static int has_usable_cert(SSL *s, const SIGALG_LOOKUP *sig, int idx)
2388 {
2389     const SIGALG_LOOKUP *lu;
2390     int mdnid, pknid;
2391     size_t i;
2392
2393     /* TLS 1.2 callers can override lu->sig_idx, but not TLS 1.3 callers. */
2394     if (idx == -1)
2395         idx = sig->sig_idx;
2396     if (!ssl_has_cert(s, idx))
2397         return 0;
2398     if (s->s3->tmp.peer_cert_sigalgs != NULL) {
2399         for (i = 0; i < s->s3->tmp.peer_cert_sigalgslen; i++) {
2400             lu = tls1_lookup_sigalg(s->s3->tmp.peer_cert_sigalgs[i]);
2401             if (lu == NULL
2402                 || !X509_get_signature_info(s->cert->pkeys[idx].x509, &mdnid,
2403                                             &pknid, NULL, NULL))
2404                 continue;
2405             /*
2406              * TODO this does not differentiate between the
2407              * rsa_pss_pss_* and rsa_pss_rsae_* schemes since we do not
2408              * have a chain here that lets us look at the key OID in the
2409              * signing certificate.
2410              */
2411             if (mdnid == lu->hash && pknid == lu->sig)
2412                 return 1;
2413         }
2414         return 0;
2415     }
2416     return 1;
2417 }
2418
2419 /*
2420  * Choose an appropriate signature algorithm based on available certificates
2421  * Sets chosen certificate and signature algorithm.
2422  *
2423  * For servers if we fail to find a required certificate it is a fatal error,
2424  * an appropriate error code is set and a TLS alert is sent.
2425  *
2426  * For clients fatalerrs is set to 0. If a certificate is not suitable it is not
2427  * a fatal error: we will either try another certificate or not present one
2428  * to the server. In this case no error is set.
2429  */
2430 int tls_choose_sigalg(SSL *s, int fatalerrs)
2431 {
2432     const SIGALG_LOOKUP *lu = NULL;
2433     int sig_idx = -1;
2434
2435     s->s3->tmp.cert = NULL;
2436     s->s3->tmp.sigalg = NULL;
2437
2438     if (SSL_IS_TLS13(s)) {
2439         size_t i;
2440 #ifndef OPENSSL_NO_EC
2441         int curve = -1;
2442 #endif
2443
2444         /* Look for a certificate matching shared sigalgs */
2445         for (i = 0; i < s->cert->shared_sigalgslen; i++) {
2446             lu = s->cert->shared_sigalgs[i];
2447             sig_idx = -1;
2448
2449             /* Skip SHA1, SHA224, DSA and RSA if not PSS */
2450             if (lu->hash == NID_sha1
2451                 || lu->hash == NID_sha224
2452                 || lu->sig == EVP_PKEY_DSA
2453                 || lu->sig == EVP_PKEY_RSA)
2454                 continue;
2455             /* Check that we have a cert, and signature_algorithms_cert */
2456             if (!tls1_lookup_md(lu, NULL) || !has_usable_cert(s, lu, -1))
2457                 continue;
2458             if (lu->sig == EVP_PKEY_EC) {
2459 #ifndef OPENSSL_NO_EC
2460                 if (curve == -1) {
2461                     EC_KEY *ec = EVP_PKEY_get0_EC_KEY(s->cert->pkeys[SSL_PKEY_ECC].privatekey);
2462
2463                     curve = EC_GROUP_get_curve_name(EC_KEY_get0_group(ec));
2464                 }
2465                 if (lu->curve != NID_undef && curve != lu->curve)
2466                     continue;
2467 #else
2468                 continue;
2469 #endif
2470             } else if (lu->sig == EVP_PKEY_RSA_PSS) {
2471                 /* validate that key is large enough for the signature algorithm */
2472                 EVP_PKEY *pkey;
2473
2474                 pkey = s->cert->pkeys[lu->sig_idx].privatekey;
2475                 if (!rsa_pss_check_min_key_size(EVP_PKEY_get0(pkey), lu))
2476                     continue;
2477             }
2478             break;
2479         }
2480         if (i == s->cert->shared_sigalgslen) {
2481             if (!fatalerrs)
2482                 return 1;
2483             SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE, SSL_F_TLS_CHOOSE_SIGALG,
2484                      SSL_R_NO_SUITABLE_SIGNATURE_ALGORITHM);
2485             return 0;
2486         }
2487     } else {
2488         /* If ciphersuite doesn't require a cert nothing to do */
2489         if (!(s->s3->tmp.new_cipher->algorithm_auth & SSL_aCERT))
2490             return 1;
2491         if (!s->server && !ssl_has_cert(s, s->cert->key - s->cert->pkeys))
2492                 return 1;
2493
2494         if (SSL_USE_SIGALGS(s)) {
2495             size_t i;
2496             if (s->s3->tmp.peer_sigalgs != NULL) {
2497 #ifndef OPENSSL_NO_EC
2498                 int curve;
2499
2500                 /* For Suite B need to match signature algorithm to curve */
2501                 if (tls1_suiteb(s)) {
2502                     EC_KEY *ec = EVP_PKEY_get0_EC_KEY(s->cert->pkeys[SSL_PKEY_ECC].privatekey);
2503                     curve = EC_GROUP_get_curve_name(EC_KEY_get0_group(ec));
2504                 } else {
2505                     curve = -1;
2506                 }
2507 #endif
2508
2509                 /*
2510                  * Find highest preference signature algorithm matching
2511                  * cert type
2512                  */
2513                 for (i = 0; i < s->cert->shared_sigalgslen; i++) {
2514                     lu = s->cert->shared_sigalgs[i];
2515
2516                     if (s->server) {
2517                         if ((sig_idx = tls12_get_cert_sigalg_idx(s, lu)) == -1)
2518                             continue;
2519                     } else {
2520                         int cc_idx = s->cert->key - s->cert->pkeys;
2521
2522                         sig_idx = lu->sig_idx;
2523                         if (cc_idx != sig_idx)
2524                             continue;
2525                     }
2526                     /* Check that we have a cert, and sig_algs_cert */
2527                     if (!has_usable_cert(s, lu, sig_idx))
2528                         continue;
2529                     if (lu->sig == EVP_PKEY_RSA_PSS) {
2530                         /* validate that key is large enough for the signature algorithm */
2531                         EVP_PKEY *pkey = s->cert->pkeys[sig_idx].privatekey;
2532
2533                         if (!rsa_pss_check_min_key_size(EVP_PKEY_get0(pkey), lu))
2534                             continue;
2535                     }
2536 #ifndef OPENSSL_NO_EC
2537                     if (curve == -1 || lu->curve == curve)
2538 #endif
2539                         break;
2540                 }
2541                 if (i == s->cert->shared_sigalgslen) {
2542                     if (!fatalerrs)
2543                         return 1;
2544                     SSLfatal(s, SSL_AD_INTERNAL_ERROR, SSL_F_TLS_CHOOSE_SIGALG,
2545                              ERR_R_INTERNAL_ERROR);
2546                     return 0;
2547                 }
2548             } else {
2549                 /*
2550                  * If we have no sigalg use defaults
2551                  */
2552                 const uint16_t *sent_sigs;
2553                 size_t sent_sigslen;
2554
2555                 if ((lu = tls1_get_legacy_sigalg(s, -1)) == NULL) {
2556                     if (!fatalerrs)
2557                         return 1;
2558                     SSLfatal(s, SSL_AD_INTERNAL_ERROR, SSL_F_TLS_CHOOSE_SIGALG,
2559                              ERR_R_INTERNAL_ERROR);
2560                     return 0;
2561                 }
2562
2563                 /* Check signature matches a type we sent */
2564                 sent_sigslen = tls12_get_psigalgs(s, 1, &sent_sigs);
2565                 for (i = 0; i < sent_sigslen; i++, sent_sigs++) {
2566                     if (lu->sigalg == *sent_sigs
2567                             && has_usable_cert(s, lu, lu->sig_idx))
2568                         break;
2569                 }
2570                 if (i == sent_sigslen) {
2571                     if (!fatalerrs)
2572                         return 1;
2573                     SSLfatal(s, SSL_AD_ILLEGAL_PARAMETER,
2574                              SSL_F_TLS_CHOOSE_SIGALG,
2575                              SSL_R_WRONG_SIGNATURE_TYPE);
2576                     return 0;
2577                 }
2578             }
2579         } else {
2580             if ((lu = tls1_get_legacy_sigalg(s, -1)) == NULL) {
2581                 if (!fatalerrs)
2582                     return 1;
2583                 SSLfatal(s, SSL_AD_INTERNAL_ERROR, SSL_F_TLS_CHOOSE_SIGALG,
2584                          ERR_R_INTERNAL_ERROR);
2585                 return 0;
2586             }
2587         }
2588     }
2589     if (sig_idx == -1)
2590         sig_idx = lu->sig_idx;
2591     s->s3->tmp.cert = &s->cert->pkeys[sig_idx];
2592     s->cert->key = s->s3->tmp.cert;
2593     s->s3->tmp.sigalg = lu;
2594     return 1;
2595 }
2596
2597 int SSL_CTX_set_tlsext_max_fragment_length(SSL_CTX *ctx, uint8_t mode)
2598 {
2599     if (mode != TLSEXT_max_fragment_length_DISABLED
2600             && !IS_MAX_FRAGMENT_LENGTH_EXT_VALID(mode)) {
2601         SSLerr(SSL_F_SSL_CTX_SET_TLSEXT_MAX_FRAGMENT_LENGTH,
2602                SSL_R_SSL3_EXT_INVALID_MAX_FRAGMENT_LENGTH);
2603         return 0;
2604     }
2605
2606     ctx->ext.max_fragment_len_mode = mode;
2607     return 1;
2608 }
2609
2610 int SSL_set_tlsext_max_fragment_length(SSL *ssl, uint8_t mode)
2611 {
2612     if (mode != TLSEXT_max_fragment_length_DISABLED
2613             && !IS_MAX_FRAGMENT_LENGTH_EXT_VALID(mode)) {
2614         SSLerr(SSL_F_SSL_SET_TLSEXT_MAX_FRAGMENT_LENGTH,
2615                SSL_R_SSL3_EXT_INVALID_MAX_FRAGMENT_LENGTH);
2616         return 0;
2617     }
2618
2619     ssl->ext.max_fragment_len_mode = mode;
2620     return 1;
2621 }
2622
2623 uint8_t SSL_SESSION_get_max_fragment_length(const SSL_SESSION *session)
2624 {
2625     return session->ext.max_fragment_len_mode;
2626 }