Use uint16_t for signature scheme.
[openssl.git] / ssl / t1_lib.c
1 /*
2  * Copyright 1995-2016 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the OpenSSL license (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #include <stdio.h>
11 #include <stdlib.h>
12 #include <openssl/objects.h>
13 #include <openssl/evp.h>
14 #include <openssl/hmac.h>
15 #include <openssl/ocsp.h>
16 #include <openssl/conf.h>
17 #include <openssl/x509v3.h>
18 #include <openssl/dh.h>
19 #include <openssl/bn.h>
20 #include "ssl_locl.h"
21 #include <openssl/ct.h>
22
23 SSL3_ENC_METHOD const TLSv1_enc_data = {
24     tls1_enc,
25     tls1_mac,
26     tls1_setup_key_block,
27     tls1_generate_master_secret,
28     tls1_change_cipher_state,
29     tls1_final_finish_mac,
30     TLS_MD_CLIENT_FINISH_CONST, TLS_MD_CLIENT_FINISH_CONST_SIZE,
31     TLS_MD_SERVER_FINISH_CONST, TLS_MD_SERVER_FINISH_CONST_SIZE,
32     tls1_alert_code,
33     tls1_export_keying_material,
34     0,
35     ssl3_set_handshake_header,
36     tls_close_construct_packet,
37     ssl3_handshake_write
38 };
39
40 SSL3_ENC_METHOD const TLSv1_1_enc_data = {
41     tls1_enc,
42     tls1_mac,
43     tls1_setup_key_block,
44     tls1_generate_master_secret,
45     tls1_change_cipher_state,
46     tls1_final_finish_mac,
47     TLS_MD_CLIENT_FINISH_CONST, TLS_MD_CLIENT_FINISH_CONST_SIZE,
48     TLS_MD_SERVER_FINISH_CONST, TLS_MD_SERVER_FINISH_CONST_SIZE,
49     tls1_alert_code,
50     tls1_export_keying_material,
51     SSL_ENC_FLAG_EXPLICIT_IV,
52     ssl3_set_handshake_header,
53     tls_close_construct_packet,
54     ssl3_handshake_write
55 };
56
57 SSL3_ENC_METHOD const TLSv1_2_enc_data = {
58     tls1_enc,
59     tls1_mac,
60     tls1_setup_key_block,
61     tls1_generate_master_secret,
62     tls1_change_cipher_state,
63     tls1_final_finish_mac,
64     TLS_MD_CLIENT_FINISH_CONST, TLS_MD_CLIENT_FINISH_CONST_SIZE,
65     TLS_MD_SERVER_FINISH_CONST, TLS_MD_SERVER_FINISH_CONST_SIZE,
66     tls1_alert_code,
67     tls1_export_keying_material,
68     SSL_ENC_FLAG_EXPLICIT_IV | SSL_ENC_FLAG_SIGALGS | SSL_ENC_FLAG_SHA256_PRF
69         | SSL_ENC_FLAG_TLS1_2_CIPHERS,
70     ssl3_set_handshake_header,
71     tls_close_construct_packet,
72     ssl3_handshake_write
73 };
74
75 SSL3_ENC_METHOD const TLSv1_3_enc_data = {
76     tls13_enc,
77     tls1_mac,
78     tls13_setup_key_block,
79     tls13_generate_master_secret,
80     tls13_change_cipher_state,
81     tls13_final_finish_mac,
82     TLS_MD_CLIENT_FINISH_CONST, TLS_MD_CLIENT_FINISH_CONST_SIZE,
83     TLS_MD_SERVER_FINISH_CONST, TLS_MD_SERVER_FINISH_CONST_SIZE,
84     tls13_alert_code,
85     tls1_export_keying_material,
86     SSL_ENC_FLAG_SIGALGS | SSL_ENC_FLAG_SHA256_PRF,
87     ssl3_set_handshake_header,
88     tls_close_construct_packet,
89     ssl3_handshake_write
90 };
91
92 long tls1_default_timeout(void)
93 {
94     /*
95      * 2 hours, the 24 hours mentioned in the TLSv1 spec is way too long for
96      * http, the cache would over fill
97      */
98     return (60 * 60 * 2);
99 }
100
101 int tls1_new(SSL *s)
102 {
103     if (!ssl3_new(s))
104         return (0);
105     s->method->ssl_clear(s);
106     return (1);
107 }
108
109 void tls1_free(SSL *s)
110 {
111     OPENSSL_free(s->ext.session_ticket);
112     ssl3_free(s);
113 }
114
115 void tls1_clear(SSL *s)
116 {
117     ssl3_clear(s);
118     if (s->method->version == TLS_ANY_VERSION)
119         s->version = TLS_MAX_VERSION;
120     else
121         s->version = s->method->version;
122 }
123
124 #ifndef OPENSSL_NO_EC
125
126 typedef struct {
127     int nid;                    /* Curve NID */
128     int secbits;                /* Bits of security (from SP800-57) */
129     unsigned int flags;         /* Flags: currently just field type */
130 } tls_curve_info;
131
132 /*
133  * Table of curve information.
134  * Do not delete entries or reorder this array! It is used as a lookup
135  * table: the index of each entry is one less than the TLS curve id.
136  */
137 static const tls_curve_info nid_list[] = {
138     {NID_sect163k1, 80, TLS_CURVE_CHAR2}, /* sect163k1 (1) */
139     {NID_sect163r1, 80, TLS_CURVE_CHAR2}, /* sect163r1 (2) */
140     {NID_sect163r2, 80, TLS_CURVE_CHAR2}, /* sect163r2 (3) */
141     {NID_sect193r1, 80, TLS_CURVE_CHAR2}, /* sect193r1 (4) */
142     {NID_sect193r2, 80, TLS_CURVE_CHAR2}, /* sect193r2 (5) */
143     {NID_sect233k1, 112, TLS_CURVE_CHAR2}, /* sect233k1 (6) */
144     {NID_sect233r1, 112, TLS_CURVE_CHAR2}, /* sect233r1 (7) */
145     {NID_sect239k1, 112, TLS_CURVE_CHAR2}, /* sect239k1 (8) */
146     {NID_sect283k1, 128, TLS_CURVE_CHAR2}, /* sect283k1 (9) */
147     {NID_sect283r1, 128, TLS_CURVE_CHAR2}, /* sect283r1 (10) */
148     {NID_sect409k1, 192, TLS_CURVE_CHAR2}, /* sect409k1 (11) */
149     {NID_sect409r1, 192, TLS_CURVE_CHAR2}, /* sect409r1 (12) */
150     {NID_sect571k1, 256, TLS_CURVE_CHAR2}, /* sect571k1 (13) */
151     {NID_sect571r1, 256, TLS_CURVE_CHAR2}, /* sect571r1 (14) */
152     {NID_secp160k1, 80, TLS_CURVE_PRIME}, /* secp160k1 (15) */
153     {NID_secp160r1, 80, TLS_CURVE_PRIME}, /* secp160r1 (16) */
154     {NID_secp160r2, 80, TLS_CURVE_PRIME}, /* secp160r2 (17) */
155     {NID_secp192k1, 80, TLS_CURVE_PRIME}, /* secp192k1 (18) */
156     {NID_X9_62_prime192v1, 80, TLS_CURVE_PRIME}, /* secp192r1 (19) */
157     {NID_secp224k1, 112, TLS_CURVE_PRIME}, /* secp224k1 (20) */
158     {NID_secp224r1, 112, TLS_CURVE_PRIME}, /* secp224r1 (21) */
159     {NID_secp256k1, 128, TLS_CURVE_PRIME}, /* secp256k1 (22) */
160     {NID_X9_62_prime256v1, 128, TLS_CURVE_PRIME}, /* secp256r1 (23) */
161     {NID_secp384r1, 192, TLS_CURVE_PRIME}, /* secp384r1 (24) */
162     {NID_secp521r1, 256, TLS_CURVE_PRIME}, /* secp521r1 (25) */
163     {NID_brainpoolP256r1, 128, TLS_CURVE_PRIME}, /* brainpoolP256r1 (26) */
164     {NID_brainpoolP384r1, 192, TLS_CURVE_PRIME}, /* brainpoolP384r1 (27) */
165     {NID_brainpoolP512r1, 256, TLS_CURVE_PRIME}, /* brainpool512r1 (28) */
166     {NID_X25519, 128, TLS_CURVE_CUSTOM}, /* X25519 (29) */
167 };
168
169 static const unsigned char ecformats_default[] = {
170     TLSEXT_ECPOINTFORMAT_uncompressed,
171     TLSEXT_ECPOINTFORMAT_ansiX962_compressed_prime,
172     TLSEXT_ECPOINTFORMAT_ansiX962_compressed_char2
173 };
174
175 /* The default curves */
176 static const unsigned char eccurves_default[] = {
177     0, 29,                      /* X25519 (29) */
178     0, 23,                      /* secp256r1 (23) */
179     0, 25,                      /* secp521r1 (25) */
180     0, 24,                      /* secp384r1 (24) */
181 };
182
183 static const unsigned char suiteb_curves[] = {
184     0, TLSEXT_curve_P_256,
185     0, TLSEXT_curve_P_384
186 };
187
188 int tls1_ec_curve_id2nid(int curve_id, unsigned int *pflags)
189 {
190     const tls_curve_info *cinfo;
191     /* ECC curves from RFC 4492 and RFC 7027 */
192     if ((curve_id < 1) || ((unsigned int)curve_id > OSSL_NELEM(nid_list)))
193         return 0;
194     cinfo = nid_list + curve_id - 1;
195     if (pflags)
196         *pflags = cinfo->flags;
197     return cinfo->nid;
198 }
199
200 int tls1_ec_nid2curve_id(int nid)
201 {
202     size_t i;
203     for (i = 0; i < OSSL_NELEM(nid_list); i++) {
204         if (nid_list[i].nid == nid)
205             return (int)(i + 1);
206     }
207     return 0;
208 }
209
210 /*
211  * Get curves list, if "sess" is set return client curves otherwise
212  * preferred list.
213  * Sets |num_curves| to the number of curves in the list, i.e.,
214  * the length of |pcurves| is 2 * num_curves.
215  * Returns 1 on success and 0 if the client curves list has invalid format.
216  * The latter indicates an internal error: we should not be accepting such
217  * lists in the first place.
218  * TODO(emilia): we should really be storing the curves list in explicitly
219  * parsed form instead. (However, this would affect binary compatibility
220  * so cannot happen in the 1.0.x series.)
221  */
222 int tls1_get_curvelist(SSL *s, int sess, const unsigned char **pcurves,
223                        size_t *num_curves)
224 {
225     size_t pcurveslen = 0;
226
227     if (sess) {
228         *pcurves = s->session->ext.supportedgroups;
229         pcurveslen = s->session->ext.supportedgroups_len;
230     } else {
231         /* For Suite B mode only include P-256, P-384 */
232         switch (tls1_suiteb(s)) {
233         case SSL_CERT_FLAG_SUITEB_128_LOS:
234             *pcurves = suiteb_curves;
235             pcurveslen = sizeof(suiteb_curves);
236             break;
237
238         case SSL_CERT_FLAG_SUITEB_128_LOS_ONLY:
239             *pcurves = suiteb_curves;
240             pcurveslen = 2;
241             break;
242
243         case SSL_CERT_FLAG_SUITEB_192_LOS:
244             *pcurves = suiteb_curves + 2;
245             pcurveslen = 2;
246             break;
247         default:
248             *pcurves = s->ext.supportedgroups;
249             pcurveslen = s->ext.supportedgroups_len;
250         }
251         if (!*pcurves) {
252             *pcurves = eccurves_default;
253             pcurveslen = sizeof(eccurves_default);
254         }
255     }
256
257     /* We do not allow odd length arrays to enter the system. */
258     if (pcurveslen & 1) {
259         SSLerr(SSL_F_TLS1_GET_CURVELIST, ERR_R_INTERNAL_ERROR);
260         *num_curves = 0;
261         return 0;
262     }
263     *num_curves = pcurveslen / 2;
264     return 1;
265 }
266
267 /* See if curve is allowed by security callback */
268 int tls_curve_allowed(SSL *s, const unsigned char *curve, int op)
269 {
270     const tls_curve_info *cinfo;
271     if (curve[0])
272         return 1;
273     if ((curve[1] < 1) || ((size_t)curve[1] > OSSL_NELEM(nid_list)))
274         return 0;
275     cinfo = &nid_list[curve[1] - 1];
276 # ifdef OPENSSL_NO_EC2M
277     if (cinfo->flags & TLS_CURVE_CHAR2)
278         return 0;
279 # endif
280     return ssl_security(s, op, cinfo->secbits, cinfo->nid, (void *)curve);
281 }
282
283 /* Check a curve is one of our preferences */
284 int tls1_check_curve(SSL *s, const unsigned char *p, size_t len)
285 {
286     const unsigned char *curves;
287     size_t num_curves, i;
288     unsigned int suiteb_flags = tls1_suiteb(s);
289     if (len != 3 || p[0] != NAMED_CURVE_TYPE)
290         return 0;
291     /* Check curve matches Suite B preferences */
292     if (suiteb_flags) {
293         unsigned long cid = s->s3->tmp.new_cipher->id;
294         if (p[1])
295             return 0;
296         if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_128_GCM_SHA256) {
297             if (p[2] != TLSEXT_curve_P_256)
298                 return 0;
299         } else if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_256_GCM_SHA384) {
300             if (p[2] != TLSEXT_curve_P_384)
301                 return 0;
302         } else                  /* Should never happen */
303             return 0;
304     }
305     if (!tls1_get_curvelist(s, 0, &curves, &num_curves))
306         return 0;
307     for (i = 0; i < num_curves; i++, curves += 2) {
308         if (p[1] == curves[0] && p[2] == curves[1])
309             return tls_curve_allowed(s, p + 1, SSL_SECOP_CURVE_CHECK);
310     }
311     return 0;
312 }
313
314 /*-
315  * For nmatch >= 0, return the NID of the |nmatch|th shared group or NID_undef
316  * if there is no match.
317  * For nmatch == -1, return number of matches
318  * For nmatch == -2, return the NID of the group to use for
319  * an EC tmp key, or NID_undef if there is no match.
320  */
321 int tls1_shared_group(SSL *s, int nmatch)
322 {
323     const unsigned char *pref, *supp;
324     size_t num_pref, num_supp, i, j;
325     int k;
326
327     /* Can't do anything on client side */
328     if (s->server == 0)
329         return -1;
330     if (nmatch == -2) {
331         if (tls1_suiteb(s)) {
332             /*
333              * For Suite B ciphersuite determines curve: we already know
334              * these are acceptable due to previous checks.
335              */
336             unsigned long cid = s->s3->tmp.new_cipher->id;
337
338             if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_128_GCM_SHA256)
339                 return NID_X9_62_prime256v1; /* P-256 */
340             if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_256_GCM_SHA384)
341                 return NID_secp384r1; /* P-384 */
342             /* Should never happen */
343             return NID_undef;
344         }
345         /* If not Suite B just return first preference shared curve */
346         nmatch = 0;
347     }
348     /*
349      * Avoid truncation. tls1_get_curvelist takes an int
350      * but s->options is a long...
351      */
352     if (!tls1_get_curvelist(s,
353             (s->options & SSL_OP_CIPHER_SERVER_PREFERENCE) != 0,
354             &supp, &num_supp))
355         /* In practice, NID_undef == 0 but let's be precise. */
356         return nmatch == -1 ? 0 : NID_undef;
357     if (!tls1_get_curvelist(s,
358             (s->options & SSL_OP_CIPHER_SERVER_PREFERENCE) == 0,
359             &pref, &num_pref))
360         return nmatch == -1 ? 0 : NID_undef;
361
362     for (k = 0, i = 0; i < num_pref; i++, pref += 2) {
363         const unsigned char *tsupp = supp;
364
365         for (j = 0; j < num_supp; j++, tsupp += 2) {
366             if (pref[0] == tsupp[0] && pref[1] == tsupp[1]) {
367                 if (!tls_curve_allowed(s, pref, SSL_SECOP_CURVE_SHARED))
368                     continue;
369                 if (nmatch == k) {
370                     int id = (pref[0] << 8) | pref[1];
371
372                     return tls1_ec_curve_id2nid(id, NULL);
373                 }
374                 k++;
375             }
376         }
377     }
378     if (nmatch == -1)
379         return k;
380     /* Out of range (nmatch > k). */
381     return NID_undef;
382 }
383
384 int tls1_set_groups(unsigned char **pext, size_t *pextlen,
385                     int *groups, size_t ngroups)
386 {
387     unsigned char *glist, *p;
388     size_t i;
389     /*
390      * Bitmap of groups included to detect duplicates: only works while group
391      * ids < 32
392      */
393     unsigned long dup_list = 0;
394     glist = OPENSSL_malloc(ngroups * 2);
395     if (glist == NULL)
396         return 0;
397     for (i = 0, p = glist; i < ngroups; i++) {
398         unsigned long idmask;
399         int id;
400         /* TODO(TLS1.3): Convert for DH groups */
401         id = tls1_ec_nid2curve_id(groups[i]);
402         idmask = 1L << id;
403         if (!id || (dup_list & idmask)) {
404             OPENSSL_free(glist);
405             return 0;
406         }
407         dup_list |= idmask;
408         s2n(id, p);
409     }
410     OPENSSL_free(*pext);
411     *pext = glist;
412     *pextlen = ngroups * 2;
413     return 1;
414 }
415
416 # define MAX_CURVELIST   28
417
418 typedef struct {
419     size_t nidcnt;
420     int nid_arr[MAX_CURVELIST];
421 } nid_cb_st;
422
423 static int nid_cb(const char *elem, int len, void *arg)
424 {
425     nid_cb_st *narg = arg;
426     size_t i;
427     int nid;
428     char etmp[20];
429     if (elem == NULL)
430         return 0;
431     if (narg->nidcnt == MAX_CURVELIST)
432         return 0;
433     if (len > (int)(sizeof(etmp) - 1))
434         return 0;
435     memcpy(etmp, elem, len);
436     etmp[len] = 0;
437     nid = EC_curve_nist2nid(etmp);
438     if (nid == NID_undef)
439         nid = OBJ_sn2nid(etmp);
440     if (nid == NID_undef)
441         nid = OBJ_ln2nid(etmp);
442     if (nid == NID_undef)
443         return 0;
444     for (i = 0; i < narg->nidcnt; i++)
445         if (narg->nid_arr[i] == nid)
446             return 0;
447     narg->nid_arr[narg->nidcnt++] = nid;
448     return 1;
449 }
450
451 /* Set groups based on a colon separate list */
452 int tls1_set_groups_list(unsigned char **pext, size_t *pextlen, const char *str)
453 {
454     nid_cb_st ncb;
455     ncb.nidcnt = 0;
456     if (!CONF_parse_list(str, ':', 1, nid_cb, &ncb))
457         return 0;
458     if (pext == NULL)
459         return 1;
460     return tls1_set_groups(pext, pextlen, ncb.nid_arr, ncb.nidcnt);
461 }
462
463 /* For an EC key set TLS id and required compression based on parameters */
464 static int tls1_set_ec_id(unsigned char *curve_id, unsigned char *comp_id,
465                           EC_KEY *ec)
466 {
467     int id;
468     const EC_GROUP *grp;
469     if (!ec)
470         return 0;
471     /* Determine if it is a prime field */
472     grp = EC_KEY_get0_group(ec);
473     if (!grp)
474         return 0;
475     /* Determine curve ID */
476     id = EC_GROUP_get_curve_name(grp);
477     id = tls1_ec_nid2curve_id(id);
478     /* If no id return error: we don't support arbitrary explicit curves */
479     if (id == 0)
480         return 0;
481     curve_id[0] = 0;
482     curve_id[1] = (unsigned char)id;
483     if (comp_id) {
484         if (EC_KEY_get0_public_key(ec) == NULL)
485             return 0;
486         if (EC_KEY_get_conv_form(ec) == POINT_CONVERSION_UNCOMPRESSED) {
487             *comp_id = TLSEXT_ECPOINTFORMAT_uncompressed;
488         } else {
489             if ((nid_list[id - 1].flags & TLS_CURVE_TYPE) == TLS_CURVE_PRIME)
490                 *comp_id = TLSEXT_ECPOINTFORMAT_ansiX962_compressed_prime;
491             else
492                 *comp_id = TLSEXT_ECPOINTFORMAT_ansiX962_compressed_char2;
493         }
494     }
495     return 1;
496 }
497
498 /* Check an EC key is compatible with extensions */
499 static int tls1_check_ec_key(SSL *s,
500                              unsigned char *curve_id, unsigned char *comp_id)
501 {
502     const unsigned char *pformats, *pcurves;
503     size_t num_formats, num_curves, i;
504     int j;
505     /*
506      * If point formats extension present check it, otherwise everything is
507      * supported (see RFC4492).
508      */
509     if (comp_id && s->session->ext.ecpointformats) {
510         pformats = s->session->ext.ecpointformats;
511         num_formats = s->session->ext.ecpointformats_len;
512         for (i = 0; i < num_formats; i++, pformats++) {
513             if (*comp_id == *pformats)
514                 break;
515         }
516         if (i == num_formats)
517             return 0;
518     }
519     if (!curve_id)
520         return 1;
521     /* Check curve is consistent with client and server preferences */
522     for (j = 0; j <= 1; j++) {
523         if (!tls1_get_curvelist(s, j, &pcurves, &num_curves))
524             return 0;
525         if (j == 1 && num_curves == 0) {
526             /*
527              * If we've not received any curves then skip this check.
528              * RFC 4492 does not require the supported elliptic curves extension
529              * so if it is not sent we can just choose any curve.
530              * It is invalid to send an empty list in the elliptic curves
531              * extension, so num_curves == 0 always means no extension.
532              */
533             break;
534         }
535         for (i = 0; i < num_curves; i++, pcurves += 2) {
536             if (pcurves[0] == curve_id[0] && pcurves[1] == curve_id[1])
537                 break;
538         }
539         if (i == num_curves)
540             return 0;
541         /* For clients can only check sent curve list */
542         if (!s->server)
543             break;
544     }
545     return 1;
546 }
547
548 void tls1_get_formatlist(SSL *s, const unsigned char **pformats,
549                          size_t *num_formats)
550 {
551     /*
552      * If we have a custom point format list use it otherwise use default
553      */
554     if (s->ext.ecpointformats) {
555         *pformats = s->ext.ecpointformats;
556         *num_formats = s->ext.ecpointformats_len;
557     } else {
558         *pformats = ecformats_default;
559         /* For Suite B we don't support char2 fields */
560         if (tls1_suiteb(s))
561             *num_formats = sizeof(ecformats_default) - 1;
562         else
563             *num_formats = sizeof(ecformats_default);
564     }
565 }
566
567 /*
568  * Check cert parameters compatible with extensions: currently just checks EC
569  * certificates have compatible curves and compression.
570  */
571 static int tls1_check_cert_param(SSL *s, X509 *x, int set_ee_md)
572 {
573     unsigned char comp_id, curve_id[2];
574     EVP_PKEY *pkey;
575     int rv;
576     pkey = X509_get0_pubkey(x);
577     if (!pkey)
578         return 0;
579     /* If not EC nothing to do */
580     if (EVP_PKEY_id(pkey) != EVP_PKEY_EC)
581         return 1;
582     rv = tls1_set_ec_id(curve_id, &comp_id, EVP_PKEY_get0_EC_KEY(pkey));
583     if (!rv)
584         return 0;
585     /*
586      * Can't check curve_id for client certs as we don't have a supported
587      * curves extension.
588      */
589     rv = tls1_check_ec_key(s, s->server ? curve_id : NULL, &comp_id);
590     if (!rv)
591         return 0;
592     /*
593      * Special case for suite B. We *MUST* sign using SHA256+P-256 or
594      * SHA384+P-384, adjust digest if necessary.
595      */
596     if (set_ee_md && tls1_suiteb(s)) {
597         int check_md;
598         size_t i;
599         CERT *c = s->cert;
600         if (curve_id[0])
601             return 0;
602         /* Check to see we have necessary signing algorithm */
603         if (curve_id[1] == TLSEXT_curve_P_256)
604             check_md = NID_ecdsa_with_SHA256;
605         else if (curve_id[1] == TLSEXT_curve_P_384)
606             check_md = NID_ecdsa_with_SHA384;
607         else
608             return 0;           /* Should never happen */
609         for (i = 0; i < c->shared_sigalgslen; i++)
610             if (check_md == c->shared_sigalgs[i].signandhash_nid)
611                 break;
612         if (i == c->shared_sigalgslen)
613             return 0;
614         if (set_ee_md == 2) {
615             if (check_md == NID_ecdsa_with_SHA256)
616                 s->s3->tmp.md[SSL_PKEY_ECC] = EVP_sha256();
617             else
618                 s->s3->tmp.md[SSL_PKEY_ECC] = EVP_sha384();
619         }
620     }
621     return rv;
622 }
623
624 # ifndef OPENSSL_NO_EC
625 /*
626  * tls1_check_ec_tmp_key - Check EC temporary key compatibility
627  * @s: SSL connection
628  * @cid: Cipher ID we're considering using
629  *
630  * Checks that the kECDHE cipher suite we're considering using
631  * is compatible with the client extensions.
632  *
633  * Returns 0 when the cipher can't be used or 1 when it can.
634  */
635 int tls1_check_ec_tmp_key(SSL *s, unsigned long cid)
636 {
637     /*
638      * If Suite B, AES128 MUST use P-256 and AES256 MUST use P-384, no other
639      * curves permitted.
640      */
641     if (tls1_suiteb(s)) {
642         unsigned char curve_id[2];
643         /* Curve to check determined by ciphersuite */
644         if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_128_GCM_SHA256)
645             curve_id[1] = TLSEXT_curve_P_256;
646         else if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_256_GCM_SHA384)
647             curve_id[1] = TLSEXT_curve_P_384;
648         else
649             return 0;
650         curve_id[0] = 0;
651         /* Check this curve is acceptable */
652         if (!tls1_check_ec_key(s, curve_id, NULL))
653             return 0;
654         return 1;
655     }
656     /* Need a shared curve */
657     if (tls1_shared_group(s, 0))
658         return 1;
659     return 0;
660 }
661 # endif                         /* OPENSSL_NO_EC */
662
663 #else
664
665 static int tls1_check_cert_param(SSL *s, X509 *x, int set_ee_md)
666 {
667     return 1;
668 }
669
670 #endif                          /* OPENSSL_NO_EC */
671
672 /* Default sigalg schemes */
673 static const uint16_t tls12_sigalgs[] = {
674 #ifndef OPENSSL_NO_EC
675     TLSEXT_SIGALG_ecdsa_secp256r1_sha256,
676     TLSEXT_SIGALG_ecdsa_secp384r1_sha384,
677     TLSEXT_SIGALG_ecdsa_secp521r1_sha512,
678 #endif
679
680     TLSEXT_SIGALG_rsa_pss_sha256,
681     TLSEXT_SIGALG_rsa_pss_sha384,
682     TLSEXT_SIGALG_rsa_pss_sha512,
683
684     TLSEXT_SIGALG_rsa_pkcs1_sha256,
685     TLSEXT_SIGALG_rsa_pkcs1_sha384,
686     TLSEXT_SIGALG_rsa_pkcs1_sha512,
687
688 #ifndef OPENSSL_NO_EC
689     TLSEXT_SIGALG_ecdsa_sha1,
690 #endif
691     TLSEXT_SIGALG_rsa_pkcs1_sha1,
692 #ifndef OPENSSL_NO_DSA
693     TLSEXT_SIGALG_dsa_sha1,
694
695     TLSEXT_SIGALG_dsa_sha256,
696     TLSEXT_SIGALG_dsa_sha384,
697     TLSEXT_SIGALG_dsa_sha512
698 #endif
699 };
700
701 #ifndef OPENSSL_NO_EC
702 static const uint16_t suiteb_sigalgs[] = {
703     TLSEXT_SIGALG_ecdsa_secp256r1_sha256,
704     TLSEXT_SIGALG_ecdsa_secp384r1_sha384
705 };
706 #endif
707
708 typedef struct sigalg_lookup_st {
709     uint16_t sigalg;
710     int hash;
711     int sig;
712 } SIGALG_LOOKUP;
713
714 static const SIGALG_LOOKUP sigalg_lookup_tbl[] = {
715 #ifndef OPENSSL_NO_EC
716     {TLSEXT_SIGALG_ecdsa_secp256r1_sha256, NID_sha256, EVP_PKEY_EC},
717     {TLSEXT_SIGALG_ecdsa_secp384r1_sha384, NID_sha384, EVP_PKEY_EC},
718     {TLSEXT_SIGALG_ecdsa_secp521r1_sha512, NID_sha512, EVP_PKEY_EC},
719     {TLSEXT_SIGALG_ecdsa_sha1, NID_sha1, EVP_PKEY_EC},
720 #endif
721     /*
722      * PSS must appear before PKCS1 so that we prefer that when signing where
723      * possible
724      */
725     {TLSEXT_SIGALG_rsa_pss_sha256, NID_sha256, EVP_PKEY_RSA},
726     {TLSEXT_SIGALG_rsa_pss_sha384, NID_sha384, EVP_PKEY_RSA},
727     {TLSEXT_SIGALG_rsa_pss_sha512, NID_sha512, EVP_PKEY_RSA},
728     {TLSEXT_SIGALG_rsa_pkcs1_sha256, NID_sha256, EVP_PKEY_RSA},
729     {TLSEXT_SIGALG_rsa_pkcs1_sha384, NID_sha384, EVP_PKEY_RSA},
730     {TLSEXT_SIGALG_rsa_pkcs1_sha512, NID_sha512, EVP_PKEY_RSA},
731     {TLSEXT_SIGALG_rsa_pkcs1_sha1, NID_sha1, EVP_PKEY_RSA},
732 #ifndef OPENSSL_NO_DSA
733     {TLSEXT_SIGALG_dsa_sha256, NID_sha256, EVP_PKEY_DSA},
734     {TLSEXT_SIGALG_dsa_sha384, NID_sha384, EVP_PKEY_DSA},
735     {TLSEXT_SIGALG_dsa_sha512, NID_sha512, EVP_PKEY_DSA},
736     {TLSEXT_SIGALG_dsa_sha1, NID_sha1, EVP_PKEY_DSA},
737 #endif
738 #ifndef OPENSSL_NO_GOST
739     {TLSEXT_SIGALG_gostr34102012_256_gostr34112012_256, NID_id_GostR3411_2012_256, NID_id_GostR3410_2012_256},
740     {TLSEXT_SIGALG_gostr34102012_512_gostr34112012_512, NID_id_GostR3411_2012_512, NID_id_GostR3410_2012_512},
741     {TLSEXT_SIGALG_gostr34102001_gostr3411, NID_id_GostR3411_94, NID_id_GostR3410_2001}
742 #endif
743 };
744
745 static int tls_sigalg_get_hash(uint16_t sigalg)
746 {
747     size_t i;
748     const SIGALG_LOOKUP *curr;
749
750     for (i = 0, curr = sigalg_lookup_tbl; i < OSSL_NELEM(sigalg_lookup_tbl);
751          i++, curr++) {
752         if (curr->sigalg == sigalg)
753             return curr->hash;
754     }
755
756     return 0;
757 }
758
759 static int tls_sigalg_get_sig(uint16_t sigalg)
760 {
761     size_t i;
762     const SIGALG_LOOKUP *curr;
763
764     for (i = 0, curr = sigalg_lookup_tbl; i < OSSL_NELEM(sigalg_lookup_tbl);
765          i++, curr++) {
766         if (curr->sigalg == sigalg)
767             return curr->sig;
768     }
769
770     return 0;
771 }
772
773 size_t tls12_get_psigalgs(SSL *s, int sent, const uint16_t **psigs)
774 {
775     /*
776      * If Suite B mode use Suite B sigalgs only, ignore any other
777      * preferences.
778      */
779 #ifndef OPENSSL_NO_EC
780     switch (tls1_suiteb(s)) {
781     case SSL_CERT_FLAG_SUITEB_128_LOS:
782         *psigs = suiteb_sigalgs;
783         return OSSL_NELEM(suiteb_sigalgs);
784
785     case SSL_CERT_FLAG_SUITEB_128_LOS_ONLY:
786         *psigs = suiteb_sigalgs;
787         return 1;
788
789     case SSL_CERT_FLAG_SUITEB_192_LOS:
790         *psigs = suiteb_sigalgs + 1;
791         return 1;
792     }
793 #endif
794     /*
795      *  We use client_sigalgs (if not NULL) if we're a server
796      *  and sending a certificate request or if we're a client and
797      *  determining which shared algorithm to use.
798      */
799     if ((s->server == sent) && s->cert->client_sigalgs != NULL) {
800         *psigs = s->cert->client_sigalgs;
801         return s->cert->client_sigalgslen;
802     } else if (s->cert->conf_sigalgs) {
803         *psigs = s->cert->conf_sigalgs;
804         return s->cert->conf_sigalgslen;
805     } else {
806         *psigs = tls12_sigalgs;
807         return OSSL_NELEM(tls12_sigalgs);
808     }
809 }
810
811 /*
812  * Check signature algorithm is consistent with sent supported signature
813  * algorithms and if so return relevant digest.
814  */
815 int tls12_check_peer_sigalg(const EVP_MD **pmd, SSL *s, unsigned int sig,
816                             EVP_PKEY *pkey)
817 {
818     const uint16_t *sent_sigs;
819     char sigalgstr[2];
820     size_t sent_sigslen, i;
821     int pkeyid = EVP_PKEY_id(pkey);
822     /* Should never happen */
823     if (pkeyid == -1)
824         return -1;
825     /* Check key type is consistent with signature */
826     if (pkeyid != tls_sigalg_get_sig(sig)) {
827         SSLerr(SSL_F_TLS12_CHECK_PEER_SIGALG, SSL_R_WRONG_SIGNATURE_TYPE);
828         return 0;
829     }
830 #ifndef OPENSSL_NO_EC
831     if (pkeyid == EVP_PKEY_EC) {
832         unsigned char curve_id[2], comp_id;
833         /* Check compression and curve matches extensions */
834         if (!tls1_set_ec_id(curve_id, &comp_id, EVP_PKEY_get0_EC_KEY(pkey)))
835             return 0;
836         if (!s->server && !tls1_check_ec_key(s, curve_id, &comp_id)) {
837             SSLerr(SSL_F_TLS12_CHECK_PEER_SIGALG, SSL_R_WRONG_CURVE);
838             return 0;
839         }
840         /* If Suite B only P-384+SHA384 or P-256+SHA-256 allowed */
841         if (tls1_suiteb(s)) {
842             if (curve_id[0])
843                 return 0;
844             if (curve_id[1] == TLSEXT_curve_P_256) {
845                 if (tls_sigalg_get_hash(sig) != NID_sha256) {
846                     SSLerr(SSL_F_TLS12_CHECK_PEER_SIGALG,
847                            SSL_R_ILLEGAL_SUITEB_DIGEST);
848                     return 0;
849                 }
850             } else if (curve_id[1] == TLSEXT_curve_P_384) {
851                 if (tls_sigalg_get_hash(sig) != NID_sha384) {
852                     SSLerr(SSL_F_TLS12_CHECK_PEER_SIGALG,
853                            SSL_R_ILLEGAL_SUITEB_DIGEST);
854                     return 0;
855                 }
856             } else
857                 return 0;
858         }
859     } else if (tls1_suiteb(s))
860         return 0;
861 #endif
862
863     /* Check signature matches a type we sent */
864     sent_sigslen = tls12_get_psigalgs(s, 1, &sent_sigs);
865     for (i = 0; i < sent_sigslen; i++, sent_sigs++) {
866         if (sig == *sent_sigs)
867             break;
868     }
869     /* Allow fallback to SHA1 if not strict mode */
870     if (i == sent_sigslen
871         && (tls_sigalg_get_hash(sig) != NID_sha1
872             || s->cert->cert_flags & SSL_CERT_FLAGS_CHECK_TLS_STRICT)) {
873         SSLerr(SSL_F_TLS12_CHECK_PEER_SIGALG, SSL_R_WRONG_SIGNATURE_TYPE);
874         return 0;
875     }
876     *pmd = tls12_get_hash(tls_sigalg_get_hash(sig));
877     if (*pmd == NULL) {
878         SSLerr(SSL_F_TLS12_CHECK_PEER_SIGALG, SSL_R_UNKNOWN_DIGEST);
879         return 0;
880     }
881     /*
882      * Make sure security callback allows algorithm. For historical reasons we
883      * have to pass the sigalg as a two byte char array.
884      */
885     sigalgstr[0] = (sig >> 8) & 0xff;
886     sigalgstr[1] = sig & 0xff;
887     if (!ssl_security(s, SSL_SECOP_SIGALG_CHECK,
888                       EVP_MD_size(*pmd) * 4, EVP_MD_type(*pmd),
889                       (void *)sigalgstr)) {
890         SSLerr(SSL_F_TLS12_CHECK_PEER_SIGALG, SSL_R_WRONG_SIGNATURE_TYPE);
891         return 0;
892     }
893     /*
894      * Store the digest used so applications can retrieve it if they wish.
895      */
896     s->s3->tmp.peer_md = *pmd;
897     return 1;
898 }
899
900 /*
901  * Set a mask of disabled algorithms: an algorithm is disabled if it isn't
902  * supported, doesn't appear in supported signature algorithms, isn't supported
903  * by the enabled protocol versions or by the security level.
904  *
905  * This function should only be used for checking which ciphers are supported
906  * by the client.
907  *
908  * Call ssl_cipher_disabled() to check that it's enabled or not.
909  */
910 void ssl_set_client_disabled(SSL *s)
911 {
912     s->s3->tmp.mask_a = 0;
913     s->s3->tmp.mask_k = 0;
914     ssl_set_sig_mask(&s->s3->tmp.mask_a, s, SSL_SECOP_SIGALG_MASK);
915     ssl_get_client_min_max_version(s, &s->s3->tmp.min_ver, &s->s3->tmp.max_ver);
916 #ifndef OPENSSL_NO_PSK
917     /* with PSK there must be client callback set */
918     if (!s->psk_client_callback) {
919         s->s3->tmp.mask_a |= SSL_aPSK;
920         s->s3->tmp.mask_k |= SSL_PSK;
921     }
922 #endif                          /* OPENSSL_NO_PSK */
923 #ifndef OPENSSL_NO_SRP
924     if (!(s->srp_ctx.srp_Mask & SSL_kSRP)) {
925         s->s3->tmp.mask_a |= SSL_aSRP;
926         s->s3->tmp.mask_k |= SSL_kSRP;
927     }
928 #endif
929 }
930
931 /*
932  * ssl_cipher_disabled - check that a cipher is disabled or not
933  * @s: SSL connection that you want to use the cipher on
934  * @c: cipher to check
935  * @op: Security check that you want to do
936  *
937  * Returns 1 when it's disabled, 0 when enabled.
938  */
939 int ssl_cipher_disabled(SSL *s, const SSL_CIPHER *c, int op)
940 {
941     if (c->algorithm_mkey & s->s3->tmp.mask_k
942         || c->algorithm_auth & s->s3->tmp.mask_a)
943         return 1;
944     if (s->s3->tmp.max_ver == 0)
945         return 1;
946     if (!SSL_IS_DTLS(s) && ((c->min_tls > s->s3->tmp.max_ver)
947                             || (c->max_tls < s->s3->tmp.min_ver)))
948         return 1;
949     if (SSL_IS_DTLS(s) && (DTLS_VERSION_GT(c->min_dtls, s->s3->tmp.max_ver)
950                            || DTLS_VERSION_LT(c->max_dtls, s->s3->tmp.min_ver)))
951         return 1;
952
953     return !ssl_security(s, op, c->strength_bits, 0, (void *)c);
954 }
955
956 int tls_use_ticket(SSL *s)
957 {
958     if ((s->options & SSL_OP_NO_TICKET))
959         return 0;
960     return ssl_security(s, SSL_SECOP_TICKET, 0, 0, NULL);
961 }
962
963 /* Initialise digests to default values */
964 void ssl_set_default_md(SSL *s)
965 {
966     const EVP_MD **pmd = s->s3->tmp.md;
967 #ifndef OPENSSL_NO_DSA
968     pmd[SSL_PKEY_DSA_SIGN] = ssl_md(SSL_MD_SHA1_IDX);
969 #endif
970 #ifndef OPENSSL_NO_RSA
971     if (SSL_USE_SIGALGS(s))
972         pmd[SSL_PKEY_RSA_SIGN] = ssl_md(SSL_MD_SHA1_IDX);
973     else
974         pmd[SSL_PKEY_RSA_SIGN] = ssl_md(SSL_MD_MD5_SHA1_IDX);
975     pmd[SSL_PKEY_RSA_ENC] = pmd[SSL_PKEY_RSA_SIGN];
976 #endif
977 #ifndef OPENSSL_NO_EC
978     pmd[SSL_PKEY_ECC] = ssl_md(SSL_MD_SHA1_IDX);
979 #endif
980 #ifndef OPENSSL_NO_GOST
981     pmd[SSL_PKEY_GOST01] = ssl_md(SSL_MD_GOST94_IDX);
982     pmd[SSL_PKEY_GOST12_256] = ssl_md(SSL_MD_GOST12_256_IDX);
983     pmd[SSL_PKEY_GOST12_512] = ssl_md(SSL_MD_GOST12_512_IDX);
984 #endif
985 }
986
987 int tls1_set_server_sigalgs(SSL *s)
988 {
989     int al;
990     size_t i;
991
992     /* Clear any shared signature algorithms */
993     OPENSSL_free(s->cert->shared_sigalgs);
994     s->cert->shared_sigalgs = NULL;
995     s->cert->shared_sigalgslen = 0;
996     /* Clear certificate digests and validity flags */
997     for (i = 0; i < SSL_PKEY_NUM; i++) {
998         s->s3->tmp.md[i] = NULL;
999         s->s3->tmp.valid_flags[i] = 0;
1000     }
1001
1002     /* If sigalgs received process it. */
1003     if (s->s3->tmp.peer_sigalgs) {
1004         if (!tls1_process_sigalgs(s)) {
1005             SSLerr(SSL_F_TLS1_SET_SERVER_SIGALGS, ERR_R_MALLOC_FAILURE);
1006             al = SSL_AD_INTERNAL_ERROR;
1007             goto err;
1008         }
1009         /* Fatal error is no shared signature algorithms */
1010         if (!s->cert->shared_sigalgs) {
1011             SSLerr(SSL_F_TLS1_SET_SERVER_SIGALGS,
1012                    SSL_R_NO_SHARED_SIGNATURE_ALGORITHMS);
1013             al = SSL_AD_ILLEGAL_PARAMETER;
1014             goto err;
1015         }
1016     } else {
1017         ssl_set_default_md(s);
1018     }
1019     return 1;
1020  err:
1021     ssl3_send_alert(s, SSL3_AL_FATAL, al);
1022     return 0;
1023 }
1024
1025 /*-
1026  * Gets the ticket information supplied by the client if any.
1027  *
1028  *   hello: The parsed ClientHello data
1029  *   ret: (output) on return, if a ticket was decrypted, then this is set to
1030  *       point to the resulting session.
1031  *
1032  * If s->tls_session_secret_cb is set then we are expecting a pre-shared key
1033  * ciphersuite, in which case we have no use for session tickets and one will
1034  * never be decrypted, nor will s->ext.ticket_expected be set to 1.
1035  *
1036  * Returns:
1037  *   -1: fatal error, either from parsing or decrypting the ticket.
1038  *    0: no ticket was found (or was ignored, based on settings).
1039  *    1: a zero length extension was found, indicating that the client supports
1040  *       session tickets but doesn't currently have one to offer.
1041  *    2: either s->tls_session_secret_cb was set, or a ticket was offered but
1042  *       couldn't be decrypted because of a non-fatal error.
1043  *    3: a ticket was successfully decrypted and *ret was set.
1044  *
1045  * Side effects:
1046  *   Sets s->ext.ticket_expected to 1 if the server will have to issue
1047  *   a new session ticket to the client because the client indicated support
1048  *   (and s->tls_session_secret_cb is NULL) but the client either doesn't have
1049  *   a session ticket or we couldn't use the one it gave us, or if
1050  *   s->ctx->ext.ticket_key_cb asked to renew the client's ticket.
1051  *   Otherwise, s->ext.ticket_expected is set to 0.
1052  */
1053 TICKET_RETURN tls_get_ticket_from_client(SSL *s, CLIENTHELLO_MSG *hello,
1054                                          SSL_SESSION **ret)
1055 {
1056     int retv;
1057     size_t size;
1058     RAW_EXTENSION *ticketext;
1059
1060     *ret = NULL;
1061     s->ext.ticket_expected = 0;
1062
1063     /*
1064      * If tickets disabled or not supported by the protocol version
1065      * (e.g. TLSv1.3) behave as if no ticket present to permit stateful
1066      * resumption.
1067      */
1068     if (s->version <= SSL3_VERSION || !tls_use_ticket(s))
1069         return TICKET_NONE;
1070
1071     ticketext = &hello->pre_proc_exts[TLSEXT_IDX_session_ticket];
1072     if (!ticketext->present)
1073         return TICKET_NONE;
1074
1075     size = PACKET_remaining(&ticketext->data);
1076     if (size == 0) {
1077         /*
1078          * The client will accept a ticket but doesn't currently have
1079          * one.
1080          */
1081         s->ext.ticket_expected = 1;
1082         return TICKET_EMPTY;
1083     }
1084     if (s->ext.session_secret_cb) {
1085         /*
1086          * Indicate that the ticket couldn't be decrypted rather than
1087          * generating the session from ticket now, trigger
1088          * abbreviated handshake based on external mechanism to
1089          * calculate the master secret later.
1090          */
1091         return TICKET_NO_DECRYPT;
1092     }
1093
1094     retv = tls_decrypt_ticket(s, PACKET_data(&ticketext->data), size,
1095                               hello->session_id, hello->session_id_len, ret);
1096     switch (retv) {
1097     case TICKET_NO_DECRYPT:
1098         s->ext.ticket_expected = 1;
1099         return TICKET_NO_DECRYPT;
1100
1101     case TICKET_SUCCESS:
1102         return TICKET_SUCCESS;
1103
1104     case TICKET_SUCCESS_RENEW:
1105         s->ext.ticket_expected = 1;
1106         return TICKET_SUCCESS;
1107
1108     default:
1109         return TICKET_FATAL_ERR_OTHER;
1110     }
1111 }
1112
1113 /*-
1114  * tls_decrypt_ticket attempts to decrypt a session ticket.
1115  *
1116  *   etick: points to the body of the session ticket extension.
1117  *   eticklen: the length of the session tickets extension.
1118  *   sess_id: points at the session ID.
1119  *   sesslen: the length of the session ID.
1120  *   psess: (output) on return, if a ticket was decrypted, then this is set to
1121  *       point to the resulting session.
1122  */
1123 TICKET_RETURN tls_decrypt_ticket(SSL *s, const unsigned char *etick,
1124                                  size_t eticklen, const unsigned char *sess_id,
1125                                  size_t sesslen, SSL_SESSION **psess)
1126 {
1127     SSL_SESSION *sess;
1128     unsigned char *sdec;
1129     const unsigned char *p;
1130     int slen, renew_ticket = 0, declen;
1131     TICKET_RETURN ret = TICKET_FATAL_ERR_OTHER;
1132     size_t mlen;
1133     unsigned char tick_hmac[EVP_MAX_MD_SIZE];
1134     HMAC_CTX *hctx = NULL;
1135     EVP_CIPHER_CTX *ctx;
1136     SSL_CTX *tctx = s->initial_ctx;
1137
1138     /* Initialize session ticket encryption and HMAC contexts */
1139     hctx = HMAC_CTX_new();
1140     if (hctx == NULL)
1141         return TICKET_FATAL_ERR_MALLOC;
1142     ctx = EVP_CIPHER_CTX_new();
1143     if (ctx == NULL) {
1144         ret = TICKET_FATAL_ERR_MALLOC;
1145         goto err;
1146     }
1147     if (tctx->ext.ticket_key_cb) {
1148         unsigned char *nctick = (unsigned char *)etick;
1149         int rv = tctx->ext.ticket_key_cb(s, nctick, nctick + 16,
1150                                             ctx, hctx, 0);
1151         if (rv < 0)
1152             goto err;
1153         if (rv == 0) {
1154             ret = TICKET_NO_DECRYPT;
1155             goto err;
1156         }
1157         if (rv == 2)
1158             renew_ticket = 1;
1159     } else {
1160         /* Check key name matches */
1161         if (memcmp(etick, tctx->ext.tick_key_name,
1162                    sizeof(tctx->ext.tick_key_name)) != 0) {
1163             ret = TICKET_NO_DECRYPT;
1164             goto err;
1165         }
1166         if (HMAC_Init_ex(hctx, tctx->ext.tick_hmac_key,
1167                          sizeof(tctx->ext.tick_hmac_key),
1168                          EVP_sha256(), NULL) <= 0
1169             || EVP_DecryptInit_ex(ctx, EVP_aes_256_cbc(), NULL,
1170                                   tctx->ext.tick_aes_key,
1171                                   etick
1172                                   + sizeof(tctx->ext.tick_key_name)) <= 0) {
1173             goto err;
1174         }
1175     }
1176     /*
1177      * Attempt to process session ticket, first conduct sanity and integrity
1178      * checks on ticket.
1179      */
1180     mlen = HMAC_size(hctx);
1181     if (mlen == 0) {
1182         goto err;
1183     }
1184     /* Sanity check ticket length: must exceed keyname + IV + HMAC */
1185     if (eticklen <=
1186         TLSEXT_KEYNAME_LENGTH + EVP_CIPHER_CTX_iv_length(ctx) + mlen) {
1187         ret = TICKET_NO_DECRYPT;
1188         goto err;
1189     }
1190     eticklen -= mlen;
1191     /* Check HMAC of encrypted ticket */
1192     if (HMAC_Update(hctx, etick, eticklen) <= 0
1193         || HMAC_Final(hctx, tick_hmac, NULL) <= 0) {
1194         goto err;
1195     }
1196     HMAC_CTX_free(hctx);
1197     if (CRYPTO_memcmp(tick_hmac, etick + eticklen, mlen)) {
1198         EVP_CIPHER_CTX_free(ctx);
1199         return TICKET_NO_DECRYPT;
1200     }
1201     /* Attempt to decrypt session data */
1202     /* Move p after IV to start of encrypted ticket, update length */
1203     p = etick + 16 + EVP_CIPHER_CTX_iv_length(ctx);
1204     eticklen -= 16 + EVP_CIPHER_CTX_iv_length(ctx);
1205     sdec = OPENSSL_malloc(eticklen);
1206     if (sdec == NULL || EVP_DecryptUpdate(ctx, sdec, &slen, p,
1207                                           (int)eticklen) <= 0) {
1208         EVP_CIPHER_CTX_free(ctx);
1209         OPENSSL_free(sdec);
1210         return TICKET_FATAL_ERR_OTHER;
1211     }
1212     if (EVP_DecryptFinal(ctx, sdec + slen, &declen) <= 0) {
1213         EVP_CIPHER_CTX_free(ctx);
1214         OPENSSL_free(sdec);
1215         return TICKET_NO_DECRYPT;
1216     }
1217     slen += declen;
1218     EVP_CIPHER_CTX_free(ctx);
1219     ctx = NULL;
1220     p = sdec;
1221
1222     sess = d2i_SSL_SESSION(NULL, &p, slen);
1223     OPENSSL_free(sdec);
1224     if (sess) {
1225         /*
1226          * The session ID, if non-empty, is used by some clients to detect
1227          * that the ticket has been accepted. So we copy it to the session
1228          * structure. If it is empty set length to zero as required by
1229          * standard.
1230          */
1231         if (sesslen)
1232             memcpy(sess->session_id, sess_id, sesslen);
1233         sess->session_id_length = sesslen;
1234         *psess = sess;
1235         if (renew_ticket)
1236             return TICKET_SUCCESS_RENEW;
1237         else
1238             return TICKET_SUCCESS;
1239     }
1240     ERR_clear_error();
1241     /*
1242      * For session parse failure, indicate that we need to send a new ticket.
1243      */
1244     return TICKET_NO_DECRYPT;
1245  err:
1246     EVP_CIPHER_CTX_free(ctx);
1247     HMAC_CTX_free(hctx);
1248     return ret;
1249 }
1250
1251 int tls12_get_sigandhash(SSL *s, WPACKET *pkt, const EVP_PKEY *pk,
1252                          const EVP_MD *md, int *ispss)
1253 {
1254     int md_id, sig_id, tmpispss = 0;
1255     size_t i;
1256     const SIGALG_LOOKUP *curr;
1257
1258     if (md == NULL)
1259         return 0;
1260     md_id = EVP_MD_type(md);
1261     sig_id = EVP_PKEY_id(pk);
1262     if (md_id == NID_undef)
1263         return 0;
1264
1265     for (i = 0, curr = sigalg_lookup_tbl; i < OSSL_NELEM(sigalg_lookup_tbl);
1266          i++, curr++) {
1267         if (curr->hash == md_id && curr->sig == sig_id) {
1268             if (sig_id == EVP_PKEY_RSA) {
1269                 tmpispss = SIGID_IS_PSS(curr->sigalg);
1270                 if (!SSL_IS_TLS13(s) && tmpispss) {
1271                     size_t j;
1272
1273                     /*
1274                      * Check peer actually sent a PSS sig id - it could have
1275                      * been a PKCS1 sig id instead.
1276                      */
1277                     for (j = 0; j < s->cert->shared_sigalgslen; j++)
1278                         if (s->cert->shared_sigalgs[j].rsigalg == curr->sigalg)
1279                             break;
1280
1281                     if (j == s->cert->shared_sigalgslen)
1282                         continue;
1283                 }
1284             }
1285             if (!WPACKET_put_bytes_u16(pkt, curr->sigalg))
1286                 return 0;
1287             *ispss = tmpispss;
1288             return 1;
1289         }
1290     }
1291
1292     return 0;
1293 }
1294
1295 typedef struct {
1296     int nid;
1297     int secbits;
1298     int md_idx;
1299 } tls12_hash_info;
1300
1301 static const tls12_hash_info tls12_md_info[] = {
1302     {NID_md5, 64, SSL_MD_MD5_IDX},
1303     {NID_sha1, 80, SSL_MD_SHA1_IDX},
1304     {NID_sha224, 112, SSL_MD_SHA224_IDX},
1305     {NID_sha256, 128, SSL_MD_SHA256_IDX},
1306     {NID_sha384, 192, SSL_MD_SHA384_IDX},
1307     {NID_sha512, 256, SSL_MD_SHA512_IDX},
1308     {NID_id_GostR3411_94, 128, SSL_MD_GOST94_IDX},
1309     {NID_id_GostR3411_2012_256, 128, SSL_MD_GOST12_256_IDX},
1310     {NID_id_GostR3411_2012_512, 256, SSL_MD_GOST12_512_IDX},
1311 };
1312
1313 static const tls12_hash_info *tls12_get_hash_info(int hash_nid)
1314 {
1315     unsigned int i;
1316     if (hash_nid == NID_undef)
1317         return NULL;
1318
1319     for (i = 0; i < OSSL_NELEM(tls12_md_info); i++) {
1320         if (tls12_md_info[i].nid == hash_nid)
1321             return tls12_md_info + i;
1322     }
1323
1324     return NULL;
1325 }
1326
1327 const EVP_MD *tls12_get_hash(int hash_nid)
1328 {
1329     const tls12_hash_info *inf;
1330     if (hash_nid == NID_md5 && FIPS_mode())
1331         return NULL;
1332     inf = tls12_get_hash_info(hash_nid);
1333     if (!inf)
1334         return NULL;
1335     return ssl_md(inf->md_idx);
1336 }
1337
1338 static int tls12_get_pkey_idx(int sig_nid)
1339 {
1340     switch (sig_nid) {
1341 #ifndef OPENSSL_NO_RSA
1342     case EVP_PKEY_RSA:
1343         return SSL_PKEY_RSA_SIGN;
1344 #endif
1345 #ifndef OPENSSL_NO_DSA
1346     case EVP_PKEY_DSA:
1347         return SSL_PKEY_DSA_SIGN;
1348 #endif
1349 #ifndef OPENSSL_NO_EC
1350     case EVP_PKEY_EC:
1351         return SSL_PKEY_ECC;
1352 #endif
1353 #ifndef OPENSSL_NO_GOST
1354     case NID_id_GostR3410_2001:
1355         return SSL_PKEY_GOST01;
1356
1357     case NID_id_GostR3410_2012_256:
1358         return SSL_PKEY_GOST12_256;
1359
1360     case NID_id_GostR3410_2012_512:
1361         return SSL_PKEY_GOST12_512;
1362 #endif
1363     }
1364     return -1;
1365 }
1366
1367 /* Convert TLS 1.2 signature algorithm extension values into NIDs */
1368 static void tls1_lookup_sigalg(int *phash_nid, int *psign_nid,
1369                                int *psignhash_nid, uint16_t data)
1370 {
1371     int sign_nid = NID_undef, hash_nid = NID_undef;
1372     if (!phash_nid && !psign_nid && !psignhash_nid)
1373         return;
1374     if (phash_nid || psignhash_nid) {
1375         hash_nid = tls_sigalg_get_hash(data);
1376         if (phash_nid)
1377             *phash_nid = hash_nid;
1378     }
1379     if (psign_nid || psignhash_nid) {
1380         sign_nid = tls_sigalg_get_sig(data);
1381         if (psign_nid)
1382             *psign_nid = sign_nid;
1383     }
1384     if (psignhash_nid) {
1385         if (sign_nid == NID_undef || hash_nid == NID_undef
1386             || OBJ_find_sigid_by_algs(psignhash_nid, hash_nid, sign_nid) <= 0)
1387             *psignhash_nid = NID_undef;
1388     }
1389 }
1390
1391 /* Check to see if a signature algorithm is allowed */
1392 static int tls12_sigalg_allowed(SSL *s, int op, unsigned int ptmp)
1393 {
1394     /* See if we have an entry in the hash table and it is enabled */
1395     const tls12_hash_info *hinf
1396         = tls12_get_hash_info(tls_sigalg_get_hash(ptmp));
1397     unsigned char sigalgstr[2];
1398
1399     if (hinf == NULL || ssl_md(hinf->md_idx) == NULL)
1400         return 0;
1401     /* See if public key algorithm allowed */
1402     if (tls12_get_pkey_idx(tls_sigalg_get_sig(ptmp)) == -1)
1403         return 0;
1404     /* Finally see if security callback allows it */
1405     sigalgstr[0] = (ptmp >> 8) & 0xff;
1406     sigalgstr[1] = ptmp & 0xff;
1407     return ssl_security(s, op, hinf->secbits, hinf->nid, (void *)sigalgstr);
1408 }
1409
1410 /*
1411  * Get a mask of disabled public key algorithms based on supported signature
1412  * algorithms. For example if no signature algorithm supports RSA then RSA is
1413  * disabled.
1414  */
1415
1416 void ssl_set_sig_mask(uint32_t *pmask_a, SSL *s, int op)
1417 {
1418     const uint16_t *sigalgs;
1419     size_t i, sigalgslen;
1420     int have_rsa = 0, have_dsa = 0, have_ecdsa = 0;
1421     /*
1422      * Now go through all signature algorithms seeing if we support any for
1423      * RSA, DSA, ECDSA. Do this for all versions not just TLS 1.2. To keep
1424      * down calls to security callback only check if we have to.
1425      */
1426     sigalgslen = tls12_get_psigalgs(s, 1, &sigalgs);
1427     for (i = 0; i < sigalgslen; i ++, sigalgs++) {
1428         switch (tls_sigalg_get_sig(*sigalgs)) {
1429 #ifndef OPENSSL_NO_RSA
1430         case EVP_PKEY_RSA:
1431             if (!have_rsa && tls12_sigalg_allowed(s, op, *sigalgs))
1432                 have_rsa = 1;
1433             break;
1434 #endif
1435 #ifndef OPENSSL_NO_DSA
1436         case EVP_PKEY_DSA:
1437             if (!have_dsa && tls12_sigalg_allowed(s, op, *sigalgs))
1438                 have_dsa = 1;
1439             break;
1440 #endif
1441 #ifndef OPENSSL_NO_EC
1442         case EVP_PKEY_EC:
1443             if (!have_ecdsa && tls12_sigalg_allowed(s, op, *sigalgs))
1444                 have_ecdsa = 1;
1445             break;
1446 #endif
1447         }
1448     }
1449     if (!have_rsa)
1450         *pmask_a |= SSL_aRSA;
1451     if (!have_dsa)
1452         *pmask_a |= SSL_aDSS;
1453     if (!have_ecdsa)
1454         *pmask_a |= SSL_aECDSA;
1455 }
1456
1457 int tls12_copy_sigalgs(SSL *s, WPACKET *pkt,
1458                        const uint16_t *psig, size_t psiglen)
1459 {
1460     size_t i;
1461
1462     for (i = 0; i < psiglen; i++, psig++) {
1463         if (tls12_sigalg_allowed(s, SSL_SECOP_SIGALG_SUPPORTED, *psig)) {
1464             if (!WPACKET_put_bytes_u16(pkt, *psig))
1465                 return 0;
1466         }
1467     }
1468     return 1;
1469 }
1470
1471 /* Given preference and allowed sigalgs set shared sigalgs */
1472 static size_t tls12_shared_sigalgs(SSL *s, TLS_SIGALGS *shsig,
1473                                    const uint16_t *pref, size_t preflen,
1474                                    const uint16_t *allow, size_t allowlen)
1475 {
1476     const uint16_t *ptmp, *atmp;
1477     size_t i, j, nmatch = 0;
1478     for (i = 0, ptmp = pref; i < preflen; i++, ptmp++) {
1479         /* Skip disabled hashes or signature algorithms */
1480         if (!tls12_sigalg_allowed(s, SSL_SECOP_SIGALG_SHARED, *ptmp))
1481             continue;
1482         for (j = 0, atmp = allow; j < allowlen; j++, atmp++) {
1483             if (*ptmp == *atmp) {
1484                 nmatch++;
1485                 if (shsig) {
1486                     shsig->rsigalg = *ptmp;
1487                     tls1_lookup_sigalg(&shsig->hash_nid,
1488                                        &shsig->sign_nid,
1489                                        &shsig->signandhash_nid, *ptmp);
1490                     shsig++;
1491                 }
1492                 break;
1493             }
1494         }
1495     }
1496     return nmatch;
1497 }
1498
1499 /* Set shared signature algorithms for SSL structures */
1500 static int tls1_set_shared_sigalgs(SSL *s)
1501 {
1502     const uint16_t *pref, *allow, *conf;
1503     size_t preflen, allowlen, conflen;
1504     size_t nmatch;
1505     TLS_SIGALGS *salgs = NULL;
1506     CERT *c = s->cert;
1507     unsigned int is_suiteb = tls1_suiteb(s);
1508
1509     OPENSSL_free(c->shared_sigalgs);
1510     c->shared_sigalgs = NULL;
1511     c->shared_sigalgslen = 0;
1512     /* If client use client signature algorithms if not NULL */
1513     if (!s->server && c->client_sigalgs && !is_suiteb) {
1514         conf = c->client_sigalgs;
1515         conflen = c->client_sigalgslen;
1516     } else if (c->conf_sigalgs && !is_suiteb) {
1517         conf = c->conf_sigalgs;
1518         conflen = c->conf_sigalgslen;
1519     } else
1520         conflen = tls12_get_psigalgs(s, 0, &conf);
1521     if (s->options & SSL_OP_CIPHER_SERVER_PREFERENCE || is_suiteb) {
1522         pref = conf;
1523         preflen = conflen;
1524         allow = s->s3->tmp.peer_sigalgs;
1525         allowlen = s->s3->tmp.peer_sigalgslen;
1526     } else {
1527         allow = conf;
1528         allowlen = conflen;
1529         pref = s->s3->tmp.peer_sigalgs;
1530         preflen = s->s3->tmp.peer_sigalgslen;
1531     }
1532     nmatch = tls12_shared_sigalgs(s, NULL, pref, preflen, allow, allowlen);
1533     if (nmatch) {
1534         salgs = OPENSSL_malloc(nmatch * sizeof(TLS_SIGALGS));
1535         if (salgs == NULL)
1536             return 0;
1537         nmatch = tls12_shared_sigalgs(s, salgs, pref, preflen, allow, allowlen);
1538     } else {
1539         salgs = NULL;
1540     }
1541     c->shared_sigalgs = salgs;
1542     c->shared_sigalgslen = nmatch;
1543     return 1;
1544 }
1545
1546 /* Set preferred digest for each key type */
1547
1548 int tls1_save_sigalgs(SSL *s, PACKET *pkt)
1549 {
1550     CERT *c = s->cert;
1551     unsigned int stmp;
1552     size_t size, i;
1553
1554     /* Extension ignored for inappropriate versions */
1555     if (!SSL_USE_SIGALGS(s))
1556         return 1;
1557     /* Should never happen */
1558     if (!c)
1559         return 0;
1560
1561     size = PACKET_remaining(pkt);
1562
1563     /* Invalid data length */
1564     if ((size & 1) != 0)
1565         return 0;
1566
1567     size >>= 1;
1568
1569     OPENSSL_free(s->s3->tmp.peer_sigalgs);
1570     s->s3->tmp.peer_sigalgs = OPENSSL_malloc(size
1571                                          * sizeof(*s->s3->tmp.peer_sigalgs));
1572     if (s->s3->tmp.peer_sigalgs == NULL)
1573         return 0;
1574     s->s3->tmp.peer_sigalgslen = size;
1575     for (i = 0; i < size && PACKET_get_net_2(pkt, &stmp); i++)
1576         s->s3->tmp.peer_sigalgs[i] = stmp;
1577
1578     if (i != size)
1579         return 0;
1580
1581     return 1;
1582 }
1583
1584 int tls1_process_sigalgs(SSL *s)
1585 {
1586     int idx;
1587     size_t i;
1588     const EVP_MD *md;
1589     const EVP_MD **pmd = s->s3->tmp.md;
1590     uint32_t *pvalid = s->s3->tmp.valid_flags;
1591     CERT *c = s->cert;
1592     TLS_SIGALGS *sigptr;
1593     if (!tls1_set_shared_sigalgs(s))
1594         return 0;
1595
1596     for (i = 0, sigptr = c->shared_sigalgs;
1597          i < c->shared_sigalgslen; i++, sigptr++) {
1598         /* Ignore PKCS1 based sig algs in TLSv1.3 */
1599         if (SSL_IS_TLS13(s)
1600                 && (sigptr->rsigalg == TLSEXT_SIGALG_rsa_pkcs1_sha1
1601                     || sigptr->rsigalg == TLSEXT_SIGALG_rsa_pkcs1_sha256
1602                     || sigptr->rsigalg == TLSEXT_SIGALG_rsa_pkcs1_sha384
1603                     || sigptr->rsigalg == TLSEXT_SIGALG_rsa_pkcs1_sha512))
1604             continue;
1605         idx = tls12_get_pkey_idx(sigptr->sign_nid);
1606         if (idx > 0 && pmd[idx] == NULL) {
1607             md = tls12_get_hash(sigptr->hash_nid);
1608             pmd[idx] = md;
1609             pvalid[idx] = CERT_PKEY_EXPLICIT_SIGN;
1610             if (idx == SSL_PKEY_RSA_SIGN) {
1611                 pvalid[SSL_PKEY_RSA_ENC] = CERT_PKEY_EXPLICIT_SIGN;
1612                 pmd[SSL_PKEY_RSA_ENC] = md;
1613             }
1614         }
1615
1616     }
1617     /*
1618      * In strict mode or TLS1.3 leave unset digests as NULL to indicate we can't
1619      * use the certificate for signing.
1620      */
1621     if (!(s->cert->cert_flags & SSL_CERT_FLAGS_CHECK_TLS_STRICT)
1622             && !SSL_IS_TLS13(s)) {
1623         /*
1624          * Set any remaining keys to default values. NOTE: if alg is not
1625          * supported it stays as NULL.
1626          */
1627 #ifndef OPENSSL_NO_DSA
1628         if (pmd[SSL_PKEY_DSA_SIGN] == NULL)
1629             pmd[SSL_PKEY_DSA_SIGN] = EVP_sha1();
1630 #endif
1631 #ifndef OPENSSL_NO_RSA
1632         if (pmd[SSL_PKEY_RSA_SIGN] == NULL) {
1633             pmd[SSL_PKEY_RSA_SIGN] = EVP_sha1();
1634             pmd[SSL_PKEY_RSA_ENC] = EVP_sha1();
1635         }
1636 #endif
1637 #ifndef OPENSSL_NO_EC
1638         if (pmd[SSL_PKEY_ECC] == NULL)
1639             pmd[SSL_PKEY_ECC] = EVP_sha1();
1640 #endif
1641 #ifndef OPENSSL_NO_GOST
1642         if (pmd[SSL_PKEY_GOST01] == NULL)
1643             pmd[SSL_PKEY_GOST01] = EVP_get_digestbynid(NID_id_GostR3411_94);
1644         if (pmd[SSL_PKEY_GOST12_256] == NULL)
1645             pmd[SSL_PKEY_GOST12_256] =
1646                 EVP_get_digestbynid(NID_id_GostR3411_2012_256);
1647         if (pmd[SSL_PKEY_GOST12_512] == NULL)
1648             pmd[SSL_PKEY_GOST12_512] =
1649                 EVP_get_digestbynid(NID_id_GostR3411_2012_512);
1650 #endif
1651     }
1652     return 1;
1653 }
1654
1655 int SSL_get_sigalgs(SSL *s, int idx,
1656                     int *psign, int *phash, int *psignhash,
1657                     unsigned char *rsig, unsigned char *rhash)
1658 {
1659     uint16_t *psig = s->s3->tmp.peer_sigalgs;
1660     size_t numsigalgs = s->s3->tmp.peer_sigalgslen;
1661     if (psig == NULL || numsigalgs > INT_MAX)
1662         return 0;
1663     if (idx >= 0) {
1664         if (idx >= (int)numsigalgs)
1665             return 0;
1666         psig += idx;
1667         if (rhash)
1668             *rhash = (unsigned char)((*psig >> 8) & 0xff);
1669         if (rsig)
1670             *rsig = (unsigned char)(*psig & 0xff);
1671         tls1_lookup_sigalg(phash, psign, psignhash, *psig);
1672     }
1673     return (int)numsigalgs;
1674 }
1675
1676 int SSL_get_shared_sigalgs(SSL *s, int idx,
1677                            int *psign, int *phash, int *psignhash,
1678                            unsigned char *rsig, unsigned char *rhash)
1679 {
1680     TLS_SIGALGS *shsigalgs = s->cert->shared_sigalgs;
1681     if (!shsigalgs || idx >= (int)s->cert->shared_sigalgslen
1682             || s->cert->shared_sigalgslen > INT_MAX)
1683         return 0;
1684     shsigalgs += idx;
1685     if (phash)
1686         *phash = shsigalgs->hash_nid;
1687     if (psign)
1688         *psign = shsigalgs->sign_nid;
1689     if (psignhash)
1690         *psignhash = shsigalgs->signandhash_nid;
1691     if (rsig)
1692         *rsig = (unsigned char)(shsigalgs->rsigalg & 0xff);
1693     if (rhash)
1694         *rhash = (unsigned char)((shsigalgs->rsigalg >> 8) & 0xff);
1695     return (int)s->cert->shared_sigalgslen;
1696 }
1697
1698 #define MAX_SIGALGLEN   (TLSEXT_hash_num * TLSEXT_signature_num * 2)
1699
1700 typedef struct {
1701     size_t sigalgcnt;
1702     int sigalgs[MAX_SIGALGLEN];
1703 } sig_cb_st;
1704
1705 static void get_sigorhash(int *psig, int *phash, const char *str)
1706 {
1707     if (strcmp(str, "RSA") == 0) {
1708         *psig = EVP_PKEY_RSA;
1709     } else if (strcmp(str, "DSA") == 0) {
1710         *psig = EVP_PKEY_DSA;
1711     } else if (strcmp(str, "ECDSA") == 0) {
1712         *psig = EVP_PKEY_EC;
1713     } else {
1714         *phash = OBJ_sn2nid(str);
1715         if (*phash == NID_undef)
1716             *phash = OBJ_ln2nid(str);
1717     }
1718 }
1719
1720 static int sig_cb(const char *elem, int len, void *arg)
1721 {
1722     sig_cb_st *sarg = arg;
1723     size_t i;
1724     char etmp[20], *p;
1725     int sig_alg = NID_undef, hash_alg = NID_undef;
1726     if (elem == NULL)
1727         return 0;
1728     if (sarg->sigalgcnt == MAX_SIGALGLEN)
1729         return 0;
1730     if (len > (int)(sizeof(etmp) - 1))
1731         return 0;
1732     memcpy(etmp, elem, len);
1733     etmp[len] = 0;
1734     p = strchr(etmp, '+');
1735     if (!p)
1736         return 0;
1737     *p = 0;
1738     p++;
1739     if (!*p)
1740         return 0;
1741
1742     get_sigorhash(&sig_alg, &hash_alg, etmp);
1743     get_sigorhash(&sig_alg, &hash_alg, p);
1744
1745     if (sig_alg == NID_undef || hash_alg == NID_undef)
1746         return 0;
1747
1748     for (i = 0; i < sarg->sigalgcnt; i += 2) {
1749         if (sarg->sigalgs[i] == sig_alg && sarg->sigalgs[i + 1] == hash_alg)
1750             return 0;
1751     }
1752     sarg->sigalgs[sarg->sigalgcnt++] = hash_alg;
1753     sarg->sigalgs[sarg->sigalgcnt++] = sig_alg;
1754     return 1;
1755 }
1756
1757 /*
1758  * Set supported signature algorithms based on a colon separated list of the
1759  * form sig+hash e.g. RSA+SHA512:DSA+SHA512
1760  */
1761 int tls1_set_sigalgs_list(CERT *c, const char *str, int client)
1762 {
1763     sig_cb_st sig;
1764     sig.sigalgcnt = 0;
1765     if (!CONF_parse_list(str, ':', 1, sig_cb, &sig))
1766         return 0;
1767     if (c == NULL)
1768         return 1;
1769     return tls1_set_sigalgs(c, sig.sigalgs, sig.sigalgcnt, client);
1770 }
1771
1772 /* TODO(TLS1.3): Needs updating to allow setting of TLS1.3 sig algs */
1773 int tls1_set_sigalgs(CERT *c, const int *psig_nids, size_t salglen, int client)
1774 {
1775     uint16_t *sigalgs, *sptr;
1776     size_t i;
1777
1778     if (salglen & 1)
1779         return 0;
1780     sigalgs = OPENSSL_malloc((salglen / 2) * sizeof(*sigalgs));
1781     if (sigalgs == NULL)
1782         return 0;
1783     /*
1784      * TODO(TLS1.3): Somehow we need to be able to set RSA-PSS as well as
1785      * RSA-PKCS1. For now we only allow setting of RSA-PKCS1
1786      */
1787     for (i = 0, sptr = sigalgs; i < salglen; i += 2) {
1788         size_t j;
1789         const SIGALG_LOOKUP *curr;
1790         int md_id = *psig_nids++;
1791         int sig_id = *psig_nids++;
1792
1793         for (j = 0, curr = sigalg_lookup_tbl; j < OSSL_NELEM(sigalg_lookup_tbl);
1794              j++, curr++) {
1795             /* Skip setting PSS so we get PKCS1 by default */
1796             if (SIGID_IS_PSS(curr->sigalg))
1797                 continue;
1798             if (curr->hash == md_id && curr->sig == sig_id) {
1799                 *sptr++ = curr->sigalg;
1800                 break;
1801             }
1802         }
1803
1804         if (j == OSSL_NELEM(sigalg_lookup_tbl))
1805             goto err;
1806     }
1807
1808     if (client) {
1809         OPENSSL_free(c->client_sigalgs);
1810         c->client_sigalgs = sigalgs;
1811         c->client_sigalgslen = salglen / 2;
1812     } else {
1813         OPENSSL_free(c->conf_sigalgs);
1814         c->conf_sigalgs = sigalgs;
1815         c->conf_sigalgslen = salglen / 2;
1816     }
1817
1818     return 1;
1819
1820  err:
1821     OPENSSL_free(sigalgs);
1822     return 0;
1823 }
1824
1825 static int tls1_check_sig_alg(CERT *c, X509 *x, int default_nid)
1826 {
1827     int sig_nid;
1828     size_t i;
1829     if (default_nid == -1)
1830         return 1;
1831     sig_nid = X509_get_signature_nid(x);
1832     if (default_nid)
1833         return sig_nid == default_nid ? 1 : 0;
1834     for (i = 0; i < c->shared_sigalgslen; i++)
1835         if (sig_nid == c->shared_sigalgs[i].signandhash_nid)
1836             return 1;
1837     return 0;
1838 }
1839
1840 /* Check to see if a certificate issuer name matches list of CA names */
1841 static int ssl_check_ca_name(STACK_OF(X509_NAME) *names, X509 *x)
1842 {
1843     X509_NAME *nm;
1844     int i;
1845     nm = X509_get_issuer_name(x);
1846     for (i = 0; i < sk_X509_NAME_num(names); i++) {
1847         if (!X509_NAME_cmp(nm, sk_X509_NAME_value(names, i)))
1848             return 1;
1849     }
1850     return 0;
1851 }
1852
1853 /*
1854  * Check certificate chain is consistent with TLS extensions and is usable by
1855  * server. This servers two purposes: it allows users to check chains before
1856  * passing them to the server and it allows the server to check chains before
1857  * attempting to use them.
1858  */
1859
1860 /* Flags which need to be set for a certificate when stict mode not set */
1861
1862 #define CERT_PKEY_VALID_FLAGS \
1863         (CERT_PKEY_EE_SIGNATURE|CERT_PKEY_EE_PARAM)
1864 /* Strict mode flags */
1865 #define CERT_PKEY_STRICT_FLAGS \
1866          (CERT_PKEY_VALID_FLAGS|CERT_PKEY_CA_SIGNATURE|CERT_PKEY_CA_PARAM \
1867          | CERT_PKEY_ISSUER_NAME|CERT_PKEY_CERT_TYPE)
1868
1869 int tls1_check_chain(SSL *s, X509 *x, EVP_PKEY *pk, STACK_OF(X509) *chain,
1870                      int idx)
1871 {
1872     int i;
1873     int rv = 0;
1874     int check_flags = 0, strict_mode;
1875     CERT_PKEY *cpk = NULL;
1876     CERT *c = s->cert;
1877     uint32_t *pvalid;
1878     unsigned int suiteb_flags = tls1_suiteb(s);
1879     /* idx == -1 means checking server chains */
1880     if (idx != -1) {
1881         /* idx == -2 means checking client certificate chains */
1882         if (idx == -2) {
1883             cpk = c->key;
1884             idx = (int)(cpk - c->pkeys);
1885         } else
1886             cpk = c->pkeys + idx;
1887         pvalid = s->s3->tmp.valid_flags + idx;
1888         x = cpk->x509;
1889         pk = cpk->privatekey;
1890         chain = cpk->chain;
1891         strict_mode = c->cert_flags & SSL_CERT_FLAGS_CHECK_TLS_STRICT;
1892         /* If no cert or key, forget it */
1893         if (!x || !pk)
1894             goto end;
1895     } else {
1896         if (!x || !pk)
1897             return 0;
1898         idx = ssl_cert_type(x, pk);
1899         if (idx == -1)
1900             return 0;
1901         pvalid = s->s3->tmp.valid_flags + idx;
1902
1903         if (c->cert_flags & SSL_CERT_FLAGS_CHECK_TLS_STRICT)
1904             check_flags = CERT_PKEY_STRICT_FLAGS;
1905         else
1906             check_flags = CERT_PKEY_VALID_FLAGS;
1907         strict_mode = 1;
1908     }
1909
1910     if (suiteb_flags) {
1911         int ok;
1912         if (check_flags)
1913             check_flags |= CERT_PKEY_SUITEB;
1914         ok = X509_chain_check_suiteb(NULL, x, chain, suiteb_flags);
1915         if (ok == X509_V_OK)
1916             rv |= CERT_PKEY_SUITEB;
1917         else if (!check_flags)
1918             goto end;
1919     }
1920
1921     /*
1922      * Check all signature algorithms are consistent with signature
1923      * algorithms extension if TLS 1.2 or later and strict mode.
1924      */
1925     if (TLS1_get_version(s) >= TLS1_2_VERSION && strict_mode) {
1926         int default_nid;
1927         int rsign = 0;
1928         if (s->s3->tmp.peer_sigalgs)
1929             default_nid = 0;
1930         /* If no sigalgs extension use defaults from RFC5246 */
1931         else {
1932             switch (idx) {
1933             case SSL_PKEY_RSA_ENC:
1934             case SSL_PKEY_RSA_SIGN:
1935                 rsign = EVP_PKEY_RSA;
1936                 default_nid = NID_sha1WithRSAEncryption;
1937                 break;
1938
1939             case SSL_PKEY_DSA_SIGN:
1940                 rsign = EVP_PKEY_DSA;
1941                 default_nid = NID_dsaWithSHA1;
1942                 break;
1943
1944             case SSL_PKEY_ECC:
1945                 rsign = EVP_PKEY_EC;
1946                 default_nid = NID_ecdsa_with_SHA1;
1947                 break;
1948
1949             case SSL_PKEY_GOST01:
1950                 rsign = NID_id_GostR3410_2001;
1951                 default_nid = NID_id_GostR3411_94_with_GostR3410_2001;
1952                 break;
1953
1954             case SSL_PKEY_GOST12_256:
1955                 rsign = NID_id_GostR3410_2012_256;
1956                 default_nid = NID_id_tc26_signwithdigest_gost3410_2012_256;
1957                 break;
1958
1959             case SSL_PKEY_GOST12_512:
1960                 rsign = NID_id_GostR3410_2012_512;
1961                 default_nid = NID_id_tc26_signwithdigest_gost3410_2012_512;
1962                 break;
1963
1964             default:
1965                 default_nid = -1;
1966                 break;
1967             }
1968         }
1969         /*
1970          * If peer sent no signature algorithms extension and we have set
1971          * preferred signature algorithms check we support sha1.
1972          */
1973         if (default_nid > 0 && c->conf_sigalgs) {
1974             size_t j;
1975             const uint16_t *p = c->conf_sigalgs;
1976             for (j = 0; j < c->conf_sigalgslen; j++, p++) {
1977                 if (tls_sigalg_get_hash(*p) == NID_sha1
1978                         && tls_sigalg_get_sig(*p) == rsign)
1979                     break;
1980             }
1981             if (j == c->conf_sigalgslen) {
1982                 if (check_flags)
1983                     goto skip_sigs;
1984                 else
1985                     goto end;
1986             }
1987         }
1988         /* Check signature algorithm of each cert in chain */
1989         if (!tls1_check_sig_alg(c, x, default_nid)) {
1990             if (!check_flags)
1991                 goto end;
1992         } else
1993             rv |= CERT_PKEY_EE_SIGNATURE;
1994         rv |= CERT_PKEY_CA_SIGNATURE;
1995         for (i = 0; i < sk_X509_num(chain); i++) {
1996             if (!tls1_check_sig_alg(c, sk_X509_value(chain, i), default_nid)) {
1997                 if (check_flags) {
1998                     rv &= ~CERT_PKEY_CA_SIGNATURE;
1999                     break;
2000                 } else
2001                     goto end;
2002             }
2003         }
2004     }
2005     /* Else not TLS 1.2, so mark EE and CA signing algorithms OK */
2006     else if (check_flags)
2007         rv |= CERT_PKEY_EE_SIGNATURE | CERT_PKEY_CA_SIGNATURE;
2008  skip_sigs:
2009     /* Check cert parameters are consistent */
2010     if (tls1_check_cert_param(s, x, check_flags ? 1 : 2))
2011         rv |= CERT_PKEY_EE_PARAM;
2012     else if (!check_flags)
2013         goto end;
2014     if (!s->server)
2015         rv |= CERT_PKEY_CA_PARAM;
2016     /* In strict mode check rest of chain too */
2017     else if (strict_mode) {
2018         rv |= CERT_PKEY_CA_PARAM;
2019         for (i = 0; i < sk_X509_num(chain); i++) {
2020             X509 *ca = sk_X509_value(chain, i);
2021             if (!tls1_check_cert_param(s, ca, 0)) {
2022                 if (check_flags) {
2023                     rv &= ~CERT_PKEY_CA_PARAM;
2024                     break;
2025                 } else
2026                     goto end;
2027             }
2028         }
2029     }
2030     if (!s->server && strict_mode) {
2031         STACK_OF(X509_NAME) *ca_dn;
2032         int check_type = 0;
2033         switch (EVP_PKEY_id(pk)) {
2034         case EVP_PKEY_RSA:
2035             check_type = TLS_CT_RSA_SIGN;
2036             break;
2037         case EVP_PKEY_DSA:
2038             check_type = TLS_CT_DSS_SIGN;
2039             break;
2040         case EVP_PKEY_EC:
2041             check_type = TLS_CT_ECDSA_SIGN;
2042             break;
2043         }
2044         if (check_type) {
2045             const unsigned char *ctypes;
2046             int ctypelen;
2047             if (c->ctypes) {
2048                 ctypes = c->ctypes;
2049                 ctypelen = (int)c->ctype_num;
2050             } else {
2051                 ctypes = (unsigned char *)s->s3->tmp.ctype;
2052                 ctypelen = s->s3->tmp.ctype_num;
2053             }
2054             for (i = 0; i < ctypelen; i++) {
2055                 if (ctypes[i] == check_type) {
2056                     rv |= CERT_PKEY_CERT_TYPE;
2057                     break;
2058                 }
2059             }
2060             if (!(rv & CERT_PKEY_CERT_TYPE) && !check_flags)
2061                 goto end;
2062         } else
2063             rv |= CERT_PKEY_CERT_TYPE;
2064
2065         ca_dn = s->s3->tmp.ca_names;
2066
2067         if (!sk_X509_NAME_num(ca_dn))
2068             rv |= CERT_PKEY_ISSUER_NAME;
2069
2070         if (!(rv & CERT_PKEY_ISSUER_NAME)) {
2071             if (ssl_check_ca_name(ca_dn, x))
2072                 rv |= CERT_PKEY_ISSUER_NAME;
2073         }
2074         if (!(rv & CERT_PKEY_ISSUER_NAME)) {
2075             for (i = 0; i < sk_X509_num(chain); i++) {
2076                 X509 *xtmp = sk_X509_value(chain, i);
2077                 if (ssl_check_ca_name(ca_dn, xtmp)) {
2078                     rv |= CERT_PKEY_ISSUER_NAME;
2079                     break;
2080                 }
2081             }
2082         }
2083         if (!check_flags && !(rv & CERT_PKEY_ISSUER_NAME))
2084             goto end;
2085     } else
2086         rv |= CERT_PKEY_ISSUER_NAME | CERT_PKEY_CERT_TYPE;
2087
2088     if (!check_flags || (rv & check_flags) == check_flags)
2089         rv |= CERT_PKEY_VALID;
2090
2091  end:
2092
2093     if (TLS1_get_version(s) >= TLS1_2_VERSION) {
2094         if (*pvalid & CERT_PKEY_EXPLICIT_SIGN)
2095             rv |= CERT_PKEY_EXPLICIT_SIGN | CERT_PKEY_SIGN;
2096         else if (s->s3->tmp.md[idx] != NULL)
2097             rv |= CERT_PKEY_SIGN;
2098     } else
2099         rv |= CERT_PKEY_SIGN | CERT_PKEY_EXPLICIT_SIGN;
2100
2101     /*
2102      * When checking a CERT_PKEY structure all flags are irrelevant if the
2103      * chain is invalid.
2104      */
2105     if (!check_flags) {
2106         if (rv & CERT_PKEY_VALID)
2107             *pvalid = rv;
2108         else {
2109             /* Preserve explicit sign flag, clear rest */
2110             *pvalid &= CERT_PKEY_EXPLICIT_SIGN;
2111             return 0;
2112         }
2113     }
2114     return rv;
2115 }
2116
2117 /* Set validity of certificates in an SSL structure */
2118 void tls1_set_cert_validity(SSL *s)
2119 {
2120     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_RSA_ENC);
2121     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_RSA_SIGN);
2122     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_DSA_SIGN);
2123     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_ECC);
2124     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_GOST01);
2125     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_GOST12_256);
2126     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_GOST12_512);
2127 }
2128
2129 /* User level utiity function to check a chain is suitable */
2130 int SSL_check_chain(SSL *s, X509 *x, EVP_PKEY *pk, STACK_OF(X509) *chain)
2131 {
2132     return tls1_check_chain(s, x, pk, chain, -1);
2133 }
2134
2135 #ifndef OPENSSL_NO_DH
2136 DH *ssl_get_auto_dh(SSL *s)
2137 {
2138     int dh_secbits = 80;
2139     if (s->cert->dh_tmp_auto == 2)
2140         return DH_get_1024_160();
2141     if (s->s3->tmp.new_cipher->algorithm_auth & (SSL_aNULL | SSL_aPSK)) {
2142         if (s->s3->tmp.new_cipher->strength_bits == 256)
2143             dh_secbits = 128;
2144         else
2145             dh_secbits = 80;
2146     } else {
2147         CERT_PKEY *cpk = ssl_get_server_send_pkey(s);
2148         dh_secbits = EVP_PKEY_security_bits(cpk->privatekey);
2149     }
2150
2151     if (dh_secbits >= 128) {
2152         DH *dhp = DH_new();
2153         BIGNUM *p, *g;
2154         if (dhp == NULL)
2155             return NULL;
2156         g = BN_new();
2157         if (g != NULL)
2158             BN_set_word(g, 2);
2159         if (dh_secbits >= 192)
2160             p = BN_get_rfc3526_prime_8192(NULL);
2161         else
2162             p = BN_get_rfc3526_prime_3072(NULL);
2163         if (p == NULL || g == NULL || !DH_set0_pqg(dhp, p, NULL, g)) {
2164             DH_free(dhp);
2165             BN_free(p);
2166             BN_free(g);
2167             return NULL;
2168         }
2169         return dhp;
2170     }
2171     if (dh_secbits >= 112)
2172         return DH_get_2048_224();
2173     return DH_get_1024_160();
2174 }
2175 #endif
2176
2177 static int ssl_security_cert_key(SSL *s, SSL_CTX *ctx, X509 *x, int op)
2178 {
2179     int secbits = -1;
2180     EVP_PKEY *pkey = X509_get0_pubkey(x);
2181     if (pkey) {
2182         /*
2183          * If no parameters this will return -1 and fail using the default
2184          * security callback for any non-zero security level. This will
2185          * reject keys which omit parameters but this only affects DSA and
2186          * omission of parameters is never (?) done in practice.
2187          */
2188         secbits = EVP_PKEY_security_bits(pkey);
2189     }
2190     if (s)
2191         return ssl_security(s, op, secbits, 0, x);
2192     else
2193         return ssl_ctx_security(ctx, op, secbits, 0, x);
2194 }
2195
2196 static int ssl_security_cert_sig(SSL *s, SSL_CTX *ctx, X509 *x, int op)
2197 {
2198     /* Lookup signature algorithm digest */
2199     int secbits = -1, md_nid = NID_undef, sig_nid;
2200     /* Don't check signature if self signed */
2201     if ((X509_get_extension_flags(x) & EXFLAG_SS) != 0)
2202         return 1;
2203     sig_nid = X509_get_signature_nid(x);
2204     if (sig_nid && OBJ_find_sigid_algs(sig_nid, &md_nid, NULL)) {
2205         const EVP_MD *md;
2206         if (md_nid && (md = EVP_get_digestbynid(md_nid)))
2207             secbits = EVP_MD_size(md) * 4;
2208     }
2209     if (s)
2210         return ssl_security(s, op, secbits, md_nid, x);
2211     else
2212         return ssl_ctx_security(ctx, op, secbits, md_nid, x);
2213 }
2214
2215 int ssl_security_cert(SSL *s, SSL_CTX *ctx, X509 *x, int vfy, int is_ee)
2216 {
2217     if (vfy)
2218         vfy = SSL_SECOP_PEER;
2219     if (is_ee) {
2220         if (!ssl_security_cert_key(s, ctx, x, SSL_SECOP_EE_KEY | vfy))
2221             return SSL_R_EE_KEY_TOO_SMALL;
2222     } else {
2223         if (!ssl_security_cert_key(s, ctx, x, SSL_SECOP_CA_KEY | vfy))
2224             return SSL_R_CA_KEY_TOO_SMALL;
2225     }
2226     if (!ssl_security_cert_sig(s, ctx, x, SSL_SECOP_CA_MD | vfy))
2227         return SSL_R_CA_MD_TOO_WEAK;
2228     return 1;
2229 }
2230
2231 /*
2232  * Check security of a chain, if sk includes the end entity certificate then
2233  * x is NULL. If vfy is 1 then we are verifying a peer chain and not sending
2234  * one to the peer. Return values: 1 if ok otherwise error code to use
2235  */
2236
2237 int ssl_security_cert_chain(SSL *s, STACK_OF(X509) *sk, X509 *x, int vfy)
2238 {
2239     int rv, start_idx, i;
2240     if (x == NULL) {
2241         x = sk_X509_value(sk, 0);
2242         start_idx = 1;
2243     } else
2244         start_idx = 0;
2245
2246     rv = ssl_security_cert(s, NULL, x, vfy, 1);
2247     if (rv != 1)
2248         return rv;
2249
2250     for (i = start_idx; i < sk_X509_num(sk); i++) {
2251         x = sk_X509_value(sk, i);
2252         rv = ssl_security_cert(s, NULL, x, vfy, 0);
2253         if (rv != 1)
2254             return rv;
2255     }
2256     return 1;
2257 }