Remove a redundant function
[openssl.git] / ssl / t1_lib.c
1 /*
2  * Copyright 1995-2016 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the OpenSSL license (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #include <stdio.h>
11 #include <stdlib.h>
12 #include <openssl/objects.h>
13 #include <openssl/evp.h>
14 #include <openssl/hmac.h>
15 #include <openssl/ocsp.h>
16 #include <openssl/conf.h>
17 #include <openssl/x509v3.h>
18 #include <openssl/dh.h>
19 #include <openssl/bn.h>
20 #include "ssl_locl.h"
21 #include <openssl/ct.h>
22
23 static int tls_decrypt_ticket(SSL *s, const unsigned char *tick, size_t ticklen,
24                               const unsigned char *sess_id, size_t sesslen,
25                               SSL_SESSION **psess);
26
27 SSL3_ENC_METHOD const TLSv1_enc_data = {
28     tls1_enc,
29     tls1_mac,
30     tls1_setup_key_block,
31     tls1_generate_master_secret,
32     tls1_change_cipher_state,
33     tls1_final_finish_mac,
34     TLS_MD_CLIENT_FINISH_CONST, TLS_MD_CLIENT_FINISH_CONST_SIZE,
35     TLS_MD_SERVER_FINISH_CONST, TLS_MD_SERVER_FINISH_CONST_SIZE,
36     tls1_alert_code,
37     tls1_export_keying_material,
38     0,
39     ssl3_set_handshake_header,
40     tls_close_construct_packet,
41     ssl3_handshake_write
42 };
43
44 SSL3_ENC_METHOD const TLSv1_1_enc_data = {
45     tls1_enc,
46     tls1_mac,
47     tls1_setup_key_block,
48     tls1_generate_master_secret,
49     tls1_change_cipher_state,
50     tls1_final_finish_mac,
51     TLS_MD_CLIENT_FINISH_CONST, TLS_MD_CLIENT_FINISH_CONST_SIZE,
52     TLS_MD_SERVER_FINISH_CONST, TLS_MD_SERVER_FINISH_CONST_SIZE,
53     tls1_alert_code,
54     tls1_export_keying_material,
55     SSL_ENC_FLAG_EXPLICIT_IV,
56     ssl3_set_handshake_header,
57     tls_close_construct_packet,
58     ssl3_handshake_write
59 };
60
61 SSL3_ENC_METHOD const TLSv1_2_enc_data = {
62     tls1_enc,
63     tls1_mac,
64     tls1_setup_key_block,
65     tls1_generate_master_secret,
66     tls1_change_cipher_state,
67     tls1_final_finish_mac,
68     TLS_MD_CLIENT_FINISH_CONST, TLS_MD_CLIENT_FINISH_CONST_SIZE,
69     TLS_MD_SERVER_FINISH_CONST, TLS_MD_SERVER_FINISH_CONST_SIZE,
70     tls1_alert_code,
71     tls1_export_keying_material,
72     SSL_ENC_FLAG_EXPLICIT_IV | SSL_ENC_FLAG_SIGALGS | SSL_ENC_FLAG_SHA256_PRF
73         | SSL_ENC_FLAG_TLS1_2_CIPHERS,
74     ssl3_set_handshake_header,
75     tls_close_construct_packet,
76     ssl3_handshake_write
77 };
78
79 SSL3_ENC_METHOD const TLSv1_3_enc_data = {
80     tls13_enc,
81     tls1_mac,
82     tls13_setup_key_block,
83     tls13_generate_master_secret,
84     tls13_change_cipher_state,
85     tls13_final_finish_mac,
86     TLS_MD_CLIENT_FINISH_CONST, TLS_MD_CLIENT_FINISH_CONST_SIZE,
87     TLS_MD_SERVER_FINISH_CONST, TLS_MD_SERVER_FINISH_CONST_SIZE,
88     tls1_alert_code,
89     tls1_export_keying_material,
90     SSL_ENC_FLAG_SIGALGS | SSL_ENC_FLAG_SHA256_PRF,
91     ssl3_set_handshake_header,
92     tls_close_construct_packet,
93     ssl3_handshake_write
94 };
95
96 long tls1_default_timeout(void)
97 {
98     /*
99      * 2 hours, the 24 hours mentioned in the TLSv1 spec is way too long for
100      * http, the cache would over fill
101      */
102     return (60 * 60 * 2);
103 }
104
105 int tls1_new(SSL *s)
106 {
107     if (!ssl3_new(s))
108         return (0);
109     s->method->ssl_clear(s);
110     return (1);
111 }
112
113 void tls1_free(SSL *s)
114 {
115     OPENSSL_free(s->ext.session_ticket);
116     ssl3_free(s);
117 }
118
119 void tls1_clear(SSL *s)
120 {
121     ssl3_clear(s);
122     if (s->method->version == TLS_ANY_VERSION)
123         s->version = TLS_MAX_VERSION;
124     else
125         s->version = s->method->version;
126 }
127
128 #ifndef OPENSSL_NO_EC
129
130 typedef struct {
131     int nid;                    /* Curve NID */
132     int secbits;                /* Bits of security (from SP800-57) */
133     unsigned int flags;         /* Flags: currently just field type */
134 } tls_curve_info;
135
136 /*
137  * Table of curve information.
138  * Do not delete entries or reorder this array! It is used as a lookup
139  * table: the index of each entry is one less than the TLS curve id.
140  */
141 static const tls_curve_info nid_list[] = {
142     {NID_sect163k1, 80, TLS_CURVE_CHAR2}, /* sect163k1 (1) */
143     {NID_sect163r1, 80, TLS_CURVE_CHAR2}, /* sect163r1 (2) */
144     {NID_sect163r2, 80, TLS_CURVE_CHAR2}, /* sect163r2 (3) */
145     {NID_sect193r1, 80, TLS_CURVE_CHAR2}, /* sect193r1 (4) */
146     {NID_sect193r2, 80, TLS_CURVE_CHAR2}, /* sect193r2 (5) */
147     {NID_sect233k1, 112, TLS_CURVE_CHAR2}, /* sect233k1 (6) */
148     {NID_sect233r1, 112, TLS_CURVE_CHAR2}, /* sect233r1 (7) */
149     {NID_sect239k1, 112, TLS_CURVE_CHAR2}, /* sect239k1 (8) */
150     {NID_sect283k1, 128, TLS_CURVE_CHAR2}, /* sect283k1 (9) */
151     {NID_sect283r1, 128, TLS_CURVE_CHAR2}, /* sect283r1 (10) */
152     {NID_sect409k1, 192, TLS_CURVE_CHAR2}, /* sect409k1 (11) */
153     {NID_sect409r1, 192, TLS_CURVE_CHAR2}, /* sect409r1 (12) */
154     {NID_sect571k1, 256, TLS_CURVE_CHAR2}, /* sect571k1 (13) */
155     {NID_sect571r1, 256, TLS_CURVE_CHAR2}, /* sect571r1 (14) */
156     {NID_secp160k1, 80, TLS_CURVE_PRIME}, /* secp160k1 (15) */
157     {NID_secp160r1, 80, TLS_CURVE_PRIME}, /* secp160r1 (16) */
158     {NID_secp160r2, 80, TLS_CURVE_PRIME}, /* secp160r2 (17) */
159     {NID_secp192k1, 80, TLS_CURVE_PRIME}, /* secp192k1 (18) */
160     {NID_X9_62_prime192v1, 80, TLS_CURVE_PRIME}, /* secp192r1 (19) */
161     {NID_secp224k1, 112, TLS_CURVE_PRIME}, /* secp224k1 (20) */
162     {NID_secp224r1, 112, TLS_CURVE_PRIME}, /* secp224r1 (21) */
163     {NID_secp256k1, 128, TLS_CURVE_PRIME}, /* secp256k1 (22) */
164     {NID_X9_62_prime256v1, 128, TLS_CURVE_PRIME}, /* secp256r1 (23) */
165     {NID_secp384r1, 192, TLS_CURVE_PRIME}, /* secp384r1 (24) */
166     {NID_secp521r1, 256, TLS_CURVE_PRIME}, /* secp521r1 (25) */
167     {NID_brainpoolP256r1, 128, TLS_CURVE_PRIME}, /* brainpoolP256r1 (26) */
168     {NID_brainpoolP384r1, 192, TLS_CURVE_PRIME}, /* brainpoolP384r1 (27) */
169     {NID_brainpoolP512r1, 256, TLS_CURVE_PRIME}, /* brainpool512r1 (28) */
170     {NID_X25519, 128, TLS_CURVE_CUSTOM}, /* X25519 (29) */
171 };
172
173 static const unsigned char ecformats_default[] = {
174     TLSEXT_ECPOINTFORMAT_uncompressed,
175     TLSEXT_ECPOINTFORMAT_ansiX962_compressed_prime,
176     TLSEXT_ECPOINTFORMAT_ansiX962_compressed_char2
177 };
178
179 /* The default curves */
180 static const unsigned char eccurves_default[] = {
181     0, 29,                      /* X25519 (29) */
182     0, 23,                      /* secp256r1 (23) */
183     0, 25,                      /* secp521r1 (25) */
184     0, 24,                      /* secp384r1 (24) */
185 };
186
187 static const unsigned char eccurves_all[] = {
188     0, 29,                      /* X25519 (29) */
189     0, 23,                      /* secp256r1 (23) */
190     0, 25,                      /* secp521r1 (25) */
191     0, 24,                      /* secp384r1 (24) */
192     0, 26,                      /* brainpoolP256r1 (26) */
193     0, 27,                      /* brainpoolP384r1 (27) */
194     0, 28,                      /* brainpool512r1 (28) */
195
196     /*
197      * Remaining curves disabled by default but still permitted if set
198      * via an explicit callback or parameters.
199      */
200     0, 22,                      /* secp256k1 (22) */
201     0, 14,                      /* sect571r1 (14) */
202     0, 13,                      /* sect571k1 (13) */
203     0, 11,                      /* sect409k1 (11) */
204     0, 12,                      /* sect409r1 (12) */
205     0, 9,                       /* sect283k1 (9) */
206     0, 10,                      /* sect283r1 (10) */
207     0, 20,                      /* secp224k1 (20) */
208     0, 21,                      /* secp224r1 (21) */
209     0, 18,                      /* secp192k1 (18) */
210     0, 19,                      /* secp192r1 (19) */
211     0, 15,                      /* secp160k1 (15) */
212     0, 16,                      /* secp160r1 (16) */
213     0, 17,                      /* secp160r2 (17) */
214     0, 8,                       /* sect239k1 (8) */
215     0, 6,                       /* sect233k1 (6) */
216     0, 7,                       /* sect233r1 (7) */
217     0, 4,                       /* sect193r1 (4) */
218     0, 5,                       /* sect193r2 (5) */
219     0, 1,                       /* sect163k1 (1) */
220     0, 2,                       /* sect163r1 (2) */
221     0, 3,                       /* sect163r2 (3) */
222 };
223
224 static const unsigned char suiteb_curves[] = {
225     0, TLSEXT_curve_P_256,
226     0, TLSEXT_curve_P_384
227 };
228
229 int tls1_ec_curve_id2nid(int curve_id, unsigned int *pflags)
230 {
231     const tls_curve_info *cinfo;
232     /* ECC curves from RFC 4492 and RFC 7027 */
233     if ((curve_id < 1) || ((unsigned int)curve_id > OSSL_NELEM(nid_list)))
234         return 0;
235     cinfo = nid_list + curve_id - 1;
236     if (pflags)
237         *pflags = cinfo->flags;
238     return cinfo->nid;
239 }
240
241 int tls1_ec_nid2curve_id(int nid)
242 {
243     size_t i;
244     for (i = 0; i < OSSL_NELEM(nid_list); i++) {
245         if (nid_list[i].nid == nid)
246             return (int)(i + 1);
247     }
248     return 0;
249 }
250
251 /*
252  * Get curves list, if "sess" is set return client curves otherwise
253  * preferred list.
254  * Sets |num_curves| to the number of curves in the list, i.e.,
255  * the length of |pcurves| is 2 * num_curves.
256  * Returns 1 on success and 0 if the client curves list has invalid format.
257  * The latter indicates an internal error: we should not be accepting such
258  * lists in the first place.
259  * TODO(emilia): we should really be storing the curves list in explicitly
260  * parsed form instead. (However, this would affect binary compatibility
261  * so cannot happen in the 1.0.x series.)
262  */
263 int tls1_get_curvelist(SSL *s, int sess, const unsigned char **pcurves,
264                        size_t *num_curves)
265 {
266     size_t pcurveslen = 0;
267     if (sess) {
268         *pcurves = s->session->ext.supportedgroups;
269         pcurveslen = s->session->ext.supportedgroups_len;
270     } else {
271         /* For Suite B mode only include P-256, P-384 */
272         switch (tls1_suiteb(s)) {
273         case SSL_CERT_FLAG_SUITEB_128_LOS:
274             *pcurves = suiteb_curves;
275             pcurveslen = sizeof(suiteb_curves);
276             break;
277
278         case SSL_CERT_FLAG_SUITEB_128_LOS_ONLY:
279             *pcurves = suiteb_curves;
280             pcurveslen = 2;
281             break;
282
283         case SSL_CERT_FLAG_SUITEB_192_LOS:
284             *pcurves = suiteb_curves + 2;
285             pcurveslen = 2;
286             break;
287         default:
288             *pcurves = s->ext.supportedgroups;
289             pcurveslen = s->ext.supportedgroups_len;
290         }
291         if (!*pcurves) {
292             *pcurves = eccurves_default;
293             pcurveslen = sizeof(eccurves_default);
294         }
295     }
296
297     /* We do not allow odd length arrays to enter the system. */
298     if (pcurveslen & 1) {
299         SSLerr(SSL_F_TLS1_GET_CURVELIST, ERR_R_INTERNAL_ERROR);
300         *num_curves = 0;
301         return 0;
302     } else {
303         *num_curves = pcurveslen / 2;
304         return 1;
305     }
306 }
307
308 /* See if curve is allowed by security callback */
309 int tls_curve_allowed(SSL *s, const unsigned char *curve, int op)
310 {
311     const tls_curve_info *cinfo;
312     if (curve[0])
313         return 1;
314     if ((curve[1] < 1) || ((size_t)curve[1] > OSSL_NELEM(nid_list)))
315         return 0;
316     cinfo = &nid_list[curve[1] - 1];
317 # ifdef OPENSSL_NO_EC2M
318     if (cinfo->flags & TLS_CURVE_CHAR2)
319         return 0;
320 # endif
321     return ssl_security(s, op, cinfo->secbits, cinfo->nid, (void *)curve);
322 }
323
324 /* Check a curve is one of our preferences */
325 int tls1_check_curve(SSL *s, const unsigned char *p, size_t len)
326 {
327     const unsigned char *curves;
328     size_t num_curves, i;
329     unsigned int suiteb_flags = tls1_suiteb(s);
330     if (len != 3 || p[0] != NAMED_CURVE_TYPE)
331         return 0;
332     /* Check curve matches Suite B preferences */
333     if (suiteb_flags) {
334         unsigned long cid = s->s3->tmp.new_cipher->id;
335         if (p[1])
336             return 0;
337         if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_128_GCM_SHA256) {
338             if (p[2] != TLSEXT_curve_P_256)
339                 return 0;
340         } else if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_256_GCM_SHA384) {
341             if (p[2] != TLSEXT_curve_P_384)
342                 return 0;
343         } else                  /* Should never happen */
344             return 0;
345     }
346     if (!tls1_get_curvelist(s, 0, &curves, &num_curves))
347         return 0;
348     for (i = 0; i < num_curves; i++, curves += 2) {
349         if (p[1] == curves[0] && p[2] == curves[1])
350             return tls_curve_allowed(s, p + 1, SSL_SECOP_CURVE_CHECK);
351     }
352     return 0;
353 }
354
355 /*-
356  * For nmatch >= 0, return the NID of the |nmatch|th shared group or NID_undef
357  * if there is no match.
358  * For nmatch == -1, return number of matches
359  * For nmatch == -2, return the NID of the group to use for
360  * an EC tmp key, or NID_undef if there is no match.
361  */
362 int tls1_shared_group(SSL *s, int nmatch)
363 {
364     const unsigned char *pref, *supp;
365     size_t num_pref, num_supp, i, j;
366     int k;
367     /* Can't do anything on client side */
368     if (s->server == 0)
369         return -1;
370     if (nmatch == -2) {
371         if (tls1_suiteb(s)) {
372             /*
373              * For Suite B ciphersuite determines curve: we already know
374              * these are acceptable due to previous checks.
375              */
376             unsigned long cid = s->s3->tmp.new_cipher->id;
377             if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_128_GCM_SHA256)
378                 return NID_X9_62_prime256v1; /* P-256 */
379             if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_256_GCM_SHA384)
380                 return NID_secp384r1; /* P-384 */
381             /* Should never happen */
382             return NID_undef;
383         }
384         /* If not Suite B just return first preference shared curve */
385         nmatch = 0;
386     }
387     /*
388      * Avoid truncation. tls1_get_curvelist takes an int
389      * but s->options is a long...
390      */
391     if (!tls1_get_curvelist
392         (s, (s->options & SSL_OP_CIPHER_SERVER_PREFERENCE) != 0, &supp,
393          &num_supp))
394         /* In practice, NID_undef == 0 but let's be precise. */
395         return nmatch == -1 ? 0 : NID_undef;
396     if (!tls1_get_curvelist
397         (s, !(s->options & SSL_OP_CIPHER_SERVER_PREFERENCE), &pref, &num_pref))
398         return nmatch == -1 ? 0 : NID_undef;
399
400     /*
401      * If the client didn't send the elliptic_curves extension all of them
402      * are allowed.
403      */
404     if (num_supp == 0 && (s->options & SSL_OP_CIPHER_SERVER_PREFERENCE) != 0) {
405         supp = eccurves_all;
406         num_supp = sizeof(eccurves_all) / 2;
407     } else if (num_pref == 0 &&
408                (s->options & SSL_OP_CIPHER_SERVER_PREFERENCE) == 0) {
409         pref = eccurves_all;
410         num_pref = sizeof(eccurves_all) / 2;
411     }
412
413     k = 0;
414     for (i = 0; i < num_pref; i++, pref += 2) {
415         const unsigned char *tsupp = supp;
416         for (j = 0; j < num_supp; j++, tsupp += 2) {
417             if (pref[0] == tsupp[0] && pref[1] == tsupp[1]) {
418                 if (!tls_curve_allowed(s, pref, SSL_SECOP_CURVE_SHARED))
419                     continue;
420                 if (nmatch == k) {
421                     int id = (pref[0] << 8) | pref[1];
422                     return tls1_ec_curve_id2nid(id, NULL);
423                 }
424                 k++;
425             }
426         }
427     }
428     if (nmatch == -1)
429         return k;
430     /* Out of range (nmatch > k). */
431     return NID_undef;
432 }
433
434 int tls1_set_groups(unsigned char **pext, size_t *pextlen,
435                     int *groups, size_t ngroups)
436 {
437     unsigned char *glist, *p;
438     size_t i;
439     /*
440      * Bitmap of groups included to detect duplicates: only works while group
441      * ids < 32
442      */
443     unsigned long dup_list = 0;
444     glist = OPENSSL_malloc(ngroups * 2);
445     if (glist == NULL)
446         return 0;
447     for (i = 0, p = glist; i < ngroups; i++) {
448         unsigned long idmask;
449         int id;
450         /* TODO(TLS1.3): Convert for DH groups */
451         id = tls1_ec_nid2curve_id(groups[i]);
452         idmask = 1L << id;
453         if (!id || (dup_list & idmask)) {
454             OPENSSL_free(glist);
455             return 0;
456         }
457         dup_list |= idmask;
458         s2n(id, p);
459     }
460     OPENSSL_free(*pext);
461     *pext = glist;
462     *pextlen = ngroups * 2;
463     return 1;
464 }
465
466 # define MAX_CURVELIST   28
467
468 typedef struct {
469     size_t nidcnt;
470     int nid_arr[MAX_CURVELIST];
471 } nid_cb_st;
472
473 static int nid_cb(const char *elem, int len, void *arg)
474 {
475     nid_cb_st *narg = arg;
476     size_t i;
477     int nid;
478     char etmp[20];
479     if (elem == NULL)
480         return 0;
481     if (narg->nidcnt == MAX_CURVELIST)
482         return 0;
483     if (len > (int)(sizeof(etmp) - 1))
484         return 0;
485     memcpy(etmp, elem, len);
486     etmp[len] = 0;
487     nid = EC_curve_nist2nid(etmp);
488     if (nid == NID_undef)
489         nid = OBJ_sn2nid(etmp);
490     if (nid == NID_undef)
491         nid = OBJ_ln2nid(etmp);
492     if (nid == NID_undef)
493         return 0;
494     for (i = 0; i < narg->nidcnt; i++)
495         if (narg->nid_arr[i] == nid)
496             return 0;
497     narg->nid_arr[narg->nidcnt++] = nid;
498     return 1;
499 }
500
501 /* Set groups based on a colon separate list */
502 int tls1_set_groups_list(unsigned char **pext, size_t *pextlen, const char *str)
503 {
504     nid_cb_st ncb;
505     ncb.nidcnt = 0;
506     if (!CONF_parse_list(str, ':', 1, nid_cb, &ncb))
507         return 0;
508     if (pext == NULL)
509         return 1;
510     return tls1_set_groups(pext, pextlen, ncb.nid_arr, ncb.nidcnt);
511 }
512
513 /* For an EC key set TLS id and required compression based on parameters */
514 static int tls1_set_ec_id(unsigned char *curve_id, unsigned char *comp_id,
515                           EC_KEY *ec)
516 {
517     int id;
518     const EC_GROUP *grp;
519     if (!ec)
520         return 0;
521     /* Determine if it is a prime field */
522     grp = EC_KEY_get0_group(ec);
523     if (!grp)
524         return 0;
525     /* Determine curve ID */
526     id = EC_GROUP_get_curve_name(grp);
527     id = tls1_ec_nid2curve_id(id);
528     /* If no id return error: we don't support arbitrary explicit curves */
529     if (id == 0)
530         return 0;
531     curve_id[0] = 0;
532     curve_id[1] = (unsigned char)id;
533     if (comp_id) {
534         if (EC_KEY_get0_public_key(ec) == NULL)
535             return 0;
536         if (EC_KEY_get_conv_form(ec) == POINT_CONVERSION_UNCOMPRESSED) {
537             *comp_id = TLSEXT_ECPOINTFORMAT_uncompressed;
538         } else {
539             if ((nid_list[id - 1].flags & TLS_CURVE_TYPE) == TLS_CURVE_PRIME)
540                 *comp_id = TLSEXT_ECPOINTFORMAT_ansiX962_compressed_prime;
541             else
542                 *comp_id = TLSEXT_ECPOINTFORMAT_ansiX962_compressed_char2;
543         }
544     }
545     return 1;
546 }
547
548 /* Check an EC key is compatible with extensions */
549 static int tls1_check_ec_key(SSL *s,
550                              unsigned char *curve_id, unsigned char *comp_id)
551 {
552     const unsigned char *pformats, *pcurves;
553     size_t num_formats, num_curves, i;
554     int j;
555     /*
556      * If point formats extension present check it, otherwise everything is
557      * supported (see RFC4492).
558      */
559     if (comp_id && s->session->ext.ecpointformats) {
560         pformats = s->session->ext.ecpointformats;
561         num_formats = s->session->ext.ecpointformats_len;
562         for (i = 0; i < num_formats; i++, pformats++) {
563             if (*comp_id == *pformats)
564                 break;
565         }
566         if (i == num_formats)
567             return 0;
568     }
569     if (!curve_id)
570         return 1;
571     /* Check curve is consistent with client and server preferences */
572     for (j = 0; j <= 1; j++) {
573         if (!tls1_get_curvelist(s, j, &pcurves, &num_curves))
574             return 0;
575         if (j == 1 && num_curves == 0) {
576             /*
577              * If we've not received any curves then skip this check.
578              * RFC 4492 does not require the supported elliptic curves extension
579              * so if it is not sent we can just choose any curve.
580              * It is invalid to send an empty list in the elliptic curves
581              * extension, so num_curves == 0 always means no extension.
582              */
583             break;
584         }
585         for (i = 0; i < num_curves; i++, pcurves += 2) {
586             if (pcurves[0] == curve_id[0] && pcurves[1] == curve_id[1])
587                 break;
588         }
589         if (i == num_curves)
590             return 0;
591         /* For clients can only check sent curve list */
592         if (!s->server)
593             break;
594     }
595     return 1;
596 }
597
598 void tls1_get_formatlist(SSL *s, const unsigned char **pformats,
599                          size_t *num_formats)
600 {
601     /*
602      * If we have a custom point format list use it otherwise use default
603      */
604     if (s->ext.ecpointformats) {
605         *pformats = s->ext.ecpointformats;
606         *num_formats = s->ext.ecpointformats_len;
607     } else {
608         *pformats = ecformats_default;
609         /* For Suite B we don't support char2 fields */
610         if (tls1_suiteb(s))
611             *num_formats = sizeof(ecformats_default) - 1;
612         else
613             *num_formats = sizeof(ecformats_default);
614     }
615 }
616
617 /*
618  * Check cert parameters compatible with extensions: currently just checks EC
619  * certificates have compatible curves and compression.
620  */
621 static int tls1_check_cert_param(SSL *s, X509 *x, int set_ee_md)
622 {
623     unsigned char comp_id, curve_id[2];
624     EVP_PKEY *pkey;
625     int rv;
626     pkey = X509_get0_pubkey(x);
627     if (!pkey)
628         return 0;
629     /* If not EC nothing to do */
630     if (EVP_PKEY_id(pkey) != EVP_PKEY_EC)
631         return 1;
632     rv = tls1_set_ec_id(curve_id, &comp_id, EVP_PKEY_get0_EC_KEY(pkey));
633     if (!rv)
634         return 0;
635     /*
636      * Can't check curve_id for client certs as we don't have a supported
637      * curves extension.
638      */
639     rv = tls1_check_ec_key(s, s->server ? curve_id : NULL, &comp_id);
640     if (!rv)
641         return 0;
642     /*
643      * Special case for suite B. We *MUST* sign using SHA256+P-256 or
644      * SHA384+P-384, adjust digest if necessary.
645      */
646     if (set_ee_md && tls1_suiteb(s)) {
647         int check_md;
648         size_t i;
649         CERT *c = s->cert;
650         if (curve_id[0])
651             return 0;
652         /* Check to see we have necessary signing algorithm */
653         if (curve_id[1] == TLSEXT_curve_P_256)
654             check_md = NID_ecdsa_with_SHA256;
655         else if (curve_id[1] == TLSEXT_curve_P_384)
656             check_md = NID_ecdsa_with_SHA384;
657         else
658             return 0;           /* Should never happen */
659         for (i = 0; i < c->shared_sigalgslen; i++)
660             if (check_md == c->shared_sigalgs[i].signandhash_nid)
661                 break;
662         if (i == c->shared_sigalgslen)
663             return 0;
664         if (set_ee_md == 2) {
665             if (check_md == NID_ecdsa_with_SHA256)
666                 s->s3->tmp.md[SSL_PKEY_ECC] = EVP_sha256();
667             else
668                 s->s3->tmp.md[SSL_PKEY_ECC] = EVP_sha384();
669         }
670     }
671     return rv;
672 }
673
674 # ifndef OPENSSL_NO_EC
675 /*
676  * tls1_check_ec_tmp_key - Check EC temporary key compatibility
677  * @s: SSL connection
678  * @cid: Cipher ID we're considering using
679  *
680  * Checks that the kECDHE cipher suite we're considering using
681  * is compatible with the client extensions.
682  *
683  * Returns 0 when the cipher can't be used or 1 when it can.
684  */
685 int tls1_check_ec_tmp_key(SSL *s, unsigned long cid)
686 {
687     /*
688      * If Suite B, AES128 MUST use P-256 and AES256 MUST use P-384, no other
689      * curves permitted.
690      */
691     if (tls1_suiteb(s)) {
692         unsigned char curve_id[2];
693         /* Curve to check determined by ciphersuite */
694         if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_128_GCM_SHA256)
695             curve_id[1] = TLSEXT_curve_P_256;
696         else if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_256_GCM_SHA384)
697             curve_id[1] = TLSEXT_curve_P_384;
698         else
699             return 0;
700         curve_id[0] = 0;
701         /* Check this curve is acceptable */
702         if (!tls1_check_ec_key(s, curve_id, NULL))
703             return 0;
704         return 1;
705     }
706     /* Need a shared curve */
707     if (tls1_shared_group(s, 0))
708         return 1;
709     return 0;
710 }
711 # endif                         /* OPENSSL_NO_EC */
712
713 #else
714
715 static int tls1_check_cert_param(SSL *s, X509 *x, int set_ee_md)
716 {
717     return 1;
718 }
719
720 #endif                          /* OPENSSL_NO_EC */
721
722 /* Default sigalg schemes */
723 static const unsigned int tls12_sigalgs[] = {
724 #ifndef OPENSSL_NO_EC
725     TLSEXT_SIGALG_ecdsa_secp256r1_sha256,
726     TLSEXT_SIGALG_ecdsa_secp384r1_sha384,
727     TLSEXT_SIGALG_ecdsa_secp521r1_sha512,
728 #endif
729
730     TLSEXT_SIGALG_rsa_pkcs1_sha256,
731     TLSEXT_SIGALG_rsa_pkcs1_sha384,
732     TLSEXT_SIGALG_rsa_pkcs1_sha512,
733
734     TLSEXT_SIGALG_dsa_sha256,
735     TLSEXT_SIGALG_dsa_sha384,
736     TLSEXT_SIGALG_dsa_sha512
737 };
738
739 #ifndef OPENSSL_NO_EC
740 static const unsigned int suiteb_sigalgs[] = {
741     TLSEXT_SIGALG_ecdsa_secp256r1_sha256,
742     TLSEXT_SIGALG_ecdsa_secp384r1_sha384
743 };
744 #endif
745
746 typedef struct sigalg_lookup_st {
747     unsigned int sigalg;
748     unsigned int hash;
749     unsigned int sig;
750 } SIGALG_LOOKUP;
751
752 SIGALG_LOOKUP sigalg_lookup_tbl[] = {
753     {TLSEXT_SIGALG_ecdsa_secp256r1_sha256, TLSEXT_hash_sha256, TLSEXT_signature_ecdsa},
754     {TLSEXT_SIGALG_ecdsa_secp384r1_sha384, TLSEXT_hash_sha384, TLSEXT_signature_ecdsa},
755     {TLSEXT_SIGALG_ecdsa_secp521r1_sha512, TLSEXT_hash_sha512, TLSEXT_signature_ecdsa},
756     {TLSEXT_SIGALG_ecdsa_sha1, TLSEXT_hash_sha1, TLSEXT_signature_ecdsa},
757     {TLSEXT_SIGALG_rsa_pss_sha256, TLSEXT_hash_sha256, TLSEXT_signature_rsa_pss},
758     {TLSEXT_SIGALG_rsa_pss_sha384, TLSEXT_hash_sha384, TLSEXT_signature_rsa_pss},
759     {TLSEXT_SIGALG_rsa_pss_sha512, TLSEXT_hash_sha512, TLSEXT_signature_rsa_pss},
760     {TLSEXT_SIGALG_rsa_pkcs1_sha256, TLSEXT_hash_sha256, TLSEXT_signature_rsa},
761     {TLSEXT_SIGALG_rsa_pkcs1_sha384, TLSEXT_hash_sha384, TLSEXT_signature_rsa},
762     {TLSEXT_SIGALG_rsa_pkcs1_sha512, TLSEXT_hash_sha512, TLSEXT_signature_rsa},
763     {TLSEXT_SIGALG_rsa_pkcs1_sha1, TLSEXT_hash_sha1, TLSEXT_signature_rsa},
764     {TLSEXT_SIGALG_dsa_sha256, TLSEXT_hash_sha256, TLSEXT_signature_dsa},
765     {TLSEXT_SIGALG_dsa_sha384, TLSEXT_hash_sha384, TLSEXT_signature_dsa},
766     {TLSEXT_SIGALG_dsa_sha512, TLSEXT_hash_sha512, TLSEXT_signature_dsa},
767     {TLSEXT_SIGALG_dsa_sha1, TLSEXT_hash_sha1, TLSEXT_signature_dsa},
768     {TLSEXT_SIGALG_gostr34102012_256_gostr34112012_256, TLSEXT_hash_gostr34112012_256, TLSEXT_signature_gostr34102012_256},
769     {TLSEXT_SIGALG_gostr34102012_512_gostr34112012_512, TLSEXT_hash_gostr34112012_512, TLSEXT_signature_gostr34102012_512},
770     {TLSEXT_SIGALG_gostr34102001_gostr3411, TLSEXT_hash_gostr3411, TLSEXT_signature_gostr34102001}
771 };
772
773 static unsigned int tls_sigalg_get_hash(unsigned int sigalg)
774 {
775     size_t i;
776     SIGALG_LOOKUP *curr;
777
778     for (i = 0, curr = sigalg_lookup_tbl; i < OSSL_NELEM(sigalg_lookup_tbl);
779          i++, curr++) {
780         if (curr->sigalg == sigalg)
781             return curr->hash;
782     }
783
784     return 0;
785 }
786
787 static unsigned int tls_sigalg_get_sig(unsigned int sigalg)
788 {
789     size_t i;
790     SIGALG_LOOKUP *curr;
791
792     for (i = 0, curr = sigalg_lookup_tbl; i < OSSL_NELEM(sigalg_lookup_tbl);
793          i++, curr++) {
794         if (curr->sigalg == sigalg)
795             return curr->sig;
796     }
797
798     return 0;
799 }
800
801 size_t tls12_get_psigalgs(SSL *s, const unsigned int **psigs)
802 {
803     /*
804      * If Suite B mode use Suite B sigalgs only, ignore any other
805      * preferences.
806      */
807 #ifndef OPENSSL_NO_EC
808     switch (tls1_suiteb(s)) {
809     case SSL_CERT_FLAG_SUITEB_128_LOS:
810         *psigs = suiteb_sigalgs;
811         return sizeof(suiteb_sigalgs);
812
813     case SSL_CERT_FLAG_SUITEB_128_LOS_ONLY:
814         *psigs = suiteb_sigalgs;
815         return 2;
816
817     case SSL_CERT_FLAG_SUITEB_192_LOS:
818         *psigs = suiteb_sigalgs + 2;
819         return 2;
820     }
821 #endif
822     /* If server use client authentication sigalgs if not NULL */
823     if (s->server && s->cert->client_sigalgs) {
824         *psigs = s->cert->client_sigalgs;
825         return s->cert->client_sigalgslen;
826     } else if (s->cert->conf_sigalgs) {
827         *psigs = s->cert->conf_sigalgs;
828         return s->cert->conf_sigalgslen;
829     } else {
830         *psigs = tls12_sigalgs;
831         return OSSL_NELEM(tls12_sigalgs);
832     }
833 }
834
835 /*
836  * Check signature algorithm is consistent with sent supported signature
837  * algorithms and if so return relevant digest.
838  */
839 int tls12_check_peer_sigalg(const EVP_MD **pmd, SSL *s, unsigned int sig,
840                             EVP_PKEY *pkey)
841 {
842     const unsigned int *sent_sigs;
843     char sigalgstr[2];
844     size_t sent_sigslen, i;
845     int sigalg = tls12_get_sigid(pkey);
846     /* Should never happen */
847     if (sigalg == -1)
848         return -1;
849     /* Check key type is consistent with signature */
850     if ((unsigned int)sigalg != tls_sigalg_get_sig(sig)) {
851         SSLerr(SSL_F_TLS12_CHECK_PEER_SIGALG, SSL_R_WRONG_SIGNATURE_TYPE);
852         return 0;
853     }
854 #ifndef OPENSSL_NO_EC
855     if (EVP_PKEY_id(pkey) == EVP_PKEY_EC) {
856         unsigned char curve_id[2], comp_id;
857         /* Check compression and curve matches extensions */
858         if (!tls1_set_ec_id(curve_id, &comp_id, EVP_PKEY_get0_EC_KEY(pkey)))
859             return 0;
860         if (!s->server && !tls1_check_ec_key(s, curve_id, &comp_id)) {
861             SSLerr(SSL_F_TLS12_CHECK_PEER_SIGALG, SSL_R_WRONG_CURVE);
862             return 0;
863         }
864         /* If Suite B only P-384+SHA384 or P-256+SHA-256 allowed */
865         if (tls1_suiteb(s)) {
866             if (curve_id[0])
867                 return 0;
868             if (curve_id[1] == TLSEXT_curve_P_256) {
869                 if (tls_sigalg_get_hash(sig) != TLSEXT_hash_sha256) {
870                     SSLerr(SSL_F_TLS12_CHECK_PEER_SIGALG,
871                            SSL_R_ILLEGAL_SUITEB_DIGEST);
872                     return 0;
873                 }
874             } else if (curve_id[1] == TLSEXT_curve_P_384) {
875                 if (tls_sigalg_get_hash(sig) != TLSEXT_hash_sha384) {
876                     SSLerr(SSL_F_TLS12_CHECK_PEER_SIGALG,
877                            SSL_R_ILLEGAL_SUITEB_DIGEST);
878                     return 0;
879                 }
880             } else
881                 return 0;
882         }
883     } else if (tls1_suiteb(s))
884         return 0;
885 #endif
886
887     /* Check signature matches a type we sent */
888     sent_sigslen = tls12_get_psigalgs(s, &sent_sigs);
889     for (i = 0; i < sent_sigslen; i ++, sent_sigs++) {
890         if (sig == *sent_sigs)
891             break;
892     }
893     /* Allow fallback to SHA1 if not strict mode */
894     if (i == sent_sigslen
895         && (tls_sigalg_get_hash(sig) != TLSEXT_hash_sha1
896             || s->cert->cert_flags & SSL_CERT_FLAGS_CHECK_TLS_STRICT)) {
897         SSLerr(SSL_F_TLS12_CHECK_PEER_SIGALG, SSL_R_WRONG_SIGNATURE_TYPE);
898         return 0;
899     }
900     *pmd = tls12_get_hash(tls_sigalg_get_hash(sig));
901     if (*pmd == NULL) {
902         SSLerr(SSL_F_TLS12_CHECK_PEER_SIGALG, SSL_R_UNKNOWN_DIGEST);
903         return 0;
904     }
905     /*
906      * Make sure security callback allows algorithm. For historical reasons we
907      * have to pass the sigalg as a two byte char array.
908      */
909     sigalgstr[0] = (sig >> 8) & 0xff;
910     sigalgstr[1] = sig & 0xff;
911     if (!ssl_security(s, SSL_SECOP_SIGALG_CHECK,
912                       EVP_MD_size(*pmd) * 4, EVP_MD_type(*pmd),
913                       (void *)sigalgstr)) {
914         SSLerr(SSL_F_TLS12_CHECK_PEER_SIGALG, SSL_R_WRONG_SIGNATURE_TYPE);
915         return 0;
916     }
917     /*
918      * Store the digest used so applications can retrieve it if they wish.
919      */
920     s->s3->tmp.peer_md = *pmd;
921     return 1;
922 }
923
924 /*
925  * Set a mask of disabled algorithms: an algorithm is disabled if it isn't
926  * supported, doesn't appear in supported signature algorithms, isn't supported
927  * by the enabled protocol versions or by the security level.
928  *
929  * This function should only be used for checking which ciphers are supported
930  * by the client.
931  *
932  * Call ssl_cipher_disabled() to check that it's enabled or not.
933  */
934 void ssl_set_client_disabled(SSL *s)
935 {
936     s->s3->tmp.mask_a = 0;
937     s->s3->tmp.mask_k = 0;
938     ssl_set_sig_mask(&s->s3->tmp.mask_a, s, SSL_SECOP_SIGALG_MASK);
939     ssl_get_client_min_max_version(s, &s->s3->tmp.min_ver, &s->s3->tmp.max_ver);
940 #ifndef OPENSSL_NO_PSK
941     /* with PSK there must be client callback set */
942     if (!s->psk_client_callback) {
943         s->s3->tmp.mask_a |= SSL_aPSK;
944         s->s3->tmp.mask_k |= SSL_PSK;
945     }
946 #endif                          /* OPENSSL_NO_PSK */
947 #ifndef OPENSSL_NO_SRP
948     if (!(s->srp_ctx.srp_Mask & SSL_kSRP)) {
949         s->s3->tmp.mask_a |= SSL_aSRP;
950         s->s3->tmp.mask_k |= SSL_kSRP;
951     }
952 #endif
953 }
954
955 /*
956  * ssl_cipher_disabled - check that a cipher is disabled or not
957  * @s: SSL connection that you want to use the cipher on
958  * @c: cipher to check
959  * @op: Security check that you want to do
960  *
961  * Returns 1 when it's disabled, 0 when enabled.
962  */
963 int ssl_cipher_disabled(SSL *s, const SSL_CIPHER *c, int op)
964 {
965     if (c->algorithm_mkey & s->s3->tmp.mask_k
966         || c->algorithm_auth & s->s3->tmp.mask_a)
967         return 1;
968     if (s->s3->tmp.max_ver == 0)
969         return 1;
970     if (!SSL_IS_DTLS(s) && ((c->min_tls > s->s3->tmp.max_ver)
971                             || (c->max_tls < s->s3->tmp.min_ver)))
972         return 1;
973     if (SSL_IS_DTLS(s) && (DTLS_VERSION_GT(c->min_dtls, s->s3->tmp.max_ver)
974                            || DTLS_VERSION_LT(c->max_dtls, s->s3->tmp.min_ver)))
975         return 1;
976
977     return !ssl_security(s, op, c->strength_bits, 0, (void *)c);
978 }
979
980 int tls_use_ticket(SSL *s)
981 {
982     if ((s->options & SSL_OP_NO_TICKET) || SSL_IS_TLS13(s))
983         return 0;
984     return ssl_security(s, SSL_SECOP_TICKET, 0, 0, NULL);
985 }
986
987 /* Initialise digests to default values */
988 void ssl_set_default_md(SSL *s)
989 {
990     const EVP_MD **pmd = s->s3->tmp.md;
991 #ifndef OPENSSL_NO_DSA
992     pmd[SSL_PKEY_DSA_SIGN] = ssl_md(SSL_MD_SHA1_IDX);
993 #endif
994 #ifndef OPENSSL_NO_RSA
995     if (SSL_USE_SIGALGS(s))
996         pmd[SSL_PKEY_RSA_SIGN] = ssl_md(SSL_MD_SHA1_IDX);
997     else
998         pmd[SSL_PKEY_RSA_SIGN] = ssl_md(SSL_MD_MD5_SHA1_IDX);
999     pmd[SSL_PKEY_RSA_ENC] = pmd[SSL_PKEY_RSA_SIGN];
1000 #endif
1001 #ifndef OPENSSL_NO_EC
1002     pmd[SSL_PKEY_ECC] = ssl_md(SSL_MD_SHA1_IDX);
1003 #endif
1004 #ifndef OPENSSL_NO_GOST
1005     pmd[SSL_PKEY_GOST01] = ssl_md(SSL_MD_GOST94_IDX);
1006     pmd[SSL_PKEY_GOST12_256] = ssl_md(SSL_MD_GOST12_256_IDX);
1007     pmd[SSL_PKEY_GOST12_512] = ssl_md(SSL_MD_GOST12_512_IDX);
1008 #endif
1009 }
1010
1011 int tls1_set_server_sigalgs(SSL *s)
1012 {
1013     int al;
1014     size_t i;
1015
1016     /* Clear any shared signature algorithms */
1017     OPENSSL_free(s->cert->shared_sigalgs);
1018     s->cert->shared_sigalgs = NULL;
1019     s->cert->shared_sigalgslen = 0;
1020     /* Clear certificate digests and validity flags */
1021     for (i = 0; i < SSL_PKEY_NUM; i++) {
1022         s->s3->tmp.md[i] = NULL;
1023         s->s3->tmp.valid_flags[i] = 0;
1024     }
1025
1026     /* If sigalgs received process it. */
1027     if (s->s3->tmp.peer_sigalgs) {
1028         if (!tls1_process_sigalgs(s)) {
1029             SSLerr(SSL_F_TLS1_SET_SERVER_SIGALGS, ERR_R_MALLOC_FAILURE);
1030             al = SSL_AD_INTERNAL_ERROR;
1031             goto err;
1032         }
1033         /* Fatal error is no shared signature algorithms */
1034         if (!s->cert->shared_sigalgs) {
1035             SSLerr(SSL_F_TLS1_SET_SERVER_SIGALGS,
1036                    SSL_R_NO_SHARED_SIGNATURE_ALGORITHMS);
1037             al = SSL_AD_ILLEGAL_PARAMETER;
1038             goto err;
1039         }
1040     } else {
1041         ssl_set_default_md(s);
1042     }
1043     return 1;
1044  err:
1045     ssl3_send_alert(s, SSL3_AL_FATAL, al);
1046     return 0;
1047 }
1048
1049 /*-
1050  * Gets the ticket information supplied by the client if any.
1051  *
1052  *   hello: The parsed ClientHello data
1053  *   ret: (output) on return, if a ticket was decrypted, then this is set to
1054  *       point to the resulting session.
1055  *
1056  * If s->tls_session_secret_cb is set then we are expecting a pre-shared key
1057  * ciphersuite, in which case we have no use for session tickets and one will
1058  * never be decrypted, nor will s->ext.ticket_expected be set to 1.
1059  *
1060  * Returns:
1061  *   -1: fatal error, either from parsing or decrypting the ticket.
1062  *    0: no ticket was found (or was ignored, based on settings).
1063  *    1: a zero length extension was found, indicating that the client supports
1064  *       session tickets but doesn't currently have one to offer.
1065  *    2: either s->tls_session_secret_cb was set, or a ticket was offered but
1066  *       couldn't be decrypted because of a non-fatal error.
1067  *    3: a ticket was successfully decrypted and *ret was set.
1068  *
1069  * Side effects:
1070  *   Sets s->ext.ticket_expected to 1 if the server will have to issue
1071  *   a new session ticket to the client because the client indicated support
1072  *   (and s->tls_session_secret_cb is NULL) but the client either doesn't have
1073  *   a session ticket or we couldn't use the one it gave us, or if
1074  *   s->ctx->ext.ticket_key_cb asked to renew the client's ticket.
1075  *   Otherwise, s->ext.ticket_expected is set to 0.
1076  */
1077 int tls_get_ticket_from_client(SSL *s, CLIENTHELLO_MSG *hello,
1078                                SSL_SESSION **ret)
1079 {
1080     int retv;
1081     size_t size;
1082     RAW_EXTENSION *ticketext;
1083
1084     *ret = NULL;
1085     s->ext.ticket_expected = 0;
1086
1087     /*
1088      * If tickets disabled or not supported by the protocol version
1089      * (e.g. TLSv1.3) behave as if no ticket present to permit stateful
1090      * resumption.
1091      */
1092     if (s->version <= SSL3_VERSION || !tls_use_ticket(s))
1093         return 0;
1094
1095     ticketext = &hello->pre_proc_exts[TLSEXT_IDX_session_ticket];
1096     if (!ticketext->present)
1097         return 0;
1098
1099     size = PACKET_remaining(&ticketext->data);
1100     if (size == 0) {
1101         /*
1102          * The client will accept a ticket but doesn't currently have
1103          * one.
1104          */
1105         s->ext.ticket_expected = 1;
1106         return 1;
1107     }
1108     if (s->ext.session_secret_cb) {
1109         /*
1110          * Indicate that the ticket couldn't be decrypted rather than
1111          * generating the session from ticket now, trigger
1112          * abbreviated handshake based on external mechanism to
1113          * calculate the master secret later.
1114          */
1115         return 2;
1116     }
1117
1118     retv = tls_decrypt_ticket(s, PACKET_data(&ticketext->data), size,
1119                               hello->session_id, hello->session_id_len, ret);
1120     switch (retv) {
1121     case 2:            /* ticket couldn't be decrypted */
1122         s->ext.ticket_expected = 1;
1123         return 2;
1124
1125     case 3:            /* ticket was decrypted */
1126         return 3;
1127
1128     case 4:            /* ticket decrypted but need to renew */
1129         s->ext.ticket_expected = 1;
1130         return 3;
1131
1132     default:           /* fatal error */
1133         return -1;
1134     }
1135 }
1136
1137 /*-
1138  * tls_decrypt_ticket attempts to decrypt a session ticket.
1139  *
1140  *   etick: points to the body of the session ticket extension.
1141  *   eticklen: the length of the session tickets extension.
1142  *   sess_id: points at the session ID.
1143  *   sesslen: the length of the session ID.
1144  *   psess: (output) on return, if a ticket was decrypted, then this is set to
1145  *       point to the resulting session.
1146  *
1147  * Returns:
1148  *   -2: fatal error, malloc failure.
1149  *   -1: fatal error, either from parsing or decrypting the ticket.
1150  *    2: the ticket couldn't be decrypted.
1151  *    3: a ticket was successfully decrypted and *psess was set.
1152  *    4: same as 3, but the ticket needs to be renewed.
1153  */
1154 static int tls_decrypt_ticket(SSL *s, const unsigned char *etick,
1155                               size_t eticklen, const unsigned char *sess_id,
1156                               size_t sesslen, SSL_SESSION **psess)
1157 {
1158     SSL_SESSION *sess;
1159     unsigned char *sdec;
1160     const unsigned char *p;
1161     int slen, renew_ticket = 0, ret = -1, declen;
1162     size_t mlen;
1163     unsigned char tick_hmac[EVP_MAX_MD_SIZE];
1164     HMAC_CTX *hctx = NULL;
1165     EVP_CIPHER_CTX *ctx;
1166     SSL_CTX *tctx = s->initial_ctx;
1167
1168     /* Initialize session ticket encryption and HMAC contexts */
1169     hctx = HMAC_CTX_new();
1170     if (hctx == NULL)
1171         return -2;
1172     ctx = EVP_CIPHER_CTX_new();
1173     if (ctx == NULL) {
1174         ret = -2;
1175         goto err;
1176     }
1177     if (tctx->ext.ticket_key_cb) {
1178         unsigned char *nctick = (unsigned char *)etick;
1179         int rv = tctx->ext.ticket_key_cb(s, nctick, nctick + 16,
1180                                             ctx, hctx, 0);
1181         if (rv < 0)
1182             goto err;
1183         if (rv == 0) {
1184             ret = 2;
1185             goto err;
1186         }
1187         if (rv == 2)
1188             renew_ticket = 1;
1189     } else {
1190         /* Check key name matches */
1191         if (memcmp(etick, tctx->ext.tick_key_name,
1192                    sizeof(tctx->ext.tick_key_name)) != 0) {
1193             ret = 2;
1194             goto err;
1195         }
1196         if (HMAC_Init_ex(hctx, tctx->ext.tick_hmac_key,
1197                          sizeof(tctx->ext.tick_hmac_key),
1198                          EVP_sha256(), NULL) <= 0
1199             || EVP_DecryptInit_ex(ctx, EVP_aes_256_cbc(), NULL,
1200                                   tctx->ext.tick_aes_key,
1201                                   etick + sizeof(tctx->ext.tick_key_name)) <=
1202             0) {
1203             goto err;
1204         }
1205     }
1206     /*
1207      * Attempt to process session ticket, first conduct sanity and integrity
1208      * checks on ticket.
1209      */
1210     mlen = HMAC_size(hctx);
1211     if (mlen == 0) {
1212         goto err;
1213     }
1214     /* Sanity check ticket length: must exceed keyname + IV + HMAC */
1215     if (eticklen <=
1216         TLSEXT_KEYNAME_LENGTH + EVP_CIPHER_CTX_iv_length(ctx) + mlen) {
1217         ret = 2;
1218         goto err;
1219     }
1220     eticklen -= mlen;
1221     /* Check HMAC of encrypted ticket */
1222     if (HMAC_Update(hctx, etick, eticklen) <= 0
1223         || HMAC_Final(hctx, tick_hmac, NULL) <= 0) {
1224         goto err;
1225     }
1226     HMAC_CTX_free(hctx);
1227     if (CRYPTO_memcmp(tick_hmac, etick + eticklen, mlen)) {
1228         EVP_CIPHER_CTX_free(ctx);
1229         return 2;
1230     }
1231     /* Attempt to decrypt session data */
1232     /* Move p after IV to start of encrypted ticket, update length */
1233     p = etick + 16 + EVP_CIPHER_CTX_iv_length(ctx);
1234     eticklen -= 16 + EVP_CIPHER_CTX_iv_length(ctx);
1235     sdec = OPENSSL_malloc(eticklen);
1236     if (sdec == NULL || EVP_DecryptUpdate(ctx, sdec, &slen, p,
1237                                           (int)eticklen) <= 0) {
1238         EVP_CIPHER_CTX_free(ctx);
1239         OPENSSL_free(sdec);
1240         return -1;
1241     }
1242     if (EVP_DecryptFinal(ctx, sdec + slen, &declen) <= 0) {
1243         EVP_CIPHER_CTX_free(ctx);
1244         OPENSSL_free(sdec);
1245         return 2;
1246     }
1247     slen += declen;
1248     EVP_CIPHER_CTX_free(ctx);
1249     ctx = NULL;
1250     p = sdec;
1251
1252     sess = d2i_SSL_SESSION(NULL, &p, slen);
1253     OPENSSL_free(sdec);
1254     if (sess) {
1255         /*
1256          * The session ID, if non-empty, is used by some clients to detect
1257          * that the ticket has been accepted. So we copy it to the session
1258          * structure. If it is empty set length to zero as required by
1259          * standard.
1260          */
1261         if (sesslen)
1262             memcpy(sess->session_id, sess_id, sesslen);
1263         sess->session_id_length = sesslen;
1264         *psess = sess;
1265         if (renew_ticket)
1266             return 4;
1267         else
1268             return 3;
1269     }
1270     ERR_clear_error();
1271     /*
1272      * For session parse failure, indicate that we need to send a new ticket.
1273      */
1274     return 2;
1275  err:
1276     EVP_CIPHER_CTX_free(ctx);
1277     HMAC_CTX_free(hctx);
1278     return ret;
1279 }
1280
1281 /* Tables to translate from NIDs to TLS v1.2 ids */
1282
1283 typedef struct {
1284     int nid;
1285     int id;
1286 } tls12_lookup;
1287
1288 static const tls12_lookup tls12_md[] = {
1289     {NID_md5, TLSEXT_hash_md5},
1290     {NID_sha1, TLSEXT_hash_sha1},
1291     {NID_sha224, TLSEXT_hash_sha224},
1292     {NID_sha256, TLSEXT_hash_sha256},
1293     {NID_sha384, TLSEXT_hash_sha384},
1294     {NID_sha512, TLSEXT_hash_sha512},
1295     {NID_id_GostR3411_94, TLSEXT_hash_gostr3411},
1296     {NID_id_GostR3411_2012_256, TLSEXT_hash_gostr34112012_256},
1297     {NID_id_GostR3411_2012_512, TLSEXT_hash_gostr34112012_512},
1298 };
1299
1300 static const tls12_lookup tls12_sig[] = {
1301     {EVP_PKEY_RSA, TLSEXT_signature_rsa},
1302     {EVP_PKEY_DSA, TLSEXT_signature_dsa},
1303     {EVP_PKEY_EC, TLSEXT_signature_ecdsa},
1304     {NID_id_GostR3410_2001, TLSEXT_signature_gostr34102001},
1305     {NID_id_GostR3410_2012_256, TLSEXT_signature_gostr34102012_256},
1306     {NID_id_GostR3410_2012_512, TLSEXT_signature_gostr34102012_512}
1307 };
1308
1309 static int tls12_find_id(int nid, const tls12_lookup *table, size_t tlen)
1310 {
1311     size_t i;
1312     for (i = 0; i < tlen; i++) {
1313         if (table[i].nid == nid)
1314             return table[i].id;
1315     }
1316     return -1;
1317 }
1318
1319 static int tls12_find_nid(int id, const tls12_lookup *table, size_t tlen)
1320 {
1321     size_t i;
1322     for (i = 0; i < tlen; i++) {
1323         if ((table[i].id) == id)
1324             return table[i].nid;
1325     }
1326     return NID_undef;
1327 }
1328
1329 int tls12_get_sigandhash(WPACKET *pkt, const EVP_PKEY *pk, const EVP_MD *md)
1330 {
1331     int sig_id, md_id;
1332
1333     if (md == NULL)
1334         return 0;
1335     md_id = tls12_find_id(EVP_MD_type(md), tls12_md, OSSL_NELEM(tls12_md));
1336     if (md_id == -1)
1337         return 0;
1338     sig_id = tls12_get_sigid(pk);
1339     if (sig_id == -1)
1340         return 0;
1341     if (!WPACKET_put_bytes_u8(pkt, md_id) || !WPACKET_put_bytes_u8(pkt, sig_id))
1342         return 0;
1343
1344     return 1;
1345 }
1346
1347 int tls12_get_sigid(const EVP_PKEY *pk)
1348 {
1349     return tls12_find_id(EVP_PKEY_id(pk), tls12_sig, OSSL_NELEM(tls12_sig));
1350 }
1351
1352 typedef struct {
1353     int nid;
1354     int secbits;
1355     int md_idx;
1356     unsigned char tlsext_hash;
1357 } tls12_hash_info;
1358
1359 static const tls12_hash_info tls12_md_info[] = {
1360     {NID_md5, 64, SSL_MD_MD5_IDX, TLSEXT_hash_md5},
1361     {NID_sha1, 80, SSL_MD_SHA1_IDX, TLSEXT_hash_sha1},
1362     {NID_sha224, 112, SSL_MD_SHA224_IDX, TLSEXT_hash_sha224},
1363     {NID_sha256, 128, SSL_MD_SHA256_IDX, TLSEXT_hash_sha256},
1364     {NID_sha384, 192, SSL_MD_SHA384_IDX, TLSEXT_hash_sha384},
1365     {NID_sha512, 256, SSL_MD_SHA512_IDX, TLSEXT_hash_sha512},
1366     {NID_id_GostR3411_94, 128, SSL_MD_GOST94_IDX, TLSEXT_hash_gostr3411},
1367     {NID_id_GostR3411_2012_256, 128, SSL_MD_GOST12_256_IDX,
1368      TLSEXT_hash_gostr34112012_256},
1369     {NID_id_GostR3411_2012_512, 256, SSL_MD_GOST12_512_IDX,
1370      TLSEXT_hash_gostr34112012_512},
1371 };
1372
1373 static const tls12_hash_info *tls12_get_hash_info(unsigned char hash_alg)
1374 {
1375     unsigned int i;
1376     if (hash_alg == 0)
1377         return NULL;
1378
1379     for (i = 0; i < OSSL_NELEM(tls12_md_info); i++) {
1380         if (tls12_md_info[i].tlsext_hash == hash_alg)
1381             return tls12_md_info + i;
1382     }
1383
1384     return NULL;
1385 }
1386
1387 const EVP_MD *tls12_get_hash(unsigned char hash_alg)
1388 {
1389     const tls12_hash_info *inf;
1390     if (hash_alg == TLSEXT_hash_md5 && FIPS_mode())
1391         return NULL;
1392     inf = tls12_get_hash_info(hash_alg);
1393     if (!inf)
1394         return NULL;
1395     return ssl_md(inf->md_idx);
1396 }
1397
1398 static int tls12_get_pkey_idx(unsigned char sig_alg)
1399 {
1400     switch (sig_alg) {
1401 #ifndef OPENSSL_NO_RSA
1402     case TLSEXT_signature_rsa:
1403         return SSL_PKEY_RSA_SIGN;
1404 #endif
1405 #ifndef OPENSSL_NO_DSA
1406     case TLSEXT_signature_dsa:
1407         return SSL_PKEY_DSA_SIGN;
1408 #endif
1409 #ifndef OPENSSL_NO_EC
1410     case TLSEXT_signature_ecdsa:
1411         return SSL_PKEY_ECC;
1412 #endif
1413 #ifndef OPENSSL_NO_GOST
1414     case TLSEXT_signature_gostr34102001:
1415         return SSL_PKEY_GOST01;
1416
1417     case TLSEXT_signature_gostr34102012_256:
1418         return SSL_PKEY_GOST12_256;
1419
1420     case TLSEXT_signature_gostr34102012_512:
1421         return SSL_PKEY_GOST12_512;
1422 #endif
1423     }
1424     return -1;
1425 }
1426
1427 /* Convert TLS 1.2 signature algorithm extension values into NIDs */
1428 static void tls1_lookup_sigalg(int *phash_nid, int *psign_nid,
1429                                int *psignhash_nid, unsigned int data)
1430 {
1431     int sign_nid = NID_undef, hash_nid = NID_undef;
1432     if (!phash_nid && !psign_nid && !psignhash_nid)
1433         return;
1434     if (phash_nid || psignhash_nid) {
1435         hash_nid = tls12_find_nid(tls_sigalg_get_hash(data), tls12_md,
1436                                   OSSL_NELEM(tls12_md));
1437         if (phash_nid)
1438             *phash_nid = hash_nid;
1439     }
1440     if (psign_nid || psignhash_nid) {
1441         sign_nid = tls12_find_nid(tls_sigalg_get_sig(data), tls12_sig,
1442                                   OSSL_NELEM(tls12_sig));
1443         if (psign_nid)
1444             *psign_nid = sign_nid;
1445     }
1446     if (psignhash_nid) {
1447         if (sign_nid == NID_undef || hash_nid == NID_undef
1448             || OBJ_find_sigid_by_algs(psignhash_nid, hash_nid, sign_nid) <= 0)
1449             *psignhash_nid = NID_undef;
1450     }
1451 }
1452
1453 /* Check to see if a signature algorithm is allowed */
1454 static int tls12_sigalg_allowed(SSL *s, int op, unsigned int ptmp)
1455 {
1456     /* See if we have an entry in the hash table and it is enabled */
1457     const tls12_hash_info *hinf
1458         = tls12_get_hash_info(tls_sigalg_get_hash(ptmp));
1459     unsigned char sigalgstr[2];
1460
1461     if (hinf == NULL || ssl_md(hinf->md_idx) == NULL)
1462         return 0;
1463     /* See if public key algorithm allowed */
1464     if (tls12_get_pkey_idx(tls_sigalg_get_sig(ptmp)) == -1)
1465         return 0;
1466     /* Finally see if security callback allows it */
1467     sigalgstr[0] = (ptmp >> 8) & 0xff;
1468     sigalgstr[1] = ptmp & 0xff;
1469     return ssl_security(s, op, hinf->secbits, hinf->nid, (void *)sigalgstr);
1470 }
1471
1472 /*
1473  * Get a mask of disabled public key algorithms based on supported signature
1474  * algorithms. For example if no signature algorithm supports RSA then RSA is
1475  * disabled.
1476  */
1477
1478 void ssl_set_sig_mask(uint32_t *pmask_a, SSL *s, int op)
1479 {
1480     const unsigned int *sigalgs;
1481     size_t i, sigalgslen;
1482     int have_rsa = 0, have_dsa = 0, have_ecdsa = 0;
1483     /*
1484      * Now go through all signature algorithms seeing if we support any for
1485      * RSA, DSA, ECDSA. Do this for all versions not just TLS 1.2. To keep
1486      * down calls to security callback only check if we have to.
1487      */
1488     sigalgslen = tls12_get_psigalgs(s, &sigalgs);
1489     for (i = 0; i < sigalgslen; i ++, sigalgs++) {
1490         switch (tls_sigalg_get_sig(*sigalgs)) {
1491 #ifndef OPENSSL_NO_RSA
1492         case TLSEXT_signature_rsa:
1493             if (!have_rsa && tls12_sigalg_allowed(s, op, *sigalgs))
1494                 have_rsa = 1;
1495             break;
1496 #endif
1497 #ifndef OPENSSL_NO_DSA
1498         case TLSEXT_signature_dsa:
1499             if (!have_dsa && tls12_sigalg_allowed(s, op, *sigalgs))
1500                 have_dsa = 1;
1501             break;
1502 #endif
1503 #ifndef OPENSSL_NO_EC
1504         case TLSEXT_signature_ecdsa:
1505             if (!have_ecdsa && tls12_sigalg_allowed(s, op, *sigalgs))
1506                 have_ecdsa = 1;
1507             break;
1508 #endif
1509         }
1510     }
1511     if (!have_rsa)
1512         *pmask_a |= SSL_aRSA;
1513     if (!have_dsa)
1514         *pmask_a |= SSL_aDSS;
1515     if (!have_ecdsa)
1516         *pmask_a |= SSL_aECDSA;
1517 }
1518
1519 int tls12_copy_sigalgs(SSL *s, WPACKET *pkt,
1520                        const unsigned int *psig, size_t psiglen)
1521 {
1522     size_t i;
1523
1524     for (i = 0; i < psiglen; i++, psig++) {
1525         if (tls12_sigalg_allowed(s, SSL_SECOP_SIGALG_SUPPORTED, *psig)) {
1526             if (!WPACKET_put_bytes_u16(pkt, *psig))
1527                 return 0;
1528         }
1529     }
1530     return 1;
1531 }
1532
1533 /* Given preference and allowed sigalgs set shared sigalgs */
1534 static size_t tls12_shared_sigalgs(SSL *s, TLS_SIGALGS *shsig,
1535                                    const unsigned int *pref, size_t preflen,
1536                                    const unsigned int *allow, size_t allowlen)
1537 {
1538     const unsigned int *ptmp, *atmp;
1539     size_t i, j, nmatch = 0;
1540     for (i = 0, ptmp = pref; i < preflen; i++, ptmp++) {
1541         /* Skip disabled hashes or signature algorithms */
1542         if (!tls12_sigalg_allowed(s, SSL_SECOP_SIGALG_SHARED, *ptmp))
1543             continue;
1544         for (j = 0, atmp = allow; j < allowlen; j++, atmp++) {
1545             if (*ptmp == *atmp) {
1546                 nmatch++;
1547                 if (shsig) {
1548                     shsig->rhash = tls_sigalg_get_hash(*ptmp);
1549                     shsig->rsign = tls_sigalg_get_sig(*ptmp);
1550                     tls1_lookup_sigalg(&shsig->hash_nid,
1551                                        &shsig->sign_nid,
1552                                        &shsig->signandhash_nid, *ptmp);
1553                     shsig++;
1554                 }
1555                 break;
1556             }
1557         }
1558     }
1559     return nmatch;
1560 }
1561
1562 /* Set shared signature algorithms for SSL structures */
1563 static int tls1_set_shared_sigalgs(SSL *s)
1564 {
1565     const unsigned int *pref, *allow, *conf;
1566     size_t preflen, allowlen, conflen;
1567     size_t nmatch;
1568     TLS_SIGALGS *salgs = NULL;
1569     CERT *c = s->cert;
1570     unsigned int is_suiteb = tls1_suiteb(s);
1571
1572     OPENSSL_free(c->shared_sigalgs);
1573     c->shared_sigalgs = NULL;
1574     c->shared_sigalgslen = 0;
1575     /* If client use client signature algorithms if not NULL */
1576     if (!s->server && c->client_sigalgs && !is_suiteb) {
1577         conf = c->client_sigalgs;
1578         conflen = c->client_sigalgslen;
1579     } else if (c->conf_sigalgs && !is_suiteb) {
1580         conf = c->conf_sigalgs;
1581         conflen = c->conf_sigalgslen;
1582     } else
1583         conflen = tls12_get_psigalgs(s, &conf);
1584     if (s->options & SSL_OP_CIPHER_SERVER_PREFERENCE || is_suiteb) {
1585         pref = conf;
1586         preflen = conflen;
1587         allow = s->s3->tmp.peer_sigalgs;
1588         allowlen = s->s3->tmp.peer_sigalgslen;
1589     } else {
1590         allow = conf;
1591         allowlen = conflen;
1592         pref = s->s3->tmp.peer_sigalgs;
1593         preflen = s->s3->tmp.peer_sigalgslen;
1594     }
1595     nmatch = tls12_shared_sigalgs(s, NULL, pref, preflen, allow, allowlen);
1596     if (nmatch) {
1597         salgs = OPENSSL_malloc(nmatch * sizeof(TLS_SIGALGS));
1598         if (salgs == NULL)
1599             return 0;
1600         nmatch = tls12_shared_sigalgs(s, salgs, pref, preflen, allow, allowlen);
1601     } else {
1602         salgs = NULL;
1603     }
1604     c->shared_sigalgs = salgs;
1605     c->shared_sigalgslen = nmatch;
1606     return 1;
1607 }
1608
1609 /* Set preferred digest for each key type */
1610
1611 int tls1_save_sigalgs(SSL *s, PACKET *pkt)
1612 {
1613     CERT *c = s->cert;
1614     size_t size, i;
1615
1616     /* Extension ignored for inappropriate versions */
1617     if (!SSL_USE_SIGALGS(s))
1618         return 1;
1619     /* Should never happen */
1620     if (!c)
1621         return 0;
1622
1623     size = PACKET_remaining(pkt);
1624
1625     /* Invalid data length */
1626     if ((size & 1) != 0)
1627         return 0;
1628
1629     size >>= 1;
1630
1631     OPENSSL_free(s->s3->tmp.peer_sigalgs);
1632     s->s3->tmp.peer_sigalgs = OPENSSL_malloc(size * sizeof(unsigned int));
1633     if (s->s3->tmp.peer_sigalgs == NULL)
1634         return 0;
1635     s->s3->tmp.peer_sigalgslen = size;
1636     for (i = 0; i < size && PACKET_get_net_2(pkt, &s->s3->tmp.peer_sigalgs[i]);
1637          i++)
1638         continue;
1639
1640     if (i != size)
1641         return 0;
1642
1643     return 1;
1644 }
1645
1646 int tls1_process_sigalgs(SSL *s)
1647 {
1648     int idx;
1649     size_t i;
1650     const EVP_MD *md;
1651     const EVP_MD **pmd = s->s3->tmp.md;
1652     uint32_t *pvalid = s->s3->tmp.valid_flags;
1653     CERT *c = s->cert;
1654     TLS_SIGALGS *sigptr;
1655     if (!tls1_set_shared_sigalgs(s))
1656         return 0;
1657
1658     for (i = 0, sigptr = c->shared_sigalgs;
1659          i < c->shared_sigalgslen; i++, sigptr++) {
1660         idx = tls12_get_pkey_idx(sigptr->rsign);
1661         if (idx > 0 && pmd[idx] == NULL) {
1662             md = tls12_get_hash(sigptr->rhash);
1663             pmd[idx] = md;
1664             pvalid[idx] = CERT_PKEY_EXPLICIT_SIGN;
1665             if (idx == SSL_PKEY_RSA_SIGN) {
1666                 pvalid[SSL_PKEY_RSA_ENC] = CERT_PKEY_EXPLICIT_SIGN;
1667                 pmd[SSL_PKEY_RSA_ENC] = md;
1668             }
1669         }
1670
1671     }
1672     /*
1673      * In strict mode leave unset digests as NULL to indicate we can't use
1674      * the certificate for signing.
1675      */
1676     if (!(s->cert->cert_flags & SSL_CERT_FLAGS_CHECK_TLS_STRICT)) {
1677         /*
1678          * Set any remaining keys to default values. NOTE: if alg is not
1679          * supported it stays as NULL.
1680          */
1681 #ifndef OPENSSL_NO_DSA
1682         if (pmd[SSL_PKEY_DSA_SIGN] == NULL)
1683             pmd[SSL_PKEY_DSA_SIGN] = EVP_sha1();
1684 #endif
1685 #ifndef OPENSSL_NO_RSA
1686         if (pmd[SSL_PKEY_RSA_SIGN] == NULL) {
1687             pmd[SSL_PKEY_RSA_SIGN] = EVP_sha1();
1688             pmd[SSL_PKEY_RSA_ENC] = EVP_sha1();
1689         }
1690 #endif
1691 #ifndef OPENSSL_NO_EC
1692         if (pmd[SSL_PKEY_ECC] == NULL)
1693             pmd[SSL_PKEY_ECC] = EVP_sha1();
1694 #endif
1695 #ifndef OPENSSL_NO_GOST
1696         if (pmd[SSL_PKEY_GOST01] == NULL)
1697             pmd[SSL_PKEY_GOST01] = EVP_get_digestbynid(NID_id_GostR3411_94);
1698         if (pmd[SSL_PKEY_GOST12_256] == NULL)
1699             pmd[SSL_PKEY_GOST12_256] =
1700                 EVP_get_digestbynid(NID_id_GostR3411_2012_256);
1701         if (pmd[SSL_PKEY_GOST12_512] == NULL)
1702             pmd[SSL_PKEY_GOST12_512] =
1703                 EVP_get_digestbynid(NID_id_GostR3411_2012_512);
1704 #endif
1705     }
1706     return 1;
1707 }
1708
1709 int SSL_get_sigalgs(SSL *s, int idx,
1710                     int *psign, int *phash, int *psignhash,
1711                     unsigned char *rsig, unsigned char *rhash)
1712 {
1713     unsigned int *psig = s->s3->tmp.peer_sigalgs;
1714     size_t numsigalgs = s->s3->tmp.peer_sigalgslen;
1715     if (psig == NULL || numsigalgs > INT_MAX)
1716         return 0;
1717     if (idx >= 0) {
1718         if (idx >= (int)numsigalgs)
1719             return 0;
1720         psig += idx;
1721         if (rhash)
1722             *rhash = tls_sigalg_get_hash(*psig);
1723         if (rsig)
1724             *rsig = tls_sigalg_get_sig(*psig);
1725         tls1_lookup_sigalg(phash, psign, psignhash, *psig);
1726     }
1727     return (int)numsigalgs;
1728 }
1729
1730 int SSL_get_shared_sigalgs(SSL *s, int idx,
1731                            int *psign, int *phash, int *psignhash,
1732                            unsigned char *rsig, unsigned char *rhash)
1733 {
1734     TLS_SIGALGS *shsigalgs = s->cert->shared_sigalgs;
1735     if (!shsigalgs || idx >= (int)s->cert->shared_sigalgslen
1736             || s->cert->shared_sigalgslen > INT_MAX)
1737         return 0;
1738     shsigalgs += idx;
1739     if (phash)
1740         *phash = shsigalgs->hash_nid;
1741     if (psign)
1742         *psign = shsigalgs->sign_nid;
1743     if (psignhash)
1744         *psignhash = shsigalgs->signandhash_nid;
1745     if (rsig)
1746         *rsig = shsigalgs->rsign;
1747     if (rhash)
1748         *rhash = shsigalgs->rhash;
1749     return (int)s->cert->shared_sigalgslen;
1750 }
1751
1752 #define MAX_SIGALGLEN   (TLSEXT_hash_num * TLSEXT_signature_num * 2)
1753
1754 typedef struct {
1755     size_t sigalgcnt;
1756     int sigalgs[MAX_SIGALGLEN];
1757 } sig_cb_st;
1758
1759 static void get_sigorhash(int *psig, int *phash, const char *str)
1760 {
1761     if (strcmp(str, "RSA") == 0) {
1762         *psig = EVP_PKEY_RSA;
1763     } else if (strcmp(str, "DSA") == 0) {
1764         *psig = EVP_PKEY_DSA;
1765     } else if (strcmp(str, "ECDSA") == 0) {
1766         *psig = EVP_PKEY_EC;
1767     } else {
1768         *phash = OBJ_sn2nid(str);
1769         if (*phash == NID_undef)
1770             *phash = OBJ_ln2nid(str);
1771     }
1772 }
1773
1774 static int sig_cb(const char *elem, int len, void *arg)
1775 {
1776     sig_cb_st *sarg = arg;
1777     size_t i;
1778     char etmp[20], *p;
1779     int sig_alg = NID_undef, hash_alg = NID_undef;
1780     if (elem == NULL)
1781         return 0;
1782     if (sarg->sigalgcnt == MAX_SIGALGLEN)
1783         return 0;
1784     if (len > (int)(sizeof(etmp) - 1))
1785         return 0;
1786     memcpy(etmp, elem, len);
1787     etmp[len] = 0;
1788     p = strchr(etmp, '+');
1789     if (!p)
1790         return 0;
1791     *p = 0;
1792     p++;
1793     if (!*p)
1794         return 0;
1795
1796     get_sigorhash(&sig_alg, &hash_alg, etmp);
1797     get_sigorhash(&sig_alg, &hash_alg, p);
1798
1799     if (sig_alg == NID_undef || hash_alg == NID_undef)
1800         return 0;
1801
1802     for (i = 0; i < sarg->sigalgcnt; i += 2) {
1803         if (sarg->sigalgs[i] == sig_alg && sarg->sigalgs[i + 1] == hash_alg)
1804             return 0;
1805     }
1806     sarg->sigalgs[sarg->sigalgcnt++] = hash_alg;
1807     sarg->sigalgs[sarg->sigalgcnt++] = sig_alg;
1808     return 1;
1809 }
1810
1811 /*
1812  * Set supported signature algorithms based on a colon separated list of the
1813  * form sig+hash e.g. RSA+SHA512:DSA+SHA512
1814  */
1815 int tls1_set_sigalgs_list(CERT *c, const char *str, int client)
1816 {
1817     sig_cb_st sig;
1818     sig.sigalgcnt = 0;
1819     if (!CONF_parse_list(str, ':', 1, sig_cb, &sig))
1820         return 0;
1821     if (c == NULL)
1822         return 1;
1823     return tls1_set_sigalgs(c, sig.sigalgs, sig.sigalgcnt, client);
1824 }
1825
1826 int tls1_set_sigalgs(CERT *c, const int *psig_nids, size_t salglen, int client)
1827 {
1828     unsigned int *sigalgs, *sptr;
1829     int rhash, rsign;
1830     size_t i;
1831     if (salglen & 1)
1832         return 0;
1833     sigalgs = OPENSSL_malloc(salglen * sizeof(*sigalgs));
1834     if (sigalgs == NULL)
1835         return 0;
1836     for (i = 0, sptr = sigalgs; i < salglen; i += 2) {
1837         rhash = tls12_find_id(*psig_nids++, tls12_md, OSSL_NELEM(tls12_md));
1838         rsign = tls12_find_id(*psig_nids++, tls12_sig, OSSL_NELEM(tls12_sig));
1839
1840         if (rhash == -1 || rsign == -1)
1841             goto err;
1842         *sptr++ = rhash;
1843         *sptr++ = rsign;
1844     }
1845
1846     if (client) {
1847         OPENSSL_free(c->client_sigalgs);
1848         c->client_sigalgs = sigalgs;
1849         c->client_sigalgslen = salglen;
1850     } else {
1851         OPENSSL_free(c->conf_sigalgs);
1852         c->conf_sigalgs = sigalgs;
1853         c->conf_sigalgslen = salglen;
1854     }
1855
1856     return 1;
1857
1858  err:
1859     OPENSSL_free(sigalgs);
1860     return 0;
1861 }
1862
1863 static int tls1_check_sig_alg(CERT *c, X509 *x, int default_nid)
1864 {
1865     int sig_nid;
1866     size_t i;
1867     if (default_nid == -1)
1868         return 1;
1869     sig_nid = X509_get_signature_nid(x);
1870     if (default_nid)
1871         return sig_nid == default_nid ? 1 : 0;
1872     for (i = 0; i < c->shared_sigalgslen; i++)
1873         if (sig_nid == c->shared_sigalgs[i].signandhash_nid)
1874             return 1;
1875     return 0;
1876 }
1877
1878 /* Check to see if a certificate issuer name matches list of CA names */
1879 static int ssl_check_ca_name(STACK_OF(X509_NAME) *names, X509 *x)
1880 {
1881     X509_NAME *nm;
1882     int i;
1883     nm = X509_get_issuer_name(x);
1884     for (i = 0; i < sk_X509_NAME_num(names); i++) {
1885         if (!X509_NAME_cmp(nm, sk_X509_NAME_value(names, i)))
1886             return 1;
1887     }
1888     return 0;
1889 }
1890
1891 /*
1892  * Check certificate chain is consistent with TLS extensions and is usable by
1893  * server. This servers two purposes: it allows users to check chains before
1894  * passing them to the server and it allows the server to check chains before
1895  * attempting to use them.
1896  */
1897
1898 /* Flags which need to be set for a certificate when stict mode not set */
1899
1900 #define CERT_PKEY_VALID_FLAGS \
1901         (CERT_PKEY_EE_SIGNATURE|CERT_PKEY_EE_PARAM)
1902 /* Strict mode flags */
1903 #define CERT_PKEY_STRICT_FLAGS \
1904          (CERT_PKEY_VALID_FLAGS|CERT_PKEY_CA_SIGNATURE|CERT_PKEY_CA_PARAM \
1905          | CERT_PKEY_ISSUER_NAME|CERT_PKEY_CERT_TYPE)
1906
1907 int tls1_check_chain(SSL *s, X509 *x, EVP_PKEY *pk, STACK_OF(X509) *chain,
1908                      int idx)
1909 {
1910     int i;
1911     int rv = 0;
1912     int check_flags = 0, strict_mode;
1913     CERT_PKEY *cpk = NULL;
1914     CERT *c = s->cert;
1915     uint32_t *pvalid;
1916     unsigned int suiteb_flags = tls1_suiteb(s);
1917     /* idx == -1 means checking server chains */
1918     if (idx != -1) {
1919         /* idx == -2 means checking client certificate chains */
1920         if (idx == -2) {
1921             cpk = c->key;
1922             idx = (int)(cpk - c->pkeys);
1923         } else
1924             cpk = c->pkeys + idx;
1925         pvalid = s->s3->tmp.valid_flags + idx;
1926         x = cpk->x509;
1927         pk = cpk->privatekey;
1928         chain = cpk->chain;
1929         strict_mode = c->cert_flags & SSL_CERT_FLAGS_CHECK_TLS_STRICT;
1930         /* If no cert or key, forget it */
1931         if (!x || !pk)
1932             goto end;
1933     } else {
1934         if (!x || !pk)
1935             return 0;
1936         idx = ssl_cert_type(x, pk);
1937         if (idx == -1)
1938             return 0;
1939         pvalid = s->s3->tmp.valid_flags + idx;
1940
1941         if (c->cert_flags & SSL_CERT_FLAGS_CHECK_TLS_STRICT)
1942             check_flags = CERT_PKEY_STRICT_FLAGS;
1943         else
1944             check_flags = CERT_PKEY_VALID_FLAGS;
1945         strict_mode = 1;
1946     }
1947
1948     if (suiteb_flags) {
1949         int ok;
1950         if (check_flags)
1951             check_flags |= CERT_PKEY_SUITEB;
1952         ok = X509_chain_check_suiteb(NULL, x, chain, suiteb_flags);
1953         if (ok == X509_V_OK)
1954             rv |= CERT_PKEY_SUITEB;
1955         else if (!check_flags)
1956             goto end;
1957     }
1958
1959     /*
1960      * Check all signature algorithms are consistent with signature
1961      * algorithms extension if TLS 1.2 or later and strict mode.
1962      */
1963     if (TLS1_get_version(s) >= TLS1_2_VERSION && strict_mode) {
1964         int default_nid;
1965         unsigned char rsign = 0;
1966         if (s->s3->tmp.peer_sigalgs)
1967             default_nid = 0;
1968         /* If no sigalgs extension use defaults from RFC5246 */
1969         else {
1970             switch (idx) {
1971             case SSL_PKEY_RSA_ENC:
1972             case SSL_PKEY_RSA_SIGN:
1973                 rsign = TLSEXT_signature_rsa;
1974                 default_nid = NID_sha1WithRSAEncryption;
1975                 break;
1976
1977             case SSL_PKEY_DSA_SIGN:
1978                 rsign = TLSEXT_signature_dsa;
1979                 default_nid = NID_dsaWithSHA1;
1980                 break;
1981
1982             case SSL_PKEY_ECC:
1983                 rsign = TLSEXT_signature_ecdsa;
1984                 default_nid = NID_ecdsa_with_SHA1;
1985                 break;
1986
1987             case SSL_PKEY_GOST01:
1988                 rsign = TLSEXT_signature_gostr34102001;
1989                 default_nid = NID_id_GostR3411_94_with_GostR3410_2001;
1990                 break;
1991
1992             case SSL_PKEY_GOST12_256:
1993                 rsign = TLSEXT_signature_gostr34102012_256;
1994                 default_nid = NID_id_tc26_signwithdigest_gost3410_2012_256;
1995                 break;
1996
1997             case SSL_PKEY_GOST12_512:
1998                 rsign = TLSEXT_signature_gostr34102012_512;
1999                 default_nid = NID_id_tc26_signwithdigest_gost3410_2012_512;
2000                 break;
2001
2002             default:
2003                 default_nid = -1;
2004                 break;
2005             }
2006         }
2007         /*
2008          * If peer sent no signature algorithms extension and we have set
2009          * preferred signature algorithms check we support sha1.
2010          */
2011         if (default_nid > 0 && c->conf_sigalgs) {
2012             size_t j;
2013             const unsigned int *p = c->conf_sigalgs;
2014             for (j = 0; j < c->conf_sigalgslen; j++, p++) {
2015                 if (tls_sigalg_get_hash(*p) == TLSEXT_hash_sha1
2016                         && tls_sigalg_get_sig(*p) == rsign)
2017                     break;
2018             }
2019             if (j == c->conf_sigalgslen) {
2020                 if (check_flags)
2021                     goto skip_sigs;
2022                 else
2023                     goto end;
2024             }
2025         }
2026         /* Check signature algorithm of each cert in chain */
2027         if (!tls1_check_sig_alg(c, x, default_nid)) {
2028             if (!check_flags)
2029                 goto end;
2030         } else
2031             rv |= CERT_PKEY_EE_SIGNATURE;
2032         rv |= CERT_PKEY_CA_SIGNATURE;
2033         for (i = 0; i < sk_X509_num(chain); i++) {
2034             if (!tls1_check_sig_alg(c, sk_X509_value(chain, i), default_nid)) {
2035                 if (check_flags) {
2036                     rv &= ~CERT_PKEY_CA_SIGNATURE;
2037                     break;
2038                 } else
2039                     goto end;
2040             }
2041         }
2042     }
2043     /* Else not TLS 1.2, so mark EE and CA signing algorithms OK */
2044     else if (check_flags)
2045         rv |= CERT_PKEY_EE_SIGNATURE | CERT_PKEY_CA_SIGNATURE;
2046  skip_sigs:
2047     /* Check cert parameters are consistent */
2048     if (tls1_check_cert_param(s, x, check_flags ? 1 : 2))
2049         rv |= CERT_PKEY_EE_PARAM;
2050     else if (!check_flags)
2051         goto end;
2052     if (!s->server)
2053         rv |= CERT_PKEY_CA_PARAM;
2054     /* In strict mode check rest of chain too */
2055     else if (strict_mode) {
2056         rv |= CERT_PKEY_CA_PARAM;
2057         for (i = 0; i < sk_X509_num(chain); i++) {
2058             X509 *ca = sk_X509_value(chain, i);
2059             if (!tls1_check_cert_param(s, ca, 0)) {
2060                 if (check_flags) {
2061                     rv &= ~CERT_PKEY_CA_PARAM;
2062                     break;
2063                 } else
2064                     goto end;
2065             }
2066         }
2067     }
2068     if (!s->server && strict_mode) {
2069         STACK_OF(X509_NAME) *ca_dn;
2070         int check_type = 0;
2071         switch (EVP_PKEY_id(pk)) {
2072         case EVP_PKEY_RSA:
2073             check_type = TLS_CT_RSA_SIGN;
2074             break;
2075         case EVP_PKEY_DSA:
2076             check_type = TLS_CT_DSS_SIGN;
2077             break;
2078         case EVP_PKEY_EC:
2079             check_type = TLS_CT_ECDSA_SIGN;
2080             break;
2081         }
2082         if (check_type) {
2083             const unsigned char *ctypes;
2084             int ctypelen;
2085             if (c->ctypes) {
2086                 ctypes = c->ctypes;
2087                 ctypelen = (int)c->ctype_num;
2088             } else {
2089                 ctypes = (unsigned char *)s->s3->tmp.ctype;
2090                 ctypelen = s->s3->tmp.ctype_num;
2091             }
2092             for (i = 0; i < ctypelen; i++) {
2093                 if (ctypes[i] == check_type) {
2094                     rv |= CERT_PKEY_CERT_TYPE;
2095                     break;
2096                 }
2097             }
2098             if (!(rv & CERT_PKEY_CERT_TYPE) && !check_flags)
2099                 goto end;
2100         } else
2101             rv |= CERT_PKEY_CERT_TYPE;
2102
2103         ca_dn = s->s3->tmp.ca_names;
2104
2105         if (!sk_X509_NAME_num(ca_dn))
2106             rv |= CERT_PKEY_ISSUER_NAME;
2107
2108         if (!(rv & CERT_PKEY_ISSUER_NAME)) {
2109             if (ssl_check_ca_name(ca_dn, x))
2110                 rv |= CERT_PKEY_ISSUER_NAME;
2111         }
2112         if (!(rv & CERT_PKEY_ISSUER_NAME)) {
2113             for (i = 0; i < sk_X509_num(chain); i++) {
2114                 X509 *xtmp = sk_X509_value(chain, i);
2115                 if (ssl_check_ca_name(ca_dn, xtmp)) {
2116                     rv |= CERT_PKEY_ISSUER_NAME;
2117                     break;
2118                 }
2119             }
2120         }
2121         if (!check_flags && !(rv & CERT_PKEY_ISSUER_NAME))
2122             goto end;
2123     } else
2124         rv |= CERT_PKEY_ISSUER_NAME | CERT_PKEY_CERT_TYPE;
2125
2126     if (!check_flags || (rv & check_flags) == check_flags)
2127         rv |= CERT_PKEY_VALID;
2128
2129  end:
2130
2131     if (TLS1_get_version(s) >= TLS1_2_VERSION) {
2132         if (*pvalid & CERT_PKEY_EXPLICIT_SIGN)
2133             rv |= CERT_PKEY_EXPLICIT_SIGN | CERT_PKEY_SIGN;
2134         else if (s->s3->tmp.md[idx] != NULL)
2135             rv |= CERT_PKEY_SIGN;
2136     } else
2137         rv |= CERT_PKEY_SIGN | CERT_PKEY_EXPLICIT_SIGN;
2138
2139     /*
2140      * When checking a CERT_PKEY structure all flags are irrelevant if the
2141      * chain is invalid.
2142      */
2143     if (!check_flags) {
2144         if (rv & CERT_PKEY_VALID)
2145             *pvalid = rv;
2146         else {
2147             /* Preserve explicit sign flag, clear rest */
2148             *pvalid &= CERT_PKEY_EXPLICIT_SIGN;
2149             return 0;
2150         }
2151     }
2152     return rv;
2153 }
2154
2155 /* Set validity of certificates in an SSL structure */
2156 void tls1_set_cert_validity(SSL *s)
2157 {
2158     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_RSA_ENC);
2159     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_RSA_SIGN);
2160     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_DSA_SIGN);
2161     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_ECC);
2162     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_GOST01);
2163     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_GOST12_256);
2164     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_GOST12_512);
2165 }
2166
2167 /* User level utiity function to check a chain is suitable */
2168 int SSL_check_chain(SSL *s, X509 *x, EVP_PKEY *pk, STACK_OF(X509) *chain)
2169 {
2170     return tls1_check_chain(s, x, pk, chain, -1);
2171 }
2172
2173 #ifndef OPENSSL_NO_DH
2174 DH *ssl_get_auto_dh(SSL *s)
2175 {
2176     int dh_secbits = 80;
2177     if (s->cert->dh_tmp_auto == 2)
2178         return DH_get_1024_160();
2179     if (s->s3->tmp.new_cipher->algorithm_auth & (SSL_aNULL | SSL_aPSK)) {
2180         if (s->s3->tmp.new_cipher->strength_bits == 256)
2181             dh_secbits = 128;
2182         else
2183             dh_secbits = 80;
2184     } else {
2185         CERT_PKEY *cpk = ssl_get_server_send_pkey(s);
2186         dh_secbits = EVP_PKEY_security_bits(cpk->privatekey);
2187     }
2188
2189     if (dh_secbits >= 128) {
2190         DH *dhp = DH_new();
2191         BIGNUM *p, *g;
2192         if (dhp == NULL)
2193             return NULL;
2194         g = BN_new();
2195         if (g != NULL)
2196             BN_set_word(g, 2);
2197         if (dh_secbits >= 192)
2198             p = BN_get_rfc3526_prime_8192(NULL);
2199         else
2200             p = BN_get_rfc3526_prime_3072(NULL);
2201         if (p == NULL || g == NULL || !DH_set0_pqg(dhp, p, NULL, g)) {
2202             DH_free(dhp);
2203             BN_free(p);
2204             BN_free(g);
2205             return NULL;
2206         }
2207         return dhp;
2208     }
2209     if (dh_secbits >= 112)
2210         return DH_get_2048_224();
2211     return DH_get_1024_160();
2212 }
2213 #endif
2214
2215 static int ssl_security_cert_key(SSL *s, SSL_CTX *ctx, X509 *x, int op)
2216 {
2217     int secbits = -1;
2218     EVP_PKEY *pkey = X509_get0_pubkey(x);
2219     if (pkey) {
2220         /*
2221          * If no parameters this will return -1 and fail using the default
2222          * security callback for any non-zero security level. This will
2223          * reject keys which omit parameters but this only affects DSA and
2224          * omission of parameters is never (?) done in practice.
2225          */
2226         secbits = EVP_PKEY_security_bits(pkey);
2227     }
2228     if (s)
2229         return ssl_security(s, op, secbits, 0, x);
2230     else
2231         return ssl_ctx_security(ctx, op, secbits, 0, x);
2232 }
2233
2234 static int ssl_security_cert_sig(SSL *s, SSL_CTX *ctx, X509 *x, int op)
2235 {
2236     /* Lookup signature algorithm digest */
2237     int secbits = -1, md_nid = NID_undef, sig_nid;
2238     /* Don't check signature if self signed */
2239     if ((X509_get_extension_flags(x) & EXFLAG_SS) != 0)
2240         return 1;
2241     sig_nid = X509_get_signature_nid(x);
2242     if (sig_nid && OBJ_find_sigid_algs(sig_nid, &md_nid, NULL)) {
2243         const EVP_MD *md;
2244         if (md_nid && (md = EVP_get_digestbynid(md_nid)))
2245             secbits = EVP_MD_size(md) * 4;
2246     }
2247     if (s)
2248         return ssl_security(s, op, secbits, md_nid, x);
2249     else
2250         return ssl_ctx_security(ctx, op, secbits, md_nid, x);
2251 }
2252
2253 int ssl_security_cert(SSL *s, SSL_CTX *ctx, X509 *x, int vfy, int is_ee)
2254 {
2255     if (vfy)
2256         vfy = SSL_SECOP_PEER;
2257     if (is_ee) {
2258         if (!ssl_security_cert_key(s, ctx, x, SSL_SECOP_EE_KEY | vfy))
2259             return SSL_R_EE_KEY_TOO_SMALL;
2260     } else {
2261         if (!ssl_security_cert_key(s, ctx, x, SSL_SECOP_CA_KEY | vfy))
2262             return SSL_R_CA_KEY_TOO_SMALL;
2263     }
2264     if (!ssl_security_cert_sig(s, ctx, x, SSL_SECOP_CA_MD | vfy))
2265         return SSL_R_CA_MD_TOO_WEAK;
2266     return 1;
2267 }
2268
2269 /*
2270  * Check security of a chain, if sk includes the end entity certificate then
2271  * x is NULL. If vfy is 1 then we are verifying a peer chain and not sending
2272  * one to the peer. Return values: 1 if ok otherwise error code to use
2273  */
2274
2275 int ssl_security_cert_chain(SSL *s, STACK_OF(X509) *sk, X509 *x, int vfy)
2276 {
2277     int rv, start_idx, i;
2278     if (x == NULL) {
2279         x = sk_X509_value(sk, 0);
2280         start_idx = 1;
2281     } else
2282         start_idx = 0;
2283
2284     rv = ssl_security_cert(s, NULL, x, vfy, 1);
2285     if (rv != 1)
2286         return rv;
2287
2288     for (i = start_idx; i < sk_X509_num(sk); i++) {
2289         x = sk_X509_value(sk, i);
2290         rv = ssl_security_cert(s, NULL, x, vfy, 0);
2291         if (rv != 1)
2292             return rv;
2293     }
2294     return 1;
2295 }