Improve diagnostics on setting groups
[openssl.git] / ssl / t1_lib.c
1 /*
2  * Copyright 1995-2022 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the Apache License 2.0 (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #include <stdio.h>
11 #include <stdlib.h>
12 #include <openssl/objects.h>
13 #include <openssl/evp.h>
14 #include <openssl/hmac.h>
15 #include <openssl/core_names.h>
16 #include <openssl/ocsp.h>
17 #include <openssl/conf.h>
18 #include <openssl/x509v3.h>
19 #include <openssl/dh.h>
20 #include <openssl/bn.h>
21 #include <openssl/provider.h>
22 #include <openssl/param_build.h>
23 #include "internal/nelem.h"
24 #include "internal/sizes.h"
25 #include "internal/tlsgroups.h"
26 #include "ssl_local.h"
27 #include <openssl/ct.h>
28
29 static const SIGALG_LOOKUP *find_sig_alg(SSL *s, X509 *x, EVP_PKEY *pkey);
30 static int tls12_sigalg_allowed(const SSL *s, int op, const SIGALG_LOOKUP *lu);
31
32 SSL3_ENC_METHOD const TLSv1_enc_data = {
33     tls1_enc,
34     tls1_mac,
35     tls1_setup_key_block,
36     tls1_generate_master_secret,
37     tls1_change_cipher_state,
38     tls1_final_finish_mac,
39     TLS_MD_CLIENT_FINISH_CONST, TLS_MD_CLIENT_FINISH_CONST_SIZE,
40     TLS_MD_SERVER_FINISH_CONST, TLS_MD_SERVER_FINISH_CONST_SIZE,
41     tls1_alert_code,
42     tls1_export_keying_material,
43     0,
44     ssl3_set_handshake_header,
45     tls_close_construct_packet,
46     ssl3_handshake_write
47 };
48
49 SSL3_ENC_METHOD const TLSv1_1_enc_data = {
50     tls1_enc,
51     tls1_mac,
52     tls1_setup_key_block,
53     tls1_generate_master_secret,
54     tls1_change_cipher_state,
55     tls1_final_finish_mac,
56     TLS_MD_CLIENT_FINISH_CONST, TLS_MD_CLIENT_FINISH_CONST_SIZE,
57     TLS_MD_SERVER_FINISH_CONST, TLS_MD_SERVER_FINISH_CONST_SIZE,
58     tls1_alert_code,
59     tls1_export_keying_material,
60     SSL_ENC_FLAG_EXPLICIT_IV,
61     ssl3_set_handshake_header,
62     tls_close_construct_packet,
63     ssl3_handshake_write
64 };
65
66 SSL3_ENC_METHOD const TLSv1_2_enc_data = {
67     tls1_enc,
68     tls1_mac,
69     tls1_setup_key_block,
70     tls1_generate_master_secret,
71     tls1_change_cipher_state,
72     tls1_final_finish_mac,
73     TLS_MD_CLIENT_FINISH_CONST, TLS_MD_CLIENT_FINISH_CONST_SIZE,
74     TLS_MD_SERVER_FINISH_CONST, TLS_MD_SERVER_FINISH_CONST_SIZE,
75     tls1_alert_code,
76     tls1_export_keying_material,
77     SSL_ENC_FLAG_EXPLICIT_IV | SSL_ENC_FLAG_SIGALGS | SSL_ENC_FLAG_SHA256_PRF
78         | SSL_ENC_FLAG_TLS1_2_CIPHERS,
79     ssl3_set_handshake_header,
80     tls_close_construct_packet,
81     ssl3_handshake_write
82 };
83
84 SSL3_ENC_METHOD const TLSv1_3_enc_data = {
85     tls13_enc,
86     tls1_mac,
87     tls13_setup_key_block,
88     tls13_generate_master_secret,
89     tls13_change_cipher_state,
90     tls13_final_finish_mac,
91     TLS_MD_CLIENT_FINISH_CONST, TLS_MD_CLIENT_FINISH_CONST_SIZE,
92     TLS_MD_SERVER_FINISH_CONST, TLS_MD_SERVER_FINISH_CONST_SIZE,
93     tls13_alert_code,
94     tls13_export_keying_material,
95     SSL_ENC_FLAG_SIGALGS | SSL_ENC_FLAG_SHA256_PRF,
96     ssl3_set_handshake_header,
97     tls_close_construct_packet,
98     ssl3_handshake_write
99 };
100
101 long tls1_default_timeout(void)
102 {
103     /*
104      * 2 hours, the 24 hours mentioned in the TLSv1 spec is way too long for
105      * http, the cache would over fill
106      */
107     return (60 * 60 * 2);
108 }
109
110 int tls1_new(SSL *s)
111 {
112     if (!ssl3_new(s))
113         return 0;
114     if (!s->method->ssl_clear(s))
115         return 0;
116
117     return 1;
118 }
119
120 void tls1_free(SSL *s)
121 {
122     OPENSSL_free(s->ext.session_ticket);
123     ssl3_free(s);
124 }
125
126 int tls1_clear(SSL *s)
127 {
128     if (!ssl3_clear(s))
129         return 0;
130
131     if (s->method->version == TLS_ANY_VERSION)
132         s->version = TLS_MAX_VERSION_INTERNAL;
133     else
134         s->version = s->method->version;
135
136     return 1;
137 }
138
139 /* Legacy NID to group_id mapping. Only works for groups we know about */
140 static struct {
141     int nid;
142     uint16_t group_id;
143 } nid_to_group[] = {
144     {NID_sect163k1, OSSL_TLS_GROUP_ID_sect163k1},
145     {NID_sect163r1, OSSL_TLS_GROUP_ID_sect163r1},
146     {NID_sect163r2, OSSL_TLS_GROUP_ID_sect163r2},
147     {NID_sect193r1, OSSL_TLS_GROUP_ID_sect193r1},
148     {NID_sect193r2, OSSL_TLS_GROUP_ID_sect193r2},
149     {NID_sect233k1, OSSL_TLS_GROUP_ID_sect233k1},
150     {NID_sect233r1, OSSL_TLS_GROUP_ID_sect233r1},
151     {NID_sect239k1, OSSL_TLS_GROUP_ID_sect239k1},
152     {NID_sect283k1, OSSL_TLS_GROUP_ID_sect283k1},
153     {NID_sect283r1, OSSL_TLS_GROUP_ID_sect283r1},
154     {NID_sect409k1, OSSL_TLS_GROUP_ID_sect409k1},
155     {NID_sect409r1, OSSL_TLS_GROUP_ID_sect409r1},
156     {NID_sect571k1, OSSL_TLS_GROUP_ID_sect571k1},
157     {NID_sect571r1, OSSL_TLS_GROUP_ID_sect571r1},
158     {NID_secp160k1, OSSL_TLS_GROUP_ID_secp160k1},
159     {NID_secp160r1, OSSL_TLS_GROUP_ID_secp160r1},
160     {NID_secp160r2, OSSL_TLS_GROUP_ID_secp160r2},
161     {NID_secp192k1, OSSL_TLS_GROUP_ID_secp192k1},
162     {NID_X9_62_prime192v1, OSSL_TLS_GROUP_ID_secp192r1},
163     {NID_secp224k1, OSSL_TLS_GROUP_ID_secp224k1},
164     {NID_secp224r1, OSSL_TLS_GROUP_ID_secp224r1},
165     {NID_secp256k1, OSSL_TLS_GROUP_ID_secp256k1},
166     {NID_X9_62_prime256v1, OSSL_TLS_GROUP_ID_secp256r1},
167     {NID_secp384r1, OSSL_TLS_GROUP_ID_secp384r1},
168     {NID_secp521r1, OSSL_TLS_GROUP_ID_secp521r1},
169     {NID_brainpoolP256r1, OSSL_TLS_GROUP_ID_brainpoolP256r1},
170     {NID_brainpoolP384r1, OSSL_TLS_GROUP_ID_brainpoolP384r1},
171     {NID_brainpoolP512r1, OSSL_TLS_GROUP_ID_brainpoolP512r1},
172     {EVP_PKEY_X25519, OSSL_TLS_GROUP_ID_x25519},
173     {EVP_PKEY_X448, OSSL_TLS_GROUP_ID_x448},
174     {NID_id_tc26_gost_3410_2012_256_paramSetA, OSSL_TLS_GROUP_ID_gc256A},
175     {NID_id_tc26_gost_3410_2012_256_paramSetB, OSSL_TLS_GROUP_ID_gc256B},
176     {NID_id_tc26_gost_3410_2012_256_paramSetC, OSSL_TLS_GROUP_ID_gc256C},
177     {NID_id_tc26_gost_3410_2012_256_paramSetD, OSSL_TLS_GROUP_ID_gc256D},
178     {NID_id_tc26_gost_3410_2012_512_paramSetA, OSSL_TLS_GROUP_ID_gc512A},
179     {NID_id_tc26_gost_3410_2012_512_paramSetB, OSSL_TLS_GROUP_ID_gc512B},
180     {NID_id_tc26_gost_3410_2012_512_paramSetC, OSSL_TLS_GROUP_ID_gc512C},
181     {NID_ffdhe2048, OSSL_TLS_GROUP_ID_ffdhe2048},
182     {NID_ffdhe3072, OSSL_TLS_GROUP_ID_ffdhe3072},
183     {NID_ffdhe4096, OSSL_TLS_GROUP_ID_ffdhe4096},
184     {NID_ffdhe6144, OSSL_TLS_GROUP_ID_ffdhe6144},
185     {NID_ffdhe8192, OSSL_TLS_GROUP_ID_ffdhe8192}
186 };
187
188 static const unsigned char ecformats_default[] = {
189     TLSEXT_ECPOINTFORMAT_uncompressed,
190     TLSEXT_ECPOINTFORMAT_ansiX962_compressed_prime,
191     TLSEXT_ECPOINTFORMAT_ansiX962_compressed_char2
192 };
193
194 /* The default curves */
195 static const uint16_t supported_groups_default[] = {
196     OSSL_TLS_GROUP_ID_x25519,        /* X25519 (29) */
197     OSSL_TLS_GROUP_ID_secp256r1,     /* secp256r1 (23) */
198     OSSL_TLS_GROUP_ID_x448,          /* X448 (30) */
199     OSSL_TLS_GROUP_ID_secp521r1,     /* secp521r1 (25) */
200     OSSL_TLS_GROUP_ID_secp384r1,     /* secp384r1 (24) */
201     OSSL_TLS_GROUP_ID_gc256A,        /* GC256A (34) */
202     OSSL_TLS_GROUP_ID_gc256B,        /* GC256B (35) */
203     OSSL_TLS_GROUP_ID_gc256C,        /* GC256C (36) */
204     OSSL_TLS_GROUP_ID_gc256D,        /* GC256D (37) */
205     OSSL_TLS_GROUP_ID_gc512A,        /* GC512A (38) */
206     OSSL_TLS_GROUP_ID_gc512B,        /* GC512B (39) */
207     OSSL_TLS_GROUP_ID_gc512C,        /* GC512C (40) */
208     OSSL_TLS_GROUP_ID_ffdhe2048,     /* ffdhe2048 (0x100) */
209     OSSL_TLS_GROUP_ID_ffdhe3072,     /* ffdhe3072 (0x101) */
210     OSSL_TLS_GROUP_ID_ffdhe4096,     /* ffdhe4096 (0x102) */
211     OSSL_TLS_GROUP_ID_ffdhe6144,     /* ffdhe6144 (0x103) */
212     OSSL_TLS_GROUP_ID_ffdhe8192,     /* ffdhe8192 (0x104) */
213 };
214
215 static const uint16_t suiteb_curves[] = {
216     OSSL_TLS_GROUP_ID_secp256r1,
217     OSSL_TLS_GROUP_ID_secp384r1,
218 };
219
220 struct provider_group_data_st {
221     SSL_CTX *ctx;
222     OSSL_PROVIDER *provider;
223 };
224
225 #define TLS_GROUP_LIST_MALLOC_BLOCK_SIZE        10
226 static OSSL_CALLBACK add_provider_groups;
227 static int add_provider_groups(const OSSL_PARAM params[], void *data)
228 {
229     struct provider_group_data_st *pgd = data;
230     SSL_CTX *ctx = pgd->ctx;
231     OSSL_PROVIDER *provider = pgd->provider;
232     const OSSL_PARAM *p;
233     TLS_GROUP_INFO *ginf = NULL;
234     EVP_KEYMGMT *keymgmt;
235     unsigned int gid;
236     unsigned int is_kem = 0;
237     int ret = 0;
238
239     if (ctx->group_list_max_len == ctx->group_list_len) {
240         TLS_GROUP_INFO *tmp = NULL;
241
242         if (ctx->group_list_max_len == 0)
243             tmp = OPENSSL_malloc(sizeof(TLS_GROUP_INFO)
244                                  * TLS_GROUP_LIST_MALLOC_BLOCK_SIZE);
245         else
246             tmp = OPENSSL_realloc(ctx->group_list,
247                                   (ctx->group_list_max_len
248                                    + TLS_GROUP_LIST_MALLOC_BLOCK_SIZE)
249                                   * sizeof(TLS_GROUP_INFO));
250         if (tmp == NULL) {
251             ERR_raise(ERR_LIB_SSL, ERR_R_MALLOC_FAILURE);
252             return 0;
253         }
254         ctx->group_list = tmp;
255         memset(tmp + ctx->group_list_max_len,
256                0,
257                sizeof(TLS_GROUP_INFO) * TLS_GROUP_LIST_MALLOC_BLOCK_SIZE);
258         ctx->group_list_max_len += TLS_GROUP_LIST_MALLOC_BLOCK_SIZE;
259     }
260
261     ginf = &ctx->group_list[ctx->group_list_len];
262
263     p = OSSL_PARAM_locate_const(params, OSSL_CAPABILITY_TLS_GROUP_NAME);
264     if (p == NULL || p->data_type != OSSL_PARAM_UTF8_STRING) {
265         ERR_raise(ERR_LIB_SSL, ERR_R_PASSED_INVALID_ARGUMENT);
266         goto err;
267     }
268     ginf->tlsname = OPENSSL_strdup(p->data);
269     if (ginf->tlsname == NULL) {
270         ERR_raise(ERR_LIB_SSL, ERR_R_MALLOC_FAILURE);
271         goto err;
272     }
273
274     p = OSSL_PARAM_locate_const(params, OSSL_CAPABILITY_TLS_GROUP_NAME_INTERNAL);
275     if (p == NULL || p->data_type != OSSL_PARAM_UTF8_STRING) {
276         ERR_raise(ERR_LIB_SSL, ERR_R_PASSED_INVALID_ARGUMENT);
277         goto err;
278     }
279     ginf->realname = OPENSSL_strdup(p->data);
280     if (ginf->realname == NULL) {
281         ERR_raise(ERR_LIB_SSL, ERR_R_MALLOC_FAILURE);
282         goto err;
283     }
284
285     p = OSSL_PARAM_locate_const(params, OSSL_CAPABILITY_TLS_GROUP_ID);
286     if (p == NULL || !OSSL_PARAM_get_uint(p, &gid) || gid > UINT16_MAX) {
287         ERR_raise(ERR_LIB_SSL, ERR_R_PASSED_INVALID_ARGUMENT);
288         goto err;
289     }
290     ginf->group_id = (uint16_t)gid;
291
292     p = OSSL_PARAM_locate_const(params, OSSL_CAPABILITY_TLS_GROUP_ALG);
293     if (p == NULL || p->data_type != OSSL_PARAM_UTF8_STRING) {
294         ERR_raise(ERR_LIB_SSL, ERR_R_PASSED_INVALID_ARGUMENT);
295         goto err;
296     }
297     ginf->algorithm = OPENSSL_strdup(p->data);
298     if (ginf->algorithm == NULL) {
299         ERR_raise(ERR_LIB_SSL, ERR_R_MALLOC_FAILURE);
300         goto err;
301     }
302
303     p = OSSL_PARAM_locate_const(params, OSSL_CAPABILITY_TLS_GROUP_SECURITY_BITS);
304     if (p == NULL || !OSSL_PARAM_get_uint(p, &ginf->secbits)) {
305         ERR_raise(ERR_LIB_SSL, ERR_R_PASSED_INVALID_ARGUMENT);
306         goto err;
307     }
308
309     p = OSSL_PARAM_locate_const(params, OSSL_CAPABILITY_TLS_GROUP_IS_KEM);
310     if (p != NULL && (!OSSL_PARAM_get_uint(p, &is_kem) || is_kem > 1)) {
311         ERR_raise(ERR_LIB_SSL, ERR_R_PASSED_INVALID_ARGUMENT);
312         goto err;
313     }
314     ginf->is_kem = 1 & is_kem;
315
316     p = OSSL_PARAM_locate_const(params, OSSL_CAPABILITY_TLS_GROUP_MIN_TLS);
317     if (p == NULL || !OSSL_PARAM_get_int(p, &ginf->mintls)) {
318         ERR_raise(ERR_LIB_SSL, ERR_R_PASSED_INVALID_ARGUMENT);
319         goto err;
320     }
321
322     p = OSSL_PARAM_locate_const(params, OSSL_CAPABILITY_TLS_GROUP_MAX_TLS);
323     if (p == NULL || !OSSL_PARAM_get_int(p, &ginf->maxtls)) {
324         ERR_raise(ERR_LIB_SSL, ERR_R_PASSED_INVALID_ARGUMENT);
325         goto err;
326     }
327
328     p = OSSL_PARAM_locate_const(params, OSSL_CAPABILITY_TLS_GROUP_MIN_DTLS);
329     if (p == NULL || !OSSL_PARAM_get_int(p, &ginf->mindtls)) {
330         ERR_raise(ERR_LIB_SSL, ERR_R_PASSED_INVALID_ARGUMENT);
331         goto err;
332     }
333
334     p = OSSL_PARAM_locate_const(params, OSSL_CAPABILITY_TLS_GROUP_MAX_DTLS);
335     if (p == NULL || !OSSL_PARAM_get_int(p, &ginf->maxdtls)) {
336         ERR_raise(ERR_LIB_SSL, ERR_R_PASSED_INVALID_ARGUMENT);
337         goto err;
338     }
339     /*
340      * Now check that the algorithm is actually usable for our property query
341      * string. Regardless of the result we still return success because we have
342      * successfully processed this group, even though we may decide not to use
343      * it.
344      */
345     ret = 1;
346     ERR_set_mark();
347     keymgmt = EVP_KEYMGMT_fetch(ctx->libctx, ginf->algorithm, ctx->propq);
348     if (keymgmt != NULL) {
349         /*
350          * We have successfully fetched the algorithm - however if the provider
351          * doesn't match this one then we ignore it.
352          *
353          * Note: We're cheating a little here. Technically if the same algorithm
354          * is available from more than one provider then it is undefined which
355          * implementation you will get back. Theoretically this could be
356          * different every time...we assume here that you'll always get the
357          * same one back if you repeat the exact same fetch. Is this a reasonable
358          * assumption to make (in which case perhaps we should document this
359          * behaviour)?
360          */
361         if (EVP_KEYMGMT_get0_provider(keymgmt) == provider) {
362             /* We have a match - so we will use this group */
363             ctx->group_list_len++;
364             ginf = NULL;
365         }
366         EVP_KEYMGMT_free(keymgmt);
367     }
368     ERR_pop_to_mark();
369  err:
370     if (ginf != NULL) {
371         OPENSSL_free(ginf->tlsname);
372         OPENSSL_free(ginf->realname);
373         OPENSSL_free(ginf->algorithm);
374         ginf->algorithm = ginf->tlsname = ginf->realname = NULL;
375     }
376     return ret;
377 }
378
379 static int discover_provider_groups(OSSL_PROVIDER *provider, void *vctx)
380 {
381     struct provider_group_data_st pgd;
382
383     pgd.ctx = vctx;
384     pgd.provider = provider;
385     return OSSL_PROVIDER_get_capabilities(provider, "TLS-GROUP",
386                                           add_provider_groups, &pgd);
387 }
388
389 int ssl_load_groups(SSL_CTX *ctx)
390 {
391     size_t i, j, num_deflt_grps = 0;
392     uint16_t tmp_supp_groups[OSSL_NELEM(supported_groups_default)];
393
394     if (!OSSL_PROVIDER_do_all(ctx->libctx, discover_provider_groups, ctx))
395         return 0;
396
397     for (i = 0; i < OSSL_NELEM(supported_groups_default); i++) {
398         for (j = 0; j < ctx->group_list_len; j++) {
399             if (ctx->group_list[j].group_id == supported_groups_default[i]) {
400                 tmp_supp_groups[num_deflt_grps++] = ctx->group_list[j].group_id;
401                 break;
402             }
403         }
404     }
405
406     if (num_deflt_grps == 0)
407         return 1;
408
409     ctx->ext.supported_groups_default
410         = OPENSSL_malloc(sizeof(uint16_t) * num_deflt_grps);
411
412     if (ctx->ext.supported_groups_default == NULL) {
413         ERR_raise(ERR_LIB_SSL, ERR_R_MALLOC_FAILURE);
414         return 0;
415     }
416
417     memcpy(ctx->ext.supported_groups_default,
418            tmp_supp_groups,
419            num_deflt_grps * sizeof(tmp_supp_groups[0]));
420     ctx->ext.supported_groups_default_len = num_deflt_grps;
421
422     return 1;
423 }
424
425 static uint16_t tls1_group_name2id(SSL_CTX *ctx, const char *name)
426 {
427     size_t i;
428
429     for (i = 0; i < ctx->group_list_len; i++) {
430         if (strcmp(ctx->group_list[i].tlsname, name) == 0
431                 || strcmp(ctx->group_list[i].realname, name) == 0)
432             return ctx->group_list[i].group_id;
433     }
434
435     return 0;
436 }
437
438 uint16_t ssl_group_id_internal_to_tls13(uint16_t curve_id)
439 {
440     switch(curve_id) {
441     case OSSL_TLS_GROUP_ID_brainpoolP256r1:
442         return OSSL_TLS_GROUP_ID_brainpoolP256r1_tls13;
443     case OSSL_TLS_GROUP_ID_brainpoolP384r1:
444         return OSSL_TLS_GROUP_ID_brainpoolP384r1_tls13;
445     case OSSL_TLS_GROUP_ID_brainpoolP512r1:
446         return OSSL_TLS_GROUP_ID_brainpoolP512r1_tls13;
447     case OSSL_TLS_GROUP_ID_brainpoolP256r1_tls13:
448     case OSSL_TLS_GROUP_ID_brainpoolP384r1_tls13:
449     case OSSL_TLS_GROUP_ID_brainpoolP512r1_tls13:
450         return 0;
451     default:
452         return curve_id;
453     }
454 }
455
456 uint16_t ssl_group_id_tls13_to_internal(uint16_t curve_id)
457 {
458     switch(curve_id) {
459     case OSSL_TLS_GROUP_ID_brainpoolP256r1:
460     case OSSL_TLS_GROUP_ID_brainpoolP384r1:
461     case OSSL_TLS_GROUP_ID_brainpoolP512r1:
462         return 0;
463     case OSSL_TLS_GROUP_ID_brainpoolP256r1_tls13:
464         return OSSL_TLS_GROUP_ID_brainpoolP256r1;
465     case OSSL_TLS_GROUP_ID_brainpoolP384r1_tls13:
466         return OSSL_TLS_GROUP_ID_brainpoolP384r1;
467     case OSSL_TLS_GROUP_ID_brainpoolP512r1_tls13:
468         return OSSL_TLS_GROUP_ID_brainpoolP512r1;
469     default:
470         return curve_id;
471     }
472 }
473
474 const TLS_GROUP_INFO *tls1_group_id_lookup(SSL_CTX *ctx, uint16_t group_id)
475 {
476     size_t i;
477
478     for (i = 0; i < ctx->group_list_len; i++) {
479         if (ctx->group_list[i].group_id == group_id)
480             return &ctx->group_list[i];
481     }
482
483     return NULL;
484 }
485
486 int tls1_group_id2nid(uint16_t group_id, int include_unknown)
487 {
488     size_t i;
489
490     if (group_id == 0)
491         return NID_undef;
492
493     /*
494      * Return well known Group NIDs - for backwards compatibility. This won't
495      * work for groups we don't know about.
496      */
497     for (i = 0; i < OSSL_NELEM(nid_to_group); i++)
498     {
499         if (nid_to_group[i].group_id == group_id)
500             return nid_to_group[i].nid;
501     }
502     if (!include_unknown)
503         return NID_undef;
504     return TLSEXT_nid_unknown | (int)group_id;
505 }
506
507 uint16_t tls1_nid2group_id(int nid)
508 {
509     size_t i;
510
511     /*
512      * Return well known Group ids - for backwards compatibility. This won't
513      * work for groups we don't know about.
514      */
515     for (i = 0; i < OSSL_NELEM(nid_to_group); i++)
516     {
517         if (nid_to_group[i].nid == nid)
518             return nid_to_group[i].group_id;
519     }
520
521     return 0;
522 }
523
524 /*
525  * Set *pgroups to the supported groups list and *pgroupslen to
526  * the number of groups supported.
527  */
528 void tls1_get_supported_groups(SSL *s, const uint16_t **pgroups,
529                                size_t *pgroupslen)
530 {
531     /* For Suite B mode only include P-256, P-384 */
532     switch (tls1_suiteb(s)) {
533     case SSL_CERT_FLAG_SUITEB_128_LOS:
534         *pgroups = suiteb_curves;
535         *pgroupslen = OSSL_NELEM(suiteb_curves);
536         break;
537
538     case SSL_CERT_FLAG_SUITEB_128_LOS_ONLY:
539         *pgroups = suiteb_curves;
540         *pgroupslen = 1;
541         break;
542
543     case SSL_CERT_FLAG_SUITEB_192_LOS:
544         *pgroups = suiteb_curves + 1;
545         *pgroupslen = 1;
546         break;
547
548     default:
549         if (s->ext.supportedgroups == NULL) {
550             *pgroups = s->ctx->ext.supported_groups_default;
551             *pgroupslen = s->ctx->ext.supported_groups_default_len;
552         } else {
553             *pgroups = s->ext.supportedgroups;
554             *pgroupslen = s->ext.supportedgroups_len;
555         }
556         break;
557     }
558 }
559
560 int tls_valid_group(SSL *s, uint16_t group_id, int minversion, int maxversion,
561                     int isec, int *okfortls13)
562 {
563     const TLS_GROUP_INFO *ginfo = tls1_group_id_lookup(s->ctx, group_id);
564     int ret;
565
566     if (okfortls13 != NULL)
567         *okfortls13 = 0;
568
569     if (ginfo == NULL)
570         return 0;
571
572     if (SSL_IS_DTLS(s)) {
573         if (ginfo->mindtls < 0 || ginfo->maxdtls < 0)
574             return 0;
575         if (ginfo->maxdtls == 0)
576             ret = 1;
577         else
578             ret = DTLS_VERSION_LE(minversion, ginfo->maxdtls);
579         if (ginfo->mindtls > 0)
580             ret &= DTLS_VERSION_GE(maxversion, ginfo->mindtls);
581     } else {
582         if (ginfo->mintls < 0 || ginfo->maxtls < 0)
583             return 0;
584         if (ginfo->maxtls == 0)
585             ret = 1;
586         else
587             ret = (minversion <= ginfo->maxtls);
588         if (ginfo->mintls > 0)
589             ret &= (maxversion >= ginfo->mintls);
590         if (ret && okfortls13 != NULL && maxversion == TLS1_3_VERSION)
591             *okfortls13 = (ginfo->maxtls == 0)
592                           || (ginfo->maxtls >= TLS1_3_VERSION);
593     }
594     ret &= !isec
595            || strcmp(ginfo->algorithm, "EC") == 0
596            || strcmp(ginfo->algorithm, "X25519") == 0
597            || strcmp(ginfo->algorithm, "X448") == 0;
598
599     return ret;
600 }
601
602 /* See if group is allowed by security callback */
603 int tls_group_allowed(SSL *s, uint16_t group, int op)
604 {
605     const TLS_GROUP_INFO *ginfo = tls1_group_id_lookup(s->ctx, group);
606     unsigned char gtmp[2];
607
608     if (ginfo == NULL)
609         return 0;
610
611     gtmp[0] = group >> 8;
612     gtmp[1] = group & 0xff;
613     return ssl_security(s, op, ginfo->secbits,
614                         tls1_group_id2nid(ginfo->group_id, 0), (void *)gtmp);
615 }
616
617 /* Return 1 if "id" is in "list" */
618 static int tls1_in_list(uint16_t id, const uint16_t *list, size_t listlen)
619 {
620     size_t i;
621     for (i = 0; i < listlen; i++)
622         if (list[i] == id)
623             return 1;
624     return 0;
625 }
626
627 /*-
628  * For nmatch >= 0, return the id of the |nmatch|th shared group or 0
629  * if there is no match.
630  * For nmatch == -1, return number of matches
631  * For nmatch == -2, return the id of the group to use for
632  * a tmp key, or 0 if there is no match.
633  */
634 uint16_t tls1_shared_group(SSL *s, int nmatch)
635 {
636     const uint16_t *pref, *supp;
637     size_t num_pref, num_supp, i;
638     int k;
639
640     /* Can't do anything on client side */
641     if (s->server == 0)
642         return 0;
643     if (nmatch == -2) {
644         if (tls1_suiteb(s)) {
645             /*
646              * For Suite B ciphersuite determines curve: we already know
647              * these are acceptable due to previous checks.
648              */
649             unsigned long cid = s->s3.tmp.new_cipher->id;
650
651             if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_128_GCM_SHA256)
652                 return OSSL_TLS_GROUP_ID_secp256r1;
653             if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_256_GCM_SHA384)
654                 return OSSL_TLS_GROUP_ID_secp384r1;
655             /* Should never happen */
656             return 0;
657         }
658         /* If not Suite B just return first preference shared curve */
659         nmatch = 0;
660     }
661     /*
662      * If server preference set, our groups are the preference order
663      * otherwise peer decides.
664      */
665     if (s->options & SSL_OP_CIPHER_SERVER_PREFERENCE) {
666         tls1_get_supported_groups(s, &pref, &num_pref);
667         tls1_get_peer_groups(s, &supp, &num_supp);
668     } else {
669         tls1_get_peer_groups(s, &pref, &num_pref);
670         tls1_get_supported_groups(s, &supp, &num_supp);
671     }
672
673     for (k = 0, i = 0; i < num_pref; i++) {
674         uint16_t id = pref[i];
675         uint16_t cid = id;
676
677         if (SSL_IS_TLS13(s)) {
678             if (s->options & SSL_OP_CIPHER_SERVER_PREFERENCE)
679                 cid = ssl_group_id_internal_to_tls13(id);
680             else
681                 cid = id = ssl_group_id_tls13_to_internal(id);
682         }
683         if (!tls1_in_list(cid, supp, num_supp)
684                 || !tls_group_allowed(s, id, SSL_SECOP_CURVE_SHARED))
685             continue;
686         if (nmatch == k)
687             return id;
688          k++;
689     }
690     if (nmatch == -1)
691         return k;
692     /* Out of range (nmatch > k). */
693     return 0;
694 }
695
696 int tls1_set_groups(uint16_t **pext, size_t *pextlen,
697                     int *groups, size_t ngroups)
698 {
699     uint16_t *glist;
700     size_t i;
701     /*
702      * Bitmap of groups included to detect duplicates: two variables are added
703      * to detect duplicates as some values are more than 32.
704      */
705     unsigned long *dup_list = NULL;
706     unsigned long dup_list_egrp = 0;
707     unsigned long dup_list_dhgrp = 0;
708
709     if (ngroups == 0) {
710         ERR_raise(ERR_LIB_SSL, SSL_R_BAD_LENGTH);
711         return 0;
712     }
713     if ((glist = OPENSSL_malloc(ngroups * sizeof(*glist))) == NULL) {
714         ERR_raise(ERR_LIB_SSL, ERR_R_MALLOC_FAILURE);
715         return 0;
716     }
717     for (i = 0; i < ngroups; i++) {
718         unsigned long idmask;
719         uint16_t id;
720         id = tls1_nid2group_id(groups[i]);
721         if ((id & 0x00FF) >= (sizeof(unsigned long) * 8))
722             goto err;
723         idmask = 1L << (id & 0x00FF);
724         dup_list = (id < 0x100) ? &dup_list_egrp : &dup_list_dhgrp;
725         if (!id || ((*dup_list) & idmask))
726             goto err;
727         *dup_list |= idmask;
728         glist[i] = id;
729     }
730     OPENSSL_free(*pext);
731     *pext = glist;
732     *pextlen = ngroups;
733     return 1;
734 err:
735     OPENSSL_free(glist);
736     return 0;
737 }
738
739 # define GROUPLIST_INCREMENT   40
740 # define GROUP_NAME_BUFFER_LENGTH 64
741 typedef struct {
742     SSL_CTX *ctx;
743     size_t gidcnt;
744     size_t gidmax;
745     uint16_t *gid_arr;
746 } gid_cb_st;
747
748 static int gid_cb(const char *elem, int len, void *arg)
749 {
750     gid_cb_st *garg = arg;
751     size_t i;
752     uint16_t gid = 0;
753     char etmp[GROUP_NAME_BUFFER_LENGTH];
754
755     if (elem == NULL)
756         return 0;
757     if (garg->gidcnt == garg->gidmax) {
758         uint16_t *tmp =
759             OPENSSL_realloc(garg->gid_arr, garg->gidmax + GROUPLIST_INCREMENT);
760         if (tmp == NULL)
761             return 0;
762         garg->gidmax += GROUPLIST_INCREMENT;
763         garg->gid_arr = tmp;
764     }
765     if (len > (int)(sizeof(etmp) - 1))
766         return 0;
767     memcpy(etmp, elem, len);
768     etmp[len] = 0;
769
770     gid = tls1_group_name2id(garg->ctx, etmp);
771     if (gid == 0) {
772         ERR_raise_data(ERR_LIB_SSL, ERR_R_PASSED_INVALID_ARGUMENT,
773                        "group '%s' cannot be set", etmp);
774         return 0;
775     }
776     for (i = 0; i < garg->gidcnt; i++)
777         if (garg->gid_arr[i] == gid)
778             return 0;
779     garg->gid_arr[garg->gidcnt++] = gid;
780     return 1;
781 }
782
783 /* Set groups based on a colon separated list */
784 int tls1_set_groups_list(SSL_CTX *ctx, uint16_t **pext, size_t *pextlen,
785                          const char *str)
786 {
787     gid_cb_st gcb;
788     uint16_t *tmparr;
789     int ret = 0;
790
791     gcb.gidcnt = 0;
792     gcb.gidmax = GROUPLIST_INCREMENT;
793     gcb.gid_arr = OPENSSL_malloc(gcb.gidmax * sizeof(*gcb.gid_arr));
794     if (gcb.gid_arr == NULL)
795         return 0;
796     gcb.ctx = ctx;
797     if (!CONF_parse_list(str, ':', 1, gid_cb, &gcb))
798         goto end;
799     if (pext == NULL) {
800         ret = 1;
801         goto end;
802     }
803
804     /*
805      * gid_cb ensurse there are no duplicates so we can just go ahead and set
806      * the result
807      */
808     tmparr = OPENSSL_memdup(gcb.gid_arr, gcb.gidcnt * sizeof(*tmparr));
809     if (tmparr == NULL)
810         goto end;
811     *pext = tmparr;
812     *pextlen = gcb.gidcnt;
813     ret = 1;
814  end:
815     OPENSSL_free(gcb.gid_arr);
816     return ret;
817 }
818
819 /* Check a group id matches preferences */
820 int tls1_check_group_id(SSL *s, uint16_t group_id, int check_own_groups)
821     {
822     const uint16_t *groups;
823     size_t groups_len;
824
825     if (group_id == 0)
826         return 0;
827
828     /* Check for Suite B compliance */
829     if (tls1_suiteb(s) && s->s3.tmp.new_cipher != NULL) {
830         unsigned long cid = s->s3.tmp.new_cipher->id;
831
832         if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_128_GCM_SHA256) {
833             if (group_id != OSSL_TLS_GROUP_ID_secp256r1)
834                 return 0;
835         } else if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_256_GCM_SHA384) {
836             if (group_id != OSSL_TLS_GROUP_ID_secp384r1)
837                 return 0;
838         } else {
839             /* Should never happen */
840             return 0;
841         }
842     }
843
844     if (check_own_groups) {
845         /* Check group is one of our preferences */
846         tls1_get_supported_groups(s, &groups, &groups_len);
847         if (!tls1_in_list(group_id, groups, groups_len))
848             return 0;
849     }
850
851     if (!tls_group_allowed(s, group_id, SSL_SECOP_CURVE_CHECK))
852         return 0;
853
854     /* For clients, nothing more to check */
855     if (!s->server)
856         return 1;
857
858     /* Check group is one of peers preferences */
859     tls1_get_peer_groups(s, &groups, &groups_len);
860
861     /*
862      * RFC 4492 does not require the supported elliptic curves extension
863      * so if it is not sent we can just choose any curve.
864      * It is invalid to send an empty list in the supported groups
865      * extension, so groups_len == 0 always means no extension.
866      */
867     if (groups_len == 0)
868             return 1;
869     return tls1_in_list(group_id, groups, groups_len);
870 }
871
872 void tls1_get_formatlist(SSL *s, const unsigned char **pformats,
873                          size_t *num_formats)
874 {
875     /*
876      * If we have a custom point format list use it otherwise use default
877      */
878     if (s->ext.ecpointformats) {
879         *pformats = s->ext.ecpointformats;
880         *num_formats = s->ext.ecpointformats_len;
881     } else {
882         *pformats = ecformats_default;
883         /* For Suite B we don't support char2 fields */
884         if (tls1_suiteb(s))
885             *num_formats = sizeof(ecformats_default) - 1;
886         else
887             *num_formats = sizeof(ecformats_default);
888     }
889 }
890
891 /* Check a key is compatible with compression extension */
892 static int tls1_check_pkey_comp(SSL *s, EVP_PKEY *pkey)
893 {
894     unsigned char comp_id;
895     size_t i;
896     int point_conv;
897
898     /* If not an EC key nothing to check */
899     if (!EVP_PKEY_is_a(pkey, "EC"))
900         return 1;
901
902
903     /* Get required compression id */
904     point_conv = EVP_PKEY_get_ec_point_conv_form(pkey);
905     if (point_conv == 0)
906         return 0;
907     if (point_conv == POINT_CONVERSION_UNCOMPRESSED) {
908             comp_id = TLSEXT_ECPOINTFORMAT_uncompressed;
909     } else if (SSL_IS_TLS13(s)) {
910         /*
911          * ec_point_formats extension is not used in TLSv1.3 so we ignore
912          * this check.
913          */
914         return 1;
915     } else {
916         int field_type = EVP_PKEY_get_field_type(pkey);
917
918         if (field_type == NID_X9_62_prime_field)
919             comp_id = TLSEXT_ECPOINTFORMAT_ansiX962_compressed_prime;
920         else if (field_type == NID_X9_62_characteristic_two_field)
921             comp_id = TLSEXT_ECPOINTFORMAT_ansiX962_compressed_char2;
922         else
923             return 0;
924     }
925     /*
926      * If point formats extension present check it, otherwise everything is
927      * supported (see RFC4492).
928      */
929     if (s->ext.peer_ecpointformats == NULL)
930         return 1;
931
932     for (i = 0; i < s->ext.peer_ecpointformats_len; i++) {
933         if (s->ext.peer_ecpointformats[i] == comp_id)
934             return 1;
935     }
936     return 0;
937 }
938
939 /* Return group id of a key */
940 static uint16_t tls1_get_group_id(EVP_PKEY *pkey)
941 {
942     int curve_nid = ssl_get_EC_curve_nid(pkey);
943
944     if (curve_nid == NID_undef)
945         return 0;
946     return tls1_nid2group_id(curve_nid);
947 }
948
949 /*
950  * Check cert parameters compatible with extensions: currently just checks EC
951  * certificates have compatible curves and compression.
952  */
953 static int tls1_check_cert_param(SSL *s, X509 *x, int check_ee_md)
954 {
955     uint16_t group_id;
956     EVP_PKEY *pkey;
957     pkey = X509_get0_pubkey(x);
958     if (pkey == NULL)
959         return 0;
960     /* If not EC nothing to do */
961     if (!EVP_PKEY_is_a(pkey, "EC"))
962         return 1;
963     /* Check compression */
964     if (!tls1_check_pkey_comp(s, pkey))
965         return 0;
966     group_id = tls1_get_group_id(pkey);
967     /*
968      * For a server we allow the certificate to not be in our list of supported
969      * groups.
970      */
971     if (!tls1_check_group_id(s, group_id, !s->server))
972         return 0;
973     /*
974      * Special case for suite B. We *MUST* sign using SHA256+P-256 or
975      * SHA384+P-384.
976      */
977     if (check_ee_md && tls1_suiteb(s)) {
978         int check_md;
979         size_t i;
980
981         /* Check to see we have necessary signing algorithm */
982         if (group_id == OSSL_TLS_GROUP_ID_secp256r1)
983             check_md = NID_ecdsa_with_SHA256;
984         else if (group_id == OSSL_TLS_GROUP_ID_secp384r1)
985             check_md = NID_ecdsa_with_SHA384;
986         else
987             return 0;           /* Should never happen */
988         for (i = 0; i < s->shared_sigalgslen; i++) {
989             if (check_md == s->shared_sigalgs[i]->sigandhash)
990                 return 1;
991         }
992         return 0;
993     }
994     return 1;
995 }
996
997 /*
998  * tls1_check_ec_tmp_key - Check EC temporary key compatibility
999  * @s: SSL connection
1000  * @cid: Cipher ID we're considering using
1001  *
1002  * Checks that the kECDHE cipher suite we're considering using
1003  * is compatible with the client extensions.
1004  *
1005  * Returns 0 when the cipher can't be used or 1 when it can.
1006  */
1007 int tls1_check_ec_tmp_key(SSL *s, unsigned long cid)
1008 {
1009     /* If not Suite B just need a shared group */
1010     if (!tls1_suiteb(s))
1011         return tls1_shared_group(s, 0) != 0;
1012     /*
1013      * If Suite B, AES128 MUST use P-256 and AES256 MUST use P-384, no other
1014      * curves permitted.
1015      */
1016     if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_128_GCM_SHA256)
1017         return tls1_check_group_id(s, OSSL_TLS_GROUP_ID_secp256r1, 1);
1018     if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_256_GCM_SHA384)
1019         return tls1_check_group_id(s, OSSL_TLS_GROUP_ID_secp384r1, 1);
1020
1021     return 0;
1022 }
1023
1024 /* Default sigalg schemes */
1025 static const uint16_t tls12_sigalgs[] = {
1026     TLSEXT_SIGALG_ecdsa_secp256r1_sha256,
1027     TLSEXT_SIGALG_ecdsa_secp384r1_sha384,
1028     TLSEXT_SIGALG_ecdsa_secp521r1_sha512,
1029     TLSEXT_SIGALG_ed25519,
1030     TLSEXT_SIGALG_ed448,
1031     TLSEXT_SIGALG_ecdsa_brainpoolP256r1_sha256,
1032     TLSEXT_SIGALG_ecdsa_brainpoolP384r1_sha384,
1033     TLSEXT_SIGALG_ecdsa_brainpoolP512r1_sha512,
1034
1035     TLSEXT_SIGALG_rsa_pss_pss_sha256,
1036     TLSEXT_SIGALG_rsa_pss_pss_sha384,
1037     TLSEXT_SIGALG_rsa_pss_pss_sha512,
1038     TLSEXT_SIGALG_rsa_pss_rsae_sha256,
1039     TLSEXT_SIGALG_rsa_pss_rsae_sha384,
1040     TLSEXT_SIGALG_rsa_pss_rsae_sha512,
1041
1042     TLSEXT_SIGALG_rsa_pkcs1_sha256,
1043     TLSEXT_SIGALG_rsa_pkcs1_sha384,
1044     TLSEXT_SIGALG_rsa_pkcs1_sha512,
1045
1046     TLSEXT_SIGALG_ecdsa_sha224,
1047     TLSEXT_SIGALG_ecdsa_sha1,
1048
1049     TLSEXT_SIGALG_rsa_pkcs1_sha224,
1050     TLSEXT_SIGALG_rsa_pkcs1_sha1,
1051
1052     TLSEXT_SIGALG_dsa_sha224,
1053     TLSEXT_SIGALG_dsa_sha1,
1054
1055     TLSEXT_SIGALG_dsa_sha256,
1056     TLSEXT_SIGALG_dsa_sha384,
1057     TLSEXT_SIGALG_dsa_sha512,
1058
1059 #ifndef OPENSSL_NO_GOST
1060     TLSEXT_SIGALG_gostr34102012_256_intrinsic,
1061     TLSEXT_SIGALG_gostr34102012_512_intrinsic,
1062     TLSEXT_SIGALG_gostr34102012_256_gostr34112012_256,
1063     TLSEXT_SIGALG_gostr34102012_512_gostr34112012_512,
1064     TLSEXT_SIGALG_gostr34102001_gostr3411,
1065 #endif
1066 };
1067
1068
1069 static const uint16_t suiteb_sigalgs[] = {
1070     TLSEXT_SIGALG_ecdsa_secp256r1_sha256,
1071     TLSEXT_SIGALG_ecdsa_secp384r1_sha384
1072 };
1073
1074 static const SIGALG_LOOKUP sigalg_lookup_tbl[] = {
1075     {"ecdsa_secp256r1_sha256", TLSEXT_SIGALG_ecdsa_secp256r1_sha256,
1076      NID_sha256, SSL_MD_SHA256_IDX, EVP_PKEY_EC, SSL_PKEY_ECC,
1077      NID_ecdsa_with_SHA256, NID_X9_62_prime256v1, 1},
1078     {"ecdsa_secp384r1_sha384", TLSEXT_SIGALG_ecdsa_secp384r1_sha384,
1079      NID_sha384, SSL_MD_SHA384_IDX, EVP_PKEY_EC, SSL_PKEY_ECC,
1080      NID_ecdsa_with_SHA384, NID_secp384r1, 1},
1081     {"ecdsa_secp521r1_sha512", TLSEXT_SIGALG_ecdsa_secp521r1_sha512,
1082      NID_sha512, SSL_MD_SHA512_IDX, EVP_PKEY_EC, SSL_PKEY_ECC,
1083      NID_ecdsa_with_SHA512, NID_secp521r1, 1},
1084     {"ed25519", TLSEXT_SIGALG_ed25519,
1085      NID_undef, -1, EVP_PKEY_ED25519, SSL_PKEY_ED25519,
1086      NID_undef, NID_undef, 1},
1087     {"ed448", TLSEXT_SIGALG_ed448,
1088      NID_undef, -1, EVP_PKEY_ED448, SSL_PKEY_ED448,
1089      NID_undef, NID_undef, 1},
1090     {NULL, TLSEXT_SIGALG_ecdsa_sha224,
1091      NID_sha224, SSL_MD_SHA224_IDX, EVP_PKEY_EC, SSL_PKEY_ECC,
1092      NID_ecdsa_with_SHA224, NID_undef, 1},
1093     {NULL, TLSEXT_SIGALG_ecdsa_sha1,
1094      NID_sha1, SSL_MD_SHA1_IDX, EVP_PKEY_EC, SSL_PKEY_ECC,
1095      NID_ecdsa_with_SHA1, NID_undef, 1},
1096     {"ecdsa_brainpoolP256r1_sha256", TLSEXT_SIGALG_ecdsa_brainpoolP256r1_sha256,
1097      NID_sha256, SSL_MD_SHA256_IDX, EVP_PKEY_EC, SSL_PKEY_ECC,
1098      NID_ecdsa_with_SHA256, NID_brainpoolP256r1, 1},
1099     {"ecdsa_brainpoolP384r1_sha384", TLSEXT_SIGALG_ecdsa_brainpoolP384r1_sha384,
1100      NID_sha384, SSL_MD_SHA384_IDX, EVP_PKEY_EC, SSL_PKEY_ECC,
1101      NID_ecdsa_with_SHA384, NID_brainpoolP384r1, 1},
1102     {"ecdsa_brainpoolP512r1_sha512", TLSEXT_SIGALG_ecdsa_brainpoolP512r1_sha512,
1103      NID_sha512, SSL_MD_SHA512_IDX, EVP_PKEY_EC, SSL_PKEY_ECC,
1104      NID_ecdsa_with_SHA512, NID_brainpoolP512r1, 1},
1105     {"rsa_pss_rsae_sha256", TLSEXT_SIGALG_rsa_pss_rsae_sha256,
1106      NID_sha256, SSL_MD_SHA256_IDX, EVP_PKEY_RSA_PSS, SSL_PKEY_RSA,
1107      NID_undef, NID_undef, 1},
1108     {"rsa_pss_rsae_sha384", TLSEXT_SIGALG_rsa_pss_rsae_sha384,
1109      NID_sha384, SSL_MD_SHA384_IDX, EVP_PKEY_RSA_PSS, SSL_PKEY_RSA,
1110      NID_undef, NID_undef, 1},
1111     {"rsa_pss_rsae_sha512", TLSEXT_SIGALG_rsa_pss_rsae_sha512,
1112      NID_sha512, SSL_MD_SHA512_IDX, EVP_PKEY_RSA_PSS, SSL_PKEY_RSA,
1113      NID_undef, NID_undef, 1},
1114     {"rsa_pss_pss_sha256", TLSEXT_SIGALG_rsa_pss_pss_sha256,
1115      NID_sha256, SSL_MD_SHA256_IDX, EVP_PKEY_RSA_PSS, SSL_PKEY_RSA_PSS_SIGN,
1116      NID_undef, NID_undef, 1},
1117     {"rsa_pss_pss_sha384", TLSEXT_SIGALG_rsa_pss_pss_sha384,
1118      NID_sha384, SSL_MD_SHA384_IDX, EVP_PKEY_RSA_PSS, SSL_PKEY_RSA_PSS_SIGN,
1119      NID_undef, NID_undef, 1},
1120     {"rsa_pss_pss_sha512", TLSEXT_SIGALG_rsa_pss_pss_sha512,
1121      NID_sha512, SSL_MD_SHA512_IDX, EVP_PKEY_RSA_PSS, SSL_PKEY_RSA_PSS_SIGN,
1122      NID_undef, NID_undef, 1},
1123     {"rsa_pkcs1_sha256", TLSEXT_SIGALG_rsa_pkcs1_sha256,
1124      NID_sha256, SSL_MD_SHA256_IDX, EVP_PKEY_RSA, SSL_PKEY_RSA,
1125      NID_sha256WithRSAEncryption, NID_undef, 1},
1126     {"rsa_pkcs1_sha384", TLSEXT_SIGALG_rsa_pkcs1_sha384,
1127      NID_sha384, SSL_MD_SHA384_IDX, EVP_PKEY_RSA, SSL_PKEY_RSA,
1128      NID_sha384WithRSAEncryption, NID_undef, 1},
1129     {"rsa_pkcs1_sha512", TLSEXT_SIGALG_rsa_pkcs1_sha512,
1130      NID_sha512, SSL_MD_SHA512_IDX, EVP_PKEY_RSA, SSL_PKEY_RSA,
1131      NID_sha512WithRSAEncryption, NID_undef, 1},
1132     {"rsa_pkcs1_sha224", TLSEXT_SIGALG_rsa_pkcs1_sha224,
1133      NID_sha224, SSL_MD_SHA224_IDX, EVP_PKEY_RSA, SSL_PKEY_RSA,
1134      NID_sha224WithRSAEncryption, NID_undef, 1},
1135     {"rsa_pkcs1_sha1", TLSEXT_SIGALG_rsa_pkcs1_sha1,
1136      NID_sha1, SSL_MD_SHA1_IDX, EVP_PKEY_RSA, SSL_PKEY_RSA,
1137      NID_sha1WithRSAEncryption, NID_undef, 1},
1138     {NULL, TLSEXT_SIGALG_dsa_sha256,
1139      NID_sha256, SSL_MD_SHA256_IDX, EVP_PKEY_DSA, SSL_PKEY_DSA_SIGN,
1140      NID_dsa_with_SHA256, NID_undef, 1},
1141     {NULL, TLSEXT_SIGALG_dsa_sha384,
1142      NID_sha384, SSL_MD_SHA384_IDX, EVP_PKEY_DSA, SSL_PKEY_DSA_SIGN,
1143      NID_undef, NID_undef, 1},
1144     {NULL, TLSEXT_SIGALG_dsa_sha512,
1145      NID_sha512, SSL_MD_SHA512_IDX, EVP_PKEY_DSA, SSL_PKEY_DSA_SIGN,
1146      NID_undef, NID_undef, 1},
1147     {NULL, TLSEXT_SIGALG_dsa_sha224,
1148      NID_sha224, SSL_MD_SHA224_IDX, EVP_PKEY_DSA, SSL_PKEY_DSA_SIGN,
1149      NID_undef, NID_undef, 1},
1150     {NULL, TLSEXT_SIGALG_dsa_sha1,
1151      NID_sha1, SSL_MD_SHA1_IDX, EVP_PKEY_DSA, SSL_PKEY_DSA_SIGN,
1152      NID_dsaWithSHA1, NID_undef, 1},
1153 #ifndef OPENSSL_NO_GOST
1154     {NULL, TLSEXT_SIGALG_gostr34102012_256_intrinsic,
1155      NID_id_GostR3411_2012_256, SSL_MD_GOST12_256_IDX,
1156      NID_id_GostR3410_2012_256, SSL_PKEY_GOST12_256,
1157      NID_undef, NID_undef, 1},
1158     {NULL, TLSEXT_SIGALG_gostr34102012_512_intrinsic,
1159      NID_id_GostR3411_2012_512, SSL_MD_GOST12_512_IDX,
1160      NID_id_GostR3410_2012_512, SSL_PKEY_GOST12_512,
1161      NID_undef, NID_undef, 1},
1162     {NULL, TLSEXT_SIGALG_gostr34102012_256_gostr34112012_256,
1163      NID_id_GostR3411_2012_256, SSL_MD_GOST12_256_IDX,
1164      NID_id_GostR3410_2012_256, SSL_PKEY_GOST12_256,
1165      NID_undef, NID_undef, 1},
1166     {NULL, TLSEXT_SIGALG_gostr34102012_512_gostr34112012_512,
1167      NID_id_GostR3411_2012_512, SSL_MD_GOST12_512_IDX,
1168      NID_id_GostR3410_2012_512, SSL_PKEY_GOST12_512,
1169      NID_undef, NID_undef, 1},
1170     {NULL, TLSEXT_SIGALG_gostr34102001_gostr3411,
1171      NID_id_GostR3411_94, SSL_MD_GOST94_IDX,
1172      NID_id_GostR3410_2001, SSL_PKEY_GOST01,
1173      NID_undef, NID_undef, 1}
1174 #endif
1175 };
1176 /* Legacy sigalgs for TLS < 1.2 RSA TLS signatures */
1177 static const SIGALG_LOOKUP legacy_rsa_sigalg = {
1178     "rsa_pkcs1_md5_sha1", 0,
1179      NID_md5_sha1, SSL_MD_MD5_SHA1_IDX,
1180      EVP_PKEY_RSA, SSL_PKEY_RSA,
1181      NID_undef, NID_undef, 1
1182 };
1183
1184 /*
1185  * Default signature algorithm values used if signature algorithms not present.
1186  * From RFC5246. Note: order must match certificate index order.
1187  */
1188 static const uint16_t tls_default_sigalg[] = {
1189     TLSEXT_SIGALG_rsa_pkcs1_sha1, /* SSL_PKEY_RSA */
1190     0, /* SSL_PKEY_RSA_PSS_SIGN */
1191     TLSEXT_SIGALG_dsa_sha1, /* SSL_PKEY_DSA_SIGN */
1192     TLSEXT_SIGALG_ecdsa_sha1, /* SSL_PKEY_ECC */
1193     TLSEXT_SIGALG_gostr34102001_gostr3411, /* SSL_PKEY_GOST01 */
1194     TLSEXT_SIGALG_gostr34102012_256_intrinsic, /* SSL_PKEY_GOST12_256 */
1195     TLSEXT_SIGALG_gostr34102012_512_intrinsic, /* SSL_PKEY_GOST12_512 */
1196     0, /* SSL_PKEY_ED25519 */
1197     0, /* SSL_PKEY_ED448 */
1198 };
1199
1200 int ssl_setup_sig_algs(SSL_CTX *ctx)
1201 {
1202     size_t i;
1203     const SIGALG_LOOKUP *lu;
1204     SIGALG_LOOKUP *cache
1205         = OPENSSL_malloc(sizeof(*lu) * OSSL_NELEM(sigalg_lookup_tbl));
1206     EVP_PKEY *tmpkey = EVP_PKEY_new();
1207     int ret = 0;
1208
1209     if (cache == NULL || tmpkey == NULL)
1210         goto err;
1211
1212     ERR_set_mark();
1213     for (i = 0, lu = sigalg_lookup_tbl;
1214          i < OSSL_NELEM(sigalg_lookup_tbl); lu++, i++) {
1215         EVP_PKEY_CTX *pctx;
1216
1217         cache[i] = *lu;
1218
1219         /*
1220          * Check hash is available.
1221          * This test is not perfect. A provider could have support
1222          * for a signature scheme, but not a particular hash. However the hash
1223          * could be available from some other loaded provider. In that case it
1224          * could be that the signature is available, and the hash is available
1225          * independently - but not as a combination. We ignore this for now.
1226          */
1227         if (lu->hash != NID_undef
1228                 && ctx->ssl_digest_methods[lu->hash_idx] == NULL) {
1229             cache[i].enabled = 0;
1230             continue;
1231         }
1232
1233         if (!EVP_PKEY_set_type(tmpkey, lu->sig)) {
1234             cache[i].enabled = 0;
1235             continue;
1236         }
1237         pctx = EVP_PKEY_CTX_new_from_pkey(ctx->libctx, tmpkey, ctx->propq);
1238         /* If unable to create pctx we assume the sig algorithm is unavailable */
1239         if (pctx == NULL)
1240             cache[i].enabled = 0;
1241         EVP_PKEY_CTX_free(pctx);
1242     }
1243     ERR_pop_to_mark();
1244     ctx->sigalg_lookup_cache = cache;
1245     cache = NULL;
1246
1247     ret = 1;
1248  err:
1249     OPENSSL_free(cache);
1250     EVP_PKEY_free(tmpkey);
1251     return ret;
1252 }
1253
1254 /* Lookup TLS signature algorithm */
1255 static const SIGALG_LOOKUP *tls1_lookup_sigalg(const SSL *s, uint16_t sigalg)
1256 {
1257     size_t i;
1258     const SIGALG_LOOKUP *lu;
1259
1260     for (i = 0, lu = s->ctx->sigalg_lookup_cache;
1261          /* cache should have the same number of elements as sigalg_lookup_tbl */
1262          i < OSSL_NELEM(sigalg_lookup_tbl);
1263          lu++, i++) {
1264         if (lu->sigalg == sigalg) {
1265             if (!lu->enabled)
1266                 return NULL;
1267             return lu;
1268         }
1269     }
1270     return NULL;
1271 }
1272 /* Lookup hash: return 0 if invalid or not enabled */
1273 int tls1_lookup_md(SSL_CTX *ctx, const SIGALG_LOOKUP *lu, const EVP_MD **pmd)
1274 {
1275     const EVP_MD *md;
1276     if (lu == NULL)
1277         return 0;
1278     /* lu->hash == NID_undef means no associated digest */
1279     if (lu->hash == NID_undef) {
1280         md = NULL;
1281     } else {
1282         md = ssl_md(ctx, lu->hash_idx);
1283         if (md == NULL)
1284             return 0;
1285     }
1286     if (pmd)
1287         *pmd = md;
1288     return 1;
1289 }
1290
1291 /*
1292  * Check if key is large enough to generate RSA-PSS signature.
1293  *
1294  * The key must greater than or equal to 2 * hash length + 2.
1295  * SHA512 has a hash length of 64 bytes, which is incompatible
1296  * with a 128 byte (1024 bit) key.
1297  */
1298 #define RSA_PSS_MINIMUM_KEY_SIZE(md) (2 * EVP_MD_get_size(md) + 2)
1299 static int rsa_pss_check_min_key_size(SSL_CTX *ctx, const EVP_PKEY *pkey,
1300                                       const SIGALG_LOOKUP *lu)
1301 {
1302     const EVP_MD *md;
1303
1304     if (pkey == NULL)
1305         return 0;
1306     if (!tls1_lookup_md(ctx, lu, &md) || md == NULL)
1307         return 0;
1308     if (EVP_PKEY_get_size(pkey) < RSA_PSS_MINIMUM_KEY_SIZE(md))
1309         return 0;
1310     return 1;
1311 }
1312
1313 /*
1314  * Returns a signature algorithm when the peer did not send a list of supported
1315  * signature algorithms. The signature algorithm is fixed for the certificate
1316  * type. |idx| is a certificate type index (SSL_PKEY_*). When |idx| is -1 the
1317  * certificate type from |s| will be used.
1318  * Returns the signature algorithm to use, or NULL on error.
1319  */
1320 static const SIGALG_LOOKUP *tls1_get_legacy_sigalg(const SSL *s, int idx)
1321 {
1322     if (idx == -1) {
1323         if (s->server) {
1324             size_t i;
1325
1326             /* Work out index corresponding to ciphersuite */
1327             for (i = 0; i < SSL_PKEY_NUM; i++) {
1328                 const SSL_CERT_LOOKUP *clu = ssl_cert_lookup_by_idx(i);
1329
1330                 if (clu == NULL)
1331                     continue;
1332                 if (clu->amask & s->s3.tmp.new_cipher->algorithm_auth) {
1333                     idx = i;
1334                     break;
1335                 }
1336             }
1337
1338             /*
1339              * Some GOST ciphersuites allow more than one signature algorithms
1340              * */
1341             if (idx == SSL_PKEY_GOST01 && s->s3.tmp.new_cipher->algorithm_auth != SSL_aGOST01) {
1342                 int real_idx;
1343
1344                 for (real_idx = SSL_PKEY_GOST12_512; real_idx >= SSL_PKEY_GOST01;
1345                      real_idx--) {
1346                     if (s->cert->pkeys[real_idx].privatekey != NULL) {
1347                         idx = real_idx;
1348                         break;
1349                     }
1350                 }
1351             }
1352             /*
1353              * As both SSL_PKEY_GOST12_512 and SSL_PKEY_GOST12_256 indices can be used
1354              * with new (aGOST12-only) ciphersuites, we should find out which one is available really.
1355              */
1356             else if (idx == SSL_PKEY_GOST12_256) {
1357                 int real_idx;
1358
1359                 for (real_idx = SSL_PKEY_GOST12_512; real_idx >= SSL_PKEY_GOST12_256;
1360                      real_idx--) {
1361                      if (s->cert->pkeys[real_idx].privatekey != NULL) {
1362                          idx = real_idx;
1363                          break;
1364                      }
1365                 }
1366             }
1367         } else {
1368             idx = s->cert->key - s->cert->pkeys;
1369         }
1370     }
1371     if (idx < 0 || idx >= (int)OSSL_NELEM(tls_default_sigalg))
1372         return NULL;
1373     if (SSL_USE_SIGALGS(s) || idx != SSL_PKEY_RSA) {
1374         const SIGALG_LOOKUP *lu = tls1_lookup_sigalg(s, tls_default_sigalg[idx]);
1375
1376         if (lu == NULL)
1377             return NULL;
1378         if (!tls1_lookup_md(s->ctx, lu, NULL))
1379             return NULL;
1380         if (!tls12_sigalg_allowed(s, SSL_SECOP_SIGALG_SUPPORTED, lu))
1381             return NULL;
1382         return lu;
1383     }
1384     if (!tls12_sigalg_allowed(s, SSL_SECOP_SIGALG_SUPPORTED, &legacy_rsa_sigalg))
1385         return NULL;
1386     return &legacy_rsa_sigalg;
1387 }
1388 /* Set peer sigalg based key type */
1389 int tls1_set_peer_legacy_sigalg(SSL *s, const EVP_PKEY *pkey)
1390 {
1391     size_t idx;
1392     const SIGALG_LOOKUP *lu;
1393
1394     if (ssl_cert_lookup_by_pkey(pkey, &idx) == NULL)
1395         return 0;
1396     lu = tls1_get_legacy_sigalg(s, idx);
1397     if (lu == NULL)
1398         return 0;
1399     s->s3.tmp.peer_sigalg = lu;
1400     return 1;
1401 }
1402
1403 size_t tls12_get_psigalgs(SSL *s, int sent, const uint16_t **psigs)
1404 {
1405     /*
1406      * If Suite B mode use Suite B sigalgs only, ignore any other
1407      * preferences.
1408      */
1409     switch (tls1_suiteb(s)) {
1410     case SSL_CERT_FLAG_SUITEB_128_LOS:
1411         *psigs = suiteb_sigalgs;
1412         return OSSL_NELEM(suiteb_sigalgs);
1413
1414     case SSL_CERT_FLAG_SUITEB_128_LOS_ONLY:
1415         *psigs = suiteb_sigalgs;
1416         return 1;
1417
1418     case SSL_CERT_FLAG_SUITEB_192_LOS:
1419         *psigs = suiteb_sigalgs + 1;
1420         return 1;
1421     }
1422     /*
1423      *  We use client_sigalgs (if not NULL) if we're a server
1424      *  and sending a certificate request or if we're a client and
1425      *  determining which shared algorithm to use.
1426      */
1427     if ((s->server == sent) && s->cert->client_sigalgs != NULL) {
1428         *psigs = s->cert->client_sigalgs;
1429         return s->cert->client_sigalgslen;
1430     } else if (s->cert->conf_sigalgs) {
1431         *psigs = s->cert->conf_sigalgs;
1432         return s->cert->conf_sigalgslen;
1433     } else {
1434         *psigs = tls12_sigalgs;
1435         return OSSL_NELEM(tls12_sigalgs);
1436     }
1437 }
1438
1439 /*
1440  * Called by servers only. Checks that we have a sig alg that supports the
1441  * specified EC curve.
1442  */
1443 int tls_check_sigalg_curve(const SSL *s, int curve)
1444 {
1445    const uint16_t *sigs;
1446    size_t siglen, i;
1447
1448     if (s->cert->conf_sigalgs) {
1449         sigs = s->cert->conf_sigalgs;
1450         siglen = s->cert->conf_sigalgslen;
1451     } else {
1452         sigs = tls12_sigalgs;
1453         siglen = OSSL_NELEM(tls12_sigalgs);
1454     }
1455
1456     for (i = 0; i < siglen; i++) {
1457         const SIGALG_LOOKUP *lu = tls1_lookup_sigalg(s, sigs[i]);
1458
1459         if (lu == NULL)
1460             continue;
1461         if (lu->sig == EVP_PKEY_EC
1462                 && lu->curve != NID_undef
1463                 && curve == lu->curve)
1464             return 1;
1465     }
1466
1467     return 0;
1468 }
1469
1470 /*
1471  * Return the number of security bits for the signature algorithm, or 0 on
1472  * error.
1473  */
1474 static int sigalg_security_bits(SSL_CTX *ctx, const SIGALG_LOOKUP *lu)
1475 {
1476     const EVP_MD *md = NULL;
1477     int secbits = 0;
1478
1479     if (!tls1_lookup_md(ctx, lu, &md))
1480         return 0;
1481     if (md != NULL)
1482     {
1483         int md_type = EVP_MD_get_type(md);
1484
1485         /* Security bits: half digest bits */
1486         secbits = EVP_MD_get_size(md) * 4;
1487         /*
1488          * SHA1 and MD5 are known to be broken. Reduce security bits so that
1489          * they're no longer accepted at security level 1. The real values don't
1490          * really matter as long as they're lower than 80, which is our
1491          * security level 1.
1492          * https://eprint.iacr.org/2020/014 puts a chosen-prefix attack for
1493          * SHA1 at 2^63.4 and MD5+SHA1 at 2^67.2
1494          * https://documents.epfl.ch/users/l/le/lenstra/public/papers/lat.pdf
1495          * puts a chosen-prefix attack for MD5 at 2^39.
1496          */
1497         if (md_type == NID_sha1)
1498             secbits = 64;
1499         else if (md_type == NID_md5_sha1)
1500             secbits = 67;
1501         else if (md_type == NID_md5)
1502             secbits = 39;
1503     } else {
1504         /* Values from https://tools.ietf.org/html/rfc8032#section-8.5 */
1505         if (lu->sigalg == TLSEXT_SIGALG_ed25519)
1506             secbits = 128;
1507         else if (lu->sigalg == TLSEXT_SIGALG_ed448)
1508             secbits = 224;
1509     }
1510     return secbits;
1511 }
1512
1513 /*
1514  * Check signature algorithm is consistent with sent supported signature
1515  * algorithms and if so set relevant digest and signature scheme in
1516  * s.
1517  */
1518 int tls12_check_peer_sigalg(SSL *s, uint16_t sig, EVP_PKEY *pkey)
1519 {
1520     const uint16_t *sent_sigs;
1521     const EVP_MD *md = NULL;
1522     char sigalgstr[2];
1523     size_t sent_sigslen, i, cidx;
1524     int pkeyid = -1;
1525     const SIGALG_LOOKUP *lu;
1526     int secbits = 0;
1527
1528     pkeyid = EVP_PKEY_get_id(pkey);
1529     /* Should never happen */
1530     if (pkeyid == -1)
1531         return -1;
1532     if (SSL_IS_TLS13(s)) {
1533         /* Disallow DSA for TLS 1.3 */
1534         if (pkeyid == EVP_PKEY_DSA) {
1535             SSLfatal(s, SSL_AD_ILLEGAL_PARAMETER, SSL_R_WRONG_SIGNATURE_TYPE);
1536             return 0;
1537         }
1538         /* Only allow PSS for TLS 1.3 */
1539         if (pkeyid == EVP_PKEY_RSA)
1540             pkeyid = EVP_PKEY_RSA_PSS;
1541     }
1542     lu = tls1_lookup_sigalg(s, sig);
1543     /*
1544      * Check sigalgs is known. Disallow SHA1/SHA224 with TLS 1.3. Check key type
1545      * is consistent with signature: RSA keys can be used for RSA-PSS
1546      */
1547     if (lu == NULL
1548         || (SSL_IS_TLS13(s) && (lu->hash == NID_sha1 || lu->hash == NID_sha224))
1549         || (pkeyid != lu->sig
1550         && (lu->sig != EVP_PKEY_RSA_PSS || pkeyid != EVP_PKEY_RSA))) {
1551         SSLfatal(s, SSL_AD_ILLEGAL_PARAMETER, SSL_R_WRONG_SIGNATURE_TYPE);
1552         return 0;
1553     }
1554     /* Check the sigalg is consistent with the key OID */
1555     if (!ssl_cert_lookup_by_nid(EVP_PKEY_get_id(pkey), &cidx)
1556             || lu->sig_idx != (int)cidx) {
1557         SSLfatal(s, SSL_AD_ILLEGAL_PARAMETER, SSL_R_WRONG_SIGNATURE_TYPE);
1558         return 0;
1559     }
1560
1561     if (pkeyid == EVP_PKEY_EC) {
1562
1563         /* Check point compression is permitted */
1564         if (!tls1_check_pkey_comp(s, pkey)) {
1565             SSLfatal(s, SSL_AD_ILLEGAL_PARAMETER,
1566                      SSL_R_ILLEGAL_POINT_COMPRESSION);
1567             return 0;
1568         }
1569
1570         /* For TLS 1.3 or Suite B check curve matches signature algorithm */
1571         if (SSL_IS_TLS13(s) || tls1_suiteb(s)) {
1572             int curve = ssl_get_EC_curve_nid(pkey);
1573
1574             if (lu->curve != NID_undef && curve != lu->curve) {
1575                 SSLfatal(s, SSL_AD_ILLEGAL_PARAMETER, SSL_R_WRONG_CURVE);
1576                 return 0;
1577             }
1578         }
1579         if (!SSL_IS_TLS13(s)) {
1580             /* Check curve matches extensions */
1581             if (!tls1_check_group_id(s, tls1_get_group_id(pkey), 1)) {
1582                 SSLfatal(s, SSL_AD_ILLEGAL_PARAMETER, SSL_R_WRONG_CURVE);
1583                 return 0;
1584             }
1585             if (tls1_suiteb(s)) {
1586                 /* Check sigalg matches a permissible Suite B value */
1587                 if (sig != TLSEXT_SIGALG_ecdsa_secp256r1_sha256
1588                     && sig != TLSEXT_SIGALG_ecdsa_secp384r1_sha384) {
1589                     SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE,
1590                              SSL_R_WRONG_SIGNATURE_TYPE);
1591                     return 0;
1592                 }
1593             }
1594         }
1595     } else if (tls1_suiteb(s)) {
1596         SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE, SSL_R_WRONG_SIGNATURE_TYPE);
1597         return 0;
1598     }
1599
1600     /* Check signature matches a type we sent */
1601     sent_sigslen = tls12_get_psigalgs(s, 1, &sent_sigs);
1602     for (i = 0; i < sent_sigslen; i++, sent_sigs++) {
1603         if (sig == *sent_sigs)
1604             break;
1605     }
1606     /* Allow fallback to SHA1 if not strict mode */
1607     if (i == sent_sigslen && (lu->hash != NID_sha1
1608         || s->cert->cert_flags & SSL_CERT_FLAGS_CHECK_TLS_STRICT)) {
1609         SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE, SSL_R_WRONG_SIGNATURE_TYPE);
1610         return 0;
1611     }
1612     if (!tls1_lookup_md(s->ctx, lu, &md)) {
1613         SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE, SSL_R_UNKNOWN_DIGEST);
1614         return 0;
1615     }
1616     /*
1617      * Make sure security callback allows algorithm. For historical
1618      * reasons we have to pass the sigalg as a two byte char array.
1619      */
1620     sigalgstr[0] = (sig >> 8) & 0xff;
1621     sigalgstr[1] = sig & 0xff;
1622     secbits = sigalg_security_bits(s->ctx, lu);
1623     if (secbits == 0 ||
1624         !ssl_security(s, SSL_SECOP_SIGALG_CHECK, secbits,
1625                       md != NULL ? EVP_MD_get_type(md) : NID_undef,
1626                       (void *)sigalgstr)) {
1627         SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE, SSL_R_WRONG_SIGNATURE_TYPE);
1628         return 0;
1629     }
1630     /* Store the sigalg the peer uses */
1631     s->s3.tmp.peer_sigalg = lu;
1632     return 1;
1633 }
1634
1635 int SSL_get_peer_signature_type_nid(const SSL *s, int *pnid)
1636 {
1637     if (s->s3.tmp.peer_sigalg == NULL)
1638         return 0;
1639     *pnid = s->s3.tmp.peer_sigalg->sig;
1640     return 1;
1641 }
1642
1643 int SSL_get_signature_type_nid(const SSL *s, int *pnid)
1644 {
1645     if (s->s3.tmp.sigalg == NULL)
1646         return 0;
1647     *pnid = s->s3.tmp.sigalg->sig;
1648     return 1;
1649 }
1650
1651 /*
1652  * Set a mask of disabled algorithms: an algorithm is disabled if it isn't
1653  * supported, doesn't appear in supported signature algorithms, isn't supported
1654  * by the enabled protocol versions or by the security level.
1655  *
1656  * This function should only be used for checking which ciphers are supported
1657  * by the client.
1658  *
1659  * Call ssl_cipher_disabled() to check that it's enabled or not.
1660  */
1661 int ssl_set_client_disabled(SSL *s)
1662 {
1663     s->s3.tmp.mask_a = 0;
1664     s->s3.tmp.mask_k = 0;
1665     ssl_set_sig_mask(&s->s3.tmp.mask_a, s, SSL_SECOP_SIGALG_MASK);
1666     if (ssl_get_min_max_version(s, &s->s3.tmp.min_ver,
1667                                 &s->s3.tmp.max_ver, NULL) != 0)
1668         return 0;
1669 #ifndef OPENSSL_NO_PSK
1670     /* with PSK there must be client callback set */
1671     if (!s->psk_client_callback) {
1672         s->s3.tmp.mask_a |= SSL_aPSK;
1673         s->s3.tmp.mask_k |= SSL_PSK;
1674     }
1675 #endif                          /* OPENSSL_NO_PSK */
1676 #ifndef OPENSSL_NO_SRP
1677     if (!(s->srp_ctx.srp_Mask & SSL_kSRP)) {
1678         s->s3.tmp.mask_a |= SSL_aSRP;
1679         s->s3.tmp.mask_k |= SSL_kSRP;
1680     }
1681 #endif
1682     return 1;
1683 }
1684
1685 /*
1686  * ssl_cipher_disabled - check that a cipher is disabled or not
1687  * @s: SSL connection that you want to use the cipher on
1688  * @c: cipher to check
1689  * @op: Security check that you want to do
1690  * @ecdhe: If set to 1 then TLSv1 ECDHE ciphers are also allowed in SSLv3
1691  *
1692  * Returns 1 when it's disabled, 0 when enabled.
1693  */
1694 int ssl_cipher_disabled(const SSL *s, const SSL_CIPHER *c, int op, int ecdhe)
1695 {
1696     if (c->algorithm_mkey & s->s3.tmp.mask_k
1697         || c->algorithm_auth & s->s3.tmp.mask_a)
1698         return 1;
1699     if (s->s3.tmp.max_ver == 0)
1700         return 1;
1701     if (!SSL_IS_DTLS(s)) {
1702         int min_tls = c->min_tls;
1703
1704         /*
1705          * For historical reasons we will allow ECHDE to be selected by a server
1706          * in SSLv3 if we are a client
1707          */
1708         if (min_tls == TLS1_VERSION && ecdhe
1709                 && (c->algorithm_mkey & (SSL_kECDHE | SSL_kECDHEPSK)) != 0)
1710             min_tls = SSL3_VERSION;
1711
1712         if ((min_tls > s->s3.tmp.max_ver) || (c->max_tls < s->s3.tmp.min_ver))
1713             return 1;
1714     }
1715     if (SSL_IS_DTLS(s) && (DTLS_VERSION_GT(c->min_dtls, s->s3.tmp.max_ver)
1716                            || DTLS_VERSION_LT(c->max_dtls, s->s3.tmp.min_ver)))
1717         return 1;
1718
1719     return !ssl_security(s, op, c->strength_bits, 0, (void *)c);
1720 }
1721
1722 int tls_use_ticket(SSL *s)
1723 {
1724     if ((s->options & SSL_OP_NO_TICKET))
1725         return 0;
1726     return ssl_security(s, SSL_SECOP_TICKET, 0, 0, NULL);
1727 }
1728
1729 int tls1_set_server_sigalgs(SSL *s)
1730 {
1731     size_t i;
1732
1733     /* Clear any shared signature algorithms */
1734     OPENSSL_free(s->shared_sigalgs);
1735     s->shared_sigalgs = NULL;
1736     s->shared_sigalgslen = 0;
1737     /* Clear certificate validity flags */
1738     for (i = 0; i < SSL_PKEY_NUM; i++)
1739         s->s3.tmp.valid_flags[i] = 0;
1740     /*
1741      * If peer sent no signature algorithms check to see if we support
1742      * the default algorithm for each certificate type
1743      */
1744     if (s->s3.tmp.peer_cert_sigalgs == NULL
1745             && s->s3.tmp.peer_sigalgs == NULL) {
1746         const uint16_t *sent_sigs;
1747         size_t sent_sigslen = tls12_get_psigalgs(s, 1, &sent_sigs);
1748
1749         for (i = 0; i < SSL_PKEY_NUM; i++) {
1750             const SIGALG_LOOKUP *lu = tls1_get_legacy_sigalg(s, i);
1751             size_t j;
1752
1753             if (lu == NULL)
1754                 continue;
1755             /* Check default matches a type we sent */
1756             for (j = 0; j < sent_sigslen; j++) {
1757                 if (lu->sigalg == sent_sigs[j]) {
1758                         s->s3.tmp.valid_flags[i] = CERT_PKEY_SIGN;
1759                         break;
1760                 }
1761             }
1762         }
1763         return 1;
1764     }
1765
1766     if (!tls1_process_sigalgs(s)) {
1767         SSLfatal(s, SSL_AD_INTERNAL_ERROR, ERR_R_INTERNAL_ERROR);
1768         return 0;
1769     }
1770     if (s->shared_sigalgs != NULL)
1771         return 1;
1772
1773     /* Fatal error if no shared signature algorithms */
1774     SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE,
1775              SSL_R_NO_SHARED_SIGNATURE_ALGORITHMS);
1776     return 0;
1777 }
1778
1779 /*-
1780  * Gets the ticket information supplied by the client if any.
1781  *
1782  *   hello: The parsed ClientHello data
1783  *   ret: (output) on return, if a ticket was decrypted, then this is set to
1784  *       point to the resulting session.
1785  */
1786 SSL_TICKET_STATUS tls_get_ticket_from_client(SSL *s, CLIENTHELLO_MSG *hello,
1787                                              SSL_SESSION **ret)
1788 {
1789     size_t size;
1790     RAW_EXTENSION *ticketext;
1791
1792     *ret = NULL;
1793     s->ext.ticket_expected = 0;
1794
1795     /*
1796      * If tickets disabled or not supported by the protocol version
1797      * (e.g. TLSv1.3) behave as if no ticket present to permit stateful
1798      * resumption.
1799      */
1800     if (s->version <= SSL3_VERSION || !tls_use_ticket(s))
1801         return SSL_TICKET_NONE;
1802
1803     ticketext = &hello->pre_proc_exts[TLSEXT_IDX_session_ticket];
1804     if (!ticketext->present)
1805         return SSL_TICKET_NONE;
1806
1807     size = PACKET_remaining(&ticketext->data);
1808
1809     return tls_decrypt_ticket(s, PACKET_data(&ticketext->data), size,
1810                               hello->session_id, hello->session_id_len, ret);
1811 }
1812
1813 /*-
1814  * tls_decrypt_ticket attempts to decrypt a session ticket.
1815  *
1816  * If s->tls_session_secret_cb is set and we're not doing TLSv1.3 then we are
1817  * expecting a pre-shared key ciphersuite, in which case we have no use for
1818  * session tickets and one will never be decrypted, nor will
1819  * s->ext.ticket_expected be set to 1.
1820  *
1821  * Side effects:
1822  *   Sets s->ext.ticket_expected to 1 if the server will have to issue
1823  *   a new session ticket to the client because the client indicated support
1824  *   (and s->tls_session_secret_cb is NULL) but the client either doesn't have
1825  *   a session ticket or we couldn't use the one it gave us, or if
1826  *   s->ctx->ext.ticket_key_cb asked to renew the client's ticket.
1827  *   Otherwise, s->ext.ticket_expected is set to 0.
1828  *
1829  *   etick: points to the body of the session ticket extension.
1830  *   eticklen: the length of the session tickets extension.
1831  *   sess_id: points at the session ID.
1832  *   sesslen: the length of the session ID.
1833  *   psess: (output) on return, if a ticket was decrypted, then this is set to
1834  *       point to the resulting session.
1835  */
1836 SSL_TICKET_STATUS tls_decrypt_ticket(SSL *s, const unsigned char *etick,
1837                                      size_t eticklen, const unsigned char *sess_id,
1838                                      size_t sesslen, SSL_SESSION **psess)
1839 {
1840     SSL_SESSION *sess = NULL;
1841     unsigned char *sdec;
1842     const unsigned char *p;
1843     int slen, renew_ticket = 0, declen;
1844     SSL_TICKET_STATUS ret = SSL_TICKET_FATAL_ERR_OTHER;
1845     size_t mlen;
1846     unsigned char tick_hmac[EVP_MAX_MD_SIZE];
1847     SSL_HMAC *hctx = NULL;
1848     EVP_CIPHER_CTX *ctx = NULL;
1849     SSL_CTX *tctx = s->session_ctx;
1850
1851     if (eticklen == 0) {
1852         /*
1853          * The client will accept a ticket but doesn't currently have
1854          * one (TLSv1.2 and below), or treated as a fatal error in TLSv1.3
1855          */
1856         ret = SSL_TICKET_EMPTY;
1857         goto end;
1858     }
1859     if (!SSL_IS_TLS13(s) && s->ext.session_secret_cb) {
1860         /*
1861          * Indicate that the ticket couldn't be decrypted rather than
1862          * generating the session from ticket now, trigger
1863          * abbreviated handshake based on external mechanism to
1864          * calculate the master secret later.
1865          */
1866         ret = SSL_TICKET_NO_DECRYPT;
1867         goto end;
1868     }
1869
1870     /* Need at least keyname + iv */
1871     if (eticklen < TLSEXT_KEYNAME_LENGTH + EVP_MAX_IV_LENGTH) {
1872         ret = SSL_TICKET_NO_DECRYPT;
1873         goto end;
1874     }
1875
1876     /* Initialize session ticket encryption and HMAC contexts */
1877     hctx = ssl_hmac_new(tctx);
1878     if (hctx == NULL) {
1879         ret = SSL_TICKET_FATAL_ERR_MALLOC;
1880         goto end;
1881     }
1882     ctx = EVP_CIPHER_CTX_new();
1883     if (ctx == NULL) {
1884         ret = SSL_TICKET_FATAL_ERR_MALLOC;
1885         goto end;
1886     }
1887 #ifndef OPENSSL_NO_DEPRECATED_3_0
1888     if (tctx->ext.ticket_key_evp_cb != NULL || tctx->ext.ticket_key_cb != NULL)
1889 #else
1890     if (tctx->ext.ticket_key_evp_cb != NULL)
1891 #endif
1892     {
1893         unsigned char *nctick = (unsigned char *)etick;
1894         int rv = 0;
1895
1896         if (tctx->ext.ticket_key_evp_cb != NULL)
1897             rv = tctx->ext.ticket_key_evp_cb(s, nctick,
1898                                              nctick + TLSEXT_KEYNAME_LENGTH,
1899                                              ctx,
1900                                              ssl_hmac_get0_EVP_MAC_CTX(hctx),
1901                                              0);
1902 #ifndef OPENSSL_NO_DEPRECATED_3_0
1903         else if (tctx->ext.ticket_key_cb != NULL)
1904             /* if 0 is returned, write an empty ticket */
1905             rv = tctx->ext.ticket_key_cb(s, nctick,
1906                                          nctick + TLSEXT_KEYNAME_LENGTH,
1907                                          ctx, ssl_hmac_get0_HMAC_CTX(hctx), 0);
1908 #endif
1909         if (rv < 0) {
1910             ret = SSL_TICKET_FATAL_ERR_OTHER;
1911             goto end;
1912         }
1913         if (rv == 0) {
1914             ret = SSL_TICKET_NO_DECRYPT;
1915             goto end;
1916         }
1917         if (rv == 2)
1918             renew_ticket = 1;
1919     } else {
1920         EVP_CIPHER *aes256cbc = NULL;
1921
1922         /* Check key name matches */
1923         if (memcmp(etick, tctx->ext.tick_key_name,
1924                    TLSEXT_KEYNAME_LENGTH) != 0) {
1925             ret = SSL_TICKET_NO_DECRYPT;
1926             goto end;
1927         }
1928
1929         aes256cbc = EVP_CIPHER_fetch(s->ctx->libctx, "AES-256-CBC",
1930                                      s->ctx->propq);
1931         if (aes256cbc == NULL
1932             || ssl_hmac_init(hctx, tctx->ext.secure->tick_hmac_key,
1933                              sizeof(tctx->ext.secure->tick_hmac_key),
1934                              "SHA256") <= 0
1935             || EVP_DecryptInit_ex(ctx, aes256cbc, NULL,
1936                                   tctx->ext.secure->tick_aes_key,
1937                                   etick + TLSEXT_KEYNAME_LENGTH) <= 0) {
1938             EVP_CIPHER_free(aes256cbc);
1939             ret = SSL_TICKET_FATAL_ERR_OTHER;
1940             goto end;
1941         }
1942         EVP_CIPHER_free(aes256cbc);
1943         if (SSL_IS_TLS13(s))
1944             renew_ticket = 1;
1945     }
1946     /*
1947      * Attempt to process session ticket, first conduct sanity and integrity
1948      * checks on ticket.
1949      */
1950     mlen = ssl_hmac_size(hctx);
1951     if (mlen == 0) {
1952         ret = SSL_TICKET_FATAL_ERR_OTHER;
1953         goto end;
1954     }
1955
1956     /* Sanity check ticket length: must exceed keyname + IV + HMAC */
1957     if (eticklen <=
1958         TLSEXT_KEYNAME_LENGTH + EVP_CIPHER_CTX_get_iv_length(ctx) + mlen) {
1959         ret = SSL_TICKET_NO_DECRYPT;
1960         goto end;
1961     }
1962     eticklen -= mlen;
1963     /* Check HMAC of encrypted ticket */
1964     if (ssl_hmac_update(hctx, etick, eticklen) <= 0
1965         || ssl_hmac_final(hctx, tick_hmac, NULL, sizeof(tick_hmac)) <= 0) {
1966         ret = SSL_TICKET_FATAL_ERR_OTHER;
1967         goto end;
1968     }
1969
1970     if (CRYPTO_memcmp(tick_hmac, etick + eticklen, mlen)) {
1971         ret = SSL_TICKET_NO_DECRYPT;
1972         goto end;
1973     }
1974     /* Attempt to decrypt session data */
1975     /* Move p after IV to start of encrypted ticket, update length */
1976     p = etick + TLSEXT_KEYNAME_LENGTH + EVP_CIPHER_CTX_get_iv_length(ctx);
1977     eticklen -= TLSEXT_KEYNAME_LENGTH + EVP_CIPHER_CTX_get_iv_length(ctx);
1978     sdec = OPENSSL_malloc(eticklen);
1979     if (sdec == NULL || EVP_DecryptUpdate(ctx, sdec, &slen, p,
1980                                           (int)eticklen) <= 0) {
1981         OPENSSL_free(sdec);
1982         ret = SSL_TICKET_FATAL_ERR_OTHER;
1983         goto end;
1984     }
1985     if (EVP_DecryptFinal(ctx, sdec + slen, &declen) <= 0) {
1986         OPENSSL_free(sdec);
1987         ret = SSL_TICKET_NO_DECRYPT;
1988         goto end;
1989     }
1990     slen += declen;
1991     p = sdec;
1992
1993     sess = d2i_SSL_SESSION(NULL, &p, slen);
1994     slen -= p - sdec;
1995     OPENSSL_free(sdec);
1996     if (sess) {
1997         /* Some additional consistency checks */
1998         if (slen != 0) {
1999             SSL_SESSION_free(sess);
2000             sess = NULL;
2001             ret = SSL_TICKET_NO_DECRYPT;
2002             goto end;
2003         }
2004         /*
2005          * The session ID, if non-empty, is used by some clients to detect
2006          * that the ticket has been accepted. So we copy it to the session
2007          * structure. If it is empty set length to zero as required by
2008          * standard.
2009          */
2010         if (sesslen) {
2011             memcpy(sess->session_id, sess_id, sesslen);
2012             sess->session_id_length = sesslen;
2013         }
2014         if (renew_ticket)
2015             ret = SSL_TICKET_SUCCESS_RENEW;
2016         else
2017             ret = SSL_TICKET_SUCCESS;
2018         goto end;
2019     }
2020     ERR_clear_error();
2021     /*
2022      * For session parse failure, indicate that we need to send a new ticket.
2023      */
2024     ret = SSL_TICKET_NO_DECRYPT;
2025
2026  end:
2027     EVP_CIPHER_CTX_free(ctx);
2028     ssl_hmac_free(hctx);
2029
2030     /*
2031      * If set, the decrypt_ticket_cb() is called unless a fatal error was
2032      * detected above. The callback is responsible for checking |ret| before it
2033      * performs any action
2034      */
2035     if (s->session_ctx->decrypt_ticket_cb != NULL
2036             && (ret == SSL_TICKET_EMPTY
2037                 || ret == SSL_TICKET_NO_DECRYPT
2038                 || ret == SSL_TICKET_SUCCESS
2039                 || ret == SSL_TICKET_SUCCESS_RENEW)) {
2040         size_t keyname_len = eticklen;
2041         int retcb;
2042
2043         if (keyname_len > TLSEXT_KEYNAME_LENGTH)
2044             keyname_len = TLSEXT_KEYNAME_LENGTH;
2045         retcb = s->session_ctx->decrypt_ticket_cb(s, sess, etick, keyname_len,
2046                                                   ret,
2047                                                   s->session_ctx->ticket_cb_data);
2048         switch (retcb) {
2049         case SSL_TICKET_RETURN_ABORT:
2050             ret = SSL_TICKET_FATAL_ERR_OTHER;
2051             break;
2052
2053         case SSL_TICKET_RETURN_IGNORE:
2054             ret = SSL_TICKET_NONE;
2055             SSL_SESSION_free(sess);
2056             sess = NULL;
2057             break;
2058
2059         case SSL_TICKET_RETURN_IGNORE_RENEW:
2060             if (ret != SSL_TICKET_EMPTY && ret != SSL_TICKET_NO_DECRYPT)
2061                 ret = SSL_TICKET_NO_DECRYPT;
2062             /* else the value of |ret| will already do the right thing */
2063             SSL_SESSION_free(sess);
2064             sess = NULL;
2065             break;
2066
2067         case SSL_TICKET_RETURN_USE:
2068         case SSL_TICKET_RETURN_USE_RENEW:
2069             if (ret != SSL_TICKET_SUCCESS
2070                     && ret != SSL_TICKET_SUCCESS_RENEW)
2071                 ret = SSL_TICKET_FATAL_ERR_OTHER;
2072             else if (retcb == SSL_TICKET_RETURN_USE)
2073                 ret = SSL_TICKET_SUCCESS;
2074             else
2075                 ret = SSL_TICKET_SUCCESS_RENEW;
2076             break;
2077
2078         default:
2079             ret = SSL_TICKET_FATAL_ERR_OTHER;
2080         }
2081     }
2082
2083     if (s->ext.session_secret_cb == NULL || SSL_IS_TLS13(s)) {
2084         switch (ret) {
2085         case SSL_TICKET_NO_DECRYPT:
2086         case SSL_TICKET_SUCCESS_RENEW:
2087         case SSL_TICKET_EMPTY:
2088             s->ext.ticket_expected = 1;
2089         }
2090     }
2091
2092     *psess = sess;
2093
2094     return ret;
2095 }
2096
2097 /* Check to see if a signature algorithm is allowed */
2098 static int tls12_sigalg_allowed(const SSL *s, int op, const SIGALG_LOOKUP *lu)
2099 {
2100     unsigned char sigalgstr[2];
2101     int secbits;
2102
2103     if (lu == NULL || !lu->enabled)
2104         return 0;
2105     /* DSA is not allowed in TLS 1.3 */
2106     if (SSL_IS_TLS13(s) && lu->sig == EVP_PKEY_DSA)
2107         return 0;
2108     /*
2109      * At some point we should fully axe DSA/etc. in ClientHello as per TLS 1.3
2110      * spec
2111      */
2112     if (!s->server && !SSL_IS_DTLS(s) && s->s3.tmp.min_ver >= TLS1_3_VERSION
2113         && (lu->sig == EVP_PKEY_DSA || lu->hash_idx == SSL_MD_SHA1_IDX
2114             || lu->hash_idx == SSL_MD_MD5_IDX
2115             || lu->hash_idx == SSL_MD_SHA224_IDX))
2116         return 0;
2117
2118     /* See if public key algorithm allowed */
2119     if (ssl_cert_is_disabled(s->ctx, lu->sig_idx))
2120         return 0;
2121
2122     if (lu->sig == NID_id_GostR3410_2012_256
2123             || lu->sig == NID_id_GostR3410_2012_512
2124             || lu->sig == NID_id_GostR3410_2001) {
2125         /* We never allow GOST sig algs on the server with TLSv1.3 */
2126         if (s->server && SSL_IS_TLS13(s))
2127             return 0;
2128         if (!s->server
2129                 && s->method->version == TLS_ANY_VERSION
2130                 && s->s3.tmp.max_ver >= TLS1_3_VERSION) {
2131             int i, num;
2132             STACK_OF(SSL_CIPHER) *sk;
2133
2134             /*
2135              * We're a client that could negotiate TLSv1.3. We only allow GOST
2136              * sig algs if we could negotiate TLSv1.2 or below and we have GOST
2137              * ciphersuites enabled.
2138              */
2139
2140             if (s->s3.tmp.min_ver >= TLS1_3_VERSION)
2141                 return 0;
2142
2143             sk = SSL_get_ciphers(s);
2144             num = sk != NULL ? sk_SSL_CIPHER_num(sk) : 0;
2145             for (i = 0; i < num; i++) {
2146                 const SSL_CIPHER *c;
2147
2148                 c = sk_SSL_CIPHER_value(sk, i);
2149                 /* Skip disabled ciphers */
2150                 if (ssl_cipher_disabled(s, c, SSL_SECOP_CIPHER_SUPPORTED, 0))
2151                     continue;
2152
2153                 if ((c->algorithm_mkey & (SSL_kGOST | SSL_kGOST18)) != 0)
2154                     break;
2155             }
2156             if (i == num)
2157                 return 0;
2158         }
2159     }
2160
2161     /* Finally see if security callback allows it */
2162     secbits = sigalg_security_bits(s->ctx, lu);
2163     sigalgstr[0] = (lu->sigalg >> 8) & 0xff;
2164     sigalgstr[1] = lu->sigalg & 0xff;
2165     return ssl_security(s, op, secbits, lu->hash, (void *)sigalgstr);
2166 }
2167
2168 /*
2169  * Get a mask of disabled public key algorithms based on supported signature
2170  * algorithms. For example if no signature algorithm supports RSA then RSA is
2171  * disabled.
2172  */
2173
2174 void ssl_set_sig_mask(uint32_t *pmask_a, SSL *s, int op)
2175 {
2176     const uint16_t *sigalgs;
2177     size_t i, sigalgslen;
2178     uint32_t disabled_mask = SSL_aRSA | SSL_aDSS | SSL_aECDSA;
2179     /*
2180      * Go through all signature algorithms seeing if we support any
2181      * in disabled_mask.
2182      */
2183     sigalgslen = tls12_get_psigalgs(s, 1, &sigalgs);
2184     for (i = 0; i < sigalgslen; i++, sigalgs++) {
2185         const SIGALG_LOOKUP *lu = tls1_lookup_sigalg(s, *sigalgs);
2186         const SSL_CERT_LOOKUP *clu;
2187
2188         if (lu == NULL)
2189             continue;
2190
2191         clu = ssl_cert_lookup_by_idx(lu->sig_idx);
2192         if (clu == NULL)
2193                 continue;
2194
2195         /* If algorithm is disabled see if we can enable it */
2196         if ((clu->amask & disabled_mask) != 0
2197                 && tls12_sigalg_allowed(s, op, lu))
2198             disabled_mask &= ~clu->amask;
2199     }
2200     *pmask_a |= disabled_mask;
2201 }
2202
2203 int tls12_copy_sigalgs(SSL *s, WPACKET *pkt,
2204                        const uint16_t *psig, size_t psiglen)
2205 {
2206     size_t i;
2207     int rv = 0;
2208
2209     for (i = 0; i < psiglen; i++, psig++) {
2210         const SIGALG_LOOKUP *lu = tls1_lookup_sigalg(s, *psig);
2211
2212         if (lu == NULL
2213                 || !tls12_sigalg_allowed(s, SSL_SECOP_SIGALG_SUPPORTED, lu))
2214             continue;
2215         if (!WPACKET_put_bytes_u16(pkt, *psig))
2216             return 0;
2217         /*
2218          * If TLS 1.3 must have at least one valid TLS 1.3 message
2219          * signing algorithm: i.e. neither RSA nor SHA1/SHA224
2220          */
2221         if (rv == 0 && (!SSL_IS_TLS13(s)
2222             || (lu->sig != EVP_PKEY_RSA
2223                 && lu->hash != NID_sha1
2224                 && lu->hash != NID_sha224)))
2225             rv = 1;
2226     }
2227     if (rv == 0)
2228         ERR_raise(ERR_LIB_SSL, SSL_R_NO_SUITABLE_SIGNATURE_ALGORITHM);
2229     return rv;
2230 }
2231
2232 /* Given preference and allowed sigalgs set shared sigalgs */
2233 static size_t tls12_shared_sigalgs(SSL *s, const SIGALG_LOOKUP **shsig,
2234                                    const uint16_t *pref, size_t preflen,
2235                                    const uint16_t *allow, size_t allowlen)
2236 {
2237     const uint16_t *ptmp, *atmp;
2238     size_t i, j, nmatch = 0;
2239     for (i = 0, ptmp = pref; i < preflen; i++, ptmp++) {
2240         const SIGALG_LOOKUP *lu = tls1_lookup_sigalg(s, *ptmp);
2241
2242         /* Skip disabled hashes or signature algorithms */
2243         if (lu == NULL
2244                 || !tls12_sigalg_allowed(s, SSL_SECOP_SIGALG_SHARED, lu))
2245             continue;
2246         for (j = 0, atmp = allow; j < allowlen; j++, atmp++) {
2247             if (*ptmp == *atmp) {
2248                 nmatch++;
2249                 if (shsig)
2250                     *shsig++ = lu;
2251                 break;
2252             }
2253         }
2254     }
2255     return nmatch;
2256 }
2257
2258 /* Set shared signature algorithms for SSL structures */
2259 static int tls1_set_shared_sigalgs(SSL *s)
2260 {
2261     const uint16_t *pref, *allow, *conf;
2262     size_t preflen, allowlen, conflen;
2263     size_t nmatch;
2264     const SIGALG_LOOKUP **salgs = NULL;
2265     CERT *c = s->cert;
2266     unsigned int is_suiteb = tls1_suiteb(s);
2267
2268     OPENSSL_free(s->shared_sigalgs);
2269     s->shared_sigalgs = NULL;
2270     s->shared_sigalgslen = 0;
2271     /* If client use client signature algorithms if not NULL */
2272     if (!s->server && c->client_sigalgs && !is_suiteb) {
2273         conf = c->client_sigalgs;
2274         conflen = c->client_sigalgslen;
2275     } else if (c->conf_sigalgs && !is_suiteb) {
2276         conf = c->conf_sigalgs;
2277         conflen = c->conf_sigalgslen;
2278     } else
2279         conflen = tls12_get_psigalgs(s, 0, &conf);
2280     if (s->options & SSL_OP_CIPHER_SERVER_PREFERENCE || is_suiteb) {
2281         pref = conf;
2282         preflen = conflen;
2283         allow = s->s3.tmp.peer_sigalgs;
2284         allowlen = s->s3.tmp.peer_sigalgslen;
2285     } else {
2286         allow = conf;
2287         allowlen = conflen;
2288         pref = s->s3.tmp.peer_sigalgs;
2289         preflen = s->s3.tmp.peer_sigalgslen;
2290     }
2291     nmatch = tls12_shared_sigalgs(s, NULL, pref, preflen, allow, allowlen);
2292     if (nmatch) {
2293         if ((salgs = OPENSSL_malloc(nmatch * sizeof(*salgs))) == NULL) {
2294             ERR_raise(ERR_LIB_SSL, ERR_R_MALLOC_FAILURE);
2295             return 0;
2296         }
2297         nmatch = tls12_shared_sigalgs(s, salgs, pref, preflen, allow, allowlen);
2298     } else {
2299         salgs = NULL;
2300     }
2301     s->shared_sigalgs = salgs;
2302     s->shared_sigalgslen = nmatch;
2303     return 1;
2304 }
2305
2306 int tls1_save_u16(PACKET *pkt, uint16_t **pdest, size_t *pdestlen)
2307 {
2308     unsigned int stmp;
2309     size_t size, i;
2310     uint16_t *buf;
2311
2312     size = PACKET_remaining(pkt);
2313
2314     /* Invalid data length */
2315     if (size == 0 || (size & 1) != 0)
2316         return 0;
2317
2318     size >>= 1;
2319
2320     if ((buf = OPENSSL_malloc(size * sizeof(*buf))) == NULL)  {
2321         ERR_raise(ERR_LIB_SSL, ERR_R_MALLOC_FAILURE);
2322         return 0;
2323     }
2324     for (i = 0; i < size && PACKET_get_net_2(pkt, &stmp); i++)
2325         buf[i] = stmp;
2326
2327     if (i != size) {
2328         OPENSSL_free(buf);
2329         return 0;
2330     }
2331
2332     OPENSSL_free(*pdest);
2333     *pdest = buf;
2334     *pdestlen = size;
2335
2336     return 1;
2337 }
2338
2339 int tls1_save_sigalgs(SSL *s, PACKET *pkt, int cert)
2340 {
2341     /* Extension ignored for inappropriate versions */
2342     if (!SSL_USE_SIGALGS(s))
2343         return 1;
2344     /* Should never happen */
2345     if (s->cert == NULL)
2346         return 0;
2347
2348     if (cert)
2349         return tls1_save_u16(pkt, &s->s3.tmp.peer_cert_sigalgs,
2350                              &s->s3.tmp.peer_cert_sigalgslen);
2351     else
2352         return tls1_save_u16(pkt, &s->s3.tmp.peer_sigalgs,
2353                              &s->s3.tmp.peer_sigalgslen);
2354
2355 }
2356
2357 /* Set preferred digest for each key type */
2358
2359 int tls1_process_sigalgs(SSL *s)
2360 {
2361     size_t i;
2362     uint32_t *pvalid = s->s3.tmp.valid_flags;
2363
2364     if (!tls1_set_shared_sigalgs(s))
2365         return 0;
2366
2367     for (i = 0; i < SSL_PKEY_NUM; i++)
2368         pvalid[i] = 0;
2369
2370     for (i = 0; i < s->shared_sigalgslen; i++) {
2371         const SIGALG_LOOKUP *sigptr = s->shared_sigalgs[i];
2372         int idx = sigptr->sig_idx;
2373
2374         /* Ignore PKCS1 based sig algs in TLSv1.3 */
2375         if (SSL_IS_TLS13(s) && sigptr->sig == EVP_PKEY_RSA)
2376             continue;
2377         /* If not disabled indicate we can explicitly sign */
2378         if (pvalid[idx] == 0 && !ssl_cert_is_disabled(s->ctx, idx))
2379             pvalid[idx] = CERT_PKEY_EXPLICIT_SIGN | CERT_PKEY_SIGN;
2380     }
2381     return 1;
2382 }
2383
2384 int SSL_get_sigalgs(SSL *s, int idx,
2385                     int *psign, int *phash, int *psignhash,
2386                     unsigned char *rsig, unsigned char *rhash)
2387 {
2388     uint16_t *psig = s->s3.tmp.peer_sigalgs;
2389     size_t numsigalgs = s->s3.tmp.peer_sigalgslen;
2390     if (psig == NULL || numsigalgs > INT_MAX)
2391         return 0;
2392     if (idx >= 0) {
2393         const SIGALG_LOOKUP *lu;
2394
2395         if (idx >= (int)numsigalgs)
2396             return 0;
2397         psig += idx;
2398         if (rhash != NULL)
2399             *rhash = (unsigned char)((*psig >> 8) & 0xff);
2400         if (rsig != NULL)
2401             *rsig = (unsigned char)(*psig & 0xff);
2402         lu = tls1_lookup_sigalg(s, *psig);
2403         if (psign != NULL)
2404             *psign = lu != NULL ? lu->sig : NID_undef;
2405         if (phash != NULL)
2406             *phash = lu != NULL ? lu->hash : NID_undef;
2407         if (psignhash != NULL)
2408             *psignhash = lu != NULL ? lu->sigandhash : NID_undef;
2409     }
2410     return (int)numsigalgs;
2411 }
2412
2413 int SSL_get_shared_sigalgs(SSL *s, int idx,
2414                            int *psign, int *phash, int *psignhash,
2415                            unsigned char *rsig, unsigned char *rhash)
2416 {
2417     const SIGALG_LOOKUP *shsigalgs;
2418     if (s->shared_sigalgs == NULL
2419         || idx < 0
2420         || idx >= (int)s->shared_sigalgslen
2421         || s->shared_sigalgslen > INT_MAX)
2422         return 0;
2423     shsigalgs = s->shared_sigalgs[idx];
2424     if (phash != NULL)
2425         *phash = shsigalgs->hash;
2426     if (psign != NULL)
2427         *psign = shsigalgs->sig;
2428     if (psignhash != NULL)
2429         *psignhash = shsigalgs->sigandhash;
2430     if (rsig != NULL)
2431         *rsig = (unsigned char)(shsigalgs->sigalg & 0xff);
2432     if (rhash != NULL)
2433         *rhash = (unsigned char)((shsigalgs->sigalg >> 8) & 0xff);
2434     return (int)s->shared_sigalgslen;
2435 }
2436
2437 /* Maximum possible number of unique entries in sigalgs array */
2438 #define TLS_MAX_SIGALGCNT (OSSL_NELEM(sigalg_lookup_tbl) * 2)
2439
2440 typedef struct {
2441     size_t sigalgcnt;
2442     /* TLSEXT_SIGALG_XXX values */
2443     uint16_t sigalgs[TLS_MAX_SIGALGCNT];
2444 } sig_cb_st;
2445
2446 static void get_sigorhash(int *psig, int *phash, const char *str)
2447 {
2448     if (strcmp(str, "RSA") == 0) {
2449         *psig = EVP_PKEY_RSA;
2450     } else if (strcmp(str, "RSA-PSS") == 0 || strcmp(str, "PSS") == 0) {
2451         *psig = EVP_PKEY_RSA_PSS;
2452     } else if (strcmp(str, "DSA") == 0) {
2453         *psig = EVP_PKEY_DSA;
2454     } else if (strcmp(str, "ECDSA") == 0) {
2455         *psig = EVP_PKEY_EC;
2456     } else {
2457         *phash = OBJ_sn2nid(str);
2458         if (*phash == NID_undef)
2459             *phash = OBJ_ln2nid(str);
2460     }
2461 }
2462 /* Maximum length of a signature algorithm string component */
2463 #define TLS_MAX_SIGSTRING_LEN   40
2464
2465 static int sig_cb(const char *elem, int len, void *arg)
2466 {
2467     sig_cb_st *sarg = arg;
2468     size_t i;
2469     const SIGALG_LOOKUP *s;
2470     char etmp[TLS_MAX_SIGSTRING_LEN], *p;
2471     int sig_alg = NID_undef, hash_alg = NID_undef;
2472     if (elem == NULL)
2473         return 0;
2474     if (sarg->sigalgcnt == TLS_MAX_SIGALGCNT)
2475         return 0;
2476     if (len > (int)(sizeof(etmp) - 1))
2477         return 0;
2478     memcpy(etmp, elem, len);
2479     etmp[len] = 0;
2480     p = strchr(etmp, '+');
2481     /*
2482      * We only allow SignatureSchemes listed in the sigalg_lookup_tbl;
2483      * if there's no '+' in the provided name, look for the new-style combined
2484      * name.  If not, match both sig+hash to find the needed SIGALG_LOOKUP.
2485      * Just sig+hash is not unique since TLS 1.3 adds rsa_pss_pss_* and
2486      * rsa_pss_rsae_* that differ only by public key OID; in such cases
2487      * we will pick the _rsae_ variant, by virtue of them appearing earlier
2488      * in the table.
2489      */
2490     if (p == NULL) {
2491         for (i = 0, s = sigalg_lookup_tbl; i < OSSL_NELEM(sigalg_lookup_tbl);
2492              i++, s++) {
2493             if (s->name != NULL && strcmp(etmp, s->name) == 0) {
2494                 sarg->sigalgs[sarg->sigalgcnt++] = s->sigalg;
2495                 break;
2496             }
2497         }
2498         if (i == OSSL_NELEM(sigalg_lookup_tbl))
2499             return 0;
2500     } else {
2501         *p = 0;
2502         p++;
2503         if (*p == 0)
2504             return 0;
2505         get_sigorhash(&sig_alg, &hash_alg, etmp);
2506         get_sigorhash(&sig_alg, &hash_alg, p);
2507         if (sig_alg == NID_undef || hash_alg == NID_undef)
2508             return 0;
2509         for (i = 0, s = sigalg_lookup_tbl; i < OSSL_NELEM(sigalg_lookup_tbl);
2510              i++, s++) {
2511             if (s->hash == hash_alg && s->sig == sig_alg) {
2512                 sarg->sigalgs[sarg->sigalgcnt++] = s->sigalg;
2513                 break;
2514             }
2515         }
2516         if (i == OSSL_NELEM(sigalg_lookup_tbl))
2517             return 0;
2518     }
2519
2520     /* Reject duplicates */
2521     for (i = 0; i < sarg->sigalgcnt - 1; i++) {
2522         if (sarg->sigalgs[i] == sarg->sigalgs[sarg->sigalgcnt - 1]) {
2523             sarg->sigalgcnt--;
2524             return 0;
2525         }
2526     }
2527     return 1;
2528 }
2529
2530 /*
2531  * Set supported signature algorithms based on a colon separated list of the
2532  * form sig+hash e.g. RSA+SHA512:DSA+SHA512
2533  */
2534 int tls1_set_sigalgs_list(CERT *c, const char *str, int client)
2535 {
2536     sig_cb_st sig;
2537     sig.sigalgcnt = 0;
2538     if (!CONF_parse_list(str, ':', 1, sig_cb, &sig))
2539         return 0;
2540     if (c == NULL)
2541         return 1;
2542     return tls1_set_raw_sigalgs(c, sig.sigalgs, sig.sigalgcnt, client);
2543 }
2544
2545 int tls1_set_raw_sigalgs(CERT *c, const uint16_t *psigs, size_t salglen,
2546                      int client)
2547 {
2548     uint16_t *sigalgs;
2549
2550     if ((sigalgs = OPENSSL_malloc(salglen * sizeof(*sigalgs))) == NULL) {
2551         ERR_raise(ERR_LIB_SSL, ERR_R_MALLOC_FAILURE);
2552         return 0;
2553     }
2554     memcpy(sigalgs, psigs, salglen * sizeof(*sigalgs));
2555
2556     if (client) {
2557         OPENSSL_free(c->client_sigalgs);
2558         c->client_sigalgs = sigalgs;
2559         c->client_sigalgslen = salglen;
2560     } else {
2561         OPENSSL_free(c->conf_sigalgs);
2562         c->conf_sigalgs = sigalgs;
2563         c->conf_sigalgslen = salglen;
2564     }
2565
2566     return 1;
2567 }
2568
2569 int tls1_set_sigalgs(CERT *c, const int *psig_nids, size_t salglen, int client)
2570 {
2571     uint16_t *sigalgs, *sptr;
2572     size_t i;
2573
2574     if (salglen & 1)
2575         return 0;
2576     if ((sigalgs = OPENSSL_malloc((salglen / 2) * sizeof(*sigalgs))) == NULL) {
2577         ERR_raise(ERR_LIB_SSL, ERR_R_MALLOC_FAILURE);
2578         return 0;
2579     }
2580     for (i = 0, sptr = sigalgs; i < salglen; i += 2) {
2581         size_t j;
2582         const SIGALG_LOOKUP *curr;
2583         int md_id = *psig_nids++;
2584         int sig_id = *psig_nids++;
2585
2586         for (j = 0, curr = sigalg_lookup_tbl; j < OSSL_NELEM(sigalg_lookup_tbl);
2587              j++, curr++) {
2588             if (curr->hash == md_id && curr->sig == sig_id) {
2589                 *sptr++ = curr->sigalg;
2590                 break;
2591             }
2592         }
2593
2594         if (j == OSSL_NELEM(sigalg_lookup_tbl))
2595             goto err;
2596     }
2597
2598     if (client) {
2599         OPENSSL_free(c->client_sigalgs);
2600         c->client_sigalgs = sigalgs;
2601         c->client_sigalgslen = salglen / 2;
2602     } else {
2603         OPENSSL_free(c->conf_sigalgs);
2604         c->conf_sigalgs = sigalgs;
2605         c->conf_sigalgslen = salglen / 2;
2606     }
2607
2608     return 1;
2609
2610  err:
2611     OPENSSL_free(sigalgs);
2612     return 0;
2613 }
2614
2615 static int tls1_check_sig_alg(SSL *s, X509 *x, int default_nid)
2616 {
2617     int sig_nid, use_pc_sigalgs = 0;
2618     size_t i;
2619     const SIGALG_LOOKUP *sigalg;
2620     size_t sigalgslen;
2621     if (default_nid == -1)
2622         return 1;
2623     sig_nid = X509_get_signature_nid(x);
2624     if (default_nid)
2625         return sig_nid == default_nid ? 1 : 0;
2626
2627     if (SSL_IS_TLS13(s) && s->s3.tmp.peer_cert_sigalgs != NULL) {
2628         /*
2629          * If we're in TLSv1.3 then we only get here if we're checking the
2630          * chain. If the peer has specified peer_cert_sigalgs then we use them
2631          * otherwise we default to normal sigalgs.
2632          */
2633         sigalgslen = s->s3.tmp.peer_cert_sigalgslen;
2634         use_pc_sigalgs = 1;
2635     } else {
2636         sigalgslen = s->shared_sigalgslen;
2637     }
2638     for (i = 0; i < sigalgslen; i++) {
2639         sigalg = use_pc_sigalgs
2640                  ? tls1_lookup_sigalg(s, s->s3.tmp.peer_cert_sigalgs[i])
2641                  : s->shared_sigalgs[i];
2642         if (sigalg != NULL && sig_nid == sigalg->sigandhash)
2643             return 1;
2644     }
2645     return 0;
2646 }
2647
2648 /* Check to see if a certificate issuer name matches list of CA names */
2649 static int ssl_check_ca_name(STACK_OF(X509_NAME) *names, X509 *x)
2650 {
2651     const X509_NAME *nm;
2652     int i;
2653     nm = X509_get_issuer_name(x);
2654     for (i = 0; i < sk_X509_NAME_num(names); i++) {
2655         if (!X509_NAME_cmp(nm, sk_X509_NAME_value(names, i)))
2656             return 1;
2657     }
2658     return 0;
2659 }
2660
2661 /*
2662  * Check certificate chain is consistent with TLS extensions and is usable by
2663  * server. This servers two purposes: it allows users to check chains before
2664  * passing them to the server and it allows the server to check chains before
2665  * attempting to use them.
2666  */
2667
2668 /* Flags which need to be set for a certificate when strict mode not set */
2669
2670 #define CERT_PKEY_VALID_FLAGS \
2671         (CERT_PKEY_EE_SIGNATURE|CERT_PKEY_EE_PARAM)
2672 /* Strict mode flags */
2673 #define CERT_PKEY_STRICT_FLAGS \
2674          (CERT_PKEY_VALID_FLAGS|CERT_PKEY_CA_SIGNATURE|CERT_PKEY_CA_PARAM \
2675          | CERT_PKEY_ISSUER_NAME|CERT_PKEY_CERT_TYPE)
2676
2677 int tls1_check_chain(SSL *s, X509 *x, EVP_PKEY *pk, STACK_OF(X509) *chain,
2678                      int idx)
2679 {
2680     int i;
2681     int rv = 0;
2682     int check_flags = 0, strict_mode;
2683     CERT_PKEY *cpk = NULL;
2684     CERT *c = s->cert;
2685     uint32_t *pvalid;
2686     unsigned int suiteb_flags = tls1_suiteb(s);
2687     /* idx == -1 means checking server chains */
2688     if (idx != -1) {
2689         /* idx == -2 means checking client certificate chains */
2690         if (idx == -2) {
2691             cpk = c->key;
2692             idx = (int)(cpk - c->pkeys);
2693         } else
2694             cpk = c->pkeys + idx;
2695         pvalid = s->s3.tmp.valid_flags + idx;
2696         x = cpk->x509;
2697         pk = cpk->privatekey;
2698         chain = cpk->chain;
2699         strict_mode = c->cert_flags & SSL_CERT_FLAGS_CHECK_TLS_STRICT;
2700         /* If no cert or key, forget it */
2701         if (!x || !pk)
2702             goto end;
2703     } else {
2704         size_t certidx;
2705
2706         if (!x || !pk)
2707             return 0;
2708
2709         if (ssl_cert_lookup_by_pkey(pk, &certidx) == NULL)
2710             return 0;
2711         idx = certidx;
2712         pvalid = s->s3.tmp.valid_flags + idx;
2713
2714         if (c->cert_flags & SSL_CERT_FLAGS_CHECK_TLS_STRICT)
2715             check_flags = CERT_PKEY_STRICT_FLAGS;
2716         else
2717             check_flags = CERT_PKEY_VALID_FLAGS;
2718         strict_mode = 1;
2719     }
2720
2721     if (suiteb_flags) {
2722         int ok;
2723         if (check_flags)
2724             check_flags |= CERT_PKEY_SUITEB;
2725         ok = X509_chain_check_suiteb(NULL, x, chain, suiteb_flags);
2726         if (ok == X509_V_OK)
2727             rv |= CERT_PKEY_SUITEB;
2728         else if (!check_flags)
2729             goto end;
2730     }
2731
2732     /*
2733      * Check all signature algorithms are consistent with signature
2734      * algorithms extension if TLS 1.2 or later and strict mode.
2735      */
2736     if (TLS1_get_version(s) >= TLS1_2_VERSION && strict_mode) {
2737         int default_nid;
2738         int rsign = 0;
2739         if (s->s3.tmp.peer_cert_sigalgs != NULL
2740                 || s->s3.tmp.peer_sigalgs != NULL) {
2741             default_nid = 0;
2742         /* If no sigalgs extension use defaults from RFC5246 */
2743         } else {
2744             switch (idx) {
2745             case SSL_PKEY_RSA:
2746                 rsign = EVP_PKEY_RSA;
2747                 default_nid = NID_sha1WithRSAEncryption;
2748                 break;
2749
2750             case SSL_PKEY_DSA_SIGN:
2751                 rsign = EVP_PKEY_DSA;
2752                 default_nid = NID_dsaWithSHA1;
2753                 break;
2754
2755             case SSL_PKEY_ECC:
2756                 rsign = EVP_PKEY_EC;
2757                 default_nid = NID_ecdsa_with_SHA1;
2758                 break;
2759
2760             case SSL_PKEY_GOST01:
2761                 rsign = NID_id_GostR3410_2001;
2762                 default_nid = NID_id_GostR3411_94_with_GostR3410_2001;
2763                 break;
2764
2765             case SSL_PKEY_GOST12_256:
2766                 rsign = NID_id_GostR3410_2012_256;
2767                 default_nid = NID_id_tc26_signwithdigest_gost3410_2012_256;
2768                 break;
2769
2770             case SSL_PKEY_GOST12_512:
2771                 rsign = NID_id_GostR3410_2012_512;
2772                 default_nid = NID_id_tc26_signwithdigest_gost3410_2012_512;
2773                 break;
2774
2775             default:
2776                 default_nid = -1;
2777                 break;
2778             }
2779         }
2780         /*
2781          * If peer sent no signature algorithms extension and we have set
2782          * preferred signature algorithms check we support sha1.
2783          */
2784         if (default_nid > 0 && c->conf_sigalgs) {
2785             size_t j;
2786             const uint16_t *p = c->conf_sigalgs;
2787             for (j = 0; j < c->conf_sigalgslen; j++, p++) {
2788                 const SIGALG_LOOKUP *lu = tls1_lookup_sigalg(s, *p);
2789
2790                 if (lu != NULL && lu->hash == NID_sha1 && lu->sig == rsign)
2791                     break;
2792             }
2793             if (j == c->conf_sigalgslen) {
2794                 if (check_flags)
2795                     goto skip_sigs;
2796                 else
2797                     goto end;
2798             }
2799         }
2800         /* Check signature algorithm of each cert in chain */
2801         if (SSL_IS_TLS13(s)) {
2802             /*
2803              * We only get here if the application has called SSL_check_chain(),
2804              * so check_flags is always set.
2805              */
2806             if (find_sig_alg(s, x, pk) != NULL)
2807                 rv |= CERT_PKEY_EE_SIGNATURE;
2808         } else if (!tls1_check_sig_alg(s, x, default_nid)) {
2809             if (!check_flags)
2810                 goto end;
2811         } else
2812             rv |= CERT_PKEY_EE_SIGNATURE;
2813         rv |= CERT_PKEY_CA_SIGNATURE;
2814         for (i = 0; i < sk_X509_num(chain); i++) {
2815             if (!tls1_check_sig_alg(s, sk_X509_value(chain, i), default_nid)) {
2816                 if (check_flags) {
2817                     rv &= ~CERT_PKEY_CA_SIGNATURE;
2818                     break;
2819                 } else
2820                     goto end;
2821             }
2822         }
2823     }
2824     /* Else not TLS 1.2, so mark EE and CA signing algorithms OK */
2825     else if (check_flags)
2826         rv |= CERT_PKEY_EE_SIGNATURE | CERT_PKEY_CA_SIGNATURE;
2827  skip_sigs:
2828     /* Check cert parameters are consistent */
2829     if (tls1_check_cert_param(s, x, 1))
2830         rv |= CERT_PKEY_EE_PARAM;
2831     else if (!check_flags)
2832         goto end;
2833     if (!s->server)
2834         rv |= CERT_PKEY_CA_PARAM;
2835     /* In strict mode check rest of chain too */
2836     else if (strict_mode) {
2837         rv |= CERT_PKEY_CA_PARAM;
2838         for (i = 0; i < sk_X509_num(chain); i++) {
2839             X509 *ca = sk_X509_value(chain, i);
2840             if (!tls1_check_cert_param(s, ca, 0)) {
2841                 if (check_flags) {
2842                     rv &= ~CERT_PKEY_CA_PARAM;
2843                     break;
2844                 } else
2845                     goto end;
2846             }
2847         }
2848     }
2849     if (!s->server && strict_mode) {
2850         STACK_OF(X509_NAME) *ca_dn;
2851         int check_type = 0;
2852
2853         if (EVP_PKEY_is_a(pk, "RSA"))
2854             check_type = TLS_CT_RSA_SIGN;
2855         else if (EVP_PKEY_is_a(pk, "DSA"))
2856             check_type = TLS_CT_DSS_SIGN;
2857         else if (EVP_PKEY_is_a(pk, "EC"))
2858             check_type = TLS_CT_ECDSA_SIGN;
2859
2860         if (check_type) {
2861             const uint8_t *ctypes = s->s3.tmp.ctype;
2862             size_t j;
2863
2864             for (j = 0; j < s->s3.tmp.ctype_len; j++, ctypes++) {
2865                 if (*ctypes == check_type) {
2866                     rv |= CERT_PKEY_CERT_TYPE;
2867                     break;
2868                 }
2869             }
2870             if (!(rv & CERT_PKEY_CERT_TYPE) && !check_flags)
2871                 goto end;
2872         } else {
2873             rv |= CERT_PKEY_CERT_TYPE;
2874         }
2875
2876         ca_dn = s->s3.tmp.peer_ca_names;
2877
2878         if (ca_dn == NULL
2879             || sk_X509_NAME_num(ca_dn) == 0
2880             || ssl_check_ca_name(ca_dn, x))
2881             rv |= CERT_PKEY_ISSUER_NAME;
2882         else
2883             for (i = 0; i < sk_X509_num(chain); i++) {
2884                 X509 *xtmp = sk_X509_value(chain, i);
2885
2886                 if (ssl_check_ca_name(ca_dn, xtmp)) {
2887                     rv |= CERT_PKEY_ISSUER_NAME;
2888                     break;
2889                 }
2890             }
2891
2892         if (!check_flags && !(rv & CERT_PKEY_ISSUER_NAME))
2893             goto end;
2894     } else
2895         rv |= CERT_PKEY_ISSUER_NAME | CERT_PKEY_CERT_TYPE;
2896
2897     if (!check_flags || (rv & check_flags) == check_flags)
2898         rv |= CERT_PKEY_VALID;
2899
2900  end:
2901
2902     if (TLS1_get_version(s) >= TLS1_2_VERSION)
2903         rv |= *pvalid & (CERT_PKEY_EXPLICIT_SIGN | CERT_PKEY_SIGN);
2904     else
2905         rv |= CERT_PKEY_SIGN | CERT_PKEY_EXPLICIT_SIGN;
2906
2907     /*
2908      * When checking a CERT_PKEY structure all flags are irrelevant if the
2909      * chain is invalid.
2910      */
2911     if (!check_flags) {
2912         if (rv & CERT_PKEY_VALID) {
2913             *pvalid = rv;
2914         } else {
2915             /* Preserve sign and explicit sign flag, clear rest */
2916             *pvalid &= CERT_PKEY_EXPLICIT_SIGN | CERT_PKEY_SIGN;
2917             return 0;
2918         }
2919     }
2920     return rv;
2921 }
2922
2923 /* Set validity of certificates in an SSL structure */
2924 void tls1_set_cert_validity(SSL *s)
2925 {
2926     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_RSA);
2927     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_RSA_PSS_SIGN);
2928     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_DSA_SIGN);
2929     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_ECC);
2930     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_GOST01);
2931     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_GOST12_256);
2932     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_GOST12_512);
2933     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_ED25519);
2934     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_ED448);
2935 }
2936
2937 /* User level utility function to check a chain is suitable */
2938 int SSL_check_chain(SSL *s, X509 *x, EVP_PKEY *pk, STACK_OF(X509) *chain)
2939 {
2940     return tls1_check_chain(s, x, pk, chain, -1);
2941 }
2942
2943 EVP_PKEY *ssl_get_auto_dh(SSL *s)
2944 {
2945     EVP_PKEY *dhp = NULL;
2946     BIGNUM *p;
2947     int dh_secbits = 80, sec_level_bits;
2948     EVP_PKEY_CTX *pctx = NULL;
2949     OSSL_PARAM_BLD *tmpl = NULL;
2950     OSSL_PARAM *params = NULL;
2951
2952     if (s->cert->dh_tmp_auto != 2) {
2953         if (s->s3.tmp.new_cipher->algorithm_auth & (SSL_aNULL | SSL_aPSK)) {
2954             if (s->s3.tmp.new_cipher->strength_bits == 256)
2955                 dh_secbits = 128;
2956             else
2957                 dh_secbits = 80;
2958         } else {
2959             if (s->s3.tmp.cert == NULL)
2960                 return NULL;
2961             dh_secbits = EVP_PKEY_get_security_bits(s->s3.tmp.cert->privatekey);
2962         }
2963     }
2964
2965     /* Do not pick a prime that is too weak for the current security level */
2966     sec_level_bits = ssl_get_security_level_bits(s, NULL, NULL);
2967     if (dh_secbits < sec_level_bits)
2968         dh_secbits = sec_level_bits;
2969
2970     if (dh_secbits >= 192)
2971         p = BN_get_rfc3526_prime_8192(NULL);
2972     else if (dh_secbits >= 152)
2973         p = BN_get_rfc3526_prime_4096(NULL);
2974     else if (dh_secbits >= 128)
2975         p = BN_get_rfc3526_prime_3072(NULL);
2976     else if (dh_secbits >= 112)
2977         p = BN_get_rfc3526_prime_2048(NULL);
2978     else
2979         p = BN_get_rfc2409_prime_1024(NULL);
2980     if (p == NULL)
2981         goto err;
2982
2983     pctx = EVP_PKEY_CTX_new_from_name(s->ctx->libctx, "DH", s->ctx->propq);
2984     if (pctx == NULL
2985             || EVP_PKEY_fromdata_init(pctx) != 1)
2986         goto err;
2987
2988     tmpl = OSSL_PARAM_BLD_new();
2989     if (tmpl == NULL
2990             || !OSSL_PARAM_BLD_push_BN(tmpl, OSSL_PKEY_PARAM_FFC_P, p)
2991             || !OSSL_PARAM_BLD_push_uint(tmpl, OSSL_PKEY_PARAM_FFC_G, 2))
2992         goto err;
2993
2994     params = OSSL_PARAM_BLD_to_param(tmpl);
2995     if (params == NULL
2996             || EVP_PKEY_fromdata(pctx, &dhp, EVP_PKEY_KEY_PARAMETERS, params) != 1)
2997         goto err;
2998
2999 err:
3000     OSSL_PARAM_free(params);
3001     OSSL_PARAM_BLD_free(tmpl);
3002     EVP_PKEY_CTX_free(pctx);
3003     BN_free(p);
3004     return dhp;
3005 }
3006
3007 static int ssl_security_cert_key(SSL *s, SSL_CTX *ctx, X509 *x, int op)
3008 {
3009     int secbits = -1;
3010     EVP_PKEY *pkey = X509_get0_pubkey(x);
3011     if (pkey) {
3012         /*
3013          * If no parameters this will return -1 and fail using the default
3014          * security callback for any non-zero security level. This will
3015          * reject keys which omit parameters but this only affects DSA and
3016          * omission of parameters is never (?) done in practice.
3017          */
3018         secbits = EVP_PKEY_get_security_bits(pkey);
3019     }
3020     if (s)
3021         return ssl_security(s, op, secbits, 0, x);
3022     else
3023         return ssl_ctx_security(ctx, op, secbits, 0, x);
3024 }
3025
3026 static int ssl_security_cert_sig(SSL *s, SSL_CTX *ctx, X509 *x, int op)
3027 {
3028     /* Lookup signature algorithm digest */
3029     int secbits, nid, pknid;
3030     /* Don't check signature if self signed */
3031     if ((X509_get_extension_flags(x) & EXFLAG_SS) != 0)
3032         return 1;
3033     if (!X509_get_signature_info(x, &nid, &pknid, &secbits, NULL))
3034         secbits = -1;
3035     /* If digest NID not defined use signature NID */
3036     if (nid == NID_undef)
3037         nid = pknid;
3038     if (s)
3039         return ssl_security(s, op, secbits, nid, x);
3040     else
3041         return ssl_ctx_security(ctx, op, secbits, nid, x);
3042 }
3043
3044 int ssl_security_cert(SSL *s, SSL_CTX *ctx, X509 *x, int vfy, int is_ee)
3045 {
3046     if (vfy)
3047         vfy = SSL_SECOP_PEER;
3048     if (is_ee) {
3049         if (!ssl_security_cert_key(s, ctx, x, SSL_SECOP_EE_KEY | vfy))
3050             return SSL_R_EE_KEY_TOO_SMALL;
3051     } else {
3052         if (!ssl_security_cert_key(s, ctx, x, SSL_SECOP_CA_KEY | vfy))
3053             return SSL_R_CA_KEY_TOO_SMALL;
3054     }
3055     if (!ssl_security_cert_sig(s, ctx, x, SSL_SECOP_CA_MD | vfy))
3056         return SSL_R_CA_MD_TOO_WEAK;
3057     return 1;
3058 }
3059
3060 /*
3061  * Check security of a chain, if |sk| includes the end entity certificate then
3062  * |x| is NULL. If |vfy| is 1 then we are verifying a peer chain and not sending
3063  * one to the peer. Return values: 1 if ok otherwise error code to use
3064  */
3065
3066 int ssl_security_cert_chain(SSL *s, STACK_OF(X509) *sk, X509 *x, int vfy)
3067 {
3068     int rv, start_idx, i;
3069     if (x == NULL) {
3070         x = sk_X509_value(sk, 0);
3071         if (x == NULL)
3072             return ERR_R_INTERNAL_ERROR;
3073         start_idx = 1;
3074     } else
3075         start_idx = 0;
3076
3077     rv = ssl_security_cert(s, NULL, x, vfy, 1);
3078     if (rv != 1)
3079         return rv;
3080
3081     for (i = start_idx; i < sk_X509_num(sk); i++) {
3082         x = sk_X509_value(sk, i);
3083         rv = ssl_security_cert(s, NULL, x, vfy, 0);
3084         if (rv != 1)
3085             return rv;
3086     }
3087     return 1;
3088 }
3089
3090 /*
3091  * For TLS 1.2 servers check if we have a certificate which can be used
3092  * with the signature algorithm "lu" and return index of certificate.
3093  */
3094
3095 static int tls12_get_cert_sigalg_idx(const SSL *s, const SIGALG_LOOKUP *lu)
3096 {
3097     int sig_idx = lu->sig_idx;
3098     const SSL_CERT_LOOKUP *clu = ssl_cert_lookup_by_idx(sig_idx);
3099
3100     /* If not recognised or not supported by cipher mask it is not suitable */
3101     if (clu == NULL
3102             || (clu->amask & s->s3.tmp.new_cipher->algorithm_auth) == 0
3103             || (clu->nid == EVP_PKEY_RSA_PSS
3104                 && (s->s3.tmp.new_cipher->algorithm_mkey & SSL_kRSA) != 0))
3105         return -1;
3106
3107     return s->s3.tmp.valid_flags[sig_idx] & CERT_PKEY_VALID ? sig_idx : -1;
3108 }
3109
3110 /*
3111  * Checks the given cert against signature_algorithm_cert restrictions sent by
3112  * the peer (if any) as well as whether the hash from the sigalg is usable with
3113  * the key.
3114  * Returns true if the cert is usable and false otherwise.
3115  */
3116 static int check_cert_usable(SSL *s, const SIGALG_LOOKUP *sig, X509 *x,
3117                              EVP_PKEY *pkey)
3118 {
3119     const SIGALG_LOOKUP *lu;
3120     int mdnid, pknid, supported;
3121     size_t i;
3122     const char *mdname = NULL;
3123
3124     /*
3125      * If the given EVP_PKEY cannot support signing with this digest,
3126      * the answer is simply 'no'.
3127      */
3128     if (sig->hash != NID_undef)
3129         mdname = OBJ_nid2sn(sig->hash);
3130     supported = EVP_PKEY_digestsign_supports_digest(pkey, s->ctx->libctx,
3131                                                     mdname,
3132                                                     s->ctx->propq);
3133     if (supported <= 0)
3134         return 0;
3135
3136     /*
3137      * The TLS 1.3 signature_algorithms_cert extension places restrictions
3138      * on the sigalg with which the certificate was signed (by its issuer).
3139      */
3140     if (s->s3.tmp.peer_cert_sigalgs != NULL) {
3141         if (!X509_get_signature_info(x, &mdnid, &pknid, NULL, NULL))
3142             return 0;
3143         for (i = 0; i < s->s3.tmp.peer_cert_sigalgslen; i++) {
3144             lu = tls1_lookup_sigalg(s, s->s3.tmp.peer_cert_sigalgs[i]);
3145             if (lu == NULL)
3146                 continue;
3147
3148             /*
3149              * This does not differentiate between the
3150              * rsa_pss_pss_* and rsa_pss_rsae_* schemes since we do not
3151              * have a chain here that lets us look at the key OID in the
3152              * signing certificate.
3153              */
3154             if (mdnid == lu->hash && pknid == lu->sig)
3155                 return 1;
3156         }
3157         return 0;
3158     }
3159
3160     /*
3161      * Without signat_algorithms_cert, any certificate for which we have
3162      * a viable public key is permitted.
3163      */
3164     return 1;
3165 }
3166
3167 /*
3168  * Returns true if |s| has a usable certificate configured for use
3169  * with signature scheme |sig|.
3170  * "Usable" includes a check for presence as well as applying
3171  * the signature_algorithm_cert restrictions sent by the peer (if any).
3172  * Returns false if no usable certificate is found.
3173  */
3174 static int has_usable_cert(SSL *s, const SIGALG_LOOKUP *sig, int idx)
3175 {
3176     /* TLS 1.2 callers can override sig->sig_idx, but not TLS 1.3 callers. */
3177     if (idx == -1)
3178         idx = sig->sig_idx;
3179     if (!ssl_has_cert(s, idx))
3180         return 0;
3181
3182     return check_cert_usable(s, sig, s->cert->pkeys[idx].x509,
3183                              s->cert->pkeys[idx].privatekey);
3184 }
3185
3186 /*
3187  * Returns true if the supplied cert |x| and key |pkey| is usable with the
3188  * specified signature scheme |sig|, or false otherwise.
3189  */
3190 static int is_cert_usable(SSL *s, const SIGALG_LOOKUP *sig, X509 *x,
3191                           EVP_PKEY *pkey)
3192 {
3193     size_t idx;
3194
3195     if (ssl_cert_lookup_by_pkey(pkey, &idx) == NULL)
3196         return 0;
3197
3198     /* Check the key is consistent with the sig alg */
3199     if ((int)idx != sig->sig_idx)
3200         return 0;
3201
3202     return check_cert_usable(s, sig, x, pkey);
3203 }
3204
3205 /*
3206  * Find a signature scheme that works with the supplied certificate |x| and key
3207  * |pkey|. |x| and |pkey| may be NULL in which case we additionally look at our
3208  * available certs/keys to find one that works.
3209  */
3210 static const SIGALG_LOOKUP *find_sig_alg(SSL *s, X509 *x, EVP_PKEY *pkey)
3211 {
3212     const SIGALG_LOOKUP *lu = NULL;
3213     size_t i;
3214     int curve = -1;
3215     EVP_PKEY *tmppkey;
3216
3217     /* Look for a shared sigalgs matching possible certificates */
3218     for (i = 0; i < s->shared_sigalgslen; i++) {
3219         lu = s->shared_sigalgs[i];
3220
3221         /* Skip SHA1, SHA224, DSA and RSA if not PSS */
3222         if (lu->hash == NID_sha1
3223             || lu->hash == NID_sha224
3224             || lu->sig == EVP_PKEY_DSA
3225             || lu->sig == EVP_PKEY_RSA)
3226             continue;
3227         /* Check that we have a cert, and signature_algorithms_cert */
3228         if (!tls1_lookup_md(s->ctx, lu, NULL))
3229             continue;
3230         if ((pkey == NULL && !has_usable_cert(s, lu, -1))
3231                 || (pkey != NULL && !is_cert_usable(s, lu, x, pkey)))
3232             continue;
3233
3234         tmppkey = (pkey != NULL) ? pkey
3235                                  : s->cert->pkeys[lu->sig_idx].privatekey;
3236
3237         if (lu->sig == EVP_PKEY_EC) {
3238             if (curve == -1)
3239                 curve = ssl_get_EC_curve_nid(tmppkey);
3240             if (lu->curve != NID_undef && curve != lu->curve)
3241                 continue;
3242         } else if (lu->sig == EVP_PKEY_RSA_PSS) {
3243             /* validate that key is large enough for the signature algorithm */
3244             if (!rsa_pss_check_min_key_size(s->ctx, tmppkey, lu))
3245                 continue;
3246         }
3247         break;
3248     }
3249
3250     if (i == s->shared_sigalgslen)
3251         return NULL;
3252
3253     return lu;
3254 }
3255
3256 /*
3257  * Choose an appropriate signature algorithm based on available certificates
3258  * Sets chosen certificate and signature algorithm.
3259  *
3260  * For servers if we fail to find a required certificate it is a fatal error,
3261  * an appropriate error code is set and a TLS alert is sent.
3262  *
3263  * For clients fatalerrs is set to 0. If a certificate is not suitable it is not
3264  * a fatal error: we will either try another certificate or not present one
3265  * to the server. In this case no error is set.
3266  */
3267 int tls_choose_sigalg(SSL *s, int fatalerrs)
3268 {
3269     const SIGALG_LOOKUP *lu = NULL;
3270     int sig_idx = -1;
3271
3272     s->s3.tmp.cert = NULL;
3273     s->s3.tmp.sigalg = NULL;
3274
3275     if (SSL_IS_TLS13(s)) {
3276         lu = find_sig_alg(s, NULL, NULL);
3277         if (lu == NULL) {
3278             if (!fatalerrs)
3279                 return 1;
3280             SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE,
3281                      SSL_R_NO_SUITABLE_SIGNATURE_ALGORITHM);
3282             return 0;
3283         }
3284     } else {
3285         /* If ciphersuite doesn't require a cert nothing to do */
3286         if (!(s->s3.tmp.new_cipher->algorithm_auth & SSL_aCERT))
3287             return 1;
3288         if (!s->server && !ssl_has_cert(s, s->cert->key - s->cert->pkeys))
3289                 return 1;
3290
3291         if (SSL_USE_SIGALGS(s)) {
3292             size_t i;
3293             if (s->s3.tmp.peer_sigalgs != NULL) {
3294                 int curve = -1;
3295
3296                 /* For Suite B need to match signature algorithm to curve */
3297                 if (tls1_suiteb(s))
3298                     curve = ssl_get_EC_curve_nid(s->cert->pkeys[SSL_PKEY_ECC]
3299                                                  .privatekey);
3300
3301                 /*
3302                  * Find highest preference signature algorithm matching
3303                  * cert type
3304                  */
3305                 for (i = 0; i < s->shared_sigalgslen; i++) {
3306                     lu = s->shared_sigalgs[i];
3307
3308                     if (s->server) {
3309                         if ((sig_idx = tls12_get_cert_sigalg_idx(s, lu)) == -1)
3310                             continue;
3311                     } else {
3312                         int cc_idx = s->cert->key - s->cert->pkeys;
3313
3314                         sig_idx = lu->sig_idx;
3315                         if (cc_idx != sig_idx)
3316                             continue;
3317                     }
3318                     /* Check that we have a cert, and sig_algs_cert */
3319                     if (!has_usable_cert(s, lu, sig_idx))
3320                         continue;
3321                     if (lu->sig == EVP_PKEY_RSA_PSS) {
3322                         /* validate that key is large enough for the signature algorithm */
3323                         EVP_PKEY *pkey = s->cert->pkeys[sig_idx].privatekey;
3324
3325                         if (!rsa_pss_check_min_key_size(s->ctx, pkey, lu))
3326                             continue;
3327                     }
3328                     if (curve == -1 || lu->curve == curve)
3329                         break;
3330                 }
3331 #ifndef OPENSSL_NO_GOST
3332                 /*
3333                  * Some Windows-based implementations do not send GOST algorithms indication
3334                  * in supported_algorithms extension, so when we have GOST-based ciphersuite,
3335                  * we have to assume GOST support.
3336                  */
3337                 if (i == s->shared_sigalgslen && s->s3.tmp.new_cipher->algorithm_auth & (SSL_aGOST01 | SSL_aGOST12)) {
3338                   if ((lu = tls1_get_legacy_sigalg(s, -1)) == NULL) {
3339                     if (!fatalerrs)
3340                       return 1;
3341                     SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE,
3342                              SSL_R_NO_SUITABLE_SIGNATURE_ALGORITHM);
3343                     return 0;
3344                   } else {
3345                     i = 0;
3346                     sig_idx = lu->sig_idx;
3347                   }
3348                 }
3349 #endif
3350                 if (i == s->shared_sigalgslen) {
3351                     if (!fatalerrs)
3352                         return 1;
3353                     SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE,
3354                              SSL_R_NO_SUITABLE_SIGNATURE_ALGORITHM);
3355                     return 0;
3356                 }
3357             } else {
3358                 /*
3359                  * If we have no sigalg use defaults
3360                  */
3361                 const uint16_t *sent_sigs;
3362                 size_t sent_sigslen;
3363
3364                 if ((lu = tls1_get_legacy_sigalg(s, -1)) == NULL) {
3365                     if (!fatalerrs)
3366                         return 1;
3367                     SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE,
3368                              SSL_R_NO_SUITABLE_SIGNATURE_ALGORITHM);
3369                     return 0;
3370                 }
3371
3372                 /* Check signature matches a type we sent */
3373                 sent_sigslen = tls12_get_psigalgs(s, 1, &sent_sigs);
3374                 for (i = 0; i < sent_sigslen; i++, sent_sigs++) {
3375                     if (lu->sigalg == *sent_sigs
3376                             && has_usable_cert(s, lu, lu->sig_idx))
3377                         break;
3378                 }
3379                 if (i == sent_sigslen) {
3380                     if (!fatalerrs)
3381                         return 1;
3382                     SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE,
3383                              SSL_R_WRONG_SIGNATURE_TYPE);
3384                     return 0;
3385                 }
3386             }
3387         } else {
3388             if ((lu = tls1_get_legacy_sigalg(s, -1)) == NULL) {
3389                 if (!fatalerrs)
3390                     return 1;
3391                 SSLfatal(s, SSL_AD_INTERNAL_ERROR,
3392                          SSL_R_NO_SUITABLE_SIGNATURE_ALGORITHM);
3393                 return 0;
3394             }
3395         }
3396     }
3397     if (sig_idx == -1)
3398         sig_idx = lu->sig_idx;
3399     s->s3.tmp.cert = &s->cert->pkeys[sig_idx];
3400     s->cert->key = s->s3.tmp.cert;
3401     s->s3.tmp.sigalg = lu;
3402     return 1;
3403 }
3404
3405 int SSL_CTX_set_tlsext_max_fragment_length(SSL_CTX *ctx, uint8_t mode)
3406 {
3407     if (mode != TLSEXT_max_fragment_length_DISABLED
3408             && !IS_MAX_FRAGMENT_LENGTH_EXT_VALID(mode)) {
3409         ERR_raise(ERR_LIB_SSL, SSL_R_SSL3_EXT_INVALID_MAX_FRAGMENT_LENGTH);
3410         return 0;
3411     }
3412
3413     ctx->ext.max_fragment_len_mode = mode;
3414     return 1;
3415 }
3416
3417 int SSL_set_tlsext_max_fragment_length(SSL *ssl, uint8_t mode)
3418 {
3419     if (mode != TLSEXT_max_fragment_length_DISABLED
3420             && !IS_MAX_FRAGMENT_LENGTH_EXT_VALID(mode)) {
3421         ERR_raise(ERR_LIB_SSL, SSL_R_SSL3_EXT_INVALID_MAX_FRAGMENT_LENGTH);
3422         return 0;
3423     }
3424
3425     ssl->ext.max_fragment_len_mode = mode;
3426     return 1;
3427 }
3428
3429 uint8_t SSL_SESSION_get_max_fragment_length(const SSL_SESSION *session)
3430 {
3431     return session->ext.max_fragment_len_mode;
3432 }
3433
3434 /*
3435  * Helper functions for HMAC access with legacy support included.
3436  */
3437 SSL_HMAC *ssl_hmac_new(const SSL_CTX *ctx)
3438 {
3439     SSL_HMAC *ret = OPENSSL_zalloc(sizeof(*ret));
3440     EVP_MAC *mac = NULL;
3441
3442     if (ret == NULL)
3443         return NULL;
3444 #ifndef OPENSSL_NO_DEPRECATED_3_0
3445     if (ctx->ext.ticket_key_evp_cb == NULL
3446             && ctx->ext.ticket_key_cb != NULL) {
3447         if (!ssl_hmac_old_new(ret))
3448             goto err;
3449         return ret;
3450     }
3451 #endif
3452     mac = EVP_MAC_fetch(ctx->libctx, "HMAC", ctx->propq);
3453     if (mac == NULL || (ret->ctx = EVP_MAC_CTX_new(mac)) == NULL)
3454         goto err;
3455     EVP_MAC_free(mac);
3456     return ret;
3457  err:
3458     EVP_MAC_CTX_free(ret->ctx);
3459     EVP_MAC_free(mac);
3460     OPENSSL_free(ret);
3461     return NULL;
3462 }
3463
3464 void ssl_hmac_free(SSL_HMAC *ctx)
3465 {
3466     if (ctx != NULL) {
3467         EVP_MAC_CTX_free(ctx->ctx);
3468 #ifndef OPENSSL_NO_DEPRECATED_3_0
3469         ssl_hmac_old_free(ctx);
3470 #endif
3471         OPENSSL_free(ctx);
3472     }
3473 }
3474
3475 EVP_MAC_CTX *ssl_hmac_get0_EVP_MAC_CTX(SSL_HMAC *ctx)
3476 {
3477     return ctx->ctx;
3478 }
3479
3480 int ssl_hmac_init(SSL_HMAC *ctx, void *key, size_t len, char *md)
3481 {
3482     OSSL_PARAM params[2], *p = params;
3483
3484     if (ctx->ctx != NULL) {
3485         *p++ = OSSL_PARAM_construct_utf8_string(OSSL_MAC_PARAM_DIGEST, md, 0);
3486         *p = OSSL_PARAM_construct_end();
3487         if (EVP_MAC_init(ctx->ctx, key, len, params))
3488             return 1;
3489     }
3490 #ifndef OPENSSL_NO_DEPRECATED_3_0
3491     if (ctx->old_ctx != NULL)
3492         return ssl_hmac_old_init(ctx, key, len, md);
3493 #endif
3494     return 0;
3495 }
3496
3497 int ssl_hmac_update(SSL_HMAC *ctx, const unsigned char *data, size_t len)
3498 {
3499     if (ctx->ctx != NULL)
3500         return EVP_MAC_update(ctx->ctx, data, len);
3501 #ifndef OPENSSL_NO_DEPRECATED_3_0
3502     if (ctx->old_ctx != NULL)
3503         return ssl_hmac_old_update(ctx, data, len);
3504 #endif
3505     return 0;
3506 }
3507
3508 int ssl_hmac_final(SSL_HMAC *ctx, unsigned char *md, size_t *len,
3509                    size_t max_size)
3510 {
3511     if (ctx->ctx != NULL)
3512         return EVP_MAC_final(ctx->ctx, md, len, max_size);
3513 #ifndef OPENSSL_NO_DEPRECATED_3_0
3514     if (ctx->old_ctx != NULL)
3515         return ssl_hmac_old_final(ctx, md, len);
3516 #endif
3517     return 0;
3518 }
3519
3520 size_t ssl_hmac_size(const SSL_HMAC *ctx)
3521 {
3522     if (ctx->ctx != NULL)
3523         return EVP_MAC_CTX_get_mac_size(ctx->ctx);
3524 #ifndef OPENSSL_NO_DEPRECATED_3_0
3525     if (ctx->old_ctx != NULL)
3526         return ssl_hmac_old_size(ctx);
3527 #endif
3528     return 0;
3529 }
3530
3531 int ssl_get_EC_curve_nid(const EVP_PKEY *pkey)
3532 {
3533     char gname[OSSL_MAX_NAME_SIZE];
3534
3535     if (EVP_PKEY_get_group_name(pkey, gname, sizeof(gname), NULL) > 0)
3536         return OBJ_txt2nid(gname);
3537
3538     return NID_undef;
3539 }
3540
3541 __owur int tls13_set_encoded_pub_key(EVP_PKEY *pkey,
3542                                      const unsigned char *enckey,
3543                                      size_t enckeylen)
3544 {
3545     if (EVP_PKEY_is_a(pkey, "DH")) {
3546         int bits = EVP_PKEY_get_bits(pkey);
3547
3548         if (bits <= 0 || enckeylen != (size_t)bits / 8)
3549             /* the encoded key must be padded to the length of the p */
3550             return 0;
3551     } else if (EVP_PKEY_is_a(pkey, "EC")) {
3552         if (enckeylen < 3 /* point format and at least 1 byte for x and y */
3553             || enckey[0] != 0x04)
3554             return 0;
3555     }
3556
3557     return EVP_PKEY_set1_encoded_public_key(pkey, enckey, enckeylen);
3558 }