ssl/t1_lib.c

   1 /*
   2  * Copyright 1995-2018 The OpenSSL Project Authors. All Rights Reserved.
   3  *
   4  * Licensed under the OpenSSL license (the "License").  You may not use
   5  * this file except in compliance with the License.  You can obtain a copy
   6  * in the file LICENSE in the source distribution or at
   7  * https://www.openssl.org/source/license.html
   8  */
   9
  10 #include <stdio.h>
  11 #include <stdlib.h>
  12 #include <openssl/objects.h>
  13 #include <openssl/evp.h>
  14 #include <openssl/hmac.h>
  15 #include <openssl/ocsp.h>
  16 #include <openssl/conf.h>
  17 #include <openssl/x509v3.h>
  18 #include <openssl/dh.h>
  19 #include <openssl/bn.h>
  20 #include "internal/nelem.h"
  21 #include "ssl_locl.h"
  22 #include <openssl/ct.h>
  23
  24 SSL3_ENC_METHOD const TLSv1_enc_data = {
  25     tls1_enc,
  26     tls1_mac,
  27     tls1_setup_key_block,
  28     tls1_generate_master_secret,
  29     tls1_change_cipher_state,
  30     tls1_final_finish_mac,
  31     TLS_MD_CLIENT_FINISH_CONST, TLS_MD_CLIENT_FINISH_CONST_SIZE,
  32     TLS_MD_SERVER_FINISH_CONST, TLS_MD_SERVER_FINISH_CONST_SIZE,
  33     tls1_alert_code,
  34     tls1_export_keying_material,
  35     0,
  36     ssl3_set_handshake_header,
  37     tls_close_construct_packet,
  38     ssl3_handshake_write
  39 };
  40
  41 SSL3_ENC_METHOD const TLSv1_1_enc_data = {
  42     tls1_enc,
  43     tls1_mac,
  44     tls1_setup_key_block,
  45     tls1_generate_master_secret,
  46     tls1_change_cipher_state,
  47     tls1_final_finish_mac,
  48     TLS_MD_CLIENT_FINISH_CONST, TLS_MD_CLIENT_FINISH_CONST_SIZE,
  49     TLS_MD_SERVER_FINISH_CONST, TLS_MD_SERVER_FINISH_CONST_SIZE,
  50     tls1_alert_code,
  51     tls1_export_keying_material,
  52     SSL_ENC_FLAG_EXPLICIT_IV,
  53     ssl3_set_handshake_header,
  54     tls_close_construct_packet,
  55     ssl3_handshake_write
  56 };
  57
  58 SSL3_ENC_METHOD const TLSv1_2_enc_data = {
  59     tls1_enc,
  60     tls1_mac,
  61     tls1_setup_key_block,
  62     tls1_generate_master_secret,
  63     tls1_change_cipher_state,
  64     tls1_final_finish_mac,
  65     TLS_MD_CLIENT_FINISH_CONST, TLS_MD_CLIENT_FINISH_CONST_SIZE,
  66     TLS_MD_SERVER_FINISH_CONST, TLS_MD_SERVER_FINISH_CONST_SIZE,
  67     tls1_alert_code,
  68     tls1_export_keying_material,
  69     SSL_ENC_FLAG_EXPLICIT_IV | SSL_ENC_FLAG_SIGALGS | SSL_ENC_FLAG_SHA256_PRF
  70         | SSL_ENC_FLAG_TLS1_2_CIPHERS,
  71     ssl3_set_handshake_header,
  72     tls_close_construct_packet,
  73     ssl3_handshake_write
  74 };
  75
  76 SSL3_ENC_METHOD const TLSv1_3_enc_data = {
  77     tls13_enc,
  78     tls1_mac,
  79     tls13_setup_key_block,
  80     tls13_generate_master_secret,
  81     tls13_change_cipher_state,
  82     tls13_final_finish_mac,
  83     TLS_MD_CLIENT_FINISH_CONST, TLS_MD_CLIENT_FINISH_CONST_SIZE,
  84     TLS_MD_SERVER_FINISH_CONST, TLS_MD_SERVER_FINISH_CONST_SIZE,
  85     tls13_alert_code,
  86     tls13_export_keying_material,
  87     SSL_ENC_FLAG_SIGALGS | SSL_ENC_FLAG_SHA256_PRF,
  88     ssl3_set_handshake_header,
  89     tls_close_construct_packet,
  90     ssl3_handshake_write
  91 };
  92
  93 long tls1_default_timeout(void)
  94 {
  95     /*
  96      * 2 hours, the 24 hours mentioned in the TLSv1 spec is way too long for
  97      * http, the cache would over fill
  98      */
  99     return (60 * 60 * 2);
 100 }
 101
 102 int tls1_new(SSL *s)
 103 {
 104     if (!ssl3_new(s))
 105         return 0;
 106     if (!s->method->ssl_clear(s))
 107         return 0;
 108
 109     return 1;
 110 }
 111
 112 void tls1_free(SSL *s)
 113 {
 114     OPENSSL_free(s->ext.session_ticket);
 115     ssl3_free(s);
 116 }
 117
 118 int tls1_clear(SSL *s)
 119 {
 120     if (!ssl3_clear(s))
 121         return 0;
 122
 123     if (s->method->version == TLS_ANY_VERSION)
 124         s->version = TLS_MAX_VERSION;
 125     else
 126         s->version = s->method->version;
 127
 128     return 1;
 129 }
 130
 131 #ifndef OPENSSL_NO_EC
 132
 133 /*
 134  * Table of curve information.
 135  * Do not delete entries or reorder this array! It is used as a lookup
 136  * table: the index of each entry is one less than the TLS curve id.
 137  */
 138 static const TLS_GROUP_INFO nid_list[] = {
 139     {NID_sect163k1, 80, TLS_CURVE_CHAR2}, /* sect163k1 (1) */
 140     {NID_sect163r1, 80, TLS_CURVE_CHAR2}, /* sect163r1 (2) */
 141     {NID_sect163r2, 80, TLS_CURVE_CHAR2}, /* sect163r2 (3) */
 142     {NID_sect193r1, 80, TLS_CURVE_CHAR2}, /* sect193r1 (4) */
 143     {NID_sect193r2, 80, TLS_CURVE_CHAR2}, /* sect193r2 (5) */
 144     {NID_sect233k1, 112, TLS_CURVE_CHAR2}, /* sect233k1 (6) */
 145     {NID_sect233r1, 112, TLS_CURVE_CHAR2}, /* sect233r1 (7) */
 146     {NID_sect239k1, 112, TLS_CURVE_CHAR2}, /* sect239k1 (8) */
 147     {NID_sect283k1, 128, TLS_CURVE_CHAR2}, /* sect283k1 (9) */
 148     {NID_sect283r1, 128, TLS_CURVE_CHAR2}, /* sect283r1 (10) */
 149     {NID_sect409k1, 192, TLS_CURVE_CHAR2}, /* sect409k1 (11) */
 150     {NID_sect409r1, 192, TLS_CURVE_CHAR2}, /* sect409r1 (12) */
 151     {NID_sect571k1, 256, TLS_CURVE_CHAR2}, /* sect571k1 (13) */
 152     {NID_sect571r1, 256, TLS_CURVE_CHAR2}, /* sect571r1 (14) */
 153     {NID_secp160k1, 80, TLS_CURVE_PRIME}, /* secp160k1 (15) */
 154     {NID_secp160r1, 80, TLS_CURVE_PRIME}, /* secp160r1 (16) */
 155     {NID_secp160r2, 80, TLS_CURVE_PRIME}, /* secp160r2 (17) */
 156     {NID_secp192k1, 80, TLS_CURVE_PRIME}, /* secp192k1 (18) */
 157     {NID_X9_62_prime192v1, 80, TLS_CURVE_PRIME}, /* secp192r1 (19) */
 158     {NID_secp224k1, 112, TLS_CURVE_PRIME}, /* secp224k1 (20) */
 159     {NID_secp224r1, 112, TLS_CURVE_PRIME}, /* secp224r1 (21) */
 160     {NID_secp256k1, 128, TLS_CURVE_PRIME}, /* secp256k1 (22) */
 161     {NID_X9_62_prime256v1, 128, TLS_CURVE_PRIME}, /* secp256r1 (23) */
 162     {NID_secp384r1, 192, TLS_CURVE_PRIME}, /* secp384r1 (24) */
 163     {NID_secp521r1, 256, TLS_CURVE_PRIME}, /* secp521r1 (25) */
 164     {NID_brainpoolP256r1, 128, TLS_CURVE_PRIME}, /* brainpoolP256r1 (26) */
 165     {NID_brainpoolP384r1, 192, TLS_CURVE_PRIME}, /* brainpoolP384r1 (27) */
 166     {NID_brainpoolP512r1, 256, TLS_CURVE_PRIME}, /* brainpool512r1 (28) */
 167     {EVP_PKEY_X25519, 128, TLS_CURVE_CUSTOM}, /* X25519 (29) */
 168     {EVP_PKEY_X448, 224, TLS_CURVE_CUSTOM}, /* X448 (30) */
 169 };
 170
 171 static const unsigned char ecformats_default[] = {
 172     TLSEXT_ECPOINTFORMAT_uncompressed,
 173     TLSEXT_ECPOINTFORMAT_ansiX962_compressed_prime,
 174     TLSEXT_ECPOINTFORMAT_ansiX962_compressed_char2
 175 };
 176
 177 /* The default curves */
 178 static const uint16_t eccurves_default[] = {
 179     29,                      /* X25519 (29) */
 180     23,                      /* secp256r1 (23) */
 181     30,                      /* X448 (30) */
 182     25,                      /* secp521r1 (25) */
 183     24,                      /* secp384r1 (24) */
 184 };
 185
 186 static const uint16_t suiteb_curves[] = {
 187     TLSEXT_curve_P_256,
 188     TLSEXT_curve_P_384
 189 };
 190
 191 const TLS_GROUP_INFO *tls1_group_id_lookup(uint16_t group_id)
 192 {
 193     /* ECC curves from RFC 4492 and RFC 7027 */
 194     if (group_id < 1 || group_id > OSSL_NELEM(nid_list))
 195         return NULL;
 196     return &nid_list[group_id - 1];
 197 }
 198
 199 static uint16_t tls1_nid2group_id(int nid)
 200 {
 201     size_t i;
 202     for (i = 0; i < OSSL_NELEM(nid_list); i++) {
 203         if (nid_list[i].nid == nid)
 204             return (uint16_t)(i + 1);
 205     }
 206     return 0;
 207 }
 208
 209 /*
 210  * Set *pgroups to the supported groups list and *pgroupslen to
 211  * the number of groups supported.
 212  */
 213 void tls1_get_supported_groups(SSL *s, const uint16_t **pgroups,
 214                                size_t *pgroupslen)
 215 {
 216
 217     /* For Suite B mode only include P-256, P-384 */
 218     switch (tls1_suiteb(s)) {
 219     case SSL_CERT_FLAG_SUITEB_128_LOS:
 220         *pgroups = suiteb_curves;
 221         *pgroupslen = OSSL_NELEM(suiteb_curves);
 222         break;
 223
 224     case SSL_CERT_FLAG_SUITEB_128_LOS_ONLY:
 225         *pgroups = suiteb_curves;
 226         *pgroupslen = 1;
 227         break;
 228
 229     case SSL_CERT_FLAG_SUITEB_192_LOS:
 230         *pgroups = suiteb_curves + 1;
 231         *pgroupslen = 1;
 232         break;
 233
 234     default:
 235         if (s->ext.supportedgroups == NULL) {
 236             *pgroups = eccurves_default;
 237             *pgroupslen = OSSL_NELEM(eccurves_default);
 238         } else {
 239             *pgroups = s->ext.supportedgroups;
 240             *pgroupslen = s->ext.supportedgroups_len;
 241         }
 242         break;
 243     }
 244 }
 245
 246 /* See if curve is allowed by security callback */
 247 int tls_curve_allowed(SSL *s, uint16_t curve, int op)
 248 {
 249     const TLS_GROUP_INFO *cinfo = tls1_group_id_lookup(curve);
 250     unsigned char ctmp[2];
 251
 252     if (cinfo == NULL)
 253         return 0;
 254 # ifdef OPENSSL_NO_EC2M
 255     if (cinfo->flags & TLS_CURVE_CHAR2)
 256         return 0;
 257 # endif
 258     ctmp[0] = curve >> 8;
 259     ctmp[1] = curve & 0xff;
 260     return ssl_security(s, op, cinfo->secbits, cinfo->nid, (void *)ctmp);
 261 }
 262
 263 /* Return 1 if "id" is in "list" */
 264 static int tls1_in_list(uint16_t id, const uint16_t *list, size_t listlen)
 265 {
 266     size_t i;
 267     for (i = 0; i < listlen; i++)
 268         if (list[i] == id)
 269             return 1;
 270     return 0;
 271 }
 272
 273 /*-
 274  * For nmatch >= 0, return the id of the |nmatch|th shared group or 0
 275  * if there is no match.
 276  * For nmatch == -1, return number of matches
 277  * For nmatch == -2, return the id of the group to use for
 278  * a tmp key, or 0 if there is no match.
 279  */
 280 uint16_t tls1_shared_group(SSL *s, int nmatch)
 281 {
 282     const uint16_t *pref, *supp;
 283     size_t num_pref, num_supp, i;
 284     int k;
 285
 286     /* Can't do anything on client side */
 287     if (s->server == 0)
 288         return 0;
 289     if (nmatch == -2) {
 290         if (tls1_suiteb(s)) {
 291             /*
 292              * For Suite B ciphersuite determines curve: we already know
 293              * these are acceptable due to previous checks.
 294              */
 295             unsigned long cid = s->s3->tmp.new_cipher->id;
 296
 297             if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_128_GCM_SHA256)
 298                 return TLSEXT_curve_P_256;
 299             if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_256_GCM_SHA384)
 300                 return TLSEXT_curve_P_384;
 301             /* Should never happen */
 302             return 0;
 303         }
 304         /* If not Suite B just return first preference shared curve */
 305         nmatch = 0;
 306     }
 307     /*
 308      * If server preference set, our groups are the preference order
 309      * otherwise peer decides.
 310      */
 311     if (s->options & SSL_OP_CIPHER_SERVER_PREFERENCE) {
 312         tls1_get_supported_groups(s, &pref, &num_pref);
 313         tls1_get_peer_groups(s, &supp, &num_supp);
 314     } else {
 315         tls1_get_peer_groups(s, &pref, &num_pref);
 316         tls1_get_supported_groups(s, &supp, &num_supp);
 317     }
 318
 319     for (k = 0, i = 0; i < num_pref; i++) {
 320         uint16_t id = pref[i];
 321
 322         if (!tls1_in_list(id, supp, num_supp)
 323             || !tls_curve_allowed(s, id, SSL_SECOP_CURVE_SHARED))
 324                     continue;
 325         if (nmatch == k)
 326             return id;
 327          k++;
 328     }
 329     if (nmatch == -1)
 330         return k;
 331     /* Out of range (nmatch > k). */
 332     return 0;
 333 }
 334
 335 int tls1_set_groups(uint16_t **pext, size_t *pextlen,
 336                     int *groups, size_t ngroups)
 337 {
 338     uint16_t *glist;
 339     size_t i;
 340     /*
 341      * Bitmap of groups included to detect duplicates: only works while group
 342      * ids < 32
 343      */
 344     unsigned long dup_list = 0;
 345
 346     if ((glist = OPENSSL_malloc(ngroups * sizeof(*glist))) == NULL) {
 347         SSLerr(SSL_F_TLS1_SET_GROUPS, ERR_R_MALLOC_FAILURE);
 348         return 0;
 349     }
 350     for (i = 0; i < ngroups; i++) {
 351         unsigned long idmask;
 352         uint16_t id;
 353         /* TODO(TLS1.3): Convert for DH groups */
 354         id = tls1_nid2group_id(groups[i]);
 355         idmask = 1L << id;
 356         if (!id || (dup_list & idmask)) {
 357             OPENSSL_free(glist);
 358             return 0;
 359         }
 360         dup_list |= idmask;
 361         glist[i] = id;
 362     }
 363     OPENSSL_free(*pext);
 364     *pext = glist;
 365     *pextlen = ngroups;
 366     return 1;
 367 }
 368
 369 # define MAX_CURVELIST   OSSL_NELEM(nid_list)
 370
 371 typedef struct {
 372     size_t nidcnt;
 373     int nid_arr[MAX_CURVELIST];
 374 } nid_cb_st;
 375
 376 static int nid_cb(const char *elem, int len, void *arg)
 377 {
 378     nid_cb_st *narg = arg;
 379     size_t i;
 380     int nid;
 381     char etmp[20];
 382     if (elem == NULL)
 383         return 0;
 384     if (narg->nidcnt == MAX_CURVELIST)
 385         return 0;
 386     if (len > (int)(sizeof(etmp) - 1))
 387         return 0;
 388     memcpy(etmp, elem, len);
 389     etmp[len] = 0;
 390     nid = EC_curve_nist2nid(etmp);
 391     if (nid == NID_undef)
 392         nid = OBJ_sn2nid(etmp);
 393     if (nid == NID_undef)
 394         nid = OBJ_ln2nid(etmp);
 395     if (nid == NID_undef)
 396         return 0;
 397     for (i = 0; i < narg->nidcnt; i++)
 398         if (narg->nid_arr[i] == nid)
 399             return 0;
 400     narg->nid_arr[narg->nidcnt++] = nid;
 401     return 1;
 402 }
 403
 404 /* Set groups based on a colon separate list */
 405 int tls1_set_groups_list(uint16_t **pext, size_t *pextlen, const char *str)
 406 {
 407     nid_cb_st ncb;
 408     ncb.nidcnt = 0;
 409     if (!CONF_parse_list(str, ':', 1, nid_cb, &ncb))
 410         return 0;
 411     if (pext == NULL)
 412         return 1;
 413     return tls1_set_groups(pext, pextlen, ncb.nid_arr, ncb.nidcnt);
 414 }
 415 /* Return group id of a key */
 416 static uint16_t tls1_get_group_id(EVP_PKEY *pkey)
 417 {
 418     EC_KEY *ec = EVP_PKEY_get0_EC_KEY(pkey);
 419     const EC_GROUP *grp;
 420
 421     if (ec == NULL)
 422         return 0;
 423     grp = EC_KEY_get0_group(ec);
 424     return tls1_nid2group_id(EC_GROUP_get_curve_name(grp));
 425 }
 426
 427 /* Check a key is compatible with compression extension */
 428 static int tls1_check_pkey_comp(SSL *s, EVP_PKEY *pkey)
 429 {
 430     const EC_KEY *ec;
 431     const EC_GROUP *grp;
 432     unsigned char comp_id;
 433     size_t i;
 434
 435     /* If not an EC key nothing to check */
 436     if (EVP_PKEY_id(pkey) != EVP_PKEY_EC)
 437         return 1;
 438     ec = EVP_PKEY_get0_EC_KEY(pkey);
 439     grp = EC_KEY_get0_group(ec);
 440
 441     /* Get required compression id */
 442     if (EC_KEY_get_conv_form(ec) == POINT_CONVERSION_UNCOMPRESSED) {
 443             comp_id = TLSEXT_ECPOINTFORMAT_uncompressed;
 444     } else if (SSL_IS_TLS13(s)) {
 445             /*
 446              * ec_point_formats extension is not used in TLSv1.3 so we ignore
 447              * this check.
 448              */
 449             return 1;
 450     } else {
 451         int field_type = EC_METHOD_get_field_type(EC_GROUP_method_of(grp));
 452
 453         if (field_type == NID_X9_62_prime_field)
 454             comp_id = TLSEXT_ECPOINTFORMAT_ansiX962_compressed_prime;
 455         else if (field_type == NID_X9_62_characteristic_two_field)
 456             comp_id = TLSEXT_ECPOINTFORMAT_ansiX962_compressed_char2;
 457         else
 458             return 0;
 459     }
 460     /*
 461      * If point formats extension present check it, otherwise everything is
 462      * supported (see RFC4492).
 463      */
 464     if (s->session->ext.ecpointformats == NULL)
 465         return 1;
 466
 467     for (i = 0; i < s->session->ext.ecpointformats_len; i++) {
 468         if (s->session->ext.ecpointformats[i] == comp_id)
 469             return 1;
 470     }
 471     return 0;
 472 }
 473
 474 /* Check a group id matches preferences */
 475 int tls1_check_group_id(SSL *s, uint16_t group_id, int check_own_groups)
 476     {
 477     const uint16_t *groups;
 478     size_t groups_len;
 479
 480     if (group_id == 0)
 481         return 0;
 482
 483     /* Check for Suite B compliance */
 484     if (tls1_suiteb(s) && s->s3->tmp.new_cipher != NULL) {
 485         unsigned long cid = s->s3->tmp.new_cipher->id;
 486
 487         if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_128_GCM_SHA256) {
 488             if (group_id != TLSEXT_curve_P_256)
 489                 return 0;
 490         } else if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_256_GCM_SHA384) {
 491             if (group_id != TLSEXT_curve_P_384)
 492                 return 0;
 493         } else {
 494             /* Should never happen */
 495             return 0;
 496         }
 497     }
 498
 499     if (check_own_groups) {
 500         /* Check group is one of our preferences */
 501         tls1_get_supported_groups(s, &groups, &groups_len);
 502         if (!tls1_in_list(group_id, groups, groups_len))
 503             return 0;
 504     }
 505
 506     if (!tls_curve_allowed(s, group_id, SSL_SECOP_CURVE_CHECK))
 507         return 0;
 508
 509     /* For clients, nothing more to check */
 510     if (!s->server)
 511         return 1;
 512
 513     /* Check group is one of peers preferences */
 514     tls1_get_peer_groups(s, &groups, &groups_len);
 515
 516     /*
 517      * RFC 4492 does not require the supported elliptic curves extension
 518      * so if it is not sent we can just choose any curve.
 519      * It is invalid to send an empty list in the supported groups
 520      * extension, so groups_len == 0 always means no extension.
 521      */
 522     if (groups_len == 0)
 523             return 1;
 524     return tls1_in_list(group_id, groups, groups_len);
 525 }
 526
 527 void tls1_get_formatlist(SSL *s, const unsigned char **pformats,
 528                          size_t *num_formats)
 529 {
 530     /*
 531      * If we have a custom point format list use it otherwise use default
 532      */
 533     if (s->ext.ecpointformats) {
 534         *pformats = s->ext.ecpointformats;
 535         *num_formats = s->ext.ecpointformats_len;
 536     } else {
 537         *pformats = ecformats_default;
 538         /* For Suite B we don't support char2 fields */
 539         if (tls1_suiteb(s))
 540             *num_formats = sizeof(ecformats_default) - 1;
 541         else
 542             *num_formats = sizeof(ecformats_default);
 543     }
 544 }
 545
 546 /*
 547  * Check cert parameters compatible with extensions: currently just checks EC
 548  * certificates have compatible curves and compression.
 549  */
 550 static int tls1_check_cert_param(SSL *s, X509 *x, int check_ee_md)
 551 {
 552     uint16_t group_id;
 553     EVP_PKEY *pkey;
 554     pkey = X509_get0_pubkey(x);
 555     if (pkey == NULL)
 556         return 0;
 557     /* If not EC nothing to do */
 558     if (EVP_PKEY_id(pkey) != EVP_PKEY_EC)
 559         return 1;
 560     /* Check compression */
 561     if (!tls1_check_pkey_comp(s, pkey))
 562         return 0;
 563     group_id = tls1_get_group_id(pkey);
 564     /*
 565      * For a server we allow the certificate to not be in our list of supported
 566      * groups.
 567      */
 568     if (!tls1_check_group_id(s, group_id, !s->server))
 569         return 0;
 570     /*
 571      * Special case for suite B. We *MUST* sign using SHA256+P-256 or
 572      * SHA384+P-384.
 573      */
 574     if (check_ee_md && tls1_suiteb(s)) {
 575         int check_md;
 576         size_t i;
 577         CERT *c = s->cert;
 578
 579         /* Check to see we have necessary signing algorithm */
 580         if (group_id == TLSEXT_curve_P_256)
 581             check_md = NID_ecdsa_with_SHA256;
 582         else if (group_id == TLSEXT_curve_P_384)
 583             check_md = NID_ecdsa_with_SHA384;
 584         else
 585             return 0;           /* Should never happen */
 586         for (i = 0; i < c->shared_sigalgslen; i++) {
 587             if (check_md == c->shared_sigalgs[i]->sigandhash)
 588                 return 1;;
 589         }
 590         return 0;
 591     }
 592     return 1;
 593 }
 594
 595 /*
 596  * tls1_check_ec_tmp_key - Check EC temporary key compatibility
 597  * @s: SSL connection
 598  * @cid: Cipher ID we're considering using
 599  *
 600  * Checks that the kECDHE cipher suite we're considering using
 601  * is compatible with the client extensions.
 602  *
 603  * Returns 0 when the cipher can't be used or 1 when it can.
 604  */
 605 int tls1_check_ec_tmp_key(SSL *s, unsigned long cid)
 606 {
 607     /* If not Suite B just need a shared group */
 608     if (!tls1_suiteb(s))
 609         return tls1_shared_group(s, 0) != 0;
 610     /*
 611      * If Suite B, AES128 MUST use P-256 and AES256 MUST use P-384, no other
 612      * curves permitted.
 613      */
 614     if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_128_GCM_SHA256)
 615         return tls1_check_group_id(s, TLSEXT_curve_P_256, 1);
 616     if (cid == TLS1_CK_ECDHE_ECDSA_WITH_AES_256_GCM_SHA384)
 617         return tls1_check_group_id(s, TLSEXT_curve_P_384, 1);
 618
 619     return 0;
 620 }
 621
 622 #else
 623
 624 static int tls1_check_cert_param(SSL *s, X509 *x, int set_ee_md)
 625 {
 626     return 1;
 627 }
 628
 629 #endif                          /* OPENSSL_NO_EC */
 630
 631 /* Default sigalg schemes */
 632 static const uint16_t tls12_sigalgs[] = {
 633 #ifndef OPENSSL_NO_EC
 634     TLSEXT_SIGALG_ecdsa_secp256r1_sha256,
 635     TLSEXT_SIGALG_ecdsa_secp384r1_sha384,
 636     TLSEXT_SIGALG_ecdsa_secp521r1_sha512,
 637     TLSEXT_SIGALG_ed25519,
 638     TLSEXT_SIGALG_ed448,
 639 #endif
 640
 641     TLSEXT_SIGALG_rsa_pss_pss_sha256,
 642     TLSEXT_SIGALG_rsa_pss_pss_sha384,
 643     TLSEXT_SIGALG_rsa_pss_pss_sha512,
 644     TLSEXT_SIGALG_rsa_pss_rsae_sha256,
 645     TLSEXT_SIGALG_rsa_pss_rsae_sha384,
 646     TLSEXT_SIGALG_rsa_pss_rsae_sha512,
 647
 648     TLSEXT_SIGALG_rsa_pkcs1_sha256,
 649     TLSEXT_SIGALG_rsa_pkcs1_sha384,
 650     TLSEXT_SIGALG_rsa_pkcs1_sha512,
 651
 652 #ifndef OPENSSL_NO_EC
 653     TLSEXT_SIGALG_ecdsa_sha224,
 654     TLSEXT_SIGALG_ecdsa_sha1,
 655 #endif
 656     TLSEXT_SIGALG_rsa_pkcs1_sha224,
 657     TLSEXT_SIGALG_rsa_pkcs1_sha1,
 658 #ifndef OPENSSL_NO_DSA
 659     TLSEXT_SIGALG_dsa_sha224,
 660     TLSEXT_SIGALG_dsa_sha1,
 661
 662     TLSEXT_SIGALG_dsa_sha256,
 663     TLSEXT_SIGALG_dsa_sha384,
 664     TLSEXT_SIGALG_dsa_sha512
 665 #endif
 666 };
 667
 668 #ifndef OPENSSL_NO_EC
 669 static const uint16_t suiteb_sigalgs[] = {
 670     TLSEXT_SIGALG_ecdsa_secp256r1_sha256,
 671     TLSEXT_SIGALG_ecdsa_secp384r1_sha384
 672 };
 673 #endif
 674
 675 static const SIGALG_LOOKUP sigalg_lookup_tbl[] = {
 676 #ifndef OPENSSL_NO_EC
 677     {"ecdsa_secp256r1_sha256", TLSEXT_SIGALG_ecdsa_secp256r1_sha256,
 678      NID_sha256, SSL_MD_SHA256_IDX, EVP_PKEY_EC, SSL_PKEY_ECC,
 679      NID_ecdsa_with_SHA256, NID_X9_62_prime256v1},
 680     {"ecdsa_secp384r1_sha384", TLSEXT_SIGALG_ecdsa_secp384r1_sha384,
 681      NID_sha384, SSL_MD_SHA384_IDX, EVP_PKEY_EC, SSL_PKEY_ECC,
 682      NID_ecdsa_with_SHA384, NID_secp384r1},
 683     {"ecdsa_secp521r1_sha512", TLSEXT_SIGALG_ecdsa_secp521r1_sha512,
 684      NID_sha512, SSL_MD_SHA512_IDX, EVP_PKEY_EC, SSL_PKEY_ECC,
 685      NID_ecdsa_with_SHA512, NID_secp521r1},
 686     {"ed25519", TLSEXT_SIGALG_ed25519,
 687      NID_undef, -1, EVP_PKEY_ED25519, SSL_PKEY_ED25519,
 688      NID_undef, NID_undef},
 689     {"ed448", TLSEXT_SIGALG_ed448,
 690      NID_undef, -1, EVP_PKEY_ED448, SSL_PKEY_ED448,
 691      NID_undef, NID_undef},
 692     {NULL, TLSEXT_SIGALG_ecdsa_sha224,
 693      NID_sha224, SSL_MD_SHA224_IDX, EVP_PKEY_EC, SSL_PKEY_ECC,
 694      NID_ecdsa_with_SHA224, NID_undef},
 695     {NULL, TLSEXT_SIGALG_ecdsa_sha1,
 696      NID_sha1, SSL_MD_SHA1_IDX, EVP_PKEY_EC, SSL_PKEY_ECC,
 697      NID_ecdsa_with_SHA1, NID_undef},
 698 #endif
 699     {"rsa_pss_rsae_sha256", TLSEXT_SIGALG_rsa_pss_rsae_sha256,
 700      NID_sha256, SSL_MD_SHA256_IDX, EVP_PKEY_RSA_PSS, SSL_PKEY_RSA,
 701      NID_undef, NID_undef},
 702     {"rsa_pss_rsae_sha384", TLSEXT_SIGALG_rsa_pss_rsae_sha384,
 703      NID_sha384, SSL_MD_SHA384_IDX, EVP_PKEY_RSA_PSS, SSL_PKEY_RSA,
 704      NID_undef, NID_undef},
 705     {"rsa_pss_rsae_sha512", TLSEXT_SIGALG_rsa_pss_rsae_sha512,
 706      NID_sha512, SSL_MD_SHA512_IDX, EVP_PKEY_RSA_PSS, SSL_PKEY_RSA,
 707      NID_undef, NID_undef},
 708     {"rsa_pss_pss_sha256", TLSEXT_SIGALG_rsa_pss_pss_sha256,
 709      NID_sha256, SSL_MD_SHA256_IDX, EVP_PKEY_RSA_PSS, SSL_PKEY_RSA_PSS_SIGN,
 710      NID_undef, NID_undef},
 711     {"rsa_pss_pss_sha384", TLSEXT_SIGALG_rsa_pss_pss_sha384,
 712      NID_sha384, SSL_MD_SHA384_IDX, EVP_PKEY_RSA_PSS, SSL_PKEY_RSA_PSS_SIGN,
 713      NID_undef, NID_undef},
 714     {"rsa_pss_pss_sha512", TLSEXT_SIGALG_rsa_pss_pss_sha512,
 715      NID_sha512, SSL_MD_SHA512_IDX, EVP_PKEY_RSA_PSS, SSL_PKEY_RSA_PSS_SIGN,
 716      NID_undef, NID_undef},
 717     {"rsa_pkcs1_sha256", TLSEXT_SIGALG_rsa_pkcs1_sha256,
 718      NID_sha256, SSL_MD_SHA256_IDX, EVP_PKEY_RSA, SSL_PKEY_RSA,
 719      NID_sha256WithRSAEncryption, NID_undef},
 720     {"rsa_pkcs1_sha384", TLSEXT_SIGALG_rsa_pkcs1_sha384,
 721      NID_sha384, SSL_MD_SHA384_IDX, EVP_PKEY_RSA, SSL_PKEY_RSA,
 722      NID_sha384WithRSAEncryption, NID_undef},
 723     {"rsa_pkcs1_sha512", TLSEXT_SIGALG_rsa_pkcs1_sha512,
 724      NID_sha512, SSL_MD_SHA512_IDX, EVP_PKEY_RSA, SSL_PKEY_RSA,
 725      NID_sha512WithRSAEncryption, NID_undef},
 726     {"rsa_pkcs1_sha224", TLSEXT_SIGALG_rsa_pkcs1_sha224,
 727      NID_sha224, SSL_MD_SHA224_IDX, EVP_PKEY_RSA, SSL_PKEY_RSA,
 728      NID_sha224WithRSAEncryption, NID_undef},
 729     {"rsa_pkcs1_sha1", TLSEXT_SIGALG_rsa_pkcs1_sha1,
 730      NID_sha1, SSL_MD_SHA1_IDX, EVP_PKEY_RSA, SSL_PKEY_RSA,
 731      NID_sha1WithRSAEncryption, NID_undef},
 732 #ifndef OPENSSL_NO_DSA
 733     {NULL, TLSEXT_SIGALG_dsa_sha256,
 734      NID_sha256, SSL_MD_SHA256_IDX, EVP_PKEY_DSA, SSL_PKEY_DSA_SIGN,
 735      NID_dsa_with_SHA256, NID_undef},
 736     {NULL, TLSEXT_SIGALG_dsa_sha384,
 737      NID_sha384, SSL_MD_SHA384_IDX, EVP_PKEY_DSA, SSL_PKEY_DSA_SIGN,
 738      NID_undef, NID_undef},
 739     {NULL, TLSEXT_SIGALG_dsa_sha512,
 740      NID_sha512, SSL_MD_SHA512_IDX, EVP_PKEY_DSA, SSL_PKEY_DSA_SIGN,
 741      NID_undef, NID_undef},
 742     {NULL, TLSEXT_SIGALG_dsa_sha224,
 743      NID_sha224, SSL_MD_SHA224_IDX, EVP_PKEY_DSA, SSL_PKEY_DSA_SIGN,
 744      NID_undef, NID_undef},
 745     {NULL, TLSEXT_SIGALG_dsa_sha1,
 746      NID_sha1, SSL_MD_SHA1_IDX, EVP_PKEY_DSA, SSL_PKEY_DSA_SIGN,
 747      NID_dsaWithSHA1, NID_undef},
 748 #endif
 749 #ifndef OPENSSL_NO_GOST
 750     {NULL, TLSEXT_SIGALG_gostr34102012_256_gostr34112012_256,
 751      NID_id_GostR3411_2012_256, SSL_MD_GOST12_256_IDX,
 752      NID_id_GostR3410_2012_256, SSL_PKEY_GOST12_256,
 753      NID_undef, NID_undef},
 754     {NULL, TLSEXT_SIGALG_gostr34102012_512_gostr34112012_512,
 755      NID_id_GostR3411_2012_512, SSL_MD_GOST12_512_IDX,
 756      NID_id_GostR3410_2012_512, SSL_PKEY_GOST12_512,
 757      NID_undef, NID_undef},
 758     {NULL, TLSEXT_SIGALG_gostr34102001_gostr3411,
 759      NID_id_GostR3411_94, SSL_MD_GOST94_IDX,
 760      NID_id_GostR3410_2001, SSL_PKEY_GOST01,
 761      NID_undef, NID_undef}
 762 #endif
 763 };
 764 /* Legacy sigalgs for TLS < 1.2 RSA TLS signatures */
 765 static const SIGALG_LOOKUP legacy_rsa_sigalg = {
 766     "rsa_pkcs1_md5_sha1", 0,
 767      NID_md5_sha1, SSL_MD_MD5_SHA1_IDX,
 768      EVP_PKEY_RSA, SSL_PKEY_RSA,
 769      NID_undef, NID_undef
 770 };
 771
 772 /*
 773  * Default signature algorithm values used if signature algorithms not present.
 774  * From RFC5246. Note: order must match certificate index order.
 775  */
 776 static const uint16_t tls_default_sigalg[] = {
 777     TLSEXT_SIGALG_rsa_pkcs1_sha1, /* SSL_PKEY_RSA */
 778     0, /* SSL_PKEY_RSA_PSS_SIGN */
 779     TLSEXT_SIGALG_dsa_sha1, /* SSL_PKEY_DSA_SIGN */
 780     TLSEXT_SIGALG_ecdsa_sha1, /* SSL_PKEY_ECC */
 781     TLSEXT_SIGALG_gostr34102001_gostr3411, /* SSL_PKEY_GOST01 */
 782     TLSEXT_SIGALG_gostr34102012_256_gostr34112012_256, /* SSL_PKEY_GOST12_256 */
 783     TLSEXT_SIGALG_gostr34102012_512_gostr34112012_512, /* SSL_PKEY_GOST12_512 */
 784     0, /* SSL_PKEY_ED25519 */
 785     0, /* SSL_PKEY_ED448 */
 786 };
 787
 788 /* Lookup TLS signature algorithm */
 789 static const SIGALG_LOOKUP *tls1_lookup_sigalg(uint16_t sigalg)
 790 {
 791     size_t i;
 792     const SIGALG_LOOKUP *s;
 793
 794     for (i = 0, s = sigalg_lookup_tbl; i < OSSL_NELEM(sigalg_lookup_tbl);
 795          i++, s++) {
 796         if (s->sigalg == sigalg)
 797             return s;
 798     }
 799     return NULL;
 800 }
 801 /* Lookup hash: return 0 if invalid or not enabled */
 802 int tls1_lookup_md(const SIGALG_LOOKUP *lu, const EVP_MD **pmd)
 803 {
 804     const EVP_MD *md;
 805     if (lu == NULL)
 806         return 0;
 807     /* lu->hash == NID_undef means no associated digest */
 808     if (lu->hash == NID_undef) {
 809         md = NULL;
 810     } else {
 811         md = ssl_md(lu->hash_idx);
 812         if (md == NULL)
 813             return 0;
 814     }
 815     if (pmd)
 816         *pmd = md;
 817     return 1;
 818 }
 819
 820 /*
 821  * Check if key is large enough to generate RSA-PSS signature.
 822  *
 823  * The key must greater than or equal to 2 * hash length + 2.
 824  * SHA512 has a hash length of 64 bytes, which is incompatible
 825  * with a 128 byte (1024 bit) key.
 826  */
 827 #define RSA_PSS_MINIMUM_KEY_SIZE(md) (2 * EVP_MD_size(md) + 2)
 828 static int rsa_pss_check_min_key_size(const RSA *rsa, const SIGALG_LOOKUP *lu)
 829 {
 830     const EVP_MD *md;
 831
 832     if (rsa == NULL)
 833         return 0;
 834     if (!tls1_lookup_md(lu, &md) || md == NULL)
 835         return 0;
 836     if (RSA_size(rsa) < RSA_PSS_MINIMUM_KEY_SIZE(md))
 837         return 0;
 838     return 1;
 839 }
 840
 841 /*
 842  * Return a signature algorithm for TLS < 1.2 where the signature type
 843  * is fixed by the certificate type.
 844  */
 845 static const SIGALG_LOOKUP *tls1_get_legacy_sigalg(const SSL *s, int idx)
 846 {
 847     if (idx == -1) {
 848         if (s->server) {
 849             size_t i;
 850
 851             /* Work out index corresponding to ciphersuite */
 852             for (i = 0; i < SSL_PKEY_NUM; i++) {
 853                 const SSL_CERT_LOOKUP *clu = ssl_cert_lookup_by_idx(i);
 854
 855                 if (clu->amask & s->s3->tmp.new_cipher->algorithm_auth) {
 856                     idx = i;
 857                     break;
 858                 }
 859             }
 860
 861             /*
 862              * Some GOST ciphersuites allow more than one signature algorithms
 863              * */
 864             if (idx == SSL_PKEY_GOST01 && s->s3->tmp.new_cipher->algorithm_auth != SSL_aGOST01) {
 865                 int real_idx;
 866
 867                 for (real_idx = SSL_PKEY_GOST12_512; real_idx >= SSL_PKEY_GOST01;
 868                      real_idx--) {
 869                     if (s->cert->pkeys[real_idx].privatekey != NULL) {
 870                         idx = real_idx;
 871                         break;
 872                     }
 873                 }
 874             }
 875         } else {
 876             idx = s->cert->key - s->cert->pkeys;
 877         }
 878     }
 879     if (idx < 0 || idx >= (int)OSSL_NELEM(tls_default_sigalg))
 880         return NULL;
 881     if (SSL_USE_SIGALGS(s) || idx != SSL_PKEY_RSA) {
 882         const SIGALG_LOOKUP *lu = tls1_lookup_sigalg(tls_default_sigalg[idx]);
 883
 884         if (!tls1_lookup_md(lu, NULL))
 885             return NULL;
 886         return lu;
 887     }
 888     return &legacy_rsa_sigalg;
 889 }
 890 /* Set peer sigalg based key type */
 891 int tls1_set_peer_legacy_sigalg(SSL *s, const EVP_PKEY *pkey)
 892 {
 893     size_t idx;
 894     const SIGALG_LOOKUP *lu;
 895
 896     if (ssl_cert_lookup_by_pkey(pkey, &idx) == NULL)
 897         return 0;
 898     lu = tls1_get_legacy_sigalg(s, idx);
 899     if (lu == NULL)
 900         return 0;
 901     s->s3->tmp.peer_sigalg = lu;
 902     return 1;
 903 }
 904
 905 size_t tls12_get_psigalgs(SSL *s, int sent, const uint16_t **psigs)
 906 {
 907     /*
 908      * If Suite B mode use Suite B sigalgs only, ignore any other
 909      * preferences.
 910      */
 911 #ifndef OPENSSL_NO_EC
 912     switch (tls1_suiteb(s)) {
 913     case SSL_CERT_FLAG_SUITEB_128_LOS:
 914         *psigs = suiteb_sigalgs;
 915         return OSSL_NELEM(suiteb_sigalgs);
 916
 917     case SSL_CERT_FLAG_SUITEB_128_LOS_ONLY:
 918         *psigs = suiteb_sigalgs;
 919         return 1;
 920
 921     case SSL_CERT_FLAG_SUITEB_192_LOS:
 922         *psigs = suiteb_sigalgs + 1;
 923         return 1;
 924     }
 925 #endif
 926     /*
 927      *  We use client_sigalgs (if not NULL) if we're a server
 928      *  and sending a certificate request or if we're a client and
 929      *  determining which shared algorithm to use.
 930      */
 931     if ((s->server == sent) && s->cert->client_sigalgs != NULL) {
 932         *psigs = s->cert->client_sigalgs;
 933         return s->cert->client_sigalgslen;
 934     } else if (s->cert->conf_sigalgs) {
 935         *psigs = s->cert->conf_sigalgs;
 936         return s->cert->conf_sigalgslen;
 937     } else {
 938         *psigs = tls12_sigalgs;
 939         return OSSL_NELEM(tls12_sigalgs);
 940     }
 941 }
 942
 943 /*
 944  * Check signature algorithm is consistent with sent supported signature
 945  * algorithms and if so set relevant digest and signature scheme in
 946  * s.
 947  */
 948 int tls12_check_peer_sigalg(SSL *s, uint16_t sig, EVP_PKEY *pkey)
 949 {
 950     const uint16_t *sent_sigs;
 951     const EVP_MD *md = NULL;
 952     char sigalgstr[2];
 953     size_t sent_sigslen, i;
 954     int pkeyid = EVP_PKEY_id(pkey);
 955     const SIGALG_LOOKUP *lu;
 956
 957     /* Should never happen */
 958     if (pkeyid == -1)
 959         return -1;
 960     if (SSL_IS_TLS13(s)) {
 961         /* Disallow DSA for TLS 1.3 */
 962         if (pkeyid == EVP_PKEY_DSA) {
 963             SSLfatal(s, SSL_AD_ILLEGAL_PARAMETER, SSL_F_TLS12_CHECK_PEER_SIGALG,
 964                      SSL_R_WRONG_SIGNATURE_TYPE);
 965             return 0;
 966         }
 967         /* Only allow PSS for TLS 1.3 */
 968         if (pkeyid == EVP_PKEY_RSA)
 969             pkeyid = EVP_PKEY_RSA_PSS;
 970     }
 971     lu = tls1_lookup_sigalg(sig);
 972     /*
 973      * Check sigalgs is known. Disallow SHA1/SHA224 with TLS 1.3. Check key type
 974      * is consistent with signature: RSA keys can be used for RSA-PSS
 975      */
 976     if (lu == NULL
 977         || (SSL_IS_TLS13(s) && (lu->hash == NID_sha1 || lu->hash == NID_sha224))
 978         || (pkeyid != lu->sig
 979         && (lu->sig != EVP_PKEY_RSA_PSS || pkeyid != EVP_PKEY_RSA))) {
 980         SSLfatal(s, SSL_AD_ILLEGAL_PARAMETER, SSL_F_TLS12_CHECK_PEER_SIGALG,
 981                  SSL_R_WRONG_SIGNATURE_TYPE);
 982         return 0;
 983     }
 984 #ifndef OPENSSL_NO_EC
 985     if (pkeyid == EVP_PKEY_EC) {
 986
 987         /* Check point compression is permitted */
 988         if (!tls1_check_pkey_comp(s, pkey)) {
 989             SSLfatal(s, SSL_AD_ILLEGAL_PARAMETER,
 990                      SSL_F_TLS12_CHECK_PEER_SIGALG,
 991                      SSL_R_ILLEGAL_POINT_COMPRESSION);
 992             return 0;
 993         }
 994
 995         /* For TLS 1.3 or Suite B check curve matches signature algorithm */
 996         if (SSL_IS_TLS13(s) || tls1_suiteb(s)) {
 997             EC_KEY *ec = EVP_PKEY_get0_EC_KEY(pkey);
 998             int curve = EC_GROUP_get_curve_name(EC_KEY_get0_group(ec));
 999
1000             if (lu->curve != NID_undef && curve != lu->curve) {
1001                 SSLfatal(s, SSL_AD_ILLEGAL_PARAMETER,
1002                          SSL_F_TLS12_CHECK_PEER_SIGALG, SSL_R_WRONG_CURVE);
1003                 return 0;
1004             }
1005         }
1006         if (!SSL_IS_TLS13(s)) {
1007             /* Check curve matches extensions */
1008             if (!tls1_check_group_id(s, tls1_get_group_id(pkey), 1)) {
1009                 SSLfatal(s, SSL_AD_ILLEGAL_PARAMETER,
1010                          SSL_F_TLS12_CHECK_PEER_SIGALG, SSL_R_WRONG_CURVE);
1011                 return 0;
1012             }
1013             if (tls1_suiteb(s)) {
1014                 /* Check sigalg matches a permissible Suite B value */
1015                 if (sig != TLSEXT_SIGALG_ecdsa_secp256r1_sha256
1016                     && sig != TLSEXT_SIGALG_ecdsa_secp384r1_sha384) {
1017                     SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE,
1018                              SSL_F_TLS12_CHECK_PEER_SIGALG,
1019                              SSL_R_WRONG_SIGNATURE_TYPE);
1020                     return 0;
1021                 }
1022             }
1023         }
1024     } else if (tls1_suiteb(s)) {
1025         SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE, SSL_F_TLS12_CHECK_PEER_SIGALG,
1026                  SSL_R_WRONG_SIGNATURE_TYPE);
1027         return 0;
1028     }
1029 #endif
1030
1031     /* Check signature matches a type we sent */
1032     sent_sigslen = tls12_get_psigalgs(s, 1, &sent_sigs);
1033     for (i = 0; i < sent_sigslen; i++, sent_sigs++) {
1034         if (sig == *sent_sigs)
1035             break;
1036     }
1037     /* Allow fallback to SHA1 if not strict mode */
1038     if (i == sent_sigslen && (lu->hash != NID_sha1
1039         || s->cert->cert_flags & SSL_CERT_FLAGS_CHECK_TLS_STRICT)) {
1040         SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE, SSL_F_TLS12_CHECK_PEER_SIGALG,
1041                  SSL_R_WRONG_SIGNATURE_TYPE);
1042         return 0;
1043     }
1044     if (!tls1_lookup_md(lu, &md)) {
1045         SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE, SSL_F_TLS12_CHECK_PEER_SIGALG,
1046                  SSL_R_UNKNOWN_DIGEST);
1047         return 0;
1048     }
1049     if (md != NULL) {
1050         /*
1051          * Make sure security callback allows algorithm. For historical
1052          * reasons we have to pass the sigalg as a two byte char array.
1053          */
1054         sigalgstr[0] = (sig >> 8) & 0xff;
1055         sigalgstr[1] = sig & 0xff;
1056         if (!ssl_security(s, SSL_SECOP_SIGALG_CHECK,
1057                     EVP_MD_size(md) * 4, EVP_MD_type(md),
1058                     (void *)sigalgstr)) {
1059             SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE, SSL_F_TLS12_CHECK_PEER_SIGALG,
1060                      SSL_R_WRONG_SIGNATURE_TYPE);
1061             return 0;
1062         }
1063     }
1064     /* Store the sigalg the peer uses */
1065     s->s3->tmp.peer_sigalg = lu;
1066     return 1;
1067 }
1068
1069 int SSL_get_peer_signature_type_nid(const SSL *s, int *pnid)
1070 {
1071     if (s->s3->tmp.peer_sigalg == NULL)
1072         return 0;
1073     *pnid = s->s3->tmp.peer_sigalg->sig;
1074     return 1;
1075 }
1076
1077 /*
1078  * Set a mask of disabled algorithms: an algorithm is disabled if it isn't
1079  * supported, doesn't appear in supported signature algorithms, isn't supported
1080  * by the enabled protocol versions or by the security level.
1081  *
1082  * This function should only be used for checking which ciphers are supported
1083  * by the client.
1084  *
1085  * Call ssl_cipher_disabled() to check that it's enabled or not.
1086  */
1087 int ssl_set_client_disabled(SSL *s)
1088 {
1089     s->s3->tmp.mask_a = 0;
1090     s->s3->tmp.mask_k = 0;
1091     ssl_set_sig_mask(&s->s3->tmp.mask_a, s, SSL_SECOP_SIGALG_MASK);
1092     if (ssl_get_min_max_version(s, &s->s3->tmp.min_ver,
1093                                 &s->s3->tmp.max_ver) != 0)
1094         return 0;
1095 #ifndef OPENSSL_NO_PSK
1096     /* with PSK there must be client callback set */
1097     if (!s->psk_client_callback) {
1098         s->s3->tmp.mask_a |= SSL_aPSK;
1099         s->s3->tmp.mask_k |= SSL_PSK;
1100     }
1101 #endif                          /* OPENSSL_NO_PSK */
1102 #ifndef OPENSSL_NO_SRP
1103     if (!(s->srp_ctx.srp_Mask & SSL_kSRP)) {
1104         s->s3->tmp.mask_a |= SSL_aSRP;
1105         s->s3->tmp.mask_k |= SSL_kSRP;
1106     }
1107 #endif
1108     return 1;
1109 }
1110
1111 /*
1112  * ssl_cipher_disabled - check that a cipher is disabled or not
1113  * @s: SSL connection that you want to use the cipher on
1114  * @c: cipher to check
1115  * @op: Security check that you want to do
1116  * @ecdhe: If set to 1 then TLSv1 ECDHE ciphers are also allowed in SSLv3
1117  *
1118  * Returns 1 when it's disabled, 0 when enabled.
1119  */
1120 int ssl_cipher_disabled(SSL *s, const SSL_CIPHER *c, int op, int ecdhe)
1121 {
1122     if (c->algorithm_mkey & s->s3->tmp.mask_k
1123         || c->algorithm_auth & s->s3->tmp.mask_a)
1124         return 1;
1125     if (s->s3->tmp.max_ver == 0)
1126         return 1;
1127     if (!SSL_IS_DTLS(s)) {
1128         int min_tls = c->min_tls;
1129
1130         /*
1131          * For historical reasons we will allow ECHDE to be selected by a server
1132          * in SSLv3 if we are a client
1133          */
1134         if (min_tls == TLS1_VERSION && ecdhe
1135                 && (c->algorithm_mkey & (SSL_kECDHE | SSL_kECDHEPSK)) != 0)
1136             min_tls = SSL3_VERSION;
1137
1138         if ((min_tls > s->s3->tmp.max_ver) || (c->max_tls < s->s3->tmp.min_ver))
1139             return 1;
1140     }
1141     if (SSL_IS_DTLS(s) && (DTLS_VERSION_GT(c->min_dtls, s->s3->tmp.max_ver)
1142                            || DTLS_VERSION_LT(c->max_dtls, s->s3->tmp.min_ver)))
1143         return 1;
1144
1145     return !ssl_security(s, op, c->strength_bits, 0, (void *)c);
1146 }
1147
1148 int tls_use_ticket(SSL *s)
1149 {
1150     if ((s->options & SSL_OP_NO_TICKET))
1151         return 0;
1152     return ssl_security(s, SSL_SECOP_TICKET, 0, 0, NULL);
1153 }
1154
1155 int tls1_set_server_sigalgs(SSL *s)
1156 {
1157     size_t i;
1158
1159     /* Clear any shared signature algorithms */
1160     OPENSSL_free(s->cert->shared_sigalgs);
1161     s->cert->shared_sigalgs = NULL;
1162     s->cert->shared_sigalgslen = 0;
1163     /* Clear certificate validity flags */
1164     for (i = 0; i < SSL_PKEY_NUM; i++)
1165         s->s3->tmp.valid_flags[i] = 0;
1166     /*
1167      * If peer sent no signature algorithms check to see if we support
1168      * the default algorithm for each certificate type
1169      */
1170     if (s->s3->tmp.peer_cert_sigalgs == NULL
1171             && s->s3->tmp.peer_sigalgs == NULL) {
1172         const uint16_t *sent_sigs;
1173         size_t sent_sigslen = tls12_get_psigalgs(s, 1, &sent_sigs);
1174
1175         for (i = 0; i < SSL_PKEY_NUM; i++) {
1176             const SIGALG_LOOKUP *lu = tls1_get_legacy_sigalg(s, i);
1177             size_t j;
1178
1179             if (lu == NULL)
1180                 continue;
1181             /* Check default matches a type we sent */
1182             for (j = 0; j < sent_sigslen; j++) {
1183                 if (lu->sigalg == sent_sigs[j]) {
1184                         s->s3->tmp.valid_flags[i] = CERT_PKEY_SIGN;
1185                         break;
1186                 }
1187             }
1188         }
1189         return 1;
1190     }
1191
1192     if (!tls1_process_sigalgs(s)) {
1193         SSLfatal(s, SSL_AD_INTERNAL_ERROR,
1194                  SSL_F_TLS1_SET_SERVER_SIGALGS, ERR_R_INTERNAL_ERROR);
1195         return 0;
1196     }
1197     if (s->cert->shared_sigalgs != NULL)
1198         return 1;
1199
1200     /* Fatal error if no shared signature algorithms */
1201     SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE, SSL_F_TLS1_SET_SERVER_SIGALGS,
1202              SSL_R_NO_SHARED_SIGNATURE_ALGORITHMS);
1203     return 0;
1204 }
1205
1206 /*-
1207  * Gets the ticket information supplied by the client if any.
1208  *
1209  *   hello: The parsed ClientHello data
1210  *   ret: (output) on return, if a ticket was decrypted, then this is set to
1211  *       point to the resulting session.
1212  */
1213 SSL_TICKET_STATUS tls_get_ticket_from_client(SSL *s, CLIENTHELLO_MSG *hello,
1214                                              SSL_SESSION **ret)
1215 {
1216     size_t size;
1217     RAW_EXTENSION *ticketext;
1218
1219     *ret = NULL;
1220     s->ext.ticket_expected = 0;
1221
1222     /*
1223      * If tickets disabled or not supported by the protocol version
1224      * (e.g. TLSv1.3) behave as if no ticket present to permit stateful
1225      * resumption.
1226      */
1227     if (s->version <= SSL3_VERSION || !tls_use_ticket(s))
1228         return SSL_TICKET_NONE;
1229
1230     ticketext = &hello->pre_proc_exts[TLSEXT_IDX_session_ticket];
1231     if (!ticketext->present)
1232         return SSL_TICKET_NONE;
1233
1234     size = PACKET_remaining(&ticketext->data);
1235
1236     return tls_decrypt_ticket(s, PACKET_data(&ticketext->data), size,
1237                               hello->session_id, hello->session_id_len, ret);
1238 }
1239
1240 /*-
1241  * tls_decrypt_ticket attempts to decrypt a session ticket.
1242  *
1243  * If s->tls_session_secret_cb is set and we're not doing TLSv1.3 then we are
1244  * expecting a pre-shared key ciphersuite, in which case we have no use for
1245  * session tickets and one will never be decrypted, nor will
1246  * s->ext.ticket_expected be set to 1.
1247  *
1248  * Side effects:
1249  *   Sets s->ext.ticket_expected to 1 if the server will have to issue
1250  *   a new session ticket to the client because the client indicated support
1251  *   (and s->tls_session_secret_cb is NULL) but the client either doesn't have
1252  *   a session ticket or we couldn't use the one it gave us, or if
1253  *   s->ctx->ext.ticket_key_cb asked to renew the client's ticket.
1254  *   Otherwise, s->ext.ticket_expected is set to 0.
1255  *
1256  *   etick: points to the body of the session ticket extension.
1257  *   eticklen: the length of the session tickets extension.
1258  *   sess_id: points at the session ID.
1259  *   sesslen: the length of the session ID.
1260  *   psess: (output) on return, if a ticket was decrypted, then this is set to
1261  *       point to the resulting session.
1262  */
1263 SSL_TICKET_STATUS tls_decrypt_ticket(SSL *s, const unsigned char *etick,
1264                                      size_t eticklen, const unsigned char *sess_id,
1265                                      size_t sesslen, SSL_SESSION **psess)
1266 {
1267     SSL_SESSION *sess = NULL;
1268     unsigned char *sdec;
1269     const unsigned char *p;
1270     int slen, renew_ticket = 0, declen;
1271     SSL_TICKET_STATUS ret = SSL_TICKET_FATAL_ERR_OTHER;
1272     size_t mlen;
1273     unsigned char tick_hmac[EVP_MAX_MD_SIZE];
1274     HMAC_CTX *hctx = NULL;
1275     EVP_CIPHER_CTX *ctx = NULL;
1276     SSL_CTX *tctx = s->session_ctx;
1277
1278     if (eticklen == 0) {
1279         /*
1280          * The client will accept a ticket but doesn't currently have
1281          * one (TLSv1.2 and below), or treated as a fatal error in TLSv1.3
1282          */
1283         ret = SSL_TICKET_EMPTY;
1284         goto end;
1285     }
1286     if (!SSL_IS_TLS13(s) && s->ext.session_secret_cb) {
1287         /*
1288          * Indicate that the ticket couldn't be decrypted rather than
1289          * generating the session from ticket now, trigger
1290          * abbreviated handshake based on external mechanism to
1291          * calculate the master secret later.
1292          */
1293         ret = SSL_TICKET_NO_DECRYPT;
1294         goto end;
1295     }
1296
1297     /* Need at least keyname + iv */
1298     if (eticklen < TLSEXT_KEYNAME_LENGTH + EVP_MAX_IV_LENGTH) {
1299         ret = SSL_TICKET_NO_DECRYPT;
1300         goto end;
1301     }
1302
1303     /* Initialize session ticket encryption and HMAC contexts */
1304     hctx = HMAC_CTX_new();
1305     if (hctx == NULL) {
1306         ret = SSL_TICKET_FATAL_ERR_MALLOC;
1307         goto end;
1308     }
1309     ctx = EVP_CIPHER_CTX_new();
1310     if (ctx == NULL) {
1311         ret = SSL_TICKET_FATAL_ERR_MALLOC;
1312         goto end;
1313     }
1314     if (tctx->ext.ticket_key_cb) {
1315         unsigned char *nctick = (unsigned char *)etick;
1316         int rv = tctx->ext.ticket_key_cb(s, nctick,
1317                                          nctick + TLSEXT_KEYNAME_LENGTH,
1318                                          ctx, hctx, 0);
1319         if (rv < 0) {
1320             ret = SSL_TICKET_FATAL_ERR_OTHER;
1321             goto end;
1322         }
1323         if (rv == 0) {
1324             ret = SSL_TICKET_NO_DECRYPT;
1325             goto end;
1326         }
1327         if (rv == 2)
1328             renew_ticket = 1;
1329     } else {
1330         /* Check key name matches */
1331         if (memcmp(etick, tctx->ext.tick_key_name,
1332                    TLSEXT_KEYNAME_LENGTH) != 0) {
1333             ret = SSL_TICKET_NO_DECRYPT;
1334             goto end;
1335         }
1336         if (HMAC_Init_ex(hctx, tctx->ext.secure->tick_hmac_key,
1337                          sizeof(tctx->ext.secure->tick_hmac_key),
1338                          EVP_sha256(), NULL) <= 0
1339             || EVP_DecryptInit_ex(ctx, EVP_aes_256_cbc(), NULL,
1340                                   tctx->ext.secure->tick_aes_key,
1341                                   etick + TLSEXT_KEYNAME_LENGTH) <= 0) {
1342             ret = SSL_TICKET_FATAL_ERR_OTHER;
1343             goto end;
1344         }
1345         if (SSL_IS_TLS13(s))
1346             renew_ticket = 1;
1347     }
1348     /*
1349      * Attempt to process session ticket, first conduct sanity and integrity
1350      * checks on ticket.
1351      */
1352     mlen = HMAC_size(hctx);
1353     if (mlen == 0) {
1354         ret = SSL_TICKET_FATAL_ERR_OTHER;
1355         goto end;
1356     }
1357
1358     /* Sanity check ticket length: must exceed keyname + IV + HMAC */
1359     if (eticklen <=
1360         TLSEXT_KEYNAME_LENGTH + EVP_CIPHER_CTX_iv_length(ctx) + mlen) {
1361         ret = SSL_TICKET_NO_DECRYPT;
1362         goto end;
1363     }
1364     eticklen -= mlen;
1365     /* Check HMAC of encrypted ticket */
1366     if (HMAC_Update(hctx, etick, eticklen) <= 0
1367         || HMAC_Final(hctx, tick_hmac, NULL) <= 0) {
1368         ret = SSL_TICKET_FATAL_ERR_OTHER;
1369         goto end;
1370     }
1371
1372     if (CRYPTO_memcmp(tick_hmac, etick + eticklen, mlen)) {
1373         ret = SSL_TICKET_NO_DECRYPT;
1374         goto end;
1375     }
1376     /* Attempt to decrypt session data */
1377     /* Move p after IV to start of encrypted ticket, update length */
1378     p = etick + TLSEXT_KEYNAME_LENGTH + EVP_CIPHER_CTX_iv_length(ctx);
1379     eticklen -= TLSEXT_KEYNAME_LENGTH + EVP_CIPHER_CTX_iv_length(ctx);
1380     sdec = OPENSSL_malloc(eticklen);
1381     if (sdec == NULL || EVP_DecryptUpdate(ctx, sdec, &slen, p,
1382                                           (int)eticklen) <= 0) {
1383         OPENSSL_free(sdec);
1384         ret = SSL_TICKET_FATAL_ERR_OTHER;
1385         goto end;
1386     }
1387     if (EVP_DecryptFinal(ctx, sdec + slen, &declen) <= 0) {
1388         OPENSSL_free(sdec);
1389         ret = SSL_TICKET_NO_DECRYPT;
1390         goto end;
1391     }
1392     slen += declen;
1393     p = sdec;
1394
1395     sess = d2i_SSL_SESSION(NULL, &p, slen);
1396     slen -= p - sdec;
1397     OPENSSL_free(sdec);
1398     if (sess) {
1399         /* Some additional consistency checks */
1400         if (slen != 0) {
1401             SSL_SESSION_free(sess);
1402             sess = NULL;
1403             ret = SSL_TICKET_NO_DECRYPT;
1404             goto end;
1405         }
1406         /*
1407          * The session ID, if non-empty, is used by some clients to detect
1408          * that the ticket has been accepted. So we copy it to the session
1409          * structure. If it is empty set length to zero as required by
1410          * standard.
1411          */
1412         if (sesslen) {
1413             memcpy(sess->session_id, sess_id, sesslen);
1414             sess->session_id_length = sesslen;
1415         }
1416         if (renew_ticket)
1417             ret = SSL_TICKET_SUCCESS_RENEW;
1418         else
1419             ret = SSL_TICKET_SUCCESS;
1420         goto end;
1421     }
1422     ERR_clear_error();
1423     /*
1424      * For session parse failure, indicate that we need to send a new ticket.
1425      */
1426     ret = SSL_TICKET_NO_DECRYPT;
1427
1428  end:
1429     EVP_CIPHER_CTX_free(ctx);
1430     HMAC_CTX_free(hctx);
1431
1432     /*
1433      * If set, the decrypt_ticket_cb() is called unless a fatal error was
1434      * detected above. The callback is responsible for checking |ret| before it
1435      * performs any action
1436      */
1437     if (s->session_ctx->decrypt_ticket_cb != NULL
1438             && (ret == SSL_TICKET_EMPTY
1439                 || ret == SSL_TICKET_NO_DECRYPT
1440                 || ret == SSL_TICKET_SUCCESS
1441                 || ret == SSL_TICKET_SUCCESS_RENEW)) {
1442         size_t keyname_len = eticklen;
1443         int retcb;
1444
1445         if (keyname_len > TLSEXT_KEYNAME_LENGTH)
1446             keyname_len = TLSEXT_KEYNAME_LENGTH;
1447         retcb = s->session_ctx->decrypt_ticket_cb(s, sess, etick, keyname_len,
1448                                                   ret,
1449                                                   s->session_ctx->ticket_cb_data);
1450         switch (retcb) {
1451         case SSL_TICKET_RETURN_ABORT:
1452             ret = SSL_TICKET_FATAL_ERR_OTHER;
1453             break;
1454
1455         case SSL_TICKET_RETURN_IGNORE:
1456             ret = SSL_TICKET_NONE;
1457             SSL_SESSION_free(sess);
1458             sess = NULL;
1459             break;
1460
1461         case SSL_TICKET_RETURN_IGNORE_RENEW:
1462             if (ret != SSL_TICKET_EMPTY && ret != SSL_TICKET_NO_DECRYPT)
1463                 ret = SSL_TICKET_NO_DECRYPT;
1464             /* else the value of |ret| will already do the right thing */
1465             SSL_SESSION_free(sess);
1466             sess = NULL;
1467             break;
1468
1469         case SSL_TICKET_RETURN_USE:
1470         case SSL_TICKET_RETURN_USE_RENEW:
1471             if (ret != SSL_TICKET_SUCCESS
1472                     && ret != SSL_TICKET_SUCCESS_RENEW)
1473                 ret = SSL_TICKET_FATAL_ERR_OTHER;
1474             else if (retcb == SSL_TICKET_RETURN_USE)
1475                 ret = SSL_TICKET_SUCCESS;
1476             else
1477                 ret = SSL_TICKET_SUCCESS_RENEW;
1478             break;
1479
1480         default:
1481             ret = SSL_TICKET_FATAL_ERR_OTHER;
1482         }
1483     }
1484
1485     switch (ret) {
1486     case SSL_TICKET_NO_DECRYPT:
1487     case SSL_TICKET_SUCCESS_RENEW:
1488     case SSL_TICKET_EMPTY:
1489         s->ext.ticket_expected = 1;
1490     }
1491
1492     *psess = sess;
1493
1494     return ret;
1495 }
1496
1497 /* Check to see if a signature algorithm is allowed */
1498 static int tls12_sigalg_allowed(SSL *s, int op, const SIGALG_LOOKUP *lu)
1499 {
1500     unsigned char sigalgstr[2];
1501     int secbits;
1502
1503     /* See if sigalgs is recognised and if hash is enabled */
1504     if (!tls1_lookup_md(lu, NULL))
1505         return 0;
1506     /* DSA is not allowed in TLS 1.3 */
1507     if (SSL_IS_TLS13(s) && lu->sig == EVP_PKEY_DSA)
1508         return 0;
1509     /* TODO(OpenSSL1.2) fully axe DSA/etc. in ClientHello per TLS 1.3 spec */
1510     if (!s->server && !SSL_IS_DTLS(s) && s->s3->tmp.min_ver >= TLS1_3_VERSION
1511         && (lu->sig == EVP_PKEY_DSA || lu->hash_idx == SSL_MD_SHA1_IDX
1512             || lu->hash_idx == SSL_MD_MD5_IDX
1513             || lu->hash_idx == SSL_MD_SHA224_IDX))
1514         return 0;
1515     /* See if public key algorithm allowed */
1516     if (ssl_cert_is_disabled(lu->sig_idx))
1517         return 0;
1518     if (lu->hash == NID_undef)
1519         return 1;
1520     /* Security bits: half digest bits */
1521     secbits = EVP_MD_size(ssl_md(lu->hash_idx)) * 4;
1522     /* Finally see if security callback allows it */
1523     sigalgstr[0] = (lu->sigalg >> 8) & 0xff;
1524     sigalgstr[1] = lu->sigalg & 0xff;
1525     return ssl_security(s, op, secbits, lu->hash, (void *)sigalgstr);
1526 }
1527
1528 /*
1529  * Get a mask of disabled public key algorithms based on supported signature
1530  * algorithms. For example if no signature algorithm supports RSA then RSA is
1531  * disabled.
1532  */
1533
1534 void ssl_set_sig_mask(uint32_t *pmask_a, SSL *s, int op)
1535 {
1536     const uint16_t *sigalgs;
1537     size_t i, sigalgslen;
1538     uint32_t disabled_mask = SSL_aRSA | SSL_aDSS | SSL_aECDSA;
1539     /*
1540      * Go through all signature algorithms seeing if we support any
1541      * in disabled_mask.
1542      */
1543     sigalgslen = tls12_get_psigalgs(s, 1, &sigalgs);
1544     for (i = 0; i < sigalgslen; i++, sigalgs++) {
1545         const SIGALG_LOOKUP *lu = tls1_lookup_sigalg(*sigalgs);
1546         const SSL_CERT_LOOKUP *clu;
1547
1548         if (lu == NULL)
1549             continue;
1550
1551         clu = ssl_cert_lookup_by_idx(lu->sig_idx);
1552         if (clu == NULL)
1553                 continue;
1554
1555         /* If algorithm is disabled see if we can enable it */
1556         if ((clu->amask & disabled_mask) != 0
1557                 && tls12_sigalg_allowed(s, op, lu))
1558             disabled_mask &= ~clu->amask;
1559     }
1560     *pmask_a |= disabled_mask;
1561 }
1562
1563 int tls12_copy_sigalgs(SSL *s, WPACKET *pkt,
1564                        const uint16_t *psig, size_t psiglen)
1565 {
1566     size_t i;
1567     int rv = 0;
1568
1569     for (i = 0; i < psiglen; i++, psig++) {
1570         const SIGALG_LOOKUP *lu = tls1_lookup_sigalg(*psig);
1571
1572         if (!tls12_sigalg_allowed(s, SSL_SECOP_SIGALG_SUPPORTED, lu))
1573             continue;
1574         if (!WPACKET_put_bytes_u16(pkt, *psig))
1575             return 0;
1576         /*
1577          * If TLS 1.3 must have at least one valid TLS 1.3 message
1578          * signing algorithm: i.e. neither RSA nor SHA1/SHA224
1579          */
1580         if (rv == 0 && (!SSL_IS_TLS13(s)
1581             || (lu->sig != EVP_PKEY_RSA
1582                 && lu->hash != NID_sha1
1583                 && lu->hash != NID_sha224)))
1584             rv = 1;
1585     }
1586     if (rv == 0)
1587         SSLerr(SSL_F_TLS12_COPY_SIGALGS, SSL_R_NO_SUITABLE_SIGNATURE_ALGORITHM);
1588     return rv;
1589 }
1590
1591 /* Given preference and allowed sigalgs set shared sigalgs */
1592 static size_t tls12_shared_sigalgs(SSL *s, const SIGALG_LOOKUP **shsig,
1593                                    const uint16_t *pref, size_t preflen,
1594                                    const uint16_t *allow, size_t allowlen)
1595 {
1596     const uint16_t *ptmp, *atmp;
1597     size_t i, j, nmatch = 0;
1598     for (i = 0, ptmp = pref; i < preflen; i++, ptmp++) {
1599         const SIGALG_LOOKUP *lu = tls1_lookup_sigalg(*ptmp);
1600
1601         /* Skip disabled hashes or signature algorithms */
1602         if (!tls12_sigalg_allowed(s, SSL_SECOP_SIGALG_SHARED, lu))
1603             continue;
1604         for (j = 0, atmp = allow; j < allowlen; j++, atmp++) {
1605             if (*ptmp == *atmp) {
1606                 nmatch++;
1607                 if (shsig)
1608                     *shsig++ = lu;
1609                 break;
1610             }
1611         }
1612     }
1613     return nmatch;
1614 }
1615
1616 /* Set shared signature algorithms for SSL structures */
1617 static int tls1_set_shared_sigalgs(SSL *s)
1618 {
1619     const uint16_t *pref, *allow, *conf;
1620     size_t preflen, allowlen, conflen;
1621     size_t nmatch;
1622     const SIGALG_LOOKUP **salgs = NULL;
1623     CERT *c = s->cert;
1624     unsigned int is_suiteb = tls1_suiteb(s);
1625
1626     OPENSSL_free(c->shared_sigalgs);
1627     c->shared_sigalgs = NULL;
1628     c->shared_sigalgslen = 0;
1629     /* If client use client signature algorithms if not NULL */
1630     if (!s->server && c->client_sigalgs && !is_suiteb) {
1631         conf = c->client_sigalgs;
1632         conflen = c->client_sigalgslen;
1633     } else if (c->conf_sigalgs && !is_suiteb) {
1634         conf = c->conf_sigalgs;
1635         conflen = c->conf_sigalgslen;
1636     } else
1637         conflen = tls12_get_psigalgs(s, 0, &conf);
1638     if (s->options & SSL_OP_CIPHER_SERVER_PREFERENCE || is_suiteb) {
1639         pref = conf;
1640         preflen = conflen;
1641         allow = s->s3->tmp.peer_sigalgs;
1642         allowlen = s->s3->tmp.peer_sigalgslen;
1643     } else {
1644         allow = conf;
1645         allowlen = conflen;
1646         pref = s->s3->tmp.peer_sigalgs;
1647         preflen = s->s3->tmp.peer_sigalgslen;
1648     }
1649     nmatch = tls12_shared_sigalgs(s, NULL, pref, preflen, allow, allowlen);
1650     if (nmatch) {
1651         if ((salgs = OPENSSL_malloc(nmatch * sizeof(*salgs))) == NULL) {
1652             SSLerr(SSL_F_TLS1_SET_SHARED_SIGALGS, ERR_R_MALLOC_FAILURE);
1653             return 0;
1654         }
1655         nmatch = tls12_shared_sigalgs(s, salgs, pref, preflen, allow, allowlen);
1656     } else {
1657         salgs = NULL;
1658     }
1659     c->shared_sigalgs = salgs;
1660     c->shared_sigalgslen = nmatch;
1661     return 1;
1662 }
1663
1664 int tls1_save_u16(PACKET *pkt, uint16_t **pdest, size_t *pdestlen)
1665 {
1666     unsigned int stmp;
1667     size_t size, i;
1668     uint16_t *buf;
1669
1670     size = PACKET_remaining(pkt);
1671
1672     /* Invalid data length */
1673     if (size == 0 || (size & 1) != 0)
1674         return 0;
1675
1676     size >>= 1;
1677
1678     if ((buf = OPENSSL_malloc(size * sizeof(*buf))) == NULL)  {
1679         SSLerr(SSL_F_TLS1_SAVE_U16, ERR_R_MALLOC_FAILURE);
1680         return 0;
1681     }
1682     for (i = 0; i < size && PACKET_get_net_2(pkt, &stmp); i++)
1683         buf[i] = stmp;
1684
1685     if (i != size) {
1686         OPENSSL_free(buf);
1687         return 0;
1688     }
1689
1690     OPENSSL_free(*pdest);
1691     *pdest = buf;
1692     *pdestlen = size;
1693
1694     return 1;
1695 }
1696
1697 int tls1_save_sigalgs(SSL *s, PACKET *pkt, int cert)
1698 {
1699     /* Extension ignored for inappropriate versions */
1700     if (!SSL_USE_SIGALGS(s))
1701         return 1;
1702     /* Should never happen */
1703     if (s->cert == NULL)
1704         return 0;
1705
1706     if (cert)
1707         return tls1_save_u16(pkt, &s->s3->tmp.peer_cert_sigalgs,
1708                              &s->s3->tmp.peer_cert_sigalgslen);
1709     else
1710         return tls1_save_u16(pkt, &s->s3->tmp.peer_sigalgs,
1711                              &s->s3->tmp.peer_sigalgslen);
1712
1713 }
1714
1715 /* Set preferred digest for each key type */
1716
1717 int tls1_process_sigalgs(SSL *s)
1718 {
1719     size_t i;
1720     uint32_t *pvalid = s->s3->tmp.valid_flags;
1721     CERT *c = s->cert;
1722
1723     if (!tls1_set_shared_sigalgs(s))
1724         return 0;
1725
1726     for (i = 0; i < SSL_PKEY_NUM; i++)
1727         pvalid[i] = 0;
1728
1729     for (i = 0; i < c->shared_sigalgslen; i++) {
1730         const SIGALG_LOOKUP *sigptr = c->shared_sigalgs[i];
1731         int idx = sigptr->sig_idx;
1732
1733         /* Ignore PKCS1 based sig algs in TLSv1.3 */
1734         if (SSL_IS_TLS13(s) && sigptr->sig == EVP_PKEY_RSA)
1735             continue;
1736         /* If not disabled indicate we can explicitly sign */
1737         if (pvalid[idx] == 0 && !ssl_cert_is_disabled(idx))
1738             pvalid[idx] = CERT_PKEY_EXPLICIT_SIGN | CERT_PKEY_SIGN;
1739     }
1740     return 1;
1741 }
1742
1743 int SSL_get_sigalgs(SSL *s, int idx,
1744                     int *psign, int *phash, int *psignhash,
1745                     unsigned char *rsig, unsigned char *rhash)
1746 {
1747     uint16_t *psig = s->s3->tmp.peer_sigalgs;
1748     size_t numsigalgs = s->s3->tmp.peer_sigalgslen;
1749     if (psig == NULL || numsigalgs > INT_MAX)
1750         return 0;
1751     if (idx >= 0) {
1752         const SIGALG_LOOKUP *lu;
1753
1754         if (idx >= (int)numsigalgs)
1755             return 0;
1756         psig += idx;
1757         if (rhash != NULL)
1758             *rhash = (unsigned char)((*psig >> 8) & 0xff);
1759         if (rsig != NULL)
1760             *rsig = (unsigned char)(*psig & 0xff);
1761         lu = tls1_lookup_sigalg(*psig);
1762         if (psign != NULL)
1763             *psign = lu != NULL ? lu->sig : NID_undef;
1764         if (phash != NULL)
1765             *phash = lu != NULL ? lu->hash : NID_undef;
1766         if (psignhash != NULL)
1767             *psignhash = lu != NULL ? lu->sigandhash : NID_undef;
1768     }
1769     return (int)numsigalgs;
1770 }
1771
1772 int SSL_get_shared_sigalgs(SSL *s, int idx,
1773                            int *psign, int *phash, int *psignhash,
1774                            unsigned char *rsig, unsigned char *rhash)
1775 {
1776     const SIGALG_LOOKUP *shsigalgs;
1777     if (s->cert->shared_sigalgs == NULL
1778         || idx < 0
1779         || idx >= (int)s->cert->shared_sigalgslen
1780         || s->cert->shared_sigalgslen > INT_MAX)
1781         return 0;
1782     shsigalgs = s->cert->shared_sigalgs[idx];
1783     if (phash != NULL)
1784         *phash = shsigalgs->hash;
1785     if (psign != NULL)
1786         *psign = shsigalgs->sig;
1787     if (psignhash != NULL)
1788         *psignhash = shsigalgs->sigandhash;
1789     if (rsig != NULL)
1790         *rsig = (unsigned char)(shsigalgs->sigalg & 0xff);
1791     if (rhash != NULL)
1792         *rhash = (unsigned char)((shsigalgs->sigalg >> 8) & 0xff);
1793     return (int)s->cert->shared_sigalgslen;
1794 }
1795
1796 /* Maximum possible number of unique entries in sigalgs array */
1797 #define TLS_MAX_SIGALGCNT (OSSL_NELEM(sigalg_lookup_tbl) * 2)
1798
1799 typedef struct {
1800     size_t sigalgcnt;
1801     /* TLSEXT_SIGALG_XXX values */
1802     uint16_t sigalgs[TLS_MAX_SIGALGCNT];
1803 } sig_cb_st;
1804
1805 static void get_sigorhash(int *psig, int *phash, const char *str)
1806 {
1807     if (strcmp(str, "RSA") == 0) {
1808         *psig = EVP_PKEY_RSA;
1809     } else if (strcmp(str, "RSA-PSS") == 0 || strcmp(str, "PSS") == 0) {
1810         *psig = EVP_PKEY_RSA_PSS;
1811     } else if (strcmp(str, "DSA") == 0) {
1812         *psig = EVP_PKEY_DSA;
1813     } else if (strcmp(str, "ECDSA") == 0) {
1814         *psig = EVP_PKEY_EC;
1815     } else {
1816         *phash = OBJ_sn2nid(str);
1817         if (*phash == NID_undef)
1818             *phash = OBJ_ln2nid(str);
1819     }
1820 }
1821 /* Maximum length of a signature algorithm string component */
1822 #define TLS_MAX_SIGSTRING_LEN   40
1823
1824 static int sig_cb(const char *elem, int len, void *arg)
1825 {
1826     sig_cb_st *sarg = arg;
1827     size_t i;
1828     const SIGALG_LOOKUP *s;
1829     char etmp[TLS_MAX_SIGSTRING_LEN], *p;
1830     int sig_alg = NID_undef, hash_alg = NID_undef;
1831     if (elem == NULL)
1832         return 0;
1833     if (sarg->sigalgcnt == TLS_MAX_SIGALGCNT)
1834         return 0;
1835     if (len > (int)(sizeof(etmp) - 1))
1836         return 0;
1837     memcpy(etmp, elem, len);
1838     etmp[len] = 0;
1839     p = strchr(etmp, '+');
1840     /*
1841      * We only allow SignatureSchemes listed in the sigalg_lookup_tbl;
1842      * if there's no '+' in the provided name, look for the new-style combined
1843      * name.  If not, match both sig+hash to find the needed SIGALG_LOOKUP.
1844      * Just sig+hash is not unique since TLS 1.3 adds rsa_pss_pss_* and
1845      * rsa_pss_rsae_* that differ only by public key OID; in such cases
1846      * we will pick the _rsae_ variant, by virtue of them appearing earlier
1847      * in the table.
1848      */
1849     if (p == NULL) {
1850         for (i = 0, s = sigalg_lookup_tbl; i < OSSL_NELEM(sigalg_lookup_tbl);
1851              i++, s++) {
1852             if (s->name != NULL && strcmp(etmp, s->name) == 0) {
1853                 sarg->sigalgs[sarg->sigalgcnt++] = s->sigalg;
1854                 break;
1855             }
1856         }
1857         if (i == OSSL_NELEM(sigalg_lookup_tbl))
1858             return 0;
1859     } else {
1860         *p = 0;
1861         p++;
1862         if (*p == 0)
1863             return 0;
1864         get_sigorhash(&sig_alg, &hash_alg, etmp);
1865         get_sigorhash(&sig_alg, &hash_alg, p);
1866         if (sig_alg == NID_undef || hash_alg == NID_undef)
1867             return 0;
1868         for (i = 0, s = sigalg_lookup_tbl; i < OSSL_NELEM(sigalg_lookup_tbl);
1869              i++, s++) {
1870             if (s->hash == hash_alg && s->sig == sig_alg) {
1871                 sarg->sigalgs[sarg->sigalgcnt++] = s->sigalg;
1872                 break;
1873             }
1874         }
1875         if (i == OSSL_NELEM(sigalg_lookup_tbl))
1876             return 0;
1877     }
1878
1879     /* Reject duplicates */
1880     for (i = 0; i < sarg->sigalgcnt - 1; i++) {
1881         if (sarg->sigalgs[i] == sarg->sigalgs[sarg->sigalgcnt - 1]) {
1882             sarg->sigalgcnt--;
1883             return 0;
1884         }
1885     }
1886     return 1;
1887 }
1888
1889 /*
1890  * Set supported signature algorithms based on a colon separated list of the
1891  * form sig+hash e.g. RSA+SHA512:DSA+SHA512
1892  */
1893 int tls1_set_sigalgs_list(CERT *c, const char *str, int client)
1894 {
1895     sig_cb_st sig;
1896     sig.sigalgcnt = 0;
1897     if (!CONF_parse_list(str, ':', 1, sig_cb, &sig))
1898         return 0;
1899     if (c == NULL)
1900         return 1;
1901     return tls1_set_raw_sigalgs(c, sig.sigalgs, sig.sigalgcnt, client);
1902 }
1903
1904 int tls1_set_raw_sigalgs(CERT *c, const uint16_t *psigs, size_t salglen,
1905                      int client)
1906 {
1907     uint16_t *sigalgs;
1908
1909     if ((sigalgs = OPENSSL_malloc(salglen * sizeof(*sigalgs))) == NULL) {
1910         SSLerr(SSL_F_TLS1_SET_RAW_SIGALGS, ERR_R_MALLOC_FAILURE);
1911         return 0;
1912     }
1913     memcpy(sigalgs, psigs, salglen * sizeof(*sigalgs));
1914
1915     if (client) {
1916         OPENSSL_free(c->client_sigalgs);
1917         c->client_sigalgs = sigalgs;
1918         c->client_sigalgslen = salglen;
1919     } else {
1920         OPENSSL_free(c->conf_sigalgs);
1921         c->conf_sigalgs = sigalgs;
1922         c->conf_sigalgslen = salglen;
1923     }
1924
1925     return 1;
1926 }
1927
1928 int tls1_set_sigalgs(CERT *c, const int *psig_nids, size_t salglen, int client)
1929 {
1930     uint16_t *sigalgs, *sptr;
1931     size_t i;
1932
1933     if (salglen & 1)
1934         return 0;
1935     if ((sigalgs = OPENSSL_malloc((salglen / 2) * sizeof(*sigalgs))) == NULL) {
1936         SSLerr(SSL_F_TLS1_SET_SIGALGS, ERR_R_MALLOC_FAILURE);
1937         return 0;
1938     }
1939     for (i = 0, sptr = sigalgs; i < salglen; i += 2) {
1940         size_t j;
1941         const SIGALG_LOOKUP *curr;
1942         int md_id = *psig_nids++;
1943         int sig_id = *psig_nids++;
1944
1945         for (j = 0, curr = sigalg_lookup_tbl; j < OSSL_NELEM(sigalg_lookup_tbl);
1946              j++, curr++) {
1947             if (curr->hash == md_id && curr->sig == sig_id) {
1948                 *sptr++ = curr->sigalg;
1949                 break;
1950             }
1951         }
1952
1953         if (j == OSSL_NELEM(sigalg_lookup_tbl))
1954             goto err;
1955     }
1956
1957     if (client) {
1958         OPENSSL_free(c->client_sigalgs);
1959         c->client_sigalgs = sigalgs;
1960         c->client_sigalgslen = salglen / 2;
1961     } else {
1962         OPENSSL_free(c->conf_sigalgs);
1963         c->conf_sigalgs = sigalgs;
1964         c->conf_sigalgslen = salglen / 2;
1965     }
1966
1967     return 1;
1968
1969  err:
1970     OPENSSL_free(sigalgs);
1971     return 0;
1972 }
1973
1974 static int tls1_check_sig_alg(CERT *c, X509 *x, int default_nid)
1975 {
1976     int sig_nid;
1977     size_t i;
1978     if (default_nid == -1)
1979         return 1;
1980     sig_nid = X509_get_signature_nid(x);
1981     if (default_nid)
1982         return sig_nid == default_nid ? 1 : 0;
1983     for (i = 0; i < c->shared_sigalgslen; i++)
1984         if (sig_nid == c->shared_sigalgs[i]->sigandhash)
1985             return 1;
1986     return 0;
1987 }
1988
1989 /* Check to see if a certificate issuer name matches list of CA names */
1990 static int ssl_check_ca_name(STACK_OF(X509_NAME) *names, X509 *x)
1991 {
1992     X509_NAME *nm;
1993     int i;
1994     nm = X509_get_issuer_name(x);
1995     for (i = 0; i < sk_X509_NAME_num(names); i++) {
1996         if (!X509_NAME_cmp(nm, sk_X509_NAME_value(names, i)))
1997             return 1;
1998     }
1999     return 0;
2000 }
2001
2002 /*
2003  * Check certificate chain is consistent with TLS extensions and is usable by
2004  * server. This servers two purposes: it allows users to check chains before
2005  * passing them to the server and it allows the server to check chains before
2006  * attempting to use them.
2007  */
2008
2009 /* Flags which need to be set for a certificate when strict mode not set */
2010
2011 #define CERT_PKEY_VALID_FLAGS \
2012         (CERT_PKEY_EE_SIGNATURE|CERT_PKEY_EE_PARAM)
2013 /* Strict mode flags */
2014 #define CERT_PKEY_STRICT_FLAGS \
2015          (CERT_PKEY_VALID_FLAGS|CERT_PKEY_CA_SIGNATURE|CERT_PKEY_CA_PARAM \
2016          | CERT_PKEY_ISSUER_NAME|CERT_PKEY_CERT_TYPE)
2017
2018 int tls1_check_chain(SSL *s, X509 *x, EVP_PKEY *pk, STACK_OF(X509) *chain,
2019                      int idx)
2020 {
2021     int i;
2022     int rv = 0;
2023     int check_flags = 0, strict_mode;
2024     CERT_PKEY *cpk = NULL;
2025     CERT *c = s->cert;
2026     uint32_t *pvalid;
2027     unsigned int suiteb_flags = tls1_suiteb(s);
2028     /* idx == -1 means checking server chains */
2029     if (idx != -1) {
2030         /* idx == -2 means checking client certificate chains */
2031         if (idx == -2) {
2032             cpk = c->key;
2033             idx = (int)(cpk - c->pkeys);
2034         } else
2035             cpk = c->pkeys + idx;
2036         pvalid = s->s3->tmp.valid_flags + idx;
2037         x = cpk->x509;
2038         pk = cpk->privatekey;
2039         chain = cpk->chain;
2040         strict_mode = c->cert_flags & SSL_CERT_FLAGS_CHECK_TLS_STRICT;
2041         /* If no cert or key, forget it */
2042         if (!x || !pk)
2043             goto end;
2044     } else {
2045         size_t certidx;
2046
2047         if (!x || !pk)
2048             return 0;
2049
2050         if (ssl_cert_lookup_by_pkey(pk, &certidx) == NULL)
2051             return 0;
2052         idx = certidx;
2053         pvalid = s->s3->tmp.valid_flags + idx;
2054
2055         if (c->cert_flags & SSL_CERT_FLAGS_CHECK_TLS_STRICT)
2056             check_flags = CERT_PKEY_STRICT_FLAGS;
2057         else
2058             check_flags = CERT_PKEY_VALID_FLAGS;
2059         strict_mode = 1;
2060     }
2061
2062     if (suiteb_flags) {
2063         int ok;
2064         if (check_flags)
2065             check_flags |= CERT_PKEY_SUITEB;
2066         ok = X509_chain_check_suiteb(NULL, x, chain, suiteb_flags);
2067         if (ok == X509_V_OK)
2068             rv |= CERT_PKEY_SUITEB;
2069         else if (!check_flags)
2070             goto end;
2071     }
2072
2073     /*
2074      * Check all signature algorithms are consistent with signature
2075      * algorithms extension if TLS 1.2 or later and strict mode.
2076      */
2077     if (TLS1_get_version(s) >= TLS1_2_VERSION && strict_mode) {
2078         int default_nid;
2079         int rsign = 0;
2080         if (s->s3->tmp.peer_cert_sigalgs != NULL
2081                 || s->s3->tmp.peer_sigalgs != NULL) {
2082             default_nid = 0;
2083         /* If no sigalgs extension use defaults from RFC5246 */
2084         } else {
2085             switch (idx) {
2086             case SSL_PKEY_RSA:
2087                 rsign = EVP_PKEY_RSA;
2088                 default_nid = NID_sha1WithRSAEncryption;
2089                 break;
2090
2091             case SSL_PKEY_DSA_SIGN:
2092                 rsign = EVP_PKEY_DSA;
2093                 default_nid = NID_dsaWithSHA1;
2094                 break;
2095
2096             case SSL_PKEY_ECC:
2097                 rsign = EVP_PKEY_EC;
2098                 default_nid = NID_ecdsa_with_SHA1;
2099                 break;
2100
2101             case SSL_PKEY_GOST01:
2102                 rsign = NID_id_GostR3410_2001;
2103                 default_nid = NID_id_GostR3411_94_with_GostR3410_2001;
2104                 break;
2105
2106             case SSL_PKEY_GOST12_256:
2107                 rsign = NID_id_GostR3410_2012_256;
2108                 default_nid = NID_id_tc26_signwithdigest_gost3410_2012_256;
2109                 break;
2110
2111             case SSL_PKEY_GOST12_512:
2112                 rsign = NID_id_GostR3410_2012_512;
2113                 default_nid = NID_id_tc26_signwithdigest_gost3410_2012_512;
2114                 break;
2115
2116             default:
2117                 default_nid = -1;
2118                 break;
2119             }
2120         }
2121         /*
2122          * If peer sent no signature algorithms extension and we have set
2123          * preferred signature algorithms check we support sha1.
2124          */
2125         if (default_nid > 0 && c->conf_sigalgs) {
2126             size_t j;
2127             const uint16_t *p = c->conf_sigalgs;
2128             for (j = 0; j < c->conf_sigalgslen; j++, p++) {
2129                 const SIGALG_LOOKUP *lu = tls1_lookup_sigalg(*p);
2130
2131                 if (lu != NULL && lu->hash == NID_sha1 && lu->sig == rsign)
2132                     break;
2133             }
2134             if (j == c->conf_sigalgslen) {
2135                 if (check_flags)
2136                     goto skip_sigs;
2137                 else
2138                     goto end;
2139             }
2140         }
2141         /* Check signature algorithm of each cert in chain */
2142         if (!tls1_check_sig_alg(c, x, default_nid)) {
2143             if (!check_flags)
2144                 goto end;
2145         } else
2146             rv |= CERT_PKEY_EE_SIGNATURE;
2147         rv |= CERT_PKEY_CA_SIGNATURE;
2148         for (i = 0; i < sk_X509_num(chain); i++) {
2149             if (!tls1_check_sig_alg(c, sk_X509_value(chain, i), default_nid)) {
2150                 if (check_flags) {
2151                     rv &= ~CERT_PKEY_CA_SIGNATURE;
2152                     break;
2153                 } else
2154                     goto end;
2155             }
2156         }
2157     }
2158     /* Else not TLS 1.2, so mark EE and CA signing algorithms OK */
2159     else if (check_flags)
2160         rv |= CERT_PKEY_EE_SIGNATURE | CERT_PKEY_CA_SIGNATURE;
2161  skip_sigs:
2162     /* Check cert parameters are consistent */
2163     if (tls1_check_cert_param(s, x, 1))
2164         rv |= CERT_PKEY_EE_PARAM;
2165     else if (!check_flags)
2166         goto end;
2167     if (!s->server)
2168         rv |= CERT_PKEY_CA_PARAM;
2169     /* In strict mode check rest of chain too */
2170     else if (strict_mode) {
2171         rv |= CERT_PKEY_CA_PARAM;
2172         for (i = 0; i < sk_X509_num(chain); i++) {
2173             X509 *ca = sk_X509_value(chain, i);
2174             if (!tls1_check_cert_param(s, ca, 0)) {
2175                 if (check_flags) {
2176                     rv &= ~CERT_PKEY_CA_PARAM;
2177                     break;
2178                 } else
2179                     goto end;
2180             }
2181         }
2182     }
2183     if (!s->server && strict_mode) {
2184         STACK_OF(X509_NAME) *ca_dn;
2185         int check_type = 0;
2186         switch (EVP_PKEY_id(pk)) {
2187         case EVP_PKEY_RSA:
2188             check_type = TLS_CT_RSA_SIGN;
2189             break;
2190         case EVP_PKEY_DSA:
2191             check_type = TLS_CT_DSS_SIGN;
2192             break;
2193         case EVP_PKEY_EC:
2194             check_type = TLS_CT_ECDSA_SIGN;
2195             break;
2196         }
2197         if (check_type) {
2198             const uint8_t *ctypes = s->s3->tmp.ctype;
2199             size_t j;
2200
2201             for (j = 0; j < s->s3->tmp.ctype_len; j++, ctypes++) {
2202                 if (*ctypes == check_type) {
2203                     rv |= CERT_PKEY_CERT_TYPE;
2204                     break;
2205                 }
2206             }
2207             if (!(rv & CERT_PKEY_CERT_TYPE) && !check_flags)
2208                 goto end;
2209         } else {
2210             rv |= CERT_PKEY_CERT_TYPE;
2211         }
2212
2213         ca_dn = s->s3->tmp.peer_ca_names;
2214
2215         if (!sk_X509_NAME_num(ca_dn))
2216             rv |= CERT_PKEY_ISSUER_NAME;
2217
2218         if (!(rv & CERT_PKEY_ISSUER_NAME)) {
2219             if (ssl_check_ca_name(ca_dn, x))
2220                 rv |= CERT_PKEY_ISSUER_NAME;
2221         }
2222         if (!(rv & CERT_PKEY_ISSUER_NAME)) {
2223             for (i = 0; i < sk_X509_num(chain); i++) {
2224                 X509 *xtmp = sk_X509_value(chain, i);
2225                 if (ssl_check_ca_name(ca_dn, xtmp)) {
2226                     rv |= CERT_PKEY_ISSUER_NAME;
2227                     break;
2228                 }
2229             }
2230         }
2231         if (!check_flags && !(rv & CERT_PKEY_ISSUER_NAME))
2232             goto end;
2233     } else
2234         rv |= CERT_PKEY_ISSUER_NAME | CERT_PKEY_CERT_TYPE;
2235
2236     if (!check_flags || (rv & check_flags) == check_flags)
2237         rv |= CERT_PKEY_VALID;
2238
2239  end:
2240
2241     if (TLS1_get_version(s) >= TLS1_2_VERSION)
2242         rv |= *pvalid & (CERT_PKEY_EXPLICIT_SIGN | CERT_PKEY_SIGN);
2243     else
2244         rv |= CERT_PKEY_SIGN | CERT_PKEY_EXPLICIT_SIGN;
2245
2246     /*
2247      * When checking a CERT_PKEY structure all flags are irrelevant if the
2248      * chain is invalid.
2249      */
2250     if (!check_flags) {
2251         if (rv & CERT_PKEY_VALID) {
2252             *pvalid = rv;
2253         } else {
2254             /* Preserve sign and explicit sign flag, clear rest */
2255             *pvalid &= CERT_PKEY_EXPLICIT_SIGN | CERT_PKEY_SIGN;
2256             return 0;
2257         }
2258     }
2259     return rv;
2260 }
2261
2262 /* Set validity of certificates in an SSL structure */
2263 void tls1_set_cert_validity(SSL *s)
2264 {
2265     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_RSA);
2266     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_RSA_PSS_SIGN);
2267     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_DSA_SIGN);
2268     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_ECC);
2269     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_GOST01);
2270     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_GOST12_256);
2271     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_GOST12_512);
2272     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_ED25519);
2273     tls1_check_chain(s, NULL, NULL, NULL, SSL_PKEY_ED448);
2274 }
2275
2276 /* User level utility function to check a chain is suitable */
2277 int SSL_check_chain(SSL *s, X509 *x, EVP_PKEY *pk, STACK_OF(X509) *chain)
2278 {
2279     return tls1_check_chain(s, x, pk, chain, -1);
2280 }
2281
2282 #ifndef OPENSSL_NO_DH
2283 DH *ssl_get_auto_dh(SSL *s)
2284 {
2285     int dh_secbits = 80;
2286     if (s->cert->dh_tmp_auto == 2)
2287         return DH_get_1024_160();
2288     if (s->s3->tmp.new_cipher->algorithm_auth & (SSL_aNULL | SSL_aPSK)) {
2289         if (s->s3->tmp.new_cipher->strength_bits == 256)
2290             dh_secbits = 128;
2291         else
2292             dh_secbits = 80;
2293     } else {
2294         if (s->s3->tmp.cert == NULL)
2295             return NULL;
2296         dh_secbits = EVP_PKEY_security_bits(s->s3->tmp.cert->privatekey);
2297     }
2298
2299     if (dh_secbits >= 128) {
2300         DH *dhp = DH_new();
2301         BIGNUM *p, *g;
2302         if (dhp == NULL)
2303             return NULL;
2304         g = BN_new();
2305         if (g != NULL)
2306             BN_set_word(g, 2);
2307         if (dh_secbits >= 192)
2308             p = BN_get_rfc3526_prime_8192(NULL);
2309         else
2310             p = BN_get_rfc3526_prime_3072(NULL);
2311         if (p == NULL || g == NULL || !DH_set0_pqg(dhp, p, NULL, g)) {
2312             DH_free(dhp);
2313             BN_free(p);
2314             BN_free(g);
2315             return NULL;
2316         }
2317         return dhp;
2318     }
2319     if (dh_secbits >= 112)
2320         return DH_get_2048_224();
2321     return DH_get_1024_160();
2322 }
2323 #endif
2324
2325 static int ssl_security_cert_key(SSL *s, SSL_CTX *ctx, X509 *x, int op)
2326 {
2327     int secbits = -1;
2328     EVP_PKEY *pkey = X509_get0_pubkey(x);
2329     if (pkey) {
2330         /*
2331          * If no parameters this will return -1 and fail using the default
2332          * security callback for any non-zero security level. This will
2333          * reject keys which omit parameters but this only affects DSA and
2334          * omission of parameters is never (?) done in practice.
2335          */
2336         secbits = EVP_PKEY_security_bits(pkey);
2337     }
2338     if (s)
2339         return ssl_security(s, op, secbits, 0, x);
2340     else
2341         return ssl_ctx_security(ctx, op, secbits, 0, x);
2342 }
2343
2344 static int ssl_security_cert_sig(SSL *s, SSL_CTX *ctx, X509 *x, int op)
2345 {
2346     /* Lookup signature algorithm digest */
2347     int secbits, nid, pknid;
2348     /* Don't check signature if self signed */
2349     if ((X509_get_extension_flags(x) & EXFLAG_SS) != 0)
2350         return 1;
2351     if (!X509_get_signature_info(x, &nid, &pknid, &secbits, NULL))
2352         secbits = -1;
2353     /* If digest NID not defined use signature NID */
2354     if (nid == NID_undef)
2355         nid = pknid;
2356     if (s)
2357         return ssl_security(s, op, secbits, nid, x);
2358     else
2359         return ssl_ctx_security(ctx, op, secbits, nid, x);
2360 }
2361
2362 int ssl_security_cert(SSL *s, SSL_CTX *ctx, X509 *x, int vfy, int is_ee)
2363 {
2364     if (vfy)
2365         vfy = SSL_SECOP_PEER;
2366     if (is_ee) {
2367         if (!ssl_security_cert_key(s, ctx, x, SSL_SECOP_EE_KEY | vfy))
2368             return SSL_R_EE_KEY_TOO_SMALL;
2369     } else {
2370         if (!ssl_security_cert_key(s, ctx, x, SSL_SECOP_CA_KEY | vfy))
2371             return SSL_R_CA_KEY_TOO_SMALL;
2372     }
2373     if (!ssl_security_cert_sig(s, ctx, x, SSL_SECOP_CA_MD | vfy))
2374         return SSL_R_CA_MD_TOO_WEAK;
2375     return 1;
2376 }
2377
2378 /*
2379  * Check security of a chain, if |sk| includes the end entity certificate then
2380  * |x| is NULL. If |vfy| is 1 then we are verifying a peer chain and not sending
2381  * one to the peer. Return values: 1 if ok otherwise error code to use
2382  */
2383
2384 int ssl_security_cert_chain(SSL *s, STACK_OF(X509) *sk, X509 *x, int vfy)
2385 {
2386     int rv, start_idx, i;
2387     if (x == NULL) {
2388         x = sk_X509_value(sk, 0);
2389         start_idx = 1;
2390     } else
2391         start_idx = 0;
2392
2393     rv = ssl_security_cert(s, NULL, x, vfy, 1);
2394     if (rv != 1)
2395         return rv;
2396
2397     for (i = start_idx; i < sk_X509_num(sk); i++) {
2398         x = sk_X509_value(sk, i);
2399         rv = ssl_security_cert(s, NULL, x, vfy, 0);
2400         if (rv != 1)
2401             return rv;
2402     }
2403     return 1;
2404 }
2405
2406 /*
2407  * For TLS 1.2 servers check if we have a certificate which can be used
2408  * with the signature algorithm "lu" and return index of certificate.
2409  */
2410
2411 static int tls12_get_cert_sigalg_idx(const SSL *s, const SIGALG_LOOKUP *lu)
2412 {
2413     int sig_idx = lu->sig_idx;
2414     const SSL_CERT_LOOKUP *clu = ssl_cert_lookup_by_idx(sig_idx);
2415
2416     /* If not recognised or not supported by cipher mask it is not suitable */
2417     if (clu == NULL || !(clu->amask & s->s3->tmp.new_cipher->algorithm_auth))
2418         return -1;
2419
2420     return s->s3->tmp.valid_flags[sig_idx] & CERT_PKEY_VALID ? sig_idx : -1;
2421 }
2422
2423 /*
2424  * Returns true if |s| has a usable certificate configured for use
2425  * with signature scheme |sig|.
2426  * "Usable" includes a check for presence as well as applying
2427  * the signature_algorithm_cert restrictions sent by the peer (if any).
2428  * Returns false if no usable certificate is found.
2429  */
2430 static int has_usable_cert(SSL *s, const SIGALG_LOOKUP *sig, int idx)
2431 {
2432     const SIGALG_LOOKUP *lu;
2433     int mdnid, pknid;
2434     size_t i;
2435
2436     /* TLS 1.2 callers can override lu->sig_idx, but not TLS 1.3 callers. */
2437     if (idx == -1)
2438         idx = sig->sig_idx;
2439     if (!ssl_has_cert(s, idx))
2440         return 0;
2441     if (s->s3->tmp.peer_cert_sigalgs != NULL) {
2442         for (i = 0; i < s->s3->tmp.peer_cert_sigalgslen; i++) {
2443             lu = tls1_lookup_sigalg(s->s3->tmp.peer_cert_sigalgs[i]);
2444             if (lu == NULL
2445                 || !X509_get_signature_info(s->cert->pkeys[idx].x509, &mdnid,
2446                                             &pknid, NULL, NULL))
2447                 continue;
2448             /*
2449              * TODO this does not differentiate between the
2450              * rsa_pss_pss_* and rsa_pss_rsae_* schemes since we do not
2451              * have a chain here that lets us look at the key OID in the
2452              * signing certificate.
2453              */
2454             if (mdnid == lu->hash && pknid == lu->sig)
2455                 return 1;
2456         }
2457         return 0;
2458     }
2459     return 1;
2460 }
2461
2462 /*
2463  * Choose an appropriate signature algorithm based on available certificates
2464  * Sets chosen certificate and signature algorithm.
2465  *
2466  * For servers if we fail to find a required certificate it is a fatal error,
2467  * an appropriate error code is set and a TLS alert is sent.
2468  *
2469  * For clients fatalerrs is set to 0. If a certificate is not suitable it is not
2470  * a fatal error: we will either try another certificate or not present one
2471  * to the server. In this case no error is set.
2472  */
2473 int tls_choose_sigalg(SSL *s, int fatalerrs)
2474 {
2475     const SIGALG_LOOKUP *lu = NULL;
2476     int sig_idx = -1;
2477
2478     s->s3->tmp.cert = NULL;
2479     s->s3->tmp.sigalg = NULL;
2480
2481     if (SSL_IS_TLS13(s)) {
2482         size_t i;
2483 #ifndef OPENSSL_NO_EC
2484         int curve = -1;
2485 #endif
2486
2487         /* Look for a certificate matching shared sigalgs */
2488         for (i = 0; i < s->cert->shared_sigalgslen; i++) {
2489             lu = s->cert->shared_sigalgs[i];
2490             sig_idx = -1;
2491
2492             /* Skip SHA1, SHA224, DSA and RSA if not PSS */
2493             if (lu->hash == NID_sha1
2494                 || lu->hash == NID_sha224
2495                 || lu->sig == EVP_PKEY_DSA
2496                 || lu->sig == EVP_PKEY_RSA)
2497                 continue;
2498             /* Check that we have a cert, and signature_algorithms_cert */
2499             if (!tls1_lookup_md(lu, NULL) || !has_usable_cert(s, lu, -1))
2500                 continue;
2501             if (lu->sig == EVP_PKEY_EC) {
2502 #ifndef OPENSSL_NO_EC
2503                 if (curve == -1) {
2504                     EC_KEY *ec = EVP_PKEY_get0_EC_KEY(s->cert->pkeys[SSL_PKEY_ECC].privatekey);
2505
2506                     curve = EC_GROUP_get_curve_name(EC_KEY_get0_group(ec));
2507                 }
2508                 if (lu->curve != NID_undef && curve != lu->curve)
2509                     continue;
2510 #else
2511                 continue;
2512 #endif
2513             } else if (lu->sig == EVP_PKEY_RSA_PSS) {
2514                 /* validate that key is large enough for the signature algorithm */
2515                 EVP_PKEY *pkey;
2516
2517                 pkey = s->cert->pkeys[lu->sig_idx].privatekey;
2518                 if (!rsa_pss_check_min_key_size(EVP_PKEY_get0(pkey), lu))
2519                     continue;
2520             }
2521             break;
2522         }
2523         if (i == s->cert->shared_sigalgslen) {
2524             if (!fatalerrs)
2525                 return 1;
2526             SSLfatal(s, SSL_AD_HANDSHAKE_FAILURE, SSL_F_TLS_CHOOSE_SIGALG,
2527                      SSL_R_NO_SUITABLE_SIGNATURE_ALGORITHM);
2528             return 0;
2529         }
2530     } else {
2531         /* If ciphersuite doesn't require a cert nothing to do */
2532         if (!(s->s3->tmp.new_cipher->algorithm_auth & SSL_aCERT))
2533             return 1;
2534         if (!s->server && !ssl_has_cert(s, s->cert->key - s->cert->pkeys))
2535                 return 1;
2536
2537         if (SSL_USE_SIGALGS(s)) {
2538             size_t i;
2539             if (s->s3->tmp.peer_sigalgs != NULL) {
2540 #ifndef OPENSSL_NO_EC
2541                 int curve;
2542
2543                 /* For Suite B need to match signature algorithm to curve */
2544                 if (tls1_suiteb(s)) {
2545                     EC_KEY *ec = EVP_PKEY_get0_EC_KEY(s->cert->pkeys[SSL_PKEY_ECC].privatekey);
2546                     curve = EC_GROUP_get_curve_name(EC_KEY_get0_group(ec));
2547                 } else {
2548                     curve = -1;
2549                 }
2550 #endif
2551
2552                 /*
2553                  * Find highest preference signature algorithm matching
2554                  * cert type
2555                  */
2556                 for (i = 0; i < s->cert->shared_sigalgslen; i++) {
2557                     lu = s->cert->shared_sigalgs[i];
2558
2559                     if (s->server) {
2560                         if ((sig_idx = tls12_get_cert_sigalg_idx(s, lu)) == -1)
2561                             continue;
2562                     } else {
2563                         int cc_idx = s->cert->key - s->cert->pkeys;
2564
2565                         sig_idx = lu->sig_idx;
2566                         if (cc_idx != sig_idx)
2567                             continue;
2568                     }
2569                     /* Check that we have a cert, and sig_algs_cert */
2570                     if (!has_usable_cert(s, lu, sig_idx))
2571                         continue;
2572                     if (lu->sig == EVP_PKEY_RSA_PSS) {
2573                         /* validate that key is large enough for the signature algorithm */
2574                         EVP_PKEY *pkey = s->cert->pkeys[sig_idx].privatekey;
2575
2576                         if (!rsa_pss_check_min_key_size(EVP_PKEY_get0(pkey), lu))
2577                             continue;
2578                     }
2579 #ifndef OPENSSL_NO_EC
2580                     if (curve == -1 || lu->curve == curve)
2581 #endif
2582                         break;
2583                 }
2584                 if (i == s->cert->shared_sigalgslen) {
2585                     if (!fatalerrs)
2586                         return 1;
2587                     SSLfatal(s, SSL_AD_INTERNAL_ERROR, SSL_F_TLS_CHOOSE_SIGALG,
2588                              ERR_R_INTERNAL_ERROR);
2589                     return 0;
2590                 }
2591             } else {
2592                 /*
2593                  * If we have no sigalg use defaults
2594                  */
2595                 const uint16_t *sent_sigs;
2596                 size_t sent_sigslen;
2597
2598                 if ((lu = tls1_get_legacy_sigalg(s, -1)) == NULL) {
2599                     if (!fatalerrs)
2600                         return 1;
2601                     SSLfatal(s, SSL_AD_INTERNAL_ERROR, SSL_F_TLS_CHOOSE_SIGALG,
2602                              ERR_R_INTERNAL_ERROR);
2603                     return 0;
2604                 }
2605
2606                 /* Check signature matches a type we sent */
2607                 sent_sigslen = tls12_get_psigalgs(s, 1, &sent_sigs);
2608                 for (i = 0; i < sent_sigslen; i++, sent_sigs++) {
2609                     if (lu->sigalg == *sent_sigs
2610                             && has_usable_cert(s, lu, lu->sig_idx))
2611                         break;
2612                 }
2613                 if (i == sent_sigslen) {
2614                     if (!fatalerrs)
2615                         return 1;
2616                     SSLfatal(s, SSL_AD_ILLEGAL_PARAMETER,
2617                              SSL_F_TLS_CHOOSE_SIGALG,
2618                              SSL_R_WRONG_SIGNATURE_TYPE);
2619                     return 0;
2620                 }
2621             }
2622         } else {
2623             if ((lu = tls1_get_legacy_sigalg(s, -1)) == NULL) {
2624                 if (!fatalerrs)
2625                     return 1;
2626                 SSLfatal(s, SSL_AD_INTERNAL_ERROR, SSL_F_TLS_CHOOSE_SIGALG,
2627                          ERR_R_INTERNAL_ERROR);
2628                 return 0;
2629             }
2630         }
2631     }
2632     if (sig_idx == -1)
2633         sig_idx = lu->sig_idx;
2634     s->s3->tmp.cert = &s->cert->pkeys[sig_idx];
2635     s->cert->key = s->s3->tmp.cert;
2636     s->s3->tmp.sigalg = lu;
2637     return 1;
2638 }
2639
2640 int SSL_CTX_set_tlsext_max_fragment_length(SSL_CTX *ctx, uint8_t mode)
2641 {
2642     if (mode != TLSEXT_max_fragment_length_DISABLED
2643             && !IS_MAX_FRAGMENT_LENGTH_EXT_VALID(mode)) {
2644         SSLerr(SSL_F_SSL_CTX_SET_TLSEXT_MAX_FRAGMENT_LENGTH,
2645                SSL_R_SSL3_EXT_INVALID_MAX_FRAGMENT_LENGTH);
2646         return 0;
2647     }
2648
2649     ctx->ext.max_fragment_len_mode = mode;
2650     return 1;
2651 }
2652
2653 int SSL_set_tlsext_max_fragment_length(SSL *ssl, uint8_t mode)
2654 {
2655     if (mode != TLSEXT_max_fragment_length_DISABLED
2656             && !IS_MAX_FRAGMENT_LENGTH_EXT_VALID(mode)) {
2657         SSLerr(SSL_F_SSL_SET_TLSEXT_MAX_FRAGMENT_LENGTH,
2658                SSL_R_SSL3_EXT_INVALID_MAX_FRAGMENT_LENGTH);
2659         return 0;
2660     }
2661
2662     ssl->ext.max_fragment_len_mode = mode;
2663     return 1;
2664 }
2665
2666 uint8_t SSL_SESSION_get_max_fragment_length(const SSL_SESSION *session)
2667 {
2668     return session->ext.max_fragment_len_mode;
2669 }