ssl/s3_enc.c

   1 /* ssl/s3_enc.c */
   2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
   3  * All rights reserved.
   4  *
   5  * This package is an SSL implementation written
   6  * by Eric Young (eay@cryptsoft.com).
   7  * The implementation was written so as to conform with Netscapes SSL.
   8  *
   9  * This library is free for commercial and non-commercial use as long as
  10  * the following conditions are aheared to.  The following conditions
  11  * apply to all code found in this distribution, be it the RC4, RSA,
  12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
  13  * included with this distribution is covered by the same copyright terms
  14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
  15  *
  16  * Copyright remains Eric Young's, and as such any Copyright notices in
  17  * the code are not to be removed.
  18  * If this package is used in a product, Eric Young should be given attribution
  19  * as the author of the parts of the library used.
  20  * This can be in the form of a textual message at program startup or
  21  * in documentation (online or textual) provided with the package.
  22  *
  23  * Redistribution and use in source and binary forms, with or without
  24  * modification, are permitted provided that the following conditions
  25  * are met:
  26  * 1. Redistributions of source code must retain the copyright
  27  *    notice, this list of conditions and the following disclaimer.
  28  * 2. Redistributions in binary form must reproduce the above copyright
  29  *    notice, this list of conditions and the following disclaimer in the
  30  *    documentation and/or other materials provided with the distribution.
  31  * 3. All advertising materials mentioning features or use of this software
  32  *    must display the following acknowledgement:
  33  *    "This product includes cryptographic software written by
  34  *     Eric Young (eay@cryptsoft.com)"
  35  *    The word 'cryptographic' can be left out if the rouines from the library
  36  *    being used are not cryptographic related :-).
  37  * 4. If you include any Windows specific code (or a derivative thereof) from
  38  *    the apps directory (application code) you must include an acknowledgement:
  39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
  40  *
  41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
  42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
  45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  51  * SUCH DAMAGE.
  52  *
  53  * The licence and distribution terms for any publically available version or
  54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
  55  * copied and put under another distribution licence
  56  * [including the GNU Public Licence.]
  57  */
  58 /* ====================================================================
  59  * Copyright (c) 1998-2007 The OpenSSL Project.  All rights reserved.
  60  *
  61  * Redistribution and use in source and binary forms, with or without
  62  * modification, are permitted provided that the following conditions
  63  * are met:
  64  *
  65  * 1. Redistributions of source code must retain the above copyright
  66  *    notice, this list of conditions and the following disclaimer.
  67  *
  68  * 2. Redistributions in binary form must reproduce the above copyright
  69  *    notice, this list of conditions and the following disclaimer in
  70  *    the documentation and/or other materials provided with the
  71  *    distribution.
  72  *
  73  * 3. All advertising materials mentioning features or use of this
  74  *    software must display the following acknowledgment:
  75  *    "This product includes software developed by the OpenSSL Project
  76  *    for use in the OpenSSL Toolkit. (http://www.openssl.org/)"
  77  *
  78  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
  79  *    endorse or promote products derived from this software without
  80  *    prior written permission. For written permission, please contact
  81  *    openssl-core@openssl.org.
  82  *
  83  * 5. Products derived from this software may not be called "OpenSSL"
  84  *    nor may "OpenSSL" appear in their names without prior written
  85  *    permission of the OpenSSL Project.
  86  *
  87  * 6. Redistributions of any form whatsoever must retain the following
  88  *    acknowledgment:
  89  *    "This product includes software developed by the OpenSSL Project
  90  *    for use in the OpenSSL Toolkit (http://www.openssl.org/)"
  91  *
  92  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
  93  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  94  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
  95  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
  96  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
  97  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
  98  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
  99  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
 100  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
 101  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
 102  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
 103  * OF THE POSSIBILITY OF SUCH DAMAGE.
 104  * ====================================================================
 105  *
 106  * This product includes cryptographic software written by Eric Young
 107  * (eay@cryptsoft.com).  This product includes software written by Tim
 108  * Hudson (tjh@cryptsoft.com).
 109  *
 110  */
 111 /* ====================================================================
 112  * Copyright 2005 Nokia. All rights reserved.
 113  *
 114  * The portions of the attached software ("Contribution") is developed by
 115  * Nokia Corporation and is licensed pursuant to the OpenSSL open source
 116  * license.
 117  *
 118  * The Contribution, originally written by Mika Kousa and Pasi Eronen of
 119  * Nokia Corporation, consists of the "PSK" (Pre-Shared Key) ciphersuites
 120  * support (see RFC 4279) to OpenSSL.
 121  *
 122  * No patent licenses or other rights except those expressly stated in
 123  * the OpenSSL open source license shall be deemed granted or received
 124  * expressly, by implication, estoppel, or otherwise.
 125  *
 126  * No assurances are provided by Nokia that the Contribution does not
 127  * infringe the patent or other intellectual property rights of any third
 128  * party or that the license provides you with all the necessary rights
 129  * to make use of the Contribution.
 130  *
 131  * THE SOFTWARE IS PROVIDED "AS IS" WITHOUT WARRANTY OF ANY KIND. IN
 132  * ADDITION TO THE DISCLAIMERS INCLUDED IN THE LICENSE, NOKIA
 133  * SPECIFICALLY DISCLAIMS ANY LIABILITY FOR CLAIMS BROUGHT BY YOU OR ANY
 134  * OTHER ENTITY BASED ON INFRINGEMENT OF INTELLECTUAL PROPERTY RIGHTS OR
 135  * OTHERWISE.
 136  */
 137
 138 #include <stdio.h>
 139 #include "ssl_locl.h"
 140 #include <openssl/evp.h>
 141 #include <openssl/md5.h>
 142
 143 static int ssl3_generate_key_block(SSL *s, unsigned char *km, int num)
 144 {
 145     EVP_MD_CTX m5;
 146     EVP_MD_CTX s1;
 147     unsigned char buf[16], smd[SHA_DIGEST_LENGTH];
 148     unsigned char c = 'A';
 149     unsigned int i, j, k;
 150
 151 #ifdef CHARSET_EBCDIC
 152     c = os_toascii[c];          /* 'A' in ASCII */
 153 #endif
 154     k = 0;
 155     EVP_MD_CTX_init(&m5);
 156     EVP_MD_CTX_set_flags(&m5, EVP_MD_CTX_FLAG_NON_FIPS_ALLOW);
 157     EVP_MD_CTX_init(&s1);
 158     for (i = 0; (int)i < num; i += MD5_DIGEST_LENGTH) {
 159         k++;
 160         if (k > sizeof buf) {
 161             /* bug: 'buf' is too small for this ciphersuite */
 162             SSLerr(SSL_F_SSL3_GENERATE_KEY_BLOCK, ERR_R_INTERNAL_ERROR);
 163             return 0;
 164         }
 165
 166         for (j = 0; j < k; j++)
 167             buf[j] = c;
 168         c++;
 169         EVP_DigestInit_ex(&s1, EVP_sha1(), NULL);
 170         EVP_DigestUpdate(&s1, buf, k);
 171         EVP_DigestUpdate(&s1, s->session->master_key,
 172                          s->session->master_key_length);
 173         EVP_DigestUpdate(&s1, s->s3->server_random, SSL3_RANDOM_SIZE);
 174         EVP_DigestUpdate(&s1, s->s3->client_random, SSL3_RANDOM_SIZE);
 175         EVP_DigestFinal_ex(&s1, smd, NULL);
 176
 177         EVP_DigestInit_ex(&m5, EVP_md5(), NULL);
 178         EVP_DigestUpdate(&m5, s->session->master_key,
 179                          s->session->master_key_length);
 180         EVP_DigestUpdate(&m5, smd, SHA_DIGEST_LENGTH);
 181         if ((int)(i + MD5_DIGEST_LENGTH) > num) {
 182             EVP_DigestFinal_ex(&m5, smd, NULL);
 183             memcpy(km, smd, (num - i));
 184         } else
 185             EVP_DigestFinal_ex(&m5, km, NULL);
 186
 187         km += MD5_DIGEST_LENGTH;
 188     }
 189     OPENSSL_cleanse(smd, sizeof(smd));
 190     EVP_MD_CTX_cleanup(&m5);
 191     EVP_MD_CTX_cleanup(&s1);
 192     return 1;
 193 }
 194
 195 int ssl3_change_cipher_state(SSL *s, int which)
 196 {
 197     unsigned char *p, *mac_secret;
 198     unsigned char exp_key[EVP_MAX_KEY_LENGTH];
 199     unsigned char exp_iv[EVP_MAX_IV_LENGTH];
 200     unsigned char *ms, *key, *iv, *er1, *er2;
 201     EVP_CIPHER_CTX *dd;
 202     const EVP_CIPHER *c;
 203 #ifndef OPENSSL_NO_COMP
 204     COMP_METHOD *comp;
 205 #endif
 206     const EVP_MD *m;
 207     EVP_MD_CTX md;
 208     int is_exp, n, i, j, k, cl;
 209     int reuse_dd = 0;
 210
 211     is_exp = SSL_C_IS_EXPORT(s->s3->tmp.new_cipher);
 212     c = s->s3->tmp.new_sym_enc;
 213     m = s->s3->tmp.new_hash;
 214     /* m == NULL will lead to a crash later */
 215     OPENSSL_assert(m);
 216 #ifndef OPENSSL_NO_COMP
 217     if (s->s3->tmp.new_compression == NULL)
 218         comp = NULL;
 219     else
 220         comp = s->s3->tmp.new_compression->method;
 221 #endif
 222
 223     if (which & SSL3_CC_READ) {
 224         if (s->enc_read_ctx != NULL)
 225             reuse_dd = 1;
 226         else if ((s->enc_read_ctx =
 227                   OPENSSL_malloc(sizeof(*s->enc_read_ctx))) == NULL)
 228             goto err;
 229         else
 230             /*
 231              * make sure it's intialized in case we exit later with an error
 232              */
 233             EVP_CIPHER_CTX_init(s->enc_read_ctx);
 234         dd = s->enc_read_ctx;
 235
 236         if (ssl_replace_hash(&s->read_hash, m) == NULL) {
 237                 SSLerr(SSL_F_SSL3_CHANGE_CIPHER_STATE, ERR_R_INTERNAL_ERROR);
 238                 goto err2;
 239         }
 240 #ifndef OPENSSL_NO_COMP
 241         /* COMPRESS */
 242         COMP_CTX_free(s->expand);
 243         s->expand = NULL;
 244         if (comp != NULL) {
 245             s->expand = COMP_CTX_new(comp);
 246             if (s->expand == NULL) {
 247                 SSLerr(SSL_F_SSL3_CHANGE_CIPHER_STATE,
 248                        SSL_R_COMPRESSION_LIBRARY_ERROR);
 249                 goto err2;
 250             }
 251             if (!RECORD_LAYER_setup_comp_buffer(&s->rlayer))
 252                 goto err;
 253         }
 254 #endif
 255         RECORD_LAYER_reset_read_sequence(&s->rlayer);
 256         mac_secret = &(s->s3->read_mac_secret[0]);
 257     } else {
 258         if (s->enc_write_ctx != NULL)
 259             reuse_dd = 1;
 260         else if ((s->enc_write_ctx =
 261                   OPENSSL_malloc(sizeof(*s->enc_write_ctx))) == NULL)
 262             goto err;
 263         else
 264             /*
 265              * make sure it's intialized in case we exit later with an error
 266              */
 267             EVP_CIPHER_CTX_init(s->enc_write_ctx);
 268         dd = s->enc_write_ctx;
 269         if (ssl_replace_hash(&s->write_hash, m) == NULL) {
 270                 SSLerr(SSL_F_SSL3_CHANGE_CIPHER_STATE, ERR_R_INTERNAL_ERROR);
 271                 goto err2;
 272         }
 273 #ifndef OPENSSL_NO_COMP
 274         /* COMPRESS */
 275         COMP_CTX_free(s->compress);
 276         s->compress = NULL;
 277         if (comp != NULL) {
 278             s->compress = COMP_CTX_new(comp);
 279             if (s->compress == NULL) {
 280                 SSLerr(SSL_F_SSL3_CHANGE_CIPHER_STATE,
 281                        SSL_R_COMPRESSION_LIBRARY_ERROR);
 282                 goto err2;
 283             }
 284         }
 285 #endif
 286         RECORD_LAYER_reset_write_sequence(&s->rlayer);
 287         mac_secret = &(s->s3->write_mac_secret[0]);
 288     }
 289
 290     if (reuse_dd)
 291         EVP_CIPHER_CTX_cleanup(dd);
 292
 293     p = s->s3->tmp.key_block;
 294     i = EVP_MD_size(m);
 295     if (i < 0)
 296         goto err2;
 297     cl = EVP_CIPHER_key_length(c);
 298     j = is_exp ? (cl < SSL_C_EXPORT_KEYLENGTH(s->s3->tmp.new_cipher) ?
 299                   cl : SSL_C_EXPORT_KEYLENGTH(s->s3->tmp.new_cipher)) : cl;
 300     /* Was j=(is_exp)?5:EVP_CIPHER_key_length(c); */
 301     k = EVP_CIPHER_iv_length(c);
 302     if ((which == SSL3_CHANGE_CIPHER_CLIENT_WRITE) ||
 303         (which == SSL3_CHANGE_CIPHER_SERVER_READ)) {
 304         ms = &(p[0]);
 305         n = i + i;
 306         key = &(p[n]);
 307         n += j + j;
 308         iv = &(p[n]);
 309         n += k + k;
 310         er1 = &(s->s3->client_random[0]);
 311         er2 = &(s->s3->server_random[0]);
 312     } else {
 313         n = i;
 314         ms = &(p[n]);
 315         n += i + j;
 316         key = &(p[n]);
 317         n += j + k;
 318         iv = &(p[n]);
 319         n += k;
 320         er1 = &(s->s3->server_random[0]);
 321         er2 = &(s->s3->client_random[0]);
 322     }
 323
 324     if (n > s->s3->tmp.key_block_length) {
 325         SSLerr(SSL_F_SSL3_CHANGE_CIPHER_STATE, ERR_R_INTERNAL_ERROR);
 326         goto err2;
 327     }
 328
 329     EVP_MD_CTX_init(&md);
 330     memcpy(mac_secret, ms, i);
 331     if (is_exp) {
 332         /*
 333          * In here I set both the read and write key/iv to the same value
 334          * since only the correct one will be used :-).
 335          */
 336         EVP_DigestInit_ex(&md, EVP_md5(), NULL);
 337         EVP_DigestUpdate(&md, key, j);
 338         EVP_DigestUpdate(&md, er1, SSL3_RANDOM_SIZE);
 339         EVP_DigestUpdate(&md, er2, SSL3_RANDOM_SIZE);
 340         EVP_DigestFinal_ex(&md, &(exp_key[0]), NULL);
 341         key = &(exp_key[0]);
 342
 343         if (k > 0) {
 344             EVP_DigestInit_ex(&md, EVP_md5(), NULL);
 345             EVP_DigestUpdate(&md, er1, SSL3_RANDOM_SIZE);
 346             EVP_DigestUpdate(&md, er2, SSL3_RANDOM_SIZE);
 347             EVP_DigestFinal_ex(&md, &(exp_iv[0]), NULL);
 348             iv = &(exp_iv[0]);
 349         }
 350     }
 351
 352     EVP_CipherInit_ex(dd, c, NULL, key, iv, (which & SSL3_CC_WRITE));
 353
 354 #ifdef OPENSSL_SSL_TRACE_CRYPTO
 355     if (s->msg_callback) {
 356
 357         int wh = which & SSL3_CC_WRITE ?
 358             TLS1_RT_CRYPTO_WRITE : TLS1_RT_CRYPTO_READ;
 359         s->msg_callback(2, s->version, wh | TLS1_RT_CRYPTO_MAC,
 360                         mac_secret, EVP_MD_size(m), s, s->msg_callback_arg);
 361         if (c->key_len)
 362             s->msg_callback(2, s->version, wh | TLS1_RT_CRYPTO_KEY,
 363                             key, c->key_len, s, s->msg_callback_arg);
 364         if (k) {
 365             s->msg_callback(2, s->version, wh | TLS1_RT_CRYPTO_IV,
 366                             iv, k, s, s->msg_callback_arg);
 367         }
 368     }
 369 #endif
 370
 371     OPENSSL_cleanse(exp_key, sizeof(exp_key));
 372     OPENSSL_cleanse(exp_iv, sizeof(exp_iv));
 373     EVP_MD_CTX_cleanup(&md);
 374     return (1);
 375  err:
 376     SSLerr(SSL_F_SSL3_CHANGE_CIPHER_STATE, ERR_R_MALLOC_FAILURE);
 377  err2:
 378     OPENSSL_cleanse(exp_key, sizeof(exp_key));
 379     OPENSSL_cleanse(exp_iv, sizeof(exp_iv));
 380     return (0);
 381 }
 382
 383 int ssl3_setup_key_block(SSL *s)
 384 {
 385     unsigned char *p;
 386     const EVP_CIPHER *c;
 387     const EVP_MD *hash;
 388     int num;
 389     int ret = 0;
 390     SSL_COMP *comp;
 391
 392     if (s->s3->tmp.key_block_length != 0)
 393         return (1);
 394
 395     if (!ssl_cipher_get_evp(s->session, &c, &hash, NULL, NULL, &comp, 0)) {
 396         SSLerr(SSL_F_SSL3_SETUP_KEY_BLOCK, SSL_R_CIPHER_OR_HASH_UNAVAILABLE);
 397         return (0);
 398     }
 399
 400     s->s3->tmp.new_sym_enc = c;
 401     s->s3->tmp.new_hash = hash;
 402 #ifdef OPENSSL_NO_COMP
 403     s->s3->tmp.new_compression = NULL;
 404 #else
 405     s->s3->tmp.new_compression = comp;
 406 #endif
 407
 408     num = EVP_MD_size(hash);
 409     if (num < 0)
 410         return 0;
 411
 412     num = EVP_CIPHER_key_length(c) + num + EVP_CIPHER_iv_length(c);
 413     num *= 2;
 414
 415     ssl3_cleanup_key_block(s);
 416
 417     if ((p = OPENSSL_malloc(num)) == NULL)
 418         goto err;
 419
 420     s->s3->tmp.key_block_length = num;
 421     s->s3->tmp.key_block = p;
 422
 423     ret = ssl3_generate_key_block(s, p, num);
 424
 425     if (!(s->options & SSL_OP_DONT_INSERT_EMPTY_FRAGMENTS)) {
 426         /*
 427          * enable vulnerability countermeasure for CBC ciphers with known-IV
 428          * problem (http://www.openssl.org/~bodo/tls-cbc.txt)
 429          */
 430         s->s3->need_empty_fragments = 1;
 431
 432         if (s->session->cipher != NULL) {
 433             if (s->session->cipher->algorithm_enc == SSL_eNULL)
 434                 s->s3->need_empty_fragments = 0;
 435
 436 #ifndef OPENSSL_NO_RC4
 437             if (s->session->cipher->algorithm_enc == SSL_RC4)
 438                 s->s3->need_empty_fragments = 0;
 439 #endif
 440         }
 441     }
 442
 443     return ret;
 444
 445  err:
 446     SSLerr(SSL_F_SSL3_SETUP_KEY_BLOCK, ERR_R_MALLOC_FAILURE);
 447     return (0);
 448 }
 449
 450 void ssl3_cleanup_key_block(SSL *s)
 451 {
 452     OPENSSL_clear_free(s->s3->tmp.key_block, s->s3->tmp.key_block_length);
 453     s->s3->tmp.key_block = NULL;
 454     s->s3->tmp.key_block_length = 0;
 455 }
 456
 457 void ssl3_init_finished_mac(SSL *s)
 458 {
 459     ssl3_free_digest_list(s);
 460     s->s3->handshake_buffer = BIO_new(BIO_s_mem());
 461     (void)BIO_set_close(s->s3->handshake_buffer, BIO_CLOSE);
 462 }
 463
 464 /*
 465  * Free digest list. Also frees handshake buffer since they are always freed
 466  * together.
 467  */
 468
 469 void ssl3_free_digest_list(SSL *s)
 470 {
 471     BIO_free(s->s3->handshake_buffer);
 472     s->s3->handshake_buffer = NULL;
 473     EVP_MD_CTX_destroy(s->s3->handshake_dgst);
 474     s->s3->handshake_dgst = NULL;
 475 }
 476
 477 void ssl3_finish_mac(SSL *s, const unsigned char *buf, int len)
 478 {
 479     if (s->s3->handshake_dgst == NULL)
 480         BIO_write(s->s3->handshake_buffer, (void *)buf, len);
 481     else
 482         EVP_DigestUpdate(s->s3->handshake_dgst, buf, len);
 483 }
 484
 485 int ssl3_digest_cached_records(SSL *s, int keep)
 486 {
 487     const EVP_MD *md;
 488     long hdatalen;
 489     void *hdata;
 490
 491     if (s->s3->handshake_dgst == NULL) {
 492         hdatalen = BIO_get_mem_data(s->s3->handshake_buffer, &hdata);
 493         if (hdatalen <= 0) {
 494             SSLerr(SSL_F_SSL3_DIGEST_CACHED_RECORDS, SSL_R_BAD_HANDSHAKE_LENGTH);
 495             return 0;
 496         }
 497
 498         s->s3->handshake_dgst = EVP_MD_CTX_create();
 499         if (s->s3->handshake_dgst == NULL) {
 500             SSLerr(SSL_F_SSL3_DIGEST_CACHED_RECORDS, ERR_R_MALLOC_FAILURE);
 501             return 0;
 502         }
 503
 504         md = ssl_handshake_md(s);
 505         if (md == NULL) {
 506             SSLerr(SSL_F_SSL3_DIGEST_CACHED_RECORDS, ERR_R_INTERNAL_ERROR);
 507             return 0;
 508         }
 509
 510         EVP_DigestInit_ex(s->s3->handshake_dgst, md, NULL);
 511         EVP_DigestUpdate(s->s3->handshake_dgst, hdata, hdatalen);
 512
 513     }
 514     if (keep == 0) {
 515         BIO_free(s->s3->handshake_buffer);
 516         s->s3->handshake_buffer = NULL;
 517     }
 518
 519     return 1;
 520 }
 521
 522 int ssl3_final_finish_mac(SSL *s, const char *sender, int len, unsigned char *p)
 523 {
 524     int ret;
 525     EVP_MD_CTX ctx;
 526
 527     if (!ssl3_digest_cached_records(s, 0))
 528         return 0;
 529
 530     if (EVP_MD_CTX_type(s->s3->handshake_dgst) != NID_md5_sha1) {
 531         SSLerr(SSL_F_SSL3_FINAL_FINISH_MAC, SSL_R_NO_REQUIRED_DIGEST);
 532         return 0;
 533     }
 534
 535     EVP_MD_CTX_init(&ctx);
 536     EVP_MD_CTX_copy_ex(&ctx, s->s3->handshake_dgst);
 537
 538     ret = EVP_MD_CTX_size(&ctx);
 539     if (ret < 0) {
 540         EVP_MD_CTX_cleanup(&ctx);
 541         return 0;
 542     }
 543
 544     if ((sender != NULL && EVP_DigestUpdate(&ctx, sender, len) <= 0)
 545             || EVP_MD_CTX_ctrl(&ctx, EVP_CTRL_SSL3_MASTER_SECRET,
 546                                s->session->master_key_length,
 547                                s->session->master_key) <= 0
 548             || EVP_DigestFinal_ex(&ctx, p, NULL) <= 0) {
 549         SSLerr(SSL_F_SSL3_FINAL_FINISH_MAC, ERR_R_INTERNAL_ERROR);
 550         ret = 0;
 551     }
 552
 553     EVP_MD_CTX_cleanup(&ctx);
 554
 555     return ret;
 556 }
 557
 558 int ssl3_generate_master_secret(SSL *s, unsigned char *out, unsigned char *p,
 559                                 int len)
 560 {
 561     static const unsigned char *salt[3] = {
 562 #ifndef CHARSET_EBCDIC
 563         (const unsigned char *)"A",
 564         (const unsigned char *)"BB",
 565         (const unsigned char *)"CCC",
 566 #else
 567         (const unsigned char *)"\x41",
 568         (const unsigned char *)"\x42\x42",
 569         (const unsigned char *)"\x43\x43\x43",
 570 #endif
 571     };
 572     unsigned char buf[EVP_MAX_MD_SIZE];
 573     EVP_MD_CTX ctx;
 574     int i, ret = 0;
 575     unsigned int n;
 576 #ifdef OPENSSL_SSL_TRACE_CRYPTO
 577     unsigned char *tmpout = out;
 578 #endif
 579
 580     EVP_MD_CTX_init(&ctx);
 581     for (i = 0; i < 3; i++) {
 582         if (EVP_DigestInit_ex(&ctx, s->ctx->sha1, NULL) <= 0
 583                 || EVP_DigestUpdate(&ctx, salt[i],
 584                                     strlen((const char *)salt[i])) <= 0
 585                 || EVP_DigestUpdate(&ctx, p, len) <= 0
 586                 || EVP_DigestUpdate(&ctx, &(s->s3->client_random[0]),
 587                                     SSL3_RANDOM_SIZE) <= 0
 588                 || EVP_DigestUpdate(&ctx, &(s->s3->server_random[0]),
 589                                     SSL3_RANDOM_SIZE) <= 0
 590                 || EVP_DigestFinal_ex(&ctx, buf, &n) <= 0
 591
 592                 || EVP_DigestInit_ex(&ctx, s->ctx->md5, NULL) <= 0
 593                 || EVP_DigestUpdate(&ctx, p, len) <= 0
 594                 || EVP_DigestUpdate(&ctx, buf, n) <= 0
 595                 || EVP_DigestFinal_ex(&ctx, out, &n) <= 0) {
 596             SSLerr(SSL_F_SSL3_GENERATE_MASTER_SECRET, ERR_R_INTERNAL_ERROR);
 597             ret = 0;
 598             break;
 599         }
 600         out += n;
 601         ret += n;
 602     }
 603     EVP_MD_CTX_cleanup(&ctx);
 604
 605 #ifdef OPENSSL_SSL_TRACE_CRYPTO
 606     if (ret > 0 && s->msg_callback) {
 607         s->msg_callback(2, s->version, TLS1_RT_CRYPTO_PREMASTER,
 608                         p, len, s, s->msg_callback_arg);
 609         s->msg_callback(2, s->version, TLS1_RT_CRYPTO_CLIENT_RANDOM,
 610                         s->s3->client_random, SSL3_RANDOM_SIZE,
 611                         s, s->msg_callback_arg);
 612         s->msg_callback(2, s->version, TLS1_RT_CRYPTO_SERVER_RANDOM,
 613                         s->s3->server_random, SSL3_RANDOM_SIZE,
 614                         s, s->msg_callback_arg);
 615         s->msg_callback(2, s->version, TLS1_RT_CRYPTO_MASTER,
 616                         tmpout, SSL3_MASTER_SECRET_SIZE,
 617                         s, s->msg_callback_arg);
 618     }
 619 #endif
 620     OPENSSL_cleanse(buf, sizeof(buf));
 621     return (ret);
 622 }
 623
 624 int ssl3_alert_code(int code)
 625 {
 626     switch (code) {
 627     case SSL_AD_CLOSE_NOTIFY:
 628         return (SSL3_AD_CLOSE_NOTIFY);
 629     case SSL_AD_UNEXPECTED_MESSAGE:
 630         return (SSL3_AD_UNEXPECTED_MESSAGE);
 631     case SSL_AD_BAD_RECORD_MAC:
 632         return (SSL3_AD_BAD_RECORD_MAC);
 633     case SSL_AD_DECRYPTION_FAILED:
 634         return (SSL3_AD_BAD_RECORD_MAC);
 635     case SSL_AD_RECORD_OVERFLOW:
 636         return (SSL3_AD_BAD_RECORD_MAC);
 637     case SSL_AD_DECOMPRESSION_FAILURE:
 638         return (SSL3_AD_DECOMPRESSION_FAILURE);
 639     case SSL_AD_HANDSHAKE_FAILURE:
 640         return (SSL3_AD_HANDSHAKE_FAILURE);
 641     case SSL_AD_NO_CERTIFICATE:
 642         return (SSL3_AD_NO_CERTIFICATE);
 643     case SSL_AD_BAD_CERTIFICATE:
 644         return (SSL3_AD_BAD_CERTIFICATE);
 645     case SSL_AD_UNSUPPORTED_CERTIFICATE:
 646         return (SSL3_AD_UNSUPPORTED_CERTIFICATE);
 647     case SSL_AD_CERTIFICATE_REVOKED:
 648         return (SSL3_AD_CERTIFICATE_REVOKED);
 649     case SSL_AD_CERTIFICATE_EXPIRED:
 650         return (SSL3_AD_CERTIFICATE_EXPIRED);
 651     case SSL_AD_CERTIFICATE_UNKNOWN:
 652         return (SSL3_AD_CERTIFICATE_UNKNOWN);
 653     case SSL_AD_ILLEGAL_PARAMETER:
 654         return (SSL3_AD_ILLEGAL_PARAMETER);
 655     case SSL_AD_UNKNOWN_CA:
 656         return (SSL3_AD_BAD_CERTIFICATE);
 657     case SSL_AD_ACCESS_DENIED:
 658         return (SSL3_AD_HANDSHAKE_FAILURE);
 659     case SSL_AD_DECODE_ERROR:
 660         return (SSL3_AD_HANDSHAKE_FAILURE);
 661     case SSL_AD_DECRYPT_ERROR:
 662         return (SSL3_AD_HANDSHAKE_FAILURE);
 663     case SSL_AD_EXPORT_RESTRICTION:
 664         return (SSL3_AD_HANDSHAKE_FAILURE);
 665     case SSL_AD_PROTOCOL_VERSION:
 666         return (SSL3_AD_HANDSHAKE_FAILURE);
 667     case SSL_AD_INSUFFICIENT_SECURITY:
 668         return (SSL3_AD_HANDSHAKE_FAILURE);
 669     case SSL_AD_INTERNAL_ERROR:
 670         return (SSL3_AD_HANDSHAKE_FAILURE);
 671     case SSL_AD_USER_CANCELLED:
 672         return (SSL3_AD_HANDSHAKE_FAILURE);
 673     case SSL_AD_NO_RENEGOTIATION:
 674         return (-1);            /* Don't send it :-) */
 675     case SSL_AD_UNSUPPORTED_EXTENSION:
 676         return (SSL3_AD_HANDSHAKE_FAILURE);
 677     case SSL_AD_CERTIFICATE_UNOBTAINABLE:
 678         return (SSL3_AD_HANDSHAKE_FAILURE);
 679     case SSL_AD_UNRECOGNIZED_NAME:
 680         return (SSL3_AD_HANDSHAKE_FAILURE);
 681     case SSL_AD_BAD_CERTIFICATE_STATUS_RESPONSE:
 682         return (SSL3_AD_HANDSHAKE_FAILURE);
 683     case SSL_AD_BAD_CERTIFICATE_HASH_VALUE:
 684         return (SSL3_AD_HANDSHAKE_FAILURE);
 685     case SSL_AD_UNKNOWN_PSK_IDENTITY:
 686         return (TLS1_AD_UNKNOWN_PSK_IDENTITY);
 687     case SSL_AD_INAPPROPRIATE_FALLBACK:
 688         return (TLS1_AD_INAPPROPRIATE_FALLBACK);
 689     default:
 690         return (-1);
 691     }
 692 }