ssl/s3_both.c

   1 /* ssl/s3_both.c */
   2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
   3  * All rights reserved.
   4  *
   5  * This package is an SSL implementation written
   6  * by Eric Young (eay@cryptsoft.com).
   7  * The implementation was written so as to conform with Netscapes SSL.
   8  *
   9  * This library is free for commercial and non-commercial use as long as
  10  * the following conditions are aheared to.  The following conditions
  11  * apply to all code found in this distribution, be it the RC4, RSA,
  12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
  13  * included with this distribution is covered by the same copyright terms
  14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
  15  *
  16  * Copyright remains Eric Young's, and as such any Copyright notices in
  17  * the code are not to be removed.
  18  * If this package is used in a product, Eric Young should be given attribution
  19  * as the author of the parts of the library used.
  20  * This can be in the form of a textual message at program startup or
  21  * in documentation (online or textual) provided with the package.
  22  *
  23  * Redistribution and use in source and binary forms, with or without
  24  * modification, are permitted provided that the following conditions
  25  * are met:
  26  * 1. Redistributions of source code must retain the copyright
  27  *    notice, this list of conditions and the following disclaimer.
  28  * 2. Redistributions in binary form must reproduce the above copyright
  29  *    notice, this list of conditions and the following disclaimer in the
  30  *    documentation and/or other materials provided with the distribution.
  31  * 3. All advertising materials mentioning features or use of this software
  32  *    must display the following acknowledgement:
  33  *    "This product includes cryptographic software written by
  34  *     Eric Young (eay@cryptsoft.com)"
  35  *    The word 'cryptographic' can be left out if the rouines from the library
  36  *    being used are not cryptographic related :-).
  37  * 4. If you include any Windows specific code (or a derivative thereof) from
  38  *    the apps directory (application code) you must include an acknowledgement:
  39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
  40  *
  41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
  42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
  45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  51  * SUCH DAMAGE.
  52  *
  53  * The licence and distribution terms for any publically available version or
  54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
  55  * copied and put under another distribution licence
  56  * [including the GNU Public Licence.]
  57  */
  58 /* ====================================================================
  59  * Copyright (c) 1998-2002 The OpenSSL Project.  All rights reserved.
  60  *
  61  * Redistribution and use in source and binary forms, with or without
  62  * modification, are permitted provided that the following conditions
  63  * are met:
  64  *
  65  * 1. Redistributions of source code must retain the above copyright
  66  *    notice, this list of conditions and the following disclaimer.
  67  *
  68  * 2. Redistributions in binary form must reproduce the above copyright
  69  *    notice, this list of conditions and the following disclaimer in
  70  *    the documentation and/or other materials provided with the
  71  *    distribution.
  72  *
  73  * 3. All advertising materials mentioning features or use of this
  74  *    software must display the following acknowledgment:
  75  *    "This product includes software developed by the OpenSSL Project
  76  *    for use in the OpenSSL Toolkit. (http://www.openssl.org/)"
  77  *
  78  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
  79  *    endorse or promote products derived from this software without
  80  *    prior written permission. For written permission, please contact
  81  *    openssl-core@openssl.org.
  82  *
  83  * 5. Products derived from this software may not be called "OpenSSL"
  84  *    nor may "OpenSSL" appear in their names without prior written
  85  *    permission of the OpenSSL Project.
  86  *
  87  * 6. Redistributions of any form whatsoever must retain the following
  88  *    acknowledgment:
  89  *    "This product includes software developed by the OpenSSL Project
  90  *    for use in the OpenSSL Toolkit (http://www.openssl.org/)"
  91  *
  92  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
  93  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  94  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
  95  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
  96  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
  97  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
  98  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
  99  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
 100  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
 101  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
 102  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
 103  * OF THE POSSIBILITY OF SUCH DAMAGE.
 104  * ====================================================================
 105  *
 106  * This product includes cryptographic software written by Eric Young
 107  * (eay@cryptsoft.com).  This product includes software written by Tim
 108  * Hudson (tjh@cryptsoft.com).
 109  *
 110  */
 111 /* ====================================================================
 112  * Copyright 2002 Sun Microsystems, Inc. ALL RIGHTS RESERVED.
 113  * ECC cipher suite support in OpenSSL originally developed by
 114  * SUN MICROSYSTEMS, INC., and contributed to the OpenSSL project.
 115  */
 116
 117 #include <limits.h>
 118 #include <string.h>
 119 #include <stdio.h>
 120 #include "ssl_locl.h"
 121 #include <openssl/buffer.h>
 122 #include <openssl/rand.h>
 123 #include <openssl/objects.h>
 124 #include <openssl/evp.h>
 125 #include <openssl/x509.h>
 126
 127 /*
 128  * send s->init_buf in records of type 'type' (SSL3_RT_HANDSHAKE or
 129  * SSL3_RT_CHANGE_CIPHER_SPEC)
 130  */
 131 int ssl3_do_write(SSL *s, int type)
 132 {
 133     int ret;
 134
 135     ret = ssl3_write_bytes(s, type, &s->init_buf->data[s->init_off],
 136                            s->init_num);
 137     if (ret < 0)
 138         return (-1);
 139     if (type == SSL3_RT_HANDSHAKE)
 140         /*
 141          * should not be done for 'Hello Request's, but in that case we'll
 142          * ignore the result anyway
 143          */
 144         ssl3_finish_mac(s, (unsigned char *)&s->init_buf->data[s->init_off],
 145                         ret);
 146
 147     if (ret == s->init_num) {
 148         if (s->msg_callback)
 149             s->msg_callback(1, s->version, type, s->init_buf->data,
 150                             (size_t)(s->init_off + s->init_num), s,
 151                             s->msg_callback_arg);
 152         return (1);
 153     }
 154     s->init_off += ret;
 155     s->init_num -= ret;
 156     return (0);
 157 }
 158
 159 int ssl3_send_finished(SSL *s, int a, int b, const char *sender, int slen)
 160 {
 161     unsigned char *p;
 162     int i;
 163     unsigned long l;
 164
 165     if (s->state == a) {
 166         p = ssl_handshake_start(s);
 167
 168         i = s->method->ssl3_enc->final_finish_mac(s,
 169                                                   sender, slen,
 170                                                   s->s3->tmp.finish_md);
 171         if (i <= 0)
 172             return 0;
 173         s->s3->tmp.finish_md_len = i;
 174         memcpy(p, s->s3->tmp.finish_md, i);
 175         l = i;
 176
 177         /*
 178          * Copy the finished so we can use it for renegotiation checks
 179          */
 180         if (s->type == SSL_ST_CONNECT) {
 181             OPENSSL_assert(i <= EVP_MAX_MD_SIZE);
 182             memcpy(s->s3->previous_client_finished, s->s3->tmp.finish_md, i);
 183             s->s3->previous_client_finished_len = i;
 184         } else {
 185             OPENSSL_assert(i <= EVP_MAX_MD_SIZE);
 186             memcpy(s->s3->previous_server_finished, s->s3->tmp.finish_md, i);
 187             s->s3->previous_server_finished_len = i;
 188         }
 189
 190         if (!ssl_set_handshake_header(s, SSL3_MT_FINISHED, l)) {
 191             SSLerr(SSL_F_SSL3_SEND_FINISHED, ERR_R_INTERNAL_ERROR);
 192             return -1;
 193         }
 194         s->state = b;
 195     }
 196
 197     /* SSL3_ST_SEND_xxxxxx_HELLO_B */
 198     return ssl_do_write(s);
 199 }
 200
 201 #ifndef OPENSSL_NO_NEXTPROTONEG
 202 /*
 203  * ssl3_take_mac calculates the Finished MAC for the handshakes messages seen
 204  * to far.
 205  */
 206 static void ssl3_take_mac(SSL *s)
 207 {
 208     const char *sender;
 209     int slen;
 210     /*
 211      * If no new cipher setup return immediately: other functions will set
 212      * the appropriate error.
 213      */
 214     if (s->s3->tmp.new_cipher == NULL)
 215         return;
 216     if (s->state & SSL_ST_CONNECT) {
 217         sender = s->method->ssl3_enc->server_finished_label;
 218         slen = s->method->ssl3_enc->server_finished_label_len;
 219     } else {
 220         sender = s->method->ssl3_enc->client_finished_label;
 221         slen = s->method->ssl3_enc->client_finished_label_len;
 222     }
 223
 224     s->s3->tmp.peer_finish_md_len = s->method->ssl3_enc->final_finish_mac(s,
 225                                                                           sender,
 226                                                                           slen,
 227                                                                           s->s3->tmp.peer_finish_md);
 228 }
 229 #endif
 230
 231 int ssl3_get_change_cipher_spec(SSL *s, int a, int b)
 232 {
 233     int ok, al;
 234     long n;
 235
 236     n = s->method->ssl_get_message(s, a, b, SSL3_MT_CHANGE_CIPHER_SPEC, 1, &ok);
 237
 238     if (!ok)
 239         return ((int)n);
 240
 241     /*
 242      * 'Change Cipher Spec' is just a single byte, which should already have
 243      * been consumed by ssl_get_message() so there should be no bytes left,
 244      * unless we're using DTLS1_BAD_VER, which has an extra 2 bytes
 245      */
 246     if (SSL_IS_DTLS(s)) {
 247         if ((s->version == DTLS1_BAD_VER && n != DTLS1_CCS_HEADER_LENGTH + 1)
 248                     || (s->version != DTLS1_BAD_VER
 249                         && n != DTLS1_CCS_HEADER_LENGTH - 1)) {
 250                 al = SSL_AD_ILLEGAL_PARAMETER;
 251                 SSLerr(SSL_F_SSL3_GET_CHANGE_CIPHER_SPEC, SSL_R_BAD_CHANGE_CIPHER_SPEC);
 252                 goto f_err;
 253         }
 254     } else {
 255         if (n != 0) {
 256             al = SSL_AD_ILLEGAL_PARAMETER;
 257             SSLerr(SSL_F_SSL3_GET_CHANGE_CIPHER_SPEC, SSL_R_BAD_CHANGE_CIPHER_SPEC);
 258             goto f_err;
 259         }
 260     }
 261
 262     /* Check we have a cipher to change to */
 263     if (s->s3->tmp.new_cipher == NULL) {
 264         al = SSL_AD_UNEXPECTED_MESSAGE;
 265         SSLerr(SSL_F_SSL3_GET_CHANGE_CIPHER_SPEC, SSL_R_CCS_RECEIVED_EARLY);
 266         goto f_err;
 267     }
 268
 269     s->s3->change_cipher_spec = 1;
 270     if (!ssl3_do_change_cipher_spec(s)) {
 271         al = SSL_AD_INTERNAL_ERROR;
 272         SSLerr(SSL_F_SSL3_GET_CHANGE_CIPHER_SPEC, ERR_R_INTERNAL_ERROR);
 273         goto f_err;
 274     }
 275
 276     if (SSL_IS_DTLS(s)) {
 277         dtls1_reset_seq_numbers(s, SSL3_CC_READ);
 278
 279         if (s->version == DTLS1_BAD_VER)
 280             s->d1->handshake_read_seq++;
 281
 282 #ifndef OPENSSL_NO_SCTP
 283         /*
 284          * Remember that a CCS has been received, so that an old key of
 285          * SCTP-Auth can be deleted when a CCS is sent. Will be ignored if no
 286          * SCTP is used
 287          */
 288         BIO_ctrl(SSL_get_wbio(s), BIO_CTRL_DGRAM_SCTP_AUTH_CCS_RCVD, 1, NULL);
 289 #endif
 290     }
 291
 292     return 1;
 293  f_err:
 294     ssl3_send_alert(s, SSL3_AL_FATAL, al);
 295     return 0;
 296 }
 297
 298
 299 int ssl3_get_finished(SSL *s, int a, int b)
 300 {
 301     int al, i, ok;
 302     long n;
 303     unsigned char *p;
 304
 305 #ifdef OPENSSL_NO_NEXTPROTONEG
 306     /*
 307      * the mac has already been generated when we received the change cipher
 308      * spec message and is in s->s3->tmp.peer_finish_md
 309      */
 310 #endif
 311
 312     /* 64 argument should actually be 36+4 :-) */
 313     n = s->method->ssl_get_message(s, a, b, SSL3_MT_FINISHED, 64, &ok);
 314
 315     if (!ok)
 316         return ((int)n);
 317
 318     /* If this occurs, we have missed a message */
 319     if (!s->s3->change_cipher_spec) {
 320         al = SSL_AD_UNEXPECTED_MESSAGE;
 321         SSLerr(SSL_F_SSL3_GET_FINISHED, SSL_R_GOT_A_FIN_BEFORE_A_CCS);
 322         goto f_err;
 323     }
 324     s->s3->change_cipher_spec = 0;
 325
 326     p = (unsigned char *)s->init_msg;
 327     i = s->s3->tmp.peer_finish_md_len;
 328
 329     if (i != n) {
 330         al = SSL_AD_DECODE_ERROR;
 331         SSLerr(SSL_F_SSL3_GET_FINISHED, SSL_R_BAD_DIGEST_LENGTH);
 332         goto f_err;
 333     }
 334
 335     if (CRYPTO_memcmp(p, s->s3->tmp.peer_finish_md, i) != 0) {
 336         al = SSL_AD_DECRYPT_ERROR;
 337         SSLerr(SSL_F_SSL3_GET_FINISHED, SSL_R_DIGEST_CHECK_FAILED);
 338         goto f_err;
 339     }
 340
 341     /*
 342      * Copy the finished so we can use it for renegotiation checks
 343      */
 344     if (s->type == SSL_ST_ACCEPT) {
 345         OPENSSL_assert(i <= EVP_MAX_MD_SIZE);
 346         memcpy(s->s3->previous_client_finished, s->s3->tmp.peer_finish_md, i);
 347         s->s3->previous_client_finished_len = i;
 348     } else {
 349         OPENSSL_assert(i <= EVP_MAX_MD_SIZE);
 350         memcpy(s->s3->previous_server_finished, s->s3->tmp.peer_finish_md, i);
 351         s->s3->previous_server_finished_len = i;
 352     }
 353
 354     return (1);
 355  f_err:
 356     ssl3_send_alert(s, SSL3_AL_FATAL, al);
 357     return (0);
 358 }
 359
 360 /*-
 361  * for these 2 messages, we need to
 362  * ssl->enc_read_ctx                    re-init
 363  * ssl->rlayer.read_sequence            zero
 364  * ssl->s3->read_mac_secret             re-init
 365  * ssl->session->read_sym_enc           assign
 366  * ssl->session->read_compression       assign
 367  * ssl->session->read_hash              assign
 368  */
 369 int ssl3_send_change_cipher_spec(SSL *s, int a, int b)
 370 {
 371     unsigned char *p;
 372
 373     if (s->state == a) {
 374         p = (unsigned char *)s->init_buf->data;
 375         *p = SSL3_MT_CCS;
 376         s->init_num = 1;
 377         s->init_off = 0;
 378
 379         s->state = b;
 380     }
 381
 382     /* SSL3_ST_CW_CHANGE_B */
 383     return (ssl3_do_write(s, SSL3_RT_CHANGE_CIPHER_SPEC));
 384 }
 385
 386 unsigned long ssl3_output_cert_chain(SSL *s, CERT_PKEY *cpk)
 387 {
 388     unsigned char *p;
 389     unsigned long l = 3 + SSL_HM_HEADER_LENGTH(s);
 390
 391     if (!ssl_add_cert_chain(s, cpk, &l))
 392         return 0;
 393
 394     l -= 3 + SSL_HM_HEADER_LENGTH(s);
 395     p = ssl_handshake_start(s);
 396     l2n3(l, p);
 397     l += 3;
 398
 399     if (!ssl_set_handshake_header(s, SSL3_MT_CERTIFICATE, l)) {
 400         SSLerr(SSL_F_SSL3_OUTPUT_CERT_CHAIN, ERR_R_INTERNAL_ERROR);
 401         return 0;
 402     }
 403     return l + SSL_HM_HEADER_LENGTH(s);
 404 }
 405
 406 /*
 407  * Obtain handshake message of message type 'mt' (any if mt == -1), maximum
 408  * acceptable body length 'max'. The first four bytes (msg_type and length)
 409  * are read in state 'st1', the body is read in state 'stn'.
 410  */
 411 long ssl3_get_message(SSL *s, int st1, int stn, int mt, long max, int *ok)
 412 {
 413     unsigned char *p;
 414     long n;
 415     int al, mtin;
 416
 417     if (s->s3->tmp.reuse_message) {
 418         s->s3->tmp.reuse_message = 0;
 419         if ((mt >= 0) && (s->s3->tmp.message_type != mt)) {
 420             al = SSL_AD_UNEXPECTED_MESSAGE;
 421             SSLerr(SSL_F_SSL3_GET_MESSAGE, SSL_R_UNEXPECTED_MESSAGE);
 422             goto f_err;
 423         }
 424         *ok = 1;
 425         s->state = stn;
 426         s->init_msg = s->init_buf->data + SSL3_HM_HEADER_LENGTH;
 427         s->init_num = (int)s->s3->tmp.message_size;
 428         return s->init_num;
 429     }
 430
 431     p = (unsigned char *)s->init_buf->data;
 432
 433     if (s->state == st1) {
 434         if (tls_get_message_header(s, &mtin) == 0) {
 435             /* Could be NBIO */
 436             *ok = 0;
 437             return -1;
 438         }
 439         s->state = stn;
 440         if (s->init_num == 0
 441                 && mtin == SSL3_MT_CHANGE_CIPHER_SPEC
 442                 && (mt < 0 || mt == SSL3_MT_CHANGE_CIPHER_SPEC)) {
 443             if (*p != SSL3_MT_CCS) {
 444                 al = SSL_AD_UNEXPECTED_MESSAGE;
 445                 SSLerr(SSL_F_SSL3_GET_MESSAGE,
 446                        SSL_R_UNEXPECTED_MESSAGE);
 447                 goto f_err;
 448             }
 449             s->init_msg = p + 1;
 450             s->s3->tmp.message_type = SSL3_MT_CHANGE_CIPHER_SPEC;
 451             s->s3->tmp.message_size = s->init_num;
 452             *ok = 1;
 453             if (s->msg_callback)
 454                 s->msg_callback(0, s->version,
 455                                 SSL3_RT_CHANGE_CIPHER_SPEC, p, 1, s,
 456                                 s->msg_callback_arg);
 457             return s->init_num;
 458         }
 459         if (s->s3->tmp.message_size > (unsigned long)max) {
 460             al = SSL_AD_ILLEGAL_PARAMETER;
 461             SSLerr(SSL_F_SSL3_GET_MESSAGE, SSL_R_EXCESSIVE_MESSAGE_SIZE);
 462             goto f_err;
 463         }
 464         if ((mt >= 0) && (mtin != mt)) {
 465             al = SSL_AD_UNEXPECTED_MESSAGE;
 466             SSLerr(SSL_F_SSL3_GET_MESSAGE, SSL_R_UNEXPECTED_MESSAGE);
 467             goto f_err;
 468         }
 469     }
 470
 471     /* next state (stn) */
 472     if (tls_get_message_body(s, (unsigned long *)&n) == 0) {
 473         *ok = 0;
 474         return n;
 475     }
 476
 477     *ok = 1;
 478     return n;
 479  f_err:
 480     ssl3_send_alert(s, SSL3_AL_FATAL, al);
 481     statem_set_error(s);
 482     *ok = 0;
 483     return 0;
 484 }
 485
 486 int tls_get_message_header(SSL *s, int *mt)
 487 {
 488     /* s->init_num < SSL3_HM_HEADER_LENGTH */
 489     int skip_message, i, recvd_type, al;
 490     unsigned char *p;
 491     unsigned long l;
 492
 493     p = (unsigned char *)s->init_buf->data;
 494
 495     do {
 496         while (s->init_num < SSL3_HM_HEADER_LENGTH) {
 497             i = s->method->ssl_read_bytes(s, SSL3_RT_HANDSHAKE, &recvd_type,
 498                 &p[s->init_num], SSL3_HM_HEADER_LENGTH - s->init_num, 0);
 499             if (i <= 0) {
 500                 s->rwstate = SSL_READING;
 501                 return 0;
 502             }
 503             if (recvd_type == SSL3_RT_CHANGE_CIPHER_SPEC) {
 504                 s->s3->tmp.message_type = *mt = SSL3_MT_CHANGE_CIPHER_SPEC;
 505                 s->init_num = i - 1;
 506                 s->s3->tmp.message_size = i;
 507                 return 1;
 508             } else if (recvd_type != SSL3_RT_HANDSHAKE) {
 509                 al = SSL_AD_UNEXPECTED_MESSAGE;
 510                 SSLerr(SSL_F_TLS_GET_MESSAGE_HEADER, SSL_R_CCS_RECEIVED_EARLY);
 511                 goto f_err;
 512             }
 513             s->init_num += i;
 514         }
 515
 516         skip_message = 0;
 517         if (!s->server)
 518             if (p[0] == SSL3_MT_HELLO_REQUEST)
 519                 /*
 520                  * The server may always send 'Hello Request' messages --
 521                  * we are doing a handshake anyway now, so ignore them if
 522                  * their format is correct. Does not count for 'Finished'
 523                  * MAC.
 524                  */
 525                 if (p[1] == 0 && p[2] == 0 && p[3] == 0) {
 526                     s->init_num = 0;
 527                     skip_message = 1;
 528
 529                     if (s->msg_callback)
 530                         s->msg_callback(0, s->version, SSL3_RT_HANDSHAKE,
 531                                         p, SSL3_HM_HEADER_LENGTH, s,
 532                                         s->msg_callback_arg);
 533                 }
 534     } while (skip_message);
 535     /* s->init_num == SSL3_HM_HEADER_LENGTH */
 536
 537     *mt = *p;
 538     s->s3->tmp.message_type = *(p++);
 539
 540     if(RECORD_LAYER_is_sslv2_record(&s->rlayer)) {
 541         /*
 542          * Only happens with SSLv3+ in an SSLv2 backward compatible
 543          * ClientHello
 544          */
 545          /*
 546           * Total message size is the remaining record bytes to read
 547           * plus the SSL3_HM_HEADER_LENGTH bytes that we already read
 548           */
 549         l = RECORD_LAYER_get_rrec_length(&s->rlayer)
 550             + SSL3_HM_HEADER_LENGTH;
 551         if (l && !BUF_MEM_grow_clean(s->init_buf, (int)l)) {
 552             SSLerr(SSL_F_TLS_GET_MESSAGE_HEADER, ERR_R_BUF_LIB);
 553             goto err;
 554         }
 555         s->s3->tmp.message_size = l;
 556
 557         s->init_msg = s->init_buf->data;
 558         s->init_num = SSL3_HM_HEADER_LENGTH;
 559     } else {
 560         n2l3(p, l);
 561         /* BUF_MEM_grow takes an 'int' parameter */
 562         if (l > (INT_MAX - SSL3_HM_HEADER_LENGTH)) {
 563             al = SSL_AD_ILLEGAL_PARAMETER;
 564             SSLerr(SSL_F_TLS_GET_MESSAGE_HEADER, SSL_R_EXCESSIVE_MESSAGE_SIZE);
 565             goto f_err;
 566         }
 567         if (l && !BUF_MEM_grow_clean(s->init_buf,
 568                                     (int)l + SSL3_HM_HEADER_LENGTH)) {
 569             SSLerr(SSL_F_TLS_GET_MESSAGE_HEADER, ERR_R_BUF_LIB);
 570             goto err;
 571         }
 572         s->s3->tmp.message_size = l;
 573
 574         s->init_msg = s->init_buf->data + SSL3_HM_HEADER_LENGTH;
 575         s->init_num = 0;
 576     }
 577
 578     return 1;
 579  f_err:
 580     ssl3_send_alert(s, SSL3_AL_FATAL, al);
 581  err:
 582     return 0;
 583 }
 584
 585 int tls_get_message_body(SSL *s, unsigned long *len)
 586 {
 587     long n;
 588     unsigned char *p;
 589     int i;
 590
 591     if (s->s3->tmp.message_type == SSL3_MT_CHANGE_CIPHER_SPEC) {
 592         /* We've already read everything in */
 593         *len = (unsigned long)s->init_num;
 594         return 1;
 595     }
 596
 597     p = s->init_msg;
 598     n = s->s3->tmp.message_size - s->init_num;
 599     while (n > 0) {
 600         i = s->method->ssl_read_bytes(s, SSL3_RT_HANDSHAKE, NULL,
 601                                       &p[s->init_num], n, 0);
 602         if (i <= 0) {
 603             s->rwstate = SSL_READING;
 604             *len = 0;
 605             return 0;
 606         }
 607         s->init_num += i;
 608         n -= i;
 609     }
 610
 611 #ifndef OPENSSL_NO_NEXTPROTONEG
 612     /*
 613      * If receiving Finished, record MAC of prior handshake messages for
 614      * Finished verification.
 615      */
 616     if (*s->init_buf->data == SSL3_MT_FINISHED)
 617         ssl3_take_mac(s);
 618 #endif
 619
 620     /* Feed this message into MAC computation. */
 621     if(RECORD_LAYER_is_sslv2_record(&s->rlayer)) {
 622         ssl3_finish_mac(s, (unsigned char *)s->init_buf->data, s->init_num);
 623         if (s->msg_callback)
 624             s->msg_callback(0, SSL2_VERSION, 0,  s->init_buf->data,
 625                             (size_t)s->init_num, s, s->msg_callback_arg);
 626     } else {
 627         ssl3_finish_mac(s, (unsigned char *)s->init_buf->data,
 628             s->init_num + SSL3_HM_HEADER_LENGTH);
 629         if (s->msg_callback)
 630             s->msg_callback(0, s->version, SSL3_RT_HANDSHAKE, s->init_buf->data,
 631                             (size_t)s->init_num + SSL3_HM_HEADER_LENGTH, s,
 632                             s->msg_callback_arg);
 633     }
 634
 635     /*
 636      * init_num should never be negative...should probably be declared
 637      * unsigned
 638      */
 639     if (s->init_num < 0) {
 640         SSLerr(SSL_F_TLS_GET_MESSAGE_BODY, ERR_R_INTERNAL_ERROR);
 641         ssl3_send_alert(s, SSL3_AL_FATAL, SSL_AD_INTERNAL_ERROR);
 642         *len = 0;
 643         return 0;
 644     }
 645     *len = (unsigned long)s->init_num;
 646     return 1;
 647 }
 648
 649 int ssl_cert_type(X509 *x, EVP_PKEY *pkey)
 650 {
 651     EVP_PKEY *pk;
 652     int ret = -1, i;
 653
 654     if (pkey == NULL)
 655         pk = X509_get_pubkey(x);
 656     else
 657         pk = pkey;
 658     if (pk == NULL)
 659         goto err;
 660
 661     i = pk->type;
 662     if (i == EVP_PKEY_RSA) {
 663         ret = SSL_PKEY_RSA_ENC;
 664     } else if (i == EVP_PKEY_DSA) {
 665         ret = SSL_PKEY_DSA_SIGN;
 666     }
 667 #ifndef OPENSSL_NO_EC
 668     else if (i == EVP_PKEY_EC) {
 669         ret = SSL_PKEY_ECC;
 670     }
 671 #endif
 672     else if (i == NID_id_GostR3410_2001) {
 673         ret = SSL_PKEY_GOST01;
 674     } else if (x && (i == EVP_PKEY_DH || i == EVP_PKEY_DHX)) {
 675         /*
 676          * For DH two cases: DH certificate signed with RSA and DH
 677          * certificate signed with DSA.
 678          */
 679         i = X509_certificate_type(x, pk);
 680         if (i & EVP_PKS_RSA)
 681             ret = SSL_PKEY_DH_RSA;
 682         else if (i & EVP_PKS_DSA)
 683             ret = SSL_PKEY_DH_DSA;
 684     }
 685
 686  err:
 687     if (!pkey)
 688         EVP_PKEY_free(pk);
 689     return (ret);
 690 }
 691
 692 int ssl_verify_alarm_type(long type)
 693 {
 694     int al;
 695
 696     switch (type) {
 697     case X509_V_ERR_UNABLE_TO_GET_ISSUER_CERT:
 698     case X509_V_ERR_UNABLE_TO_GET_CRL:
 699     case X509_V_ERR_UNABLE_TO_GET_CRL_ISSUER:
 700         al = SSL_AD_UNKNOWN_CA;
 701         break;
 702     case X509_V_ERR_UNABLE_TO_DECRYPT_CERT_SIGNATURE:
 703     case X509_V_ERR_UNABLE_TO_DECRYPT_CRL_SIGNATURE:
 704     case X509_V_ERR_UNABLE_TO_DECODE_ISSUER_PUBLIC_KEY:
 705     case X509_V_ERR_ERROR_IN_CERT_NOT_BEFORE_FIELD:
 706     case X509_V_ERR_ERROR_IN_CERT_NOT_AFTER_FIELD:
 707     case X509_V_ERR_ERROR_IN_CRL_LAST_UPDATE_FIELD:
 708     case X509_V_ERR_ERROR_IN_CRL_NEXT_UPDATE_FIELD:
 709     case X509_V_ERR_CERT_NOT_YET_VALID:
 710     case X509_V_ERR_CRL_NOT_YET_VALID:
 711     case X509_V_ERR_CERT_UNTRUSTED:
 712     case X509_V_ERR_CERT_REJECTED:
 713         al = SSL_AD_BAD_CERTIFICATE;
 714         break;
 715     case X509_V_ERR_CERT_SIGNATURE_FAILURE:
 716     case X509_V_ERR_CRL_SIGNATURE_FAILURE:
 717         al = SSL_AD_DECRYPT_ERROR;
 718         break;
 719     case X509_V_ERR_CERT_HAS_EXPIRED:
 720     case X509_V_ERR_CRL_HAS_EXPIRED:
 721         al = SSL_AD_CERTIFICATE_EXPIRED;
 722         break;
 723     case X509_V_ERR_CERT_REVOKED:
 724         al = SSL_AD_CERTIFICATE_REVOKED;
 725         break;
 726     case X509_V_ERR_OUT_OF_MEM:
 727         al = SSL_AD_INTERNAL_ERROR;
 728         break;
 729     case X509_V_ERR_DEPTH_ZERO_SELF_SIGNED_CERT:
 730     case X509_V_ERR_SELF_SIGNED_CERT_IN_CHAIN:
 731     case X509_V_ERR_UNABLE_TO_GET_ISSUER_CERT_LOCALLY:
 732     case X509_V_ERR_UNABLE_TO_VERIFY_LEAF_SIGNATURE:
 733     case X509_V_ERR_CERT_CHAIN_TOO_LONG:
 734     case X509_V_ERR_PATH_LENGTH_EXCEEDED:
 735     case X509_V_ERR_INVALID_CA:
 736         al = SSL_AD_UNKNOWN_CA;
 737         break;
 738     case X509_V_ERR_APPLICATION_VERIFICATION:
 739         al = SSL_AD_HANDSHAKE_FAILURE;
 740         break;
 741     case X509_V_ERR_INVALID_PURPOSE:
 742         al = SSL_AD_UNSUPPORTED_CERTIFICATE;
 743         break;
 744     default:
 745         al = SSL_AD_CERTIFICATE_UNKNOWN;
 746         break;
 747     }
 748     return (al);
 749 }
 750
 751 int ssl_allow_compression(SSL *s)
 752 {
 753     if (s->options & SSL_OP_NO_COMPRESSION)
 754         return 0;
 755     return ssl_security(s, SSL_SECOP_COMPRESSION, 0, 0, NULL);
 756 }