80626db3735a61ff3954b33bc508ecd626398e64
[openssl.git] / ssl / t1_enc.c
1 /* ssl/t1_enc.c */
2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
3  * All rights reserved.
4  *
5  * This package is an SSL implementation written
6  * by Eric Young (eay@cryptsoft.com).
7  * The implementation was written so as to conform with Netscapes SSL.
8  *
9  * This library is free for commercial and non-commercial use as long as
10  * the following conditions are aheared to.  The following conditions
11  * apply to all code found in this distribution, be it the RC4, RSA,
12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
13  * included with this distribution is covered by the same copyright terms
14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
15  *
16  * Copyright remains Eric Young's, and as such any Copyright notices in
17  * the code are not to be removed.
18  * If this package is used in a product, Eric Young should be given attribution
19  * as the author of the parts of the library used.
20  * This can be in the form of a textual message at program startup or
21  * in documentation (online or textual) provided with the package.
22  *
23  * Redistribution and use in source and binary forms, with or without
24  * modification, are permitted provided that the following conditions
25  * are met:
26  * 1. Redistributions of source code must retain the copyright
27  *    notice, this list of conditions and the following disclaimer.
28  * 2. Redistributions in binary form must reproduce the above copyright
29  *    notice, this list of conditions and the following disclaimer in the
30  *    documentation and/or other materials provided with the distribution.
31  * 3. All advertising materials mentioning features or use of this software
32  *    must display the following acknowledgement:
33  *    "This product includes cryptographic software written by
34  *     Eric Young (eay@cryptsoft.com)"
35  *    The word 'cryptographic' can be left out if the rouines from the library
36  *    being used are not cryptographic related :-).
37  * 4. If you include any Windows specific code (or a derivative thereof) from
38  *    the apps directory (application code) you must include an acknowledgement:
39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
40  *
41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
51  * SUCH DAMAGE.
52  *
53  * The licence and distribution terms for any publically available version or
54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
55  * copied and put under another distribution licence
56  * [including the GNU Public Licence.]
57  */
58 /* ====================================================================
59  * Copyright (c) 1998-2007 The OpenSSL Project.  All rights reserved.
60  *
61  * Redistribution and use in source and binary forms, with or without
62  * modification, are permitted provided that the following conditions
63  * are met:
64  *
65  * 1. Redistributions of source code must retain the above copyright
66  *    notice, this list of conditions and the following disclaimer.
67  *
68  * 2. Redistributions in binary form must reproduce the above copyright
69  *    notice, this list of conditions and the following disclaimer in
70  *    the documentation and/or other materials provided with the
71  *    distribution.
72  *
73  * 3. All advertising materials mentioning features or use of this
74  *    software must display the following acknowledgment:
75  *    "This product includes software developed by the OpenSSL Project
76  *    for use in the OpenSSL Toolkit. (http://www.openssl.org/)"
77  *
78  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
79  *    endorse or promote products derived from this software without
80  *    prior written permission. For written permission, please contact
81  *    openssl-core@openssl.org.
82  *
83  * 5. Products derived from this software may not be called "OpenSSL"
84  *    nor may "OpenSSL" appear in their names without prior written
85  *    permission of the OpenSSL Project.
86  *
87  * 6. Redistributions of any form whatsoever must retain the following
88  *    acknowledgment:
89  *    "This product includes software developed by the OpenSSL Project
90  *    for use in the OpenSSL Toolkit (http://www.openssl.org/)"
91  *
92  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
93  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
94  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
95  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
96  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
97  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
98  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
99  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
100  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
101  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
102  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
103  * OF THE POSSIBILITY OF SUCH DAMAGE.
104  * ====================================================================
105  *
106  * This product includes cryptographic software written by Eric Young
107  * (eay@cryptsoft.com).  This product includes software written by Tim
108  * Hudson (tjh@cryptsoft.com).
109  *
110  */
111 /* ====================================================================
112  * Copyright 2005 Nokia. All rights reserved.
113  *
114  * The portions of the attached software ("Contribution") is developed by
115  * Nokia Corporation and is licensed pursuant to the OpenSSL open source
116  * license.
117  *
118  * The Contribution, originally written by Mika Kousa and Pasi Eronen of
119  * Nokia Corporation, consists of the "PSK" (Pre-Shared Key) ciphersuites
120  * support (see RFC 4279) to OpenSSL.
121  *
122  * No patent licenses or other rights except those expressly stated in
123  * the OpenSSL open source license shall be deemed granted or received
124  * expressly, by implication, estoppel, or otherwise.
125  *
126  * No assurances are provided by Nokia that the Contribution does not
127  * infringe the patent or other intellectual property rights of any third
128  * party or that the license provides you with all the necessary rights
129  * to make use of the Contribution.
130  *
131  * THE SOFTWARE IS PROVIDED "AS IS" WITHOUT WARRANTY OF ANY KIND. IN
132  * ADDITION TO THE DISCLAIMERS INCLUDED IN THE LICENSE, NOKIA
133  * SPECIFICALLY DISCLAIMS ANY LIABILITY FOR CLAIMS BROUGHT BY YOU OR ANY
134  * OTHER ENTITY BASED ON INFRINGEMENT OF INTELLECTUAL PROPERTY RIGHTS OR
135  * OTHERWISE.
136  */
137
138 #include <stdio.h>
139 #include "ssl_locl.h"
140 #ifndef OPENSSL_NO_COMP
141 # include <openssl/comp.h>
142 #endif
143 #include <openssl/evp.h>
144 #include <openssl/hmac.h>
145 #include <openssl/md5.h>
146 #include <openssl/rand.h>
147 #ifdef KSSL_DEBUG
148 # include <openssl/des.h>
149 #endif
150
151 /* seed1 through seed5 are virtually concatenated */
152 static int tls1_P_hash(const EVP_MD *md, const unsigned char *sec,
153                        int sec_len,
154                        const void *seed1, int seed1_len,
155                        const void *seed2, int seed2_len,
156                        const void *seed3, int seed3_len,
157                        const void *seed4, int seed4_len,
158                        const void *seed5, int seed5_len,
159                        unsigned char *out, int olen)
160 {
161     int chunk;
162     size_t j;
163     EVP_MD_CTX ctx, ctx_tmp, ctx_init;
164     EVP_PKEY *mac_key;
165     unsigned char A1[EVP_MAX_MD_SIZE];
166     size_t A1_len;
167     int ret = 0;
168
169     chunk = EVP_MD_size(md);
170     OPENSSL_assert(chunk >= 0);
171
172     EVP_MD_CTX_init(&ctx);
173     EVP_MD_CTX_init(&ctx_tmp);
174     EVP_MD_CTX_init(&ctx_init);
175     EVP_MD_CTX_set_flags(&ctx_init, EVP_MD_CTX_FLAG_NON_FIPS_ALLOW);
176     mac_key = EVP_PKEY_new_mac_key(EVP_PKEY_HMAC, NULL, sec, sec_len);
177     if (!mac_key)
178         goto err;
179     if (!EVP_DigestSignInit(&ctx_init, NULL, md, NULL, mac_key))
180         goto err;
181     if (!EVP_MD_CTX_copy_ex(&ctx, &ctx_init))
182         goto err;
183     if (seed1 && !EVP_DigestSignUpdate(&ctx, seed1, seed1_len))
184         goto err;
185     if (seed2 && !EVP_DigestSignUpdate(&ctx, seed2, seed2_len))
186         goto err;
187     if (seed3 && !EVP_DigestSignUpdate(&ctx, seed3, seed3_len))
188         goto err;
189     if (seed4 && !EVP_DigestSignUpdate(&ctx, seed4, seed4_len))
190         goto err;
191     if (seed5 && !EVP_DigestSignUpdate(&ctx, seed5, seed5_len))
192         goto err;
193     if (!EVP_DigestSignFinal(&ctx, A1, &A1_len))
194         goto err;
195
196     for (;;) {
197         /* Reinit mac contexts */
198         if (!EVP_MD_CTX_copy_ex(&ctx, &ctx_init))
199             goto err;
200         if (!EVP_DigestSignUpdate(&ctx, A1, A1_len))
201             goto err;
202         if (olen > chunk && !EVP_MD_CTX_copy_ex(&ctx_tmp, &ctx))
203             goto err;
204         if (seed1 && !EVP_DigestSignUpdate(&ctx, seed1, seed1_len))
205             goto err;
206         if (seed2 && !EVP_DigestSignUpdate(&ctx, seed2, seed2_len))
207             goto err;
208         if (seed3 && !EVP_DigestSignUpdate(&ctx, seed3, seed3_len))
209             goto err;
210         if (seed4 && !EVP_DigestSignUpdate(&ctx, seed4, seed4_len))
211             goto err;
212         if (seed5 && !EVP_DigestSignUpdate(&ctx, seed5, seed5_len))
213             goto err;
214
215         if (olen > chunk) {
216             if (!EVP_DigestSignFinal(&ctx, out, &j))
217                 goto err;
218             out += j;
219             olen -= j;
220             /* calc the next A1 value */
221             if (!EVP_DigestSignFinal(&ctx_tmp, A1, &A1_len))
222                 goto err;
223         } else {                /* last one */
224
225             if (!EVP_DigestSignFinal(&ctx, A1, &A1_len))
226                 goto err;
227             memcpy(out, A1, olen);
228             break;
229         }
230     }
231     ret = 1;
232  err:
233     EVP_PKEY_free(mac_key);
234     EVP_MD_CTX_cleanup(&ctx);
235     EVP_MD_CTX_cleanup(&ctx_tmp);
236     EVP_MD_CTX_cleanup(&ctx_init);
237     OPENSSL_cleanse(A1, sizeof(A1));
238     return ret;
239 }
240
241 /* seed1 through seed5 are virtually concatenated */
242 static int tls1_PRF(long digest_mask,
243                     const void *seed1, int seed1_len,
244                     const void *seed2, int seed2_len,
245                     const void *seed3, int seed3_len,
246                     const void *seed4, int seed4_len,
247                     const void *seed5, int seed5_len,
248                     const unsigned char *sec, int slen,
249                     unsigned char *out1, unsigned char *out2, int olen)
250 {
251     int len, i, idx, count;
252     const unsigned char *S1;
253     long m;
254     const EVP_MD *md;
255     int ret = 0;
256
257     /* Count number of digests and partition sec evenly */
258     count = 0;
259     for (idx = 0; ssl_get_handshake_digest(idx, &m, &md); idx++) {
260         if ((m << TLS1_PRF_DGST_SHIFT) & digest_mask)
261             count++;
262     }
263     if(!count) {
264         /* Should never happen */
265         SSLerr(SSL_F_TLS1_PRF, ERR_R_INTERNAL_ERROR);
266         goto err;
267     }
268     len = slen / count;
269     if (count == 1)
270         slen = 0;
271     S1 = sec;
272     memset(out1, 0, olen);
273     for (idx = 0; ssl_get_handshake_digest(idx, &m, &md); idx++) {
274         if ((m << TLS1_PRF_DGST_SHIFT) & digest_mask) {
275             if (!md) {
276                 SSLerr(SSL_F_TLS1_PRF, SSL_R_UNSUPPORTED_DIGEST_TYPE);
277                 goto err;
278             }
279             if (!tls1_P_hash(md, S1, len + (slen & 1),
280                              seed1, seed1_len, seed2, seed2_len, seed3,
281                              seed3_len, seed4, seed4_len, seed5, seed5_len,
282                              out2, olen))
283                 goto err;
284             S1 += len;
285             for (i = 0; i < olen; i++) {
286                 out1[i] ^= out2[i];
287             }
288         }
289     }
290     ret = 1;
291  err:
292     return ret;
293 }
294
295 static int tls1_generate_key_block(SSL *s, unsigned char *km,
296                                    unsigned char *tmp, int num)
297 {
298     int ret;
299     ret = tls1_PRF(ssl_get_algorithm2(s),
300                    TLS_MD_KEY_EXPANSION_CONST,
301                    TLS_MD_KEY_EXPANSION_CONST_SIZE, s->s3->server_random,
302                    SSL3_RANDOM_SIZE, s->s3->client_random, SSL3_RANDOM_SIZE,
303                    NULL, 0, NULL, 0, s->session->master_key,
304                    s->session->master_key_length, km, tmp, num);
305 #ifdef KSSL_DEBUG
306     fprintf(stderr, "tls1_generate_key_block() ==> %d byte master_key =\n\t",
307             s->session->master_key_length);
308     {
309         int i;
310         for (i = 0; i < s->session->master_key_length; i++) {
311             fprintf(stderr, "%02X", s->session->master_key[i]);
312         }
313         fprintf(stderr, "\n");
314     }
315 #endif                          /* KSSL_DEBUG */
316     return ret;
317 }
318
319 int tls1_change_cipher_state(SSL *s, int which)
320 {
321     static const unsigned char empty[] = "";
322     unsigned char *p, *mac_secret;
323     unsigned char *exp_label;
324     unsigned char tmp1[EVP_MAX_KEY_LENGTH];
325     unsigned char tmp2[EVP_MAX_KEY_LENGTH];
326     unsigned char iv1[EVP_MAX_IV_LENGTH * 2];
327     unsigned char iv2[EVP_MAX_IV_LENGTH * 2];
328     unsigned char *ms, *key, *iv;
329     int client_write;
330     EVP_CIPHER_CTX *dd;
331     const EVP_CIPHER *c;
332 #ifndef OPENSSL_NO_COMP
333     const SSL_COMP *comp;
334 #endif
335     const EVP_MD *m;
336     int mac_type;
337     int *mac_secret_size;
338     EVP_MD_CTX *mac_ctx;
339     EVP_PKEY *mac_key;
340     int is_export, n, i, j, k, exp_label_len, cl;
341     int reuse_dd = 0;
342
343     is_export = SSL_C_IS_EXPORT(s->s3->tmp.new_cipher);
344     c = s->s3->tmp.new_sym_enc;
345     m = s->s3->tmp.new_hash;
346     mac_type = s->s3->tmp.new_mac_pkey_type;
347 #ifndef OPENSSL_NO_COMP
348     comp = s->s3->tmp.new_compression;
349 #endif
350
351 #ifdef KSSL_DEBUG
352     fprintf(stderr, "tls1_change_cipher_state(which= %d) w/\n", which);
353     fprintf(stderr, "\talg= %ld/%ld, comp= %p\n",
354             s->s3->tmp.new_cipher->algorithm_mkey,
355             s->s3->tmp.new_cipher->algorithm_auth, comp);
356     fprintf(stderr, "\tevp_cipher == %p ==? &d_cbc_ede_cipher3\n", c);
357     fprintf(stderr, "\tevp_cipher: nid, blksz= %d, %d, keylen=%d, ivlen=%d\n",
358             c->nid, c->block_size, c->key_len, c->iv_len);
359     fprintf(stderr, "\tkey_block: len= %d, data= ",
360             s->s3->tmp.key_block_length);
361     {
362         int i;
363         for (i = 0; i < s->s3->tmp.key_block_length; i++)
364             fprintf(stderr, "%02x", s->s3->tmp.key_block[i]);
365         fprintf(stderr, "\n");
366     }
367 #endif                          /* KSSL_DEBUG */
368
369     if (which & SSL3_CC_READ) {
370         if (s->s3->tmp.new_cipher->algorithm2 & TLS1_STREAM_MAC)
371             s->mac_flags |= SSL_MAC_FLAG_READ_MAC_STREAM;
372         else
373             s->mac_flags &= ~SSL_MAC_FLAG_READ_MAC_STREAM;
374
375         if (s->enc_read_ctx != NULL)
376             reuse_dd = 1;
377         else if ((s->enc_read_ctx =
378                   OPENSSL_malloc(sizeof(EVP_CIPHER_CTX))) == NULL)
379             goto err;
380         else
381             /*
382              * make sure it's intialized in case we exit later with an error
383              */
384             EVP_CIPHER_CTX_init(s->enc_read_ctx);
385         dd = s->enc_read_ctx;
386         mac_ctx = ssl_replace_hash(&s->read_hash, NULL);
387 #ifndef OPENSSL_NO_COMP
388         if (s->expand != NULL) {
389             COMP_CTX_free(s->expand);
390             s->expand = NULL;
391         }
392         if (comp != NULL) {
393             s->expand = COMP_CTX_new(comp->method);
394             if (s->expand == NULL) {
395                 SSLerr(SSL_F_TLS1_CHANGE_CIPHER_STATE,
396                        SSL_R_COMPRESSION_LIBRARY_ERROR);
397                 goto err2;
398             }
399             if (SSL3_RECORD_setup(RECORD_LAYER_get_rrec(&s->rlayer),
400                 SSL3_RT_MAX_ENCRYPTED_LENGTH))
401                 goto err;
402         }
403 #endif
404         /*
405          * this is done by dtls1_reset_seq_numbers for DTLS
406          */
407         if (!SSL_IS_DTLS(s))
408             memset(&(s->s3->read_sequence[0]), 0, 8);
409         mac_secret = &(s->s3->read_mac_secret[0]);
410         mac_secret_size = &(s->s3->read_mac_secret_size);
411     } else {
412         if (s->s3->tmp.new_cipher->algorithm2 & TLS1_STREAM_MAC)
413             s->mac_flags |= SSL_MAC_FLAG_WRITE_MAC_STREAM;
414         else
415             s->mac_flags &= ~SSL_MAC_FLAG_WRITE_MAC_STREAM;
416         if (s->enc_write_ctx != NULL && !SSL_IS_DTLS(s))
417             reuse_dd = 1;
418         else if ((s->enc_write_ctx = EVP_CIPHER_CTX_new()) == NULL)
419             goto err;
420         dd = s->enc_write_ctx;
421         if (SSL_IS_DTLS(s)) {
422             mac_ctx = EVP_MD_CTX_create();
423             if (!mac_ctx)
424                 goto err;
425             s->write_hash = mac_ctx;
426         } else
427             mac_ctx = ssl_replace_hash(&s->write_hash, NULL);
428 #ifndef OPENSSL_NO_COMP
429         if (s->compress != NULL) {
430             COMP_CTX_free(s->compress);
431             s->compress = NULL;
432         }
433         if (comp != NULL) {
434             s->compress = COMP_CTX_new(comp->method);
435             if (s->compress == NULL) {
436                 SSLerr(SSL_F_TLS1_CHANGE_CIPHER_STATE,
437                        SSL_R_COMPRESSION_LIBRARY_ERROR);
438                 goto err2;
439             }
440         }
441 #endif
442         /*
443          * this is done by dtls1_reset_seq_numbers for DTLS
444          */
445         if (!SSL_IS_DTLS(s))
446             memset(&(s->s3->write_sequence[0]), 0, 8);
447         mac_secret = &(s->s3->write_mac_secret[0]);
448         mac_secret_size = &(s->s3->write_mac_secret_size);
449     }
450
451     if (reuse_dd)
452         EVP_CIPHER_CTX_cleanup(dd);
453
454     p = s->s3->tmp.key_block;
455     i = *mac_secret_size = s->s3->tmp.new_mac_secret_size;
456
457     cl = EVP_CIPHER_key_length(c);
458     j = is_export ? (cl < SSL_C_EXPORT_KEYLENGTH(s->s3->tmp.new_cipher) ?
459                      cl : SSL_C_EXPORT_KEYLENGTH(s->s3->tmp.new_cipher)) : cl;
460     /* Was j=(exp)?5:EVP_CIPHER_key_length(c); */
461     /* If GCM mode only part of IV comes from PRF */
462     if (EVP_CIPHER_mode(c) == EVP_CIPH_GCM_MODE)
463         k = EVP_GCM_TLS_FIXED_IV_LEN;
464     else
465         k = EVP_CIPHER_iv_length(c);
466     if ((which == SSL3_CHANGE_CIPHER_CLIENT_WRITE) ||
467         (which == SSL3_CHANGE_CIPHER_SERVER_READ)) {
468         ms = &(p[0]);
469         n = i + i;
470         key = &(p[n]);
471         n += j + j;
472         iv = &(p[n]);
473         n += k + k;
474         exp_label = (unsigned char *)TLS_MD_CLIENT_WRITE_KEY_CONST;
475         exp_label_len = TLS_MD_CLIENT_WRITE_KEY_CONST_SIZE;
476         client_write = 1;
477     } else {
478         n = i;
479         ms = &(p[n]);
480         n += i + j;
481         key = &(p[n]);
482         n += j + k;
483         iv = &(p[n]);
484         n += k;
485         exp_label = (unsigned char *)TLS_MD_SERVER_WRITE_KEY_CONST;
486         exp_label_len = TLS_MD_SERVER_WRITE_KEY_CONST_SIZE;
487         client_write = 0;
488     }
489
490     if (n > s->s3->tmp.key_block_length) {
491         SSLerr(SSL_F_TLS1_CHANGE_CIPHER_STATE, ERR_R_INTERNAL_ERROR);
492         goto err2;
493     }
494
495     memcpy(mac_secret, ms, i);
496
497     if (!(EVP_CIPHER_flags(c) & EVP_CIPH_FLAG_AEAD_CIPHER)) {
498         mac_key = EVP_PKEY_new_mac_key(mac_type, NULL,
499                                        mac_secret, *mac_secret_size);
500         EVP_DigestSignInit(mac_ctx, NULL, m, NULL, mac_key);
501         EVP_PKEY_free(mac_key);
502     }
503 #ifdef TLS_DEBUG
504     printf("which = %04X\nmac key=", which);
505     {
506         int z;
507         for (z = 0; z < i; z++)
508             printf("%02X%c", ms[z], ((z + 1) % 16) ? ' ' : '\n');
509     }
510 #endif
511     if (is_export) {
512         /*
513          * In here I set both the read and write key/iv to the same value
514          * since only the correct one will be used :-).
515          */
516         if (!tls1_PRF(ssl_get_algorithm2(s),
517                       exp_label, exp_label_len,
518                       s->s3->client_random, SSL3_RANDOM_SIZE,
519                       s->s3->server_random, SSL3_RANDOM_SIZE,
520                       NULL, 0, NULL, 0,
521                       key, j, tmp1, tmp2, EVP_CIPHER_key_length(c)))
522             goto err2;
523         key = tmp1;
524
525         if (k > 0) {
526             if (!tls1_PRF(ssl_get_algorithm2(s),
527                           TLS_MD_IV_BLOCK_CONST, TLS_MD_IV_BLOCK_CONST_SIZE,
528                           s->s3->client_random, SSL3_RANDOM_SIZE,
529                           s->s3->server_random, SSL3_RANDOM_SIZE,
530                           NULL, 0, NULL, 0, empty, 0, iv1, iv2, k * 2))
531                 goto err2;
532             if (client_write)
533                 iv = iv1;
534             else
535                 iv = &(iv1[k]);
536         }
537     }
538 #ifdef KSSL_DEBUG
539     {
540         int i;
541         fprintf(stderr, "EVP_CipherInit_ex(dd,c,key=,iv=,which)\n");
542         fprintf(stderr, "\tkey= ");
543         for (i = 0; i < c->key_len; i++)
544             fprintf(stderr, "%02x", key[i]);
545         fprintf(stderr, "\n");
546         fprintf(stderr, "\t iv= ");
547         for (i = 0; i < c->iv_len; i++)
548             fprintf(stderr, "%02x", iv[i]);
549         fprintf(stderr, "\n");
550     }
551 #endif                          /* KSSL_DEBUG */
552
553     if (EVP_CIPHER_mode(c) == EVP_CIPH_GCM_MODE) {
554         if (!EVP_CipherInit_ex(dd, c, NULL, key, NULL, (which & SSL3_CC_WRITE))
555             || !EVP_CIPHER_CTX_ctrl(dd, EVP_CTRL_GCM_SET_IV_FIXED, k, iv)) {
556             SSLerr(SSL_F_TLS1_CHANGE_CIPHER_STATE, ERR_R_INTERNAL_ERROR);
557             goto err2;
558         }
559     } else {
560         if (!EVP_CipherInit_ex(dd, c, NULL, key, iv, (which & SSL3_CC_WRITE))) {
561             SSLerr(SSL_F_TLS1_CHANGE_CIPHER_STATE, ERR_R_INTERNAL_ERROR);
562             goto err2;
563         }
564     }
565     /* Needed for "composite" AEADs, such as RC4-HMAC-MD5 */
566     if ((EVP_CIPHER_flags(c) & EVP_CIPH_FLAG_AEAD_CIPHER) && *mac_secret_size
567         && !EVP_CIPHER_CTX_ctrl(dd, EVP_CTRL_AEAD_SET_MAC_KEY,
568                                 *mac_secret_size, mac_secret)) {
569         SSLerr(SSL_F_TLS1_CHANGE_CIPHER_STATE, ERR_R_INTERNAL_ERROR);
570         goto err2;
571     }
572 #ifdef OPENSSL_SSL_TRACE_CRYPTO
573     if (s->msg_callback) {
574         int wh = which & SSL3_CC_WRITE ? TLS1_RT_CRYPTO_WRITE : 0;
575         if (*mac_secret_size)
576             s->msg_callback(2, s->version, wh | TLS1_RT_CRYPTO_MAC,
577                             mac_secret, *mac_secret_size,
578                             s, s->msg_callback_arg);
579         if (c->key_len)
580             s->msg_callback(2, s->version, wh | TLS1_RT_CRYPTO_KEY,
581                             key, c->key_len, s, s->msg_callback_arg);
582         if (k) {
583             if (EVP_CIPHER_mode(c) == EVP_CIPH_GCM_MODE)
584                 wh |= TLS1_RT_CRYPTO_FIXED_IV;
585             else
586                 wh |= TLS1_RT_CRYPTO_IV;
587             s->msg_callback(2, s->version, wh, iv, k, s, s->msg_callback_arg);
588         }
589     }
590 #endif
591
592 #ifdef TLS_DEBUG
593     printf("which = %04X\nkey=", which);
594     {
595         int z;
596         for (z = 0; z < EVP_CIPHER_key_length(c); z++)
597             printf("%02X%c", key[z], ((z + 1) % 16) ? ' ' : '\n');
598     }
599     printf("\niv=");
600     {
601         int z;
602         for (z = 0; z < k; z++)
603             printf("%02X%c", iv[z], ((z + 1) % 16) ? ' ' : '\n');
604     }
605     printf("\n");
606 #endif
607
608     OPENSSL_cleanse(tmp1, sizeof(tmp1));
609     OPENSSL_cleanse(tmp2, sizeof(tmp1));
610     OPENSSL_cleanse(iv1, sizeof(iv1));
611     OPENSSL_cleanse(iv2, sizeof(iv2));
612     return (1);
613  err:
614     SSLerr(SSL_F_TLS1_CHANGE_CIPHER_STATE, ERR_R_MALLOC_FAILURE);
615  err2:
616     return (0);
617 }
618
619 int tls1_setup_key_block(SSL *s)
620 {
621     unsigned char *p1, *p2 = NULL;
622     const EVP_CIPHER *c;
623     const EVP_MD *hash;
624     int num;
625     SSL_COMP *comp;
626     int mac_type = NID_undef, mac_secret_size = 0;
627     int ret = 0;
628
629 #ifdef KSSL_DEBUG
630     fprintf(stderr, "tls1_setup_key_block()\n");
631 #endif                          /* KSSL_DEBUG */
632
633     if (s->s3->tmp.key_block_length != 0)
634         return (1);
635
636     if (!ssl_cipher_get_evp
637         (s->session, &c, &hash, &mac_type, &mac_secret_size, &comp,
638          SSL_USE_ETM(s))) {
639         SSLerr(SSL_F_TLS1_SETUP_KEY_BLOCK, SSL_R_CIPHER_OR_HASH_UNAVAILABLE);
640         return (0);
641     }
642
643     s->s3->tmp.new_sym_enc = c;
644     s->s3->tmp.new_hash = hash;
645     s->s3->tmp.new_mac_pkey_type = mac_type;
646     s->s3->tmp.new_mac_secret_size = mac_secret_size;
647     num =
648         EVP_CIPHER_key_length(c) + mac_secret_size + EVP_CIPHER_iv_length(c);
649     num *= 2;
650
651     ssl3_cleanup_key_block(s);
652
653     if ((p1 = (unsigned char *)OPENSSL_malloc(num)) == NULL) {
654         SSLerr(SSL_F_TLS1_SETUP_KEY_BLOCK, ERR_R_MALLOC_FAILURE);
655         goto err;
656     }
657
658     s->s3->tmp.key_block_length = num;
659     s->s3->tmp.key_block = p1;
660
661     if ((p2 = (unsigned char *)OPENSSL_malloc(num)) == NULL) {
662         SSLerr(SSL_F_TLS1_SETUP_KEY_BLOCK, ERR_R_MALLOC_FAILURE);
663         OPENSSL_free(p1);
664         goto err;
665     }
666 #ifdef TLS_DEBUG
667     printf("client random\n");
668     {
669         int z;
670         for (z = 0; z < SSL3_RANDOM_SIZE; z++)
671             printf("%02X%c", s->s3->client_random[z],
672                    ((z + 1) % 16) ? ' ' : '\n');
673     }
674     printf("server random\n");
675     {
676         int z;
677         for (z = 0; z < SSL3_RANDOM_SIZE; z++)
678             printf("%02X%c", s->s3->server_random[z],
679                    ((z + 1) % 16) ? ' ' : '\n');
680     }
681     printf("master key\n");
682     {
683         int z;
684         for (z = 0; z < s->session->master_key_length; z++)
685             printf("%02X%c", s->session->master_key[z],
686                    ((z + 1) % 16) ? ' ' : '\n');
687     }
688 #endif
689     if (!tls1_generate_key_block(s, p1, p2, num))
690         goto err;
691 #ifdef TLS_DEBUG
692     printf("\nkey block\n");
693     {
694         int z;
695         for (z = 0; z < num; z++)
696             printf("%02X%c", p1[z], ((z + 1) % 16) ? ' ' : '\n');
697     }
698 #endif
699
700     if (!(s->options & SSL_OP_DONT_INSERT_EMPTY_FRAGMENTS)
701         && s->method->version <= TLS1_VERSION) {
702         /*
703          * enable vulnerability countermeasure for CBC ciphers with known-IV
704          * problem (http://www.openssl.org/~bodo/tls-cbc.txt)
705          */
706         s->s3->need_empty_fragments = 1;
707
708         if (s->session->cipher != NULL) {
709             if (s->session->cipher->algorithm_enc == SSL_eNULL)
710                 s->s3->need_empty_fragments = 0;
711
712 #ifndef OPENSSL_NO_RC4
713             if (s->session->cipher->algorithm_enc == SSL_RC4)
714                 s->s3->need_empty_fragments = 0;
715 #endif
716         }
717     }
718
719     ret = 1;
720  err:
721     if (p2) {
722         OPENSSL_cleanse(p2, num);
723         OPENSSL_free(p2);
724     }
725     return (ret);
726 }
727
728
729 int tls1_cert_verify_mac(SSL *s, int md_nid, unsigned char *out)
730 {
731     unsigned int ret;
732     EVP_MD_CTX ctx, *d = NULL;
733     int i;
734
735     if (s->s3->handshake_buffer)
736         if (!ssl3_digest_cached_records(s))
737             return 0;
738
739     for (i = 0; i < SSL_MAX_DIGEST; i++) {
740         if (s->s3->handshake_dgst[i]
741             && EVP_MD_CTX_type(s->s3->handshake_dgst[i]) == md_nid) {
742             d = s->s3->handshake_dgst[i];
743             break;
744         }
745     }
746     if (!d) {
747         SSLerr(SSL_F_TLS1_CERT_VERIFY_MAC, SSL_R_NO_REQUIRED_DIGEST);
748         return 0;
749     }
750
751     EVP_MD_CTX_init(&ctx);
752     EVP_MD_CTX_copy_ex(&ctx, d);
753     EVP_DigestFinal_ex(&ctx, out, &ret);
754     EVP_MD_CTX_cleanup(&ctx);
755     return ((int)ret);
756 }
757
758 int tls1_final_finish_mac(SSL *s, const char *str, int slen,
759                           unsigned char *out)
760 {
761     int hashlen;
762     unsigned char hash[2 * EVP_MAX_MD_SIZE];
763     unsigned char buf2[12];
764
765     if (s->s3->handshake_buffer)
766         if (!ssl3_digest_cached_records(s))
767             return 0;
768
769     hashlen = ssl_handshake_hash(s, hash, sizeof(hash));
770
771     if (hashlen == 0)
772         return 0;
773
774     if (!tls1_PRF(ssl_get_algorithm2(s),
775                   str, slen, hash, hashlen, NULL, 0, NULL, 0, NULL, 0,
776                   s->session->master_key, s->session->master_key_length,
777                   out, buf2, sizeof buf2))
778         return 0;
779     OPENSSL_cleanse(hash, hashlen);
780     OPENSSL_cleanse(buf2, sizeof(buf2));
781     return sizeof buf2;
782 }
783
784 int tls1_generate_master_secret(SSL *s, unsigned char *out, unsigned char *p,
785                                 int len)
786 {
787     unsigned char buff[SSL_MAX_MASTER_KEY_LENGTH];
788
789 #ifdef KSSL_DEBUG
790     fprintf(stderr, "tls1_generate_master_secret(%p,%p, %p, %d)\n", s, out, p,
791             len);
792 #endif                          /* KSSL_DEBUG */
793
794     if (s->session->flags & SSL_SESS_FLAG_EXTMS) {
795         unsigned char hash[EVP_MAX_MD_SIZE * 2];
796         int hashlen;
797         /* If we don't have any digests cache records */
798         if (s->s3->handshake_buffer) {
799             /*
800              * keep record buffer: this wont affect client auth because we're
801              * freezing the buffer at the same point (after client key
802              * exchange and before certificate verify)
803              */
804             s->s3->flags |= TLS1_FLAGS_KEEP_HANDSHAKE;
805             if(!ssl3_digest_cached_records(s))
806                 return -1;
807         }
808         hashlen = ssl_handshake_hash(s, hash, sizeof(hash));
809 #ifdef SSL_DEBUG
810         fprintf(stderr, "Handshake hashes:\n");
811         BIO_dump_fp(stderr, (char *)hash, hashlen);
812 #endif
813         tls1_PRF(ssl_get_algorithm2(s),
814                  TLS_MD_EXTENDED_MASTER_SECRET_CONST,
815                  TLS_MD_EXTENDED_MASTER_SECRET_CONST_SIZE,
816                  hash, hashlen,
817                  NULL, 0,
818                  NULL, 0,
819                  NULL, 0, p, len, s->session->master_key, buff, sizeof buff);
820         OPENSSL_cleanse(hash, hashlen);
821     } else {
822         tls1_PRF(ssl_get_algorithm2(s),
823                  TLS_MD_MASTER_SECRET_CONST,
824                  TLS_MD_MASTER_SECRET_CONST_SIZE,
825                  s->s3->client_random, SSL3_RANDOM_SIZE,
826                  NULL, 0,
827                  s->s3->server_random, SSL3_RANDOM_SIZE,
828                  NULL, 0, p, len, s->session->master_key, buff, sizeof buff);
829     }
830     OPENSSL_cleanse(buff, sizeof buff);
831 #ifdef SSL_DEBUG
832     fprintf(stderr, "Premaster Secret:\n");
833     BIO_dump_fp(stderr, (char *)p, len);
834     fprintf(stderr, "Client Random:\n");
835     BIO_dump_fp(stderr, (char *)s->s3->client_random, SSL3_RANDOM_SIZE);
836     fprintf(stderr, "Server Random:\n");
837     BIO_dump_fp(stderr, (char *)s->s3->server_random, SSL3_RANDOM_SIZE);
838     fprintf(stderr, "Master Secret:\n");
839     BIO_dump_fp(stderr, (char *)s->session->master_key,
840                 SSL3_MASTER_SECRET_SIZE);
841 #endif
842
843 #ifdef OPENSSL_SSL_TRACE_CRYPTO
844     if (s->msg_callback) {
845         s->msg_callback(2, s->version, TLS1_RT_CRYPTO_PREMASTER,
846                         p, len, s, s->msg_callback_arg);
847         s->msg_callback(2, s->version, TLS1_RT_CRYPTO_CLIENT_RANDOM,
848                         s->s3->client_random, SSL3_RANDOM_SIZE,
849                         s, s->msg_callback_arg);
850         s->msg_callback(2, s->version, TLS1_RT_CRYPTO_SERVER_RANDOM,
851                         s->s3->server_random, SSL3_RANDOM_SIZE,
852                         s, s->msg_callback_arg);
853         s->msg_callback(2, s->version, TLS1_RT_CRYPTO_MASTER,
854                         s->session->master_key,
855                         SSL3_MASTER_SECRET_SIZE, s, s->msg_callback_arg);
856     }
857 #endif
858
859 #ifdef KSSL_DEBUG
860     fprintf(stderr, "tls1_generate_master_secret() complete\n");
861 #endif                          /* KSSL_DEBUG */
862     return (SSL3_MASTER_SECRET_SIZE);
863 }
864
865 int tls1_export_keying_material(SSL *s, unsigned char *out, size_t olen,
866                                 const char *label, size_t llen,
867                                 const unsigned char *context,
868                                 size_t contextlen, int use_context)
869 {
870     unsigned char *buff;
871     unsigned char *val = NULL;
872     size_t vallen, currentvalpos;
873     int rv;
874
875 #ifdef KSSL_DEBUG
876     fprintf(stderr, "tls1_export_keying_material(%p,%p,%lu,%s,%lu,%p,%lu)\n",
877             s, out, olen, label, llen, context, contextlen);
878 #endif                          /* KSSL_DEBUG */
879
880     buff = OPENSSL_malloc(olen);
881     if (buff == NULL)
882         goto err2;
883
884     /*
885      * construct PRF arguments we construct the PRF argument ourself rather
886      * than passing separate values into the TLS PRF to ensure that the
887      * concatenation of values does not create a prohibited label.
888      */
889     vallen = llen + SSL3_RANDOM_SIZE * 2;
890     if (use_context) {
891         vallen += 2 + contextlen;
892     }
893
894     val = OPENSSL_malloc(vallen);
895     if (val == NULL)
896         goto err2;
897     currentvalpos = 0;
898     memcpy(val + currentvalpos, (unsigned char *)label, llen);
899     currentvalpos += llen;
900     memcpy(val + currentvalpos, s->s3->client_random, SSL3_RANDOM_SIZE);
901     currentvalpos += SSL3_RANDOM_SIZE;
902     memcpy(val + currentvalpos, s->s3->server_random, SSL3_RANDOM_SIZE);
903     currentvalpos += SSL3_RANDOM_SIZE;
904
905     if (use_context) {
906         val[currentvalpos] = (contextlen >> 8) & 0xff;
907         currentvalpos++;
908         val[currentvalpos] = contextlen & 0xff;
909         currentvalpos++;
910         if ((contextlen > 0) || (context != NULL)) {
911             memcpy(val + currentvalpos, context, contextlen);
912         }
913     }
914
915     /*
916      * disallow prohibited labels note that SSL3_RANDOM_SIZE > max(prohibited
917      * label len) = 15, so size of val > max(prohibited label len) = 15 and
918      * the comparisons won't have buffer overflow
919      */
920     if (memcmp(val, TLS_MD_CLIENT_FINISH_CONST,
921                TLS_MD_CLIENT_FINISH_CONST_SIZE) == 0)
922         goto err1;
923     if (memcmp(val, TLS_MD_SERVER_FINISH_CONST,
924                TLS_MD_SERVER_FINISH_CONST_SIZE) == 0)
925         goto err1;
926     if (memcmp(val, TLS_MD_MASTER_SECRET_CONST,
927                TLS_MD_MASTER_SECRET_CONST_SIZE) == 0)
928         goto err1;
929     if (memcmp(val, TLS_MD_EXTENDED_MASTER_SECRET_CONST,
930                TLS_MD_EXTENDED_MASTER_SECRET_CONST_SIZE) == 0)
931         goto err1;
932     if (memcmp(val, TLS_MD_KEY_EXPANSION_CONST,
933                TLS_MD_KEY_EXPANSION_CONST_SIZE) == 0)
934         goto err1;
935
936     rv = tls1_PRF(ssl_get_algorithm2(s),
937                   val, vallen,
938                   NULL, 0,
939                   NULL, 0,
940                   NULL, 0,
941                   NULL, 0,
942                   s->session->master_key, s->session->master_key_length,
943                   out, buff, olen);
944     OPENSSL_cleanse(val, vallen);
945     OPENSSL_cleanse(buff, olen);
946
947 #ifdef KSSL_DEBUG
948     fprintf(stderr, "tls1_export_keying_material() complete\n");
949 #endif                          /* KSSL_DEBUG */
950     goto ret;
951  err1:
952     SSLerr(SSL_F_TLS1_EXPORT_KEYING_MATERIAL,
953            SSL_R_TLS_ILLEGAL_EXPORTER_LABEL);
954     rv = 0;
955     goto ret;
956  err2:
957     SSLerr(SSL_F_TLS1_EXPORT_KEYING_MATERIAL, ERR_R_MALLOC_FAILURE);
958     rv = 0;
959  ret:
960     if (buff != NULL)
961         OPENSSL_free(buff);
962     if (val != NULL)
963         OPENSSL_free(val);
964     return (rv);
965 }
966
967 int tls1_alert_code(int code)
968 {
969     switch (code) {
970     case SSL_AD_CLOSE_NOTIFY:
971         return (SSL3_AD_CLOSE_NOTIFY);
972     case SSL_AD_UNEXPECTED_MESSAGE:
973         return (SSL3_AD_UNEXPECTED_MESSAGE);
974     case SSL_AD_BAD_RECORD_MAC:
975         return (SSL3_AD_BAD_RECORD_MAC);
976     case SSL_AD_DECRYPTION_FAILED:
977         return (TLS1_AD_DECRYPTION_FAILED);
978     case SSL_AD_RECORD_OVERFLOW:
979         return (TLS1_AD_RECORD_OVERFLOW);
980     case SSL_AD_DECOMPRESSION_FAILURE:
981         return (SSL3_AD_DECOMPRESSION_FAILURE);
982     case SSL_AD_HANDSHAKE_FAILURE:
983         return (SSL3_AD_HANDSHAKE_FAILURE);
984     case SSL_AD_NO_CERTIFICATE:
985         return (-1);
986     case SSL_AD_BAD_CERTIFICATE:
987         return (SSL3_AD_BAD_CERTIFICATE);
988     case SSL_AD_UNSUPPORTED_CERTIFICATE:
989         return (SSL3_AD_UNSUPPORTED_CERTIFICATE);
990     case SSL_AD_CERTIFICATE_REVOKED:
991         return (SSL3_AD_CERTIFICATE_REVOKED);
992     case SSL_AD_CERTIFICATE_EXPIRED:
993         return (SSL3_AD_CERTIFICATE_EXPIRED);
994     case SSL_AD_CERTIFICATE_UNKNOWN:
995         return (SSL3_AD_CERTIFICATE_UNKNOWN);
996     case SSL_AD_ILLEGAL_PARAMETER:
997         return (SSL3_AD_ILLEGAL_PARAMETER);
998     case SSL_AD_UNKNOWN_CA:
999         return (TLS1_AD_UNKNOWN_CA);
1000     case SSL_AD_ACCESS_DENIED:
1001         return (TLS1_AD_ACCESS_DENIED);
1002     case SSL_AD_DECODE_ERROR:
1003         return (TLS1_AD_DECODE_ERROR);
1004     case SSL_AD_DECRYPT_ERROR:
1005         return (TLS1_AD_DECRYPT_ERROR);
1006     case SSL_AD_EXPORT_RESTRICTION:
1007         return (TLS1_AD_EXPORT_RESTRICTION);
1008     case SSL_AD_PROTOCOL_VERSION:
1009         return (TLS1_AD_PROTOCOL_VERSION);
1010     case SSL_AD_INSUFFICIENT_SECURITY:
1011         return (TLS1_AD_INSUFFICIENT_SECURITY);
1012     case SSL_AD_INTERNAL_ERROR:
1013         return (TLS1_AD_INTERNAL_ERROR);
1014     case SSL_AD_USER_CANCELLED:
1015         return (TLS1_AD_USER_CANCELLED);
1016     case SSL_AD_NO_RENEGOTIATION:
1017         return (TLS1_AD_NO_RENEGOTIATION);
1018     case SSL_AD_UNSUPPORTED_EXTENSION:
1019         return (TLS1_AD_UNSUPPORTED_EXTENSION);
1020     case SSL_AD_CERTIFICATE_UNOBTAINABLE:
1021         return (TLS1_AD_CERTIFICATE_UNOBTAINABLE);
1022     case SSL_AD_UNRECOGNIZED_NAME:
1023         return (TLS1_AD_UNRECOGNIZED_NAME);
1024     case SSL_AD_BAD_CERTIFICATE_STATUS_RESPONSE:
1025         return (TLS1_AD_BAD_CERTIFICATE_STATUS_RESPONSE);
1026     case SSL_AD_BAD_CERTIFICATE_HASH_VALUE:
1027         return (TLS1_AD_BAD_CERTIFICATE_HASH_VALUE);
1028     case SSL_AD_UNKNOWN_PSK_IDENTITY:
1029         return (TLS1_AD_UNKNOWN_PSK_IDENTITY);
1030     case SSL_AD_INAPPROPRIATE_FALLBACK:
1031         return (TLS1_AD_INAPPROPRIATE_FALLBACK);
1032     default:
1033         return (-1);
1034     }
1035 }