Fix enable-ssl3 enable-ssl3-method
[openssl.git] / ssl / record / ssl3_record_tls13.c
1 /*
2  * Copyright 2016-2018 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the OpenSSL license (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #include "../ssl_locl.h"
11 #include "record_locl.h"
12 #include "internal/cryptlib.h"
13
14 /*-
15  * tls13_enc encrypts/decrypts |n_recs| in |recs|. Will call SSLfatal() for
16  * internal errors, but not otherwise.
17  *
18  * Returns:
19  *    0: (in non-constant time) if the record is publically invalid (i.e. too
20  *        short etc).
21  *    1: if the record encryption was successful.
22  *   -1: if the record's AEAD-authenticator is invalid or, if sending,
23  *       an internal error occurred.
24  */
25 int tls13_enc(SSL *s, SSL3_RECORD *recs, size_t n_recs, int sending)
26 {
27     EVP_CIPHER_CTX *ctx;
28     unsigned char iv[EVP_MAX_IV_LENGTH], recheader[SSL3_RT_HEADER_LENGTH];
29     size_t ivlen, taglen, offset, loop, hdrlen;
30     unsigned char *staticiv;
31     unsigned char *seq;
32     int lenu, lenf;
33     SSL3_RECORD *rec = &recs[0];
34     uint32_t alg_enc;
35     WPACKET wpkt;
36
37     if (n_recs != 1) {
38         /* Should not happen */
39         /* TODO(TLS1.3): Support pipelining */
40         SSLfatal(s, SSL_AD_INTERNAL_ERROR, SSL_F_TLS13_ENC,
41                  ERR_R_INTERNAL_ERROR);
42         return -1;
43     }
44
45     if (sending) {
46         ctx = s->enc_write_ctx;
47         staticiv = s->write_iv;
48         seq = RECORD_LAYER_get_write_sequence(&s->rlayer);
49     } else {
50         ctx = s->enc_read_ctx;
51         staticiv = s->read_iv;
52         seq = RECORD_LAYER_get_read_sequence(&s->rlayer);
53     }
54
55     if (ctx == NULL) {
56         memmove(rec->data, rec->input, rec->length);
57         rec->input = rec->data;
58         return 1;
59     }
60
61     ivlen = EVP_CIPHER_CTX_iv_length(ctx);
62
63     if (s->early_data_state == SSL_EARLY_DATA_WRITING
64             || s->early_data_state == SSL_EARLY_DATA_WRITE_RETRY) {
65         if (s->session != NULL && s->session->ext.max_early_data > 0) {
66             alg_enc = s->session->cipher->algorithm_enc;
67         } else {
68             if (!ossl_assert(s->psksession != NULL
69                              && s->psksession->ext.max_early_data > 0)) {
70                 SSLfatal(s, SSL_AD_INTERNAL_ERROR, SSL_F_TLS13_ENC,
71                          ERR_R_INTERNAL_ERROR);
72                 return -1;
73             }
74             alg_enc = s->psksession->cipher->algorithm_enc;
75         }
76     } else {
77         /*
78          * To get here we must have selected a ciphersuite - otherwise ctx would
79          * be NULL
80          */
81         if (!ossl_assert(s->s3->tmp.new_cipher != NULL)) {
82             SSLfatal(s, SSL_AD_INTERNAL_ERROR, SSL_F_TLS13_ENC,
83                      ERR_R_INTERNAL_ERROR);
84             return -1;
85         }
86         alg_enc = s->s3->tmp.new_cipher->algorithm_enc;
87     }
88
89     if (alg_enc & SSL_AESCCM) {
90         if (alg_enc & (SSL_AES128CCM8 | SSL_AES256CCM8))
91             taglen = EVP_CCM8_TLS_TAG_LEN;
92          else
93             taglen = EVP_CCM_TLS_TAG_LEN;
94          if (sending && EVP_CIPHER_CTX_ctrl(ctx, EVP_CTRL_AEAD_SET_TAG, taglen,
95                                          NULL) <= 0) {
96             SSLfatal(s, SSL_AD_INTERNAL_ERROR, SSL_F_TLS13_ENC,
97                      ERR_R_INTERNAL_ERROR);
98             return -1;
99         }
100     } else if (alg_enc & SSL_AESGCM) {
101         taglen = EVP_GCM_TLS_TAG_LEN;
102     } else if (alg_enc & SSL_CHACHA20) {
103         taglen = EVP_CHACHAPOLY_TLS_TAG_LEN;
104     } else {
105         SSLfatal(s, SSL_AD_INTERNAL_ERROR, SSL_F_TLS13_ENC,
106                  ERR_R_INTERNAL_ERROR);
107         return -1;
108     }
109
110     if (!sending) {
111         /*
112          * Take off tag. There must be at least one byte of content type as
113          * well as the tag
114          */
115         if (rec->length < taglen + 1)
116             return 0;
117         rec->length -= taglen;
118     }
119
120     /* Set up IV */
121     if (ivlen < SEQ_NUM_SIZE) {
122         /* Should not happen */
123         SSLfatal(s, SSL_AD_INTERNAL_ERROR, SSL_F_TLS13_ENC,
124                  ERR_R_INTERNAL_ERROR);
125         return -1;
126     }
127     offset = ivlen - SEQ_NUM_SIZE;
128     memcpy(iv, staticiv, offset);
129     for (loop = 0; loop < SEQ_NUM_SIZE; loop++)
130         iv[offset + loop] = staticiv[offset + loop] ^ seq[loop];
131
132     /* Increment the sequence counter */
133     for (loop = SEQ_NUM_SIZE; loop > 0; loop--) {
134         ++seq[loop - 1];
135         if (seq[loop - 1] != 0)
136             break;
137     }
138     if (loop == 0) {
139         /* Sequence has wrapped */
140         return -1;
141     }
142
143     /* TODO(size_t): lenu/lenf should be a size_t but EVP doesn't support it */
144     if (EVP_CipherInit_ex(ctx, NULL, NULL, NULL, iv, sending) <= 0
145             || (!sending && EVP_CIPHER_CTX_ctrl(ctx, EVP_CTRL_AEAD_SET_TAG,
146                                              taglen,
147                                              rec->data + rec->length) <= 0)) {
148         return -1;
149     }
150
151     /* Set up the AAD */
152     if (!WPACKET_init_static_len(&wpkt, recheader, sizeof(recheader), 0)
153             || !WPACKET_put_bytes_u8(&wpkt, rec->type)
154             || !WPACKET_put_bytes_u16(&wpkt, rec->rec_version)
155             || !WPACKET_put_bytes_u16(&wpkt, rec->length + taglen)
156             || !WPACKET_get_total_written(&wpkt, &hdrlen)
157             || hdrlen != SSL3_RT_HEADER_LENGTH
158             || !WPACKET_finish(&wpkt)) {
159         WPACKET_cleanup(&wpkt);
160         return -1;
161     }
162
163     /*
164      * For CCM we must explicitly set the total plaintext length before we add
165      * any AAD.
166      */
167     if (((alg_enc & SSL_AESCCM) != 0
168                  && EVP_CipherUpdate(ctx, NULL, &lenu, NULL,
169                                      (unsigned int)rec->length) <= 0)
170             || EVP_CipherUpdate(ctx, NULL, &lenu, recheader,
171                                 sizeof(recheader)) <= 0
172             || EVP_CipherUpdate(ctx, rec->data, &lenu, rec->input,
173                                 (unsigned int)rec->length) <= 0
174             || EVP_CipherFinal_ex(ctx, rec->data + lenu, &lenf) <= 0
175             || (size_t)(lenu + lenf) != rec->length) {
176         return -1;
177     }
178     if (sending) {
179         /* Add the tag */
180         if (EVP_CIPHER_CTX_ctrl(ctx, EVP_CTRL_AEAD_GET_TAG, taglen,
181                                 rec->data + rec->length) <= 0) {
182             SSLfatal(s, SSL_AD_INTERNAL_ERROR, SSL_F_TLS13_ENC,
183                      ERR_R_INTERNAL_ERROR);
184             return -1;
185         }
186         rec->length += taglen;
187     }
188
189     return 1;
190 }