ef124c8237c366c4f36b7d8e559d66330263c209
[openssl.git] / ssl / record / methods / recmethod_local.h
1 /*
2  * Copyright 2022 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the Apache License 2.0 (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #include <openssl/bio.h>
11 #include <openssl/ssl.h>
12 #include <openssl/err.h>
13 #include "../../ssl_local.h"
14 #include "../record_local.h"
15
16 /* Protocol version specific function pointers */
17 struct record_functions_st
18 {
19     /*
20      * Returns either OSSL_RECORD_RETURN_SUCCESS, OSSL_RECORD_RETURN_FATAL or
21      * OSSL_RECORD_RETURN_NON_FATAL_ERR if we can keep trying to find an
22      * alternative record layer.
23      */
24     int (*set_crypto_state)(OSSL_RECORD_LAYER *rl, int level,
25                             unsigned char *key, size_t keylen,
26                             unsigned char *iv, size_t ivlen,
27                             unsigned char *mackey, size_t mackeylen,
28                             const EVP_CIPHER *ciph,
29                             size_t taglen,
30                             /* TODO(RECLAYER): This probably should not be an int */
31                             int mactype,
32                             const EVP_MD *md,
33                             const SSL_COMP *comp,
34                             /* TODO(RECLAYER): Remove me */
35                             SSL_CONNECTION *s);
36
37     int (*read_n)(OSSL_RECORD_LAYER *rl, size_t n, size_t max, int extend,
38                   int clearold, size_t *readbytes);
39     /*
40      * Returns:
41      *    0: if the record is publicly invalid, or an internal error, or AEAD
42      *       decryption failed, or EtM decryption failed.
43      *    1: Success or MtE decryption failed (MAC will be randomised)
44      */
45     int (*cipher)(OSSL_RECORD_LAYER *rl, SSL3_RECORD *recs, size_t n_recs,
46                   int sending, SSL_MAC_BUF *macs, size_t macsize,
47                   /* TODO(RECLAYER): Remove me */ SSL_CONNECTION *s);
48     /* Returns 1 for success or 0 for error */
49     int (*mac)(OSSL_RECORD_LAYER *rl, SSL3_RECORD *rec, unsigned char *md,
50                int sending, /* TODO(RECLAYER): Remove me */SSL_CONNECTION *ssl);
51
52     /* Return 1 for success or 0 for error */
53     int (*set_protocol_version)(OSSL_RECORD_LAYER *rl, int version);
54
55     /* Return 1 for success or 0 for error */
56     int (*validate_record_header)(OSSL_RECORD_LAYER *rl, SSL3_RECORD *rec);
57
58     /* Return 1 for success or 0 for error */
59     int (*post_process_record)(OSSL_RECORD_LAYER *rl, SSL3_RECORD *rec,
60                                /* TODO(RECLAYER): Remove me */ SSL_CONNECTION *s);
61 };
62
63 struct ossl_record_layer_st
64 {
65     OSSL_LIB_CTX *libctx;
66     const char *propq;
67     int isdtls;
68     int version;
69     int role;
70     int direction;
71     BIO *bio;
72     /* Types match the equivalent structures in the SSL object */
73     uint64_t options;
74     /*
75      * TODO(RECLAYER): Should we take the opportunity to make this uint64_t
76      * even though upper layer continue to use uint32_t?
77      */
78     uint32_t mode;
79
80     /* read IO goes into here */
81     SSL3_BUFFER rbuf;
82     /* each decoded record goes in here */
83     SSL3_RECORD rrec[SSL_MAX_PIPELINES];
84
85     /* How many records have we got available in the rrec bufer */
86     size_t num_recs;
87
88     /* The record number in the rrec buffer that can be read next */
89     size_t curr_rec;
90
91     /* The number of records that have been released via tls_release_record */
92     size_t num_released;
93
94     /* where we are when reading */
95     int rstate;
96
97     /* used internally to point at a raw packet */
98     unsigned char *packet;
99     size_t packet_length;
100
101     int alert;
102
103     /*
104      * Read as many input bytes as possible (for
105      * non-blocking reads)
106      * TODO(RECLAYER): Why isn't this just an option?
107      */
108     int read_ahead;
109
110     /* The number of consecutive empty records we have received */
111     size_t empty_record_count;
112
113     /* cryptographic state */
114     EVP_CIPHER_CTX *enc_read_ctx;
115
116     /* used for mac generation */
117     EVP_MD_CTX *read_hash;
118     /* uncompress */
119     COMP_CTX *expand;
120
121     /* Set to 1 if this is the first handshake. 0 otherwise */
122     int is_first_handshake;
123
124     /* Only used by SSLv3 */
125     unsigned char mac_secret[EVP_MAX_MD_SIZE];
126
127     /* TLSv1.3 fields */
128     /* static IV */
129     unsigned char iv[EVP_MAX_IV_LENGTH];
130     /* static read IV */
131     unsigned char read_iv[EVP_MAX_IV_LENGTH];
132     int allow_plain_alerts;
133
134     /* TLS "any" fields */
135     /* Set to true if this is the first record in a connection */
136     unsigned int is_first_record;
137
138     size_t taglen;
139
140     /* Function pointers for version specific functions */
141     /* Function pointers for version specific functions */
142     struct record_functions_st *funcs;
143 };
144
145 extern struct record_functions_st ssl_3_0_funcs;
146 extern struct record_functions_st tls_1_funcs;
147 extern struct record_functions_st tls_1_3_funcs;
148 extern struct record_functions_st tls_any_funcs;
149
150 void ossl_rlayer_fatal(OSSL_RECORD_LAYER *rl, int al, int reason,
151                        const char *fmt, ...);
152
153 # define RLAYERfatal(rl, al, r) RLAYERfatal_data((rl), (al), (r), NULL)
154 # define RLAYERfatal_data                                          \
155     (ERR_new(),                                                    \
156      ERR_set_debug(OPENSSL_FILE, OPENSSL_LINE, OPENSSL_FUNC),      \
157      ossl_rlayer_fatal)
158
159 int ossl_set_tls_provider_parameters(OSSL_RECORD_LAYER *rl,
160                                      EVP_CIPHER_CTX *ctx,
161                                      const EVP_CIPHER *ciph,
162                                      const EVP_MD *md,
163                                      SSL_CONNECTION *s);
164 /* ssl3_cbc.c */
165 __owur char ssl3_cbc_record_digest_supported(const EVP_MD_CTX *ctx);
166 __owur int ssl3_cbc_digest_record(const EVP_MD *md,
167                                   unsigned char *md_out,
168                                   size_t *md_out_size,
169                                   const unsigned char *header,
170                                   const unsigned char *data,
171                                   size_t data_size,
172                                   size_t data_plus_mac_plus_padding_size,
173                                   const unsigned char *mac_secret,
174                                   size_t mac_secret_length, char is_sslv3);
175
176 int tls_default_read_n(OSSL_RECORD_LAYER *rl, size_t n, size_t max, int extend,
177                        int clearold, size_t *readbytes);
178
179 int tls_default_set_protocol_version(OSSL_RECORD_LAYER *rl, int version);
180 int tls_default_validate_record_header(OSSL_RECORD_LAYER *rl, SSL3_RECORD *re);
181 int tls_default_post_process_record(OSSL_RECORD_LAYER *rl, SSL3_RECORD *rec, SSL_CONNECTION *s);
182 int tls13_common_post_process_record(OSSL_RECORD_LAYER *rl, SSL3_RECORD *rec,
183                                      SSL_CONNECTION *s);
184
185 int
186 tls_int_new_record_layer(OSSL_LIB_CTX *libctx, const char *propq, int vers,
187                          int role, int direction, int level, unsigned char *key,
188                          size_t keylen, unsigned char *iv, size_t ivlen,
189                          unsigned char *mackey, size_t mackeylen,
190                          const EVP_CIPHER *ciph, size_t taglen,
191                          /* TODO(RECLAYER): This probably should not be an int */
192                          int mactype,
193                          const EVP_MD *md, const SSL_COMP *comp, BIO *transport,
194                          BIO_ADDR *local, BIO_ADDR *peer,
195                          const OSSL_PARAM *settings, const OSSL_PARAM *options,
196                          OSSL_RECORD_LAYER **retrl,
197                          /* TODO(RECLAYER): Remove me */
198                          SSL_CONNECTION *s);
199 void tls_free(OSSL_RECORD_LAYER *rl);
200 int tls_reset(OSSL_RECORD_LAYER *rl);
201 int tls_unprocessed_read_pending(OSSL_RECORD_LAYER *rl);
202 int tls_processed_read_pending(OSSL_RECORD_LAYER *rl);
203 size_t tls_app_data_pending(OSSL_RECORD_LAYER *rl);
204 int tls_write_pending(OSSL_RECORD_LAYER *rl);
205 size_t tls_get_max_record_len(OSSL_RECORD_LAYER *rl);
206 size_t tls_get_max_records(OSSL_RECORD_LAYER *rl);
207 int tls_write_records(OSSL_RECORD_LAYER *rl, OSSL_RECORD_TEMPLATE **templates,
208                       size_t numtempl,  size_t allowance, size_t *sent);
209 int tls_retry_write_records(OSSL_RECORD_LAYER *rl, size_t allowance,
210                             size_t *sent);
211 int tls_get_alert_code(OSSL_RECORD_LAYER *rl);
212 int tls_set1_bio(OSSL_RECORD_LAYER *rl, BIO *bio);
213 int tls_read_record(OSSL_RECORD_LAYER *rl, void **rechandle,  int *rversion,
214                     int *type, unsigned char **data, size_t *datalen,
215                     uint16_t *epoch, unsigned char *seq_num,
216                     /* TODO(RECLAYER): Remove me */ SSL_CONNECTION *s);
217 int tls_release_record(OSSL_RECORD_LAYER *rl, void *rechandle);
218 int tls_default_set_protocol_version(OSSL_RECORD_LAYER *rl, int version);
219 int tls_set_protocol_version(OSSL_RECORD_LAYER *rl, int version);
220 void tls_set_plain_alerts(OSSL_RECORD_LAYER *rl, int allow);
221 void tls_set_first_handshake(OSSL_RECORD_LAYER *rl, int first);
222 SSL3_BUFFER *tls_get0_rbuf(OSSL_RECORD_LAYER *rl);
223 unsigned char *tls_get0_packet(OSSL_RECORD_LAYER *rl);
224 void tls_set0_packet(OSSL_RECORD_LAYER *rl, unsigned char *packet,
225                      size_t packetlen);
226 size_t tls_get_packet_length(OSSL_RECORD_LAYER *rl);
227 void tls_reset_packet_length(OSSL_RECORD_LAYER *rl);