Don't add write errors into bytecounts
[openssl.git] / ssl / record / dtls1_bitmap.c
1 /* ssl/record/dtls1_bitmap.c */
2 /*
3  * DTLS implementation written by Nagendra Modadugu
4  * (nagendra@cs.stanford.edu) for the OpenSSL project 2005.
5  */
6 /* ====================================================================
7  * Copyright (c) 1998-2015 The OpenSSL Project.  All rights reserved.
8  *
9  * Redistribution and use in source and binary forms, with or without
10  * modification, are permitted provided that the following conditions
11  * are met:
12  *
13  * 1. Redistributions of source code must retain the above copyright
14  *    notice, this list of conditions and the following disclaimer.
15  *
16  * 2. Redistributions in binary form must reproduce the above copyright
17  *    notice, this list of conditions and the following disclaimer in
18  *    the documentation and/or other materials provided with the
19  *    distribution.
20  *
21  * 3. All advertising materials mentioning features or use of this
22  *    software must display the following acknowledgment:
23  *    "This product includes software developed by the OpenSSL Project
24  *    for use in the OpenSSL Toolkit. (http://www.openssl.org/)"
25  *
26  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
27  *    endorse or promote products derived from this software without
28  *    prior written permission. For written permission, please contact
29  *    openssl-core@openssl.org.
30  *
31  * 5. Products derived from this software may not be called "OpenSSL"
32  *    nor may "OpenSSL" appear in their names without prior written
33  *    permission of the OpenSSL Project.
34  *
35  * 6. Redistributions of any form whatsoever must retain the following
36  *    acknowledgment:
37  *    "This product includes software developed by the OpenSSL Project
38  *    for use in the OpenSSL Toolkit (http://www.openssl.org/)"
39  *
40  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
41  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
42  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
43  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
44  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
45  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
46  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
47  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
49  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
50  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
51  * OF THE POSSIBILITY OF SUCH DAMAGE.
52  * ====================================================================
53  *
54  * This product includes cryptographic software written by Eric Young
55  * (eay@cryptsoft.com).  This product includes software written by Tim
56  * Hudson (tjh@cryptsoft.com).
57  *
58  */
59 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
60  * All rights reserved.
61  *
62  * This package is an SSL implementation written
63  * by Eric Young (eay@cryptsoft.com).
64  * The implementation was written so as to conform with Netscapes SSL.
65  *
66  * This library is free for commercial and non-commercial use as long as
67  * the following conditions are aheared to.  The following conditions
68  * apply to all code found in this distribution, be it the RC4, RSA,
69  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
70  * included with this distribution is covered by the same copyright terms
71  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
72  *
73  * Copyright remains Eric Young's, and as such any Copyright notices in
74  * the code are not to be removed.
75  * If this package is used in a product, Eric Young should be given attribution
76  * as the author of the parts of the library used.
77  * This can be in the form of a textual message at program startup or
78  * in documentation (online or textual) provided with the package.
79  *
80  * Redistribution and use in source and binary forms, with or without
81  * modification, are permitted provided that the following conditions
82  * are met:
83  * 1. Redistributions of source code must retain the copyright
84  *    notice, this list of conditions and the following disclaimer.
85  * 2. Redistributions in binary form must reproduce the above copyright
86  *    notice, this list of conditions and the following disclaimer in the
87  *    documentation and/or other materials provided with the distribution.
88  * 3. All advertising materials mentioning features or use of this software
89  *    must display the following acknowledgement:
90  *    "This product includes cryptographic software written by
91  *     Eric Young (eay@cryptsoft.com)"
92  *    The word 'cryptographic' can be left out if the rouines from the library
93  *    being used are not cryptographic related :-).
94  * 4. If you include any Windows specific code (or a derivative thereof) from
95  *    the apps directory (application code) you must include an acknowledgement:
96  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
97  *
98  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
99  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
100  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
101  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
102  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
103  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
104  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
105  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
106  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
107  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
108  * SUCH DAMAGE.
109  *
110  * The licence and distribution terms for any publically available version or
111  * derivative of this code cannot be changed.  i.e. this code cannot simply be
112  * copied and put under another distribution licence
113  * [including the GNU Public Licence.]
114  */
115
116 #include "../ssl_locl.h"
117 #include "record_locl.h"
118
119 /* mod 128 saturating subtract of two 64-bit values in big-endian order */
120 static int satsub64be(const unsigned char *v1, const unsigned char *v2)
121 {
122     int ret, sat, brw, i;
123
124     if (sizeof(long) == 8)
125         do {
126             const union {
127                 long one;
128                 char little;
129             } is_endian = {
130                 1
131             };
132             long l;
133
134             if (is_endian.little)
135                 break;
136             /* not reached on little-endians */
137             /*
138              * following test is redundant, because input is always aligned,
139              * but I take no chances...
140              */
141             if (((size_t)v1 | (size_t)v2) & 0x7)
142                 break;
143
144             l = *((long *)v1);
145             l -= *((long *)v2);
146             if (l > 128)
147                 return 128;
148             else if (l < -128)
149                 return -128;
150             else
151                 return (int)l;
152         } while (0);
153
154     ret = (int)v1[7] - (int)v2[7];
155     sat = 0;
156     brw = ret >> 8;             /* brw is either 0 or -1 */
157     if (ret & 0x80) {
158         for (i = 6; i >= 0; i--) {
159             brw += (int)v1[i] - (int)v2[i];
160             sat |= ~brw;
161             brw >>= 8;
162         }
163     } else {
164         for (i = 6; i >= 0; i--) {
165             brw += (int)v1[i] - (int)v2[i];
166             sat |= brw;
167             brw >>= 8;
168         }
169     }
170     brw <<= 8;                  /* brw is either 0 or -256 */
171
172     if (sat & 0xff)
173         return brw | 0x80;
174     else
175         return brw + (ret & 0xFF);
176 }
177
178 int dtls1_record_replay_check(SSL *s, DTLS1_BITMAP *bitmap)
179 {
180     int cmp;
181     unsigned int shift;
182     const unsigned char *seq = s->rlayer.read_sequence;
183
184     cmp = satsub64be(seq, bitmap->max_seq_num);
185     if (cmp > 0) {
186         SSL3_RECORD_set_seq_num(RECORD_LAYER_get_rrec(&s->rlayer), seq);
187         return 1;               /* this record in new */
188     }
189     shift = -cmp;
190     if (shift >= sizeof(bitmap->map) * 8)
191         return 0;               /* stale, outside the window */
192     else if (bitmap->map & (1UL << shift))
193         return 0;               /* record previously received */
194
195     SSL3_RECORD_set_seq_num(RECORD_LAYER_get_rrec(&s->rlayer), seq);
196     return 1;
197 }
198
199 void dtls1_record_bitmap_update(SSL *s, DTLS1_BITMAP *bitmap)
200 {
201     int cmp;
202     unsigned int shift;
203     const unsigned char *seq = RECORD_LAYER_get_read_sequence(&s->rlayer);
204
205     cmp = satsub64be(seq, bitmap->max_seq_num);
206     if (cmp > 0) {
207         shift = cmp;
208         if (shift < sizeof(bitmap->map) * 8)
209             bitmap->map <<= shift, bitmap->map |= 1UL;
210         else
211             bitmap->map = 1UL;
212         memcpy(bitmap->max_seq_num, seq, SEQ_NUM_SIZE);
213     } else {
214         shift = -cmp;
215         if (shift < sizeof(bitmap->map) * 8)
216             bitmap->map |= 1UL << shift;
217     }
218 }