Sanity check lengths for AES wrap algorithm.
[openssl.git] / crypto / modes / wrap128.c
1 /* crypto/modes/wrap128.c */
2 /* Written by Dr Stephen N Henson (steve@openssl.org) for the OpenSSL
3  * project.
4  */
5 /* ====================================================================
6  * Copyright (c) 2013 The OpenSSL Project.  All rights reserved.
7  *
8  * Redistribution and use in source and binary forms, with or without
9  * modification, are permitted provided that the following conditions
10  * are met:
11  *
12  * 1. Redistributions of source code must retain the above copyright
13  *    notice, this list of conditions and the following disclaimer. 
14  *
15  * 2. Redistributions in binary form must reproduce the above copyright
16  *    notice, this list of conditions and the following disclaimer in
17  *    the documentation and/or other materials provided with the
18  *    distribution.
19  *
20  * 3. All advertising materials mentioning features or use of this
21  *    software must display the following acknowledgment:
22  *    "This product includes software developed by the OpenSSL Project
23  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
24  *
25  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
26  *    endorse or promote products derived from this software without
27  *    prior written permission. For written permission, please contact
28  *    licensing@OpenSSL.org.
29  *
30  * 5. Products derived from this software may not be called "OpenSSL"
31  *    nor may "OpenSSL" appear in their names without prior written
32  *    permission of the OpenSSL Project.
33  *
34  * 6. Redistributions of any form whatsoever must retain the following
35  *    acknowledgment:
36  *    "This product includes software developed by the OpenSSL Project
37  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
38  *
39  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
40  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
41  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
42  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
43  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
44  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
45  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
46  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
47  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
48  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
49  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
50  * OF THE POSSIBILITY OF SUCH DAMAGE.
51  * ====================================================================
52  */
53
54 #include "cryptlib.h"
55 #include <openssl/modes.h>
56
57 static const unsigned char default_iv[] = {
58   0xA6, 0xA6, 0xA6, 0xA6, 0xA6, 0xA6, 0xA6, 0xA6,
59 };
60 /* Input size limit: lower than maximum of standards but far larger than
61  * anything that will be used in practice.
62  */
63 #define CRYPTO128_WRAP_MAX (1UL << 31)
64
65 size_t CRYPTO_128_wrap(void *key, const unsigned char *iv,
66                 unsigned char *out,
67                 const unsigned char *in, size_t inlen, block128_f block)
68         {
69         unsigned char *A, B[16], *R;
70         size_t i, j, t;
71         if ((inlen & 0x7) || (inlen < 8) || (inlen > CRYPTO128_WRAP_MAX))
72                 return 0;
73         A = B;
74         t = 1;
75         memcpy(out + 8, in, inlen);
76         if (!iv)
77                 iv = default_iv;
78
79         memcpy(A, iv, 8);
80
81         for (j = 0; j < 6; j++)
82                 {
83                 R = out + 8;
84                 for (i = 0; i < inlen; i += 8, t++, R += 8)
85                         {
86                         memcpy(B + 8, R, 8);
87                         block(B, B, key);
88                         A[7] ^= (unsigned char)(t & 0xff);
89                         if (t > 0xff)   
90                                 {
91                                 A[6] ^= (unsigned char)((t >> 8) & 0xff);
92                                 A[5] ^= (unsigned char)((t >> 16) & 0xff);
93                                 A[4] ^= (unsigned char)((t >> 24) & 0xff);
94                                 }
95                         memcpy(R, B + 8, 8);
96                         }
97                 }
98         memcpy(out, A, 8);
99         return inlen + 8;
100         }
101
102 size_t CRYPTO_128_unwrap(void *key, const unsigned char *iv,
103                 unsigned char *out,
104                 const unsigned char *in, size_t inlen, block128_f block)
105         {
106         unsigned char *A, B[16], *R;
107         size_t i, j, t;
108         inlen -= 8;
109         if ((inlen & 0x7) || (inlen < 16) || (inlen > CRYPTO128_WRAP_MAX))
110                 return 0;
111         A = B;
112         t =  6 * (inlen >> 3);
113         memcpy(A, in, 8);
114         memcpy(out, in + 8, inlen);
115         for (j = 0; j < 6; j++)
116                 {
117                 R = out + inlen - 8;
118                 for (i = 0; i < inlen; i += 8, t--, R -= 8)
119                         {
120                         A[7] ^= (unsigned char)(t & 0xff);
121                         if (t > 0xff)   
122                                 {
123                                 A[6] ^= (unsigned char)((t >> 8) & 0xff);
124                                 A[5] ^= (unsigned char)((t >> 16) & 0xff);
125                                 A[4] ^= (unsigned char)((t >> 24) & 0xff);
126                                 }
127                         memcpy(B + 8, R, 8);
128                         block(B, B, key);
129                         memcpy(R, B + 8, 8);
130                         }
131                 }
132         if (!iv)
133                 iv = default_iv;
134         if (memcmp(A, iv, 8))
135                 {
136                 OPENSSL_cleanse(out, inlen);
137                 return 0;
138                 }
139         return inlen;
140         }