bn/asm/x86_64-mont5.pl: unify gather procedure in hardly used path
[openssl.git] / crypto / evp / m_md5_sha1.c
1 /*
2  * Written by Dr Stephen N Henson (steve@openssl.org) for the OpenSSL
3  * project.
4  */
5 /* ====================================================================
6  * Copyright (c) 2015 The OpenSSL Project.  All rights reserved.
7  *
8  * Redistribution and use in source and binary forms, with or without
9  * modification, are permitted provided that the following conditions
10  * are met:
11  *
12  * 1. Redistributions of source code must retain the above copyright
13  *    notice, this list of conditions and the following disclaimer.
14  *
15  * 2. Redistributions in binary form must reproduce the above copyright
16  *    notice, this list of conditions and the following disclaimer in
17  *    the documentation and/or other materials provided with the
18  *    distribution.
19  *
20  * 3. All advertising materials mentioning features or use of this
21  *    software must display the following acknowledgment:
22  *    "This product includes software developed by the OpenSSL Project
23  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
24  *
25  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
26  *    endorse or promote products derived from this software without
27  *    prior written permission. For written permission, please contact
28  *    licensing@OpenSSL.org.
29  *
30  * 5. Products derived from this software may not be called "OpenSSL"
31  *    nor may "OpenSSL" appear in their names without prior written
32  *    permission of the OpenSSL Project.
33  *
34  * 6. Redistributions of any form whatsoever must retain the following
35  *    acknowledgment:
36  *    "This product includes software developed by the OpenSSL Project
37  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
38  *
39  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
40  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
41  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
42  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
43  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
44  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
45  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
46  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
47  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
48  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
49  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
50  * OF THE POSSIBILITY OF SUCH DAMAGE.
51  * ====================================================================
52  */
53
54 #if !defined(OPENSSL_NO_MD5) && !defined(OPENSSL_NO_SHA1)
55
56 # include <openssl/evp.h>
57 # include <openssl/objects.h>
58 # include <openssl/x509.h>
59 # include <openssl/md5.h>
60 # include <openssl/sha.h>
61 # include "internal/cryptlib.h"
62 # include "internal/evp_int.h"
63 # ifndef OPENSSL_NO_RSA
64 #  include <openssl/rsa.h>
65 # endif
66
67 struct md5_sha1_ctx {
68     MD5_CTX md5;
69     SHA_CTX sha1;
70 };
71
72 static int init(EVP_MD_CTX *ctx)
73 {
74     struct md5_sha1_ctx *mctx = EVP_MD_CTX_md_data(ctx);
75     if (!MD5_Init(&mctx->md5))
76         return 0;
77     return SHA1_Init(&mctx->sha1);
78 }
79
80 static int update(EVP_MD_CTX *ctx, const void *data, size_t count)
81 {
82     struct md5_sha1_ctx *mctx = EVP_MD_CTX_md_data(ctx);
83     if (!MD5_Update(&mctx->md5, data, count))
84         return 0;
85     return SHA1_Update(&mctx->sha1, data, count);
86 }
87
88 static int final(EVP_MD_CTX *ctx, unsigned char *md)
89 {
90     struct md5_sha1_ctx *mctx = EVP_MD_CTX_md_data(ctx);
91     if (!MD5_Final(md, &mctx->md5))
92         return 0;
93     return SHA1_Final(md + MD5_DIGEST_LENGTH, &mctx->sha1);
94 }
95
96 static int ctrl(EVP_MD_CTX *ctx, int cmd, int mslen, void *ms)
97 {
98     unsigned char padtmp[48];
99     unsigned char md5tmp[MD5_DIGEST_LENGTH];
100     unsigned char sha1tmp[SHA_DIGEST_LENGTH];
101     struct md5_sha1_ctx *mctx = EVP_MD_CTX_md_data(ctx);
102
103     if (cmd != EVP_CTRL_SSL3_MASTER_SECRET)
104         return 0;
105
106     /* SSLv3 client auth handling: see RFC-6101 5.6.8 */
107     if (mslen != 48)
108         return 0;
109
110     /* At this point hash contains all handshake messages, update
111      * with master secret and pad_1.
112      */
113
114     if (update(ctx, ms, mslen) <= 0)
115         return 0;
116
117     /* Set padtmp to pad_1 value */
118     memset(padtmp, 0x36, sizeof(padtmp));
119
120     if (!MD5_Update(&mctx->md5, padtmp, sizeof(padtmp)))
121         return 0;
122
123     if (!MD5_Final(md5tmp, &mctx->md5))
124         return 0;
125
126     if (!SHA1_Update(&mctx->sha1, padtmp, 40))
127         return 0;
128
129     if (!SHA1_Final(sha1tmp, &mctx->sha1))
130         return 0;
131
132     /* Reinitialise context */
133
134     if (!init(ctx))
135         return 0;
136
137     if (update(ctx, ms, mslen) <= 0)
138         return 0;
139
140     /* Set padtmp to pad_2 value */
141     memset(padtmp, 0x5c, sizeof(padtmp));
142
143     if (!MD5_Update(&mctx->md5, padtmp, sizeof(padtmp)))
144         return 0;
145
146     if (!MD5_Update(&mctx->md5, md5tmp, sizeof(md5tmp)))
147         return 0;
148
149     if (!SHA1_Update(&mctx->sha1, padtmp, 40))
150         return 0;
151
152     if (!SHA1_Update(&mctx->sha1, sha1tmp, sizeof(sha1tmp)))
153         return 0;
154
155     /* Now when ctx is finalised it will return the SSL v3 hash value */
156
157     OPENSSL_cleanse(md5tmp, sizeof(md5tmp));
158     OPENSSL_cleanse(sha1tmp, sizeof(sha1tmp));
159
160     return 1;
161
162 }
163
164 static const EVP_MD md5_sha1_md = {
165     NID_md5_sha1,
166     NID_md5_sha1,
167     MD5_DIGEST_LENGTH + SHA_DIGEST_LENGTH,
168     0,
169     init,
170     update,
171     final,
172     NULL,
173     NULL,
174     MD5_CBLOCK,
175     sizeof(EVP_MD *) + sizeof(struct md5_sha1_ctx),
176     ctrl
177 };
178
179 const EVP_MD *EVP_md5_sha1(void)
180 {
181     return &md5_sha1_md;
182 }
183 #endif