make no-des and no-rc2 work.
[openssl.git] / crypto / evp / p5_crpt2.c
1 /* p5_crpt2.c */
2 /* Written by Dr Stephen N Henson (shenson@bigfoot.com) for the OpenSSL
3  * project 1999.
4  */
5 /* ====================================================================
6  * Copyright (c) 1999 The OpenSSL Project.  All rights reserved.
7  *
8  * Redistribution and use in source and binary forms, with or without
9  * modification, are permitted provided that the following conditions
10  * are met:
11  *
12  * 1. Redistributions of source code must retain the above copyright
13  *    notice, this list of conditions and the following disclaimer. 
14  *
15  * 2. Redistributions in binary form must reproduce the above copyright
16  *    notice, this list of conditions and the following disclaimer in
17  *    the documentation and/or other materials provided with the
18  *    distribution.
19  *
20  * 3. All advertising materials mentioning features or use of this
21  *    software must display the following acknowledgment:
22  *    "This product includes software developed by the OpenSSL Project
23  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
24  *
25  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
26  *    endorse or promote products derived from this software without
27  *    prior written permission. For written permission, please contact
28  *    licensing@OpenSSL.org.
29  *
30  * 5. Products derived from this software may not be called "OpenSSL"
31  *    nor may "OpenSSL" appear in their names without prior written
32  *    permission of the OpenSSL Project.
33  *
34  * 6. Redistributions of any form whatsoever must retain the following
35  *    acknowledgment:
36  *    "This product includes software developed by the OpenSSL Project
37  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
38  *
39  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
40  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
41  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
42  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
43  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
44  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
45  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
46  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
47  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
48  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
49  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
50  * OF THE POSSIBILITY OF SUCH DAMAGE.
51  * ====================================================================
52  *
53  * This product includes cryptographic software written by Eric Young
54  * (eay@cryptsoft.com).  This product includes software written by Tim
55  * Hudson (tjh@cryptsoft.com).
56  *
57  */
58 #if !defined(NO_HMAC) && !defined(NO_SHA)
59 #include <stdio.h>
60 #include <stdlib.h>
61 #include <openssl/x509.h>
62 #include <openssl/evp.h>
63 #include <openssl/hmac.h>
64 #include "cryptlib.h"
65
66 /* set this to print out info about the keygen algorithm */
67 /* #define DEBUG_PKCS5V2 */
68
69 #ifdef DEBUG_PKCS5V2
70         static void h__dump (const unsigned char *p, int len);
71 #endif
72
73 /* This is an implementation of PKCS#5 v2.0 password based encryption key
74  * derivation function PBKDF2 using the only currently defined function HMAC
75  * with SHA1. Verified against test vectors posted by Peter Gutmann
76  * <pgut001@cs.auckland.ac.nz> to the PKCS-TNG <pkcs-tng@rsa.com> mailing list.
77  */
78
79 int PKCS5_PBKDF2_HMAC_SHA1(const char *pass, int passlen,
80                            unsigned char *salt, int saltlen, int iter,
81                            int keylen, unsigned char *out)
82 {
83         unsigned char digtmp[SHA_DIGEST_LENGTH], *p, itmp[4];
84         int cplen, j, k, tkeylen;
85         unsigned long i = 1;
86         HMAC_CTX hctx;
87         p = out;
88         tkeylen = keylen;
89         if(passlen == -1) passlen = strlen(pass);
90         while(tkeylen) {
91                 if(tkeylen > SHA_DIGEST_LENGTH) cplen = SHA_DIGEST_LENGTH;
92                 else cplen = tkeylen;
93                 /* We are unlikely to ever use more than 256 blocks (5120 bits!)
94                  * but just in case...
95                  */
96                 itmp[0] = (unsigned char)((i >> 24) & 0xff);
97                 itmp[1] = (unsigned char)((i >> 16) & 0xff);
98                 itmp[2] = (unsigned char)((i >> 8) & 0xff);
99                 itmp[3] = (unsigned char)(i & 0xff);
100                 HMAC_Init(&hctx, pass, passlen, EVP_sha1());
101                 HMAC_Update(&hctx, salt, saltlen);
102                 HMAC_Update(&hctx, itmp, 4);
103                 HMAC_Final(&hctx, digtmp, NULL);
104                 memcpy(p, digtmp, cplen);
105                 for(j = 1; j < iter; j++) {
106                         HMAC(EVP_sha1(), pass, passlen,
107                                  digtmp, SHA_DIGEST_LENGTH, digtmp, NULL);
108                         for(k = 0; k < cplen; k++) p[k] ^= digtmp[k];
109                 }
110                 tkeylen-= cplen;
111                 i++;
112                 p+= cplen;
113         }
114         HMAC_cleanup(&hctx);
115 #ifdef DEBUG_PKCS5V2
116         fprintf(stderr, "Password:\n");
117         h__dump (pass, passlen);
118         fprintf(stderr, "Salt:\n");
119         h__dump (salt, saltlen);
120         fprintf(stderr, "Iteration count %d\n", iter);
121         fprintf(stderr, "Key:\n");
122         h__dump (out, keylen);
123 #endif
124         return 1;
125 }
126
127 #ifdef DO_TEST
128 main()
129 {
130         unsigned char out[4];
131         unsigned char salt[] = {0x12, 0x34, 0x56, 0x78};
132         PKCS5_PBKDF2_HMAC_SHA1("password", -1, salt, 4, 5, 4, out);
133         fprintf(stderr, "Out %02X %02X %02X %02X\n",
134                                          out[0], out[1], out[2], out[3]);
135 }
136
137 #endif
138
139 /* Now the key derivation function itself. This is a bit evil because
140  * it has to check the ASN1 parameters are valid: and there are quite a
141  * few of them...
142  */
143
144 int PKCS5_v2_PBE_keyivgen(EVP_CIPHER_CTX *ctx, const char *pass, int passlen,
145                          ASN1_TYPE *param, EVP_CIPHER *c, EVP_MD *md,
146                          int en_de)
147 {
148         unsigned char *pbuf, *salt, key[EVP_MAX_KEY_LENGTH];
149         int saltlen, keylen, iter, plen;
150         PBE2PARAM *pbe2 = NULL;
151         const EVP_CIPHER *cipher;
152         PBKDF2PARAM *kdf = NULL;
153
154         pbuf = param->value.sequence->data;
155         plen = param->value.sequence->length;
156         if(!param || (param->type != V_ASN1_SEQUENCE) ||
157                                    !(pbe2 = d2i_PBE2PARAM(NULL, &pbuf, plen))) {
158                 EVPerr(EVP_F_PKCS5_V2_PBE_KEYIVGEN,EVP_R_DECODE_ERROR);
159                 return 0;
160         }
161
162         /* See if we recognise the key derivation function */
163
164         if(OBJ_obj2nid(pbe2->keyfunc->algorithm) != NID_id_pbkdf2) {
165                 EVPerr(EVP_F_PKCS5_V2_PBE_KEYIVGEN,
166                                 EVP_R_UNSUPPORTED_KEY_DERIVATION_FUNCTION);
167                 goto err;
168         }
169
170         /* lets see if we recognise the encryption algorithm.
171          */
172
173         cipher = EVP_get_cipherbyname(
174                         OBJ_nid2sn(OBJ_obj2nid(pbe2->encryption->algorithm)));
175
176         if(!cipher) {
177                 EVPerr(EVP_F_PKCS5_V2_PBE_KEYIVGEN,
178                                                 EVP_R_UNSUPPORTED_CIPHER);
179                 goto err;
180         }
181
182         /* Fixup cipher based on AlgorithmIdentifier */
183         EVP_CipherInit(ctx, cipher, NULL, NULL, en_de);
184         if(EVP_CIPHER_asn1_to_param(ctx, pbe2->encryption->parameter) < 0) {
185                 EVPerr(EVP_F_PKCS5_V2_PBE_KEYIVGEN,
186                                         EVP_R_CIPHER_PARAMETER_ERROR);
187                 goto err;
188         }
189         keylen = EVP_CIPHER_CTX_key_length(ctx);
190
191         /* Now decode key derivation function */
192
193         pbuf = pbe2->keyfunc->parameter->value.sequence->data;
194         plen = pbe2->keyfunc->parameter->value.sequence->length;
195         if(!pbe2->keyfunc->parameter ||
196                  (pbe2->keyfunc->parameter->type != V_ASN1_SEQUENCE) ||
197                                 !(kdf = d2i_PBKDF2PARAM(NULL, &pbuf, plen)) ) {
198                 EVPerr(EVP_F_PKCS5_V2_PBE_KEYIVGEN,EVP_R_DECODE_ERROR);
199                 goto err;
200         }
201
202         PBE2PARAM_free(pbe2);
203         pbe2 = NULL;
204
205         /* Now check the parameters of the kdf */
206
207         if(kdf->keylength && (ASN1_INTEGER_get(kdf->keylength) != keylen)){
208                 EVPerr(EVP_F_PKCS5_V2_PBE_KEYIVGEN,
209                                                 EVP_R_UNSUPPORTED_KEYLENGTH);
210                 goto err;
211         }
212
213         if(kdf->prf && (OBJ_obj2nid(kdf->prf->algorithm) != NID_hmacWithSHA1)) {
214                 EVPerr(EVP_F_PKCS5_V2_PBE_KEYIVGEN, EVP_R_UNSUPPORTED_PRF);
215                 goto err;
216         }
217
218         if(kdf->salt->type != V_ASN1_OCTET_STRING) {
219                 EVPerr(EVP_F_PKCS5_V2_PBE_KEYIVGEN,
220                                                 EVP_R_UNSUPPORTED_SALT_TYPE);
221                 goto err;
222         }
223
224         /* it seems that its all OK */
225         salt = kdf->salt->value.octet_string->data;
226         saltlen = kdf->salt->value.octet_string->length;
227         iter = ASN1_INTEGER_get(kdf->iter);
228         PKCS5_PBKDF2_HMAC_SHA1(pass, passlen, salt, saltlen, iter, keylen, key);
229         EVP_CipherInit(ctx, NULL, key, NULL, en_de);
230         memset(key, 0, keylen);
231         PBKDF2PARAM_free(kdf);
232         return 1;
233
234         err:
235         PBE2PARAM_free(pbe2);
236         PBKDF2PARAM_free(kdf);
237         return 0;
238 }
239
240 #ifdef DEBUG_PKCS5V2
241 static void h__dump (const unsigned char *p, int len)
242 {
243         for (; len --; p++) fprintf(stderr, "%02X ", *p);
244         fprintf(stderr, "\n");
245 }
246 #endif
247 #endif