Remove outdated DEBUG flags.
[openssl.git] / crypto / pkcs12 / p12_key.c
1 /*
2  * Written by Dr Stephen N Henson (steve@openssl.org) for the OpenSSL project
3  * 1999.
4  */
5 /* ====================================================================
6  * Copyright (c) 1999 The OpenSSL Project.  All rights reserved.
7  *
8  * Redistribution and use in source and binary forms, with or without
9  * modification, are permitted provided that the following conditions
10  * are met:
11  *
12  * 1. Redistributions of source code must retain the above copyright
13  *    notice, this list of conditions and the following disclaimer.
14  *
15  * 2. Redistributions in binary form must reproduce the above copyright
16  *    notice, this list of conditions and the following disclaimer in
17  *    the documentation and/or other materials provided with the
18  *    distribution.
19  *
20  * 3. All advertising materials mentioning features or use of this
21  *    software must display the following acknowledgment:
22  *    "This product includes software developed by the OpenSSL Project
23  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
24  *
25  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
26  *    endorse or promote products derived from this software without
27  *    prior written permission. For written permission, please contact
28  *    licensing@OpenSSL.org.
29  *
30  * 5. Products derived from this software may not be called "OpenSSL"
31  *    nor may "OpenSSL" appear in their names without prior written
32  *    permission of the OpenSSL Project.
33  *
34  * 6. Redistributions of any form whatsoever must retain the following
35  *    acknowledgment:
36  *    "This product includes software developed by the OpenSSL Project
37  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
38  *
39  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
40  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
41  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
42  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
43  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
44  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
45  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
46  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
47  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
48  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
49  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
50  * OF THE POSSIBILITY OF SUCH DAMAGE.
51  * ====================================================================
52  *
53  * This product includes cryptographic software written by Eric Young
54  * (eay@cryptsoft.com).  This product includes software written by Tim
55  * Hudson (tjh@cryptsoft.com).
56  *
57  */
58
59 #include <stdio.h>
60 #include "internal/cryptlib.h"
61 #include <openssl/pkcs12.h>
62 #include <openssl/bn.h>
63
64 /* Uncomment out this line to get debugging info about key generation */
65 /*
66  * #define OPENSSL_DEBUG_KEYGEN
67  */
68 #ifdef OPENSSL_DEBUG_KEYGEN
69 # include <openssl/bio.h>
70 extern BIO *bio_err;
71 void h__dump(unsigned char *p, int len);
72 #endif
73
74 /* PKCS12 compatible key/IV generation */
75 #ifndef min
76 # define min(a,b) ((a) < (b) ? (a) : (b))
77 #endif
78
79 int PKCS12_key_gen_asc(const char *pass, int passlen, unsigned char *salt,
80                        int saltlen, int id, int iter, int n,
81                        unsigned char *out, const EVP_MD *md_type)
82 {
83     int ret;
84     unsigned char *unipass;
85     int uniplen;
86
87     if (!pass) {
88         unipass = NULL;
89         uniplen = 0;
90     } else if (!OPENSSL_asc2uni(pass, passlen, &unipass, &uniplen)) {
91         PKCS12err(PKCS12_F_PKCS12_KEY_GEN_ASC, ERR_R_MALLOC_FAILURE);
92         return 0;
93     }
94     ret = PKCS12_key_gen_uni(unipass, uniplen, salt, saltlen,
95                              id, iter, n, out, md_type);
96     if (ret <= 0)
97         return 0;
98     OPENSSL_clear_free(unipass, uniplen);
99     return ret;
100 }
101
102 int PKCS12_key_gen_uni(unsigned char *pass, int passlen, unsigned char *salt,
103                        int saltlen, int id, int iter, int n,
104                        unsigned char *out, const EVP_MD *md_type)
105 {
106     unsigned char *B = NULL, *D = NULL, *I = NULL, *p = NULL, *Ai = NULL;
107     int Slen, Plen, Ilen, Ijlen;
108     int i, j, u, v;
109     int ret = 0;
110     BIGNUM *Ij = NULL, *Bpl1 = NULL; /* These hold Ij and B + 1 */
111     EVP_MD_CTX *ctx = NULL;
112 #ifdef  OPENSSL_DEBUG_KEYGEN
113     unsigned char *tmpout = out;
114     int tmpn = n;
115 #endif
116
117     ctx = EVP_MD_CTX_new();
118     if (ctx == NULL)
119         goto err;
120
121 #ifdef  OPENSSL_DEBUG_KEYGEN
122     fprintf(stderr, "KEYGEN DEBUG\n");
123     fprintf(stderr, "ID %d, ITER %d\n", id, iter);
124     fprintf(stderr, "Password (length %d):\n", passlen);
125     h__dump(pass, passlen);
126     fprintf(stderr, "Salt (length %d):\n", saltlen);
127     h__dump(salt, saltlen);
128 #endif
129     v = EVP_MD_block_size(md_type);
130     u = EVP_MD_size(md_type);
131     if (u < 0)
132         return 0;
133     D = OPENSSL_malloc(v);
134     Ai = OPENSSL_malloc(u);
135     B = OPENSSL_malloc(v + 1);
136     Slen = v * ((saltlen + v - 1) / v);
137     if (passlen)
138         Plen = v * ((passlen + v - 1) / v);
139     else
140         Plen = 0;
141     Ilen = Slen + Plen;
142     I = OPENSSL_malloc(Ilen);
143     Ij = BN_new();
144     Bpl1 = BN_new();
145     if (D == NULL || Ai == NULL || B == NULL || I == NULL || Ij == NULL
146             || Bpl1 == NULL)
147         goto err;
148     for (i = 0; i < v; i++)
149         D[i] = id;
150     p = I;
151     for (i = 0; i < Slen; i++)
152         *p++ = salt[i % saltlen];
153     for (i = 0; i < Plen; i++)
154         *p++ = pass[i % passlen];
155     for (;;) {
156         if (!EVP_DigestInit_ex(ctx, md_type, NULL)
157             || !EVP_DigestUpdate(ctx, D, v)
158             || !EVP_DigestUpdate(ctx, I, Ilen)
159             || !EVP_DigestFinal_ex(ctx, Ai, NULL))
160             goto err;
161         for (j = 1; j < iter; j++) {
162             if (!EVP_DigestInit_ex(ctx, md_type, NULL)
163                 || !EVP_DigestUpdate(ctx, Ai, u)
164                 || !EVP_DigestFinal_ex(ctx, Ai, NULL))
165                 goto err;
166         }
167         memcpy(out, Ai, min(n, u));
168         if (u >= n) {
169 #ifdef OPENSSL_DEBUG_KEYGEN
170             fprintf(stderr, "Output KEY (length %d)\n", tmpn);
171             h__dump(tmpout, tmpn);
172 #endif
173             ret = 1;
174             goto end;
175         }
176         n -= u;
177         out += u;
178         for (j = 0; j < v; j++)
179             B[j] = Ai[j % u];
180         /* Work out B + 1 first then can use B as tmp space */
181         if (!BN_bin2bn(B, v, Bpl1))
182             goto err;
183         if (!BN_add_word(Bpl1, 1))
184             goto err;
185         for (j = 0; j < Ilen; j += v) {
186             if (!BN_bin2bn(I + j, v, Ij))
187                 goto err;
188             if (!BN_add(Ij, Ij, Bpl1))
189                 goto err;
190             if (!BN_bn2bin(Ij, B))
191                 goto err;
192             Ijlen = BN_num_bytes(Ij);
193             /* If more than 2^(v*8) - 1 cut off MSB */
194             if (Ijlen > v) {
195                 if (!BN_bn2bin(Ij, B))
196                     goto err;
197                 memcpy(I + j, B + 1, v);
198 #ifndef PKCS12_BROKEN_KEYGEN
199                 /* If less than v bytes pad with zeroes */
200             } else if (Ijlen < v) {
201                 memset(I + j, 0, v - Ijlen);
202                 if (!BN_bn2bin(Ij, I + j + v - Ijlen))
203                     goto err;
204 #endif
205             } else if (!BN_bn2bin(Ij, I + j))
206                 goto err;
207         }
208     }
209
210  err:
211     PKCS12err(PKCS12_F_PKCS12_KEY_GEN_UNI, ERR_R_MALLOC_FAILURE);
212
213  end:
214     OPENSSL_free(Ai);
215     OPENSSL_free(B);
216     OPENSSL_free(D);
217     OPENSSL_free(I);
218     BN_free(Ij);
219     BN_free(Bpl1);
220     EVP_MD_CTX_free(ctx);
221     return ret;
222 }
223
224 #ifdef OPENSSL_DEBUG_KEYGEN
225 void h__dump(unsigned char *p, int len)
226 {
227     for (; len--; p++)
228         fprintf(stderr, "%02X", *p);
229     fprintf(stderr, "\n");
230 }
231 #endif