Initial DSA EVP_PKEY_METHOD. Fixup some error codes.
[openssl.git] / apps / genpkey.c
1 /* apps/genpkey.c */
2 /* Written by Dr Stephen N Henson (shenson@bigfoot.com) for the OpenSSL
3  * project 2006
4  */
5 /* ====================================================================
6  * Copyright (c) 2006 The OpenSSL Project.  All rights reserved.
7  *
8  * Redistribution and use in source and binary forms, with or without
9  * modification, are permitted provided that the following conditions
10  * are met:
11  *
12  * 1. Redistributions of source code must retain the above copyright
13  *    notice, this list of conditions and the following disclaimer. 
14  *
15  * 2. Redistributions in binary form must reproduce the above copyright
16  *    notice, this list of conditions and the following disclaimer in
17  *    the documentation and/or other materials provided with the
18  *    distribution.
19  *
20  * 3. All advertising materials mentioning features or use of this
21  *    software must display the following acknowledgment:
22  *    "This product includes software developed by the OpenSSL Project
23  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
24  *
25  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
26  *    endorse or promote products derived from this software without
27  *    prior written permission. For written permission, please contact
28  *    licensing@OpenSSL.org.
29  *
30  * 5. Products derived from this software may not be called "OpenSSL"
31  *    nor may "OpenSSL" appear in their names without prior written
32  *    permission of the OpenSSL Project.
33  *
34  * 6. Redistributions of any form whatsoever must retain the following
35  *    acknowledgment:
36  *    "This product includes software developed by the OpenSSL Project
37  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
38  *
39  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
40  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
41  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
42  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
43  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
44  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
45  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
46  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
47  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
48  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
49  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
50  * OF THE POSSIBILITY OF SUCH DAMAGE.
51  * ====================================================================
52  *
53  * This product includes cryptographic software written by Eric Young
54  * (eay@cryptsoft.com).  This product includes software written by Tim
55  * Hudson (tjh@cryptsoft.com).
56  *
57  */
58 #include <stdio.h>
59 #include <string.h>
60 #include "apps.h"
61 #include <openssl/pem.h>
62 #include <openssl/err.h>
63 #include <openssl/evp.h>
64
65 static int init_keygen_file(BIO *err, EVP_PKEY_CTX **pctx,
66                                 const char *file, ENGINE *e);
67 static int init_gen_str(BIO *err, EVP_PKEY_CTX **pctx,
68                                 const char *algname, ENGINE *e, int do_param);
69 static int genpkey_cb(EVP_PKEY_CTX *ctx);
70
71 #define PROG genpkey_main
72
73 int MAIN(int, char **);
74
75 int MAIN(int argc, char **argv)
76         {
77         ENGINE *e = NULL;
78         char **args, *outfile = NULL;
79         char *passarg = NULL;
80         BIO *in = NULL, *out = NULL;
81         const EVP_CIPHER *cipher = NULL;
82         int outformat;
83         int text = 0;
84         EVP_PKEY *pkey=NULL;
85         EVP_PKEY_CTX *ctx = NULL;
86         char *pass = NULL;
87         int badarg = 0;
88         int ret = 1;
89
90         int do_param = -1;
91
92         if (bio_err == NULL)
93                 bio_err = BIO_new_fp (stderr, BIO_NOCLOSE);
94
95         if (!load_config(bio_err, NULL))
96                 goto end;
97
98         outformat=FORMAT_PEM;
99
100         ERR_load_crypto_strings();
101         OpenSSL_add_all_algorithms();
102         args = argv + 1;
103         while (!badarg && *args && *args[0] == '-')
104                 {
105                 if (!strcmp(*args,"-outform"))
106                         {
107                         if (args[1])
108                                 {
109                                 args++;
110                                 outformat=str2fmt(*args);
111                                 }
112                         else badarg = 1;
113                         }
114                 else if (!strcmp(*args,"-pass"))
115                         {
116                         if (!args[1]) goto bad;
117                         passarg= *(++args);
118                         }
119 #ifndef OPENSSL_NO_ENGINE
120                 else if (strcmp(*args,"-engine") == 0)
121                         {
122                         if (!args[1])
123                                 goto bad;
124                         e = setup_engine(bio_err, *(++args), 0);
125                         }
126 #endif
127                 else if (!strcmp (*args, "-paramfile"))
128                         {
129                         if (!args[1])
130                                 goto bad;
131                         args++;
132                         if (do_param == 1)
133                                 goto bad;
134                         if (!init_keygen_file(bio_err, &ctx, *args, e))
135                                 goto end;
136                         }
137                 else if (!strcmp (*args, "-out"))
138                         {
139                         if (args[1])
140                                 {
141                                 args++;
142                                 outfile = *args;
143                                 }
144                         else badarg = 1;
145                         }
146                 else if (strcmp(*args,"-algorithm") == 0)
147                         {
148                         if (!args[1])
149                                 goto bad;
150                         if (do_param == -1)
151                                 do_param = 0;
152                         if (!init_gen_str(bio_err, &ctx, *(++args),e, do_param))
153                                 goto end;
154                         }
155                 else if (strcmp(*args,"-param") == 0)
156                         {
157                         if (!args[1])
158                                 goto bad;
159                         if (!ctx)
160                                 {
161                                 BIO_puts(bio_err, "No keytype specified\n");
162                                 goto bad;
163                                 }
164                         else if (pkey_ctrl_string(ctx, *(++args)) <= 0)
165                                 {
166                                 BIO_puts(bio_err, "parameter setting error\n");
167                                 ERR_print_errors(bio_err);
168                                 goto end;
169                                 }
170                         }
171                 else if (strcmp(*args,"-genparam") == 0)
172                         {
173                         if (ctx)
174                                 goto bad;
175                         do_param = 1;
176                         }
177                 else if (strcmp(*args,"-text") == 0)
178                         text=1;
179                 else
180                         {
181                         cipher = EVP_get_cipherbyname(*args + 1);
182                         if (!cipher)
183                                 {
184                                 BIO_printf(bio_err, "Unknown cipher %s\n",
185                                                                 *args + 1);
186                                 badarg = 1;
187                                 }
188                         if (do_param == 1)
189                                 badarg = 1;
190                         }
191                 args++;
192                 }
193
194         if (!ctx)
195                 badarg = 1;
196
197         if (badarg)
198                 {
199                 bad:
200                 BIO_printf(bio_err, "Usage genpkey [options]\n");
201                 BIO_printf(bio_err, "where options are\n");
202                 BIO_printf(bio_err, "-paramfile file parameter file\n");
203                 BIO_printf(bio_err, "-pass arg       output file pass phrase source\n");
204                 BIO_printf(bio_err, "-outform X      output format (DER or PEM)\n");
205                 BIO_printf(bio_err, "-out file       output file\n");
206 #ifndef OPENSSL_NO_ENGINE
207                 BIO_printf(bio_err, "-engine e       use engine e, possibly a hardware device.\n");
208 #endif
209                 return 1;
210                 }
211
212         if (!app_passwd(bio_err, passarg, NULL, &pass, NULL))
213                 {
214                 BIO_puts(bio_err, "Error getting password\n");
215                 goto end;
216                 }
217
218         if (outfile)
219                 {
220                 if (!(out = BIO_new_file (outfile, "wb")))
221                         {
222                         BIO_printf(bio_err,
223                                  "Can't open output file %s\n", outfile);
224                         goto end;
225                         }
226                 }
227         else
228                 {
229                 out = BIO_new_fp (stdout, BIO_NOCLOSE);
230 #ifdef OPENSSL_SYS_VMS
231                         {
232                         BIO *tmpbio = BIO_new(BIO_f_linebuffer());
233                         out = BIO_push(tmpbio, out);
234                         }
235 #endif
236                 }
237
238         EVP_PKEY_CTX_set_cb(ctx, genpkey_cb);
239         EVP_PKEY_CTX_set_app_data(ctx, bio_err);
240
241         if (do_param)
242                 {
243                 if (EVP_PKEY_paramgen(ctx, &pkey) <= 0)
244                         {
245                         BIO_puts(bio_err, "Error generating parameters\n");
246                         ERR_print_errors(bio_err);
247                         goto end;
248                         }
249                 }
250         else
251                 {
252                 if (EVP_PKEY_keygen(ctx, &pkey) <= 0)
253                         {
254                         BIO_puts(bio_err, "Error generating key\n");
255                         ERR_print_errors(bio_err);
256                         goto end;
257                         }
258                 }
259
260         if (do_param)
261                 PEM_write_bio_Parameters(out, pkey);
262         else if (outformat == FORMAT_PEM) 
263                 PEM_write_bio_PrivateKey(out, pkey, cipher, NULL, 0,
264                                                                 NULL, pass);
265         else if (outformat == FORMAT_ASN1)
266                 i2d_PrivateKey_bio(out, pkey);
267         else
268                 {
269                 BIO_printf(bio_err, "Bad format specified for key\n");
270                 goto end;
271                 }
272
273
274         if (text)
275                 {
276                 if (do_param)
277                         EVP_PKEY_print_params(out, pkey, 0, NULL);
278                 else
279                         EVP_PKEY_print_private(out, pkey, 0, NULL);
280                 }
281
282         ret = 0;
283
284         end:
285         if (pkey)
286                 EVP_PKEY_free(pkey);
287         if (ctx)
288                 EVP_PKEY_CTX_free(ctx);
289         if (out)
290                 BIO_free_all(out);
291         BIO_free(in);
292         if (pass)
293                 OPENSSL_free(pass);
294
295         return ret;
296         }
297
298 static int init_keygen_file(BIO *err, EVP_PKEY_CTX **pctx,
299                                 const char *file, ENGINE *e)
300         {
301         BIO *pbio;
302         EVP_PKEY *pkey = NULL;
303         EVP_PKEY_CTX *ctx = NULL;
304         if (*pctx)
305                 {
306                 BIO_puts(err, "Parameters already set!\n");
307                 return 0;
308                 }
309
310         pbio = BIO_new_file(file, "r");
311         if (!pbio)
312                 {
313                 BIO_printf(err, "Can't open parameter file %s\n", file);
314                 return 0;
315                 }
316
317         pkey = PEM_read_bio_Parameters(pbio, NULL);
318         BIO_free(pbio);
319
320         if (!pkey)
321                 {
322                 BIO_printf(bio_err, "Error reading parameter file %s\n", file);
323                 return 0;
324                 }
325
326         ctx = EVP_PKEY_CTX_new(pkey, e);
327         if (!ctx)
328                 goto err;
329         if (EVP_PKEY_keygen_init(ctx) <= 0)
330                 goto err;
331         EVP_PKEY_free(pkey);
332         *pctx = ctx;
333         return 1;
334
335         err:
336         BIO_puts(err, "Error initializing context\n");
337         ERR_print_errors(err);
338         if (ctx)
339                 EVP_PKEY_CTX_free(ctx);
340         if (pkey)
341                 EVP_PKEY_free(pkey);
342         return 0;
343
344         }
345
346 static int init_gen_str(BIO *err, EVP_PKEY_CTX **pctx,
347                                 const char *algname, ENGINE *e, int do_param)
348         {
349         EVP_PKEY_CTX *ctx = NULL;
350         const EVP_PKEY_ASN1_METHOD *ameth;
351         int pkey_id;
352         if (*pctx)
353                 {
354                 BIO_puts(err, "Algorithm already set!\n");
355                 return 0;
356                 }
357
358         ameth = EVP_PKEY_asn1_find_str(algname, -1);
359         if (!ameth)
360                 {
361                 BIO_printf(bio_err, "Algorithm %s not found\n", algname);
362                 return 0;
363                 }
364
365         EVP_PKEY_asn1_get0_info(&pkey_id, NULL, NULL, NULL, NULL, ameth);
366         ctx = EVP_PKEY_CTX_new_id(pkey_id, e);
367
368         if (!ctx)
369                 goto err;
370         if (do_param)
371                 {
372                 if (EVP_PKEY_paramgen_init(ctx) <= 0)
373                         goto err;
374                 }
375         else
376                 {
377                 if (EVP_PKEY_keygen_init(ctx) <= 0)
378                         goto err;
379                 }
380
381         *pctx = ctx;
382         return 1;
383
384         err:
385         BIO_printf(err, "Error initializing %s context\n", algname);
386         ERR_print_errors(err);
387         if (ctx)
388                 EVP_PKEY_CTX_free(ctx);
389         return 0;
390
391         }
392
393 static int genpkey_cb(EVP_PKEY_CTX *ctx)
394         {
395         char c='*';
396         BIO *b = EVP_PKEY_CTX_get_app_data(ctx);
397         int p;
398         p = EVP_PKEY_CTX_get_keygen_info(ctx, 0);
399         if (p == 0) c='.';
400         if (p == 1) c='+';
401         if (p == 2) c='*';
402         if (p == 3) c='\n';
403         BIO_write(b,&c,1);
404         (void)BIO_flush(b);
405 #ifdef LINT
406         p=n;
407 #endif
408         return 1;
409         }