BN_GF2m_mod_inv(): check bn_wexpand return value
[openssl.git] / apps / genrsa.c
1 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
2  * All rights reserved.
3  *
4  * This package is an SSL implementation written
5  * by Eric Young (eay@cryptsoft.com).
6  * The implementation was written so as to conform with Netscapes SSL.
7  *
8  * This library is free for commercial and non-commercial use as long as
9  * the following conditions are aheared to.  The following conditions
10  * apply to all code found in this distribution, be it the RC4, RSA,
11  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
12  * included with this distribution is covered by the same copyright terms
13  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
14  *
15  * Copyright remains Eric Young's, and as such any Copyright notices in
16  * the code are not to be removed.
17  * If this package is used in a product, Eric Young should be given attribution
18  * as the author of the parts of the library used.
19  * This can be in the form of a textual message at program startup or
20  * in documentation (online or textual) provided with the package.
21  *
22  * Redistribution and use in source and binary forms, with or without
23  * modification, are permitted provided that the following conditions
24  * are met:
25  * 1. Redistributions of source code must retain the copyright
26  *    notice, this list of conditions and the following disclaimer.
27  * 2. Redistributions in binary form must reproduce the above copyright
28  *    notice, this list of conditions and the following disclaimer in the
29  *    documentation and/or other materials provided with the distribution.
30  * 3. All advertising materials mentioning features or use of this software
31  *    must display the following acknowledgement:
32  *    "This product includes cryptographic software written by
33  *     Eric Young (eay@cryptsoft.com)"
34  *    The word 'cryptographic' can be left out if the rouines from the library
35  *    being used are not cryptographic related :-).
36  * 4. If you include any Windows specific code (or a derivative thereof) from
37  *    the apps directory (application code) you must include an acknowledgement:
38  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
39  *
40  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
41  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
42  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
43  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
44  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
45  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
46  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
47  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
48  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
49  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
50  * SUCH DAMAGE.
51  *
52  * The licence and distribution terms for any publically available version or
53  * derivative of this code cannot be changed.  i.e. this code cannot simply be
54  * copied and put under another distribution licence
55  * [including the GNU Public Licence.]
56  */
57
58 #include <openssl/opensslconf.h>
59
60 #ifndef OPENSSL_NO_RSA
61 # include <stdio.h>
62 # include <string.h>
63 # include <sys/types.h>
64 # include <sys/stat.h>
65 # include "apps.h"
66 # include <openssl/bio.h>
67 # include <openssl/err.h>
68 # include <openssl/bn.h>
69 # include <openssl/rsa.h>
70 # include <openssl/evp.h>
71 # include <openssl/x509.h>
72 # include <openssl/pem.h>
73 # include <openssl/rand.h>
74
75 # define DEFBITS 2048
76
77 static int genrsa_cb(int p, int n, BN_GENCB *cb);
78
79 typedef enum OPTION_choice {
80     OPT_ERR = -1, OPT_EOF = 0, OPT_HELP,
81     OPT_3, OPT_F4, OPT_NON_FIPS_ALLOW, OPT_ENGINE,
82     OPT_OUT, OPT_RAND, OPT_PASSOUT, OPT_CIPHER
83 } OPTION_CHOICE;
84
85 OPTIONS genrsa_options[] = {
86     {"help", OPT_HELP, '-', "Display this summary"},
87     {"3", OPT_3, '-', "Use 3 for the E value"},
88     {"F4", OPT_F4, '-', "Use F4 (0x10001) for the E value"},
89     {"f4", OPT_F4, '-', "Use F4 (0x10001) for the E value"},
90     {"non-fips-allow", OPT_NON_FIPS_ALLOW, '-'},
91     {"out", OPT_OUT, 's', "Output the key to specified file"},
92     {"rand", OPT_RAND, 's',
93      "Load the file(s) into the random number generator"},
94     {"passout", OPT_PASSOUT, 's', "Output file pass phrase source"},
95     {"", OPT_CIPHER, '-', "Encrypt the output with any supported cipher"},
96 # ifndef OPENSSL_NO_ENGINE
97     {"engine", OPT_ENGINE, 's', "Use engine, possibly a hardware device"},
98 # endif
99     {NULL}
100 };
101
102 int genrsa_main(int argc, char **argv)
103 {
104     BN_GENCB *cb = BN_GENCB_new();
105     PW_CB_DATA cb_data;
106     ENGINE *e = NULL;
107     BIGNUM *bn = BN_new();
108     BIO *out = NULL;
109     RSA *rsa = NULL;
110     const EVP_CIPHER *enc = NULL;
111     int ret = 1, non_fips_allow = 0, num = DEFBITS, private = 0;
112     unsigned long f4 = RSA_F4;
113     char *outfile = NULL, *passoutarg = NULL, *passout = NULL;
114     char *inrand = NULL, *prog, *hexe, *dece;
115     OPTION_CHOICE o;
116
117     if (!bn || !cb)
118         goto end;
119
120     BN_GENCB_set(cb, genrsa_cb, bio_err);
121
122     prog = opt_init(argc, argv, genrsa_options);
123     while ((o = opt_next()) != OPT_EOF) {
124         switch (o) {
125         case OPT_EOF:
126         case OPT_ERR:
127             BIO_printf(bio_err, "%s: Use -help for summary.\n", prog);
128             goto end;
129         case OPT_HELP:
130             ret = 0;
131             opt_help(genrsa_options);
132             goto end;
133         case OPT_3:
134             f4 = 3;
135             break;
136         case OPT_F4:
137             f4 = RSA_F4;
138             break;
139         case OPT_NON_FIPS_ALLOW:
140             non_fips_allow = 1;
141             break;
142         case OPT_OUT:
143             outfile = opt_arg();
144             break;
145         case OPT_ENGINE:
146             e = setup_engine(opt_arg(), 0);
147             break;
148         case OPT_RAND:
149             inrand = opt_arg();
150             break;
151         case OPT_PASSOUT:
152             passoutarg = opt_arg();
153             break;
154         case OPT_CIPHER:
155             if (!opt_cipher(opt_unknown(), &enc))
156                 goto end;
157             break;
158         }
159     }
160     argc = opt_num_rest();
161     argv = opt_rest();
162     private = 1;
163
164     if (argv[0] && (!opt_int(argv[0], &num) || num <= 0))
165         goto end;
166
167     if (!app_passwd(NULL, passoutarg, NULL, &passout)) {
168         BIO_printf(bio_err, "Error getting password\n");
169         goto end;
170     }
171
172     out = bio_open_owner(outfile, FORMAT_PEM, private);
173     if (out == NULL)
174         goto end;
175
176     if (!app_RAND_load_file(NULL, 1) && inrand == NULL
177         && !RAND_status()) {
178         BIO_printf(bio_err,
179                    "warning, not much extra random data, consider using the -rand option\n");
180     }
181     if (inrand != NULL)
182         BIO_printf(bio_err, "%ld semi-random bytes loaded\n",
183                    app_RAND_load_files(inrand));
184
185     BIO_printf(bio_err, "Generating RSA private key, %d bit long modulus\n",
186                num);
187     rsa = e ? RSA_new_method(e) : RSA_new();
188     if (!rsa)
189         goto end;
190
191     if (non_fips_allow)
192         rsa->flags |= RSA_FLAG_NON_FIPS_ALLOW;
193
194     if (!BN_set_word(bn, f4) || !RSA_generate_key_ex(rsa, num, bn, cb))
195         goto end;
196
197     app_RAND_write_file(NULL);
198
199     hexe = BN_bn2hex(rsa->e);
200     dece = BN_bn2dec(rsa->e);
201     if (hexe && dece) {
202         BIO_printf(bio_err, "e is %s (0x%s)\n", dece, hexe);
203     }
204     OPENSSL_free(hexe);
205     OPENSSL_free(dece);
206     cb_data.password = passout;
207     cb_data.prompt_info = outfile;
208     assert(private);
209     if (!PEM_write_bio_RSAPrivateKey(out, rsa, enc, NULL, 0,
210                                      (pem_password_cb *)password_callback,
211                                      &cb_data))
212         goto end;
213
214     ret = 0;
215  end:
216     BN_free(bn);
217     BN_GENCB_free(cb);
218     RSA_free(rsa);
219     BIO_free_all(out);
220     OPENSSL_free(passout);
221     if (ret != 0)
222         ERR_print_errors(bio_err);
223     return (ret);
224 }
225
226 static int genrsa_cb(int p, int n, BN_GENCB *cb)
227 {
228     char c = '*';
229
230     if (p == 0)
231         c = '.';
232     if (p == 1)
233         c = '+';
234     if (p == 2)
235         c = '*';
236     if (p == 3)
237         c = '\n';
238     BIO_write(BN_GENCB_get_arg(cb), &c, 1);
239     (void)BIO_flush(BN_GENCB_get_arg(cb));
240     return 1;
241 }
242 #else                           /* !OPENSSL_NO_RSA */
243
244 # if PEDANTIC
245 static void *dummy = &dummy;
246 # endif
247
248 #endif