Fix some issues near recent chomp changes.
[openssl.git] / apps / genrsa.c
1 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
2  * All rights reserved.
3  *
4  * This package is an SSL implementation written
5  * by Eric Young (eay@cryptsoft.com).
6  * The implementation was written so as to conform with Netscapes SSL.
7  *
8  * This library is free for commercial and non-commercial use as long as
9  * the following conditions are aheared to.  The following conditions
10  * apply to all code found in this distribution, be it the RC4, RSA,
11  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
12  * included with this distribution is covered by the same copyright terms
13  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
14  *
15  * Copyright remains Eric Young's, and as such any Copyright notices in
16  * the code are not to be removed.
17  * If this package is used in a product, Eric Young should be given attribution
18  * as the author of the parts of the library used.
19  * This can be in the form of a textual message at program startup or
20  * in documentation (online or textual) provided with the package.
21  *
22  * Redistribution and use in source and binary forms, with or without
23  * modification, are permitted provided that the following conditions
24  * are met:
25  * 1. Redistributions of source code must retain the copyright
26  *    notice, this list of conditions and the following disclaimer.
27  * 2. Redistributions in binary form must reproduce the above copyright
28  *    notice, this list of conditions and the following disclaimer in the
29  *    documentation and/or other materials provided with the distribution.
30  * 3. All advertising materials mentioning features or use of this software
31  *    must display the following acknowledgement:
32  *    "This product includes cryptographic software written by
33  *     Eric Young (eay@cryptsoft.com)"
34  *    The word 'cryptographic' can be left out if the rouines from the library
35  *    being used are not cryptographic related :-).
36  * 4. If you include any Windows specific code (or a derivative thereof) from
37  *    the apps directory (application code) you must include an acknowledgement:
38  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
39  *
40  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
41  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
42  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
43  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
44  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
45  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
46  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
47  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
48  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
49  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
50  * SUCH DAMAGE.
51  *
52  * The licence and distribution terms for any publically available version or
53  * derivative of this code cannot be changed.  i.e. this code cannot simply be
54  * copied and put under another distribution licence
55  * [including the GNU Public Licence.]
56  */
57
58 #include <openssl/opensslconf.h>
59 #ifdef OPENSSL_NO_RSA
60 NON_EMPTY_TRANSLATION_UNIT
61 #else
62
63 # include <stdio.h>
64 # include <string.h>
65 # include <sys/types.h>
66 # include <sys/stat.h>
67 # include "apps.h"
68 # include <openssl/bio.h>
69 # include <openssl/err.h>
70 # include <openssl/bn.h>
71 # include <openssl/rsa.h>
72 # include <openssl/evp.h>
73 # include <openssl/x509.h>
74 # include <openssl/pem.h>
75 # include <openssl/rand.h>
76
77 # define DEFBITS 2048
78
79 static int genrsa_cb(int p, int n, BN_GENCB *cb);
80
81 typedef enum OPTION_choice {
82     OPT_ERR = -1, OPT_EOF = 0, OPT_HELP,
83     OPT_3, OPT_F4, OPT_ENGINE,
84     OPT_OUT, OPT_RAND, OPT_PASSOUT, OPT_CIPHER
85 } OPTION_CHOICE;
86
87 OPTIONS genrsa_options[] = {
88     {"help", OPT_HELP, '-', "Display this summary"},
89     {"3", OPT_3, '-', "Use 3 for the E value"},
90     {"F4", OPT_F4, '-', "Use F4 (0x10001) for the E value"},
91     {"f4", OPT_F4, '-', "Use F4 (0x10001) for the E value"},
92     {"out", OPT_OUT, 's', "Output the key to specified file"},
93     {"rand", OPT_RAND, 's',
94      "Load the file(s) into the random number generator"},
95     {"passout", OPT_PASSOUT, 's', "Output file pass phrase source"},
96     {"", OPT_CIPHER, '-', "Encrypt the output with any supported cipher"},
97 # ifndef OPENSSL_NO_ENGINE
98     {"engine", OPT_ENGINE, 's', "Use engine, possibly a hardware device"},
99 # endif
100     {NULL}
101 };
102
103 int genrsa_main(int argc, char **argv)
104 {
105     BN_GENCB *cb = BN_GENCB_new();
106     PW_CB_DATA cb_data;
107     ENGINE *e = NULL;
108     BIGNUM *bn = BN_new();
109     BIO *out = NULL;
110     RSA *rsa = NULL;
111     const EVP_CIPHER *enc = NULL;
112     int ret = 1, num = DEFBITS, private = 0;
113     unsigned long f4 = RSA_F4;
114     char *outfile = NULL, *passoutarg = NULL, *passout = NULL;
115     char *inrand = NULL, *prog, *hexe, *dece;
116     OPTION_CHOICE o;
117
118     if (bn == NULL || cb == NULL)
119         goto end;
120
121     BN_GENCB_set(cb, genrsa_cb, bio_err);
122
123     prog = opt_init(argc, argv, genrsa_options);
124     while ((o = opt_next()) != OPT_EOF) {
125         switch (o) {
126         case OPT_EOF:
127         case OPT_ERR:
128             BIO_printf(bio_err, "%s: Use -help for summary.\n", prog);
129             goto end;
130         case OPT_HELP:
131             ret = 0;
132             opt_help(genrsa_options);
133             goto end;
134         case OPT_3:
135             f4 = 3;
136             break;
137         case OPT_F4:
138             f4 = RSA_F4;
139             break;
140         case OPT_OUT:
141             outfile = opt_arg();
142             break;
143         case OPT_ENGINE:
144             e = setup_engine(opt_arg(), 0);
145             break;
146         case OPT_RAND:
147             inrand = opt_arg();
148             break;
149         case OPT_PASSOUT:
150             passoutarg = opt_arg();
151             break;
152         case OPT_CIPHER:
153             if (!opt_cipher(opt_unknown(), &enc))
154                 goto end;
155             break;
156         }
157     }
158     argc = opt_num_rest();
159     argv = opt_rest();
160     private = 1;
161
162     if (argv[0] && (!opt_int(argv[0], &num) || num <= 0))
163         goto end;
164
165     if (!app_passwd(NULL, passoutarg, NULL, &passout)) {
166         BIO_printf(bio_err, "Error getting password\n");
167         goto end;
168     }
169
170     out = bio_open_owner(outfile, FORMAT_PEM, private);
171     if (out == NULL)
172         goto end;
173
174     if (!app_RAND_load_file(NULL, 1) && inrand == NULL
175         && !RAND_status()) {
176         BIO_printf(bio_err,
177                    "warning, not much extra random data, consider using the -rand option\n");
178     }
179     if (inrand != NULL)
180         BIO_printf(bio_err, "%ld semi-random bytes loaded\n",
181                    app_RAND_load_files(inrand));
182
183     BIO_printf(bio_err, "Generating RSA private key, %d bit long modulus\n",
184                num);
185     rsa = e ? RSA_new_method(e) : RSA_new();
186     if (rsa == NULL)
187         goto end;
188
189     if (!BN_set_word(bn, f4) || !RSA_generate_key_ex(rsa, num, bn, cb))
190         goto end;
191
192     app_RAND_write_file(NULL);
193
194     hexe = BN_bn2hex(rsa->e);
195     dece = BN_bn2dec(rsa->e);
196     if (hexe && dece) {
197         BIO_printf(bio_err, "e is %s (0x%s)\n", dece, hexe);
198     }
199     OPENSSL_free(hexe);
200     OPENSSL_free(dece);
201     cb_data.password = passout;
202     cb_data.prompt_info = outfile;
203     assert(private);
204     if (!PEM_write_bio_RSAPrivateKey(out, rsa, enc, NULL, 0,
205                                      (pem_password_cb *)password_callback,
206                                      &cb_data))
207         goto end;
208
209     ret = 0;
210  end:
211     BN_free(bn);
212     BN_GENCB_free(cb);
213     RSA_free(rsa);
214     BIO_free_all(out);
215     OPENSSL_free(passout);
216     if (ret != 0)
217         ERR_print_errors(bio_err);
218     return (ret);
219 }
220
221 static int genrsa_cb(int p, int n, BN_GENCB *cb)
222 {
223     char c = '*';
224
225     if (p == 0)
226         c = '.';
227     if (p == 1)
228         c = '+';
229     if (p == 2)
230         c = '*';
231     if (p == 3)
232         c = '\n';
233     BIO_write(BN_GENCB_get_arg(cb), &c, 1);
234     (void)BIO_flush(BN_GENCB_get_arg(cb));
235     return 1;
236 }
237 #endif