correct error handling
[openssl.git] / apps / rsa.c
1 /* apps/rsa.c */
2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
3  * All rights reserved.
4  *
5  * This package is an SSL implementation written
6  * by Eric Young (eay@cryptsoft.com).
7  * The implementation was written so as to conform with Netscapes SSL.
8  * 
9  * This library is free for commercial and non-commercial use as long as
10  * the following conditions are aheared to.  The following conditions
11  * apply to all code found in this distribution, be it the RC4, RSA,
12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
13  * included with this distribution is covered by the same copyright terms
14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
15  * 
16  * Copyright remains Eric Young's, and as such any Copyright notices in
17  * the code are not to be removed.
18  * If this package is used in a product, Eric Young should be given attribution
19  * as the author of the parts of the library used.
20  * This can be in the form of a textual message at program startup or
21  * in documentation (online or textual) provided with the package.
22  * 
23  * Redistribution and use in source and binary forms, with or without
24  * modification, are permitted provided that the following conditions
25  * are met:
26  * 1. Redistributions of source code must retain the copyright
27  *    notice, this list of conditions and the following disclaimer.
28  * 2. Redistributions in binary form must reproduce the above copyright
29  *    notice, this list of conditions and the following disclaimer in the
30  *    documentation and/or other materials provided with the distribution.
31  * 3. All advertising materials mentioning features or use of this software
32  *    must display the following acknowledgement:
33  *    "This product includes cryptographic software written by
34  *     Eric Young (eay@cryptsoft.com)"
35  *    The word 'cryptographic' can be left out if the rouines from the library
36  *    being used are not cryptographic related :-).
37  * 4. If you include any Windows specific code (or a derivative thereof) from 
38  *    the apps directory (application code) you must include an acknowledgement:
39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
40  * 
41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
51  * SUCH DAMAGE.
52  * 
53  * The licence and distribution terms for any publically available version or
54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
55  * copied and put under another distribution licence
56  * [including the GNU Public Licence.]
57  */
58
59 #ifndef NO_RSA
60 #include <stdio.h>
61 #include <stdlib.h>
62 #include <string.h>
63 #include <time.h>
64 #include "apps.h"
65 #include <openssl/bio.h>
66 #include <openssl/err.h>
67 #include <openssl/rsa.h>
68 #include <openssl/evp.h>
69 #include <openssl/x509.h>
70 #include <openssl/pem.h>
71
72 #undef PROG
73 #define PROG    rsa_main
74
75 /* -inform arg  - input format - default PEM (one of DER, NET or PEM)
76  * -outform arg - output format - default PEM
77  * -in arg      - input file - default stdin
78  * -out arg     - output file - default stdout
79  * -des         - encrypt output if PEM format with DES in cbc mode
80  * -des3        - encrypt output if PEM format
81  * -idea        - encrypt output if PEM format
82  * -text        - print a text version
83  * -modulus     - print the RSA key modulus
84  * -check       - verify key consistency
85  */
86
87 int MAIN(int argc, char **argv)
88         {
89         int ret=1;
90         RSA *rsa=NULL;
91         int i,badops=0;
92         const EVP_CIPHER *enc=NULL;
93         BIO *in=NULL,*out=NULL;
94         int informat,outformat,text=0,check=0,noout=0;
95         char *infile,*outfile,*prog;
96         int modulus=0;
97
98         apps_startup();
99
100         if (bio_err == NULL)
101                 if ((bio_err=BIO_new(BIO_s_file())) != NULL)
102                         BIO_set_fp(bio_err,stderr,BIO_NOCLOSE|BIO_FP_TEXT);
103
104         infile=NULL;
105         outfile=NULL;
106         informat=FORMAT_PEM;
107         outformat=FORMAT_PEM;
108
109         prog=argv[0];
110         argc--;
111         argv++;
112         while (argc >= 1)
113                 {
114                 if      (strcmp(*argv,"-inform") == 0)
115                         {
116                         if (--argc < 1) goto bad;
117                         informat=str2fmt(*(++argv));
118                         }
119                 else if (strcmp(*argv,"-outform") == 0)
120                         {
121                         if (--argc < 1) goto bad;
122                         outformat=str2fmt(*(++argv));
123                         }
124                 else if (strcmp(*argv,"-in") == 0)
125                         {
126                         if (--argc < 1) goto bad;
127                         infile= *(++argv);
128                         }
129                 else if (strcmp(*argv,"-out") == 0)
130                         {
131                         if (--argc < 1) goto bad;
132                         outfile= *(++argv);
133                         }
134                 else if (strcmp(*argv,"-noout") == 0)
135                         noout=1;
136                 else if (strcmp(*argv,"-text") == 0)
137                         text=1;
138                 else if (strcmp(*argv,"-modulus") == 0)
139                         modulus=1;
140                 else if (strcmp(*argv,"-check") == 0)
141                         check=1;
142                 else if ((enc=EVP_get_cipherbyname(&(argv[0][1]))) == NULL)
143                         {
144                         BIO_printf(bio_err,"unknown option %s\n",*argv);
145                         badops=1;
146                         break;
147                         }
148                 argc--;
149                 argv++;
150                 }
151
152         if (badops)
153                 {
154 bad:
155                 BIO_printf(bio_err,"%s [options] <infile >outfile\n",prog);
156                 BIO_printf(bio_err,"where options are\n");
157                 BIO_printf(bio_err," -inform arg   input format - one of DER NET PEM\n");
158                 BIO_printf(bio_err," -outform arg  output format - one of DER NET PEM\n");
159                 BIO_printf(bio_err," -in arg       input file\n");
160                 BIO_printf(bio_err," -out arg      output file\n");
161                 BIO_printf(bio_err," -des          encrypt PEM output with cbc des\n");
162                 BIO_printf(bio_err," -des3         encrypt PEM output with ede cbc des using 168 bit key\n");
163 #ifndef NO_IDEA
164                 BIO_printf(bio_err," -idea         encrypt PEM output with cbc idea\n");
165 #endif
166                 BIO_printf(bio_err," -text         print the key in text\n");
167                 BIO_printf(bio_err," -noout        don't print key out\n");
168                 BIO_printf(bio_err," -modulus      print the RSA key modulus\n");
169                 BIO_printf(bio_err," -check        verify key consistency\n");
170                 goto end;
171                 }
172
173         ERR_load_crypto_strings();
174
175         in=BIO_new(BIO_s_file());
176         out=BIO_new(BIO_s_file());
177         if ((in == NULL) || (out == NULL))
178                 {
179                 ERR_print_errors(bio_err);
180                 goto end;
181                 }
182
183         if (infile == NULL)
184                 BIO_set_fp(in,stdin,BIO_NOCLOSE);
185         else
186                 {
187                 if (BIO_read_filename(in,infile) <= 0)
188                         {
189                         perror(infile);
190                         goto end;
191                         }
192                 }
193
194         BIO_printf(bio_err,"read RSA private key\n");
195         if      (informat == FORMAT_ASN1)
196                 rsa=d2i_RSAPrivateKey_bio(in,NULL);
197 #ifndef NO_RC4
198         else if (informat == FORMAT_NETSCAPE)
199                 {
200                 BUF_MEM *buf=NULL;
201                 unsigned char *p;
202                 int size=0;
203
204                 buf=BUF_MEM_new();
205                 for (;;)
206                         {
207                         if ((buf == NULL) || (!BUF_MEM_grow(buf,size+1024*10)))
208                                 goto end;
209                         i=BIO_read(in,&(buf->data[size]),1024*10);
210                         size+=i;
211                         if (i == 0) break;
212                         if (i < 0)
213                                 {
214                                 perror("reading private key");
215                                 BUF_MEM_free(buf);
216                                 goto end;
217                                 }
218                         }
219                 p=(unsigned char *)buf->data;
220                 rsa=(RSA *)d2i_Netscape_RSA(NULL,&p,(long)size,NULL);
221                 BUF_MEM_free(buf);
222                 }
223 #endif
224         else if (informat == FORMAT_PEM)
225                 rsa=PEM_read_bio_RSAPrivateKey(in,NULL,NULL);
226         else
227                 {
228                 BIO_printf(bio_err,"bad input format specified for key\n");
229                 goto end;
230                 }
231         if (rsa == NULL)
232                 {
233                 BIO_printf(bio_err,"unable to load Private Key\n");
234                 ERR_print_errors(bio_err);
235                 goto end;
236                 }
237
238         if (outfile == NULL)
239                 BIO_set_fp(out,stdout,BIO_NOCLOSE);
240         else
241                 {
242                 if (BIO_write_filename(out,outfile) <= 0)
243                         {
244                         perror(outfile);
245                         goto end;
246                         }
247                 }
248
249         if (text) 
250                 if (!RSA_print(out,rsa,0))
251                         {
252                         perror(outfile);
253                         ERR_print_errors(bio_err);
254                         goto end;
255                         }
256
257         if (modulus)
258                 {
259                 fprintf(stdout,"Modulus=");
260                 BN_print(out,rsa->n);
261                 fprintf(stdout,"\n");
262                 }
263
264         if (check)
265                 {
266                 int r = RSA_check_key(rsa);
267
268                 if (r == 1)
269                         BIO_printf(out,"RSA key ok\n");
270                 else if (r == 0)
271                         {
272                         long e;
273
274                         while ((e = ERR_peek_error()) != 0 &&
275                                 ERR_GET_LIB(e) == ERR_LIB_RSA &&
276                                 ERR_GET_FUNC(e) == RSA_F_RSA_CHECK_KEY &&
277                                 ERR_GET_REASON(e) != ERR_R_MALLOC_FAILURE)
278                                 {
279                                 BIO_printf(out, "RSA key error: %s\n", ERR_reason_error_string(e));
280                                 ERR_get_error(); /* remove e from error stack */
281                                 }
282                         }
283                 
284                 if (r == -1 || ERR_peek_error() != 0) /* should happen only if r == -1 */
285                         {
286                         ERR_print_errors(bio_err);
287                         goto end;
288                         }
289                 }
290                 
291         if (noout) goto end;
292         BIO_printf(bio_err,"writing RSA private key\n");
293         if      (outformat == FORMAT_ASN1)
294                 i=i2d_RSAPrivateKey_bio(out,rsa);
295 #ifndef NO_RC4
296         else if (outformat == FORMAT_NETSCAPE)
297                 {
298                 unsigned char *p,*pp;
299                 int size;
300
301                 i=1;
302                 size=i2d_Netscape_RSA(rsa,NULL,NULL);
303                 if ((p=(unsigned char *)Malloc(size)) == NULL)
304                         {
305                         BIO_printf(bio_err,"Malloc failure\n");
306                         goto end;
307                         }
308                 pp=p;
309                 i2d_Netscape_RSA(rsa,&p,NULL);
310                 BIO_write(out,(char *)pp,size);
311                 Free(pp);
312                 }
313 #endif
314         else if (outformat == FORMAT_PEM)
315                 i=PEM_write_bio_RSAPrivateKey(out,rsa,enc,NULL,0,NULL);
316         else    {
317                 BIO_printf(bio_err,"bad output format specified for outfile\n");
318                 goto end;
319                 }
320         if (!i)
321                 {
322                 BIO_printf(bio_err,"unable to write private key\n");
323                 ERR_print_errors(bio_err);
324                 }
325         else
326                 ret=0;
327 end:
328         if (in != NULL) BIO_free(in);
329         if (out != NULL) BIO_free(out);
330         if (rsa != NULL) RSA_free(rsa);
331         EXIT(ret);
332         }
333 #endif