Added md4 to the VMS compilation
[openssl.git] / apps / smime.c
1 /* smime.c */
2 /* Written by Dr Stephen N Henson (shenson@bigfoot.com) for the OpenSSL
3  * project 1999.
4  */
5 /* ====================================================================
6  * Copyright (c) 1999 The OpenSSL Project.  All rights reserved.
7  *
8  * Redistribution and use in source and binary forms, with or without
9  * modification, are permitted provided that the following conditions
10  * are met:
11  *
12  * 1. Redistributions of source code must retain the above copyright
13  *    notice, this list of conditions and the following disclaimer. 
14  *
15  * 2. Redistributions in binary form must reproduce the above copyright
16  *    notice, this list of conditions and the following disclaimer in
17  *    the documentation and/or other materials provided with the
18  *    distribution.
19  *
20  * 3. All advertising materials mentioning features or use of this
21  *    software must display the following acknowledgment:
22  *    "This product includes software developed by the OpenSSL Project
23  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
24  *
25  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
26  *    endorse or promote products derived from this software without
27  *    prior written permission. For written permission, please contact
28  *    licensing@OpenSSL.org.
29  *
30  * 5. Products derived from this software may not be called "OpenSSL"
31  *    nor may "OpenSSL" appear in their names without prior written
32  *    permission of the OpenSSL Project.
33  *
34  * 6. Redistributions of any form whatsoever must retain the following
35  *    acknowledgment:
36  *    "This product includes software developed by the OpenSSL Project
37  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
38  *
39  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
40  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
41  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
42  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
43  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
44  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
45  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
46  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
47  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
48  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
49  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
50  * OF THE POSSIBILITY OF SUCH DAMAGE.
51  * ====================================================================
52  *
53  * This product includes cryptographic software written by Eric Young
54  * (eay@cryptsoft.com).  This product includes software written by Tim
55  * Hudson (tjh@cryptsoft.com).
56  *
57  */
58
59 /* S/MIME utility function */
60
61 #include <stdio.h>
62 #include <string.h>
63 #include "apps.h"
64 #include <openssl/crypto.h>
65 #include <openssl/pem.h>
66 #include <openssl/err.h>
67
68 #undef PROG
69 #define PROG smime_main
70 static X509_STORE *setup_verify(char *CAfile, char *CApath);
71 static int save_certs(char *signerfile, STACK_OF(X509) *signers);
72
73 #define SMIME_OP        0x10
74 #define SMIME_ENCRYPT   (1 | SMIME_OP)
75 #define SMIME_DECRYPT   2
76 #define SMIME_SIGN      (3 | SMIME_OP)
77 #define SMIME_VERIFY    4
78 #define SMIME_PK7OUT    5
79
80 int MAIN(int, char **);
81
82 int MAIN(int argc, char **argv)
83 {
84         int operation = 0;
85         int ret = 0;
86         char **args;
87         char *inmode = "r", *outmode = "w";
88         char *infile = NULL, *outfile = NULL;
89         char *signerfile = NULL, *recipfile = NULL;
90         char *certfile = NULL, *keyfile = NULL, *contfile=NULL;
91         EVP_CIPHER *cipher = NULL;
92         PKCS7 *p7 = NULL;
93         X509_STORE *store = NULL;
94         X509 *cert = NULL, *recip = NULL, *signer = NULL;
95         EVP_PKEY *key = NULL;
96         STACK_OF(X509) *encerts = NULL, *other = NULL;
97         BIO *in = NULL, *out = NULL, *indata = NULL;
98         int badarg = 0;
99         int flags = PKCS7_DETACHED;
100         char *to = NULL, *from = NULL, *subject = NULL;
101         char *CAfile = NULL, *CApath = NULL;
102         char *passargin = NULL, *passin = NULL;
103         char *inrand = NULL;
104         int need_rand = 0;
105         int informat = FORMAT_SMIME, outformat = FORMAT_SMIME;
106         args = argv + 1;
107
108         ret = 1;
109
110         while (!badarg && *args && *args[0] == '-') {
111                 if (!strcmp (*args, "-encrypt")) operation = SMIME_ENCRYPT;
112                 else if (!strcmp (*args, "-decrypt")) operation = SMIME_DECRYPT;
113                 else if (!strcmp (*args, "-sign")) operation = SMIME_SIGN;
114                 else if (!strcmp (*args, "-verify")) operation = SMIME_VERIFY;
115                 else if (!strcmp (*args, "-pk7out")) operation = SMIME_PK7OUT;
116 #ifndef NO_DES
117                 else if (!strcmp (*args, "-des3")) 
118                                 cipher = EVP_des_ede3_cbc();
119                 else if (!strcmp (*args, "-des")) 
120                                 cipher = EVP_des_cbc();
121 #endif
122 #ifndef NO_RC2
123                 else if (!strcmp (*args, "-rc2-40")) 
124                                 cipher = EVP_rc2_40_cbc();
125                 else if (!strcmp (*args, "-rc2-128")) 
126                                 cipher = EVP_rc2_cbc();
127                 else if (!strcmp (*args, "-rc2-64")) 
128                                 cipher = EVP_rc2_64_cbc();
129 #endif
130                 else if (!strcmp (*args, "-text")) 
131                                 flags |= PKCS7_TEXT;
132                 else if (!strcmp (*args, "-nointern")) 
133                                 flags |= PKCS7_NOINTERN;
134                 else if (!strcmp (*args, "-noverify")) 
135                                 flags |= PKCS7_NOVERIFY;
136                 else if (!strcmp (*args, "-nochain")) 
137                                 flags |= PKCS7_NOCHAIN;
138                 else if (!strcmp (*args, "-nocerts")) 
139                                 flags |= PKCS7_NOCERTS;
140                 else if (!strcmp (*args, "-noattr")) 
141                                 flags |= PKCS7_NOATTR;
142                 else if (!strcmp (*args, "-nodetach")) 
143                                 flags &= ~PKCS7_DETACHED;
144                 else if (!strcmp (*args, "-binary"))
145                                 flags |= PKCS7_BINARY;
146                 else if (!strcmp (*args, "-nosigs"))
147                                 flags |= PKCS7_NOSIGS;
148                 else if (!strcmp(*args,"-rand")) {
149                         if (args[1]) {
150                                 args++;
151                                 inrand = *args;
152                         } else badarg = 1;
153                         need_rand = 1;
154                 } else if (!strcmp(*args,"-passin")) {
155                         if (args[1]) {
156                                 args++;
157                                 passargin = *args;
158                         } else badarg = 1;
159                 } else if (!strcmp (*args, "-to")) {
160                         if (args[1]) {
161                                 args++;
162                                 to = *args;
163                         } else badarg = 1;
164                 } else if (!strcmp (*args, "-from")) {
165                         if (args[1]) {
166                                 args++;
167                                 from = *args;
168                         } else badarg = 1;
169                 } else if (!strcmp (*args, "-subject")) {
170                         if (args[1]) {
171                                 args++;
172                                 subject = *args;
173                         } else badarg = 1;
174                 } else if (!strcmp (*args, "-signer")) {
175                         if (args[1]) {
176                                 args++;
177                                 signerfile = *args;
178                         } else badarg = 1;
179                 } else if (!strcmp (*args, "-recip")) {
180                         if (args[1]) {
181                                 args++;
182                                 recipfile = *args;
183                         } else badarg = 1;
184                 } else if (!strcmp (*args, "-inkey")) {
185                         if (args[1]) {
186                                 args++;
187                                 keyfile = *args;
188                         } else badarg = 1;
189                 } else if (!strcmp (*args, "-certfile")) {
190                         if (args[1]) {
191                                 args++;
192                                 certfile = *args;
193                         } else badarg = 1;
194                 } else if (!strcmp (*args, "-CAfile")) {
195                         if (args[1]) {
196                                 args++;
197                                 CAfile = *args;
198                         } else badarg = 1;
199                 } else if (!strcmp (*args, "-CApath")) {
200                         if (args[1]) {
201                                 args++;
202                                 CApath = *args;
203                         } else badarg = 1;
204                 } else if (!strcmp (*args, "-in")) {
205                         if (args[1]) {
206                                 args++;
207                                 infile = *args;
208                         } else badarg = 1;
209                 } else if (!strcmp (*args, "-inform")) {
210                         if (args[1]) {
211                                 args++;
212                                 informat = str2fmt(*args);
213                         } else badarg = 1;
214                 } else if (!strcmp (*args, "-outform")) {
215                         if (args[1]) {
216                                 args++;
217                                 outformat = str2fmt(*args);
218                         } else badarg = 1;
219                 } else if (!strcmp (*args, "-out")) {
220                         if (args[1]) {
221                                 args++;
222                                 outfile = *args;
223                         } else badarg = 1;
224                 } else if (!strcmp (*args, "-content")) {
225                         if (args[1]) {
226                                 args++;
227                                 contfile = *args;
228                         } else badarg = 1;
229                 } else badarg = 1;
230                 args++;
231         }
232
233         if(operation == SMIME_SIGN) {
234                 if(!signerfile) {
235                         BIO_printf(bio_err, "No signer certificate specified\n");
236                         badarg = 1;
237                 }
238                 need_rand = 1;
239         } else if(operation == SMIME_DECRYPT) {
240                 if(!recipfile) {
241                         BIO_printf(bio_err, "No recipient certificate and key specified\n");
242                         badarg = 1;
243                 }
244         } else if(operation == SMIME_ENCRYPT) {
245                 if(!*args) {
246                         BIO_printf(bio_err, "No recipient(s) certificate(s) specified\n");
247                         badarg = 1;
248                 }
249                 need_rand = 1;
250         } else if(!operation) badarg = 1;
251
252         if (badarg) {
253                 BIO_printf (bio_err, "Usage smime [options] cert.pem ...\n");
254                 BIO_printf (bio_err, "where options are\n");
255                 BIO_printf (bio_err, "-encrypt       encrypt message\n");
256                 BIO_printf (bio_err, "-decrypt       decrypt encrypted message\n");
257                 BIO_printf (bio_err, "-sign          sign message\n");
258                 BIO_printf (bio_err, "-verify        verify signed message\n");
259                 BIO_printf (bio_err, "-pk7out        output PKCS#7 structure\n");
260 #ifndef NO_DES
261                 BIO_printf (bio_err, "-des3          encrypt with triple DES\n");
262                 BIO_printf (bio_err, "-des           encrypt with DES\n");
263 #endif
264 #ifndef NO_RC2
265                 BIO_printf (bio_err, "-rc2-40        encrypt with RC2-40 (default)\n");
266                 BIO_printf (bio_err, "-rc2-64        encrypt with RC2-64\n");
267                 BIO_printf (bio_err, "-rc2-128       encrypt with RC2-128\n");
268 #endif
269                 BIO_printf (bio_err, "-nointern      don't search certificates in message for signer\n");
270                 BIO_printf (bio_err, "-nosigs        don't verify message signature\n");
271                 BIO_printf (bio_err, "-noverify      don't verify signers certificate\n");
272                 BIO_printf (bio_err, "-nocerts       don't include signers certificate when signing\n");
273                 BIO_printf (bio_err, "-nodetach      use opaque signing\n");
274                 BIO_printf (bio_err, "-noattr        don't include any signed attributes\n");
275                 BIO_printf (bio_err, "-binary        don't translate message to text\n");
276                 BIO_printf (bio_err, "-certfile file other certificates file\n");
277                 BIO_printf (bio_err, "-signer file   signer certificate file\n");
278                 BIO_printf (bio_err, "-recip  file   recipient certificate file for decryption\n");
279                 BIO_printf (bio_err, "-in file       input file\n");
280                 BIO_printf (bio_err, "-inform arg    input format SMIME (default), PEM or DER\n");
281                 BIO_printf (bio_err, "-inkey file    input private key (if not signer or recipient)\n");
282                 BIO_printf (bio_err, "-out file      output file\n");
283                 BIO_printf (bio_err, "-outform arg   output format SMIME (default), PEM or DER\n");
284                 BIO_printf (bio_err, "-content file  supply or override content for detached signature\n");
285                 BIO_printf (bio_err, "-to addr       to address\n");
286                 BIO_printf (bio_err, "-from ad       from address\n");
287                 BIO_printf (bio_err, "-subject s     subject\n");
288                 BIO_printf (bio_err, "-text          include or delete text MIME headers\n");
289                 BIO_printf (bio_err, "-CApath dir    trusted certificates directory\n");
290                 BIO_printf (bio_err, "-CAfile file   trusted certificates file\n");
291                 BIO_printf(bio_err,  "-rand file%cfile%c...\n", LIST_SEPARATOR_CHAR, LIST_SEPARATOR_CHAR);
292                 BIO_printf(bio_err,  "               load the file (or the files in the directory) into\n");
293                 BIO_printf(bio_err,  "               the random number generator\n");
294                 BIO_printf (bio_err, "cert.pem       recipient certificate(s) for encryption\n");
295                 goto end;
296         }
297
298         if(!app_passwd(bio_err, passargin, NULL, &passin, NULL)) {
299                 BIO_printf(bio_err, "Error getting password\n");
300                 goto end;
301         }
302
303         if (need_rand) {
304                 app_RAND_load_file(NULL, bio_err, (inrand != NULL));
305                 if (inrand != NULL)
306                         BIO_printf(bio_err,"%ld semi-random bytes loaded\n",
307                                 app_RAND_load_files(inrand));
308         }
309
310         ret = 2;
311
312         if(operation != SMIME_SIGN) flags &= ~PKCS7_DETACHED;
313
314         if(operation & SMIME_OP) {
315                 if(flags & PKCS7_BINARY) inmode = "rb";
316                 if(outformat == FORMAT_ASN1) outmode = "wb";
317         } else {
318                 if(flags & PKCS7_BINARY) outmode = "wb";
319                 if(informat == FORMAT_ASN1) inmode = "rb";
320         }
321
322         if(operation == SMIME_ENCRYPT) {
323                 if (!cipher) {
324 #ifndef NO_RC2                  
325                         cipher = EVP_rc2_40_cbc();
326 #else
327                         BIO_printf(bio_err, "No cipher selected\n");
328                         goto end;
329 #endif
330                 }
331                 encerts = sk_X509_new_null();
332                 while (*args) {
333                         if(!(cert = load_cert(bio_err,*args,FORMAT_PEM))) {
334                                 BIO_printf(bio_err, "Can't read recipient certificate file %s\n", *args);
335                                 goto end;
336                         }
337                         sk_X509_push(encerts, cert);
338                         cert = NULL;
339                         args++;
340                 }
341         }
342
343         if(signerfile && (operation == SMIME_SIGN)) {
344                 if(!(signer = load_cert(bio_err,signerfile,FORMAT_PEM))) {
345                         BIO_printf(bio_err, "Can't read signer certificate file %s\n", signerfile);
346                         goto end;
347                 }
348         }
349
350         if(certfile) {
351                 if(!(other = load_certs(bio_err,certfile,FORMAT_PEM))) {
352                         BIO_printf(bio_err, "Can't read certificate file %s\n", certfile);
353                         ERR_print_errors(bio_err);
354                         goto end;
355                 }
356         }
357
358         if(recipfile && (operation == SMIME_DECRYPT)) {
359                 if(!(recip = load_cert(bio_err,recipfile,FORMAT_PEM))) {
360                         BIO_printf(bio_err, "Can't read recipient certificate file %s\n", recipfile);
361                         ERR_print_errors(bio_err);
362                         goto end;
363                 }
364         }
365
366         if(operation == SMIME_DECRYPT) {
367                 if(!keyfile) keyfile = recipfile;
368         } else if(operation == SMIME_SIGN) {
369                 if(!keyfile) keyfile = signerfile;
370         } else keyfile = NULL;
371
372         if(keyfile) {
373                 if(!(key = load_key(bio_err,keyfile, FORMAT_PEM, passin))) {
374                         BIO_printf(bio_err, "Can't read recipient certificate file %s\n", keyfile);
375                         ERR_print_errors(bio_err);
376                         goto end;
377                 }
378         }
379
380         if (infile) {
381                 if (!(in = BIO_new_file(infile, inmode))) {
382                         BIO_printf (bio_err,
383                                  "Can't open input file %s\n", infile);
384                         goto end;
385                 }
386         } else in = BIO_new_fp(stdin, BIO_NOCLOSE);
387
388         if (outfile) {
389                 if (!(out = BIO_new_file(outfile, outmode))) {
390                         BIO_printf (bio_err,
391                                  "Can't open output file %s\n", outfile);
392                         goto end;
393                 }
394         } else out = BIO_new_fp(stdout, BIO_NOCLOSE);
395
396         if(operation == SMIME_VERIFY) {
397                 if(!(store = setup_verify(CAfile, CApath))) goto end;
398         }
399
400         ret = 3;
401
402         if(operation == SMIME_ENCRYPT) {
403                 p7 = PKCS7_encrypt(encerts, in, cipher, flags);
404         } else if(operation == SMIME_SIGN) {
405                 p7 = PKCS7_sign(signer, key, other, in, flags);
406                 BIO_reset(in);
407         } else {
408                 if(informat == FORMAT_SMIME) 
409                         p7 = SMIME_read_PKCS7(in, &indata);
410                 else if(informat == FORMAT_PEM) 
411                         p7 = PEM_read_bio_PKCS7(in, NULL, NULL, NULL);
412                 else if(informat == FORMAT_ASN1) 
413                         p7 = d2i_PKCS7_bio(in, NULL);
414                 else {
415                         BIO_printf(bio_err, "Bad input format for PKCS#7 file\n");
416                         goto end;
417                 }
418
419                 if(!p7) {
420                         BIO_printf(bio_err, "Error reading S/MIME message\n");
421                         goto end;
422                 }
423                 if(contfile) {
424                         BIO_free(indata);
425                         if(!(indata = BIO_new_file(contfile, "rb"))) {
426                                 BIO_printf(bio_err, "Can't read content file %s\n", contfile);
427                                 goto end;
428                         }
429                 }
430         }
431
432         if(!p7) {
433                 BIO_printf(bio_err, "Error creating PKCS#7 structure\n");
434                 goto end;
435         }
436
437         ret = 4;
438         if(operation == SMIME_DECRYPT) {
439                 if(!PKCS7_decrypt(p7, key, recip, out, flags)) {
440                         BIO_printf(bio_err, "Error decrypting PKCS#7 structure\n");
441                         goto end;
442                 }
443         } else if(operation == SMIME_VERIFY) {
444                 STACK_OF(X509) *signers;
445                 if(PKCS7_verify(p7, other, store, indata, out, flags)) {
446                         BIO_printf(bio_err, "Verification Successful\n");
447                 } else {
448                         BIO_printf(bio_err, "Verification Failure\n");
449                         goto end;
450                 }
451                 signers = PKCS7_get0_signers(p7, other, flags);
452                 if(!save_certs(signerfile, signers)) {
453                         BIO_printf(bio_err, "Error writing signers to %s\n",
454                                                                 signerfile);
455                         ret = 5;
456                         goto end;
457                 }
458                 sk_X509_free(signers);
459         } else if(operation == SMIME_PK7OUT) {
460                 PEM_write_bio_PKCS7(out, p7);
461         } else {
462                 if(to) BIO_printf(out, "To: %s\n", to);
463                 if(from) BIO_printf(out, "From: %s\n", from);
464                 if(subject) BIO_printf(out, "Subject: %s\n", subject);
465                 if(outformat == FORMAT_SMIME) 
466                         SMIME_write_PKCS7(out, p7, in, flags);
467                 else if(outformat == FORMAT_PEM) 
468                         PEM_write_bio_PKCS7(out,p7);
469                 else if(outformat == FORMAT_ASN1) 
470                         i2d_PKCS7_bio(out,p7);
471                 else {
472                         BIO_printf(bio_err, "Bad output format for PKCS#7 file\n");
473                         goto end;
474                 }
475         }
476         ret = 0;
477 end:
478         if (need_rand)
479                 app_RAND_write_file(NULL, bio_err);
480         if(ret) ERR_print_errors(bio_err);
481         sk_X509_pop_free(encerts, X509_free);
482         sk_X509_pop_free(other, X509_free);
483         X509_STORE_free(store);
484         X509_free(cert);
485         X509_free(recip);
486         X509_free(signer);
487         EVP_PKEY_free(key);
488         PKCS7_free(p7);
489         BIO_free(in);
490         BIO_free(indata);
491         BIO_free(out);
492         if(passin) OPENSSL_free(passin);
493         return (ret);
494 }
495
496 static X509_STORE *setup_verify(char *CAfile, char *CApath)
497 {
498         X509_STORE *store;
499         X509_LOOKUP *lookup;
500         if(!(store = X509_STORE_new())) goto end;
501         lookup=X509_STORE_add_lookup(store,X509_LOOKUP_file());
502         if (lookup == NULL) goto end;
503         if (CAfile) {
504                 if(!X509_LOOKUP_load_file(lookup,CAfile,X509_FILETYPE_PEM)) {
505                         BIO_printf(bio_err, "Error loading file %s\n", CAfile);
506                         goto end;
507                 }
508         } else X509_LOOKUP_load_file(lookup,NULL,X509_FILETYPE_DEFAULT);
509                 
510         lookup=X509_STORE_add_lookup(store,X509_LOOKUP_hash_dir());
511         if (lookup == NULL) goto end;
512         if (CApath) {
513                 if(!X509_LOOKUP_add_dir(lookup,CApath,X509_FILETYPE_PEM)) {
514                         BIO_printf(bio_err, "Error loading directory %s\n", CApath);
515                         goto end;
516                 }
517         } else X509_LOOKUP_add_dir(lookup,NULL,X509_FILETYPE_DEFAULT);
518
519         ERR_clear_error();
520         return store;
521         end:
522         X509_STORE_free(store);
523         return NULL;
524 }
525
526 static int save_certs(char *signerfile, STACK_OF(X509) *signers)
527 {
528         int i;
529         BIO *tmp;
530         if(!signerfile) return 1;
531         tmp = BIO_new_file(signerfile, "w");
532         if(!tmp) return 0;
533         for(i = 0; i < sk_X509_num(signers); i++)
534                 PEM_write_bio_X509(tmp, sk_X509_value(signers, i));
535         BIO_free(tmp);
536         return 1;
537 }
538