Document recent changes.
[openssl.git] / apps / smime.c
1 /* smime.c */
2 /* Written by Dr Stephen N Henson (shenson@bigfoot.com) for the OpenSSL
3  * project 1999.
4  */
5 /* ====================================================================
6  * Copyright (c) 1999 The OpenSSL Project.  All rights reserved.
7  *
8  * Redistribution and use in source and binary forms, with or without
9  * modification, are permitted provided that the following conditions
10  * are met:
11  *
12  * 1. Redistributions of source code must retain the above copyright
13  *    notice, this list of conditions and the following disclaimer. 
14  *
15  * 2. Redistributions in binary form must reproduce the above copyright
16  *    notice, this list of conditions and the following disclaimer in
17  *    the documentation and/or other materials provided with the
18  *    distribution.
19  *
20  * 3. All advertising materials mentioning features or use of this
21  *    software must display the following acknowledgment:
22  *    "This product includes software developed by the OpenSSL Project
23  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
24  *
25  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
26  *    endorse or promote products derived from this software without
27  *    prior written permission. For written permission, please contact
28  *    licensing@OpenSSL.org.
29  *
30  * 5. Products derived from this software may not be called "OpenSSL"
31  *    nor may "OpenSSL" appear in their names without prior written
32  *    permission of the OpenSSL Project.
33  *
34  * 6. Redistributions of any form whatsoever must retain the following
35  *    acknowledgment:
36  *    "This product includes software developed by the OpenSSL Project
37  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
38  *
39  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
40  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
41  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
42  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
43  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
44  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
45  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
46  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
47  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
48  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
49  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
50  * OF THE POSSIBILITY OF SUCH DAMAGE.
51  * ====================================================================
52  *
53  * This product includes cryptographic software written by Eric Young
54  * (eay@cryptsoft.com).  This product includes software written by Tim
55  * Hudson (tjh@cryptsoft.com).
56  *
57  */
58
59 /* S/MIME utility function */
60
61 #include <stdio.h>
62 #include <string.h>
63 #include "apps.h"
64 #include <openssl/crypto.h>
65 #include <openssl/pem.h>
66 #include <openssl/err.h>
67 #include <openssl/engine.h>
68
69 #undef PROG
70 #define PROG smime_main
71 static int save_certs(char *signerfile, STACK_OF(X509) *signers);
72
73 #define SMIME_OP        0x10
74 #define SMIME_ENCRYPT   (1 | SMIME_OP)
75 #define SMIME_DECRYPT   2
76 #define SMIME_SIGN      (3 | SMIME_OP)
77 #define SMIME_VERIFY    4
78 #define SMIME_PK7OUT    5
79
80 int MAIN(int, char **);
81
82 int MAIN(int argc, char **argv)
83 {
84         ENGINE *e = NULL;
85         int operation = 0;
86         int ret = 0;
87         char **args;
88         char *inmode = "r", *outmode = "w";
89         char *infile = NULL, *outfile = NULL;
90         char *signerfile = NULL, *recipfile = NULL;
91         char *certfile = NULL, *keyfile = NULL, *contfile=NULL;
92         const EVP_CIPHER *cipher = NULL;
93         PKCS7 *p7 = NULL;
94         X509_STORE *store = NULL;
95         X509 *cert = NULL, *recip = NULL, *signer = NULL;
96         EVP_PKEY *key = NULL;
97         STACK_OF(X509) *encerts = NULL, *other = NULL;
98         BIO *in = NULL, *out = NULL, *indata = NULL;
99         int badarg = 0;
100         int flags = PKCS7_DETACHED, store_flags = 0;
101         char *to = NULL, *from = NULL, *subject = NULL;
102         char *CAfile = NULL, *CApath = NULL;
103         char *passargin = NULL, *passin = NULL;
104         char *inrand = NULL;
105         int need_rand = 0;
106         int informat = FORMAT_SMIME, outformat = FORMAT_SMIME;
107         int keyform = FORMAT_PEM;
108         char *engine=NULL;
109
110         args = argv + 1;
111         ret = 1;
112
113         while (!badarg && *args && *args[0] == '-') {
114                 if (!strcmp (*args, "-encrypt")) operation = SMIME_ENCRYPT;
115                 else if (!strcmp (*args, "-decrypt")) operation = SMIME_DECRYPT;
116                 else if (!strcmp (*args, "-sign")) operation = SMIME_SIGN;
117                 else if (!strcmp (*args, "-verify")) operation = SMIME_VERIFY;
118                 else if (!strcmp (*args, "-pk7out")) operation = SMIME_PK7OUT;
119 #ifndef OPENSSL_NO_DES
120                 else if (!strcmp (*args, "-des3")) 
121                                 cipher = EVP_des_ede3_cbc();
122                 else if (!strcmp (*args, "-des")) 
123                                 cipher = EVP_des_cbc();
124 #endif
125 #ifndef OPENSSL_NO_RC2
126                 else if (!strcmp (*args, "-rc2-40")) 
127                                 cipher = EVP_rc2_40_cbc();
128                 else if (!strcmp (*args, "-rc2-128")) 
129                                 cipher = EVP_rc2_cbc();
130                 else if (!strcmp (*args, "-rc2-64")) 
131                                 cipher = EVP_rc2_64_cbc();
132 #endif
133                 else if (!strcmp (*args, "-text")) 
134                                 flags |= PKCS7_TEXT;
135                 else if (!strcmp (*args, "-nointern")) 
136                                 flags |= PKCS7_NOINTERN;
137                 else if (!strcmp (*args, "-noverify")) 
138                                 flags |= PKCS7_NOVERIFY;
139                 else if (!strcmp (*args, "-nochain")) 
140                                 flags |= PKCS7_NOCHAIN;
141                 else if (!strcmp (*args, "-nocerts")) 
142                                 flags |= PKCS7_NOCERTS;
143                 else if (!strcmp (*args, "-noattr")) 
144                                 flags |= PKCS7_NOATTR;
145                 else if (!strcmp (*args, "-nodetach")) 
146                                 flags &= ~PKCS7_DETACHED;
147                 else if (!strcmp (*args, "-nosmimecap"))
148                                 flags |= PKCS7_NOSMIMECAP;
149                 else if (!strcmp (*args, "-binary"))
150                                 flags |= PKCS7_BINARY;
151                 else if (!strcmp (*args, "-nosigs"))
152                                 flags |= PKCS7_NOSIGS;
153                 else if (!strcmp (*args, "-crl_check"))
154                                 store_flags |= X509_V_FLAG_CRL_CHECK;
155                 else if (!strcmp (*args, "-crl_check_all"))
156                                 store_flags |= X509_V_FLAG_CRL_CHECK|X509_V_FLAG_CRL_CHECK_ALL;
157                 else if (!strcmp(*args,"-rand")) {
158                         if (args[1]) {
159                                 args++;
160                                 inrand = *args;
161                         } else badarg = 1;
162                         need_rand = 1;
163                 } else if (!strcmp(*args,"-engine")) {
164                         if (args[1]) {
165                                 args++;
166                                 engine = *args;
167                         } else badarg = 1;
168                 } else if (!strcmp(*args,"-passin")) {
169                         if (args[1]) {
170                                 args++;
171                                 passargin = *args;
172                         } else badarg = 1;
173                 } else if (!strcmp (*args, "-to")) {
174                         if (args[1]) {
175                                 args++;
176                                 to = *args;
177                         } else badarg = 1;
178                 } else if (!strcmp (*args, "-from")) {
179                         if (args[1]) {
180                                 args++;
181                                 from = *args;
182                         } else badarg = 1;
183                 } else if (!strcmp (*args, "-subject")) {
184                         if (args[1]) {
185                                 args++;
186                                 subject = *args;
187                         } else badarg = 1;
188                 } else if (!strcmp (*args, "-signer")) {
189                         if (args[1]) {
190                                 args++;
191                                 signerfile = *args;
192                         } else badarg = 1;
193                 } else if (!strcmp (*args, "-recip")) {
194                         if (args[1]) {
195                                 args++;
196                                 recipfile = *args;
197                         } else badarg = 1;
198                 } else if (!strcmp (*args, "-inkey")) {
199                         if (args[1]) {
200                                 args++;
201                                 keyfile = *args;
202                         } else badarg = 1;
203                 } else if (!strcmp (*args, "-keyform")) {
204                         if (args[1]) {
205                                 args++;
206                                 keyform = str2fmt(*args);
207                         } else badarg = 1;
208                 } else if (!strcmp (*args, "-certfile")) {
209                         if (args[1]) {
210                                 args++;
211                                 certfile = *args;
212                         } else badarg = 1;
213                 } else if (!strcmp (*args, "-CAfile")) {
214                         if (args[1]) {
215                                 args++;
216                                 CAfile = *args;
217                         } else badarg = 1;
218                 } else if (!strcmp (*args, "-CApath")) {
219                         if (args[1]) {
220                                 args++;
221                                 CApath = *args;
222                         } else badarg = 1;
223                 } else if (!strcmp (*args, "-in")) {
224                         if (args[1]) {
225                                 args++;
226                                 infile = *args;
227                         } else badarg = 1;
228                 } else if (!strcmp (*args, "-inform")) {
229                         if (args[1]) {
230                                 args++;
231                                 informat = str2fmt(*args);
232                         } else badarg = 1;
233                 } else if (!strcmp (*args, "-outform")) {
234                         if (args[1]) {
235                                 args++;
236                                 outformat = str2fmt(*args);
237                         } else badarg = 1;
238                 } else if (!strcmp (*args, "-out")) {
239                         if (args[1]) {
240                                 args++;
241                                 outfile = *args;
242                         } else badarg = 1;
243                 } else if (!strcmp (*args, "-content")) {
244                         if (args[1]) {
245                                 args++;
246                                 contfile = *args;
247                         } else badarg = 1;
248                 } else badarg = 1;
249                 args++;
250         }
251
252         if(operation == SMIME_SIGN) {
253                 if(!signerfile) {
254                         BIO_printf(bio_err, "No signer certificate specified\n");
255                         badarg = 1;
256                 }
257                 need_rand = 1;
258         } else if(operation == SMIME_DECRYPT) {
259                 if(!recipfile) {
260                         BIO_printf(bio_err, "No recipient certificate and key specified\n");
261                         badarg = 1;
262                 }
263         } else if(operation == SMIME_ENCRYPT) {
264                 if(!*args) {
265                         BIO_printf(bio_err, "No recipient(s) certificate(s) specified\n");
266                         badarg = 1;
267                 }
268                 need_rand = 1;
269         } else if(!operation) badarg = 1;
270
271         if (badarg) {
272                 BIO_printf (bio_err, "Usage smime [options] cert.pem ...\n");
273                 BIO_printf (bio_err, "where options are\n");
274                 BIO_printf (bio_err, "-encrypt       encrypt message\n");
275                 BIO_printf (bio_err, "-decrypt       decrypt encrypted message\n");
276                 BIO_printf (bio_err, "-sign          sign message\n");
277                 BIO_printf (bio_err, "-verify        verify signed message\n");
278                 BIO_printf (bio_err, "-pk7out        output PKCS#7 structure\n");
279 #ifndef OPENSSL_NO_DES
280                 BIO_printf (bio_err, "-des3          encrypt with triple DES\n");
281                 BIO_printf (bio_err, "-des           encrypt with DES\n");
282 #endif
283 #ifndef OPENSSL_NO_RC2
284                 BIO_printf (bio_err, "-rc2-40        encrypt with RC2-40 (default)\n");
285                 BIO_printf (bio_err, "-rc2-64        encrypt with RC2-64\n");
286                 BIO_printf (bio_err, "-rc2-128       encrypt with RC2-128\n");
287 #endif
288                 BIO_printf (bio_err, "-nointern      don't search certificates in message for signer\n");
289                 BIO_printf (bio_err, "-nosigs        don't verify message signature\n");
290                 BIO_printf (bio_err, "-noverify      don't verify signers certificate\n");
291                 BIO_printf (bio_err, "-nocerts       don't include signers certificate when signing\n");
292                 BIO_printf (bio_err, "-nodetach      use opaque signing\n");
293                 BIO_printf (bio_err, "-noattr        don't include any signed attributes\n");
294                 BIO_printf (bio_err, "-binary        don't translate message to text\n");
295                 BIO_printf (bio_err, "-certfile file other certificates file\n");
296                 BIO_printf (bio_err, "-signer file   signer certificate file\n");
297                 BIO_printf (bio_err, "-recip  file   recipient certificate file for decryption\n");
298                 BIO_printf (bio_err, "-in file       input file\n");
299                 BIO_printf (bio_err, "-inform arg    input format SMIME (default), PEM or DER\n");
300                 BIO_printf (bio_err, "-inkey file    input private key (if not signer or recipient)\n");
301                 BIO_printf (bio_err, "-keyform arg   input private key format (PEM or ENGINE)\n");
302                 BIO_printf (bio_err, "-out file      output file\n");
303                 BIO_printf (bio_err, "-outform arg   output format SMIME (default), PEM or DER\n");
304                 BIO_printf (bio_err, "-content file  supply or override content for detached signature\n");
305                 BIO_printf (bio_err, "-to addr       to address\n");
306                 BIO_printf (bio_err, "-from ad       from address\n");
307                 BIO_printf (bio_err, "-subject s     subject\n");
308                 BIO_printf (bio_err, "-text          include or delete text MIME headers\n");
309                 BIO_printf (bio_err, "-CApath dir    trusted certificates directory\n");
310                 BIO_printf (bio_err, "-CAfile file   trusted certificates file\n");
311                 BIO_printf (bio_err, "-crl_check     check revocation status of signer's certificate using CRLs\n");
312                 BIO_printf (bio_err, "-crl_check_all check revocation status of signer's certificate chain using CRLs\n");
313                 BIO_printf (bio_err, "-engine e      use engine e, possibly a hardware device.\n");
314                 BIO_printf (bio_err, "-passin arg    input file pass phrase source\n");
315                 BIO_printf(bio_err,  "-rand file%cfile%c...\n", LIST_SEPARATOR_CHAR, LIST_SEPARATOR_CHAR);
316                 BIO_printf(bio_err,  "               load the file (or the files in the directory) into\n");
317                 BIO_printf(bio_err,  "               the random number generator\n");
318                 BIO_printf (bio_err, "cert.pem       recipient certificate(s) for encryption\n");
319                 goto end;
320         }
321
322         e = setup_engine(bio_err, engine, 0);
323
324         if(!app_passwd(bio_err, passargin, NULL, &passin, NULL)) {
325                 BIO_printf(bio_err, "Error getting password\n");
326                 goto end;
327         }
328
329         if (need_rand) {
330                 app_RAND_load_file(NULL, bio_err, (inrand != NULL));
331                 if (inrand != NULL)
332                         BIO_printf(bio_err,"%ld semi-random bytes loaded\n",
333                                 app_RAND_load_files(inrand));
334         }
335
336         ret = 2;
337
338         if(operation != SMIME_SIGN) flags &= ~PKCS7_DETACHED;
339
340         if(operation & SMIME_OP) {
341                 if(flags & PKCS7_BINARY) inmode = "rb";
342                 if(outformat == FORMAT_ASN1) outmode = "wb";
343         } else {
344                 if(flags & PKCS7_BINARY) outmode = "wb";
345                 if(informat == FORMAT_ASN1) inmode = "rb";
346         }
347
348         if(operation == SMIME_ENCRYPT) {
349                 if (!cipher) {
350 #ifndef OPENSSL_NO_RC2                  
351                         cipher = EVP_rc2_40_cbc();
352 #else
353                         BIO_printf(bio_err, "No cipher selected\n");
354                         goto end;
355 #endif
356                 }
357                 encerts = sk_X509_new_null();
358                 while (*args) {
359                         if(!(cert = load_cert(bio_err,*args,FORMAT_PEM,
360                                 NULL, e, "recipient certificate file"))) {
361 #if 0                           /* An appropriate message is already printed */
362                                 BIO_printf(bio_err, "Can't read recipient certificate file %s\n", *args);
363 #endif
364                                 goto end;
365                         }
366                         sk_X509_push(encerts, cert);
367                         cert = NULL;
368                         args++;
369                 }
370         }
371
372         if(signerfile && (operation == SMIME_SIGN)) {
373                 if(!(signer = load_cert(bio_err,signerfile,FORMAT_PEM, NULL,
374                         e, "signer certificate"))) {
375 #if 0                   /* An appropri message has already been printed */
376                         BIO_printf(bio_err, "Can't read signer certificate file %s\n", signerfile);
377 #endif
378                         goto end;
379                 }
380         }
381
382         if(certfile) {
383                 if(!(other = load_certs(bio_err,certfile,FORMAT_PEM, NULL,
384                         e, "certificate file"))) {
385 #if 0                   /* An appropriate message has already been printed */
386                         BIO_printf(bio_err, "Can't read certificate file %s\n", certfile);
387 #endif
388                         ERR_print_errors(bio_err);
389                         goto end;
390                 }
391         }
392
393         if(recipfile && (operation == SMIME_DECRYPT)) {
394                 if(!(recip = load_cert(bio_err,recipfile,FORMAT_PEM,NULL,
395                         e, "recipient certificate file"))) {
396 #if 0                   /* An appropriate message has alrady been printed */
397                         BIO_printf(bio_err, "Can't read recipient certificate file %s\n", recipfile);
398 #endif
399                         ERR_print_errors(bio_err);
400                         goto end;
401                 }
402         }
403
404         if(operation == SMIME_DECRYPT) {
405                 if(!keyfile) keyfile = recipfile;
406         } else if(operation == SMIME_SIGN) {
407                 if(!keyfile) keyfile = signerfile;
408         } else keyfile = NULL;
409
410         if(keyfile) {
411                 key = load_key(bio_err, keyfile, keyform, passin, e,
412                                "signing key file");
413                 if (!key) {
414                         goto end;
415                 }
416         }
417
418         if (infile) {
419                 if (!(in = BIO_new_file(infile, inmode))) {
420                         BIO_printf (bio_err,
421                                  "Can't open input file %s\n", infile);
422                         goto end;
423                 }
424         } else in = BIO_new_fp(stdin, BIO_NOCLOSE);
425
426         if (outfile) {
427                 if (!(out = BIO_new_file(outfile, outmode))) {
428                         BIO_printf (bio_err,
429                                  "Can't open output file %s\n", outfile);
430                         goto end;
431                 }
432         } else {
433                 out = BIO_new_fp(stdout, BIO_NOCLOSE);
434 #ifdef OPENSSL_SYS_VMS
435                 {
436                     BIO *tmpbio = BIO_new(BIO_f_linebuffer());
437                     out = BIO_push(tmpbio, out);
438                 }
439 #endif
440         }
441
442         if(operation == SMIME_VERIFY) {
443                 if(!(store = setup_verify(bio_err, CAfile, CApath))) goto end;
444                 X509_STORE_set_flags(store, store_flags);
445         }
446
447
448         ret = 3;
449
450         if(operation == SMIME_ENCRYPT) {
451                 p7 = PKCS7_encrypt(encerts, in, cipher, flags);
452         } else if(operation == SMIME_SIGN) {
453                 p7 = PKCS7_sign(signer, key, other, in, flags);
454                 BIO_reset(in);
455         } else {
456                 if(informat == FORMAT_SMIME) 
457                         p7 = SMIME_read_PKCS7(in, &indata);
458                 else if(informat == FORMAT_PEM) 
459                         p7 = PEM_read_bio_PKCS7(in, NULL, NULL, NULL);
460                 else if(informat == FORMAT_ASN1) 
461                         p7 = d2i_PKCS7_bio(in, NULL);
462                 else {
463                         BIO_printf(bio_err, "Bad input format for PKCS#7 file\n");
464                         goto end;
465                 }
466
467                 if(!p7) {
468                         BIO_printf(bio_err, "Error reading S/MIME message\n");
469                         goto end;
470                 }
471                 if(contfile) {
472                         BIO_free(indata);
473                         if(!(indata = BIO_new_file(contfile, "rb"))) {
474                                 BIO_printf(bio_err, "Can't read content file %s\n", contfile);
475                                 goto end;
476                         }
477                 }
478         }
479
480         if(!p7) {
481                 BIO_printf(bio_err, "Error creating PKCS#7 structure\n");
482                 goto end;
483         }
484
485         ret = 4;
486         if(operation == SMIME_DECRYPT) {
487                 if(!PKCS7_decrypt(p7, key, recip, out, flags)) {
488                         BIO_printf(bio_err, "Error decrypting PKCS#7 structure\n");
489                         goto end;
490                 }
491         } else if(operation == SMIME_VERIFY) {
492                 STACK_OF(X509) *signers;
493                 if(PKCS7_verify(p7, other, store, indata, out, flags)) {
494                         BIO_printf(bio_err, "Verification Successful\n");
495                 } else {
496                         BIO_printf(bio_err, "Verification Failure\n");
497                         goto end;
498                 }
499                 signers = PKCS7_get0_signers(p7, other, flags);
500                 if(!save_certs(signerfile, signers)) {
501                         BIO_printf(bio_err, "Error writing signers to %s\n",
502                                                                 signerfile);
503                         ret = 5;
504                         goto end;
505                 }
506                 sk_X509_free(signers);
507         } else if(operation == SMIME_PK7OUT) {
508                 PEM_write_bio_PKCS7(out, p7);
509         } else {
510                 if(to) BIO_printf(out, "To: %s\n", to);
511                 if(from) BIO_printf(out, "From: %s\n", from);
512                 if(subject) BIO_printf(out, "Subject: %s\n", subject);
513                 if(outformat == FORMAT_SMIME) 
514                         SMIME_write_PKCS7(out, p7, in, flags);
515                 else if(outformat == FORMAT_PEM) 
516                         PEM_write_bio_PKCS7(out,p7);
517                 else if(outformat == FORMAT_ASN1) 
518                         i2d_PKCS7_bio(out,p7);
519                 else {
520                         BIO_printf(bio_err, "Bad output format for PKCS#7 file\n");
521                         goto end;
522                 }
523         }
524         ret = 0;
525 end:
526         if (need_rand)
527                 app_RAND_write_file(NULL, bio_err);
528         if(ret) ERR_print_errors(bio_err);
529         sk_X509_pop_free(encerts, X509_free);
530         sk_X509_pop_free(other, X509_free);
531         X509_STORE_free(store);
532         X509_free(cert);
533         X509_free(recip);
534         X509_free(signer);
535         EVP_PKEY_free(key);
536         PKCS7_free(p7);
537         BIO_free(in);
538         BIO_free(indata);
539         BIO_free_all(out);
540         if(passin) OPENSSL_free(passin);
541         return (ret);
542 }
543
544 static int save_certs(char *signerfile, STACK_OF(X509) *signers)
545 {
546         int i;
547         BIO *tmp;
548         if(!signerfile) return 1;
549         tmp = BIO_new_file(signerfile, "w");
550         if(!tmp) return 0;
551         for(i = 0; i < sk_X509_num(signers); i++)
552                 PEM_write_bio_X509(tmp, sk_X509_value(signers, i));
553         BIO_free(tmp);
554         return 1;
555 }
556