Add support for some broken PKCS#8 formats.
[openssl.git] / apps / smime.c
index 882838c66fa3750a90b6ee19b1f23fea15ec98bf..95bda8388f562487f68806e32a29e577ed6a10dc 100644 (file)
 
 #include <stdio.h>
 #include <string.h>
+#include "apps.h"
+#include <openssl/crypto.h>
 #include <openssl/pem.h>
 #include <openssl/err.h>
-#include "apps.h"
 
 #undef PROG
 #define PROG smime_main
 static X509 *load_cert(char *file);
-static EVP_PKEY *load_key(char *file);
+static EVP_PKEY *load_key(char *file, char *pass);
 static STACK_OF(X509) *load_certs(char *file);
 static X509_STORE *setup_verify(char *CAfile, char *CApath);
 static int save_certs(char *signerfile, STACK_OF(X509) *signers);
@@ -98,7 +99,7 @@ int MAIN(int argc, char **argv)
        int badarg = 0;
        int flags = PKCS7_DETACHED;
        char *to = NULL, *from = NULL, *subject = NULL;
-       char *CAfile = NULL, *CApath = NULL;
+       char *CAfile = NULL, *CApath = NULL, *passin = NULL;
 
        args = argv + 1;
 
@@ -110,16 +111,20 @@ int MAIN(int argc, char **argv)
                else if (!strcmp (*args, "-sign")) operation = SMIME_SIGN;
                else if (!strcmp (*args, "-verify")) operation = SMIME_VERIFY;
                else if (!strcmp (*args, "-pk7out")) operation = SMIME_PK7OUT;
+#ifndef NO_DES
                else if (!strcmp (*args, "-des3")) 
                                cipher = EVP_des_ede3_cbc();
                else if (!strcmp (*args, "-des")) 
                                cipher = EVP_des_cbc();
+#endif
+#ifndef NO_RC2
                else if (!strcmp (*args, "-rc2-40")) 
                                cipher = EVP_rc2_40_cbc();
                else if (!strcmp (*args, "-rc2-128")) 
                                cipher = EVP_rc2_cbc();
                else if (!strcmp (*args, "-rc2-64")) 
                                cipher = EVP_rc2_64_cbc();
+#endif
                else if (!strcmp (*args, "-text")) 
                                flags |= PKCS7_TEXT;
                else if (!strcmp (*args, "-nointern")) 
@@ -138,7 +143,18 @@ int MAIN(int argc, char **argv)
                                flags |= PKCS7_BINARY;
                else if (!strcmp (*args, "-nosigs"))
                                flags |= PKCS7_NOSIGS;
-               else if (!strcmp (*args, "-to")) {
+               else if (!strcmp(*argv,"-passin")) {
+                       if (--argc < 1) badarg = 1;
+                       else passin= *(++argv);
+               } else if (!strcmp(*argv,"-envpassin")) {
+                       if (--argc < 1) badarg = 1;
+                       else if(!(passin= getenv(*(++argv)))) {
+                               BIO_printf(bio_err,
+                                "Can't read environment variable %s\n",
+                                                               *argv);
+                               badarg = 1;
+                       }
+               } else if (!strcmp (*args, "-to")) {
                        if (args[1]) {
                                args++;
                                to = *args;
@@ -222,10 +238,15 @@ int MAIN(int argc, char **argv)
                BIO_printf (bio_err, "-sign          sign message\n");
                BIO_printf (bio_err, "-verify        verify signed message\n");
                BIO_printf (bio_err, "-pk7out        output PKCS#7 structure\n");
+#ifndef NO_DES
                BIO_printf (bio_err, "-des3          encrypt with triple DES\n");
-               BIO_printf (bio_err, "-rc2-40        encrypt with RC2-40\n");
+               BIO_printf (bio_err, "-des           encrypt with DES\n");
+#endif
+#ifndef NO_RC2
+               BIO_printf (bio_err, "-rc2-40        encrypt with RC2-40 (default)\n");
                BIO_printf (bio_err, "-rc2-64        encrypt with RC2-64\n");
                BIO_printf (bio_err, "-rc2-128       encrypt with RC2-128\n");
+#endif
                BIO_printf (bio_err, "-nointern      don't search certificates in message for signer\n");
                BIO_printf (bio_err, "-nosigs        don't verify message signature\n");
                BIO_printf (bio_err, "-noverify      don't verify signers certificate\n");
@@ -233,10 +254,9 @@ int MAIN(int argc, char **argv)
                BIO_printf (bio_err, "-nodetach      use opaque signing\n");
                BIO_printf (bio_err, "-noattr        don't include any signed attributes\n");
                BIO_printf (bio_err, "-binary        don't translate message to text\n");
-               BIO_printf (bio_err, "-in file       input file\n");
                BIO_printf (bio_err, "-certfile file other certificates file\n");
                BIO_printf (bio_err, "-signer file   signer certificate file\n");
-               BIO_printf (bio_err, "-recip  file   recipient certificate file\n");
+               BIO_printf (bio_err, "-recip  file   recipient certificate file for decryption\n");
                BIO_printf (bio_err, "-in file       input file\n");
                BIO_printf (bio_err, "-inkey file    input private key (if not signer or recipient)\n");
                BIO_printf (bio_err, "-out file      output file\n");
@@ -246,7 +266,7 @@ int MAIN(int argc, char **argv)
                BIO_printf (bio_err, "-text          include or delete text MIME headers\n");
                BIO_printf (bio_err, "-CApath dir    trusted certificates directory\n");
                BIO_printf (bio_err, "-CAfile file   trusted certificates file\n");
-               BIO_printf (bio_err, "cert.pem       recipient certificate(s)\n");
+               BIO_printf (bio_err, "cert.pem       recipient certificate(s) for encryption\n");
                goto end;
        }
 
@@ -260,40 +280,71 @@ int MAIN(int argc, char **argv)
        }
 
        if(operation == SMIME_ENCRYPT) {
-               if (!cipher) cipher = EVP_rc2_40_cbc();
+               if (!cipher) {
+#ifndef NO_RC2                 
+                       cipher = EVP_rc2_40_cbc();
+#else
+                       BIO_printf(bio_err, "No cipher selected\n");
+                       goto end;
+#endif
+               }
+#ifdef CRYPTO_MDEBUG
+               CRYPTO_push_info("load encryption certificates");
+#endif         
                encerts = sk_X509_new_null();
                while (*args) {
                        if(!(cert = load_cert(*args))) {
-                               BIO_printf(bio_err, "Can't read recipent certificate file %s\n", *args);
+                               BIO_printf(bio_err, "Can't read recipient certificate file %s\n", *args);
                                goto end;
                        }
                        sk_X509_push(encerts, cert);
                        cert = NULL;
                        args++;
                }
+#ifdef CRYPTO_MDEBUG
+               CRYPTO_pop_info();
+#endif         
        }
 
        if(signerfile && (operation == SMIME_SIGN)) {
+#ifdef CRYPTO_MDEBUG
+               CRYPTO_push_info("load signer certificate");
+#endif         
                if(!(signer = load_cert(signerfile))) {
                        BIO_printf(bio_err, "Can't read signer certificate file %s\n", signerfile);
                        goto end;
                }
+#ifdef CRYPTO_MDEBUG
+               CRYPTO_pop_info();
+#endif         
        }
 
        if(certfile) {
+#ifdef CRYPTO_MDEBUG
+               CRYPTO_push_info("load other certfiles");
+#endif         
                if(!(other = load_certs(certfile))) {
                        BIO_printf(bio_err, "Can't read certificate file %s\n", certfile);
                        ERR_print_errors(bio_err);
                        goto end;
                }
+#ifdef CRYPTO_MDEBUG
+               CRYPTO_pop_info();
+#endif         
        }
 
        if(recipfile && (operation == SMIME_DECRYPT)) {
+#ifdef CRYPTO_MDEBUG
+               CRYPTO_push_info("load recipient certificate");
+#endif         
                if(!(recip = load_cert(recipfile))) {
                        BIO_printf(bio_err, "Can't read recipient certificate file %s\n", recipfile);
                        ERR_print_errors(bio_err);
                        goto end;
                }
+#ifdef CRYPTO_MDEBUG
+               CRYPTO_pop_info();
+#endif         
        }
 
        if(operation == SMIME_DECRYPT) {
@@ -303,13 +354,22 @@ int MAIN(int argc, char **argv)
        } else keyfile = NULL;
 
        if(keyfile) {
-               if(!(key = load_key(keyfile))) {
+#ifdef CRYPTO_MDEBUG
+               CRYPTO_push_info("load keyfile");
+#endif         
+               if(!(key = load_key(keyfile, passin))) {
                        BIO_printf(bio_err, "Can't read recipient certificate file %s\n", keyfile);
                        ERR_print_errors(bio_err);
                        goto end;
                }
+#ifdef CRYPTO_MDEBUG
+               CRYPTO_pop_info();
+#endif         
        }
 
+#ifdef CRYPTO_MDEBUG
+       CRYPTO_push_info("open input files");
+#endif         
        if (infile) {
                if (!(in = BIO_new_file(infile, inmode))) {
                        BIO_printf (bio_err,
@@ -317,7 +377,13 @@ int MAIN(int argc, char **argv)
                        goto end;
                }
        } else in = BIO_new_fp(stdin, BIO_NOCLOSE);
+#ifdef CRYPTO_MDEBUG
+       CRYPTO_pop_info();
+#endif         
 
+#ifdef CRYPTO_MDEBUG
+       CRYPTO_push_info("open output files");
+#endif         
        if (outfile) {
                if (!(out = BIO_new_file(outfile, outmode))) {
                        BIO_printf (bio_err,
@@ -325,22 +391,50 @@ int MAIN(int argc, char **argv)
                        goto end;
                }
        } else out = BIO_new_fp(stdout, BIO_NOCLOSE);
-
-       if(operation == SMIME_VERIFY)
+#ifdef CRYPTO_MDEBUG
+       CRYPTO_pop_info();
+#endif         
+
+       if(operation == SMIME_VERIFY) {
+#ifdef CRYPTO_MDEBUG
+               CRYPTO_push_info("setup_verify");
+#endif         
                if(!(store = setup_verify(CAfile, CApath))) goto end;
+#ifdef CRYPTO_MDEBUG
+               CRYPTO_pop_info();
+#endif         
+       }
 
        ret = 3;
 
        if(operation == SMIME_ENCRYPT) {
+#ifdef CRYPTO_MDEBUG
+               CRYPTO_push_info("PKCS7_encrypt");
+#endif         
                p7 = PKCS7_encrypt(encerts, in, cipher, flags);
+#ifdef CRYPTO_MDEBUG
+               CRYPTO_pop_info();
+#endif         
        } else if(operation == SMIME_SIGN) {
+#ifdef CRYPTO_MDEBUG
+               CRYPTO_push_info("PKCS7_sign");
+#endif         
                p7 = PKCS7_sign(signer, key, other, in, flags);
                BIO_reset(in);
+#ifdef CRYPTO_MDEBUG
+               CRYPTO_pop_info();
+#endif         
        } else {
+#ifdef CRYPTO_MDEBUG
+               CRYPTO_push_info("SMIME_read_PKCS7");
+#endif         
                if(!(p7 = SMIME_read_PKCS7(in, &indata))) {
                        BIO_printf(bio_err, "Error reading S/MIME message\n");
                        goto end;
                }
+#ifdef CRYPTO_MDEBUG
+               CRYPTO_pop_info();
+#endif         
        }
 
        if(!p7) {
@@ -350,25 +444,45 @@ int MAIN(int argc, char **argv)
 
        ret = 4;
        if(operation == SMIME_DECRYPT) {
+#ifdef CRYPTO_MDEBUG
+               CRYPTO_push_info("PKCS7_decrypt");
+#endif         
                if(!PKCS7_decrypt(p7, key, recip, out, flags)) {
                        BIO_printf(bio_err, "Error decrypting PKCS#7 structure\n");
                        goto end;
                }
+#ifdef CRYPTO_MDEBUG
+               CRYPTO_pop_info();
+#endif         
        } else if(operation == SMIME_VERIFY) {
                STACK_OF(X509) *signers;
+#ifdef CRYPTO_MDEBUG
+               CRYPTO_push_info("PKCS7_verify");
+#endif         
                if(PKCS7_verify(p7, other, store, indata, out, flags)) {
                        BIO_printf(bio_err, "Verification Successful\n");
                } else {
                        BIO_printf(bio_err, "Verification Failure\n");
                        goto end;
                }
+#ifdef CRYPTO_MDEBUG
+               CRYPTO_pop_info();
+               CRYPTO_push_info("PKCS7_iget_signers");
+#endif         
                signers = PKCS7_iget_signers(p7, other, flags);
+#ifdef CRYPTO_MDEBUG
+               CRYPTO_pop_info();
+               CRYPTO_push_info("save_certs");
+#endif         
                if(!save_certs(signerfile, signers)) {
                        BIO_printf(bio_err, "Error writing signers to %s\n",
                                                                signerfile);
                        ret = 5;
                        goto end;
                }
+#ifdef CRYPTO_MDEBUG
+               CRYPTO_pop_info();
+#endif         
                sk_X509_free(signers);
        } else if(operation == SMIME_PK7OUT) {
                PEM_write_bio_PKCS7(out, p7);
@@ -380,6 +494,9 @@ int MAIN(int argc, char **argv)
        }
        ret = 0;
 end:
+#ifdef CRYPTO_MDEBUG
+       CRYPTO_remove_all_info();
+#endif
        if(ret) ERR_print_errors(bio_err);
        sk_X509_pop_free(encerts, X509_free);
        sk_X509_pop_free(other, X509_free);
@@ -405,12 +522,12 @@ static X509 *load_cert(char *file)
        return cert;
 }
 
-static EVP_PKEY *load_key(char *file)
+static EVP_PKEY *load_key(char *file, char *pass)
 {
        BIO *in;
        EVP_PKEY *key;
        if(!(in = BIO_new_file(file, "r"))) return NULL;
-       key = PEM_read_bio_PrivateKey(in, NULL, NULL,NULL);
+       key = PEM_read_bio_PrivateKey(in, NULL,PEM_cb,pass);
        BIO_free(in);
        return key;
 }
@@ -442,9 +559,20 @@ static X509_STORE *setup_verify(char *CAfile, char *CApath)
 {
        X509_STORE *store;
        X509_LOOKUP *lookup;
+#ifdef CRYPTO_MDEBUG
+       CRYPTO_push_info("X509_STORE_new");
+#endif 
        if(!(store = X509_STORE_new())) goto end;
+#ifdef CRYPTO_MDEBUG
+       CRYPTO_pop_info();
+       CRYPTO_push_info("X509_STORE_add_lookup(...file)");
+#endif 
        lookup=X509_STORE_add_lookup(store,X509_LOOKUP_file());
        if (lookup == NULL) goto end;
+#ifdef CRYPTO_MDEBUG
+       CRYPTO_pop_info();
+       CRYPTO_push_info("X509_LOOKUP_load_file");
+#endif 
        if (CAfile) {
                if(!X509_LOOKUP_load_file(lookup,CAfile,X509_FILETYPE_PEM)) {
                        BIO_printf(bio_err, "Error loading file %s\n", CAfile);
@@ -452,14 +580,25 @@ static X509_STORE *setup_verify(char *CAfile, char *CApath)
                }
        } else X509_LOOKUP_load_file(lookup,NULL,X509_FILETYPE_DEFAULT);
                
+#ifdef CRYPTO_MDEBUG
+       CRYPTO_pop_info();
+       CRYPTO_push_info("X509_STORE_add_lookup(...hash_dir)");
+#endif 
        lookup=X509_STORE_add_lookup(store,X509_LOOKUP_hash_dir());
        if (lookup == NULL) goto end;
+#ifdef CRYPTO_MDEBUG
+       CRYPTO_pop_info();
+       CRYPTO_push_info("X509_LOOKUP_add_dir");
+#endif 
        if (CApath) {
                if(!X509_LOOKUP_add_dir(lookup,CApath,X509_FILETYPE_PEM)) {
                        BIO_printf(bio_err, "Error loading directory %s\n", CApath);
                        goto end;
                }
        } else X509_LOOKUP_add_dir(lookup,NULL,X509_FILETYPE_DEFAULT);
+#ifdef CRYPTO_MDEBUG
+       CRYPTO_pop_info();
+#endif 
 
        ERR_clear_error();
        return store;