Add brotli compression support (RFC7924)
[openssl.git] / apps / enc.c
1 /*
2  * Copyright 1995-2022 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the Apache License 2.0 (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #include <stdio.h>
11 #include <stdlib.h>
12 #include <string.h>
13 #include <limits.h>
14 #include "apps.h"
15 #include "progs.h"
16 #include <openssl/bio.h>
17 #include <openssl/err.h>
18 #include <openssl/evp.h>
19 #include <openssl/objects.h>
20 #include <openssl/x509.h>
21 #include <openssl/rand.h>
22 #include <openssl/pem.h>
23 #ifndef OPENSSL_NO_COMP
24 # include <openssl/comp.h>
25 #endif
26 #include <ctype.h>
27
28 #undef SIZE
29 #undef BSIZE
30 #define SIZE    (512)
31 #define BSIZE   (8*1024)
32
33 static int set_hex(const char *in, unsigned char *out, int size);
34 static void show_ciphers(const OBJ_NAME *name, void *bio_);
35
36 struct doall_enc_ciphers {
37     BIO *bio;
38     int n;
39 };
40
41 typedef enum OPTION_choice {
42     OPT_COMMON,
43     OPT_LIST,
44     OPT_E, OPT_IN, OPT_OUT, OPT_PASS, OPT_ENGINE, OPT_D, OPT_P, OPT_V,
45     OPT_NOPAD, OPT_SALT, OPT_NOSALT, OPT_DEBUG, OPT_UPPER_P, OPT_UPPER_A,
46     OPT_A, OPT_Z, OPT_BUFSIZE, OPT_K, OPT_KFILE, OPT_UPPER_K, OPT_NONE,
47     OPT_UPPER_S, OPT_IV, OPT_MD, OPT_ITER, OPT_PBKDF2, OPT_CIPHER,
48     OPT_R_ENUM, OPT_PROV_ENUM
49 } OPTION_CHOICE;
50
51 const OPTIONS enc_options[] = {
52     OPT_SECTION("General"),
53     {"help", OPT_HELP, '-', "Display this summary"},
54     {"list", OPT_LIST, '-', "List ciphers"},
55 #ifndef OPENSSL_NO_DEPRECATED_3_0
56     {"ciphers", OPT_LIST, '-', "Alias for -list"},
57 #endif
58     {"e", OPT_E, '-', "Encrypt"},
59     {"d", OPT_D, '-', "Decrypt"},
60     {"p", OPT_P, '-', "Print the iv/key"},
61     {"P", OPT_UPPER_P, '-', "Print the iv/key and exit"},
62 #ifndef OPENSSL_NO_ENGINE
63     {"engine", OPT_ENGINE, 's', "Use engine, possibly a hardware device"},
64 #endif
65
66     OPT_SECTION("Input"),
67     {"in", OPT_IN, '<', "Input file"},
68     {"k", OPT_K, 's', "Passphrase"},
69     {"kfile", OPT_KFILE, '<', "Read passphrase from file"},
70
71     OPT_SECTION("Output"),
72     {"out", OPT_OUT, '>', "Output file"},
73     {"pass", OPT_PASS, 's', "Passphrase source"},
74     {"v", OPT_V, '-', "Verbose output"},
75     {"a", OPT_A, '-', "Base64 encode/decode, depending on encryption flag"},
76     {"base64", OPT_A, '-', "Same as option -a"},
77     {"A", OPT_UPPER_A, '-',
78      "Used with -[base64|a] to specify base64 buffer as a single line"},
79
80     OPT_SECTION("Encryption"),
81     {"nopad", OPT_NOPAD, '-', "Disable standard block padding"},
82     {"salt", OPT_SALT, '-', "Use salt in the KDF (default)"},
83     {"nosalt", OPT_NOSALT, '-', "Do not use salt in the KDF"},
84     {"debug", OPT_DEBUG, '-', "Print debug info"},
85
86     {"bufsize", OPT_BUFSIZE, 's', "Buffer size"},
87     {"K", OPT_UPPER_K, 's', "Raw key, in hex"},
88     {"S", OPT_UPPER_S, 's', "Salt, in hex"},
89     {"iv", OPT_IV, 's', "IV in hex"},
90     {"md", OPT_MD, 's', "Use specified digest to create a key from the passphrase"},
91     {"iter", OPT_ITER, 'p', "Specify the iteration count and force use of PBKDF2"},
92     {"pbkdf2", OPT_PBKDF2, '-', "Use password-based key derivation function 2"},
93     {"none", OPT_NONE, '-', "Don't encrypt"},
94 #ifdef ZLIB
95     {"z", OPT_Z, '-', "Compress or decompress encrypted data using zlib"},
96 #endif
97     {"", OPT_CIPHER, '-', "Any supported cipher"},
98
99     OPT_R_OPTIONS,
100     OPT_PROV_OPTIONS,
101     {NULL}
102 };
103
104 int enc_main(int argc, char **argv)
105 {
106     static char buf[128];
107     static const char magic[] = "Salted__";
108     ENGINE *e = NULL;
109     BIO *in = NULL, *out = NULL, *b64 = NULL, *benc = NULL, *rbio =
110         NULL, *wbio = NULL;
111     EVP_CIPHER_CTX *ctx = NULL;
112     EVP_CIPHER *cipher = NULL;
113     EVP_MD *dgst = NULL;
114     const char *digestname = NULL;
115     char *hkey = NULL, *hiv = NULL, *hsalt = NULL, *p;
116     char *infile = NULL, *outfile = NULL, *prog;
117     char *str = NULL, *passarg = NULL, *pass = NULL, *strbuf = NULL;
118     const char *ciphername = NULL;
119     char mbuf[sizeof(magic) - 1];
120     OPTION_CHOICE o;
121     int bsize = BSIZE, verbose = 0, debug = 0, olb64 = 0, nosalt = 0;
122     int enc = 1, printkey = 0, i, k;
123     int base64 = 0, informat = FORMAT_BINARY, outformat = FORMAT_BINARY;
124     int ret = 1, inl, nopad = 0;
125     unsigned char key[EVP_MAX_KEY_LENGTH], iv[EVP_MAX_IV_LENGTH];
126     unsigned char *buff = NULL, salt[PKCS5_SALT_LEN];
127     int pbkdf2 = 0;
128     int iter = 0;
129     long n;
130     int streamable = 1;
131     int wrap = 0;
132     struct doall_enc_ciphers dec;
133 #ifdef ZLIB
134     int do_zlib = 0;
135     BIO *bzl = NULL;
136 #endif
137     int do_brotli = 0;
138     BIO *bbrot = NULL;
139
140     /* first check the command name */
141     if (strcmp(argv[0], "base64") == 0)
142         base64 = 1;
143 #ifdef ZLIB
144     else if (strcmp(argv[0], "zlib") == 0)
145         do_zlib = 1;
146 #endif
147 #ifndef OPENSSL_NO_BROTLI
148     else if (strcmp(argv[0], "brotli") == 0)
149         do_brotli = 1;
150 #endif
151     else if (strcmp(argv[0], "enc") != 0)
152         ciphername = argv[0];
153
154     opt_set_unknown_name("cipher");
155     prog = opt_init(argc, argv, enc_options);
156     while ((o = opt_next()) != OPT_EOF) {
157         switch (o) {
158         case OPT_EOF:
159         case OPT_ERR:
160  opthelp:
161             BIO_printf(bio_err, "%s: Use -help for summary.\n", prog);
162             goto end;
163         case OPT_HELP:
164             opt_help(enc_options);
165             ret = 0;
166             goto end;
167         case OPT_LIST:
168             BIO_printf(bio_out, "Supported ciphers:\n");
169             dec.bio = bio_out;
170             dec.n = 0;
171             OBJ_NAME_do_all_sorted(OBJ_NAME_TYPE_CIPHER_METH,
172                                    show_ciphers, &dec);
173             BIO_printf(bio_out, "\n");
174             ret = 0;
175             goto end;
176         case OPT_E:
177             enc = 1;
178             break;
179         case OPT_IN:
180             infile = opt_arg();
181             break;
182         case OPT_OUT:
183             outfile = opt_arg();
184             break;
185         case OPT_PASS:
186             passarg = opt_arg();
187             break;
188         case OPT_ENGINE:
189             e = setup_engine(opt_arg(), 0);
190             break;
191         case OPT_D:
192             enc = 0;
193             break;
194         case OPT_P:
195             printkey = 1;
196             break;
197         case OPT_V:
198             verbose = 1;
199             break;
200         case OPT_NOPAD:
201             nopad = 1;
202             break;
203         case OPT_SALT:
204             nosalt = 0;
205             break;
206         case OPT_NOSALT:
207             nosalt = 1;
208             break;
209         case OPT_DEBUG:
210             debug = 1;
211             break;
212         case OPT_UPPER_P:
213             printkey = 2;
214             break;
215         case OPT_UPPER_A:
216             olb64 = 1;
217             break;
218         case OPT_A:
219             base64 = 1;
220             break;
221         case OPT_Z:
222 #ifdef ZLIB
223             do_zlib = 1;
224 #endif
225             break;
226         case OPT_BUFSIZE:
227             p = opt_arg();
228             i = (int)strlen(p) - 1;
229             k = i >= 1 && p[i] == 'k';
230             if (k)
231                 p[i] = '\0';
232             if (!opt_long(opt_arg(), &n)
233                     || n < 0 || (k && n >= LONG_MAX / 1024))
234                 goto opthelp;
235             if (k)
236                 n *= 1024;
237             bsize = (int)n;
238             break;
239         case OPT_K:
240             str = opt_arg();
241             break;
242         case OPT_KFILE:
243             in = bio_open_default(opt_arg(), 'r', FORMAT_TEXT);
244             if (in == NULL)
245                 goto opthelp;
246             i = BIO_gets(in, buf, sizeof(buf));
247             BIO_free(in);
248             in = NULL;
249             if (i <= 0) {
250                 BIO_printf(bio_err,
251                            "%s Can't read key from %s\n", prog, opt_arg());
252                 goto opthelp;
253             }
254             while (--i > 0 && (buf[i] == '\r' || buf[i] == '\n'))
255                 buf[i] = '\0';
256             if (i <= 0) {
257                 BIO_printf(bio_err, "%s: zero length password\n", prog);
258                 goto opthelp;
259             }
260             str = buf;
261             break;
262         case OPT_UPPER_K:
263             hkey = opt_arg();
264             break;
265         case OPT_UPPER_S:
266             hsalt = opt_arg();
267             break;
268         case OPT_IV:
269             hiv = opt_arg();
270             break;
271         case OPT_MD:
272             digestname = opt_arg();
273             break;
274         case OPT_CIPHER:
275             ciphername = opt_unknown();
276             break;
277         case OPT_ITER:
278             iter = opt_int_arg();
279             pbkdf2 = 1;
280             break;
281         case OPT_PBKDF2:
282             pbkdf2 = 1;
283             if (iter == 0)    /* do not overwrite a chosen value */
284                 iter = 10000;
285             break;
286         case OPT_NONE:
287             cipher = NULL;
288             break;
289         case OPT_R_CASES:
290             if (!opt_rand(o))
291                 goto end;
292             break;
293         case OPT_PROV_CASES:
294             if (!opt_provider(o))
295                 goto end;
296             break;
297         }
298     }
299
300     /* No extra arguments. */
301     if (!opt_check_rest_arg(NULL))
302         goto opthelp;
303     if (!app_RAND_load())
304         goto end;
305
306     /* Get the cipher name, either from progname (if set) or flag. */
307     if (!opt_cipher(ciphername, &cipher))
308         goto opthelp;
309     if (cipher && (EVP_CIPHER_mode(cipher) == EVP_CIPH_WRAP_MODE)) {
310         wrap = 1;
311         streamable = 0;
312     }
313     if (digestname != NULL) {
314         if (!opt_md(digestname, &dgst))
315             goto opthelp;
316     }
317     if (dgst == NULL)
318         dgst = (EVP_MD *)EVP_sha256();
319
320     if (iter == 0)
321         iter = 1;
322
323     /* It must be large enough for a base64 encoded line */
324     if (base64 && bsize < 80)
325         bsize = 80;
326     if (verbose)
327         BIO_printf(bio_err, "bufsize=%d\n", bsize);
328
329 #ifdef ZLIB
330     if (do_zlib)
331         base64 = 0;
332 #endif
333     if (do_brotli)
334         base64 = 0;
335
336     if (base64) {
337         if (enc)
338             outformat = FORMAT_BASE64;
339         else
340             informat = FORMAT_BASE64;
341     }
342
343     strbuf = app_malloc(SIZE, "strbuf");
344     buff = app_malloc(EVP_ENCODE_LENGTH(bsize), "evp buffer");
345
346     if (infile == NULL) {
347         if (!streamable && printkey != 2) {  /* if just print key and exit, it's ok */
348             BIO_printf(bio_err, "Unstreamable cipher mode\n");
349             goto end;
350         }
351         in = dup_bio_in(informat);
352     } else {
353         in = bio_open_default(infile, 'r', informat);
354     }
355     if (in == NULL)
356         goto end;
357
358     if (str == NULL && passarg != NULL) {
359         if (!app_passwd(passarg, NULL, &pass, NULL)) {
360             BIO_printf(bio_err, "Error getting password\n");
361             goto end;
362         }
363         str = pass;
364     }
365
366     if ((str == NULL) && (cipher != NULL) && (hkey == NULL)) {
367         if (1) {
368 #ifndef OPENSSL_NO_UI_CONSOLE
369             for (;;) {
370                 char prompt[200];
371
372                 BIO_snprintf(prompt, sizeof(prompt), "enter %s %s password:",
373                         EVP_CIPHER_get0_name(cipher),
374                         (enc) ? "encryption" : "decryption");
375                 strbuf[0] = '\0';
376                 i = EVP_read_pw_string((char *)strbuf, SIZE, prompt, enc);
377                 if (i == 0) {
378                     if (strbuf[0] == '\0') {
379                         ret = 1;
380                         goto end;
381                     }
382                     str = strbuf;
383                     break;
384                 }
385                 if (i < 0) {
386                     BIO_printf(bio_err, "bad password read\n");
387                     goto end;
388                 }
389             }
390         } else {
391 #endif
392             BIO_printf(bio_err, "password required\n");
393             goto end;
394         }
395     }
396
397     out = bio_open_default(outfile, 'w', outformat);
398     if (out == NULL)
399         goto end;
400
401     if (debug) {
402         BIO_set_callback_ex(in, BIO_debug_callback_ex);
403         BIO_set_callback_ex(out, BIO_debug_callback_ex);
404         BIO_set_callback_arg(in, (char *)bio_err);
405         BIO_set_callback_arg(out, (char *)bio_err);
406     }
407
408     rbio = in;
409     wbio = out;
410
411 #ifndef OPENSSL_NO_COMP
412 # ifdef ZLIB
413     if (do_zlib) {
414         if ((bzl = BIO_new(BIO_f_zlib())) == NULL)
415             goto end;
416         if (debug) {
417             BIO_set_callback_ex(bzl, BIO_debug_callback_ex);
418             BIO_set_callback_arg(bzl, (char *)bio_err);
419         }
420         if (enc)
421             wbio = BIO_push(bzl, wbio);
422         else
423             rbio = BIO_push(bzl, rbio);
424     }
425 # endif
426
427     if (do_brotli) {
428         if ((bbrot = BIO_new(BIO_f_brotli())) == NULL)
429             goto end;
430         if (debug) {
431             BIO_set_callback_ex(bbrot, BIO_debug_callback_ex);
432             BIO_set_callback_arg(bbrot, (char *)bio_err);
433         }
434         if (enc)
435             wbio = BIO_push(bbrot, wbio);
436         else
437             rbio = BIO_push(bbrot, rbio);
438     }
439 #endif
440
441     if (base64) {
442         if ((b64 = BIO_new(BIO_f_base64())) == NULL)
443             goto end;
444         if (debug) {
445             BIO_set_callback_ex(b64, BIO_debug_callback_ex);
446             BIO_set_callback_arg(b64, (char *)bio_err);
447         }
448         if (olb64)
449             BIO_set_flags(b64, BIO_FLAGS_BASE64_NO_NL);
450         if (enc)
451             wbio = BIO_push(b64, wbio);
452         else
453             rbio = BIO_push(b64, rbio);
454     }
455
456     if (cipher != NULL) {
457         if (str != NULL) { /* a passphrase is available */
458             /*
459              * Salt handling: if encrypting generate a salt if not supplied,
460              * and write to output BIO. If decrypting use salt from input BIO
461              * if not given with args
462              */
463             unsigned char *sptr;
464             size_t str_len = strlen(str);
465
466             if (nosalt) {
467                 sptr = NULL;
468             } else {
469                 if (hsalt != NULL && !set_hex(hsalt, salt, sizeof(salt))) {
470                     BIO_printf(bio_err, "invalid hex salt value\n");
471                     goto end;
472                 }
473                 if (enc) {  /* encryption */
474                     if (hsalt == NULL) {
475                         if (RAND_bytes(salt, sizeof(salt)) <= 0) {
476                             BIO_printf(bio_err, "RAND_bytes failed\n");
477                             goto end;
478                         }
479                         /*
480                          * If -P option then don't bother writing.
481                          * If salt is given, shouldn't either ?
482                          */
483                         if ((printkey != 2)
484                             && (BIO_write(wbio, magic,
485                                           sizeof(magic) - 1) != sizeof(magic) - 1
486                                 || BIO_write(wbio,
487                                              (char *)salt,
488                                              sizeof(salt)) != sizeof(salt))) {
489                             BIO_printf(bio_err, "error writing output file\n");
490                             goto end;
491                         }
492                     }
493                 } else {    /* decryption */
494                     if (hsalt == NULL) {
495                         if (BIO_read(rbio, mbuf, sizeof(mbuf)) != sizeof(mbuf)) {
496                             BIO_printf(bio_err, "error reading input file\n");
497                             goto end;
498                         }
499                         if (memcmp(mbuf, magic, sizeof(mbuf)) == 0) { /* file IS salted */
500                             if (BIO_read(rbio, salt,
501                                          sizeof(salt)) != sizeof(salt)) {
502                                 BIO_printf(bio_err, "error reading input file\n");
503                                 goto end;
504                             }
505                         } else { /* file is NOT salted, NO salt available */
506                             BIO_printf(bio_err, "bad magic number\n");
507                             goto end;
508                         }
509                     }
510                 }
511                 sptr = salt;
512             }
513
514             if (pbkdf2 == 1) {
515                 /*
516                 * derive key and default iv
517                 * concatenated into a temporary buffer
518                 */
519                 unsigned char tmpkeyiv[EVP_MAX_KEY_LENGTH + EVP_MAX_IV_LENGTH];
520                 int iklen = EVP_CIPHER_get_key_length(cipher);
521                 int ivlen = EVP_CIPHER_get_iv_length(cipher);
522                 /* not needed if HASH_UPDATE() is fixed : */
523                 int islen = (sptr != NULL ? sizeof(salt) : 0);
524                 if (!PKCS5_PBKDF2_HMAC(str, str_len, sptr, islen,
525                                        iter, dgst, iklen+ivlen, tmpkeyiv)) {
526                     BIO_printf(bio_err, "PKCS5_PBKDF2_HMAC failed\n");
527                     goto end;
528                 }
529                 /* split and move data back to global buffer */
530                 memcpy(key, tmpkeyiv, iklen);
531                 memcpy(iv, tmpkeyiv+iklen, ivlen);
532             } else {
533                 BIO_printf(bio_err, "*** WARNING : "
534                                     "deprecated key derivation used.\n"
535                                     "Using -iter or -pbkdf2 would be better.\n");
536                 if (!EVP_BytesToKey(cipher, dgst, sptr,
537                                     (unsigned char *)str, str_len,
538                                     1, key, iv)) {
539                     BIO_printf(bio_err, "EVP_BytesToKey failed\n");
540                     goto end;
541                 }
542             }
543             /*
544              * zero the complete buffer or the string passed from the command
545              * line.
546              */
547             if (str == strbuf)
548                 OPENSSL_cleanse(str, SIZE);
549             else
550                 OPENSSL_cleanse(str, str_len);
551         }
552         if (hiv != NULL) {
553             int siz = EVP_CIPHER_get_iv_length(cipher);
554             if (siz == 0) {
555                 BIO_printf(bio_err, "warning: iv not used by this cipher\n");
556             } else if (!set_hex(hiv, iv, siz)) {
557                 BIO_printf(bio_err, "invalid hex iv value\n");
558                 goto end;
559             }
560         }
561         if ((hiv == NULL) && (str == NULL)
562             && EVP_CIPHER_get_iv_length(cipher) != 0
563             && wrap == 0) {
564             /*
565              * No IV was explicitly set and no IV was generated.
566              * Hence the IV is undefined, making correct decryption impossible.
567              */
568             BIO_printf(bio_err, "iv undefined\n");
569             goto end;
570         }
571         if (hkey != NULL) {
572             if (!set_hex(hkey, key, EVP_CIPHER_get_key_length(cipher))) {
573                 BIO_printf(bio_err, "invalid hex key value\n");
574                 goto end;
575             }
576             /* wiping secret data as we no longer need it */
577             cleanse(hkey);
578         }
579
580         if ((benc = BIO_new(BIO_f_cipher())) == NULL)
581             goto end;
582
583         /*
584          * Since we may be changing parameters work on the encryption context
585          * rather than calling BIO_set_cipher().
586          */
587
588         BIO_get_cipher_ctx(benc, &ctx);
589
590         if (wrap == 1)
591             EVP_CIPHER_CTX_set_flags(ctx, EVP_CIPHER_CTX_FLAG_WRAP_ALLOW);
592
593         if (!EVP_CipherInit_ex(ctx, cipher, e, NULL, NULL, enc)) {
594             BIO_printf(bio_err, "Error setting cipher %s\n",
595                        EVP_CIPHER_get0_name(cipher));
596             ERR_print_errors(bio_err);
597             goto end;
598         }
599
600         if (nopad)
601             EVP_CIPHER_CTX_set_padding(ctx, 0);
602
603         if (!EVP_CipherInit_ex(ctx, NULL, NULL, key,
604                                (hiv == NULL && wrap == 1 ? NULL : iv), enc)) {
605             BIO_printf(bio_err, "Error setting cipher %s\n",
606                        EVP_CIPHER_get0_name(cipher));
607             ERR_print_errors(bio_err);
608             goto end;
609         }
610
611         if (debug) {
612             BIO_set_callback_ex(benc, BIO_debug_callback_ex);
613             BIO_set_callback_arg(benc, (char *)bio_err);
614         }
615
616         if (printkey) {
617             if (!nosalt) {
618                 printf("salt=");
619                 for (i = 0; i < (int)sizeof(salt); i++)
620                     printf("%02X", salt[i]);
621                 printf("\n");
622             }
623             if (EVP_CIPHER_get_key_length(cipher) > 0) {
624                 printf("key=");
625                 for (i = 0; i < EVP_CIPHER_get_key_length(cipher); i++)
626                     printf("%02X", key[i]);
627                 printf("\n");
628             }
629             if (EVP_CIPHER_get_iv_length(cipher) > 0) {
630                 printf("iv =");
631                 for (i = 0; i < EVP_CIPHER_get_iv_length(cipher); i++)
632                     printf("%02X", iv[i]);
633                 printf("\n");
634             }
635             if (printkey == 2) {
636                 ret = 0;
637                 goto end;
638             }
639         }
640     }
641
642     /* Only encrypt/decrypt as we write the file */
643     if (benc != NULL)
644         wbio = BIO_push(benc, wbio);
645
646     while (BIO_pending(rbio) || !BIO_eof(rbio)) {
647         inl = BIO_read(rbio, (char *)buff, bsize);
648         if (inl <= 0)
649             break;
650         if (!streamable && !BIO_eof(rbio)) {    /* do not output data */
651             BIO_printf(bio_err, "Unstreamable cipher mode\n");
652             goto end;
653         }
654         if (BIO_write(wbio, (char *)buff, inl) != inl) {
655             BIO_printf(bio_err, "error writing output file\n");
656             goto end;
657         }
658         if (!streamable)
659             break;
660     }
661     if (!BIO_flush(wbio)) {
662         BIO_printf(bio_err, "bad decrypt\n");
663         goto end;
664     }
665
666     ret = 0;
667     if (verbose) {
668         BIO_printf(bio_err, "bytes read   : %8ju\n", BIO_number_read(in));
669         BIO_printf(bio_err, "bytes written: %8ju\n", BIO_number_written(out));
670     }
671  end:
672     ERR_print_errors(bio_err);
673     OPENSSL_free(strbuf);
674     OPENSSL_free(buff);
675     BIO_free(in);
676     BIO_free_all(out);
677     BIO_free(benc);
678     BIO_free(b64);
679     EVP_MD_free(dgst);
680     EVP_CIPHER_free(cipher);
681 #ifdef ZLIB
682     BIO_free(bzl);
683 #endif
684     BIO_free(bbrot);
685     release_engine(e);
686     OPENSSL_free(pass);
687     return ret;
688 }
689
690 static void show_ciphers(const OBJ_NAME *name, void *arg)
691 {
692     struct doall_enc_ciphers *dec = (struct doall_enc_ciphers *)arg;
693     const EVP_CIPHER *cipher;
694
695     if (!islower((unsigned char)*name->name))
696         return;
697
698     /* Filter out ciphers that we cannot use */
699     cipher = EVP_get_cipherbyname(name->name);
700     if (cipher == NULL
701             || (EVP_CIPHER_get_flags(cipher) & EVP_CIPH_FLAG_AEAD_CIPHER) != 0
702             || EVP_CIPHER_get_mode(cipher) == EVP_CIPH_XTS_MODE)
703         return;
704
705     BIO_printf(dec->bio, "-%-25s", name->name);
706     if (++dec->n == 3) {
707         BIO_printf(dec->bio, "\n");
708         dec->n = 0;
709     } else
710         BIO_printf(dec->bio, " ");
711 }
712
713 static int set_hex(const char *in, unsigned char *out, int size)
714 {
715     int i, n;
716     unsigned char j;
717
718     i = size * 2;
719     n = strlen(in);
720     if (n > i) {
721         BIO_printf(bio_err, "hex string is too long, ignoring excess\n");
722         n = i; /* ignore exceeding part */
723     } else if (n < i) {
724         BIO_printf(bio_err, "hex string is too short, padding with zero bytes to length\n");
725     }
726
727     memset(out, 0, size);
728     for (i = 0; i < n; i++) {
729         j = (unsigned char)*in++;
730         if (!isxdigit(j)) {
731             BIO_printf(bio_err, "non-hex digit\n");
732             return 0;
733         }
734         j = (unsigned char)OPENSSL_hexchar2int(j);
735         if (i & 1)
736             out[i / 2] |= j;
737         else
738             out[i / 2] = (j << 4);
739     }
740     return 1;
741 }