APPS/cmp: Simplify read_write_req_resp() - 'req' arg must not be NULL anyway
[openssl.git] / apps / enc.c
1 /*
2  * Copyright 1995-2021 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the Apache License 2.0 (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #include <stdio.h>
11 #include <stdlib.h>
12 #include <string.h>
13 #include <limits.h>
14 #include "apps.h"
15 #include "progs.h"
16 #include <openssl/bio.h>
17 #include <openssl/err.h>
18 #include <openssl/evp.h>
19 #include <openssl/objects.h>
20 #include <openssl/x509.h>
21 #include <openssl/rand.h>
22 #include <openssl/pem.h>
23 #ifndef OPENSSL_NO_COMP
24 # include <openssl/comp.h>
25 #endif
26 #include <ctype.h>
27
28 #undef SIZE
29 #undef BSIZE
30 #define SIZE    (512)
31 #define BSIZE   (8*1024)
32
33 static int set_hex(const char *in, unsigned char *out, int size);
34 static void show_ciphers(const OBJ_NAME *name, void *bio_);
35
36 struct doall_enc_ciphers {
37     BIO *bio;
38     int n;
39 };
40
41 typedef enum OPTION_choice {
42     OPT_COMMON,
43     OPT_LIST,
44     OPT_E, OPT_IN, OPT_OUT, OPT_PASS, OPT_ENGINE, OPT_D, OPT_P, OPT_V,
45     OPT_NOPAD, OPT_SALT, OPT_NOSALT, OPT_DEBUG, OPT_UPPER_P, OPT_UPPER_A,
46     OPT_A, OPT_Z, OPT_BUFSIZE, OPT_K, OPT_KFILE, OPT_UPPER_K, OPT_NONE,
47     OPT_UPPER_S, OPT_IV, OPT_MD, OPT_ITER, OPT_PBKDF2, OPT_CIPHER,
48     OPT_R_ENUM, OPT_PROV_ENUM
49 } OPTION_CHOICE;
50
51 const OPTIONS enc_options[] = {
52     OPT_SECTION("General"),
53     {"help", OPT_HELP, '-', "Display this summary"},
54     {"list", OPT_LIST, '-', "List ciphers"},
55 #ifndef OPENSSL_NO_DEPRECATED_3_0
56     {"ciphers", OPT_LIST, '-', "Alias for -list"},
57 #endif
58     {"e", OPT_E, '-', "Encrypt"},
59     {"d", OPT_D, '-', "Decrypt"},
60     {"p", OPT_P, '-', "Print the iv/key"},
61     {"P", OPT_UPPER_P, '-', "Print the iv/key and exit"},
62 #ifndef OPENSSL_NO_ENGINE
63     {"engine", OPT_ENGINE, 's', "Use engine, possibly a hardware device"},
64 #endif
65
66     OPT_SECTION("Input"),
67     {"in", OPT_IN, '<', "Input file"},
68     {"k", OPT_K, 's', "Passphrase"},
69     {"kfile", OPT_KFILE, '<', "Read passphrase from file"},
70
71     OPT_SECTION("Output"),
72     {"out", OPT_OUT, '>', "Output file"},
73     {"pass", OPT_PASS, 's', "Passphrase source"},
74     {"v", OPT_V, '-', "Verbose output"},
75     {"a", OPT_A, '-', "Base64 encode/decode, depending on encryption flag"},
76     {"base64", OPT_A, '-', "Same as option -a"},
77     {"A", OPT_UPPER_A, '-',
78      "Used with -[base64|a] to specify base64 buffer as a single line"},
79
80     OPT_SECTION("Encryption"),
81     {"nopad", OPT_NOPAD, '-', "Disable standard block padding"},
82     {"salt", OPT_SALT, '-', "Use salt in the KDF (default)"},
83     {"nosalt", OPT_NOSALT, '-', "Do not use salt in the KDF"},
84     {"debug", OPT_DEBUG, '-', "Print debug info"},
85
86     {"bufsize", OPT_BUFSIZE, 's', "Buffer size"},
87     {"K", OPT_UPPER_K, 's', "Raw key, in hex"},
88     {"S", OPT_UPPER_S, 's', "Salt, in hex"},
89     {"iv", OPT_IV, 's', "IV in hex"},
90     {"md", OPT_MD, 's', "Use specified digest to create a key from the passphrase"},
91     {"iter", OPT_ITER, 'p', "Specify the iteration count and force use of PBKDF2"},
92     {"pbkdf2", OPT_PBKDF2, '-', "Use password-based key derivation function 2"},
93     {"none", OPT_NONE, '-', "Don't encrypt"},
94 #ifdef ZLIB
95     {"z", OPT_Z, '-', "Compress or decompress encrypted data using zlib"},
96 #endif
97     {"", OPT_CIPHER, '-', "Any supported cipher"},
98
99     OPT_R_OPTIONS,
100     OPT_PROV_OPTIONS,
101     {NULL}
102 };
103
104 int enc_main(int argc, char **argv)
105 {
106     static char buf[128];
107     static const char magic[] = "Salted__";
108     ENGINE *e = NULL;
109     BIO *in = NULL, *out = NULL, *b64 = NULL, *benc = NULL, *rbio =
110         NULL, *wbio = NULL;
111     EVP_CIPHER_CTX *ctx = NULL;
112     EVP_CIPHER *cipher = NULL;
113     EVP_MD *dgst = NULL;
114     const char *digestname = NULL;
115     char *hkey = NULL, *hiv = NULL, *hsalt = NULL, *p;
116     char *infile = NULL, *outfile = NULL, *prog;
117     char *str = NULL, *passarg = NULL, *pass = NULL, *strbuf = NULL;
118     const char *ciphername = NULL;
119     char mbuf[sizeof(magic) - 1];
120     OPTION_CHOICE o;
121     int bsize = BSIZE, verbose = 0, debug = 0, olb64 = 0, nosalt = 0;
122     int enc = 1, printkey = 0, i, k;
123     int base64 = 0, informat = FORMAT_BINARY, outformat = FORMAT_BINARY;
124     int ret = 1, inl, nopad = 0;
125     unsigned char key[EVP_MAX_KEY_LENGTH], iv[EVP_MAX_IV_LENGTH];
126     unsigned char *buff = NULL, salt[PKCS5_SALT_LEN];
127     int pbkdf2 = 0;
128     int iter = 0;
129     long n;
130     struct doall_enc_ciphers dec;
131 #ifdef ZLIB
132     int do_zlib = 0;
133     BIO *bzl = NULL;
134 #endif
135
136     /* first check the command name */
137     if (strcmp(argv[0], "base64") == 0)
138         base64 = 1;
139 #ifdef ZLIB
140     else if (strcmp(argv[0], "zlib") == 0)
141         do_zlib = 1;
142 #endif
143     else if (strcmp(argv[0], "enc") != 0)
144         ciphername = argv[0];
145
146     prog = opt_init(argc, argv, enc_options);
147     while ((o = opt_next()) != OPT_EOF) {
148         switch (o) {
149         case OPT_EOF:
150         case OPT_ERR:
151  opthelp:
152             BIO_printf(bio_err, "%s: Use -help for summary.\n", prog);
153             goto end;
154         case OPT_HELP:
155             opt_help(enc_options);
156             ret = 0;
157             goto end;
158         case OPT_LIST:
159             BIO_printf(bio_out, "Supported ciphers:\n");
160             dec.bio = bio_out;
161             dec.n = 0;
162             OBJ_NAME_do_all_sorted(OBJ_NAME_TYPE_CIPHER_METH,
163                                    show_ciphers, &dec);
164             BIO_printf(bio_out, "\n");
165             ret = 0;
166             goto end;
167         case OPT_E:
168             enc = 1;
169             break;
170         case OPT_IN:
171             infile = opt_arg();
172             break;
173         case OPT_OUT:
174             outfile = opt_arg();
175             break;
176         case OPT_PASS:
177             passarg = opt_arg();
178             break;
179         case OPT_ENGINE:
180             e = setup_engine(opt_arg(), 0);
181             break;
182         case OPT_D:
183             enc = 0;
184             break;
185         case OPT_P:
186             printkey = 1;
187             break;
188         case OPT_V:
189             verbose = 1;
190             break;
191         case OPT_NOPAD:
192             nopad = 1;
193             break;
194         case OPT_SALT:
195             nosalt = 0;
196             break;
197         case OPT_NOSALT:
198             nosalt = 1;
199             break;
200         case OPT_DEBUG:
201             debug = 1;
202             break;
203         case OPT_UPPER_P:
204             printkey = 2;
205             break;
206         case OPT_UPPER_A:
207             olb64 = 1;
208             break;
209         case OPT_A:
210             base64 = 1;
211             break;
212         case OPT_Z:
213 #ifdef ZLIB
214             do_zlib = 1;
215 #endif
216             break;
217         case OPT_BUFSIZE:
218             p = opt_arg();
219             i = (int)strlen(p) - 1;
220             k = i >= 1 && p[i] == 'k';
221             if (k)
222                 p[i] = '\0';
223             if (!opt_long(opt_arg(), &n)
224                     || n < 0 || (k && n >= LONG_MAX / 1024))
225                 goto opthelp;
226             if (k)
227                 n *= 1024;
228             bsize = (int)n;
229             break;
230         case OPT_K:
231             str = opt_arg();
232             break;
233         case OPT_KFILE:
234             in = bio_open_default(opt_arg(), 'r', FORMAT_TEXT);
235             if (in == NULL)
236                 goto opthelp;
237             i = BIO_gets(in, buf, sizeof(buf));
238             BIO_free(in);
239             in = NULL;
240             if (i <= 0) {
241                 BIO_printf(bio_err,
242                            "%s Can't read key from %s\n", prog, opt_arg());
243                 goto opthelp;
244             }
245             while (--i > 0 && (buf[i] == '\r' || buf[i] == '\n'))
246                 buf[i] = '\0';
247             if (i <= 0) {
248                 BIO_printf(bio_err, "%s: zero length password\n", prog);
249                 goto opthelp;
250             }
251             str = buf;
252             break;
253         case OPT_UPPER_K:
254             hkey = opt_arg();
255             break;
256         case OPT_UPPER_S:
257             hsalt = opt_arg();
258             break;
259         case OPT_IV:
260             hiv = opt_arg();
261             break;
262         case OPT_MD:
263             digestname = opt_arg();
264             break;
265         case OPT_CIPHER:
266             ciphername = opt_unknown();
267             break;
268         case OPT_ITER:
269             iter = opt_int_arg();
270             pbkdf2 = 1;
271             break;
272         case OPT_PBKDF2:
273             pbkdf2 = 1;
274             if (iter == 0)    /* do not overwrite a chosen value */
275                 iter = 10000;
276             break;
277         case OPT_NONE:
278             cipher = NULL;
279             break;
280         case OPT_R_CASES:
281             if (!opt_rand(o))
282                 goto end;
283             break;
284         case OPT_PROV_CASES:
285             if (!opt_provider(o))
286                 goto end;
287             break;
288         }
289     }
290
291     /* No extra arguments. */
292     if (!opt_check_rest_arg(NULL))
293         goto opthelp;
294     if (!app_RAND_load())
295         goto end;
296
297     /* Get the cipher name, either from progname (if set) or flag. */
298     if (!opt_cipher(ciphername, &cipher))
299         goto opthelp;
300     if (digestname != NULL) {
301         if (!opt_md(digestname, &dgst))
302             goto opthelp;
303     }
304     if (dgst == NULL)
305         dgst = (EVP_MD *)EVP_sha256();
306
307     if (iter == 0)
308         iter = 1;
309
310     /* It must be large enough for a base64 encoded line */
311     if (base64 && bsize < 80)
312         bsize = 80;
313     if (verbose)
314         BIO_printf(bio_err, "bufsize=%d\n", bsize);
315
316 #ifdef ZLIB
317     if (!do_zlib)
318 #endif
319         if (base64) {
320             if (enc)
321                 outformat = FORMAT_BASE64;
322             else
323                 informat = FORMAT_BASE64;
324         }
325
326     strbuf = app_malloc(SIZE, "strbuf");
327     buff = app_malloc(EVP_ENCODE_LENGTH(bsize), "evp buffer");
328
329     if (infile == NULL) {
330         in = dup_bio_in(informat);
331     } else {
332         in = bio_open_default(infile, 'r', informat);
333     }
334     if (in == NULL)
335         goto end;
336
337     if (str == NULL && passarg != NULL) {
338         if (!app_passwd(passarg, NULL, &pass, NULL)) {
339             BIO_printf(bio_err, "Error getting password\n");
340             goto end;
341         }
342         str = pass;
343     }
344
345     if ((str == NULL) && (cipher != NULL) && (hkey == NULL)) {
346         if (1) {
347 #ifndef OPENSSL_NO_UI_CONSOLE
348             for (;;) {
349                 char prompt[200];
350
351                 BIO_snprintf(prompt, sizeof(prompt), "enter %s %s password:",
352                         EVP_CIPHER_get0_name(cipher),
353                         (enc) ? "encryption" : "decryption");
354                 strbuf[0] = '\0';
355                 i = EVP_read_pw_string((char *)strbuf, SIZE, prompt, enc);
356                 if (i == 0) {
357                     if (strbuf[0] == '\0') {
358                         ret = 1;
359                         goto end;
360                     }
361                     str = strbuf;
362                     break;
363                 }
364                 if (i < 0) {
365                     BIO_printf(bio_err, "bad password read\n");
366                     goto end;
367                 }
368             }
369         } else {
370 #endif
371             BIO_printf(bio_err, "password required\n");
372             goto end;
373         }
374     }
375
376     out = bio_open_default(outfile, 'w', outformat);
377     if (out == NULL)
378         goto end;
379
380     if (debug) {
381         BIO_set_callback_ex(in, BIO_debug_callback_ex);
382         BIO_set_callback_ex(out, BIO_debug_callback_ex);
383         BIO_set_callback_arg(in, (char *)bio_err);
384         BIO_set_callback_arg(out, (char *)bio_err);
385     }
386
387     rbio = in;
388     wbio = out;
389
390 #ifdef ZLIB
391     if (do_zlib) {
392         if ((bzl = BIO_new(BIO_f_zlib())) == NULL)
393             goto end;
394         if (debug) {
395             BIO_set_callback_ex(bzl, BIO_debug_callback_ex);
396             BIO_set_callback_arg(bzl, (char *)bio_err);
397         }
398         if (enc)
399             wbio = BIO_push(bzl, wbio);
400         else
401             rbio = BIO_push(bzl, rbio);
402     }
403 #endif
404
405     if (base64) {
406         if ((b64 = BIO_new(BIO_f_base64())) == NULL)
407             goto end;
408         if (debug) {
409             BIO_set_callback_ex(b64, BIO_debug_callback_ex);
410             BIO_set_callback_arg(b64, (char *)bio_err);
411         }
412         if (olb64)
413             BIO_set_flags(b64, BIO_FLAGS_BASE64_NO_NL);
414         if (enc)
415             wbio = BIO_push(b64, wbio);
416         else
417             rbio = BIO_push(b64, rbio);
418     }
419
420     if (cipher != NULL) {
421         if (str != NULL) { /* a passphrase is available */
422             /*
423              * Salt handling: if encrypting generate a salt if not supplied,
424              * and write to output BIO. If decrypting use salt from input BIO
425              * if not given with args
426              */
427             unsigned char *sptr;
428             size_t str_len = strlen(str);
429
430             if (nosalt) {
431                 sptr = NULL;
432             } else {
433                 if (hsalt != NULL && !set_hex(hsalt, salt, sizeof(salt))) {
434                     BIO_printf(bio_err, "invalid hex salt value\n");
435                     goto end;
436                 }
437                 if (enc) {  /* encryption */
438                     if (hsalt == NULL) {
439                         if (RAND_bytes(salt, sizeof(salt)) <= 0) {
440                             BIO_printf(bio_err, "RAND_bytes failed\n");
441                             goto end;
442                         }
443                         /*
444                          * If -P option then don't bother writing.
445                          * If salt is given, shouldn't either ?
446                          */
447                         if ((printkey != 2)
448                             && (BIO_write(wbio, magic,
449                                           sizeof(magic) - 1) != sizeof(magic) - 1
450                                 || BIO_write(wbio,
451                                              (char *)salt,
452                                              sizeof(salt)) != sizeof(salt))) {
453                             BIO_printf(bio_err, "error writing output file\n");
454                             goto end;
455                         }
456                     }
457                 } else {    /* decryption */
458                     if (hsalt == NULL) {
459                         if (BIO_read(rbio, mbuf, sizeof(mbuf)) != sizeof(mbuf)) {
460                             BIO_printf(bio_err, "error reading input file\n");
461                             goto end;
462                         }
463                         if (memcmp(mbuf, magic, sizeof(mbuf)) == 0) { /* file IS salted */
464                             if (BIO_read(rbio, salt,
465                                          sizeof(salt)) != sizeof(salt)) {
466                                 BIO_printf(bio_err, "error reading input file\n");
467                                 goto end;
468                             }
469                         } else { /* file is NOT salted, NO salt available */
470                             BIO_printf(bio_err, "bad magic number\n");
471                             goto end;
472                         }
473                     }
474                 }
475                 sptr = salt;
476             }
477
478             if (pbkdf2 == 1) {
479                 /*
480                 * derive key and default iv
481                 * concatenated into a temporary buffer
482                 */
483                 unsigned char tmpkeyiv[EVP_MAX_KEY_LENGTH + EVP_MAX_IV_LENGTH];
484                 int iklen = EVP_CIPHER_get_key_length(cipher);
485                 int ivlen = EVP_CIPHER_get_iv_length(cipher);
486                 /* not needed if HASH_UPDATE() is fixed : */
487                 int islen = (sptr != NULL ? sizeof(salt) : 0);
488                 if (!PKCS5_PBKDF2_HMAC(str, str_len, sptr, islen,
489                                        iter, dgst, iklen+ivlen, tmpkeyiv)) {
490                     BIO_printf(bio_err, "PKCS5_PBKDF2_HMAC failed\n");
491                     goto end;
492                 }
493                 /* split and move data back to global buffer */
494                 memcpy(key, tmpkeyiv, iklen);
495                 memcpy(iv, tmpkeyiv+iklen, ivlen);
496             } else {
497                 BIO_printf(bio_err, "*** WARNING : "
498                                     "deprecated key derivation used.\n"
499                                     "Using -iter or -pbkdf2 would be better.\n");
500                 if (!EVP_BytesToKey(cipher, dgst, sptr,
501                                     (unsigned char *)str, str_len,
502                                     1, key, iv)) {
503                     BIO_printf(bio_err, "EVP_BytesToKey failed\n");
504                     goto end;
505                 }
506             }
507             /*
508              * zero the complete buffer or the string passed from the command
509              * line.
510              */
511             if (str == strbuf)
512                 OPENSSL_cleanse(str, SIZE);
513             else
514                 OPENSSL_cleanse(str, str_len);
515         }
516         if (hiv != NULL) {
517             int siz = EVP_CIPHER_get_iv_length(cipher);
518             if (siz == 0) {
519                 BIO_printf(bio_err, "warning: iv not used by this cipher\n");
520             } else if (!set_hex(hiv, iv, siz)) {
521                 BIO_printf(bio_err, "invalid hex iv value\n");
522                 goto end;
523             }
524         }
525         if ((hiv == NULL) && (str == NULL)
526             && EVP_CIPHER_get_iv_length(cipher) != 0) {
527             /*
528              * No IV was explicitly set and no IV was generated.
529              * Hence the IV is undefined, making correct decryption impossible.
530              */
531             BIO_printf(bio_err, "iv undefined\n");
532             goto end;
533         }
534         if (hkey != NULL) {
535             if (!set_hex(hkey, key, EVP_CIPHER_get_key_length(cipher))) {
536                 BIO_printf(bio_err, "invalid hex key value\n");
537                 goto end;
538             }
539             /* wiping secret data as we no longer need it */
540             cleanse(hkey);
541         }
542
543         if ((benc = BIO_new(BIO_f_cipher())) == NULL)
544             goto end;
545
546         /*
547          * Since we may be changing parameters work on the encryption context
548          * rather than calling BIO_set_cipher().
549          */
550
551         BIO_get_cipher_ctx(benc, &ctx);
552
553         if (!EVP_CipherInit_ex(ctx, cipher, e, NULL, NULL, enc)) {
554             BIO_printf(bio_err, "Error setting cipher %s\n",
555                        EVP_CIPHER_get0_name(cipher));
556             ERR_print_errors(bio_err);
557             goto end;
558         }
559
560         if (nopad)
561             EVP_CIPHER_CTX_set_padding(ctx, 0);
562
563         if (!EVP_CipherInit_ex(ctx, NULL, NULL, key, iv, enc)) {
564             BIO_printf(bio_err, "Error setting cipher %s\n",
565                        EVP_CIPHER_get0_name(cipher));
566             ERR_print_errors(bio_err);
567             goto end;
568         }
569
570         if (debug) {
571             BIO_set_callback_ex(benc, BIO_debug_callback_ex);
572             BIO_set_callback_arg(benc, (char *)bio_err);
573         }
574
575         if (printkey) {
576             if (!nosalt) {
577                 printf("salt=");
578                 for (i = 0; i < (int)sizeof(salt); i++)
579                     printf("%02X", salt[i]);
580                 printf("\n");
581             }
582             if (EVP_CIPHER_get_key_length(cipher) > 0) {
583                 printf("key=");
584                 for (i = 0; i < EVP_CIPHER_get_key_length(cipher); i++)
585                     printf("%02X", key[i]);
586                 printf("\n");
587             }
588             if (EVP_CIPHER_get_iv_length(cipher) > 0) {
589                 printf("iv =");
590                 for (i = 0; i < EVP_CIPHER_get_iv_length(cipher); i++)
591                     printf("%02X", iv[i]);
592                 printf("\n");
593             }
594             if (printkey == 2) {
595                 ret = 0;
596                 goto end;
597             }
598         }
599     }
600
601     /* Only encrypt/decrypt as we write the file */
602     if (benc != NULL)
603         wbio = BIO_push(benc, wbio);
604
605     while (BIO_pending(rbio) || !BIO_eof(rbio)) {
606         inl = BIO_read(rbio, (char *)buff, bsize);
607         if (inl <= 0)
608             break;
609         if (BIO_write(wbio, (char *)buff, inl) != inl) {
610             BIO_printf(bio_err, "error writing output file\n");
611             goto end;
612         }
613     }
614     if (!BIO_flush(wbio)) {
615         BIO_printf(bio_err, "bad decrypt\n");
616         goto end;
617     }
618
619     ret = 0;
620     if (verbose) {
621         BIO_printf(bio_err, "bytes read   : %8ju\n", BIO_number_read(in));
622         BIO_printf(bio_err, "bytes written: %8ju\n", BIO_number_written(out));
623     }
624  end:
625     ERR_print_errors(bio_err);
626     OPENSSL_free(strbuf);
627     OPENSSL_free(buff);
628     BIO_free(in);
629     BIO_free_all(out);
630     BIO_free(benc);
631     BIO_free(b64);
632     EVP_MD_free(dgst);
633     EVP_CIPHER_free(cipher);
634 #ifdef ZLIB
635     BIO_free(bzl);
636 #endif
637     release_engine(e);
638     OPENSSL_free(pass);
639     return ret;
640 }
641
642 static void show_ciphers(const OBJ_NAME *name, void *arg)
643 {
644     struct doall_enc_ciphers *dec = (struct doall_enc_ciphers *)arg;
645     const EVP_CIPHER *cipher;
646
647     if (!islower((unsigned char)*name->name))
648         return;
649
650     /* Filter out ciphers that we cannot use */
651     cipher = EVP_get_cipherbyname(name->name);
652     if (cipher == NULL
653             || (EVP_CIPHER_get_flags(cipher) & EVP_CIPH_FLAG_AEAD_CIPHER) != 0
654             || EVP_CIPHER_get_mode(cipher) == EVP_CIPH_XTS_MODE)
655         return;
656
657     BIO_printf(dec->bio, "-%-25s", name->name);
658     if (++dec->n == 3) {
659         BIO_printf(dec->bio, "\n");
660         dec->n = 0;
661     } else
662         BIO_printf(dec->bio, " ");
663 }
664
665 static int set_hex(const char *in, unsigned char *out, int size)
666 {
667     int i, n;
668     unsigned char j;
669
670     i = size * 2;
671     n = strlen(in);
672     if (n > i) {
673         BIO_printf(bio_err, "hex string is too long, ignoring excess\n");
674         n = i; /* ignore exceeding part */
675     } else if (n < i) {
676         BIO_printf(bio_err, "hex string is too short, padding with zero bytes to length\n");
677     }
678
679     memset(out, 0, size);
680     for (i = 0; i < n; i++) {
681         j = (unsigned char)*in++;
682         if (!isxdigit(j)) {
683             BIO_printf(bio_err, "non-hex digit\n");
684             return 0;
685         }
686         j = (unsigned char)OPENSSL_hexchar2int(j);
687         if (i & 1)
688             out[i / 2] |= j;
689         else
690             out[i / 2] = (j << 4);
691     }
692     return 1;
693 }