e771e01362d800fbfd13cd56d4d6a0186397c19a
[openssl.git] / test / d2i_test.c
1 /*
2  * Copyright 2016 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the OpenSSL license (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 /* Regression tests for ASN.1 parsing bugs. */
11
12 #include <stdio.h>
13 #include <string.h>
14
15 #include "testutil.h"
16 #include "test_main_custom.h"
17
18 #include <openssl/asn1.h>
19 #include <openssl/asn1t.h>
20 #include <openssl/bio.h>
21 #include <openssl/err.h>
22 #include <openssl/x509.h>
23 #include <openssl/x509v3.h>
24 #include "e_os.h"
25
26 static const ASN1_ITEM *item_type;
27 static const char *test_file;
28
29 typedef enum {
30     ASN1_UNKNOWN,
31     ASN1_OK,
32     ASN1_BIO,
33     ASN1_DECODE,
34     ASN1_ENCODE,
35     ASN1_COMPARE
36 } expected_error_t;
37
38 typedef struct {
39     const char *str;
40     expected_error_t code;
41 } error_enum;
42
43 static expected_error_t expected_error = ASN1_UNKNOWN;
44
45 static int test_bad_asn1()
46 {
47     BIO *bio = NULL;
48     ASN1_VALUE *value = NULL;
49     int ret = 0;
50     unsigned char buf[2048];
51     const unsigned char *buf_ptr = buf;
52     unsigned char *der = NULL;
53     int derlen;
54     int len;
55
56     if ((bio = BIO_new_file(test_file, "r")) == NULL)
57         return 0;
58
59     if (expected_error == ASN1_BIO) {
60         value = ASN1_item_d2i_bio(item_type, bio, NULL);
61         if (value == NULL)
62             ret = 1;
63         goto err;
64     }
65
66     /*
67      * Unless we are testing it we don't use ASN1_item_d2i_bio because it
68      * performs sanity checks on the input and can reject it before the
69      * decoder is called.
70      */
71     len = BIO_read(bio, buf, sizeof buf);
72     if (len < 0)
73         goto err;
74
75     value = ASN1_item_d2i(NULL, &buf_ptr, len, item_type);
76     if (value == NULL) {
77         if (expected_error == ASN1_DECODE)
78             ret = 1;
79         goto err;
80     }
81
82     derlen = ASN1_item_i2d(value, &der, item_type);
83
84     if (der == NULL || derlen < 0) {
85         if (expected_error == ASN1_ENCODE)
86             ret = 1;
87         goto err;
88     }
89
90     if (derlen != len || memcmp(der, buf, derlen) != 0) {
91         if (expected_error == ASN1_COMPARE)
92             ret = 1;
93         goto err;
94     }
95
96     if (expected_error == ASN1_OK)
97         ret = 1;
98
99  err:
100     /* Don't indicate success for memory allocation errors */
101     if (ret == 1 && ERR_GET_REASON(ERR_peek_error()) == ERR_R_MALLOC_FAILURE)
102         ret = 0;
103     BIO_free(bio);
104     OPENSSL_free(der);
105     ASN1_item_free(value, item_type);
106     return ret;
107 }
108
109 /*
110  * Usage: d2i_test <type> <file>, e.g.
111  * d2i_test generalname bad_generalname.der
112  */
113 int test_main(int argc, char *argv[])
114 {
115     const char *test_type_name;
116     const char *expected_error_string;
117
118     size_t i;
119
120     static error_enum expected_errors[] = {
121         {"OK", ASN1_OK},
122         {"BIO", ASN1_BIO},
123         {"decode", ASN1_DECODE},
124         {"encode", ASN1_ENCODE},
125         {"compare", ASN1_COMPARE}
126     };
127
128     if (argc != 4) {
129         fprintf(stderr,
130                 "Usage: d2i_test item_name expected_error file.der\n");
131         return 1;
132     }
133
134     test_type_name = argv[1];
135     expected_error_string = argv[2];
136     test_file = argv[3];
137
138     item_type = ASN1_ITEM_lookup(test_type_name);
139
140     if (item_type == NULL) {
141         fprintf(stderr, "Unknown type %s\n", test_type_name);
142         fprintf(stderr, "Supported types:\n");
143         for (i = 0;; i++) {
144             const ASN1_ITEM *it = ASN1_ITEM_get(i);
145
146             if (it == NULL)
147                 break;
148             fprintf(stderr, "\t%s\n", it->sname);
149         }
150         return 1;
151     }
152
153     for (i = 0; i < OSSL_NELEM(expected_errors); i++) {
154         if (strcmp(expected_errors[i].str, expected_error_string) == 0) {
155             expected_error = expected_errors[i].code;
156             break;
157         }
158     }
159
160     if (expected_error == ASN1_UNKNOWN) {
161         fprintf(stderr, "Unknown expected error %s\n", expected_error_string);
162         return 1;
163     }
164
165     ADD_TEST(test_bad_asn1);
166
167     return run_tests(argv[0]);
168 }