e12f2492421631384b0f54692d97834c08db6585
[openssl.git] / test / d2i_test.c
1 /*
2  * Copyright 2016 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the OpenSSL license (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 /* Regression tests for ASN.1 parsing bugs. */
11
12 #include <stdio.h>
13 #include <string.h>
14
15 #include "testutil.h"
16
17 #include <openssl/asn1.h>
18 #include <openssl/asn1t.h>
19 #include <openssl/bio.h>
20 #include <openssl/err.h>
21 #include <openssl/x509.h>
22 #include <openssl/x509v3.h>
23 #include "e_os.h"
24
25 static const ASN1_ITEM *item_type;
26 static const char *test_file;
27
28 typedef enum {
29     ASN1_UNKNOWN,
30     ASN1_OK,
31     ASN1_BIO,
32     ASN1_DECODE,
33     ASN1_ENCODE,
34     ASN1_COMPARE
35 } expected_error_t;
36
37 typedef struct {
38     const char *str;
39     expected_error_t code;
40 } error_enum;
41
42 static expected_error_t expected_error = ASN1_UNKNOWN;
43
44 static int test_bad_asn1()
45 {
46     BIO *bio = NULL;
47     ASN1_VALUE *value = NULL;
48     int ret = 0;
49     unsigned char buf[2048];
50     const unsigned char *buf_ptr = buf;
51     unsigned char *der = NULL;
52     int derlen;
53     int len;
54
55     if ((bio = BIO_new_file(test_file, "r")) == NULL)
56         return 0;
57
58     if (expected_error == ASN1_BIO) {
59         value = ASN1_item_d2i_bio(item_type, bio, NULL);
60         if (value == NULL)
61             ret = 1;
62         goto err;
63     }
64
65     /*
66      * Unless we are testing it we don't use ASN1_item_d2i_bio because it
67      * performs sanity checks on the input and can reject it before the
68      * decoder is called.
69      */
70     len = BIO_read(bio, buf, sizeof buf);
71     if (len < 0)
72         goto err;
73
74     value = ASN1_item_d2i(NULL, &buf_ptr, len, item_type);
75     if (value == NULL) {
76         if (expected_error == ASN1_DECODE)
77             ret = 1;
78         goto err;
79     }
80
81     derlen = ASN1_item_i2d(value, &der, item_type);
82
83     if (der == NULL || derlen < 0) {
84         if (expected_error == ASN1_ENCODE)
85             ret = 1;
86         goto err;
87     }
88
89     if (derlen != len || memcmp(der, buf, derlen) != 0) {
90         if (expected_error == ASN1_COMPARE)
91             ret = 1;
92         goto err;
93     }
94
95     if (expected_error == ASN1_OK)
96         ret = 1;
97
98  err:
99     /* Don't indicate success for memory allocation errors */
100     if (ret == 1 && ERR_GET_REASON(ERR_peek_error()) == ERR_R_MALLOC_FAILURE)
101         ret = 0;
102     BIO_free(bio);
103     OPENSSL_free(der);
104     ASN1_item_free(value, item_type);
105     return ret;
106 }
107
108 /*
109  * Usage: d2i_test <type> <file>, e.g.
110  * d2i_test generalname bad_generalname.der
111  */
112 int main(int argc, char **argv)
113 {
114     int result = 0;
115     const char *test_type_name;
116     const char *expected_error_string;
117     const char *p = getenv("OPENSSL_DEBUG_MEMORY");
118
119     size_t i;
120
121     static error_enum expected_errors[] = {
122         {"OK", ASN1_OK},
123         {"BIO", ASN1_BIO},
124         {"decode", ASN1_DECODE},
125         {"encode", ASN1_ENCODE},
126         {"compare", ASN1_COMPARE}
127     };
128
129     if (p != NULL && strcmp(p, "on") == 0)
130         CRYPTO_set_mem_debug(1);
131     CRYPTO_mem_ctrl(CRYPTO_MEM_CHECK_ON);
132
133     if (argc != 4) {
134         fprintf(stderr,
135                 "Usage: d2i_test item_name expected_error file.der\n");
136         return 1;
137     }
138
139     test_type_name = argv[1];
140     expected_error_string = argv[2];
141     test_file = argv[3];
142
143     item_type = ASN1_ITEM_lookup(test_type_name);
144
145     if (item_type == NULL) {
146         fprintf(stderr, "Unknown type %s\n", test_type_name);
147         fprintf(stderr, "Supported types:\n");
148         for (i = 0;; i++) {
149             const ASN1_ITEM *it = ASN1_ITEM_get(i);
150
151             if (it == NULL)
152                 break;
153             fprintf(stderr, "\t%s\n", it->sname);
154         }
155         return 1;
156     }
157
158     for (i = 0; i < OSSL_NELEM(expected_errors); i++) {
159         if (strcmp(expected_errors[i].str, expected_error_string) == 0) {
160             expected_error = expected_errors[i].code;
161             break;
162         }
163     }
164
165     if (expected_error == ASN1_UNKNOWN) {
166         fprintf(stderr, "Unknown expected error %s\n", expected_error_string);
167         return 1;
168     }
169
170     ADD_TEST(test_bad_asn1);
171
172     result = run_tests(argv[0]);
173
174 #ifndef OPENSSL_NO_CRYPTO_MDEBUG
175     if (CRYPTO_mem_leaks_fp(stderr) <= 0)
176         result = 1;
177 #endif
178
179     return result;
180 }