Fix CMP -days option range checking and test failing with enable-ubsan
[openssl.git] / test / cmp_testlib.c
1 /*
2  * Copyright 2007-2020 The OpenSSL Project Authors. All Rights Reserved.
3  * Copyright Nokia 2007-2019
4  * Copyright Siemens AG 2015-2019
5  *
6  * Licensed under the Apache License 2.0 (the "License").  You may not use
7  * this file except in compliance with the License.  You can obtain a copy
8  * in the file LICENSE in the source distribution or at
9  * https://www.openssl.org/source/license.html
10  */
11
12 #include "cmp_testlib.h"
13 #include <openssl/rsa.h> /* needed in case config no-deprecated */
14
15 DEFINE_STACK_OF(X509)
16
17 EVP_PKEY *load_pem_key(const char *file)
18 {
19     EVP_PKEY *key = NULL;
20     BIO *bio = NULL;
21
22     if (!TEST_ptr(bio = BIO_new(BIO_s_file())))
23         return NULL;
24     if (TEST_int_gt(BIO_read_filename(bio, file), 0))
25         (void)TEST_ptr(key = PEM_read_bio_PrivateKey(bio, NULL, NULL, NULL));
26
27     BIO_free(bio);
28     return key;
29 }
30
31 X509 *load_pem_cert(const char *file)
32 {
33     X509 *cert = NULL;
34     BIO *bio = NULL;
35
36     if (!TEST_ptr(bio = BIO_new(BIO_s_file())))
37         return NULL;
38     if (TEST_int_gt(BIO_read_filename(bio, file), 0))
39         (void)TEST_ptr(cert = PEM_read_bio_X509(bio, NULL, NULL, NULL));
40
41     BIO_free(bio);
42     return cert;
43 }
44
45 OSSL_CMP_MSG *load_pkimsg(const char *file)
46 {
47     OSSL_CMP_MSG *msg;
48
49     (void)TEST_ptr((msg = ossl_cmp_msg_load(file)));
50     return msg;
51 }
52
53 X509_REQ *load_csr(const char *file)
54 {
55     X509_REQ *csr = NULL;
56     BIO *bio = NULL;
57
58     if (!TEST_ptr(file) || !TEST_ptr(bio = BIO_new_file(file, "rb")))
59         return NULL;
60     (void)TEST_ptr(csr = d2i_X509_REQ_bio(bio, NULL));
61     BIO_free(bio);
62     return csr;
63 }
64
65 EVP_PKEY *gen_rsa(void)
66 {
67     EVP_PKEY_CTX *ctx = NULL;
68     EVP_PKEY *pkey = NULL;
69
70     (void)(TEST_ptr(ctx = EVP_PKEY_CTX_new_id(EVP_PKEY_RSA, NULL))
71                && TEST_int_gt(EVP_PKEY_keygen_init(ctx), 0)
72                && TEST_int_gt(EVP_PKEY_CTX_set_rsa_keygen_bits(ctx, 2048), 0)
73                && TEST_int_gt(EVP_PKEY_keygen(ctx, &pkey), 0));
74     EVP_PKEY_CTX_free(ctx);
75     return pkey;
76 }
77
78 /*
79  * Checks whether the syntax of msg conforms to ASN.1
80  */
81 int valid_asn1_encoding(const OSSL_CMP_MSG *msg)
82 {
83     return msg != NULL ? i2d_OSSL_CMP_MSG(msg, NULL) > 0 : 0;
84 }
85
86 /*
87  * Compares two stacks of certificates in the order of their elements.
88  * Returns 0 if sk1 and sk2 are equal and another value otherwise
89  */
90 int STACK_OF_X509_cmp(const STACK_OF(X509) *sk1, const STACK_OF(X509) *sk2)
91 {
92     int i, res;
93     X509 *a, *b;
94
95     if (sk1 == sk2)
96         return 0;
97     if (sk1 == NULL)
98         return -1;
99     if (sk2 == NULL)
100         return 1;
101     if ((res = sk_X509_num(sk1) - sk_X509_num(sk2)))
102         return res;
103     for (i = 0; i < sk_X509_num(sk1); i++) {
104         a = sk_X509_value(sk1, i);
105         b = sk_X509_value(sk2, i);
106         if (a != b)
107             if ((res = X509_cmp(a, b)) != 0)
108                 return res;
109     }
110     return 0;
111 }
112
113 /*
114  * Up refs and push a cert onto sk.
115  * Returns the number of certificates on the stack on success
116  * Returns -1 or 0 on error
117  */
118 int STACK_OF_X509_push1(STACK_OF(X509) *sk, X509 *cert)
119 {
120     int res;
121
122     if (sk == NULL || cert == NULL)
123         return -1;
124     if (!X509_up_ref(cert))
125         return -1;
126     res = sk_X509_push(sk, cert);
127     if (res <= 0)
128         X509_free(cert); /* down-ref */
129     return res;
130 }
131
132 int print_to_bio_out(const char *func, const char *file, int line,
133                      OSSL_CMP_severity level, const char *msg)
134 {
135     return OSSL_CMP_print_to_bio(bio_out, func, file, line, level, msg);
136 }