Change returned -2 to 0 in EVP_Digest{Sign,Verify}Init()
[openssl.git] / providers / fips / selftest.c
1 /*
2  * Copyright 2019 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the OpenSSL license (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #include <string.h>
11 #include <openssl/evp.h>
12 #include <openssl/params.h>
13 #include <openssl/crypto.h>
14 #include "e_os.h"
15 /*
16  * We're cheating here. Normally we don't allow RUN_ONCE usage inside the FIPS
17  * module because all such initialisation should be associated with an
18  * individual OPENSSL_CTX. That doesn't work with the self test though because
19  * it should be run once regardless of the number of OPENSSL_CTXs we have.
20  */
21 #define ALLOW_RUN_ONCE_IN_FIPS
22 #include <internal/thread_once.h>
23 #include "selftest.h"
24
25 #define FIPS_STATE_INIT     0
26 #define FIPS_STATE_SELFTEST 1
27 #define FIPS_STATE_RUNNING  2
28 #define FIPS_STATE_ERROR    3
29
30 /* The size of a temp buffer used to read in data */
31 #define INTEGRITY_BUF_SIZE (4096)
32 #define MAX_MD_SIZE 64
33 #define MAC_NAME    "HMAC"
34 #define DIGEST_NAME "SHA256"
35
36 static int FIPS_state = FIPS_STATE_INIT;
37 static CRYPTO_RWLOCK *self_test_lock = NULL;
38 static unsigned char fixed_key[32] = { 0 };
39
40 static CRYPTO_ONCE fips_self_test_init = CRYPTO_ONCE_STATIC_INIT;
41 DEFINE_RUN_ONCE_STATIC(do_fips_self_test_init)
42 {
43     /*
44      * This lock gets freed in platform specific ways that may occur after we
45      * do mem leak checking. If we don't know how to free it for a particular
46      * platform then we just leak it deliberately. So we temporarily disable the
47      * mem leak checking while we allocate this.
48      */
49     self_test_lock = CRYPTO_THREAD_lock_new();
50     return self_test_lock != NULL;
51 }
52
53 #define DEP_DECLARE()                                                          \
54 void init(void);                                                               \
55 void cleanup(void);
56
57 /*
58  * This is the Default Entry Point (DEP) code. Every platform must have a DEP.
59  * See FIPS 140-2 IG 9.10
60  *
61  * If we're run on a platform where we don't know how to define the DEP then
62  * the self-tests will never get triggered (FIPS_state never moves to
63  * FIPS_STATE_SELFTEST). This will be detected as an error when SELF_TEST_post()
64  * is called from OSSL_provider_init(), and so the fips module will be unusable
65  * on those platforms.
66  */
67 #if defined(_WIN32) || defined(__CYGWIN__)
68 # ifdef __CYGWIN__
69 /* pick DLL_[PROCESS|THREAD]_[ATTACH|DETACH] definitions */
70 #  include <windows.h>
71 /*
72  * this has side-effect of _WIN32 getting defined, which otherwise is
73  * mutually exclusive with __CYGWIN__...
74  */
75 # endif
76
77 DEP_DECLARE()
78 # define DEP_INIT_ATTRIBUTE
79 # define DEP_FINI_ATTRIBUTE
80 BOOL WINAPI DllMain(HINSTANCE hinstDLL, DWORD fdwReason, LPVOID lpvReserved);
81 BOOL WINAPI DllMain(HINSTANCE hinstDLL, DWORD fdwReason, LPVOID lpvReserved)
82 {
83     switch (fdwReason) {
84     case DLL_PROCESS_ATTACH:
85         init();
86         break;
87     case DLL_PROCESS_DETACH:
88         cleanup();
89         break;
90     default:
91         break;
92     }
93     return TRUE;
94 }
95 #elif defined(__sun)
96
97 DEP_DECLARE() /* must be declared before pragma */
98 # define DEP_INIT_ATTRIBUTE
99 # define DEP_FINI_ATTRIBUTE
100 # pragma init(init)
101 # pragma fini(cleanup)
102
103 #elif defined(__hpux)
104
105 DEP_DECLARE()
106 # define DEP_INIT_ATTRIBUTE
107 # define DEP_FINI_ATTRIBUTE
108 # pragma init "init"
109 # pragma fini "cleanup"
110
111 #elif defined(__GNUC__)
112 # define DEP_INIT_ATTRIBUTE static __attribute__((constructor))
113 # define DEP_FINI_ATTRIBUTE static __attribute__((destructor))
114 #endif
115
116 #if defined(DEP_INIT_ATTRIBUTE) && defined(DEP_FINI_ATTRIBUTE)
117 DEP_INIT_ATTRIBUTE void init(void)
118 {
119     FIPS_state = FIPS_STATE_SELFTEST;
120 }
121
122 DEP_FINI_ATTRIBUTE void cleanup(void)
123 {
124     CRYPTO_THREAD_lock_free(self_test_lock);
125 }
126 #endif
127
128 /*
129  * Calculate the HMAC SHA256 of data read using a BIO and read_cb, and verify
130  * the result matches the expected value.
131  * Return 1 if verified, or 0 if it fails.
132  */
133 static int verify_integrity(BIO *bio, OSSL_BIO_read_ex_fn read_ex_cb,
134                             unsigned char *expected, size_t expected_len,
135                             OPENSSL_CTX *libctx)
136 {
137     int ret = 0, status;
138     unsigned char out[MAX_MD_SIZE];
139     unsigned char buf[INTEGRITY_BUF_SIZE];
140     size_t bytes_read = 0, out_len = 0;
141     EVP_MAC *mac = NULL;
142     EVP_MAC_CTX *ctx = NULL;
143     OSSL_PARAM params[3], *p = params;
144
145     mac = EVP_MAC_fetch(libctx, MAC_NAME, NULL);
146     ctx = EVP_MAC_CTX_new(mac);
147     if (mac == NULL || ctx == NULL)
148         goto err;
149
150     *p++ = OSSL_PARAM_construct_utf8_string("digest", DIGEST_NAME,
151                                             strlen(DIGEST_NAME) + 1);
152     *p++ = OSSL_PARAM_construct_octet_string("key", fixed_key,
153                                              sizeof(fixed_key));
154     *p = OSSL_PARAM_construct_end();
155
156     if (EVP_MAC_CTX_set_params(ctx, params) <= 0
157         || !EVP_MAC_init(ctx))
158         goto err;
159
160     while (1) {
161         status = read_ex_cb(bio, buf, sizeof(buf), &bytes_read);
162         if (status != 1)
163             break;
164         if (!EVP_MAC_update(ctx, buf, bytes_read))
165             goto err;
166     }
167     if (!EVP_MAC_final(ctx, out, &out_len, sizeof(out)))
168         goto err;
169
170     if (expected_len != out_len
171             || memcmp(expected, out, out_len) != 0)
172         goto err;
173     ret = 1;
174 err:
175     EVP_MAC_CTX_free(ctx);
176     EVP_MAC_free(mac);
177     return ret;
178 }
179
180 /* This API is triggered either on loading of the FIPS module or on demand */
181 int SELF_TEST_post(SELF_TEST_POST_PARAMS *st, int on_demand_test)
182 {
183     int ok = 0;
184     int kats_already_passed = 0;
185     long checksum_len;
186     BIO *bio_module = NULL, *bio_indicator = NULL;
187     unsigned char *module_checksum = NULL;
188     unsigned char *indicator_checksum = NULL;
189     int loclstate;
190
191     if (!RUN_ONCE(&fips_self_test_init, do_fips_self_test_init))
192         return 0;
193
194     CRYPTO_THREAD_read_lock(self_test_lock);
195     loclstate = FIPS_state;
196     CRYPTO_THREAD_unlock(self_test_lock);
197
198     if (loclstate == FIPS_STATE_RUNNING) {
199         if (!on_demand_test)
200             return 1;
201     } else if (loclstate != FIPS_STATE_SELFTEST) {
202         return 0;
203     }
204
205     CRYPTO_THREAD_write_lock(self_test_lock);
206     if (FIPS_state == FIPS_STATE_RUNNING) {
207         if (!on_demand_test) {
208             CRYPTO_THREAD_unlock(self_test_lock);
209             return 1;
210         }
211         FIPS_state = FIPS_STATE_SELFTEST;
212     } else if (FIPS_state != FIPS_STATE_SELFTEST) {
213         CRYPTO_THREAD_unlock(self_test_lock);
214         return 0;
215     }
216     if (st == NULL
217             || st->module_checksum_data == NULL)
218         goto end;
219
220     module_checksum = OPENSSL_hexstr2buf(st->module_checksum_data,
221                                          &checksum_len);
222     if (module_checksum == NULL)
223         goto end;
224     bio_module = (*st->bio_new_file_cb)(st->module_filename, "rb");
225
226     /* Always check the integrity of the fips module */
227     if (bio_module == NULL
228             || !verify_integrity(bio_module, st->bio_read_ex_cb,
229                                  module_checksum, checksum_len, st->libctx))
230         goto end;
231
232     /* This will be NULL during installation - so the self test KATS will run */
233     if (st->indicator_data != NULL) {
234         /*
235          * If the kats have already passed indicator is set - then check the
236          * integrity of the indicator.
237          */
238         if (st->indicator_checksum_data == NULL)
239             goto end;
240         indicator_checksum = OPENSSL_hexstr2buf(st->indicator_checksum_data,
241                                                 &checksum_len);
242         if (indicator_checksum == NULL)
243             goto end;
244
245         bio_indicator =
246             (*st->bio_new_buffer_cb)(st->indicator_data,
247                                      strlen(st->indicator_data));
248         if (bio_indicator == NULL
249                 || !verify_integrity(bio_indicator, st->bio_read_ex_cb,
250                                      indicator_checksum, checksum_len,
251                                      st->libctx))
252             goto end;
253         else
254             kats_already_passed = 1;
255     }
256
257     /* Only runs the KAT's during installation OR on_demand() */
258     if (on_demand_test || kats_already_passed == 0) {
259         /*TODO (3.0) Add self test KATS */
260     }
261     ok = 1;
262 end:
263     OPENSSL_free(module_checksum);
264     OPENSSL_free(indicator_checksum);
265
266     if (st != NULL) {
267         (*st->bio_free_cb)(bio_indicator);
268         (*st->bio_free_cb)(bio_module);
269     }
270     FIPS_state = ok ? FIPS_STATE_RUNNING : FIPS_STATE_ERROR;
271     CRYPTO_THREAD_unlock(self_test_lock);
272
273     return ok;
274 }