X509_LOOKUP_store: new X509_LOOKUP_METHOD that works by OSSL_STORE URI
[openssl.git] / crypto / property / property.c
1 /*
2  * Copyright 2019 The OpenSSL Project Authors. All Rights Reserved.
3  * Copyright (c) 2019, Oracle and/or its affiliates.  All rights reserved.
4  *
5  * Licensed under the Apache License 2.0 (the "License").  You may not use
6  * this file except in compliance with the License.  You can obtain a copy
7  * in the file LICENSE in the source distribution or at
8  * https://www.openssl.org/source/license.html
9  */
10
11 #include <string.h>
12 #include <stdio.h>
13 #include <stdarg.h>
14 #include <openssl/crypto.h>
15 #include "internal/property.h"
16 #include "crypto/ctype.h"
17 #include <openssl/lhash.h>
18 #include <openssl/rand.h>
19 #include "internal/thread_once.h"
20 #include "crypto/lhash.h"
21 #include "crypto/sparse_array.h"
22 #include "property_local.h"
23
24 /* The number of elements in the query cache before we initiate a flush */
25 #define IMPL_CACHE_FLUSH_THRESHOLD  500
26
27 typedef struct {
28     const OSSL_PROVIDER *provider;
29     OSSL_PROPERTY_LIST *properties;
30     void *method;
31     void (*method_destruct)(void *);
32 } IMPLEMENTATION;
33
34 DEFINE_STACK_OF(IMPLEMENTATION)
35
36 typedef struct {
37     const char *query;
38     void *method;
39     char body[1];
40 } QUERY;
41
42 DEFINE_LHASH_OF(QUERY);
43
44 typedef struct {
45     int nid;
46     STACK_OF(IMPLEMENTATION) *impls;
47     LHASH_OF(QUERY) *cache;
48 } ALGORITHM;
49
50 struct ossl_method_store_st {
51     OPENSSL_CTX *ctx;
52     size_t nelem;
53     SPARSE_ARRAY_OF(ALGORITHM) *algs;
54     OSSL_PROPERTY_LIST *global_properties;
55     int need_flush;
56     CRYPTO_RWLOCK *lock;
57 };
58
59 typedef struct {
60     LHASH_OF(QUERY) *cache;
61     size_t nelem;
62     uint32_t seed;
63 } IMPL_CACHE_FLUSH;
64
65 DEFINE_SPARSE_ARRAY_OF(ALGORITHM);
66
67 static void ossl_method_cache_flush(OSSL_METHOD_STORE *store, int nid);
68 static void ossl_method_cache_flush_all(OSSL_METHOD_STORE *c);
69
70 int ossl_property_read_lock(OSSL_METHOD_STORE *p)
71 {
72     return p != NULL ? CRYPTO_THREAD_read_lock(p->lock) : 0;
73 }
74
75 int ossl_property_write_lock(OSSL_METHOD_STORE *p)
76 {
77     return p != NULL ? CRYPTO_THREAD_write_lock(p->lock) : 0;
78 }
79
80 int ossl_property_unlock(OSSL_METHOD_STORE *p)
81 {
82     return p != 0 ? CRYPTO_THREAD_unlock(p->lock) : 0;
83 }
84
85 static unsigned long query_hash(const QUERY *a)
86 {
87     return OPENSSL_LH_strhash(a->query);
88 }
89
90 static int query_cmp(const QUERY *a, const QUERY *b)
91 {
92     return strcmp(a->query, b->query);
93 }
94
95 static void impl_free(IMPLEMENTATION *impl)
96 {
97     if (impl != NULL) {
98         if (impl->method_destruct)
99             impl->method_destruct(impl->method);
100         OPENSSL_free(impl);
101     }
102 }
103
104 static void impl_cache_free(QUERY *elem)
105 {
106     OPENSSL_free(elem);
107 }
108
109 static void alg_cleanup(ossl_uintmax_t idx, ALGORITHM *a)
110 {
111     if (a != NULL) {
112         sk_IMPLEMENTATION_pop_free(a->impls, &impl_free);
113         lh_QUERY_doall(a->cache, &impl_cache_free);
114         lh_QUERY_free(a->cache);
115         OPENSSL_free(a);
116     }
117 }
118
119 /*
120  * The OPENSSL_CTX param here allows access to underlying property data needed
121  * for computation
122  */
123 OSSL_METHOD_STORE *ossl_method_store_new(OPENSSL_CTX *ctx)
124 {
125     OSSL_METHOD_STORE *res;
126
127     res = OPENSSL_zalloc(sizeof(*res));
128     if (res != NULL) {
129         res->ctx = ctx;
130         if ((res->algs = ossl_sa_ALGORITHM_new()) == NULL) {
131             OPENSSL_free(res);
132             return NULL;
133         }
134         if ((res->lock = CRYPTO_THREAD_lock_new()) == NULL) {
135             OPENSSL_free(res->algs);
136             OPENSSL_free(res);
137             return NULL;
138         }
139     }
140     return res;
141 }
142
143 void ossl_method_store_free(OSSL_METHOD_STORE *store)
144 {
145     if (store != NULL) {
146         ossl_sa_ALGORITHM_doall(store->algs, &alg_cleanup);
147         ossl_sa_ALGORITHM_free(store->algs);
148         ossl_property_free(store->global_properties);
149         CRYPTO_THREAD_lock_free(store->lock);
150         OPENSSL_free(store);
151     }
152 }
153
154 static ALGORITHM *ossl_method_store_retrieve(OSSL_METHOD_STORE *store, int nid)
155 {
156     return ossl_sa_ALGORITHM_get(store->algs, nid);
157 }
158
159 static int ossl_method_store_insert(OSSL_METHOD_STORE *store, ALGORITHM *alg)
160 {
161         return ossl_sa_ALGORITHM_set(store->algs, alg->nid, alg);
162 }
163
164 int ossl_method_store_add(OSSL_METHOD_STORE *store, const OSSL_PROVIDER *prov,
165                           int nid, const char *properties, void *method,
166                           int (*method_up_ref)(void *),
167                           void (*method_destruct)(void *))
168 {
169     ALGORITHM *alg = NULL;
170     IMPLEMENTATION *impl;
171     int ret = 0;
172     int i;
173
174     if (nid <= 0 || method == NULL || store == NULL)
175         return 0;
176     if (properties == NULL)
177         properties = "";
178
179     /* Create new entry */
180     impl = OPENSSL_malloc(sizeof(*impl));
181     if (impl == NULL)
182         return 0;
183     if (method_up_ref != NULL && !method_up_ref(method)) {
184         OPENSSL_free(impl);
185         return 0;
186     }
187     impl->provider = prov;
188     impl->method = method;
189     impl->method_destruct = method_destruct;
190
191     /*
192      * Insert into the hash table if required.
193      *
194      * A write lock is used unconditionally because we wend our way down to the
195      * property string code which isn't locking friendly.
196      */
197     ossl_property_write_lock(store);
198     ossl_method_cache_flush(store, nid);
199     if ((impl->properties = ossl_prop_defn_get(store->ctx, properties)) == NULL) {
200         impl->properties = ossl_parse_property(store->ctx, properties);
201         if (impl->properties == NULL)
202             goto err;
203         ossl_prop_defn_set(store->ctx, properties, impl->properties);
204     }
205
206     alg = ossl_method_store_retrieve(store, nid);
207     if (alg == NULL) {
208         if ((alg = OPENSSL_zalloc(sizeof(*alg))) == NULL
209                 || (alg->impls = sk_IMPLEMENTATION_new_null()) == NULL
210                 || (alg->cache = lh_QUERY_new(&query_hash, &query_cmp)) == NULL)
211             goto err;
212         alg->nid = nid;
213         if (!ossl_method_store_insert(store, alg))
214             goto err;
215     }
216
217     /* Push onto stack if there isn't one there already */
218     for (i = 0; i < sk_IMPLEMENTATION_num(alg->impls); i++) {
219         const IMPLEMENTATION *tmpimpl = sk_IMPLEMENTATION_value(alg->impls, i);
220
221         if (tmpimpl->provider == impl->provider
222             && tmpimpl->properties == impl->properties)
223             break;
224     }
225     if (i == sk_IMPLEMENTATION_num(alg->impls)
226         && sk_IMPLEMENTATION_push(alg->impls, impl))
227         ret = 1;
228     ossl_property_unlock(store);
229     if (ret == 0)
230         impl_free(impl);
231     return ret;
232
233 err:
234     ossl_property_unlock(store);
235     alg_cleanup(0, alg);
236     impl_free(impl);
237     return 0;
238 }
239
240 int ossl_method_store_remove(OSSL_METHOD_STORE *store, int nid,
241                              const void *method)
242 {
243     ALGORITHM *alg = NULL;
244     int i;
245
246     if (nid <= 0 || method == NULL || store == NULL)
247         return 0;
248
249     ossl_property_write_lock(store);
250     ossl_method_cache_flush(store, nid);
251     alg = ossl_method_store_retrieve(store, nid);
252     if (alg == NULL) {
253         ossl_property_unlock(store);
254         return 0;
255     }
256
257     /*
258      * A sorting find then a delete could be faster but these stacks should be
259      * relatively small, so we avoid the overhead.  Sorting could also surprise
260      * users when result orderings change (even though they are not guaranteed).
261      */
262     for (i = 0; i < sk_IMPLEMENTATION_num(alg->impls); i++) {
263         IMPLEMENTATION *impl = sk_IMPLEMENTATION_value(alg->impls, i);
264
265         if (impl->method == method) {
266             sk_IMPLEMENTATION_delete(alg->impls, i);
267             ossl_property_unlock(store);
268             impl_free(impl);
269             return 1;
270         }
271     }
272     ossl_property_unlock(store);
273     return 0;
274 }
275
276 int ossl_method_store_fetch(OSSL_METHOD_STORE *store, int nid,
277                             const char *prop_query, void **method)
278 {
279     ALGORITHM *alg;
280     IMPLEMENTATION *impl;
281     OSSL_PROPERTY_LIST *pq = NULL, *p2;
282     int ret = 0;
283     int j, best = -1, score, optional;
284
285 #ifndef FIPS_MODE
286     OPENSSL_init_crypto(OPENSSL_INIT_LOAD_CONFIG, NULL);
287 #endif
288
289     if (nid <= 0 || method == NULL || store == NULL)
290         return 0;
291
292     /*
293      * This only needs to be a read lock, because queries never create property
294      * names or value and thus don't modify any of the property string layer.
295      */
296     ossl_property_read_lock(store);
297     alg = ossl_method_store_retrieve(store, nid);
298     if (alg == NULL) {
299         ossl_property_unlock(store);
300         return 0;
301     }
302
303     if (prop_query == NULL) {
304         if ((impl = sk_IMPLEMENTATION_value(alg->impls, 0)) != NULL) {
305             *method = impl->method;
306             ret = 1;
307         }
308         goto fin;
309     }
310     pq = ossl_parse_query(store->ctx, prop_query);
311     if (pq == NULL)
312         goto fin;
313     if (store->global_properties != NULL) {
314         p2 = ossl_property_merge(pq, store->global_properties);
315         if (p2 == NULL)
316             goto fin;
317         ossl_property_free(pq);
318         pq = p2;
319     }
320     optional = ossl_property_has_optional(pq);
321     for (j = 0; j < sk_IMPLEMENTATION_num(alg->impls); j++) {
322         impl = sk_IMPLEMENTATION_value(alg->impls, j);
323         score = ossl_property_match_count(pq, impl->properties);
324         if (score > best) {
325             *method = impl->method;
326             ret = 1;
327             if (!optional)
328                 goto fin;
329             best = score;
330         }
331     }
332 fin:
333     ossl_property_unlock(store);
334     ossl_property_free(pq);
335     return ret;
336 }
337
338 int ossl_method_store_set_global_properties(OSSL_METHOD_STORE *store,
339                                             const char *prop_query) {
340     int ret = 0;
341
342     if (store == NULL)
343         return 1;
344
345     ossl_property_write_lock(store);
346     ossl_method_cache_flush_all(store);
347     if (prop_query == NULL) {
348         ossl_property_free(store->global_properties);
349         store->global_properties = NULL;
350         ossl_property_unlock(store);
351         return 1;
352     }
353     store->global_properties = ossl_parse_query(store->ctx, prop_query);
354     ret = store->global_properties != NULL;
355     ossl_property_unlock(store);
356     return ret;
357 }
358
359 static void impl_cache_flush_alg(ossl_uintmax_t idx, ALGORITHM *alg)
360 {
361     lh_QUERY_doall(alg->cache, &impl_cache_free);
362     lh_QUERY_flush(alg->cache);
363 }
364
365 static void ossl_method_cache_flush(OSSL_METHOD_STORE *store, int nid)
366 {
367     ALGORITHM *alg = ossl_method_store_retrieve(store, nid);
368
369     if (alg != NULL) {
370         store->nelem -= lh_QUERY_num_items(alg->cache);
371         impl_cache_flush_alg(0, alg);
372     }
373 }
374
375 static void ossl_method_cache_flush_all(OSSL_METHOD_STORE *store)
376 {
377     ossl_sa_ALGORITHM_doall(store->algs, &impl_cache_flush_alg);
378     store->nelem = 0;
379 }
380
381 IMPLEMENT_LHASH_DOALL_ARG(QUERY, IMPL_CACHE_FLUSH);
382
383 /*
384  * Flush an element from the query cache (perhaps).
385  *
386  * In order to avoid taking a write lock or using atomic operations
387  * to keep accurate least recently used (LRU) or least frequently used
388  * (LFU) information, the procedure used here is to stochastically
389  * flush approximately half the cache.
390  *
391  * This procedure isn't ideal, LRU or LFU would be better.  However,
392  * in normal operation, reaching a full cache would be unexpected.
393  * It means that no steady state of algorithm queries has been reached.
394  * That is, it is most likely an attack of some form.  A suboptimal clearance
395  * strategy that doesn't degrade performance of the normal case is
396  * preferable to a more refined approach that imposes a performance
397  * impact.
398  */
399 static void impl_cache_flush_cache(QUERY *c, IMPL_CACHE_FLUSH *state)
400 {
401     uint32_t n;
402
403     /*
404      * Implement the 32 bit xorshift as suggested by George Marsaglia in:
405      *      https://doi.org/10.18637/jss.v008.i14
406      *
407      * This is a very fast PRNG so there is no need to extract bits one at a
408      * time and use the entire value each time.
409      */
410     n = state->seed;
411     n ^= n << 13;
412     n ^= n >> 17;
413     n ^= n << 5;
414     state->seed = n;
415
416     if ((n & 1) != 0)
417         OPENSSL_free(lh_QUERY_delete(state->cache, c));
418     else
419         state->nelem++;
420 }
421
422 static void impl_cache_flush_one_alg(ossl_uintmax_t idx, ALGORITHM *alg,
423                                      void *v)
424 {
425     IMPL_CACHE_FLUSH *state = (IMPL_CACHE_FLUSH *)v;
426
427     state->cache = alg->cache;
428     lh_QUERY_doall_IMPL_CACHE_FLUSH(state->cache, &impl_cache_flush_cache,
429                                     state);
430 }
431
432 static void ossl_method_cache_flush_some(OSSL_METHOD_STORE *store)
433 {
434     IMPL_CACHE_FLUSH state;
435
436     state.nelem = 0;
437     if ((state.seed = OPENSSL_rdtsc()) == 0)
438         state.seed = 1;
439     store->need_flush = 0;
440     ossl_sa_ALGORITHM_doall_arg(store->algs, &impl_cache_flush_one_alg, &state);
441     store->nelem = state.nelem;
442 }
443
444 int ossl_method_store_cache_get(OSSL_METHOD_STORE *store, int nid,
445                                 const char *prop_query, void **method)
446 {
447     ALGORITHM *alg;
448     QUERY elem, *r;
449
450     if (nid <= 0 || store == NULL)
451         return 0;
452
453     ossl_property_read_lock(store);
454     alg = ossl_method_store_retrieve(store, nid);
455     if (alg == NULL) {
456         ossl_property_unlock(store);
457         return 0;
458     }
459
460     elem.query = prop_query != NULL ? prop_query : "";
461     r = lh_QUERY_retrieve(alg->cache, &elem);
462     if (r == NULL) {
463         ossl_property_unlock(store);
464         return 0;
465     }
466     *method = r->method;
467     ossl_property_unlock(store);
468     return 1;
469 }
470
471 int ossl_method_store_cache_set(OSSL_METHOD_STORE *store, int nid,
472                                 const char *prop_query, void *method)
473 {
474     QUERY elem, *old, *p = NULL;
475     ALGORITHM *alg;
476     size_t len;
477
478     if (nid <= 0 || store == NULL)
479         return 0;
480     if (prop_query == NULL)
481         return 1;
482
483     ossl_property_write_lock(store);
484     if (store->need_flush)
485         ossl_method_cache_flush_some(store);
486     alg = ossl_method_store_retrieve(store, nid);
487     if (alg == NULL) {
488         ossl_property_unlock(store);
489         return 0;
490     }
491
492     if (method == NULL) {
493         elem.query = prop_query;
494         if (lh_QUERY_delete(alg->cache, &elem) != NULL)
495             store->nelem--;
496         ossl_property_unlock(store);
497         return 1;
498     }
499     p = OPENSSL_malloc(sizeof(*p) + (len = strlen(prop_query)));
500     if (p != NULL) {
501         p->query = p->body;
502         p->method = method;
503         memcpy((char *)p->query, prop_query, len + 1);
504         if ((old = lh_QUERY_insert(alg->cache, p)) != NULL) {
505             OPENSSL_free(old);
506             ossl_property_unlock(store);
507             return 1;
508         }
509         if (!lh_QUERY_error(alg->cache)) {
510             if (++store->nelem >= IMPL_CACHE_FLUSH_THRESHOLD)
511                 store->need_flush = 1;
512             ossl_property_unlock(store);
513             return 1;
514         }
515     }
516     ossl_property_unlock(store);
517     OPENSSL_free(p);
518     return 0;
519 }