Enable the ability to seed the test RNG without randomising test ordering
authorMatt Caswell <matt@openssl.org>
Fri, 15 Sep 2023 13:29:05 +0000 (14:29 +0100)
committerPauli <pauli@openssl.org>
Wed, 20 Sep 2023 08:02:54 +0000 (18:02 +1000)
commit44fbe0de34137c7834dc81c1116d7538a2b4f773
treeb043c8a64b42405c40c99446fc10ba9f74184c83
parentbe01f609f98a8930f2c91b813715e515a88f4d54
Enable the ability to seed the test RNG without randomising test ordering

Numerous tests use the test_random() function to get a random number. If a
test fails then the seed that was used for the test RNG is displayed.
Setting the seed to the same value in a future run is supposed to cause the
same random numbers to be generated again.

The way to set the RNG seed again is to use the `OPENSSL_TEST_RAND_ORDER`
environment variable. However setting this environment variable *also*
randomises the test ordering as well as seeding the RNG. This in itself
calls test_random() so, in fact, when the test finally runs it gets
different random numbers to when it originally run (defeating the
repeatability objective).

This means that only way repeatability can be obtained is if the test was
originally run with `OPENSSL_TEST_RAND_ORDER` set to 0. If that wasn't done
then the seed printed when the test failed is not useful.

We introduce a new environment variable `OPENSSL_TEST_RAND_SEED` which can
be used to independently seed the test RNG without randomising the test
ordering. This can be used to get repeatability in cases where test ordering
randomisation was not done in the first place.

Reviewed-by: Dmitry Belyavskiy <beldmit@gmail.com>
Reviewed-by: Paul Dale <pauli@openssl.org>
(Merged from https://github.com/openssl/openssl/pull/22118)
test/testutil/driver.c