Fix provider cipher reinit issue
authorShane Lontis <shane.lontis@oracle.com>
Wed, 22 Jul 2020 00:40:55 +0000 (10:40 +1000)
committerShane Lontis <shane.lontis@oracle.com>
Wed, 22 Jul 2020 00:40:55 +0000 (10:40 +1000)
commit90409da6a520812b0266fcb1303175406dea81fe
treea9d4fcbae513c3daaa7dabb9dce681e30465bd90
parent77174598920a05826a28d8a0bd87a3af43d3f4d8
Fix provider cipher reinit issue

Fixes #12405
Fixes #12377

Calling Init()/Update() and then Init()/Update() again gave a different result when using the same key and iv.
Cipher modes that were using ctx->num were not resetting this value, this includes OFB, CFB & CTR.
The fix is to reset this value during the ciphers einit() and dinit() methods.
Most ciphers go thru a generic method so one line fixes most cases.

Add test for calling EVP_EncryptInit()/EVP_EncryptUpdate() multiple times for all ciphers.
Ciphers should return the same value for both updates.
DES3-WRAP does not since it uses a random in the update.
CCM modes currently also fail on the second update (This also happens in 1_1_1).

Fix memory leak in AES_OCB cipher if EVP_EncryptInit is called multiple times.

Fix AES_SIV cipher dup_ctx and init.
Calling EVP_CIPHER_init multiple times resulted in a memory leak in the siv.
Fixing this leak also showed that the dup ctx was not working for siv mode.
Note: aes_siv_cleanup() can not be used by aes_siv_dupctx() as it clears data
that is required for the decrypt (e.g the tag).

Reviewed-by: Tomas Mraz <tmraz@fedoraproject.org>
(Merged from https://github.com/openssl/openssl/pull/12413)
12 files changed:
crypto/evp/e_aes.c
crypto/modes/siv128.c
include/crypto/siv.h
providers/implementations/ciphers/cipher_aes_ocb_hw.c
providers/implementations/ciphers/cipher_aes_siv.c
providers/implementations/ciphers/cipher_aes_siv.h
providers/implementations/ciphers/cipher_aes_siv_hw.c
providers/implementations/ciphers/cipher_des.c
providers/implementations/ciphers/cipher_tdes_common.c
providers/implementations/ciphers/ciphercommon.c
test/evp_libctx_test.c
test/recipes/30-test_evp_libctx.t