Restore the meaning of EVP_PKEY_print_private()
authorRichard Levitte <levitte@openssl.org>
Mon, 2 Oct 2023 07:12:12 +0000 (09:12 +0200)
committerRichard Levitte <levitte@openssl.org>
Wed, 4 Oct 2023 06:10:55 +0000 (08:10 +0200)
commit1296c2ec7866a4f2f4d210432c771142e8de33a0
tree8548d77e495580f3bc02f7920c905266f8e89149
parent2b74e75331a27fc89cad9c8ea6a26c70019300b5
Restore the meaning of EVP_PKEY_print_private()

With pre-3.0 OpenSSL, EVP_PKEY_print_private() calls the EVP_PKEY_ASN1_METHOD
function "priv_print", effectively asking the backend to print whatever it
regards as private key components.

In all backends that were built into libcrypto, this function printed what
was included in the private key structure, which usually includes the
public key components as well.

With OpenSSL 3.0, some of the corresponding key2text encoders got a
slightly different behavior, where the presence of the selector
OSSL_KEYMGMT_SELECT_PRIVATE_KEY without the presence of the selector
OSSL_KEYMGMT_SELECT_PUBLIC_KEY would only get what would intuitively be
regarded as private key components printed.  This isn't entirely consistent,
though, as the RSA key2text encoder will still print the public key
components regardless.

To compensate for the changed backend behavior, EVP_PKEY_print_private()
was made to ask the encoder to print the keypair rather than just the
private key, thereby moving the backend semantics to the application API.
Unfortunately, this causes confusion for providers where the key2text
encoder really should print the private key only.

This change restores the built-in 1.1.1 backend behavior in the encoders
that OpenSSL provides, and renders EVP_PKEY_print_private() more true to its
documented behavior, leaving it to the backend to decide what it regards as
"private key components".

Fixes #22233

Reviewed-by: Tomas Mraz <tomas@openssl.org>
Reviewed-by: Paul Dale <pauli@openssl.org>
(Merged from https://github.com/openssl/openssl/pull/22237)
crypto/evp/p_lib.c
include/openssl/evp.h
providers/implementations/encode_decode/encode_key2text.c