Clarify CMS_decrypt behaviour.
authorDr. Stephen Henson <steve@openssl.org>
Tue, 15 Apr 2014 17:17:12 +0000 (18:17 +0100)
committerDr. Stephen Henson <steve@openssl.org>
Tue, 15 Apr 2014 17:19:40 +0000 (18:19 +0100)
(cherry picked from commit 5f8e9a477a18551052f2019c1f374061acbaa5e6)

doc/crypto/CMS_decrypt.pod

index d857e4f93f6eba7842b083fd89a658779f8d1a05..3fa9212af32cf1c93dc50189fa3510c3068bb444 100644 (file)
@@ -27,7 +27,21 @@ function or errors about unknown algorithms will occur.
 
 Although the recipients certificate is not needed to decrypt the data it is
 needed to locate the appropriate (of possible several) recipients in the CMS
-structure. If B<cert> is set to NULL all possible recipients are tried.
+structure.
+
+If B<cert> is set to NULL all possible recipients are tried. This case however
+is problematic. To thwart the MMA attack (Bleichenbacher's attack on
+PKCS #1 v1.5 RSA padding) all recipients are tried whether they succeed or
+not. If no recipient succeeds then a random symmetric key is used to decrypt
+the content: this will typically output garbage and may (but is not guaranteed
+to) ultimately return a padding error only. If CMS_decrypt() just returned an
+error when all recipient encrypted keys failed to decrypt an attacker could
+use this in a timing attack. If the special flag B<CMS_DEBUG_DECRYPT> is set
+then the above behaviour is modified and an error B<is> returned if no
+recipient encrypted key can be decrypted B<without> generating a random
+content encryption key. Applications should use this flag with
+B<extreme caution> especially in automated gateways as it can leave them
+open to attack.
 
 It is possible to determine the correct recipient key by other means (for
 example looking them up in a database) and setting them in the CMS structure