Properly check certificate in case of export ciphers.
[openssl.git] / include / openssl / rsa.h
1 /* crypto/rsa/rsa.h */
2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
3  * All rights reserved.
4  *
5  * This package is an SSL implementation written
6  * by Eric Young (eay@cryptsoft.com).
7  * The implementation was written so as to conform with Netscapes SSL.
8  *
9  * This library is free for commercial and non-commercial use as long as
10  * the following conditions are aheared to.  The following conditions
11  * apply to all code found in this distribution, be it the RC4, RSA,
12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
13  * included with this distribution is covered by the same copyright terms
14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
15  *
16  * Copyright remains Eric Young's, and as such any Copyright notices in
17  * the code are not to be removed.
18  * If this package is used in a product, Eric Young should be given attribution
19  * as the author of the parts of the library used.
20  * This can be in the form of a textual message at program startup or
21  * in documentation (online or textual) provided with the package.
22  *
23  * Redistribution and use in source and binary forms, with or without
24  * modification, are permitted provided that the following conditions
25  * are met:
26  * 1. Redistributions of source code must retain the copyright
27  *    notice, this list of conditions and the following disclaimer.
28  * 2. Redistributions in binary form must reproduce the above copyright
29  *    notice, this list of conditions and the following disclaimer in the
30  *    documentation and/or other materials provided with the distribution.
31  * 3. All advertising materials mentioning features or use of this software
32  *    must display the following acknowledgement:
33  *    "This product includes cryptographic software written by
34  *     Eric Young (eay@cryptsoft.com)"
35  *    The word 'cryptographic' can be left out if the rouines from the library
36  *    being used are not cryptographic related :-).
37  * 4. If you include any Windows specific code (or a derivative thereof) from
38  *    the apps directory (application code) you must include an acknowledgement:
39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
40  *
41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
51  * SUCH DAMAGE.
52  *
53  * The licence and distribution terms for any publically available version or
54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
55  * copied and put under another distribution licence
56  * [including the GNU Public Licence.]
57  */
58
59 #ifndef HEADER_RSA_H
60 # define HEADER_RSA_H
61
62 # include <openssl/asn1.h>
63
64 # include <openssl/bio.h>
65 # include <openssl/crypto.h>
66 # include <openssl/ossl_typ.h>
67 # ifdef OPENSSL_USE_DEPRECATED
68 #  include <openssl/bn.h>
69 # endif
70
71 # ifdef OPENSSL_NO_RSA
72 #  error RSA is disabled.
73 # endif
74
75 #ifdef  __cplusplus
76 extern "C" {
77 #endif
78
79 /* Declared already in ossl_typ.h */
80 /* typedef struct rsa_st RSA; */
81 /* typedef struct rsa_meth_st RSA_METHOD; */
82
83 struct rsa_meth_st {
84     const char *name;
85     int (*rsa_pub_enc) (int flen, const unsigned char *from,
86                         unsigned char *to, RSA *rsa, int padding);
87     int (*rsa_pub_dec) (int flen, const unsigned char *from,
88                         unsigned char *to, RSA *rsa, int padding);
89     int (*rsa_priv_enc) (int flen, const unsigned char *from,
90                          unsigned char *to, RSA *rsa, int padding);
91     int (*rsa_priv_dec) (int flen, const unsigned char *from,
92                          unsigned char *to, RSA *rsa, int padding);
93     /* Can be null */
94     int (*rsa_mod_exp) (BIGNUM *r0, const BIGNUM *I, RSA *rsa, BN_CTX *ctx);
95     /* Can be null */
96     int (*bn_mod_exp) (BIGNUM *r, const BIGNUM *a, const BIGNUM *p,
97                        const BIGNUM *m, BN_CTX *ctx, BN_MONT_CTX *m_ctx);
98     /* called at new */
99     int (*init) (RSA *rsa);
100     /* called at free */
101     int (*finish) (RSA *rsa);
102     /* RSA_METHOD_FLAG_* things */
103     int flags;
104     /* may be needed! */
105     char *app_data;
106     /*
107      * New sign and verify functions: some libraries don't allow arbitrary
108      * data to be signed/verified: this allows them to be used. Note: for
109      * this to work the RSA_public_decrypt() and RSA_private_encrypt() should
110      * *NOT* be used RSA_sign(), RSA_verify() should be used instead. Note:
111      * for backwards compatibility this functionality is only enabled if the
112      * RSA_FLAG_SIGN_VER option is set in 'flags'.
113      */
114     int (*rsa_sign) (int type,
115                      const unsigned char *m, unsigned int m_length,
116                      unsigned char *sigret, unsigned int *siglen,
117                      const RSA *rsa);
118     int (*rsa_verify) (int dtype, const unsigned char *m,
119                        unsigned int m_length, const unsigned char *sigbuf,
120                        unsigned int siglen, const RSA *rsa);
121     /*
122      * If this callback is NULL, the builtin software RSA key-gen will be
123      * used. This is for behavioural compatibility whilst the code gets
124      * rewired, but one day it would be nice to assume there are no such
125      * things as "builtin software" implementations.
126      */
127     int (*rsa_keygen) (RSA *rsa, int bits, BIGNUM *e, BN_GENCB *cb);
128 };
129
130 struct rsa_st {
131     /*
132      * The first parameter is used to pickup errors where this is passed
133      * instead of aEVP_PKEY, it is set to 0
134      */
135     int pad;
136     long version;
137     const RSA_METHOD *meth;
138     /* functional reference if 'meth' is ENGINE-provided */
139     ENGINE *engine;
140     BIGNUM *n;
141     BIGNUM *e;
142     BIGNUM *d;
143     BIGNUM *p;
144     BIGNUM *q;
145     BIGNUM *dmp1;
146     BIGNUM *dmq1;
147     BIGNUM *iqmp;
148     /* be careful using this if the RSA structure is shared */
149     CRYPTO_EX_DATA ex_data;
150     int references;
151     int flags;
152     /* Used to cache montgomery values */
153     BN_MONT_CTX *_method_mod_n;
154     BN_MONT_CTX *_method_mod_p;
155     BN_MONT_CTX *_method_mod_q;
156     /*
157      * all BIGNUM values are actually in the following data, if it is not
158      * NULL
159      */
160     char *bignum_data;
161     BN_BLINDING *blinding;
162     BN_BLINDING *mt_blinding;
163 };
164
165 # ifndef OPENSSL_RSA_MAX_MODULUS_BITS
166 #  define OPENSSL_RSA_MAX_MODULUS_BITS   16384
167 # endif
168
169 # define OPENSSL_RSA_FIPS_MIN_MODULUS_BITS 1024
170
171 # ifndef OPENSSL_RSA_SMALL_MODULUS_BITS
172 #  define OPENSSL_RSA_SMALL_MODULUS_BITS 3072
173 # endif
174 # ifndef OPENSSL_RSA_MAX_PUBEXP_BITS
175
176 /* exponent limit enforced for "large" modulus only */
177 #  define OPENSSL_RSA_MAX_PUBEXP_BITS    64
178 # endif
179
180 # define RSA_3   0x3L
181 # define RSA_F4  0x10001L
182
183 # define RSA_METHOD_FLAG_NO_CHECK        0x0001/* don't check pub/private
184                                                 * match */
185
186 # define RSA_FLAG_CACHE_PUBLIC           0x0002
187 # define RSA_FLAG_CACHE_PRIVATE          0x0004
188 # define RSA_FLAG_BLINDING               0x0008
189 # define RSA_FLAG_THREAD_SAFE            0x0010
190 /*
191  * This flag means the private key operations will be handled by rsa_mod_exp
192  * and that they do not depend on the private key components being present:
193  * for example a key stored in external hardware. Without this flag
194  * bn_mod_exp gets called when private key components are absent.
195  */
196 # define RSA_FLAG_EXT_PKEY               0x0020
197
198 /*
199  * This flag in the RSA_METHOD enables the new rsa_sign, rsa_verify
200  * functions.
201  */
202 # define RSA_FLAG_SIGN_VER               0x0040
203
204 /*
205  * new with 0.9.6j and 0.9.7b; the built-in
206  * RSA implementation now uses blinding by
207  * default (ignoring RSA_FLAG_BLINDING),
208  * but other engines might not need it
209  */
210 # define RSA_FLAG_NO_BLINDING            0x0080
211 /*
212  * new with 0.9.8f; the built-in RSA
213  * implementation now uses constant time
214  * operations by default in private key operations,
215  * e.g., constant time modular exponentiation,
216  * modular inverse without leaking branches,
217  * division without leaking branches. This
218  * flag disables these constant time
219  * operations and results in faster RSA
220  * private key operations.
221  */
222 # define RSA_FLAG_NO_CONSTTIME           0x0100
223 # ifdef OPENSSL_USE_DEPRECATED
224 /* deprecated name for the flag*/
225 /*
226  * new with 0.9.7h; the built-in RSA
227  * implementation now uses constant time
228  * modular exponentiation for secret exponents
229  * by default. This flag causes the
230  * faster variable sliding window method to
231  * be used for all exponents.
232  */
233 #  define RSA_FLAG_NO_EXP_CONSTTIME RSA_FLAG_NO_CONSTTIME
234 # endif
235
236 # define EVP_PKEY_CTX_set_rsa_padding(ctx, pad) \
237         EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, -1, EVP_PKEY_CTRL_RSA_PADDING, \
238                                 pad, NULL)
239
240 # define EVP_PKEY_CTX_get_rsa_padding(ctx, ppad) \
241         EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, -1, \
242                                 EVP_PKEY_CTRL_GET_RSA_PADDING, 0, ppad)
243
244 # define EVP_PKEY_CTX_set_rsa_pss_saltlen(ctx, len) \
245         EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, \
246                                 (EVP_PKEY_OP_SIGN|EVP_PKEY_OP_VERIFY), \
247                                 EVP_PKEY_CTRL_RSA_PSS_SALTLEN, \
248                                 len, NULL)
249
250 # define EVP_PKEY_CTX_get_rsa_pss_saltlen(ctx, plen) \
251         EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, \
252                                 (EVP_PKEY_OP_SIGN|EVP_PKEY_OP_VERIFY), \
253                                 EVP_PKEY_CTRL_GET_RSA_PSS_SALTLEN, \
254                                 0, plen)
255
256 # define EVP_PKEY_CTX_set_rsa_keygen_bits(ctx, bits) \
257         EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, EVP_PKEY_OP_KEYGEN, \
258                                 EVP_PKEY_CTRL_RSA_KEYGEN_BITS, bits, NULL)
259
260 # define EVP_PKEY_CTX_set_rsa_keygen_pubexp(ctx, pubexp) \
261         EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, EVP_PKEY_OP_KEYGEN, \
262                                 EVP_PKEY_CTRL_RSA_KEYGEN_PUBEXP, 0, pubexp)
263
264 # define  EVP_PKEY_CTX_set_rsa_mgf1_md(ctx, md)  \
265                 EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, \
266                         EVP_PKEY_OP_TYPE_SIG | EVP_PKEY_OP_TYPE_CRYPT, \
267                                 EVP_PKEY_CTRL_RSA_MGF1_MD, 0, (void *)md)
268
269 # define  EVP_PKEY_CTX_set_rsa_oaep_md(ctx, md)  \
270                 EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, EVP_PKEY_OP_TYPE_CRYPT,  \
271                                 EVP_PKEY_CTRL_RSA_OAEP_MD, 0, (void *)md)
272
273 # define  EVP_PKEY_CTX_get_rsa_mgf1_md(ctx, pmd) \
274                 EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, \
275                         EVP_PKEY_OP_TYPE_SIG | EVP_PKEY_OP_TYPE_CRYPT, \
276                                 EVP_PKEY_CTRL_GET_RSA_MGF1_MD, 0, (void *)pmd)
277
278 # define  EVP_PKEY_CTX_get_rsa_oaep_md(ctx, pmd) \
279                 EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, EVP_PKEY_OP_TYPE_CRYPT,  \
280                                 EVP_PKEY_CTRL_GET_RSA_OAEP_MD, 0, (void *)pmd)
281
282 # define  EVP_PKEY_CTX_set0_rsa_oaep_label(ctx, l, llen) \
283                 EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, EVP_PKEY_OP_TYPE_CRYPT,  \
284                                 EVP_PKEY_CTRL_RSA_OAEP_LABEL, llen, (void *)l)
285
286 # define  EVP_PKEY_CTX_get0_rsa_oaep_label(ctx, l)       \
287                 EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA, EVP_PKEY_OP_TYPE_CRYPT,  \
288                                 EVP_PKEY_CTRL_GET_RSA_OAEP_LABEL, 0, (void *)l)
289
290 # define EVP_PKEY_CTRL_RSA_PADDING       (EVP_PKEY_ALG_CTRL + 1)
291 # define EVP_PKEY_CTRL_RSA_PSS_SALTLEN   (EVP_PKEY_ALG_CTRL + 2)
292
293 # define EVP_PKEY_CTRL_RSA_KEYGEN_BITS   (EVP_PKEY_ALG_CTRL + 3)
294 # define EVP_PKEY_CTRL_RSA_KEYGEN_PUBEXP (EVP_PKEY_ALG_CTRL + 4)
295 # define EVP_PKEY_CTRL_RSA_MGF1_MD       (EVP_PKEY_ALG_CTRL + 5)
296
297 # define EVP_PKEY_CTRL_GET_RSA_PADDING           (EVP_PKEY_ALG_CTRL + 6)
298 # define EVP_PKEY_CTRL_GET_RSA_PSS_SALTLEN       (EVP_PKEY_ALG_CTRL + 7)
299 # define EVP_PKEY_CTRL_GET_RSA_MGF1_MD           (EVP_PKEY_ALG_CTRL + 8)
300
301 # define EVP_PKEY_CTRL_RSA_OAEP_MD       (EVP_PKEY_ALG_CTRL + 9)
302 # define EVP_PKEY_CTRL_RSA_OAEP_LABEL    (EVP_PKEY_ALG_CTRL + 10)
303
304 # define EVP_PKEY_CTRL_GET_RSA_OAEP_MD   (EVP_PKEY_ALG_CTRL + 11)
305 # define EVP_PKEY_CTRL_GET_RSA_OAEP_LABEL (EVP_PKEY_ALG_CTRL + 12)
306
307 # define RSA_PKCS1_PADDING       1
308 # define RSA_SSLV23_PADDING      2
309 # define RSA_NO_PADDING          3
310 # define RSA_PKCS1_OAEP_PADDING  4
311 # define RSA_X931_PADDING        5
312 /* EVP_PKEY_ only */
313 # define RSA_PKCS1_PSS_PADDING   6
314
315 # define RSA_PKCS1_PADDING_SIZE  11
316
317 # define RSA_set_app_data(s,arg)         RSA_set_ex_data(s,0,arg)
318 # define RSA_get_app_data(s)             RSA_get_ex_data(s,0)
319
320 RSA *RSA_new(void);
321 RSA *RSA_new_method(ENGINE *engine);
322 int RSA_bits(const RSA *rsa);
323 int RSA_size(const RSA *rsa);
324 int RSA_security_bits(const RSA *rsa);
325
326 /* Deprecated version */
327 # ifdef OPENSSL_USE_DEPRECATED
328 DECLARE_DEPRECATED(RSA *RSA_generate_key(int bits, unsigned long e, void
329                                           (*callback) (int, int, void *),
330                                          void *cb_arg));
331 # endif                         /* defined(OPENSSL_USE_DEPRECATED) */
332
333 /* New version */
334 int RSA_generate_key_ex(RSA *rsa, int bits, BIGNUM *e, BN_GENCB *cb);
335
336 int RSA_X931_derive_ex(RSA *rsa, BIGNUM *p1, BIGNUM *p2, BIGNUM *q1,
337                        BIGNUM *q2, const BIGNUM *Xp1, const BIGNUM *Xp2,
338                        const BIGNUM *Xp, const BIGNUM *Xq1, const BIGNUM *Xq2,
339                        const BIGNUM *Xq, const BIGNUM *e, BN_GENCB *cb);
340 int RSA_X931_generate_key_ex(RSA *rsa, int bits, const BIGNUM *e,
341                              BN_GENCB *cb);
342
343 int RSA_check_key(const RSA *);
344 int RSA_check_key_ex(const RSA *, BN_GENCB *cb);
345         /* next 4 return -1 on error */
346 int RSA_public_encrypt(int flen, const unsigned char *from,
347                        unsigned char *to, RSA *rsa, int padding);
348 int RSA_private_encrypt(int flen, const unsigned char *from,
349                         unsigned char *to, RSA *rsa, int padding);
350 int RSA_public_decrypt(int flen, const unsigned char *from,
351                        unsigned char *to, RSA *rsa, int padding);
352 int RSA_private_decrypt(int flen, const unsigned char *from,
353                         unsigned char *to, RSA *rsa, int padding);
354 void RSA_free(RSA *r);
355 /* "up" the RSA object's reference count */
356 int RSA_up_ref(RSA *r);
357
358 int RSA_flags(const RSA *r);
359
360 void RSA_set_default_method(const RSA_METHOD *meth);
361 const RSA_METHOD *RSA_get_default_method(void);
362 const RSA_METHOD *RSA_get_method(const RSA *rsa);
363 int RSA_set_method(RSA *rsa, const RSA_METHOD *meth);
364
365 /* This function needs the memory locking malloc callbacks to be installed */
366 int RSA_memory_lock(RSA *r);
367
368 /* these are the actual SSLeay RSA functions */
369 const RSA_METHOD *RSA_PKCS1_SSLeay(void);
370
371 const RSA_METHOD *RSA_null_method(void);
372
373 DECLARE_ASN1_ENCODE_FUNCTIONS_const(RSA, RSAPublicKey)
374 DECLARE_ASN1_ENCODE_FUNCTIONS_const(RSA, RSAPrivateKey)
375
376 typedef struct rsa_pss_params_st {
377     X509_ALGOR *hashAlgorithm;
378     X509_ALGOR *maskGenAlgorithm;
379     ASN1_INTEGER *saltLength;
380     ASN1_INTEGER *trailerField;
381 } RSA_PSS_PARAMS;
382
383 DECLARE_ASN1_FUNCTIONS(RSA_PSS_PARAMS)
384
385 typedef struct rsa_oaep_params_st {
386     X509_ALGOR *hashFunc;
387     X509_ALGOR *maskGenFunc;
388     X509_ALGOR *pSourceFunc;
389 } RSA_OAEP_PARAMS;
390
391 DECLARE_ASN1_FUNCTIONS(RSA_OAEP_PARAMS)
392
393 # ifndef OPENSSL_NO_STDIO
394 int RSA_print_fp(FILE *fp, const RSA *r, int offset);
395 # endif
396
397 int RSA_print(BIO *bp, const RSA *r, int offset);
398
399 # ifndef OPENSSL_NO_RC4
400 int i2d_RSA_NET(const RSA *a, unsigned char **pp,
401                 int (*cb) (char *buf, int len, const char *prompt,
402                            int verify), int sgckey);
403 RSA *d2i_RSA_NET(RSA **a, const unsigned char **pp, long length,
404                  int (*cb) (char *buf, int len, const char *prompt,
405                             int verify), int sgckey);
406
407 int i2d_Netscape_RSA(const RSA *a, unsigned char **pp,
408                      int (*cb) (char *buf, int len, const char *prompt,
409                                 int verify));
410 RSA *d2i_Netscape_RSA(RSA **a, const unsigned char **pp, long length,
411                       int (*cb) (char *buf, int len, const char *prompt,
412                                  int verify));
413 # endif
414
415 /*
416  * The following 2 functions sign and verify a X509_SIG ASN1 object inside
417  * PKCS#1 padded RSA encryption
418  */
419 int RSA_sign(int type, const unsigned char *m, unsigned int m_length,
420              unsigned char *sigret, unsigned int *siglen, RSA *rsa);
421 int RSA_verify(int type, const unsigned char *m, unsigned int m_length,
422                const unsigned char *sigbuf, unsigned int siglen, RSA *rsa);
423
424 /*
425  * The following 2 function sign and verify a ASN1_OCTET_STRING object inside
426  * PKCS#1 padded RSA encryption
427  */
428 int RSA_sign_ASN1_OCTET_STRING(int type,
429                                const unsigned char *m, unsigned int m_length,
430                                unsigned char *sigret, unsigned int *siglen,
431                                RSA *rsa);
432 int RSA_verify_ASN1_OCTET_STRING(int type, const unsigned char *m,
433                                  unsigned int m_length, unsigned char *sigbuf,
434                                  unsigned int siglen, RSA *rsa);
435
436 int RSA_blinding_on(RSA *rsa, BN_CTX *ctx);
437 void RSA_blinding_off(RSA *rsa);
438 BN_BLINDING *RSA_setup_blinding(RSA *rsa, BN_CTX *ctx);
439
440 int RSA_padding_add_PKCS1_type_1(unsigned char *to, int tlen,
441                                  const unsigned char *f, int fl);
442 int RSA_padding_check_PKCS1_type_1(unsigned char *to, int tlen,
443                                    const unsigned char *f, int fl,
444                                    int rsa_len);
445 int RSA_padding_add_PKCS1_type_2(unsigned char *to, int tlen,
446                                  const unsigned char *f, int fl);
447 int RSA_padding_check_PKCS1_type_2(unsigned char *to, int tlen,
448                                    const unsigned char *f, int fl,
449                                    int rsa_len);
450 int PKCS1_MGF1(unsigned char *mask, long len, const unsigned char *seed,
451                long seedlen, const EVP_MD *dgst);
452 int RSA_padding_add_PKCS1_OAEP(unsigned char *to, int tlen,
453                                const unsigned char *f, int fl,
454                                const unsigned char *p, int pl);
455 int RSA_padding_check_PKCS1_OAEP(unsigned char *to, int tlen,
456                                  const unsigned char *f, int fl, int rsa_len,
457                                  const unsigned char *p, int pl);
458 int RSA_padding_add_PKCS1_OAEP_mgf1(unsigned char *to, int tlen,
459                                     const unsigned char *from, int flen,
460                                     const unsigned char *param, int plen,
461                                     const EVP_MD *md, const EVP_MD *mgf1md);
462 int RSA_padding_check_PKCS1_OAEP_mgf1(unsigned char *to, int tlen,
463                                       const unsigned char *from, int flen,
464                                       int num, const unsigned char *param,
465                                       int plen, const EVP_MD *md,
466                                       const EVP_MD *mgf1md);
467 int RSA_padding_add_SSLv23(unsigned char *to, int tlen,
468                            const unsigned char *f, int fl);
469 int RSA_padding_check_SSLv23(unsigned char *to, int tlen,
470                              const unsigned char *f, int fl, int rsa_len);
471 int RSA_padding_add_none(unsigned char *to, int tlen, const unsigned char *f,
472                          int fl);
473 int RSA_padding_check_none(unsigned char *to, int tlen,
474                            const unsigned char *f, int fl, int rsa_len);
475 int RSA_padding_add_X931(unsigned char *to, int tlen, const unsigned char *f,
476                          int fl);
477 int RSA_padding_check_X931(unsigned char *to, int tlen,
478                            const unsigned char *f, int fl, int rsa_len);
479 int RSA_X931_hash_id(int nid);
480
481 int RSA_verify_PKCS1_PSS(RSA *rsa, const unsigned char *mHash,
482                          const EVP_MD *Hash, const unsigned char *EM,
483                          int sLen);
484 int RSA_padding_add_PKCS1_PSS(RSA *rsa, unsigned char *EM,
485                               const unsigned char *mHash, const EVP_MD *Hash,
486                               int sLen);
487
488 int RSA_verify_PKCS1_PSS_mgf1(RSA *rsa, const unsigned char *mHash,
489                               const EVP_MD *Hash, const EVP_MD *mgf1Hash,
490                               const unsigned char *EM, int sLen);
491
492 int RSA_padding_add_PKCS1_PSS_mgf1(RSA *rsa, unsigned char *EM,
493                                    const unsigned char *mHash,
494                                    const EVP_MD *Hash, const EVP_MD *mgf1Hash,
495                                    int sLen);
496
497 int RSA_get_ex_new_index(long argl, void *argp, CRYPTO_EX_new *new_func,
498                          CRYPTO_EX_dup *dup_func, CRYPTO_EX_free *free_func);
499 int RSA_set_ex_data(RSA *r, int idx, void *arg);
500 void *RSA_get_ex_data(const RSA *r, int idx);
501
502 RSA *RSAPublicKey_dup(RSA *rsa);
503 RSA *RSAPrivateKey_dup(RSA *rsa);
504
505 /*
506  * If this flag is set the RSA method is FIPS compliant and can be used in
507  * FIPS mode. This is set in the validated module method. If an application
508  * sets this flag in its own methods it is its responsibility to ensure the
509  * result is compliant.
510  */
511
512 # define RSA_FLAG_FIPS_METHOD                    0x0400
513
514 /*
515  * If this flag is set the operations normally disabled in FIPS mode are
516  * permitted it is then the applications responsibility to ensure that the
517  * usage is compliant.
518  */
519
520 # define RSA_FLAG_NON_FIPS_ALLOW                 0x0400
521 /*
522  * Application has decided PRNG is good enough to generate a key: don't
523  * check.
524  */
525 # define RSA_FLAG_CHECKED                        0x0800
526
527 /* BEGIN ERROR CODES */
528 /*
529  * The following lines are auto generated by the script mkerr.pl. Any changes
530  * made after this point may be overwritten when the script is next run.
531  */
532 void ERR_load_RSA_strings(void);
533
534 /* Error codes for the RSA functions. */
535
536 /* Function codes. */
537 # define RSA_F_CHECK_PADDING_MD                           140
538 # define RSA_F_DO_RSA_PRINT                               146
539 # define RSA_F_FIPS_RSA_SIGN_DIGEST                       149
540 # define RSA_F_FIPS_RSA_VERIFY                            150
541 # define RSA_F_FIPS_RSA_VERIFY_DIGEST                     151
542 # define RSA_F_INT_RSA_VERIFY                             145
543 # define RSA_F_MEMORY_LOCK                                100
544 # define RSA_F_OLD_RSA_PRIV_DECODE                        147
545 # define RSA_F_PKEY_RSA_CTRL                              143
546 # define RSA_F_PKEY_RSA_CTRL_STR                          144
547 # define RSA_F_PKEY_RSA_SIGN                              142
548 # define RSA_F_PKEY_RSA_VERIFYRECOVER                     141
549 # define RSA_F_RSA_ALGOR_TO_MD                            156
550 # define RSA_F_RSA_BUILTIN_KEYGEN                         129
551 # define RSA_F_RSA_CHECK_KEY                              123
552 # define RSA_F_RSA_CHECK_KEY_EX                           160
553 # define RSA_F_RSA_CMS_DECRYPT                            159
554 # define RSA_F_RSA_EAY_PRIVATE_DECRYPT                    101
555 # define RSA_F_RSA_EAY_PRIVATE_ENCRYPT                    102
556 # define RSA_F_RSA_EAY_PUBLIC_DECRYPT                     103
557 # define RSA_F_RSA_EAY_PUBLIC_ENCRYPT                     104
558 # define RSA_F_RSA_GENERATE_KEY                           105
559 # define RSA_F_RSA_ITEM_VERIFY                            148
560 # define RSA_F_RSA_MEMORY_LOCK                            130
561 # define RSA_F_RSA_MGF1_TO_MD                             157
562 # define RSA_F_RSA_NEW_METHOD                             106
563 # define RSA_F_RSA_NULL                                   124
564 # define RSA_F_RSA_NULL_MOD_EXP                           131
565 # define RSA_F_RSA_NULL_PRIVATE_DECRYPT                   132
566 # define RSA_F_RSA_NULL_PRIVATE_ENCRYPT                   133
567 # define RSA_F_RSA_NULL_PUBLIC_DECRYPT                    134
568 # define RSA_F_RSA_NULL_PUBLIC_ENCRYPT                    135
569 # define RSA_F_RSA_OAEP_TO_CTX                            158
570 # define RSA_F_RSA_PADDING_ADD_NONE                       107
571 # define RSA_F_RSA_PADDING_ADD_PKCS1_OAEP                 121
572 # define RSA_F_RSA_PADDING_ADD_PKCS1_OAEP_MGF1            154
573 # define RSA_F_RSA_PADDING_ADD_PKCS1_PSS                  125
574 # define RSA_F_RSA_PADDING_ADD_PKCS1_PSS_MGF1             152
575 # define RSA_F_RSA_PADDING_ADD_PKCS1_TYPE_1               108
576 # define RSA_F_RSA_PADDING_ADD_PKCS1_TYPE_2               109
577 # define RSA_F_RSA_PADDING_ADD_SSLV23                     110
578 # define RSA_F_RSA_PADDING_ADD_X931                       127
579 # define RSA_F_RSA_PADDING_CHECK_NONE                     111
580 # define RSA_F_RSA_PADDING_CHECK_PKCS1_OAEP               122
581 # define RSA_F_RSA_PADDING_CHECK_PKCS1_OAEP_MGF1          153
582 # define RSA_F_RSA_PADDING_CHECK_PKCS1_TYPE_1             112
583 # define RSA_F_RSA_PADDING_CHECK_PKCS1_TYPE_2             113
584 # define RSA_F_RSA_PADDING_CHECK_SSLV23                   114
585 # define RSA_F_RSA_PADDING_CHECK_X931                     128
586 # define RSA_F_RSA_PRINT                                  115
587 # define RSA_F_RSA_PRINT_FP                               116
588 # define RSA_F_RSA_PRIV_DECODE                            137
589 # define RSA_F_RSA_PRIV_ENCODE                            138
590 # define RSA_F_RSA_PSS_TO_CTX                             155
591 # define RSA_F_RSA_PUB_DECODE                             139
592 # define RSA_F_RSA_SETUP_BLINDING                         136
593 # define RSA_F_RSA_SIGN                                   117
594 # define RSA_F_RSA_SIGN_ASN1_OCTET_STRING                 118
595 # define RSA_F_RSA_VERIFY                                 119
596 # define RSA_F_RSA_VERIFY_ASN1_OCTET_STRING               120
597 # define RSA_F_RSA_VERIFY_PKCS1_PSS_MGF1                  126
598
599 /* Reason codes. */
600 # define RSA_R_ALGORITHM_MISMATCH                         100
601 # define RSA_R_BAD_E_VALUE                                101
602 # define RSA_R_BAD_FIXED_HEADER_DECRYPT                   102
603 # define RSA_R_BAD_PAD_BYTE_COUNT                         103
604 # define RSA_R_BAD_SIGNATURE                              104
605 # define RSA_R_BLOCK_TYPE_IS_NOT_01                       106
606 # define RSA_R_BLOCK_TYPE_IS_NOT_02                       107
607 # define RSA_R_DATA_GREATER_THAN_MOD_LEN                  108
608 # define RSA_R_DATA_TOO_LARGE                             109
609 # define RSA_R_DATA_TOO_LARGE_FOR_KEY_SIZE                110
610 # define RSA_R_DATA_TOO_LARGE_FOR_MODULUS                 132
611 # define RSA_R_DATA_TOO_SMALL                             111
612 # define RSA_R_DATA_TOO_SMALL_FOR_KEY_SIZE                122
613 # define RSA_R_DIGEST_DOES_NOT_MATCH                      158
614 # define RSA_R_DIGEST_TOO_BIG_FOR_RSA_KEY                 112
615 # define RSA_R_DMP1_NOT_CONGRUENT_TO_D                    124
616 # define RSA_R_DMQ1_NOT_CONGRUENT_TO_D                    125
617 # define RSA_R_D_E_NOT_CONGRUENT_TO_1                     123
618 # define RSA_R_FIRST_OCTET_INVALID                        133
619 # define RSA_R_ILLEGAL_OR_UNSUPPORTED_PADDING_MODE        144
620 # define RSA_R_INVALID_DIGEST                             157
621 # define RSA_R_INVALID_DIGEST_LENGTH                      143
622 # define RSA_R_INVALID_HEADER                             137
623 # define RSA_R_INVALID_KEYBITS                            145
624 # define RSA_R_INVALID_LABEL                              160
625 # define RSA_R_INVALID_MESSAGE_LENGTH                     131
626 # define RSA_R_INVALID_MGF1_MD                            156
627 # define RSA_R_INVALID_OAEP_PARAMETERS                    161
628 # define RSA_R_INVALID_PADDING                            138
629 # define RSA_R_INVALID_PADDING_MODE                       141
630 # define RSA_R_INVALID_PSS_PARAMETERS                     149
631 # define RSA_R_INVALID_PSS_SALTLEN                        146
632 # define RSA_R_INVALID_SALT_LENGTH                        150
633 # define RSA_R_INVALID_TRAILER                            139
634 # define RSA_R_INVALID_X931_DIGEST                        142
635 # define RSA_R_IQMP_NOT_INVERSE_OF_Q                      126
636 # define RSA_R_KEY_SIZE_TOO_SMALL                         120
637 # define RSA_R_LAST_OCTET_INVALID                         134
638 # define RSA_R_MODULUS_TOO_LARGE                          105
639 # define RSA_R_NO_PUBLIC_EXPONENT                         140
640 # define RSA_R_NULL_BEFORE_BLOCK_MISSING                  113
641 # define RSA_R_N_DOES_NOT_EQUAL_P_Q                       127
642 # define RSA_R_OAEP_DECODING_ERROR                        121
643 # define RSA_R_OPERATION_NOT_SUPPORTED_FOR_THIS_KEYTYPE   148
644 # define RSA_R_PADDING_CHECK_FAILED                       114
645 # define RSA_R_PKCS_DECODING_ERROR                        159
646 # define RSA_R_P_NOT_PRIME                                128
647 # define RSA_R_Q_NOT_PRIME                                129
648 # define RSA_R_RSA_OPERATIONS_NOT_SUPPORTED               130
649 # define RSA_R_SLEN_CHECK_FAILED                          136
650 # define RSA_R_SLEN_RECOVERY_FAILED                       135
651 # define RSA_R_SSLV3_ROLLBACK_ATTACK                      115
652 # define RSA_R_THE_ASN1_OBJECT_IDENTIFIER_IS_NOT_KNOWN_FOR_THIS_MD 116
653 # define RSA_R_UNKNOWN_ALGORITHM_TYPE                     117
654 # define RSA_R_UNKNOWN_DIGEST                             166
655 # define RSA_R_UNKNOWN_MASK_DIGEST                        151
656 # define RSA_R_UNKNOWN_PADDING_TYPE                       118
657 # define RSA_R_UNKNOWN_PSS_DIGEST                         152
658 # define RSA_R_UNSUPPORTED_ENCRYPTION_TYPE                162
659 # define RSA_R_UNSUPPORTED_LABEL_SOURCE                   163
660 # define RSA_R_UNSUPPORTED_MASK_ALGORITHM                 153
661 # define RSA_R_UNSUPPORTED_MASK_PARAMETER                 154
662 # define RSA_R_UNSUPPORTED_SIGNATURE_TYPE                 155
663 # define RSA_R_VALUE_MISSING                              147
664 # define RSA_R_WRONG_SIGNATURE_LENGTH                     119
665
666 #ifdef  __cplusplus
667 }
668 #endif
669 #endif