ssl/statem: Replace size_t with int and add the checks
[openssl.git] / include / openssl / rsa.h
1 /*
2  * Copyright 1995-2020 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the Apache License 2.0 (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #ifndef OPENSSL_RSA_H
11 # define OPENSSL_RSA_H
12 # pragma once
13
14 # include <openssl/macros.h>
15 # ifndef OPENSSL_NO_DEPRECATED_3_0
16 #  define HEADER_RSA_H
17 # endif
18
19 # include <openssl/opensslconf.h>
20
21 # ifndef OPENSSL_NO_RSA
22 #  include <openssl/asn1.h>
23 #  include <openssl/bio.h>
24 #  include <openssl/crypto.h>
25 #  include <openssl/types.h>
26 #  ifndef OPENSSL_NO_DEPRECATED_1_1_0
27 #   include <openssl/bn.h>
28 #  endif
29 #  include <openssl/rsaerr.h>
30 #  include <openssl/safestack.h>
31
32 #  ifdef  __cplusplus
33 extern "C" {
34 #  endif
35
36 #  ifndef OPENSSL_RSA_MAX_MODULUS_BITS
37 #   define OPENSSL_RSA_MAX_MODULUS_BITS   16384
38 #  endif
39
40 #  ifndef OPENSSL_NO_DEPRECATED_3_0
41 /* The types RSA and RSA_METHOD are defined in ossl_typ.h */
42
43 #   define OPENSSL_RSA_FIPS_MIN_MODULUS_BITS 2048
44
45 #   ifndef OPENSSL_RSA_SMALL_MODULUS_BITS
46 #    define OPENSSL_RSA_SMALL_MODULUS_BITS 3072
47 #   endif
48
49 /* exponent limit enforced for "large" modulus only */
50 #   ifndef OPENSSL_RSA_MAX_PUBEXP_BITS
51 #    define OPENSSL_RSA_MAX_PUBEXP_BITS    64
52 #   endif
53 #  endif /* OPENSSL_NO_DEPRECATED_3_0 */
54
55 #  define RSA_3   0x3L
56 #  define RSA_F4  0x10001L
57
58 #  ifndef OPENSSL_NO_DEPRECATED_3_0
59 /* based on RFC 8017 appendix A.1.2 */
60 #   define RSA_ASN1_VERSION_DEFAULT        0
61 #   define RSA_ASN1_VERSION_MULTI          1
62
63 #   define RSA_DEFAULT_PRIME_NUM           2
64 #  endif /* OPENSSL_NO_DEPRECATED_3_0 */
65
66 /* Don't check pub/private match */
67 /* TODO(3.0): deprecate this? It is exposed for sls/t1_lib.c's use */
68 #  define RSA_METHOD_FLAG_NO_CHECK        0x0001
69
70 #  ifndef OPENSSL_NO_DEPRECATED_3_0
71 #   define RSA_FLAG_CACHE_PUBLIC           0x0002
72 #   define RSA_FLAG_CACHE_PRIVATE          0x0004
73 #   define RSA_FLAG_BLINDING               0x0008
74 #   define RSA_FLAG_THREAD_SAFE            0x0010
75 /*
76  * This flag means the private key operations will be handled by rsa_mod_exp
77  * and that they do not depend on the private key components being present:
78  * for example a key stored in external hardware. Without this flag
79  * bn_mod_exp gets called when private key components are absent.
80  */
81 #   define RSA_FLAG_EXT_PKEY               0x0020
82
83 /*
84  * new with 0.9.6j and 0.9.7b; the built-in
85  * RSA implementation now uses blinding by
86  * default (ignoring RSA_FLAG_BLINDING),
87  * but other engines might not need it
88  */
89 #   define RSA_FLAG_NO_BLINDING            0x0080
90 #  endif /* OPENSSL_NO_DEPRECATED_3_0 */
91 /*
92  * Does nothing. Previously this switched off constant time behaviour.
93  */
94 #  ifndef OPENSSL_NO_DEPRECATED_1_1_0
95 #   define RSA_FLAG_NO_CONSTTIME           0x0000
96 #  endif
97 /* deprecated name for the flag*/
98 /*
99  * new with 0.9.7h; the built-in RSA
100  * implementation now uses constant time
101  * modular exponentiation for secret exponents
102  * by default. This flag causes the
103  * faster variable sliding window method to
104  * be used for all exponents.
105  */
106 #  ifndef OPENSSL_NO_DEPRECATED_0_9_8
107 #   define RSA_FLAG_NO_EXP_CONSTTIME RSA_FLAG_NO_CONSTTIME
108 #  endif
109
110 /*-
111  * New with 3.0: use part of the flags to denote exact type of RSA key,
112  * some of which are limited to specific signature and encryption schemes.
113  * These different types share the same RSA structure, but indicate the
114  * use of certain fields in that structure.
115  * Currently known are:
116  * RSA          - this is the "normal" unlimited RSA structure (typenum 0)
117  * RSASSA-PSS   - indicates that the PSS parameters are used.
118  * RSAES-OAEP   - no specific field used for the moment, but OAEP padding
119  *                is expected.  (currently unused)
120  *
121  * 4 bits allow for 16 types
122  */
123 #  define RSA_FLAG_TYPE_MASK            0xF000
124 #  define RSA_FLAG_TYPE_RSA             0x0000
125 #  define RSA_FLAG_TYPE_RSASSAPSS       0x1000
126 #  define RSA_FLAG_TYPE_RSAESOAEP       0x2000
127
128 int EVP_PKEY_CTX_set_rsa_padding(EVP_PKEY_CTX *ctx, int pad_mode);
129 int EVP_PKEY_CTX_get_rsa_padding(EVP_PKEY_CTX *ctx, int *pad_mode);
130
131 int EVP_PKEY_CTX_set_rsa_pss_saltlen(EVP_PKEY_CTX *ctx, int saltlen);
132 int EVP_PKEY_CTX_get_rsa_pss_saltlen(EVP_PKEY_CTX *ctx, int *saltlen);
133
134 int EVP_PKEY_CTX_set_rsa_keygen_bits(EVP_PKEY_CTX *ctx, int bits);
135 DEPRECATEDIN_3_0(int EVP_PKEY_CTX_set_rsa_keygen_pubexp(EVP_PKEY_CTX *ctx,
136                                                         BIGNUM *pubexp))
137 int EVP_PKEY_CTX_set1_rsa_keygen_pubexp(EVP_PKEY_CTX *ctx, BIGNUM *pubexp);
138 int EVP_PKEY_CTX_set_rsa_keygen_primes(EVP_PKEY_CTX *ctx, int primes);
139 int EVP_PKEY_CTX_set_rsa_pss_keygen_saltlen(EVP_PKEY_CTX *ctx, int saltlen);
140
141 /* Salt length matches digest */
142 #  define RSA_PSS_SALTLEN_DIGEST -1
143 /* Verify only: auto detect salt length */
144 #  define RSA_PSS_SALTLEN_AUTO   -2
145 /* Set salt length to maximum possible */
146 #  define RSA_PSS_SALTLEN_MAX    -3
147 /* Old compatible max salt length for sign only */
148 #  define RSA_PSS_SALTLEN_MAX_SIGN    -2
149
150 int EVP_PKEY_CTX_set_rsa_mgf1_md(EVP_PKEY_CTX *ctx, const EVP_MD *md);
151 int EVP_PKEY_CTX_set_rsa_mgf1_md_name(EVP_PKEY_CTX *ctx, const char *mdname,
152                                       const char *mdprops);
153 int EVP_PKEY_CTX_get_rsa_mgf1_md(EVP_PKEY_CTX *ctx, const EVP_MD **md);
154 int EVP_PKEY_CTX_get_rsa_mgf1_md_name(EVP_PKEY_CTX *ctx, char *name,
155                                       size_t namelen);
156 int EVP_PKEY_CTX_set_rsa_pss_keygen_mgf1_md(EVP_PKEY_CTX *ctx, const EVP_MD *md);
157 int EVP_PKEY_CTX_set_rsa_pss_keygen_mgf1_md_name(EVP_PKEY_CTX *ctx,
158                                                  const char *mdname);
159
160 int EVP_PKEY_CTX_set_rsa_oaep_md(EVP_PKEY_CTX *ctx, const EVP_MD *md);
161 int EVP_PKEY_CTX_set_rsa_oaep_md_name(EVP_PKEY_CTX *ctx, const char *mdname,
162                                       const char *mdprops);
163 int EVP_PKEY_CTX_get_rsa_oaep_md(EVP_PKEY_CTX *ctx, const EVP_MD **md);
164 int EVP_PKEY_CTX_get_rsa_oaep_md_name(EVP_PKEY_CTX *ctx, char *name,
165                                       size_t namelen);
166 int EVP_PKEY_CTX_set0_rsa_oaep_label(EVP_PKEY_CTX *ctx, void *label, int llen);
167 int EVP_PKEY_CTX_get0_rsa_oaep_label(EVP_PKEY_CTX *ctx, unsigned char **label);
168
169 #  define  EVP_PKEY_CTX_set_rsa_pss_keygen_md(ctx, md) \
170         EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_RSA_PSS,  \
171                           EVP_PKEY_OP_KEYGEN, EVP_PKEY_CTRL_MD,  \
172                           0, (void *)(md))
173
174
175 #  define EVP_PKEY_CTRL_RSA_PADDING       (EVP_PKEY_ALG_CTRL + 1)
176 #  define EVP_PKEY_CTRL_RSA_PSS_SALTLEN   (EVP_PKEY_ALG_CTRL + 2)
177
178 #  define EVP_PKEY_CTRL_RSA_KEYGEN_BITS   (EVP_PKEY_ALG_CTRL + 3)
179 #  define EVP_PKEY_CTRL_RSA_KEYGEN_PUBEXP (EVP_PKEY_ALG_CTRL + 4)
180 #  define EVP_PKEY_CTRL_RSA_MGF1_MD       (EVP_PKEY_ALG_CTRL + 5)
181
182 #  define EVP_PKEY_CTRL_GET_RSA_PADDING           (EVP_PKEY_ALG_CTRL + 6)
183 #  define EVP_PKEY_CTRL_GET_RSA_PSS_SALTLEN       (EVP_PKEY_ALG_CTRL + 7)
184 #  define EVP_PKEY_CTRL_GET_RSA_MGF1_MD           (EVP_PKEY_ALG_CTRL + 8)
185
186 #  define EVP_PKEY_CTRL_RSA_OAEP_MD       (EVP_PKEY_ALG_CTRL + 9)
187 #  define EVP_PKEY_CTRL_RSA_OAEP_LABEL    (EVP_PKEY_ALG_CTRL + 10)
188
189 #  define EVP_PKEY_CTRL_GET_RSA_OAEP_MD   (EVP_PKEY_ALG_CTRL + 11)
190 #  define EVP_PKEY_CTRL_GET_RSA_OAEP_LABEL (EVP_PKEY_ALG_CTRL + 12)
191
192 #  define EVP_PKEY_CTRL_RSA_KEYGEN_PRIMES  (EVP_PKEY_ALG_CTRL + 13)
193
194 #  define RSA_PKCS1_PADDING          1
195 #  define RSA_SSLV23_PADDING         2
196 #  define RSA_NO_PADDING             3
197 #  define RSA_PKCS1_OAEP_PADDING     4
198 #  define RSA_X931_PADDING           5
199
200 /* EVP_PKEY_ only */
201 #  define RSA_PKCS1_PSS_PADDING      6
202 #  define RSA_PKCS1_WITH_TLS_PADDING 7
203
204 #  define RSA_PKCS1_PADDING_SIZE    11
205
206 #  define RSA_set_app_data(s,arg)         RSA_set_ex_data(s,0,arg)
207 #  define RSA_get_app_data(s)             RSA_get_ex_data(s,0)
208
209 RSA *RSA_new(void);
210 DEPRECATEDIN_3_0(RSA *RSA_new_method(ENGINE *engine))
211 int RSA_bits(const RSA *rsa);
212 DEPRECATEDIN_3_0(int RSA_size(const RSA *rsa))
213 DEPRECATEDIN_3_0(int RSA_security_bits(const RSA *rsa))
214
215 int RSA_set0_key(RSA *r, BIGNUM *n, BIGNUM *e, BIGNUM *d);
216 int RSA_set0_factors(RSA *r, BIGNUM *p, BIGNUM *q);
217 int RSA_set0_crt_params(RSA *r,BIGNUM *dmp1, BIGNUM *dmq1, BIGNUM *iqmp);
218 int RSA_set0_multi_prime_params(RSA *r, BIGNUM *primes[], BIGNUM *exps[],
219                                 BIGNUM *coeffs[], int pnum);
220 void RSA_get0_key(const RSA *r,
221                   const BIGNUM **n, const BIGNUM **e, const BIGNUM **d);
222 void RSA_get0_factors(const RSA *r, const BIGNUM **p, const BIGNUM **q);
223 int RSA_get_multi_prime_extra_count(const RSA *r);
224 int RSA_get0_multi_prime_factors(const RSA *r, const BIGNUM *primes[]);
225 void RSA_get0_crt_params(const RSA *r,
226                          const BIGNUM **dmp1, const BIGNUM **dmq1,
227                          const BIGNUM **iqmp);
228 int RSA_get0_multi_prime_crt_params(const RSA *r, const BIGNUM *exps[],
229                                     const BIGNUM *coeffs[]);
230 const BIGNUM *RSA_get0_n(const RSA *d);
231 const BIGNUM *RSA_get0_e(const RSA *d);
232 const BIGNUM *RSA_get0_d(const RSA *d);
233 const BIGNUM *RSA_get0_p(const RSA *d);
234 const BIGNUM *RSA_get0_q(const RSA *d);
235 const BIGNUM *RSA_get0_dmp1(const RSA *r);
236 const BIGNUM *RSA_get0_dmq1(const RSA *r);
237 const BIGNUM *RSA_get0_iqmp(const RSA *r);
238 DEPRECATEDIN_3_0(const RSA_PSS_PARAMS *RSA_get0_pss_params(const RSA *r))
239 void RSA_clear_flags(RSA *r, int flags);
240 int RSA_test_flags(const RSA *r, int flags);
241 void RSA_set_flags(RSA *r, int flags);
242 DEPRECATEDIN_3_0(int RSA_get_version(RSA *r))
243 DEPRECATEDIN_3_0(ENGINE *RSA_get0_engine(const RSA *r))
244
245 /* Deprecated version */
246 DEPRECATEDIN_0_9_8(RSA *RSA_generate_key(int bits, unsigned long e, void
247                                          (*callback) (int, int, void *),
248                                          void *cb_arg))
249
250 /* New version */
251 DEPRECATEDIN_3_0(int RSA_generate_key_ex(RSA *rsa, int bits, BIGNUM *e,
252                                          BN_GENCB *cb))
253 /* Multi-prime version */
254 DEPRECATEDIN_3_0(int RSA_generate_multi_prime_key(RSA *rsa, int bits,
255                                                   int primes, BIGNUM *e,
256                                                   BN_GENCB *cb))
257
258 DEPRECATEDIN_3_0(int RSA_X931_derive_ex(RSA *rsa, BIGNUM *p1, BIGNUM *p2,
259                                         BIGNUM *q1, BIGNUM *q2,
260                                         const BIGNUM *Xp1, const BIGNUM *Xp2,
261                                         const BIGNUM *Xp, const BIGNUM *Xq1,
262                                         const BIGNUM *Xq2, const BIGNUM *Xq,
263                                         const BIGNUM *e, BN_GENCB *cb))
264 DEPRECATEDIN_3_0(int RSA_X931_generate_key_ex(RSA *rsa, int bits,
265                                               const BIGNUM *e, BN_GENCB *cb))
266
267 DEPRECATEDIN_3_0(int RSA_check_key(const RSA *))
268 DEPRECATEDIN_3_0(int RSA_check_key_ex(const RSA *, BN_GENCB *cb))
269         /* next 4 return -1 on error */
270 DEPRECATEDIN_3_0(int RSA_public_encrypt(int flen, const unsigned char *from,
271                                         unsigned char *to, RSA *rsa,
272                                         int padding))
273 DEPRECATEDIN_3_0(int RSA_private_encrypt(int flen, const unsigned char *from,
274                                          unsigned char *to, RSA *rsa,
275                                          int padding))
276 DEPRECATEDIN_3_0(int RSA_public_decrypt(int flen, const unsigned char *from,
277                                         unsigned char *to, RSA *rsa,
278                                         int padding))
279 DEPRECATEDIN_3_0(int RSA_private_decrypt(int flen, const unsigned char *from,
280                                          unsigned char *to, RSA *rsa,
281                                          int padding))
282 void RSA_free(RSA *r);
283 /* "up" the RSA object's reference count */
284 int RSA_up_ref(RSA *r);
285
286 /* TODO(3.0): deprecate this one ssl/ssl_rsa.c can be changed to avoid it */
287 int RSA_flags(const RSA *r);
288
289 DEPRECATEDIN_3_0(void RSA_set_default_method(const RSA_METHOD *meth))
290 DEPRECATEDIN_3_0(const RSA_METHOD *RSA_get_default_method(void))
291 DEPRECATEDIN_3_0(const RSA_METHOD *RSA_null_method(void))
292 DEPRECATEDIN_3_0(const RSA_METHOD *RSA_get_method(const RSA *rsa))
293 DEPRECATEDIN_3_0(int RSA_set_method(RSA *rsa, const RSA_METHOD *meth))
294
295 /* these are the actual RSA functions */
296 DEPRECATEDIN_3_0(const RSA_METHOD *RSA_PKCS1_OpenSSL(void))
297
298 int RSA_pkey_ctx_ctrl(EVP_PKEY_CTX *ctx, int optype, int cmd, int p1, void *p2);
299
300 DECLARE_ASN1_ENCODE_FUNCTIONS_name(RSA, RSAPublicKey)
301 DECLARE_ASN1_ENCODE_FUNCTIONS_name(RSA, RSAPrivateKey)
302
303 struct rsa_pss_params_st {
304     X509_ALGOR *hashAlgorithm;
305     X509_ALGOR *maskGenAlgorithm;
306     ASN1_INTEGER *saltLength;
307     ASN1_INTEGER *trailerField;
308     /* Decoded hash algorithm from maskGenAlgorithm */
309     X509_ALGOR *maskHash;
310 };
311
312 DECLARE_ASN1_FUNCTIONS(RSA_PSS_PARAMS)
313
314 typedef struct rsa_oaep_params_st {
315     X509_ALGOR *hashFunc;
316     X509_ALGOR *maskGenFunc;
317     X509_ALGOR *pSourceFunc;
318     /* Decoded hash algorithm from maskGenFunc */
319     X509_ALGOR *maskHash;
320 } RSA_OAEP_PARAMS;
321
322 DECLARE_ASN1_FUNCTIONS(RSA_OAEP_PARAMS)
323
324 #  ifndef OPENSSL_NO_STDIO
325 DEPRECATEDIN_3_0(int RSA_print_fp(FILE *fp, const RSA *r, int offset))
326 #  endif
327
328 DEPRECATEDIN_3_0(int RSA_print(BIO *bp, const RSA *r, int offset))
329
330 /*
331  * The following 2 functions sign and verify a X509_SIG ASN1 object inside
332  * PKCS#1 padded RSA encryption
333  */
334 DEPRECATEDIN_3_0(int RSA_sign(int type, const unsigned char *m,
335                               unsigned int m_length, unsigned char *sigret,
336                               unsigned int *siglen, RSA *rsa))
337 DEPRECATEDIN_3_0(int RSA_verify(int type, const unsigned char *m,
338                                 unsigned int m_length,
339                                 const unsigned char *sigbuf,
340                                 unsigned int siglen, RSA *rsa))
341
342 /*
343  * The following 2 function sign and verify a ASN1_OCTET_STRING object inside
344  * PKCS#1 padded RSA encryption
345  */
346 DEPRECATEDIN_3_0(int RSA_sign_ASN1_OCTET_STRING(int type,
347                                                 const unsigned char *m,
348                                                 unsigned int m_length,
349                                                 unsigned char *sigret,
350                                                 unsigned int *siglen, RSA *rsa))
351 DEPRECATEDIN_3_0(int RSA_verify_ASN1_OCTET_STRING(int type,
352                                                   const unsigned char *m,
353                                                   unsigned int m_length,
354                                                   unsigned char *sigbuf,
355                                                   unsigned int siglen,
356                                                   RSA *rsa))
357
358 /* TODO(3.0): figure out how to deprecate these two */
359 int RSA_blinding_on(RSA *rsa, BN_CTX *ctx);
360 void RSA_blinding_off(RSA *rsa);
361 DEPRECATEDIN_3_0(BN_BLINDING *RSA_setup_blinding(RSA *rsa, BN_CTX *ctx))
362
363 DEPRECATEDIN_3_0(int RSA_padding_add_PKCS1_type_1(unsigned char *to, int tlen,
364                                                   const unsigned char *f,
365                                                   int fl))
366 DEPRECATEDIN_3_0(int RSA_padding_check_PKCS1_type_1(unsigned char *to, int tlen,
367                                                     const unsigned char *f,
368                                                     int fl, int rsa_len))
369 DEPRECATEDIN_3_0(int RSA_padding_add_PKCS1_type_2(unsigned char *to, int tlen,
370                                                   const unsigned char *f,
371                                                   int fl))
372 DEPRECATEDIN_3_0(int RSA_padding_check_PKCS1_type_2(unsigned char *to, int tlen,
373                                                     const unsigned char *f,
374                                                     int fl, int rsa_len))
375 DEPRECATEDIN_3_0(int PKCS1_MGF1(unsigned char *mask, long len,
376                                 const unsigned char *seed, long seedlen,
377                                 const EVP_MD *dgst))
378 DEPRECATEDIN_3_0(int RSA_padding_add_PKCS1_OAEP(unsigned char *to, int tlen,
379                                                 const unsigned char *f, int fl,
380                                                 const unsigned char *p, int pl))
381 DEPRECATEDIN_3_0(int RSA_padding_check_PKCS1_OAEP(unsigned char *to, int tlen,
382                                                   const unsigned char *f,
383                                                   int fl, int rsa_len,
384                                                   const unsigned char *p,
385                                                   int pl))
386 DEPRECATEDIN_3_0(int RSA_padding_add_PKCS1_OAEP_mgf1(unsigned char *to,
387                                                      int tlen,
388                                                      const unsigned char *from,
389                                                      int flen,
390                                                      const unsigned char *param,
391                                                      int plen,
392                                                      const EVP_MD *md,
393                                                      const EVP_MD *mgf1md))
394 DEPRECATEDIN_3_0(int RSA_padding_check_PKCS1_OAEP_mgf1(unsigned char *to,
395                                                        int tlen,
396                                                        const unsigned char *from,
397                                                        int flen, int num,
398                                                        const unsigned char *param,
399                                                        int plen, const EVP_MD *md,
400                                                        const EVP_MD *mgf1md))
401 DEPRECATEDIN_3_0(int RSA_padding_add_SSLv23(unsigned char *to, int tlen,
402                                             const unsigned char *f, int fl))
403 DEPRECATEDIN_3_0(int RSA_padding_check_SSLv23(unsigned char *to, int tlen,
404                                               const unsigned char *f, int fl,
405                                               int rsa_len))
406 DEPRECATEDIN_3_0(int RSA_padding_add_none(unsigned char *to, int tlen,
407                                           const unsigned char *f, int fl))
408 DEPRECATEDIN_3_0(int RSA_padding_check_none(unsigned char *to, int tlen,
409                                             const unsigned char *f, int fl,
410                                             int rsa_len))
411 DEPRECATEDIN_3_0(int RSA_padding_add_X931(unsigned char *to, int tlen,
412                                           const unsigned char *f, int fl))
413 DEPRECATEDIN_3_0(int RSA_padding_check_X931(unsigned char *to, int tlen,
414                                             const unsigned char *f, int fl,
415                                             int rsa_len))
416 DEPRECATEDIN_3_0(int RSA_X931_hash_id(int nid))
417
418 DEPRECATEDIN_3_0(int RSA_verify_PKCS1_PSS(RSA *rsa, const unsigned char *mHash,
419                                           const EVP_MD *Hash,
420                                           const unsigned char *EM, int sLen))
421 DEPRECATEDIN_3_0(int RSA_padding_add_PKCS1_PSS(RSA *rsa, unsigned char *EM,
422                                                const unsigned char *mHash,
423                                                const EVP_MD *Hash, int sLen))
424
425 DEPRECATEDIN_3_0(int RSA_verify_PKCS1_PSS_mgf1(RSA *rsa,
426                                                const unsigned char *mHash,
427                                                const EVP_MD *Hash,
428                                                const EVP_MD *mgf1Hash,
429                                                const unsigned char *EM,
430                                                int sLen))
431
432 DEPRECATEDIN_3_0(int RSA_padding_add_PKCS1_PSS_mgf1(RSA *rsa,
433                                                     unsigned char *EM,
434                                                     const unsigned char *mHash,
435                                                     const EVP_MD *Hash,
436                                                     const EVP_MD *mgf1Hash,
437                                                     int sLen))
438
439 #  define RSA_get_ex_new_index(l, p, newf, dupf, freef) \
440     CRYPTO_get_ex_new_index(CRYPTO_EX_INDEX_RSA, l, p, newf, dupf, freef)
441 DEPRECATEDIN_3_0(int RSA_set_ex_data(RSA *r, int idx, void *arg))
442 DEPRECATEDIN_3_0(void *RSA_get_ex_data(const RSA *r, int idx))
443
444 DECLARE_ASN1_DUP_FUNCTION_name(RSA, RSAPublicKey)
445 DECLARE_ASN1_DUP_FUNCTION_name(RSA, RSAPrivateKey)
446
447 #  ifndef OPENSSL_NO_DEPRECATED_3_0
448 /*
449  * If this flag is set the RSA method is FIPS compliant and can be used in
450  * FIPS mode. This is set in the validated module method. If an application
451  * sets this flag in its own methods it is its responsibility to ensure the
452  * result is compliant.
453  */
454
455 #   define RSA_FLAG_FIPS_METHOD                    0x0400
456
457 /*
458  * If this flag is set the operations normally disabled in FIPS mode are
459  * permitted it is then the applications responsibility to ensure that the
460  * usage is compliant.
461  */
462
463 #   define RSA_FLAG_NON_FIPS_ALLOW                 0x0400
464 /*
465  * Application has decided PRNG is good enough to generate a key: don't
466  * check.
467  */
468 #   define RSA_FLAG_CHECKED                        0x0800
469 #  endif /* OPENSSL_NO_DEPRECATED_3_0 */
470
471 DEPRECATEDIN_3_0(RSA_METHOD *RSA_meth_new(const char *name, int flags))
472 DEPRECATEDIN_3_0(void RSA_meth_free(RSA_METHOD *meth))
473 DEPRECATEDIN_3_0(RSA_METHOD *RSA_meth_dup(const RSA_METHOD *meth))
474 DEPRECATEDIN_3_0(const char *RSA_meth_get0_name(const RSA_METHOD *meth))
475 DEPRECATEDIN_3_0(int RSA_meth_set1_name(RSA_METHOD *meth, const char *name))
476 DEPRECATEDIN_3_0(int RSA_meth_get_flags(const RSA_METHOD *meth))
477 DEPRECATEDIN_3_0(int RSA_meth_set_flags(RSA_METHOD *meth, int flags))
478 DEPRECATEDIN_3_0(void *RSA_meth_get0_app_data(const RSA_METHOD *meth))
479 DEPRECATEDIN_3_0(int RSA_meth_set0_app_data(RSA_METHOD *meth, void *app_data))
480 DEPRECATEDIN_3_0(int (*RSA_meth_get_pub_enc(const RSA_METHOD *meth))
481     (int flen, const unsigned char *from,
482      unsigned char *to, RSA *rsa, int padding))
483 DEPRECATEDIN_3_0(int RSA_meth_set_pub_enc(RSA_METHOD *rsa,
484                          int (*pub_enc) (int flen, const unsigned char *from,
485                                          unsigned char *to, RSA *rsa,
486                                          int padding)))
487 DEPRECATEDIN_3_0(int (*RSA_meth_get_pub_dec(const RSA_METHOD *meth))
488     (int flen, const unsigned char *from,
489      unsigned char *to, RSA *rsa, int padding))
490 DEPRECATEDIN_3_0(int RSA_meth_set_pub_dec(RSA_METHOD *rsa,
491                          int (*pub_dec) (int flen, const unsigned char *from,
492                                          unsigned char *to, RSA *rsa,
493                                          int padding)))
494 DEPRECATEDIN_3_0(int (*RSA_meth_get_priv_enc(const RSA_METHOD *meth))
495     (int flen, const unsigned char *from,
496      unsigned char *to, RSA *rsa, int padding))
497 DEPRECATEDIN_3_0(int RSA_meth_set_priv_enc(RSA_METHOD *rsa,
498                           int (*priv_enc) (int flen, const unsigned char *from,
499                                            unsigned char *to, RSA *rsa,
500                                            int padding)))
501 DEPRECATEDIN_3_0(int (*RSA_meth_get_priv_dec(const RSA_METHOD *meth))
502     (int flen, const unsigned char *from,
503      unsigned char *to, RSA *rsa, int padding))
504 DEPRECATEDIN_3_0(int RSA_meth_set_priv_dec(RSA_METHOD *rsa,
505                           int (*priv_dec) (int flen, const unsigned char *from,
506                                            unsigned char *to, RSA *rsa,
507                                            int padding)))
508 DEPRECATEDIN_3_0(int (*RSA_meth_get_mod_exp(const RSA_METHOD *meth))
509     (BIGNUM *r0, const BIGNUM *i, RSA *rsa, BN_CTX *ctx))
510 DEPRECATEDIN_3_0(int RSA_meth_set_mod_exp(RSA_METHOD *rsa,
511                          int (*mod_exp) (BIGNUM *r0, const BIGNUM *i, RSA *rsa,
512                                          BN_CTX *ctx)))
513 DEPRECATEDIN_3_0(int (*RSA_meth_get_bn_mod_exp(const RSA_METHOD *meth))
514     (BIGNUM *r, const BIGNUM *a, const BIGNUM *p,
515      const BIGNUM *m, BN_CTX *ctx, BN_MONT_CTX *m_ctx))
516 DEPRECATEDIN_3_0(int RSA_meth_set_bn_mod_exp(RSA_METHOD *rsa,
517                             int (*bn_mod_exp) (BIGNUM *r,
518                                                const BIGNUM *a,
519                                                const BIGNUM *p,
520                                                const BIGNUM *m,
521                                                BN_CTX *ctx,
522                                                BN_MONT_CTX *m_ctx)))
523 DEPRECATEDIN_3_0(int (*RSA_meth_get_init(const RSA_METHOD *meth)) (RSA *rsa))
524 DEPRECATEDIN_3_0(int RSA_meth_set_init(RSA_METHOD *rsa, int (*init) (RSA *rsa)))
525 DEPRECATEDIN_3_0(int (*RSA_meth_get_finish(const RSA_METHOD *meth)) (RSA *rsa))
526 DEPRECATEDIN_3_0(int RSA_meth_set_finish(RSA_METHOD *rsa,
527                             int (*finish) (RSA *rsa)))
528 DEPRECATEDIN_3_0(int (*RSA_meth_get_sign(const RSA_METHOD *meth))
529     (int type,
530      const unsigned char *m, unsigned int m_length,
531      unsigned char *sigret, unsigned int *siglen,
532      const RSA *rsa))
533 DEPRECATEDIN_3_0(int RSA_meth_set_sign(RSA_METHOD *rsa,
534                       int (*sign) (int type, const unsigned char *m,
535                                    unsigned int m_length,
536                                    unsigned char *sigret, unsigned int *siglen,
537                                    const RSA *rsa)))
538 DEPRECATEDIN_3_0(int (*RSA_meth_get_verify(const RSA_METHOD *meth))
539     (int dtype, const unsigned char *m,
540      unsigned int m_length, const unsigned char *sigbuf,
541      unsigned int siglen, const RSA *rsa))
542 DEPRECATEDIN_3_0(int RSA_meth_set_verify(RSA_METHOD *rsa,
543                         int (*verify) (int dtype, const unsigned char *m,
544                                        unsigned int m_length,
545                                        const unsigned char *sigbuf,
546                                        unsigned int siglen, const RSA *rsa)))
547 DEPRECATEDIN_3_0(int (*RSA_meth_get_keygen(const RSA_METHOD *meth))
548     (RSA *rsa, int bits, BIGNUM *e, BN_GENCB *cb))
549 DEPRECATEDIN_3_0(int RSA_meth_set_keygen(RSA_METHOD *rsa,
550                         int (*keygen) (RSA *rsa, int bits, BIGNUM *e,
551                                        BN_GENCB *cb)))
552 DEPRECATEDIN_3_0(int (*RSA_meth_get_multi_prime_keygen(const RSA_METHOD *meth))
553     (RSA *rsa, int bits, int primes, BIGNUM *e, BN_GENCB *cb))
554 DEPRECATEDIN_3_0(int RSA_meth_set_multi_prime_keygen(RSA_METHOD *meth,
555                                     int (*keygen) (RSA *rsa, int bits,
556                                                    int primes, BIGNUM *e,
557                                                    BN_GENCB *cb)))
558
559 #  ifdef  __cplusplus
560 }
561 #  endif
562 # endif
563 #endif