Be more explicit about RSAES-PKCS#1v1.5 error handling
[openssl.git] / include / openssl / dh.h
1 /*
2  * Copyright 1995-2020 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the Apache License 2.0 (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #ifndef OPENSSL_DH_H
11 # define OPENSSL_DH_H
12 # pragma once
13
14 # include <openssl/macros.h>
15 # ifndef OPENSSL_NO_DEPRECATED_3_0
16 #  define HEADER_DH_H
17 # endif
18
19 # include <openssl/opensslconf.h>
20 # include <openssl/types.h>
21
22 # ifdef  __cplusplus
23 extern "C" {
24 # endif
25
26 #include <stdlib.h>
27
28 /* DH parameter generation types used by EVP_PKEY_CTX_set_dh_paramgen_type() */
29 # define DH_PARAMGEN_TYPE_GENERATOR     0   /* Use a safe prime generator */
30 # define DH_PARAMGEN_TYPE_FIPS_186_2    1   /* Use FIPS186-2 standard */
31 # define DH_PARAMGEN_TYPE_FIPS_186_4    2   /* Use FIPS186-4 standard */
32 # define DH_PARAMGEN_TYPE_GROUP         3   /* Use a named safe prime group */
33
34 int EVP_PKEY_CTX_set_dh_paramgen_type(EVP_PKEY_CTX *ctx, int typ);
35 int EVP_PKEY_CTX_set_dh_paramgen_gindex(EVP_PKEY_CTX *ctx, int gindex);
36 int EVP_PKEY_CTX_set_dh_paramgen_seed(EVP_PKEY_CTX *ctx,
37                                       const unsigned char *seed,
38                                       size_t seedlen);
39 int EVP_PKEY_CTX_set_dh_paramgen_prime_len(EVP_PKEY_CTX *ctx, int pbits);
40 int EVP_PKEY_CTX_set_dh_paramgen_subprime_len(EVP_PKEY_CTX *ctx, int qlen);
41 int EVP_PKEY_CTX_set_dh_paramgen_generator(EVP_PKEY_CTX *ctx, int gen);
42 int EVP_PKEY_CTX_set_dh_nid(EVP_PKEY_CTX *ctx, int nid);
43 int EVP_PKEY_CTX_set_dh_rfc5114(EVP_PKEY_CTX *ctx, int gen);
44 int EVP_PKEY_CTX_set_dhx_rfc5114(EVP_PKEY_CTX *ctx, int gen);
45 int EVP_PKEY_CTX_set_dh_pad(EVP_PKEY_CTX *ctx, int pad);
46
47 int EVP_PKEY_CTX_set_dh_kdf_type(EVP_PKEY_CTX *ctx, int kdf);
48 int EVP_PKEY_CTX_get_dh_kdf_type(EVP_PKEY_CTX *ctx);
49 int EVP_PKEY_CTX_set0_dh_kdf_oid(EVP_PKEY_CTX *ctx, ASN1_OBJECT *oid);
50 int EVP_PKEY_CTX_get0_dh_kdf_oid(EVP_PKEY_CTX *ctx, ASN1_OBJECT **oid);
51 int EVP_PKEY_CTX_set_dh_kdf_md(EVP_PKEY_CTX *ctx, const EVP_MD *md);
52 int EVP_PKEY_CTX_get_dh_kdf_md(EVP_PKEY_CTX *ctx, const EVP_MD **md);
53 int EVP_PKEY_CTX_set_dh_kdf_outlen(EVP_PKEY_CTX *ctx, int len);
54 int EVP_PKEY_CTX_get_dh_kdf_outlen(EVP_PKEY_CTX *ctx, int *len);
55 int EVP_PKEY_CTX_set0_dh_kdf_ukm(EVP_PKEY_CTX *ctx, unsigned char *ukm, int len);
56 int EVP_PKEY_CTX_get0_dh_kdf_ukm(EVP_PKEY_CTX *ctx, unsigned char **ukm);
57
58 # define EVP_PKEY_CTRL_DH_PARAMGEN_PRIME_LEN     (EVP_PKEY_ALG_CTRL + 1)
59 # define EVP_PKEY_CTRL_DH_PARAMGEN_GENERATOR     (EVP_PKEY_ALG_CTRL + 2)
60 # define EVP_PKEY_CTRL_DH_RFC5114                (EVP_PKEY_ALG_CTRL + 3)
61 # define EVP_PKEY_CTRL_DH_PARAMGEN_SUBPRIME_LEN  (EVP_PKEY_ALG_CTRL + 4)
62 # define EVP_PKEY_CTRL_DH_PARAMGEN_TYPE          (EVP_PKEY_ALG_CTRL + 5)
63 # define EVP_PKEY_CTRL_DH_KDF_TYPE               (EVP_PKEY_ALG_CTRL + 6)
64 # define EVP_PKEY_CTRL_DH_KDF_MD                 (EVP_PKEY_ALG_CTRL + 7)
65 # define EVP_PKEY_CTRL_GET_DH_KDF_MD             (EVP_PKEY_ALG_CTRL + 8)
66 # define EVP_PKEY_CTRL_DH_KDF_OUTLEN             (EVP_PKEY_ALG_CTRL + 9)
67 # define EVP_PKEY_CTRL_GET_DH_KDF_OUTLEN         (EVP_PKEY_ALG_CTRL + 10)
68 # define EVP_PKEY_CTRL_DH_KDF_UKM                (EVP_PKEY_ALG_CTRL + 11)
69 # define EVP_PKEY_CTRL_GET_DH_KDF_UKM            (EVP_PKEY_ALG_CTRL + 12)
70 # define EVP_PKEY_CTRL_DH_KDF_OID                (EVP_PKEY_ALG_CTRL + 13)
71 # define EVP_PKEY_CTRL_GET_DH_KDF_OID            (EVP_PKEY_ALG_CTRL + 14)
72 # define EVP_PKEY_CTRL_DH_NID                    (EVP_PKEY_ALG_CTRL + 15)
73 # define EVP_PKEY_CTRL_DH_PAD                    (EVP_PKEY_ALG_CTRL + 16)
74
75 /* KDF types */
76 # define EVP_PKEY_DH_KDF_NONE                            1
77 # define EVP_PKEY_DH_KDF_X9_42                           2
78
79 # ifndef OPENSSL_NO_DH
80 #  include <openssl/e_os2.h>
81 #  include <openssl/bio.h>
82 #  include <openssl/asn1.h>
83 #  ifndef OPENSSL_NO_DEPRECATED_1_1_0
84 #   include <openssl/bn.h>
85 #  endif
86 #  include <openssl/dherr.h>
87
88 #  ifndef OPENSSL_DH_MAX_MODULUS_BITS
89 #   define OPENSSL_DH_MAX_MODULUS_BITS    10000
90 #  endif
91
92 #  define OPENSSL_DH_FIPS_MIN_MODULUS_BITS 1024
93
94 #  define DH_FLAG_CACHE_MONT_P     0x01
95
96 #  define DH_FLAG_TYPE_MASK             0xF000
97 #  define DH_FLAG_TYPE_DH               0x0000
98 #  define DH_FLAG_TYPE_DHX              0x1000
99
100 #  ifndef OPENSSL_NO_DEPRECATED_1_1_0
101 /*
102  * Does nothing. Previously this switched off constant time behaviour.
103  */
104 #   define DH_FLAG_NO_EXP_CONSTTIME 0x00
105 #  endif
106
107 #  ifndef OPENSSL_NO_DEPRECATED_3_0
108 /*
109  * If this flag is set the DH method is FIPS compliant and can be used in
110  * FIPS mode. This is set in the validated module method. If an application
111  * sets this flag in its own methods it is its responsibility to ensure the
112  * result is compliant.
113  */
114
115 #   define DH_FLAG_FIPS_METHOD                     0x0400
116
117 /*
118  * If this flag is set the operations normally disabled in FIPS mode are
119  * permitted it is then the applications responsibility to ensure that the
120  * usage is compliant.
121  */
122
123 #   define DH_FLAG_NON_FIPS_ALLOW                  0x0400
124 #  endif
125
126 /* Already defined in ossl_typ.h */
127 /* typedef struct dh_st DH; */
128 /* typedef struct dh_method DH_METHOD; */
129
130 DECLARE_ASN1_ITEM(DHparams)
131
132 #  ifndef OPENSSL_NO_DEPRECATED_3_0
133 #   define DH_GENERATOR_2          2
134 #   define DH_GENERATOR_3          3
135 #   define DH_GENERATOR_5          5
136
137 /* DH_check error codes */
138 /*
139  * NB: These values must align with the equivalently named macros in
140  * internal/ffc.h.
141  */
142 #   define DH_CHECK_P_NOT_PRIME            0x01
143 #   define DH_CHECK_P_NOT_SAFE_PRIME       0x02
144 #   define DH_UNABLE_TO_CHECK_GENERATOR    0x04
145 #   define DH_NOT_SUITABLE_GENERATOR       0x08
146 #   define DH_CHECK_Q_NOT_PRIME            0x10
147 #   define DH_CHECK_INVALID_Q_VALUE        0x20
148 #   define DH_CHECK_INVALID_J_VALUE        0x40
149 #   define DH_MODULUS_TOO_SMALL            0x80
150 #   define DH_MODULUS_TOO_LARGE            0x100
151
152 /* DH_check_pub_key error codes */
153 #   define DH_CHECK_PUBKEY_TOO_SMALL       0x01
154 #   define DH_CHECK_PUBKEY_TOO_LARGE       0x02
155 #   define DH_CHECK_PUBKEY_INVALID         0x04
156
157 /*
158  * primes p where (p-1)/2 is prime too are called "safe"; we define this for
159  * backward compatibility:
160  */
161 #   define DH_CHECK_P_NOT_STRONG_PRIME     DH_CHECK_P_NOT_SAFE_PRIME
162
163 #   define d2i_DHparams_fp(fp, x) \
164         (DH *)ASN1_d2i_fp((char *(*)())DH_new, \
165                           (char *(*)())d2i_DHparams, \
166                           (fp), \
167                           (unsigned char **)(x))
168 #   define i2d_DHparams_fp(fp, x) \
169         ASN1_i2d_fp(i2d_DHparams,(fp), (unsigned char *)(x))
170 #   define d2i_DHparams_bio(bp, x) \
171         ASN1_d2i_bio_of(DH, DH_new, d2i_DHparams, bp, x)
172 #   define i2d_DHparams_bio(bp, x) \
173         ASN1_i2d_bio_of(DH, i2d_DHparams, bp, x)
174
175 #   define d2i_DHxparams_fp(fp,x) \
176         (DH *)ASN1_d2i_fp((char *(*)())DH_new, \
177                           (char *(*)())d2i_DHxparams, \
178                           (fp), \
179                           (unsigned char **)(x))
180 #   define i2d_DHxparams_fp(fp, x) \
181         ASN1_i2d_fp(i2d_DHxparams,(fp), (unsigned char *)(x))
182 #   define d2i_DHxparams_bio(bp, x) \
183         ASN1_d2i_bio_of(DH, DH_new, d2i_DHxparams, bp, x)
184 #   define i2d_DHxparams_bio(bp, x) \
185         ASN1_i2d_bio_of(DH, i2d_DHxparams, bp, x)
186
187 DECLARE_ASN1_DUP_FUNCTION_name_attr(OSSL_DEPRECATEDIN_3_0, DH, DHparams)
188
189 OSSL_DEPRECATEDIN_3_0 const DH_METHOD *DH_OpenSSL(void);
190
191 OSSL_DEPRECATEDIN_3_0 void DH_set_default_method(const DH_METHOD *meth);
192 OSSL_DEPRECATEDIN_3_0 const DH_METHOD *DH_get_default_method(void);
193 OSSL_DEPRECATEDIN_3_0 int DH_set_method(DH *dh, const DH_METHOD *meth);
194 OSSL_DEPRECATEDIN_3_0 DH *DH_new_method(ENGINE *engine);
195
196 OSSL_DEPRECATEDIN_3_0 DH *DH_new(void);
197 OSSL_DEPRECATEDIN_3_0 void DH_free(DH *dh);
198 OSSL_DEPRECATEDIN_3_0 int DH_up_ref(DH *dh);
199 OSSL_DEPRECATEDIN_3_0 int DH_bits(const DH *dh);
200 OSSL_DEPRECATEDIN_3_0 int DH_size(const DH *dh);
201 OSSL_DEPRECATEDIN_3_0 int DH_security_bits(const DH *dh);
202
203 #   define DH_get_ex_new_index(l, p, newf, dupf, freef) \
204         CRYPTO_get_ex_new_index(CRYPTO_EX_INDEX_DH, l, p, newf, dupf, freef)
205
206 OSSL_DEPRECATEDIN_3_0 int DH_set_ex_data(DH *d, int idx, void *arg);
207 OSSL_DEPRECATEDIN_3_0 void *DH_get_ex_data(const DH *d, int idx);
208
209 OSSL_DEPRECATEDIN_3_0 int DH_generate_parameters_ex(DH *dh, int prime_len,
210                                                     int generator,
211                                                     BN_GENCB *cb);
212
213 OSSL_DEPRECATEDIN_3_0 int DH_check_params_ex(const DH *dh);
214 OSSL_DEPRECATEDIN_3_0 int DH_check_ex(const DH *dh);
215 OSSL_DEPRECATEDIN_3_0 int DH_check_pub_key_ex(const DH *dh, const BIGNUM *pub_key);
216 OSSL_DEPRECATEDIN_3_0 int DH_check_params(const DH *dh, int *ret);
217 OSSL_DEPRECATEDIN_3_0 int DH_check(const DH *dh, int *codes);
218 OSSL_DEPRECATEDIN_3_0 int DH_check_pub_key(const DH *dh, const BIGNUM *pub_key,
219                                            int *codes);
220 OSSL_DEPRECATEDIN_3_0 int DH_generate_key(DH *dh);
221 OSSL_DEPRECATEDIN_3_0 int DH_compute_key(unsigned char *key,
222                                          const BIGNUM *pub_key, DH *dh);
223 OSSL_DEPRECATEDIN_3_0 int DH_compute_key_padded(unsigned char *key,
224                                                 const BIGNUM *pub_key, DH *dh);
225
226 DECLARE_ASN1_ENCODE_FUNCTIONS_only_attr(OSSL_DEPRECATEDIN_3_0, DH, DHparams)
227 DECLARE_ASN1_ENCODE_FUNCTIONS_only_attr(OSSL_DEPRECATEDIN_3_0, DH, DHxparams)
228
229 #   ifndef OPENSSL_NO_STDIO
230 OSSL_DEPRECATEDIN_3_0 int DHparams_print_fp(FILE *fp, const DH *x);
231 #   endif
232 OSSL_DEPRECATEDIN_3_0 int DHparams_print(BIO *bp, const DH *x);
233
234 /* RFC 5114 parameters */
235 OSSL_DEPRECATEDIN_3_0 DH *DH_get_1024_160(void);
236 OSSL_DEPRECATEDIN_3_0 DH *DH_get_2048_224(void);
237 OSSL_DEPRECATEDIN_3_0 DH *DH_get_2048_256(void);
238
239 /* Named parameters, currently RFC7919 and RFC3526 */
240 OSSL_DEPRECATEDIN_3_0 DH *DH_new_by_nid(int nid);
241 OSSL_DEPRECATEDIN_3_0 int DH_get_nid(const DH *dh);
242
243 /* RFC2631 KDF */
244 OSSL_DEPRECATEDIN_3_0 int DH_KDF_X9_42(unsigned char *out, size_t outlen,
245                                        const unsigned char *Z, size_t Zlen,
246                                        ASN1_OBJECT *key_oid,
247                                        const unsigned char *ukm,
248                                        size_t ukmlen, const EVP_MD *md);
249
250 OSSL_DEPRECATEDIN_3_0 void DH_get0_pqg(const DH *dh, const BIGNUM **p,
251                                        const BIGNUM **q, const BIGNUM **g);
252 OSSL_DEPRECATEDIN_3_0 int DH_set0_pqg(DH *dh, BIGNUM *p, BIGNUM *q, BIGNUM *g);
253 OSSL_DEPRECATEDIN_3_0 void DH_get0_key(const DH *dh, const BIGNUM **pub_key,
254                                        const BIGNUM **priv_key);
255 OSSL_DEPRECATEDIN_3_0 int DH_set0_key(DH *dh, BIGNUM *pub_key, BIGNUM *priv_key);
256 OSSL_DEPRECATEDIN_3_0 const BIGNUM *DH_get0_p(const DH *dh);
257 OSSL_DEPRECATEDIN_3_0 const BIGNUM *DH_get0_q(const DH *dh);
258 OSSL_DEPRECATEDIN_3_0 const BIGNUM *DH_get0_g(const DH *dh);
259 OSSL_DEPRECATEDIN_3_0 const BIGNUM *DH_get0_priv_key(const DH *dh);
260 OSSL_DEPRECATEDIN_3_0 const BIGNUM *DH_get0_pub_key(const DH *dh);
261 OSSL_DEPRECATEDIN_3_0 void DH_clear_flags(DH *dh, int flags);
262 OSSL_DEPRECATEDIN_3_0 int DH_test_flags(const DH *dh, int flags);
263 OSSL_DEPRECATEDIN_3_0 void DH_set_flags(DH *dh, int flags);
264 OSSL_DEPRECATEDIN_3_0 ENGINE *DH_get0_engine(DH *d);
265 OSSL_DEPRECATEDIN_3_0 long DH_get_length(const DH *dh);
266 OSSL_DEPRECATEDIN_3_0 int DH_set_length(DH *dh, long length);
267
268 OSSL_DEPRECATEDIN_3_0 DH_METHOD *DH_meth_new(const char *name, int flags);
269 OSSL_DEPRECATEDIN_3_0 void DH_meth_free(DH_METHOD *dhm);
270 OSSL_DEPRECATEDIN_3_0 DH_METHOD *DH_meth_dup(const DH_METHOD *dhm);
271 OSSL_DEPRECATEDIN_3_0 const char *DH_meth_get0_name(const DH_METHOD *dhm);
272 OSSL_DEPRECATEDIN_3_0 int DH_meth_set1_name(DH_METHOD *dhm, const char *name);
273 OSSL_DEPRECATEDIN_3_0 int DH_meth_get_flags(const DH_METHOD *dhm);
274 OSSL_DEPRECATEDIN_3_0 int DH_meth_set_flags(DH_METHOD *dhm, int flags);
275 OSSL_DEPRECATEDIN_3_0 void *DH_meth_get0_app_data(const DH_METHOD *dhm);
276 OSSL_DEPRECATEDIN_3_0 int DH_meth_set0_app_data(DH_METHOD *dhm, void *app_data);
277 OSSL_DEPRECATEDIN_3_0 int (*DH_meth_get_generate_key(const DH_METHOD *dhm)) (DH *);
278 OSSL_DEPRECATEDIN_3_0 int DH_meth_set_generate_key(DH_METHOD *dhm,
279                                                    int (*generate_key) (DH *));
280 OSSL_DEPRECATEDIN_3_0 int (*DH_meth_get_compute_key(const DH_METHOD *dhm))
281                                                    (unsigned char *key,
282                                                     const BIGNUM *pub_key,
283                                                     DH *dh);
284 OSSL_DEPRECATEDIN_3_0 int DH_meth_set_compute_key(DH_METHOD *dhm,
285                                                   int (*compute_key)
286                                                   (unsigned char *key,
287                                                    const BIGNUM *pub_key,
288                                                    DH *dh));
289 OSSL_DEPRECATEDIN_3_0 int (*DH_meth_get_bn_mod_exp(const DH_METHOD *dhm))
290                                                    (const DH *, BIGNUM *,
291                                                     const BIGNUM *,
292                                                     const BIGNUM *,
293                                                     const BIGNUM *, BN_CTX *,
294                                                     BN_MONT_CTX *);
295 OSSL_DEPRECATEDIN_3_0 int DH_meth_set_bn_mod_exp(DH_METHOD *dhm,
296                                                  int (*bn_mod_exp)
297                                                  (const DH *, BIGNUM *,
298                                                   const BIGNUM *, const BIGNUM *,
299                                                   const BIGNUM *, BN_CTX *,
300                                                   BN_MONT_CTX *));
301 OSSL_DEPRECATEDIN_3_0 int (*DH_meth_get_init(const DH_METHOD *dhm))(DH *);
302 OSSL_DEPRECATEDIN_3_0 int DH_meth_set_init(DH_METHOD *dhm, int (*init)(DH *));
303 OSSL_DEPRECATEDIN_3_0 int (*DH_meth_get_finish(const DH_METHOD *dhm)) (DH *);
304 OSSL_DEPRECATEDIN_3_0 int DH_meth_set_finish(DH_METHOD *dhm, int (*finish) (DH *));
305 OSSL_DEPRECATEDIN_3_0 int (*DH_meth_get_generate_params(const DH_METHOD *dhm))
306                                                         (DH *, int, int,
307                                                          BN_GENCB *);
308 OSSL_DEPRECATEDIN_3_0 int DH_meth_set_generate_params(DH_METHOD *dhm,
309                                                       int (*generate_params)
310                                                       (DH *, int, int,
311                                                        BN_GENCB *));
312 #  endif /* OPENSSL_NO_DEPRECATED_3_0 */
313
314 #  ifndef OPENSSL_NO_DEPRECATED_0_9_8
315 OSSL_DEPRECATEDIN_0_9_8 DH *DH_generate_parameters(int prime_len, int generator,
316                                                    void (*callback) (int, int,
317                                                                 void *),
318                                                    void *cb_arg);
319 #  endif
320
321 # endif
322 # ifdef  __cplusplus
323 }
324 # endif
325 #endif