fix out-of-bounds check in lock_dbg_cb (was too lose to detect all
[openssl.git] / crypto / dsa / dsa.h
1 /* crypto/dsa/dsa.h */
2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
3  * All rights reserved.
4  *
5  * This package is an SSL implementation written
6  * by Eric Young (eay@cryptsoft.com).
7  * The implementation was written so as to conform with Netscapes SSL.
8  * 
9  * This library is free for commercial and non-commercial use as long as
10  * the following conditions are aheared to.  The following conditions
11  * apply to all code found in this distribution, be it the RC4, RSA,
12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
13  * included with this distribution is covered by the same copyright terms
14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
15  * 
16  * Copyright remains Eric Young's, and as such any Copyright notices in
17  * the code are not to be removed.
18  * If this package is used in a product, Eric Young should be given attribution
19  * as the author of the parts of the library used.
20  * This can be in the form of a textual message at program startup or
21  * in documentation (online or textual) provided with the package.
22  * 
23  * Redistribution and use in source and binary forms, with or without
24  * modification, are permitted provided that the following conditions
25  * are met:
26  * 1. Redistributions of source code must retain the copyright
27  *    notice, this list of conditions and the following disclaimer.
28  * 2. Redistributions in binary form must reproduce the above copyright
29  *    notice, this list of conditions and the following disclaimer in the
30  *    documentation and/or other materials provided with the distribution.
31  * 3. All advertising materials mentioning features or use of this software
32  *    must display the following acknowledgement:
33  *    "This product includes cryptographic software written by
34  *     Eric Young (eay@cryptsoft.com)"
35  *    The word 'cryptographic' can be left out if the rouines from the library
36  *    being used are not cryptographic related :-).
37  * 4. If you include any Windows specific code (or a derivative thereof) from 
38  *    the apps directory (application code) you must include an acknowledgement:
39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
40  * 
41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
51  * SUCH DAMAGE.
52  * 
53  * The licence and distribution terms for any publically available version or
54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
55  * copied and put under another distribution licence
56  * [including the GNU Public Licence.]
57  */
58
59 /*
60  * The DSS routines are based on patches supplied by
61  * Steven Schoch <schoch@sheba.arc.nasa.gov>.  He basically did the
62  * work and I have just tweaked them a little to fit into my
63  * stylistic vision for SSLeay :-) */
64
65 #ifndef HEADER_DSA_H
66 #define HEADER_DSA_H
67
68 #include <openssl/e_os2.h>
69
70 #ifdef OPENSSL_NO_DSA
71 #error DSA is disabled.
72 #endif
73
74 #ifndef OPENSSL_NO_BIO
75 #include <openssl/bio.h>
76 #endif
77 #include <openssl/bn.h>
78 #include <openssl/crypto.h>
79 #include <openssl/ossl_typ.h>
80 #ifndef OPENSSL_NO_DH
81 # include <openssl/dh.h>
82 #endif
83
84 #define DSA_FLAG_CACHE_MONT_P   0x01
85
86 #ifdef  __cplusplus
87 extern "C" {
88 #endif
89
90 typedef struct dsa_st DSA;
91
92 typedef struct DSA_SIG_st
93         {
94         BIGNUM *r;
95         BIGNUM *s;
96         } DSA_SIG;
97
98 typedef struct dsa_method {
99         const char *name;
100         DSA_SIG * (*dsa_do_sign)(const unsigned char *dgst, int dlen, DSA *dsa);
101         int (*dsa_sign_setup)(DSA *dsa, BN_CTX *ctx_in, BIGNUM **kinvp,
102                                                                 BIGNUM **rp);
103         int (*dsa_do_verify)(const unsigned char *dgst, int dgst_len,
104                                                         DSA_SIG *sig, DSA *dsa);
105         int (*dsa_mod_exp)(DSA *dsa, BIGNUM *rr, BIGNUM *a1, BIGNUM *p1,
106                         BIGNUM *a2, BIGNUM *p2, BIGNUM *m, BN_CTX *ctx,
107                         BN_MONT_CTX *in_mont);
108         int (*bn_mod_exp)(DSA *dsa, BIGNUM *r, BIGNUM *a, const BIGNUM *p,
109                                 const BIGNUM *m, BN_CTX *ctx,
110                                 BN_MONT_CTX *m_ctx); /* Can be null */
111         int (*init)(DSA *dsa);
112         int (*finish)(DSA *dsa);
113         int flags;
114         char *app_data;
115         /* If this is non-NULL, it is used to generate DSA parameters */
116         int (*dsa_paramgen)(DSA *dsa, int bits,
117                         unsigned char *seed, int seed_len,
118                         int *counter_ret, unsigned long *h_ret,
119                         BN_GENCB *cb);
120         /* If this is non-NULL, it is used to generate DSA keys */
121         int (*dsa_keygen)(DSA *dsa);
122 } DSA_METHOD;
123
124 struct dsa_st
125         {
126         /* This first variable is used to pick up errors where
127          * a DSA is passed instead of of a EVP_PKEY */
128         int pad;
129         long version;
130         int write_params;
131         BIGNUM *p;
132         BIGNUM *q;      /* == 20 */
133         BIGNUM *g;
134
135         BIGNUM *pub_key;  /* y public key */
136         BIGNUM *priv_key; /* x private key */
137
138         BIGNUM *kinv;   /* Signing pre-calc */
139         BIGNUM *r;      /* Signing pre-calc */
140
141         int flags;
142         /* Normally used to cache montgomery values */
143         char *method_mont_p;
144         int references;
145         CRYPTO_EX_DATA ex_data;
146         const DSA_METHOD *meth;
147         /* functional reference if 'meth' is ENGINE-provided */
148         ENGINE *engine;
149         };
150
151 #define DSAparams_dup(x) (DSA *)ASN1_dup((int (*)())i2d_DSAparams, \
152                 (char *(*)())d2i_DSAparams,(char *)(x))
153 #define d2i_DSAparams_fp(fp,x) (DSA *)ASN1_d2i_fp((char *(*)())DSA_new, \
154                 (char *(*)())d2i_DSAparams,(fp),(unsigned char **)(x))
155 #define i2d_DSAparams_fp(fp,x) ASN1_i2d_fp(i2d_DSAparams,(fp), \
156                 (unsigned char *)(x))
157 #define d2i_DSAparams_bio(bp,x) (DSA *)ASN1_d2i_bio((char *(*)())DSA_new, \
158                 (char *(*)())d2i_DSAparams,(bp),(unsigned char **)(x))
159 #define i2d_DSAparams_bio(bp,x) ASN1_i2d_bio(i2d_DSAparams,(bp), \
160                 (unsigned char *)(x))
161
162
163 DSA_SIG * DSA_SIG_new(void);
164 void    DSA_SIG_free(DSA_SIG *a);
165 int     i2d_DSA_SIG(const DSA_SIG *a, unsigned char **pp);
166 DSA_SIG * d2i_DSA_SIG(DSA_SIG **v, const unsigned char **pp, long length);
167
168 DSA_SIG * DSA_do_sign(const unsigned char *dgst,int dlen,DSA *dsa);
169 int     DSA_do_verify(const unsigned char *dgst,int dgst_len,
170                       DSA_SIG *sig,DSA *dsa);
171
172 const DSA_METHOD *DSA_OpenSSL(void);
173
174 void    DSA_set_default_method(const DSA_METHOD *);
175 const DSA_METHOD *DSA_get_default_method(void);
176 int     DSA_set_method(DSA *dsa, const DSA_METHOD *);
177
178 DSA *   DSA_new(void);
179 DSA *   DSA_new_method(ENGINE *engine);
180 void    DSA_free (DSA *r);
181 /* "up" the DSA object's reference count */
182 int     DSA_up_ref(DSA *r);
183 int     DSA_size(const DSA *);
184         /* next 4 return -1 on error */
185 int     DSA_sign_setup( DSA *dsa,BN_CTX *ctx_in,BIGNUM **kinvp,BIGNUM **rp);
186 int     DSA_sign(int type,const unsigned char *dgst,int dlen,
187                 unsigned char *sig, unsigned int *siglen, DSA *dsa);
188 int     DSA_verify(int type,const unsigned char *dgst,int dgst_len,
189                 const unsigned char *sigbuf, int siglen, DSA *dsa);
190 int DSA_get_ex_new_index(long argl, void *argp, CRYPTO_EX_new *new_func,
191              CRYPTO_EX_dup *dup_func, CRYPTO_EX_free *free_func);
192 int DSA_set_ex_data(DSA *d, int idx, void *arg);
193 void *DSA_get_ex_data(DSA *d, int idx);
194
195 DSA *   d2i_DSAPublicKey(DSA **a, const unsigned char **pp, long length);
196 DSA *   d2i_DSAPrivateKey(DSA **a, const unsigned char **pp, long length);
197 DSA *   d2i_DSAparams(DSA **a, const unsigned char **pp, long length);
198
199 /* Deprecated version */
200 #ifndef OPENSSL_NO_DEPRECATED
201 DSA *   DSA_generate_parameters(int bits,
202                 unsigned char *seed,int seed_len,
203                 int *counter_ret, unsigned long *h_ret,void
204                 (*callback)(int, int, void *),void *cb_arg);
205 #endif /* !defined(OPENSSL_NO_DEPRECATED) */
206
207 /* New version */
208 int     DSA_generate_parameters_ex(DSA *dsa, int bits,
209                 unsigned char *seed,int seed_len,
210                 int *counter_ret, unsigned long *h_ret, BN_GENCB *cb);
211
212 int     DSA_generate_key(DSA *a);
213 int     i2d_DSAPublicKey(const DSA *a, unsigned char **pp);
214 int     i2d_DSAPrivateKey(const DSA *a, unsigned char **pp);
215 int     i2d_DSAparams(const DSA *a,unsigned char **pp);
216
217 #ifndef OPENSSL_NO_BIO
218 int     DSAparams_print(BIO *bp, const DSA *x);
219 int     DSA_print(BIO *bp, const DSA *x, int off);
220 #endif
221 #ifndef OPENSSL_NO_FP_API
222 int     DSAparams_print_fp(FILE *fp, const DSA *x);
223 int     DSA_print_fp(FILE *bp, const DSA *x, int off);
224 #endif
225
226 #define DSS_prime_checks 50
227 /* Primality test according to FIPS PUB 186[-1], Appendix 2.1:
228  * 50 rounds of Rabin-Miller */
229 #define DSA_is_prime(n, callback, cb_arg) \
230         BN_is_prime(n, DSS_prime_checks, callback, NULL, cb_arg)
231
232 #ifndef OPENSSL_NO_DH
233 /* Convert DSA structure (key or just parameters) into DH structure
234  * (be careful to avoid small subgroup attacks when using this!) */
235 DH *DSA_dup_DH(const DSA *r);
236 #endif
237
238 /* BEGIN ERROR CODES */
239 /* The following lines are auto generated by the script mkerr.pl. Any changes
240  * made after this point may be overwritten when the script is next run.
241  */
242 void ERR_load_DSA_strings(void);
243
244 /* Error codes for the DSA functions. */
245
246 /* Function codes. */
247 #define DSA_F_D2I_DSA_SIG                                110
248 #define DSA_F_DSAPARAMS_PRINT                            100
249 #define DSA_F_DSAPARAMS_PRINT_FP                         101
250 #define DSA_F_DSA_DO_SIGN                                112
251 #define DSA_F_DSA_DO_VERIFY                              113
252 #define DSA_F_DSA_NEW_METHOD                             103
253 #define DSA_F_DSA_PRINT                                  104
254 #define DSA_F_DSA_PRINT_FP                               105
255 #define DSA_F_DSA_SIGN                                   106
256 #define DSA_F_DSA_SIGN_SETUP                             107
257 #define DSA_F_DSA_SIG_NEW                                109
258 #define DSA_F_DSA_VERIFY                                 108
259 #define DSA_F_I2D_DSA_SIG                                111
260 #define DSA_F_SIG_CB                                     114
261
262 /* Reason codes. */
263 #define DSA_R_DATA_TOO_LARGE_FOR_KEY_SIZE                100
264 #define DSA_R_MISSING_PARAMETERS                         101
265
266 #ifdef  __cplusplus
267 }
268 #endif
269 #endif