Remove broken DSA private key workarounds.
[openssl.git] / crypto / dsa / dsa_lib.c
1 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
2  * All rights reserved.
3  *
4  * This package is an SSL implementation written
5  * by Eric Young (eay@cryptsoft.com).
6  * The implementation was written so as to conform with Netscapes SSL.
7  *
8  * This library is free for commercial and non-commercial use as long as
9  * the following conditions are aheared to.  The following conditions
10  * apply to all code found in this distribution, be it the RC4, RSA,
11  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
12  * included with this distribution is covered by the same copyright terms
13  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
14  *
15  * Copyright remains Eric Young's, and as such any Copyright notices in
16  * the code are not to be removed.
17  * If this package is used in a product, Eric Young should be given attribution
18  * as the author of the parts of the library used.
19  * This can be in the form of a textual message at program startup or
20  * in documentation (online or textual) provided with the package.
21  *
22  * Redistribution and use in source and binary forms, with or without
23  * modification, are permitted provided that the following conditions
24  * are met:
25  * 1. Redistributions of source code must retain the copyright
26  *    notice, this list of conditions and the following disclaimer.
27  * 2. Redistributions in binary form must reproduce the above copyright
28  *    notice, this list of conditions and the following disclaimer in the
29  *    documentation and/or other materials provided with the distribution.
30  * 3. All advertising materials mentioning features or use of this software
31  *    must display the following acknowledgement:
32  *    "This product includes cryptographic software written by
33  *     Eric Young (eay@cryptsoft.com)"
34  *    The word 'cryptographic' can be left out if the rouines from the library
35  *    being used are not cryptographic related :-).
36  * 4. If you include any Windows specific code (or a derivative thereof) from
37  *    the apps directory (application code) you must include an acknowledgement:
38  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
39  *
40  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
41  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
42  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
43  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
44  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
45  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
46  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
47  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
48  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
49  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
50  * SUCH DAMAGE.
51  *
52  * The licence and distribution terms for any publically available version or
53  * derivative of this code cannot be changed.  i.e. this code cannot simply be
54  * copied and put under another distribution licence
55  * [including the GNU Public Licence.]
56  */
57
58 /* Original version from Steven Schoch <schoch@sheba.arc.nasa.gov> */
59
60 #include <stdio.h>
61 #include "internal/cryptlib.h"
62 #include <openssl/bn.h>
63 #include <openssl/dsa.h>
64 #include <openssl/asn1.h>
65 #ifndef OPENSSL_NO_ENGINE
66 # include <openssl/engine.h>
67 #endif
68 #ifndef OPENSSL_NO_DH
69 # include <openssl/dh.h>
70 #endif
71
72 static const DSA_METHOD *default_DSA_method = NULL;
73
74 void DSA_set_default_method(const DSA_METHOD *meth)
75 {
76     default_DSA_method = meth;
77 }
78
79 const DSA_METHOD *DSA_get_default_method(void)
80 {
81     if (!default_DSA_method)
82         default_DSA_method = DSA_OpenSSL();
83     return default_DSA_method;
84 }
85
86 DSA *DSA_new(void)
87 {
88     return DSA_new_method(NULL);
89 }
90
91 int DSA_set_method(DSA *dsa, const DSA_METHOD *meth)
92 {
93     /*
94      * NB: The caller is specifically setting a method, so it's not up to us
95      * to deal with which ENGINE it comes from.
96      */
97     const DSA_METHOD *mtmp;
98     mtmp = dsa->meth;
99     if (mtmp->finish)
100         mtmp->finish(dsa);
101 #ifndef OPENSSL_NO_ENGINE
102     if (dsa->engine) {
103         ENGINE_finish(dsa->engine);
104         dsa->engine = NULL;
105     }
106 #endif
107     dsa->meth = meth;
108     if (meth->init)
109         meth->init(dsa);
110     return 1;
111 }
112
113 DSA *DSA_new_method(ENGINE *engine)
114 {
115     DSA *ret;
116
117     ret = OPENSSL_zalloc(sizeof(*ret));
118     if (ret == NULL) {
119         DSAerr(DSA_F_DSA_NEW_METHOD, ERR_R_MALLOC_FAILURE);
120         return (NULL);
121     }
122     ret->meth = DSA_get_default_method();
123 #ifndef OPENSSL_NO_ENGINE
124     if (engine) {
125         if (!ENGINE_init(engine)) {
126             DSAerr(DSA_F_DSA_NEW_METHOD, ERR_R_ENGINE_LIB);
127             OPENSSL_free(ret);
128             return NULL;
129         }
130         ret->engine = engine;
131     } else
132         ret->engine = ENGINE_get_default_DSA();
133     if (ret->engine) {
134         ret->meth = ENGINE_get_DSA(ret->engine);
135         if (!ret->meth) {
136             DSAerr(DSA_F_DSA_NEW_METHOD, ERR_R_ENGINE_LIB);
137             ENGINE_finish(ret->engine);
138             OPENSSL_free(ret);
139             return NULL;
140         }
141     }
142 #endif
143
144     ret->references = 1;
145     ret->flags = ret->meth->flags & ~DSA_FLAG_NON_FIPS_ALLOW;
146     CRYPTO_new_ex_data(CRYPTO_EX_INDEX_DSA, ret, &ret->ex_data);
147     if ((ret->meth->init != NULL) && !ret->meth->init(ret)) {
148 #ifndef OPENSSL_NO_ENGINE
149         if (ret->engine)
150             ENGINE_finish(ret->engine);
151 #endif
152         CRYPTO_free_ex_data(CRYPTO_EX_INDEX_DSA, ret, &ret->ex_data);
153         OPENSSL_free(ret);
154         ret = NULL;
155     }
156
157     return (ret);
158 }
159
160 void DSA_free(DSA *r)
161 {
162     int i;
163
164     if (r == NULL)
165         return;
166
167     i = CRYPTO_add(&r->references, -1, CRYPTO_LOCK_DSA);
168     REF_PRINT_COUNT("DSA", r);
169     if (i > 0)
170         return;
171     REF_ASSERT_ISNT(i < 0);
172
173     if (r->meth->finish)
174         r->meth->finish(r);
175 #ifndef OPENSSL_NO_ENGINE
176     if (r->engine)
177         ENGINE_finish(r->engine);
178 #endif
179
180     CRYPTO_free_ex_data(CRYPTO_EX_INDEX_DSA, r, &r->ex_data);
181
182     BN_clear_free(r->p);
183     BN_clear_free(r->q);
184     BN_clear_free(r->g);
185     BN_clear_free(r->pub_key);
186     BN_clear_free(r->priv_key);
187     BN_clear_free(r->kinv);
188     BN_clear_free(r->r);
189     OPENSSL_free(r);
190 }
191
192 int DSA_up_ref(DSA *r)
193 {
194     int i = CRYPTO_add(&r->references, 1, CRYPTO_LOCK_DSA);
195
196     REF_PRINT_COUNT("DSA", r);
197     REF_ASSERT_ISNT(i < 2);
198     return ((i > 1) ? 1 : 0);
199 }
200
201 int DSA_size(const DSA *r)
202 {
203     int ret, i;
204     ASN1_INTEGER bs;
205     unsigned char buf[4];       /* 4 bytes looks really small. However,
206                                  * i2d_ASN1_INTEGER() will not look beyond
207                                  * the first byte, as long as the second
208                                  * parameter is NULL. */
209
210     i = BN_num_bits(r->q);
211     bs.length = (i + 7) / 8;
212     bs.data = buf;
213     bs.type = V_ASN1_INTEGER;
214     /* If the top bit is set the asn1 encoding is 1 larger. */
215     buf[0] = 0xff;
216
217     i = i2d_ASN1_INTEGER(&bs, NULL);
218     i += i;                     /* r and s */
219     ret = ASN1_object_size(1, i, V_ASN1_SEQUENCE);
220     return (ret);
221 }
222
223 int DSA_set_ex_data(DSA *d, int idx, void *arg)
224 {
225     return (CRYPTO_set_ex_data(&d->ex_data, idx, arg));
226 }
227
228 void *DSA_get_ex_data(DSA *d, int idx)
229 {
230     return (CRYPTO_get_ex_data(&d->ex_data, idx));
231 }
232
233 int DSA_security_bits(const DSA *d)
234 {
235     if (d->p && d->q)
236         return BN_security_bits(BN_num_bits(d->p), BN_num_bits(d->q));
237     return -1;
238 }
239
240 #ifndef OPENSSL_NO_DH
241 DH *DSA_dup_DH(const DSA *r)
242 {
243     /*
244      * DSA has p, q, g, optional pub_key, optional priv_key. DH has p,
245      * optional length, g, optional pub_key, optional priv_key, optional q.
246      */
247
248     DH *ret = NULL;
249
250     if (r == NULL)
251         goto err;
252     ret = DH_new();
253     if (ret == NULL)
254         goto err;
255     if (r->p != NULL)
256         if ((ret->p = BN_dup(r->p)) == NULL)
257             goto err;
258     if (r->q != NULL) {
259         ret->length = BN_num_bits(r->q);
260         if ((ret->q = BN_dup(r->q)) == NULL)
261             goto err;
262     }
263     if (r->g != NULL)
264         if ((ret->g = BN_dup(r->g)) == NULL)
265             goto err;
266     if (r->pub_key != NULL)
267         if ((ret->pub_key = BN_dup(r->pub_key)) == NULL)
268             goto err;
269     if (r->priv_key != NULL)
270         if ((ret->priv_key = BN_dup(r->priv_key)) == NULL)
271             goto err;
272
273     return ret;
274
275  err:
276     DH_free(ret);
277     return NULL;
278 }
279 #endif