Remove parentheses of return.
[openssl.git] / crypto / dsa / dsa_ossl.c
1 /*
2  * Copyright 1995-2016 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the OpenSSL license (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #include <stdio.h>
11 #include "internal/cryptlib.h"
12 #include <openssl/bn.h>
13 #include <openssl/sha.h>
14 #include "dsa_locl.h"
15 #include <openssl/asn1.h>
16
17 static DSA_SIG *dsa_do_sign(const unsigned char *dgst, int dlen, DSA *dsa);
18 static int dsa_sign_setup_no_digest(DSA *dsa, BN_CTX *ctx_in, BIGNUM **kinvp,
19                                     BIGNUM **rp);
20 static int dsa_sign_setup(DSA *dsa, BN_CTX *ctx_in, BIGNUM **kinvp,
21                           BIGNUM **rp, const unsigned char *dgst, int dlen);
22 static int dsa_do_verify(const unsigned char *dgst, int dgst_len,
23                          DSA_SIG *sig, DSA *dsa);
24 static int dsa_init(DSA *dsa);
25 static int dsa_finish(DSA *dsa);
26
27 static DSA_METHOD openssl_dsa_meth = {
28     "OpenSSL DSA method",
29     dsa_do_sign,
30     dsa_sign_setup_no_digest,
31     dsa_do_verify,
32     NULL,                       /* dsa_mod_exp, */
33     NULL,                       /* dsa_bn_mod_exp, */
34     dsa_init,
35     dsa_finish,
36     DSA_FLAG_FIPS_METHOD,
37     NULL,
38     NULL,
39     NULL
40 };
41
42 static const DSA_METHOD *default_DSA_method = &openssl_dsa_meth;
43
44 void DSA_set_default_method(const DSA_METHOD *meth)
45 {
46     default_DSA_method = meth;
47 }
48
49 const DSA_METHOD *DSA_get_default_method(void)
50 {
51     return default_DSA_method;
52 }
53
54 const DSA_METHOD *DSA_OpenSSL(void)
55 {
56     return &openssl_dsa_meth;
57 }
58
59 static DSA_SIG *dsa_do_sign(const unsigned char *dgst, int dlen, DSA *dsa)
60 {
61     BIGNUM *kinv = NULL;
62     BIGNUM *m;
63     BIGNUM *xr;
64     BN_CTX *ctx = NULL;
65     int reason = ERR_R_BN_LIB;
66     DSA_SIG *ret = NULL;
67     int rv = 0;
68
69     m = BN_new();
70     xr = BN_new();
71     if (m == NULL || xr == NULL)
72         goto err;
73
74     if (!dsa->p || !dsa->q || !dsa->g) {
75         reason = DSA_R_MISSING_PARAMETERS;
76         goto err;
77     }
78
79     ret = DSA_SIG_new();
80     if (ret == NULL)
81         goto err;
82     ret->r = BN_new();
83     ret->s = BN_new();
84     if (ret->r == NULL || ret->s == NULL)
85         goto err;
86
87     ctx = BN_CTX_new();
88     if (ctx == NULL)
89         goto err;
90  redo:
91     if (!dsa_sign_setup(dsa, ctx, &kinv, &ret->r, dgst, dlen))
92         goto err;
93
94     if (dlen > BN_num_bytes(dsa->q))
95         /*
96          * if the digest length is greater than the size of q use the
97          * BN_num_bits(dsa->q) leftmost bits of the digest, see fips 186-3,
98          * 4.2
99          */
100         dlen = BN_num_bytes(dsa->q);
101     if (BN_bin2bn(dgst, dlen, m) == NULL)
102         goto err;
103
104     /* Compute  s = inv(k) (m + xr) mod q */
105     if (!BN_mod_mul(xr, dsa->priv_key, ret->r, dsa->q, ctx))
106         goto err;               /* s = xr */
107     if (!BN_add(ret->s, xr, m))
108         goto err;               /* s = m + xr */
109     if (BN_cmp(ret->s, dsa->q) > 0)
110         if (!BN_sub(ret->s, ret->s, dsa->q))
111             goto err;
112     if (!BN_mod_mul(ret->s, ret->s, kinv, dsa->q, ctx))
113         goto err;
114
115     /*
116      * Redo if r or s is zero as required by FIPS 186-3: this is very
117      * unlikely.
118      */
119     if (BN_is_zero(ret->r) || BN_is_zero(ret->s))
120         goto redo;
121
122     rv = 1;
123
124  err:
125     if (rv == 0) {
126         DSAerr(DSA_F_DSA_DO_SIGN, reason);
127         DSA_SIG_free(ret);
128         ret = NULL;
129     }
130     BN_CTX_free(ctx);
131     BN_clear_free(m);
132     BN_clear_free(xr);
133     BN_clear_free(kinv);
134     return ret;
135 }
136
137 static int dsa_sign_setup_no_digest(DSA *dsa, BN_CTX *ctx_in,
138                                     BIGNUM **kinvp, BIGNUM **rp)
139 {
140     return dsa_sign_setup(dsa, ctx_in, kinvp, rp, NULL, 0);
141 }
142
143 static int dsa_sign_setup(DSA *dsa, BN_CTX *ctx_in,
144                           BIGNUM **kinvp, BIGNUM **rp,
145                           const unsigned char *dgst, int dlen)
146 {
147     BN_CTX *ctx = NULL;
148     BIGNUM *k, *kinv = NULL, *r = *rp;
149     int ret = 0;
150
151     if (!dsa->p || !dsa->q || !dsa->g) {
152         DSAerr(DSA_F_DSA_SIGN_SETUP, DSA_R_MISSING_PARAMETERS);
153         return 0;
154     }
155
156     k = BN_new();
157     if (k == NULL)
158         goto err;
159
160     if (ctx_in == NULL) {
161         if ((ctx = BN_CTX_new()) == NULL)
162             goto err;
163     } else
164         ctx = ctx_in;
165
166     /* Get random k */
167     do {
168         if (dgst != NULL) {
169             /*
170              * We calculate k from SHA512(private_key + H(message) + random).
171              * This protects the private key from a weak PRNG.
172              */
173             if (!BN_generate_dsa_nonce(k, dsa->q, dsa->priv_key, dgst,
174                                        dlen, ctx))
175                 goto err;
176         } else if (!BN_priv_rand_range(k, dsa->q))
177             goto err;
178     } while (BN_is_zero(k));
179
180     BN_set_flags(k, BN_FLG_CONSTTIME);
181
182     if (dsa->flags & DSA_FLAG_CACHE_MONT_P) {
183         if (!BN_MONT_CTX_set_locked(&dsa->method_mont_p,
184                                     dsa->lock, dsa->p, ctx))
185             goto err;
186     }
187
188     /* Compute r = (g^k mod p) mod q */
189
190     /*
191      * We do not want timing information to leak the length of k, so we
192      * compute g^k using an equivalent exponent of fixed length. (This
193      * is a kludge that we need because the BN_mod_exp_mont() does not
194      * let us specify the desired timing behaviour.)
195      */
196
197     if (!BN_add(k, k, dsa->q))
198         goto err;
199     if (BN_num_bits(k) <= BN_num_bits(dsa->q)) {
200         if (!BN_add(k, k, dsa->q))
201             goto err;
202     }
203
204     if ((dsa)->meth->bn_mod_exp != NULL) {
205             if (!dsa->meth->bn_mod_exp(dsa, r, dsa->g, k, dsa->p, ctx,
206                                        dsa->method_mont_p))
207                 goto err;
208     } else {
209             if (!BN_mod_exp_mont(r, dsa->g, k, dsa->p, ctx, dsa->method_mont_p))
210                 goto err;
211     }
212
213     if (!BN_mod(r, r, dsa->q, ctx))
214         goto err;
215
216     /* Compute  part of 's = inv(k) (m + xr) mod q' */
217     if ((kinv = BN_mod_inverse(NULL, k, dsa->q, ctx)) == NULL)
218         goto err;
219
220     BN_clear_free(*kinvp);
221     *kinvp = kinv;
222     kinv = NULL;
223     ret = 1;
224  err:
225     if (!ret)
226         DSAerr(DSA_F_DSA_SIGN_SETUP, ERR_R_BN_LIB);
227     if (ctx != ctx_in)
228         BN_CTX_free(ctx);
229     BN_clear_free(k);
230     return ret;
231 }
232
233 static int dsa_do_verify(const unsigned char *dgst, int dgst_len,
234                          DSA_SIG *sig, DSA *dsa)
235 {
236     BN_CTX *ctx;
237     BIGNUM *u1, *u2, *t1;
238     BN_MONT_CTX *mont = NULL;
239     const BIGNUM *r, *s;
240     int ret = -1, i;
241     if (!dsa->p || !dsa->q || !dsa->g) {
242         DSAerr(DSA_F_DSA_DO_VERIFY, DSA_R_MISSING_PARAMETERS);
243         return -1;
244     }
245
246     i = BN_num_bits(dsa->q);
247     /* fips 186-3 allows only different sizes for q */
248     if (i != 160 && i != 224 && i != 256) {
249         DSAerr(DSA_F_DSA_DO_VERIFY, DSA_R_BAD_Q_VALUE);
250         return -1;
251     }
252
253     if (BN_num_bits(dsa->p) > OPENSSL_DSA_MAX_MODULUS_BITS) {
254         DSAerr(DSA_F_DSA_DO_VERIFY, DSA_R_MODULUS_TOO_LARGE);
255         return -1;
256     }
257     u1 = BN_new();
258     u2 = BN_new();
259     t1 = BN_new();
260     ctx = BN_CTX_new();
261     if (u1 == NULL || u2 == NULL || t1 == NULL || ctx == NULL)
262         goto err;
263
264     DSA_SIG_get0(sig, &r, &s);
265
266     if (BN_is_zero(r) || BN_is_negative(r) ||
267         BN_ucmp(r, dsa->q) >= 0) {
268         ret = 0;
269         goto err;
270     }
271     if (BN_is_zero(s) || BN_is_negative(s) ||
272         BN_ucmp(s, dsa->q) >= 0) {
273         ret = 0;
274         goto err;
275     }
276
277     /*
278      * Calculate W = inv(S) mod Q save W in u2
279      */
280     if ((BN_mod_inverse(u2, s, dsa->q, ctx)) == NULL)
281         goto err;
282
283     /* save M in u1 */
284     if (dgst_len > (i >> 3))
285         /*
286          * if the digest length is greater than the size of q use the
287          * BN_num_bits(dsa->q) leftmost bits of the digest, see fips 186-3,
288          * 4.2
289          */
290         dgst_len = (i >> 3);
291     if (BN_bin2bn(dgst, dgst_len, u1) == NULL)
292         goto err;
293
294     /* u1 = M * w mod q */
295     if (!BN_mod_mul(u1, u1, u2, dsa->q, ctx))
296         goto err;
297
298     /* u2 = r * w mod q */
299     if (!BN_mod_mul(u2, r, u2, dsa->q, ctx))
300         goto err;
301
302     if (dsa->flags & DSA_FLAG_CACHE_MONT_P) {
303         mont = BN_MONT_CTX_set_locked(&dsa->method_mont_p,
304                                       dsa->lock, dsa->p, ctx);
305         if (!mont)
306             goto err;
307     }
308
309     if (dsa->meth->dsa_mod_exp != NULL) {
310         if (!dsa->meth->dsa_mod_exp(dsa, t1, dsa->g, u1, dsa->pub_key, u2,
311                                     dsa->p, ctx, mont))
312             goto err;
313     } else {
314         if (!BN_mod_exp2_mont(t1, dsa->g, u1, dsa->pub_key, u2, dsa->p, ctx,
315                               mont))
316             goto err;
317     }
318
319     /* let u1 = u1 mod q */
320     if (!BN_mod(u1, t1, dsa->q, ctx))
321         goto err;
322
323     /*
324      * V is now in u1.  If the signature is correct, it will be equal to R.
325      */
326     ret = (BN_ucmp(u1, r) == 0);
327
328  err:
329     if (ret < 0)
330         DSAerr(DSA_F_DSA_DO_VERIFY, ERR_R_BN_LIB);
331     BN_CTX_free(ctx);
332     BN_free(u1);
333     BN_free(u2);
334     BN_free(t1);
335     return ret;
336 }
337
338 static int dsa_init(DSA *dsa)
339 {
340     dsa->flags |= DSA_FLAG_CACHE_MONT_P;
341     return 1;
342 }
343
344 static int dsa_finish(DSA *dsa)
345 {
346     BN_MONT_CTX_free(dsa->method_mont_p);
347     return 1;
348 }