Fix error checking and memory leaks in NISTZ256 precomputation.
[openssl.git] / crypto / ec / ecp_nist.c
1 /* crypto/ec/ecp_nist.c */
2 /*
3  * Written by Nils Larsch for the OpenSSL project.
4  */
5 /* ====================================================================
6  * Copyright (c) 1998-2003 The OpenSSL Project.  All rights reserved.
7  *
8  * Redistribution and use in source and binary forms, with or without
9  * modification, are permitted provided that the following conditions
10  * are met:
11  *
12  * 1. Redistributions of source code must retain the above copyright
13  *    notice, this list of conditions and the following disclaimer.
14  *
15  * 2. Redistributions in binary form must reproduce the above copyright
16  *    notice, this list of conditions and the following disclaimer in
17  *    the documentation and/or other materials provided with the
18  *    distribution.
19  *
20  * 3. All advertising materials mentioning features or use of this
21  *    software must display the following acknowledgment:
22  *    "This product includes software developed by the OpenSSL Project
23  *    for use in the OpenSSL Toolkit. (http://www.openssl.org/)"
24  *
25  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
26  *    endorse or promote products derived from this software without
27  *    prior written permission. For written permission, please contact
28  *    openssl-core@openssl.org.
29  *
30  * 5. Products derived from this software may not be called "OpenSSL"
31  *    nor may "OpenSSL" appear in their names without prior written
32  *    permission of the OpenSSL Project.
33  *
34  * 6. Redistributions of any form whatsoever must retain the following
35  *    acknowledgment:
36  *    "This product includes software developed by the OpenSSL Project
37  *    for use in the OpenSSL Toolkit (http://www.openssl.org/)"
38  *
39  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
40  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
41  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
42  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
43  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
44  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
45  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
46  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
47  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
48  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
49  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
50  * OF THE POSSIBILITY OF SUCH DAMAGE.
51  * ====================================================================
52  *
53  * This product includes cryptographic software written by Eric Young
54  * (eay@cryptsoft.com).  This product includes software written by Tim
55  * Hudson (tjh@cryptsoft.com).
56  *
57  */
58 /* ====================================================================
59  * Copyright 2002 Sun Microsystems, Inc. ALL RIGHTS RESERVED.
60  * Portions of this software developed by SUN MICROSYSTEMS, INC.,
61  * and contributed to the OpenSSL project.
62  */
63
64 #include <limits.h>
65
66 #include <openssl/err.h>
67 #include <openssl/obj_mac.h>
68 #include "ec_lcl.h"
69
70 #ifdef OPENSSL_FIPS
71 # include <openssl/fips.h>
72 #endif
73
74 const EC_METHOD *EC_GFp_nist_method(void)
75 {
76     static const EC_METHOD ret = {
77         EC_FLAGS_DEFAULT_OCT,
78         NID_X9_62_prime_field,
79         ec_GFp_simple_group_init,
80         ec_GFp_simple_group_finish,
81         ec_GFp_simple_group_clear_finish,
82         ec_GFp_nist_group_copy,
83         ec_GFp_nist_group_set_curve,
84         ec_GFp_simple_group_get_curve,
85         ec_GFp_simple_group_get_degree,
86         ec_GFp_simple_group_check_discriminant,
87         ec_GFp_simple_point_init,
88         ec_GFp_simple_point_finish,
89         ec_GFp_simple_point_clear_finish,
90         ec_GFp_simple_point_copy,
91         ec_GFp_simple_point_set_to_infinity,
92         ec_GFp_simple_set_Jprojective_coordinates_GFp,
93         ec_GFp_simple_get_Jprojective_coordinates_GFp,
94         ec_GFp_simple_point_set_affine_coordinates,
95         ec_GFp_simple_point_get_affine_coordinates,
96         0, 0, 0,
97         ec_GFp_simple_add,
98         ec_GFp_simple_dbl,
99         ec_GFp_simple_invert,
100         ec_GFp_simple_is_at_infinity,
101         ec_GFp_simple_is_on_curve,
102         ec_GFp_simple_cmp,
103         ec_GFp_simple_make_affine,
104         ec_GFp_simple_points_make_affine,
105         0 /* mul */ ,
106         0 /* precompute_mult */ ,
107         0 /* have_precompute_mult */ ,
108         ec_GFp_nist_field_mul,
109         ec_GFp_nist_field_sqr,
110         0 /* field_div */ ,
111         0 /* field_encode */ ,
112         0 /* field_decode */ ,
113         0                       /* field_set_to_one */
114     };
115
116 #ifdef OPENSSL_FIPS
117     if (FIPS_mode())
118         return fips_ec_gfp_nist_method();
119 #endif
120
121     return &ret;
122 }
123
124 int ec_GFp_nist_group_copy(EC_GROUP *dest, const EC_GROUP *src)
125 {
126     dest->field_mod_func = src->field_mod_func;
127
128     return ec_GFp_simple_group_copy(dest, src);
129 }
130
131 int ec_GFp_nist_group_set_curve(EC_GROUP *group, const BIGNUM *p,
132                                 const BIGNUM *a, const BIGNUM *b, BN_CTX *ctx)
133 {
134     int ret = 0;
135     BN_CTX *new_ctx = NULL;
136     BIGNUM *tmp_bn;
137
138     if (ctx == NULL)
139         if ((ctx = new_ctx = BN_CTX_new()) == NULL)
140             return 0;
141
142     BN_CTX_start(ctx);
143     if ((tmp_bn = BN_CTX_get(ctx)) == NULL)
144         goto err;
145
146     if (BN_ucmp(BN_get0_nist_prime_192(), p) == 0)
147         group->field_mod_func = BN_nist_mod_192;
148     else if (BN_ucmp(BN_get0_nist_prime_224(), p) == 0)
149         group->field_mod_func = BN_nist_mod_224;
150     else if (BN_ucmp(BN_get0_nist_prime_256(), p) == 0)
151         group->field_mod_func = BN_nist_mod_256;
152     else if (BN_ucmp(BN_get0_nist_prime_384(), p) == 0)
153         group->field_mod_func = BN_nist_mod_384;
154     else if (BN_ucmp(BN_get0_nist_prime_521(), p) == 0)
155         group->field_mod_func = BN_nist_mod_521;
156     else {
157         ECerr(EC_F_EC_GFP_NIST_GROUP_SET_CURVE, EC_R_NOT_A_NIST_PRIME);
158         goto err;
159     }
160
161     ret = ec_GFp_simple_group_set_curve(group, p, a, b, ctx);
162
163  err:
164     BN_CTX_end(ctx);
165     if (new_ctx != NULL)
166         BN_CTX_free(new_ctx);
167     return ret;
168 }
169
170 int ec_GFp_nist_field_mul(const EC_GROUP *group, BIGNUM *r, const BIGNUM *a,
171                           const BIGNUM *b, BN_CTX *ctx)
172 {
173     int ret = 0;
174     BN_CTX *ctx_new = NULL;
175
176     if (!group || !r || !a || !b) {
177         ECerr(EC_F_EC_GFP_NIST_FIELD_MUL, ERR_R_PASSED_NULL_PARAMETER);
178         goto err;
179     }
180     if (!ctx)
181         if ((ctx_new = ctx = BN_CTX_new()) == NULL)
182             goto err;
183
184     if (!BN_mul(r, a, b, ctx))
185         goto err;
186     if (!group->field_mod_func(r, r, &group->field, ctx))
187         goto err;
188
189     ret = 1;
190  err:
191     if (ctx_new)
192         BN_CTX_free(ctx_new);
193     return ret;
194 }
195
196 int ec_GFp_nist_field_sqr(const EC_GROUP *group, BIGNUM *r, const BIGNUM *a,
197                           BN_CTX *ctx)
198 {
199     int ret = 0;
200     BN_CTX *ctx_new = NULL;
201
202     if (!group || !r || !a) {
203         ECerr(EC_F_EC_GFP_NIST_FIELD_SQR, EC_R_PASSED_NULL_PARAMETER);
204         goto err;
205     }
206     if (!ctx)
207         if ((ctx_new = ctx = BN_CTX_new()) == NULL)
208             goto err;
209
210     if (!BN_sqr(r, a, ctx))
211         goto err;
212     if (!group->field_mod_func(r, r, &group->field, ctx))
213         goto err;
214
215     ret = 1;
216  err:
217     if (ctx_new)
218         BN_CTX_free(ctx_new);
219     return ret;
220 }