Fix error checking and memory leaks in NISTZ256 precomputation.
[openssl.git] / crypto / ec / ecp_mont.c
1 /* crypto/ec/ecp_mont.c */
2 /*
3  * Originally written by Bodo Moeller for the OpenSSL project.
4  */
5 /* ====================================================================
6  * Copyright (c) 1998-2001 The OpenSSL Project.  All rights reserved.
7  *
8  * Redistribution and use in source and binary forms, with or without
9  * modification, are permitted provided that the following conditions
10  * are met:
11  *
12  * 1. Redistributions of source code must retain the above copyright
13  *    notice, this list of conditions and the following disclaimer.
14  *
15  * 2. Redistributions in binary form must reproduce the above copyright
16  *    notice, this list of conditions and the following disclaimer in
17  *    the documentation and/or other materials provided with the
18  *    distribution.
19  *
20  * 3. All advertising materials mentioning features or use of this
21  *    software must display the following acknowledgment:
22  *    "This product includes software developed by the OpenSSL Project
23  *    for use in the OpenSSL Toolkit. (http://www.openssl.org/)"
24  *
25  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
26  *    endorse or promote products derived from this software without
27  *    prior written permission. For written permission, please contact
28  *    openssl-core@openssl.org.
29  *
30  * 5. Products derived from this software may not be called "OpenSSL"
31  *    nor may "OpenSSL" appear in their names without prior written
32  *    permission of the OpenSSL Project.
33  *
34  * 6. Redistributions of any form whatsoever must retain the following
35  *    acknowledgment:
36  *    "This product includes software developed by the OpenSSL Project
37  *    for use in the OpenSSL Toolkit (http://www.openssl.org/)"
38  *
39  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
40  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
41  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
42  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
43  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
44  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
45  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
46  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
47  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
48  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
49  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
50  * OF THE POSSIBILITY OF SUCH DAMAGE.
51  * ====================================================================
52  *
53  * This product includes cryptographic software written by Eric Young
54  * (eay@cryptsoft.com).  This product includes software written by Tim
55  * Hudson (tjh@cryptsoft.com).
56  *
57  */
58 /* ====================================================================
59  * Copyright 2002 Sun Microsystems, Inc. ALL RIGHTS RESERVED.
60  * Portions of this software developed by SUN MICROSYSTEMS, INC.,
61  * and contributed to the OpenSSL project.
62  */
63
64 #include <openssl/err.h>
65
66 #include "ec_lcl.h"
67
68 const EC_METHOD *EC_GFp_mont_method(void)
69 {
70     static const EC_METHOD ret = {
71         EC_FLAGS_DEFAULT_OCT,
72         NID_X9_62_prime_field,
73         ec_GFp_mont_group_init,
74         ec_GFp_mont_group_finish,
75         ec_GFp_mont_group_clear_finish,
76         ec_GFp_mont_group_copy,
77         ec_GFp_mont_group_set_curve,
78         ec_GFp_simple_group_get_curve,
79         ec_GFp_simple_group_get_degree,
80         ec_GFp_simple_group_check_discriminant,
81         ec_GFp_simple_point_init,
82         ec_GFp_simple_point_finish,
83         ec_GFp_simple_point_clear_finish,
84         ec_GFp_simple_point_copy,
85         ec_GFp_simple_point_set_to_infinity,
86         ec_GFp_simple_set_Jprojective_coordinates_GFp,
87         ec_GFp_simple_get_Jprojective_coordinates_GFp,
88         ec_GFp_simple_point_set_affine_coordinates,
89         ec_GFp_simple_point_get_affine_coordinates,
90         0, 0, 0,
91         ec_GFp_simple_add,
92         ec_GFp_simple_dbl,
93         ec_GFp_simple_invert,
94         ec_GFp_simple_is_at_infinity,
95         ec_GFp_simple_is_on_curve,
96         ec_GFp_simple_cmp,
97         ec_GFp_simple_make_affine,
98         ec_GFp_simple_points_make_affine,
99         0 /* mul */ ,
100         0 /* precompute_mult */ ,
101         0 /* have_precompute_mult */ ,
102         ec_GFp_mont_field_mul,
103         ec_GFp_mont_field_sqr,
104         0 /* field_div */ ,
105         ec_GFp_mont_field_encode,
106         ec_GFp_mont_field_decode,
107         ec_GFp_mont_field_set_to_one
108     };
109
110     return &ret;
111 }
112
113 int ec_GFp_mont_group_init(EC_GROUP *group)
114 {
115     int ok;
116
117     ok = ec_GFp_simple_group_init(group);
118     group->field_data1 = NULL;
119     group->field_data2 = NULL;
120     return ok;
121 }
122
123 void ec_GFp_mont_group_finish(EC_GROUP *group)
124 {
125     if (group->field_data1 != NULL) {
126         BN_MONT_CTX_free(group->field_data1);
127         group->field_data1 = NULL;
128     }
129     if (group->field_data2 != NULL) {
130         BN_free(group->field_data2);
131         group->field_data2 = NULL;
132     }
133     ec_GFp_simple_group_finish(group);
134 }
135
136 void ec_GFp_mont_group_clear_finish(EC_GROUP *group)
137 {
138     if (group->field_data1 != NULL) {
139         BN_MONT_CTX_free(group->field_data1);
140         group->field_data1 = NULL;
141     }
142     if (group->field_data2 != NULL) {
143         BN_clear_free(group->field_data2);
144         group->field_data2 = NULL;
145     }
146     ec_GFp_simple_group_clear_finish(group);
147 }
148
149 int ec_GFp_mont_group_copy(EC_GROUP *dest, const EC_GROUP *src)
150 {
151     if (dest->field_data1 != NULL) {
152         BN_MONT_CTX_free(dest->field_data1);
153         dest->field_data1 = NULL;
154     }
155     if (dest->field_data2 != NULL) {
156         BN_clear_free(dest->field_data2);
157         dest->field_data2 = NULL;
158     }
159
160     if (!ec_GFp_simple_group_copy(dest, src))
161         return 0;
162
163     if (src->field_data1 != NULL) {
164         dest->field_data1 = BN_MONT_CTX_new();
165         if (dest->field_data1 == NULL)
166             return 0;
167         if (!BN_MONT_CTX_copy(dest->field_data1, src->field_data1))
168             goto err;
169     }
170     if (src->field_data2 != NULL) {
171         dest->field_data2 = BN_dup(src->field_data2);
172         if (dest->field_data2 == NULL)
173             goto err;
174     }
175
176     return 1;
177
178  err:
179     if (dest->field_data1 != NULL) {
180         BN_MONT_CTX_free(dest->field_data1);
181         dest->field_data1 = NULL;
182     }
183     return 0;
184 }
185
186 int ec_GFp_mont_group_set_curve(EC_GROUP *group, const BIGNUM *p,
187                                 const BIGNUM *a, const BIGNUM *b, BN_CTX *ctx)
188 {
189     BN_CTX *new_ctx = NULL;
190     BN_MONT_CTX *mont = NULL;
191     BIGNUM *one = NULL;
192     int ret = 0;
193
194     if (group->field_data1 != NULL) {
195         BN_MONT_CTX_free(group->field_data1);
196         group->field_data1 = NULL;
197     }
198     if (group->field_data2 != NULL) {
199         BN_free(group->field_data2);
200         group->field_data2 = NULL;
201     }
202
203     if (ctx == NULL) {
204         ctx = new_ctx = BN_CTX_new();
205         if (ctx == NULL)
206             return 0;
207     }
208
209     mont = BN_MONT_CTX_new();
210     if (mont == NULL)
211         goto err;
212     if (!BN_MONT_CTX_set(mont, p, ctx)) {
213         ECerr(EC_F_EC_GFP_MONT_GROUP_SET_CURVE, ERR_R_BN_LIB);
214         goto err;
215     }
216     one = BN_new();
217     if (one == NULL)
218         goto err;
219     if (!BN_to_montgomery(one, BN_value_one(), mont, ctx))
220         goto err;
221
222     group->field_data1 = mont;
223     mont = NULL;
224     group->field_data2 = one;
225     one = NULL;
226
227     ret = ec_GFp_simple_group_set_curve(group, p, a, b, ctx);
228
229     if (!ret) {
230         BN_MONT_CTX_free(group->field_data1);
231         group->field_data1 = NULL;
232         BN_free(group->field_data2);
233         group->field_data2 = NULL;
234     }
235
236  err:
237     if (new_ctx != NULL)
238         BN_CTX_free(new_ctx);
239     if (mont != NULL)
240         BN_MONT_CTX_free(mont);
241     return ret;
242 }
243
244 int ec_GFp_mont_field_mul(const EC_GROUP *group, BIGNUM *r, const BIGNUM *a,
245                           const BIGNUM *b, BN_CTX *ctx)
246 {
247     if (group->field_data1 == NULL) {
248         ECerr(EC_F_EC_GFP_MONT_FIELD_MUL, EC_R_NOT_INITIALIZED);
249         return 0;
250     }
251
252     return BN_mod_mul_montgomery(r, a, b, group->field_data1, ctx);
253 }
254
255 int ec_GFp_mont_field_sqr(const EC_GROUP *group, BIGNUM *r, const BIGNUM *a,
256                           BN_CTX *ctx)
257 {
258     if (group->field_data1 == NULL) {
259         ECerr(EC_F_EC_GFP_MONT_FIELD_SQR, EC_R_NOT_INITIALIZED);
260         return 0;
261     }
262
263     return BN_mod_mul_montgomery(r, a, a, group->field_data1, ctx);
264 }
265
266 int ec_GFp_mont_field_encode(const EC_GROUP *group, BIGNUM *r,
267                              const BIGNUM *a, BN_CTX *ctx)
268 {
269     if (group->field_data1 == NULL) {
270         ECerr(EC_F_EC_GFP_MONT_FIELD_ENCODE, EC_R_NOT_INITIALIZED);
271         return 0;
272     }
273
274     return BN_to_montgomery(r, a, (BN_MONT_CTX *)group->field_data1, ctx);
275 }
276
277 int ec_GFp_mont_field_decode(const EC_GROUP *group, BIGNUM *r,
278                              const BIGNUM *a, BN_CTX *ctx)
279 {
280     if (group->field_data1 == NULL) {
281         ECerr(EC_F_EC_GFP_MONT_FIELD_DECODE, EC_R_NOT_INITIALIZED);
282         return 0;
283     }
284
285     return BN_from_montgomery(r, a, group->field_data1, ctx);
286 }
287
288 int ec_GFp_mont_field_set_to_one(const EC_GROUP *group, BIGNUM *r,
289                                  BN_CTX *ctx)
290 {
291     if (group->field_data2 == NULL) {
292         ECerr(EC_F_EC_GFP_MONT_FIELD_SET_TO_ONE, EC_R_NOT_INITIALIZED);
293         return 0;
294     }
295
296     if (!BN_copy(r, group->field_data2))
297         return 0;
298     return 1;
299 }