Extract compression form in EC_KEY_oct2key().
[openssl.git] / crypto / ec / ec_check.c
1 /* ====================================================================
2  * Copyright (c) 1998-2002 The OpenSSL Project.  All rights reserved.
3  *
4  * Redistribution and use in source and binary forms, with or without
5  * modification, are permitted provided that the following conditions
6  * are met:
7  *
8  * 1. Redistributions of source code must retain the above copyright
9  *    notice, this list of conditions and the following disclaimer.
10  *
11  * 2. Redistributions in binary form must reproduce the above copyright
12  *    notice, this list of conditions and the following disclaimer in
13  *    the documentation and/or other materials provided with the
14  *    distribution.
15  *
16  * 3. All advertising materials mentioning features or use of this
17  *    software must display the following acknowledgment:
18  *    "This product includes software developed by the OpenSSL Project
19  *    for use in the OpenSSL Toolkit. (http://www.openssl.org/)"
20  *
21  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
22  *    endorse or promote products derived from this software without
23  *    prior written permission. For written permission, please contact
24  *    openssl-core@openssl.org.
25  *
26  * 5. Products derived from this software may not be called "OpenSSL"
27  *    nor may "OpenSSL" appear in their names without prior written
28  *    permission of the OpenSSL Project.
29  *
30  * 6. Redistributions of any form whatsoever must retain the following
31  *    acknowledgment:
32  *    "This product includes software developed by the OpenSSL Project
33  *    for use in the OpenSSL Toolkit (http://www.openssl.org/)"
34  *
35  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
36  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
37  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
38  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
39  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
40  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
41  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
42  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
43  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
44  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
45  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
46  * OF THE POSSIBILITY OF SUCH DAMAGE.
47  * ====================================================================
48  *
49  * This product includes cryptographic software written by Eric Young
50  * (eay@cryptsoft.com).  This product includes software written by Tim
51  * Hudson (tjh@cryptsoft.com).
52  *
53  */
54
55 #include "ec_lcl.h"
56 #include <openssl/err.h>
57
58 int EC_GROUP_check(const EC_GROUP *group, BN_CTX *ctx)
59 {
60     int ret = 0;
61     const BIGNUM *order;
62     BN_CTX *new_ctx = NULL;
63     EC_POINT *point = NULL;
64
65     /* Custom curves assumed to be correct */
66     if ((group->meth->flags & EC_FLAGS_CUSTOM_CURVE) != 0)
67         return 1;
68
69     if (ctx == NULL) {
70         ctx = new_ctx = BN_CTX_new();
71         if (ctx == NULL) {
72             ECerr(EC_F_EC_GROUP_CHECK, ERR_R_MALLOC_FAILURE);
73             goto err;
74         }
75     }
76     BN_CTX_start(ctx);
77     if ((order = BN_CTX_get(ctx)) == NULL)
78         goto err;
79
80     /* check the discriminant */
81     if (!EC_GROUP_check_discriminant(group, ctx)) {
82         ECerr(EC_F_EC_GROUP_CHECK, EC_R_DISCRIMINANT_IS_ZERO);
83         goto err;
84     }
85
86     /* check the generator */
87     if (group->generator == NULL) {
88         ECerr(EC_F_EC_GROUP_CHECK, EC_R_UNDEFINED_GENERATOR);
89         goto err;
90     }
91     if (EC_POINT_is_on_curve(group, group->generator, ctx) <= 0) {
92         ECerr(EC_F_EC_GROUP_CHECK, EC_R_POINT_IS_NOT_ON_CURVE);
93         goto err;
94     }
95
96     /* check the order of the generator */
97     if ((point = EC_POINT_new(group)) == NULL)
98         goto err;
99     order = EC_GROUP_get0_order(group);
100     if (order == NULL)
101         goto err;
102     if (BN_is_zero(order)) {
103         ECerr(EC_F_EC_GROUP_CHECK, EC_R_UNDEFINED_ORDER);
104         goto err;
105     }
106
107     if (!EC_POINT_mul(group, point, order, NULL, NULL, ctx))
108         goto err;
109     if (!EC_POINT_is_at_infinity(group, point)) {
110         ECerr(EC_F_EC_GROUP_CHECK, EC_R_INVALID_GROUP_ORDER);
111         goto err;
112     }
113
114     ret = 1;
115
116  err:
117     if (ctx != NULL)
118         BN_CTX_end(ctx);
119     BN_CTX_free(new_ctx);
120     EC_POINT_free(point);
121     return ret;
122 }