crypto/rsa/rsa_chk.c: harmonize error codes.
[openssl.git] / crypto / rsa / rsa_chk.c
1 /* crypto/rsa/rsa_chk.c  -*- Mode: C; c-file-style: "eay" -*- */
2 /* ====================================================================
3  * Copyright (c) 1999 The OpenSSL Project.  All rights reserved.
4  *
5  * Redistribution and use in source and binary forms, with or without
6  * modification, are permitted provided that the following conditions
7  * are met:
8  *
9  * 1. Redistributions of source code must retain the above copyright
10  *    notice, this list of conditions and the following disclaimer. 
11  *
12  * 2. Redistributions in binary form must reproduce the above copyright
13  *    notice, this list of conditions and the following disclaimer in
14  *    the documentation and/or other materials provided with the
15  *    distribution.
16  *
17  * 3. All advertising materials mentioning features or use of this
18  *    software must display the following acknowledgment:
19  *    "This product includes software developed by the OpenSSL Project
20  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
21  *
22  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
23  *    endorse or promote products derived from this software without
24  *    prior written permission. For written permission, please contact
25  *    openssl-core@OpenSSL.org.
26  *
27  * 5. Products derived from this software may not be called "OpenSSL"
28  *    nor may "OpenSSL" appear in their names without prior written
29  *    permission of the OpenSSL Project.
30  *
31  * 6. Redistributions of any form whatsoever must retain the following
32  *    acknowledgment:
33  *    "This product includes software developed by the OpenSSL Project
34  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
35  *
36  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
37  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
38  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
39  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
40  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
41  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
42  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
43  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
44  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
45  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
46  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
47  * OF THE POSSIBILITY OF SUCH DAMAGE.
48  * ====================================================================
49  */
50
51 #include <openssl/bn.h>
52 #include <openssl/err.h>
53 #include <openssl/rsa.h>
54
55
56 int RSA_check_key(const RSA *key)
57         {
58         return RSA_check_key_ex(key, NULL);
59         }
60
61 int RSA_check_key_ex(const RSA *key, BN_GENCB *cb)
62         {
63         BIGNUM *i, *j, *k, *l, *m;
64         BN_CTX *ctx;
65         int r;
66         int ret=1;
67
68         if (!key->p || !key->q || !key->n || !key->e || !key->d)
69                 {
70                 RSAerr(RSA_F_RSA_CHECK_KEY_EX, RSA_R_VALUE_MISSING);
71                 return 0;
72                 }
73         
74         i = BN_new();
75         j = BN_new();
76         k = BN_new();
77         l = BN_new();
78         m = BN_new();
79         ctx = BN_CTX_new();
80         if (i == NULL || j == NULL || k == NULL || l == NULL ||
81                 m == NULL || ctx == NULL)
82                 {
83                 ret = -1;
84                 RSAerr(RSA_F_RSA_CHECK_KEY_EX, ERR_R_MALLOC_FAILURE);
85                 goto err;
86                 }
87         
88         /* p prime? */
89         r = BN_is_prime_ex(key->p, BN_prime_checks, NULL, cb);
90         if (r != 1)
91                 {
92                 ret = r;
93                 if (r != 0)
94                         goto err;
95                 RSAerr(RSA_F_RSA_CHECK_KEY_EX, RSA_R_P_NOT_PRIME);
96                 }
97         
98         /* q prime? */
99         r = BN_is_prime_ex(key->q, BN_prime_checks, NULL, cb);
100         if (r != 1)
101                 {
102                 ret = r;
103                 if (r != 0)
104                         goto err;
105                 RSAerr(RSA_F_RSA_CHECK_KEY_EX, RSA_R_Q_NOT_PRIME);
106                 }
107         
108         /* n = p*q? */
109         r = BN_mul(i, key->p, key->q, ctx);
110         if (!r) { ret = -1; goto err; }
111         
112         if (BN_cmp(i, key->n) != 0)
113                 {
114                 ret = 0;
115                 RSAerr(RSA_F_RSA_CHECK_KEY_EX, RSA_R_N_DOES_NOT_EQUAL_P_Q);
116                 }
117         
118         /* d*e = 1  mod lcm(p-1,q-1)? */
119
120         r = BN_sub(i, key->p, BN_value_one());
121         if (!r) { ret = -1; goto err; }
122         r = BN_sub(j, key->q, BN_value_one());
123         if (!r) { ret = -1; goto err; }
124
125         /* now compute k = lcm(i,j) */
126         r = BN_mul(l, i, j, ctx);
127         if (!r) { ret = -1; goto err; }
128         r = BN_gcd(m, i, j, ctx);
129         if (!r) { ret = -1; goto err; }
130         r = BN_div(k, NULL, l, m, ctx); /* remainder is 0 */
131         if (!r) { ret = -1; goto err; }
132
133         r = BN_mod_mul(i, key->d, key->e, k, ctx);
134         if (!r) { ret = -1; goto err; }
135
136         if (!BN_is_one(i))
137                 {
138                 ret = 0;
139                 RSAerr(RSA_F_RSA_CHECK_KEY_EX, RSA_R_D_E_NOT_CONGRUENT_TO_1);
140                 }
141         
142         if (key->dmp1 != NULL && key->dmq1 != NULL && key->iqmp != NULL)
143                 {
144                 /* dmp1 = d mod (p-1)? */
145                 r = BN_sub(i, key->p, BN_value_one());
146                 if (!r) { ret = -1; goto err; }
147
148                 r = BN_mod(j, key->d, i, ctx);
149                 if (!r) { ret = -1; goto err; }
150
151                 if (BN_cmp(j, key->dmp1) != 0)
152                         {
153                         ret = 0;
154                         RSAerr(RSA_F_RSA_CHECK_KEY_EX,
155                                 RSA_R_DMP1_NOT_CONGRUENT_TO_D);
156                         }
157         
158                 /* dmq1 = d mod (q-1)? */    
159                 r = BN_sub(i, key->q, BN_value_one());
160                 if (!r) { ret = -1; goto err; }
161         
162                 r = BN_mod(j, key->d, i, ctx);
163                 if (!r) { ret = -1; goto err; }
164
165                 if (BN_cmp(j, key->dmq1) != 0)
166                         {
167                         ret = 0;
168                         RSAerr(RSA_F_RSA_CHECK_KEY_EX,
169                                 RSA_R_DMQ1_NOT_CONGRUENT_TO_D);
170                         }
171         
172                 /* iqmp = q^-1 mod p? */
173                 if(!BN_mod_inverse(i, key->q, key->p, ctx))
174                         {
175                         ret = -1;
176                         goto err;
177                         }
178
179                 if (BN_cmp(i, key->iqmp) != 0)
180                         {
181                         ret = 0;
182                         RSAerr(RSA_F_RSA_CHECK_KEY_EX,
183                                 RSA_R_IQMP_NOT_INVERSE_OF_Q);
184                         }
185                 }
186
187  err:
188         if (i != NULL) BN_free(i);
189         if (j != NULL) BN_free(j);
190         if (k != NULL) BN_free(k);
191         if (l != NULL) BN_free(l);
192         if (m != NULL) BN_free(m);
193         if (ctx != NULL) BN_CTX_free(ctx);
194         return (ret);
195         }