Make no-ec compilation work.
[openssl.git] / crypto / x509 / x509_cmp.c
1 /* crypto/x509/x509_cmp.c */
2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
3  * All rights reserved.
4  *
5  * This package is an SSL implementation written
6  * by Eric Young (eay@cryptsoft.com).
7  * The implementation was written so as to conform with Netscapes SSL.
8  * 
9  * This library is free for commercial and non-commercial use as long as
10  * the following conditions are aheared to.  The following conditions
11  * apply to all code found in this distribution, be it the RC4, RSA,
12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
13  * included with this distribution is covered by the same copyright terms
14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
15  * 
16  * Copyright remains Eric Young's, and as such any Copyright notices in
17  * the code are not to be removed.
18  * If this package is used in a product, Eric Young should be given attribution
19  * as the author of the parts of the library used.
20  * This can be in the form of a textual message at program startup or
21  * in documentation (online or textual) provided with the package.
22  * 
23  * Redistribution and use in source and binary forms, with or without
24  * modification, are permitted provided that the following conditions
25  * are met:
26  * 1. Redistributions of source code must retain the copyright
27  *    notice, this list of conditions and the following disclaimer.
28  * 2. Redistributions in binary form must reproduce the above copyright
29  *    notice, this list of conditions and the following disclaimer in the
30  *    documentation and/or other materials provided with the distribution.
31  * 3. All advertising materials mentioning features or use of this software
32  *    must display the following acknowledgement:
33  *    "This product includes cryptographic software written by
34  *     Eric Young (eay@cryptsoft.com)"
35  *    The word 'cryptographic' can be left out if the rouines from the library
36  *    being used are not cryptographic related :-).
37  * 4. If you include any Windows specific code (or a derivative thereof) from 
38  *    the apps directory (application code) you must include an acknowledgement:
39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
40  * 
41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
51  * SUCH DAMAGE.
52  * 
53  * The licence and distribution terms for any publically available version or
54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
55  * copied and put under another distribution licence
56  * [including the GNU Public Licence.]
57  */
58
59 #include <stdio.h>
60 #include <ctype.h>
61 #include "cryptlib.h"
62 #include <openssl/asn1.h>
63 #include <openssl/objects.h>
64 #include <openssl/x509.h>
65 #include <openssl/x509v3.h>
66
67 int X509_issuer_and_serial_cmp(const X509 *a, const X509 *b)
68         {
69         int i;
70         X509_CINF *ai,*bi;
71
72         ai=a->cert_info;
73         bi=b->cert_info;
74         i=M_ASN1_INTEGER_cmp(ai->serialNumber,bi->serialNumber);
75         if (i) return(i);
76         return(X509_NAME_cmp(ai->issuer,bi->issuer));
77         }
78
79 #ifndef OPENSSL_NO_MD5
80 unsigned long X509_issuer_and_serial_hash(X509 *a)
81         {
82         unsigned long ret=0;
83         EVP_MD_CTX ctx;
84         unsigned char md[16];
85         char *f;
86
87         EVP_MD_CTX_init(&ctx);
88         f=X509_NAME_oneline(a->cert_info->issuer,NULL,0);
89         if (!EVP_DigestInit_ex(&ctx, EVP_md5(), NULL))
90                 goto err;
91         if (!EVP_DigestUpdate(&ctx,(unsigned char *)f,strlen(f)))
92                 goto err;
93         OPENSSL_free(f);
94         if(!EVP_DigestUpdate(&ctx,(unsigned char *)a->cert_info->serialNumber->data,
95                 (unsigned long)a->cert_info->serialNumber->length))
96                 goto err;
97         if (!EVP_DigestFinal_ex(&ctx,&(md[0]),NULL))
98                 goto err;
99         ret=(   ((unsigned long)md[0]     )|((unsigned long)md[1]<<8L)|
100                 ((unsigned long)md[2]<<16L)|((unsigned long)md[3]<<24L)
101                 )&0xffffffffL;
102         err:
103         EVP_MD_CTX_cleanup(&ctx);
104         return(ret);
105         }
106 #endif
107         
108 int X509_issuer_name_cmp(const X509 *a, const X509 *b)
109         {
110         return(X509_NAME_cmp(a->cert_info->issuer,b->cert_info->issuer));
111         }
112
113 int X509_subject_name_cmp(const X509 *a, const X509 *b)
114         {
115         return(X509_NAME_cmp(a->cert_info->subject,b->cert_info->subject));
116         }
117
118 int X509_CRL_cmp(const X509_CRL *a, const X509_CRL *b)
119         {
120         return(X509_NAME_cmp(a->crl->issuer,b->crl->issuer));
121         }
122
123 #ifndef OPENSSL_NO_SHA
124 int X509_CRL_match(const X509_CRL *a, const X509_CRL *b)
125         {
126         return memcmp(a->sha1_hash, b->sha1_hash, 20);
127         }
128 #endif
129
130 X509_NAME *X509_get_issuer_name(X509 *a)
131         {
132         return(a->cert_info->issuer);
133         }
134
135 unsigned long X509_issuer_name_hash(X509 *x)
136         {
137         return(X509_NAME_hash(x->cert_info->issuer));
138         }
139
140 #ifndef OPENSSL_NO_MD5
141 unsigned long X509_issuer_name_hash_old(X509 *x)
142         {
143         return(X509_NAME_hash_old(x->cert_info->issuer));
144         }
145 #endif
146
147 X509_NAME *X509_get_subject_name(X509 *a)
148         {
149         return(a->cert_info->subject);
150         }
151
152 ASN1_INTEGER *X509_get_serialNumber(X509 *a)
153         {
154         return(a->cert_info->serialNumber);
155         }
156
157 unsigned long X509_subject_name_hash(X509 *x)
158         {
159         return(X509_NAME_hash(x->cert_info->subject));
160         }
161
162 #ifndef OPENSSL_NO_MD5
163 unsigned long X509_subject_name_hash_old(X509 *x)
164         {
165         return(X509_NAME_hash_old(x->cert_info->subject));
166         }
167 #endif
168
169 #ifndef OPENSSL_NO_SHA
170 /* Compare two certificates: they must be identical for
171  * this to work. NB: Although "cmp" operations are generally
172  * prototyped to take "const" arguments (eg. for use in
173  * STACKs), the way X509 handling is - these operations may
174  * involve ensuring the hashes are up-to-date and ensuring
175  * certain cert information is cached. So this is the point
176  * where the "depth-first" constification tree has to halt
177  * with an evil cast.
178  */
179 int X509_cmp(const X509 *a, const X509 *b)
180 {
181         /* ensure hash is valid */
182         X509_check_purpose((X509 *)a, -1, 0);
183         X509_check_purpose((X509 *)b, -1, 0);
184
185         return memcmp(a->sha1_hash, b->sha1_hash, SHA_DIGEST_LENGTH);
186 }
187 #endif
188
189
190 int X509_NAME_cmp(const X509_NAME *a, const X509_NAME *b)
191         {
192         int ret;
193
194         /* Ensure canonical encoding is present and up to date */
195
196         if (!a->canon_enc || a->modified)
197                 {
198                 ret = i2d_X509_NAME((X509_NAME *)a, NULL);
199                 if (ret < 0)
200                         return -2;
201                 }
202
203         if (!b->canon_enc || b->modified)
204                 {
205                 ret = i2d_X509_NAME((X509_NAME *)b, NULL);
206                 if (ret < 0)
207                         return -2;
208                 }
209
210         ret = a->canon_enclen - b->canon_enclen;
211
212         if (ret)
213                 return ret;
214
215         return memcmp(a->canon_enc, b->canon_enc, a->canon_enclen);
216
217         }
218
219 unsigned long X509_NAME_hash(X509_NAME *x)
220         {
221         unsigned long ret=0;
222         unsigned char md[SHA_DIGEST_LENGTH];
223
224         /* Make sure X509_NAME structure contains valid cached encoding */
225         i2d_X509_NAME(x,NULL);
226         if (!EVP_Digest(x->canon_enc, x->canon_enclen, md, NULL, EVP_sha1(),
227                 NULL))
228                 return 0;
229
230         ret=(   ((unsigned long)md[0]     )|((unsigned long)md[1]<<8L)|
231                 ((unsigned long)md[2]<<16L)|((unsigned long)md[3]<<24L)
232                 )&0xffffffffL;
233         return(ret);
234         }
235
236
237 #ifndef OPENSSL_NO_MD5
238 /* I now DER encode the name and hash it.  Since I cache the DER encoding,
239  * this is reasonably efficient. */
240
241 unsigned long X509_NAME_hash_old(X509_NAME *x)
242         {
243         EVP_MD_CTX md_ctx;
244         unsigned long ret=0;
245         unsigned char md[16];
246
247         /* Make sure X509_NAME structure contains valid cached encoding */
248         i2d_X509_NAME(x,NULL);
249         EVP_MD_CTX_init(&md_ctx);
250         EVP_MD_CTX_set_flags(&md_ctx, EVP_MD_CTX_FLAG_NON_FIPS_ALLOW);
251         if (EVP_DigestInit_ex(&md_ctx, EVP_md5(), NULL)
252             && EVP_DigestUpdate(&md_ctx, x->bytes->data, x->bytes->length)
253             && EVP_DigestFinal_ex(&md_ctx,md,NULL))
254                 ret=(((unsigned long)md[0]     )|((unsigned long)md[1]<<8L)|
255                      ((unsigned long)md[2]<<16L)|((unsigned long)md[3]<<24L)
256                      )&0xffffffffL;
257         EVP_MD_CTX_cleanup(&md_ctx);
258
259         return(ret);
260         }
261 #endif
262
263 /* Search a stack of X509 for a match */
264 X509 *X509_find_by_issuer_and_serial(STACK_OF(X509) *sk, X509_NAME *name,
265                 ASN1_INTEGER *serial)
266         {
267         int i;
268         X509_CINF cinf;
269         X509 x,*x509=NULL;
270
271         if(!sk) return NULL;
272
273         x.cert_info= &cinf;
274         cinf.serialNumber=serial;
275         cinf.issuer=name;
276
277         for (i=0; i<sk_X509_num(sk); i++)
278                 {
279                 x509=sk_X509_value(sk,i);
280                 if (X509_issuer_and_serial_cmp(x509,&x) == 0)
281                         return(x509);
282                 }
283         return(NULL);
284         }
285
286 X509 *X509_find_by_subject(STACK_OF(X509) *sk, X509_NAME *name)
287         {
288         X509 *x509;
289         int i;
290
291         for (i=0; i<sk_X509_num(sk); i++)
292                 {
293                 x509=sk_X509_value(sk,i);
294                 if (X509_NAME_cmp(X509_get_subject_name(x509),name) == 0)
295                         return(x509);
296                 }
297         return(NULL);
298         }
299
300 EVP_PKEY *X509_get_pubkey(X509 *x)
301         {
302         if ((x == NULL) || (x->cert_info == NULL))
303                 return(NULL);
304         return(X509_PUBKEY_get(x->cert_info->key));
305         }
306
307 ASN1_BIT_STRING *X509_get0_pubkey_bitstr(const X509 *x)
308         {
309         if(!x) return NULL;
310         return x->cert_info->key->public_key;
311         }
312
313
314 int X509_check_private_key(X509 *x, EVP_PKEY *k)
315         {
316         EVP_PKEY *xk;
317         int ret;
318
319         xk=X509_get_pubkey(x);
320
321         if (xk)
322                 ret = EVP_PKEY_cmp(xk, k);
323         else
324                 ret = -2;
325
326         switch (ret)
327                 {
328         case 1:
329                 break;
330         case 0:
331                 X509err(X509_F_X509_CHECK_PRIVATE_KEY,X509_R_KEY_VALUES_MISMATCH);
332                 break;
333         case -1:
334                 X509err(X509_F_X509_CHECK_PRIVATE_KEY,X509_R_KEY_TYPE_MISMATCH);
335                 break;
336         case -2:
337                 X509err(X509_F_X509_CHECK_PRIVATE_KEY,X509_R_UNKNOWN_KEY_TYPE);
338                 }
339         if (xk)
340                 EVP_PKEY_free(xk);
341         if (ret > 0)
342                 return 1;
343         return 0;
344         }
345
346 /* Check a suite B algorithm is permitted: pass in a public key and
347  * the NID of its signature (or 0 if no signature). The pflags is
348  * a pointer to a flags field which must contain the suite B verification
349  * flags.
350  */
351
352 #ifndef OPENSSL_NO_EC
353
354 static int check_suite_b(EVP_PKEY *pkey, int sign_nid, unsigned long *pflags)
355         {
356         const EC_GROUP *grp = NULL;
357         int curve_nid;
358         if (pkey && pkey->type == EVP_PKEY_EC)
359                 grp = EC_KEY_get0_group(pkey->pkey.ec);
360         if (!grp)
361                 return X509_V_ERR_SUITE_B_INVALID_ALGORITHM;
362         curve_nid = EC_GROUP_get_curve_name(grp);
363         /* Check curve is consistent with LOS */
364         if (curve_nid == NID_secp384r1) /* P-384 */
365                 {
366                 /* Check signature algorithm is consistent with
367                  * curve.
368                  */
369                 if (sign_nid != -1 && sign_nid != NID_ecdsa_with_SHA384)
370                         return X509_V_ERR_SUITE_B_INVALID_SIGNATURE_ALGORITHM;
371                 if (!(*pflags & X509_V_FLAG_SUITEB_192_LOS))
372                         return X509_V_ERR_SUITE_B_LOS_NOT_ALLOWED;
373                 /* If we encounter P-384 we cannot use P-256 later */
374                 *pflags &= ~X509_V_FLAG_SUITEB_128_LOS_ONLY;
375                 }
376         else if (curve_nid == NID_X9_62_prime256v1) /* P-256 */
377                 {
378                 if (sign_nid != -1 && sign_nid != NID_ecdsa_with_SHA256)
379                         return X509_V_ERR_SUITE_B_INVALID_SIGNATURE_ALGORITHM;
380                 if (!(*pflags & X509_V_FLAG_SUITEB_128_LOS_ONLY))
381                         return X509_V_ERR_SUITE_B_LOS_NOT_ALLOWED;
382                 }
383         else
384                 return X509_V_ERR_SUITE_B_INVALID_CURVE;
385
386         return X509_V_OK;
387         }
388
389 int X509_chain_check_suiteb(int *perror_depth, X509 *x, STACK_OF(X509) *chain,
390                                                         unsigned long flags)
391         {
392         int rv, i, sign_nid;
393         EVP_PKEY *pk = NULL;
394         unsigned long tflags;
395         if (!(flags & X509_V_FLAG_SUITEB_128_LOS))
396                 return X509_V_OK;
397         tflags = flags;
398         /* If no EE certificate passed in must be first in chain */
399         if (x == NULL)
400                 {
401                 x = sk_X509_value(chain, 0);
402                 i = 1;
403                 }
404         else
405                 i = 0;
406
407         if (X509_get_version(x) != 2)
408                 {
409                 rv = X509_V_ERR_SUITE_B_INVALID_VERSION;
410                 /* Correct error depth */
411                 i = 0;
412                 goto end;
413                 }
414
415         pk = X509_get_pubkey(x);
416         /* Check EE key only */
417         rv = check_suite_b(pk, -1, &tflags);
418         if (rv != X509_V_OK)
419                 {
420                 /* Correct error depth */
421                 i = 0;
422                 goto end;
423                 }
424         for(; i < sk_X509_num(chain); i++)
425                 {
426                 sign_nid = X509_get_signature_nid(x);
427                 x = sk_X509_value(chain, i);
428                 if (X509_get_version(x) != 2)
429                         {
430                         rv = X509_V_ERR_SUITE_B_INVALID_VERSION;
431                         goto end;
432                         }
433                 EVP_PKEY_free(pk);
434                 pk = X509_get_pubkey(x);
435                 rv = check_suite_b(pk, sign_nid, &tflags);
436                 if (rv != X509_V_OK)
437                         goto end;
438                 }
439
440         /* Final check: root CA signature */
441         rv = check_suite_b(pk, X509_get_signature_nid(x), &tflags);
442         end:
443         if (pk)
444                 EVP_PKEY_free(pk);
445         if (rv != X509_V_OK)
446                 {
447                 /* Invalid signature or LOS errors are for previous cert */
448                 if ((rv == X509_V_ERR_SUITE_B_INVALID_SIGNATURE_ALGORITHM
449                     || rv == X509_V_ERR_SUITE_B_LOS_NOT_ALLOWED) && i)
450                         i--;
451                 /* If we have LOS error and flags changed then we are signing
452                  * P-384 with P-256. Use more meaninggul error.
453                  */
454                 if (rv == X509_V_ERR_SUITE_B_LOS_NOT_ALLOWED && flags != tflags)
455                         rv = X509_V_ERR_SUITE_B_CANNOT_SIGN_P_384_WITH_P_256;
456                 if (perror_depth)
457                         *perror_depth = i;
458                 }
459         return rv;
460         }
461
462 int X509_CRL_check_suiteb(X509_CRL *crl, EVP_PKEY *pk, unsigned long flags)
463         {
464         int sign_nid;
465         if (!(flags & X509_V_FLAG_SUITEB_128_LOS))
466                 return X509_V_OK;
467         sign_nid = OBJ_obj2nid(crl->crl->sig_alg->algorithm);
468         return check_suite_b(pk, sign_nid, &flags);
469         }
470
471 #else
472 int X509_chain_check_suiteb(int *perror_depth, X509 *x, STACK_OF(X509) *chain,
473                                                         unsigned long flags)
474         {
475         return 0;
476         }
477
478 int X509_CRL_check_suiteb(X509_CRL *crl, EVP_PKEY *pk, unsigned long flags)
479         {
480         return 0;
481         }
482
483 #endif
484 /* Not strictly speaking an "up_ref" as a STACK doesn't have a reference
485  * count but it has the same effect by duping the STACK and upping the ref
486  * of each X509 structure.
487  */
488 STACK_OF(X509) *X509_chain_up_ref(STACK_OF(X509) *chain)
489         {
490         STACK_OF(X509) *ret;
491         int i;
492         ret = sk_X509_dup(chain);
493         for (i = 0; i < sk_X509_num(ret); i++)
494                 {
495                 X509 *x = sk_X509_value(ret, i);
496                 CRYPTO_add(&x->references, 1, CRYPTO_LOCK_X509);
497                 }
498         return ret;
499         }