Audit libcrypto for unchecked return values: fix all cases enountered
[openssl.git] / crypto / x509 / x509_cmp.c
1 /* crypto/x509/x509_cmp.c */
2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
3  * All rights reserved.
4  *
5  * This package is an SSL implementation written
6  * by Eric Young (eay@cryptsoft.com).
7  * The implementation was written so as to conform with Netscapes SSL.
8  * 
9  * This library is free for commercial and non-commercial use as long as
10  * the following conditions are aheared to.  The following conditions
11  * apply to all code found in this distribution, be it the RC4, RSA,
12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
13  * included with this distribution is covered by the same copyright terms
14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
15  * 
16  * Copyright remains Eric Young's, and as such any Copyright notices in
17  * the code are not to be removed.
18  * If this package is used in a product, Eric Young should be given attribution
19  * as the author of the parts of the library used.
20  * This can be in the form of a textual message at program startup or
21  * in documentation (online or textual) provided with the package.
22  * 
23  * Redistribution and use in source and binary forms, with or without
24  * modification, are permitted provided that the following conditions
25  * are met:
26  * 1. Redistributions of source code must retain the copyright
27  *    notice, this list of conditions and the following disclaimer.
28  * 2. Redistributions in binary form must reproduce the above copyright
29  *    notice, this list of conditions and the following disclaimer in the
30  *    documentation and/or other materials provided with the distribution.
31  * 3. All advertising materials mentioning features or use of this software
32  *    must display the following acknowledgement:
33  *    "This product includes cryptographic software written by
34  *     Eric Young (eay@cryptsoft.com)"
35  *    The word 'cryptographic' can be left out if the rouines from the library
36  *    being used are not cryptographic related :-).
37  * 4. If you include any Windows specific code (or a derivative thereof) from 
38  *    the apps directory (application code) you must include an acknowledgement:
39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
40  * 
41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
51  * SUCH DAMAGE.
52  * 
53  * The licence and distribution terms for any publically available version or
54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
55  * copied and put under another distribution licence
56  * [including the GNU Public Licence.]
57  */
58
59 #include <stdio.h>
60 #include <ctype.h>
61 #include "cryptlib.h"
62 #include <openssl/asn1.h>
63 #include <openssl/objects.h>
64 #include <openssl/x509.h>
65 #include <openssl/x509v3.h>
66
67 int X509_issuer_and_serial_cmp(const X509 *a, const X509 *b)
68         {
69         int i;
70         X509_CINF *ai,*bi;
71
72         ai=a->cert_info;
73         bi=b->cert_info;
74         i=M_ASN1_INTEGER_cmp(ai->serialNumber,bi->serialNumber);
75         if (i) return(i);
76         return(X509_NAME_cmp(ai->issuer,bi->issuer));
77         }
78
79 #ifndef OPENSSL_NO_MD5
80 unsigned long X509_issuer_and_serial_hash(X509 *a)
81         {
82         unsigned long ret=0;
83         EVP_MD_CTX ctx;
84         unsigned char md[16];
85         char *f;
86
87         EVP_MD_CTX_init(&ctx);
88         f=X509_NAME_oneline(a->cert_info->issuer,NULL,0);
89         ret=strlen(f);
90         if (!EVP_DigestInit_ex(&ctx, EVP_md5(), NULL))
91                 goto err;
92         if (!EVP_DigestUpdate(&ctx,(unsigned char *)f,ret))
93                 goto err;
94         OPENSSL_free(f);
95         if(!EVP_DigestUpdate(&ctx,(unsigned char *)a->cert_info->serialNumber->data,
96                 (unsigned long)a->cert_info->serialNumber->length))
97                 goto err;
98         if (!EVP_DigestFinal_ex(&ctx,&(md[0]),NULL))
99                 goto err;
100         ret=(   ((unsigned long)md[0]     )|((unsigned long)md[1]<<8L)|
101                 ((unsigned long)md[2]<<16L)|((unsigned long)md[3]<<24L)
102                 )&0xffffffffL;
103         err:
104         EVP_MD_CTX_cleanup(&ctx);
105         return(ret);
106         }
107 #endif
108         
109 int X509_issuer_name_cmp(const X509 *a, const X509 *b)
110         {
111         return(X509_NAME_cmp(a->cert_info->issuer,b->cert_info->issuer));
112         }
113
114 int X509_subject_name_cmp(const X509 *a, const X509 *b)
115         {
116         return(X509_NAME_cmp(a->cert_info->subject,b->cert_info->subject));
117         }
118
119 int X509_CRL_cmp(const X509_CRL *a, const X509_CRL *b)
120         {
121         return(X509_NAME_cmp(a->crl->issuer,b->crl->issuer));
122         }
123
124 #ifndef OPENSSL_NO_SHA
125 int X509_CRL_match(const X509_CRL *a, const X509_CRL *b)
126         {
127         return memcmp(a->sha1_hash, b->sha1_hash, 20);
128         }
129 #endif
130
131 X509_NAME *X509_get_issuer_name(X509 *a)
132         {
133         return(a->cert_info->issuer);
134         }
135
136 unsigned long X509_issuer_name_hash(X509 *x)
137         {
138         return(X509_NAME_hash(x->cert_info->issuer));
139         }
140
141 X509_NAME *X509_get_subject_name(X509 *a)
142         {
143         return(a->cert_info->subject);
144         }
145
146 ASN1_INTEGER *X509_get_serialNumber(X509 *a)
147         {
148         return(a->cert_info->serialNumber);
149         }
150
151 unsigned long X509_subject_name_hash(X509 *x)
152         {
153         return(X509_NAME_hash(x->cert_info->subject));
154         }
155
156 #ifndef OPENSSL_NO_SHA
157 /* Compare two certificates: they must be identical for
158  * this to work. NB: Although "cmp" operations are generally
159  * prototyped to take "const" arguments (eg. for use in
160  * STACKs), the way X509 handling is - these operations may
161  * involve ensuring the hashes are up-to-date and ensuring
162  * certain cert information is cached. So this is the point
163  * where the "depth-first" constification tree has to halt
164  * with an evil cast.
165  */
166 int X509_cmp(const X509 *a, const X509 *b)
167 {
168         /* ensure hash is valid */
169         X509_check_purpose((X509 *)a, -1, 0);
170         X509_check_purpose((X509 *)b, -1, 0);
171
172         return memcmp(a->sha1_hash, b->sha1_hash, SHA_DIGEST_LENGTH);
173 }
174 #endif
175
176
177 int X509_NAME_cmp(const X509_NAME *a, const X509_NAME *b)
178         {
179         int ret;
180
181         /* Ensure canonical encoding is present and up to date */
182
183         if (!a->canon_enc || a->modified)
184                 {
185                 ret = i2d_X509_NAME((X509_NAME *)a, NULL);
186                 if (ret < 0)
187                         return -2;
188                 }
189
190         if (!b->canon_enc || b->modified)
191                 {
192                 ret = i2d_X509_NAME((X509_NAME *)b, NULL);
193                 if (ret < 0)
194                         return -2;
195                 }
196
197         ret = a->canon_enclen - b->canon_enclen;
198
199         if (ret)
200                 return ret;
201
202         return memcmp(a->canon_enc, b->canon_enc, a->canon_enclen);
203
204         }
205
206 unsigned long X509_NAME_hash(X509_NAME *x)
207         {
208         unsigned long ret=0;
209         unsigned char md[SHA_DIGEST_LENGTH];
210
211         /* Make sure X509_NAME structure contains valid cached encoding */
212         i2d_X509_NAME(x,NULL);
213         if (!EVP_Digest(x->canon_enc, x->canon_enclen, md, NULL, EVP_sha1(),
214                 NULL))
215                 return 0;
216
217         ret=(   ((unsigned long)md[0]     )|((unsigned long)md[1]<<8L)|
218                 ((unsigned long)md[2]<<16L)|((unsigned long)md[3]<<24L)
219                 )&0xffffffffL;
220         return(ret);
221         }
222
223
224 #ifndef OPENSSL_NO_MD5
225 /* I now DER encode the name and hash it.  Since I cache the DER encoding,
226  * this is reasonably efficient. */
227
228 unsigned long X509_NAME_hash_old(X509_NAME *x)
229         {
230         unsigned long ret=0;
231         unsigned char md[16];
232
233         /* Make sure X509_NAME structure contains valid cached encoding */
234         i2d_X509_NAME(x,NULL);
235         if (!EVP_Digest(x->bytes->data, x->bytes->length, md, NULL, EVP_md5(), NULL))
236                 return 0;
237
238         ret=(   ((unsigned long)md[0]     )|((unsigned long)md[1]<<8L)|
239                 ((unsigned long)md[2]<<16L)|((unsigned long)md[3]<<24L)
240                 )&0xffffffffL;
241         return(ret);
242         }
243 #endif
244
245 /* Search a stack of X509 for a match */
246 X509 *X509_find_by_issuer_and_serial(STACK_OF(X509) *sk, X509_NAME *name,
247                 ASN1_INTEGER *serial)
248         {
249         int i;
250         X509_CINF cinf;
251         X509 x,*x509=NULL;
252
253         if(!sk) return NULL;
254
255         x.cert_info= &cinf;
256         cinf.serialNumber=serial;
257         cinf.issuer=name;
258
259         for (i=0; i<sk_X509_num(sk); i++)
260                 {
261                 x509=sk_X509_value(sk,i);
262                 if (X509_issuer_and_serial_cmp(x509,&x) == 0)
263                         return(x509);
264                 }
265         return(NULL);
266         }
267
268 X509 *X509_find_by_subject(STACK_OF(X509) *sk, X509_NAME *name)
269         {
270         X509 *x509;
271         int i;
272
273         for (i=0; i<sk_X509_num(sk); i++)
274                 {
275                 x509=sk_X509_value(sk,i);
276                 if (X509_NAME_cmp(X509_get_subject_name(x509),name) == 0)
277                         return(x509);
278                 }
279         return(NULL);
280         }
281
282 EVP_PKEY *X509_get_pubkey(X509 *x)
283         {
284         if ((x == NULL) || (x->cert_info == NULL))
285                 return(NULL);
286         return(X509_PUBKEY_get(x->cert_info->key));
287         }
288
289 ASN1_BIT_STRING *X509_get0_pubkey_bitstr(const X509 *x)
290         {
291         if(!x) return NULL;
292         return x->cert_info->key->public_key;
293         }
294
295 int X509_check_private_key(X509 *x, EVP_PKEY *k)
296         {
297         EVP_PKEY *xk;
298         int ret;
299
300         xk=X509_get_pubkey(x);
301
302         if (xk)
303                 ret = EVP_PKEY_cmp(xk, k);
304         else
305                 ret = -2;
306
307         switch (ret)
308                 {
309         case 1:
310                 break;
311         case 0:
312                 X509err(X509_F_X509_CHECK_PRIVATE_KEY,X509_R_KEY_VALUES_MISMATCH);
313                 break;
314         case -1:
315                 X509err(X509_F_X509_CHECK_PRIVATE_KEY,X509_R_KEY_TYPE_MISMATCH);
316                 break;
317         case -2:
318                 X509err(X509_F_X509_CHECK_PRIVATE_KEY,X509_R_UNKNOWN_KEY_TYPE);
319                 }
320         if (xk)
321                 EVP_PKEY_free(xk);
322         if (ret > 0)
323                 return 1;
324         return 0;
325         }