Using int for the digest length in EVP_DigestFinal() broke some compilers.
[openssl.git] / crypto / x509v3 / v3_skey.c
1 /* v3_skey.c */
2 /* Written by Dr Stephen N Henson (shenson@bigfoot.com) for the OpenSSL
3  * project 1999.
4  */
5 /* ====================================================================
6  * Copyright (c) 1999 The OpenSSL Project.  All rights reserved.
7  *
8  * Redistribution and use in source and binary forms, with or without
9  * modification, are permitted provided that the following conditions
10  * are met:
11  *
12  * 1. Redistributions of source code must retain the above copyright
13  *    notice, this list of conditions and the following disclaimer. 
14  *
15  * 2. Redistributions in binary form must reproduce the above copyright
16  *    notice, this list of conditions and the following disclaimer in
17  *    the documentation and/or other materials provided with the
18  *    distribution.
19  *
20  * 3. All advertising materials mentioning features or use of this
21  *    software must display the following acknowledgment:
22  *    "This product includes software developed by the OpenSSL Project
23  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
24  *
25  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
26  *    endorse or promote products derived from this software without
27  *    prior written permission. For written permission, please contact
28  *    licensing@OpenSSL.org.
29  *
30  * 5. Products derived from this software may not be called "OpenSSL"
31  *    nor may "OpenSSL" appear in their names without prior written
32  *    permission of the OpenSSL Project.
33  *
34  * 6. Redistributions of any form whatsoever must retain the following
35  *    acknowledgment:
36  *    "This product includes software developed by the OpenSSL Project
37  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
38  *
39  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
40  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
41  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
42  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
43  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
44  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
45  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
46  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
47  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
48  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
49  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
50  * OF THE POSSIBILITY OF SUCH DAMAGE.
51  * ====================================================================
52  *
53  * This product includes cryptographic software written by Eric Young
54  * (eay@cryptsoft.com).  This product includes software written by Tim
55  * Hudson (tjh@cryptsoft.com).
56  *
57  */
58
59
60 #include <stdio.h>
61 #include "cryptlib.h"
62 #include "x509v3.h"
63
64 #ifndef NOPROTO
65 static ASN1_OCTET_STRING *octet_string_new(void);
66 static ASN1_OCTET_STRING *s2i_skey_id(X509V3_EXT_METHOD *method, X509V3_CTX *ctx, char *str);
67 #else
68 static ASN1_OCTET_STRING *s2i_skey_id();
69 static ASN1_OCTET_STRING *octet_string_new();
70 #endif
71
72 X509V3_EXT_METHOD v3_skey_id = { 
73 NID_subject_key_identifier, 0,
74 (X509V3_EXT_NEW)octet_string_new, ASN1_STRING_free,
75 (X509V3_EXT_D2I)d2i_ASN1_OCTET_STRING,
76 i2d_ASN1_OCTET_STRING,
77 (X509V3_EXT_I2S)i2s_ASN1_OCTET_STRING,
78 (X509V3_EXT_S2I)s2i_skey_id,
79 NULL, NULL, NULL, NULL, NULL};
80
81
82 static ASN1_OCTET_STRING *octet_string_new(void)
83 {
84         return ASN1_OCTET_STRING_new();
85 }
86
87 char *i2s_ASN1_OCTET_STRING(method, oct)
88 X509V3_EXT_METHOD *method;
89 ASN1_OCTET_STRING *oct;
90 {
91         return hex_to_string(oct->data, oct->length);
92 }
93
94 ASN1_OCTET_STRING *s2i_ASN1_OCTET_STRING(method, ctx, str)
95 X509V3_EXT_METHOD *method;
96 X509V3_CTX *ctx;
97 char *str;
98 {
99         ASN1_OCTET_STRING *oct;
100         long length;
101
102         if(!(oct = ASN1_OCTET_STRING_new())) {
103                 X509V3err(X509V3_F_S2I_ASN1_OCTET_STRING,ERR_R_MALLOC_FAILURE);
104                 return NULL;
105         }
106
107         if(!(oct->data = string_to_hex(str, &length))) {
108                 ASN1_OCTET_STRING_free(oct);
109                 return NULL;
110         }
111
112         oct->length = length;
113
114         return oct;
115
116 }
117
118 ASN1_OCTET_STRING *s2i_skey_id(method, ctx, str)
119 X509V3_EXT_METHOD *method;
120 X509V3_CTX *ctx;
121 char *str;
122 {
123         ASN1_OCTET_STRING *oct;
124         ASN1_BIT_STRING *pk;
125         unsigned char pkey_dig[EVP_MAX_MD_SIZE];
126         EVP_MD_CTX md;
127         unsigned int diglen;
128
129         if(strcmp(str, "hash")) return s2i_ASN1_OCTET_STRING(method, ctx, str);
130
131         if(!(oct = ASN1_OCTET_STRING_new())) {
132                 X509V3err(X509V3_F_S2I_S2I_SKEY_ID,ERR_R_MALLOC_FAILURE);
133                 return NULL;
134         }
135
136         if(ctx && (ctx->flags == CTX_TEST)) return oct;
137
138         if(!ctx || (!ctx->subject_req && !ctx->subject_cert)) {
139                 X509V3err(X509V3_F_S2I_ASN1_SKEY_ID,X509V3_R_NO_PUBLIC_KEY);
140                 goto err;
141         }
142
143         if(ctx->subject_req) 
144                 pk = ctx->subject_req->req_info->pubkey->public_key;
145         else pk = ctx->subject_cert->cert_info->key->public_key;
146
147         if(!pk) {
148                 X509V3err(X509V3_F_S2I_ASN1_SKEY_ID,X509V3_R_NO_PUBLIC_KEY);
149                 goto err;
150         }
151
152         EVP_DigestInit(&md, EVP_sha1());
153         EVP_DigestUpdate(&md, pk->data, pk->length);
154         EVP_DigestFinal(&md, pkey_dig, &diglen);
155
156         if(!ASN1_OCTET_STRING_set(oct, pkey_dig, diglen)) {
157                 X509V3err(X509V3_F_S2I_S2I_SKEY_ID,ERR_R_MALLOC_FAILURE);
158                 goto err;
159         }
160
161         return oct;
162         
163         err:
164         ASN1_OCTET_STRING_free(oct);
165         return NULL;
166 }