Ensure allocation size fits into size_t
[openssl.git] / crypto / evp / evp_pkey.c
1 /*
2  * Written by Dr Stephen N Henson (steve@openssl.org) for the OpenSSL project
3  * 1999.
4  */
5 /* ====================================================================
6  * Copyright (c) 1999-2005 The OpenSSL Project.  All rights reserved.
7  *
8  * Redistribution and use in source and binary forms, with or without
9  * modification, are permitted provided that the following conditions
10  * are met:
11  *
12  * 1. Redistributions of source code must retain the above copyright
13  *    notice, this list of conditions and the following disclaimer.
14  *
15  * 2. Redistributions in binary form must reproduce the above copyright
16  *    notice, this list of conditions and the following disclaimer in
17  *    the documentation and/or other materials provided with the
18  *    distribution.
19  *
20  * 3. All advertising materials mentioning features or use of this
21  *    software must display the following acknowledgment:
22  *    "This product includes software developed by the OpenSSL Project
23  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
24  *
25  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
26  *    endorse or promote products derived from this software without
27  *    prior written permission. For written permission, please contact
28  *    licensing@OpenSSL.org.
29  *
30  * 5. Products derived from this software may not be called "OpenSSL"
31  *    nor may "OpenSSL" appear in their names without prior written
32  *    permission of the OpenSSL Project.
33  *
34  * 6. Redistributions of any form whatsoever must retain the following
35  *    acknowledgment:
36  *    "This product includes software developed by the OpenSSL Project
37  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
38  *
39  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
40  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
41  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
42  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
43  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
44  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
45  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
46  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
47  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
48  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
49  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
50  * OF THE POSSIBILITY OF SUCH DAMAGE.
51  * ====================================================================
52  *
53  * This product includes cryptographic software written by Eric Young
54  * (eay@cryptsoft.com).  This product includes software written by Tim
55  * Hudson (tjh@cryptsoft.com).
56  *
57  */
58
59 #include <stdio.h>
60 #include <stdlib.h>
61 #include "internal/cryptlib.h"
62 #include <openssl/x509.h>
63 #include <openssl/rand.h>
64 #include "internal/asn1_int.h"
65 #include "internal/evp_int.h"
66
67 /* Extract a private key from a PKCS8 structure */
68
69 EVP_PKEY *EVP_PKCS82PKEY(PKCS8_PRIV_KEY_INFO *p8)
70 {
71     EVP_PKEY *pkey = NULL;
72     ASN1_OBJECT *algoid;
73     char obj_tmp[80];
74
75     if (!PKCS8_pkey_get0(&algoid, NULL, NULL, NULL, p8))
76         return NULL;
77
78     if ((pkey = EVP_PKEY_new()) == NULL) {
79         EVPerr(EVP_F_EVP_PKCS82PKEY, ERR_R_MALLOC_FAILURE);
80         return NULL;
81     }
82
83     if (!EVP_PKEY_set_type(pkey, OBJ_obj2nid(algoid))) {
84         EVPerr(EVP_F_EVP_PKCS82PKEY, EVP_R_UNSUPPORTED_PRIVATE_KEY_ALGORITHM);
85         i2t_ASN1_OBJECT(obj_tmp, 80, algoid);
86         ERR_add_error_data(2, "TYPE=", obj_tmp);
87         goto error;
88     }
89
90     if (pkey->ameth->priv_decode) {
91         if (!pkey->ameth->priv_decode(pkey, p8)) {
92             EVPerr(EVP_F_EVP_PKCS82PKEY, EVP_R_PRIVATE_KEY_DECODE_ERROR);
93             goto error;
94         }
95     } else {
96         EVPerr(EVP_F_EVP_PKCS82PKEY, EVP_R_METHOD_NOT_SUPPORTED);
97         goto error;
98     }
99
100     return pkey;
101
102  error:
103     EVP_PKEY_free(pkey);
104     return NULL;
105 }
106
107 PKCS8_PRIV_KEY_INFO *EVP_PKEY2PKCS8(EVP_PKEY *pkey)
108 {
109     return EVP_PKEY2PKCS8_broken(pkey, PKCS8_OK);
110 }
111
112 /* Turn a private key into a PKCS8 structure */
113
114 PKCS8_PRIV_KEY_INFO *EVP_PKEY2PKCS8_broken(EVP_PKEY *pkey, int broken)
115 {
116     PKCS8_PRIV_KEY_INFO *p8;
117
118     if ((p8 = PKCS8_PRIV_KEY_INFO_new()) == NULL) {
119         EVPerr(EVP_F_EVP_PKEY2PKCS8_BROKEN, ERR_R_MALLOC_FAILURE);
120         return NULL;
121     }
122     p8->broken = broken;
123
124     if (pkey->ameth) {
125         if (pkey->ameth->priv_encode) {
126             if (!pkey->ameth->priv_encode(p8, pkey)) {
127                 EVPerr(EVP_F_EVP_PKEY2PKCS8_BROKEN,
128                        EVP_R_PRIVATE_KEY_ENCODE_ERROR);
129                 goto error;
130             }
131         } else {
132             EVPerr(EVP_F_EVP_PKEY2PKCS8_BROKEN, EVP_R_METHOD_NOT_SUPPORTED);
133             goto error;
134         }
135     } else {
136         EVPerr(EVP_F_EVP_PKEY2PKCS8_BROKEN,
137                EVP_R_UNSUPPORTED_PRIVATE_KEY_ALGORITHM);
138         goto error;
139     }
140     RAND_add(p8->pkey->value.octet_string->data,
141              p8->pkey->value.octet_string->length, 0.0);
142     return p8;
143  error:
144     PKCS8_PRIV_KEY_INFO_free(p8);
145     return NULL;
146 }
147
148 PKCS8_PRIV_KEY_INFO *PKCS8_set_broken(PKCS8_PRIV_KEY_INFO *p8, int broken)
149 {
150     switch (broken) {
151
152     case PKCS8_OK:
153         p8->broken = PKCS8_OK;
154         return p8;
155
156     case PKCS8_NO_OCTET:
157         p8->broken = PKCS8_NO_OCTET;
158         p8->pkey->type = V_ASN1_SEQUENCE;
159         return p8;
160
161     default:
162         EVPerr(EVP_F_PKCS8_SET_BROKEN, EVP_R_PKCS8_UNKNOWN_BROKEN_TYPE);
163         return NULL;
164     }
165 }
166
167 /* EVP_PKEY attribute functions */
168
169 int EVP_PKEY_get_attr_count(const EVP_PKEY *key)
170 {
171     return X509at_get_attr_count(key->attributes);
172 }
173
174 int EVP_PKEY_get_attr_by_NID(const EVP_PKEY *key, int nid, int lastpos)
175 {
176     return X509at_get_attr_by_NID(key->attributes, nid, lastpos);
177 }
178
179 int EVP_PKEY_get_attr_by_OBJ(const EVP_PKEY *key, ASN1_OBJECT *obj,
180                              int lastpos)
181 {
182     return X509at_get_attr_by_OBJ(key->attributes, obj, lastpos);
183 }
184
185 X509_ATTRIBUTE *EVP_PKEY_get_attr(const EVP_PKEY *key, int loc)
186 {
187     return X509at_get_attr(key->attributes, loc);
188 }
189
190 X509_ATTRIBUTE *EVP_PKEY_delete_attr(EVP_PKEY *key, int loc)
191 {
192     return X509at_delete_attr(key->attributes, loc);
193 }
194
195 int EVP_PKEY_add1_attr(EVP_PKEY *key, X509_ATTRIBUTE *attr)
196 {
197     if (X509at_add1_attr(&key->attributes, attr))
198         return 1;
199     return 0;
200 }
201
202 int EVP_PKEY_add1_attr_by_OBJ(EVP_PKEY *key,
203                               const ASN1_OBJECT *obj, int type,
204                               const unsigned char *bytes, int len)
205 {
206     if (X509at_add1_attr_by_OBJ(&key->attributes, obj, type, bytes, len))
207         return 1;
208     return 0;
209 }
210
211 int EVP_PKEY_add1_attr_by_NID(EVP_PKEY *key,
212                               int nid, int type,
213                               const unsigned char *bytes, int len)
214 {
215     if (X509at_add1_attr_by_NID(&key->attributes, nid, type, bytes, len))
216         return 1;
217     return 0;
218 }
219
220 int EVP_PKEY_add1_attr_by_txt(EVP_PKEY *key,
221                               const char *attrname, int type,
222                               const unsigned char *bytes, int len)
223 {
224     if (X509at_add1_attr_by_txt(&key->attributes, attrname, type, bytes, len))
225         return 1;
226     return 0;
227 }