make EVP_PKEY opaque
[openssl.git] / crypto / asn1 / x_pubkey.c
1 /* crypto/asn1/x_pubkey.c */
2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
3  * All rights reserved.
4  *
5  * This package is an SSL implementation written
6  * by Eric Young (eay@cryptsoft.com).
7  * The implementation was written so as to conform with Netscapes SSL.
8  *
9  * This library is free for commercial and non-commercial use as long as
10  * the following conditions are aheared to.  The following conditions
11  * apply to all code found in this distribution, be it the RC4, RSA,
12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
13  * included with this distribution is covered by the same copyright terms
14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
15  *
16  * Copyright remains Eric Young's, and as such any Copyright notices in
17  * the code are not to be removed.
18  * If this package is used in a product, Eric Young should be given attribution
19  * as the author of the parts of the library used.
20  * This can be in the form of a textual message at program startup or
21  * in documentation (online or textual) provided with the package.
22  *
23  * Redistribution and use in source and binary forms, with or without
24  * modification, are permitted provided that the following conditions
25  * are met:
26  * 1. Redistributions of source code must retain the copyright
27  *    notice, this list of conditions and the following disclaimer.
28  * 2. Redistributions in binary form must reproduce the above copyright
29  *    notice, this list of conditions and the following disclaimer in the
30  *    documentation and/or other materials provided with the distribution.
31  * 3. All advertising materials mentioning features or use of this software
32  *    must display the following acknowledgement:
33  *    "This product includes cryptographic software written by
34  *     Eric Young (eay@cryptsoft.com)"
35  *    The word 'cryptographic' can be left out if the rouines from the library
36  *    being used are not cryptographic related :-).
37  * 4. If you include any Windows specific code (or a derivative thereof) from
38  *    the apps directory (application code) you must include an acknowledgement:
39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
40  *
41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
51  * SUCH DAMAGE.
52  *
53  * The licence and distribution terms for any publically available version or
54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
55  * copied and put under another distribution licence
56  * [including the GNU Public Licence.]
57  */
58
59 #include <stdio.h>
60 #include "internal/cryptlib.h"
61 #include <openssl/asn1t.h>
62 #include <openssl/x509.h>
63 #include "internal/asn1_int.h"
64 #include "internal/evp_int.h"
65 #ifndef OPENSSL_NO_RSA
66 # include <openssl/rsa.h>
67 #endif
68 #ifndef OPENSSL_NO_DSA
69 # include <openssl/dsa.h>
70 #endif
71
72 /* Minor tweak to operation: free up EVP_PKEY */
73 static int pubkey_cb(int operation, ASN1_VALUE **pval, const ASN1_ITEM *it,
74                      void *exarg)
75 {
76     if (operation == ASN1_OP_FREE_POST) {
77         X509_PUBKEY *pubkey = (X509_PUBKEY *)*pval;
78         EVP_PKEY_free(pubkey->pkey);
79     }
80     return 1;
81 }
82
83 ASN1_SEQUENCE_cb(X509_PUBKEY, pubkey_cb) = {
84         ASN1_SIMPLE(X509_PUBKEY, algor, X509_ALGOR),
85         ASN1_SIMPLE(X509_PUBKEY, public_key, ASN1_BIT_STRING)
86 } ASN1_SEQUENCE_END_cb(X509_PUBKEY, X509_PUBKEY)
87
88 IMPLEMENT_ASN1_FUNCTIONS(X509_PUBKEY)
89
90 int X509_PUBKEY_set(X509_PUBKEY **x, EVP_PKEY *pkey)
91 {
92     X509_PUBKEY *pk = NULL;
93
94     if (x == NULL)
95         return (0);
96
97     if ((pk = X509_PUBKEY_new()) == NULL)
98         goto error;
99
100     if (pkey->ameth) {
101         if (pkey->ameth->pub_encode) {
102             if (!pkey->ameth->pub_encode(pk, pkey)) {
103                 X509err(X509_F_X509_PUBKEY_SET,
104                         X509_R_PUBLIC_KEY_ENCODE_ERROR);
105                 goto error;
106             }
107         } else {
108             X509err(X509_F_X509_PUBKEY_SET, X509_R_METHOD_NOT_SUPPORTED);
109             goto error;
110         }
111     } else {
112         X509err(X509_F_X509_PUBKEY_SET, X509_R_UNSUPPORTED_ALGORITHM);
113         goto error;
114     }
115
116     X509_PUBKEY_free(*x);
117     *x = pk;
118     return 1;
119
120  error:
121     X509_PUBKEY_free(pk);
122     return 0;
123 }
124
125 EVP_PKEY *X509_PUBKEY_get0(X509_PUBKEY *key)
126 {
127     EVP_PKEY *ret = NULL;
128
129     if (key == NULL)
130         goto error;
131
132     if (key->pkey != NULL)
133         return key->pkey;
134
135     if (key->public_key == NULL)
136         goto error;
137
138     if ((ret = EVP_PKEY_new()) == NULL) {
139         X509err(X509_F_X509_PUBKEY_GET0, ERR_R_MALLOC_FAILURE);
140         goto error;
141     }
142
143     if (!EVP_PKEY_set_type(ret, OBJ_obj2nid(key->algor->algorithm))) {
144         X509err(X509_F_X509_PUBKEY_GET0, X509_R_UNSUPPORTED_ALGORITHM);
145         goto error;
146     }
147
148     if (ret->ameth->pub_decode) {
149         if (!ret->ameth->pub_decode(ret, key)) {
150             X509err(X509_F_X509_PUBKEY_GET0, X509_R_PUBLIC_KEY_DECODE_ERROR);
151             goto error;
152         }
153     } else {
154         X509err(X509_F_X509_PUBKEY_GET0, X509_R_METHOD_NOT_SUPPORTED);
155         goto error;
156     }
157
158     /* Check to see if another thread set key->pkey first */
159     CRYPTO_w_lock(CRYPTO_LOCK_EVP_PKEY);
160     if (key->pkey) {
161         CRYPTO_w_unlock(CRYPTO_LOCK_EVP_PKEY);
162         EVP_PKEY_free(ret);
163         ret = key->pkey;
164     } else {
165         key->pkey = ret;
166         CRYPTO_w_unlock(CRYPTO_LOCK_EVP_PKEY);
167     }
168
169     return ret;
170
171  error:
172     EVP_PKEY_free(ret);
173     return (NULL);
174 }
175
176 EVP_PKEY *X509_PUBKEY_get(X509_PUBKEY *key)
177 {
178     EVP_PKEY *ret = X509_PUBKEY_get0(key);
179     if (ret != NULL)
180         EVP_PKEY_up_ref(ret);
181     return ret;
182 }
183
184 /*
185  * Now two pseudo ASN1 routines that take an EVP_PKEY structure and encode or
186  * decode as X509_PUBKEY
187  */
188
189 EVP_PKEY *d2i_PUBKEY(EVP_PKEY **a, const unsigned char **pp, long length)
190 {
191     X509_PUBKEY *xpk;
192     EVP_PKEY *pktmp;
193     const unsigned char *q;
194     q = *pp;
195     xpk = d2i_X509_PUBKEY(NULL, &q, length);
196     if (!xpk)
197         return NULL;
198     pktmp = X509_PUBKEY_get(xpk);
199     X509_PUBKEY_free(xpk);
200     if (!pktmp)
201         return NULL;
202     *pp = q;
203     if (a) {
204         EVP_PKEY_free(*a);
205         *a = pktmp;
206     }
207     return pktmp;
208 }
209
210 int i2d_PUBKEY(EVP_PKEY *a, unsigned char **pp)
211 {
212     X509_PUBKEY *xpk = NULL;
213     int ret;
214     if (!a)
215         return 0;
216     if (!X509_PUBKEY_set(&xpk, a))
217         return 0;
218     ret = i2d_X509_PUBKEY(xpk, pp);
219     X509_PUBKEY_free(xpk);
220     return ret;
221 }
222
223 /*
224  * The following are equivalents but which return RSA and DSA keys
225  */
226 #ifndef OPENSSL_NO_RSA
227 RSA *d2i_RSA_PUBKEY(RSA **a, const unsigned char **pp, long length)
228 {
229     EVP_PKEY *pkey;
230     RSA *key;
231     const unsigned char *q;
232     q = *pp;
233     pkey = d2i_PUBKEY(NULL, &q, length);
234     if (!pkey)
235         return NULL;
236     key = EVP_PKEY_get1_RSA(pkey);
237     EVP_PKEY_free(pkey);
238     if (!key)
239         return NULL;
240     *pp = q;
241     if (a) {
242         RSA_free(*a);
243         *a = key;
244     }
245     return key;
246 }
247
248 int i2d_RSA_PUBKEY(RSA *a, unsigned char **pp)
249 {
250     EVP_PKEY *pktmp;
251     int ret;
252     if (!a)
253         return 0;
254     pktmp = EVP_PKEY_new();
255     if (pktmp == NULL) {
256         ASN1err(ASN1_F_I2D_RSA_PUBKEY, ERR_R_MALLOC_FAILURE);
257         return 0;
258     }
259     EVP_PKEY_set1_RSA(pktmp, a);
260     ret = i2d_PUBKEY(pktmp, pp);
261     EVP_PKEY_free(pktmp);
262     return ret;
263 }
264 #endif
265
266 #ifndef OPENSSL_NO_DSA
267 DSA *d2i_DSA_PUBKEY(DSA **a, const unsigned char **pp, long length)
268 {
269     EVP_PKEY *pkey;
270     DSA *key;
271     const unsigned char *q;
272     q = *pp;
273     pkey = d2i_PUBKEY(NULL, &q, length);
274     if (!pkey)
275         return NULL;
276     key = EVP_PKEY_get1_DSA(pkey);
277     EVP_PKEY_free(pkey);
278     if (!key)
279         return NULL;
280     *pp = q;
281     if (a) {
282         DSA_free(*a);
283         *a = key;
284     }
285     return key;
286 }
287
288 int i2d_DSA_PUBKEY(DSA *a, unsigned char **pp)
289 {
290     EVP_PKEY *pktmp;
291     int ret;
292     if (!a)
293         return 0;
294     pktmp = EVP_PKEY_new();
295     if (pktmp == NULL) {
296         ASN1err(ASN1_F_I2D_DSA_PUBKEY, ERR_R_MALLOC_FAILURE);
297         return 0;
298     }
299     EVP_PKEY_set1_DSA(pktmp, a);
300     ret = i2d_PUBKEY(pktmp, pp);
301     EVP_PKEY_free(pktmp);
302     return ret;
303 }
304 #endif
305
306 #ifndef OPENSSL_NO_EC
307 EC_KEY *d2i_EC_PUBKEY(EC_KEY **a, const unsigned char **pp, long length)
308 {
309     EVP_PKEY *pkey;
310     EC_KEY *key;
311     const unsigned char *q;
312     q = *pp;
313     pkey = d2i_PUBKEY(NULL, &q, length);
314     if (!pkey)
315         return (NULL);
316     key = EVP_PKEY_get1_EC_KEY(pkey);
317     EVP_PKEY_free(pkey);
318     if (!key)
319         return (NULL);
320     *pp = q;
321     if (a) {
322         EC_KEY_free(*a);
323         *a = key;
324     }
325     return (key);
326 }
327
328 int i2d_EC_PUBKEY(EC_KEY *a, unsigned char **pp)
329 {
330     EVP_PKEY *pktmp;
331     int ret;
332     if (!a)
333         return (0);
334     if ((pktmp = EVP_PKEY_new()) == NULL) {
335         ASN1err(ASN1_F_I2D_EC_PUBKEY, ERR_R_MALLOC_FAILURE);
336         return (0);
337     }
338     EVP_PKEY_set1_EC_KEY(pktmp, a);
339     ret = i2d_PUBKEY(pktmp, pp);
340     EVP_PKEY_free(pktmp);
341     return (ret);
342 }
343 #endif
344
345 int X509_PUBKEY_set0_param(X509_PUBKEY *pub, ASN1_OBJECT *aobj,
346                            int ptype, void *pval,
347                            unsigned char *penc, int penclen)
348 {
349     if (!X509_ALGOR_set0(pub->algor, aobj, ptype, pval))
350         return 0;
351     if (penc) {
352         OPENSSL_free(pub->public_key->data);
353         pub->public_key->data = penc;
354         pub->public_key->length = penclen;
355         /* Set number of unused bits to zero */
356         pub->public_key->flags &= ~(ASN1_STRING_FLAG_BITS_LEFT | 0x07);
357         pub->public_key->flags |= ASN1_STRING_FLAG_BITS_LEFT;
358     }
359     return 1;
360 }
361
362 int X509_PUBKEY_get0_param(ASN1_OBJECT **ppkalg,
363                            const unsigned char **pk, int *ppklen,
364                            X509_ALGOR **pa, X509_PUBKEY *pub)
365 {
366     if (ppkalg)
367         *ppkalg = pub->algor->algorithm;
368     if (pk) {
369         *pk = pub->public_key->data;
370         *ppklen = pub->public_key->length;
371     }
372     if (pa)
373         *pa = pub->algor;
374     return 1;
375 }