Initial support for pluggable public key ASN1 support. Process most public
[openssl.git] / crypto / rsa / rsa_ameth.c
1 /* Written by Dr Stephen N Henson (shenson@bigfoot.com) for the OpenSSL
2  * project 2006.
3  */
4 /* ====================================================================
5  * Copyright (c) 2006 The OpenSSL Project.  All rights reserved.
6  *
7  * Redistribution and use in source and binary forms, with or without
8  * modification, are permitted provided that the following conditions
9  * are met:
10  *
11  * 1. Redistributions of source code must retain the above copyright
12  *    notice, this list of conditions and the following disclaimer. 
13  *
14  * 2. Redistributions in binary form must reproduce the above copyright
15  *    notice, this list of conditions and the following disclaimer in
16  *    the documentation and/or other materials provided with the
17  *    distribution.
18  *
19  * 3. All advertising materials mentioning features or use of this
20  *    software must display the following acknowledgment:
21  *    "This product includes software developed by the OpenSSL Project
22  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
23  *
24  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
25  *    endorse or promote products derived from this software without
26  *    prior written permission. For written permission, please contact
27  *    licensing@OpenSSL.org.
28  *
29  * 5. Products derived from this software may not be called "OpenSSL"
30  *    nor may "OpenSSL" appear in their names without prior written
31  *    permission of the OpenSSL Project.
32  *
33  * 6. Redistributions of any form whatsoever must retain the following
34  *    acknowledgment:
35  *    "This product includes software developed by the OpenSSL Project
36  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
37  *
38  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
39  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
40  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
41  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
42  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
43  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
44  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
45  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
46  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
47  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
48  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
49  * OF THE POSSIBILITY OF SUCH DAMAGE.
50  * ====================================================================
51  *
52  * This product includes cryptographic software written by Eric Young
53  * (eay@cryptsoft.com).  This product includes software written by Tim
54  * Hudson (tjh@cryptsoft.com).
55  *
56  */
57
58 #include <stdio.h>
59 #include "cryptlib.h"
60 #include <openssl/asn1t.h>
61 #include <openssl/x509.h>
62 #include <openssl/rsa.h>
63
64 static int rsa_pub_encode(X509_PUBKEY *pk, EVP_PKEY *pkey)
65         {
66         unsigned char *penc = NULL;
67         int penclen;
68         penclen = i2d_RSAPublicKey(pkey->pkey.rsa, &penc);
69         if (penclen <= 0)
70                 return 0;
71         if (X509_PUBKEY_set0_param(pk, OBJ_nid2obj(EVP_PKEY_RSA),
72                                 V_ASN1_NULL, NULL, penc, penclen))
73                 return 1;
74
75         OPENSSL_free(penc);
76         return 0;
77         }
78
79 static int rsa_pub_decode(EVP_PKEY *pkey, X509_PUBKEY *pubkey)
80         {
81         const unsigned char *p;
82         int pklen;
83         RSA *rsa = NULL;
84         if (!X509_PUBKEY_get0_param(NULL, &p, &pklen, NULL, pubkey))
85                 return 0;
86         if (!(rsa = d2i_RSAPublicKey(NULL, &p, pklen)))
87                 {
88                 RSAerr(RSA_F_RSA_PUB_DECODE, ERR_R_RSA_LIB);
89                 return 0;
90                 }
91         EVP_PKEY_assign_RSA (pkey, rsa);
92         return 1;
93         }
94
95 static int rsa_priv_decode(EVP_PKEY *pkey, PKCS8_PRIV_KEY_INFO *p8)
96         {
97         const unsigned char *p;
98         int pklen;
99         RSA *rsa = NULL;
100         if (!PKCS8_pkey_get0(NULL, &p, &pklen, NULL, p8))
101                 return 0;
102         if (!(rsa = d2i_RSAPrivateKey (NULL, &p, pklen)))
103                 {
104                 RSAerr(RSA_F_RSA_PRIV_DECODE, ERR_R_RSA_LIB);
105                 return 0;
106                 }
107         EVP_PKEY_assign_RSA (pkey, rsa);
108         return 1;
109         }
110
111 static int rsa_priv_encode(PKCS8_PRIV_KEY_INFO *p8, EVP_PKEY *pkey)
112         {
113         unsigned char *rk = NULL;
114         int rklen;
115         rklen = i2d_RSAPrivateKey(pkey->pkey.rsa, &rk);
116
117         if (rklen <= 0)
118                 {
119                 RSAerr(RSA_F_RSA_PRIV_ENCODE,ERR_R_MALLOC_FAILURE);
120                 return 0;
121                 }
122
123         if (!PKCS8_pkey_set0(p8, OBJ_nid2obj(NID_rsaEncryption), 0,
124                                 V_ASN1_NULL, NULL, rk, rklen))
125                 {
126                 RSAerr(RSA_F_RSA_PRIV_ENCODE,ERR_R_MALLOC_FAILURE);
127                 return 0;
128                 }
129
130         return 1;
131         }
132
133 const EVP_PKEY_ASN1_METHOD rsa_asn1_meths[] = 
134         {
135                 {
136                 EVP_PKEY_RSA,
137                 EVP_PKEY_RSA,
138                 0,
139                 rsa_pub_decode,
140                 rsa_pub_encode,
141                 0,
142                 rsa_priv_decode,
143                 rsa_priv_encode,
144                 0,
145                 0,
146                 0
147                 },
148
149                 {
150                 EVP_PKEY_RSA2,
151                 EVP_PKEY_RSA,
152                 ASN1_PKEY_ALIAS
153                 }
154         };