Transfer parameter handling and key comparison to algorithm methods.
[openssl.git] / crypto / rsa / rsa_ameth.c
1 /* Written by Dr Stephen N Henson (shenson@bigfoot.com) for the OpenSSL
2  * project 2006.
3  */
4 /* ====================================================================
5  * Copyright (c) 2006 The OpenSSL Project.  All rights reserved.
6  *
7  * Redistribution and use in source and binary forms, with or without
8  * modification, are permitted provided that the following conditions
9  * are met:
10  *
11  * 1. Redistributions of source code must retain the above copyright
12  *    notice, this list of conditions and the following disclaimer. 
13  *
14  * 2. Redistributions in binary form must reproduce the above copyright
15  *    notice, this list of conditions and the following disclaimer in
16  *    the documentation and/or other materials provided with the
17  *    distribution.
18  *
19  * 3. All advertising materials mentioning features or use of this
20  *    software must display the following acknowledgment:
21  *    "This product includes software developed by the OpenSSL Project
22  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
23  *
24  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
25  *    endorse or promote products derived from this software without
26  *    prior written permission. For written permission, please contact
27  *    licensing@OpenSSL.org.
28  *
29  * 5. Products derived from this software may not be called "OpenSSL"
30  *    nor may "OpenSSL" appear in their names without prior written
31  *    permission of the OpenSSL Project.
32  *
33  * 6. Redistributions of any form whatsoever must retain the following
34  *    acknowledgment:
35  *    "This product includes software developed by the OpenSSL Project
36  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
37  *
38  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
39  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
40  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
41  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
42  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
43  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
44  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
45  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
46  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
47  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
48  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
49  * OF THE POSSIBILITY OF SUCH DAMAGE.
50  * ====================================================================
51  *
52  * This product includes cryptographic software written by Eric Young
53  * (eay@cryptsoft.com).  This product includes software written by Tim
54  * Hudson (tjh@cryptsoft.com).
55  *
56  */
57
58 #include <stdio.h>
59 #include "cryptlib.h"
60 #include <openssl/asn1t.h>
61 #include <openssl/x509.h>
62 #include <openssl/rsa.h>
63
64 static int rsa_pub_encode(X509_PUBKEY *pk, const EVP_PKEY *pkey)
65         {
66         unsigned char *penc = NULL;
67         int penclen;
68         penclen = i2d_RSAPublicKey(pkey->pkey.rsa, &penc);
69         if (penclen <= 0)
70                 return 0;
71         if (X509_PUBKEY_set0_param(pk, OBJ_nid2obj(EVP_PKEY_RSA),
72                                 V_ASN1_NULL, NULL, penc, penclen))
73                 return 1;
74
75         OPENSSL_free(penc);
76         return 0;
77         }
78
79 static int rsa_pub_decode(EVP_PKEY *pkey, X509_PUBKEY *pubkey)
80         {
81         const unsigned char *p;
82         int pklen;
83         RSA *rsa = NULL;
84         if (!X509_PUBKEY_get0_param(NULL, &p, &pklen, NULL, pubkey))
85                 return 0;
86         if (!(rsa = d2i_RSAPublicKey(NULL, &p, pklen)))
87                 {
88                 RSAerr(RSA_F_RSA_PUB_DECODE, ERR_R_RSA_LIB);
89                 return 0;
90                 }
91         EVP_PKEY_assign_RSA (pkey, rsa);
92         return 1;
93         }
94
95 static int rsa_pub_cmp(const EVP_PKEY *a, const EVP_PKEY *b)
96         {
97         if (BN_cmp(b->pkey.rsa->n,a->pkey.rsa->n) != 0
98                 || BN_cmp(b->pkey.rsa->e,a->pkey.rsa->e) != 0)
99                         return 0;
100         return 1;
101         }
102
103 static int rsa_priv_decode(EVP_PKEY *pkey, PKCS8_PRIV_KEY_INFO *p8)
104         {
105         const unsigned char *p;
106         int pklen;
107         RSA *rsa = NULL;
108         if (!PKCS8_pkey_get0(NULL, &p, &pklen, NULL, p8))
109                 return 0;
110         if (!(rsa = d2i_RSAPrivateKey (NULL, &p, pklen)))
111                 {
112                 RSAerr(RSA_F_RSA_PRIV_DECODE, ERR_R_RSA_LIB);
113                 return 0;
114                 }
115         EVP_PKEY_assign_RSA (pkey, rsa);
116         return 1;
117         }
118
119 static int rsa_priv_encode(PKCS8_PRIV_KEY_INFO *p8, const EVP_PKEY *pkey)
120         {
121         unsigned char *rk = NULL;
122         int rklen;
123         rklen = i2d_RSAPrivateKey(pkey->pkey.rsa, &rk);
124
125         if (rklen <= 0)
126                 {
127                 RSAerr(RSA_F_RSA_PRIV_ENCODE,ERR_R_MALLOC_FAILURE);
128                 return 0;
129                 }
130
131         if (!PKCS8_pkey_set0(p8, OBJ_nid2obj(NID_rsaEncryption), 0,
132                                 V_ASN1_NULL, NULL, rk, rklen))
133                 {
134                 RSAerr(RSA_F_RSA_PRIV_ENCODE,ERR_R_MALLOC_FAILURE);
135                 return 0;
136                 }
137
138         return 1;
139         }
140
141 static int int_rsa_size(const EVP_PKEY *pkey)
142         {
143         return RSA_size(pkey->pkey.rsa);
144         }
145
146 static int rsa_bits(const EVP_PKEY *pkey)
147         {
148         return BN_num_bits(pkey->pkey.rsa->n);
149         }
150
151 static void int_rsa_free(EVP_PKEY *pkey)
152         {
153         RSA_free(pkey->pkey.rsa);
154         }
155
156 const EVP_PKEY_ASN1_METHOD rsa_asn1_meths[] = 
157         {
158                 {
159                 EVP_PKEY_RSA,
160                 EVP_PKEY_RSA,
161                 0,
162
163                 rsa_pub_decode,
164                 rsa_pub_encode,
165                 rsa_pub_cmp,
166                 0,
167
168                 rsa_priv_decode,
169                 rsa_priv_encode,
170                 0,
171
172                 int_rsa_size,
173                 rsa_bits,
174
175                 0,0,0,0,0,0,
176
177                 int_rsa_free,
178                 0
179                 },
180
181                 {
182                 EVP_PKEY_RSA2,
183                 EVP_PKEY_RSA,
184                 ASN1_PKEY_ALIAS
185                 }
186         };