Initial DSA EVP_PKEY_METHOD. Fixup some error codes.
[openssl.git] / crypto / dsa / dsa_pmeth.c
1 /* Written by Dr Stephen N Henson (shenson@bigfoot.com) for the OpenSSL
2  * project 2006.
3  */
4 /* ====================================================================
5  * Copyright (c) 2006 The OpenSSL Project.  All rights reserved.
6  *
7  * Redistribution and use in source and binary forms, with or without
8  * modification, are permitted provided that the following conditions
9  * are met:
10  *
11  * 1. Redistributions of source code must retain the above copyright
12  *    notice, this list of conditions and the following disclaimer. 
13  *
14  * 2. Redistributions in binary form must reproduce the above copyright
15  *    notice, this list of conditions and the following disclaimer in
16  *    the documentation and/or other materials provided with the
17  *    distribution.
18  *
19  * 3. All advertising materials mentioning features or use of this
20  *    software must display the following acknowledgment:
21  *    "This product includes software developed by the OpenSSL Project
22  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
23  *
24  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
25  *    endorse or promote products derived from this software without
26  *    prior written permission. For written permission, please contact
27  *    licensing@OpenSSL.org.
28  *
29  * 5. Products derived from this software may not be called "OpenSSL"
30  *    nor may "OpenSSL" appear in their names without prior written
31  *    permission of the OpenSSL Project.
32  *
33  * 6. Redistributions of any form whatsoever must retain the following
34  *    acknowledgment:
35  *    "This product includes software developed by the OpenSSL Project
36  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
37  *
38  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
39  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
40  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
41  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
42  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
43  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
44  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
45  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
46  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
47  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
48  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
49  * OF THE POSSIBILITY OF SUCH DAMAGE.
50  * ====================================================================
51  *
52  * This product includes cryptographic software written by Eric Young
53  * (eay@cryptsoft.com).  This product includes software written by Tim
54  * Hudson (tjh@cryptsoft.com).
55  *
56  */
57
58 #include <stdio.h>
59 #include "cryptlib.h"
60 #include <openssl/asn1t.h>
61 #include <openssl/x509.h>
62 #include <openssl/rsa.h>
63 #include <openssl/evp.h>
64 #include "evp_locl.h"
65
66 /* DSA pkey context structure */
67
68 typedef struct
69         {
70         /* Parameter gen parameters */
71         int nbits;
72         /* Keygen callback info */
73         int gentmp[2];
74         /* message digest */
75         const EVP_MD *md;
76         } DSA_PKEY_CTX;
77
78 static int pkey_dsa_init(EVP_PKEY_CTX *ctx)
79         {
80         DSA_PKEY_CTX *dctx;
81         dctx = OPENSSL_malloc(sizeof(DSA_PKEY_CTX));
82         if (!dctx)
83                 return 0;
84         dctx->nbits = 1024;
85         dctx->md = NULL;
86
87         ctx->data = dctx;
88         ctx->keygen_info = dctx->gentmp;
89         ctx->keygen_info_count = 2;
90         
91         return 1;
92         }
93
94 static void pkey_dsa_cleanup(EVP_PKEY_CTX *ctx)
95         {
96         DSA_PKEY_CTX *dctx = ctx->data;
97         if (dctx)
98                 OPENSSL_free(dctx);
99         }
100
101 static int pkey_dsa_sign(EVP_PKEY_CTX *ctx, unsigned char *sig, int *siglen,
102                                         const unsigned char *tbs, int tbslen)
103         {
104         int ret, type;
105         unsigned int sltmp;
106         DSA_PKEY_CTX *dctx = ctx->data;
107         DSA *dsa = ctx->pkey->pkey.dsa;
108
109         if (dctx->md)
110                 type = EVP_MD_type(dctx->md);
111         else
112                 type = NID_sha1;
113
114         ret = DSA_sign(type, tbs, tbslen, sig, &sltmp, dsa);
115
116         if (ret < 0)
117                 return ret;
118         *siglen = sltmp;
119         return 1;
120         }
121
122 static int pkey_dsa_verify(EVP_PKEY_CTX *ctx,
123                                         const unsigned char *sig, int siglen,
124                                         const unsigned char *tbs, int tbslen)
125         {
126         int ret, type;
127         DSA_PKEY_CTX *dctx = ctx->data;
128         DSA *dsa = ctx->pkey->pkey.dsa;
129
130         if (dctx->md)
131                 type = EVP_MD_type(dctx->md);
132         else
133                 type = NID_sha1;
134
135         ret = DSA_verify(type, tbs, tbslen, sig, siglen, dsa);
136
137         return ret;
138         }
139
140 static int pkey_dsa_ctrl(EVP_PKEY_CTX *ctx, int type, int p1, void *p2)
141         {
142         DSA_PKEY_CTX *dctx = ctx->data;
143         switch (type)
144                 {
145                 case EVP_PKEY_CTRL_DSA_PARAMGEN_BITS:
146                 if (p1 < 256)
147                         return -2;
148                 dctx->nbits = p1;
149                 return 1;
150
151                 case EVP_PKEY_CTRL_MD:
152                 if (EVP_MD_type((const EVP_MD *)p2) != NID_sha1)
153                         {
154                         DSAerr(DSA_F_PKEY_DSA_CTRL, DSA_R_INVALID_DIGEST_TYPE);
155                         return 0;
156                         }
157                 dctx->md = p2;
158                 return 1;
159
160                 default:
161                 return -2;
162
163                 }
164         }
165                         
166 static int pkey_dsa_ctrl_str(EVP_PKEY_CTX *ctx,
167                         const char *type, const char *value)
168         {
169         if (!strcmp(type, "dsa_paramgen_bits"))
170                 {
171                 int nbits;
172                 nbits = atoi(value);
173                 return EVP_PKEY_CTX_set_dsa_paramgen_bits(ctx, nbits);
174                 }
175         return -2;
176         }
177
178 static int pkey_dsa_paramgen(EVP_PKEY_CTX *ctx, EVP_PKEY *pkey)
179         {
180         DSA *dsa = NULL;
181         DSA_PKEY_CTX *dctx = ctx->data;
182         BN_GENCB *pcb, cb;
183         int ret;
184         if (ctx->pkey_gencb)
185                 {
186                 pcb = &cb;
187                 evp_pkey_set_cb_translate(pcb, ctx);
188                 }
189         else
190                 pcb = NULL;
191         dsa = DSA_new();
192         if (!dsa)
193                 return 0;
194         ret = DSA_generate_parameters_ex(dsa, dctx->nbits, NULL, 0, NULL, NULL,
195                                                                         pcb);
196         if (ret)
197                 EVP_PKEY_assign_DSA(pkey, dsa);
198         else
199                 DSA_free(dsa);
200         return ret;
201         }
202
203 const EVP_PKEY_METHOD dsa_pkey_meth = 
204         {
205         EVP_PKEY_DSA,
206         0,
207         pkey_dsa_init,
208         pkey_dsa_cleanup,
209
210         0,
211         pkey_dsa_paramgen,
212
213         0,0,
214
215         0,
216         pkey_dsa_sign,
217
218         0,
219         pkey_dsa_verify,
220
221         0,0,
222
223         0,0,0,0,
224
225         0,0,
226
227         0,0,
228
229         pkey_dsa_ctrl,
230         pkey_dsa_ctrl_str
231
232
233         };