Use safer sizeof variant in malloc
[openssl.git] / crypto / dsa / dsa_pmeth.c
1 /*
2  * Written by Dr Stephen N Henson (steve@openssl.org) for the OpenSSL project
3  * 2006.
4  */
5 /* ====================================================================
6  * Copyright (c) 2006 The OpenSSL Project.  All rights reserved.
7  *
8  * Redistribution and use in source and binary forms, with or without
9  * modification, are permitted provided that the following conditions
10  * are met:
11  *
12  * 1. Redistributions of source code must retain the above copyright
13  *    notice, this list of conditions and the following disclaimer.
14  *
15  * 2. Redistributions in binary form must reproduce the above copyright
16  *    notice, this list of conditions and the following disclaimer in
17  *    the documentation and/or other materials provided with the
18  *    distribution.
19  *
20  * 3. All advertising materials mentioning features or use of this
21  *    software must display the following acknowledgment:
22  *    "This product includes software developed by the OpenSSL Project
23  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
24  *
25  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
26  *    endorse or promote products derived from this software without
27  *    prior written permission. For written permission, please contact
28  *    licensing@OpenSSL.org.
29  *
30  * 5. Products derived from this software may not be called "OpenSSL"
31  *    nor may "OpenSSL" appear in their names without prior written
32  *    permission of the OpenSSL Project.
33  *
34  * 6. Redistributions of any form whatsoever must retain the following
35  *    acknowledgment:
36  *    "This product includes software developed by the OpenSSL Project
37  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
38  *
39  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
40  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
41  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
42  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
43  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
44  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
45  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
46  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
47  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
48  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
49  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
50  * OF THE POSSIBILITY OF SUCH DAMAGE.
51  * ====================================================================
52  *
53  * This product includes cryptographic software written by Eric Young
54  * (eay@cryptsoft.com).  This product includes software written by Tim
55  * Hudson (tjh@cryptsoft.com).
56  *
57  */
58
59 #include <stdio.h>
60 #include "cryptlib.h"
61 #include <openssl/asn1t.h>
62 #include <openssl/x509.h>
63 #include <openssl/evp.h>
64 #include <openssl/bn.h>
65 #include "internal/evp_int.h"
66 #include "dsa_locl.h"
67
68 /* DSA pkey context structure */
69
70 typedef struct {
71     /* Parameter gen parameters */
72     int nbits;                  /* size of p in bits (default: 1024) */
73     int qbits;                  /* size of q in bits (default: 160) */
74     const EVP_MD *pmd;          /* MD for parameter generation */
75     /* Keygen callback info */
76     int gentmp[2];
77     /* message digest */
78     const EVP_MD *md;           /* MD for the signature */
79 } DSA_PKEY_CTX;
80
81 static int pkey_dsa_init(EVP_PKEY_CTX *ctx)
82 {
83     DSA_PKEY_CTX *dctx;
84     dctx = OPENSSL_malloc(sizeof(*dctx));
85     if (!dctx)
86         return 0;
87     dctx->nbits = 1024;
88     dctx->qbits = 160;
89     dctx->pmd = NULL;
90     dctx->md = NULL;
91
92     ctx->data = dctx;
93     ctx->keygen_info = dctx->gentmp;
94     ctx->keygen_info_count = 2;
95
96     return 1;
97 }
98
99 static int pkey_dsa_copy(EVP_PKEY_CTX *dst, EVP_PKEY_CTX *src)
100 {
101     DSA_PKEY_CTX *dctx, *sctx;
102     if (!pkey_dsa_init(dst))
103         return 0;
104     sctx = src->data;
105     dctx = dst->data;
106     dctx->nbits = sctx->nbits;
107     dctx->qbits = sctx->qbits;
108     dctx->pmd = sctx->pmd;
109     dctx->md = sctx->md;
110     return 1;
111 }
112
113 static void pkey_dsa_cleanup(EVP_PKEY_CTX *ctx)
114 {
115     DSA_PKEY_CTX *dctx = ctx->data;
116     OPENSSL_free(dctx);
117 }
118
119 static int pkey_dsa_sign(EVP_PKEY_CTX *ctx, unsigned char *sig,
120                          size_t *siglen, const unsigned char *tbs,
121                          size_t tbslen)
122 {
123     int ret, type;
124     unsigned int sltmp;
125     DSA_PKEY_CTX *dctx = ctx->data;
126     DSA *dsa = ctx->pkey->pkey.dsa;
127
128     if (dctx->md)
129         type = EVP_MD_type(dctx->md);
130     else
131         type = NID_sha1;
132
133     ret = DSA_sign(type, tbs, tbslen, sig, &sltmp, dsa);
134
135     if (ret <= 0)
136         return ret;
137     *siglen = sltmp;
138     return 1;
139 }
140
141 static int pkey_dsa_verify(EVP_PKEY_CTX *ctx,
142                            const unsigned char *sig, size_t siglen,
143                            const unsigned char *tbs, size_t tbslen)
144 {
145     int ret, type;
146     DSA_PKEY_CTX *dctx = ctx->data;
147     DSA *dsa = ctx->pkey->pkey.dsa;
148
149     if (dctx->md)
150         type = EVP_MD_type(dctx->md);
151     else
152         type = NID_sha1;
153
154     ret = DSA_verify(type, tbs, tbslen, sig, siglen, dsa);
155
156     return ret;
157 }
158
159 static int pkey_dsa_ctrl(EVP_PKEY_CTX *ctx, int type, int p1, void *p2)
160 {
161     DSA_PKEY_CTX *dctx = ctx->data;
162     switch (type) {
163     case EVP_PKEY_CTRL_DSA_PARAMGEN_BITS:
164         if (p1 < 256)
165             return -2;
166         dctx->nbits = p1;
167         return 1;
168
169     case EVP_PKEY_CTRL_DSA_PARAMGEN_Q_BITS:
170         if (p1 != 160 && p1 != 224 && p1 && p1 != 256)
171             return -2;
172         dctx->qbits = p1;
173         return 1;
174
175     case EVP_PKEY_CTRL_DSA_PARAMGEN_MD:
176         if (EVP_MD_type((const EVP_MD *)p2) != NID_sha1 &&
177             EVP_MD_type((const EVP_MD *)p2) != NID_sha224 &&
178             EVP_MD_type((const EVP_MD *)p2) != NID_sha256) {
179             DSAerr(DSA_F_PKEY_DSA_CTRL, DSA_R_INVALID_DIGEST_TYPE);
180             return 0;
181         }
182         dctx->md = p2;
183         return 1;
184
185     case EVP_PKEY_CTRL_MD:
186         if (EVP_MD_type((const EVP_MD *)p2) != NID_sha1 &&
187             EVP_MD_type((const EVP_MD *)p2) != NID_dsa &&
188             EVP_MD_type((const EVP_MD *)p2) != NID_dsaWithSHA &&
189             EVP_MD_type((const EVP_MD *)p2) != NID_sha224 &&
190             EVP_MD_type((const EVP_MD *)p2) != NID_sha256 &&
191             EVP_MD_type((const EVP_MD *)p2) != NID_sha384 &&
192             EVP_MD_type((const EVP_MD *)p2) != NID_sha512) {
193             DSAerr(DSA_F_PKEY_DSA_CTRL, DSA_R_INVALID_DIGEST_TYPE);
194             return 0;
195         }
196         dctx->md = p2;
197         return 1;
198
199     case EVP_PKEY_CTRL_GET_MD:
200         *(const EVP_MD **)p2 = dctx->md;
201         return 1;
202
203     case EVP_PKEY_CTRL_DIGESTINIT:
204     case EVP_PKEY_CTRL_PKCS7_SIGN:
205     case EVP_PKEY_CTRL_CMS_SIGN:
206         return 1;
207
208     case EVP_PKEY_CTRL_PEER_KEY:
209         DSAerr(DSA_F_PKEY_DSA_CTRL,
210                EVP_R_OPERATION_NOT_SUPPORTED_FOR_THIS_KEYTYPE);
211         return -2;
212     default:
213         return -2;
214
215     }
216 }
217
218 static int pkey_dsa_ctrl_str(EVP_PKEY_CTX *ctx,
219                              const char *type, const char *value)
220 {
221     if (!strcmp(type, "dsa_paramgen_bits")) {
222         int nbits;
223         nbits = atoi(value);
224         return EVP_PKEY_CTX_set_dsa_paramgen_bits(ctx, nbits);
225     }
226     if (!strcmp(type, "dsa_paramgen_q_bits")) {
227         int qbits = atoi(value);
228         return EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_DSA, EVP_PKEY_OP_PARAMGEN,
229                                  EVP_PKEY_CTRL_DSA_PARAMGEN_Q_BITS, qbits,
230                                  NULL);
231     }
232     if (!strcmp(type, "dsa_paramgen_md")) {
233         return EVP_PKEY_CTX_ctrl(ctx, EVP_PKEY_DSA, EVP_PKEY_OP_PARAMGEN,
234                                  EVP_PKEY_CTRL_DSA_PARAMGEN_MD, 0,
235                                  (void *)EVP_get_digestbyname(value));
236     }
237     return -2;
238 }
239
240 static int pkey_dsa_paramgen(EVP_PKEY_CTX *ctx, EVP_PKEY *pkey)
241 {
242     DSA *dsa = NULL;
243     DSA_PKEY_CTX *dctx = ctx->data;
244     BN_GENCB *pcb;
245     int ret;
246     if (ctx->pkey_gencb) {
247         pcb = BN_GENCB_new();
248         if (!pcb)
249             return 0;
250         evp_pkey_set_cb_translate(pcb, ctx);
251     } else
252         pcb = NULL;
253     dsa = DSA_new();
254     if (!dsa) {
255         BN_GENCB_free(pcb);
256         return 0;
257     }
258     ret = dsa_builtin_paramgen(dsa, dctx->nbits, dctx->qbits, dctx->pmd,
259                                NULL, 0, NULL, NULL, NULL, pcb);
260     BN_GENCB_free(pcb);
261     if (ret)
262         EVP_PKEY_assign_DSA(pkey, dsa);
263     else
264         DSA_free(dsa);
265     return ret;
266 }
267
268 static int pkey_dsa_keygen(EVP_PKEY_CTX *ctx, EVP_PKEY *pkey)
269 {
270     DSA *dsa = NULL;
271     if (ctx->pkey == NULL) {
272         DSAerr(DSA_F_PKEY_DSA_KEYGEN, DSA_R_NO_PARAMETERS_SET);
273         return 0;
274     }
275     dsa = DSA_new();
276     if (!dsa)
277         return 0;
278     EVP_PKEY_assign_DSA(pkey, dsa);
279     /* Note: if error return, pkey is freed by parent routine */
280     if (!EVP_PKEY_copy_parameters(pkey, ctx->pkey))
281         return 0;
282     return DSA_generate_key(pkey->pkey.dsa);
283 }
284
285 const EVP_PKEY_METHOD dsa_pkey_meth = {
286     EVP_PKEY_DSA,
287     EVP_PKEY_FLAG_AUTOARGLEN,
288     pkey_dsa_init,
289     pkey_dsa_copy,
290     pkey_dsa_cleanup,
291
292     0,
293     pkey_dsa_paramgen,
294
295     0,
296     pkey_dsa_keygen,
297
298     0,
299     pkey_dsa_sign,
300
301     0,
302     pkey_dsa_verify,
303
304     0, 0,
305
306     0, 0, 0, 0,
307
308     0, 0,
309
310     0, 0,
311
312     0, 0,
313
314     pkey_dsa_ctrl,
315     pkey_dsa_ctrl_str
316 };