DEFINE_STACK_OF(ASN1_UTF8STRING) moved from ts_lcl.h to asn1.h
[openssl.git] / crypto / dsa / dsa_ameth.c
1 /*
2  * Written by Dr Stephen N Henson (steve@openssl.org) for the OpenSSL project
3  * 2006.
4  */
5 /* ====================================================================
6  * Copyright (c) 2006 The OpenSSL Project.  All rights reserved.
7  *
8  * Redistribution and use in source and binary forms, with or without
9  * modification, are permitted provided that the following conditions
10  * are met:
11  *
12  * 1. Redistributions of source code must retain the above copyright
13  *    notice, this list of conditions and the following disclaimer.
14  *
15  * 2. Redistributions in binary form must reproduce the above copyright
16  *    notice, this list of conditions and the following disclaimer in
17  *    the documentation and/or other materials provided with the
18  *    distribution.
19  *
20  * 3. All advertising materials mentioning features or use of this
21  *    software must display the following acknowledgment:
22  *    "This product includes software developed by the OpenSSL Project
23  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
24  *
25  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
26  *    endorse or promote products derived from this software without
27  *    prior written permission. For written permission, please contact
28  *    licensing@OpenSSL.org.
29  *
30  * 5. Products derived from this software may not be called "OpenSSL"
31  *    nor may "OpenSSL" appear in their names without prior written
32  *    permission of the OpenSSL Project.
33  *
34  * 6. Redistributions of any form whatsoever must retain the following
35  *    acknowledgment:
36  *    "This product includes software developed by the OpenSSL Project
37  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
38  *
39  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
40  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
41  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
42  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
43  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
44  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
45  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
46  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
47  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
48  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
49  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
50  * OF THE POSSIBILITY OF SUCH DAMAGE.
51  * ====================================================================
52  *
53  * This product includes cryptographic software written by Eric Young
54  * (eay@cryptsoft.com).  This product includes software written by Tim
55  * Hudson (tjh@cryptsoft.com).
56  *
57  */
58
59 #include <stdio.h>
60 #include "internal/cryptlib.h"
61 #include <openssl/x509.h>
62 #include <openssl/asn1.h>
63 #include "dsa_locl.h"
64 #include <openssl/bn.h>
65 #include <openssl/cms.h>
66 #include "internal/asn1_int.h"
67 #include "internal/evp_int.h"
68
69 static int dsa_pub_decode(EVP_PKEY *pkey, X509_PUBKEY *pubkey)
70 {
71     const unsigned char *p, *pm;
72     int pklen, pmlen;
73     int ptype;
74     void *pval;
75     ASN1_STRING *pstr;
76     X509_ALGOR *palg;
77     ASN1_INTEGER *public_key = NULL;
78
79     DSA *dsa = NULL;
80
81     if (!X509_PUBKEY_get0_param(NULL, &p, &pklen, &palg, pubkey))
82         return 0;
83     X509_ALGOR_get0(NULL, &ptype, &pval, palg);
84
85     if (ptype == V_ASN1_SEQUENCE) {
86         pstr = pval;
87         pm = pstr->data;
88         pmlen = pstr->length;
89
90         if ((dsa = d2i_DSAparams(NULL, &pm, pmlen)) == NULL) {
91             DSAerr(DSA_F_DSA_PUB_DECODE, DSA_R_DECODE_ERROR);
92             goto err;
93         }
94
95     } else if ((ptype == V_ASN1_NULL) || (ptype == V_ASN1_UNDEF)) {
96         if ((dsa = DSA_new()) == NULL) {
97             DSAerr(DSA_F_DSA_PUB_DECODE, ERR_R_MALLOC_FAILURE);
98             goto err;
99         }
100     } else {
101         DSAerr(DSA_F_DSA_PUB_DECODE, DSA_R_PARAMETER_ENCODING_ERROR);
102         goto err;
103     }
104
105     if ((public_key = d2i_ASN1_INTEGER(NULL, &p, pklen)) == NULL) {
106         DSAerr(DSA_F_DSA_PUB_DECODE, DSA_R_DECODE_ERROR);
107         goto err;
108     }
109
110     if ((dsa->pub_key = ASN1_INTEGER_to_BN(public_key, NULL)) == NULL) {
111         DSAerr(DSA_F_DSA_PUB_DECODE, DSA_R_BN_DECODE_ERROR);
112         goto err;
113     }
114
115     ASN1_INTEGER_free(public_key);
116     EVP_PKEY_assign_DSA(pkey, dsa);
117     return 1;
118
119  err:
120     ASN1_INTEGER_free(public_key);
121     DSA_free(dsa);
122     return 0;
123
124 }
125
126 static int dsa_pub_encode(X509_PUBKEY *pk, const EVP_PKEY *pkey)
127 {
128     DSA *dsa;
129     int ptype;
130     unsigned char *penc = NULL;
131     int penclen;
132     ASN1_STRING *str = NULL;
133     ASN1_INTEGER *pubint = NULL;
134
135     dsa = pkey->pkey.dsa;
136     if (pkey->save_parameters && dsa->p && dsa->q && dsa->g) {
137         str = ASN1_STRING_new();
138         if (str == NULL) {
139             DSAerr(DSA_F_DSA_PUB_ENCODE, ERR_R_MALLOC_FAILURE);
140             goto err;
141         }
142         str->length = i2d_DSAparams(dsa, &str->data);
143         if (str->length <= 0) {
144             DSAerr(DSA_F_DSA_PUB_ENCODE, ERR_R_MALLOC_FAILURE);
145             goto err;
146         }
147         ptype = V_ASN1_SEQUENCE;
148     } else
149         ptype = V_ASN1_UNDEF;
150
151     pubint = BN_to_ASN1_INTEGER(dsa->pub_key, NULL);
152
153     if (pubint == NULL) {
154         DSAerr(DSA_F_DSA_PUB_ENCODE, ERR_R_MALLOC_FAILURE);
155         goto err;
156     }
157
158     penclen = i2d_ASN1_INTEGER(pubint, &penc);
159     ASN1_INTEGER_free(pubint);
160
161     if (penclen <= 0) {
162         DSAerr(DSA_F_DSA_PUB_ENCODE, ERR_R_MALLOC_FAILURE);
163         goto err;
164     }
165
166     if (X509_PUBKEY_set0_param(pk, OBJ_nid2obj(EVP_PKEY_DSA),
167                                ptype, str, penc, penclen))
168         return 1;
169
170  err:
171     OPENSSL_free(penc);
172     ASN1_STRING_free(str);
173
174     return 0;
175 }
176
177 /*
178  * In PKCS#8 DSA: you just get a private key integer and parameters in the
179  * AlgorithmIdentifier the pubkey must be recalculated.
180  */
181
182 static int dsa_priv_decode(EVP_PKEY *pkey, PKCS8_PRIV_KEY_INFO *p8)
183 {
184     const unsigned char *p, *pm;
185     int pklen, pmlen;
186     int ptype;
187     void *pval;
188     ASN1_STRING *pstr;
189     X509_ALGOR *palg;
190     ASN1_INTEGER *privkey = NULL;
191     BN_CTX *ctx = NULL;
192
193     DSA *dsa = NULL;
194
195     int ret = 0;
196
197     if (!PKCS8_pkey_get0(NULL, &p, &pklen, &palg, p8))
198         return 0;
199     X509_ALGOR_get0(NULL, &ptype, &pval, palg);
200
201     if ((privkey = d2i_ASN1_INTEGER(NULL, &p, pklen)) == NULL)
202         goto decerr;
203     if (privkey->type == V_ASN1_NEG_INTEGER || ptype != V_ASN1_SEQUENCE)
204         goto decerr;
205
206     pstr = pval;
207     pm = pstr->data;
208     pmlen = pstr->length;
209     if ((dsa = d2i_DSAparams(NULL, &pm, pmlen)) == NULL)
210         goto decerr;
211     /* We have parameters now set private key */
212     if ((dsa->priv_key = BN_secure_new()) == NULL
213         || !ASN1_INTEGER_to_BN(privkey, dsa->priv_key)) {
214         DSAerr(DSA_F_DSA_PRIV_DECODE, DSA_R_BN_ERROR);
215         goto dsaerr;
216     }
217     /* Calculate public key */
218     if ((dsa->pub_key = BN_new()) == NULL) {
219         DSAerr(DSA_F_DSA_PRIV_DECODE, ERR_R_MALLOC_FAILURE);
220         goto dsaerr;
221     }
222     if ((ctx = BN_CTX_new()) == NULL) {
223         DSAerr(DSA_F_DSA_PRIV_DECODE, ERR_R_MALLOC_FAILURE);
224         goto dsaerr;
225     }
226
227     if (!BN_mod_exp(dsa->pub_key, dsa->g, dsa->priv_key, dsa->p, ctx)) {
228         DSAerr(DSA_F_DSA_PRIV_DECODE, DSA_R_BN_ERROR);
229         goto dsaerr;
230     }
231
232     EVP_PKEY_assign_DSA(pkey, dsa);
233
234     ret = 1;
235     goto done;
236
237  decerr:
238     DSAerr(DSA_F_DSA_PRIV_DECODE, DSA_R_DECODE_ERROR);
239  dsaerr:
240     DSA_free(dsa);
241  done:
242     BN_CTX_free(ctx);
243     ASN1_STRING_clear_free(privkey);
244     return ret;
245 }
246
247 static int dsa_priv_encode(PKCS8_PRIV_KEY_INFO *p8, const EVP_PKEY *pkey)
248 {
249     ASN1_STRING *params = NULL;
250     ASN1_INTEGER *prkey = NULL;
251     unsigned char *dp = NULL;
252     int dplen;
253
254     if (!pkey->pkey.dsa || !pkey->pkey.dsa->priv_key) {
255         DSAerr(DSA_F_DSA_PRIV_ENCODE, DSA_R_MISSING_PARAMETERS);
256         goto err;
257     }
258
259     params = ASN1_STRING_new();
260
261     if (params == NULL) {
262         DSAerr(DSA_F_DSA_PRIV_ENCODE, ERR_R_MALLOC_FAILURE);
263         goto err;
264     }
265
266     params->length = i2d_DSAparams(pkey->pkey.dsa, &params->data);
267     if (params->length <= 0) {
268         DSAerr(DSA_F_DSA_PRIV_ENCODE, ERR_R_MALLOC_FAILURE);
269         goto err;
270     }
271     params->type = V_ASN1_SEQUENCE;
272
273     /* Get private key into integer */
274     prkey = BN_to_ASN1_INTEGER(pkey->pkey.dsa->priv_key, NULL);
275
276     if (!prkey) {
277         DSAerr(DSA_F_DSA_PRIV_ENCODE, DSA_R_BN_ERROR);
278         goto err;
279     }
280
281     dplen = i2d_ASN1_INTEGER(prkey, &dp);
282
283     ASN1_STRING_clear_free(prkey);
284     prkey = NULL;
285
286     if (!PKCS8_pkey_set0(p8, OBJ_nid2obj(NID_dsa), 0,
287                          V_ASN1_SEQUENCE, params, dp, dplen))
288         goto err;
289
290     return 1;
291
292  err:
293     OPENSSL_free(dp);
294     ASN1_STRING_free(params);
295     ASN1_STRING_clear_free(prkey);
296     return 0;
297 }
298
299 static int int_dsa_size(const EVP_PKEY *pkey)
300 {
301     return (DSA_size(pkey->pkey.dsa));
302 }
303
304 static int dsa_bits(const EVP_PKEY *pkey)
305 {
306     return BN_num_bits(pkey->pkey.dsa->p);
307 }
308
309 static int dsa_security_bits(const EVP_PKEY *pkey)
310 {
311     return DSA_security_bits(pkey->pkey.dsa);
312 }
313
314 static int dsa_missing_parameters(const EVP_PKEY *pkey)
315 {
316     DSA *dsa;
317     dsa = pkey->pkey.dsa;
318     if ((dsa->p == NULL) || (dsa->q == NULL) || (dsa->g == NULL))
319         return 1;
320     return 0;
321 }
322
323 static int dsa_copy_parameters(EVP_PKEY *to, const EVP_PKEY *from)
324 {
325     BIGNUM *a;
326
327     if (to->pkey.dsa == NULL) {
328         to->pkey.dsa = DSA_new();
329         if (to->pkey.dsa == NULL)
330             return 0;
331     }
332
333     if ((a = BN_dup(from->pkey.dsa->p)) == NULL)
334         return 0;
335     BN_free(to->pkey.dsa->p);
336     to->pkey.dsa->p = a;
337
338     if ((a = BN_dup(from->pkey.dsa->q)) == NULL)
339         return 0;
340     BN_free(to->pkey.dsa->q);
341     to->pkey.dsa->q = a;
342
343     if ((a = BN_dup(from->pkey.dsa->g)) == NULL)
344         return 0;
345     BN_free(to->pkey.dsa->g);
346     to->pkey.dsa->g = a;
347     return 1;
348 }
349
350 static int dsa_cmp_parameters(const EVP_PKEY *a, const EVP_PKEY *b)
351 {
352     if (BN_cmp(a->pkey.dsa->p, b->pkey.dsa->p) ||
353         BN_cmp(a->pkey.dsa->q, b->pkey.dsa->q) ||
354         BN_cmp(a->pkey.dsa->g, b->pkey.dsa->g))
355         return 0;
356     else
357         return 1;
358 }
359
360 static int dsa_pub_cmp(const EVP_PKEY *a, const EVP_PKEY *b)
361 {
362     if (BN_cmp(b->pkey.dsa->pub_key, a->pkey.dsa->pub_key) != 0)
363         return 0;
364     else
365         return 1;
366 }
367
368 static void int_dsa_free(EVP_PKEY *pkey)
369 {
370     DSA_free(pkey->pkey.dsa);
371 }
372
373 static int do_dsa_print(BIO *bp, const DSA *x, int off, int ptype)
374 {
375     int ret = 0;
376     const char *ktype = NULL;
377     const BIGNUM *priv_key, *pub_key;
378
379     if (ptype == 2)
380         priv_key = x->priv_key;
381     else
382         priv_key = NULL;
383
384     if (ptype > 0)
385         pub_key = x->pub_key;
386     else
387         pub_key = NULL;
388
389     if (ptype == 2)
390         ktype = "Private-Key";
391     else if (ptype == 1)
392         ktype = "Public-Key";
393     else
394         ktype = "DSA-Parameters";
395
396     if (priv_key) {
397         if (!BIO_indent(bp, off, 128))
398             goto err;
399         if (BIO_printf(bp, "%s: (%d bit)\n", ktype, BN_num_bits(x->p))
400             <= 0)
401             goto err;
402     }
403
404     if (!ASN1_bn_print(bp, "priv:", priv_key, NULL, off))
405         goto err;
406     if (!ASN1_bn_print(bp, "pub: ", pub_key, NULL, off))
407         goto err;
408     if (!ASN1_bn_print(bp, "P:   ", x->p, NULL, off))
409         goto err;
410     if (!ASN1_bn_print(bp, "Q:   ", x->q, NULL, off))
411         goto err;
412     if (!ASN1_bn_print(bp, "G:   ", x->g, NULL, off))
413         goto err;
414     ret = 1;
415  err:
416     return (ret);
417 }
418
419 static int dsa_param_decode(EVP_PKEY *pkey,
420                             const unsigned char **pder, int derlen)
421 {
422     DSA *dsa;
423
424     if ((dsa = d2i_DSAparams(NULL, pder, derlen)) == NULL) {
425         DSAerr(DSA_F_DSA_PARAM_DECODE, ERR_R_DSA_LIB);
426         return 0;
427     }
428     EVP_PKEY_assign_DSA(pkey, dsa);
429     return 1;
430 }
431
432 static int dsa_param_encode(const EVP_PKEY *pkey, unsigned char **pder)
433 {
434     return i2d_DSAparams(pkey->pkey.dsa, pder);
435 }
436
437 static int dsa_param_print(BIO *bp, const EVP_PKEY *pkey, int indent,
438                            ASN1_PCTX *ctx)
439 {
440     return do_dsa_print(bp, pkey->pkey.dsa, indent, 0);
441 }
442
443 static int dsa_pub_print(BIO *bp, const EVP_PKEY *pkey, int indent,
444                          ASN1_PCTX *ctx)
445 {
446     return do_dsa_print(bp, pkey->pkey.dsa, indent, 1);
447 }
448
449 static int dsa_priv_print(BIO *bp, const EVP_PKEY *pkey, int indent,
450                           ASN1_PCTX *ctx)
451 {
452     return do_dsa_print(bp, pkey->pkey.dsa, indent, 2);
453 }
454
455 static int old_dsa_priv_decode(EVP_PKEY *pkey,
456                                const unsigned char **pder, int derlen)
457 {
458     DSA *dsa;
459
460     if ((dsa = d2i_DSAPrivateKey(NULL, pder, derlen)) == NULL) {
461         DSAerr(DSA_F_OLD_DSA_PRIV_DECODE, ERR_R_DSA_LIB);
462         return 0;
463     }
464     EVP_PKEY_assign_DSA(pkey, dsa);
465     return 1;
466 }
467
468 static int old_dsa_priv_encode(const EVP_PKEY *pkey, unsigned char **pder)
469 {
470     return i2d_DSAPrivateKey(pkey->pkey.dsa, pder);
471 }
472
473 static int dsa_sig_print(BIO *bp, const X509_ALGOR *sigalg,
474                          const ASN1_STRING *sig, int indent, ASN1_PCTX *pctx)
475 {
476     DSA_SIG *dsa_sig;
477     const unsigned char *p;
478
479     if (!sig) {
480         if (BIO_puts(bp, "\n") <= 0)
481             return 0;
482         else
483             return 1;
484     }
485     p = sig->data;
486     dsa_sig = d2i_DSA_SIG(NULL, &p, sig->length);
487     if (dsa_sig) {
488         int rv = 0;
489         BIGNUM *r, *s;
490
491         DSA_SIG_get0(&r, &s, dsa_sig);
492
493         if (BIO_write(bp, "\n", 1) != 1)
494             goto err;
495
496         if (!ASN1_bn_print(bp, "r:   ", r, NULL, indent))
497             goto err;
498         if (!ASN1_bn_print(bp, "s:   ", s, NULL, indent))
499             goto err;
500         rv = 1;
501  err:
502         DSA_SIG_free(dsa_sig);
503         return rv;
504     }
505     return X509_signature_dump(bp, sig, indent);
506 }
507
508 static int dsa_pkey_ctrl(EVP_PKEY *pkey, int op, long arg1, void *arg2)
509 {
510     switch (op) {
511     case ASN1_PKEY_CTRL_PKCS7_SIGN:
512         if (arg1 == 0) {
513             int snid, hnid;
514             X509_ALGOR *alg1, *alg2;
515             PKCS7_SIGNER_INFO_get0_algs(arg2, NULL, &alg1, &alg2);
516             if (alg1 == NULL || alg1->algorithm == NULL)
517                 return -1;
518             hnid = OBJ_obj2nid(alg1->algorithm);
519             if (hnid == NID_undef)
520                 return -1;
521             if (!OBJ_find_sigid_by_algs(&snid, hnid, EVP_PKEY_id(pkey)))
522                 return -1;
523             X509_ALGOR_set0(alg2, OBJ_nid2obj(snid), V_ASN1_UNDEF, 0);
524         }
525         return 1;
526 #ifndef OPENSSL_NO_CMS
527     case ASN1_PKEY_CTRL_CMS_SIGN:
528         if (arg1 == 0) {
529             int snid, hnid;
530             X509_ALGOR *alg1, *alg2;
531             CMS_SignerInfo_get0_algs(arg2, NULL, NULL, &alg1, &alg2);
532             if (alg1 == NULL || alg1->algorithm == NULL)
533                 return -1;
534             hnid = OBJ_obj2nid(alg1->algorithm);
535             if (hnid == NID_undef)
536                 return -1;
537             if (!OBJ_find_sigid_by_algs(&snid, hnid, EVP_PKEY_id(pkey)))
538                 return -1;
539             X509_ALGOR_set0(alg2, OBJ_nid2obj(snid), V_ASN1_UNDEF, 0);
540         }
541         return 1;
542
543     case ASN1_PKEY_CTRL_CMS_RI_TYPE:
544         *(int *)arg2 = CMS_RECIPINFO_NONE;
545         return 1;
546 #endif
547
548     case ASN1_PKEY_CTRL_DEFAULT_MD_NID:
549         *(int *)arg2 = NID_sha256;
550         return 2;
551
552     default:
553         return -2;
554
555     }
556
557 }
558
559 /* NB these are sorted in pkey_id order, lowest first */
560
561 const EVP_PKEY_ASN1_METHOD dsa_asn1_meths[] = {
562
563     {
564      EVP_PKEY_DSA2,
565      EVP_PKEY_DSA,
566      ASN1_PKEY_ALIAS},
567
568     {
569      EVP_PKEY_DSA1,
570      EVP_PKEY_DSA,
571      ASN1_PKEY_ALIAS},
572
573     {
574      EVP_PKEY_DSA4,
575      EVP_PKEY_DSA,
576      ASN1_PKEY_ALIAS},
577
578     {
579      EVP_PKEY_DSA3,
580      EVP_PKEY_DSA,
581      ASN1_PKEY_ALIAS},
582
583     {
584      EVP_PKEY_DSA,
585      EVP_PKEY_DSA,
586      0,
587
588      "DSA",
589      "OpenSSL DSA method",
590
591      dsa_pub_decode,
592      dsa_pub_encode,
593      dsa_pub_cmp,
594      dsa_pub_print,
595
596      dsa_priv_decode,
597      dsa_priv_encode,
598      dsa_priv_print,
599
600      int_dsa_size,
601      dsa_bits,
602      dsa_security_bits,
603
604      dsa_param_decode,
605      dsa_param_encode,
606      dsa_missing_parameters,
607      dsa_copy_parameters,
608      dsa_cmp_parameters,
609      dsa_param_print,
610      dsa_sig_print,
611
612      int_dsa_free,
613      dsa_pkey_ctrl,
614      old_dsa_priv_decode,
615      old_dsa_priv_encode}
616 };