use enum type for do_EC_KEY_print
[openssl.git] / crypto / ec / ec_ameth.c
1 /*
2  * Written by Dr Stephen N Henson (steve@openssl.org) for the OpenSSL project
3  * 2006.
4  */
5 /* ====================================================================
6  * Copyright (c) 2006 The OpenSSL Project.  All rights reserved.
7  *
8  * Redistribution and use in source and binary forms, with or without
9  * modification, are permitted provided that the following conditions
10  * are met:
11  *
12  * 1. Redistributions of source code must retain the above copyright
13  *    notice, this list of conditions and the following disclaimer.
14  *
15  * 2. Redistributions in binary form must reproduce the above copyright
16  *    notice, this list of conditions and the following disclaimer in
17  *    the documentation and/or other materials provided with the
18  *    distribution.
19  *
20  * 3. All advertising materials mentioning features or use of this
21  *    software must display the following acknowledgment:
22  *    "This product includes software developed by the OpenSSL Project
23  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
24  *
25  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
26  *    endorse or promote products derived from this software without
27  *    prior written permission. For written permission, please contact
28  *    licensing@OpenSSL.org.
29  *
30  * 5. Products derived from this software may not be called "OpenSSL"
31  *    nor may "OpenSSL" appear in their names without prior written
32  *    permission of the OpenSSL Project.
33  *
34  * 6. Redistributions of any form whatsoever must retain the following
35  *    acknowledgment:
36  *    "This product includes software developed by the OpenSSL Project
37  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
38  *
39  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
40  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
41  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
42  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
43  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
44  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
45  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
46  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
47  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
48  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
49  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
50  * OF THE POSSIBILITY OF SUCH DAMAGE.
51  * ====================================================================
52  *
53  * This product includes cryptographic software written by Eric Young
54  * (eay@cryptsoft.com).  This product includes software written by Tim
55  * Hudson (tjh@cryptsoft.com).
56  *
57  */
58
59 #include <stdio.h>
60 #include "internal/cryptlib.h"
61 #include <openssl/x509.h>
62 #include <openssl/ec.h>
63 #include <openssl/bn.h>
64 #ifndef OPENSSL_NO_CMS
65 # include <openssl/cms.h>
66 #endif
67 #include <openssl/asn1t.h>
68 #include "internal/asn1_int.h"
69 #include "internal/evp_int.h"
70
71 #ifndef OPENSSL_NO_CMS
72 static int ecdh_cms_decrypt(CMS_RecipientInfo *ri);
73 static int ecdh_cms_encrypt(CMS_RecipientInfo *ri);
74 #endif
75
76 static int eckey_param2type(int *pptype, void **ppval, EC_KEY *ec_key)
77 {
78     const EC_GROUP *group;
79     int nid;
80     if (ec_key == NULL || (group = EC_KEY_get0_group(ec_key)) == NULL) {
81         ECerr(EC_F_ECKEY_PARAM2TYPE, EC_R_MISSING_PARAMETERS);
82         return 0;
83     }
84     if (EC_GROUP_get_asn1_flag(group)
85         && (nid = EC_GROUP_get_curve_name(group)))
86         /* we have a 'named curve' => just set the OID */
87     {
88         *ppval = OBJ_nid2obj(nid);
89         *pptype = V_ASN1_OBJECT;
90     } else {                    /* explicit parameters */
91
92         ASN1_STRING *pstr = NULL;
93         pstr = ASN1_STRING_new();
94         if (pstr == NULL)
95             return 0;
96         pstr->length = i2d_ECParameters(ec_key, &pstr->data);
97         if (pstr->length <= 0) {
98             ASN1_STRING_free(pstr);
99             ECerr(EC_F_ECKEY_PARAM2TYPE, ERR_R_EC_LIB);
100             return 0;
101         }
102         *ppval = pstr;
103         *pptype = V_ASN1_SEQUENCE;
104     }
105     return 1;
106 }
107
108 static int eckey_pub_encode(X509_PUBKEY *pk, const EVP_PKEY *pkey)
109 {
110     EC_KEY *ec_key = pkey->pkey.ec;
111     void *pval = NULL;
112     int ptype;
113     unsigned char *penc = NULL, *p;
114     int penclen;
115
116     if (!eckey_param2type(&ptype, &pval, ec_key)) {
117         ECerr(EC_F_ECKEY_PUB_ENCODE, ERR_R_EC_LIB);
118         return 0;
119     }
120     penclen = i2o_ECPublicKey(ec_key, NULL);
121     if (penclen <= 0)
122         goto err;
123     penc = OPENSSL_malloc(penclen);
124     if (penc == NULL)
125         goto err;
126     p = penc;
127     penclen = i2o_ECPublicKey(ec_key, &p);
128     if (penclen <= 0)
129         goto err;
130     if (X509_PUBKEY_set0_param(pk, OBJ_nid2obj(EVP_PKEY_EC),
131                                ptype, pval, penc, penclen))
132         return 1;
133  err:
134     if (ptype == V_ASN1_OBJECT)
135         ASN1_OBJECT_free(pval);
136     else
137         ASN1_STRING_free(pval);
138     OPENSSL_free(penc);
139     return 0;
140 }
141
142 static EC_KEY *eckey_type2param(int ptype, void *pval)
143 {
144     EC_KEY *eckey = NULL;
145     if (ptype == V_ASN1_SEQUENCE) {
146         ASN1_STRING *pstr = pval;
147         const unsigned char *pm = NULL;
148         int pmlen;
149         pm = pstr->data;
150         pmlen = pstr->length;
151         if ((eckey = d2i_ECParameters(NULL, &pm, pmlen)) == NULL) {
152             ECerr(EC_F_ECKEY_TYPE2PARAM, EC_R_DECODE_ERROR);
153             goto ecerr;
154         }
155     } else if (ptype == V_ASN1_OBJECT) {
156         ASN1_OBJECT *poid = pval;
157         EC_GROUP *group;
158
159         /*
160          * type == V_ASN1_OBJECT => the parameters are given by an asn1 OID
161          */
162         if ((eckey = EC_KEY_new()) == NULL) {
163             ECerr(EC_F_ECKEY_TYPE2PARAM, ERR_R_MALLOC_FAILURE);
164             goto ecerr;
165         }
166         group = EC_GROUP_new_by_curve_name(OBJ_obj2nid(poid));
167         if (group == NULL)
168             goto ecerr;
169         EC_GROUP_set_asn1_flag(group, OPENSSL_EC_NAMED_CURVE);
170         if (EC_KEY_set_group(eckey, group) == 0)
171             goto ecerr;
172         EC_GROUP_free(group);
173     } else {
174         ECerr(EC_F_ECKEY_TYPE2PARAM, EC_R_DECODE_ERROR);
175         goto ecerr;
176     }
177
178     return eckey;
179
180  ecerr:
181     EC_KEY_free(eckey);
182     return NULL;
183 }
184
185 static int eckey_pub_decode(EVP_PKEY *pkey, X509_PUBKEY *pubkey)
186 {
187     const unsigned char *p = NULL;
188     void *pval;
189     int ptype, pklen;
190     EC_KEY *eckey = NULL;
191     X509_ALGOR *palg;
192
193     if (!X509_PUBKEY_get0_param(NULL, &p, &pklen, &palg, pubkey))
194         return 0;
195     X509_ALGOR_get0(NULL, &ptype, &pval, palg);
196
197     eckey = eckey_type2param(ptype, pval);
198
199     if (!eckey) {
200         ECerr(EC_F_ECKEY_PUB_DECODE, ERR_R_EC_LIB);
201         return 0;
202     }
203
204     /* We have parameters now set public key */
205     if (!o2i_ECPublicKey(&eckey, &p, pklen)) {
206         ECerr(EC_F_ECKEY_PUB_DECODE, EC_R_DECODE_ERROR);
207         goto ecerr;
208     }
209
210     EVP_PKEY_assign_EC_KEY(pkey, eckey);
211     return 1;
212
213  ecerr:
214     EC_KEY_free(eckey);
215     return 0;
216 }
217
218 static int eckey_pub_cmp(const EVP_PKEY *a, const EVP_PKEY *b)
219 {
220     int r;
221     const EC_GROUP *group = EC_KEY_get0_group(b->pkey.ec);
222     const EC_POINT *pa = EC_KEY_get0_public_key(a->pkey.ec),
223         *pb = EC_KEY_get0_public_key(b->pkey.ec);
224     r = EC_POINT_cmp(group, pa, pb, NULL);
225     if (r == 0)
226         return 1;
227     if (r == 1)
228         return 0;
229     return -2;
230 }
231
232 static int eckey_priv_decode(EVP_PKEY *pkey, PKCS8_PRIV_KEY_INFO *p8)
233 {
234     const unsigned char *p = NULL;
235     void *pval;
236     int ptype, pklen;
237     EC_KEY *eckey = NULL;
238     X509_ALGOR *palg;
239
240     if (!PKCS8_pkey_get0(NULL, &p, &pklen, &palg, p8))
241         return 0;
242     X509_ALGOR_get0(NULL, &ptype, &pval, palg);
243
244     eckey = eckey_type2param(ptype, pval);
245
246     if (!eckey)
247         goto ecliberr;
248
249     /* We have parameters now set private key */
250     if (!d2i_ECPrivateKey(&eckey, &p, pklen)) {
251         ECerr(EC_F_ECKEY_PRIV_DECODE, EC_R_DECODE_ERROR);
252         goto ecerr;
253     }
254
255     EVP_PKEY_assign_EC_KEY(pkey, eckey);
256     return 1;
257
258  ecliberr:
259     ECerr(EC_F_ECKEY_PRIV_DECODE, ERR_R_EC_LIB);
260  ecerr:
261     EC_KEY_free(eckey);
262     return 0;
263 }
264
265 static int eckey_priv_encode(PKCS8_PRIV_KEY_INFO *p8, const EVP_PKEY *pkey)
266 {
267     EC_KEY *ec_key;
268     unsigned char *ep, *p;
269     int eplen, ptype;
270     void *pval;
271     unsigned int tmp_flags, old_flags;
272
273     ec_key = pkey->pkey.ec;
274
275     if (!eckey_param2type(&ptype, &pval, ec_key)) {
276         ECerr(EC_F_ECKEY_PRIV_ENCODE, EC_R_DECODE_ERROR);
277         return 0;
278     }
279
280     /* set the private key */
281
282     /*
283      * do not include the parameters in the SEC1 private key see PKCS#11
284      * 12.11
285      */
286     old_flags = EC_KEY_get_enc_flags(ec_key);
287     tmp_flags = old_flags | EC_PKEY_NO_PARAMETERS;
288     EC_KEY_set_enc_flags(ec_key, tmp_flags);
289     eplen = i2d_ECPrivateKey(ec_key, NULL);
290     if (!eplen) {
291         EC_KEY_set_enc_flags(ec_key, old_flags);
292         ECerr(EC_F_ECKEY_PRIV_ENCODE, ERR_R_EC_LIB);
293         return 0;
294     }
295     ep = OPENSSL_malloc(eplen);
296     if (ep == NULL) {
297         EC_KEY_set_enc_flags(ec_key, old_flags);
298         ECerr(EC_F_ECKEY_PRIV_ENCODE, ERR_R_MALLOC_FAILURE);
299         return 0;
300     }
301     p = ep;
302     if (!i2d_ECPrivateKey(ec_key, &p)) {
303         EC_KEY_set_enc_flags(ec_key, old_flags);
304         OPENSSL_free(ep);
305         ECerr(EC_F_ECKEY_PRIV_ENCODE, ERR_R_EC_LIB);
306         return 0;
307     }
308     /* restore old encoding flags */
309     EC_KEY_set_enc_flags(ec_key, old_flags);
310
311     if (!PKCS8_pkey_set0(p8, OBJ_nid2obj(NID_X9_62_id_ecPublicKey), 0,
312                          ptype, pval, ep, eplen))
313         return 0;
314
315     return 1;
316 }
317
318 static int int_ec_size(const EVP_PKEY *pkey)
319 {
320     return ECDSA_size(pkey->pkey.ec);
321 }
322
323 static int ec_bits(const EVP_PKEY *pkey)
324 {
325     return EC_GROUP_order_bits(EC_KEY_get0_group(pkey->pkey.ec));
326 }
327
328 static int ec_security_bits(const EVP_PKEY *pkey)
329 {
330     int ecbits = ec_bits(pkey);
331     if (ecbits >= 512)
332         return 256;
333     if (ecbits >= 384)
334         return 192;
335     if (ecbits >= 256)
336         return 128;
337     if (ecbits >= 224)
338         return 112;
339     if (ecbits >= 160)
340         return 80;
341     return ecbits / 2;
342 }
343
344 static int ec_missing_parameters(const EVP_PKEY *pkey)
345 {
346     if (EC_KEY_get0_group(pkey->pkey.ec) == NULL)
347         return 1;
348     return 0;
349 }
350
351 static int ec_copy_parameters(EVP_PKEY *to, const EVP_PKEY *from)
352 {
353     EC_GROUP *group = EC_GROUP_dup(EC_KEY_get0_group(from->pkey.ec));
354     if (group == NULL)
355         return 0;
356     if (to->pkey.ec == NULL) {
357         to->pkey.ec = EC_KEY_new();
358         if (to->pkey.ec == NULL)
359             return 0;
360     }
361     if (EC_KEY_set_group(to->pkey.ec, group) == 0)
362         return 0;
363     EC_GROUP_free(group);
364     return 1;
365 }
366
367 static int ec_cmp_parameters(const EVP_PKEY *a, const EVP_PKEY *b)
368 {
369     const EC_GROUP *group_a = EC_KEY_get0_group(a->pkey.ec),
370         *group_b = EC_KEY_get0_group(b->pkey.ec);
371     if (EC_GROUP_cmp(group_a, group_b, NULL))
372         return 0;
373     else
374         return 1;
375 }
376
377 static void int_ec_free(EVP_PKEY *pkey)
378 {
379     EC_KEY_free(pkey->pkey.ec);
380 }
381
382 typedef enum {
383     EC_KEY_PRINT_PRIVATE,
384     EC_KEY_PRINT_PUBLIC,
385     EC_KEY_PRINT_PARAM
386 } ec_print_t;
387
388 static int do_EC_KEY_print(BIO *bp, const EC_KEY *x, int off, ec_print_t ktype)
389 {
390     unsigned char *buffer = NULL;
391     const char *ecstr;
392     size_t priv_len = 0, pub_len = 0, buf_len = 0;
393     int ret = 0, reason = ERR_R_BIO_LIB;
394     BIGNUM *pub_key = NULL;
395     BN_CTX *ctx = NULL;
396     const EC_GROUP *group;
397     const EC_POINT *public_key = NULL;
398
399     if (x == NULL || (group = EC_KEY_get0_group(x)) == NULL) {
400         reason = ERR_R_PASSED_NULL_PARAMETER;
401         goto err;
402     }
403
404     if (ktype != EC_KEY_PRINT_PARAM) {
405         public_key = EC_KEY_get0_public_key(x);
406         if (public_key != NULL) {
407             pub_len = EC_POINT_point2oct(group, public_key,
408                                          EC_KEY_get_conv_form(x),
409                                          NULL, 0, NULL);
410             if (pub_len == 0) {
411                 reason = ERR_R_EC_LIB;
412                 goto err;
413             }
414             buf_len = pub_len;
415         }
416     }
417
418     if (ktype == EC_KEY_PRINT_PRIVATE && EC_KEY_get0_private_key(x) != NULL) {
419         priv_len = EC_KEY_priv2oct(x, NULL, 0);
420         if (priv_len == 0) {
421             reason = ERR_R_EC_LIB;
422             goto err;
423         }
424         if (priv_len > buf_len)
425             buf_len = priv_len;
426     }
427
428     if (buf_len != 0) {
429         buffer = OPENSSL_malloc(buf_len);
430         if (buffer == NULL) {
431             reason = ERR_R_MALLOC_FAILURE;
432             goto err;
433         }
434     }
435     if (ktype == EC_KEY_PRINT_PRIVATE)
436         ecstr = "Private-Key";
437     else if (ktype == EC_KEY_PRINT_PUBLIC)
438         ecstr = "Public-Key";
439     else
440         ecstr = "ECDSA-Parameters";
441
442     if (!BIO_indent(bp, off, 128))
443         goto err;
444     if (BIO_printf(bp, "%s: (%d bit)\n", ecstr,
445                    EC_GROUP_order_bits(group)) <= 0)
446         goto err;
447
448     if (priv_len != 0) {
449         if (BIO_printf(bp, "%*spriv:\n", off, "") <= 0)
450             goto err;
451         if (EC_KEY_priv2oct(x, buffer, priv_len) == 0)
452             goto err;
453         if (ASN1_buf_print(bp, buffer, priv_len, off + 4) == 0)
454             goto err;
455     }
456
457     if (pub_len != 0) {
458         if (BIO_printf(bp, "%*spub:\n", off, "") <= 0)
459             goto err;
460         if (EC_POINT_point2oct(group, public_key,
461                                EC_KEY_get_conv_form(x),
462                                buffer, pub_len, NULL) == 0)
463             goto err;
464         if (ASN1_buf_print(bp, buffer, pub_len, off + 4) == 0)
465             goto err;
466     }
467
468     if (!ECPKParameters_print(bp, group, off))
469         goto err;
470     ret = 1;
471  err:
472     if (!ret)
473         ECerr(EC_F_DO_EC_KEY_PRINT, reason);
474     BN_free(pub_key);
475     BN_CTX_free(ctx);
476     OPENSSL_clear_free(buffer, buf_len);
477     return ret;
478 }
479
480 static int eckey_param_decode(EVP_PKEY *pkey,
481                               const unsigned char **pder, int derlen)
482 {
483     EC_KEY *eckey;
484
485     if ((eckey = d2i_ECParameters(NULL, pder, derlen)) == NULL) {
486         ECerr(EC_F_ECKEY_PARAM_DECODE, ERR_R_EC_LIB);
487         return 0;
488     }
489     EVP_PKEY_assign_EC_KEY(pkey, eckey);
490     return 1;
491 }
492
493 static int eckey_param_encode(const EVP_PKEY *pkey, unsigned char **pder)
494 {
495     return i2d_ECParameters(pkey->pkey.ec, pder);
496 }
497
498 static int eckey_param_print(BIO *bp, const EVP_PKEY *pkey, int indent,
499                              ASN1_PCTX *ctx)
500 {
501     return do_EC_KEY_print(bp, pkey->pkey.ec, indent, EC_KEY_PRINT_PARAM);
502 }
503
504 static int eckey_pub_print(BIO *bp, const EVP_PKEY *pkey, int indent,
505                            ASN1_PCTX *ctx)
506 {
507     return do_EC_KEY_print(bp, pkey->pkey.ec, indent, EC_KEY_PRINT_PUBLIC);
508 }
509
510 static int eckey_priv_print(BIO *bp, const EVP_PKEY *pkey, int indent,
511                             ASN1_PCTX *ctx)
512 {
513     return do_EC_KEY_print(bp, pkey->pkey.ec, indent, EC_KEY_PRINT_PRIVATE);
514 }
515
516 static int old_ec_priv_decode(EVP_PKEY *pkey,
517                               const unsigned char **pder, int derlen)
518 {
519     EC_KEY *ec;
520
521     if ((ec = d2i_ECPrivateKey(NULL, pder, derlen)) == NULL) {
522         ECerr(EC_F_OLD_EC_PRIV_DECODE, EC_R_DECODE_ERROR);
523         return 0;
524     }
525     EVP_PKEY_assign_EC_KEY(pkey, ec);
526     return 1;
527 }
528
529 static int old_ec_priv_encode(const EVP_PKEY *pkey, unsigned char **pder)
530 {
531     return i2d_ECPrivateKey(pkey->pkey.ec, pder);
532 }
533
534 static int ec_pkey_ctrl(EVP_PKEY *pkey, int op, long arg1, void *arg2)
535 {
536     switch (op) {
537     case ASN1_PKEY_CTRL_PKCS7_SIGN:
538         if (arg1 == 0) {
539             int snid, hnid;
540             X509_ALGOR *alg1, *alg2;
541             PKCS7_SIGNER_INFO_get0_algs(arg2, NULL, &alg1, &alg2);
542             if (alg1 == NULL || alg1->algorithm == NULL)
543                 return -1;
544             hnid = OBJ_obj2nid(alg1->algorithm);
545             if (hnid == NID_undef)
546                 return -1;
547             if (!OBJ_find_sigid_by_algs(&snid, hnid, EVP_PKEY_id(pkey)))
548                 return -1;
549             X509_ALGOR_set0(alg2, OBJ_nid2obj(snid), V_ASN1_UNDEF, 0);
550         }
551         return 1;
552 #ifndef OPENSSL_NO_CMS
553     case ASN1_PKEY_CTRL_CMS_SIGN:
554         if (arg1 == 0) {
555             int snid, hnid;
556             X509_ALGOR *alg1, *alg2;
557             CMS_SignerInfo_get0_algs(arg2, NULL, NULL, &alg1, &alg2);
558             if (alg1 == NULL || alg1->algorithm == NULL)
559                 return -1;
560             hnid = OBJ_obj2nid(alg1->algorithm);
561             if (hnid == NID_undef)
562                 return -1;
563             if (!OBJ_find_sigid_by_algs(&snid, hnid, EVP_PKEY_id(pkey)))
564                 return -1;
565             X509_ALGOR_set0(alg2, OBJ_nid2obj(snid), V_ASN1_UNDEF, 0);
566         }
567         return 1;
568
569     case ASN1_PKEY_CTRL_CMS_ENVELOPE:
570         if (arg1 == 1)
571             return ecdh_cms_decrypt(arg2);
572         else if (arg1 == 0)
573             return ecdh_cms_encrypt(arg2);
574         return -2;
575
576     case ASN1_PKEY_CTRL_CMS_RI_TYPE:
577         *(int *)arg2 = CMS_RECIPINFO_AGREE;
578         return 1;
579 #endif
580
581     case ASN1_PKEY_CTRL_DEFAULT_MD_NID:
582         *(int *)arg2 = NID_sha256;
583         return 2;
584
585     default:
586         return -2;
587
588     }
589
590 }
591
592 const EVP_PKEY_ASN1_METHOD eckey_asn1_meth = {
593     EVP_PKEY_EC,
594     EVP_PKEY_EC,
595     0,
596     "EC",
597     "OpenSSL EC algorithm",
598
599     eckey_pub_decode,
600     eckey_pub_encode,
601     eckey_pub_cmp,
602     eckey_pub_print,
603
604     eckey_priv_decode,
605     eckey_priv_encode,
606     eckey_priv_print,
607
608     int_ec_size,
609     ec_bits,
610     ec_security_bits,
611
612     eckey_param_decode,
613     eckey_param_encode,
614     ec_missing_parameters,
615     ec_copy_parameters,
616     ec_cmp_parameters,
617     eckey_param_print,
618     0,
619
620     int_ec_free,
621     ec_pkey_ctrl,
622     old_ec_priv_decode,
623     old_ec_priv_encode
624 };
625
626 #ifndef OPENSSL_NO_CMS
627
628 static int ecdh_cms_set_peerkey(EVP_PKEY_CTX *pctx,
629                                 X509_ALGOR *alg, ASN1_BIT_STRING *pubkey)
630 {
631     ASN1_OBJECT *aoid;
632     int atype;
633     void *aval;
634     int rv = 0;
635     EVP_PKEY *pkpeer = NULL;
636     EC_KEY *ecpeer = NULL;
637     const unsigned char *p;
638     int plen;
639     X509_ALGOR_get0(&aoid, &atype, &aval, alg);
640     if (OBJ_obj2nid(aoid) != NID_X9_62_id_ecPublicKey)
641         goto err;
642     /* If absent parameters get group from main key */
643     if (atype == V_ASN1_UNDEF || atype == V_ASN1_NULL) {
644         const EC_GROUP *grp;
645         EVP_PKEY *pk;
646         pk = EVP_PKEY_CTX_get0_pkey(pctx);
647         if (!pk)
648             goto err;
649         grp = EC_KEY_get0_group(pk->pkey.ec);
650         ecpeer = EC_KEY_new();
651         if (ecpeer == NULL)
652             goto err;
653         if (!EC_KEY_set_group(ecpeer, grp))
654             goto err;
655     } else {
656         ecpeer = eckey_type2param(atype, aval);
657         if (!ecpeer)
658             goto err;
659     }
660     /* We have parameters now set public key */
661     plen = ASN1_STRING_length(pubkey);
662     p = ASN1_STRING_data(pubkey);
663     if (!p || !plen)
664         goto err;
665     if (!o2i_ECPublicKey(&ecpeer, &p, plen))
666         goto err;
667     pkpeer = EVP_PKEY_new();
668     if (pkpeer == NULL)
669         goto err;
670     EVP_PKEY_set1_EC_KEY(pkpeer, ecpeer);
671     if (EVP_PKEY_derive_set_peer(pctx, pkpeer) > 0)
672         rv = 1;
673  err:
674     EC_KEY_free(ecpeer);
675     EVP_PKEY_free(pkpeer);
676     return rv;
677 }
678
679 /* Set KDF parameters based on KDF NID */
680 static int ecdh_cms_set_kdf_param(EVP_PKEY_CTX *pctx, int eckdf_nid)
681 {
682     int kdf_nid, kdfmd_nid, cofactor;
683     const EVP_MD *kdf_md;
684     if (eckdf_nid == NID_undef)
685         return 0;
686
687     /* Lookup KDF type, cofactor mode and digest */
688     if (!OBJ_find_sigid_algs(eckdf_nid, &kdfmd_nid, &kdf_nid))
689         return 0;
690
691     if (kdf_nid == NID_dh_std_kdf)
692         cofactor = 0;
693     else if (kdf_nid == NID_dh_cofactor_kdf)
694         cofactor = 1;
695     else
696         return 0;
697
698     if (EVP_PKEY_CTX_set_ecdh_cofactor_mode(pctx, cofactor) <= 0)
699         return 0;
700
701     if (EVP_PKEY_CTX_set_ecdh_kdf_type(pctx, EVP_PKEY_ECDH_KDF_X9_62) <= 0)
702         return 0;
703
704     kdf_md = EVP_get_digestbynid(kdfmd_nid);
705     if (!kdf_md)
706         return 0;
707
708     if (EVP_PKEY_CTX_set_ecdh_kdf_md(pctx, kdf_md) <= 0)
709         return 0;
710     return 1;
711 }
712
713 static int ecdh_cms_set_shared_info(EVP_PKEY_CTX *pctx, CMS_RecipientInfo *ri)
714 {
715     int rv = 0;
716
717     X509_ALGOR *alg, *kekalg = NULL;
718     ASN1_OCTET_STRING *ukm;
719     const unsigned char *p;
720     unsigned char *der = NULL;
721     int plen, keylen;
722     const EVP_CIPHER *kekcipher;
723     EVP_CIPHER_CTX *kekctx;
724
725     if (!CMS_RecipientInfo_kari_get0_alg(ri, &alg, &ukm))
726         return 0;
727
728     if (!ecdh_cms_set_kdf_param(pctx, OBJ_obj2nid(alg->algorithm))) {
729         ECerr(EC_F_ECDH_CMS_SET_SHARED_INFO, EC_R_KDF_PARAMETER_ERROR);
730         return 0;
731     }
732
733     if (alg->parameter->type != V_ASN1_SEQUENCE)
734         return 0;
735
736     p = alg->parameter->value.sequence->data;
737     plen = alg->parameter->value.sequence->length;
738     kekalg = d2i_X509_ALGOR(NULL, &p, plen);
739     if (!kekalg)
740         goto err;
741     kekctx = CMS_RecipientInfo_kari_get0_ctx(ri);
742     if (!kekctx)
743         goto err;
744     kekcipher = EVP_get_cipherbyobj(kekalg->algorithm);
745     if (!kekcipher || EVP_CIPHER_mode(kekcipher) != EVP_CIPH_WRAP_MODE)
746         goto err;
747     if (!EVP_EncryptInit_ex(kekctx, kekcipher, NULL, NULL, NULL))
748         goto err;
749     if (EVP_CIPHER_asn1_to_param(kekctx, kekalg->parameter) <= 0)
750         goto err;
751
752     keylen = EVP_CIPHER_CTX_key_length(kekctx);
753     if (EVP_PKEY_CTX_set_ecdh_kdf_outlen(pctx, keylen) <= 0)
754         goto err;
755
756     plen = CMS_SharedInfo_encode(&der, kekalg, ukm, keylen);
757
758     if (!plen)
759         goto err;
760
761     if (EVP_PKEY_CTX_set0_ecdh_kdf_ukm(pctx, der, plen) <= 0)
762         goto err;
763     der = NULL;
764
765     rv = 1;
766  err:
767     X509_ALGOR_free(kekalg);
768     OPENSSL_free(der);
769     return rv;
770 }
771
772 static int ecdh_cms_decrypt(CMS_RecipientInfo *ri)
773 {
774     EVP_PKEY_CTX *pctx;
775     pctx = CMS_RecipientInfo_get0_pkey_ctx(ri);
776     if (!pctx)
777         return 0;
778     /* See if we need to set peer key */
779     if (!EVP_PKEY_CTX_get0_peerkey(pctx)) {
780         X509_ALGOR *alg;
781         ASN1_BIT_STRING *pubkey;
782         if (!CMS_RecipientInfo_kari_get0_orig_id(ri, &alg, &pubkey,
783                                                  NULL, NULL, NULL))
784             return 0;
785         if (!alg || !pubkey)
786             return 0;
787         if (!ecdh_cms_set_peerkey(pctx, alg, pubkey)) {
788             ECerr(EC_F_ECDH_CMS_DECRYPT, EC_R_PEER_KEY_ERROR);
789             return 0;
790         }
791     }
792     /* Set ECDH derivation parameters and initialise unwrap context */
793     if (!ecdh_cms_set_shared_info(pctx, ri)) {
794         ECerr(EC_F_ECDH_CMS_DECRYPT, EC_R_SHARED_INFO_ERROR);
795         return 0;
796     }
797     return 1;
798 }
799
800 static int ecdh_cms_encrypt(CMS_RecipientInfo *ri)
801 {
802     EVP_PKEY_CTX *pctx;
803     EVP_PKEY *pkey;
804     EVP_CIPHER_CTX *ctx;
805     int keylen;
806     X509_ALGOR *talg, *wrap_alg = NULL;
807     ASN1_OBJECT *aoid;
808     ASN1_BIT_STRING *pubkey;
809     ASN1_STRING *wrap_str;
810     ASN1_OCTET_STRING *ukm;
811     unsigned char *penc = NULL;
812     int penclen;
813     int rv = 0;
814     int ecdh_nid, kdf_type, kdf_nid, wrap_nid;
815     const EVP_MD *kdf_md;
816     pctx = CMS_RecipientInfo_get0_pkey_ctx(ri);
817     if (!pctx)
818         return 0;
819     /* Get ephemeral key */
820     pkey = EVP_PKEY_CTX_get0_pkey(pctx);
821     if (!CMS_RecipientInfo_kari_get0_orig_id(ri, &talg, &pubkey,
822                                              NULL, NULL, NULL))
823         goto err;
824     X509_ALGOR_get0(&aoid, NULL, NULL, talg);
825     /* Is everything uninitialised? */
826     if (aoid == OBJ_nid2obj(NID_undef)) {
827
828         EC_KEY *eckey = pkey->pkey.ec;
829         /* Set the key */
830         unsigned char *p;
831
832         penclen = i2o_ECPublicKey(eckey, NULL);
833         if (penclen <= 0)
834             goto err;
835         penc = OPENSSL_malloc(penclen);
836         if (penc == NULL)
837             goto err;
838         p = penc;
839         penclen = i2o_ECPublicKey(eckey, &p);
840         if (penclen <= 0)
841             goto err;
842         ASN1_STRING_set0(pubkey, penc, penclen);
843         pubkey->flags &= ~(ASN1_STRING_FLAG_BITS_LEFT | 0x07);
844         pubkey->flags |= ASN1_STRING_FLAG_BITS_LEFT;
845
846         penc = NULL;
847         X509_ALGOR_set0(talg, OBJ_nid2obj(NID_X9_62_id_ecPublicKey),
848                         V_ASN1_UNDEF, NULL);
849     }
850
851     /* See if custom paraneters set */
852     kdf_type = EVP_PKEY_CTX_get_ecdh_kdf_type(pctx);
853     if (kdf_type <= 0)
854         goto err;
855     if (!EVP_PKEY_CTX_get_ecdh_kdf_md(pctx, &kdf_md))
856         goto err;
857     ecdh_nid = EVP_PKEY_CTX_get_ecdh_cofactor_mode(pctx);
858     if (ecdh_nid < 0)
859         goto err;
860     else if (ecdh_nid == 0)
861         ecdh_nid = NID_dh_std_kdf;
862     else if (ecdh_nid == 1)
863         ecdh_nid = NID_dh_cofactor_kdf;
864
865     if (kdf_type == EVP_PKEY_ECDH_KDF_NONE) {
866         kdf_type = EVP_PKEY_ECDH_KDF_X9_62;
867         if (EVP_PKEY_CTX_set_ecdh_kdf_type(pctx, kdf_type) <= 0)
868             goto err;
869     } else
870         /* Uknown KDF */
871         goto err;
872     if (kdf_md == NULL) {
873         /* Fixme later for better MD */
874         kdf_md = EVP_sha1();
875         if (EVP_PKEY_CTX_set_ecdh_kdf_md(pctx, kdf_md) <= 0)
876             goto err;
877     }
878
879     if (!CMS_RecipientInfo_kari_get0_alg(ri, &talg, &ukm))
880         goto err;
881
882     /* Lookup NID for KDF+cofactor+digest */
883
884     if (!OBJ_find_sigid_by_algs(&kdf_nid, EVP_MD_type(kdf_md), ecdh_nid))
885         goto err;
886     /* Get wrap NID */
887     ctx = CMS_RecipientInfo_kari_get0_ctx(ri);
888     wrap_nid = EVP_CIPHER_CTX_type(ctx);
889     keylen = EVP_CIPHER_CTX_key_length(ctx);
890
891     /* Package wrap algorithm in an AlgorithmIdentifier */
892
893     wrap_alg = X509_ALGOR_new();
894     if (wrap_alg == NULL)
895         goto err;
896     wrap_alg->algorithm = OBJ_nid2obj(wrap_nid);
897     wrap_alg->parameter = ASN1_TYPE_new();
898     if (wrap_alg->parameter == NULL)
899         goto err;
900     if (EVP_CIPHER_param_to_asn1(ctx, wrap_alg->parameter) <= 0)
901         goto err;
902     if (ASN1_TYPE_get(wrap_alg->parameter) == NID_undef) {
903         ASN1_TYPE_free(wrap_alg->parameter);
904         wrap_alg->parameter = NULL;
905     }
906
907     if (EVP_PKEY_CTX_set_ecdh_kdf_outlen(pctx, keylen) <= 0)
908         goto err;
909
910     penclen = CMS_SharedInfo_encode(&penc, wrap_alg, ukm, keylen);
911
912     if (!penclen)
913         goto err;
914
915     if (EVP_PKEY_CTX_set0_ecdh_kdf_ukm(pctx, penc, penclen) <= 0)
916         goto err;
917     penc = NULL;
918
919     /*
920      * Now need to wrap encoding of wrap AlgorithmIdentifier into parameter
921      * of another AlgorithmIdentifier.
922      */
923     penclen = i2d_X509_ALGOR(wrap_alg, &penc);
924     if (!penc || !penclen)
925         goto err;
926     wrap_str = ASN1_STRING_new();
927     if (wrap_str == NULL)
928         goto err;
929     ASN1_STRING_set0(wrap_str, penc, penclen);
930     penc = NULL;
931     X509_ALGOR_set0(talg, OBJ_nid2obj(kdf_nid), V_ASN1_SEQUENCE, wrap_str);
932
933     rv = 1;
934
935  err:
936     OPENSSL_free(penc);
937     X509_ALGOR_free(wrap_alg);
938     return rv;
939 }
940
941 #endif