Fix eckey_priv_encode()
[openssl.git] / crypto / ec / ec_ameth.c
1 /* Written by Dr Stephen N Henson (steve@openssl.org) for the OpenSSL
2  * project 2006.
3  */
4 /* ====================================================================
5  * Copyright (c) 2006 The OpenSSL Project.  All rights reserved.
6  *
7  * Redistribution and use in source and binary forms, with or without
8  * modification, are permitted provided that the following conditions
9  * are met:
10  *
11  * 1. Redistributions of source code must retain the above copyright
12  *    notice, this list of conditions and the following disclaimer. 
13  *
14  * 2. Redistributions in binary form must reproduce the above copyright
15  *    notice, this list of conditions and the following disclaimer in
16  *    the documentation and/or other materials provided with the
17  *    distribution.
18  *
19  * 3. All advertising materials mentioning features or use of this
20  *    software must display the following acknowledgment:
21  *    "This product includes software developed by the OpenSSL Project
22  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
23  *
24  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
25  *    endorse or promote products derived from this software without
26  *    prior written permission. For written permission, please contact
27  *    licensing@OpenSSL.org.
28  *
29  * 5. Products derived from this software may not be called "OpenSSL"
30  *    nor may "OpenSSL" appear in their names without prior written
31  *    permission of the OpenSSL Project.
32  *
33  * 6. Redistributions of any form whatsoever must retain the following
34  *    acknowledgment:
35  *    "This product includes software developed by the OpenSSL Project
36  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
37  *
38  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
39  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
40  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
41  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
42  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
43  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
44  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
45  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
46  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
47  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
48  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
49  * OF THE POSSIBILITY OF SUCH DAMAGE.
50  * ====================================================================
51  *
52  * This product includes cryptographic software written by Eric Young
53  * (eay@cryptsoft.com).  This product includes software written by Tim
54  * Hudson (tjh@cryptsoft.com).
55  *
56  */
57
58 #include <stdio.h>
59 #include "cryptlib.h"
60 #include <openssl/x509.h>
61 #include <openssl/ec.h>
62 #include <openssl/bn.h>
63 #ifndef OPENSSL_NO_CMS
64 #include <openssl/cms.h>
65 #endif
66 #include <openssl/asn1t.h>
67 #include "asn1_locl.h"
68
69 static int ecdh_cms_decrypt(CMS_RecipientInfo *ri);
70 static int ecdh_cms_encrypt(CMS_RecipientInfo *ri);
71
72 static int eckey_param2type(int *pptype, void **ppval, EC_KEY *ec_key)
73         {
74         const EC_GROUP  *group;
75         int nid;
76         if (ec_key == NULL || (group = EC_KEY_get0_group(ec_key)) == NULL) 
77         {
78                 ECerr(EC_F_ECKEY_PARAM2TYPE, EC_R_MISSING_PARAMETERS);
79                 return 0;
80         }
81         if (EC_GROUP_get_asn1_flag(group)
82                      && (nid = EC_GROUP_get_curve_name(group)))
83                 /* we have a 'named curve' => just set the OID */
84                 {
85                 *ppval = OBJ_nid2obj(nid);
86                 *pptype = V_ASN1_OBJECT;
87                 }
88         else    /* explicit parameters */
89                 {
90                 ASN1_STRING *pstr = NULL;
91                 pstr = ASN1_STRING_new();
92                 if (!pstr)
93                         return 0;
94                 pstr->length = i2d_ECParameters(ec_key, &pstr->data);
95                 if (pstr->length <= 0)
96                         {
97                         ASN1_STRING_free(pstr);
98                         ECerr(EC_F_ECKEY_PARAM2TYPE, ERR_R_EC_LIB);
99                         return 0;
100                         }
101                 *ppval = pstr;
102                 *pptype = V_ASN1_SEQUENCE;
103                 }
104         return 1;
105         }
106
107 static int eckey_pub_encode(X509_PUBKEY *pk, const EVP_PKEY *pkey)
108         {
109         EC_KEY *ec_key = pkey->pkey.ec;
110         void *pval = NULL;
111         int ptype;
112         unsigned char *penc = NULL, *p;
113         int penclen;
114
115         if (!eckey_param2type(&ptype, &pval, ec_key))
116                 {
117                 ECerr(EC_F_ECKEY_PUB_ENCODE, ERR_R_EC_LIB);
118                 return 0;
119                 }
120         penclen = i2o_ECPublicKey(ec_key, NULL);
121         if (penclen <= 0)
122                 goto err;
123         penc = OPENSSL_malloc(penclen);
124         if (!penc)
125                 goto err;
126         p = penc;
127         penclen = i2o_ECPublicKey(ec_key, &p);
128         if (penclen <= 0)
129                 goto err;
130         if (X509_PUBKEY_set0_param(pk, OBJ_nid2obj(EVP_PKEY_EC),
131                                 ptype, pval, penc, penclen))
132                 return 1;
133         err:
134         if (ptype == V_ASN1_OBJECT)
135                 ASN1_OBJECT_free(pval);
136         else
137                 ASN1_STRING_free(pval);
138         if (penc)
139                 OPENSSL_free(penc);
140         return 0;
141         }
142
143 static EC_KEY *eckey_type2param(int ptype, void *pval)
144         {
145         EC_KEY *eckey = NULL;
146         if (ptype == V_ASN1_SEQUENCE)
147                 {
148                 ASN1_STRING *pstr = pval;
149                 const unsigned char *pm = NULL;
150                 int pmlen;
151                 pm = pstr->data;
152                 pmlen = pstr->length;
153                 if (!(eckey = d2i_ECParameters(NULL, &pm, pmlen)))
154                         {
155                         ECerr(EC_F_ECKEY_TYPE2PARAM, EC_R_DECODE_ERROR);
156                         goto ecerr;
157                         }
158                 }
159         else if (ptype == V_ASN1_OBJECT)
160                 {
161                 ASN1_OBJECT *poid = pval;
162                 EC_GROUP *group;
163
164                 /* type == V_ASN1_OBJECT => the parameters are given
165                  * by an asn1 OID
166                  */
167                 if ((eckey = EC_KEY_new()) == NULL)
168                         {
169                         ECerr(EC_F_ECKEY_TYPE2PARAM, ERR_R_MALLOC_FAILURE);
170                         goto ecerr;
171                         }
172                 group = EC_GROUP_new_by_curve_name(OBJ_obj2nid(poid));
173                 if (group == NULL)
174                         goto ecerr;
175                 EC_GROUP_set_asn1_flag(group, OPENSSL_EC_NAMED_CURVE);
176                 if (EC_KEY_set_group(eckey, group) == 0)
177                         goto ecerr;
178                 EC_GROUP_free(group);
179                 }
180         else
181                 {
182                 ECerr(EC_F_ECKEY_TYPE2PARAM, EC_R_DECODE_ERROR);
183                 goto ecerr;
184                 }
185
186         return eckey;
187
188         ecerr:
189         if (eckey)
190                 EC_KEY_free(eckey);
191         return NULL;
192         }
193
194 static int eckey_pub_decode(EVP_PKEY *pkey, X509_PUBKEY *pubkey)
195         {
196         const unsigned char *p = NULL;
197         void *pval;
198         int ptype, pklen;
199         EC_KEY *eckey = NULL;
200         X509_ALGOR *palg;
201
202         if (!X509_PUBKEY_get0_param(NULL, &p, &pklen, &palg, pubkey))
203                 return 0;
204         X509_ALGOR_get0(NULL, &ptype, &pval, palg);
205
206         eckey = eckey_type2param(ptype, pval);
207
208         if (!eckey)
209                 {
210                 ECerr(EC_F_ECKEY_PUB_DECODE, ERR_R_EC_LIB);
211                 return 0;
212                 }
213
214         /* We have parameters now set public key */
215         if (!o2i_ECPublicKey(&eckey, &p, pklen))
216                 {
217                 ECerr(EC_F_ECKEY_PUB_DECODE, EC_R_DECODE_ERROR);
218                 goto ecerr;
219                 }
220
221         EVP_PKEY_assign_EC_KEY(pkey, eckey);
222         return 1;
223
224         ecerr:
225         if (eckey)
226                 EC_KEY_free(eckey);
227         return 0;
228         }
229
230 static int eckey_pub_cmp(const EVP_PKEY *a, const EVP_PKEY *b)
231         {
232         int  r;
233         const EC_GROUP *group = EC_KEY_get0_group(b->pkey.ec);
234         const EC_POINT *pa = EC_KEY_get0_public_key(a->pkey.ec),
235                        *pb = EC_KEY_get0_public_key(b->pkey.ec);
236         r = EC_POINT_cmp(group, pa, pb, NULL);
237         if (r == 0)
238                 return 1;
239         if (r == 1)
240                 return 0;
241         return -2;
242         }
243
244 static int eckey_priv_decode(EVP_PKEY *pkey, PKCS8_PRIV_KEY_INFO *p8)
245         {
246         const unsigned char *p = NULL;
247         void *pval;
248         int ptype, pklen;
249         EC_KEY *eckey = NULL;
250         X509_ALGOR *palg;
251
252         if (!PKCS8_pkey_get0(NULL, &p, &pklen, &palg, p8))
253                 return 0;
254         X509_ALGOR_get0(NULL, &ptype, &pval, palg);
255
256         eckey = eckey_type2param(ptype, pval);
257
258         if (!eckey)
259                 goto ecliberr;
260
261         /* We have parameters now set private key */
262         if (!d2i_ECPrivateKey(&eckey, &p, pklen))
263                 {
264                 ECerr(EC_F_ECKEY_PRIV_DECODE, EC_R_DECODE_ERROR);
265                 goto ecerr;
266                 }
267
268         /* calculate public key (if necessary) */
269         if (EC_KEY_get0_public_key(eckey) == NULL)
270                 {
271                 const BIGNUM *priv_key;
272                 const EC_GROUP *group;
273                 EC_POINT *pub_key;
274                 /* the public key was not included in the SEC1 private
275                  * key => calculate the public key */
276                 group   = EC_KEY_get0_group(eckey);
277                 pub_key = EC_POINT_new(group);
278                 if (pub_key == NULL)
279                         {
280                         ECerr(EC_F_ECKEY_PRIV_DECODE, ERR_R_EC_LIB);
281                         goto ecliberr;
282                         }
283                 if (!EC_POINT_copy(pub_key, EC_GROUP_get0_generator(group)))
284                         {
285                         EC_POINT_free(pub_key);
286                         ECerr(EC_F_ECKEY_PRIV_DECODE, ERR_R_EC_LIB);
287                         goto ecliberr;
288                         }
289                 priv_key = EC_KEY_get0_private_key(eckey);
290                 if (!EC_POINT_mul(group, pub_key, priv_key, NULL, NULL, NULL))
291                         {
292                         EC_POINT_free(pub_key);
293                         ECerr(EC_F_ECKEY_PRIV_DECODE, ERR_R_EC_LIB);
294                         goto ecliberr;
295                         }
296                 if (EC_KEY_set_public_key(eckey, pub_key) == 0)
297                         {
298                         EC_POINT_free(pub_key);
299                         ECerr(EC_F_ECKEY_PRIV_DECODE, ERR_R_EC_LIB);
300                         goto ecliberr;
301                         }
302                 EC_POINT_free(pub_key);
303                 }
304
305         EVP_PKEY_assign_EC_KEY(pkey, eckey);
306         return 1;
307
308         ecliberr:
309         ECerr(EC_F_ECKEY_PRIV_DECODE, ERR_R_EC_LIB);
310         ecerr:
311         if (eckey)
312                 EC_KEY_free(eckey);
313         return 0;
314         }
315
316 static int eckey_priv_encode(PKCS8_PRIV_KEY_INFO *p8, const EVP_PKEY *pkey)
317 {
318         EC_KEY          *ec_key;
319         unsigned char   *ep, *p;
320         int             eplen, ptype;
321         void            *pval;
322         unsigned int    tmp_flags, old_flags;
323
324         ec_key = pkey->pkey.ec;
325
326         if (!eckey_param2type(&ptype, &pval, ec_key))
327                 {
328                 ECerr(EC_F_ECKEY_PRIV_ENCODE, EC_R_DECODE_ERROR);
329                 return 0;
330                 }
331
332         /* set the private key */
333
334         /* do not include the parameters in the SEC1 private key
335          * see PKCS#11 12.11 */
336         old_flags = EC_KEY_get_enc_flags(ec_key);
337         tmp_flags = old_flags | EC_PKEY_NO_PARAMETERS;
338         EC_KEY_set_enc_flags(ec_key, tmp_flags);
339         eplen = i2d_ECPrivateKey(ec_key, NULL);
340         if (!eplen)
341         {
342                 EC_KEY_set_enc_flags(ec_key, old_flags);
343                 ECerr(EC_F_ECKEY_PRIV_ENCODE, ERR_R_EC_LIB);
344                 return 0;
345         }
346         ep = (unsigned char *) OPENSSL_malloc(eplen);
347         if (!ep)
348         {
349                 EC_KEY_set_enc_flags(ec_key, old_flags);
350                 ECerr(EC_F_ECKEY_PRIV_ENCODE, ERR_R_MALLOC_FAILURE);
351                 return 0;
352         }
353         p = ep;
354         if (!i2d_ECPrivateKey(ec_key, &p))
355         {
356                 EC_KEY_set_enc_flags(ec_key, old_flags);
357                 OPENSSL_free(ep);
358                 ECerr(EC_F_ECKEY_PRIV_ENCODE, ERR_R_EC_LIB);
359                 return 0;
360         }
361         /* restore old encoding flags */
362         EC_KEY_set_enc_flags(ec_key, old_flags);
363
364         if (!PKCS8_pkey_set0(p8, OBJ_nid2obj(NID_X9_62_id_ecPublicKey), 0,
365                                 ptype, pval, ep, eplen))
366                 return 0;
367
368         return 1;
369 }
370
371 static int int_ec_size(const EVP_PKEY *pkey)
372         {
373         return ECDSA_size(pkey->pkey.ec);
374         }
375
376 static int ec_bits(const EVP_PKEY *pkey)
377         {
378         BIGNUM *order = BN_new();
379         const EC_GROUP *group;
380         int ret;
381
382         if (!order)
383                 {
384                 ERR_clear_error();
385                 return 0;
386                 }
387         group = EC_KEY_get0_group(pkey->pkey.ec);
388         if (!EC_GROUP_get_order(group, order, NULL))
389                 {
390                 ERR_clear_error();
391                 return 0;
392                 }
393
394         ret = BN_num_bits(order);
395         BN_free(order);
396         return ret;
397         }
398
399 static int ec_missing_parameters(const EVP_PKEY *pkey)
400         {
401         if (EC_KEY_get0_group(pkey->pkey.ec) == NULL)
402                 return 1;
403         return 0;
404         }
405
406 static int ec_copy_parameters(EVP_PKEY *to, const EVP_PKEY *from)
407         {
408         EC_GROUP *group = EC_GROUP_dup(EC_KEY_get0_group(from->pkey.ec));
409         if (group == NULL)
410                 return 0;
411         if (EC_KEY_set_group(to->pkey.ec, group) == 0)
412                 return 0;
413         EC_GROUP_free(group);
414         return 1;
415         }
416
417 static int ec_cmp_parameters(const EVP_PKEY *a, const EVP_PKEY *b)
418         {
419         const EC_GROUP *group_a = EC_KEY_get0_group(a->pkey.ec),
420                        *group_b = EC_KEY_get0_group(b->pkey.ec);
421         if (EC_GROUP_cmp(group_a, group_b, NULL))
422                 return 0;
423         else
424                 return 1;
425         }
426
427 static void int_ec_free(EVP_PKEY *pkey)
428         {
429         EC_KEY_free(pkey->pkey.ec);
430         }
431
432 static int do_EC_KEY_print(BIO *bp, const EC_KEY *x, int off, int ktype)
433         {
434         unsigned char *buffer=NULL;
435         const char *ecstr;
436         size_t  buf_len=0, i;
437         int     ret=0, reason=ERR_R_BIO_LIB;
438         BIGNUM  *pub_key=NULL, *order=NULL;
439         BN_CTX  *ctx=NULL;
440         const EC_GROUP *group;
441         const EC_POINT *public_key;
442         const BIGNUM *priv_key;
443  
444         if (x == NULL || (group = EC_KEY_get0_group(x)) == NULL)
445                 {
446                 reason = ERR_R_PASSED_NULL_PARAMETER;
447                 goto err;
448                 }
449
450         ctx = BN_CTX_new();
451         if (ctx == NULL)
452                 {
453                 reason = ERR_R_MALLOC_FAILURE;
454                 goto err;
455                 }
456
457         if (ktype > 0)
458                 {
459                 public_key = EC_KEY_get0_public_key(x);
460                 if ((pub_key = EC_POINT_point2bn(group, public_key,
461                         EC_KEY_get_conv_form(x), NULL, ctx)) == NULL)
462                         {
463                         reason = ERR_R_EC_LIB;
464                         goto err;
465                         }
466                 if (pub_key)
467                         buf_len = (size_t)BN_num_bytes(pub_key);
468                 }
469
470         if (ktype == 2)
471                 {
472                 priv_key = EC_KEY_get0_private_key(x);
473                 if (priv_key && (i = (size_t)BN_num_bytes(priv_key)) > buf_len)
474                         buf_len = i;
475                 }
476         else
477                 priv_key = NULL;
478
479         if (ktype > 0)
480                 {
481                 buf_len += 10;
482                 if ((buffer = OPENSSL_malloc(buf_len)) == NULL)
483                         {
484                         reason = ERR_R_MALLOC_FAILURE;
485                         goto err;
486                         }
487                 }
488         if (ktype == 2)
489                 ecstr = "Private-Key";
490         else if (ktype == 1)
491                 ecstr = "Public-Key";
492         else
493                 ecstr = "ECDSA-Parameters";
494
495         if (!BIO_indent(bp, off, 128))
496                 goto err;
497         if ((order = BN_new()) == NULL)
498                 goto err;
499         if (!EC_GROUP_get_order(group, order, NULL))
500                 goto err;
501         if (BIO_printf(bp, "%s: (%d bit)\n", ecstr,
502                 BN_num_bits(order)) <= 0) goto err;
503   
504         if ((priv_key != NULL) && !ASN1_bn_print(bp, "priv:", priv_key, 
505                 buffer, off))
506                 goto err;
507         if ((pub_key != NULL) && !ASN1_bn_print(bp, "pub: ", pub_key,
508                 buffer, off))
509                 goto err;
510         if (!ECPKParameters_print(bp, group, off))
511                 goto err;
512         ret=1;
513 err:
514         if (!ret)
515                 ECerr(EC_F_DO_EC_KEY_PRINT, reason);
516         if (pub_key) 
517                 BN_free(pub_key);
518         if (order)
519                 BN_free(order);
520         if (ctx)
521                 BN_CTX_free(ctx);
522         if (buffer != NULL)
523                 OPENSSL_free(buffer);
524         return(ret);
525         }
526
527 static int eckey_param_decode(EVP_PKEY *pkey,
528                                         const unsigned char **pder, int derlen)
529         {
530         EC_KEY *eckey;
531         if (!(eckey = d2i_ECParameters(NULL, pder, derlen)))
532                 {
533                 ECerr(EC_F_ECKEY_PARAM_DECODE, ERR_R_EC_LIB);
534                 return 0;
535                 }
536         EVP_PKEY_assign_EC_KEY(pkey, eckey);
537         return 1;
538         }
539
540 static int eckey_param_encode(const EVP_PKEY *pkey, unsigned char **pder)
541         {
542         return i2d_ECParameters(pkey->pkey.ec, pder);
543         }
544
545 static int eckey_param_print(BIO *bp, const EVP_PKEY *pkey, int indent,
546                                                         ASN1_PCTX *ctx)
547         {
548         return do_EC_KEY_print(bp, pkey->pkey.ec, indent, 0);
549         }
550
551 static int eckey_pub_print(BIO *bp, const EVP_PKEY *pkey, int indent,
552                                                         ASN1_PCTX *ctx)
553         {
554         return do_EC_KEY_print(bp, pkey->pkey.ec, indent, 1);
555         }
556
557
558 static int eckey_priv_print(BIO *bp, const EVP_PKEY *pkey, int indent,
559                                                         ASN1_PCTX *ctx)
560         {
561         return do_EC_KEY_print(bp, pkey->pkey.ec, indent, 2);
562         }
563
564 static int old_ec_priv_decode(EVP_PKEY *pkey,
565                                         const unsigned char **pder, int derlen)
566         {
567         EC_KEY *ec;
568         if (!(ec = d2i_ECPrivateKey (NULL, pder, derlen)))
569                 {
570                 ECerr(EC_F_OLD_EC_PRIV_DECODE, EC_R_DECODE_ERROR);
571                 return 0;
572                 }
573         EVP_PKEY_assign_EC_KEY(pkey, ec);
574         return 1;
575         }
576
577 static int old_ec_priv_encode(const EVP_PKEY *pkey, unsigned char **pder)
578         {
579         return i2d_ECPrivateKey(pkey->pkey.ec, pder);
580         }
581
582 static int ec_pkey_ctrl(EVP_PKEY *pkey, int op, long arg1, void *arg2)
583         {
584         switch (op)
585                 {
586                 case ASN1_PKEY_CTRL_PKCS7_SIGN:
587                 if (arg1 == 0)
588                         {
589                         int snid, hnid;
590                         X509_ALGOR *alg1, *alg2;
591                         PKCS7_SIGNER_INFO_get0_algs(arg2, NULL, &alg1, &alg2);
592                         if (alg1 == NULL || alg1->algorithm == NULL)
593                                 return -1;
594                         hnid = OBJ_obj2nid(alg1->algorithm);
595                         if (hnid == NID_undef)
596                                 return -1;
597                         if (!OBJ_find_sigid_by_algs(&snid, hnid, EVP_PKEY_id(pkey)))
598                                 return -1; 
599                         X509_ALGOR_set0(alg2, OBJ_nid2obj(snid), V_ASN1_UNDEF, 0);
600                         }
601                 return 1;
602 #ifndef OPENSSL_NO_CMS
603                 case ASN1_PKEY_CTRL_CMS_SIGN:
604                 if (arg1 == 0)
605                         {
606                         int snid, hnid;
607                         X509_ALGOR *alg1, *alg2;
608                         CMS_SignerInfo_get0_algs(arg2, NULL, NULL,
609                                                                 &alg1, &alg2);
610                         if (alg1 == NULL || alg1->algorithm == NULL)
611                                 return -1;
612                         hnid = OBJ_obj2nid(alg1->algorithm);
613                         if (hnid == NID_undef)
614                                 return -1;
615                         if (!OBJ_find_sigid_by_algs(&snid, hnid, EVP_PKEY_id(pkey)))
616                                 return -1; 
617                         X509_ALGOR_set0(alg2, OBJ_nid2obj(snid), V_ASN1_UNDEF, 0);
618                         }
619                 return 1;
620
621                 case ASN1_PKEY_CTRL_CMS_ENVELOPE:
622                 if (arg1 == 1)
623                         return ecdh_cms_decrypt(arg2);
624                 else if (arg1 == 0)
625                         return ecdh_cms_encrypt(arg2);
626                 return -2;
627
628                 case ASN1_PKEY_CTRL_CMS_RI_TYPE:
629                 *(int *)arg2 = CMS_RECIPINFO_AGREE;
630                 return 1;
631 #endif
632
633                 case ASN1_PKEY_CTRL_DEFAULT_MD_NID:
634                 *(int *)arg2 = NID_sha1;
635                 return 2;
636
637                 default:
638                 return -2;
639
640                 }
641
642         }
643
644 const EVP_PKEY_ASN1_METHOD eckey_asn1_meth = 
645         {
646         EVP_PKEY_EC,
647         EVP_PKEY_EC,
648         0,
649         "EC",
650         "OpenSSL EC algorithm",
651
652         eckey_pub_decode,
653         eckey_pub_encode,
654         eckey_pub_cmp,
655         eckey_pub_print,
656
657         eckey_priv_decode,
658         eckey_priv_encode,
659         eckey_priv_print,
660
661         int_ec_size,
662         ec_bits,
663
664         eckey_param_decode,
665         eckey_param_encode,
666         ec_missing_parameters,
667         ec_copy_parameters,
668         ec_cmp_parameters,
669         eckey_param_print,
670         0,
671
672         int_ec_free,
673         ec_pkey_ctrl,
674         old_ec_priv_decode,
675         old_ec_priv_encode
676         };
677
678 #ifndef OPENSSL_NO_CMS
679
680 static int ecdh_cms_set_peerkey(EVP_PKEY_CTX *pctx,
681                                 X509_ALGOR *alg, ASN1_BIT_STRING *pubkey)
682         {
683         ASN1_OBJECT *aoid;
684         int atype;
685         void *aval;
686         int rv = 0;
687         EVP_PKEY *pkpeer = NULL;
688         EC_KEY *ecpeer = NULL;
689         const unsigned char *p;
690         int plen;
691         X509_ALGOR_get0(&aoid, &atype, &aval, alg);
692         if (OBJ_obj2nid(aoid) != NID_X9_62_id_ecPublicKey)
693                 goto err;
694         /* If absent parameters get group from main key */
695         if (atype == V_ASN1_UNDEF || atype == V_ASN1_NULL)
696                 {
697                 const EC_GROUP *grp;
698                 EVP_PKEY *pk;
699                 pk = EVP_PKEY_CTX_get0_pkey(pctx);
700                 if (!pk)
701                         goto err;
702                 grp = EC_KEY_get0_group(pk->pkey.ec);
703                 ecpeer = EC_KEY_new();
704                 if (!ecpeer)
705                         goto err;
706                 if (!EC_KEY_set_group(ecpeer, grp))
707                         goto err;
708                 }
709         else
710                 {
711                 ecpeer = eckey_type2param(atype, aval);
712                 if (!ecpeer)
713                         goto err;
714                 }
715         /* We have parameters now set public key */
716         plen = ASN1_STRING_length(pubkey);
717         p = ASN1_STRING_data(pubkey);
718         if (!p || !plen)
719                 goto err;
720         if (!o2i_ECPublicKey(&ecpeer, &p, plen))
721                 goto err;
722         pkpeer = EVP_PKEY_new();
723         if (!pkpeer)
724                 goto err;
725         EVP_PKEY_set1_EC_KEY(pkpeer, ecpeer);
726         if (EVP_PKEY_derive_set_peer(pctx, pkpeer) > 0)
727                 rv = 1;
728         err:
729         if (ecpeer)
730                 EC_KEY_free(ecpeer);
731         if (pkpeer)
732                 EVP_PKEY_free(pkpeer);
733         return rv;
734         }
735 /* Set KDF parameters based on KDF NID */
736 static int ecdh_cms_set_kdf_param(EVP_PKEY_CTX *pctx, int eckdf_nid)
737         {
738         int kdf_nid, kdfmd_nid, cofactor;
739         const EVP_MD *kdf_md;
740         if (eckdf_nid == NID_undef)
741                 return 0;
742
743         /* Lookup KDF type, cofactor mode and digest */
744         if (!OBJ_find_sigid_algs(eckdf_nid, &kdfmd_nid, &kdf_nid))
745                 return 0;
746
747         if (kdf_nid == NID_dh_std_kdf)
748                 cofactor = 0;
749         else if (kdf_nid == NID_dh_cofactor_kdf)
750                 cofactor = 1;
751         else return 0;
752
753         if (EVP_PKEY_CTX_set_ecdh_cofactor_mode(pctx, cofactor) <= 0)
754                 return 0;
755
756         if (EVP_PKEY_CTX_set_ecdh_kdf_type(pctx, EVP_PKEY_ECDH_KDF_X9_62) <= 0)
757                 return 0;
758
759         kdf_md = EVP_get_digestbynid(kdfmd_nid);
760         if (!kdf_md)
761                 return 0;
762
763         if (EVP_PKEY_CTX_set_ecdh_kdf_md(pctx, kdf_md) <= 0)
764                 return 0;
765         return 1;
766         }
767
768 static int ecdh_cms_set_shared_info(EVP_PKEY_CTX *pctx, CMS_RecipientInfo *ri)
769         {
770         int rv = 0;
771
772         X509_ALGOR *alg, *kekalg = NULL;
773         ASN1_OCTET_STRING *ukm;
774         const unsigned char *p;
775         unsigned char *der = NULL;
776         int plen, keylen;
777         const EVP_CIPHER *kekcipher;
778         EVP_CIPHER_CTX *kekctx;
779
780         if (!CMS_RecipientInfo_kari_get0_alg(ri, &alg, &ukm))
781                 return 0;
782
783         if (!ecdh_cms_set_kdf_param(pctx, OBJ_obj2nid(alg->algorithm)))
784                 {
785                 ECerr(EC_F_ECDH_CMS_SET_SHARED_INFO, EC_R_KDF_PARAMETER_ERROR);
786                 return 0;
787                 }
788
789         if (alg->parameter->type != V_ASN1_SEQUENCE)
790                 return 0;
791
792         p = alg->parameter->value.sequence->data;
793         plen = alg->parameter->value.sequence->length;
794         kekalg = d2i_X509_ALGOR(NULL, &p, plen);
795         if (!kekalg)
796                 goto err;
797         kekctx = CMS_RecipientInfo_kari_get0_ctx(ri);
798         if (!kekctx)
799                 goto err;
800         kekcipher = EVP_get_cipherbyobj(kekalg->algorithm);
801         if (!kekcipher || EVP_CIPHER_mode(kekcipher) != EVP_CIPH_WRAP_MODE)
802                 goto err;
803         if (!EVP_EncryptInit_ex(kekctx, kekcipher, NULL, NULL, NULL))
804                 goto err;
805         if (EVP_CIPHER_asn1_to_param(kekctx, kekalg->parameter) <= 0)
806                 goto err;
807
808         keylen = EVP_CIPHER_CTX_key_length(kekctx);
809         if (EVP_PKEY_CTX_set_ecdh_kdf_outlen(pctx, keylen) <= 0)
810                 goto err;
811
812         plen = CMS_SharedInfo_encode(&der, kekalg, ukm, keylen);
813
814         if (!plen)
815                 goto err;
816
817         if (EVP_PKEY_CTX_set0_ecdh_kdf_ukm(pctx, der, plen) <= 0)
818                 goto err;
819         der = NULL;
820
821         rv = 1;
822         err:
823         if (kekalg)
824                 X509_ALGOR_free(kekalg);
825         if (der)
826                 OPENSSL_free(der);
827         return rv;
828         }
829
830 static int ecdh_cms_decrypt(CMS_RecipientInfo *ri)
831         {
832         EVP_PKEY_CTX *pctx;
833         pctx = CMS_RecipientInfo_get0_pkey_ctx(ri);
834         if (!pctx)
835                 return 0;
836         /* See if we need to set peer key */
837         if (!EVP_PKEY_CTX_get0_peerkey(pctx))
838                 {
839                 X509_ALGOR *alg;
840                 ASN1_BIT_STRING *pubkey;
841                 if (!CMS_RecipientInfo_kari_get0_orig_id(ri, &alg, &pubkey,
842                                                         NULL, NULL, NULL))
843                         return 0;
844                 if (!alg || !pubkey)
845                         return 0;
846                 if (!ecdh_cms_set_peerkey(pctx, alg, pubkey))
847                         {
848                         ECerr(EC_F_ECDH_CMS_DECRYPT, EC_R_PEER_KEY_ERROR);
849                         return 0;
850                         }
851                 }
852         /* Set ECDH derivation parameters and initialise unwrap context */
853         if (!ecdh_cms_set_shared_info(pctx, ri))
854                 {
855                 ECerr(EC_F_ECDH_CMS_DECRYPT, EC_R_SHARED_INFO_ERROR);
856                 return 0;
857                 }
858         return 1;
859         }
860
861 static int ecdh_cms_encrypt(CMS_RecipientInfo *ri)
862         {
863         EVP_PKEY_CTX *pctx;
864         EVP_PKEY *pkey;
865         EVP_CIPHER_CTX *ctx;
866         int keylen;
867         X509_ALGOR *talg, *wrap_alg = NULL;
868         ASN1_OBJECT *aoid;
869         ASN1_BIT_STRING *pubkey;
870         ASN1_STRING *wrap_str;
871         ASN1_OCTET_STRING *ukm;
872         unsigned char *penc = NULL;
873         int penclen;
874         int rv = 0;
875         int ecdh_nid, kdf_type, kdf_nid, wrap_nid;
876         const EVP_MD *kdf_md;
877         pctx = CMS_RecipientInfo_get0_pkey_ctx(ri);
878         if (!pctx)
879                 return 0;
880         /* Get ephemeral key */
881         pkey = EVP_PKEY_CTX_get0_pkey(pctx);
882         if (!CMS_RecipientInfo_kari_get0_orig_id(ri, &talg, &pubkey,
883                                                         NULL, NULL, NULL))
884                 goto err;
885         X509_ALGOR_get0(&aoid, NULL, NULL, talg);
886         /* Is everything uninitialised? */
887         if (aoid == OBJ_nid2obj(NID_undef))
888                 {
889
890                 EC_KEY *eckey = pkey->pkey.ec;
891                 /* Set the key */
892                 unsigned char *p;
893
894                 penclen = i2o_ECPublicKey(eckey, NULL);
895                 if (penclen <= 0)
896                         goto err;
897                 penc = OPENSSL_malloc(penclen);
898                 if (!penc)
899                         goto err;
900                 p = penc;
901                 penclen = i2o_ECPublicKey(eckey, &p);
902                 if (penclen <= 0)
903                         goto err;
904                 ASN1_STRING_set0(pubkey, penc, penclen);
905                 pubkey->flags&= ~(ASN1_STRING_FLAG_BITS_LEFT|0x07);
906                 pubkey->flags|=ASN1_STRING_FLAG_BITS_LEFT;
907
908                 penc = NULL;
909                 X509_ALGOR_set0(talg, OBJ_nid2obj(NID_X9_62_id_ecPublicKey),
910                                                         V_ASN1_UNDEF, NULL);
911                 }
912
913         /* See if custom paraneters set */
914         kdf_type = EVP_PKEY_CTX_get_ecdh_kdf_type(pctx);
915         if (kdf_type <= 0)
916                 goto err;
917         if (!EVP_PKEY_CTX_get_ecdh_kdf_md(pctx, &kdf_md))
918                 goto err;
919         ecdh_nid = EVP_PKEY_CTX_get_ecdh_cofactor_mode(pctx);
920         if (ecdh_nid < 0)
921                 goto err;
922         else if (ecdh_nid == 0)
923                 ecdh_nid = NID_dh_std_kdf;
924         else if (ecdh_nid == 1)
925                 ecdh_nid = NID_dh_cofactor_kdf;
926
927         if (kdf_type == EVP_PKEY_ECDH_KDF_NONE)
928                 {
929                 kdf_type = EVP_PKEY_ECDH_KDF_X9_62;
930                 if (EVP_PKEY_CTX_set_ecdh_kdf_type(pctx, kdf_type) <= 0)
931                         goto err;
932                 }
933         else
934                 /* Uknown KDF */
935                 goto err;
936         if (kdf_md == NULL)
937                 {
938                 /* Fixme later for better MD */
939                 kdf_md = EVP_sha1();
940                 if (EVP_PKEY_CTX_set_ecdh_kdf_md(pctx, kdf_md) <= 0)
941                         goto err;
942                 }
943
944         if (!CMS_RecipientInfo_kari_get0_alg(ri, &talg, &ukm))
945                 goto err;
946
947         /* Lookup NID for KDF+cofactor+digest */
948
949         if (!OBJ_find_sigid_by_algs(&kdf_nid, EVP_MD_type(kdf_md), ecdh_nid))
950                 goto err;
951         /* Get wrap NID */
952         ctx = CMS_RecipientInfo_kari_get0_ctx(ri);
953         wrap_nid = EVP_CIPHER_CTX_type(ctx);
954         keylen = EVP_CIPHER_CTX_key_length(ctx);
955
956         /* Package wrap algorithm in an AlgorithmIdentifier */
957
958         wrap_alg = X509_ALGOR_new();
959         if (!wrap_alg)
960                 goto err;
961         wrap_alg->algorithm = OBJ_nid2obj(wrap_nid);
962         wrap_alg->parameter = ASN1_TYPE_new();
963         if (!wrap_alg->parameter)
964                 goto err;
965         if (EVP_CIPHER_param_to_asn1(ctx, wrap_alg->parameter) <= 0)
966                 goto err;
967         if (ASN1_TYPE_get(wrap_alg->parameter) == NID_undef)
968                 {
969                 ASN1_TYPE_free(wrap_alg->parameter);
970                 wrap_alg->parameter = NULL;
971                 }
972
973         if (EVP_PKEY_CTX_set_ecdh_kdf_outlen(pctx, keylen) <= 0)
974                 goto err;
975
976         penclen = CMS_SharedInfo_encode(&penc, wrap_alg, ukm, keylen);
977
978         if (!penclen)
979                 goto err;
980
981         if (EVP_PKEY_CTX_set0_ecdh_kdf_ukm(pctx, penc, penclen) <= 0)
982                 goto err;
983         penc = NULL;
984
985         /* Now need to wrap encoding of wrap AlgorithmIdentifier into
986          * parameter of another AlgorithmIdentifier.
987          */
988         penclen = i2d_X509_ALGOR(wrap_alg, &penc);
989         if (!penc || !penclen)
990                 goto err;
991         wrap_str = ASN1_STRING_new();
992         if (!wrap_str)
993                 goto err;
994         ASN1_STRING_set0(wrap_str, penc, penclen);
995         penc = NULL;
996         X509_ALGOR_set0(talg, OBJ_nid2obj(kdf_nid), V_ASN1_SEQUENCE, wrap_str);
997
998         rv = 1;
999
1000         err:
1001         if (penc)
1002                 OPENSSL_free(penc);
1003         if (wrap_alg)
1004                 X509_ALGOR_free(wrap_alg);
1005         return rv;
1006         }
1007
1008 #endif