RT3065: ec_private_key_dont_crash
[openssl.git] / crypto / ec / ec_ameth.c
1 /* Written by Dr Stephen N Henson (steve@openssl.org) for the OpenSSL
2  * project 2006.
3  */
4 /* ====================================================================
5  * Copyright (c) 2006 The OpenSSL Project.  All rights reserved.
6  *
7  * Redistribution and use in source and binary forms, with or without
8  * modification, are permitted provided that the following conditions
9  * are met:
10  *
11  * 1. Redistributions of source code must retain the above copyright
12  *    notice, this list of conditions and the following disclaimer. 
13  *
14  * 2. Redistributions in binary form must reproduce the above copyright
15  *    notice, this list of conditions and the following disclaimer in
16  *    the documentation and/or other materials provided with the
17  *    distribution.
18  *
19  * 3. All advertising materials mentioning features or use of this
20  *    software must display the following acknowledgment:
21  *    "This product includes software developed by the OpenSSL Project
22  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
23  *
24  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
25  *    endorse or promote products derived from this software without
26  *    prior written permission. For written permission, please contact
27  *    licensing@OpenSSL.org.
28  *
29  * 5. Products derived from this software may not be called "OpenSSL"
30  *    nor may "OpenSSL" appear in their names without prior written
31  *    permission of the OpenSSL Project.
32  *
33  * 6. Redistributions of any form whatsoever must retain the following
34  *    acknowledgment:
35  *    "This product includes software developed by the OpenSSL Project
36  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
37  *
38  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
39  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
40  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
41  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
42  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
43  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
44  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
45  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
46  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
47  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
48  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
49  * OF THE POSSIBILITY OF SUCH DAMAGE.
50  * ====================================================================
51  *
52  * This product includes cryptographic software written by Eric Young
53  * (eay@cryptsoft.com).  This product includes software written by Tim
54  * Hudson (tjh@cryptsoft.com).
55  *
56  */
57
58 #include <stdio.h>
59 #include "cryptlib.h"
60 #include <openssl/x509.h>
61 #include <openssl/ec.h>
62 #include <openssl/bn.h>
63 #ifndef OPENSSL_NO_CMS
64 #include <openssl/cms.h>
65 #endif
66 #include <openssl/asn1t.h>
67 #include "asn1_locl.h"
68
69 static int ecdh_cms_decrypt(CMS_RecipientInfo *ri);
70 static int ecdh_cms_encrypt(CMS_RecipientInfo *ri);
71
72 static int eckey_param2type(int *pptype, void **ppval, EC_KEY *ec_key)
73         {
74         const EC_GROUP  *group;
75         int nid;
76         if (ec_key == NULL || (group = EC_KEY_get0_group(ec_key)) == NULL) 
77         {
78                 ECerr(EC_F_ECKEY_PARAM2TYPE, EC_R_MISSING_PARAMETERS);
79                 return 0;
80         }
81         if (EC_GROUP_get_asn1_flag(group)
82                      && (nid = EC_GROUP_get_curve_name(group)))
83                 /* we have a 'named curve' => just set the OID */
84                 {
85                 *ppval = OBJ_nid2obj(nid);
86                 *pptype = V_ASN1_OBJECT;
87                 }
88         else    /* explicit parameters */
89                 {
90                 ASN1_STRING *pstr = NULL;
91                 pstr = ASN1_STRING_new();
92                 if (!pstr)
93                         return 0;
94                 pstr->length = i2d_ECParameters(ec_key, &pstr->data);
95                 if (pstr->length <= 0)
96                         {
97                         ASN1_STRING_free(pstr);
98                         ECerr(EC_F_ECKEY_PARAM2TYPE, ERR_R_EC_LIB);
99                         return 0;
100                         }
101                 *ppval = pstr;
102                 *pptype = V_ASN1_SEQUENCE;
103                 }
104         return 1;
105         }
106
107 static int eckey_pub_encode(X509_PUBKEY *pk, const EVP_PKEY *pkey)
108         {
109         EC_KEY *ec_key = pkey->pkey.ec;
110         void *pval = NULL;
111         int ptype;
112         unsigned char *penc = NULL, *p;
113         int penclen;
114
115         if (!eckey_param2type(&ptype, &pval, ec_key))
116                 {
117                 ECerr(EC_F_ECKEY_PUB_ENCODE, ERR_R_EC_LIB);
118                 return 0;
119                 }
120         penclen = i2o_ECPublicKey(ec_key, NULL);
121         if (penclen <= 0)
122                 goto err;
123         penc = OPENSSL_malloc(penclen);
124         if (!penc)
125                 goto err;
126         p = penc;
127         penclen = i2o_ECPublicKey(ec_key, &p);
128         if (penclen <= 0)
129                 goto err;
130         if (X509_PUBKEY_set0_param(pk, OBJ_nid2obj(EVP_PKEY_EC),
131                                 ptype, pval, penc, penclen))
132                 return 1;
133         err:
134         if (ptype == V_ASN1_OBJECT)
135                 ASN1_OBJECT_free(pval);
136         else
137                 ASN1_STRING_free(pval);
138         if (penc)
139                 OPENSSL_free(penc);
140         return 0;
141         }
142
143 static EC_KEY *eckey_type2param(int ptype, void *pval)
144         {
145         EC_KEY *eckey = NULL;
146         if (ptype == V_ASN1_SEQUENCE)
147                 {
148                 ASN1_STRING *pstr = pval;
149                 const unsigned char *pm = NULL;
150                 int pmlen;
151                 pm = pstr->data;
152                 pmlen = pstr->length;
153                 if (!(eckey = d2i_ECParameters(NULL, &pm, pmlen)))
154                         {
155                         ECerr(EC_F_ECKEY_TYPE2PARAM, EC_R_DECODE_ERROR);
156                         goto ecerr;
157                         }
158                 }
159         else if (ptype == V_ASN1_OBJECT)
160                 {
161                 ASN1_OBJECT *poid = pval;
162                 EC_GROUP *group;
163
164                 /* type == V_ASN1_OBJECT => the parameters are given
165                  * by an asn1 OID
166                  */
167                 if ((eckey = EC_KEY_new()) == NULL)
168                         {
169                         ECerr(EC_F_ECKEY_TYPE2PARAM, ERR_R_MALLOC_FAILURE);
170                         goto ecerr;
171                         }
172                 group = EC_GROUP_new_by_curve_name(OBJ_obj2nid(poid));
173                 if (group == NULL)
174                         goto ecerr;
175                 EC_GROUP_set_asn1_flag(group, OPENSSL_EC_NAMED_CURVE);
176                 if (EC_KEY_set_group(eckey, group) == 0)
177                         goto ecerr;
178                 EC_GROUP_free(group);
179                 }
180         else
181                 {
182                 ECerr(EC_F_ECKEY_TYPE2PARAM, EC_R_DECODE_ERROR);
183                 goto ecerr;
184                 }
185
186         return eckey;
187
188         ecerr:
189         if (eckey)
190                 EC_KEY_free(eckey);
191         return NULL;
192         }
193
194 static int eckey_pub_decode(EVP_PKEY *pkey, X509_PUBKEY *pubkey)
195         {
196         const unsigned char *p = NULL;
197         void *pval;
198         int ptype, pklen;
199         EC_KEY *eckey = NULL;
200         X509_ALGOR *palg;
201
202         if (!X509_PUBKEY_get0_param(NULL, &p, &pklen, &palg, pubkey))
203                 return 0;
204         X509_ALGOR_get0(NULL, &ptype, &pval, palg);
205
206         eckey = eckey_type2param(ptype, pval);
207
208         if (!eckey)
209                 {
210                 ECerr(EC_F_ECKEY_PUB_DECODE, ERR_R_EC_LIB);
211                 return 0;
212                 }
213
214         /* We have parameters now set public key */
215         if (!o2i_ECPublicKey(&eckey, &p, pklen))
216                 {
217                 ECerr(EC_F_ECKEY_PUB_DECODE, EC_R_DECODE_ERROR);
218                 goto ecerr;
219                 }
220
221         EVP_PKEY_assign_EC_KEY(pkey, eckey);
222         return 1;
223
224         ecerr:
225         if (eckey)
226                 EC_KEY_free(eckey);
227         return 0;
228         }
229
230 static int eckey_pub_cmp(const EVP_PKEY *a, const EVP_PKEY *b)
231         {
232         int  r;
233         const EC_GROUP *group = EC_KEY_get0_group(b->pkey.ec);
234         const EC_POINT *pa = EC_KEY_get0_public_key(a->pkey.ec),
235                        *pb = EC_KEY_get0_public_key(b->pkey.ec);
236         r = EC_POINT_cmp(group, pa, pb, NULL);
237         if (r == 0)
238                 return 1;
239         if (r == 1)
240                 return 0;
241         return -2;
242         }
243
244 static int eckey_priv_decode(EVP_PKEY *pkey, PKCS8_PRIV_KEY_INFO *p8)
245         {
246         const unsigned char *p = NULL;
247         void *pval;
248         int ptype, pklen;
249         EC_KEY *eckey = NULL;
250         X509_ALGOR *palg;
251
252         if (!PKCS8_pkey_get0(NULL, &p, &pklen, &palg, p8))
253                 return 0;
254         X509_ALGOR_get0(NULL, &ptype, &pval, palg);
255
256         eckey = eckey_type2param(ptype, pval);
257
258         if (!eckey)
259                 goto ecliberr;
260
261         /* We have parameters now set private key */
262         if (!d2i_ECPrivateKey(&eckey, &p, pklen))
263                 {
264                 ECerr(EC_F_ECKEY_PRIV_DECODE, EC_R_DECODE_ERROR);
265                 goto ecerr;
266                 }
267
268         /* calculate public key (if necessary) */
269         if (EC_KEY_get0_public_key(eckey) == NULL)
270                 {
271                 const BIGNUM *priv_key;
272                 const EC_GROUP *group;
273                 EC_POINT *pub_key;
274                 /* the public key was not included in the SEC1 private
275                  * key => calculate the public key */
276                 group   = EC_KEY_get0_group(eckey);
277                 pub_key = EC_POINT_new(group);
278                 if (pub_key == NULL)
279                         {
280                         ECerr(EC_F_ECKEY_PRIV_DECODE, ERR_R_EC_LIB);
281                         goto ecliberr;
282                         }
283                 if (!EC_POINT_copy(pub_key, EC_GROUP_get0_generator(group)))
284                         {
285                         EC_POINT_free(pub_key);
286                         ECerr(EC_F_ECKEY_PRIV_DECODE, ERR_R_EC_LIB);
287                         goto ecliberr;
288                         }
289                 priv_key = EC_KEY_get0_private_key(eckey);
290                 if (!EC_POINT_mul(group, pub_key, priv_key, NULL, NULL, NULL))
291                         {
292                         EC_POINT_free(pub_key);
293                         ECerr(EC_F_ECKEY_PRIV_DECODE, ERR_R_EC_LIB);
294                         goto ecliberr;
295                         }
296                 if (EC_KEY_set_public_key(eckey, pub_key) == 0)
297                         {
298                         EC_POINT_free(pub_key);
299                         ECerr(EC_F_ECKEY_PRIV_DECODE, ERR_R_EC_LIB);
300                         goto ecliberr;
301                         }
302                 EC_POINT_free(pub_key);
303                 }
304
305         EVP_PKEY_assign_EC_KEY(pkey, eckey);
306         return 1;
307
308         ecliberr:
309         ECerr(EC_F_ECKEY_PRIV_DECODE, ERR_R_EC_LIB);
310         ecerr:
311         if (eckey)
312                 EC_KEY_free(eckey);
313         return 0;
314         }
315
316 static int eckey_priv_encode(PKCS8_PRIV_KEY_INFO *p8, const EVP_PKEY *pkey)
317 {
318         EC_KEY          *ec_key;
319         unsigned char   *ep, *p;
320         int             eplen, ptype;
321         void            *pval;
322         unsigned int    tmp_flags, old_flags;
323
324         ec_key = pkey->pkey.ec;
325
326         if (!eckey_param2type(&ptype, &pval, ec_key))
327                 {
328                 ECerr(EC_F_ECKEY_PRIV_ENCODE, EC_R_DECODE_ERROR);
329                 return 0;
330                 }
331
332         /* set the private key */
333
334         /* do not include the parameters in the SEC1 private key
335          * see PKCS#11 12.11 */
336         old_flags = EC_KEY_get_enc_flags(ec_key);
337         tmp_flags = old_flags | EC_PKEY_NO_PARAMETERS;
338         EC_KEY_set_enc_flags(ec_key, tmp_flags);
339         eplen = i2d_ECPrivateKey(ec_key, NULL);
340         if (!eplen)
341         {
342                 EC_KEY_set_enc_flags(ec_key, old_flags);
343                 ECerr(EC_F_ECKEY_PRIV_ENCODE, ERR_R_EC_LIB);
344                 return 0;
345         }
346         ep = (unsigned char *) OPENSSL_malloc(eplen);
347         if (!ep)
348         {
349                 EC_KEY_set_enc_flags(ec_key, old_flags);
350                 ECerr(EC_F_ECKEY_PRIV_ENCODE, ERR_R_MALLOC_FAILURE);
351                 return 0;
352         }
353         p = ep;
354         if (!i2d_ECPrivateKey(ec_key, &p))
355         {
356                 EC_KEY_set_enc_flags(ec_key, old_flags);
357                 OPENSSL_free(ep);
358                 ECerr(EC_F_ECKEY_PRIV_ENCODE, ERR_R_EC_LIB);
359                 return 0;
360         }
361         /* restore old encoding flags */
362         EC_KEY_set_enc_flags(ec_key, old_flags);
363
364         if (!PKCS8_pkey_set0(p8, OBJ_nid2obj(NID_X9_62_id_ecPublicKey), 0,
365                                 ptype, pval, ep, eplen))
366                 return 0;
367
368         return 1;
369 }
370
371 static int int_ec_size(const EVP_PKEY *pkey)
372         {
373         return ECDSA_size(pkey->pkey.ec);
374         }
375
376 static int ec_bits(const EVP_PKEY *pkey)
377         {
378         BIGNUM *order = BN_new();
379         const EC_GROUP *group;
380         int ret;
381
382         if (!order)
383                 {
384                 ERR_clear_error();
385                 return 0;
386                 }
387         group = EC_KEY_get0_group(pkey->pkey.ec);
388         if (!EC_GROUP_get_order(group, order, NULL))
389                 {
390                 ERR_clear_error();
391                 return 0;
392                 }
393
394         ret = BN_num_bits(order);
395         BN_free(order);
396         return ret;
397         }
398
399 static int ec_missing_parameters(const EVP_PKEY *pkey)
400         {
401         if (EC_KEY_get0_group(pkey->pkey.ec) == NULL)
402                 return 1;
403         return 0;
404         }
405
406 static int ec_copy_parameters(EVP_PKEY *to, const EVP_PKEY *from)
407         {
408         EC_GROUP *group = EC_GROUP_dup(EC_KEY_get0_group(from->pkey.ec));
409         if (group == NULL)
410                 return 0;
411         if (EC_KEY_set_group(to->pkey.ec, group) == 0)
412                 return 0;
413         EC_GROUP_free(group);
414         return 1;
415         }
416
417 static int ec_cmp_parameters(const EVP_PKEY *a, const EVP_PKEY *b)
418         {
419         const EC_GROUP *group_a = EC_KEY_get0_group(a->pkey.ec),
420                        *group_b = EC_KEY_get0_group(b->pkey.ec);
421         if (EC_GROUP_cmp(group_a, group_b, NULL))
422                 return 0;
423         else
424                 return 1;
425         }
426
427 static void int_ec_free(EVP_PKEY *pkey)
428         {
429         EC_KEY_free(pkey->pkey.ec);
430         }
431
432 static int do_EC_KEY_print(BIO *bp, const EC_KEY *x, int off, int ktype)
433         {
434         unsigned char *buffer=NULL;
435         const char *ecstr;
436         size_t  buf_len=0, i;
437         int     ret=0, reason=ERR_R_BIO_LIB;
438         BIGNUM  *pub_key=NULL, *order=NULL;
439         BN_CTX  *ctx=NULL;
440         const EC_GROUP *group;
441         const EC_POINT *public_key;
442         const BIGNUM *priv_key;
443  
444         if (x == NULL || (group = EC_KEY_get0_group(x)) == NULL)
445                 {
446                 reason = ERR_R_PASSED_NULL_PARAMETER;
447                 goto err;
448                 }
449
450         ctx = BN_CTX_new();
451         if (ctx == NULL)
452                 {
453                 reason = ERR_R_MALLOC_FAILURE;
454                 goto err;
455                 }
456
457         if (ktype > 0)
458                 {
459                 public_key = EC_KEY_get0_public_key(x);
460                 if (public_key != NULL)
461                         {
462                         if ((pub_key = EC_POINT_point2bn(group, public_key,
463                                 EC_KEY_get_conv_form(x), NULL, ctx)) == NULL)
464                                 {
465                                 reason = ERR_R_EC_LIB;
466                                 goto err;
467                                 }
468                         buf_len = (size_t)BN_num_bytes(pub_key);
469                         }
470                 }
471
472         if (ktype == 2)
473                 {
474                 priv_key = EC_KEY_get0_private_key(x);
475                 if (priv_key && (i = (size_t)BN_num_bytes(priv_key)) > buf_len)
476                         buf_len = i;
477                 }
478         else
479                 priv_key = NULL;
480
481         if (ktype > 0)
482                 {
483                 buf_len += 10;
484                 if ((buffer = OPENSSL_malloc(buf_len)) == NULL)
485                         {
486                         reason = ERR_R_MALLOC_FAILURE;
487                         goto err;
488                         }
489                 }
490         if (ktype == 2)
491                 ecstr = "Private-Key";
492         else if (ktype == 1)
493                 ecstr = "Public-Key";
494         else
495                 ecstr = "ECDSA-Parameters";
496
497         if (!BIO_indent(bp, off, 128))
498                 goto err;
499         if ((order = BN_new()) == NULL)
500                 goto err;
501         if (!EC_GROUP_get_order(group, order, NULL))
502                 goto err;
503         if (BIO_printf(bp, "%s: (%d bit)\n", ecstr,
504                 BN_num_bits(order)) <= 0) goto err;
505   
506         if ((priv_key != NULL) && !ASN1_bn_print(bp, "priv:", priv_key, 
507                 buffer, off))
508                 goto err;
509         if ((pub_key != NULL) && !ASN1_bn_print(bp, "pub: ", pub_key,
510                 buffer, off))
511                 goto err;
512         if (!ECPKParameters_print(bp, group, off))
513                 goto err;
514         ret=1;
515 err:
516         if (!ret)
517                 ECerr(EC_F_DO_EC_KEY_PRINT, reason);
518         if (pub_key) 
519                 BN_free(pub_key);
520         if (order)
521                 BN_free(order);
522         if (ctx)
523                 BN_CTX_free(ctx);
524         if (buffer != NULL)
525                 OPENSSL_free(buffer);
526         return(ret);
527         }
528
529 static int eckey_param_decode(EVP_PKEY *pkey,
530                                         const unsigned char **pder, int derlen)
531         {
532         EC_KEY *eckey;
533         if (!(eckey = d2i_ECParameters(NULL, pder, derlen)))
534                 {
535                 ECerr(EC_F_ECKEY_PARAM_DECODE, ERR_R_EC_LIB);
536                 return 0;
537                 }
538         EVP_PKEY_assign_EC_KEY(pkey, eckey);
539         return 1;
540         }
541
542 static int eckey_param_encode(const EVP_PKEY *pkey, unsigned char **pder)
543         {
544         return i2d_ECParameters(pkey->pkey.ec, pder);
545         }
546
547 static int eckey_param_print(BIO *bp, const EVP_PKEY *pkey, int indent,
548                                                         ASN1_PCTX *ctx)
549         {
550         return do_EC_KEY_print(bp, pkey->pkey.ec, indent, 0);
551         }
552
553 static int eckey_pub_print(BIO *bp, const EVP_PKEY *pkey, int indent,
554                                                         ASN1_PCTX *ctx)
555         {
556         return do_EC_KEY_print(bp, pkey->pkey.ec, indent, 1);
557         }
558
559
560 static int eckey_priv_print(BIO *bp, const EVP_PKEY *pkey, int indent,
561                                                         ASN1_PCTX *ctx)
562         {
563         return do_EC_KEY_print(bp, pkey->pkey.ec, indent, 2);
564         }
565
566 static int old_ec_priv_decode(EVP_PKEY *pkey,
567                                         const unsigned char **pder, int derlen)
568         {
569         EC_KEY *ec;
570         if (!(ec = d2i_ECPrivateKey (NULL, pder, derlen)))
571                 {
572                 ECerr(EC_F_OLD_EC_PRIV_DECODE, EC_R_DECODE_ERROR);
573                 return 0;
574                 }
575         EVP_PKEY_assign_EC_KEY(pkey, ec);
576         return 1;
577         }
578
579 static int old_ec_priv_encode(const EVP_PKEY *pkey, unsigned char **pder)
580         {
581         return i2d_ECPrivateKey(pkey->pkey.ec, pder);
582         }
583
584 static int ec_pkey_ctrl(EVP_PKEY *pkey, int op, long arg1, void *arg2)
585         {
586         switch (op)
587                 {
588                 case ASN1_PKEY_CTRL_PKCS7_SIGN:
589                 if (arg1 == 0)
590                         {
591                         int snid, hnid;
592                         X509_ALGOR *alg1, *alg2;
593                         PKCS7_SIGNER_INFO_get0_algs(arg2, NULL, &alg1, &alg2);
594                         if (alg1 == NULL || alg1->algorithm == NULL)
595                                 return -1;
596                         hnid = OBJ_obj2nid(alg1->algorithm);
597                         if (hnid == NID_undef)
598                                 return -1;
599                         if (!OBJ_find_sigid_by_algs(&snid, hnid, EVP_PKEY_id(pkey)))
600                                 return -1; 
601                         X509_ALGOR_set0(alg2, OBJ_nid2obj(snid), V_ASN1_UNDEF, 0);
602                         }
603                 return 1;
604 #ifndef OPENSSL_NO_CMS
605                 case ASN1_PKEY_CTRL_CMS_SIGN:
606                 if (arg1 == 0)
607                         {
608                         int snid, hnid;
609                         X509_ALGOR *alg1, *alg2;
610                         CMS_SignerInfo_get0_algs(arg2, NULL, NULL,
611                                                                 &alg1, &alg2);
612                         if (alg1 == NULL || alg1->algorithm == NULL)
613                                 return -1;
614                         hnid = OBJ_obj2nid(alg1->algorithm);
615                         if (hnid == NID_undef)
616                                 return -1;
617                         if (!OBJ_find_sigid_by_algs(&snid, hnid, EVP_PKEY_id(pkey)))
618                                 return -1; 
619                         X509_ALGOR_set0(alg2, OBJ_nid2obj(snid), V_ASN1_UNDEF, 0);
620                         }
621                 return 1;
622
623                 case ASN1_PKEY_CTRL_CMS_ENVELOPE:
624                 if (arg1 == 1)
625                         return ecdh_cms_decrypt(arg2);
626                 else if (arg1 == 0)
627                         return ecdh_cms_encrypt(arg2);
628                 return -2;
629
630                 case ASN1_PKEY_CTRL_CMS_RI_TYPE:
631                 *(int *)arg2 = CMS_RECIPINFO_AGREE;
632                 return 1;
633 #endif
634
635                 case ASN1_PKEY_CTRL_DEFAULT_MD_NID:
636                 *(int *)arg2 = NID_sha1;
637                 return 2;
638
639                 default:
640                 return -2;
641
642                 }
643
644         }
645
646 const EVP_PKEY_ASN1_METHOD eckey_asn1_meth = 
647         {
648         EVP_PKEY_EC,
649         EVP_PKEY_EC,
650         0,
651         "EC",
652         "OpenSSL EC algorithm",
653
654         eckey_pub_decode,
655         eckey_pub_encode,
656         eckey_pub_cmp,
657         eckey_pub_print,
658
659         eckey_priv_decode,
660         eckey_priv_encode,
661         eckey_priv_print,
662
663         int_ec_size,
664         ec_bits,
665
666         eckey_param_decode,
667         eckey_param_encode,
668         ec_missing_parameters,
669         ec_copy_parameters,
670         ec_cmp_parameters,
671         eckey_param_print,
672         0,
673
674         int_ec_free,
675         ec_pkey_ctrl,
676         old_ec_priv_decode,
677         old_ec_priv_encode
678         };
679
680 #ifndef OPENSSL_NO_CMS
681
682 static int ecdh_cms_set_peerkey(EVP_PKEY_CTX *pctx,
683                                 X509_ALGOR *alg, ASN1_BIT_STRING *pubkey)
684         {
685         ASN1_OBJECT *aoid;
686         int atype;
687         void *aval;
688         int rv = 0;
689         EVP_PKEY *pkpeer = NULL;
690         EC_KEY *ecpeer = NULL;
691         const unsigned char *p;
692         int plen;
693         X509_ALGOR_get0(&aoid, &atype, &aval, alg);
694         if (OBJ_obj2nid(aoid) != NID_X9_62_id_ecPublicKey)
695                 goto err;
696         /* If absent parameters get group from main key */
697         if (atype == V_ASN1_UNDEF || atype == V_ASN1_NULL)
698                 {
699                 const EC_GROUP *grp;
700                 EVP_PKEY *pk;
701                 pk = EVP_PKEY_CTX_get0_pkey(pctx);
702                 if (!pk)
703                         goto err;
704                 grp = EC_KEY_get0_group(pk->pkey.ec);
705                 ecpeer = EC_KEY_new();
706                 if (!ecpeer)
707                         goto err;
708                 if (!EC_KEY_set_group(ecpeer, grp))
709                         goto err;
710                 }
711         else
712                 {
713                 ecpeer = eckey_type2param(atype, aval);
714                 if (!ecpeer)
715                         goto err;
716                 }
717         /* We have parameters now set public key */
718         plen = ASN1_STRING_length(pubkey);
719         p = ASN1_STRING_data(pubkey);
720         if (!p || !plen)
721                 goto err;
722         if (!o2i_ECPublicKey(&ecpeer, &p, plen))
723                 goto err;
724         pkpeer = EVP_PKEY_new();
725         if (!pkpeer)
726                 goto err;
727         EVP_PKEY_set1_EC_KEY(pkpeer, ecpeer);
728         if (EVP_PKEY_derive_set_peer(pctx, pkpeer) > 0)
729                 rv = 1;
730         err:
731         if (ecpeer)
732                 EC_KEY_free(ecpeer);
733         if (pkpeer)
734                 EVP_PKEY_free(pkpeer);
735         return rv;
736         }
737 /* Set KDF parameters based on KDF NID */
738 static int ecdh_cms_set_kdf_param(EVP_PKEY_CTX *pctx, int eckdf_nid)
739         {
740         int kdf_nid, kdfmd_nid, cofactor;
741         const EVP_MD *kdf_md;
742         if (eckdf_nid == NID_undef)
743                 return 0;
744
745         /* Lookup KDF type, cofactor mode and digest */
746         if (!OBJ_find_sigid_algs(eckdf_nid, &kdfmd_nid, &kdf_nid))
747                 return 0;
748
749         if (kdf_nid == NID_dh_std_kdf)
750                 cofactor = 0;
751         else if (kdf_nid == NID_dh_cofactor_kdf)
752                 cofactor = 1;
753         else return 0;
754
755         if (EVP_PKEY_CTX_set_ecdh_cofactor_mode(pctx, cofactor) <= 0)
756                 return 0;
757
758         if (EVP_PKEY_CTX_set_ecdh_kdf_type(pctx, EVP_PKEY_ECDH_KDF_X9_62) <= 0)
759                 return 0;
760
761         kdf_md = EVP_get_digestbynid(kdfmd_nid);
762         if (!kdf_md)
763                 return 0;
764
765         if (EVP_PKEY_CTX_set_ecdh_kdf_md(pctx, kdf_md) <= 0)
766                 return 0;
767         return 1;
768         }
769
770 static int ecdh_cms_set_shared_info(EVP_PKEY_CTX *pctx, CMS_RecipientInfo *ri)
771         {
772         int rv = 0;
773
774         X509_ALGOR *alg, *kekalg = NULL;
775         ASN1_OCTET_STRING *ukm;
776         const unsigned char *p;
777         unsigned char *der = NULL;
778         int plen, keylen;
779         const EVP_CIPHER *kekcipher;
780         EVP_CIPHER_CTX *kekctx;
781
782         if (!CMS_RecipientInfo_kari_get0_alg(ri, &alg, &ukm))
783                 return 0;
784
785         if (!ecdh_cms_set_kdf_param(pctx, OBJ_obj2nid(alg->algorithm)))
786                 {
787                 ECerr(EC_F_ECDH_CMS_SET_SHARED_INFO, EC_R_KDF_PARAMETER_ERROR);
788                 return 0;
789                 }
790
791         if (alg->parameter->type != V_ASN1_SEQUENCE)
792                 return 0;
793
794         p = alg->parameter->value.sequence->data;
795         plen = alg->parameter->value.sequence->length;
796         kekalg = d2i_X509_ALGOR(NULL, &p, plen);
797         if (!kekalg)
798                 goto err;
799         kekctx = CMS_RecipientInfo_kari_get0_ctx(ri);
800         if (!kekctx)
801                 goto err;
802         kekcipher = EVP_get_cipherbyobj(kekalg->algorithm);
803         if (!kekcipher || EVP_CIPHER_mode(kekcipher) != EVP_CIPH_WRAP_MODE)
804                 goto err;
805         if (!EVP_EncryptInit_ex(kekctx, kekcipher, NULL, NULL, NULL))
806                 goto err;
807         if (EVP_CIPHER_asn1_to_param(kekctx, kekalg->parameter) <= 0)
808                 goto err;
809
810         keylen = EVP_CIPHER_CTX_key_length(kekctx);
811         if (EVP_PKEY_CTX_set_ecdh_kdf_outlen(pctx, keylen) <= 0)
812                 goto err;
813
814         plen = CMS_SharedInfo_encode(&der, kekalg, ukm, keylen);
815
816         if (!plen)
817                 goto err;
818
819         if (EVP_PKEY_CTX_set0_ecdh_kdf_ukm(pctx, der, plen) <= 0)
820                 goto err;
821         der = NULL;
822
823         rv = 1;
824         err:
825         if (kekalg)
826                 X509_ALGOR_free(kekalg);
827         if (der)
828                 OPENSSL_free(der);
829         return rv;
830         }
831
832 static int ecdh_cms_decrypt(CMS_RecipientInfo *ri)
833         {
834         EVP_PKEY_CTX *pctx;
835         pctx = CMS_RecipientInfo_get0_pkey_ctx(ri);
836         if (!pctx)
837                 return 0;
838         /* See if we need to set peer key */
839         if (!EVP_PKEY_CTX_get0_peerkey(pctx))
840                 {
841                 X509_ALGOR *alg;
842                 ASN1_BIT_STRING *pubkey;
843                 if (!CMS_RecipientInfo_kari_get0_orig_id(ri, &alg, &pubkey,
844                                                         NULL, NULL, NULL))
845                         return 0;
846                 if (!alg || !pubkey)
847                         return 0;
848                 if (!ecdh_cms_set_peerkey(pctx, alg, pubkey))
849                         {
850                         ECerr(EC_F_ECDH_CMS_DECRYPT, EC_R_PEER_KEY_ERROR);
851                         return 0;
852                         }
853                 }
854         /* Set ECDH derivation parameters and initialise unwrap context */
855         if (!ecdh_cms_set_shared_info(pctx, ri))
856                 {
857                 ECerr(EC_F_ECDH_CMS_DECRYPT, EC_R_SHARED_INFO_ERROR);
858                 return 0;
859                 }
860         return 1;
861         }
862
863 static int ecdh_cms_encrypt(CMS_RecipientInfo *ri)
864         {
865         EVP_PKEY_CTX *pctx;
866         EVP_PKEY *pkey;
867         EVP_CIPHER_CTX *ctx;
868         int keylen;
869         X509_ALGOR *talg, *wrap_alg = NULL;
870         ASN1_OBJECT *aoid;
871         ASN1_BIT_STRING *pubkey;
872         ASN1_STRING *wrap_str;
873         ASN1_OCTET_STRING *ukm;
874         unsigned char *penc = NULL;
875         int penclen;
876         int rv = 0;
877         int ecdh_nid, kdf_type, kdf_nid, wrap_nid;
878         const EVP_MD *kdf_md;
879         pctx = CMS_RecipientInfo_get0_pkey_ctx(ri);
880         if (!pctx)
881                 return 0;
882         /* Get ephemeral key */
883         pkey = EVP_PKEY_CTX_get0_pkey(pctx);
884         if (!CMS_RecipientInfo_kari_get0_orig_id(ri, &talg, &pubkey,
885                                                         NULL, NULL, NULL))
886                 goto err;
887         X509_ALGOR_get0(&aoid, NULL, NULL, talg);
888         /* Is everything uninitialised? */
889         if (aoid == OBJ_nid2obj(NID_undef))
890                 {
891
892                 EC_KEY *eckey = pkey->pkey.ec;
893                 /* Set the key */
894                 unsigned char *p;
895
896                 penclen = i2o_ECPublicKey(eckey, NULL);
897                 if (penclen <= 0)
898                         goto err;
899                 penc = OPENSSL_malloc(penclen);
900                 if (!penc)
901                         goto err;
902                 p = penc;
903                 penclen = i2o_ECPublicKey(eckey, &p);
904                 if (penclen <= 0)
905                         goto err;
906                 ASN1_STRING_set0(pubkey, penc, penclen);
907                 pubkey->flags&= ~(ASN1_STRING_FLAG_BITS_LEFT|0x07);
908                 pubkey->flags|=ASN1_STRING_FLAG_BITS_LEFT;
909
910                 penc = NULL;
911                 X509_ALGOR_set0(talg, OBJ_nid2obj(NID_X9_62_id_ecPublicKey),
912                                                         V_ASN1_UNDEF, NULL);
913                 }
914
915         /* See if custom paraneters set */
916         kdf_type = EVP_PKEY_CTX_get_ecdh_kdf_type(pctx);
917         if (kdf_type <= 0)
918                 goto err;
919         if (!EVP_PKEY_CTX_get_ecdh_kdf_md(pctx, &kdf_md))
920                 goto err;
921         ecdh_nid = EVP_PKEY_CTX_get_ecdh_cofactor_mode(pctx);
922         if (ecdh_nid < 0)
923                 goto err;
924         else if (ecdh_nid == 0)
925                 ecdh_nid = NID_dh_std_kdf;
926         else if (ecdh_nid == 1)
927                 ecdh_nid = NID_dh_cofactor_kdf;
928
929         if (kdf_type == EVP_PKEY_ECDH_KDF_NONE)
930                 {
931                 kdf_type = EVP_PKEY_ECDH_KDF_X9_62;
932                 if (EVP_PKEY_CTX_set_ecdh_kdf_type(pctx, kdf_type) <= 0)
933                         goto err;
934                 }
935         else
936                 /* Uknown KDF */
937                 goto err;
938         if (kdf_md == NULL)
939                 {
940                 /* Fixme later for better MD */
941                 kdf_md = EVP_sha1();
942                 if (EVP_PKEY_CTX_set_ecdh_kdf_md(pctx, kdf_md) <= 0)
943                         goto err;
944                 }
945
946         if (!CMS_RecipientInfo_kari_get0_alg(ri, &talg, &ukm))
947                 goto err;
948
949         /* Lookup NID for KDF+cofactor+digest */
950
951         if (!OBJ_find_sigid_by_algs(&kdf_nid, EVP_MD_type(kdf_md), ecdh_nid))
952                 goto err;
953         /* Get wrap NID */
954         ctx = CMS_RecipientInfo_kari_get0_ctx(ri);
955         wrap_nid = EVP_CIPHER_CTX_type(ctx);
956         keylen = EVP_CIPHER_CTX_key_length(ctx);
957
958         /* Package wrap algorithm in an AlgorithmIdentifier */
959
960         wrap_alg = X509_ALGOR_new();
961         if (!wrap_alg)
962                 goto err;
963         wrap_alg->algorithm = OBJ_nid2obj(wrap_nid);
964         wrap_alg->parameter = ASN1_TYPE_new();
965         if (!wrap_alg->parameter)
966                 goto err;
967         if (EVP_CIPHER_param_to_asn1(ctx, wrap_alg->parameter) <= 0)
968                 goto err;
969         if (ASN1_TYPE_get(wrap_alg->parameter) == NID_undef)
970                 {
971                 ASN1_TYPE_free(wrap_alg->parameter);
972                 wrap_alg->parameter = NULL;
973                 }
974
975         if (EVP_PKEY_CTX_set_ecdh_kdf_outlen(pctx, keylen) <= 0)
976                 goto err;
977
978         penclen = CMS_SharedInfo_encode(&penc, wrap_alg, ukm, keylen);
979
980         if (!penclen)
981                 goto err;
982
983         if (EVP_PKEY_CTX_set0_ecdh_kdf_ukm(pctx, penc, penclen) <= 0)
984                 goto err;
985         penc = NULL;
986
987         /* Now need to wrap encoding of wrap AlgorithmIdentifier into
988          * parameter of another AlgorithmIdentifier.
989          */
990         penclen = i2d_X509_ALGOR(wrap_alg, &penc);
991         if (!penc || !penclen)
992                 goto err;
993         wrap_str = ASN1_STRING_new();
994         if (!wrap_str)
995                 goto err;
996         ASN1_STRING_set0(wrap_str, penc, penclen);
997         penc = NULL;
998         X509_ALGOR_set0(talg, OBJ_nid2obj(kdf_nid), V_ASN1_SEQUENCE, wrap_str);
999
1000         rv = 1;
1001
1002         err:
1003         if (penc)
1004                 OPENSSL_free(penc);
1005         if (wrap_alg)
1006                 X509_ALGOR_free(wrap_alg);
1007         return rv;
1008         }
1009
1010 #endif