crypto/dh/dh_ameth.c

   1 /*
   2  * Written by Dr Stephen N Henson (steve@openssl.org) for the OpenSSL project
   3  * 2006.
   4  */
   5 /* ====================================================================
   6  * Copyright (c) 2006 The OpenSSL Project.  All rights reserved.
   7  *
   8  * Redistribution and use in source and binary forms, with or without
   9  * modification, are permitted provided that the following conditions
  10  * are met:
  11  *
  12  * 1. Redistributions of source code must retain the above copyright
  13  *    notice, this list of conditions and the following disclaimer.
  14  *
  15  * 2. Redistributions in binary form must reproduce the above copyright
  16  *    notice, this list of conditions and the following disclaimer in
  17  *    the documentation and/or other materials provided with the
  18  *    distribution.
  19  *
  20  * 3. All advertising materials mentioning features or use of this
  21  *    software must display the following acknowledgment:
  22  *    "This product includes software developed by the OpenSSL Project
  23  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
  24  *
  25  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
  26  *    endorse or promote products derived from this software without
  27  *    prior written permission. For written permission, please contact
  28  *    licensing@OpenSSL.org.
  29  *
  30  * 5. Products derived from this software may not be called "OpenSSL"
  31  *    nor may "OpenSSL" appear in their names without prior written
  32  *    permission of the OpenSSL Project.
  33  *
  34  * 6. Redistributions of any form whatsoever must retain the following
  35  *    acknowledgment:
  36  *    "This product includes software developed by the OpenSSL Project
  37  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
  38  *
  39  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
  40  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  41  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
  42  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
  43  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
  44  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
  45  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
  46  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  47  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
  48  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
  49  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
  50  * OF THE POSSIBILITY OF SUCH DAMAGE.
  51  * ====================================================================
  52  *
  53  * This product includes cryptographic software written by Eric Young
  54  * (eay@cryptsoft.com).  This product includes software written by Tim
  55  * Hudson (tjh@cryptsoft.com).
  56  *
  57  */
  58
  59 #include <stdio.h>
  60 #include "internal/cryptlib.h"
  61 #include <openssl/x509.h>
  62 #include <openssl/asn1.h>
  63 #include <openssl/dh.h>
  64 #include <openssl/bn.h>
  65 #include "internal/asn1_int.h"
  66 #include "internal/evp_int.h"
  67 #include <openssl/cms.h>
  68
  69 /*
  70  * i2d/d2i like DH parameter functions which use the appropriate routine for
  71  * PKCS#3 DH or X9.42 DH.
  72  */
  73
  74 static DH *d2i_dhp(const EVP_PKEY *pkey, const unsigned char **pp,
  75                    long length)
  76 {
  77     if (pkey->ameth == &dhx_asn1_meth)
  78         return d2i_DHxparams(NULL, pp, length);
  79     return d2i_DHparams(NULL, pp, length);
  80 }
  81
  82 static int i2d_dhp(const EVP_PKEY *pkey, const DH *a, unsigned char **pp)
  83 {
  84     if (pkey->ameth == &dhx_asn1_meth)
  85         return i2d_DHxparams(a, pp);
  86     return i2d_DHparams(a, pp);
  87 }
  88
  89 static void int_dh_free(EVP_PKEY *pkey)
  90 {
  91     DH_free(pkey->pkey.dh);
  92 }
  93
  94 static int dh_pub_decode(EVP_PKEY *pkey, X509_PUBKEY *pubkey)
  95 {
  96     const unsigned char *p, *pm;
  97     int pklen, pmlen;
  98     int ptype;
  99     void *pval;
 100     ASN1_STRING *pstr;
 101     X509_ALGOR *palg;
 102     ASN1_INTEGER *public_key = NULL;
 103
 104     DH *dh = NULL;
 105
 106     if (!X509_PUBKEY_get0_param(NULL, &p, &pklen, &palg, pubkey))
 107         return 0;
 108     X509_ALGOR_get0(NULL, &ptype, &pval, palg);
 109
 110     if (ptype != V_ASN1_SEQUENCE) {
 111         DHerr(DH_F_DH_PUB_DECODE, DH_R_PARAMETER_ENCODING_ERROR);
 112         goto err;
 113     }
 114
 115     pstr = pval;
 116     pm = pstr->data;
 117     pmlen = pstr->length;
 118
 119     if ((dh = d2i_dhp(pkey, &pm, pmlen)) == NULL) {
 120         DHerr(DH_F_DH_PUB_DECODE, DH_R_DECODE_ERROR);
 121         goto err;
 122     }
 123
 124     if ((public_key = d2i_ASN1_INTEGER(NULL, &p, pklen)) == NULL) {
 125         DHerr(DH_F_DH_PUB_DECODE, DH_R_DECODE_ERROR);
 126         goto err;
 127     }
 128
 129     /* We have parameters now set public key */
 130     if ((dh->pub_key = ASN1_INTEGER_to_BN(public_key, NULL)) == NULL) {
 131         DHerr(DH_F_DH_PUB_DECODE, DH_R_BN_DECODE_ERROR);
 132         goto err;
 133     }
 134
 135     ASN1_INTEGER_free(public_key);
 136     EVP_PKEY_assign(pkey, pkey->ameth->pkey_id, dh);
 137     return 1;
 138
 139  err:
 140     ASN1_INTEGER_free(public_key);
 141     DH_free(dh);
 142     return 0;
 143
 144 }
 145
 146 static int dh_pub_encode(X509_PUBKEY *pk, const EVP_PKEY *pkey)
 147 {
 148     DH *dh;
 149     int ptype;
 150     unsigned char *penc = NULL;
 151     int penclen;
 152     ASN1_STRING *str;
 153     ASN1_INTEGER *pub_key = NULL;
 154
 155     dh = pkey->pkey.dh;
 156
 157     str = ASN1_STRING_new();
 158     if (str == NULL) {
 159         DHerr(DH_F_DH_PUB_ENCODE, ERR_R_MALLOC_FAILURE);
 160         goto err;
 161     }
 162     str->length = i2d_dhp(pkey, dh, &str->data);
 163     if (str->length <= 0) {
 164         DHerr(DH_F_DH_PUB_ENCODE, ERR_R_MALLOC_FAILURE);
 165         goto err;
 166     }
 167     ptype = V_ASN1_SEQUENCE;
 168
 169     pub_key = BN_to_ASN1_INTEGER(dh->pub_key, NULL);
 170     if (!pub_key)
 171         goto err;
 172
 173     penclen = i2d_ASN1_INTEGER(pub_key, &penc);
 174
 175     ASN1_INTEGER_free(pub_key);
 176
 177     if (penclen <= 0) {
 178         DHerr(DH_F_DH_PUB_ENCODE, ERR_R_MALLOC_FAILURE);
 179         goto err;
 180     }
 181
 182     if (X509_PUBKEY_set0_param(pk, OBJ_nid2obj(pkey->ameth->pkey_id),
 183                                ptype, str, penc, penclen))
 184         return 1;
 185
 186  err:
 187     OPENSSL_free(penc);
 188     ASN1_STRING_free(str);
 189
 190     return 0;
 191 }
 192
 193 /*
 194  * PKCS#8 DH is defined in PKCS#11 of all places. It is similar to DH in that
 195  * the AlgorithmIdentifier contains the parameters, the private key is
 196  * explicitly included and the pubkey must be recalculated.
 197  */
 198
 199 static int dh_priv_decode(EVP_PKEY *pkey, PKCS8_PRIV_KEY_INFO *p8)
 200 {
 201     const unsigned char *p, *pm;
 202     int pklen, pmlen;
 203     int ptype;
 204     void *pval;
 205     ASN1_STRING *pstr;
 206     X509_ALGOR *palg;
 207     ASN1_INTEGER *privkey = NULL;
 208
 209     DH *dh = NULL;
 210
 211     if (!PKCS8_pkey_get0(NULL, &p, &pklen, &palg, p8))
 212         return 0;
 213
 214     X509_ALGOR_get0(NULL, &ptype, &pval, palg);
 215
 216     if (ptype != V_ASN1_SEQUENCE)
 217         goto decerr;
 218     if ((privkey = d2i_ASN1_INTEGER(NULL, &p, pklen)) == NULL)
 219         goto decerr;
 220
 221     pstr = pval;
 222     pm = pstr->data;
 223     pmlen = pstr->length;
 224     if ((dh = d2i_dhp(pkey, &pm, pmlen)) == NULL)
 225         goto decerr;
 226
 227     /* We have parameters now set private key */
 228     if ((dh->priv_key = BN_secure_new()) == NULL
 229         || !ASN1_INTEGER_to_BN(privkey, dh->priv_key)) {
 230         DHerr(DH_F_DH_PRIV_DECODE, DH_R_BN_ERROR);
 231         goto dherr;
 232     }
 233     /* Calculate public key */
 234     if (!DH_generate_key(dh))
 235         goto dherr;
 236
 237     EVP_PKEY_assign(pkey, pkey->ameth->pkey_id, dh);
 238
 239     ASN1_STRING_clear_free(privkey);
 240
 241     return 1;
 242
 243  decerr:
 244     DHerr(DH_F_DH_PRIV_DECODE, EVP_R_DECODE_ERROR);
 245  dherr:
 246     DH_free(dh);
 247     ASN1_STRING_clear_free(privkey);
 248     return 0;
 249 }
 250
 251 static int dh_priv_encode(PKCS8_PRIV_KEY_INFO *p8, const EVP_PKEY *pkey)
 252 {
 253     ASN1_STRING *params = NULL;
 254     ASN1_INTEGER *prkey = NULL;
 255     unsigned char *dp = NULL;
 256     int dplen;
 257
 258     params = ASN1_STRING_new();
 259
 260     if (params == NULL) {
 261         DHerr(DH_F_DH_PRIV_ENCODE, ERR_R_MALLOC_FAILURE);
 262         goto err;
 263     }
 264
 265     params->length = i2d_dhp(pkey, pkey->pkey.dh, &params->data);
 266     if (params->length <= 0) {
 267         DHerr(DH_F_DH_PRIV_ENCODE, ERR_R_MALLOC_FAILURE);
 268         goto err;
 269     }
 270     params->type = V_ASN1_SEQUENCE;
 271
 272     /* Get private key into integer */
 273     prkey = BN_to_ASN1_INTEGER(pkey->pkey.dh->priv_key, NULL);
 274
 275     if (!prkey) {
 276         DHerr(DH_F_DH_PRIV_ENCODE, DH_R_BN_ERROR);
 277         goto err;
 278     }
 279
 280     dplen = i2d_ASN1_INTEGER(prkey, &dp);
 281
 282     ASN1_STRING_clear_free(prkey);
 283     prkey = NULL;
 284
 285     if (!PKCS8_pkey_set0(p8, OBJ_nid2obj(pkey->ameth->pkey_id), 0,
 286                          V_ASN1_SEQUENCE, params, dp, dplen))
 287         goto err;
 288
 289     return 1;
 290
 291  err:
 292     OPENSSL_free(dp);
 293     ASN1_STRING_free(params);
 294     ASN1_STRING_clear_free(prkey);
 295     return 0;
 296 }
 297
 298 static int dh_param_decode(EVP_PKEY *pkey,
 299                            const unsigned char **pder, int derlen)
 300 {
 301     DH *dh;
 302
 303     if ((dh = d2i_dhp(pkey, pder, derlen)) == NULL) {
 304         DHerr(DH_F_DH_PARAM_DECODE, ERR_R_DH_LIB);
 305         return 0;
 306     }
 307     EVP_PKEY_assign(pkey, pkey->ameth->pkey_id, dh);
 308     return 1;
 309 }
 310
 311 static int dh_param_encode(const EVP_PKEY *pkey, unsigned char **pder)
 312 {
 313     return i2d_dhp(pkey, pkey->pkey.dh, pder);
 314 }
 315
 316 static int do_dh_print(BIO *bp, const DH *x, int indent, int ptype)
 317 {
 318     int reason = ERR_R_BUF_LIB;
 319     const char *ktype = NULL;
 320     BIGNUM *priv_key, *pub_key;
 321
 322     if (ptype == 2)
 323         priv_key = x->priv_key;
 324     else
 325         priv_key = NULL;
 326
 327     if (ptype > 0)
 328         pub_key = x->pub_key;
 329     else
 330         pub_key = NULL;
 331
 332     if (priv_key == NULL && pub_key == NULL) {
 333         reason = ERR_R_PASSED_NULL_PARAMETER;
 334         goto err;
 335     }
 336
 337     if (ptype == 2)
 338         ktype = "DH Private-Key";
 339     else if (ptype == 1)
 340         ktype = "DH Public-Key";
 341     else
 342         ktype = "DH Parameters";
 343
 344     BIO_indent(bp, indent, 128);
 345     if (BIO_printf(bp, "%s: (%d bit)\n", ktype, BN_num_bits(x->p)) <= 0)
 346         goto err;
 347     indent += 4;
 348
 349     if (!ASN1_bn_print(bp, "private-key:", priv_key, NULL, indent))
 350         goto err;
 351     if (!ASN1_bn_print(bp, "public-key:", pub_key, NULL, indent))
 352         goto err;
 353
 354     if (!ASN1_bn_print(bp, "prime:", x->p, NULL, indent))
 355         goto err;
 356     if (!ASN1_bn_print(bp, "generator:", x->g, NULL, indent))
 357         goto err;
 358     if (x->q && !ASN1_bn_print(bp, "subgroup order:", x->q, NULL, indent))
 359         goto err;
 360     if (x->j && !ASN1_bn_print(bp, "subgroup factor:", x->j, NULL, indent))
 361         goto err;
 362     if (x->seed) {
 363         int i;
 364         BIO_indent(bp, indent, 128);
 365         BIO_puts(bp, "seed:");
 366         for (i = 0; i < x->seedlen; i++) {
 367             if ((i % 15) == 0) {
 368                 if (BIO_puts(bp, "\n") <= 0
 369                     || !BIO_indent(bp, indent + 4, 128))
 370                     goto err;
 371             }
 372             if (BIO_printf(bp, "%02x%s", x->seed[i],
 373                            ((i + 1) == x->seedlen) ? "" : ":") <= 0)
 374                 goto err;
 375         }
 376         if (BIO_write(bp, "\n", 1) <= 0)
 377             return (0);
 378     }
 379     if (x->counter && !ASN1_bn_print(bp, "counter:", x->counter, NULL, indent))
 380         goto err;
 381     if (x->length != 0) {
 382         BIO_indent(bp, indent, 128);
 383         if (BIO_printf(bp, "recommended-private-length: %d bits\n",
 384                        (int)x->length) <= 0)
 385             goto err;
 386     }
 387
 388     return 1;
 389
 390  err:
 391     DHerr(DH_F_DO_DH_PRINT, reason);
 392     return 0;
 393 }
 394
 395 static int int_dh_size(const EVP_PKEY *pkey)
 396 {
 397     return (DH_size(pkey->pkey.dh));
 398 }
 399
 400 static int dh_bits(const EVP_PKEY *pkey)
 401 {
 402     return BN_num_bits(pkey->pkey.dh->p);
 403 }
 404
 405 static int dh_security_bits(const EVP_PKEY *pkey)
 406 {
 407     return DH_security_bits(pkey->pkey.dh);
 408 }
 409
 410 static int dh_cmp_parameters(const EVP_PKEY *a, const EVP_PKEY *b)
 411 {
 412     if (BN_cmp(a->pkey.dh->p, b->pkey.dh->p) ||
 413         BN_cmp(a->pkey.dh->g, b->pkey.dh->g))
 414         return 0;
 415     else if (a->ameth == &dhx_asn1_meth) {
 416         if (BN_cmp(a->pkey.dh->q, b->pkey.dh->q))
 417             return 0;
 418     }
 419     return 1;
 420 }
 421
 422 static int int_dh_bn_cpy(BIGNUM **dst, const BIGNUM *src)
 423 {
 424     BIGNUM *a;
 425     if (src) {
 426         a = BN_dup(src);
 427         if (!a)
 428             return 0;
 429     } else
 430         a = NULL;
 431     BN_free(*dst);
 432     *dst = a;
 433     return 1;
 434 }
 435
 436 static int int_dh_param_copy(DH *to, const DH *from, int is_x942)
 437 {
 438     if (is_x942 == -1)
 439         is_x942 = ! !from->q;
 440     if (!int_dh_bn_cpy(&to->p, from->p))
 441         return 0;
 442     if (!int_dh_bn_cpy(&to->g, from->g))
 443         return 0;
 444     if (is_x942) {
 445         if (!int_dh_bn_cpy(&to->q, from->q))
 446             return 0;
 447         if (!int_dh_bn_cpy(&to->j, from->j))
 448             return 0;
 449         OPENSSL_free(to->seed);
 450         to->seed = NULL;
 451         to->seedlen = 0;
 452         if (from->seed) {
 453             to->seed = OPENSSL_memdup(from->seed, from->seedlen);
 454             if (!to->seed)
 455                 return 0;
 456             to->seedlen = from->seedlen;
 457         }
 458     } else
 459         to->length = from->length;
 460     return 1;
 461 }
 462
 463 DH *DHparams_dup(DH *dh)
 464 {
 465     DH *ret;
 466     ret = DH_new();
 467     if (ret == NULL)
 468         return NULL;
 469     if (!int_dh_param_copy(ret, dh, -1)) {
 470         DH_free(ret);
 471         return NULL;
 472     }
 473     return ret;
 474 }
 475
 476 static int dh_copy_parameters(EVP_PKEY *to, const EVP_PKEY *from)
 477 {
 478     if (to->pkey.dh == NULL) {
 479         to->pkey.dh = DH_new();
 480         if (to->pkey.dh == NULL)
 481             return 0;
 482     }
 483     return int_dh_param_copy(to->pkey.dh, from->pkey.dh,
 484                              from->ameth == &dhx_asn1_meth);
 485 }
 486
 487 static int dh_missing_parameters(const EVP_PKEY *a)
 488 {
 489     if (!a->pkey.dh->p || !a->pkey.dh->g)
 490         return 1;
 491     return 0;
 492 }
 493
 494 static int dh_pub_cmp(const EVP_PKEY *a, const EVP_PKEY *b)
 495 {
 496     if (dh_cmp_parameters(a, b) == 0)
 497         return 0;
 498     if (BN_cmp(b->pkey.dh->pub_key, a->pkey.dh->pub_key) != 0)
 499         return 0;
 500     else
 501         return 1;
 502 }
 503
 504 static int dh_param_print(BIO *bp, const EVP_PKEY *pkey, int indent,
 505                           ASN1_PCTX *ctx)
 506 {
 507     return do_dh_print(bp, pkey->pkey.dh, indent, 0);
 508 }
 509
 510 static int dh_public_print(BIO *bp, const EVP_PKEY *pkey, int indent,
 511                            ASN1_PCTX *ctx)
 512 {
 513     return do_dh_print(bp, pkey->pkey.dh, indent, 1);
 514 }
 515
 516 static int dh_private_print(BIO *bp, const EVP_PKEY *pkey, int indent,
 517                             ASN1_PCTX *ctx)
 518 {
 519     return do_dh_print(bp, pkey->pkey.dh, indent, 2);
 520 }
 521
 522 int DHparams_print(BIO *bp, const DH *x)
 523 {
 524     return do_dh_print(bp, x, 4, 0);
 525 }
 526
 527 #ifndef OPENSSL_NO_CMS
 528 static int dh_cms_decrypt(CMS_RecipientInfo *ri);
 529 static int dh_cms_encrypt(CMS_RecipientInfo *ri);
 530 #endif
 531
 532 static int dh_pkey_ctrl(EVP_PKEY *pkey, int op, long arg1, void *arg2)
 533 {
 534     switch (op) {
 535 #ifndef OPENSSL_NO_CMS
 536
 537     case ASN1_PKEY_CTRL_CMS_ENVELOPE:
 538         if (arg1 == 1)
 539             return dh_cms_decrypt(arg2);
 540         else if (arg1 == 0)
 541             return dh_cms_encrypt(arg2);
 542         return -2;
 543
 544     case ASN1_PKEY_CTRL_CMS_RI_TYPE:
 545         *(int *)arg2 = CMS_RECIPINFO_AGREE;
 546         return 1;
 547 #endif
 548     default:
 549         return -2;
 550     }
 551
 552 }
 553
 554 const EVP_PKEY_ASN1_METHOD dh_asn1_meth = {
 555     EVP_PKEY_DH,
 556     EVP_PKEY_DH,
 557     0,
 558
 559     "DH",
 560     "OpenSSL PKCS#3 DH method",
 561
 562     dh_pub_decode,
 563     dh_pub_encode,
 564     dh_pub_cmp,
 565     dh_public_print,
 566
 567     dh_priv_decode,
 568     dh_priv_encode,
 569     dh_private_print,
 570
 571     int_dh_size,
 572     dh_bits,
 573     dh_security_bits,
 574
 575     dh_param_decode,
 576     dh_param_encode,
 577     dh_missing_parameters,
 578     dh_copy_parameters,
 579     dh_cmp_parameters,
 580     dh_param_print,
 581     0,
 582
 583     int_dh_free,
 584     0
 585 };
 586
 587 const EVP_PKEY_ASN1_METHOD dhx_asn1_meth = {
 588     EVP_PKEY_DHX,
 589     EVP_PKEY_DHX,
 590     0,
 591
 592     "X9.42 DH",
 593     "OpenSSL X9.42 DH method",
 594
 595     dh_pub_decode,
 596     dh_pub_encode,
 597     dh_pub_cmp,
 598     dh_public_print,
 599
 600     dh_priv_decode,
 601     dh_priv_encode,
 602     dh_private_print,
 603
 604     int_dh_size,
 605     dh_bits,
 606     dh_security_bits,
 607
 608     dh_param_decode,
 609     dh_param_encode,
 610     dh_missing_parameters,
 611     dh_copy_parameters,
 612     dh_cmp_parameters,
 613     dh_param_print,
 614     0,
 615
 616     int_dh_free,
 617     dh_pkey_ctrl
 618 };
 619
 620 #ifndef OPENSSL_NO_CMS
 621
 622 static int dh_cms_set_peerkey(EVP_PKEY_CTX *pctx,
 623                               X509_ALGOR *alg, ASN1_BIT_STRING *pubkey)
 624 {
 625     ASN1_OBJECT *aoid;
 626     int atype;
 627     void *aval;
 628     ASN1_INTEGER *public_key = NULL;
 629     int rv = 0;
 630     EVP_PKEY *pkpeer = NULL, *pk = NULL;
 631     DH *dhpeer = NULL;
 632     const unsigned char *p;
 633     int plen;
 634
 635     X509_ALGOR_get0(&aoid, &atype, &aval, alg);
 636     if (OBJ_obj2nid(aoid) != NID_dhpublicnumber)
 637         goto err;
 638     /* Only absent parameters allowed in RFC XXXX */
 639     if (atype != V_ASN1_UNDEF && atype == V_ASN1_NULL)
 640         goto err;
 641
 642     pk = EVP_PKEY_CTX_get0_pkey(pctx);
 643     if (!pk)
 644         goto err;
 645     if (pk->type != EVP_PKEY_DHX)
 646         goto err;
 647     /* Get parameters from parent key */
 648     dhpeer = DHparams_dup(pk->pkey.dh);
 649     /* We have parameters now set public key */
 650     plen = ASN1_STRING_length(pubkey);
 651     p = ASN1_STRING_data(pubkey);
 652     if (!p || !plen)
 653         goto err;
 654
 655     if ((public_key = d2i_ASN1_INTEGER(NULL, &p, plen)) == NULL) {
 656         DHerr(DH_F_DH_CMS_SET_PEERKEY, DH_R_DECODE_ERROR);
 657         goto err;
 658     }
 659
 660     /* We have parameters now set public key */
 661     if ((dhpeer->pub_key = ASN1_INTEGER_to_BN(public_key, NULL)) == NULL) {
 662         DHerr(DH_F_DH_CMS_SET_PEERKEY, DH_R_BN_DECODE_ERROR);
 663         goto err;
 664     }
 665
 666     pkpeer = EVP_PKEY_new();
 667     if (pkpeer == NULL)
 668         goto err;
 669     EVP_PKEY_assign(pkpeer, pk->ameth->pkey_id, dhpeer);
 670     dhpeer = NULL;
 671     if (EVP_PKEY_derive_set_peer(pctx, pkpeer) > 0)
 672         rv = 1;
 673  err:
 674     ASN1_INTEGER_free(public_key);
 675     EVP_PKEY_free(pkpeer);
 676     DH_free(dhpeer);
 677     return rv;
 678 }
 679
 680 static int dh_cms_set_shared_info(EVP_PKEY_CTX *pctx, CMS_RecipientInfo *ri)
 681 {
 682     int rv = 0;
 683
 684     X509_ALGOR *alg, *kekalg = NULL;
 685     ASN1_OCTET_STRING *ukm;
 686     const unsigned char *p;
 687     unsigned char *dukm = NULL;
 688     size_t dukmlen = 0;
 689     int keylen, plen;
 690     const EVP_CIPHER *kekcipher;
 691     EVP_CIPHER_CTX *kekctx;
 692
 693     if (!CMS_RecipientInfo_kari_get0_alg(ri, &alg, &ukm))
 694         goto err;
 695
 696     /*
 697      * For DH we only have one OID permissible. If ever any more get defined
 698      * we will need something cleverer.
 699      */
 700     if (OBJ_obj2nid(alg->algorithm) != NID_id_smime_alg_ESDH) {
 701         DHerr(DH_F_DH_CMS_SET_SHARED_INFO, DH_R_KDF_PARAMETER_ERROR);
 702         goto err;
 703     }
 704
 705     if (EVP_PKEY_CTX_set_dh_kdf_type(pctx, EVP_PKEY_DH_KDF_X9_42) <= 0)
 706         goto err;
 707
 708     if (EVP_PKEY_CTX_set_dh_kdf_md(pctx, EVP_sha1()) <= 0)
 709         goto err;
 710
 711     if (alg->parameter->type != V_ASN1_SEQUENCE)
 712         goto err;
 713
 714     p = alg->parameter->value.sequence->data;
 715     plen = alg->parameter->value.sequence->length;
 716     kekalg = d2i_X509_ALGOR(NULL, &p, plen);
 717     if (!kekalg)
 718         goto err;
 719     kekctx = CMS_RecipientInfo_kari_get0_ctx(ri);
 720     if (!kekctx)
 721         goto err;
 722     kekcipher = EVP_get_cipherbyobj(kekalg->algorithm);
 723     if (!kekcipher || EVP_CIPHER_mode(kekcipher) != EVP_CIPH_WRAP_MODE)
 724         goto err;
 725     if (!EVP_EncryptInit_ex(kekctx, kekcipher, NULL, NULL, NULL))
 726         goto err;
 727     if (EVP_CIPHER_asn1_to_param(kekctx, kekalg->parameter) <= 0)
 728         goto err;
 729
 730     keylen = EVP_CIPHER_CTX_key_length(kekctx);
 731     if (EVP_PKEY_CTX_set_dh_kdf_outlen(pctx, keylen) <= 0)
 732         goto err;
 733     /* Use OBJ_nid2obj to ensure we use built in OID that isn't freed */
 734     if (EVP_PKEY_CTX_set0_dh_kdf_oid(pctx,
 735                                      OBJ_nid2obj(EVP_CIPHER_type(kekcipher)))
 736         <= 0)
 737         goto err;
 738
 739     if (ukm) {
 740         dukmlen = ASN1_STRING_length(ukm);
 741         dukm = OPENSSL_memdup(ASN1_STRING_data(ukm), dukmlen);
 742         if (!dukm)
 743             goto err;
 744     }
 745
 746     if (EVP_PKEY_CTX_set0_dh_kdf_ukm(pctx, dukm, dukmlen) <= 0)
 747         goto err;
 748     dukm = NULL;
 749
 750     rv = 1;
 751  err:
 752     X509_ALGOR_free(kekalg);
 753     OPENSSL_free(dukm);
 754     return rv;
 755 }
 756
 757 static int dh_cms_decrypt(CMS_RecipientInfo *ri)
 758 {
 759     EVP_PKEY_CTX *pctx;
 760     pctx = CMS_RecipientInfo_get0_pkey_ctx(ri);
 761     if (!pctx)
 762         return 0;
 763     /* See if we need to set peer key */
 764     if (!EVP_PKEY_CTX_get0_peerkey(pctx)) {
 765         X509_ALGOR *alg;
 766         ASN1_BIT_STRING *pubkey;
 767         if (!CMS_RecipientInfo_kari_get0_orig_id(ri, &alg, &pubkey,
 768                                                  NULL, NULL, NULL))
 769             return 0;
 770         if (!alg || !pubkey)
 771             return 0;
 772         if (!dh_cms_set_peerkey(pctx, alg, pubkey)) {
 773             DHerr(DH_F_DH_CMS_DECRYPT, DH_R_PEER_KEY_ERROR);
 774             return 0;
 775         }
 776     }
 777     /* Set DH derivation parameters and initialise unwrap context */
 778     if (!dh_cms_set_shared_info(pctx, ri)) {
 779         DHerr(DH_F_DH_CMS_DECRYPT, DH_R_SHARED_INFO_ERROR);
 780         return 0;
 781     }
 782     return 1;
 783 }
 784
 785 static int dh_cms_encrypt(CMS_RecipientInfo *ri)
 786 {
 787     EVP_PKEY_CTX *pctx;
 788     EVP_PKEY *pkey;
 789     EVP_CIPHER_CTX *ctx;
 790     int keylen;
 791     X509_ALGOR *talg, *wrap_alg = NULL;
 792     ASN1_OBJECT *aoid;
 793     ASN1_BIT_STRING *pubkey;
 794     ASN1_STRING *wrap_str;
 795     ASN1_OCTET_STRING *ukm;
 796     unsigned char *penc = NULL, *dukm = NULL;
 797     int penclen;
 798     size_t dukmlen = 0;
 799     int rv = 0;
 800     int kdf_type, wrap_nid;
 801     const EVP_MD *kdf_md;
 802     pctx = CMS_RecipientInfo_get0_pkey_ctx(ri);
 803     if (!pctx)
 804         return 0;
 805     /* Get ephemeral key */
 806     pkey = EVP_PKEY_CTX_get0_pkey(pctx);
 807     if (!CMS_RecipientInfo_kari_get0_orig_id(ri, &talg, &pubkey,
 808                                              NULL, NULL, NULL))
 809         goto err;
 810     X509_ALGOR_get0(&aoid, NULL, NULL, talg);
 811     /* Is everything uninitialised? */
 812     if (aoid == OBJ_nid2obj(NID_undef)) {
 813         ASN1_INTEGER *pubk = BN_to_ASN1_INTEGER(pkey->pkey.dh->pub_key, NULL);
 814         if (!pubk)
 815             goto err;
 816         /* Set the key */
 817
 818         penclen = i2d_ASN1_INTEGER(pubk, &penc);
 819         ASN1_INTEGER_free(pubk);
 820         if (penclen <= 0)
 821             goto err;
 822         ASN1_STRING_set0(pubkey, penc, penclen);
 823         pubkey->flags &= ~(ASN1_STRING_FLAG_BITS_LEFT | 0x07);
 824         pubkey->flags |= ASN1_STRING_FLAG_BITS_LEFT;
 825
 826         penc = NULL;
 827         X509_ALGOR_set0(talg, OBJ_nid2obj(NID_dhpublicnumber),
 828                         V_ASN1_UNDEF, NULL);
 829     }
 830
 831     /* See if custom parameters set */
 832     kdf_type = EVP_PKEY_CTX_get_dh_kdf_type(pctx);
 833     if (kdf_type <= 0)
 834         goto err;
 835     if (!EVP_PKEY_CTX_get_dh_kdf_md(pctx, &kdf_md))
 836         goto err;
 837
 838     if (kdf_type == EVP_PKEY_DH_KDF_NONE) {
 839         kdf_type = EVP_PKEY_DH_KDF_X9_42;
 840         if (EVP_PKEY_CTX_set_dh_kdf_type(pctx, kdf_type) <= 0)
 841             goto err;
 842     } else if (kdf_type != EVP_PKEY_DH_KDF_X9_42)
 843         /* Unknown KDF */
 844         goto err;
 845     if (kdf_md == NULL) {
 846         /* Only SHA1 supported */
 847         kdf_md = EVP_sha1();
 848         if (EVP_PKEY_CTX_set_dh_kdf_md(pctx, kdf_md) <= 0)
 849             goto err;
 850     } else if (EVP_MD_type(kdf_md) != NID_sha1)
 851         /* Unsupported digest */
 852         goto err;
 853
 854     if (!CMS_RecipientInfo_kari_get0_alg(ri, &talg, &ukm))
 855         goto err;
 856
 857     /* Get wrap NID */
 858     ctx = CMS_RecipientInfo_kari_get0_ctx(ri);
 859     wrap_nid = EVP_CIPHER_CTX_type(ctx);
 860     if (EVP_PKEY_CTX_set0_dh_kdf_oid(pctx, OBJ_nid2obj(wrap_nid)) <= 0)
 861         goto err;
 862     keylen = EVP_CIPHER_CTX_key_length(ctx);
 863
 864     /* Package wrap algorithm in an AlgorithmIdentifier */
 865
 866     wrap_alg = X509_ALGOR_new();
 867     if (wrap_alg == NULL)
 868         goto err;
 869     wrap_alg->algorithm = OBJ_nid2obj(wrap_nid);
 870     wrap_alg->parameter = ASN1_TYPE_new();
 871     if (wrap_alg->parameter == NULL)
 872         goto err;
 873     if (EVP_CIPHER_param_to_asn1(ctx, wrap_alg->parameter) <= 0)
 874         goto err;
 875     if (ASN1_TYPE_get(wrap_alg->parameter) == NID_undef) {
 876         ASN1_TYPE_free(wrap_alg->parameter);
 877         wrap_alg->parameter = NULL;
 878     }
 879
 880     if (EVP_PKEY_CTX_set_dh_kdf_outlen(pctx, keylen) <= 0)
 881         goto err;
 882
 883     if (ukm) {
 884         dukmlen = ASN1_STRING_length(ukm);
 885         dukm = OPENSSL_memdup(ASN1_STRING_data(ukm), dukmlen);
 886         if (!dukm)
 887             goto err;
 888     }
 889
 890     if (EVP_PKEY_CTX_set0_dh_kdf_ukm(pctx, dukm, dukmlen) <= 0)
 891         goto err;
 892     dukm = NULL;
 893
 894     /*
 895      * Now need to wrap encoding of wrap AlgorithmIdentifier into parameter
 896      * of another AlgorithmIdentifier.
 897      */
 898     penc = NULL;
 899     penclen = i2d_X509_ALGOR(wrap_alg, &penc);
 900     if (!penc || !penclen)
 901         goto err;
 902     wrap_str = ASN1_STRING_new();
 903     if (wrap_str == NULL)
 904         goto err;
 905     ASN1_STRING_set0(wrap_str, penc, penclen);
 906     penc = NULL;
 907     X509_ALGOR_set0(talg, OBJ_nid2obj(NID_id_smime_alg_ESDH),
 908                     V_ASN1_SEQUENCE, wrap_str);
 909
 910     rv = 1;
 911
 912  err:
 913     OPENSSL_free(penc);
 914     X509_ALGOR_free(wrap_alg);
 915     return rv;
 916 }
 917
 918 #endif