crypto/dh/dh_ameth.c

   1 /*
   2  * Copyright 2006-2016 The OpenSSL Project Authors. All Rights Reserved.
   3  *
   4  * Licensed under the Apache License 2.0 (the "License").  You may not use
   5  * this file except in compliance with the License.  You can obtain a copy
   6  * in the file LICENSE in the source distribution or at
   7  * https://www.openssl.org/source/license.html
   8  */
   9
  10 /*
  11  * DH low level APIs are deprecated for public use, but still ok for
  12  * internal use.
  13  */
  14 #include "internal/deprecated.h"
  15
  16 #include <stdio.h>
  17 #include "internal/cryptlib.h"
  18 #include <openssl/x509.h>
  19 #include <openssl/asn1.h>
  20 #include "dh_local.h"
  21 #include <openssl/bn.h>
  22 #include "crypto/asn1.h"
  23 #include "crypto/dh.h"
  24 #include "crypto/evp.h"
  25 #include <openssl/cms.h>
  26 #include <openssl/core_names.h>
  27 #include "internal/param_build.h"
  28
  29 /*
  30  * i2d/d2i like DH parameter functions which use the appropriate routine for
  31  * PKCS#3 DH or X9.42 DH.
  32  */
  33
  34 static DH *d2i_dhp(const EVP_PKEY *pkey, const unsigned char **pp,
  35                    long length)
  36 {
  37     if (pkey->ameth == &dhx_asn1_meth)
  38         return d2i_DHxparams(NULL, pp, length);
  39     return d2i_DHparams(NULL, pp, length);
  40 }
  41
  42 static int i2d_dhp(const EVP_PKEY *pkey, const DH *a, unsigned char **pp)
  43 {
  44     if (pkey->ameth == &dhx_asn1_meth)
  45         return i2d_DHxparams(a, pp);
  46     return i2d_DHparams(a, pp);
  47 }
  48
  49 static void int_dh_free(EVP_PKEY *pkey)
  50 {
  51     DH_free(pkey->pkey.dh);
  52 }
  53
  54 static int dh_pub_decode(EVP_PKEY *pkey, X509_PUBKEY *pubkey)
  55 {
  56     const unsigned char *p, *pm;
  57     int pklen, pmlen;
  58     int ptype;
  59     const void *pval;
  60     const ASN1_STRING *pstr;
  61     X509_ALGOR *palg;
  62     ASN1_INTEGER *public_key = NULL;
  63
  64     DH *dh = NULL;
  65
  66     if (!X509_PUBKEY_get0_param(NULL, &p, &pklen, &palg, pubkey))
  67         return 0;
  68     X509_ALGOR_get0(NULL, &ptype, &pval, palg);
  69
  70     if (ptype != V_ASN1_SEQUENCE) {
  71         DHerr(DH_F_DH_PUB_DECODE, DH_R_PARAMETER_ENCODING_ERROR);
  72         goto err;
  73     }
  74
  75     pstr = pval;
  76     pm = pstr->data;
  77     pmlen = pstr->length;
  78
  79     if ((dh = d2i_dhp(pkey, &pm, pmlen)) == NULL) {
  80         DHerr(DH_F_DH_PUB_DECODE, DH_R_DECODE_ERROR);
  81         goto err;
  82     }
  83
  84     if ((public_key = d2i_ASN1_INTEGER(NULL, &p, pklen)) == NULL) {
  85         DHerr(DH_F_DH_PUB_DECODE, DH_R_DECODE_ERROR);
  86         goto err;
  87     }
  88
  89     /* We have parameters now set public key */
  90     if ((dh->pub_key = ASN1_INTEGER_to_BN(public_key, NULL)) == NULL) {
  91         DHerr(DH_F_DH_PUB_DECODE, DH_R_BN_DECODE_ERROR);
  92         goto err;
  93     }
  94
  95     ASN1_INTEGER_free(public_key);
  96     EVP_PKEY_assign(pkey, pkey->ameth->pkey_id, dh);
  97     return 1;
  98
  99  err:
 100     ASN1_INTEGER_free(public_key);
 101     DH_free(dh);
 102     return 0;
 103
 104 }
 105
 106 static int dh_pub_encode(X509_PUBKEY *pk, const EVP_PKEY *pkey)
 107 {
 108     DH *dh;
 109     int ptype;
 110     unsigned char *penc = NULL;
 111     int penclen;
 112     ASN1_STRING *str;
 113     ASN1_INTEGER *pub_key = NULL;
 114
 115     dh = pkey->pkey.dh;
 116
 117     str = ASN1_STRING_new();
 118     if (str == NULL) {
 119         DHerr(DH_F_DH_PUB_ENCODE, ERR_R_MALLOC_FAILURE);
 120         goto err;
 121     }
 122     str->length = i2d_dhp(pkey, dh, &str->data);
 123     if (str->length <= 0) {
 124         DHerr(DH_F_DH_PUB_ENCODE, ERR_R_MALLOC_FAILURE);
 125         goto err;
 126     }
 127     ptype = V_ASN1_SEQUENCE;
 128
 129     pub_key = BN_to_ASN1_INTEGER(dh->pub_key, NULL);
 130     if (pub_key == NULL)
 131         goto err;
 132
 133     penclen = i2d_ASN1_INTEGER(pub_key, &penc);
 134
 135     ASN1_INTEGER_free(pub_key);
 136
 137     if (penclen <= 0) {
 138         DHerr(DH_F_DH_PUB_ENCODE, ERR_R_MALLOC_FAILURE);
 139         goto err;
 140     }
 141
 142     if (X509_PUBKEY_set0_param(pk, OBJ_nid2obj(pkey->ameth->pkey_id),
 143                                ptype, str, penc, penclen))
 144         return 1;
 145
 146  err:
 147     OPENSSL_free(penc);
 148     ASN1_STRING_free(str);
 149
 150     return 0;
 151 }
 152
 153 /*
 154  * PKCS#8 DH is defined in PKCS#11 of all places. It is similar to DH in that
 155  * the AlgorithmIdentifier contains the parameters, the private key is
 156  * explicitly included and the pubkey must be recalculated.
 157  */
 158
 159 static int dh_priv_decode(EVP_PKEY *pkey, const PKCS8_PRIV_KEY_INFO *p8)
 160 {
 161     const unsigned char *p, *pm;
 162     int pklen, pmlen;
 163     int ptype;
 164     const void *pval;
 165     const ASN1_STRING *pstr;
 166     const X509_ALGOR *palg;
 167     ASN1_INTEGER *privkey = NULL;
 168     DH *dh = NULL;
 169
 170     if (!PKCS8_pkey_get0(NULL, &p, &pklen, &palg, p8))
 171         return 0;
 172
 173     X509_ALGOR_get0(NULL, &ptype, &pval, palg);
 174
 175     if (ptype != V_ASN1_SEQUENCE)
 176         goto decerr;
 177     if ((privkey = d2i_ASN1_INTEGER(NULL, &p, pklen)) == NULL)
 178         goto decerr;
 179
 180     pstr = pval;
 181     pm = pstr->data;
 182     pmlen = pstr->length;
 183     if ((dh = d2i_dhp(pkey, &pm, pmlen)) == NULL)
 184         goto decerr;
 185
 186     /* We have parameters now set private key */
 187     if ((dh->priv_key = BN_secure_new()) == NULL
 188         || !ASN1_INTEGER_to_BN(privkey, dh->priv_key)) {
 189         DHerr(DH_F_DH_PRIV_DECODE, DH_R_BN_ERROR);
 190         goto dherr;
 191     }
 192     /* Calculate public key, increments dirty_cnt */
 193     if (!DH_generate_key(dh))
 194         goto dherr;
 195
 196     EVP_PKEY_assign(pkey, pkey->ameth->pkey_id, dh);
 197
 198     ASN1_STRING_clear_free(privkey);
 199
 200     return 1;
 201
 202  decerr:
 203     DHerr(DH_F_DH_PRIV_DECODE, EVP_R_DECODE_ERROR);
 204  dherr:
 205     DH_free(dh);
 206     ASN1_STRING_clear_free(privkey);
 207     return 0;
 208 }
 209
 210 static int dh_priv_encode(PKCS8_PRIV_KEY_INFO *p8, const EVP_PKEY *pkey)
 211 {
 212     ASN1_STRING *params = NULL;
 213     ASN1_INTEGER *prkey = NULL;
 214     unsigned char *dp = NULL;
 215     int dplen;
 216
 217     params = ASN1_STRING_new();
 218
 219     if (params == NULL) {
 220         DHerr(DH_F_DH_PRIV_ENCODE, ERR_R_MALLOC_FAILURE);
 221         goto err;
 222     }
 223
 224     params->length = i2d_dhp(pkey, pkey->pkey.dh, &params->data);
 225     if (params->length <= 0) {
 226         DHerr(DH_F_DH_PRIV_ENCODE, ERR_R_MALLOC_FAILURE);
 227         goto err;
 228     }
 229     params->type = V_ASN1_SEQUENCE;
 230
 231     /* Get private key into integer */
 232     prkey = BN_to_ASN1_INTEGER(pkey->pkey.dh->priv_key, NULL);
 233
 234     if (prkey == NULL) {
 235         DHerr(DH_F_DH_PRIV_ENCODE, DH_R_BN_ERROR);
 236         goto err;
 237     }
 238
 239     dplen = i2d_ASN1_INTEGER(prkey, &dp);
 240
 241     ASN1_STRING_clear_free(prkey);
 242     prkey = NULL;
 243
 244     if (!PKCS8_pkey_set0(p8, OBJ_nid2obj(pkey->ameth->pkey_id), 0,
 245                          V_ASN1_SEQUENCE, params, dp, dplen))
 246         goto err;
 247
 248     return 1;
 249
 250  err:
 251     OPENSSL_free(dp);
 252     ASN1_STRING_free(params);
 253     ASN1_STRING_clear_free(prkey);
 254     return 0;
 255 }
 256
 257 static int dh_param_decode(EVP_PKEY *pkey,
 258                            const unsigned char **pder, int derlen)
 259 {
 260     DH *dh;
 261
 262     if ((dh = d2i_dhp(pkey, pder, derlen)) == NULL) {
 263         DHerr(DH_F_DH_PARAM_DECODE, ERR_R_DH_LIB);
 264         return 0;
 265     }
 266     dh->dirty_cnt++;
 267     EVP_PKEY_assign(pkey, pkey->ameth->pkey_id, dh);
 268     return 1;
 269 }
 270
 271 static int dh_param_encode(const EVP_PKEY *pkey, unsigned char **pder)
 272 {
 273     return i2d_dhp(pkey, pkey->pkey.dh, pder);
 274 }
 275
 276 static int do_dh_print(BIO *bp, const DH *x, int indent, int ptype)
 277 {
 278     int reason = ERR_R_BUF_LIB;
 279     const char *ktype = NULL;
 280     BIGNUM *priv_key, *pub_key;
 281
 282     if (ptype == 2)
 283         priv_key = x->priv_key;
 284     else
 285         priv_key = NULL;
 286
 287     if (ptype > 0)
 288         pub_key = x->pub_key;
 289     else
 290         pub_key = NULL;
 291
 292     if (x->params.p == NULL || (ptype == 2 && priv_key == NULL)
 293             || (ptype > 0 && pub_key == NULL)) {
 294         reason = ERR_R_PASSED_NULL_PARAMETER;
 295         goto err;
 296     }
 297
 298     if (ptype == 2)
 299         ktype = "DH Private-Key";
 300     else if (ptype == 1)
 301         ktype = "DH Public-Key";
 302     else
 303         ktype = "DH Parameters";
 304
 305     if (!BIO_indent(bp, indent, 128)
 306             || BIO_printf(bp, "%s: (%d bit)\n", ktype, DH_bits(x)) <= 0)
 307         goto err;
 308     indent += 4;
 309
 310     if (!ASN1_bn_print(bp, "private-key:", priv_key, NULL, indent))
 311         goto err;
 312     if (!ASN1_bn_print(bp, "public-key:", pub_key, NULL, indent))
 313         goto err;
 314
 315     if (!ffc_params_print(bp, &x->params, indent))
 316         goto err;
 317
 318     if (x->length != 0) {
 319         if (!BIO_indent(bp, indent, 128)
 320                 || BIO_printf(bp, "recommended-private-length: %d bits\n",
 321                               (int)x->length) <= 0)
 322             goto err;
 323     }
 324
 325     return 1;
 326
 327  err:
 328     DHerr(DH_F_DO_DH_PRINT, reason);
 329     return 0;
 330 }
 331
 332 static int int_dh_size(const EVP_PKEY *pkey)
 333 {
 334     return DH_size(pkey->pkey.dh);
 335 }
 336
 337 static int dh_bits(const EVP_PKEY *pkey)
 338 {
 339     return DH_bits(pkey->pkey.dh);
 340 }
 341
 342 static int dh_security_bits(const EVP_PKEY *pkey)
 343 {
 344     return DH_security_bits(pkey->pkey.dh);
 345 }
 346
 347 static int dh_cmp_parameters(const EVP_PKEY *a, const EVP_PKEY *b)
 348 {
 349     return ffc_params_cmp(&a->pkey.dh->params, &a->pkey.dh->params,
 350                           a->ameth != &dhx_asn1_meth);
 351 }
 352
 353 static int int_dh_param_copy(DH *to, const DH *from, int is_x942)
 354 {
 355     if (is_x942 == -1)
 356         is_x942 = (from->params.q != NULL);
 357     if (!ffc_params_copy(&to->params, &from->params))
 358         return 0;
 359     if (!is_x942)
 360         to->length = from->length;
 361     to->dirty_cnt++;
 362     return 1;
 363 }
 364
 365 DH *DHparams_dup(const DH *dh)
 366 {
 367     DH *ret;
 368     ret = DH_new();
 369     if (ret == NULL)
 370         return NULL;
 371     if (!int_dh_param_copy(ret, dh, -1)) {
 372         DH_free(ret);
 373         return NULL;
 374     }
 375     return ret;
 376 }
 377
 378 static int dh_copy_parameters(EVP_PKEY *to, const EVP_PKEY *from)
 379 {
 380     if (to->pkey.dh == NULL) {
 381         to->pkey.dh = DH_new();
 382         if (to->pkey.dh == NULL)
 383             return 0;
 384     }
 385     return int_dh_param_copy(to->pkey.dh, from->pkey.dh,
 386                              from->ameth == &dhx_asn1_meth);
 387 }
 388
 389 static int dh_missing_parameters(const EVP_PKEY *a)
 390 {
 391     return a->pkey.dh == NULL
 392         || a->pkey.dh->params.p == NULL
 393         || a->pkey.dh->params.g == NULL;
 394 }
 395
 396 static int dh_pub_cmp(const EVP_PKEY *a, const EVP_PKEY *b)
 397 {
 398     if (dh_cmp_parameters(a, b) == 0)
 399         return 0;
 400     if (BN_cmp(b->pkey.dh->pub_key, a->pkey.dh->pub_key) != 0)
 401         return 0;
 402     else
 403         return 1;
 404 }
 405
 406 static int dh_param_print(BIO *bp, const EVP_PKEY *pkey, int indent,
 407                           ASN1_PCTX *ctx)
 408 {
 409     return do_dh_print(bp, pkey->pkey.dh, indent, 0);
 410 }
 411
 412 static int dh_public_print(BIO *bp, const EVP_PKEY *pkey, int indent,
 413                            ASN1_PCTX *ctx)
 414 {
 415     return do_dh_print(bp, pkey->pkey.dh, indent, 1);
 416 }
 417
 418 static int dh_private_print(BIO *bp, const EVP_PKEY *pkey, int indent,
 419                             ASN1_PCTX *ctx)
 420 {
 421     return do_dh_print(bp, pkey->pkey.dh, indent, 2);
 422 }
 423
 424 int DHparams_print(BIO *bp, const DH *x)
 425 {
 426     return do_dh_print(bp, x, 4, 0);
 427 }
 428
 429 #ifndef OPENSSL_NO_CMS
 430 static int dh_cms_decrypt(CMS_RecipientInfo *ri);
 431 static int dh_cms_encrypt(CMS_RecipientInfo *ri);
 432 #endif
 433
 434 static int dh_pkey_ctrl(EVP_PKEY *pkey, int op, long arg1, void *arg2)
 435 {
 436     switch (op) {
 437     case ASN1_PKEY_CTRL_SET1_TLS_ENCPT:
 438         return dh_buf2key(EVP_PKEY_get0_DH(pkey), arg2, arg1);
 439     case ASN1_PKEY_CTRL_GET1_TLS_ENCPT:
 440         return dh_key2buf(EVP_PKEY_get0_DH(pkey), arg2);
 441     default:
 442         return -2;
 443     }
 444 }
 445
 446 static int dhx_pkey_ctrl(EVP_PKEY *pkey, int op, long arg1, void *arg2)
 447 {
 448     switch (op) {
 449 #ifndef OPENSSL_NO_CMS
 450
 451     case ASN1_PKEY_CTRL_CMS_ENVELOPE:
 452         if (arg1 == 1)
 453             return dh_cms_decrypt(arg2);
 454         else if (arg1 == 0)
 455             return dh_cms_encrypt(arg2);
 456         return -2;
 457
 458     case ASN1_PKEY_CTRL_CMS_RI_TYPE:
 459         *(int *)arg2 = CMS_RECIPINFO_AGREE;
 460         return 1;
 461 #endif
 462     default:
 463         return -2;
 464     }
 465
 466 }
 467
 468 static int dh_pkey_public_check(const EVP_PKEY *pkey)
 469 {
 470     DH *dh = pkey->pkey.dh;
 471
 472     if (dh->pub_key == NULL) {
 473         DHerr(DH_F_DH_PKEY_PUBLIC_CHECK, DH_R_MISSING_PUBKEY);
 474         return 0;
 475     }
 476
 477     return DH_check_pub_key_ex(dh, dh->pub_key);
 478 }
 479
 480 static int dh_pkey_param_check(const EVP_PKEY *pkey)
 481 {
 482     DH *dh = pkey->pkey.dh;
 483
 484     return DH_check_ex(dh);
 485 }
 486
 487 static size_t dh_pkey_dirty_cnt(const EVP_PKEY *pkey)
 488 {
 489     return pkey->pkey.dh->dirty_cnt;
 490 }
 491
 492 static int dh_pkey_export_to(const EVP_PKEY *from, void *to_keydata,
 493                              EVP_KEYMGMT *to_keymgmt)
 494 {
 495     DH *dh = from->pkey.dh;
 496     OSSL_PARAM_BLD tmpl;
 497     const BIGNUM *p = DH_get0_p(dh), *g = DH_get0_g(dh), *q = DH_get0_q(dh);
 498     const BIGNUM *pub_key = DH_get0_pub_key(dh);
 499     const BIGNUM *priv_key = DH_get0_priv_key(dh);
 500     OSSL_PARAM *params;
 501     int rv;
 502
 503     /*
 504      * If the DH method is foreign, then we can't be sure of anything, and
 505      * can therefore not export or pretend to export.
 506      */
 507     if (dh_get_method(dh) != DH_OpenSSL())
 508         return 0;
 509
 510     if (p == NULL || g == NULL)
 511         return 0;
 512
 513     ossl_param_bld_init(&tmpl);
 514     if (!ossl_param_bld_push_BN(&tmpl, OSSL_PKEY_PARAM_FFC_P, p)
 515         || !ossl_param_bld_push_BN(&tmpl, OSSL_PKEY_PARAM_FFC_G, g))
 516         return 0;
 517     if (q != NULL) {
 518         if (!ossl_param_bld_push_BN(&tmpl, OSSL_PKEY_PARAM_FFC_Q, q))
 519             return 0;
 520     }
 521     /* A key must at least have a public part. */
 522     if (!ossl_param_bld_push_BN(&tmpl, OSSL_PKEY_PARAM_PUB_KEY, pub_key))
 523         return 0;
 524     if (priv_key != NULL) {
 525         if (!ossl_param_bld_push_BN(&tmpl, OSSL_PKEY_PARAM_PRIV_KEY,
 526                                     priv_key))
 527             return 0;
 528     }
 529
 530     if ((params = ossl_param_bld_to_param(&tmpl)) == NULL)
 531         return 0;
 532
 533     /* We export, the provider imports */
 534     rv = evp_keymgmt_import(to_keymgmt, to_keydata, OSSL_KEYMGMT_SELECT_ALL,
 535                             params);
 536
 537     ossl_param_bld_free(params);
 538
 539     return rv;
 540 }
 541
 542 const EVP_PKEY_ASN1_METHOD dh_asn1_meth = {
 543     EVP_PKEY_DH,
 544     EVP_PKEY_DH,
 545     0,
 546
 547     "DH",
 548     "OpenSSL PKCS#3 DH method",
 549
 550     dh_pub_decode,
 551     dh_pub_encode,
 552     dh_pub_cmp,
 553     dh_public_print,
 554
 555     dh_priv_decode,
 556     dh_priv_encode,
 557     dh_private_print,
 558
 559     int_dh_size,
 560     dh_bits,
 561     dh_security_bits,
 562
 563     dh_param_decode,
 564     dh_param_encode,
 565     dh_missing_parameters,
 566     dh_copy_parameters,
 567     dh_cmp_parameters,
 568     dh_param_print,
 569     0,
 570
 571     int_dh_free,
 572     dh_pkey_ctrl,
 573
 574     0, 0, 0, 0, 0,
 575
 576     0,
 577     dh_pkey_public_check,
 578     dh_pkey_param_check,
 579
 580     0, 0, 0, 0,
 581
 582     dh_pkey_dirty_cnt,
 583     dh_pkey_export_to,
 584 };
 585
 586 const EVP_PKEY_ASN1_METHOD dhx_asn1_meth = {
 587     EVP_PKEY_DHX,
 588     EVP_PKEY_DHX,
 589     0,
 590
 591     "X9.42 DH",
 592     "OpenSSL X9.42 DH method",
 593
 594     dh_pub_decode,
 595     dh_pub_encode,
 596     dh_pub_cmp,
 597     dh_public_print,
 598
 599     dh_priv_decode,
 600     dh_priv_encode,
 601     dh_private_print,
 602
 603     int_dh_size,
 604     dh_bits,
 605     dh_security_bits,
 606
 607     dh_param_decode,
 608     dh_param_encode,
 609     dh_missing_parameters,
 610     dh_copy_parameters,
 611     dh_cmp_parameters,
 612     dh_param_print,
 613     0,
 614
 615     int_dh_free,
 616     dhx_pkey_ctrl,
 617
 618     0, 0, 0, 0, 0,
 619
 620     0,
 621     dh_pkey_public_check,
 622     dh_pkey_param_check
 623 };
 624
 625 #ifndef OPENSSL_NO_CMS
 626
 627 static int dh_cms_set_peerkey(EVP_PKEY_CTX *pctx,
 628                               X509_ALGOR *alg, ASN1_BIT_STRING *pubkey)
 629 {
 630     const ASN1_OBJECT *aoid;
 631     int atype;
 632     const void *aval;
 633     ASN1_INTEGER *public_key = NULL;
 634     int rv = 0;
 635     EVP_PKEY *pkpeer = NULL, *pk = NULL;
 636     DH *dhpeer = NULL;
 637     const unsigned char *p;
 638     int plen;
 639
 640     X509_ALGOR_get0(&aoid, &atype, &aval, alg);
 641     if (OBJ_obj2nid(aoid) != NID_dhpublicnumber)
 642         goto err;
 643     /* Only absent parameters allowed in RFC XXXX */
 644     if (atype != V_ASN1_UNDEF && atype == V_ASN1_NULL)
 645         goto err;
 646
 647     pk = EVP_PKEY_CTX_get0_pkey(pctx);
 648     if (pk == NULL)
 649         goto err;
 650     if (pk->type != EVP_PKEY_DHX)
 651         goto err;
 652     /* Get parameters from parent key */
 653     dhpeer = DHparams_dup(pk->pkey.dh);
 654     /* We have parameters now set public key */
 655     plen = ASN1_STRING_length(pubkey);
 656     p = ASN1_STRING_get0_data(pubkey);
 657     if (p == NULL || plen == 0)
 658         goto err;
 659
 660     if ((public_key = d2i_ASN1_INTEGER(NULL, &p, plen)) == NULL) {
 661         DHerr(DH_F_DH_CMS_SET_PEERKEY, DH_R_DECODE_ERROR);
 662         goto err;
 663     }
 664
 665     /* We have parameters now set public key */
 666     if ((dhpeer->pub_key = ASN1_INTEGER_to_BN(public_key, NULL)) == NULL) {
 667         DHerr(DH_F_DH_CMS_SET_PEERKEY, DH_R_BN_DECODE_ERROR);
 668         goto err;
 669     }
 670
 671     pkpeer = EVP_PKEY_new();
 672     if (pkpeer == NULL)
 673         goto err;
 674     EVP_PKEY_assign(pkpeer, pk->ameth->pkey_id, dhpeer);
 675     dhpeer = NULL;
 676     if (EVP_PKEY_derive_set_peer(pctx, pkpeer) > 0)
 677         rv = 1;
 678  err:
 679     ASN1_INTEGER_free(public_key);
 680     EVP_PKEY_free(pkpeer);
 681     DH_free(dhpeer);
 682     return rv;
 683 }
 684
 685 static int dh_cms_set_shared_info(EVP_PKEY_CTX *pctx, CMS_RecipientInfo *ri)
 686 {
 687     int rv = 0;
 688
 689     X509_ALGOR *alg, *kekalg = NULL;
 690     ASN1_OCTET_STRING *ukm;
 691     const unsigned char *p;
 692     unsigned char *dukm = NULL;
 693     size_t dukmlen = 0;
 694     int keylen, plen;
 695     const EVP_CIPHER *kekcipher;
 696     EVP_CIPHER_CTX *kekctx;
 697
 698     if (!CMS_RecipientInfo_kari_get0_alg(ri, &alg, &ukm))
 699         goto err;
 700
 701     /*
 702      * For DH we only have one OID permissible. If ever any more get defined
 703      * we will need something cleverer.
 704      */
 705     if (OBJ_obj2nid(alg->algorithm) != NID_id_smime_alg_ESDH) {
 706         DHerr(DH_F_DH_CMS_SET_SHARED_INFO, DH_R_KDF_PARAMETER_ERROR);
 707         goto err;
 708     }
 709
 710     if (EVP_PKEY_CTX_set_dh_kdf_type(pctx, EVP_PKEY_DH_KDF_X9_42) <= 0)
 711         goto err;
 712
 713     if (EVP_PKEY_CTX_set_dh_kdf_md(pctx, EVP_sha1()) <= 0)
 714         goto err;
 715
 716     if (alg->parameter->type != V_ASN1_SEQUENCE)
 717         goto err;
 718
 719     p = alg->parameter->value.sequence->data;
 720     plen = alg->parameter->value.sequence->length;
 721     kekalg = d2i_X509_ALGOR(NULL, &p, plen);
 722     if (!kekalg)
 723         goto err;
 724     kekctx = CMS_RecipientInfo_kari_get0_ctx(ri);
 725     if (!kekctx)
 726         goto err;
 727     kekcipher = EVP_get_cipherbyobj(kekalg->algorithm);
 728     if (!kekcipher || EVP_CIPHER_mode(kekcipher) != EVP_CIPH_WRAP_MODE)
 729         goto err;
 730     if (!EVP_EncryptInit_ex(kekctx, kekcipher, NULL, NULL, NULL))
 731         goto err;
 732     if (EVP_CIPHER_asn1_to_param(kekctx, kekalg->parameter) <= 0)
 733         goto err;
 734
 735     keylen = EVP_CIPHER_CTX_key_length(kekctx);
 736     if (EVP_PKEY_CTX_set_dh_kdf_outlen(pctx, keylen) <= 0)
 737         goto err;
 738     /* Use OBJ_nid2obj to ensure we use built in OID that isn't freed */
 739     if (EVP_PKEY_CTX_set0_dh_kdf_oid(pctx,
 740                                      OBJ_nid2obj(EVP_CIPHER_type(kekcipher)))
 741         <= 0)
 742         goto err;
 743
 744     if (ukm) {
 745         dukmlen = ASN1_STRING_length(ukm);
 746         dukm = OPENSSL_memdup(ASN1_STRING_get0_data(ukm), dukmlen);
 747         if (!dukm)
 748             goto err;
 749     }
 750
 751     if (EVP_PKEY_CTX_set0_dh_kdf_ukm(pctx, dukm, dukmlen) <= 0)
 752         goto err;
 753     dukm = NULL;
 754
 755     rv = 1;
 756  err:
 757     X509_ALGOR_free(kekalg);
 758     OPENSSL_free(dukm);
 759     return rv;
 760 }
 761
 762 static int dh_cms_decrypt(CMS_RecipientInfo *ri)
 763 {
 764     EVP_PKEY_CTX *pctx;
 765
 766     pctx = CMS_RecipientInfo_get0_pkey_ctx(ri);
 767
 768     if (pctx == NULL)
 769         return 0;
 770     /* See if we need to set peer key */
 771     if (!EVP_PKEY_CTX_get0_peerkey(pctx)) {
 772         X509_ALGOR *alg;
 773         ASN1_BIT_STRING *pubkey;
 774         if (!CMS_RecipientInfo_kari_get0_orig_id(ri, &alg, &pubkey,
 775                                                  NULL, NULL, NULL))
 776             return 0;
 777         if (!alg || !pubkey)
 778             return 0;
 779         if (!dh_cms_set_peerkey(pctx, alg, pubkey)) {
 780             DHerr(DH_F_DH_CMS_DECRYPT, DH_R_PEER_KEY_ERROR);
 781             return 0;
 782         }
 783     }
 784     /* Set DH derivation parameters and initialise unwrap context */
 785     if (!dh_cms_set_shared_info(pctx, ri)) {
 786         DHerr(DH_F_DH_CMS_DECRYPT, DH_R_SHARED_INFO_ERROR);
 787         return 0;
 788     }
 789     return 1;
 790 }
 791
 792 static int dh_cms_encrypt(CMS_RecipientInfo *ri)
 793 {
 794     EVP_PKEY_CTX *pctx;
 795     EVP_PKEY *pkey;
 796     EVP_CIPHER_CTX *ctx;
 797     int keylen;
 798     X509_ALGOR *talg, *wrap_alg = NULL;
 799     const ASN1_OBJECT *aoid;
 800     ASN1_BIT_STRING *pubkey;
 801     ASN1_STRING *wrap_str;
 802     ASN1_OCTET_STRING *ukm;
 803     unsigned char *penc = NULL, *dukm = NULL;
 804     int penclen;
 805     size_t dukmlen = 0;
 806     int rv = 0;
 807     int kdf_type, wrap_nid;
 808     const EVP_MD *kdf_md;
 809
 810     pctx = CMS_RecipientInfo_get0_pkey_ctx(ri);
 811     if (pctx == NULL)
 812         return 0;
 813     /* Get ephemeral key */
 814     pkey = EVP_PKEY_CTX_get0_pkey(pctx);
 815     if (!CMS_RecipientInfo_kari_get0_orig_id(ri, &talg, &pubkey,
 816                                              NULL, NULL, NULL))
 817         goto err;
 818     X509_ALGOR_get0(&aoid, NULL, NULL, talg);
 819     /* Is everything uninitialised? */
 820     if (aoid == OBJ_nid2obj(NID_undef)) {
 821         ASN1_INTEGER *pubk = BN_to_ASN1_INTEGER(pkey->pkey.dh->pub_key, NULL);
 822
 823         if (pubk == NULL)
 824             goto err;
 825         /* Set the key */
 826
 827         penclen = i2d_ASN1_INTEGER(pubk, &penc);
 828         ASN1_INTEGER_free(pubk);
 829         if (penclen <= 0)
 830             goto err;
 831         ASN1_STRING_set0(pubkey, penc, penclen);
 832         pubkey->flags &= ~(ASN1_STRING_FLAG_BITS_LEFT | 0x07);
 833         pubkey->flags |= ASN1_STRING_FLAG_BITS_LEFT;
 834
 835         penc = NULL;
 836         X509_ALGOR_set0(talg, OBJ_nid2obj(NID_dhpublicnumber),
 837                         V_ASN1_UNDEF, NULL);
 838     }
 839
 840     /* See if custom parameters set */
 841     kdf_type = EVP_PKEY_CTX_get_dh_kdf_type(pctx);
 842     if (kdf_type <= 0)
 843         goto err;
 844     if (!EVP_PKEY_CTX_get_dh_kdf_md(pctx, &kdf_md))
 845         goto err;
 846
 847     if (kdf_type == EVP_PKEY_DH_KDF_NONE) {
 848         kdf_type = EVP_PKEY_DH_KDF_X9_42;
 849         if (EVP_PKEY_CTX_set_dh_kdf_type(pctx, kdf_type) <= 0)
 850             goto err;
 851     } else if (kdf_type != EVP_PKEY_DH_KDF_X9_42)
 852         /* Unknown KDF */
 853         goto err;
 854     if (kdf_md == NULL) {
 855         /* Only SHA1 supported */
 856         kdf_md = EVP_sha1();
 857         if (EVP_PKEY_CTX_set_dh_kdf_md(pctx, kdf_md) <= 0)
 858             goto err;
 859     } else if (EVP_MD_type(kdf_md) != NID_sha1)
 860         /* Unsupported digest */
 861         goto err;
 862
 863     if (!CMS_RecipientInfo_kari_get0_alg(ri, &talg, &ukm))
 864         goto err;
 865
 866     /* Get wrap NID */
 867     ctx = CMS_RecipientInfo_kari_get0_ctx(ri);
 868     wrap_nid = EVP_CIPHER_CTX_type(ctx);
 869     if (EVP_PKEY_CTX_set0_dh_kdf_oid(pctx, OBJ_nid2obj(wrap_nid)) <= 0)
 870         goto err;
 871     keylen = EVP_CIPHER_CTX_key_length(ctx);
 872
 873     /* Package wrap algorithm in an AlgorithmIdentifier */
 874
 875     wrap_alg = X509_ALGOR_new();
 876     if (wrap_alg == NULL)
 877         goto err;
 878     wrap_alg->algorithm = OBJ_nid2obj(wrap_nid);
 879     wrap_alg->parameter = ASN1_TYPE_new();
 880     if (wrap_alg->parameter == NULL)
 881         goto err;
 882     if (EVP_CIPHER_param_to_asn1(ctx, wrap_alg->parameter) <= 0)
 883         goto err;
 884     if (ASN1_TYPE_get(wrap_alg->parameter) == NID_undef) {
 885         ASN1_TYPE_free(wrap_alg->parameter);
 886         wrap_alg->parameter = NULL;
 887     }
 888
 889     if (EVP_PKEY_CTX_set_dh_kdf_outlen(pctx, keylen) <= 0)
 890         goto err;
 891
 892     if (ukm) {
 893         dukmlen = ASN1_STRING_length(ukm);
 894         dukm = OPENSSL_memdup(ASN1_STRING_get0_data(ukm), dukmlen);
 895         if (!dukm)
 896             goto err;
 897     }
 898
 899     if (EVP_PKEY_CTX_set0_dh_kdf_ukm(pctx, dukm, dukmlen) <= 0)
 900         goto err;
 901     dukm = NULL;
 902
 903     /*
 904      * Now need to wrap encoding of wrap AlgorithmIdentifier into parameter
 905      * of another AlgorithmIdentifier.
 906      */
 907     penc = NULL;
 908     penclen = i2d_X509_ALGOR(wrap_alg, &penc);
 909     if (penc == NULL || penclen == 0)
 910         goto err;
 911     wrap_str = ASN1_STRING_new();
 912     if (wrap_str == NULL)
 913         goto err;
 914     ASN1_STRING_set0(wrap_str, penc, penclen);
 915     penc = NULL;
 916     X509_ALGOR_set0(talg, OBJ_nid2obj(NID_id_smime_alg_ESDH),
 917                     V_ASN1_SEQUENCE, wrap_str);
 918
 919     rv = 1;
 920
 921  err:
 922     OPENSSL_free(penc);
 923     X509_ALGOR_free(wrap_alg);
 924     OPENSSL_free(dukm);
 925     return rv;
 926 }
 927
 928 #endif