test/dhtest.c

   1 /*
   2  * Copyright 1995-2016 The OpenSSL Project Authors. All Rights Reserved.
   3  *
   4  * Licensed under the OpenSSL license (the "License").  You may not use
   5  * this file except in compliance with the License.  You can obtain a copy
   6  * in the file LICENSE in the source distribution or at
   7  * https://www.openssl.org/source/license.html
   8  */
   9
  10 #include <stdio.h>
  11 #include <stdlib.h>
  12 #include <string.h>
  13
  14 #include "../e_os.h"
  15
  16 #include <openssl/crypto.h>
  17 #include <openssl/bio.h>
  18 #include <openssl/bn.h>
  19 #include <openssl/rand.h>
  20 #include <openssl/err.h>
  21
  22 #ifdef OPENSSL_NO_DH
  23 int main(int argc, char *argv[])
  24 {
  25     printf("No DH support\n");
  26     return (0);
  27 }
  28 #else
  29 # include <openssl/dh.h>
  30
  31 static int cb(int p, int n, BN_GENCB *arg);
  32
  33 static const char rnd_seed[] =
  34     "string to make the random number generator think it has entropy";
  35
  36 static int run_rfc5114_tests(void);
  37
  38 int main(int argc, char *argv[])
  39 {
  40     BN_GENCB *_cb = NULL;
  41     DH *a = NULL;
  42     DH *b = NULL;
  43     BIGNUM *ap = NULL, *ag = NULL, *bp = NULL, *bg = NULL, *apub_key = NULL;
  44     BIGNUM *bpub_key = NULL, *priv_key = NULL;
  45     char buf[12] = {0};
  46     unsigned char *abuf = NULL;
  47     unsigned char *bbuf = NULL;
  48     int i, alen, blen, aout, bout;
  49     int ret = 1;
  50     BIO *out = NULL;
  51
  52     CRYPTO_set_mem_debug(1);
  53     CRYPTO_mem_ctrl(CRYPTO_MEM_CHECK_ON);
  54
  55     RAND_seed(rnd_seed, sizeof rnd_seed);
  56
  57     out = BIO_new(BIO_s_file());
  58     if (out == NULL)
  59         EXIT(1);
  60     BIO_set_fp(out, stdout, BIO_NOCLOSE | BIO_FP_TEXT);
  61
  62     _cb = BN_GENCB_new();
  63     if (_cb == NULL)
  64         goto err;
  65     BN_GENCB_set(_cb, &cb, out);
  66     if (((a = DH_new()) == NULL)
  67         || (!DH_generate_parameters_ex(a, 64, DH_GENERATOR_5, _cb)))
  68         goto err;
  69
  70     if (!DH_check(a, &i))
  71         goto err;
  72     if (i & DH_CHECK_P_NOT_PRIME)
  73         BIO_puts(out, "p value is not prime\n");
  74     if (i & DH_CHECK_P_NOT_SAFE_PRIME)
  75         BIO_puts(out, "p value is not a safe prime\n");
  76     if (i & DH_UNABLE_TO_CHECK_GENERATOR)
  77         BIO_puts(out, "unable to check the generator value\n");
  78     if (i & DH_NOT_SUITABLE_GENERATOR)
  79         BIO_puts(out, "the g value is not a generator\n");
  80
  81     DH_get0_pqg(a, &ap, NULL, &ag);
  82     BIO_puts(out, "\np    =");
  83     BN_print(out, ap);
  84     BIO_puts(out, "\ng    =");
  85     BN_print(out, ag);
  86     BIO_puts(out, "\n");
  87
  88     b = DH_new();
  89     if (b == NULL)
  90         goto err;
  91
  92     bp = BN_dup(ap);
  93     bg = BN_dup(ag);
  94     if ((bp == NULL) || (bg == NULL) || !DH_set0_pqg(b, bp, NULL, bg))
  95         goto err;
  96     bp = bg = NULL;
  97
  98     if (!DH_generate_key(a))
  99         goto err;
 100     DH_get0_key(a, &apub_key, &priv_key);
 101     BIO_puts(out, "pri 1=");
 102     BN_print(out, priv_key);
 103     BIO_puts(out, "\npub 1=");
 104     BN_print(out, apub_key);
 105     BIO_puts(out, "\n");
 106
 107     if (!DH_generate_key(b))
 108         goto err;
 109     DH_get0_key(b, &bpub_key, &priv_key);
 110     BIO_puts(out, "pri 2=");
 111     BN_print(out, priv_key);
 112     BIO_puts(out, "\npub 2=");
 113     BN_print(out, bpub_key);
 114     BIO_puts(out, "\n");
 115
 116     alen = DH_size(a);
 117     abuf = OPENSSL_malloc(alen);
 118     if (abuf == NULL)
 119         goto err;
 120
 121     aout = DH_compute_key(abuf, bpub_key, a);
 122
 123     BIO_puts(out, "key1 =");
 124     for (i = 0; i < aout; i++) {
 125         sprintf(buf, "%02X", abuf[i]);
 126         BIO_puts(out, buf);
 127     }
 128     BIO_puts(out, "\n");
 129
 130     blen = DH_size(b);
 131     bbuf = OPENSSL_malloc(blen);
 132     if (bbuf == NULL)
 133         goto err;
 134
 135     bout = DH_compute_key(bbuf, apub_key, b);
 136
 137     BIO_puts(out, "key2 =");
 138     for (i = 0; i < bout; i++) {
 139         sprintf(buf, "%02X", bbuf[i]);
 140         BIO_puts(out, buf);
 141     }
 142     BIO_puts(out, "\n");
 143     if ((aout < 4) || (bout != aout) || (memcmp(abuf, bbuf, aout) != 0)) {
 144         fprintf(stderr, "Error in DH routines\n");
 145         ret = 1;
 146     } else
 147         ret = 0;
 148     if (!run_rfc5114_tests())
 149         ret = 1;
 150  err:
 151     (void)BIO_flush(out);
 152     ERR_print_errors_fp(stderr);
 153
 154     OPENSSL_free(abuf);
 155     OPENSSL_free(bbuf);
 156     DH_free(b);
 157     DH_free(a);
 158     BN_free(bp);
 159     BN_free(bg);
 160     BN_GENCB_free(_cb);
 161     BIO_free(out);
 162
 163 #ifndef OPENSSL_NO_CRYPTO_MDEBUG
 164     if (CRYPTO_mem_leaks_fp(stderr) <= 0)
 165         ret = 1;
 166 #endif
 167
 168     EXIT(ret);
 169 }
 170
 171 static int cb(int p, int n, BN_GENCB *arg)
 172 {
 173     char c = '*';
 174
 175     if (p == 0)
 176         c = '.';
 177     if (p == 1)
 178         c = '+';
 179     if (p == 2)
 180         c = '*';
 181     if (p == 3)
 182         c = '\n';
 183     BIO_write(BN_GENCB_get_arg(arg), &c, 1);
 184     (void)BIO_flush(BN_GENCB_get_arg(arg));
 185     return 1;
 186 }
 187
 188 /* Test data from RFC 5114 */
 189
 190 static const unsigned char dhtest_1024_160_xA[] = {
 191     0xB9, 0xA3, 0xB3, 0xAE, 0x8F, 0xEF, 0xC1, 0xA2, 0x93, 0x04, 0x96, 0x50,
 192     0x70, 0x86, 0xF8, 0x45, 0x5D, 0x48, 0x94, 0x3E
 193 };
 194
 195 static const unsigned char dhtest_1024_160_yA[] = {
 196     0x2A, 0x85, 0x3B, 0x3D, 0x92, 0x19, 0x75, 0x01, 0xB9, 0x01, 0x5B, 0x2D,
 197     0xEB, 0x3E, 0xD8, 0x4F, 0x5E, 0x02, 0x1D, 0xCC, 0x3E, 0x52, 0xF1, 0x09,
 198     0xD3, 0x27, 0x3D, 0x2B, 0x75, 0x21, 0x28, 0x1C, 0xBA, 0xBE, 0x0E, 0x76,
 199     0xFF, 0x57, 0x27, 0xFA, 0x8A, 0xCC, 0xE2, 0x69, 0x56, 0xBA, 0x9A, 0x1F,
 200     0xCA, 0x26, 0xF2, 0x02, 0x28, 0xD8, 0x69, 0x3F, 0xEB, 0x10, 0x84, 0x1D,
 201     0x84, 0xA7, 0x36, 0x00, 0x54, 0xEC, 0xE5, 0xA7, 0xF5, 0xB7, 0xA6, 0x1A,
 202     0xD3, 0xDF, 0xB3, 0xC6, 0x0D, 0x2E, 0x43, 0x10, 0x6D, 0x87, 0x27, 0xDA,
 203     0x37, 0xDF, 0x9C, 0xCE, 0x95, 0xB4, 0x78, 0x75, 0x5D, 0x06, 0xBC, 0xEA,
 204     0x8F, 0x9D, 0x45, 0x96, 0x5F, 0x75, 0xA5, 0xF3, 0xD1, 0xDF, 0x37, 0x01,
 205     0x16, 0x5F, 0xC9, 0xE5, 0x0C, 0x42, 0x79, 0xCE, 0xB0, 0x7F, 0x98, 0x95,
 206     0x40, 0xAE, 0x96, 0xD5, 0xD8, 0x8E, 0xD7, 0x76
 207 };
 208
 209 static const unsigned char dhtest_1024_160_xB[] = {
 210     0x93, 0x92, 0xC9, 0xF9, 0xEB, 0x6A, 0x7A, 0x6A, 0x90, 0x22, 0xF7, 0xD8,
 211     0x3E, 0x72, 0x23, 0xC6, 0x83, 0x5B, 0xBD, 0xDA
 212 };
 213
 214 static const unsigned char dhtest_1024_160_yB[] = {
 215     0x71, 0x7A, 0x6C, 0xB0, 0x53, 0x37, 0x1F, 0xF4, 0xA3, 0xB9, 0x32, 0x94,
 216     0x1C, 0x1E, 0x56, 0x63, 0xF8, 0x61, 0xA1, 0xD6, 0xAD, 0x34, 0xAE, 0x66,
 217     0x57, 0x6D, 0xFB, 0x98, 0xF6, 0xC6, 0xCB, 0xF9, 0xDD, 0xD5, 0xA5, 0x6C,
 218     0x78, 0x33, 0xF6, 0xBC, 0xFD, 0xFF, 0x09, 0x55, 0x82, 0xAD, 0x86, 0x8E,
 219     0x44, 0x0E, 0x8D, 0x09, 0xFD, 0x76, 0x9E, 0x3C, 0xEC, 0xCD, 0xC3, 0xD3,
 220     0xB1, 0xE4, 0xCF, 0xA0, 0x57, 0x77, 0x6C, 0xAA, 0xF9, 0x73, 0x9B, 0x6A,
 221     0x9F, 0xEE, 0x8E, 0x74, 0x11, 0xF8, 0xD6, 0xDA, 0xC0, 0x9D, 0x6A, 0x4E,
 222     0xDB, 0x46, 0xCC, 0x2B, 0x5D, 0x52, 0x03, 0x09, 0x0E, 0xAE, 0x61, 0x26,
 223     0x31, 0x1E, 0x53, 0xFD, 0x2C, 0x14, 0xB5, 0x74, 0xE6, 0xA3, 0x10, 0x9A,
 224     0x3D, 0xA1, 0xBE, 0x41, 0xBD, 0xCE, 0xAA, 0x18, 0x6F, 0x5C, 0xE0, 0x67,
 225     0x16, 0xA2, 0xB6, 0xA0, 0x7B, 0x3C, 0x33, 0xFE
 226 };
 227
 228 static const unsigned char dhtest_1024_160_Z[] = {
 229     0x5C, 0x80, 0x4F, 0x45, 0x4D, 0x30, 0xD9, 0xC4, 0xDF, 0x85, 0x27, 0x1F,
 230     0x93, 0x52, 0x8C, 0x91, 0xDF, 0x6B, 0x48, 0xAB, 0x5F, 0x80, 0xB3, 0xB5,
 231     0x9C, 0xAA, 0xC1, 0xB2, 0x8F, 0x8A, 0xCB, 0xA9, 0xCD, 0x3E, 0x39, 0xF3,
 232     0xCB, 0x61, 0x45, 0x25, 0xD9, 0x52, 0x1D, 0x2E, 0x64, 0x4C, 0x53, 0xB8,
 233     0x07, 0xB8, 0x10, 0xF3, 0x40, 0x06, 0x2F, 0x25, 0x7D, 0x7D, 0x6F, 0xBF,
 234     0xE8, 0xD5, 0xE8, 0xF0, 0x72, 0xE9, 0xB6, 0xE9, 0xAF, 0xDA, 0x94, 0x13,
 235     0xEA, 0xFB, 0x2E, 0x8B, 0x06, 0x99, 0xB1, 0xFB, 0x5A, 0x0C, 0xAC, 0xED,
 236     0xDE, 0xAE, 0xAD, 0x7E, 0x9C, 0xFB, 0xB3, 0x6A, 0xE2, 0xB4, 0x20, 0x83,
 237     0x5B, 0xD8, 0x3A, 0x19, 0xFB, 0x0B, 0x5E, 0x96, 0xBF, 0x8F, 0xA4, 0xD0,
 238     0x9E, 0x34, 0x55, 0x25, 0x16, 0x7E, 0xCD, 0x91, 0x55, 0x41, 0x6F, 0x46,
 239     0xF4, 0x08, 0xED, 0x31, 0xB6, 0x3C, 0x6E, 0x6D
 240 };
 241
 242 static const unsigned char dhtest_2048_224_xA[] = {
 243     0x22, 0xE6, 0x26, 0x01, 0xDB, 0xFF, 0xD0, 0x67, 0x08, 0xA6, 0x80, 0xF7,
 244     0x47, 0xF3, 0x61, 0xF7, 0x6D, 0x8F, 0x4F, 0x72, 0x1A, 0x05, 0x48, 0xE4,
 245     0x83, 0x29, 0x4B, 0x0C
 246 };
 247
 248 static const unsigned char dhtest_2048_224_yA[] = {
 249     0x1B, 0x3A, 0x63, 0x45, 0x1B, 0xD8, 0x86, 0xE6, 0x99, 0xE6, 0x7B, 0x49,
 250     0x4E, 0x28, 0x8B, 0xD7, 0xF8, 0xE0, 0xD3, 0x70, 0xBA, 0xDD, 0xA7, 0xA0,
 251     0xEF, 0xD2, 0xFD, 0xE7, 0xD8, 0xF6, 0x61, 0x45, 0xCC, 0x9F, 0x28, 0x04,
 252     0x19, 0x97, 0x5E, 0xB8, 0x08, 0x87, 0x7C, 0x8A, 0x4C, 0x0C, 0x8E, 0x0B,
 253     0xD4, 0x8D, 0x4A, 0x54, 0x01, 0xEB, 0x1E, 0x87, 0x76, 0xBF, 0xEE, 0xE1,
 254     0x34, 0xC0, 0x38, 0x31, 0xAC, 0x27, 0x3C, 0xD9, 0xD6, 0x35, 0xAB, 0x0C,
 255     0xE0, 0x06, 0xA4, 0x2A, 0x88, 0x7E, 0x3F, 0x52, 0xFB, 0x87, 0x66, 0xB6,
 256     0x50, 0xF3, 0x80, 0x78, 0xBC, 0x8E, 0xE8, 0x58, 0x0C, 0xEF, 0xE2, 0x43,
 257     0x96, 0x8C, 0xFC, 0x4F, 0x8D, 0xC3, 0xDB, 0x08, 0x45, 0x54, 0x17, 0x1D,
 258     0x41, 0xBF, 0x2E, 0x86, 0x1B, 0x7B, 0xB4, 0xD6, 0x9D, 0xD0, 0xE0, 0x1E,
 259     0xA3, 0x87, 0xCB, 0xAA, 0x5C, 0xA6, 0x72, 0xAF, 0xCB, 0xE8, 0xBD, 0xB9,
 260     0xD6, 0x2D, 0x4C, 0xE1, 0x5F, 0x17, 0xDD, 0x36, 0xF9, 0x1E, 0xD1, 0xEE,
 261     0xDD, 0x65, 0xCA, 0x4A, 0x06, 0x45, 0x5C, 0xB9, 0x4C, 0xD4, 0x0A, 0x52,
 262     0xEC, 0x36, 0x0E, 0x84, 0xB3, 0xC9, 0x26, 0xE2, 0x2C, 0x43, 0x80, 0xA3,
 263     0xBF, 0x30, 0x9D, 0x56, 0x84, 0x97, 0x68, 0xB7, 0xF5, 0x2C, 0xFD, 0xF6,
 264     0x55, 0xFD, 0x05, 0x3A, 0x7E, 0xF7, 0x06, 0x97, 0x9E, 0x7E, 0x58, 0x06,
 265     0xB1, 0x7D, 0xFA, 0xE5, 0x3A, 0xD2, 0xA5, 0xBC, 0x56, 0x8E, 0xBB, 0x52,
 266     0x9A, 0x7A, 0x61, 0xD6, 0x8D, 0x25, 0x6F, 0x8F, 0xC9, 0x7C, 0x07, 0x4A,
 267     0x86, 0x1D, 0x82, 0x7E, 0x2E, 0xBC, 0x8C, 0x61, 0x34, 0x55, 0x31, 0x15,
 268     0xB7, 0x0E, 0x71, 0x03, 0x92, 0x0A, 0xA1, 0x6D, 0x85, 0xE5, 0x2B, 0xCB,
 269     0xAB, 0x8D, 0x78, 0x6A, 0x68, 0x17, 0x8F, 0xA8, 0xFF, 0x7C, 0x2F, 0x5C,
 270     0x71, 0x64, 0x8D, 0x6F
 271 };
 272
 273 static const unsigned char dhtest_2048_224_xB[] = {
 274     0x4F, 0xF3, 0xBC, 0x96, 0xC7, 0xFC, 0x6A, 0x6D, 0x71, 0xD3, 0xB3, 0x63,
 275     0x80, 0x0A, 0x7C, 0xDF, 0xEF, 0x6F, 0xC4, 0x1B, 0x44, 0x17, 0xEA, 0x15,
 276     0x35, 0x3B, 0x75, 0x90
 277 };
 278
 279 static const unsigned char dhtest_2048_224_yB[] = {
 280     0x4D, 0xCE, 0xE9, 0x92, 0xA9, 0x76, 0x2A, 0x13, 0xF2, 0xF8, 0x38, 0x44,
 281     0xAD, 0x3D, 0x77, 0xEE, 0x0E, 0x31, 0xC9, 0x71, 0x8B, 0x3D, 0xB6, 0xC2,
 282     0x03, 0x5D, 0x39, 0x61, 0x18, 0x2C, 0x3E, 0x0B, 0xA2, 0x47, 0xEC, 0x41,
 283     0x82, 0xD7, 0x60, 0xCD, 0x48, 0xD9, 0x95, 0x99, 0x97, 0x06, 0x22, 0xA1,
 284     0x88, 0x1B, 0xBA, 0x2D, 0xC8, 0x22, 0x93, 0x9C, 0x78, 0xC3, 0x91, 0x2C,
 285     0x66, 0x61, 0xFA, 0x54, 0x38, 0xB2, 0x07, 0x66, 0x22, 0x2B, 0x75, 0xE2,
 286     0x4C, 0x2E, 0x3A, 0xD0, 0xC7, 0x28, 0x72, 0x36, 0x12, 0x95, 0x25, 0xEE,
 287     0x15, 0xB5, 0xDD, 0x79, 0x98, 0xAA, 0x04, 0xC4, 0xA9, 0x69, 0x6C, 0xAC,
 288     0xD7, 0x17, 0x20, 0x83, 0xA9, 0x7A, 0x81, 0x66, 0x4E, 0xAD, 0x2C, 0x47,
 289     0x9E, 0x44, 0x4E, 0x4C, 0x06, 0x54, 0xCC, 0x19, 0xE2, 0x8D, 0x77, 0x03,
 290     0xCE, 0xE8, 0xDA, 0xCD, 0x61, 0x26, 0xF5, 0xD6, 0x65, 0xEC, 0x52, 0xC6,
 291     0x72, 0x55, 0xDB, 0x92, 0x01, 0x4B, 0x03, 0x7E, 0xB6, 0x21, 0xA2, 0xAC,
 292     0x8E, 0x36, 0x5D, 0xE0, 0x71, 0xFF, 0xC1, 0x40, 0x0A, 0xCF, 0x07, 0x7A,
 293     0x12, 0x91, 0x3D, 0xD8, 0xDE, 0x89, 0x47, 0x34, 0x37, 0xAB, 0x7B, 0xA3,
 294     0x46, 0x74, 0x3C, 0x1B, 0x21, 0x5D, 0xD9, 0xC1, 0x21, 0x64, 0xA7, 0xE4,
 295     0x05, 0x31, 0x18, 0xD1, 0x99, 0xBE, 0xC8, 0xEF, 0x6F, 0xC5, 0x61, 0x17,
 296     0x0C, 0x84, 0xC8, 0x7D, 0x10, 0xEE, 0x9A, 0x67, 0x4A, 0x1F, 0xA8, 0xFF,
 297     0xE1, 0x3B, 0xDF, 0xBA, 0x1D, 0x44, 0xDE, 0x48, 0x94, 0x6D, 0x68, 0xDC,
 298     0x0C, 0xDD, 0x77, 0x76, 0x35, 0xA7, 0xAB, 0x5B, 0xFB, 0x1E, 0x4B, 0xB7,
 299     0xB8, 0x56, 0xF9, 0x68, 0x27, 0x73, 0x4C, 0x18, 0x41, 0x38, 0xE9, 0x15,
 300     0xD9, 0xC3, 0x00, 0x2E, 0xBC, 0xE5, 0x31, 0x20, 0x54, 0x6A, 0x7E, 0x20,
 301     0x02, 0x14, 0x2B, 0x6C
 302 };
 303
 304 static const unsigned char dhtest_2048_224_Z[] = {
 305     0x34, 0xD9, 0xBD, 0xDC, 0x1B, 0x42, 0x17, 0x6C, 0x31, 0x3F, 0xEA, 0x03,
 306     0x4C, 0x21, 0x03, 0x4D, 0x07, 0x4A, 0x63, 0x13, 0xBB, 0x4E, 0xCD, 0xB3,
 307     0x70, 0x3F, 0xFF, 0x42, 0x45, 0x67, 0xA4, 0x6B, 0xDF, 0x75, 0x53, 0x0E,
 308     0xDE, 0x0A, 0x9D, 0xA5, 0x22, 0x9D, 0xE7, 0xD7, 0x67, 0x32, 0x28, 0x6C,
 309     0xBC, 0x0F, 0x91, 0xDA, 0x4C, 0x3C, 0x85, 0x2F, 0xC0, 0x99, 0xC6, 0x79,
 310     0x53, 0x1D, 0x94, 0xC7, 0x8A, 0xB0, 0x3D, 0x9D, 0xEC, 0xB0, 0xA4, 0xE4,
 311     0xCA, 0x8B, 0x2B, 0xB4, 0x59, 0x1C, 0x40, 0x21, 0xCF, 0x8C, 0xE3, 0xA2,
 312     0x0A, 0x54, 0x1D, 0x33, 0x99, 0x40, 0x17, 0xD0, 0x20, 0x0A, 0xE2, 0xC9,
 313     0x51, 0x6E, 0x2F, 0xF5, 0x14, 0x57, 0x79, 0x26, 0x9E, 0x86, 0x2B, 0x0F,
 314     0xB4, 0x74, 0xA2, 0xD5, 0x6D, 0xC3, 0x1E, 0xD5, 0x69, 0xA7, 0x70, 0x0B,
 315     0x4C, 0x4A, 0xB1, 0x6B, 0x22, 0xA4, 0x55, 0x13, 0x53, 0x1E, 0xF5, 0x23,
 316     0xD7, 0x12, 0x12, 0x07, 0x7B, 0x5A, 0x16, 0x9B, 0xDE, 0xFF, 0xAD, 0x7A,
 317     0xD9, 0x60, 0x82, 0x84, 0xC7, 0x79, 0x5B, 0x6D, 0x5A, 0x51, 0x83, 0xB8,
 318     0x70, 0x66, 0xDE, 0x17, 0xD8, 0xD6, 0x71, 0xC9, 0xEB, 0xD8, 0xEC, 0x89,
 319     0x54, 0x4D, 0x45, 0xEC, 0x06, 0x15, 0x93, 0xD4, 0x42, 0xC6, 0x2A, 0xB9,
 320     0xCE, 0x3B, 0x1C, 0xB9, 0x94, 0x3A, 0x1D, 0x23, 0xA5, 0xEA, 0x3B, 0xCF,
 321     0x21, 0xA0, 0x14, 0x71, 0xE6, 0x7E, 0x00, 0x3E, 0x7F, 0x8A, 0x69, 0xC7,
 322     0x28, 0xBE, 0x49, 0x0B, 0x2F, 0xC8, 0x8C, 0xFE, 0xB9, 0x2D, 0xB6, 0xA2,
 323     0x15, 0xE5, 0xD0, 0x3C, 0x17, 0xC4, 0x64, 0xC9, 0xAC, 0x1A, 0x46, 0xE2,
 324     0x03, 0xE1, 0x3F, 0x95, 0x29, 0x95, 0xFB, 0x03, 0xC6, 0x9D, 0x3C, 0xC4,
 325     0x7F, 0xCB, 0x51, 0x0B, 0x69, 0x98, 0xFF, 0xD3, 0xAA, 0x6D, 0xE7, 0x3C,
 326     0xF9, 0xF6, 0x38, 0x69
 327 };
 328
 329 static const unsigned char dhtest_2048_256_xA[] = {
 330     0x08, 0x81, 0x38, 0x2C, 0xDB, 0x87, 0x66, 0x0C, 0x6D, 0xC1, 0x3E, 0x61,
 331     0x49, 0x38, 0xD5, 0xB9, 0xC8, 0xB2, 0xF2, 0x48, 0x58, 0x1C, 0xC5, 0xE3,
 332     0x1B, 0x35, 0x45, 0x43, 0x97, 0xFC, 0xE5, 0x0E
 333 };
 334
 335 static const unsigned char dhtest_2048_256_yA[] = {
 336     0x2E, 0x93, 0x80, 0xC8, 0x32, 0x3A, 0xF9, 0x75, 0x45, 0xBC, 0x49, 0x41,
 337     0xDE, 0xB0, 0xEC, 0x37, 0x42, 0xC6, 0x2F, 0xE0, 0xEC, 0xE8, 0x24, 0xA6,
 338     0xAB, 0xDB, 0xE6, 0x6C, 0x59, 0xBE, 0xE0, 0x24, 0x29, 0x11, 0xBF, 0xB9,
 339     0x67, 0x23, 0x5C, 0xEB, 0xA3, 0x5A, 0xE1, 0x3E, 0x4E, 0xC7, 0x52, 0xBE,
 340     0x63, 0x0B, 0x92, 0xDC, 0x4B, 0xDE, 0x28, 0x47, 0xA9, 0xC6, 0x2C, 0xB8,
 341     0x15, 0x27, 0x45, 0x42, 0x1F, 0xB7, 0xEB, 0x60, 0xA6, 0x3C, 0x0F, 0xE9,
 342     0x15, 0x9F, 0xCC, 0xE7, 0x26, 0xCE, 0x7C, 0xD8, 0x52, 0x3D, 0x74, 0x50,
 343     0x66, 0x7E, 0xF8, 0x40, 0xE4, 0x91, 0x91, 0x21, 0xEB, 0x5F, 0x01, 0xC8,
 344     0xC9, 0xB0, 0xD3, 0xD6, 0x48, 0xA9, 0x3B, 0xFB, 0x75, 0x68, 0x9E, 0x82,
 345     0x44, 0xAC, 0x13, 0x4A, 0xF5, 0x44, 0x71, 0x1C, 0xE7, 0x9A, 0x02, 0xDC,
 346     0xC3, 0x42, 0x26, 0x68, 0x47, 0x80, 0xDD, 0xDC, 0xB4, 0x98, 0x59, 0x41,
 347     0x06, 0xC3, 0x7F, 0x5B, 0xC7, 0x98, 0x56, 0x48, 0x7A, 0xF5, 0xAB, 0x02,
 348     0x2A, 0x2E, 0x5E, 0x42, 0xF0, 0x98, 0x97, 0xC1, 0xA8, 0x5A, 0x11, 0xEA,
 349     0x02, 0x12, 0xAF, 0x04, 0xD9, 0xB4, 0xCE, 0xBC, 0x93, 0x7C, 0x3C, 0x1A,
 350     0x3E, 0x15, 0xA8, 0xA0, 0x34, 0x2E, 0x33, 0x76, 0x15, 0xC8, 0x4E, 0x7F,
 351     0xE3, 0xB8, 0xB9, 0xB8, 0x7F, 0xB1, 0xE7, 0x3A, 0x15, 0xAF, 0x12, 0xA3,
 352     0x0D, 0x74, 0x6E, 0x06, 0xDF, 0xC3, 0x4F, 0x29, 0x0D, 0x79, 0x7C, 0xE5,
 353     0x1A, 0xA1, 0x3A, 0xA7, 0x85, 0xBF, 0x66, 0x58, 0xAF, 0xF5, 0xE4, 0xB0,
 354     0x93, 0x00, 0x3C, 0xBE, 0xAF, 0x66, 0x5B, 0x3C, 0x2E, 0x11, 0x3A, 0x3A,
 355     0x4E, 0x90, 0x52, 0x69, 0x34, 0x1D, 0xC0, 0x71, 0x14, 0x26, 0x68, 0x5F,
 356     0x4E, 0xF3, 0x7E, 0x86, 0x8A, 0x81, 0x26, 0xFF, 0x3F, 0x22, 0x79, 0xB5,
 357     0x7C, 0xA6, 0x7E, 0x29
 358 };
 359
 360 static const unsigned char dhtest_2048_256_xB[] = {
 361     0x7D, 0x62, 0xA7, 0xE3, 0xEF, 0x36, 0xDE, 0x61, 0x7B, 0x13, 0xD1, 0xAF,
 362     0xB8, 0x2C, 0x78, 0x0D, 0x83, 0xA2, 0x3B, 0xD4, 0xEE, 0x67, 0x05, 0x64,
 363     0x51, 0x21, 0xF3, 0x71, 0xF5, 0x46, 0xA5, 0x3D
 364 };
 365
 366 static const unsigned char dhtest_2048_256_yB[] = {
 367     0x57, 0x5F, 0x03, 0x51, 0xBD, 0x2B, 0x1B, 0x81, 0x74, 0x48, 0xBD, 0xF8,
 368     0x7A, 0x6C, 0x36, 0x2C, 0x1E, 0x28, 0x9D, 0x39, 0x03, 0xA3, 0x0B, 0x98,
 369     0x32, 0xC5, 0x74, 0x1F, 0xA2, 0x50, 0x36, 0x3E, 0x7A, 0xCB, 0xC7, 0xF7,
 370     0x7F, 0x3D, 0xAC, 0xBC, 0x1F, 0x13, 0x1A, 0xDD, 0x8E, 0x03, 0x36, 0x7E,
 371     0xFF, 0x8F, 0xBB, 0xB3, 0xE1, 0xC5, 0x78, 0x44, 0x24, 0x80, 0x9B, 0x25,
 372     0xAF, 0xE4, 0xD2, 0x26, 0x2A, 0x1A, 0x6F, 0xD2, 0xFA, 0xB6, 0x41, 0x05,
 373     0xCA, 0x30, 0xA6, 0x74, 0xE0, 0x7F, 0x78, 0x09, 0x85, 0x20, 0x88, 0x63,
 374     0x2F, 0xC0, 0x49, 0x23, 0x37, 0x91, 0xAD, 0x4E, 0xDD, 0x08, 0x3A, 0x97,
 375     0x8B, 0x88, 0x3E, 0xE6, 0x18, 0xBC, 0x5E, 0x0D, 0xD0, 0x47, 0x41, 0x5F,
 376     0x2D, 0x95, 0xE6, 0x83, 0xCF, 0x14, 0x82, 0x6B, 0x5F, 0xBE, 0x10, 0xD3,
 377     0xCE, 0x41, 0xC6, 0xC1, 0x20, 0xC7, 0x8A, 0xB2, 0x00, 0x08, 0xC6, 0x98,
 378     0xBF, 0x7F, 0x0B, 0xCA, 0xB9, 0xD7, 0xF4, 0x07, 0xBE, 0xD0, 0xF4, 0x3A,
 379     0xFB, 0x29, 0x70, 0xF5, 0x7F, 0x8D, 0x12, 0x04, 0x39, 0x63, 0xE6, 0x6D,
 380     0xDD, 0x32, 0x0D, 0x59, 0x9A, 0xD9, 0x93, 0x6C, 0x8F, 0x44, 0x13, 0x7C,
 381     0x08, 0xB1, 0x80, 0xEC, 0x5E, 0x98, 0x5C, 0xEB, 0xE1, 0x86, 0xF3, 0xD5,
 382     0x49, 0x67, 0x7E, 0x80, 0x60, 0x73, 0x31, 0xEE, 0x17, 0xAF, 0x33, 0x80,
 383     0xA7, 0x25, 0xB0, 0x78, 0x23, 0x17, 0xD7, 0xDD, 0x43, 0xF5, 0x9D, 0x7A,
 384     0xF9, 0x56, 0x8A, 0x9B, 0xB6, 0x3A, 0x84, 0xD3, 0x65, 0xF9, 0x22, 0x44,
 385     0xED, 0x12, 0x09, 0x88, 0x21, 0x93, 0x02, 0xF4, 0x29, 0x24, 0xC7, 0xCA,
 386     0x90, 0xB8, 0x9D, 0x24, 0xF7, 0x1B, 0x0A, 0xB6, 0x97, 0x82, 0x3D, 0x7D,
 387     0xEB, 0x1A, 0xFF, 0x5B, 0x0E, 0x8E, 0x4A, 0x45, 0xD4, 0x9F, 0x7F, 0x53,
 388     0x75, 0x7E, 0x19, 0x13
 389 };
 390
 391 static const unsigned char dhtest_2048_256_Z[] = {
 392     0x86, 0xC7, 0x0B, 0xF8, 0xD0, 0xBB, 0x81, 0xBB, 0x01, 0x07, 0x8A, 0x17,
 393     0x21, 0x9C, 0xB7, 0xD2, 0x72, 0x03, 0xDB, 0x2A, 0x19, 0xC8, 0x77, 0xF1,
 394     0xD1, 0xF1, 0x9F, 0xD7, 0xD7, 0x7E, 0xF2, 0x25, 0x46, 0xA6, 0x8F, 0x00,
 395     0x5A, 0xD5, 0x2D, 0xC8, 0x45, 0x53, 0xB7, 0x8F, 0xC6, 0x03, 0x30, 0xBE,
 396     0x51, 0xEA, 0x7C, 0x06, 0x72, 0xCA, 0xC1, 0x51, 0x5E, 0x4B, 0x35, 0xC0,
 397     0x47, 0xB9, 0xA5, 0x51, 0xB8, 0x8F, 0x39, 0xDC, 0x26, 0xDA, 0x14, 0xA0,
 398     0x9E, 0xF7, 0x47, 0x74, 0xD4, 0x7C, 0x76, 0x2D, 0xD1, 0x77, 0xF9, 0xED,
 399     0x5B, 0xC2, 0xF1, 0x1E, 0x52, 0xC8, 0x79, 0xBD, 0x95, 0x09, 0x85, 0x04,
 400     0xCD, 0x9E, 0xEC, 0xD8, 0xA8, 0xF9, 0xB3, 0xEF, 0xBD, 0x1F, 0x00, 0x8A,
 401     0xC5, 0x85, 0x30, 0x97, 0xD9, 0xD1, 0x83, 0x7F, 0x2B, 0x18, 0xF7, 0x7C,
 402     0xD7, 0xBE, 0x01, 0xAF, 0x80, 0xA7, 0xC7, 0xB5, 0xEA, 0x3C, 0xA5, 0x4C,
 403     0xC0, 0x2D, 0x0C, 0x11, 0x6F, 0xEE, 0x3F, 0x95, 0xBB, 0x87, 0x39, 0x93,
 404     0x85, 0x87, 0x5D, 0x7E, 0x86, 0x74, 0x7E, 0x67, 0x6E, 0x72, 0x89, 0x38,
 405     0xAC, 0xBF, 0xF7, 0x09, 0x8E, 0x05, 0xBE, 0x4D, 0xCF, 0xB2, 0x40, 0x52,
 406     0xB8, 0x3A, 0xEF, 0xFB, 0x14, 0x78, 0x3F, 0x02, 0x9A, 0xDB, 0xDE, 0x7F,
 407     0x53, 0xFA, 0xE9, 0x20, 0x84, 0x22, 0x40, 0x90, 0xE0, 0x07, 0xCE, 0xE9,
 408     0x4D, 0x4B, 0xF2, 0xBA, 0xCE, 0x9F, 0xFD, 0x4B, 0x57, 0xD2, 0xAF, 0x7C,
 409     0x72, 0x4D, 0x0C, 0xAA, 0x19, 0xBF, 0x05, 0x01, 0xF6, 0xF1, 0x7B, 0x4A,
 410     0xA1, 0x0F, 0x42, 0x5E, 0x3E, 0xA7, 0x60, 0x80, 0xB4, 0xB9, 0xD6, 0xB3,
 411     0xCE, 0xFE, 0xA1, 0x15, 0xB2, 0xCE, 0xB8, 0x78, 0x9B, 0xB8, 0xA3, 0xB0,
 412     0xEA, 0x87, 0xFE, 0xBE, 0x63, 0xB6, 0xC8, 0xF8, 0x46, 0xEC, 0x6D, 0xB0,
 413     0xC2, 0x6C, 0x5D, 0x7C
 414 };
 415
 416 static const unsigned char dhtest_rfc5114_2048_224_bad_y[] = {
 417     0x45, 0x32, 0x5F, 0x51, 0x07, 0xE5, 0xDF, 0x1C, 0xD6, 0x02, 0x82, 0xB3,
 418     0x32, 0x8F, 0xA4, 0x0F, 0x87, 0xB8, 0x41, 0xFE, 0xB9, 0x35, 0xDE, 0xAD,
 419     0xC6, 0x26, 0x85, 0xB4, 0xFF, 0x94, 0x8C, 0x12, 0x4C, 0xBF, 0x5B, 0x20,
 420     0xC4, 0x46, 0xA3, 0x26, 0xEB, 0xA4, 0x25, 0xB7, 0x68, 0x8E, 0xCC, 0x67,
 421     0xBA, 0xEA, 0x58, 0xD0, 0xF2, 0xE9, 0xD2, 0x24, 0x72, 0x60, 0xDA, 0x88,
 422     0x18, 0x9C, 0xE0, 0x31, 0x6A, 0xAD, 0x50, 0x6D, 0x94, 0x35, 0x8B, 0x83,
 423     0x4A, 0x6E, 0xFA, 0x48, 0x73, 0x0F, 0x83, 0x87, 0xFF, 0x6B, 0x66, 0x1F,
 424     0xA8, 0x82, 0xC6, 0x01, 0xE5, 0x80, 0xB5, 0xB0, 0x52, 0xD0, 0xE9, 0xD8,
 425     0x72, 0xF9, 0x7D, 0x5B, 0x8B, 0xA5, 0x4C, 0xA5, 0x25, 0x95, 0x74, 0xE2,
 426     0x7A, 0x61, 0x4E, 0xA7, 0x8F, 0x12, 0xE2, 0xD2, 0x9D, 0x8C, 0x02, 0x70,
 427     0x34, 0x44, 0x32, 0xC7, 0xB2, 0xF3, 0xB9, 0xFE, 0x17, 0x2B, 0xD6, 0x1F,
 428     0x8B, 0x7E, 0x4A, 0xFA, 0xA3, 0xB5, 0x3E, 0x7A, 0x81, 0x9A, 0x33, 0x66,
 429     0x62, 0xA4, 0x50, 0x18, 0x3E, 0xA2, 0x5F, 0x00, 0x07, 0xD8, 0x9B, 0x22,
 430     0xE4, 0xEC, 0x84, 0xD5, 0xEB, 0x5A, 0xF3, 0x2A, 0x31, 0x23, 0xD8, 0x44,
 431     0x22, 0x2A, 0x8B, 0x37, 0x44, 0xCC, 0xC6, 0x87, 0x4B, 0xBE, 0x50, 0x9D,
 432     0x4A, 0xC4, 0x8E, 0x45, 0xCF, 0x72, 0x4D, 0xC0, 0x89, 0xB3, 0x72, 0xED,
 433     0x33, 0x2C, 0xBC, 0x7F, 0x16, 0x39, 0x3B, 0xEB, 0xD2, 0xDD, 0xA8, 0x01,
 434     0x73, 0x84, 0x62, 0xB9, 0x29, 0xD2, 0xC9, 0x51, 0x32, 0x9E, 0x7A, 0x6A,
 435     0xCF, 0xC1, 0x0A, 0xDB, 0x0E, 0xE0, 0x62, 0x77, 0x6F, 0x59, 0x62, 0x72,
 436     0x5A, 0x69, 0xA6, 0x5B, 0x70, 0xCA, 0x65, 0xC4, 0x95, 0x6F, 0x9A, 0xC2,
 437     0xDF, 0x72, 0x6D, 0xB1, 0x1E, 0x54, 0x7B, 0x51, 0xB4, 0xEF, 0x7F, 0x89,
 438     0x93, 0x74, 0x89, 0x59
 439 };
 440
 441 typedef struct {
 442     DH *(*get_param) (void);
 443     const unsigned char *xA;
 444     size_t xA_len;
 445     const unsigned char *yA;
 446     size_t yA_len;
 447     const unsigned char *xB;
 448     size_t xB_len;
 449     const unsigned char *yB;
 450     size_t yB_len;
 451     const unsigned char *Z;
 452     size_t Z_len;
 453 } rfc5114_td;
 454
 455 # define make_rfc5114_td(pre) { \
 456         DH_get_##pre, \
 457         dhtest_##pre##_xA, sizeof(dhtest_##pre##_xA), \
 458         dhtest_##pre##_yA, sizeof(dhtest_##pre##_yA), \
 459         dhtest_##pre##_xB, sizeof(dhtest_##pre##_xB), \
 460         dhtest_##pre##_yB, sizeof(dhtest_##pre##_yB), \
 461         dhtest_##pre##_Z, sizeof(dhtest_##pre##_Z) \
 462         }
 463
 464 static const rfc5114_td rfctd[] = {
 465         make_rfc5114_td(1024_160),
 466         make_rfc5114_td(2048_224),
 467         make_rfc5114_td(2048_256)
 468 };
 469
 470 static int run_rfc5114_tests(void)
 471 {
 472     int i;
 473     DH *dhA = NULL;
 474     DH *dhB = NULL;
 475     unsigned char *Z1 = NULL;
 476     unsigned char *Z2 = NULL;
 477     const rfc5114_td *td = NULL;
 478     BIGNUM *bady = NULL, *priv_key = NULL, *pub_key = NULL;
 479
 480     for (i = 0; i < (int)OSSL_NELEM(rfctd); i++) {
 481         td = rfctd + i;
 482         /* Set up DH structures setting key components */
 483         dhA = td->get_param();
 484         dhB = td->get_param();
 485         if ((dhA == NULL) || (dhB == NULL))
 486             goto bad_err;
 487
 488         priv_key = BN_bin2bn(td->xA, td->xA_len, NULL);
 489         pub_key = BN_bin2bn(td->yA, td->yA_len, NULL);
 490         if (priv_key == NULL || pub_key == NULL
 491                 || !DH_set0_key(dhA, pub_key, priv_key))
 492             goto bad_err;
 493
 494         priv_key = BN_bin2bn(td->xB, td->xB_len, NULL);
 495         pub_key = BN_bin2bn(td->yB, td->yB_len, NULL);
 496
 497         if (priv_key == NULL || pub_key == NULL
 498                 || !DH_set0_key(dhB, pub_key, priv_key))
 499             goto bad_err;
 500         priv_key = pub_key = NULL;
 501
 502         if ((td->Z_len != (size_t)DH_size(dhA))
 503             || (td->Z_len != (size_t)DH_size(dhB)))
 504             goto err;
 505
 506         Z1 = OPENSSL_malloc(DH_size(dhA));
 507         Z2 = OPENSSL_malloc(DH_size(dhB));
 508         if ((Z1 == NULL) || (Z2 == NULL))
 509             goto bad_err;
 510         /*
 511          * Work out shared secrets using both sides and compare with expected
 512          * values.
 513          */
 514         DH_get0_key(dhB, &pub_key, NULL);
 515         if (DH_compute_key(Z1, pub_key, dhA) == -1) {
 516             pub_key = NULL;
 517             goto bad_err;
 518         }
 519         DH_get0_key(dhA, &pub_key, NULL);
 520         if (DH_compute_key(Z2, pub_key, dhB) == -1) {
 521             pub_key = NULL;
 522             goto bad_err;
 523         }
 524         pub_key = NULL;
 525
 526         if (memcmp(Z1, td->Z, td->Z_len))
 527             goto err;
 528         if (memcmp(Z2, td->Z, td->Z_len))
 529             goto err;
 530
 531         printf("RFC5114 parameter test %d OK\n", i + 1);
 532
 533         DH_free(dhA);
 534         DH_free(dhB);
 535         OPENSSL_free(Z1);
 536         OPENSSL_free(Z2);
 537         dhA = NULL;
 538         dhB = NULL;
 539         Z1 = NULL;
 540         Z2 = NULL;
 541     }
 542
 543     /* Now i == OSSL_NELEM(rfctd) */
 544     /* RFC5114 uses unsafe primes, so now test an invalid y value */
 545     dhA = DH_get_2048_224();
 546     if (dhA == NULL)
 547         goto bad_err;
 548     Z1 = OPENSSL_malloc(DH_size(dhA));
 549     if (Z1 == NULL)
 550         goto bad_err;
 551
 552     bady = BN_bin2bn(dhtest_rfc5114_2048_224_bad_y,
 553                      sizeof(dhtest_rfc5114_2048_224_bad_y), NULL);
 554     if (bady == NULL)
 555         goto bad_err;
 556
 557     if (!DH_generate_key(dhA))
 558         goto bad_err;
 559
 560     if (DH_compute_key(Z1, bady, dhA) != -1) {
 561         /*
 562          * DH_compute_key should fail with -1. If we get here we unexpectedly
 563          * allowed an invalid y value
 564          */
 565         goto err;
 566     }
 567     /* We'll have a stale error on the queue from the above test so clear it */
 568     ERR_clear_error();
 569
 570     printf("RFC5114 parameter test %d OK\n", i + 1);
 571
 572     BN_free(bady);
 573     DH_free(dhA);
 574     OPENSSL_free(Z1);
 575
 576     return 1;
 577  bad_err:
 578     BN_free(bady);
 579     DH_free(dhA);
 580     DH_free(dhB);
 581     BN_free(pub_key);
 582     BN_free(priv_key);
 583     OPENSSL_free(Z1);
 584     OPENSSL_free(Z2);
 585
 586     fprintf(stderr, "Initialisation error RFC5114 set %d\n", i + 1);
 587     ERR_print_errors_fp(stderr);
 588     return 0;
 589  err:
 590     BN_free(bady);
 591     DH_free(dhA);
 592     DH_free(dhB);
 593     OPENSSL_free(Z1);
 594     OPENSSL_free(Z2);
 595
 596     fprintf(stderr, "Test failed RFC5114 set %d\n", i + 1);
 597     return 0;
 598 }
 599
 600 #endif