Fix cert with rsa instead of rsaEncryption as public key algorithm
[openssl.git] / test / dsatest.c
1 /*
2  * Copyright 1995-2017 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the Apache License 2.0 (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #include <stdio.h>
11 #include <stdlib.h>
12 #include <string.h>
13 #include <sys/types.h>
14 #include <sys/stat.h>
15
16 #include <openssl/crypto.h>
17 #include <openssl/rand.h>
18 #include <openssl/bn.h>
19 #include <openssl/dsa.h>
20
21 #include "testutil.h"
22 #include "internal/nelem.h"
23
24 #ifndef OPENSSL_NO_DSA
25 static int dsa_cb(int p, int n, BN_GENCB *arg);
26
27 /*
28  * seed, out_p, out_q, out_g are taken from the updated Appendix 5 to FIPS
29  * PUB 186 and also appear in Appendix 5 to FIPS PIB 186-1
30  */
31 static unsigned char seed[20] = {
32     0xd5, 0x01, 0x4e, 0x4b, 0x60, 0xef, 0x2b, 0xa8, 0xb6, 0x21, 0x1b, 0x40,
33     0x62, 0xba, 0x32, 0x24, 0xe0, 0x42, 0x7d, 0xd3,
34 };
35
36 static unsigned char out_p[] = {
37     0x8d, 0xf2, 0xa4, 0x94, 0x49, 0x22, 0x76, 0xaa,
38     0x3d, 0x25, 0x75, 0x9b, 0xb0, 0x68, 0x69, 0xcb,
39     0xea, 0xc0, 0xd8, 0x3a, 0xfb, 0x8d, 0x0c, 0xf7,
40     0xcb, 0xb8, 0x32, 0x4f, 0x0d, 0x78, 0x82, 0xe5,
41     0xd0, 0x76, 0x2f, 0xc5, 0xb7, 0x21, 0x0e, 0xaf,
42     0xc2, 0xe9, 0xad, 0xac, 0x32, 0xab, 0x7a, 0xac,
43     0x49, 0x69, 0x3d, 0xfb, 0xf8, 0x37, 0x24, 0xc2,
44     0xec, 0x07, 0x36, 0xee, 0x31, 0xc8, 0x02, 0x91,
45 };
46
47 static unsigned char out_q[] = {
48     0xc7, 0x73, 0x21, 0x8c, 0x73, 0x7e, 0xc8, 0xee,
49     0x99, 0x3b, 0x4f, 0x2d, 0xed, 0x30, 0xf4, 0x8e,
50     0xda, 0xce, 0x91, 0x5f,
51 };
52
53 static unsigned char out_g[] = {
54     0x62, 0x6d, 0x02, 0x78, 0x39, 0xea, 0x0a, 0x13,
55     0x41, 0x31, 0x63, 0xa5, 0x5b, 0x4c, 0xb5, 0x00,
56     0x29, 0x9d, 0x55, 0x22, 0x95, 0x6c, 0xef, 0xcb,
57     0x3b, 0xff, 0x10, 0xf3, 0x99, 0xce, 0x2c, 0x2e,
58     0x71, 0xcb, 0x9d, 0xe5, 0xfa, 0x24, 0xba, 0xbf,
59     0x58, 0xe5, 0xb7, 0x95, 0x21, 0x92, 0x5c, 0x9c,
60     0xc4, 0x2e, 0x9f, 0x6f, 0x46, 0x4b, 0x08, 0x8c,
61     0xc5, 0x72, 0xaf, 0x53, 0xe6, 0xd7, 0x88, 0x02,
62 };
63
64 static const unsigned char str1[] = "12345678901234567890";
65
66 static int dsa_test(void)
67 {
68     BN_GENCB *cb;
69     DSA *dsa = NULL;
70     int counter, ret = 0, i, j;
71     unsigned char buf[256];
72     unsigned long h;
73     unsigned char sig[256];
74     unsigned int siglen;
75     const BIGNUM *p = NULL, *q = NULL, *g = NULL;
76
77     if (!TEST_ptr(cb = BN_GENCB_new()))
78         goto end;
79
80     BN_GENCB_set(cb, dsa_cb, NULL);
81     if (!TEST_ptr(dsa = DSA_new())
82         || !TEST_true(DSA_generate_parameters_ex(dsa, 512, seed, 20,
83                                                 &counter, &h, cb)))
84         goto end;
85
86     if (!TEST_int_eq(counter, 105))
87         goto end;
88     if (!TEST_int_eq(h, 2))
89         goto end;
90
91     DSA_get0_pqg(dsa, &p, &q, &g);
92     i = BN_bn2bin(q, buf);
93     j = sizeof(out_q);
94     if (!TEST_int_eq(i, j) || !TEST_mem_eq(buf, i, out_q, i))
95         goto end;
96
97     i = BN_bn2bin(p, buf);
98     j = sizeof(out_p);
99     if (!TEST_int_eq(i, j) || !TEST_mem_eq(buf, i, out_p, i))
100         goto end;
101
102     i = BN_bn2bin(g, buf);
103     j = sizeof(out_g);
104     if (!TEST_int_eq(i, j) || !TEST_mem_eq(buf, i, out_g, i))
105         goto end;
106
107     DSA_generate_key(dsa);
108     DSA_sign(0, str1, 20, sig, &siglen, dsa);
109     if (TEST_true(DSA_verify(0, str1, 20, sig, siglen, dsa)))
110         ret = 1;
111
112  end:
113     DSA_free(dsa);
114     BN_GENCB_free(cb);
115     return ret;
116 }
117
118 static int dsa_cb(int p, int n, BN_GENCB *arg)
119 {
120     static int ok = 0, num = 0;
121
122     if (p == 0)
123         num++;
124     if (p == 2)
125         ok++;
126
127     if (!ok && (p == 0) && (num > 1)) {
128         TEST_error("dsa_cb error");
129         return 0;
130     }
131     return 1;
132 }
133 #endif /* OPENSSL_NO_DSA */
134
135 int setup_tests(void)
136 {
137 #ifndef OPENSSL_NO_DSA
138     ADD_TEST(dsa_test);
139 #endif
140     return 1;
141 }