Check for overflows in EOC.
[openssl.git] / test / p5_crpt2_test.c
1 /*
2  * Copyright 2013-2016 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the OpenSSL license (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #include <stdio.h>
11 #include <string.h>
12
13 #include "../e_os.h"
14
15 #include <openssl/opensslconf.h>
16 #include <openssl/evp.h>
17 #ifndef OPENSSL_NO_ENGINE
18 # include <openssl/engine.h>
19 #endif
20 #include <openssl/err.h>
21 #include <openssl/conf.h>
22
23 typedef struct {
24     const char *pass;
25     int passlen;
26     const char *salt;
27     int saltlen;
28     int iter;
29 } testdata;
30
31 static testdata test_cases[] = {
32     {"password", 8, "salt", 4, 1},
33     {"password", 8, "salt", 4, 2},
34     {"password", 8, "salt", 4, 4096},
35     {"passwordPASSWORDpassword", 24,
36      "saltSALTsaltSALTsaltSALTsaltSALTsalt", 36, 4096},
37     {"pass\0word", 9, "sa\0lt", 5, 4096},
38     {NULL},
39 };
40
41 static const char *sha1_results[] = {
42     "0c60c80f961f0e71f3a9b524af6012062fe037a6",
43     "ea6c014dc72d6f8ccd1ed92ace1d41f0d8de8957",
44     "4b007901b765489abead49d926f721d065a429c1",
45     "3d2eec4fe41c849b80c8d83662c0e44a8b291a964cf2f07038",
46     "56fa6aa75548099dcc37d7f03425e0c3",
47 };
48
49 static const char *sha256_results[] = {
50     "120fb6cffcf8b32c43e7225256c4f837a86548c92ccc35480805987cb70be17b",
51     "ae4d0c95af6b46d32d0adff928f06dd02a303f8ef3c251dfd6e2d85a95474c43",
52     "c5e478d59288c841aa530db6845c4c8d962893a001ce4e11a4963873aa98134a",
53     "348c89dbcbd32b2f32d814b8116e84cf2b17347ebc1800181c4e2a1fb8dd53e1c63551"
54         "8c7dac47e9",
55     "89b69d0516f829893c696226650a8687",
56 };
57
58 static const char *sha512_results[] = {
59     "867f70cf1ade02cff3752599a3a53dc4af34c7a669815ae5d513554e1c8cf252c02d47"
60         "0a285a0501bad999bfe943c08f050235d7d68b1da55e63f73b60a57fce",
61     "e1d9c16aa681708a45f5c7c4e215ceb66e011a2e9f0040713f18aefdb866d53cf76cab"
62         "2868a39b9f7840edce4fef5a82be67335c77a6068e04112754f27ccf4e",
63     "d197b1b33db0143e018b12f3d1d1479e6cdebdcc97c5c0f87f6902e072f457b5143f30"
64         "602641b3d55cd335988cb36b84376060ecd532e039b742a239434af2d5",
65     "8c0511f4c6e597c6ac6315d8f0362e225f3c501495ba23b868c005174dc4ee71115b59"
66         "f9e60cd9532fa33e0f75aefe30225c583a186cd82bd4daea9724a3d3b8",
67     "9d9e9c4cd21fe4be24d5b8244c759665",
68 };
69
70 static void hexdump(FILE *f, const char *title, const unsigned char *s, int l)
71 {
72     int i;
73     fprintf(f, "%s", title);
74     for (i = 0; i < l; i++) {
75         fprintf(f, "%02x", s[i]);
76     }
77     fprintf(f, "\n");
78 }
79
80 static void convert(unsigned char *dst, const unsigned char *src, int len)
81 {
82     int i;
83     for (i = 0; i < len; i++, dst++, src += 2) {
84         unsigned int n;
85         sscanf((char *)src, "%2x", &n);
86         *dst = (unsigned char)n;
87     }
88     *dst = 0;
89 }
90
91 static void
92 test_p5_pbkdf2(int i, char *digestname, testdata *test, const char *hex)
93 {
94     const EVP_MD *digest;
95     unsigned char *out;
96     unsigned char *expected;
97     int keylen, r;
98
99     digest = EVP_get_digestbyname(digestname);
100     if (digest == NULL) {
101         fprintf(stderr, "unknown digest %s\n", digestname);
102         EXIT(5);
103     }
104
105     if ((strlen(hex) % 2) != 0) {
106         fprintf(stderr, "odd hex digest %s %i\n", digestname, i);
107         EXIT(5);
108     }
109     keylen = strlen(hex) / 2;
110     expected = OPENSSL_malloc(keylen + 1);
111     out = OPENSSL_malloc(keylen + 1);
112     if ((expected == NULL) || (out == NULL)) {
113         fprintf(stderr, "malloc() failed\n");
114         EXIT(5);
115     }
116     convert(expected, (const unsigned char *)hex, keylen);
117
118     r = PKCS5_PBKDF2_HMAC(test->pass, test->passlen,
119                           (const unsigned char *)test->salt, test->saltlen,
120                           test->iter, digest, keylen, out);
121
122     if (r == 0) {
123         fprintf(stderr, "PKCS5_PBKDF2_HMAC(%s) failure test %i\n",
124                 digestname, i);
125         EXIT(3);
126     }
127     if (memcmp(expected, out, keylen) != 0) {
128         fprintf(stderr, "Wrong result for PKCS5_PBKDF2_HMAC(%s) test %i\n",
129                 digestname, i);
130         hexdump(stderr, "expected: ", expected, keylen);
131         hexdump(stderr, "result:   ", out, keylen);
132         EXIT(2);
133     }
134     OPENSSL_free(expected);
135     OPENSSL_free(out);
136 }
137
138 int main(int argc, char **argv)
139 {
140     int i;
141     testdata *test = test_cases;
142
143     CRYPTO_set_mem_debug(1);
144     CRYPTO_mem_ctrl(CRYPTO_MEM_CHECK_ON);
145
146     OPENSSL_init_crypto(OPENSSL_INIT_ENGINE_ALL_BUILTIN, NULL);
147
148     printf("PKCS5_PBKDF2_HMAC() tests ");
149     for (i = 0; test->pass != NULL; i++, test++) {
150         test_p5_pbkdf2(i, "sha1", test, sha1_results[i]);
151         test_p5_pbkdf2(i, "sha256", test, sha256_results[i]);
152         test_p5_pbkdf2(i, "sha512", test, sha512_results[i]);
153         printf(".");
154     }
155     printf(" done\n");
156
157 #ifndef OPENSSL_NO_CRYPTO_MDEBUG
158     if (CRYPTO_mem_leaks_fp(stderr) <= 0)
159         return 1;
160 # endif
161     return 0;
162 }