ASN.1: adapt our use of INTxx et al by making them explicitely embedded
[openssl.git] / test / rc4test.c
1 /*
2  * Copyright 1995-2017 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the OpenSSL license (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #include <string.h>
11
12 #include "../e_os.h"
13 #include "test_main.h"
14 #include "testutil.h"
15
16 #ifndef OPENSSL_NO_RC4
17 # include <openssl/rc4.h>
18 # include <openssl/sha.h>
19
20 static unsigned char keys[6][30] = {
21     {8, 0x01, 0x23, 0x45, 0x67, 0x89, 0xab, 0xcd, 0xef},
22     {8, 0x01, 0x23, 0x45, 0x67, 0x89, 0xab, 0xcd, 0xef},
23     {8, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00},
24     {4, 0xef, 0x01, 0x23, 0x45},
25     {8, 0x01, 0x23, 0x45, 0x67, 0x89, 0xab, 0xcd, 0xef},
26     {4, 0xef, 0x01, 0x23, 0x45},
27 };
28
29 static unsigned char data_len[6] = { 8, 8, 8, 20, 28, 10 };
30
31 static unsigned char data[6][30] = {
32     {0x01, 0x23, 0x45, 0x67, 0x89, 0xab, 0xcd, 0xef, 0xff},
33     {0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0xff},
34     {0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0xff},
35     {0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00,
36      0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00,
37      0x00, 0x00, 0x00, 0x00, 0xff},
38     {0x12, 0x34, 0x56, 0x78, 0x9A, 0xBC, 0xDE, 0xF0,
39      0x12, 0x34, 0x56, 0x78, 0x9A, 0xBC, 0xDE, 0xF0,
40      0x12, 0x34, 0x56, 0x78, 0x9A, 0xBC, 0xDE, 0xF0,
41      0x12, 0x34, 0x56, 0x78, 0xff},
42     {0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0xff},
43 };
44
45 static unsigned char output[6][30] = {
46     {0x75, 0xb7, 0x87, 0x80, 0x99, 0xe0, 0xc5, 0x96, 0x00},
47     {0x74, 0x94, 0xc2, 0xe7, 0x10, 0x4b, 0x08, 0x79, 0x00},
48     {0xde, 0x18, 0x89, 0x41, 0xa3, 0x37, 0x5d, 0x3a, 0x00},
49     {0xd6, 0xa1, 0x41, 0xa7, 0xec, 0x3c, 0x38, 0xdf,
50      0xbd, 0x61, 0x5a, 0x11, 0x62, 0xe1, 0xc7, 0xba,
51      0x36, 0xb6, 0x78, 0x58, 0x00},
52     {0x66, 0xa0, 0x94, 0x9f, 0x8a, 0xf7, 0xd6, 0x89,
53      0x1f, 0x7f, 0x83, 0x2b, 0xa8, 0x33, 0xc0, 0x0c,
54      0x89, 0x2e, 0xbe, 0x30, 0x14, 0x3c, 0xe2, 0x87,
55      0x40, 0x01, 0x1e, 0xcf, 0x00},
56     {0xd6, 0xa1, 0x41, 0xa7, 0xec, 0x3c, 0x38, 0xdf, 0xbd, 0x61, 0x00},
57 };
58
59 static int test_rc4_encrypt(const int i)
60 {
61     unsigned char obuf[512];
62     RC4_KEY key;
63
64     RC4_set_key(&key, keys[i][0], &(keys[i][1]));
65     memset(obuf, 0, sizeof(obuf));
66     RC4(&key, data_len[i], &(data[i][0]), obuf);
67     return TEST_mem_eq(obuf, data_len[i] + 1, output[i], data_len[i] + 1);
68 }
69
70 static int test_rc4_end_processing(const int i)
71 {
72     unsigned char obuf[512];
73     RC4_KEY key;
74
75     RC4_set_key(&key, keys[3][0], &(keys[3][1]));
76     memset(obuf, 0, sizeof(obuf));
77     RC4(&key, i, &(data[3][0]), obuf);
78     if (!TEST_mem_eq(obuf, i, output[3], i))
79         return 0;
80     return TEST_uchar_eq(obuf[i], 0);
81 }
82
83 static int test_rc4_multi_call(const int i)
84 {
85     unsigned char obuf[512];
86     RC4_KEY key;
87
88     RC4_set_key(&key, keys[3][0], &(keys[3][1]));
89     memset(obuf, 0, sizeof(obuf));
90     RC4(&key, i, &(data[3][0]), obuf);
91     RC4(&key, data_len[3] - i, &(data[3][i]), &(obuf[i]));
92     return TEST_mem_eq(obuf, data_len[3] + 1, output[3], data_len[3] + 1);
93 }
94
95 static int test_rc_bulk(void)
96 {
97     RC4_KEY key;
98     unsigned char buf[513];
99     SHA_CTX c;
100     unsigned char md[SHA_DIGEST_LENGTH];
101     int i;
102     static unsigned char expected[] = {
103         0xa4, 0x7b, 0xcc, 0x00, 0x3d, 0xd0, 0xbd, 0xe1, 0xac, 0x5f,
104         0x12, 0x1e, 0x45, 0xbc, 0xfb, 0x1a, 0xa1, 0xf2, 0x7f, 0xc5
105     };
106
107     RC4_set_key(&key, keys[0][0], &(keys[3][1]));
108     memset(buf, 0, sizeof(buf));
109     SHA1_Init(&c);
110     for (i = 0; i < 2571; i++) {
111         RC4(&key, sizeof(buf), buf, buf);
112         SHA1_Update(&c, buf, sizeof(buf));
113     }
114     SHA1_Final(md, &c);
115
116     return TEST_mem_eq(md, sizeof(md), expected, sizeof(expected));
117 }
118 #endif
119
120 void register_tests(void)
121 {
122 #ifndef OPENSSL_NO_RC4
123     ADD_ALL_TESTS(test_rc4_encrypt, OSSL_NELEM(data_len));
124     ADD_ALL_TESTS(test_rc4_end_processing, data_len[3]);
125     ADD_ALL_TESTS(test_rc4_multi_call, data_len[3]);
126     ADD_TEST(test_rc_bulk);
127 #endif
128 }