077fab1bb5f1e719eb1af5638325c57b0bb3376b
[openssl.git] / fips / fipsalgtest.pl
1 #!/usr/bin/perl -w
2 # Perl utility to run or verify FIPS 140-2 CAVP algorithm tests based on the
3 # pathnames of input algorithm test files actually present (the unqualified
4 # file names are consistent but the pathnames are not).
5 #
6
7 # FIPS test definitions
8 # List of all the unqualified file names we expect and command lines to run
9
10 # DSA tests
11 my @fips_dsa_test_list = (
12
13     "DSA",
14
15     [ "PQGGen",  "fips_dssvs pqg" ],
16     [ "KeyPair", "fips_dssvs keypair" ],
17     [ "SigGen",  "fips_dssvs siggen" ],
18     [ "SigVer",  "fips_dssvs sigver" ]
19
20 );
21
22 my @fips_dsa_pqgver_test_list = (
23
24     [ "PQGVer",  "fips_dssvs pqgver" ]
25
26 );
27
28 # RSA tests
29
30 my @fips_rsa_test_list = (
31
32     "RSA",
33
34     [ "SigGen15",  "fips_rsastest" ],
35     [ "SigVer15",  "fips_rsavtest" ],
36     [ "SigVerRSA", "fips_rsavtest -x931" ],
37     [ "KeyGenRSA", "fips_rsagtest" ],
38     [ "SigGenRSA", "fips_rsastest -x931" ]
39
40 );
41
42 # Special cases for PSS. The filename itself is
43 # not sufficient to determine the test. Addditionally we
44 # need to examine the file contents to determine the salt length
45 # In these cases the test filename has (saltlen) appended.
46
47 # RSA PSS salt length 0 tests
48
49 my @fips_rsa_pss0_test_list = (
50
51     [ "SigGenPSS(0)", "fips_rsastest -saltlen 0",
52                                         '^\s*#\s*salt\s+len:\s+0\s*$' ],
53     [ "SigVerPSS(0)", "fips_rsavtest -saltlen 0",
54                                         '^\s*#\s*salt\s+len:\s+0\s*$' ],
55
56 );
57
58 # RSA PSS salt length 62 tests
59
60 my @fips_rsa_pss62_test_list = (
61     [ "SigGenPSS(62)", "fips_rsastest -saltlen 62",
62                                         '^\s*#\s*salt\s+len:\s+62\s*$' ],
63     [ "SigVerPSS(62)", "fips_rsavtest -saltlen 62",
64                                         '^\s*#\s*salt\s+len:\s+62\s*$' ],
65 );
66
67 # SHA tests
68
69 my @fips_sha_test_list = (
70
71     "SHA",
72
73     [ "SHA1LongMsg",    "fips_shatest" ],
74     [ "SHA1Monte",      "fips_shatest" ],
75     [ "SHA1ShortMsg",   "fips_shatest" ],
76     [ "SHA224LongMsg",  "fips_shatest" ],
77     [ "SHA224Monte",    "fips_shatest" ],
78     [ "SHA224ShortMsg", "fips_shatest" ],
79     [ "SHA256LongMsg",  "fips_shatest" ],
80     [ "SHA256Monte",    "fips_shatest" ],
81     [ "SHA256ShortMsg", "fips_shatest" ],
82     [ "SHA384LongMsg",  "fips_shatest" ],
83     [ "SHA384Monte",    "fips_shatest" ],
84     [ "SHA384ShortMsg", "fips_shatest" ],
85     [ "SHA512LongMsg",  "fips_shatest" ],
86     [ "SHA512Monte",    "fips_shatest" ],
87     [ "SHA512ShortMsg", "fips_shatest" ]
88
89 );
90
91 # HMAC
92
93 my @fips_hmac_test_list = (
94
95     "HMAC",
96
97     [ "HMAC", "fips_hmactest" ]
98
99 );
100
101 # CMAC
102
103 my @fips_cmac_test_list = (
104
105     "CMAC",
106
107     [ "CMACGenAES128", "fips_cmactest -a aes128 -g" ],
108     [ "CMACVerAES128", "fips_cmactest -a aes128 -v" ],
109     [ "CMACGenAES192", "fips_cmactest -a aes192 -g" ],
110     [ "CMACVerAES192", "fips_cmactest -a aes192 -v" ],
111     [ "CMACGenAES256", "fips_cmactest -a aes256 -g" ],
112     [ "CMACVerAES256", "fips_cmactest -a aes256 -v" ],
113     [ "CMACGenTDES3", "fips_cmactest -a tdes3 -g" ],
114     [ "CMACVerTDES3", "fips_cmactest -a tdes3 -v" ],
115
116 );
117
118 # RAND tests, AES version
119
120 my @fips_rand_aes_test_list = (
121
122     "RAND (AES)",
123
124     [ "ANSI931_AES128MCT", "fips_rngvs mct" ],
125     [ "ANSI931_AES192MCT", "fips_rngvs mct" ],
126     [ "ANSI931_AES256MCT", "fips_rngvs mct" ],
127     [ "ANSI931_AES128VST", "fips_rngvs vst" ],
128     [ "ANSI931_AES192VST", "fips_rngvs vst" ],
129     [ "ANSI931_AES256VST", "fips_rngvs vst" ]
130
131 );
132
133 # RAND tests, DES2 version
134
135 my @fips_rand_des2_test_list = (
136
137     "RAND (DES2)",
138
139     [ "ANSI931_TDES2MCT", "fips_rngvs mct" ],
140     [ "ANSI931_TDES2VST", "fips_rngvs vst" ]
141
142 );
143
144 # AES tests
145
146 my @fips_aes_test_list = (
147
148     "AES",
149
150     [ "CBCGFSbox128",     "fips_aesavs -f" ],
151     [ "CBCGFSbox192",     "fips_aesavs -f" ],
152     [ "CBCGFSbox256",     "fips_aesavs -f" ],
153     [ "CBCKeySbox128",    "fips_aesavs -f" ],
154     [ "CBCKeySbox192",    "fips_aesavs -f" ],
155     [ "CBCKeySbox256",    "fips_aesavs -f" ],
156     [ "CBCMCT128",        "fips_aesavs -f" ],
157     [ "CBCMCT192",        "fips_aesavs -f" ],
158     [ "CBCMCT256",        "fips_aesavs -f" ],
159     [ "CBCMMT128",        "fips_aesavs -f" ],
160     [ "CBCMMT192",        "fips_aesavs -f" ],
161     [ "CBCMMT256",        "fips_aesavs -f" ],
162     [ "CBCVarKey128",     "fips_aesavs -f" ],
163     [ "CBCVarKey192",     "fips_aesavs -f" ],
164     [ "CBCVarKey256",     "fips_aesavs -f" ],
165     [ "CBCVarTxt128",     "fips_aesavs -f" ],
166     [ "CBCVarTxt192",     "fips_aesavs -f" ],
167     [ "CBCVarTxt256",     "fips_aesavs -f" ],
168     [ "CFB128GFSbox128",  "fips_aesavs -f" ],
169     [ "CFB128GFSbox192",  "fips_aesavs -f" ],
170     [ "CFB128GFSbox256",  "fips_aesavs -f" ],
171     [ "CFB128KeySbox128", "fips_aesavs -f" ],
172     [ "CFB128KeySbox192", "fips_aesavs -f" ],
173     [ "CFB128KeySbox256", "fips_aesavs -f" ],
174     [ "CFB128MCT128",     "fips_aesavs -f" ],
175     [ "CFB128MCT192",     "fips_aesavs -f" ],
176     [ "CFB128MCT256",     "fips_aesavs -f" ],
177     [ "CFB128MMT128",     "fips_aesavs -f" ],
178     [ "CFB128MMT192",     "fips_aesavs -f" ],
179     [ "CFB128MMT256",     "fips_aesavs -f" ],
180     [ "CFB128VarKey128",  "fips_aesavs -f" ],
181     [ "CFB128VarKey192",  "fips_aesavs -f" ],
182     [ "CFB128VarKey256",  "fips_aesavs -f" ],
183     [ "CFB128VarTxt128",  "fips_aesavs -f" ],
184     [ "CFB128VarTxt192",  "fips_aesavs -f" ],
185     [ "CFB128VarTxt256",  "fips_aesavs -f" ],
186     [ "CFB8GFSbox128",    "fips_aesavs -f" ],
187     [ "CFB8GFSbox192",    "fips_aesavs -f" ],
188     [ "CFB8GFSbox256",    "fips_aesavs -f" ],
189     [ "CFB8KeySbox128",   "fips_aesavs -f" ],
190     [ "CFB8KeySbox192",   "fips_aesavs -f" ],
191     [ "CFB8KeySbox256",   "fips_aesavs -f" ],
192     [ "CFB8MCT128",       "fips_aesavs -f" ],
193     [ "CFB8MCT192",       "fips_aesavs -f" ],
194     [ "CFB8MCT256",       "fips_aesavs -f" ],
195     [ "CFB8MMT128",       "fips_aesavs -f" ],
196     [ "CFB8MMT192",       "fips_aesavs -f" ],
197     [ "CFB8MMT256",       "fips_aesavs -f" ],
198     [ "CFB8VarKey128",    "fips_aesavs -f" ],
199     [ "CFB8VarKey192",    "fips_aesavs -f" ],
200     [ "CFB8VarKey256",    "fips_aesavs -f" ],
201     [ "CFB8VarTxt128",    "fips_aesavs -f" ],
202     [ "CFB8VarTxt192",    "fips_aesavs -f" ],
203     [ "CFB8VarTxt256",    "fips_aesavs -f" ],
204
205     [ "ECBGFSbox128",  "fips_aesavs -f" ],
206     [ "ECBGFSbox192",  "fips_aesavs -f" ],
207     [ "ECBGFSbox256",  "fips_aesavs -f" ],
208     [ "ECBKeySbox128", "fips_aesavs -f" ],
209     [ "ECBKeySbox192", "fips_aesavs -f" ],
210     [ "ECBKeySbox256", "fips_aesavs -f" ],
211     [ "ECBMCT128",     "fips_aesavs -f" ],
212     [ "ECBMCT192",     "fips_aesavs -f" ],
213     [ "ECBMCT256",     "fips_aesavs -f" ],
214     [ "ECBMMT128",     "fips_aesavs -f" ],
215     [ "ECBMMT192",     "fips_aesavs -f" ],
216     [ "ECBMMT256",     "fips_aesavs -f" ],
217     [ "ECBVarKey128",  "fips_aesavs -f" ],
218     [ "ECBVarKey192",  "fips_aesavs -f" ],
219     [ "ECBVarKey256",  "fips_aesavs -f" ],
220     [ "ECBVarTxt128",  "fips_aesavs -f" ],
221     [ "ECBVarTxt192",  "fips_aesavs -f" ],
222     [ "ECBVarTxt256",  "fips_aesavs -f" ],
223     [ "OFBGFSbox128",  "fips_aesavs -f" ],
224     [ "OFBGFSbox192",  "fips_aesavs -f" ],
225     [ "OFBGFSbox256",  "fips_aesavs -f" ],
226     [ "OFBKeySbox128", "fips_aesavs -f" ],
227     [ "OFBKeySbox192", "fips_aesavs -f" ],
228     [ "OFBKeySbox256", "fips_aesavs -f" ],
229     [ "OFBMCT128",     "fips_aesavs -f" ],
230     [ "OFBMCT192",     "fips_aesavs -f" ],
231     [ "OFBMCT256",     "fips_aesavs -f" ],
232     [ "OFBMMT128",     "fips_aesavs -f" ],
233     [ "OFBMMT192",     "fips_aesavs -f" ],
234     [ "OFBMMT256",     "fips_aesavs -f" ],
235     [ "OFBVarKey128",  "fips_aesavs -f" ],
236     [ "OFBVarKey192",  "fips_aesavs -f" ],
237     [ "OFBVarKey256",  "fips_aesavs -f" ],
238     [ "OFBVarTxt128",  "fips_aesavs -f" ],
239     [ "OFBVarTxt192",  "fips_aesavs -f" ],
240     [ "OFBVarTxt256",  "fips_aesavs -f" ]
241
242 );
243
244 my @fips_aes_cfb1_test_list = (
245
246     # AES CFB1 tests
247
248     [ "CFB1GFSbox128",  "fips_aesavs -f" ],
249     [ "CFB1GFSbox192",  "fips_aesavs -f" ],
250     [ "CFB1GFSbox256",  "fips_aesavs -f" ],
251     [ "CFB1KeySbox128", "fips_aesavs -f" ],
252     [ "CFB1KeySbox192", "fips_aesavs -f" ],
253     [ "CFB1KeySbox256", "fips_aesavs -f" ],
254     [ "CFB1MCT128",     "fips_aesavs -f" ],
255     [ "CFB1MCT192",     "fips_aesavs -f" ],
256     [ "CFB1MCT256",     "fips_aesavs -f" ],
257     [ "CFB1MMT128",     "fips_aesavs -f" ],
258     [ "CFB1MMT192",     "fips_aesavs -f" ],
259     [ "CFB1MMT256",     "fips_aesavs -f" ],
260     [ "CFB1VarKey128",  "fips_aesavs -f" ],
261     [ "CFB1VarKey192",  "fips_aesavs -f" ],
262     [ "CFB1VarKey256",  "fips_aesavs -f" ],
263     [ "CFB1VarTxt128",  "fips_aesavs -f" ],
264     [ "CFB1VarTxt192",  "fips_aesavs -f" ],
265     [ "CFB1VarTxt256",  "fips_aesavs -f" ]
266
267 );
268
269 my @fips_aes_ccm_test_list = (
270
271     # AES CCM tests
272
273     "AES CCM",
274
275     [ "DVPT128",  "fips_gcmtest -ccm" ],
276     [ "DVPT192",  "fips_gcmtest -ccm" ],
277     [ "DVPT256",  "fips_gcmtest -ccm" ],
278     [ "VADT128",  "fips_gcmtest -ccm" ],
279     [ "VADT192",  "fips_gcmtest -ccm" ],
280     [ "VADT256",  "fips_gcmtest -ccm" ],
281     [ "VNT128",  "fips_gcmtest -ccm" ],
282     [ "VNT192",  "fips_gcmtest -ccm" ],
283     [ "VNT256",  "fips_gcmtest -ccm" ],
284     [ "VPT128",  "fips_gcmtest -ccm" ],
285     [ "VPT192",  "fips_gcmtest -ccm" ],
286     [ "VPT256",  "fips_gcmtest -ccm" ],
287     [ "VTT128",  "fips_gcmtest -ccm" ],
288     [ "VTT192",  "fips_gcmtest -ccm" ],
289     [ "VTT256",  "fips_gcmtest -ccm" ]
290
291 );
292
293 my @fips_aes_gcm_test_list = (
294
295     # AES GCM tests
296
297     "AES GCM",
298
299     [ "gcmDecrypt128",  "fips_gcmtest -decrypt" ],
300     [ "gcmDecrypt192",  "fips_gcmtest -decrypt" ],
301     [ "gcmDecrypt256",  "fips_gcmtest -decrypt" ],
302
303 );
304
305 my @fips_aes_xts_test_list = (
306     # AES XTS tests
307
308     "AES XTS",
309
310     [ "XTSGenAES128",  "fips_gcmtest -xts" ],
311     [ "XTSGenAES256",  "fips_gcmtest -xts" ],
312
313 );
314
315 # Triple DES tests
316
317 my @fips_des3_test_list = (
318
319     "Triple DES",
320
321     [ "TCBCinvperm",   "fips_desmovs -f" ],
322     [ "TCBCMMT1",      "fips_desmovs -f" ],
323     [ "TCBCMMT2",      "fips_desmovs -f" ],
324     [ "TCBCMMT3",      "fips_desmovs -f" ],
325     [ "TCBCMonte1",    "fips_desmovs -f" ],
326     [ "TCBCMonte2",    "fips_desmovs -f" ],
327     [ "TCBCMonte3",    "fips_desmovs -f" ],
328     [ "TCBCpermop",    "fips_desmovs -f" ],
329     [ "TCBCsubtab",    "fips_desmovs -f" ],
330     [ "TCBCvarkey",    "fips_desmovs -f" ],
331     [ "TCBCvartext",   "fips_desmovs -f" ],
332     [ "TCFB64invperm", "fips_desmovs -f" ],
333     [ "TCFB64MMT1",    "fips_desmovs -f" ],
334     [ "TCFB64MMT2",    "fips_desmovs -f" ],
335     [ "TCFB64MMT3",    "fips_desmovs -f" ],
336     [ "TCFB64Monte1",  "fips_desmovs -f" ],
337     [ "TCFB64Monte2",  "fips_desmovs -f" ],
338     [ "TCFB64Monte3",  "fips_desmovs -f" ],
339     [ "TCFB64permop",  "fips_desmovs -f" ],
340     [ "TCFB64subtab",  "fips_desmovs -f" ],
341     [ "TCFB64varkey",  "fips_desmovs -f" ],
342     [ "TCFB64vartext", "fips_desmovs -f" ],
343     [ "TCFB8invperm",  "fips_desmovs -f" ],
344     [ "TCFB8MMT1",     "fips_desmovs -f" ],
345     [ "TCFB8MMT2",     "fips_desmovs -f" ],
346     [ "TCFB8MMT3",     "fips_desmovs -f" ],
347     [ "TCFB8Monte1",   "fips_desmovs -f" ],
348     [ "TCFB8Monte2",   "fips_desmovs -f" ],
349     [ "TCFB8Monte3",   "fips_desmovs -f" ],
350     [ "TCFB8permop",   "fips_desmovs -f" ],
351     [ "TCFB8subtab",   "fips_desmovs -f" ],
352     [ "TCFB8varkey",   "fips_desmovs -f" ],
353     [ "TCFB8vartext",  "fips_desmovs -f" ],
354     [ "TECBinvperm",   "fips_desmovs -f" ],
355     [ "TECBMMT1",      "fips_desmovs -f" ],
356     [ "TECBMMT2",      "fips_desmovs -f" ],
357     [ "TECBMMT3",      "fips_desmovs -f" ],
358     [ "TECBMonte1",    "fips_desmovs -f" ],
359     [ "TECBMonte2",    "fips_desmovs -f" ],
360     [ "TECBMonte3",    "fips_desmovs -f" ],
361     [ "TECBpermop",    "fips_desmovs -f" ],
362     [ "TECBsubtab",    "fips_desmovs -f" ],
363     [ "TECBvarkey",    "fips_desmovs -f" ],
364     [ "TECBvartext",   "fips_desmovs -f" ],
365     [ "TOFBinvperm",   "fips_desmovs -f" ],
366     [ "TOFBMMT1",      "fips_desmovs -f" ],
367     [ "TOFBMMT2",      "fips_desmovs -f" ],
368     [ "TOFBMMT3",      "fips_desmovs -f" ],
369     [ "TOFBMonte1",    "fips_desmovs -f" ],
370     [ "TOFBMonte2",    "fips_desmovs -f" ],
371     [ "TOFBMonte3",    "fips_desmovs -f" ],
372     [ "TOFBpermop",    "fips_desmovs -f" ],
373     [ "TOFBsubtab",    "fips_desmovs -f" ],
374     [ "TOFBvarkey",    "fips_desmovs -f" ],
375     [ "TOFBvartext",   "fips_desmovs -f" ]
376
377 );
378
379 my @fips_des3_cfb1_test_list = (
380
381     # DES3 CFB1 tests
382
383     [ "TCFB1invperm",  "fips_desmovs -f" ],
384     [ "TCFB1MMT1",     "fips_desmovs -f" ],
385     [ "TCFB1MMT2",     "fips_desmovs -f" ],
386     [ "TCFB1MMT3",     "fips_desmovs -f" ],
387     [ "TCFB1Monte1",   "fips_desmovs -f" ],
388     [ "TCFB1Monte2",   "fips_desmovs -f" ],
389     [ "TCFB1Monte3",   "fips_desmovs -f" ],
390     [ "TCFB1permop",   "fips_desmovs -f" ],
391     [ "TCFB1subtab",   "fips_desmovs -f" ],
392     [ "TCFB1varkey",   "fips_desmovs -f" ],
393     [ "TCFB1vartext",  "fips_desmovs -f" ],
394
395 );
396
397 my @fips_drbg_test_list = (
398
399     # SP800-90 DRBG tests
400     "SP800-90 DRBG",
401     [ "CTR_DRBG",   "fips_drbgvs" ],
402     [ "Hash_DRBG",  "fips_drbgvs" ]
403
404 );
405
406 my @fips_dh_test_list = (
407
408     # DH
409     "DH Ephemeral Primitives Only",
410     [ "KASValidityTest_FFCEphem_NOKC_ZZOnly_init",   "fips_dhvs dhver" ],
411     [ "KASValidityTest_FFCEphem_NOKC_ZZOnly_resp",   "fips_dhvs dhver" ],
412
413 );
414
415 my @fips_ecdh_test_list = (
416
417     # ECDH
418     "ECDH Ephemeral Primitives Only",
419     [ "KASValidityTest_ECCEphemeralUnified_NOKC_ZZOnly_init",
420                                                         "fips_ecdhvs ecdhver" ],
421     [ "KASValidityTest_ECCEphemeralUnified_NOKC_ZZOnly_resp",
422                                                         "fips_ecdhvs ecdhver" ],
423
424 );
425
426
427 # Verification special cases.
428 # In most cases the output of a test is deterministic and
429 # it can be compared to a known good result. A few involve
430 # the genration and use of random keys and the output will
431 # be different each time. In thoses cases we perform special tests
432 # to simply check their consistency. For example signature generation
433 # output will be run through signature verification to see if all outputs
434 # show as valid.
435 #
436
437 my %verify_special = (
438     "PQGGen"        => "fips_dssvs pqgver",
439     "KeyPair"       => "fips_dssvs keyver",
440     "SigGen"        => "fips_dssvs sigver",
441     "SigGen15"      => "fips_rsavtest",
442     "SigGenRSA"     => "fips_rsavtest -x931",
443     "SigGenPSS(0)"  => "fips_rsavtest -saltlen 0",
444     "SigGenPSS(62)" => "fips_rsavtest -saltlen 62",
445 );
446
447 my $win32  = $^O =~ m/mswin/i;
448 my $onedir = 0;
449 my $filter = "";
450 my $tvdir;
451 my $tprefix;
452 my $debug          = 0;
453 my $quiet          = 0;
454 my $notest         = 0;
455 my $verify         = 1;
456 my $rspdir         = "rsp";
457 my $ignore_missing = 0;
458 my $ignore_bogus   = 0;
459 my $bufout         = '';
460 my $list_tests     = 0;
461 my $minimal_script = 0;
462 my $outfile        = '';
463 my $no_warn_missing = 0;
464 my $no_warn_bogus = 0;
465
466 my %fips_enabled = (
467     dsa         => 1,
468     "dsa-pqgver"  => 0,
469     rsa         => 1,
470     "rsa-pss0"  => 0,
471     "rsa-pss62" => 1,
472     sha         => 1,
473     hmac        => 1,
474     cmac        => 0,
475     "rand-aes"  => 1,
476     "rand-des2" => 0,
477     aes         => 1,
478     "aes-cfb1"  => 0,
479     des3        => 1,
480     "des3-cfb1" => 0,
481     drbg        => 0,
482     ccm         => 0,
483     "aes-xts"   => 0,
484     gcm         => 0,
485     dh          => 0,
486     ecdh        => 0,
487 );
488
489 foreach (@ARGV) {
490     if ( $_ eq "--win32" ) {
491         $win32 = 1;
492     }
493     elsif ( $_ eq "--onedir" ) {
494         $onedir = 1;
495     }
496     elsif ( $_ eq "--debug" ) {
497         $debug = 1;
498     }
499     elsif ( $_ eq "--quiet-missing" ) {
500         $ignore_missing = 1;
501         $no_warn_missing = 1;
502     }
503     elsif ( $_ eq "--ignore-missing" ) {
504         $ignore_missing = 1;
505     }
506     elsif ( $_ eq "--quiet-bogus" ) {
507         $ignore_bogus = 1;
508         $no_warn_bogus = 1;
509     }
510     elsif ( $_ eq "--ignore-bogus" ) {
511         $ignore_bogus = 1;
512     }
513     elsif ( $_ eq "--minimal-script" ) {
514         $minimal_script = 1;
515     }
516     elsif (/--generate-script=(.*)$/) {
517         $outfile = $1;
518         $verify = 0;
519     } elsif ( $_ eq "--generate" ) {
520         $verify = 0;
521     }
522     elsif ( $_ eq "--notest" ) {
523         $notest = 1;
524     }
525     elsif ( $_ eq "--quiet" ) {
526         $quiet = 1;
527     }
528     elsif (/--dir=(.*)$/) {
529         $tvdir = $1;
530     }
531     elsif (/--rspdir=(.*)$/) {
532         $rspdir = $1;
533     }
534     elsif (/--tprefix=(.*)$/) {
535         $tprefix = $1;
536     }
537     elsif (/^--(enable|disable)-(.*)$/) {
538         if ( !exists $fips_enabled{$2} ) {
539             print STDERR "Unknown test $2\n";
540             exit(1);
541         }
542         if ( $1 eq "enable" ) {
543             $fips_enabled{$2} = 1;
544         }
545         else {
546             $fips_enabled{$2} = 0;
547         }
548     }
549     elsif (/--filter=(.*)$/) {
550         $filter = $1;
551     }
552     elsif (/^--list-tests$/) {
553         $list_tests = 1;
554     }
555     else {
556         Help();
557         exit(1);
558     }
559 }
560
561 my @fips_test_list;
562
563 push @fips_test_list, @fips_dsa_test_list       if $fips_enabled{"dsa"};
564 push @fips_test_list, @fips_dsa_pqgver_test_list if $fips_enabled{"dsa-pqgver"};
565 push @fips_test_list, @fips_rsa_test_list       if $fips_enabled{"rsa"};
566 push @fips_test_list, @fips_rsa_pss0_test_list  if $fips_enabled{"rsa-pss0"};
567 push @fips_test_list, @fips_rsa_pss62_test_list if $fips_enabled{"rsa-pss62"};
568 push @fips_test_list, @fips_sha_test_list       if $fips_enabled{"sha"};
569 push @fips_test_list, @fips_hmac_test_list      if $fips_enabled{"hmac"};
570 push @fips_test_list, @fips_cmac_test_list      if $fips_enabled{"cmac"};
571 push @fips_test_list, @fips_rand_aes_test_list  if $fips_enabled{"rand-aes"};
572 push @fips_test_list, @fips_rand_des2_test_list if $fips_enabled{"rand-des2"};
573 push @fips_test_list, @fips_aes_test_list       if $fips_enabled{"aes"};
574 push @fips_test_list, @fips_aes_cfb1_test_list  if $fips_enabled{"aes-cfb1"};
575 push @fips_test_list, @fips_des3_test_list      if $fips_enabled{"des3"};
576 push @fips_test_list, @fips_des3_cfb1_test_list if $fips_enabled{"des3-cfb1"};
577 push @fips_test_list, @fips_drbg_test_list      if $fips_enabled{"drbg"};
578 push @fips_test_list, @fips_aes_ccm_test_list   if $fips_enabled{"aes-ccm"};
579 push @fips_test_list, @fips_aes_gcm_test_list   if $fips_enabled{"aes-gcm"};
580 push @fips_test_list, @fips_aes_xts_test_list   if $fips_enabled{"aes-xts"};
581 push @fips_test_list, @fips_dh_test_list        if $fips_enabled{"dh"};
582 push @fips_test_list, @fips_ecdh_test_list      if $fips_enabled{"ecdh"};
583
584 if ($list_tests) {
585     my ( $test, $en );
586     print "=====TEST LIST=====\n";
587     foreach $test ( sort keys %fips_enabled ) {
588         $en = $fips_enabled{$test};
589         $test =~ tr/[a-z]/[A-Z]/;
590         printf "%-10s %s\n", $test, $en ? "enabled" : "disabled";
591     }
592     exit(0);
593 }
594
595 foreach (@fips_test_list) {
596     next unless ref($_);
597     my $nm = $$_[0];
598     $$_[3] = "";
599     $$_[4] = "";
600     print STDERR "Duplicate test $nm\n" if exists $fips_tests{$nm};
601     $fips_tests{$nm} = $_;
602 }
603
604 $tvdir = "." unless defined $tvdir;
605
606 if ($win32) {
607     if ( !defined $tprefix ) {
608         if ($onedir) {
609             $tprefix = ".\\";
610         }
611         else {
612             $tprefix = "..\\out32dll\\";
613         }
614     }
615 }
616 else {
617     if ($onedir) {
618         $tprefix       = "./" unless defined $tprefix;
619     }
620     else {
621         $tprefix       = "../test/" unless defined $tprefix;
622     }
623 }
624
625 sanity_check_exe( $win32, $tprefix) if $outfile eq "";
626
627 find_files( $filter, $tvdir );
628
629 sanity_check_files();
630
631 my ( $runerr, $cmperr, $cmpok, $scheckrunerr, $scheckerr, $scheckok, $skipcnt )
632   = ( 0, 0, 0, 0, 0, 0, 0 );
633
634 exit(0) if $notest;
635 print "Outputting commands to $outfile\n" if $outfile ne "";
636 run_tests( $verify, $win32, $tprefix, $filter, $tvdir, $outfile );
637
638 if ($verify) {
639     print "ALGORITHM TEST VERIFY SUMMARY REPORT:\n";
640     print "Tests skipped due to missing files:        $skipcnt\n";
641     print "Algorithm test program execution failures: $runerr\n";
642     print "Test comparisons successful:               $cmpok\n";
643     print "Test comparisons failed:                   $cmperr\n";
644     print "Test sanity checks successful:             $scheckok\n";
645     print "Test sanity checks failed:                 $scheckerr\n";
646     print "Sanity check program execution failures:   $scheckrunerr\n";
647
648     if ( $runerr || $cmperr || $scheckrunerr || $scheckerr ) {
649         print "***TEST FAILURE***\n";
650     }
651     else {
652         print "***ALL TESTS SUCCESSFUL***\n";
653     }
654 }
655 elsif ($outfile eq "") {
656     print "ALGORITHM TEST SUMMARY REPORT:\n";
657     print "Tests skipped due to missing files:        $skipcnt\n";
658     print "Algorithm test program execution failures: $runerr\n";
659
660     if ($runerr) {
661         print "***TEST FAILURE***\n";
662     }
663     else {
664         print "***ALL TESTS SUCCESSFUL***\n";
665     }
666 }
667
668 #--------------------------------
669 sub Help {
670     ( my $cmd ) = ( $0 =~ m#([^/]+)$# );
671     print <<EOF;
672 $cmd: generate run CAVP algorithm tests
673         --debug                     Enable debug output
674         --dir=<dirname>             Optional root for *.req file search
675         --filter=<regexp>
676         --onedir <dirname>          Assume all components in current directory
677         --rspdir=<dirname>          Name of subdirectories containing *.rsp files, default "rsp"
678         --tprefix=<prefix>
679         --ignore-bogus              Ignore duplicate or bogus files
680         --ignore-missing            Ignore missing test files
681         --quiet                     Shhh....
682         --generate                  Generate algorithm test output
683         --win32                     Win32 environment
684         --enable-<alg>              Enable algorithm set <alg>.
685         --disable-<alg>             Disable algorithm set <alg>.
686         Where <alg> can be one of:
687 EOF
688
689 while (my ($key, $value) = each %fips_enabled)
690         {
691         printf "\t\t%-20s(%s by default)\n", $key ,
692                         $value ? "enabled" : "disabled";
693         }
694 }
695
696 # Sanity check to see if all necessary executables exist
697
698 sub sanity_check_exe {
699     my ( $win32, $tprefix, ) = @_;
700     my %exe_list;
701     my $bad = 0;
702     foreach (@fips_test_list) {
703         next unless ref($_);
704         my $cmd = $_->[1];
705         $cmd =~ s/ .*$//;
706         $cmd = $tprefix . $cmd;
707         $cmd .= ".exe" if $win32;
708         $exe_list{$cmd} = 1;
709     }
710
711     foreach ( sort keys %exe_list ) {
712         if ( !-f $_ ) {
713             print STDERR "ERROR: can't find executable $_\n";
714             $bad = 1;
715         }
716     }
717     if ($bad) {
718         print STDERR "FATAL ERROR: executables missing\n";
719         exit(1);
720     }
721     elsif ($debug) {
722         print STDERR "Executable sanity check passed OK\n";
723     }
724 }
725
726 # Search for all request and response files
727
728 sub find_files {
729     my ( $filter, $dir ) = @_;
730     my ( $dirh, $testname, $tref );
731     opendir( $dirh, $dir );
732     while ( $_ = readdir($dirh) ) {
733         next if ( $_ eq "." || $_ eq ".." );
734         $_ = "$dir/$_";
735         if ( -f "$_" ) {
736             if (/\/([^\/]*)\.rsp$/) {
737                 $tref = find_test($1, $_);
738                 if ( defined $tref ) {
739                     $testname = $$tref[0];
740                     if ( $$tref[4] eq "" ) {
741                         $$tref[4] = $_;
742                     }
743                     else {
744                         print STDERR
745 "WARNING: duplicate response file $_ for test $testname\n";
746                         $nbogus++;
747                     }
748                 }
749                 else {
750                     print STDERR "WARNING: bogus file $_\n" unless $no_warn_bogus;
751                     $nbogus++;
752                 }
753             }
754             next unless /$filter.*\.req$/i;
755             if (/\/([^\/]*)\.req$/) {
756                 $tref = find_test($1, $_);
757                 if ( defined $tref ) {
758                     $testname = $$tref[0];
759                     if ( $$tref[3] eq "" ) {
760                         $$tref[3] = $_;
761                     }
762                     else {
763                         print STDERR
764 "WARNING: duplicate request file $_ for test $testname\n";
765                         $nbogus++;
766                     }
767
768                 }
769                 elsif ( !/SHAmix\.req$/ ) {
770                     print STDERR "WARNING: unrecognized filename $_\n" unless $no_warn_bogus;
771                     $nbogus++;
772                 }
773             }
774         }
775         elsif ( -d "$_" ) {
776             find_files( $filter, $_ );
777         }
778     }
779     closedir($dirh);
780 }
781 #
782 # Find test based on filename.
783 # In ambiguous cases search file contents for a match
784 #
785
786 sub find_test {
787     my ( $test, $path ) = @_;
788     foreach $tref (@fips_test_list) {
789         next unless ref($tref);
790         my ( $tst, $cmd, $regexp, $req, $resp ) = @$tref;
791         $tst =~ s/\(.*$//;
792         if ($tst eq $test) {
793                 return $tref if (!defined $regexp);
794                 my $found = 0;
795                 my $line;
796                 open( IN, $path ) || die "Can't Open File $path";
797                 while ($line = <IN>) {
798                     if ($line =~ /$regexp/i) {
799                         $found = 1;
800                         last;
801                     }
802                 }
803                 close IN;
804                 return $tref if $found == 1;
805         }
806     }
807     return undef;
808 }
809
810 sub sanity_check_files {
811     my $bad = 0;
812     foreach (@fips_test_list) {
813         next unless ref($_);
814         my ( $tst, $cmd, $regexp, $req, $resp ) = @$_;
815
816         #print STDERR "FILES $tst, $cmd, $req, $resp\n";
817         if ( $req eq "" ) {
818             print STDERR "WARNING: missing request file for $tst\n" unless $no_warn_missing;
819             $bad = 1;
820             next;
821         }
822         if ( $verify && $resp eq "" ) {
823             print STDERR "WARNING: no response file for test $tst\n";
824             $bad = 1;
825         }
826         elsif ( !$verify && $resp ne "" ) {
827             print STDERR "WARNING: response file $resp will be overwritten\n";
828         }
829     }
830     if ($bad) {
831         print STDERR "ERROR: test vector file set not complete\n";
832         exit(1) unless $ignore_missing;
833     }
834     if ($nbogus) {
835         print STDERR
836           "ERROR: $nbogus bogus or duplicate request and response files\n";
837         exit(1) unless $ignore_bogus;
838     }
839     if ( $debug && !$nbogus && !$bad ) {
840         print STDERR "test vector file set complete\n";
841     }
842 }
843
844 sub run_tests {
845     my ( $verify, $win32, $tprefix, $filter, $tvdir, $outfile ) = @_;
846     my ( $tname, $tref );
847     my $bad = 0;
848     my $lastdir = "";
849     if ($outfile ne "") {
850         open OUT, ">$outfile" || die "Can't open $outfile";
851     }
852     if ($outfile ne "" && !$minimal_script) {
853         if ($win32) {
854             print OUT <<\END;
855 @echo off
856 rem Test vector run script
857 rem Auto generated by fipsalgtest.pl script
858 rem Do not edit
859
860 echo Running Algorithm Tests
861
862 END
863         } else {
864             print OUT <<\END;
865 #!/bin/sh
866
867 # Test vector run script
868 # Auto generated by fipsalgtest.pl script
869 # Do not edit
870
871 echo Running Algorithm Tests
872
873 END
874         }
875
876     }
877
878     foreach (@fips_test_list) {
879         if ( !ref($_) ) {
880             if ($outfile ne "") {
881                 print "Generating script for $_ tests\n";
882                 print OUT "\n\n\necho \"Running $_ tests\"\n" unless $minimal_script;
883             } else {    
884                 print "Running $_ tests\n" unless $quiet;
885             }
886             next;
887         }
888         my ( $tname, $tcmd, $regexp, $req, $rsp ) = @$_;
889         my $out = $rsp;
890         if ($verify) {
891             $out =~ s/\.rsp$/.tst/;
892         }
893         if ( $req eq "" ) {
894             print STDERR
895               "WARNING: Request file for $tname missing: test skipped\n" unless $no_warn_missing;
896             $skipcnt++;
897             next;
898         }
899         if ( $verify && $rsp eq "" ) {
900             print STDERR
901               "WARNING: Response file for $tname missing: test skipped\n";
902             $skipcnt++;
903             next;
904         }
905         elsif ( !$verify ) {
906             if ( $rsp ne "" ) {
907                 print STDERR "WARNING: Response file for $tname deleted\n";
908                 unlink $rsp;
909             }
910             $out = $req;
911             $out =~ s|/req/(\S+)\.req|/$rspdir/$1.rsp|;
912             my $outdir = $out;
913             $outdir =~ s|/[^/]*$||;
914             if ($outfile ne "") {
915                 if ($win32) {
916                     $outdir =~ tr|/|\\|;
917                     $req =~ tr|/|\\|;
918                     $out =~ tr|/|\\|;
919                 }
920                 if ($outdir ne $lastdir && !$minimal_script) {
921                     if ($win32) {
922                     print OUT <<END
923 if exist \"$outdir\" rd /s /q "$outdir"
924 md \"$outdir\"
925
926 END
927                     } else {
928                     print OUT <<END
929 rm -rf \"$outdir\"
930 mkdir \"$outdir\"
931
932 END
933                     }
934                 $lastdir = $outdir;
935                 }
936             } elsif ( !-d $outdir ) {
937                 print STDERR "DEBUG: Creating directory $outdir\n" if $debug;
938                 mkdir($outdir) || die "Can't create directory $outdir";
939             }
940         }
941         my $cmd = "$tprefix$tcmd \"$req\" \"$out\"";
942         print STDERR "DEBUG: running test $tname\n" if ( $debug && !$verify );
943         if ($outfile ne "") {
944             print OUT "echo \"    running $tname test\"\n" unless $minimal_script;
945             print OUT "$cmd\n";
946         } else {
947             system($cmd);
948             if ( $? != 0 ) {
949                 print STDERR
950                      "WARNING: error executing test $tname for command: $cmd\n";
951                 $runerr++;
952                 next;
953             }
954         }
955         if ($verify) {
956             if ( exists $verify_special{$tname} ) {
957                 my $vout = $rsp;
958                 $vout =~ s/\.rsp$/.ver/;
959                 $tcmd = $verify_special{$tname};
960                 $cmd  = "$tprefix$tcmd ";
961                 $cmd .= "\"$out\" \"$vout\"";
962                 system($cmd);
963                 if ( $? != 0 ) {
964                     print STDERR
965                       "WARNING: error executing verify test $tname $cmd\n";
966                     $scheckrunerr++;
967                     next;
968                 }
969                 my ( $fcount, $pcount ) = ( 0, 0 );
970                 open VER, "$vout";
971                 while (<VER>) {
972                     if (/^Result\s*=\s*(\S*)\s*$/i)
973
974                     {
975                         if ( $1 eq "F" ) {
976                             $fcount++;
977                         }
978                         else {
979                             $pcount++;
980                         }
981                     }
982                 }
983                 close VER;
984
985                 unlink $vout;
986                 if ( $fcount || $debug ) {
987                     print STDERR "DEBUG: $tname, Pass=$pcount, Fail=$fcount\n";
988                 }
989                 if ( $fcount || !$pcount ) {
990                     $scheckerr++;
991                 }
992                 else {
993                     $scheckok++;
994                 }
995
996             }
997             elsif ( !cmp_file( $tname, $rsp, $out ) ) {
998                 $cmperr++;
999             }
1000             else {
1001                 $cmpok++;
1002             }
1003             unlink $out;
1004         }
1005     }
1006     if ($outfile ne "") {
1007         print OUT "\n\necho All Tests Completed\n" unless $minimal_script;
1008         close OUT;
1009     }
1010 }
1011
1012 sub cmp_file {
1013     my ( $tname, $rsp, $tst ) = @_;
1014     my ( $rspf,    $tstf );
1015     my ( $rspline, $tstline );
1016     if ( !open( $rspf, $rsp ) ) {
1017         print STDERR "ERROR: can't open request file $rsp\n";
1018         return 0;
1019     }
1020     if ( !open( $tstf, $tst ) ) {
1021         print STDERR "ERROR: can't open output file $tst\n";
1022         return 0;
1023     }
1024     for ( ; ; ) {
1025         $rspline = next_line($rspf);
1026         $tstline = next_line($tstf);
1027         if ( !defined($rspline) && !defined($tstline) ) {
1028             print STDERR "DEBUG: $tname file comparison OK\n" if $debug;
1029             return 1;
1030         }
1031         if ( !defined($rspline) ) {
1032             print STDERR "ERROR: $tname EOF on $rsp\n";
1033             return 0;
1034         }
1035         if ( !defined($tstline) ) {
1036             print STDERR "ERROR: $tname EOF on $tst\n";
1037             return 0;
1038         }
1039
1040         # Workaround for bug in RAND des2 test output */
1041         if ( $tstline =~ /^Key2 =/ && $rspline =~ /^Key1 =/ ) {
1042             $rspline =~ s/^Key1/Key2/;
1043         }
1044
1045         if ( $tstline ne $rspline ) {
1046             print STDERR "ERROR: $tname mismatch:\n";
1047             print STDERR "\t \"$tstline\" != \"$rspline\"\n";
1048             return 0;
1049         }
1050     }
1051     return 1;
1052 }
1053
1054 sub next_line {
1055     my ($in) = @_;
1056
1057     while (<$in>) {
1058         chomp;
1059
1060         # Delete comments
1061         s/#.*$//;
1062
1063         # Ignore blank lines
1064         next if (/^\s*$/);
1065
1066         # Translate multiple space into one
1067         s/\s+/ /g;
1068         # Delete trailing whitespace
1069         s/\s+$//;
1070         # Remove leading zeroes
1071         s/= 00/= /;
1072         # Translate to upper case
1073         return uc $_;
1074     }
1075     return undef;
1076 }