Configure

   1 #! /usr/bin/env perl
   2 # -*- mode: perl; -*-
   3 # Copyright 2016-2018 The OpenSSL Project Authors. All Rights Reserved.
   4 #
   5 # Licensed under the Apache License 2.0 (the "License").  You may not use
   6 # this file except in compliance with the License.  You can obtain a copy
   7 # in the file LICENSE in the source distribution or at
   8 # https://www.openssl.org/source/license.html
   9
  10 ##  Configure -- OpenSSL source tree configuration script
  11
  12 use 5.10.0;
  13 use strict;
  14 use Config;
  15 use FindBin;
  16 use lib "$FindBin::Bin/util/perl";
  17 use File::Basename;
  18 use File::Spec::Functions qw/:DEFAULT abs2rel rel2abs splitdir/;
  19 use File::Path qw/mkpath/;
  20 use OpenSSL::fallback "$FindBin::Bin/external/perl/MODULES.txt";
  21 use OpenSSL::Glob;
  22 use OpenSSL::Template;
  23
  24 # see INSTALL for instructions.
  25
  26 my $orig_death_handler = $SIG{__DIE__};
  27 $SIG{__DIE__} = \&death_handler;
  28
  29 my $usage="Usage: Configure [no-<cipher> ...] [enable-<cipher> ...] [-Dxxx] [-lxxx] [-Lxxx] [-fxxx] [-Kxxx] [no-hw-xxx|no-hw] [[no-]threads] [[no-]shared] [[no-]zlib|zlib-dynamic] [no-asm] [no-egd] [sctp] [386] [--prefix=DIR] [--openssldir=OPENSSLDIR] [--with-xxx[=vvv]] [--config=FILE] os/compiler[:flags]\n";
  30
  31 # Options:
  32 #
  33 # --config      add the given configuration file, which will be read after
  34 #               any "Configurations*" files that are found in the same
  35 #               directory as this script.
  36 # --prefix      prefix for the OpenSSL installation, which includes the
  37 #               directories bin, lib, include, share/man, share/doc/openssl
  38 #               This becomes the value of INSTALLTOP in Makefile
  39 #               (Default: /usr/local)
  40 # --openssldir  OpenSSL data area, such as openssl.cnf, certificates and keys.
  41 #               If it's a relative directory, it will be added on the directory
  42 #               given with --prefix.
  43 #               This becomes the value of OPENSSLDIR in Makefile and in C.
  44 #               (Default: PREFIX/ssl)
  45 #
  46 # --cross-compile-prefix Add specified prefix to binutils components.
  47 #
  48 # --api         One of 0.9.8, 1.0.0, 1.0.1, 1.0.2, 1.1.0, 1.1.1, or 3.0.0 / 3.
  49 #               Do not compile support for interfaces deprecated as of the
  50 #               specified OpenSSL version.
  51 #
  52 # no-hw-xxx     do not compile support for specific crypto hardware.
  53 #               Generic OpenSSL-style methods relating to this support
  54 #               are always compiled but return NULL if the hardware
  55 #               support isn't compiled.
  56 # no-hw         do not compile support for any crypto hardware.
  57 # [no-]threads  [don't] try to create a library that is suitable for
  58 #               multithreaded applications (default is "threads" if we
  59 #               know how to do it)
  60 # [no-]shared   [don't] try to create shared libraries when supported.
  61 # [no-]pic      [don't] try to build position independent code when supported.
  62 #               If disabled, it also disables shared and dynamic-engine.
  63 # no-asm        do not use assembler
  64 # no-egd        do not compile support for the entropy-gathering daemon APIs
  65 # [no-]zlib     [don't] compile support for zlib compression.
  66 # zlib-dynamic  Like "zlib", but the zlib library is expected to be a shared
  67 #               library and will be loaded in run-time by the OpenSSL library.
  68 # sctp          include SCTP support
  69 # no-uplink     Don't build support for UPLINK interface.
  70 # enable-weak-ssl-ciphers
  71 #               Enable weak ciphers that are disabled by default.
  72 # 386           generate 80386 code in assembly modules
  73 # no-sse2       disables IA-32 SSE2 code in assembly modules, the above
  74 #               mentioned '386' option implies this one
  75 # no-<cipher>   build without specified algorithm (rsa, idea, rc5, ...)
  76 # -<xxx> +<xxx> All options which are unknown to the 'Configure' script are
  77 # /<xxx>        passed through to the compiler. Unix-style options beginning
  78 #               with a '-' or '+' are recognized, as well as Windows-style
  79 #               options beginning with a '/'. If the option contains arguments
  80 #               separated by spaces, then the URL-style notation %20 can be
  81 #               used for the space character in order to avoid having to quote
  82 #               the option. For example, -opt%20arg gets expanded to -opt arg.
  83 #               In fact, any ASCII character can be encoded as %xx using its
  84 #               hexadecimal encoding.
  85 # -static       while -static is also a pass-through compiler option (and
  86 #               as such is limited to environments where it's actually
  87 #               meaningful), it triggers a number configuration options,
  88 #               namely no-pic, no-shared and no-threads. It is
  89 #               argued that the only reason to produce statically linked
  90 #               binaries (and in context it means executables linked with
  91 #               -static flag, and not just executables linked with static
  92 #               libcrypto.a) is to eliminate dependency on specific run-time,
  93 #               a.k.a. libc version. The mentioned config options are meant
  94 #               to achieve just that. Unfortunately on Linux it's impossible
  95 #               to eliminate the dependency completely for openssl executable
  96 #               because of getaddrinfo and gethostbyname calls, which can
  97 #               invoke dynamically loadable library facility anyway to meet
  98 #               the lookup requests. For this reason on Linux statically
  99 #               linked openssl executable has rather debugging value than
 100 #               production quality.
 101 #
 102 # BN_LLONG      use the type 'long long' in crypto/bn/bn.h
 103 # RC4_CHAR      use 'char' instead of 'int' for RC4_INT in crypto/rc4/rc4.h
 104 # Following are set automatically by this script
 105 #
 106 # MD5_ASM       use some extra md5 assembler,
 107 # SHA1_ASM      use some extra sha1 assembler, must define L_ENDIAN for x86
 108 # RMD160_ASM    use some extra ripemd160 assembler,
 109 # SHA256_ASM    sha256_block is implemented in assembler
 110 # SHA512_ASM    sha512_block is implemented in assembler
 111 # AES_ASM       AES_[en|de]crypt is implemented in assembler
 112
 113 # Minimum warning options... any contributions to OpenSSL should at least
 114 # get past these.  Note that we only use these with C compilers, not with
 115 # C++ compilers.
 116
 117 # DEBUG_UNUSED enables __owur (warn unused result) checks.
 118 # -DPEDANTIC complements -pedantic and is meant to mask code that
 119 # is not strictly standard-compliant and/or implementation-specific,
 120 # e.g. inline assembly, disregards to alignment requirements, such
 121 # that -pedantic would complain about. Incidentally -DPEDANTIC has
 122 # to be used even in sanitized builds, because sanitizer too is
 123 # supposed to and does take notice of non-standard behaviour. Then
 124 # -pedantic with pre-C9x compiler would also complain about 'long
 125 # long' not being supported. As 64-bit algorithms are common now,
 126 # it grew impossible to resolve this without sizeable additional
 127 # code, so we just tell compiler to be pedantic about everything
 128 # but 'long long' type.
 129
 130 my @gcc_devteam_warn = qw(
 131     -DDEBUG_UNUSED
 132     -DPEDANTIC -pedantic -Wno-long-long
 133     -Wall
 134     -Wextra
 135     -Wno-unused-parameter
 136     -Wno-missing-field-initializers
 137     -Wswitch
 138     -Wsign-compare
 139     -Wshadow
 140     -Wformat
 141     -Wtype-limits
 142     -Wundef
 143     -Werror
 144     -Wmissing-prototypes
 145     -Wstrict-prototypes
 146 );
 147
 148 # These are used in addition to $gcc_devteam_warn when the compiler is clang.
 149 # TODO(openssl-team): fix problems and investigate if (at least) the
 150 # following warnings can also be enabled:
 151 #       -Wcast-align
 152 #       -Wunreachable-code -- no, too ugly/compiler-specific
 153 #       -Wlanguage-extension-token -- no, we use asm()
 154 #       -Wunused-macros -- no, too tricky for BN and _XOPEN_SOURCE etc
 155 #       -Wextended-offsetof -- no, needed in CMS ASN1 code
 156 my @clang_devteam_warn = qw(
 157     -Wno-unknown-warning-option
 158     -Wswitch-default
 159     -Wno-parentheses-equality
 160     -Wno-language-extension-token
 161     -Wno-extended-offsetof
 162     -Wconditional-uninitialized
 163     -Wincompatible-pointer-types-discards-qualifiers
 164     -Wmissing-variable-declarations
 165 );
 166
 167 # This adds backtrace information to the memory leak info.  Is only used
 168 # when crypto-mdebug-backtrace is enabled.
 169 my $memleak_devteam_backtrace = "-rdynamic";
 170
 171 my $strict_warnings = 0;
 172
 173 # As for $BSDthreads. Idea is to maintain "collective" set of flags,
 174 # which would cover all BSD flavors. -pthread applies to them all,
 175 # but is treated differently. OpenBSD expands is as -D_POSIX_THREAD
 176 # -lc_r, which is sufficient. FreeBSD 4.x expands it as -lc_r,
 177 # which has to be accompanied by explicit -D_THREAD_SAFE and
 178 # sometimes -D_REENTRANT. FreeBSD 5.x expands it as -lc_r, which
 179 # seems to be sufficient?
 180 our $BSDthreads="-pthread -D_THREAD_SAFE -D_REENTRANT";
 181
 182 #
 183 # API compatibility name to version number mapping.
 184 #
 185 my $maxapi = "3.0.0";           # API for "no-deprecated" builds
 186 my $apitable = {
 187     "3.0.0" => 3,
 188     "1.1.1" => 2,
 189     "1.1.0" => 2,
 190     "1.0.2" => 1,
 191     "1.0.1" => 1,
 192     "1.0.0" => 1,
 193     "0.9.8" => 0,
 194 };
 195
 196 our %table = ();
 197 our %config = ();
 198 our %withargs = ();
 199 our $now_printing;      # set to current entry's name in print_table_entry
 200                         # (todo: right thing would be to encapsulate name
 201                         # into %target [class] and make print_table_entry
 202                         # a method)
 203
 204 # Forward declarations ###############################################
 205
 206 # read_config(filename)
 207 #
 208 # Reads a configuration file and populates %table with the contents
 209 # (which the configuration file places in %targets).
 210 sub read_config;
 211
 212 # resolve_config(target)
 213 #
 214 # Resolves all the late evaluations, inheritances and so on for the
 215 # chosen target and any target it inherits from.
 216 sub resolve_config;
 217
 218
 219 # Information collection #############################################
 220
 221 # Unified build supports separate build dir
 222 my $srcdir = catdir(absolutedir(dirname($0))); # catdir ensures local syntax
 223 my $blddir = catdir(absolutedir("."));         # catdir ensures local syntax
 224 my $dofile = abs2rel(catfile($srcdir, "util/dofile.pl"));
 225
 226 my $local_config_envname = 'OPENSSL_LOCAL_CONFIG_DIR';
 227
 228 $config{sourcedir} = abs2rel($srcdir);
 229 $config{builddir} = abs2rel($blddir);
 230
 231 # Collect reconfiguration information if needed
 232 my @argvcopy=@ARGV;
 233
 234 if (grep /^reconf(igure)?$/, @argvcopy) {
 235     die "reconfiguring with other arguments present isn't supported"
 236         if scalar @argvcopy > 1;
 237     if (-f "./configdata.pm") {
 238         my $file = "./configdata.pm";
 239         unless (my $return = do $file) {
 240             die "couldn't parse $file: $@" if $@;
 241             die "couldn't do $file: $!"    unless defined $return;
 242             die "couldn't run $file"       unless $return;
 243         }
 244
 245         @argvcopy = defined($configdata::config{perlargv}) ?
 246             @{$configdata::config{perlargv}} : ();
 247         die "Incorrect data to reconfigure, please do a normal configuration\n"
 248             if (grep(/^reconf/,@argvcopy));
 249         $config{perlenv} = $configdata::config{perlenv} // {};
 250     } else {
 251         die "Insufficient data to reconfigure, please do a normal configuration\n";
 252     }
 253 }
 254
 255 $config{perlargv} = [ @argvcopy ];
 256
 257 # Collect version numbers
 258 my %version = ();
 259
 260 collect_information(
 261     collect_from_file(catfile($srcdir,'VERSION')),
 262     qr/\s*(\w+)\s*=\s*(.*?)\s*$/ =>
 263         sub {
 264             # Only define it if there is a value at all
 265             $version{uc $1} = $2 if $2 ne '';
 266         },
 267     "OTHERWISE" =>
 268         sub { die "Something wrong with this line:\n$_\nin $srcdir/VERSION" },
 269     );
 270
 271 $config{major} = $version{MAJOR} // 'unknown';
 272 $config{minor} = $version{MINOR} // 'unknown';
 273 $config{patch} = $version{PATCH} // 'unknown';
 274 $config{prerelease} =
 275     defined $version{PRE_RELEASE_TAG} ? "-$version{PRE_RELEASE_TAG}" : '';
 276 $config{build_metadata} =
 277     defined $version{BUILD_METADATA} ? "+$version{BUILD_METADATA}" : '';
 278 $config{shlib_version} = $version{SHLIB_VERSION} // 'unknown';
 279 $config{release_date} = $version{RELEASE_DATE} // 'xx XXX xxxx';
 280
 281 $config{version} = "$config{major}.$config{minor}.$config{patch}";
 282 $config{full_version} = "$config{version}$config{prerelease}$config{build_metadata}";
 283
 284 die "erroneous version information in VERSION: ",
 285     "$config{version}, $config{shlib_version}\n"
 286     unless (defined $version{MAJOR}
 287             && defined $version{MINOR}
 288             && defined $version{PATCH}
 289             && defined $version{SHLIB_VERSION});
 290
 291 # Collect target configurations
 292
 293 my $pattern = catfile(dirname($0), "Configurations", "*.conf");
 294 foreach (sort glob($pattern)) {
 295     &read_config($_);
 296 }
 297
 298 if (defined env($local_config_envname)) {
 299     if ($^O eq 'VMS') {
 300         # VMS environment variables are logical names,
 301         # which can be used as is
 302         $pattern = $local_config_envname . ':' . '*.conf';
 303     } else {
 304         $pattern = catfile(env($local_config_envname), '*.conf');
 305     }
 306
 307     foreach (sort glob($pattern)) {
 308         &read_config($_);
 309     }
 310 }
 311
 312 # Save away perl command information
 313 $config{perl_cmd} = $^X;
 314 $config{perl_version} = $Config{version};
 315 $config{perl_archname} = $Config{archname};
 316
 317 $config{prefix}="";
 318 $config{openssldir}="";
 319 $config{processor}="";
 320 $config{libdir}="";
 321 my $auto_threads=1;    # enable threads automatically? true by default
 322 my $default_ranlib;
 323
 324 # Known TLS and DTLS protocols
 325 my @tls = qw(ssl3 tls1 tls1_1 tls1_2 tls1_3);
 326 my @dtls = qw(dtls1 dtls1_2);
 327
 328 # Explicitly known options that are possible to disable.  They can
 329 # be regexps, and will be used like this: /^no-${option}$/
 330 # For developers: keep it sorted alphabetically
 331
 332 my @disablables = (
 333     "ktls",
 334     "afalgeng",
 335     "aria",
 336     "asan",
 337     "asm",
 338     "async",
 339     "autoalginit",
 340     "autoerrinit",
 341     "autoload-config",
 342     "bf",
 343     "blake2",
 344     "buildtest-c++",
 345     "camellia",
 346     "capieng",
 347     "cast",
 348     "chacha",
 349     "cmac",
 350     "cmp",
 351     "cms",
 352     "comp",
 353     "crypto-mdebug",
 354     "crypto-mdebug-backtrace",
 355     "ct",
 356     "deprecated",
 357     "des",
 358     "devcryptoeng",
 359     "dgram",
 360     "dh",
 361     "dsa",
 362     "dso",
 363     "dtls",
 364     "dynamic-engine",
 365     "ec",
 366     "ec2m",
 367     "ecdh",
 368     "ecdsa",
 369     "ec_nistp_64_gcc_128",
 370     "egd",
 371     "engine",
 372     "err",
 373     "external-tests",
 374     "filenames",
 375     "fips",
 376     "fuzz-libfuzzer",
 377     "fuzz-afl",
 378     "gost",
 379     "idea",
 380     "legacy",
 381     "makedepend",
 382     "md2",
 383     "md4",
 384     "mdc2",
 385     "module",
 386     "msan",
 387     "multiblock",
 388     "nextprotoneg",
 389     "pinshared",
 390     "ocb",
 391     "ocsp",
 392     "padlockeng",
 393     "pic",
 394     "poly1305",
 395     "posix-io",
 396     "psk",
 397     "rc2",
 398     "rc4",
 399     "rc5",
 400     "rdrand",
 401     "rfc3779",
 402     "rmd160",
 403     "scrypt",
 404     "sctp",
 405     "seed",
 406     "shared",
 407     "siphash",
 408     "siv",
 409     "sm2",
 410     "sm3",
 411     "sm4",
 412     "sock",
 413     "srp",
 414     "srtp",
 415     "sse2",
 416     "ssl",
 417     "ssl-trace",
 418     "static-engine",
 419     "stdio",
 420     "tests",
 421     "threads",
 422     "tls",
 423     "trace",
 424     "ts",
 425     "ubsan",
 426     "ui-console",
 427     "unit-test",
 428     "uplink",
 429     "whirlpool",
 430     "weak-ssl-ciphers",
 431     "zlib",
 432     "zlib-dynamic",
 433     );
 434 foreach my $proto ((@tls, @dtls))
 435         {
 436         push(@disablables, $proto);
 437         push(@disablables, "$proto-method") unless $proto eq "tls1_3";
 438         }
 439
 440 # Internal disablables, for aliasing purposes.  They serve no special
 441 # purpose here, but allow scripts to get to know them through configdata.pm,
 442 # where these are merged with @disablables.
 443 # The actual aliasing mechanism is done via %disable_cascades
 444 my @disablables_int = qw(
 445     crmf
 446     );
 447
 448 my %deprecated_disablables = (
 449     "ssl2" => undef,
 450     "buf-freelists" => undef,
 451     "hw" => "hw",               # causes cascade, but no macro
 452     "hw-padlock" => "padlockeng",
 453     "ripemd" => "rmd160",
 454     "ui" => "ui-console",
 455     "heartbeats" => undef,
 456     );
 457
 458 # All of the following are disabled by default:
 459
 460 our %disabled = ( # "what"         => "comment"
 461                   "asan"                => "default",
 462                   "buildtest-c++"       => "default",
 463                   "crypto-mdebug"       => "default",
 464                   "crypto-mdebug-backtrace" => "default",
 465                   "devcryptoeng"        => "default",
 466                   "ec_nistp_64_gcc_128" => "default",
 467                   "egd"                 => "default",
 468                   "external-tests"      => "default",
 469                   "fuzz-libfuzzer"      => "default",
 470                   "fuzz-afl"            => "default",
 471                   "md2"                 => "default",
 472                   "msan"                => "default",
 473                   "rc5"                 => "default",
 474                   "sctp"                => "default",
 475                   "ssl-trace"           => "default",
 476                   "ssl3"                => "default",
 477                   "ssl3-method"         => "default",
 478                   "trace"               => "default",
 479                   "ubsan"               => "default",
 480                   "unit-test"           => "default",
 481                   "weak-ssl-ciphers"    => "default",
 482                   "zlib"                => "default",
 483                   "zlib-dynamic"        => "default",
 484                   "ktls"                => "default",
 485                 );
 486
 487 # Note: => pair form used for aesthetics, not to truly make a hash table
 488 my @disable_cascades = (
 489     # "what"            => [ "cascade", ... ]
 490     sub { $config{processor} eq "386" }
 491                         => [ "sse2" ],
 492     "ssl"               => [ "ssl3" ],
 493     "ssl3-method"       => [ "ssl3" ],
 494     "zlib"              => [ "zlib-dynamic" ],
 495     "des"               => [ "mdc2" ],
 496     "ec"                => [ "ecdsa", "ecdh", "sm2" ],
 497     sub { $disabled{"ec"} && $disabled{"dh"} }
 498                         => [ "tls1_3" ],
 499     "dgram"             => [ "dtls", "sctp" ],
 500     "sock"              => [ "dgram" ],
 501     "dtls"              => [ @dtls ],
 502     sub { 0 == scalar grep { !$disabled{$_} } @dtls }
 503                         => [ "dtls" ],
 504
 505     "tls"               => [ @tls ],
 506     sub { 0 == scalar grep { !$disabled{$_} } @tls }
 507                         => [ "tls" ],
 508
 509     "crypto-mdebug"     => [ "crypto-mdebug-backtrace" ],
 510
 511     # If no modules, then no dynamic engines either
 512     "module"            => [ "dynamic-engine" ],
 513
 514     # Without shared libraries, dynamic engines aren't possible.
 515     # This is due to them having to link with libcrypto and register features
 516     # using the ENGINE functionality, and since that relies on global tables,
 517     # those *have* to be exacty the same as the ones accessed from the app,
 518     # which cannot be guaranteed if shared libraries aren't present.
 519     # (note that even with shared libraries, both the app and dynamic engines
 520     # must be linked with the same library)
 521     "shared"            => [ "dynamic-engine", "uplink" ],
 522     "dso"               => [ "dynamic-engine", "module" ],
 523     # Other modules don't necessarily have to link with libcrypto, so shared
 524     # libraries do not have to be a condition to produce those.
 525
 526     # Without position independent code, there can be no shared libraries
 527     # or modules.
 528     "pic"               => [ "shared", "module" ],
 529
 530     "module"            => [ "fips" ],
 531
 532     "engine"            => [ grep /eng$/, @disablables ],
 533     "hw"                => [ "padlockeng" ],
 534
 535     # no-autoalginit is only useful when building non-shared
 536     "autoalginit"       => [ "shared", "apps" ],
 537
 538     "stdio"             => [ "apps", "capieng", "egd" ],
 539     "apps"              => [ "tests" ],
 540     "tests"             => [ "external-tests" ],
 541     "comp"              => [ "zlib" ],
 542     "sm3"               => [ "sm2" ],
 543     sub { !$disabled{"unit-test"} } => [ "heartbeats" ],
 544
 545     sub { !$disabled{"msan"} } => [ "asm" ],
 546
 547     sub { $disabled{cmac}; } => [ "siv" ],
 548     "legacy"                 => [ "md2" ],
 549
 550     "cmp"               => [ "crmf" ],
 551     );
 552
 553 # Avoid protocol support holes.  Also disable all versions below N, if version
 554 # N is disabled while N+1 is enabled.
 555 #
 556 my @list = (reverse @tls);
 557 while ((my $first, my $second) = (shift @list, shift @list)) {
 558     last unless @list;
 559     push @disable_cascades, ( sub { !$disabled{$first} && $disabled{$second} }
 560                               => [ @list ] );
 561     unshift @list, $second;
 562 }
 563 my @list = (reverse @dtls);
 564 while ((my $first, my $second) = (shift @list, shift @list)) {
 565     last unless @list;
 566     push @disable_cascades, ( sub { !$disabled{$first} && $disabled{$second} }
 567                               => [ @list ] );
 568     unshift @list, $second;
 569 }
 570
 571 # Explicit "no-..." options will be collected in %disabled along with the defaults.
 572 # To remove something from %disabled, use "enable-foo".
 573 # For symmetry, "disable-foo" is a synonym for "no-foo".
 574
 575 &usage if ($#ARGV < 0);
 576
 577 # For the "make variables" CINCLUDES and CDEFINES, we support lists with
 578 # platform specific list separators.  Users from those platforms should
 579 # recognise those separators from how you set up the PATH to find executables.
 580 # The default is the Unix like separator, :, but as an exception, we also
 581 # support the space as separator.
 582 my $list_separator_re =
 583     { VMS           => qr/(?<!\^),/,
 584       MSWin32       => qr/(?<!\\);/ } -> {$^O} // qr/(?<!\\)[:\s]/;
 585 # All the "make variables" we support
 586 # Some get pre-populated for the sake of backward compatibility
 587 # (we supported those before the change to "make variable" support.
 588 my %user = (
 589     AR          => env('AR'),
 590     ARFLAGS     => [],
 591     AS          => undef,
 592     ASFLAGS     => [],
 593     CC          => env('CC'),
 594     CFLAGS      => [ env('CFLAGS') || () ],
 595     CXX         => env('CXX'),
 596     CXXFLAGS    => [ env('CXXFLAGS') || () ],
 597     CPP         => undef,
 598     CPPFLAGS    => [ env('CPPFLAGS') || () ],  # -D, -I, -Wp,
 599     CPPDEFINES  => [],  # Alternative for -D
 600     CPPINCLUDES => [],  # Alternative for -I
 601     CROSS_COMPILE => env('CROSS_COMPILE'),
 602     HASHBANGPERL=> env('HASHBANGPERL') || env('PERL'),
 603     LD          => undef,
 604     LDFLAGS     => [ env('LDFLAGS') || () ],  # -L, -Wl,
 605     LDLIBS      => [ env('LDLIBS') || () ],  # -l
 606     MT          => undef,
 607     MTFLAGS     => [],
 608     PERL        => env('PERL') || ($^O ne "VMS" ? $^X : "perl"),
 609     RANLIB      => env('RANLIB'),
 610     RC          => env('RC') || env('WINDRES'),
 611     RCFLAGS     => [ env('RCFLAGS') || () ],
 612     RM          => undef,
 613    );
 614 # Info about what "make variables" may be prefixed with the cross compiler
 615 # prefix.  This should NEVER mention any such variable with a list for value.
 616 my @user_crossable = qw ( AR AS CC CXX CPP LD MT RANLIB RC );
 617 # The same but for flags given as Configure options.  These are *additional*
 618 # input, as opposed to the VAR=string option that override the corresponding
 619 # config target attributes
 620 my %useradd = (
 621     CPPDEFINES  => [],
 622     CPPINCLUDES => [],
 623     CPPFLAGS    => [],
 624     CFLAGS      => [],
 625     CXXFLAGS    => [],
 626     LDFLAGS     => [],
 627     LDLIBS      => [],
 628     RCFLAGS     => [],
 629    );
 630
 631 my %user_synonyms = (
 632     HASHBANGPERL=> 'PERL',
 633     RC          => 'WINDRES',
 634    );
 635
 636 # Some target attributes have been renamed, this is the translation table
 637 my %target_attr_translate =(
 638     ar          => 'AR',
 639     as          => 'AS',
 640     cc          => 'CC',
 641     cxx         => 'CXX',
 642     cpp         => 'CPP',
 643     hashbangperl => 'HASHBANGPERL',
 644     ld          => 'LD',
 645     mt          => 'MT',
 646     ranlib      => 'RANLIB',
 647     rc          => 'RC',
 648     rm          => 'RM',
 649    );
 650
 651 # Initialisers coming from 'config' scripts
 652 $config{defines} = [ split(/$list_separator_re/, env('__CNF_CPPDEFINES')) ];
 653 $config{includes} = [ split(/$list_separator_re/, env('__CNF_CPPINCLUDES')) ];
 654 $config{cppflags} = [ env('__CNF_CPPFLAGS') || () ];
 655 $config{cflags} = [ env('__CNF_CFLAGS') || () ];
 656 $config{cxxflags} = [ env('__CNF_CXXFLAGS') || () ];
 657 $config{lflags} = [ env('__CNF_LDFLAGS') || () ];
 658 $config{ex_libs} = [ env('__CNF_LDLIBS') || () ];
 659
 660 $config{openssl_api_defines}=[];
 661 $config{openssl_sys_defines}=[];
 662 $config{openssl_feature_defines}=[];
 663 $config{options}="";
 664 $config{build_type} = "release";
 665 my $target="";
 666
 667 my %cmdvars = ();               # Stores FOO='blah' type arguments
 668 my %unsupported_options = ();
 669 my %deprecated_options = ();
 670 # If you change this, update apps/version.c
 671 my @known_seed_sources = qw(getrandom devrandom os egd none rdcpu librandom);
 672 my @seed_sources = ();
 673 while (@argvcopy)
 674         {
 675         $_ = shift @argvcopy;
 676
 677         # Support env variable assignments among the options
 678         if (m|^(\w+)=(.+)?$|)
 679                 {
 680                 $cmdvars{$1} = $2;
 681                 # Every time a variable is given as a configuration argument,
 682                 # it acts as a reset if the variable.
 683                 if (exists $user{$1})
 684                         {
 685                         $user{$1} = ref $user{$1} eq "ARRAY" ? [] : undef;
 686                         }
 687                 #if (exists $useradd{$1})
 688                 #       {
 689                 #       $useradd{$1} = [];
 690                 #       }
 691                 next;
 692                 }
 693
 694         # VMS is a case insensitive environment, and depending on settings
 695         # out of our control, we may receive options uppercased.  Let's
 696         # downcase at least the part before any equal sign.
 697         if ($^O eq "VMS")
 698                 {
 699                 s/^([^=]*)/lc($1)/e;
 700                 }
 701
 702         # some people just can't read the instructions, clang people have to...
 703         s/^-no-(?!integrated-as)/no-/;
 704
 705         # rewrite some options in "enable-..." form
 706         s /^-?-?shared$/enable-shared/;
 707         s /^sctp$/enable-sctp/;
 708         s /^threads$/enable-threads/;
 709         s /^zlib$/enable-zlib/;
 710         s /^zlib-dynamic$/enable-zlib-dynamic/;
 711
 712         if (/^(no|disable|enable)-(.+)$/)
 713                 {
 714                 my $word = $2;
 715                 if ($word !~ m|hw(?:-.+)| # special treatment for hw regexp opt
 716                         && !exists $deprecated_disablables{$word}
 717                         && !grep { $word eq $_ } @disablables)
 718                         {
 719                         $unsupported_options{$_} = 1;
 720                         next;
 721                         }
 722                 }
 723         if (/^no-(.+)$/ || /^disable-(.+)$/)
 724                 {
 725                 foreach my $proto ((@tls, @dtls))
 726                         {
 727                         if ($1 eq "$proto-method")
 728                                 {
 729                                 $disabled{"$proto"} = "option($proto-method)";
 730                                 last;
 731                                 }
 732                         }
 733                 if ($1 eq "dtls")
 734                         {
 735                         foreach my $proto (@dtls)
 736                                 {
 737                                 $disabled{$proto} = "option(dtls)";
 738                                 }
 739                         $disabled{"dtls"} = "option(dtls)";
 740                         }
 741                 elsif ($1 eq "ssl")
 742                         {
 743                         # Last one of its kind
 744                         $disabled{"ssl3"} = "option(ssl)";
 745                         }
 746                 elsif ($1 eq "tls")
 747                         {
 748                         # XXX: Tests will fail if all SSL/TLS
 749                         # protocols are disabled.
 750                         foreach my $proto (@tls)
 751                                 {
 752                                 $disabled{$proto} = "option(tls)";
 753                                 }
 754                         }
 755                 elsif ($1 eq "static-engine")
 756                         {
 757                         delete $disabled{"dynamic-engine"};
 758                         }
 759                 elsif ($1 eq "dynamic-engine")
 760                         {
 761                         $disabled{"dynamic-engine"} = "option";
 762                         }
 763                 elsif (exists $deprecated_disablables{$1})
 764                         {
 765                         $deprecated_options{$_} = 1;
 766                         if (defined $deprecated_disablables{$1})
 767                                 {
 768                                 $disabled{$deprecated_disablables{$1}} = "option";
 769                                 }
 770                         }
 771                 elsif ($1 =~ m|hw(?:-.+)|) # deprecate hw options in regexp form
 772                         {
 773                         $deprecated_options{$_} = 1;
 774                         }
 775                 else
 776                         {
 777                         $disabled{$1} = "option";
 778                         }
 779                 # No longer an automatic choice
 780                 $auto_threads = 0 if ($1 eq "threads");
 781                 }
 782         elsif (/^enable-(.+)$/)
 783                 {
 784                 if ($1 eq "static-engine")
 785                         {
 786                         $disabled{"dynamic-engine"} = "option";
 787                         }
 788                 elsif ($1 eq "dynamic-engine")
 789                         {
 790                         delete $disabled{"dynamic-engine"};
 791                         }
 792                 elsif ($1 eq "zlib-dynamic")
 793                         {
 794                         delete $disabled{"zlib"};
 795                         }
 796                 my $algo = $1;
 797                 delete $disabled{$algo};
 798
 799                 # No longer an automatic choice
 800                 $auto_threads = 0 if ($1 eq "threads");
 801                 }
 802         elsif (/^--strict-warnings$/)
 803                 {
 804                 # Pretend that our strict flags is a C flag, and replace it
 805                 # with the proper flags later on
 806                 push @{$useradd{CFLAGS}}, '--ossl-strict-warnings';
 807                 $strict_warnings=1;
 808                 }
 809         elsif (/^--debug$/)
 810                 {
 811                 $config{build_type} = "debug";
 812                 }
 813         elsif (/^--release$/)
 814                 {
 815                 $config{build_type} = "release";
 816                 }
 817         elsif (/^386$/)
 818                 { $config{processor}=386; }
 819         elsif (/^fips$/)
 820                 {
 821                 die "FIPS mode not supported\n";
 822                 }
 823         elsif (/^rsaref$/)
 824                 {
 825                 # No RSAref support any more since it's not needed.
 826                 # The check for the option is there so scripts aren't
 827                 # broken
 828                 }
 829         elsif (/^nofipscanistercheck$/)
 830                 {
 831                 die "FIPS mode not supported\n";
 832                 }
 833         elsif (m|^[-+/]|)
 834                 {
 835                 if (/^--prefix=(.*)$/)
 836                         {
 837                         $config{prefix}=$1;
 838                         die "Directory given with --prefix MUST be absolute\n"
 839                                 unless file_name_is_absolute($config{prefix});
 840                         }
 841                 elsif (/^--api=(.*)$/)
 842                         {
 843                         $config{api}=$1;
 844                         }
 845                 elsif (/^--libdir=(.*)$/)
 846                         {
 847                         $config{libdir}=$1;
 848                         }
 849                 elsif (/^--openssldir=(.*)$/)
 850                         {
 851                         $config{openssldir}=$1;
 852                         }
 853                 elsif (/^--with-zlib-lib=(.*)$/)
 854                         {
 855                         $withargs{zlib_lib}=$1;
 856                         }
 857                 elsif (/^--with-zlib-include=(.*)$/)
 858                         {
 859                         $withargs{zlib_include}=$1;
 860                         }
 861                 elsif (/^--with-fuzzer-lib=(.*)$/)
 862                         {
 863                         $withargs{fuzzer_lib}=$1;
 864                         }
 865                 elsif (/^--with-fuzzer-include=(.*)$/)
 866                         {
 867                         $withargs{fuzzer_include}=$1;
 868                         }
 869                 elsif (/^--with-rand-seed=(.*)$/)
 870                         {
 871                         foreach my $x (split(m|,|, $1))
 872                             {
 873                             die "Unknown --with-rand-seed choice $x\n"
 874                                 if ! grep { $x eq $_ } @known_seed_sources;
 875                             push @seed_sources, $x;
 876                             }
 877                         }
 878                 elsif (/^--cross-compile-prefix=(.*)$/)
 879                         {
 880                         $user{CROSS_COMPILE}=$1;
 881                         }
 882                 elsif (/^--config=(.*)$/)
 883                         {
 884                         read_config $1;
 885                         }
 886                 elsif (/^-l(.*)$/)
 887                         {
 888                         push @{$useradd{LDLIBS}}, $_;
 889                         }
 890                 elsif (/^-framework$/)
 891                         {
 892                         push @{$useradd{LDLIBS}}, $_, shift(@argvcopy);
 893                         }
 894                 elsif (/^-L(.*)$/ or /^-Wl,/)
 895                         {
 896                         push @{$useradd{LDFLAGS}}, $_;
 897                         }
 898                 elsif (/^-rpath$/ or /^-R$/)
 899                         # -rpath is the OSF1 rpath flag
 900                         # -R is the old Solaris rpath flag
 901                         {
 902                         my $rpath = shift(@argvcopy) || "";
 903                         $rpath .= " " if $rpath ne "";
 904                         push @{$useradd{LDFLAGS}}, $_, $rpath;
 905                         }
 906                 elsif (/^-static$/)
 907                         {
 908                         push @{$useradd{LDFLAGS}}, $_;
 909                         }
 910                 elsif (m|^[-/]D(.*)$|)
 911                         {
 912                         push @{$useradd{CPPDEFINES}}, $1;
 913                         }
 914                 elsif (m|^[-/]I(.*)$|)
 915                         {
 916                         push @{$useradd{CPPINCLUDES}}, $1;
 917                         }
 918                 elsif (/^-Wp,$/)
 919                         {
 920                         push @{$useradd{CPPFLAGS}}, $1;
 921                         }
 922                 else    # common if (/^[-+]/), just pass down...
 923                         {
 924                         # Treat %xx as an ASCII code (e.g. replace %20 by a space character).
 925                         # This provides a simple way to pass options with arguments separated
 926                         # by spaces without quoting (e.g. -opt%20arg translates to -opt arg).
 927                         $_ =~ s/%([0-9a-f]{1,2})/chr(hex($1))/gei;
 928                         push @{$useradd{CFLAGS}}, $_;
 929                         push @{$useradd{CXXFLAGS}}, $_;
 930                         }
 931                 }
 932         elsif (m|^/|)
 933                 {
 934                 # Treat %xx as an ASCII code (e.g. replace %20 by a space character).
 935                 # This provides a simple way to pass options with arguments separated
 936                 # by spaces without quoting (e.g. /opt%20arg translates to /opt arg).
 937                 $_ =~ s/%([0-9a-f]{1,2})/chr(hex($1))/gei;
 938                 push @{$useradd{CFLAGS}}, $_;
 939                 push @{$useradd{CXXFLAGS}}, $_;
 940                 }
 941         else
 942                 {
 943                 die "target already defined - $target (offending arg: $_)\n" if ($target ne "");
 944                 $target=$_;
 945                 }
 946         unless ($_ eq $target || /^no-/ || /^disable-/)
 947                 {
 948                 # "no-..." follows later after implied deactivations
 949                 # have been derived.  (Don't take this too seriously,
 950                 # we really only write OPTIONS to the Makefile out of
 951                 # nostalgia.)
 952
 953                 if ($config{options} eq "")
 954                         { $config{options} = $_; }
 955                 else
 956                         { $config{options} .= " ".$_; }
 957                 }
 958         }
 959
 960 if (defined($config{api}) && !exists $apitable->{$config{api}}) {
 961         die "***** Unsupported api compatibility level: $config{api}\n",
 962 }
 963
 964 if (keys %deprecated_options)
 965         {
 966         warn "***** Deprecated options: ",
 967                 join(", ", keys %deprecated_options), "\n";
 968         }
 969 if (keys %unsupported_options)
 970         {
 971         die "***** Unsupported options: ",
 972                 join(", ", keys %unsupported_options), "\n";
 973         }
 974
 975 # If any %useradd entry has been set, we must check that the "make
 976 # variables" haven't been set.  We start by checking of any %useradd entry
 977 # is set.
 978 if (grep { scalar @$_ > 0 } values %useradd) {
 979     # Hash of env / make variables names.  The possible values are:
 980     # 1 - "make vars"
 981     # 2 - %useradd entry set
 982     # 3 - both set
 983     my %detected_vars =
 984         map { my $v = 0;
 985               $v += 1 if $cmdvars{$_};
 986               $v += 2 if @{$useradd{$_}};
 987               $_ => $v }
 988         keys %useradd;
 989
 990     # If any of the corresponding "make variables" is set, we error
 991     if (grep { $_ & 1 } values %detected_vars) {
 992         my $names = join(', ', grep { $detected_vars{$_} > 0 }
 993                                sort keys %detected_vars);
 994         die <<"_____";
 995 ***** Mixing make variables and additional compiler/linker flags as
 996 ***** configure command line option is not permitted.
 997 ***** Affected make variables: $names
 998 _____
 999     }
1000 }
1001
1002 # Check through all supported command line variables to see if any of them
1003 # were set, and canonicalise the values we got.  If no compiler or linker
1004 # flag or anything else that affects %useradd was set, we also check the
1005 # environment for values.
1006 my $anyuseradd =
1007     grep { defined $_ && (ref $_ ne 'ARRAY' || @$_) } values %useradd;
1008 foreach (keys %user) {
1009     my $value = $cmdvars{$_};
1010     $value //= env($_) unless $anyuseradd;
1011     $value //=
1012         defined $user_synonyms{$_} ? $cmdvars{$user_synonyms{$_}} : undef;
1013     $value //= defined $user_synonyms{$_} ? env($user_synonyms{$_}) : undef
1014         unless $anyuseradd;
1015
1016     if (defined $value) {
1017         if (ref $user{$_} eq 'ARRAY') {
1018             $user{$_} = [ split /$list_separator_re/, $value ];
1019         } elsif (!defined $user{$_}) {
1020             $user{$_} = $value;
1021         }
1022     }
1023 }
1024
1025 if (grep { /-rpath\b/ } ($user{LDFLAGS} ? @{$user{LDFLAGS}} : ())
1026     && !$disabled{shared}
1027     && !($disabled{asan} && $disabled{msan} && $disabled{ubsan})) {
1028     die "***** Cannot simultaneously use -rpath, shared libraries, and\n",
1029         "***** any of asan, msan or ubsan\n";
1030 }
1031
1032 sub disable {
1033     my $disable_type = shift;
1034
1035     for (@_) {
1036         $disabled{$_} = $disable_type;
1037     }
1038
1039     my @tocheckfor = (@_ ? @_ : keys %disabled);
1040     while (@tocheckfor) {
1041         my %new_tocheckfor = ();
1042         my @cascade_copy = (@disable_cascades);
1043         while (@cascade_copy) {
1044             my ($test, $descendents) =
1045                 (shift @cascade_copy, shift @cascade_copy);
1046             if (ref($test) eq "CODE" ? $test->() : defined($disabled{$test})) {
1047                 foreach (grep { !defined($disabled{$_}) } @$descendents) {
1048                     $new_tocheckfor{$_} = 1; $disabled{$_} = "cascade";
1049                 }
1050             }
1051         }
1052         @tocheckfor = (keys %new_tocheckfor);
1053     }
1054 }
1055 disable();                     # First cascade run
1056
1057 our $die = sub { die @_; };
1058 if ($target eq "TABLE") {
1059     local $die = sub { warn @_; };
1060     foreach (sort keys %table) {
1061         print_table_entry($_, "TABLE");
1062     }
1063     exit 0;
1064 }
1065
1066 if ($target eq "LIST") {
1067     foreach (sort keys %table) {
1068         print $_,"\n" unless $table{$_}->{template};
1069     }
1070     exit 0;
1071 }
1072
1073 if ($target eq "HASH") {
1074     local $die = sub { warn @_; };
1075     print "%table = (\n";
1076     foreach (sort keys %table) {
1077         print_table_entry($_, "HASH");
1078     }
1079     exit 0;
1080 }
1081
1082 print "Configuring OpenSSL version $config{full_version} ";
1083 print "for target $target\n";
1084
1085 if (scalar(@seed_sources) == 0) {
1086     print "Using os-specific seed configuration\n";
1087     push @seed_sources, 'os';
1088 }
1089 if (scalar(grep { $_ eq 'none' } @seed_sources) > 0) {
1090     die "Cannot seed with none and anything else" if scalar(@seed_sources) > 1;
1091     warn <<_____ if scalar(@seed_sources) == 1;
1092
1093 ============================== WARNING ===============================
1094 You have selected the --with-rand-seed=none option, which effectively
1095 disables automatic reseeding of the OpenSSL random generator.
1096 All operations depending on the random generator such as creating keys
1097 will not work unless the random generator is seeded manually by the
1098 application.
1099
1100 Please read the 'Note on random number generation' section in the
1101 INSTALL instructions and the RAND_DRBG(7) manual page for more details.
1102 ============================== WARNING ===============================
1103
1104 _____
1105 }
1106 push @{$config{openssl_feature_defines}},
1107      map { (my $x = $_) =~ tr|[\-a-z]|[_A-Z]|; "OPENSSL_RAND_SEED_$x" }
1108         @seed_sources;
1109
1110 # Backward compatibility?
1111 if ($target =~ m/^CygWin32(-.*)$/) {
1112     $target = "Cygwin".$1;
1113 }
1114
1115 # Support for legacy targets having a name starting with 'debug-'
1116 my ($d, $t) = $target =~ m/^(debug-)?(.*)$/;
1117 if ($d) {
1118     $config{build_type} = "debug";
1119
1120     # If we do not find debug-foo in the table, the target is set to foo.
1121     if (!$table{$target}) {
1122         $target = $t;
1123     }
1124 }
1125
1126 &usage if !$table{$target} || $table{$target}->{template};
1127
1128 $config{target} = $target;
1129 my %target = resolve_config($target);
1130
1131 foreach (keys %target_attr_translate) {
1132     $target{$target_attr_translate{$_}} = $target{$_}
1133         if $target{$_};
1134     delete $target{$_};
1135 }
1136
1137 %target = ( %{$table{DEFAULTS}}, %target );
1138
1139 my %conf_files = map { $_ => 1 } (@{$target{_conf_fname_int}});
1140 $config{conf_files} = [ sort keys %conf_files ];
1141
1142 # Using sub disable within these loops may prove fragile, so we run
1143 # a cascade afterwards
1144 foreach my $feature (@{$target{disable}}) {
1145     if (exists $deprecated_disablables{$feature}) {
1146         warn "***** config $target disables deprecated feature $feature\n";
1147     } elsif (!grep { $feature eq $_ } @disablables) {
1148         die "***** config $target disables unknown feature $feature\n";
1149     }
1150     $disabled{$feature} = 'config';
1151 }
1152 foreach my $feature (@{$target{enable}}) {
1153     if ("default" eq ($disabled{$feature} // "")) {
1154         if (exists $deprecated_disablables{$feature}) {
1155             warn "***** config $target enables deprecated feature $feature\n";
1156         } elsif (!grep { $feature eq $_ } @disablables) {
1157             die "***** config $target enables unknown feature $feature\n";
1158         }
1159         delete $disabled{$feature};
1160     }
1161 }
1162
1163 # If uplink_arch isn't defined, disable uplink
1164 $disabled{uplink} = 'no uplink_arch' unless (defined $target{uplink_arch});
1165 # If asm_arch isn't defined, disable asm
1166 $disabled{asm} = 'no asm_arch' unless (defined $target{asm_arch});
1167
1168 disable();                      # Run a cascade now
1169
1170 $target{CXXFLAGS}//=$target{CFLAGS} if $target{CXX};
1171 $target{cxxflags}//=$target{cflags} if $target{CXX};
1172 $target{exe_extension}=".exe" if ($config{target} eq "DJGPP");
1173 $target{exe_extension}=".pm"  if ($config{target} =~ /vos/);
1174
1175 # Fill %config with values from %user, and in case those are undefined or
1176 # empty, use values from %target (acting as a default).
1177 foreach (keys %user) {
1178     my $ref_type = ref $user{$_};
1179
1180     # Temporary function.  Takes an intended ref type (empty string or "ARRAY")
1181     # and a value that's to be coerced into that type.
1182     my $mkvalue = sub {
1183         my $type = shift;
1184         my $value = shift;
1185         my $undef_p = shift;
1186
1187         die "Too many arguments for \$mkvalue" if @_;
1188
1189         while (ref $value eq 'CODE') {
1190             $value = $value->();
1191         }
1192
1193         if ($type eq 'ARRAY') {
1194             return undef unless defined $value;
1195             return undef if ref $value ne 'ARRAY' && !$value;
1196             return undef if ref $value eq 'ARRAY' && !@$value;
1197             return [ $value ] unless ref $value eq 'ARRAY';
1198         }
1199         return undef unless $value;
1200         return $value;
1201     };
1202
1203     $config{$_} =
1204         $mkvalue->($ref_type, $user{$_})
1205         || $mkvalue->($ref_type, $target{$_});
1206     delete $config{$_} unless defined $config{$_};
1207 }
1208
1209 # Finish up %config by appending things the user gave us on the command line
1210 # apart from "make variables"
1211 foreach (keys %useradd) {
1212     # The must all be lists, so we assert that here
1213     die "internal error: \$useradd{$_} isn't an ARRAY\n"
1214         unless ref $useradd{$_} eq 'ARRAY';
1215
1216     if (defined $config{$_}) {
1217         push @{$config{$_}}, @{$useradd{$_}};
1218     } else {
1219         $config{$_} = [ @{$useradd{$_}} ];
1220     }
1221 }
1222 # At this point, we can forget everything about %user and %useradd,
1223 # because it's now all been merged into the corresponding $config entry
1224
1225 # Allow overriding the build file name
1226 $config{build_file} = env('BUILDFILE') || $target{build_file} || "Makefile";
1227
1228 ######################################################################
1229 # Build up information for skipping certain directories depending on disabled
1230 # features, as well as setting up macros for disabled features.
1231
1232 # This is a tentative database of directories to skip.  Some entries may not
1233 # correspond to anything real, but that's ok, they will simply be ignored.
1234 # The actual processing of these entries is done in the build.info lookup
1235 # loop further down.
1236 #
1237 # The key is a Unix formatted path in the source tree, the value is an index
1238 # into %disabled_info, so any existing path gets added to a corresponding
1239 # 'skipped' entry in there with the list of skipped directories.
1240 my %skipdir = ();
1241 my %disabled_info = ();         # For configdata.pm
1242 foreach my $what (sort keys %disabled) {
1243     # There are deprecated disablables that translate to themselves.
1244     # They cause disabling cascades, but should otherwise not regiter.
1245     next if $deprecated_disablables{$what};
1246
1247     $config{options} .= " no-$what";
1248
1249     if (!grep { $what eq $_ } ( 'buildtest-c++', 'fips', 'threads', 'shared',
1250                                 'module', 'pic', 'dynamic-engine', 'makedepend',
1251                                 'zlib-dynamic', 'zlib', 'sse2', 'legacy' )) {
1252         (my $WHAT = uc $what) =~ s|-|_|g;
1253         my $skipdir = $what;
1254
1255         # fix-up crypto/directory name(s)
1256         $skipdir = "ripemd" if $what eq "rmd160";
1257         $skipdir = "whrlpool" if $what eq "whirlpool";
1258
1259         my $macro = $disabled_info{$what}->{macro} = "OPENSSL_NO_$WHAT";
1260         push @{$config{openssl_feature_defines}}, $macro;
1261
1262         $skipdir{engines} = $what if $what eq 'engine';
1263         $skipdir{"crypto/$skipdir"} = $what
1264             unless $what eq 'async' || $what eq 'err' || $what eq 'dso';
1265     }
1266 }
1267
1268 # Make sure build_scheme is consistent.
1269 $target{build_scheme} = [ $target{build_scheme} ]
1270     if ref($target{build_scheme}) ne "ARRAY";
1271
1272 my ($builder, $builder_platform, @builder_opts) =
1273     @{$target{build_scheme}};
1274
1275 foreach my $checker (($builder_platform."-".$target{build_file}."-checker.pm",
1276                       $builder_platform."-checker.pm")) {
1277     my $checker_path = catfile($srcdir, "Configurations", $checker);
1278     if (-f $checker_path) {
1279         my $fn = $ENV{CONFIGURE_CHECKER_WARN}
1280             ? sub { warn $@; } : sub { die $@; };
1281         if (! do $checker_path) {
1282             if ($@) {
1283                 $fn->($@);
1284             } elsif ($!) {
1285                 $fn->($!);
1286             } else {
1287                 $fn->("The detected tools didn't match the platform\n");
1288             }
1289         }
1290         last;
1291     }
1292 }
1293
1294 push @{$config{defines}}, "NDEBUG"    if $config{build_type} eq "release";
1295
1296 if ($target =~ /^mingw/ && `$config{CC} --target-help 2>&1` =~ m/-mno-cygwin/m)
1297         {
1298         push @{$config{cflags}}, "-mno-cygwin";
1299         push @{$config{cxxflags}}, "-mno-cygwin" if $config{CXX};
1300         push @{$config{shared_ldflag}}, "-mno-cygwin";
1301         }
1302
1303 if ($target =~ /linux.*-mips/ && !$disabled{asm}
1304         && !grep { $_ !~ /-m(ips|arch=)/ } (@{$config{CFLAGS}})) {
1305         # minimally required architecture flags for assembly modules
1306         my $value;
1307         $value = '-mips2' if ($target =~ /mips32/);
1308         $value = '-mips3' if ($target =~ /mips64/);
1309         unshift @{$config{cflags}}, $value;
1310         unshift @{$config{cxxflags}}, $value if $config{CXX};
1311 }
1312
1313 # If threads aren't disabled, check how possible they are
1314 unless ($disabled{threads}) {
1315     if ($auto_threads) {
1316         # Enabled by default, disable it forcibly if unavailable
1317         if ($target{thread_scheme} eq "(unknown)") {
1318             disable("unavailable", 'threads');
1319         }
1320     } else {
1321         # The user chose to enable threads explicitly, let's see
1322         # if there's a chance that's possible
1323         if ($target{thread_scheme} eq "(unknown)") {
1324             # If the user asked for "threads" and we don't have internal
1325             # knowledge how to do it, [s]he is expected to provide any
1326             # system-dependent compiler options that are necessary.  We
1327             # can't truly check that the given options are correct, but
1328             # we expect the user to know what [s]He is doing.
1329             if (!@{$config{CFLAGS}} && !@{$config{CPPDEFINES}}) {
1330                 die "You asked for multi-threading support, but didn't\n"
1331                     ,"provide any system-specific compiler options\n";
1332             }
1333         }
1334     }
1335 }
1336
1337 # Find out if clang's sanitizers have been enabled with -fsanitize
1338 # flags and ensure that the corresponding %disabled elements area
1339 # removed to reflect that the sanitizers are indeed enabled.
1340 my %detected_sanitizers = ();
1341 foreach (grep /^-fsanitize=/, @{$config{CFLAGS} || []}) {
1342     (my $checks = $_) =~ s/^-fsanitize=//;
1343     foreach (split /,/, $checks) {
1344         my $d = { address       => 'asan',
1345                   undefined     => 'ubsan',
1346                   memory        => 'msan' } -> {$_};
1347         next unless defined $d;
1348
1349         $detected_sanitizers{$d} = 1;
1350         if (defined $disabled{$d}) {
1351             die "***** Conflict between disabling $d and enabling $_ sanitizer"
1352                 if $disabled{$d} ne "default";
1353             delete $disabled{$d};
1354         }
1355     }
1356 }
1357
1358 # If threads still aren't disabled, add a C macro to ensure the source
1359 # code knows about it.  Any other flag is taken care of by the configs.
1360 unless($disabled{threads}) {
1361     push @{$config{openssl_feature_defines}}, "OPENSSL_THREADS";
1362 }
1363
1364 # With "deprecated" disable all deprecated features.
1365 if (defined($disabled{"deprecated"})) {
1366         $config{api} = $maxapi;
1367 }
1368
1369 my $no_shared_warn=0;
1370 if ($target{shared_target} eq "")
1371         {
1372         $no_shared_warn = 1
1373             if (!$disabled{shared} || !$disabled{"dynamic-engine"});
1374         disable('no-shared-target', 'pic');
1375         }
1376
1377 if ($disabled{"dynamic-engine"}) {
1378         push @{$config{openssl_feature_defines}}, "OPENSSL_NO_DYNAMIC_ENGINE";
1379         $config{dynamic_engines} = 0;
1380 } else {
1381         push @{$config{openssl_feature_defines}}, "OPENSSL_NO_STATIC_ENGINE";
1382         $config{dynamic_engines} = 1;
1383 }
1384
1385 unless ($disabled{asan} || defined $detected_sanitizers{asan}) {
1386     push @{$config{cflags}}, "-fsanitize=address";
1387 }
1388
1389 unless ($disabled{ubsan} || defined $detected_sanitizers{ubsan}) {
1390     # -DPEDANTIC or -fnosanitize=alignment may also be required on some
1391     # platforms.
1392     push @{$config{cflags}}, "-fsanitize=undefined", "-fno-sanitize-recover=all";
1393 }
1394
1395 unless ($disabled{msan} || defined $detected_sanitizers{msan}) {
1396   push @{$config{cflags}}, "-fsanitize=memory";
1397 }
1398
1399 unless ($disabled{"fuzz-libfuzzer"} && $disabled{"fuzz-afl"}
1400         && $disabled{asan} && $disabled{ubsan} && $disabled{msan}) {
1401     push @{$config{cflags}}, "-fno-omit-frame-pointer", "-g";
1402     push @{$config{cxxflags}}, "-fno-omit-frame-pointer", "-g" if $config{CXX};
1403 }
1404 #
1405 # Platform fix-ups
1406 #
1407
1408 # This saves the build files from having to check
1409 if ($disabled{pic})
1410         {
1411         foreach (qw(shared_cflag shared_cxxflag shared_cppflag
1412                     shared_defines shared_includes shared_ldflag
1413                     module_cflags module_cxxflags module_cppflags
1414                     module_defines module_includes module_lflags))
1415                 {
1416                 delete $config{$_};
1417                 $target{$_} = "";
1418                 }
1419         }
1420 else
1421         {
1422         push @{$config{lib_defines}}, "OPENSSL_PIC";
1423         }
1424
1425 if ($target{sys_id} ne "")
1426         {
1427         push @{$config{openssl_sys_defines}}, "OPENSSL_SYS_$target{sys_id}";
1428         }
1429
1430 unless ($disabled{asm}) {
1431 }
1432
1433 my %predefined_C = compiler_predefined($config{CROSS_COMPILE}.$config{CC});
1434 my %predefined_CXX = $config{CXX}
1435     ? compiler_predefined($config{CROSS_COMPILE}.$config{CXX})
1436     : ();
1437
1438 # Check for makedepend capabilities.
1439 if (!$disabled{makedepend}) {
1440     if ($config{target} =~ /^(VC|vms)-/) {
1441         # For VC- and vms- targets, there's nothing more to do here.  The
1442         # functionality is hard coded in the corresponding build files for
1443         # cl (Windows) and CC/DECC (VMS).
1444     } elsif (($predefined_C{__GNUC__} // -1) >= 3
1445              && !($predefined_C{__APPLE_CC__} && !$predefined_C{__clang__})) {
1446         # We know that GNU C version 3 and up as well as all clang
1447         # versions support dependency generation, but Xcode did not
1448         # handle $cc -M before clang support (but claims __GNUC__ = 3)
1449         $config{makedepprog} = "\$(CROSS_COMPILE)$config{CC}";
1450     } else {
1451         # In all other cases, we look for 'makedepend', and disable the
1452         # capability if not found.
1453         $config{makedepprog} = which('makedepend');
1454         disable('unavailable', 'makedepend') unless $config{makedepprog};
1455     }
1456 }
1457
1458 if (!$disabled{asm} && !$predefined_C{__MACH__} && $^O ne 'VMS') {
1459     # probe for -Wa,--noexecstack option...
1460     if ($predefined_C{__clang__}) {
1461         # clang has builtin assembler, which doesn't recognize --help,
1462         # but it apparently recognizes the option in question on all
1463         # supported platforms even when it's meaningless. In other words
1464         # probe would fail, but probed option always accepted...
1465         push @{$config{cflags}}, "-Wa,--noexecstack", "-Qunused-arguments";
1466     } else {
1467         my $cc = $config{CROSS_COMPILE}.$config{CC};
1468         open(PIPE, "$cc -Wa,--help -c -o null.$$.o -x assembler /dev/null 2>&1 |");
1469         while(<PIPE>) {
1470             if (m/--noexecstack/) {
1471                 push @{$config{cflags}}, "-Wa,--noexecstack";
1472                 last;
1473             }
1474         }
1475         close(PIPE);
1476         unlink("null.$$.o");
1477     }
1478 }
1479
1480 # Deal with bn_ops ###################################################
1481
1482 $config{bn_ll}                  =0;
1483 my $def_int="unsigned int";
1484 $config{rc4_int}                =$def_int;
1485 ($config{b64l},$config{b64},$config{b32})=(0,0,1);
1486
1487 my $count = 0;
1488 foreach (sort split(/\s+/,$target{bn_ops})) {
1489     $count++ if /SIXTY_FOUR_BIT|SIXTY_FOUR_BIT_LONG|THIRTY_TWO_BIT/;
1490     $config{bn_ll}=1                            if $_ eq 'BN_LLONG';
1491     $config{rc4_int}="unsigned char"            if $_ eq 'RC4_CHAR';
1492     ($config{b64l},$config{b64},$config{b32})
1493         =(0,1,0)                                if $_ eq 'SIXTY_FOUR_BIT';
1494     ($config{b64l},$config{b64},$config{b32})
1495         =(1,0,0)                                if $_ eq 'SIXTY_FOUR_BIT_LONG';
1496     ($config{b64l},$config{b64},$config{b32})
1497         =(0,0,1)                                if $_ eq 'THIRTY_TWO_BIT';
1498 }
1499 die "Exactly one of SIXTY_FOUR_BIT|SIXTY_FOUR_BIT_LONG|THIRTY_TWO_BIT can be set in bn_ops\n"
1500     if $count > 1;
1501
1502
1503 # Hack cflags for better warnings (dev option) #######################
1504
1505 # "Stringify" the C and C++ flags string.  This permits it to be made part of
1506 # a string and works as well on command lines.
1507 $config{cflags} = [ map { (my $x = $_) =~ s/([\\\"])/\\$1/g; $x }
1508                         @{$config{cflags}} ];
1509 $config{cxxflags} = [ map { (my $x = $_) =~ s/([\\\"])/\\$1/g; $x }
1510                           @{$config{cxxflags}} ] if $config{CXX};
1511
1512 $config{openssl_api_defines} = [
1513     "OPENSSL_MIN_API=".($apitable->{$config{api} // ""} // -1)
1514 ];
1515
1516 my @strict_warnings_collection=();
1517 if ($strict_warnings)
1518         {
1519         my $wopt;
1520         my $gccver = $predefined_C{__GNUC__} // -1;
1521
1522         warn "WARNING --strict-warnings requires gcc[>=4] or gcc-alike"
1523             unless $gccver >= 4;
1524         push @strict_warnings_collection, @gcc_devteam_warn;
1525         push @strict_warnings_collection, @clang_devteam_warn
1526             if (defined($predefined_C{__clang__}));
1527         }
1528
1529 if (grep { $_ eq '-static' } @{$config{LDFLAGS}}) {
1530     disable('static', 'pic', 'threads');
1531 }
1532
1533 $config{CFLAGS} = [ map { $_ eq '--ossl-strict-warnings'
1534                               ? @strict_warnings_collection
1535                               : ( $_ ) }
1536                     @{$config{CFLAGS}} ];
1537
1538 unless ($disabled{"crypto-mdebug-backtrace"})
1539         {
1540         foreach my $wopt (split /\s+/, $memleak_devteam_backtrace)
1541                 {
1542                 push @{$config{cflags}}, $wopt
1543                         unless grep { $_ eq $wopt } @{$config{cflags}};
1544                 }
1545         if ($target =~ /^BSD-/)
1546                 {
1547                 push @{$config{ex_libs}}, "-lexecinfo";
1548                 }
1549         }
1550
1551 unless ($disabled{afalgeng}) {
1552     $config{afalgeng}="";
1553     if (grep { $_ eq 'afalgeng' } @{$target{enable}}) {
1554         my $minver = 4*10000 + 1*100 + 0;
1555         if ($config{CROSS_COMPILE} eq "") {
1556             my $verstr = `uname -r`;
1557             my ($ma, $mi1, $mi2) = split("\\.", $verstr);
1558             ($mi2) = $mi2 =~ /(\d+)/;
1559             my $ver = $ma*10000 + $mi1*100 + $mi2;
1560             if ($ver < $minver) {
1561                 disable('too-old-kernel', 'afalgeng');
1562             } else {
1563                 push @{$config{engdirs}}, "afalg";
1564             }
1565         } else {
1566             disable('cross-compiling', 'afalgeng');
1567         }
1568     } else {
1569         disable('not-linux', 'afalgeng');
1570     }
1571 }
1572
1573 push @{$config{openssl_feature_defines}}, "OPENSSL_NO_AFALGENG" if ($disabled{afalgeng});
1574
1575 unless ($disabled{ktls}) {
1576     $config{ktls}="";
1577     if ($target =~ m/^linux/) {
1578         my $usr = "/usr/$config{cross_compile_prefix}";
1579         chop($usr);
1580         if ($config{cross_compile_prefix} eq "") {
1581             $usr = "/usr";
1582         }
1583         my $minver = (4 << 16) + (13 << 8) + 0;
1584         my @verstr = split(" ",`cat $usr/include/linux/version.h | grep LINUX_VERSION_CODE`);
1585
1586         if ($verstr[2] < $minver) {
1587             disable('too-old-kernel', 'ktls');
1588         }
1589     } else {
1590         disable('not-linux', 'ktls');
1591     }
1592 }
1593
1594 push @{$config{openssl_other_defines}}, "OPENSSL_NO_KTLS" if ($disabled{ktls});
1595
1596 # Get the extra flags used when building shared libraries and modules.  We
1597 # do this late because some of them depend on %disabled.
1598
1599 # Make the flags to build DSOs the same as for shared libraries unless they
1600 # are already defined
1601 $target{module_cflags} = $target{shared_cflag} unless defined $target{module_cflags};
1602 $target{module_cxxflags} = $target{shared_cxxflag} unless defined $target{module_cxxflags};
1603 $target{module_ldflags} = $target{shared_ldflag} unless defined $target{module_ldflags};
1604 {
1605     my $shared_info_pl =
1606         catfile(dirname($0), "Configurations", "shared-info.pl");
1607     my %shared_info = read_eval_file($shared_info_pl);
1608     push @{$target{_conf_fname_int}}, $shared_info_pl;
1609     my $si = $target{shared_target};
1610     while (ref $si ne "HASH") {
1611         last if ! defined $si;
1612         if (ref $si eq "CODE") {
1613             $si = $si->();
1614         } else {
1615             $si = $shared_info{$si};
1616         }
1617     }
1618
1619     # Some of the 'shared_target' values don't have any entries in
1620     # %shared_info.  That's perfectly fine, AS LONG AS the build file
1621     # template knows how to handle this.  That is currently the case for
1622     # Windows and VMS.
1623     if (defined $si) {
1624         # Just as above, copy certain shared_* attributes to the corresponding
1625         # module_ attribute unless the latter is already defined
1626         $si->{module_cflags} = $si->{shared_cflag} unless defined $si->{module_cflags};
1627         $si->{module_cxxflags} = $si->{shared_cxxflag} unless defined $si->{module_cxxflags};
1628         $si->{module_ldflags} = $si->{shared_ldflag} unless defined $si->{module_ldflags};
1629         foreach (sort keys %$si) {
1630             $target{$_} = defined $target{$_}
1631                 ? add($si->{$_})->($target{$_})
1632                 : $si->{$_};
1633         }
1634     }
1635 }
1636
1637 # ALL MODIFICATIONS TO %disabled, %config and %target MUST BE DONE FROM HERE ON
1638
1639 # If we use the unified build, collect information from build.info files
1640 my %unified_info = ();
1641
1642 my $buildinfo_debug = defined($ENV{CONFIGURE_DEBUG_BUILDINFO});
1643 if ($builder eq "unified") {
1644     use Text::Template 1.46;
1645
1646     sub cleandir {
1647         my $base = shift;
1648         my $dir = shift;
1649         my $relativeto = shift || ".";
1650
1651         $dir = catdir($base,$dir) unless isabsolute($dir);
1652
1653         # Make sure the directories we're building in exists
1654         mkpath($dir);
1655
1656         my $res = abs2rel(absolutedir($dir), rel2abs($relativeto));
1657         #print STDERR "DEBUG[cleandir]: $dir , $base => $res\n";
1658         return $res;
1659     }
1660
1661     sub cleanfile {
1662         my $base = shift;
1663         my $file = shift;
1664         my $relativeto = shift || ".";
1665
1666         $file = catfile($base,$file) unless isabsolute($file);
1667
1668         my $d = dirname($file);
1669         my $f = basename($file);
1670
1671         # Make sure the directories we're building in exists
1672         mkpath($d);
1673
1674         my $res = abs2rel(catfile(absolutedir($d), $f), rel2abs($relativeto));
1675         #print STDERR "DEBUG[cleanfile]: $d , $f => $res\n";
1676         return $res;
1677     }
1678
1679     # Store the name of the template file we will build the build file from
1680     # in %config.  This may be useful for the build file itself.
1681     my @build_file_template_names =
1682         ( $builder_platform."-".$target{build_file}.".tmpl",
1683           $target{build_file}.".tmpl" );
1684     my @build_file_templates = ();
1685
1686     # First, look in the user provided directory, if given
1687     if (defined env($local_config_envname)) {
1688         @build_file_templates =
1689             map {
1690                 if ($^O eq 'VMS') {
1691                     # VMS environment variables are logical names,
1692                     # which can be used as is
1693                     $local_config_envname . ':' . $_;
1694                 } else {
1695                     catfile(env($local_config_envname), $_);
1696                 }
1697             }
1698             @build_file_template_names;
1699     }
1700     # Then, look in our standard directory
1701     push @build_file_templates,
1702         ( map { cleanfile($srcdir, catfile("Configurations", $_), $blddir) }
1703           @build_file_template_names );
1704
1705     my $build_file_template;
1706     for $_ (@build_file_templates) {
1707         $build_file_template = $_;
1708         last if -f $build_file_template;
1709
1710         $build_file_template = undef;
1711     }
1712     if (!defined $build_file_template) {
1713         die "*** Couldn't find any of:\n", join("\n", @build_file_templates), "\n";
1714     }
1715     $config{build_file_templates}
1716       = [ cleanfile($srcdir, catfile("Configurations", "common0.tmpl"),
1717                     $blddir),
1718           $build_file_template,
1719           cleanfile($srcdir, catfile("Configurations", "common.tmpl"),
1720                     $blddir) ];
1721
1722     my @build_dirs = ( [ ] );   # current directory
1723
1724     $config{build_infos} = [ ];
1725
1726     my %ordinals = ();
1727     while (@build_dirs) {
1728         my @curd = @{shift @build_dirs};
1729         my $sourced = catdir($srcdir, @curd);
1730         my $buildd = catdir($blddir, @curd);
1731
1732         my $unixdir = join('/', @curd);
1733         if (exists $skipdir{$unixdir}) {
1734             my $what = $skipdir{$unixdir};
1735             push @{$disabled_info{$what}->{skipped}}, catdir(@curd);
1736             next;
1737         }
1738
1739         mkpath($buildd);
1740
1741         my $f = 'build.info';
1742         # The basic things we're trying to build
1743         my @programs = ();
1744         my @libraries = ();
1745         my @modules = ();
1746         my @scripts = ();
1747
1748         my %sources = ();
1749         my %shared_sources = ();
1750         my %includes = ();
1751         my %defines = ();
1752         my %depends = ();
1753         my %generate = ();
1754
1755         # Support for $variablename in build.info files.
1756         # Embedded perl code is the ultimate master, still.  If its output
1757         # contains a dollar sign, it had better be escaped, or it will be
1758         # taken for a variable name prefix.
1759         my %variables = ();
1760         my $variable_re = qr/\$(?P<VARIABLE>[[:alpha:]][[:alnum:]_]*)/;
1761         my $expand_variables = sub {
1762             my $value = '';
1763             my $value_rest = shift;
1764
1765             if ($ENV{CONFIGURE_DEBUG_VARIABLE_EXPAND}) {
1766                 print STDERR
1767                     "DEBUG[\$expand_variables] Parsed '$value_rest' into:\n"
1768             }
1769             while ($value_rest =~ /(?<!\\)${variable_re}/) {
1770                 $value .= $`;
1771                 $value .= $variables{$+{VARIABLE}};
1772                 $value_rest = $';
1773             }
1774             if ($ENV{CONFIGURE_DEBUG_VARIABLE_EXPAND}) {
1775                 print STDERR
1776                     "DEBUG[\$expand_variables] ... '$value$value_rest'\n";
1777             }
1778             return $value . $value_rest;
1779         };
1780
1781         # Support for attributes in build.info files
1782         my %attributes = ();
1783         my $handle_attributes = sub {
1784             my $attr_str = shift;
1785             my $ref = shift;
1786             my @goals = @_;
1787
1788             return unless defined $attr_str;
1789
1790             my @a = tokenize($attr_str, qr|\s*,\s*|);
1791             foreach my $a (@a) {
1792                 my $ac = 1;
1793                 my $ak = $a;
1794                 my $av = 1;
1795                 if ($a =~ m|^(!)?(.*?)\s* = \s*(.*?)$|) {
1796                     $ac = ! $1;
1797                     $ak = $1;
1798                     $av = $2;
1799                 }
1800                 foreach my $g (@goals) {
1801                     if ($ac) {
1802                         $$ref->{$g}->{$ak} = $av;
1803                     } else {
1804                         delete $$ref->{$g}->{$ak};
1805                     }
1806                 }
1807             }
1808         };
1809
1810         # We want to detect configdata.pm in the source tree, so we
1811         # don't use it if the build tree is different.
1812         my $src_configdata = cleanfile($srcdir, "configdata.pm", $blddir);
1813
1814         push @{$config{build_infos}}, catfile(abs2rel($sourced, $blddir), $f);
1815         my $template =
1816             Text::Template->new(TYPE => 'FILE',
1817                                 SOURCE => catfile($sourced, $f),
1818                                 PREPEND => qq{use lib "$FindBin::Bin/util/perl";});
1819         die "Something went wrong with $sourced/$f: $!\n" unless $template;
1820         my @text =
1821             split /^/m,
1822             $template->fill_in(HASH => { config => \%config,
1823                                          target => \%target,
1824                                          disabled => \%disabled,
1825                                          withargs => \%withargs,
1826                                          builddir => abs2rel($buildd, $blddir),
1827                                          sourcedir => abs2rel($sourced, $blddir),
1828                                          buildtop => abs2rel($blddir, $blddir),
1829                                          sourcetop => abs2rel($srcdir, $blddir) },
1830                                DELIMITERS => [ "{-", "-}" ]);
1831
1832         # The top item of this stack has the following values
1833         # -2 positive already run and we found ELSE (following ELSIF should fail)
1834         # -1 positive already run (skip until ENDIF)
1835         # 0 negatives so far (if we're at a condition, check it)
1836         # 1 last was positive (don't skip lines until next ELSE, ELSIF or ENDIF)
1837         # 2 positive ELSE (following ELSIF should fail)
1838         my @skip = ();
1839
1840         # A few useful generic regexps
1841         my $index_re = qr/\[\s*(?P<INDEX>(?:\\.|.)*?)\s*\]/;
1842         my $cond_re = qr/\[\s*(?P<COND>(?:\\.|.)*?)\s*\]/;
1843         my $attribs_re = qr/(?:\{\s*(?P<ATTRIBS>(?:\\.|.)*?)\s*\})?/;
1844         my $value_re = qr/\s*(?P<VALUE>.*?)\s*/;
1845         collect_information(
1846             collect_from_array([ @text ],
1847                                qr/\\$/ => sub { my $l1 = shift; my $l2 = shift;
1848                                                 $l1 =~ s/\\$//; $l1.$l2 }),
1849             # Info we're looking for
1850             qr/^\s* IF ${cond_re} \s*$/x
1851             => sub {
1852                 if (! @skip || $skip[$#skip] > 0) {
1853                     push @skip, !! $expand_variables->($+{COND});
1854                 } else {
1855                     push @skip, -1;
1856                 }
1857             },
1858             qr/^\s* ELSIF ${cond_re} \s*$/x
1859             => sub { die "ELSIF out of scope" if ! @skip;
1860                      die "ELSIF following ELSE" if abs($skip[$#skip]) == 2;
1861                      $skip[$#skip] = -1 if $skip[$#skip] != 0;
1862                      $skip[$#skip] = !! $expand_variables->($+{COND})
1863                          if $skip[$#skip] == 0; },
1864             qr/^\s* ELSE \s*$/x
1865             => sub { die "ELSE out of scope" if ! @skip;
1866                      $skip[$#skip] = -2 if $skip[$#skip] != 0;
1867                      $skip[$#skip] = 2 if $skip[$#skip] == 0; },
1868             qr/^\s* ENDIF \s*$/x
1869             => sub { die "ENDIF out of scope" if ! @skip;
1870                      pop @skip; },
1871             qr/^\s* ${variable_re} \s* = ${value_re} $/x
1872             => sub {
1873                 if (!@skip || $skip[$#skip] > 0) {
1874                     $variables{$+{VARIABLE}} = $expand_variables->($+{VALUE});
1875                 }
1876             },
1877             qr/^\s* SUBDIRS \s* = ${value_re} $/x
1878             => sub {
1879                 if (!@skip || $skip[$#skip] > 0) {
1880                     foreach (tokenize($expand_variables->($+{VALUE}))) {
1881                         push @build_dirs, [ @curd, splitdir($_, 1) ];
1882                     }
1883                 }
1884             },
1885             qr/^\s* PROGRAMS ${attribs_re} \s* =  ${value_re} $/x
1886             => sub {
1887                 if (!@skip || $skip[$#skip] > 0) {
1888                     my @p = tokenize($expand_variables->($+{VALUE}));
1889                     push @programs, @p;
1890                     $handle_attributes->($+{ATTRIBS},
1891                                          \$attributes{programs},
1892                                          @p);
1893                 }
1894             },
1895             qr/^\s* LIBS ${attribs_re} \s* =  ${value_re} $/x
1896             => sub {
1897                 if (!@skip || $skip[$#skip] > 0) {
1898                     my @l = tokenize($expand_variables->($+{VALUE}));
1899                     push @libraries, @l;
1900                     $handle_attributes->($+{ATTRIBS},
1901                                          \$attributes{libraries},
1902                                          @l);
1903                 }
1904             },
1905             qr/^\s* MODULES ${attribs_re} \s* =  ${value_re} $/x
1906             => sub {
1907                 if (!@skip || $skip[$#skip] > 0) {
1908                     my @m = tokenize($expand_variables->($+{VALUE}));
1909                     push @modules, @m;
1910                     $handle_attributes->($+{ATTRIBS},
1911                                          \$attributes{modules},
1912                                          @m);
1913                 }
1914             },
1915             qr/^\s* SCRIPTS ${attribs_re} \s* =  ${value_re} $/x
1916             => sub {
1917                 if (!@skip || $skip[$#skip] > 0) {
1918                     my @s = tokenize($expand_variables->($+{VALUE}));
1919                     push @scripts, @s;
1920                     $handle_attributes->($+{ATTRIBS},
1921                                          \$attributes{scripts},
1922                                          @s);
1923                 }
1924             },
1925
1926             qr/^\s* ORDINALS ${index_re} = ${value_re} $/x
1927             => sub { push @{$ordinals{$expand_variables->($+{INDEX})}},
1928                          tokenize($expand_variables->($+{VALUE}))
1929                          if !@skip || $skip[$#skip] > 0 },
1930             qr/^\s* SOURCE ${index_re} = ${value_re} $/x
1931             => sub { push @{$sources{$expand_variables->($+{INDEX})}},
1932                          tokenize($expand_variables->($+{VALUE}))
1933                          if !@skip || $skip[$#skip] > 0 },
1934             qr/^\s* SHARED_SOURCE ${index_re} = ${value_re} $/x
1935             => sub { push @{$shared_sources{$expand_variables->($+{INDEX})}},
1936                          tokenize($expand_variables->($+{VALUE}))
1937                          if !@skip || $skip[$#skip] > 0 },
1938             qr/^\s* INCLUDE ${index_re} = ${value_re} $/x
1939             => sub { push @{$includes{$expand_variables->($+{INDEX})}},
1940                          tokenize($expand_variables->($+{VALUE}))
1941                          if !@skip || $skip[$#skip] > 0 },
1942             qr/^\s* DEFINE ${index_re} = ${value_re} $/x
1943             => sub { push @{$defines{$expand_variables->($+{INDEX})}},
1944                          tokenize($expand_variables->($+{VALUE}))
1945                          if !@skip || $skip[$#skip] > 0 },
1946             qr/^\s* DEPEND ${index_re} ${attribs_re} = ${value_re} $/x
1947             => sub {
1948                 if (!@skip || $skip[$#skip] > 0) {
1949                     my $i = $expand_variables->($+{INDEX});
1950                     my @d = tokenize($expand_variables->($+{VALUE}));
1951                     push @{$depends{$i}}, @d;
1952                     $handle_attributes->($+{ATTRIBS},
1953                                          \$attributes{depends}->{$i},
1954                                          @d);
1955                 }
1956             },
1957             qr/^\s* GENERATE ${index_re} = ${value_re} $/x
1958             => sub { push @{$generate{$expand_variables->($+{INDEX})}},
1959                          $+{VALUE}
1960                          if !@skip || $skip[$#skip] > 0 },
1961             qr/^\s* (?:\#.*)? $/x => sub { },
1962             "OTHERWISE" => sub { die "Something wrong with this line:\n$_\nat $sourced/$f" },
1963             "BEFORE" => sub {
1964                 if ($buildinfo_debug) {
1965                     print STDERR "DEBUG: Parsing ",join(" ", @_),"\n";
1966                     print STDERR "DEBUG: ... before parsing, skip stack is ",join(" ", map { int($_) } @skip),"\n";
1967                 }
1968             },
1969             "AFTER" => sub {
1970                 if ($buildinfo_debug) {
1971                     print STDERR "DEBUG: .... after parsing, skip stack is ",join(" ", map { int($_) } @skip),"\n";
1972                 }
1973             },
1974             );
1975         die "runaway IF?" if (@skip);
1976
1977         if (grep { defined $attributes{modules}->{$_}->{engine} } keys %attributes
1978                 and !$config{dynamic_engines}) {
1979             die <<"EOF"
1980 ENGINES can only be used if configured with 'dynamic-engine'.
1981 This is usually a fault in a build.info file.
1982 EOF
1983         }
1984
1985         {
1986             my %infos = ( programs  => [ @programs  ],
1987                           libraries => [ @libraries ],
1988                           modules   => [ @modules   ],
1989                           scripts   => [ @scripts   ] );
1990             foreach my $k (keys %infos) {
1991                 foreach (@{$infos{$k}}) {
1992                     my $item = cleanfile($buildd, $_, $blddir);
1993                     $unified_info{$k}->{$item} = 1;
1994
1995                     # Fix up associated attributes
1996                     $unified_info{attributes}->{$k}->{$item} =
1997                         $attributes{$k}->{$_}
1998                         if defined $attributes{$k}->{$_};
1999                 }
2000             }
2001         }
2002
2003         # Check that we haven't defined any library as both shared and
2004         # explicitly static.  That is forbidden.
2005         my @doubles = ();
2006         foreach (grep /\.a$/, keys %{$unified_info{libraries}}) {
2007             (my $l = $_) =~ s/\.a$//;
2008             push @doubles, $l if defined $unified_info{libraries}->{$l};
2009         }
2010         die "these libraries are both explicitly static and shared:\n  ",
2011             join(" ", @doubles), "\n"
2012             if @doubles;
2013
2014         foreach (keys %sources) {
2015             my $dest = $_;
2016             my $ddest = cleanfile($buildd, $_, $blddir);
2017             foreach (@{$sources{$dest}}) {
2018                 my $s = cleanfile($sourced, $_, $blddir);
2019
2020                 # If it isn't in the source tree, we assume it's generated
2021                 # in the build tree
2022                 if ($s eq $src_configdata || ! -f $s || $generate{$_}) {
2023                     $s = cleanfile($buildd, $_, $blddir);
2024                 }
2025                 # We recognise C++, C and asm files
2026                 if ($s =~ /\.(cc|cpp|c|s|S)$/) {
2027                     my $o = $_;
2028                     $o =~ s/\.[csS]$/.o/; # C and assembler
2029                     $o =~ s/\.(cc|cpp)$/_cc.o/; # C++
2030                     $o = cleanfile($buildd, $o, $blddir);
2031                     $unified_info{sources}->{$ddest}->{$o} = -1;
2032                     $unified_info{sources}->{$o}->{$s} = -1;
2033                 } elsif ($s =~ /\.rc$/) {
2034                     # We also recognise resource files
2035                     my $o = $_;
2036                     $o =~ s/\.rc$/.res/; # Resource configuration
2037                     my $o = cleanfile($buildd, $o, $blddir);
2038                     $unified_info{sources}->{$ddest}->{$o} = -1;
2039                     $unified_info{sources}->{$o}->{$s} = -1;
2040                 } else {
2041                     $unified_info{sources}->{$ddest}->{$s} = 1;
2042                 }
2043             }
2044         }
2045
2046         foreach (keys %shared_sources) {
2047             my $dest = $_;
2048             my $ddest = cleanfile($buildd, $_, $blddir);
2049             foreach (@{$shared_sources{$dest}}) {
2050                 my $s = cleanfile($sourced, $_, $blddir);
2051
2052                 # If it isn't in the source tree, we assume it's generated
2053                 # in the build tree
2054                 if ($s eq $src_configdata || ! -f $s || $generate{$_}) {
2055                     $s = cleanfile($buildd, $_, $blddir);
2056                 }
2057
2058                 if ($s =~ /\.(cc|cpp|c|s|S)$/) {
2059                     # We recognise C++, C and asm files
2060                     my $o = $_;
2061                     $o =~ s/\.[csS]$/.o/; # C and assembler
2062                     $o =~ s/\.(cc|cpp)$/_cc.o/; # C++
2063                     $o = cleanfile($buildd, $o, $blddir);
2064                     $unified_info{shared_sources}->{$ddest}->{$o} = -1;
2065                     $unified_info{sources}->{$o}->{$s} = -1;
2066                 } elsif ($s =~ /\.rc$/) {
2067                     # We also recognise resource files
2068                     my $o = $_;
2069                     $o =~ s/\.rc$/.res/; # Resource configuration
2070                     my $o = cleanfile($buildd, $o, $blddir);
2071                     $unified_info{shared_sources}->{$ddest}->{$o} = -1;
2072                     $unified_info{sources}->{$o}->{$s} = -1;
2073                 } elsif ($s =~ /\.ld$/) {
2074                     # We also recognise linker scripts (or corresponding)
2075                     # We know they are generated files
2076                     my $ld = cleanfile($buildd, $_, $blddir);
2077                     $unified_info{shared_sources}->{$ddest}->{$ld} = 1;
2078                 } else {
2079                     die "unrecognised source file type for shared library: $s\n";
2080                 }
2081             }
2082         }
2083
2084         foreach (keys %generate) {
2085             my $dest = $_;
2086             my $ddest = cleanfile($buildd, $_, $blddir);
2087             die "more than one generator for $dest: "
2088                     ,join(" ", @{$generate{$_}}),"\n"
2089                     if scalar @{$generate{$_}} > 1;
2090             my @generator = split /\s+/, $generate{$dest}->[0];
2091             $generator[0] = cleanfile($sourced, $generator[0], $blddir),
2092             $unified_info{generate}->{$ddest} = [ @generator ];
2093         }
2094
2095         foreach (keys %depends) {
2096             my $dest = $_;
2097             my $ddest = $dest eq "" ? "" : cleanfile($sourced, $_, $blddir);
2098
2099             # If the destination doesn't exist in source, it can only be
2100             # a generated file in the build tree.
2101             if ($ddest ne "" && ($ddest eq $src_configdata || ! -f $ddest)) {
2102                 $ddest = cleanfile($buildd, $_, $blddir);
2103             }
2104             foreach (@{$depends{$dest}}) {
2105                 my $d = cleanfile($sourced, $_, $blddir);
2106
2107                 # If we know it's generated, or assume it is because we can't
2108                 # find it in the source tree, we set file we depend on to be
2109                 # in the build tree rather than the source tree, and assume
2110                 # and that there are lines to build it in a BEGINRAW..ENDRAW
2111                 # section or in the Makefile template.
2112                 if ($d eq $src_configdata
2113                     || ! -f $d
2114                     || (grep { $d eq $_ }
2115                         map { cleanfile($srcdir, $_, $blddir) }
2116                         grep { /\.h$/ } keys %{$unified_info{generate}})) {
2117                     $d = cleanfile($buildd, $_, $blddir);
2118                 }
2119                 # Take note if the file to depend on is being renamed
2120                 # Take extra care with files ending with .a, they should
2121                 # be treated without that extension, and the extension
2122                 # should be added back after treatment.
2123                 $d =~ /(\.a)?$/;
2124                 my $e = $1 // "";
2125                 $d = $`.$e;
2126                 $unified_info{depends}->{$ddest}->{$d} = 1;
2127
2128                 # Fix up associated attributes
2129                 $unified_info{attributes}->{depends}->{$ddest}->{$d} =
2130                     $attributes{depends}->{$dest}->{$_}
2131                     if defined $attributes{depends}->{$dest}->{$_};
2132             }
2133         }
2134
2135         foreach (keys %includes) {
2136             my $dest = $_;
2137             my $ddest = cleanfile($sourced, $_, $blddir);
2138
2139             # If the destination doesn't exist in source, it can only be
2140             # a generated file in the build tree.
2141             if ($ddest eq $src_configdata || ! -f $ddest) {
2142                 $ddest = cleanfile($buildd, $_, $blddir);
2143             }
2144             foreach (@{$includes{$dest}}) {
2145                 my $is = cleandir($sourced, $_, $blddir);
2146                 my $ib = cleandir($buildd, $_, $blddir);
2147                 push @{$unified_info{includes}->{$ddest}->{source}}, $is
2148                     unless grep { $_ eq $is } @{$unified_info{includes}->{$ddest}->{source}};
2149                 push @{$unified_info{includes}->{$ddest}->{build}}, $ib
2150                     unless grep { $_ eq $ib } @{$unified_info{includes}->{$ddest}->{build}};
2151             }
2152         }
2153
2154         foreach my $dest (keys %defines) {
2155             my $ddest;
2156
2157             if ($dest ne "") {
2158                 $ddest = cleanfile($sourced, $dest, $blddir);
2159
2160                 # If the destination doesn't exist in source, it can only
2161                 # be a generated file in the build tree.
2162                 if (! -f $ddest) {
2163                     $ddest = cleanfile($buildd, $dest, $blddir);
2164                     if ($unified_info{rename}->{$ddest}) {
2165                         $ddest = $unified_info{rename}->{$ddest};
2166                     }
2167                 }
2168             }
2169             foreach my $v (@{$defines{$dest}}) {
2170                 $v =~ m|^([^=]*)(=.*)?$|;
2171                 die "0 length macro name not permitted\n" if $1 eq "";
2172                 if ($dest ne "") {
2173                     die "$1 defined more than once\n"
2174                         if defined $unified_info{defines}->{$ddest}->{$1};
2175                     $unified_info{defines}->{$ddest}->{$1} = $2;
2176                 } else {
2177                     die "$1 defined more than once\n"
2178                         if grep { $v eq $_ } @{$config{defines}};
2179                     push @{$config{defines}}, $v;
2180                 }
2181             }
2182         }
2183     }
2184
2185     my $ordinals_text = join(', ', sort keys %ordinals);
2186     warn <<"EOF" if $ordinals_text;
2187
2188 WARNING: ORDINALS were specified for $ordinals_text
2189 They are ignored and should be replaced with a combination of GENERATE,
2190 DEPEND and SHARED_SOURCE.
2191 EOF
2192
2193
2194     # Go through the sources of all libraries and check that the same basename
2195     # doesn't appear more than once.  Some static library archivers depend on
2196     # them being unique.
2197     {
2198         my $err = 0;
2199         foreach my $prod (keys %{$unified_info{libraries}}) {
2200             my @prod_sources =
2201                 map { keys %{$unified_info{sources}->{$_}} }
2202                 keys %{$unified_info{sources}->{$prod}};
2203             my %srccnt = ();
2204
2205             # Count how many times a given each source basename
2206             # appears for each product.
2207             foreach my $src (@prod_sources) {
2208                 $srccnt{basename $src}++;
2209             }
2210
2211             foreach my $src (keys %srccnt) {
2212                 if ((my $cnt = $srccnt{$src}) > 1) {
2213                     print STDERR "$src appears $cnt times for the product $prod\n";
2214                     $err++
2215                 }
2216             }
2217         }
2218         die if $err > 0;
2219     }
2220
2221     # Massage the result
2222
2223     # If we depend on a header file or a perl module, add an inclusion of
2224     # its directory to allow smoothe inclusion
2225     foreach my $dest (keys %{$unified_info{depends}}) {
2226         next if $dest eq "";
2227         foreach my $d (keys %{$unified_info{depends}->{$dest}}) {
2228             next unless $d =~ /\.(h|pm)$/;
2229             my $i = dirname($d);
2230             my $spot =
2231                 $d eq "configdata.pm" || defined($unified_info{generate}->{$d})
2232                 ? 'build' : 'source';
2233             push @{$unified_info{includes}->{$dest}->{$spot}}, $i
2234                 unless grep { $_ eq $i } @{$unified_info{includes}->{$dest}->{$spot}};
2235         }
2236     }
2237
2238     # Go through all intermediary files and change their names to something that
2239     # reflects what they will be built for.  Note that for some source files,
2240     # this leads to duplicate object files because they are used multiple times.
2241     # the goal is to rename all object files according to this scheme:
2242     #    {productname}-{midfix}-{origobjname}.[o|res]
2243     # the {midfix} is a keyword indicating the type of product, which is mostly
2244     # valuable for libraries since they come in two forms.
2245     #
2246     # This also reorganises the {sources} and {shared_sources} so that the
2247     # former only contains ALL object files that are supposed to end up in
2248     # static libraries and programs, while the latter contains ALL object files
2249     # that are supposed to end up in shared libraries and DSOs.
2250     # The main reason for having two different source structures is to allow
2251     # the same name to be used for the static and the shared variants of a
2252     # library.
2253     {
2254         # Take copies so we don't get interference from added stuff
2255         my %unified_copy = ();
2256         foreach (('sources', 'shared_sources')) {
2257             $unified_copy{$_} = { %{$unified_info{$_}} }
2258                 if defined($unified_info{$_});
2259             delete $unified_info{$_};
2260         }
2261         foreach my $prodtype (('programs', 'libraries', 'modules', 'scripts')) {
2262             # $intent serves multi purposes:
2263             # - give a prefix for the new object files names
2264             # - in the case of libraries, rearrange the object files so static
2265             #   libraries use the 'sources' structure exclusively, while shared
2266             #   libraries use the 'shared_sources' structure exclusively.
2267             my $intent = {
2268                 programs  => { bin    => { src => [ 'sources' ],
2269                                            dst => 'sources' } },
2270                 libraries => { lib    => { src => [ 'sources' ],
2271                                            dst => 'sources' },
2272                                shlib  => { prodselect =>
2273                                                sub { grep !/\.a$/, @_ },
2274                                            src => [ 'sources',
2275                                                     'shared_sources' ],
2276                                            dst => 'shared_sources' } },
2277                 modules   => { dso    => { src => [ 'sources' ],
2278                                            dst => 'sources' } },
2279                 scripts   => { script => { src => [ 'sources' ],
2280                                            dst => 'sources' } }
2281                } -> {$prodtype};
2282             foreach my $kind (keys %$intent) {
2283                 next if ($intent->{$kind}->{dst} eq 'shared_sources'
2284                              && $disabled{shared});
2285
2286                 my @src = @{$intent->{$kind}->{src}};
2287                 my $dst = $intent->{$kind}->{dst};
2288                 my $prodselect = $intent->{$kind}->{prodselect} // sub { @_ };
2289                 foreach my $prod ($prodselect->(keys %{$unified_info{$prodtype}})) {
2290                     # %prod_sources has all applicable objects as keys, and
2291                     # their corresponding sources as values
2292                     my %prod_sources =
2293                         map { $_ => [ keys %{$unified_copy{sources}->{$_}} ] }
2294                         map { keys %{$unified_copy{$_}->{$prod}} }
2295                         @src;
2296                     foreach (keys %prod_sources) {
2297                         # Only affect object files and resource files,
2298                         # the others simply get a new value
2299                         # (+1 instead of -1)
2300                         if ($_ =~ /\.(o|res)$/) {
2301                             (my $prodname = $prod) =~ s|\.a$||;
2302                             my $newobj =
2303                                 catfile(dirname($_),
2304                                         basename($prodname)
2305                                             . '-' . $kind
2306                                             . '-' . basename($_));
2307                             $unified_info{$dst}->{$prod}->{$newobj} = 1;
2308                             foreach my $src (@{$prod_sources{$_}}) {
2309                                 $unified_info{sources}->{$newobj}->{$src} = 1;
2310                             }
2311                             # Adjust dependencies
2312                             foreach my $deps (keys %{$unified_info{depends}->{$_}}) {
2313                                 $unified_info{depends}->{$_}->{$deps} = -1;
2314                                 $unified_info{depends}->{$newobj}->{$deps} = 1;
2315                             }
2316                             # Adjust includes
2317                             foreach my $k (('source', 'build')) {
2318                                 next unless
2319                                     defined($unified_info{includes}->{$_}->{$k});
2320                                 my @incs = @{$unified_info{includes}->{$_}->{$k}};
2321                                 $unified_info{includes}->{$newobj}->{$k} = [ @incs ];
2322                             }
2323                         } else {
2324                             $unified_info{$dst}->{$prod}->{$_} = 1;
2325                         }
2326                     }
2327                 }
2328             }
2329         }
2330     }
2331
2332     # At this point, we have a number of sources with the value -1.  They
2333     # aren't part of the local build and are probably meant for a different
2334     # platform, and can therefore be cleaned away.  That happens when making
2335     # %unified_info more efficient below.
2336
2337     ### Make unified_info a bit more efficient
2338     # One level structures
2339     foreach (("programs", "libraries", "modules", "scripts")) {
2340         $unified_info{$_} = [ sort keys %{$unified_info{$_}} ];
2341     }
2342     # Two level structures
2343     foreach my $l1 (("sources", "shared_sources", "ldadd", "depends")) {
2344         foreach my $l2 (sort keys %{$unified_info{$l1}}) {
2345             my @items =
2346                 sort
2347                 grep { $unified_info{$l1}->{$l2}->{$_} > 0 }
2348                 keys %{$unified_info{$l1}->{$l2}};
2349             if (@items) {
2350                 $unified_info{$l1}->{$l2} = [ @items ];
2351             } else {
2352                 delete $unified_info{$l1}->{$l2};
2353             }
2354         }
2355     }
2356     # Defines
2357     foreach my $dest (sort keys %{$unified_info{defines}}) {
2358         $unified_info{defines}->{$dest}
2359             = [ map { $_.$unified_info{defines}->{$dest}->{$_} }
2360                 sort keys %{$unified_info{defines}->{$dest}} ];
2361     }
2362     # Includes
2363     foreach my $dest (sort keys %{$unified_info{includes}}) {
2364         if (defined($unified_info{includes}->{$dest}->{build})) {
2365             my @source_includes = ();
2366             @source_includes = ( @{$unified_info{includes}->{$dest}->{source}} )
2367                 if defined($unified_info{includes}->{$dest}->{source});
2368             $unified_info{includes}->{$dest} =
2369                 [ @{$unified_info{includes}->{$dest}->{build}} ];
2370             foreach my $inc (@source_includes) {
2371                 push @{$unified_info{includes}->{$dest}}, $inc
2372                     unless grep { $_ eq $inc } @{$unified_info{includes}->{$dest}};
2373             }
2374         } elsif (defined($unified_info{includes}->{$dest}->{source})) {
2375             $unified_info{includes}->{$dest} =
2376                 [ @{$unified_info{includes}->{$dest}->{source}} ];
2377         } else {
2378             delete $unified_info{includes}->{$dest};
2379         }
2380     }
2381
2382     # For convenience collect information regarding directories where
2383     # files are generated, those generated files and the end product
2384     # they end up in where applicable.  Then, add build rules for those
2385     # directories
2386     my %loopinfo = ( "lib" => [ @{$unified_info{libraries}} ],
2387                      "dso" => [ @{$unified_info{modules}} ],
2388                      "bin" => [ @{$unified_info{programs}} ],
2389                      "script" => [ @{$unified_info{scripts}} ] );
2390     foreach my $type (keys %loopinfo) {
2391         foreach my $product (@{$loopinfo{$type}}) {
2392             my %dirs = ();
2393             my $pd = dirname($product);
2394
2395             foreach (@{$unified_info{sources}->{$product} // []},
2396                      @{$unified_info{shared_sources}->{$product} // []}) {
2397                 my $d = dirname($_);
2398
2399                 # We don't want to create targets for source directories
2400                 # when building out of source
2401                 next if ($config{sourcedir} ne $config{builddir}
2402                              && $d =~ m|^\Q$config{sourcedir}\E|);
2403                 # We already have a "test" target, and the current directory
2404                 # is just silly to make a target for
2405                 next if $d eq "test" || $d eq ".";
2406
2407                 $dirs{$d} = 1;
2408                 push @{$unified_info{dirinfo}->{$d}->{deps}}, $_
2409                     if $d ne $pd;
2410             }
2411             foreach (keys %dirs) {
2412                 push @{$unified_info{dirinfo}->{$_}->{products}->{$type}},
2413                     $product;
2414             }
2415         }
2416     }
2417 }
2418
2419 # For the schemes that need it, we provide the old *_obj configs
2420 # from the *_asm_obj ones
2421 foreach (grep /_(asm|aux)_src$/, keys %target) {
2422     my $src = $_;
2423     (my $obj = $_) =~ s/_(asm|aux)_src$/_obj/;
2424     $target{$obj} = $target{$src};
2425     $target{$obj} =~ s/\.[csS]\b/.o/g; # C and assembler
2426     $target{$obj} =~ s/\.(cc|cpp)\b/_cc.o/g; # C++
2427 }
2428
2429 # Write down our configuration where it fits #########################
2430
2431 my %template_vars = (
2432     config => \%config,
2433     target => \%target,
2434     disablables => \@disablables,
2435     disablables_int => \@disablables_int,
2436     disabled => \%disabled,
2437     withargs => \%withargs,
2438     unified_info => \%unified_info,
2439     tls => \@tls,
2440     dtls => \@dtls,
2441     makevars => [ sort keys %user ],
2442     disabled_info => \%disabled_info,
2443     user_crossable => \@user_crossable,
2444 );
2445 my $configdata_outname = 'configdata.pm';
2446 print "Creating $configdata_outname\n";
2447 open CONFIGDATA, ">$configdata_outname.new"
2448             or die "Trying to create $configdata_outname.new: $!";
2449 my $configdata_tmplname = cleanfile($srcdir, "configdata.pm.in", $blddir);
2450 my $configdata_tmpl =
2451     OpenSSL::Template->new(TYPE => 'FILE', SOURCE => $configdata_tmplname);
2452 $configdata_tmpl->fill_in(
2453     FILENAME => $configdata_tmplname,
2454     OUTPUT => \*CONFIGDATA,
2455     HASH => { %template_vars,
2456               autowarntext => [
2457                   'WARNING: do not edit!',
2458                   "Generated by Configure from $configdata_tmplname",
2459               ] }
2460 ) or die $Text::Template::ERROR;
2461 close CONFIGDATA;
2462 rename "$configdata_outname.new", $configdata_outname;
2463 if ($builder_platform eq 'unix') {
2464     my $mode = (0755 & ~umask);
2465     chmod $mode, 'configdata.pm'
2466         or warn sprintf("WARNING: Couldn't change mode for 'configdata.pm' to 0%03o: %s\n",$mode,$!);
2467 }
2468
2469 print "Running $configdata_outname\n";
2470 my $perlcmd = (quotify("maybeshell", $config{PERL}))[0];
2471 my $cmd = "$perlcmd $configdata_outname";
2472 #print STDERR "DEBUG[run_dofile]: \$cmd = $cmd\n";
2473 system($cmd);
2474 exit 1 if $? != 0;
2475
2476 $SIG{__DIE__} = $orig_death_handler;
2477
2478 print <<"EOF" if ($disabled{threads} eq "unavailable");
2479
2480 The library could not be configured for supporting multi-threaded
2481 applications as the compiler options required on this system are not known.
2482 See file INSTALL for details if you need multi-threading.
2483 EOF
2484
2485 print <<"EOF" if ($no_shared_warn);
2486
2487 The options 'shared', 'pic' and 'dynamic-engine' aren't supported on this
2488 platform, so we will pretend you gave the option 'no-pic', which also disables
2489 'shared' and 'dynamic-engine'.  If you know how to implement shared libraries
2490 or position independent code, please let us know (but please first make sure
2491 you have tried with a current version of OpenSSL).
2492 EOF
2493
2494 print <<"EOF";
2495
2496 **********************************************************************
2497 ***                                                                ***
2498 ***   OpenSSL has been successfully configured                     ***
2499 ***                                                                ***
2500 ***   If you encounter a problem while building, please open an    ***
2501 ***   issue on GitHub <https://github.com/openssl/openssl/issues>  ***
2502 ***   and include the output from the following command:           ***
2503 ***                                                                ***
2504 ***       perl configdata.pm --dump                                ***
2505 ***                                                                ***
2506 ***   (If you are new to OpenSSL, you might want to consult the    ***
2507 ***   'Troubleshooting' section in the INSTALL file first)         ***
2508 ***                                                                ***
2509 **********************************************************************
2510 EOF
2511
2512 exit(0);
2513
2514 ######################################################################
2515 #
2516 # Helpers and utility functions
2517 #
2518
2519 # Death handler, to print a helpful message in case of failure #######
2520 #
2521 sub death_handler {
2522     die @_ if $^S;              # To prevent the added message in eval blocks
2523     my $build_file = $target{build_file} // "build file";
2524     my @message = ( <<"_____", @_ );
2525
2526 Failure!  $build_file wasn't produced.
2527 Please read INSTALL and associated NOTES files.  You may also have to look over
2528 your available compiler tool chain or change your configuration.
2529
2530 _____
2531
2532     # Dying is terminal, so it's ok to reset the signal handler here.
2533     $SIG{__DIE__} = $orig_death_handler;
2534     die @message;
2535 }
2536
2537 # Configuration file reading #########################################
2538
2539 # Note: All of the helper functions are for lazy evaluation.  They all
2540 # return a CODE ref, which will return the intended value when evaluated.
2541 # Thus, whenever there's mention of a returned value, it's about that
2542 # intended value.
2543
2544 # Helper function to implement conditional value variants, with a default
2545 # plus additional values based on the value of $config{build_type}.
2546 # Arguments are given in hash table form:
2547 #
2548 #       picker(default => "Basic string: ",
2549 #              debug   => "debug",
2550 #              release => "release")
2551 #
2552 # When configuring with --debug, the resulting string will be
2553 # "Basic string: debug", and when not, it will be "Basic string: release"
2554 #
2555 # This can be used to create variants of sets of flags according to the
2556 # build type:
2557 #
2558 #       cflags => picker(default => "-Wall",
2559 #                        debug   => "-g -O0",
2560 #                        release => "-O3")
2561 #
2562 sub picker {
2563     my %opts = @_;
2564     return sub { add($opts{default} || (),
2565                      $opts{$config{build_type}} || ())->(); }
2566 }
2567
2568 # Helper function to combine several values of different types into one.
2569 # This is useful if you want to combine a string with the result of a
2570 # lazy function, such as:
2571 #
2572 #       cflags => combine("-Wall", sub { $disabled{zlib} ? () : "-DZLIB" })
2573 #
2574 sub combine {
2575     my @stuff = @_;
2576     return sub { add(@stuff)->(); }
2577 }
2578
2579 # Helper function to implement conditional values depending on the value
2580 # of $disabled{threads}.  Can be used as follows:
2581 #
2582 #       cflags => combine("-Wall", threads("-pthread"))
2583 #
2584 sub threads {
2585     my @flags = @_;
2586     return sub { add($disabled{threads} ? () : @flags)->(); }
2587 }
2588
2589 sub shared {
2590     my @flags = @_;
2591     return sub { add($disabled{shared} ? () : @flags)->(); }
2592 }
2593
2594 our $add_called = 0;
2595 # Helper function to implement adding values to already existing configuration
2596 # values.  It handles elements that are ARRAYs, CODEs and scalars
2597 sub _add {
2598     my $separator = shift;
2599
2600     # If there's any ARRAY in the collection of values OR the separator
2601     # is undef, we will return an ARRAY of combined values, otherwise a
2602     # string of joined values with $separator as the separator.
2603     my $found_array = !defined($separator);
2604
2605     my @values =
2606         map {
2607             my $res = $_;
2608             while (ref($res) eq "CODE") {
2609                 $res = $res->();
2610             }
2611             if (defined($res)) {
2612                 if (ref($res) eq "ARRAY") {
2613                     $found_array = 1;
2614                     @$res;
2615                 } else {
2616                     $res;
2617                 }
2618             } else {
2619                 ();
2620             }
2621     } (@_);
2622
2623     $add_called = 1;
2624
2625     if ($found_array) {
2626         [ @values ];
2627     } else {
2628         join($separator, grep { defined($_) && $_ ne "" } @values);
2629     }
2630 }
2631 sub add_before {
2632     my $separator = " ";
2633     if (ref($_[$#_]) eq "HASH") {
2634         my $opts = pop;
2635         $separator = $opts->{separator};
2636     }
2637     my @x = @_;
2638     sub { _add($separator, @x, @_) };
2639 }
2640 sub add {
2641     my $separator = " ";
2642     if (ref($_[$#_]) eq "HASH") {
2643         my $opts = pop;
2644         $separator = $opts->{separator};
2645     }
2646     my @x = @_;
2647     sub { _add($separator, @_, @x) };
2648 }
2649
2650 sub read_eval_file {
2651     my $fname = shift;
2652     my $content;
2653     my @result;
2654
2655     open F, "< $fname" or die "Can't open '$fname': $!\n";
2656     {
2657         undef local $/;
2658         $content = <F>;
2659     }
2660     close F;
2661     {
2662         local $@;
2663
2664         @result = ( eval $content );
2665         warn $@ if $@;
2666     }
2667     return wantarray ? @result : $result[0];
2668 }
2669
2670 # configuration reader, evaluates the input file as a perl script and expects
2671 # it to fill %targets with target configurations.  Those are then added to
2672 # %table.
2673 sub read_config {
2674     my $fname = shift;
2675     my %targets;
2676
2677     {
2678         # Protect certain tables from tampering
2679         local %table = ();
2680
2681         %targets = read_eval_file($fname);
2682     }
2683     my %preexisting = ();
2684     foreach (sort keys %targets) {
2685         $preexisting{$_} = 1 if $table{$_};
2686     }
2687     die <<"EOF",
2688 The following config targets from $fname
2689 shadow pre-existing config targets with the same name:
2690 EOF
2691         map { "  $_\n" } sort keys %preexisting
2692         if %preexisting;
2693
2694
2695     # For each target, check that it's configured with a hash table.
2696     foreach (keys %targets) {
2697         if (ref($targets{$_}) ne "HASH") {
2698             if (ref($targets{$_}) eq "") {
2699                 warn "Deprecated target configuration for $_, ignoring...\n";
2700             } else {
2701                 warn "Misconfigured target configuration for $_ (should be a hash table), ignoring...\n";
2702             }
2703             delete $targets{$_};
2704         } else {
2705             $targets{$_}->{_conf_fname_int} = add([ $fname ]);
2706         }
2707     }
2708
2709     %table = (%table, %targets);
2710
2711 }
2712
2713 # configuration resolver.  Will only resolve all the lazy evaluation
2714 # codeblocks for the chosen target and all those it inherits from,
2715 # recursively
2716 sub resolve_config {
2717     my $target = shift;
2718     my @breadcrumbs = @_;
2719
2720 #    my $extra_checks = defined($ENV{CONFIGURE_EXTRA_CHECKS});
2721
2722     if (grep { $_ eq $target } @breadcrumbs) {
2723         die "inherit_from loop!  target backtrace:\n  "
2724             ,$target,"\n  ",join("\n  ", @breadcrumbs),"\n";
2725     }
2726
2727     if (!defined($table{$target})) {
2728         warn "Warning! target $target doesn't exist!\n";
2729         return ();
2730     }
2731     # Recurse through all inheritances.  They will be resolved on the
2732     # fly, so when this operation is done, they will all just be a
2733     # bunch of attributes with string values.
2734     # What we get here, though, are keys with references to lists of
2735     # the combined values of them all.  We will deal with lists after
2736     # this stage is done.
2737     my %combined_inheritance = ();
2738     if ($table{$target}->{inherit_from}) {
2739         my @inherit_from =
2740             map { ref($_) eq "CODE" ? $_->() : $_ } @{$table{$target}->{inherit_from}};
2741         foreach (@inherit_from) {
2742             my %inherited_config = resolve_config($_, $target, @breadcrumbs);
2743
2744             # 'template' is a marker that's considered private to
2745             # the config that had it.
2746             delete $inherited_config{template};
2747
2748             foreach (keys %inherited_config) {
2749                 if (!$combined_inheritance{$_}) {
2750                     $combined_inheritance{$_} = [];
2751                 }
2752                 push @{$combined_inheritance{$_}}, $inherited_config{$_};
2753             }
2754         }
2755     }
2756
2757     # We won't need inherit_from in this target any more, since we've
2758     # resolved all the inheritances that lead to this
2759     delete $table{$target}->{inherit_from};
2760
2761     # Now is the time to deal with those lists.  Here's the place to
2762     # decide what shall be done with those lists, all based on the
2763     # values of the target we're currently dealing with.
2764     # - If a value is a coderef, it will be executed with the list of
2765     #   inherited values as arguments.
2766     # - If the corresponding key doesn't have a value at all or is the
2767     #   empty string, the inherited value list will be run through the
2768     #   default combiner (below), and the result becomes this target's
2769     #   value.
2770     # - Otherwise, this target's value is assumed to be a string that
2771     #   will simply override the inherited list of values.
2772     my $default_combiner = add();
2773
2774     my %all_keys =
2775         map { $_ => 1 } (keys %combined_inheritance,
2776                          keys %{$table{$target}});
2777
2778     sub process_values {
2779         my $object    = shift;
2780         my $inherited = shift;  # Always a [ list ]
2781         my $target    = shift;
2782         my $entry     = shift;
2783
2784         $add_called = 0;
2785
2786         while(ref($object) eq "CODE") {
2787             $object = $object->(@$inherited);
2788         }
2789         if (!defined($object)) {
2790             return ();
2791         }
2792         elsif (ref($object) eq "ARRAY") {
2793             local $add_called;  # To make sure recursive calls don't affect it
2794             return [ map { process_values($_, $inherited, $target, $entry) }
2795                      @$object ];
2796         } elsif (ref($object) eq "") {
2797             return $object;
2798         } else {
2799             die "cannot handle reference type ",ref($object)
2800                 ," found in target ",$target," -> ",$entry,"\n";
2801         }
2802     }
2803
2804     foreach (sort keys %all_keys) {
2805         my $previous = $combined_inheritance{$_};
2806
2807         # Current target doesn't have a value for the current key?
2808         # Assign it the default combiner, the rest of this loop body
2809         # will handle it just like any other coderef.
2810         if (!exists $table{$target}->{$_}) {
2811             $table{$target}->{$_} = $default_combiner;
2812         }
2813
2814         $table{$target}->{$_} = process_values($table{$target}->{$_},
2815                                                $combined_inheritance{$_},
2816                                                $target, $_);
2817         unless(defined($table{$target}->{$_})) {
2818             delete $table{$target}->{$_};
2819         }
2820 #        if ($extra_checks &&
2821 #            $previous && !($add_called ||  $previous ~~ $table{$target}->{$_})) {
2822 #            warn "$_ got replaced in $target\n";
2823 #        }
2824     }
2825
2826     # Finally done, return the result.
2827     return %{$table{$target}};
2828 }
2829
2830 sub usage
2831         {
2832         print STDERR $usage;
2833         print STDERR "\npick os/compiler from:\n";
2834         my $j=0;
2835         my $i;
2836         my $k=0;
2837         foreach $i (sort keys %table)
2838                 {
2839                 next if $table{$i}->{template};
2840                 next if $i =~ /^debug/;
2841                 $k += length($i) + 1;
2842                 if ($k > 78)
2843                         {
2844                         print STDERR "\n";
2845                         $k=length($i);
2846                         }
2847                 print STDERR $i . " ";
2848                 }
2849         foreach $i (sort keys %table)
2850                 {
2851                 next if $table{$i}->{template};
2852                 next if $i !~ /^debug/;
2853                 $k += length($i) + 1;
2854                 if ($k > 78)
2855                         {
2856                         print STDERR "\n";
2857                         $k=length($i);
2858                         }
2859                 print STDERR $i . " ";
2860                 }
2861         print STDERR "\n\nNOTE: If in doubt, on Unix-ish systems use './config'.\n";
2862         exit(1);
2863         }
2864
2865 sub compiler_predefined {
2866     state %predefined;
2867     my $cc = shift;
2868
2869     return () if $^O eq 'VMS';
2870
2871     die 'compiler_predefined called without a compiler command'
2872         unless $cc;
2873
2874     if (! $predefined{$cc}) {
2875
2876         $predefined{$cc} = {};
2877
2878         # collect compiler pre-defines from gcc or gcc-alike...
2879         open(PIPE, "$cc -dM -E -x c /dev/null 2>&1 |");
2880         while (my $l = <PIPE>) {
2881             $l =~ m/^#define\s+(\w+(?:\(\w+\))?)(?:\s+(.+))?/ or last;
2882             $predefined{$cc}->{$1} = $2 // '';
2883         }
2884         close(PIPE);
2885     }
2886
2887     return %{$predefined{$cc}};
2888 }
2889
2890 sub which
2891 {
2892     my ($name)=@_;
2893
2894     if (eval { require IPC::Cmd; 1; }) {
2895         IPC::Cmd->import();
2896         return scalar IPC::Cmd::can_run($name);
2897     } else {
2898         # if there is $directories component in splitpath,
2899         # then it's not something to test with $PATH...
2900         return $name if (File::Spec->splitpath($name))[1];
2901
2902         foreach (File::Spec->path()) {
2903             my $fullpath = catfile($_, "$name$target{exe_extension}");
2904             if (-f $fullpath and -x $fullpath) {
2905                 return $fullpath;
2906             }
2907         }
2908     }
2909 }
2910
2911 sub env
2912 {
2913     my $name = shift;
2914     my %opts = @_;
2915
2916     unless ($opts{cacheonly}) {
2917         # Note that if $ENV{$name} doesn't exist or is undefined,
2918         # $config{perlenv}->{$name} will be created with the value
2919         # undef.  This is intentional.
2920
2921         $config{perlenv}->{$name} = $ENV{$name}
2922             if ! exists $config{perlenv}->{$name};
2923     }
2924     return $config{perlenv}->{$name};
2925 }
2926
2927 # Configuration printer ##############################################
2928
2929 sub print_table_entry
2930 {
2931     local $now_printing = shift;
2932     my %target = resolve_config($now_printing);
2933     my $type = shift;
2934
2935     # Don't print the templates
2936     return if $target{template};
2937
2938     my @sequence = (
2939         "sys_id",
2940         "cpp",
2941         "cppflags",
2942         "defines",
2943         "includes",
2944         "cc",
2945         "cflags",
2946         "ld",
2947         "lflags",
2948         "loutflag",
2949         "ex_libs",
2950         "bn_ops",
2951         "poly1035_asm_src",
2952         "thread_scheme",
2953         "perlasm_scheme",
2954         "dso_scheme",
2955         "shared_target",
2956         "shared_cflag",
2957         "shared_defines",
2958         "shared_ldflag",
2959         "shared_rcflag",
2960         "shared_extension",
2961         "dso_extension",
2962         "obj_extension",
2963         "exe_extension",
2964         "ranlib",
2965         "ar",
2966         "arflags",
2967         "aroutflag",
2968         "rc",
2969         "rcflags",
2970         "rcoutflag",
2971         "mt",
2972         "mtflags",
2973         "mtinflag",
2974         "mtoutflag",
2975         "multilib",
2976         "build_scheme",
2977         );
2978
2979     if ($type eq "TABLE") {
2980         print "\n";
2981         print "*** $now_printing\n";
2982         foreach (@sequence) {
2983             if (ref($target{$_}) eq "ARRAY") {
2984                 printf "\$%-12s = %s\n", $_, join(" ", @{$target{$_}});
2985             } else {
2986                 printf "\$%-12s = %s\n", $_, $target{$_};
2987             }
2988         }
2989     } elsif ($type eq "HASH") {
2990         my $largest =
2991             length((sort { length($a) <=> length($b) } @sequence)[-1]);
2992         print "    '$now_printing' => {\n";
2993         foreach (@sequence) {
2994             if ($target{$_}) {
2995                 if (ref($target{$_}) eq "ARRAY") {
2996                     print "      '",$_,"'"," " x ($largest - length($_))," => [ ",join(", ", map { "'$_'" } @{$target{$_}})," ],\n";
2997                 } else {
2998                     print "      '",$_,"'"," " x ($largest - length($_))," => '",$target{$_},"',\n";
2999                 }
3000             }
3001         }
3002         print "    },\n";
3003     }
3004 }
3005
3006 # Utility routines ###################################################
3007
3008 # On VMS, if the given file is a logical name, File::Spec::Functions
3009 # will consider it an absolute path.  There are cases when we want a
3010 # purely syntactic check without checking the environment.
3011 sub isabsolute {
3012     my $file = shift;
3013
3014     # On non-platforms, we just use file_name_is_absolute().
3015     return file_name_is_absolute($file) unless $^O eq "VMS";
3016
3017     # If the file spec includes a device or a directory spec,
3018     # file_name_is_absolute() is perfectly safe.
3019     return file_name_is_absolute($file) if $file =~ m|[:\[]|;
3020
3021     # Here, we know the given file spec isn't absolute
3022     return 0;
3023 }
3024
3025 # Makes a directory absolute and cleans out /../ in paths like foo/../bar
3026 # On some platforms, this uses rel2abs(), while on others, realpath() is used.
3027 # realpath() requires that at least all path components except the last is an
3028 # existing directory.  On VMS, the last component of the directory spec must
3029 # exist.
3030 sub absolutedir {
3031     my $dir = shift;
3032
3033     # realpath() is quite buggy on VMS.  It uses LIB$FID_TO_NAME, which
3034     # will return the volume name for the device, no matter what.  Also,
3035     # it will return an incorrect directory spec if the argument is a
3036     # directory that doesn't exist.
3037     if ($^O eq "VMS") {
3038         return rel2abs($dir);
3039     }
3040
3041     # We use realpath() on Unix, since no other will properly clean out
3042     # a directory spec.
3043     use Cwd qw/realpath/;
3044
3045     return realpath($dir);
3046 }
3047
3048 sub quotify {
3049     my %processors = (
3050         perl    => sub { my $x = shift;
3051                          $x =~ s/([\\\$\@"])/\\$1/g;
3052                          return '"'.$x.'"'; },
3053         maybeshell => sub { my $x = shift;
3054                             (my $y = $x) =~ s/([\\\"])/\\$1/g;
3055                             if ($x ne $y || $x =~ m|\s|) {
3056                                 return '"'.$y.'"';
3057                             } else {
3058                                 return $x;
3059                             }
3060                         },
3061         );
3062     my $for = shift;
3063     my $processor =
3064         defined($processors{$for}) ? $processors{$for} : sub { shift; };
3065
3066     return map { $processor->($_); } @_;
3067 }
3068
3069 # collect_from_file($filename, $line_concat_cond_re, $line_concat)
3070 # $filename is a file name to read from
3071 # $line_concat_cond_re is a regexp detecting a line continuation ending
3072 # $line_concat is a CODEref that takes care of concatenating two lines
3073 sub collect_from_file {
3074     my $filename = shift;
3075     my $line_concat_cond_re = shift;
3076     my $line_concat = shift;
3077
3078     open my $fh, $filename || die "unable to read $filename: $!\n";
3079     return sub {
3080         my $saved_line = "";
3081         $_ = "";
3082         while (<$fh>) {
3083             s|\R$||;
3084             if (defined $line_concat) {
3085                 $_ = $line_concat->($saved_line, $_);
3086                 $saved_line = "";
3087             }
3088             if (defined $line_concat_cond_re && /$line_concat_cond_re/) {
3089                 $saved_line = $_;
3090                 next;
3091             }
3092             return $_;
3093         }
3094         die "$filename ending with continuation line\n" if $_;
3095         close $fh;
3096         return undef;
3097     }
3098 }
3099
3100 # collect_from_array($array, $line_concat_cond_re, $line_concat)
3101 # $array is an ARRAYref of lines
3102 # $line_concat_cond_re is a regexp detecting a line continuation ending
3103 # $line_concat is a CODEref that takes care of concatenating two lines
3104 sub collect_from_array {
3105     my $array = shift;
3106     my $line_concat_cond_re = shift;
3107     my $line_concat = shift;
3108     my @array = (@$array);
3109
3110     return sub {
3111         my $saved_line = "";
3112         $_ = "";
3113         while (defined($_ = shift @array)) {
3114             s|\R$||;
3115             if (defined $line_concat) {
3116                 $_ = $line_concat->($saved_line, $_);
3117                 $saved_line = "";
3118             }
3119             if (defined $line_concat_cond_re && /$line_concat_cond_re/) {
3120                 $saved_line = $_;
3121                 next;
3122             }
3123             return $_;
3124         }
3125         die "input text ending with continuation line\n" if $_;
3126         return undef;
3127     }
3128 }
3129
3130 # collect_information($lineiterator, $line_continue, $regexp => $CODEref, ...)
3131 # $lineiterator is a CODEref that delivers one line at a time.
3132 # All following arguments are regex/CODEref pairs, where the regexp detects a
3133 # line and the CODEref does something with the result of the regexp.
3134 sub collect_information {
3135     my $lineiterator = shift;
3136     my %collectors = @_;
3137
3138     while(defined($_ = $lineiterator->())) {
3139         s|\R$||;
3140         my $found = 0;
3141         if ($collectors{"BEFORE"}) {
3142             $collectors{"BEFORE"}->($_);
3143         }
3144         foreach my $re (keys %collectors) {
3145             if ($re !~ /^OTHERWISE|BEFORE|AFTER$/ && /$re/) {
3146                 $collectors{$re}->($lineiterator);
3147                 $found = 1;
3148             };
3149         }
3150         if ($collectors{"OTHERWISE"}) {
3151             $collectors{"OTHERWISE"}->($lineiterator, $_)
3152                 unless $found || !defined $collectors{"OTHERWISE"};
3153         }
3154         if ($collectors{"AFTER"}) {
3155             $collectors{"AFTER"}->($_);
3156         }
3157     }
3158 }
3159
3160 # tokenize($line)
3161 # tokenize($line,$separator)
3162 # $line is a line of text to split up into tokens
3163 # $separator [optional] is a regular expression that separates the tokens,
3164 # the default being spaces.  Do not use quotes of any kind as separators,
3165 # that will give undefined results.
3166 # Returns a list of tokens.
3167 #
3168 # Tokens are divided by separator (spaces by default).  If the tokens include
3169 # the separators, they have to be quoted with single or double quotes.
3170 # Double quotes inside a double quoted token must be escaped.  Escaping is done
3171 # with backslash.
3172 # Basically, the same quoting rules apply for " and ' as in any
3173 # Unix shell.
3174 sub tokenize {
3175     my $line = my $debug_line = shift;
3176     my $separator = shift // qr|\s+|;
3177     my @result = ();
3178
3179     if ($ENV{CONFIGURE_DEBUG_TOKENIZE}) {
3180         print STDERR "DEBUG[tokenize]: \$separator = $separator\n";
3181     }
3182
3183     while ($line =~ s|^${separator}||, $line ne "") {
3184         my $token = "";
3185     again:
3186         $line =~ m/^(.*?)(${separator}|"|'|$)/;
3187         $token .= $1;
3188         $line = $2.$';
3189
3190         if ($line =~ m/^"((?:[^"\\]+|\\.)*)"/) {
3191             $token .= $1;
3192             $line = $';
3193             goto again;
3194         } elsif ($line =~ m/^'([^']*)'/) {
3195             $token .= $1;
3196             $line = $';
3197             goto again;
3198         }
3199         push @result, $token;
3200     }
3201
3202     if ($ENV{CONFIGURE_DEBUG_TOKENIZE}) {
3203         print STDERR "DEBUG[tokenize]: Parsed '$debug_line' into:\n";
3204         print STDERR "DEBUG[tokenize]: ('", join("', '", @result), "')\n";
3205     }
3206     return @result;
3207 }