Add X509_CHECK_FLAG_NEVER_CHECK_SUBJECT flag
[openssl.git] / crypto / cryptlib.c
1 /* ====================================================================
2  * Copyright (c) 1998-2006 The OpenSSL Project.  All rights reserved.
3  *
4  * Redistribution and use in source and binary forms, with or without
5  * modification, are permitted provided that the following conditions
6  * are met:
7  *
8  * 1. Redistributions of source code must retain the above copyright
9  *    notice, this list of conditions and the following disclaimer.
10  *
11  * 2. Redistributions in binary form must reproduce the above copyright
12  *    notice, this list of conditions and the following disclaimer in
13  *    the documentation and/or other materials provided with the
14  *    distribution.
15  *
16  * 3. All advertising materials mentioning features or use of this
17  *    software must display the following acknowledgment:
18  *    "This product includes software developed by the OpenSSL Project
19  *    for use in the OpenSSL Toolkit. (http://www.openssl.org/)"
20  *
21  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
22  *    endorse or promote products derived from this software without
23  *    prior written permission. For written permission, please contact
24  *    openssl-core@openssl.org.
25  *
26  * 5. Products derived from this software may not be called "OpenSSL"
27  *    nor may "OpenSSL" appear in their names without prior written
28  *    permission of the OpenSSL Project.
29  *
30  * 6. Redistributions of any form whatsoever must retain the following
31  *    acknowledgment:
32  *    "This product includes software developed by the OpenSSL Project
33  *    for use in the OpenSSL Toolkit (http://www.openssl.org/)"
34  *
35  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
36  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
37  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
38  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
39  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
40  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
41  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
42  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
43  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
44  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
45  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
46  * OF THE POSSIBILITY OF SUCH DAMAGE.
47  * ====================================================================
48  *
49  * This product includes cryptographic software written by Eric Young
50  * (eay@cryptsoft.com).  This product includes software written by Tim
51  * Hudson (tjh@cryptsoft.com).
52  *
53  */
54 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
55  * All rights reserved.
56  *
57  * This package is an SSL implementation written
58  * by Eric Young (eay@cryptsoft.com).
59  * The implementation was written so as to conform with Netscapes SSL.
60  *
61  * This library is free for commercial and non-commercial use as long as
62  * the following conditions are aheared to.  The following conditions
63  * apply to all code found in this distribution, be it the RC4, RSA,
64  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
65  * included with this distribution is covered by the same copyright terms
66  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
67  *
68  * Copyright remains Eric Young's, and as such any Copyright notices in
69  * the code are not to be removed.
70  * If this package is used in a product, Eric Young should be given attribution
71  * as the author of the parts of the library used.
72  * This can be in the form of a textual message at program startup or
73  * in documentation (online or textual) provided with the package.
74  *
75  * Redistribution and use in source and binary forms, with or without
76  * modification, are permitted provided that the following conditions
77  * are met:
78  * 1. Redistributions of source code must retain the copyright
79  *    notice, this list of conditions and the following disclaimer.
80  * 2. Redistributions in binary form must reproduce the above copyright
81  *    notice, this list of conditions and the following disclaimer in the
82  *    documentation and/or other materials provided with the distribution.
83  * 3. All advertising materials mentioning features or use of this software
84  *    must display the following acknowledgement:
85  *    "This product includes cryptographic software written by
86  *     Eric Young (eay@cryptsoft.com)"
87  *    The word 'cryptographic' can be left out if the rouines from the library
88  *    being used are not cryptographic related :-).
89  * 4. If you include any Windows specific code (or a derivative thereof) from
90  *    the apps directory (application code) you must include an acknowledgement:
91  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
92  *
93  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
94  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
95  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
96  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
97  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
98  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
99  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
100  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
101  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
102  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
103  * SUCH DAMAGE.
104  *
105  * The licence and distribution terms for any publically available version or
106  * derivative of this code cannot be changed.  i.e. this code cannot simply be
107  * copied and put under another distribution licence
108  * [including the GNU Public Licence.]
109  */
110 /* ====================================================================
111  * Copyright 2002 Sun Microsystems, Inc. ALL RIGHTS RESERVED.
112  * ECDH support in OpenSSL originally developed by
113  * SUN MICROSYSTEMS, INC., and contributed to the OpenSSL project.
114  */
115
116 #include "internal/cryptlib_int.h"
117 #include <openssl/safestack.h>
118
119 #if     defined(__i386)   || defined(__i386__)   || defined(_M_IX86) || \
120         defined(__INTEL__) || \
121         defined(__x86_64) || defined(__x86_64__) || \
122         defined(_M_AMD64) || defined(_M_X64)
123
124 extern unsigned int OPENSSL_ia32cap_P[4];
125 unsigned int *OPENSSL_ia32cap_loc(void)
126 {
127     return OPENSSL_ia32cap_P;
128 }
129
130 # if defined(OPENSSL_CPUID_OBJ) && !defined(OPENSSL_NO_ASM) && !defined(I386_ONLY)
131 #include <stdio.h>
132 #  define OPENSSL_CPUID_SETUP
133 typedef uint64_t IA32CAP;
134 void OPENSSL_cpuid_setup(void)
135 {
136     static int trigger = 0;
137     IA32CAP OPENSSL_ia32_cpuid(unsigned int *);
138     IA32CAP vec;
139     char *env;
140
141     if (trigger)
142         return;
143
144     trigger = 1;
145     if ((env = getenv("OPENSSL_ia32cap"))) {
146         int off = (env[0] == '~') ? 1 : 0;
147 #  if defined(_WIN32)
148         if (!sscanf(env + off, "%I64i", &vec))
149             vec = strtoul(env + off, NULL, 0);
150 #  else
151         if (!sscanf(env + off, "%lli", (long long *)&vec))
152             vec = strtoul(env + off, NULL, 0);
153 #  endif
154         if (off)
155             vec = OPENSSL_ia32_cpuid(OPENSSL_ia32cap_P) & ~vec;
156         else if (env[0] == ':')
157             vec = OPENSSL_ia32_cpuid(OPENSSL_ia32cap_P);
158
159         OPENSSL_ia32cap_P[2] = 0;
160         if ((env = strchr(env, ':'))) {
161             unsigned int vecx;
162             env++;
163             off = (env[0] == '~') ? 1 : 0;
164             vecx = strtoul(env + off, NULL, 0);
165             if (off)
166                 OPENSSL_ia32cap_P[2] &= ~vecx;
167             else
168                 OPENSSL_ia32cap_P[2] = vecx;
169         }
170     } else
171         vec = OPENSSL_ia32_cpuid(OPENSSL_ia32cap_P);
172
173     /*
174      * |(1<<10) sets a reserved bit to signal that variable
175      * was initialized already... This is to avoid interference
176      * with cpuid snippets in ELF .init segment.
177      */
178     OPENSSL_ia32cap_P[0] = (unsigned int)vec | (1 << 10);
179     OPENSSL_ia32cap_P[1] = (unsigned int)(vec >> 32);
180 }
181 # else
182 unsigned int OPENSSL_ia32cap_P[4];
183 # endif
184
185 #else
186 unsigned int *OPENSSL_ia32cap_loc(void)
187 {
188     return NULL;
189 }
190 #endif
191 int OPENSSL_NONPIC_relocated = 0;
192 #if !defined(OPENSSL_CPUID_SETUP) && !defined(OPENSSL_CPUID_OBJ)
193 void OPENSSL_cpuid_setup(void)
194 {
195 }
196 #endif
197
198 #if (defined(_WIN32) || defined(__CYGWIN__)) && defined(_WINDLL)
199 # ifdef __CYGWIN__
200 /* pick DLL_[PROCESS|THREAD]_[ATTACH|DETACH] definitions */
201 #  include <windows.h>
202 /*
203  * this has side-effect of _WIN32 getting defined, which otherwise is
204  * mutually exclusive with __CYGWIN__...
205  */
206 # endif
207
208 /*
209  * All we really need to do is remove the 'error' state when a thread
210  * detaches
211  */
212
213 BOOL WINAPI DllMain(HINSTANCE hinstDLL, DWORD fdwReason, LPVOID lpvReserved);
214 BOOL WINAPI DllMain(HINSTANCE hinstDLL, DWORD fdwReason, LPVOID lpvReserved)
215 {
216     switch (fdwReason) {
217     case DLL_PROCESS_ATTACH:
218         OPENSSL_cpuid_setup();
219 # if defined(_WIN32_WINNT)
220         {
221             IMAGE_DOS_HEADER *dos_header = (IMAGE_DOS_HEADER *) hinstDLL;
222             IMAGE_NT_HEADERS *nt_headers;
223
224             if (dos_header->e_magic == IMAGE_DOS_SIGNATURE) {
225                 nt_headers = (IMAGE_NT_HEADERS *) ((char *)dos_header
226                                                    + dos_header->e_lfanew);
227                 if (nt_headers->Signature == IMAGE_NT_SIGNATURE &&
228                     hinstDLL !=
229                     (HINSTANCE) (nt_headers->OptionalHeader.ImageBase))
230                     OPENSSL_NONPIC_relocated = 1;
231             }
232         }
233 # endif
234         break;
235     case DLL_THREAD_ATTACH:
236         break;
237     case DLL_THREAD_DETACH:
238         OPENSSL_thread_stop();
239         break;
240     case DLL_PROCESS_DETACH:
241         break;
242     }
243     return (TRUE);
244 }
245 #endif
246
247 #if defined(_WIN32) && !defined(__CYGWIN__)
248 # include <tchar.h>
249 # include <signal.h>
250 # ifdef __WATCOMC__
251 #  if defined(_UNICODE) || defined(__UNICODE__)
252 #   define _vsntprintf _vsnwprintf
253 #  else
254 #   define _vsntprintf _vsnprintf
255 #  endif
256 # endif
257 # ifdef _MSC_VER
258 #  define alloca _alloca
259 # endif
260
261 # if defined(_WIN32_WINNT) && _WIN32_WINNT>=0x0333
262 int OPENSSL_isservice(void)
263 {
264     HWINSTA h;
265     DWORD len;
266     WCHAR *name;
267     static union {
268         void *p;
269         FARPROC f;
270     } _OPENSSL_isservice = {
271         NULL
272     };
273
274     if (_OPENSSL_isservice.p == NULL) {
275         HANDLE mod = GetModuleHandle(NULL);
276         if (mod != NULL)
277             _OPENSSL_isservice.f = GetProcAddress(mod, "_OPENSSL_isservice");
278         if (_OPENSSL_isservice.p == NULL)
279             _OPENSSL_isservice.p = (void *)-1;
280     }
281
282     if (_OPENSSL_isservice.p != (void *)-1)
283         return (*_OPENSSL_isservice.f) ();
284
285     h = GetProcessWindowStation();
286     if (h == NULL)
287         return -1;
288
289     if (GetUserObjectInformationW(h, UOI_NAME, NULL, 0, &len) ||
290         GetLastError() != ERROR_INSUFFICIENT_BUFFER)
291         return -1;
292
293     if (len > 512)
294         return -1;              /* paranoia */
295     len++, len &= ~1;           /* paranoia */
296     name = (WCHAR *)alloca(len + sizeof(WCHAR));
297     if (!GetUserObjectInformationW(h, UOI_NAME, name, len, &len))
298         return -1;
299
300     len++, len &= ~1;           /* paranoia */
301     name[len / sizeof(WCHAR)] = L'\0'; /* paranoia */
302 #  if 1
303     /*
304      * This doesn't cover "interactive" services [working with real
305      * WinSta0's] nor programs started non-interactively by Task Scheduler
306      * [those are working with SAWinSta].
307      */
308     if (wcsstr(name, L"Service-0x"))
309         return 1;
310 #  else
311     /* This covers all non-interactive programs such as services. */
312     if (!wcsstr(name, L"WinSta0"))
313         return 1;
314 #  endif
315     else
316         return 0;
317 }
318 # else
319 int OPENSSL_isservice(void)
320 {
321     return 0;
322 }
323 # endif
324
325 void OPENSSL_showfatal(const char *fmta, ...)
326 {
327     va_list ap;
328     TCHAR buf[256];
329     const TCHAR *fmt;
330 # ifdef STD_ERROR_HANDLE        /* what a dirty trick! */
331     HANDLE h;
332
333     if ((h = GetStdHandle(STD_ERROR_HANDLE)) != NULL &&
334         GetFileType(h) != FILE_TYPE_UNKNOWN) {
335         /* must be console application */
336         int len;
337         DWORD out;
338
339         va_start(ap, fmta);
340         len = _vsnprintf((char *)buf, sizeof(buf), fmta, ap);
341         WriteFile(h, buf, len < 0 ? sizeof(buf) : (DWORD) len, &out, NULL);
342         va_end(ap);
343         return;
344     }
345 # endif
346
347     if (sizeof(TCHAR) == sizeof(char))
348         fmt = (const TCHAR *)fmta;
349     else
350         do {
351             int keepgoing;
352             size_t len_0 = strlen(fmta) + 1, i;
353             WCHAR *fmtw;
354
355             fmtw = (WCHAR *)alloca(len_0 * sizeof(WCHAR));
356             if (fmtw == NULL) {
357                 fmt = (const TCHAR *)L"no stack?";
358                 break;
359             }
360             if (!MultiByteToWideChar(CP_ACP, 0, fmta, len_0, fmtw, len_0))
361                 for (i = 0; i < len_0; i++)
362                     fmtw[i] = (WCHAR)fmta[i];
363             for (i = 0; i < len_0; i++) {
364                 if (fmtw[i] == L'%')
365                     do {
366                         keepgoing = 0;
367                         switch (fmtw[i + 1]) {
368                         case L'0':
369                         case L'1':
370                         case L'2':
371                         case L'3':
372                         case L'4':
373                         case L'5':
374                         case L'6':
375                         case L'7':
376                         case L'8':
377                         case L'9':
378                         case L'.':
379                         case L'*':
380                         case L'-':
381                             i++;
382                             keepgoing = 1;
383                             break;
384                         case L's':
385                             fmtw[i + 1] = L'S';
386                             break;
387                         case L'S':
388                             fmtw[i + 1] = L's';
389                             break;
390                         case L'c':
391                             fmtw[i + 1] = L'C';
392                             break;
393                         case L'C':
394                             fmtw[i + 1] = L'c';
395                             break;
396                         }
397                     } while (keepgoing);
398             }
399             fmt = (const TCHAR *)fmtw;
400         } while (0);
401
402     va_start(ap, fmta);
403     _vsntprintf(buf, OSSL_NELEM(buf) - 1, fmt, ap);
404     buf[OSSL_NELEM(buf) - 1] = _T('\0');
405     va_end(ap);
406
407 # if defined(_WIN32_WINNT) && _WIN32_WINNT>=0x0333
408     /* this -------------v--- guards NT-specific calls */
409     if (check_winnt() && OPENSSL_isservice() > 0) {
410         HANDLE hEventLog = RegisterEventSource(NULL, _T("OpenSSL"));
411
412         if (hEventLog != NULL) {
413             const TCHAR *pmsg = buf;
414
415             if (!ReportEvent(hEventLog, EVENTLOG_ERROR_TYPE, 0, 0, NULL,
416                              1, 0, &pmsg, NULL)) {
417 #if defined(DEBUG)
418                 /*
419                  * We are in a situation where we tried to report a critical
420                  * error and this failed for some reason. As a last resort,
421                  * in debug builds, send output to the debugger or any other
422                  * tool like DebugView which can monitor the output.
423                  */
424                 OutputDebugString(pmsg);
425 #endif
426             }
427
428             (void)DeregisterEventSource(hEventLog);
429         }
430     } else
431 # endif
432         MessageBox(NULL, buf, _T("OpenSSL: FATAL"), MB_OK | MB_ICONERROR);
433 }
434 #else
435 void OPENSSL_showfatal(const char *fmta, ...)
436 {
437 #ifndef OPENSSL_NO_STDIO
438     va_list ap;
439
440     va_start(ap, fmta);
441     vfprintf(stderr, fmta, ap);
442     va_end(ap);
443 #endif
444 }
445
446 int OPENSSL_isservice(void)
447 {
448     return 0;
449 }
450 #endif
451
452 void OPENSSL_die(const char *message, const char *file, int line)
453 {
454     OPENSSL_showfatal("%s:%d: OpenSSL internal error: %s\n",
455                       file, line, message);
456 #if !defined(_WIN32) || defined(__CYGWIN__)
457     abort();
458 #else
459     /*
460      * Win32 abort() customarily shows a dialog, but we just did that...
461      */
462 # if !defined(_WIN32_WCE)
463     raise(SIGABRT);
464 # endif
465     _exit(3);
466 #endif
467 }
468
469 /* volatile unsigned char* pointers are there because
470  * 1. Accessing a variable declared volatile via a pointer
471  *    that lacks a volatile qualifier causes undefined behavior.
472  * 2. When the variable itself is not volatile the compiler is
473  *    not required to keep all those reads and can convert
474  *    this into canonical memcmp() which doesn't read the whole block.
475  * Pointers to volatile resolve the first problem fully. The second
476  * problem cannot be resolved in any Standard-compliant way but this
477  * works the problem around. Compilers typically react to
478  * pointers to volatile by preserving the reads and writes through them.
479  * The latter is not required by the Standard if the memory pointed to
480  * is not volatile.
481  * Pointers themselves are volatile in the function signature to work
482  * around a subtle bug in gcc 4.6+ which causes writes through
483  * pointers to volatile to not be emitted in some rare,
484  * never needed in real life, pieces of code.
485  */
486 int CRYPTO_memcmp(const volatile void * volatile in_a,
487                   const volatile void * volatile in_b,
488                   size_t len)
489 {
490     size_t i;
491     const volatile unsigned char *a = in_a;
492     const volatile unsigned char *b = in_b;
493     unsigned char x = 0;
494
495     for (i = 0; i < len; i++)
496         x |= a[i] ^ b[i];
497
498     return x;
499 }