aes/asm/aesni-sha256-x86_64.pl: fix Windows compilation failure with old assembler.
[openssl.git] / crypto / cryptlib.c
1 /* crypto/cryptlib.c */
2 /* ====================================================================
3  * Copyright (c) 1998-2006 The OpenSSL Project.  All rights reserved.
4  *
5  * Redistribution and use in source and binary forms, with or without
6  * modification, are permitted provided that the following conditions
7  * are met:
8  *
9  * 1. Redistributions of source code must retain the above copyright
10  *    notice, this list of conditions and the following disclaimer.
11  *
12  * 2. Redistributions in binary form must reproduce the above copyright
13  *    notice, this list of conditions and the following disclaimer in
14  *    the documentation and/or other materials provided with the
15  *    distribution.
16  *
17  * 3. All advertising materials mentioning features or use of this
18  *    software must display the following acknowledgment:
19  *    "This product includes software developed by the OpenSSL Project
20  *    for use in the OpenSSL Toolkit. (http://www.openssl.org/)"
21  *
22  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
23  *    endorse or promote products derived from this software without
24  *    prior written permission. For written permission, please contact
25  *    openssl-core@openssl.org.
26  *
27  * 5. Products derived from this software may not be called "OpenSSL"
28  *    nor may "OpenSSL" appear in their names without prior written
29  *    permission of the OpenSSL Project.
30  *
31  * 6. Redistributions of any form whatsoever must retain the following
32  *    acknowledgment:
33  *    "This product includes software developed by the OpenSSL Project
34  *    for use in the OpenSSL Toolkit (http://www.openssl.org/)"
35  *
36  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
37  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
38  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
39  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
40  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
41  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
42  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
43  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
44  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
45  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
46  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
47  * OF THE POSSIBILITY OF SUCH DAMAGE.
48  * ====================================================================
49  *
50  * This product includes cryptographic software written by Eric Young
51  * (eay@cryptsoft.com).  This product includes software written by Tim
52  * Hudson (tjh@cryptsoft.com).
53  *
54  */
55 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
56  * All rights reserved.
57  *
58  * This package is an SSL implementation written
59  * by Eric Young (eay@cryptsoft.com).
60  * The implementation was written so as to conform with Netscapes SSL.
61  *
62  * This library is free for commercial and non-commercial use as long as
63  * the following conditions are aheared to.  The following conditions
64  * apply to all code found in this distribution, be it the RC4, RSA,
65  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
66  * included with this distribution is covered by the same copyright terms
67  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
68  *
69  * Copyright remains Eric Young's, and as such any Copyright notices in
70  * the code are not to be removed.
71  * If this package is used in a product, Eric Young should be given attribution
72  * as the author of the parts of the library used.
73  * This can be in the form of a textual message at program startup or
74  * in documentation (online or textual) provided with the package.
75  *
76  * Redistribution and use in source and binary forms, with or without
77  * modification, are permitted provided that the following conditions
78  * are met:
79  * 1. Redistributions of source code must retain the copyright
80  *    notice, this list of conditions and the following disclaimer.
81  * 2. Redistributions in binary form must reproduce the above copyright
82  *    notice, this list of conditions and the following disclaimer in the
83  *    documentation and/or other materials provided with the distribution.
84  * 3. All advertising materials mentioning features or use of this software
85  *    must display the following acknowledgement:
86  *    "This product includes cryptographic software written by
87  *     Eric Young (eay@cryptsoft.com)"
88  *    The word 'cryptographic' can be left out if the rouines from the library
89  *    being used are not cryptographic related :-).
90  * 4. If you include any Windows specific code (or a derivative thereof) from
91  *    the apps directory (application code) you must include an acknowledgement:
92  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
93  *
94  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
95  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
96  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
97  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
98  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
99  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
100  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
101  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
102  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
103  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
104  * SUCH DAMAGE.
105  *
106  * The licence and distribution terms for any publically available version or
107  * derivative of this code cannot be changed.  i.e. this code cannot simply be
108  * copied and put under another distribution licence
109  * [including the GNU Public Licence.]
110  */
111 /* ====================================================================
112  * Copyright 2002 Sun Microsystems, Inc. ALL RIGHTS RESERVED.
113  * ECDH support in OpenSSL originally developed by
114  * SUN MICROSYSTEMS, INC., and contributed to the OpenSSL project.
115  */
116
117 #include "cryptlib.h"
118 #include <openssl/safestack.h>
119
120 #if defined(OPENSSL_SYS_WIN32)
121 static double SSLeay_MSVC5_hack = 0.0; /* and for VC1.5 */
122 #endif
123
124 #if     defined(__i386)   || defined(__i386__)   || defined(_M_IX86) || \
125         defined(__INTEL__) || \
126         defined(__x86_64) || defined(__x86_64__) || \
127         defined(_M_AMD64) || defined(_M_X64)
128
129 extern unsigned int OPENSSL_ia32cap_P[4];
130 unsigned int *OPENSSL_ia32cap_loc(void)
131 {
132     return OPENSSL_ia32cap_P;
133 }
134
135 # if defined(OPENSSL_CPUID_OBJ) && !defined(OPENSSL_NO_ASM) && !defined(I386_ONLY)
136 #  define OPENSSL_CPUID_SETUP
137 #  if defined(_WIN32)
138 typedef unsigned __int64 IA32CAP;
139 #  else
140 typedef unsigned long long IA32CAP;
141 #  endif
142 void OPENSSL_cpuid_setup(void)
143 {
144     static int trigger = 0;
145     IA32CAP OPENSSL_ia32_cpuid(unsigned int *);
146     IA32CAP vec;
147     char *env;
148
149     if (trigger)
150         return;
151
152     trigger = 1;
153     if ((env = getenv("OPENSSL_ia32cap"))) {
154         int off = (env[0] == '~') ? 1 : 0;
155 #  if defined(_WIN32)
156         if (!sscanf(env + off, "%I64i", &vec))
157             vec = strtoul(env + off, NULL, 0);
158 #  else
159         if (!sscanf(env + off, "%lli", (long long *)&vec))
160             vec = strtoul(env + off, NULL, 0);
161 #  endif
162         if (off)
163             vec = OPENSSL_ia32_cpuid(OPENSSL_ia32cap_P) & ~vec;
164         else if (env[0] == ':')
165             vec = OPENSSL_ia32_cpuid(OPENSSL_ia32cap_P);
166
167         OPENSSL_ia32cap_P[2] = 0;
168         if ((env = strchr(env, ':'))) {
169             unsigned int vecx;
170             env++;
171             off = (env[0] == '~') ? 1 : 0;
172             vecx = strtoul(env + off, NULL, 0);
173             if (off)
174                 OPENSSL_ia32cap_P[2] &= ~vecx;
175             else
176                 OPENSSL_ia32cap_P[2] = vecx;
177         }
178     } else
179         vec = OPENSSL_ia32_cpuid(OPENSSL_ia32cap_P);
180
181     /*
182      * |(1<<10) sets a reserved bit to signal that variable
183      * was initialized already... This is to avoid interference
184      * with cpuid snippets in ELF .init segment.
185      */
186     OPENSSL_ia32cap_P[0] = (unsigned int)vec | (1 << 10);
187     OPENSSL_ia32cap_P[1] = (unsigned int)(vec >> 32);
188 }
189 # else
190 unsigned int OPENSSL_ia32cap_P[4];
191 # endif
192
193 #else
194 unsigned int *OPENSSL_ia32cap_loc(void)
195 {
196     return NULL;
197 }
198 #endif
199 int OPENSSL_NONPIC_relocated = 0;
200 #if !defined(OPENSSL_CPUID_SETUP) && !defined(OPENSSL_CPUID_OBJ)
201 void OPENSSL_cpuid_setup(void)
202 {
203 }
204 #endif
205
206 #if (defined(_WIN32) || defined(__CYGWIN__)) && defined(_WINDLL)
207 # ifdef __CYGWIN__
208 /* pick DLL_[PROCESS|THREAD]_[ATTACH|DETACH] definitions */
209 #  include <windows.h>
210 /*
211  * this has side-effect of _WIN32 getting defined, which otherwise is
212  * mutually exclusive with __CYGWIN__...
213  */
214 # endif
215
216 /*
217  * All we really need to do is remove the 'error' state when a thread
218  * detaches
219  */
220
221 BOOL WINAPI DllMain(HINSTANCE hinstDLL, DWORD fdwReason, LPVOID lpvReserved)
222 {
223     switch (fdwReason) {
224     case DLL_PROCESS_ATTACH:
225         OPENSSL_cpuid_setup();
226 # if defined(_WIN32_WINNT)
227         {
228             IMAGE_DOS_HEADER *dos_header = (IMAGE_DOS_HEADER *) hinstDLL;
229             IMAGE_NT_HEADERS *nt_headers;
230
231             if (dos_header->e_magic == IMAGE_DOS_SIGNATURE) {
232                 nt_headers = (IMAGE_NT_HEADERS *) ((char *)dos_header
233                                                    + dos_header->e_lfanew);
234                 if (nt_headers->Signature == IMAGE_NT_SIGNATURE &&
235                     hinstDLL !=
236                     (HINSTANCE) (nt_headers->OptionalHeader.ImageBase))
237                     OPENSSL_NONPIC_relocated = 1;
238             }
239         }
240 # endif
241         break;
242     case DLL_THREAD_ATTACH:
243         break;
244     case DLL_THREAD_DETACH:
245         break;
246     case DLL_PROCESS_DETACH:
247         break;
248     }
249     return (TRUE);
250 }
251 #endif
252
253 #if defined(_WIN32) && !defined(__CYGWIN__)
254 # include <tchar.h>
255 # include <signal.h>
256 # ifdef __WATCOMC__
257 #  if defined(_UNICODE) || defined(__UNICODE__)
258 #   define _vsntprintf _vsnwprintf
259 #  else
260 #   define _vsntprintf _vsnprintf
261 #  endif
262 # endif
263 # ifdef _MSC_VER
264 #  define alloca _alloca
265 # endif
266
267 # if defined(_WIN32_WINNT) && _WIN32_WINNT>=0x0333
268 int OPENSSL_isservice(void)
269 {
270     HWINSTA h;
271     DWORD len;
272     WCHAR *name;
273     static union {
274         void *p;
275         int (*f) (void);
276     } _OPENSSL_isservice = {
277         NULL
278     };
279
280     if (_OPENSSL_isservice.p == NULL) {
281         HANDLE h = GetModuleHandle(NULL);
282         if (h != NULL)
283             _OPENSSL_isservice.p = GetProcAddress(h, "_OPENSSL_isservice");
284         if (_OPENSSL_isservice.p == NULL)
285             _OPENSSL_isservice.p = (void *)-1;
286     }
287
288     if (_OPENSSL_isservice.p != (void *)-1)
289         return (*_OPENSSL_isservice.f) ();
290
291     h = GetProcessWindowStation();
292     if (h == NULL)
293         return -1;
294
295     if (GetUserObjectInformationW(h, UOI_NAME, NULL, 0, &len) ||
296         GetLastError() != ERROR_INSUFFICIENT_BUFFER)
297         return -1;
298
299     if (len > 512)
300         return -1;              /* paranoia */
301     len++, len &= ~1;           /* paranoia */
302     name = (WCHAR *)alloca(len + sizeof(WCHAR));
303     if (!GetUserObjectInformationW(h, UOI_NAME, name, len, &len))
304         return -1;
305
306     len++, len &= ~1;           /* paranoia */
307     name[len / sizeof(WCHAR)] = L'\0'; /* paranoia */
308 #  if 1
309     /*
310      * This doesn't cover "interactive" services [working with real
311      * WinSta0's] nor programs started non-interactively by Task Scheduler
312      * [those are working with SAWinSta].
313      */
314     if (wcsstr(name, L"Service-0x"))
315         return 1;
316 #  else
317     /* This covers all non-interactive programs such as services. */
318     if (!wcsstr(name, L"WinSta0"))
319         return 1;
320 #  endif
321     else
322         return 0;
323 }
324 # else
325 int OPENSSL_isservice(void)
326 {
327     return 0;
328 }
329 # endif
330
331 void OPENSSL_showfatal(const char *fmta, ...)
332 {
333     va_list ap;
334     TCHAR buf[256];
335     const TCHAR *fmt;
336 # ifdef STD_ERROR_HANDLE        /* what a dirty trick! */
337     HANDLE h;
338
339     if ((h = GetStdHandle(STD_ERROR_HANDLE)) != NULL &&
340         GetFileType(h) != FILE_TYPE_UNKNOWN) {
341         /* must be console application */
342         int len;
343         DWORD out;
344
345         va_start(ap, fmta);
346         len = _vsnprintf((char *)buf, sizeof(buf), fmta, ap);
347         WriteFile(h, buf, len < 0 ? sizeof(buf) : (DWORD) len, &out, NULL);
348         va_end(ap);
349         return;
350     }
351 # endif
352
353     if (sizeof(TCHAR) == sizeof(char))
354         fmt = (const TCHAR *)fmta;
355     else
356         do {
357             int keepgoing;
358             size_t len_0 = strlen(fmta) + 1, i;
359             WCHAR *fmtw;
360
361             fmtw = (WCHAR *)alloca(len_0 * sizeof(WCHAR));
362             if (fmtw == NULL) {
363                 fmt = (const TCHAR *)L"no stack?";
364                 break;
365             }
366             if (!MultiByteToWideChar(CP_ACP, 0, fmta, len_0, fmtw, len_0))
367                 for (i = 0; i < len_0; i++)
368                     fmtw[i] = (WCHAR)fmta[i];
369             for (i = 0; i < len_0; i++) {
370                 if (fmtw[i] == L'%')
371                     do {
372                         keepgoing = 0;
373                         switch (fmtw[i + 1]) {
374                         case L'0':
375                         case L'1':
376                         case L'2':
377                         case L'3':
378                         case L'4':
379                         case L'5':
380                         case L'6':
381                         case L'7':
382                         case L'8':
383                         case L'9':
384                         case L'.':
385                         case L'*':
386                         case L'-':
387                             i++;
388                             keepgoing = 1;
389                             break;
390                         case L's':
391                             fmtw[i + 1] = L'S';
392                             break;
393                         case L'S':
394                             fmtw[i + 1] = L's';
395                             break;
396                         case L'c':
397                             fmtw[i + 1] = L'C';
398                             break;
399                         case L'C':
400                             fmtw[i + 1] = L'c';
401                             break;
402                         }
403                     } while (keepgoing);
404             }
405             fmt = (const TCHAR *)fmtw;
406         } while (0);
407
408     va_start(ap, fmta);
409     _vsntprintf(buf, OSSL_NELEM(buf) - 1, fmt, ap);
410     buf[OSSL_NELEM(buf) - 1] = _T('\0');
411     va_end(ap);
412
413 # if defined(_WIN32_WINNT) && _WIN32_WINNT>=0x0333
414     /* this -------------v--- guards NT-specific calls */
415     if (check_winnt() && OPENSSL_isservice() > 0) {
416         HANDLE h = RegisterEventSource(0, _T("OPENSSL"));
417         const TCHAR *pmsg = buf;
418         ReportEvent(h, EVENTLOG_ERROR_TYPE, 0, 0, 0, 1, 0, &pmsg, 0);
419         DeregisterEventSource(h);
420     } else
421 # endif
422         MessageBox(NULL, buf, _T("OpenSSL: FATAL"), MB_OK | MB_ICONSTOP);
423 }
424 #else
425 void OPENSSL_showfatal(const char *fmta, ...)
426 {
427     va_list ap;
428
429     va_start(ap, fmta);
430     vfprintf(stderr, fmta, ap);
431     va_end(ap);
432 }
433
434 int OPENSSL_isservice(void)
435 {
436     return 0;
437 }
438 #endif
439
440 void OpenSSLDie(const char *file, int line, const char *assertion)
441 {
442     OPENSSL_showfatal
443         ("%s(%d): OpenSSL internal error, assertion failed: %s\n", file, line,
444          assertion);
445 #if !defined(_WIN32) || defined(__CYGWIN__)
446     abort();
447 #else
448     /*
449      * Win32 abort() customarily shows a dialog, but we just did that...
450      */
451 # if !defined(_WIN32_WCE)
452     raise(SIGABRT);
453 # endif
454     _exit(3);
455 #endif
456 }
457
458 void *OPENSSL_stderr(void)
459 {
460     return stderr;
461 }
462
463 int CRYPTO_memcmp(const void *in_a, const void *in_b, size_t len)
464 {
465     size_t i;
466     const unsigned char *a = in_a;
467     const unsigned char *b = in_b;
468     unsigned char x = 0;
469
470     for (i = 0; i < len; i++)
471         x |= a[i] ^ b[i];
472
473     return x;
474 }