35d4d9fa53a024839731e8e10891008ad765e5ad
[openssl.git] / crypto / modes / modes_lcl.h
1 /* ====================================================================
2  * Copyright (c) 2010 The OpenSSL Project.  All rights reserved.
3  *
4  * Redistribution and use is governed by OpenSSL license.
5  * ====================================================================
6  */
7
8 #include <openssl/modes.h>
9
10
11 #if (defined(_WIN32) || defined(_WIN64)) && !defined(__MINGW32__)
12 typedef __int64 i64;
13 typedef unsigned __int64 u64;
14 #define U64(C) C##UI64
15 #elif defined(__arch64__)
16 typedef long i64;
17 typedef unsigned long u64;
18 #define U64(C) C##UL
19 #else
20 typedef long long i64;
21 typedef unsigned long long u64;
22 #define U64(C) C##ULL
23 #endif
24
25 typedef unsigned int u32;
26 typedef unsigned char u8;
27
28 #define STRICT_ALIGNMENT 1
29 #if defined(__i386)     || defined(__i386__)    || \
30     defined(__x86_64)   || defined(__x86_64__)  || \
31     defined(_M_IX86)    || defined(_M_AMD64)    || defined(_M_X64) || \
32     defined(__aarch64__)                        || \
33     defined(__s390__)   || defined(__s390x__)
34 # undef STRICT_ALIGNMENT
35 #endif
36
37 #if !defined(PEDANTIC) && !defined(OPENSSL_NO_ASM) && !defined(OPENSSL_NO_INLINE_ASM)
38 #if defined(__GNUC__) && __GNUC__>=2
39 # if defined(__x86_64) || defined(__x86_64__)
40 #  define BSWAP8(x) ({  u64 ret=(x);                    \
41                         asm ("bswapq %0"                \
42                         : "+r"(ret));   ret;            })
43 #  define BSWAP4(x) ({  u32 ret=(x);                    \
44                         asm ("bswapl %0"                \
45                         : "+r"(ret));   ret;            })
46 # elif (defined(__i386) || defined(__i386__)) && !defined(I386_ONLY)
47 #  define BSWAP8(x) ({  u32 lo=(u64)(x)>>32,hi=(x);     \
48                         asm ("bswapl %0; bswapl %1"     \
49                         : "+r"(hi),"+r"(lo));           \
50                         (u64)hi<<32|lo;                 })
51 #  define BSWAP4(x) ({  u32 ret=(x);                    \
52                         asm ("bswapl %0"                \
53                         : "+r"(ret));   ret;            })
54 # elif defined(__aarch64__)
55 #  define BSWAP8(x) ({  u64 ret;                        \
56                         asm ("rev %0,%1"                \
57                         : "=r"(ret) : "r"(x)); ret;     })
58 #  define BSWAP4(x) ({  u32 ret;                        \
59                         asm ("rev %w0,%w1"              \
60                         : "=r"(ret) : "r"(x)); ret;     })
61 # elif (defined(__arm__) || defined(__arm)) && !defined(STRICT_ALIGNMENT)
62 #  define BSWAP8(x) ({  u32 lo=(u64)(x)>>32,hi=(x);     \
63                         asm ("rev %0,%0; rev %1,%1"     \
64                         : "+r"(hi),"+r"(lo));           \
65                         (u64)hi<<32|lo;                 })
66 #  define BSWAP4(x) ({  u32 ret;                        \
67                         asm ("rev %0,%1"                \
68                         : "=r"(ret) : "r"((u32)(x)));   \
69                         ret;                            })
70 # endif
71 #elif defined(_MSC_VER)
72 # if _MSC_VER>=1300
73 #  pragma intrinsic(_byteswap_uint64,_byteswap_ulong)
74 #  define BSWAP8(x)     _byteswap_uint64((u64)(x))
75 #  define BSWAP4(x)     _byteswap_ulong((u32)(x))
76 # elif defined(_M_IX86)
77    __inline u32 _bswap4(u32 val) {
78         _asm mov eax,val
79         _asm bswap eax
80    }
81 #  define BSWAP4(x)     _bswap4(x)
82 # endif
83 #endif
84 #endif
85
86 #if defined(BSWAP4) && !defined(STRICT_ALIGNMENT)
87 #define GETU32(p)       BSWAP4(*(const u32 *)(p))
88 #define PUTU32(p,v)     *(u32 *)(p) = BSWAP4(v)
89 #else
90 #define GETU32(p)       ((u32)(p)[0]<<24|(u32)(p)[1]<<16|(u32)(p)[2]<<8|(u32)(p)[3])
91 #define PUTU32(p,v)     ((p)[0]=(u8)((v)>>24),(p)[1]=(u8)((v)>>16),(p)[2]=(u8)((v)>>8),(p)[3]=(u8)(v))
92 #endif
93
94 /* GCM definitions */
95
96 typedef struct { u64 hi,lo; } u128;
97
98 #ifdef  TABLE_BITS
99 #undef  TABLE_BITS
100 #endif
101 /*
102  * Even though permitted values for TABLE_BITS are 8, 4 and 1, it should
103  * never be set to 8 [or 1]. For further information see gcm128.c.
104  */
105 #define TABLE_BITS 4
106
107 struct gcm128_context {
108         /* Following 6 names follow names in GCM specification */
109         union { u64 u[2]; u32 d[4]; u8 c[16]; size_t t[16/sizeof(size_t)]; }
110           Yi,EKi,EK0,len,Xi,H;
111         /* Relative position of Xi, H and pre-computed Htable is used
112          * in some assembler modules, i.e. don't change the order! */
113 #if TABLE_BITS==8
114         u128 Htable[256];
115 #else
116         u128 Htable[16];
117         void (*gmult)(u64 Xi[2],const u128 Htable[16]);
118         void (*ghash)(u64 Xi[2],const u128 Htable[16],const u8 *inp,size_t len);
119 #endif
120         unsigned int mres, ares;
121         block128_f block;
122         void *key;
123 };
124
125 struct xts128_context {
126         void      *key1, *key2;
127         block128_f block1,block2;
128 };
129
130 struct ccm128_context {
131         union { u64 u[2]; u8 c[16]; } nonce, cmac;
132         u64 blocks;
133         block128_f block;
134         void *key;
135 };
136