crypto/modes/modes_lcl.h

   1 /* ====================================================================
   2  * Copyright (c) 2010 The OpenSSL Project.  All rights reserved.
   3  *
   4  * Redistribution and use is governed by OpenSSL license.
   5  * ====================================================================
   6  */
   7
   8 #include <openssl/modes.h>
   9
  10
  11 #if (defined(_WIN32) || defined(_WIN64)) && !defined(__MINGW32__)
  12 typedef __int64 i64;
  13 typedef unsigned __int64 u64;
  14 #define U64(C) C##UI64
  15 #elif defined(__arch64__)
  16 typedef long i64;
  17 typedef unsigned long u64;
  18 #define U64(C) C##UL
  19 #else
  20 typedef long long i64;
  21 typedef unsigned long long u64;
  22 #define U64(C) C##ULL
  23 #endif
  24
  25 typedef unsigned int u32;
  26 typedef unsigned char u8;
  27
  28 #define STRICT_ALIGNMENT 1
  29 #ifndef PEDANTIC
  30 #if defined(__i386)     || defined(__i386__)    || \
  31     defined(__x86_64)   || defined(__x86_64__)  || \
  32     defined(_M_IX86)    || defined(_M_AMD64)    || defined(_M_X64) || \
  33     defined(__aarch64__)                        || \
  34     defined(__s390__)   || defined(__s390x__)
  35 # undef STRICT_ALIGNMENT
  36 #endif
  37 #endif
  38
  39 #if !defined(PEDANTIC) && !defined(OPENSSL_NO_ASM) && !defined(OPENSSL_NO_INLINE_ASM)
  40 #if defined(__GNUC__) && __GNUC__>=2
  41 # if defined(__x86_64) || defined(__x86_64__)
  42 #  define BSWAP8(x) ({  u64 ret=(x);                    \
  43                         asm ("bswapq %0"                \
  44                         : "+r"(ret));   ret;            })
  45 #  define BSWAP4(x) ({  u32 ret=(x);                    \
  46                         asm ("bswapl %0"                \
  47                         : "+r"(ret));   ret;            })
  48 # elif (defined(__i386) || defined(__i386__)) && !defined(I386_ONLY)
  49 #  define BSWAP8(x) ({  u32 lo=(u64)(x)>>32,hi=(x);     \
  50                         asm ("bswapl %0; bswapl %1"     \
  51                         : "+r"(hi),"+r"(lo));           \
  52                         (u64)hi<<32|lo;                 })
  53 #  define BSWAP4(x) ({  u32 ret=(x);                    \
  54                         asm ("bswapl %0"                \
  55                         : "+r"(ret));   ret;            })
  56 # elif defined(__aarch64__)
  57 #  define BSWAP8(x) ({  u64 ret;                        \
  58                         asm ("rev %0,%1"                \
  59                         : "=r"(ret) : "r"(x)); ret;     })
  60 #  define BSWAP4(x) ({  u32 ret;                        \
  61                         asm ("rev %w0,%w1"              \
  62                         : "=r"(ret) : "r"(x)); ret;     })
  63 # elif (defined(__arm__) || defined(__arm)) && !defined(STRICT_ALIGNMENT)
  64 #  define BSWAP8(x) ({  u32 lo=(u64)(x)>>32,hi=(x);     \
  65                         asm ("rev %0,%0; rev %1,%1"     \
  66                         : "+r"(hi),"+r"(lo));           \
  67                         (u64)hi<<32|lo;                 })
  68 #  define BSWAP4(x) ({  u32 ret;                        \
  69                         asm ("rev %0,%1"                \
  70                         : "=r"(ret) : "r"((u32)(x)));   \
  71                         ret;                            })
  72 # endif
  73 #elif defined(_MSC_VER)
  74 # if _MSC_VER>=1300
  75 #  pragma intrinsic(_byteswap_uint64,_byteswap_ulong)
  76 #  define BSWAP8(x)     _byteswap_uint64((u64)(x))
  77 #  define BSWAP4(x)     _byteswap_ulong((u32)(x))
  78 # elif defined(_M_IX86)
  79    __inline u32 _bswap4(u32 val) {
  80         _asm mov eax,val
  81         _asm bswap eax
  82    }
  83 #  define BSWAP4(x)     _bswap4(x)
  84 # endif
  85 #endif
  86 #endif
  87
  88 #if defined(BSWAP4) && !defined(STRICT_ALIGNMENT)
  89 #define GETU32(p)       BSWAP4(*(const u32 *)(p))
  90 #define PUTU32(p,v)     *(u32 *)(p) = BSWAP4(v)
  91 #else
  92 #define GETU32(p)       ((u32)(p)[0]<<24|(u32)(p)[1]<<16|(u32)(p)[2]<<8|(u32)(p)[3])
  93 #define PUTU32(p,v)     ((p)[0]=(u8)((v)>>24),(p)[1]=(u8)((v)>>16),(p)[2]=(u8)((v)>>8),(p)[3]=(u8)(v))
  94 #endif
  95
  96 /* GCM definitions */
  97
  98 typedef struct { u64 hi,lo; } u128;
  99
 100 #ifdef  TABLE_BITS
 101 #undef  TABLE_BITS
 102 #endif
 103 /*
 104  * Even though permitted values for TABLE_BITS are 8, 4 and 1, it should
 105  * never be set to 8 [or 1]. For further information see gcm128.c.
 106  */
 107 #define TABLE_BITS 4
 108
 109 struct gcm128_context {
 110         /* Following 6 names follow names in GCM specification */
 111         union { u64 u[2]; u32 d[4]; u8 c[16]; size_t t[16/sizeof(size_t)]; }
 112           Yi,EKi,EK0,len,Xi,H;
 113         /* Relative position of Xi, H and pre-computed Htable is used
 114          * in some assembler modules, i.e. don't change the order! */
 115 #if TABLE_BITS==8
 116         u128 Htable[256];
 117 #else
 118         u128 Htable[16];
 119         void (*gmult)(u64 Xi[2],const u128 Htable[16]);
 120         void (*ghash)(u64 Xi[2],const u128 Htable[16],const u8 *inp,size_t len);
 121 #endif
 122         unsigned int mres, ares;
 123         block128_f block;
 124         void *key;
 125 };
 126
 127 struct xts128_context {
 128         void      *key1, *key2;
 129         block128_f block1,block2;
 130 };
 131
 132 struct ccm128_context {
 133         union { u64 u[2]; u8 c[16]; } nonce, cmac;
 134         u64 blocks;
 135         block128_f block;
 136         void *key;
 137 };
 138
 139 #ifdef STRICT_ALIGNMENT
 140 typedef struct {
 141     unsigned char a[16];
 142 } OCB_BLOCK;
 143 # define ocb_block16_xor(in1,in2,out) \
 144     ocb_block_xor((in1)->a,(in2)->a,16,(out)->a)
 145 #else
 146 typedef struct {
 147     u64 a;
 148     u64 b;
 149 } OCB_BLOCK;
 150 # define ocb_block16_xor(in1,in2,out) \
 151     (out)->a=(in1)->a^(in2)->a; (out)->b=(in1)->b^(in2)->b;
 152 #endif
 153
 154 struct ocb128_context {
 155         /* Need both encrypt and decrypt key schedules for decryption */
 156         block128_f encrypt;
 157         block128_f decrypt;
 158         void *keyenc;
 159         void *keydec;
 160
 161         /* Key dependent variables. Can be reused if key remains the same */
 162         size_t l_index;
 163         size_t max_l_index;
 164         OCB_BLOCK l_star;
 165         OCB_BLOCK l_dollar;
 166         OCB_BLOCK *l;
 167
 168         /* Must be reset for each session */
 169         u64 blocks_hashed;
 170         u64 blocks_processed;
 171         OCB_BLOCK tag;
 172         OCB_BLOCK offset_aad;
 173         OCB_BLOCK sum;
 174         OCB_BLOCK offset;
 175         OCB_BLOCK checksum;
 176
 177 };