crypto/ec/curve448/p448/arch_x86_64/f_impl.h

   1 /* Copyright (c) 2014-2016 Cryptography Research, Inc.
   2  * Released under the MIT License.  See LICENSE.txt for license information.
   3  */
   4
   5 #define GF_HEADROOM 60
   6 #define FIELD_LITERAL(a,b,c,d,e,f,g,h) {{a,b,c,d,e,f,g,h}}
   7 #define LIMB_PLACE_VALUE(i) 56
   8
   9 void gf_add_RAW (gf out, const gf a, const gf b) {
  10     for (unsigned int i=0; i<sizeof(*out)/sizeof(uint64xn_t); i++) {
  11         ((uint64xn_t*)out)[i] = ((const uint64xn_t*)a)[i] + ((const uint64xn_t*)b)[i];
  12     }
  13     /*
  14     unsigned int i;
  15     for (i=0; i<sizeof(*out)/sizeof(out->limb[0]); i++) {
  16         out->limb[i] = a->limb[i] + b->limb[i];
  17     }
  18     */
  19 }
  20
  21 void gf_sub_RAW (gf out, const gf a, const gf b) {
  22     for (unsigned int i=0; i<sizeof(*out)/sizeof(uint64xn_t); i++) {
  23         ((uint64xn_t*)out)[i] = ((const uint64xn_t*)a)[i] - ((const uint64xn_t*)b)[i];
  24     }
  25     /*
  26     unsigned int i;
  27     for (i=0; i<sizeof(*out)/sizeof(out->limb[0]); i++) {
  28         out->limb[i] = a->limb[i] - b->limb[i];
  29     }
  30     */
  31 }
  32
  33 void gf_bias (gf a, int amt) {
  34     uint64_t co1 = ((1ull<<56)-1)*amt, co2 = co1-amt;
  35
  36 #if __AVX2__
  37     uint64x4_t lo = {co1,co1,co1,co1}, hi = {co2,co1,co1,co1};
  38     uint64x4_t *aa = (uint64x4_t*) a;
  39     aa[0] += lo;
  40     aa[1] += hi;
  41 #elif __SSE2__
  42     uint64x2_t lo = {co1,co1}, hi = {co2,co1};
  43     uint64x2_t *aa = (uint64x2_t*) a;
  44     aa[0] += lo;
  45     aa[1] += lo;
  46     aa[2] += hi;
  47     aa[3] += lo;
  48 #else
  49     for (unsigned int i=0; i<sizeof(*a)/sizeof(uint64_t); i++) {
  50         a->limb[i] += (i==4) ? co2 : co1;
  51     }
  52 #endif
  53 }
  54
  55 void gf_weak_reduce (gf a) {
  56     /* PERF: use pshufb/palignr if anyone cares about speed of this */
  57     uint64_t mask = (1ull<<56) - 1;
  58     uint64_t tmp = a->limb[7] >> 56;
  59     a->limb[4] += tmp;
  60     for (unsigned int i=7; i>0; i--) {
  61         a->limb[i] = (a->limb[i] & mask) + (a->limb[i-1]>>56);
  62     }
  63     a->limb[0] = (a->limb[0] & mask) + tmp;
  64 }
  65