1 /*
2  * Copyright 2017 The OpenSSL Project Authors. All Rights Reserved.
3  * Copyright 2014 Cryptography Research, Inc.
4  *
6  * this file except in compliance with the License.  You can obtain a copy
7  * in the file LICENSE in the source distribution or at
9  *
10  * Originally written by Mike Hamburg
11  */
13 #include "f_field.h"
15 #if (defined(__OPTIMIZE__) && !defined(__OPTIMIZE_SIZE__) && !I_HATE_UNROLLED_LOOPS) \
16      || defined(DECAF_FORCE_UNROLL)
17 #define REPEAT8(_x) _x _x _x _x _x _x _x _x
18 #define FOR_LIMB(_i,_start,_end,_x) do { _i=_start; REPEAT8( if (_i<_end) { _x; } _i++;) } while (0)
19 #else
20 #define FOR_LIMB(_i,_start,_end,_x) do { for (_i=_start; _i<_end; _i++) _x; } while (0)
21 #endif
23 void gf_mul (gf_s *__restrict__ cs, const gf as, const gf bs) {
24     const uint32_t *a = as->limb, *b = bs->limb;
25     uint32_t *c = cs->limb;
27     uint64_t accum0 = 0, accum1 = 0, accum2 = 0;
28     uint32_t mask = (1<<28) - 1;
30     uint32_t aa, bb;
32     int i,j;
33     for (i=0; i<8; i++) {
34         aa[i] = a[i] + a[i+8];
35         bb[i] = b[i] + b[i+8];
36     }
38     FOR_LIMB(j,0,8,{
39         accum2 = 0;
41         FOR_LIMB (i,0,j+1,{
42             accum2 += widemul(a[j-i],b[i]);
43             accum1 += widemul(aa[j-i],bb[i]);
44             accum0 += widemul(a[8+j-i], b[8+i]);
45         });
47         accum1 -= accum2;
48         accum0 += accum2;
49         accum2 = 0;
51         FOR_LIMB (i,j+1,8,{
52             accum0 -= widemul(a[8+j-i], b[i]);
53             accum2 += widemul(aa[8+j-i], bb[i]);
54             accum1 += widemul(a[16+j-i], b[8+i]);
55         });
57         accum1 += accum2;
58         accum0 += accum2;
60         c[j] = ((uint32_t)(accum0)) & mask;
61         c[j+8] = ((uint32_t)(accum1)) & mask;
63         accum0 >>= 28;
64         accum1 >>= 28;
65     });
67     accum0 += accum1;
68     accum0 += c;
69     accum1 += c;
70     c = ((uint32_t)(accum0)) & mask;
71     c = ((uint32_t)(accum1)) & mask;
73     accum0 >>= 28;
74     accum1 >>= 28;
75     c += ((uint32_t)(accum0));
76     c += ((uint32_t)(accum1));
77 }
79 void gf_mulw_unsigned (gf_s *__restrict__ cs, const gf as, uint32_t b) {
80     const uint32_t *a = as->limb;
81     uint32_t *c = cs->limb;
82     uint64_t accum0 = 0, accum8 = 0;
84     int i;
86     assert(b<1<<28);
88     FOR_LIMB(i,0,8,{
89         accum0 += widemul(b, a[i]);
90         accum8 += widemul(b, a[i+8]);
92         c[i] = accum0 & mask; accum0 >>= 28;
93         c[i+8] = accum8 & mask; accum8 >>= 28;
94     });
96     accum0 += accum8 + c;
97     c = accum0 & mask;
98     c += accum0 >> 28;
100     accum8 += c;
101     c = accum8 & mask;
102     c += accum8 >> 28;
103 }
105 void gf_sqr (gf_s *__restrict__ cs, const gf as) {
106     gf_mul(cs,as,as); /* Performs better with a dedicated square */
107 }