crypto/ec/curve448/curve448.c

   1 /*
   2  * Copyright 2017 The OpenSSL Project Authors. All Rights Reserved.
   3  * Copyright 2015-2016 Cryptography Research, Inc.
   4  *
   5  * Licensed under the OpenSSL license (the "License").  You may not use
   6  * this file except in compliance with the License.  You can obtain a copy
   7  * in the file LICENSE in the source distribution or at
   8  * https://www.openssl.org/source/license.html
   9  *
  10  * Originally written by Mike Hamburg
  11  */
  12 #include <openssl/crypto.h>
  13 #include "word.h"
  14 #include "field.h"
  15
  16 #include "point_448.h"
  17 #include "ed448.h"
  18 #include "curve448_lcl.h"
  19
  20 #define COFACTOR 4
  21
  22 /* Comb config: number of combs, n, t, s. */
  23 #define COMBS_N 5
  24 #define COMBS_T 5
  25 #define COMBS_S 18
  26 #define DECAF_WINDOW_BITS 5
  27 #define DECAF_WNAF_FIXED_TABLE_BITS 5
  28 #define DECAF_WNAF_VAR_TABLE_BITS 3
  29
  30 static const int EDWARDS_D = -39081;
  31 static const curve448_scalar_t precomputed_scalarmul_adjustment = {
  32     {
  33         {
  34             SC_LIMB(0xc873d6d54a7bb0cf), SC_LIMB(0xe933d8d723a70aad),
  35             SC_LIMB(0xbb124b65129c96fd), SC_LIMB(0x00000008335dc163)
  36         }
  37     }
  38 };
  39
  40 const uint8_t decaf_x448_base_point[DECAF_X448_PUBLIC_BYTES] = { 0x05 };
  41
  42 #define TWISTED_D ((EDWARDS_D)-1)
  43
  44 #define EFF_D (-(TWISTED_D))
  45 #define NEG_D 1
  46
  47 /* End of template stuff */
  48
  49 #define WBITS DECAF_WORD_BITS   /* NB this may be different from ARCH_WORD_BITS */
  50
  51 /* Projective Niels coordinates */
  52 typedef struct {
  53     gf a, b, c;
  54 } niels_s, niels_t[1];
  55 typedef struct {
  56     niels_t n;
  57     gf z;
  58 } VECTOR_ALIGNED pniels_s, pniels_t[1];
  59
  60 /* Precomputed base */
  61 struct curve448_precomputed_s {
  62     niels_t table[COMBS_N << (COMBS_T - 1)];
  63 };
  64
  65 extern const gf curve448_precomputed_base_as_fe[];
  66 const curve448_precomputed_s *curve448_precomputed_base =
  67     (const curve448_precomputed_s *)&curve448_precomputed_base_as_fe;
  68
  69 /* Inverse. */
  70 static void gf_invert(gf y, const gf x, int assert_nonzero)
  71 {
  72     mask_t ret;
  73
  74     gf t1, t2;
  75     gf_sqr(t1, x);              /* o^2 */
  76     ret = gf_isr(t2, t1);       /* +-1/sqrt(o^2) = +-1/o */
  77     (void)ret;
  78     if (assert_nonzero)
  79         assert(ret);
  80     gf_sqr(t1, t2);
  81     gf_mul(t2, t1, x);          /* not direct to y in case of alias. */
  82     gf_copy(y, t2);
  83 }
  84
  85 /** identity = (0,1) */
  86 const curve448_point_t curve448_point_identity =
  87     { {{{{0}}}, {{{1}}}, {{{1}}}, {{{0}}}} };
  88
  89 static void point_double_internal(curve448_point_t p, const curve448_point_t q,
  90                                   int before_double)
  91 {
  92     gf a, b, c, d;
  93
  94     gf_sqr(c, q->x);
  95     gf_sqr(a, q->y);
  96     gf_add_nr(d, c, a);         /* 2+e */
  97     gf_add_nr(p->t, q->y, q->x); /* 2+e */
  98     gf_sqr(b, p->t);
  99     gf_subx_nr(b, b, d, 3);     /* 4+e */
 100     gf_sub_nr(p->t, a, c);      /* 3+e */
 101     gf_sqr(p->x, q->z);
 102     gf_add_nr(p->z, p->x, p->x); /* 2+e */
 103     gf_subx_nr(a, p->z, p->t, 4); /* 6+e */
 104     if (GF_HEADROOM == 5)
 105         gf_weak_reduce(a);      /* or 1+e */
 106     gf_mul(p->x, a, b);
 107     gf_mul(p->z, p->t, a);
 108     gf_mul(p->y, p->t, d);
 109     if (!before_double)
 110         gf_mul(p->t, b, d);
 111 }
 112
 113 void curve448_point_double(curve448_point_t p, const curve448_point_t q)
 114 {
 115     point_double_internal(p, q, 0);
 116 }
 117
 118 /* Operations on [p]niels */
 119 static ossl_inline void cond_neg_niels(niels_t n, mask_t neg)
 120 {
 121     gf_cond_swap(n->a, n->b, neg);
 122     gf_cond_neg(n->c, neg);
 123 }
 124
 125 static void pt_to_pniels(pniels_t b, const curve448_point_t a)
 126 {
 127     gf_sub(b->n->a, a->y, a->x);
 128     gf_add(b->n->b, a->x, a->y);
 129     gf_mulw(b->n->c, a->t, 2 * TWISTED_D);
 130     gf_add(b->z, a->z, a->z);
 131 }
 132
 133 static void pniels_to_pt(curve448_point_t e, const pniels_t d)
 134 {
 135     gf eu;
 136
 137     gf_add(eu, d->n->b, d->n->a);
 138     gf_sub(e->y, d->n->b, d->n->a);
 139     gf_mul(e->t, e->y, eu);
 140     gf_mul(e->x, d->z, e->y);
 141     gf_mul(e->y, d->z, eu);
 142     gf_sqr(e->z, d->z);
 143 }
 144
 145 static void niels_to_pt(curve448_point_t e, const niels_t n)
 146 {
 147     gf_add(e->y, n->b, n->a);
 148     gf_sub(e->x, n->b, n->a);
 149     gf_mul(e->t, e->y, e->x);
 150     gf_copy(e->z, ONE);
 151 }
 152
 153 static void add_niels_to_pt(curve448_point_t d, const niels_t e,
 154                             int before_double)
 155 {
 156     gf a, b, c;
 157
 158     gf_sub_nr(b, d->y, d->x);   /* 3+e */
 159     gf_mul(a, e->a, b);
 160     gf_add_nr(b, d->x, d->y);   /* 2+e */
 161     gf_mul(d->y, e->b, b);
 162     gf_mul(d->x, e->c, d->t);
 163     gf_add_nr(c, a, d->y);      /* 2+e */
 164     gf_sub_nr(b, d->y, a);      /* 3+e */
 165     gf_sub_nr(d->y, d->z, d->x); /* 3+e */
 166     gf_add_nr(a, d->x, d->z);   /* 2+e */
 167     gf_mul(d->z, a, d->y);
 168     gf_mul(d->x, d->y, b);
 169     gf_mul(d->y, a, c);
 170     if (!before_double)
 171         gf_mul(d->t, b, c);
 172 }
 173
 174 static void sub_niels_from_pt(curve448_point_t d, const niels_t e,
 175                               int before_double)
 176 {
 177     gf a, b, c;
 178     gf_sub_nr(b, d->y, d->x);   /* 3+e */
 179     gf_mul(a, e->b, b);
 180     gf_add_nr(b, d->x, d->y);   /* 2+e */
 181     gf_mul(d->y, e->a, b);
 182     gf_mul(d->x, e->c, d->t);
 183     gf_add_nr(c, a, d->y);      /* 2+e */
 184     gf_sub_nr(b, d->y, a);      /* 3+e */
 185     gf_add_nr(d->y, d->z, d->x); /* 2+e */
 186     gf_sub_nr(a, d->z, d->x);   /* 3+e */
 187     gf_mul(d->z, a, d->y);
 188     gf_mul(d->x, d->y, b);
 189     gf_mul(d->y, a, c);
 190     if (!before_double)
 191         gf_mul(d->t, b, c);
 192 }
 193
 194 static void add_pniels_to_pt(curve448_point_t p, const pniels_t pn,
 195                              int before_double)
 196 {
 197     gf L0;
 198
 199     gf_mul(L0, p->z, pn->z);
 200     gf_copy(p->z, L0);
 201     add_niels_to_pt(p, pn->n, before_double);
 202 }
 203
 204 static void sub_pniels_from_pt(curve448_point_t p, const pniels_t pn,
 205                                int before_double)
 206 {
 207     gf L0;
 208
 209     gf_mul(L0, p->z, pn->z);
 210     gf_copy(p->z, L0);
 211     sub_niels_from_pt(p, pn->n, before_double);
 212 }
 213
 214 decaf_bool_t curve448_point_eq(const curve448_point_t p,
 215                                const curve448_point_t q)
 216 {
 217     mask_t succ;
 218
 219     /* equality mod 2-torsion compares x/y */
 220     gf a, b;
 221     gf_mul(a, p->y, q->x);
 222     gf_mul(b, q->y, p->x);
 223     succ = gf_eq(a, b);
 224
 225     return mask_to_bool(succ);
 226 }
 227
 228 decaf_bool_t curve448_point_valid(const curve448_point_t p)
 229 {
 230     mask_t out;
 231
 232     gf a, b, c;
 233     gf_mul(a, p->x, p->y);
 234     gf_mul(b, p->z, p->t);
 235     out = gf_eq(a, b);
 236     gf_sqr(a, p->x);
 237     gf_sqr(b, p->y);
 238     gf_sub(a, b, a);
 239     gf_sqr(b, p->t);
 240     gf_mulw(c, b, TWISTED_D);
 241     gf_sqr(b, p->z);
 242     gf_add(b, b, c);
 243     out &= gf_eq(a, b);
 244     out &= ~gf_eq(p->z, ZERO);
 245     return mask_to_bool(out);
 246 }
 247
 248 static ossl_inline void constant_time_lookup_niels(niels_s * __restrict__ ni,
 249                                                    const niels_t * table,
 250                                                    int nelts, int idx)
 251 {
 252     constant_time_lookup(ni, table, sizeof(niels_s), nelts, idx);
 253 }
 254
 255 void curve448_precomputed_scalarmul(curve448_point_t out,
 256                                     const curve448_precomputed_s * table,
 257                                     const curve448_scalar_t scalar)
 258 {
 259     int i;
 260     unsigned j, k;
 261     const unsigned int n = COMBS_N, t = COMBS_T, s = COMBS_S;
 262     niels_t ni;
 263
 264     curve448_scalar_t scalar1x;
 265     curve448_scalar_add(scalar1x, scalar, precomputed_scalarmul_adjustment);
 266     curve448_scalar_halve(scalar1x, scalar1x);
 267
 268     for (i = s - 1; i >= 0; i--) {
 269         if (i != (int)s - 1)
 270             point_double_internal(out, out, 0);
 271
 272         for (j = 0; j < n; j++) {
 273             int tab = 0;
 274             mask_t invert;
 275
 276             for (k = 0; k < t; k++) {
 277                 unsigned int bit = i + s * (k + j * t);
 278                 if (bit < DECAF_448_SCALAR_BITS) {
 279                     tab |=
 280                         (scalar1x->limb[bit / WBITS] >> (bit % WBITS) & 1) << k;
 281                 }
 282             }
 283
 284             invert = (tab >> (t - 1)) - 1;
 285             tab ^= invert;
 286             tab &= (1 << (t - 1)) - 1;
 287
 288             constant_time_lookup_niels(ni, &table->table[j << (t - 1)],
 289                                        1 << (t - 1), tab);
 290
 291             cond_neg_niels(ni, invert);
 292             if ((i != (int)s - 1) || j) {
 293                 add_niels_to_pt(out, ni, j == n - 1 && i);
 294             } else {
 295                 niels_to_pt(out, ni);
 296             }
 297         }
 298     }
 299
 300     OPENSSL_cleanse(ni, sizeof(ni));
 301     OPENSSL_cleanse(scalar1x, sizeof(scalar1x));
 302 }
 303
 304 void curve448_point_mul_by_ratio_and_encode_like_eddsa(
 305                                     uint8_t enc[DECAF_EDDSA_448_PUBLIC_BYTES],
 306                                     const curve448_point_t p)
 307 {
 308
 309     /* The point is now on the twisted curve.  Move it to untwisted. */
 310     gf x, y, z, t;
 311     curve448_point_t q;
 312     curve448_point_copy(q, p);
 313
 314     {
 315         /* 4-isogeny: 2xy/(y^+x^2), (y^2-x^2)/(2z^2-y^2+x^2) */
 316         gf u;
 317
 318         gf_sqr(x, q->x);
 319         gf_sqr(t, q->y);
 320         gf_add(u, x, t);
 321         gf_add(z, q->y, q->x);
 322         gf_sqr(y, z);
 323         gf_sub(y, y, u);
 324         gf_sub(z, t, x);
 325         gf_sqr(x, q->z);
 326         gf_add(t, x, x);
 327         gf_sub(t, t, z);
 328         gf_mul(x, t, y);
 329         gf_mul(y, z, u);
 330         gf_mul(z, u, t);
 331         OPENSSL_cleanse(u, sizeof(u));
 332     }
 333
 334     /* Affinize */
 335     gf_invert(z, z, 1);
 336     gf_mul(t, x, z);
 337     gf_mul(x, y, z);
 338
 339     /* Encode */
 340     enc[DECAF_EDDSA_448_PRIVATE_BYTES - 1] = 0;
 341     gf_serialize(enc, x, 1);
 342     enc[DECAF_EDDSA_448_PRIVATE_BYTES - 1] |= 0x80 & gf_lobit(t);
 343
 344     OPENSSL_cleanse(x, sizeof(x));
 345     OPENSSL_cleanse(y, sizeof(y));
 346     OPENSSL_cleanse(z, sizeof(z));
 347     OPENSSL_cleanse(t, sizeof(t));
 348     curve448_point_destroy(q);
 349 }
 350
 351 decaf_error_t curve448_point_decode_like_eddsa_and_mul_by_ratio(
 352                                 curve448_point_t p,
 353                                 const uint8_t enc[DECAF_EDDSA_448_PUBLIC_BYTES])
 354 {
 355     uint8_t enc2[DECAF_EDDSA_448_PUBLIC_BYTES];
 356     mask_t low;
 357     mask_t succ;
 358
 359     memcpy(enc2, enc, sizeof(enc2));
 360
 361     low = ~word_is_zero(enc2[DECAF_EDDSA_448_PRIVATE_BYTES - 1] & 0x80);
 362     enc2[DECAF_EDDSA_448_PRIVATE_BYTES - 1] &= ~0x80;
 363
 364     succ = gf_deserialize(p->y, enc2, 1, 0);
 365 #if 0 == 0
 366     succ &= word_is_zero(enc2[DECAF_EDDSA_448_PRIVATE_BYTES - 1]);
 367 #endif
 368
 369     gf_sqr(p->x, p->y);
 370     gf_sub(p->z, ONE, p->x);    /* num = 1-y^2 */
 371     gf_mulw(p->t, p->x, EDWARDS_D); /* dy^2 */
 372     gf_sub(p->t, ONE, p->t);    /* denom = 1-dy^2 or 1-d + dy^2 */
 373
 374     gf_mul(p->x, p->z, p->t);
 375     succ &= gf_isr(p->t, p->x); /* 1/sqrt(num * denom) */
 376
 377     gf_mul(p->x, p->t, p->z);   /* sqrt(num / denom) */
 378     gf_cond_neg(p->x, gf_lobit(p->x) ^ low);
 379     gf_copy(p->z, ONE);
 380
 381     {
 382         /* 4-isogeny 2xy/(y^2-ax^2), (y^2+ax^2)/(2-y^2-ax^2) */
 383         gf a, b, c, d;
 384         gf_sqr(c, p->x);
 385         gf_sqr(a, p->y);
 386         gf_add(d, c, a);
 387         gf_add(p->t, p->y, p->x);
 388         gf_sqr(b, p->t);
 389         gf_sub(b, b, d);
 390         gf_sub(p->t, a, c);
 391         gf_sqr(p->x, p->z);
 392         gf_add(p->z, p->x, p->x);
 393         gf_sub(a, p->z, d);
 394         gf_mul(p->x, a, b);
 395         gf_mul(p->z, p->t, a);
 396         gf_mul(p->y, p->t, d);
 397         gf_mul(p->t, b, d);
 398         OPENSSL_cleanse(a, sizeof(a));
 399         OPENSSL_cleanse(b, sizeof(b));
 400         OPENSSL_cleanse(c, sizeof(c));
 401         OPENSSL_cleanse(d, sizeof(d));
 402     }
 403
 404     OPENSSL_cleanse(enc2, sizeof(enc2));
 405     assert(curve448_point_valid(p) || ~succ);
 406
 407     return decaf_succeed_if(mask_to_bool(succ));
 408 }
 409
 410 decaf_error_t decaf_x448(uint8_t out[X_PUBLIC_BYTES],
 411                          const uint8_t base[X_PUBLIC_BYTES],
 412                          const uint8_t scalar[X_PRIVATE_BYTES])
 413 {
 414     gf x1, x2, z2, x3, z3, t1, t2;
 415     int t;
 416     mask_t swap = 0;
 417     mask_t nz;
 418
 419     ignore_result(gf_deserialize(x1, base, 1, 0));
 420     gf_copy(x2, ONE);
 421     gf_copy(z2, ZERO);
 422     gf_copy(x3, x1);
 423     gf_copy(z3, ONE);
 424
 425     for (t = X_PRIVATE_BITS - 1; t >= 0; t--) {
 426         uint8_t sb = scalar[t / 8];
 427         mask_t k_t;
 428
 429         /* Scalar conditioning */
 430         if (t / 8 == 0)
 431             sb &= -(uint8_t)COFACTOR;
 432         else if (t == X_PRIVATE_BITS - 1)
 433             sb = -1;
 434
 435         k_t = (sb >> (t % 8)) & 1;
 436         k_t = -k_t;             /* set to all 0s or all 1s */
 437
 438         swap ^= k_t;
 439         gf_cond_swap(x2, x3, swap);
 440         gf_cond_swap(z2, z3, swap);
 441         swap = k_t;
 442
 443         gf_add_nr(t1, x2, z2);  /* A = x2 + z2 *//* 2+e */
 444         gf_sub_nr(t2, x2, z2);  /* B = x2 - z2 *//* 3+e */
 445         gf_sub_nr(z2, x3, z3);  /* D = x3 - z3 *//* 3+e */
 446         gf_mul(x2, t1, z2);     /* DA */
 447         gf_add_nr(z2, z3, x3);  /* C = x3 + z3 *//* 2+e */
 448         gf_mul(x3, t2, z2);     /* CB */
 449         gf_sub_nr(z3, x2, x3);  /* DA-CB *//* 3+e */
 450         gf_sqr(z2, z3);         /* (DA-CB)^2 */
 451         gf_mul(z3, x1, z2);     /* z3 = x1(DA-CB)^2 */
 452         gf_add_nr(z2, x2, x3);  /* (DA+CB) *//* 2+e */
 453         gf_sqr(x3, z2);         /* x3 = (DA+CB)^2 */
 454
 455         gf_sqr(z2, t1);         /* AA = A^2 */
 456         gf_sqr(t1, t2);         /* BB = B^2 */
 457         gf_mul(x2, z2, t1);     /* x2 = AA*BB */
 458         gf_sub_nr(t2, z2, t1);  /* E = AA-BB *//* 3+e */
 459
 460         gf_mulw(t1, t2, -EDWARDS_D); /* E*-d = a24*E */
 461         gf_add_nr(t1, t1, z2);  /* AA + a24*E *//* 2+e */
 462         gf_mul(z2, t2, t1);     /* z2 = E(AA+a24*E) */
 463     }
 464
 465     /* Finish */
 466     gf_cond_swap(x2, x3, swap);
 467     gf_cond_swap(z2, z3, swap);
 468     gf_invert(z2, z2, 0);
 469     gf_mul(x1, x2, z2);
 470     gf_serialize(out, x1, 1);
 471     nz = ~gf_eq(x1, ZERO);
 472
 473     OPENSSL_cleanse(x1, sizeof(x1));
 474     OPENSSL_cleanse(x2, sizeof(x2));
 475     OPENSSL_cleanse(z2, sizeof(z2));
 476     OPENSSL_cleanse(x3, sizeof(x3));
 477     OPENSSL_cleanse(z3, sizeof(z3));
 478     OPENSSL_cleanse(t1, sizeof(t1));
 479     OPENSSL_cleanse(t2, sizeof(t2));
 480
 481     return decaf_succeed_if(mask_to_bool(nz));
 482 }
 483
 484 /* Thanks Johan Pascal */
 485 void decaf_ed448_convert_public_key_to_x448(uint8_t x[DECAF_X448_PUBLIC_BYTES],
 486                                             const uint8_t
 487                                             ed[DECAF_EDDSA_448_PUBLIC_BYTES])
 488 {
 489     gf y;
 490     const uint8_t mask = (uint8_t)(0xFE << (7));
 491     ignore_result(gf_deserialize(y, ed, 1, mask));
 492
 493     {
 494         gf n, d;
 495
 496         /* u = y^2 * (1-dy^2) / (1-y^2) */
 497         gf_sqr(n, y);           /* y^2 */
 498         gf_sub(d, ONE, n);      /* 1-y^2 */
 499         gf_invert(d, d, 0);     /* 1/(1-y^2) */
 500         gf_mul(y, n, d);        /* y^2 / (1-y^2) */
 501         gf_mulw(d, n, EDWARDS_D); /* dy^2 */
 502         gf_sub(d, ONE, d);      /* 1-dy^2 */
 503         gf_mul(n, y, d);        /* y^2 * (1-dy^2) / (1-y^2) */
 504         gf_serialize(x, n, 1);
 505
 506         OPENSSL_cleanse(y, sizeof(y));
 507         OPENSSL_cleanse(n, sizeof(n));
 508         OPENSSL_cleanse(d, sizeof(d));
 509     }
 510 }
 511
 512 void curve448_point_mul_by_ratio_and_encode_like_x448(uint8_t
 513                                                       out[X_PUBLIC_BYTES],
 514                                                       const curve448_point_t p)
 515 {
 516     curve448_point_t q;
 517     curve448_point_copy(q, p);
 518     gf_invert(q->t, q->x, 0);   /* 1/x */
 519     gf_mul(q->z, q->t, q->y);   /* y/x */
 520     gf_sqr(q->y, q->z);         /* (y/x)^2 */
 521     gf_serialize(out, q->y, 1);
 522     curve448_point_destroy(q);
 523 }
 524
 525 void decaf_x448_derive_public_key(uint8_t out[X_PUBLIC_BYTES],
 526                                   const uint8_t scalar[X_PRIVATE_BYTES])
 527 {
 528     /* Scalar conditioning */
 529     uint8_t scalar2[X_PRIVATE_BYTES];
 530     curve448_scalar_t the_scalar;
 531     curve448_point_t p;
 532     unsigned int i;
 533
 534     memcpy(scalar2, scalar, sizeof(scalar2));
 535     scalar2[0] &= -(uint8_t)COFACTOR;
 536
 537     scalar2[X_PRIVATE_BYTES - 1] &= ~(-1u << ((X_PRIVATE_BITS + 7) % 8));
 538     scalar2[X_PRIVATE_BYTES - 1] |= 1 << ((X_PRIVATE_BITS + 7) % 8);
 539
 540     curve448_scalar_decode_long(the_scalar, scalar2, sizeof(scalar2));
 541
 542     /* Compensate for the encoding ratio */
 543     for (i = 1; i < DECAF_X448_ENCODE_RATIO; i <<= 1) {
 544         curve448_scalar_halve(the_scalar, the_scalar);
 545     }
 546     curve448_precomputed_scalarmul(p, curve448_precomputed_base, the_scalar);
 547     curve448_point_mul_by_ratio_and_encode_like_x448(out, p);
 548     curve448_point_destroy(p);
 549 }
 550
 551 /* Control for variable-time scalar multiply algorithms. */
 552 struct smvt_control {
 553     int power, addend;
 554 };
 555
 556 static int recode_wnaf(struct smvt_control *control,
 557                        /* [nbits/(table_bits + 1) + 3] */
 558                        const curve448_scalar_t scalar,
 559                        unsigned int table_bits)
 560 {
 561     unsigned int table_size = DECAF_448_SCALAR_BITS / (table_bits + 1) + 3;
 562     int position = table_size - 1; /* at the end */
 563     uint64_t current = scalar->limb[0] & 0xFFFF;
 564     uint32_t mask = (1 << (table_bits + 1)) - 1;
 565     unsigned int w;
 566     const unsigned int B_OVER_16 = sizeof(scalar->limb[0]) / 2;
 567     unsigned int n, i;
 568
 569     /* place the end marker */
 570     control[position].power = -1;
 571     control[position].addend = 0;
 572     position--;
 573
 574     /*
 575      * PERF: Could negate scalar if it's large.  But then would need more cases
 576      * in the actual code that uses it, all for an expected reduction of like
 577      * 1/5 op. Probably not worth it.
 578      */
 579
 580     for (w = 1; w < (DECAF_448_SCALAR_BITS - 1) / 16 + 3; w++) {
 581         if (w < (DECAF_448_SCALAR_BITS - 1) / 16 + 1) {
 582             /* Refill the 16 high bits of current */
 583             current += (uint32_t)((scalar->limb[w / B_OVER_16]
 584                        >> (16 * (w %  B_OVER_16))) << 16);
 585         }
 586
 587         while (current & 0xFFFF) {
 588             uint32_t pos = __builtin_ctz((uint32_t)current);
 589             uint32_t odd = (uint32_t)current >> pos;
 590             int32_t delta = odd & mask;
 591
 592             assert(position >= 0);
 593             if (odd & 1 << (table_bits + 1))
 594                 delta -= (1 << (table_bits + 1));
 595             current -= delta << pos;
 596             control[position].power = pos + 16 * (w - 1);
 597             control[position].addend = delta;
 598             position--;
 599         }
 600         current >>= 16;
 601     }
 602     assert(current == 0);
 603
 604     position++;
 605     n = table_size - position;
 606     for (i = 0; i < n; i++) {
 607         control[i] = control[i + position];
 608     }
 609     return n - 1;
 610 }
 611
 612 static void prepare_wnaf_table(pniels_t * output,
 613                                const curve448_point_t working,
 614                                unsigned int tbits)
 615 {
 616     curve448_point_t tmp;
 617     int i;
 618     pniels_t twop;
 619
 620     pt_to_pniels(output[0], working);
 621
 622     if (tbits == 0)
 623         return;
 624
 625     curve448_point_double(tmp, working);
 626     pt_to_pniels(twop, tmp);
 627
 628     add_pniels_to_pt(tmp, output[0], 0);
 629     pt_to_pniels(output[1], tmp);
 630
 631     for (i = 2; i < 1 << tbits; i++) {
 632         add_pniels_to_pt(tmp, twop, 0);
 633         pt_to_pniels(output[i], tmp);
 634     }
 635
 636     curve448_point_destroy(tmp);
 637     OPENSSL_cleanse(twop, sizeof(twop));
 638 }
 639
 640 extern const gf curve448_precomputed_wnaf_as_fe[];
 641 static const niels_t *curve448_wnaf_base =
 642     (const niels_t *)curve448_precomputed_wnaf_as_fe;
 643
 644 void curve448_base_double_scalarmul_non_secret(curve448_point_t combo,
 645                                                const curve448_scalar_t scalar1,
 646                                                const curve448_point_t base2,
 647                                                const curve448_scalar_t scalar2)
 648 {
 649     const int table_bits_var = DECAF_WNAF_VAR_TABLE_BITS,
 650         table_bits_pre = DECAF_WNAF_FIXED_TABLE_BITS;
 651     struct smvt_control control_var[DECAF_448_SCALAR_BITS /
 652                                     (DECAF_WNAF_VAR_TABLE_BITS + 1) + 3];
 653     struct smvt_control control_pre[DECAF_448_SCALAR_BITS /
 654                                     (DECAF_WNAF_FIXED_TABLE_BITS + 1) + 3];
 655     int ncb_pre = recode_wnaf(control_pre, scalar1, table_bits_pre);
 656     int ncb_var = recode_wnaf(control_var, scalar2, table_bits_var);
 657     pniels_t precmp_var[1 << DECAF_WNAF_VAR_TABLE_BITS];
 658     int contp = 0, contv = 0, i;
 659
 660     prepare_wnaf_table(precmp_var, base2, table_bits_var);
 661     i = control_var[0].power;
 662
 663     if (i < 0) {
 664         curve448_point_copy(combo, curve448_point_identity);
 665         return;
 666     } else if (i > control_pre[0].power) {
 667         pniels_to_pt(combo, precmp_var[control_var[0].addend >> 1]);
 668         contv++;
 669     } else if (i == control_pre[0].power && i >= 0) {
 670         pniels_to_pt(combo, precmp_var[control_var[0].addend >> 1]);
 671         add_niels_to_pt(combo, curve448_wnaf_base[control_pre[0].addend >> 1],
 672                         i);
 673         contv++;
 674         contp++;
 675     } else {
 676         i = control_pre[0].power;
 677         niels_to_pt(combo, curve448_wnaf_base[control_pre[0].addend >> 1]);
 678         contp++;
 679     }
 680
 681     for (i--; i >= 0; i--) {
 682         int cv = (i == control_var[contv].power), cp =
 683             (i == control_pre[contp].power);
 684         point_double_internal(combo, combo, i && !(cv || cp));
 685
 686         if (cv) {
 687             assert(control_var[contv].addend);
 688
 689             if (control_var[contv].addend > 0) {
 690                 add_pniels_to_pt(combo,
 691                                  precmp_var[control_var[contv].addend >> 1],
 692                                  i && !cp);
 693             } else {
 694                 sub_pniels_from_pt(combo,
 695                                    precmp_var[(-control_var[contv].addend)
 696                                               >> 1], i && !cp);
 697             }
 698             contv++;
 699         }
 700
 701         if (cp) {
 702             assert(control_pre[contp].addend);
 703
 704             if (control_pre[contp].addend > 0) {
 705                 add_niels_to_pt(combo,
 706                                 curve448_wnaf_base[control_pre[contp].addend
 707                                                    >> 1], i);
 708             } else {
 709                 sub_niels_from_pt(combo,
 710                                   curve448_wnaf_base[(-control_pre
 711                                                       [contp].addend) >> 1], i);
 712             }
 713             contp++;
 714         }
 715     }
 716
 717     /* This function is non-secret, but whatever this is cheap. */
 718     OPENSSL_cleanse(control_var, sizeof(control_var));
 719     OPENSSL_cleanse(control_pre, sizeof(control_pre));
 720     OPENSSL_cleanse(precmp_var, sizeof(precmp_var));
 721
 722     assert(contv == ncb_var);
 723     (void)ncb_var;
 724     assert(contp == ncb_pre);
 725     (void)ncb_pre;
 726 }
 727
 728 void curve448_point_destroy(curve448_point_t point)
 729 {
 730     OPENSSL_cleanse(point, sizeof(curve448_point_t));
 731 }
 732
 733 int X448(uint8_t out_shared_key[56], const uint8_t private_key[56],
 734          const uint8_t peer_public_value[56])
 735 {
 736     return decaf_x448(out_shared_key, peer_public_value, private_key)
 737         == DECAF_SUCCESS;
 738 }
 739
 740 void X448_public_from_private(uint8_t out_public_value[56],
 741                               const uint8_t private_key[56])
 742 {
 743     decaf_x448_derive_public_key(out_public_value, private_key);
 744 }