crypto/ec/ecp_smpl.c

   1 /* crypto/ec/ecp_smpl.c */
   2 /* Includes code written by Lenka Fibikova <fibikova@exp-math.uni-essen.de>
   3  * for the OpenSSL project.
   4  * Includes code written by Bodo Moeller for the OpenSSL project.
   5 */
   6 /* ====================================================================
   7  * Copyright (c) 1998-2002 The OpenSSL Project.  All rights reserved.
   8  *
   9  * Redistribution and use in source and binary forms, with or without
  10  * modification, are permitted provided that the following conditions
  11  * are met:
  12  *
  13  * 1. Redistributions of source code must retain the above copyright
  14  *    notice, this list of conditions and the following disclaimer.
  15  *
  16  * 2. Redistributions in binary form must reproduce the above copyright
  17  *    notice, this list of conditions and the following disclaimer in
  18  *    the documentation and/or other materials provided with the
  19  *    distribution.
  20  *
  21  * 3. All advertising materials mentioning features or use of this
  22  *    software must display the following acknowledgment:
  23  *    "This product includes software developed by the OpenSSL Project
  24  *    for use in the OpenSSL Toolkit. (http://www.openssl.org/)"
  25  *
  26  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
  27  *    endorse or promote products derived from this software without
  28  *    prior written permission. For written permission, please contact
  29  *    openssl-core@openssl.org.
  30  *
  31  * 5. Products derived from this software may not be called "OpenSSL"
  32  *    nor may "OpenSSL" appear in their names without prior written
  33  *    permission of the OpenSSL Project.
  34  *
  35  * 6. Redistributions of any form whatsoever must retain the following
  36  *    acknowledgment:
  37  *    "This product includes software developed by the OpenSSL Project
  38  *    for use in the OpenSSL Toolkit (http://www.openssl.org/)"
  39  *
  40  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
  41  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  42  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
  43  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
  44  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
  45  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
  46  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
  47  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
  49  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
  50  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
  51  * OF THE POSSIBILITY OF SUCH DAMAGE.
  52  * ====================================================================
  53  *
  54  * This product includes cryptographic software written by Eric Young
  55  * (eay@cryptsoft.com).  This product includes software written by Tim
  56  * Hudson (tjh@cryptsoft.com).
  57  *
  58  */
  59 /* ====================================================================
  60  * Copyright 2002 Sun Microsystems, Inc. ALL RIGHTS RESERVED.
  61  * Portions of this software developed by SUN MICROSYSTEMS, INC.,
  62  * and contributed to the OpenSSL project.
  63  */
  64
  65 #include <openssl/err.h>
  66 #include <openssl/symhacks.h>
  67
  68 #include "ec_lcl.h"
  69
  70 const EC_METHOD *EC_GFp_simple_method(void)
  71         {
  72         static const EC_METHOD ret = {
  73                 NID_X9_62_prime_field,
  74                 ec_GFp_simple_group_init,
  75                 ec_GFp_simple_group_finish,
  76                 ec_GFp_simple_group_clear_finish,
  77                 ec_GFp_simple_group_copy,
  78                 ec_GFp_simple_group_set_curve,
  79                 ec_GFp_simple_group_get_curve,
  80                 ec_GFp_simple_group_get_degree,
  81                 ec_GFp_simple_group_check_discriminant,
  82                 ec_GFp_simple_point_init,
  83                 ec_GFp_simple_point_finish,
  84                 ec_GFp_simple_point_clear_finish,
  85                 ec_GFp_simple_point_copy,
  86                 ec_GFp_simple_point_set_to_infinity,
  87                 ec_GFp_simple_set_Jprojective_coordinates_GFp,
  88                 ec_GFp_simple_get_Jprojective_coordinates_GFp,
  89                 ec_GFp_simple_point_set_affine_coordinates,
  90                 ec_GFp_simple_point_get_affine_coordinates,
  91                 ec_GFp_simple_set_compressed_coordinates,
  92                 ec_GFp_simple_point2oct,
  93                 ec_GFp_simple_oct2point,
  94                 ec_GFp_simple_add,
  95                 ec_GFp_simple_dbl,
  96                 ec_GFp_simple_invert,
  97                 ec_GFp_simple_is_at_infinity,
  98                 ec_GFp_simple_is_on_curve,
  99                 ec_GFp_simple_cmp,
 100                 ec_GFp_simple_make_affine,
 101                 ec_GFp_simple_points_make_affine,
 102                 0 /* mul */,
 103                 0 /* precompute_mult */,
 104                 0 /* have_precompute_mult */,
 105                 ec_GFp_simple_field_mul,
 106                 ec_GFp_simple_field_sqr,
 107                 0 /* field_div */,
 108                 0 /* field_encode */,
 109                 0 /* field_decode */,
 110                 0 /* field_set_to_one */ };
 111
 112         return &ret;
 113         }
 114
 115
 116 /* Most method functions in this file are designed to work with
 117  * non-trivial representations of field elements if necessary
 118  * (see ecp_mont.c): while standard modular addition and subtraction
 119  * are used, the field_mul and field_sqr methods will be used for
 120  * multiplication, and field_encode and field_decode (if defined)
 121  * will be used for converting between representations.
 122
 123  * Functions ec_GFp_simple_points_make_affine() and
 124  * ec_GFp_simple_point_get_affine_coordinates() specifically assume
 125  * that if a non-trivial representation is used, it is a Montgomery
 126  * representation (i.e. 'encoding' means multiplying by some factor R).
 127  */
 128
 129
 130 int ec_GFp_simple_group_init(EC_GROUP *group)
 131         {
 132         BN_init(&group->field);
 133         BN_init(&group->a);
 134         BN_init(&group->b);
 135         group->a_is_minus3 = 0;
 136         return 1;
 137         }
 138
 139
 140 void ec_GFp_simple_group_finish(EC_GROUP *group)
 141         {
 142         BN_free(&group->field);
 143         BN_free(&group->a);
 144         BN_free(&group->b);
 145         }
 146
 147
 148 void ec_GFp_simple_group_clear_finish(EC_GROUP *group)
 149         {
 150         BN_clear_free(&group->field);
 151         BN_clear_free(&group->a);
 152         BN_clear_free(&group->b);
 153         }
 154
 155
 156 int ec_GFp_simple_group_copy(EC_GROUP *dest, const EC_GROUP *src)
 157         {
 158         if (!BN_copy(&dest->field, &src->field)) return 0;
 159         if (!BN_copy(&dest->a, &src->a)) return 0;
 160         if (!BN_copy(&dest->b, &src->b)) return 0;
 161
 162         dest->a_is_minus3 = src->a_is_minus3;
 163
 164         return 1;
 165         }
 166
 167
 168 int ec_GFp_simple_group_set_curve(EC_GROUP *group,
 169         const BIGNUM *p, const BIGNUM *a, const BIGNUM *b, BN_CTX *ctx)
 170         {
 171         int ret = 0;
 172         BN_CTX *new_ctx = NULL;
 173         BIGNUM *tmp_a;
 174
 175         /* p must be a prime > 3 */
 176         if (BN_num_bits(p) <= 2 || !BN_is_odd(p))
 177                 {
 178                 ECerr(EC_F_EC_GFP_SIMPLE_GROUP_SET_CURVE, EC_R_INVALID_FIELD);
 179                 return 0;
 180                 }
 181
 182         if (ctx == NULL)
 183                 {
 184                 ctx = new_ctx = BN_CTX_new();
 185                 if (ctx == NULL)
 186                         return 0;
 187                 }
 188
 189         BN_CTX_start(ctx);
 190         tmp_a = BN_CTX_get(ctx);
 191         if (tmp_a == NULL) goto err;
 192
 193         /* group->field */
 194         if (!BN_copy(&group->field, p)) goto err;
 195         BN_set_negative(&group->field, 0);
 196
 197         /* group->a */
 198         if (!BN_nnmod(tmp_a, a, p, ctx)) goto err;
 199         if (group->meth->field_encode)
 200                 { if (!group->meth->field_encode(group, &group->a, tmp_a, ctx)) goto err; }
 201         else
 202                 if (!BN_copy(&group->a, tmp_a)) goto err;
 203
 204         /* group->b */
 205         if (!BN_nnmod(&group->b, b, p, ctx)) goto err;
 206         if (group->meth->field_encode)
 207                 if (!group->meth->field_encode(group, &group->b, &group->b, ctx)) goto err;
 208
 209         /* group->a_is_minus3 */
 210         if (!BN_add_word(tmp_a, 3)) goto err;
 211         group->a_is_minus3 = (0 == BN_cmp(tmp_a, &group->field));
 212
 213         ret = 1;
 214
 215  err:
 216         BN_CTX_end(ctx);
 217         if (new_ctx != NULL)
 218                 BN_CTX_free(new_ctx);
 219         return ret;
 220         }
 221
 222
 223 int ec_GFp_simple_group_get_curve(const EC_GROUP *group, BIGNUM *p, BIGNUM *a, BIGNUM *b, BN_CTX *ctx)
 224         {
 225         int ret = 0;
 226         BN_CTX *new_ctx = NULL;
 227
 228         if (p != NULL)
 229                 {
 230                 if (!BN_copy(p, &group->field)) return 0;
 231                 }
 232
 233         if (a != NULL || b != NULL)
 234                 {
 235                 if (group->meth->field_decode)
 236                         {
 237                         if (ctx == NULL)
 238                                 {
 239                                 ctx = new_ctx = BN_CTX_new();
 240                                 if (ctx == NULL)
 241                                         return 0;
 242                                 }
 243                         if (a != NULL)
 244                                 {
 245                                 if (!group->meth->field_decode(group, a, &group->a, ctx)) goto err;
 246                                 }
 247                         if (b != NULL)
 248                                 {
 249                                 if (!group->meth->field_decode(group, b, &group->b, ctx)) goto err;
 250                                 }
 251                         }
 252                 else
 253                         {
 254                         if (a != NULL)
 255                                 {
 256                                 if (!BN_copy(a, &group->a)) goto err;
 257                                 }
 258                         if (b != NULL)
 259                                 {
 260                                 if (!BN_copy(b, &group->b)) goto err;
 261                                 }
 262                         }
 263                 }
 264
 265         ret = 1;
 266
 267  err:
 268         if (new_ctx)
 269                 BN_CTX_free(new_ctx);
 270         return ret;
 271         }
 272
 273
 274 int ec_GFp_simple_group_get_degree(const EC_GROUP *group)
 275         {
 276         return BN_num_bits(&group->field);
 277         }
 278
 279
 280 int ec_GFp_simple_group_check_discriminant(const EC_GROUP *group, BN_CTX *ctx)
 281         {
 282         int ret = 0;
 283         BIGNUM *a,*b,*order,*tmp_1,*tmp_2;
 284         const BIGNUM *p = &group->field;
 285         BN_CTX *new_ctx = NULL;
 286
 287         if (ctx == NULL)
 288                 {
 289                 ctx = new_ctx = BN_CTX_new();
 290                 if (ctx == NULL)
 291                         {
 292                         ECerr(EC_F_EC_GFP_SIMPLE_GROUP_CHECK_DISCRIMINANT, ERR_R_MALLOC_FAILURE);
 293                         goto err;
 294                         }
 295                 }
 296         BN_CTX_start(ctx);
 297         a = BN_CTX_get(ctx);
 298         b = BN_CTX_get(ctx);
 299         tmp_1 = BN_CTX_get(ctx);
 300         tmp_2 = BN_CTX_get(ctx);
 301         order = BN_CTX_get(ctx);
 302         if (order == NULL) goto err;
 303
 304         if (group->meth->field_decode)
 305                 {
 306                 if (!group->meth->field_decode(group, a, &group->a, ctx)) goto err;
 307                 if (!group->meth->field_decode(group, b, &group->b, ctx)) goto err;
 308                 }
 309         else
 310                 {
 311                 if (!BN_copy(a, &group->a)) goto err;
 312                 if (!BN_copy(b, &group->b)) goto err;
 313                 }
 314
 315         /* check the discriminant:
 316          * y^2 = x^3 + a*x + b is an elliptic curve <=> 4*a^3 + 27*b^2 != 0 (mod p)
 317          * 0 =< a, b < p */
 318         if (BN_is_zero(a))
 319                 {
 320                 if (BN_is_zero(b)) goto err;
 321                 }
 322         else if (!BN_is_zero(b))
 323                 {
 324                 if (!BN_mod_sqr(tmp_1, a, p, ctx)) goto err;
 325                 if (!BN_mod_mul(tmp_2, tmp_1, a, p, ctx)) goto err;
 326                 if (!BN_lshift(tmp_1, tmp_2, 2)) goto err;
 327                 /* tmp_1 = 4*a^3 */
 328
 329                 if (!BN_mod_sqr(tmp_2, b, p, ctx)) goto err;
 330                 if (!BN_mul_word(tmp_2, 27)) goto err;
 331                 /* tmp_2 = 27*b^2 */
 332
 333                 if (!BN_mod_add(a, tmp_1, tmp_2, p, ctx)) goto err;
 334                 if (BN_is_zero(a)) goto err;
 335                 }
 336         ret = 1;
 337
 338 err:
 339         if (ctx != NULL)
 340                 BN_CTX_end(ctx);
 341         if (new_ctx != NULL)
 342                 BN_CTX_free(new_ctx);
 343         return ret;
 344         }
 345
 346
 347 int ec_GFp_simple_point_init(EC_POINT *point)
 348         {
 349         BN_init(&point->X);
 350         BN_init(&point->Y);
 351         BN_init(&point->Z);
 352         point->Z_is_one = 0;
 353
 354         return 1;
 355         }
 356
 357
 358 void ec_GFp_simple_point_finish(EC_POINT *point)
 359         {
 360         BN_free(&point->X);
 361         BN_free(&point->Y);
 362         BN_free(&point->Z);
 363         }
 364
 365
 366 void ec_GFp_simple_point_clear_finish(EC_POINT *point)
 367         {
 368         BN_clear_free(&point->X);
 369         BN_clear_free(&point->Y);
 370         BN_clear_free(&point->Z);
 371         point->Z_is_one = 0;
 372         }
 373
 374
 375 int ec_GFp_simple_point_copy(EC_POINT *dest, const EC_POINT *src)
 376         {
 377         if (!BN_copy(&dest->X, &src->X)) return 0;
 378         if (!BN_copy(&dest->Y, &src->Y)) return 0;
 379         if (!BN_copy(&dest->Z, &src->Z)) return 0;
 380         dest->Z_is_one = src->Z_is_one;
 381
 382         return 1;
 383         }
 384
 385
 386 int ec_GFp_simple_point_set_to_infinity(const EC_GROUP *group, EC_POINT *point)
 387         {
 388         point->Z_is_one = 0;
 389         BN_zero(&point->Z);
 390         return 1;
 391         }
 392
 393
 394 int ec_GFp_simple_set_Jprojective_coordinates_GFp(const EC_GROUP *group, EC_POINT *point,
 395         const BIGNUM *x, const BIGNUM *y, const BIGNUM *z, BN_CTX *ctx)
 396         {
 397         BN_CTX *new_ctx = NULL;
 398         int ret = 0;
 399
 400         if (ctx == NULL)
 401                 {
 402                 ctx = new_ctx = BN_CTX_new();
 403                 if (ctx == NULL)
 404                         return 0;
 405                 }
 406
 407         if (x != NULL)
 408                 {
 409                 if (!BN_nnmod(&point->X, x, &group->field, ctx)) goto err;
 410                 if (group->meth->field_encode)
 411                         {
 412                         if (!group->meth->field_encode(group, &point->X, &point->X, ctx)) goto err;
 413                         }
 414                 }
 415
 416         if (y != NULL)
 417                 {
 418                 if (!BN_nnmod(&point->Y, y, &group->field, ctx)) goto err;
 419                 if (group->meth->field_encode)
 420                         {
 421                         if (!group->meth->field_encode(group, &point->Y, &point->Y, ctx)) goto err;
 422                         }
 423                 }
 424
 425         if (z != NULL)
 426                 {
 427                 int Z_is_one;
 428
 429                 if (!BN_nnmod(&point->Z, z, &group->field, ctx)) goto err;
 430                 Z_is_one = BN_is_one(&point->Z);
 431                 if (group->meth->field_encode)
 432                         {
 433                         if (Z_is_one && (group->meth->field_set_to_one != 0))
 434                                 {
 435                                 if (!group->meth->field_set_to_one(group, &point->Z, ctx)) goto err;
 436                                 }
 437                         else
 438                                 {
 439                                 if (!group->meth->field_encode(group, &point->Z, &point->Z, ctx)) goto err;
 440                                 }
 441                         }
 442                 point->Z_is_one = Z_is_one;
 443                 }
 444
 445         if (BN_cmp(&point->X, x) || BN_cmp(&point->Y, y))
 446                 ret = 2;
 447         else
 448                 ret = 1;
 449
 450  err:
 451         if (new_ctx != NULL)
 452                 BN_CTX_free(new_ctx);
 453         return ret;
 454         }
 455
 456
 457 int ec_GFp_simple_get_Jprojective_coordinates_GFp(const EC_GROUP *group, const EC_POINT *point,
 458         BIGNUM *x, BIGNUM *y, BIGNUM *z, BN_CTX *ctx)
 459         {
 460         BN_CTX *new_ctx = NULL;
 461         int ret = 0;
 462
 463         if (group->meth->field_decode != 0)
 464                 {
 465                 if (ctx == NULL)
 466                         {
 467                         ctx = new_ctx = BN_CTX_new();
 468                         if (ctx == NULL)
 469                                 return 0;
 470                         }
 471
 472                 if (x != NULL)
 473                         {
 474                         if (!group->meth->field_decode(group, x, &point->X, ctx)) goto err;
 475                         }
 476                 if (y != NULL)
 477                         {
 478                         if (!group->meth->field_decode(group, y, &point->Y, ctx)) goto err;
 479                         }
 480                 if (z != NULL)
 481                         {
 482                         if (!group->meth->field_decode(group, z, &point->Z, ctx)) goto err;
 483                         }
 484                 }
 485         else
 486                 {
 487                 if (x != NULL)
 488                         {
 489                         if (!BN_copy(x, &point->X)) goto err;
 490                         }
 491                 if (y != NULL)
 492                         {
 493                         if (!BN_copy(y, &point->Y)) goto err;
 494                         }
 495                 if (z != NULL)
 496                         {
 497                         if (!BN_copy(z, &point->Z)) goto err;
 498                         }
 499                 }
 500
 501         ret = 1;
 502
 503  err:
 504         if (new_ctx != NULL)
 505                 BN_CTX_free(new_ctx);
 506         return ret;
 507         }
 508
 509
 510 int ec_GFp_simple_point_set_affine_coordinates(const EC_GROUP *group, EC_POINT *point,
 511         const BIGNUM *x, const BIGNUM *y, BN_CTX *ctx)
 512         {
 513         if (x == NULL || y == NULL)
 514                 {
 515                 /* unlike for projective coordinates, we do not tolerate this */
 516                 ECerr(EC_F_EC_GFP_SIMPLE_POINT_SET_AFFINE_COORDINATES, ERR_R_PASSED_NULL_PARAMETER);
 517                 return 0;
 518                 }
 519
 520         return EC_POINT_set_Jprojective_coordinates_GFp(group, point, x, y, BN_value_one(), ctx);
 521         }
 522
 523
 524 int ec_GFp_simple_point_get_affine_coordinates(const EC_GROUP *group, const EC_POINT *point,
 525         BIGNUM *x, BIGNUM *y, BN_CTX *ctx)
 526         {
 527         BN_CTX *new_ctx = NULL;
 528         BIGNUM *Z, *Z_1, *Z_2, *Z_3;
 529         const BIGNUM *Z_;
 530         int ret = 0;
 531
 532         if (EC_POINT_is_at_infinity(group, point))
 533                 {
 534                 ECerr(EC_F_EC_GFP_SIMPLE_POINT_GET_AFFINE_COORDINATES, EC_R_POINT_AT_INFINITY);
 535                 return 0;
 536                 }
 537
 538         if (ctx == NULL)
 539                 {
 540                 ctx = new_ctx = BN_CTX_new();
 541                 if (ctx == NULL)
 542                         return 0;
 543                 }
 544
 545         BN_CTX_start(ctx);
 546         Z = BN_CTX_get(ctx);
 547         Z_1 = BN_CTX_get(ctx);
 548         Z_2 = BN_CTX_get(ctx);
 549         Z_3 = BN_CTX_get(ctx);
 550         if (Z_3 == NULL) goto err;
 551
 552         /* transform  (X, Y, Z)  into  (x, y) := (X/Z^2, Y/Z^3) */
 553
 554         if (group->meth->field_decode)
 555                 {
 556                 if (!group->meth->field_decode(group, Z, &point->Z, ctx)) goto err;
 557                 Z_ = Z;
 558                 }
 559         else
 560                 {
 561                 Z_ = &point->Z;
 562                 }
 563
 564         if (BN_is_one(Z_))
 565                 {
 566                 if (group->meth->field_decode)
 567                         {
 568                         if (x != NULL)
 569                                 {
 570                                 if (!group->meth->field_decode(group, x, &point->X, ctx)) goto err;
 571                                 }
 572                         if (y != NULL)
 573                                 {
 574                                 if (!group->meth->field_decode(group, y, &point->Y, ctx)) goto err;
 575                                 }
 576                         }
 577                 else
 578                         {
 579                         if (x != NULL)
 580                                 {
 581                                 if (!BN_copy(x, &point->X)) goto err;
 582                                 }
 583                         if (y != NULL)
 584                                 {
 585                                 if (!BN_copy(y, &point->Y)) goto err;
 586                                 }
 587                         }
 588                 }
 589         else
 590                 {
 591                 if (!BN_mod_inverse(Z_1, Z_, &group->field, ctx))
 592                         {
 593                         ECerr(EC_F_EC_GFP_SIMPLE_POINT_GET_AFFINE_COORDINATES, ERR_R_BN_LIB);
 594                         goto err;
 595                         }
 596
 597                 if (group->meth->field_encode == 0)
 598                         {
 599                         /* field_sqr works on standard representation */
 600                         if (!group->meth->field_sqr(group, Z_2, Z_1, ctx)) goto err;
 601                         }
 602                 else
 603                         {
 604                         if (!BN_mod_sqr(Z_2, Z_1, &group->field, ctx)) goto err;
 605                         }
 606
 607                 if (x != NULL)
 608                         {
 609                         /* in the Montgomery case, field_mul will cancel out Montgomery factor in X: */
 610                         if (!group->meth->field_mul(group, x, &point->X, Z_2, ctx)) goto err;
 611                         }
 612
 613                 if (y != NULL)
 614                         {
 615                         if (group->meth->field_encode == 0)
 616                                 {
 617                                 /* field_mul works on standard representation */
 618                                 if (!group->meth->field_mul(group, Z_3, Z_2, Z_1, ctx)) goto err;
 619                                 }
 620                         else
 621                                 {
 622                                 if (!BN_mod_mul(Z_3, Z_2, Z_1, &group->field, ctx)) goto err;
 623                                 }
 624
 625                         /* in the Montgomery case, field_mul will cancel out Montgomery factor in Y: */
 626                         if (!group->meth->field_mul(group, y, &point->Y, Z_3, ctx)) goto err;
 627                         }
 628                 }
 629
 630         ret = 1;
 631
 632  err:
 633         BN_CTX_end(ctx);
 634         if (new_ctx != NULL)
 635                 BN_CTX_free(new_ctx);
 636         return ret;
 637         }
 638
 639
 640 int ec_GFp_simple_set_compressed_coordinates(const EC_GROUP *group, EC_POINT *point,
 641         const BIGNUM *x_, int y_bit, BN_CTX *ctx)
 642         {
 643         BN_CTX *new_ctx = NULL;
 644         BIGNUM *tmp1, *tmp2, *x, *y;
 645         int ret = 0;
 646
 647         /* clear error queue*/
 648         ERR_clear_error();
 649
 650         if (ctx == NULL)
 651                 {
 652                 ctx = new_ctx = BN_CTX_new();
 653                 if (ctx == NULL)
 654                         return 0;
 655                 }
 656
 657         y_bit = (y_bit != 0);
 658
 659         BN_CTX_start(ctx);
 660         tmp1 = BN_CTX_get(ctx);
 661         tmp2 = BN_CTX_get(ctx);
 662         x = BN_CTX_get(ctx);
 663         y = BN_CTX_get(ctx);
 664         if (y == NULL) goto err;
 665
 666         /* Recover y.  We have a Weierstrass equation
 667          *     y^2 = x^3 + a*x + b,
 668          * so  y  is one of the square roots of  x^3 + a*x + b.
 669          */
 670
 671         /* tmp1 := x^3 */
 672         if (!BN_nnmod(x, x_, &group->field,ctx)) goto err;
 673         if (group->meth->field_decode == 0)
 674                 {
 675                 /* field_{sqr,mul} work on standard representation */
 676                 if (!group->meth->field_sqr(group, tmp2, x_, ctx)) goto err;
 677                 if (!group->meth->field_mul(group, tmp1, tmp2, x_, ctx)) goto err;
 678                 }
 679         else
 680                 {
 681                 if (!BN_mod_sqr(tmp2, x_, &group->field, ctx)) goto err;
 682                 if (!BN_mod_mul(tmp1, tmp2, x_, &group->field, ctx)) goto err;
 683                 }
 684
 685         /* tmp1 := tmp1 + a*x */
 686         if (group->a_is_minus3)
 687                 {
 688                 if (!BN_mod_lshift1_quick(tmp2, x, &group->field)) goto err;
 689                 if (!BN_mod_add_quick(tmp2, tmp2, x, &group->field)) goto err;
 690                 if (!BN_mod_sub_quick(tmp1, tmp1, tmp2, &group->field)) goto err;
 691                 }
 692         else
 693                 {
 694                 if (group->meth->field_decode)
 695                         {
 696                         if (!group->meth->field_decode(group, tmp2, &group->a, ctx)) goto err;
 697                         if (!BN_mod_mul(tmp2, tmp2, x, &group->field, ctx)) goto err;
 698                         }
 699                 else
 700                         {
 701                         /* field_mul works on standard representation */
 702                         if (!group->meth->field_mul(group, tmp2, &group->a, x, ctx)) goto err;
 703                         }
 704
 705                 if (!BN_mod_add_quick(tmp1, tmp1, tmp2, &group->field)) goto err;
 706                 }
 707
 708         /* tmp1 := tmp1 + b */
 709         if (group->meth->field_decode)
 710                 {
 711                 if (!group->meth->field_decode(group, tmp2, &group->b, ctx)) goto err;
 712                 if (!BN_mod_add_quick(tmp1, tmp1, tmp2, &group->field)) goto err;
 713                 }
 714         else
 715                 {
 716                 if (!BN_mod_add_quick(tmp1, tmp1, &group->b, &group->field)) goto err;
 717                 }
 718
 719         if (!BN_mod_sqrt(y, tmp1, &group->field, ctx))
 720                 {
 721                 unsigned long err = ERR_peek_last_error();
 722
 723                 if (ERR_GET_LIB(err) == ERR_LIB_BN && ERR_GET_REASON(err) == BN_R_NOT_A_SQUARE)
 724                         {
 725                         ERR_clear_error();
 726                         ECerr(EC_F_EC_GFP_SIMPLE_SET_COMPRESSED_COORDINATES, EC_R_INVALID_COMPRESSED_POINT);
 727                         }
 728                 else
 729                         ECerr(EC_F_EC_GFP_SIMPLE_SET_COMPRESSED_COORDINATES, ERR_R_BN_LIB);
 730                 goto err;
 731                 }
 732
 733         if (y_bit != BN_is_odd(y))
 734                 {
 735                 if (BN_is_zero(y))
 736                         {
 737                         int kron;
 738
 739                         kron = BN_kronecker(x, &group->field, ctx);
 740                         if (kron == -2) goto err;
 741
 742                         if (kron == 1)
 743                                 ECerr(EC_F_EC_GFP_SIMPLE_SET_COMPRESSED_COORDINATES, EC_R_INVALID_COMPRESSION_BIT);
 744                         else
 745                                 /* BN_mod_sqrt() should have cought this error (not a square) */
 746                                 ECerr(EC_F_EC_GFP_SIMPLE_SET_COMPRESSED_COORDINATES, EC_R_INVALID_COMPRESSED_POINT);
 747                         goto err;
 748                         }
 749                 if (!BN_usub(y, &group->field, y)) goto err;
 750                 }
 751         if (y_bit != BN_is_odd(y))
 752                 {
 753                 ECerr(EC_F_EC_GFP_SIMPLE_SET_COMPRESSED_COORDINATES, ERR_R_INTERNAL_ERROR);
 754                 goto err;
 755                 }
 756
 757         if (!EC_POINT_set_affine_coordinates_GFp(group, point, x, y, ctx)) goto err;
 758
 759         ret = 1;
 760
 761  err:
 762         BN_CTX_end(ctx);
 763         if (new_ctx != NULL)
 764                 BN_CTX_free(new_ctx);
 765         return ret;
 766         }
 767
 768
 769 size_t ec_GFp_simple_point2oct(const EC_GROUP *group, const EC_POINT *point, point_conversion_form_t form,
 770         unsigned char *buf, size_t len, BN_CTX *ctx)
 771         {
 772         size_t ret;
 773         BN_CTX *new_ctx = NULL;
 774         int used_ctx = 0;
 775         BIGNUM *x, *y;
 776         size_t field_len, i, skip;
 777
 778         if ((form != POINT_CONVERSION_COMPRESSED)
 779                 && (form != POINT_CONVERSION_UNCOMPRESSED)
 780                 && (form != POINT_CONVERSION_HYBRID))
 781                 {
 782                 ECerr(EC_F_EC_GFP_SIMPLE_POINT2OCT, EC_R_INVALID_FORM);
 783                 goto err;
 784                 }
 785
 786         if (EC_POINT_is_at_infinity(group, point))
 787                 {
 788                 /* encodes to a single 0 octet */
 789                 if (buf != NULL)
 790                         {
 791                         if (len < 1)
 792                                 {
 793                                 ECerr(EC_F_EC_GFP_SIMPLE_POINT2OCT, EC_R_BUFFER_TOO_SMALL);
 794                                 return 0;
 795                                 }
 796                         buf[0] = 0;
 797                         }
 798                 return 1;
 799                 }
 800
 801
 802         /* ret := required output buffer length */
 803         field_len = BN_num_bytes(&group->field);
 804         ret = (form == POINT_CONVERSION_COMPRESSED) ? 1 + field_len : 1 + 2*field_len;
 805
 806         /* if 'buf' is NULL, just return required length */
 807         if (buf != NULL)
 808                 {
 809                 if (len < ret)
 810                         {
 811                         ECerr(EC_F_EC_GFP_SIMPLE_POINT2OCT, EC_R_BUFFER_TOO_SMALL);
 812                         goto err;
 813                         }
 814
 815                 if (ctx == NULL)
 816                         {
 817                         ctx = new_ctx = BN_CTX_new();
 818                         if (ctx == NULL)
 819                                 return 0;
 820                         }
 821
 822                 BN_CTX_start(ctx);
 823                 used_ctx = 1;
 824                 x = BN_CTX_get(ctx);
 825                 y = BN_CTX_get(ctx);
 826                 if (y == NULL) goto err;
 827
 828                 if (!EC_POINT_get_affine_coordinates_GFp(group, point, x, y, ctx)) goto err;
 829
 830                 if ((form == POINT_CONVERSION_COMPRESSED || form == POINT_CONVERSION_HYBRID) && BN_is_odd(y))
 831                         buf[0] = form + 1;
 832                 else
 833                         buf[0] = form;
 834
 835                 i = 1;
 836
 837                 skip = field_len - BN_num_bytes(x);
 838                 if (skip > field_len)
 839                         {
 840                         ECerr(EC_F_EC_GFP_SIMPLE_POINT2OCT, ERR_R_INTERNAL_ERROR);
 841                         goto err;
 842                         }
 843                 while (skip > 0)
 844                         {
 845                         buf[i++] = 0;
 846                         skip--;
 847                         }
 848                 skip = BN_bn2bin(x, buf + i);
 849                 i += skip;
 850                 if (i != 1 + field_len)
 851                         {
 852                         ECerr(EC_F_EC_GFP_SIMPLE_POINT2OCT, ERR_R_INTERNAL_ERROR);
 853                         goto err;
 854                         }
 855
 856                 if (form == POINT_CONVERSION_UNCOMPRESSED || form == POINT_CONVERSION_HYBRID)
 857                         {
 858                         skip = field_len - BN_num_bytes(y);
 859                         if (skip > field_len)
 860                                 {
 861                                 ECerr(EC_F_EC_GFP_SIMPLE_POINT2OCT, ERR_R_INTERNAL_ERROR);
 862                                 goto err;
 863                                 }
 864                         while (skip > 0)
 865                                 {
 866                                 buf[i++] = 0;
 867                                 skip--;
 868                                 }
 869                         skip = BN_bn2bin(y, buf + i);
 870                         i += skip;
 871                         }
 872
 873                 if (i != ret)
 874                         {
 875                         ECerr(EC_F_EC_GFP_SIMPLE_POINT2OCT, ERR_R_INTERNAL_ERROR);
 876                         goto err;
 877                         }
 878                 }
 879
 880         if (used_ctx)
 881                 BN_CTX_end(ctx);
 882         if (new_ctx != NULL)
 883                 BN_CTX_free(new_ctx);
 884         return ret;
 885
 886  err:
 887         if (used_ctx)
 888                 BN_CTX_end(ctx);
 889         if (new_ctx != NULL)
 890                 BN_CTX_free(new_ctx);
 891         return 0;
 892         }
 893
 894
 895 int ec_GFp_simple_oct2point(const EC_GROUP *group, EC_POINT *point,
 896         const unsigned char *buf, size_t len, BN_CTX *ctx)
 897         {
 898         point_conversion_form_t form;
 899         int y_bit;
 900         BN_CTX *new_ctx = NULL;
 901         BIGNUM *x, *y;
 902         size_t field_len, enc_len;
 903         int ret = 0;
 904
 905         if (len == 0)
 906                 {
 907                 ECerr(EC_F_EC_GFP_SIMPLE_OCT2POINT, EC_R_BUFFER_TOO_SMALL);
 908                 return 0;
 909                 }
 910         form = buf[0];
 911         y_bit = form & 1;
 912         form = form & ~1U;
 913         if ((form != 0) && (form != POINT_CONVERSION_COMPRESSED)
 914                 && (form != POINT_CONVERSION_UNCOMPRESSED)
 915                 && (form != POINT_CONVERSION_HYBRID))
 916                 {
 917                 ECerr(EC_F_EC_GFP_SIMPLE_OCT2POINT, EC_R_INVALID_ENCODING);
 918                 return 0;
 919                 }
 920         if ((form == 0 || form == POINT_CONVERSION_UNCOMPRESSED) && y_bit)
 921                 {
 922                 ECerr(EC_F_EC_GFP_SIMPLE_OCT2POINT, EC_R_INVALID_ENCODING);
 923                 return 0;
 924                 }
 925
 926         if (form == 0)
 927                 {
 928                 if (len != 1)
 929                         {
 930                         ECerr(EC_F_EC_GFP_SIMPLE_OCT2POINT, EC_R_INVALID_ENCODING);
 931                         return 0;
 932                         }
 933
 934                 return EC_POINT_set_to_infinity(group, point);
 935                 }
 936
 937         field_len = BN_num_bytes(&group->field);
 938         enc_len = (form == POINT_CONVERSION_COMPRESSED) ? 1 + field_len : 1 + 2*field_len;
 939
 940         if (len != enc_len)
 941                 {
 942                 ECerr(EC_F_EC_GFP_SIMPLE_OCT2POINT, EC_R_INVALID_ENCODING);
 943                 return 0;
 944                 }
 945
 946         if (ctx == NULL)
 947                 {
 948                 ctx = new_ctx = BN_CTX_new();
 949                 if (ctx == NULL)
 950                         return 0;
 951                 }
 952
 953         BN_CTX_start(ctx);
 954         x = BN_CTX_get(ctx);
 955         y = BN_CTX_get(ctx);
 956         if (y == NULL) goto err;
 957
 958         if (!BN_bin2bn(buf + 1, field_len, x)) goto err;
 959         if (BN_ucmp(x, &group->field) >= 0)
 960                 {
 961                 ECerr(EC_F_EC_GFP_SIMPLE_OCT2POINT, EC_R_INVALID_ENCODING);
 962                 goto err;
 963                 }
 964
 965         if (form == POINT_CONVERSION_COMPRESSED)
 966                 {
 967                 if (!EC_POINT_set_compressed_coordinates_GFp(group, point, x, y_bit, ctx)) goto err;
 968                 }
 969         else
 970                 {
 971                 if (!BN_bin2bn(buf + 1 + field_len, field_len, y)) goto err;
 972                 if (BN_ucmp(y, &group->field) >= 0)
 973                         {
 974                         ECerr(EC_F_EC_GFP_SIMPLE_OCT2POINT, EC_R_INVALID_ENCODING);
 975                         goto err;
 976                         }
 977                 if (form == POINT_CONVERSION_HYBRID)
 978                         {
 979                         if (y_bit != BN_is_odd(y))
 980                                 {
 981                                 ECerr(EC_F_EC_GFP_SIMPLE_OCT2POINT, EC_R_INVALID_ENCODING);
 982                                 goto err;
 983                                 }
 984                         }
 985
 986                 if (!EC_POINT_set_affine_coordinates_GFp(group, point, x, y, ctx)) goto err;
 987                 }
 988
 989         if (!EC_POINT_is_on_curve(group, point, ctx)) /* test required by X9.62 */
 990                 {
 991                 ECerr(EC_F_EC_GFP_SIMPLE_OCT2POINT, EC_R_POINT_IS_NOT_ON_CURVE);
 992                 goto err;
 993                 }
 994
 995         ret = 1;
 996
 997  err:
 998         BN_CTX_end(ctx);
 999         if (new_ctx != NULL)
1000                 BN_CTX_free(new_ctx);
1001         return ret;
1002         }
1003
1004
1005 int ec_GFp_simple_add(const EC_GROUP *group, EC_POINT *r, const EC_POINT *a, const EC_POINT *b, BN_CTX *ctx)
1006         {
1007         int (*field_mul)(const EC_GROUP *, BIGNUM *, const BIGNUM *, const BIGNUM *, BN_CTX *);
1008         int (*field_sqr)(const EC_GROUP *, BIGNUM *, const BIGNUM *, BN_CTX *);
1009         const BIGNUM *p;
1010         BN_CTX *new_ctx = NULL;
1011         BIGNUM *n0, *n1, *n2, *n3, *n4, *n5, *n6;
1012         int ret = 0;
1013
1014         if (a == b)
1015                 return EC_POINT_dbl(group, r, a, ctx);
1016         if (EC_POINT_is_at_infinity(group, a))
1017                 return EC_POINT_copy(r, b);
1018         if (EC_POINT_is_at_infinity(group, b))
1019                 return EC_POINT_copy(r, a);
1020
1021         field_mul = group->meth->field_mul;
1022         field_sqr = group->meth->field_sqr;
1023         p = &group->field;
1024
1025         if (ctx == NULL)
1026                 {
1027                 ctx = new_ctx = BN_CTX_new();
1028                 if (ctx == NULL)
1029                         return 0;
1030                 }
1031
1032         BN_CTX_start(ctx);
1033         n0 = BN_CTX_get(ctx);
1034         n1 = BN_CTX_get(ctx);
1035         n2 = BN_CTX_get(ctx);
1036         n3 = BN_CTX_get(ctx);
1037         n4 = BN_CTX_get(ctx);
1038         n5 = BN_CTX_get(ctx);
1039         n6 = BN_CTX_get(ctx);
1040         if (n6 == NULL) goto end;
1041
1042         /* Note that in this function we must not read components of 'a' or 'b'
1043          * once we have written the corresponding components of 'r'.
1044          * ('r' might be one of 'a' or 'b'.)
1045          */
1046
1047         /* n1, n2 */
1048         if (b->Z_is_one)
1049                 {
1050                 if (!BN_copy(n1, &a->X)) goto end;
1051                 if (!BN_copy(n2, &a->Y)) goto end;
1052                 /* n1 = X_a */
1053                 /* n2 = Y_a */
1054                 }
1055         else
1056                 {
1057                 if (!field_sqr(group, n0, &b->Z, ctx)) goto end;
1058                 if (!field_mul(group, n1, &a->X, n0, ctx)) goto end;
1059                 /* n1 = X_a * Z_b^2 */
1060
1061                 if (!field_mul(group, n0, n0, &b->Z, ctx)) goto end;
1062                 if (!field_mul(group, n2, &a->Y, n0, ctx)) goto end;
1063                 /* n2 = Y_a * Z_b^3 */
1064                 }
1065
1066         /* n3, n4 */
1067         if (a->Z_is_one)
1068                 {
1069                 if (!BN_copy(n3, &b->X)) goto end;
1070                 if (!BN_copy(n4, &b->Y)) goto end;
1071                 /* n3 = X_b */
1072                 /* n4 = Y_b */
1073                 }
1074         else
1075                 {
1076                 if (!field_sqr(group, n0, &a->Z, ctx)) goto end;
1077                 if (!field_mul(group, n3, &b->X, n0, ctx)) goto end;
1078                 /* n3 = X_b * Z_a^2 */
1079
1080                 if (!field_mul(group, n0, n0, &a->Z, ctx)) goto end;
1081                 if (!field_mul(group, n4, &b->Y, n0, ctx)) goto end;
1082                 /* n4 = Y_b * Z_a^3 */
1083                 }
1084
1085         /* n5, n6 */
1086         if (!BN_mod_sub_quick(n5, n1, n3, p)) goto end;
1087         if (!BN_mod_sub_quick(n6, n2, n4, p)) goto end;
1088         /* n5 = n1 - n3 */
1089         /* n6 = n2 - n4 */
1090
1091         if (BN_is_zero(n5))
1092                 {
1093                 if (BN_is_zero(n6))
1094                         {
1095                         /* a is the same point as b */
1096                         BN_CTX_end(ctx);
1097                         ret = EC_POINT_dbl(group, r, a, ctx);
1098                         ctx = NULL;
1099                         goto end;
1100                         }
1101                 else
1102                         {
1103                         /* a is the inverse of b */
1104                         BN_zero(&r->Z);
1105                         r->Z_is_one = 0;
1106                         ret = 1;
1107                         goto end;
1108                         }
1109                 }
1110
1111         /* 'n7', 'n8' */
1112         if (!BN_mod_add_quick(n1, n1, n3, p)) goto end;
1113         if (!BN_mod_add_quick(n2, n2, n4, p)) goto end;
1114         /* 'n7' = n1 + n3 */
1115         /* 'n8' = n2 + n4 */
1116
1117         /* Z_r */
1118         if (a->Z_is_one && b->Z_is_one)
1119                 {
1120                 if (!BN_copy(&r->Z, n5)) goto end;
1121                 }
1122         else
1123                 {
1124                 if (a->Z_is_one)
1125                         { if (!BN_copy(n0, &b->Z)) goto end; }
1126                 else if (b->Z_is_one)
1127                         { if (!BN_copy(n0, &a->Z)) goto end; }
1128                 else
1129                         { if (!field_mul(group, n0, &a->Z, &b->Z, ctx)) goto end; }
1130                 if (!field_mul(group, &r->Z, n0, n5, ctx)) goto end;
1131                 }
1132         r->Z_is_one = 0;
1133         /* Z_r = Z_a * Z_b * n5 */
1134
1135         /* X_r */
1136         if (!field_sqr(group, n0, n6, ctx)) goto end;
1137         if (!field_sqr(group, n4, n5, ctx)) goto end;
1138         if (!field_mul(group, n3, n1, n4, ctx)) goto end;
1139         if (!BN_mod_sub_quick(&r->X, n0, n3, p)) goto end;
1140         /* X_r = n6^2 - n5^2 * 'n7' */
1141
1142         /* 'n9' */
1143         if (!BN_mod_lshift1_quick(n0, &r->X, p)) goto end;
1144         if (!BN_mod_sub_quick(n0, n3, n0, p)) goto end;
1145         /* n9 = n5^2 * 'n7' - 2 * X_r */
1146
1147         /* Y_r */
1148         if (!field_mul(group, n0, n0, n6, ctx)) goto end;
1149         if (!field_mul(group, n5, n4, n5, ctx)) goto end; /* now n5 is n5^3 */
1150         if (!field_mul(group, n1, n2, n5, ctx)) goto end;
1151         if (!BN_mod_sub_quick(n0, n0, n1, p)) goto end;
1152         if (BN_is_odd(n0))
1153                 if (!BN_add(n0, n0, p)) goto end;
1154         /* now  0 <= n0 < 2*p,  and n0 is even */
1155         if (!BN_rshift1(&r->Y, n0)) goto end;
1156         /* Y_r = (n6 * 'n9' - 'n8' * 'n5^3') / 2 */
1157
1158         ret = 1;
1159
1160  end:
1161         if (ctx) /* otherwise we already called BN_CTX_end */
1162                 BN_CTX_end(ctx);
1163         if (new_ctx != NULL)
1164                 BN_CTX_free(new_ctx);
1165         return ret;
1166         }
1167
1168
1169 int ec_GFp_simple_dbl(const EC_GROUP *group, EC_POINT *r, const EC_POINT *a, BN_CTX *ctx)
1170         {
1171         int (*field_mul)(const EC_GROUP *, BIGNUM *, const BIGNUM *, const BIGNUM *, BN_CTX *);
1172         int (*field_sqr)(const EC_GROUP *, BIGNUM *, const BIGNUM *, BN_CTX *);
1173         const BIGNUM *p;
1174         BN_CTX *new_ctx = NULL;
1175         BIGNUM *n0, *n1, *n2, *n3;
1176         int ret = 0;
1177
1178         if (EC_POINT_is_at_infinity(group, a))
1179                 {
1180                 BN_zero(&r->Z);
1181                 r->Z_is_one = 0;
1182                 return 1;
1183                 }
1184
1185         field_mul = group->meth->field_mul;
1186         field_sqr = group->meth->field_sqr;
1187         p = &group->field;
1188
1189         if (ctx == NULL)
1190                 {
1191                 ctx = new_ctx = BN_CTX_new();
1192                 if (ctx == NULL)
1193                         return 0;
1194                 }
1195
1196         BN_CTX_start(ctx);
1197         n0 = BN_CTX_get(ctx);
1198         n1 = BN_CTX_get(ctx);
1199         n2 = BN_CTX_get(ctx);
1200         n3 = BN_CTX_get(ctx);
1201         if (n3 == NULL) goto err;
1202
1203         /* Note that in this function we must not read components of 'a'
1204          * once we have written the corresponding components of 'r'.
1205          * ('r' might the same as 'a'.)
1206          */
1207
1208         /* n1 */
1209         if (a->Z_is_one)
1210                 {
1211                 if (!field_sqr(group, n0, &a->X, ctx)) goto err;
1212                 if (!BN_mod_lshift1_quick(n1, n0, p)) goto err;
1213                 if (!BN_mod_add_quick(n0, n0, n1, p)) goto err;
1214                 if (!BN_mod_add_quick(n1, n0, &group->a, p)) goto err;
1215                 /* n1 = 3 * X_a^2 + a_curve */
1216                 }
1217         else if (group->a_is_minus3)
1218                 {
1219                 if (!field_sqr(group, n1, &a->Z, ctx)) goto err;
1220                 if (!BN_mod_add_quick(n0, &a->X, n1, p)) goto err;
1221                 if (!BN_mod_sub_quick(n2, &a->X, n1, p)) goto err;
1222                 if (!field_mul(group, n1, n0, n2, ctx)) goto err;
1223                 if (!BN_mod_lshift1_quick(n0, n1, p)) goto err;
1224                 if (!BN_mod_add_quick(n1, n0, n1, p)) goto err;
1225                 /* n1 = 3 * (X_a + Z_a^2) * (X_a - Z_a^2)
1226                  *    = 3 * X_a^2 - 3 * Z_a^4 */
1227                 }
1228         else
1229                 {
1230                 if (!field_sqr(group, n0, &a->X, ctx)) goto err;
1231                 if (!BN_mod_lshift1_quick(n1, n0, p)) goto err;
1232                 if (!BN_mod_add_quick(n0, n0, n1, p)) goto err;
1233                 if (!field_sqr(group, n1, &a->Z, ctx)) goto err;
1234                 if (!field_sqr(group, n1, n1, ctx)) goto err;
1235                 if (!field_mul(group, n1, n1, &group->a, ctx)) goto err;
1236                 if (!BN_mod_add_quick(n1, n1, n0, p)) goto err;
1237                 /* n1 = 3 * X_a^2 + a_curve * Z_a^4 */
1238                 }
1239
1240         /* Z_r */
1241         if (a->Z_is_one)
1242                 {
1243                 if (!BN_copy(n0, &a->Y)) goto err;
1244                 }
1245         else
1246                 {
1247                 if (!field_mul(group, n0, &a->Y, &a->Z, ctx)) goto err;
1248                 }
1249         if (!BN_mod_lshift1_quick(&r->Z, n0, p)) goto err;
1250         r->Z_is_one = 0;
1251         /* Z_r = 2 * Y_a * Z_a */
1252
1253         /* n2 */
1254         if (!field_sqr(group, n3, &a->Y, ctx)) goto err;
1255         if (!field_mul(group, n2, &a->X, n3, ctx)) goto err;
1256         if (!BN_mod_lshift_quick(n2, n2, 2, p)) goto err;
1257         /* n2 = 4 * X_a * Y_a^2 */
1258
1259         /* X_r */
1260         if (!BN_mod_lshift1_quick(n0, n2, p)) goto err;
1261         if (!field_sqr(group, &r->X, n1, ctx)) goto err;
1262         if (!BN_mod_sub_quick(&r->X, &r->X, n0, p)) goto err;
1263         /* X_r = n1^2 - 2 * n2 */
1264
1265         /* n3 */
1266         if (!field_sqr(group, n0, n3, ctx)) goto err;
1267         if (!BN_mod_lshift_quick(n3, n0, 3, p)) goto err;
1268         /* n3 = 8 * Y_a^4 */
1269
1270         /* Y_r */
1271         if (!BN_mod_sub_quick(n0, n2, &r->X, p)) goto err;
1272         if (!field_mul(group, n0, n1, n0, ctx)) goto err;
1273         if (!BN_mod_sub_quick(&r->Y, n0, n3, p)) goto err;
1274         /* Y_r = n1 * (n2 - X_r) - n3 */
1275
1276         ret = 1;
1277
1278  err:
1279         BN_CTX_end(ctx);
1280         if (new_ctx != NULL)
1281                 BN_CTX_free(new_ctx);
1282         return ret;
1283         }
1284
1285
1286 int ec_GFp_simple_invert(const EC_GROUP *group, EC_POINT *point, BN_CTX *ctx)
1287         {
1288         if (EC_POINT_is_at_infinity(group, point) || BN_is_zero(&point->Y))
1289                 /* point is its own inverse */
1290                 return 1;
1291
1292         return BN_usub(&point->Y, &group->field, &point->Y);
1293         }
1294
1295
1296 int ec_GFp_simple_is_at_infinity(const EC_GROUP *group, const EC_POINT *point)
1297         {
1298         return BN_is_zero(&point->Z);
1299         }
1300
1301
1302 int ec_GFp_simple_is_on_curve(const EC_GROUP *group, const EC_POINT *point, BN_CTX *ctx)
1303         {
1304         int (*field_mul)(const EC_GROUP *, BIGNUM *, const BIGNUM *, const BIGNUM *, BN_CTX *);
1305         int (*field_sqr)(const EC_GROUP *, BIGNUM *, const BIGNUM *, BN_CTX *);
1306         const BIGNUM *p;
1307         BN_CTX *new_ctx = NULL;
1308         BIGNUM *rh, *tmp, *Z4, *Z6;
1309         int ret = -1;
1310
1311         if (EC_POINT_is_at_infinity(group, point))
1312                 return 1;
1313
1314         field_mul = group->meth->field_mul;
1315         field_sqr = group->meth->field_sqr;
1316         p = &group->field;
1317
1318         if (ctx == NULL)
1319                 {
1320                 ctx = new_ctx = BN_CTX_new();
1321                 if (ctx == NULL)
1322                         return -1;
1323                 }
1324
1325         BN_CTX_start(ctx);
1326         rh = BN_CTX_get(ctx);
1327         tmp = BN_CTX_get(ctx);
1328         Z4 = BN_CTX_get(ctx);
1329         Z6 = BN_CTX_get(ctx);
1330         if (Z6 == NULL) goto err;
1331
1332         /* We have a curve defined by a Weierstrass equation
1333          *      y^2 = x^3 + a*x + b.
1334          * The point to consider is given in Jacobian projective coordinates
1335          * where  (X, Y, Z)  represents  (x, y) = (X/Z^2, Y/Z^3).
1336          * Substituting this and multiplying by  Z^6  transforms the above equation into
1337          *      Y^2 = X^3 + a*X*Z^4 + b*Z^6.
1338          * To test this, we add up the right-hand side in 'rh'.
1339          */
1340
1341         /* rh := X^2 */
1342         if (!field_sqr(group, rh, &point->X, ctx)) goto err;
1343
1344         if (!point->Z_is_one)
1345                 {
1346                 if (!field_sqr(group, tmp, &point->Z, ctx)) goto err;
1347                 if (!field_sqr(group, Z4, tmp, ctx)) goto err;
1348                 if (!field_mul(group, Z6, Z4, tmp, ctx)) goto err;
1349
1350                 /* rh := (rh + a*Z^4)*X */
1351                 if (group->a_is_minus3)
1352                         {
1353                         if (!BN_mod_lshift1_quick(tmp, Z4, p)) goto err;
1354                         if (!BN_mod_add_quick(tmp, tmp, Z4, p)) goto err;
1355                         if (!BN_mod_sub_quick(rh, rh, tmp, p)) goto err;
1356                         if (!field_mul(group, rh, rh, &point->X, ctx)) goto err;
1357                         }
1358                 else
1359                         {
1360                         if (!field_mul(group, tmp, Z4, &group->a, ctx)) goto err;
1361                         if (!BN_mod_add_quick(rh, rh, tmp, p)) goto err;
1362                         if (!field_mul(group, rh, rh, &point->X, ctx)) goto err;
1363                         }
1364
1365                 /* rh := rh + b*Z^6 */
1366                 if (!field_mul(group, tmp, &group->b, Z6, ctx)) goto err;
1367                 if (!BN_mod_add_quick(rh, rh, tmp, p)) goto err;
1368                 }
1369         else
1370                 {
1371                 /* point->Z_is_one */
1372
1373                 /* rh := (rh + a)*X */
1374                 if (!BN_mod_add_quick(rh, rh, &group->a, p)) goto err;
1375                 if (!field_mul(group, rh, rh, &point->X, ctx)) goto err;
1376                 /* rh := rh + b */
1377                 if (!BN_mod_add_quick(rh, rh, &group->b, p)) goto err;
1378                 }
1379
1380         /* 'lh' := Y^2 */
1381         if (!field_sqr(group, tmp, &point->Y, ctx)) goto err;
1382
1383         ret = (0 == BN_ucmp(tmp, rh));
1384
1385  err:
1386         BN_CTX_end(ctx);
1387         if (new_ctx != NULL)
1388                 BN_CTX_free(new_ctx);
1389         return ret;
1390         }
1391
1392
1393 int ec_GFp_simple_cmp(const EC_GROUP *group, const EC_POINT *a, const EC_POINT *b, BN_CTX *ctx)
1394         {
1395         /* return values:
1396          *  -1   error
1397          *   0   equal (in affine coordinates)
1398          *   1   not equal
1399          */
1400
1401         int (*field_mul)(const EC_GROUP *, BIGNUM *, const BIGNUM *, const BIGNUM *, BN_CTX *);
1402         int (*field_sqr)(const EC_GROUP *, BIGNUM *, const BIGNUM *, BN_CTX *);
1403         BN_CTX *new_ctx = NULL;
1404         BIGNUM *tmp1, *tmp2, *Za23, *Zb23;
1405         const BIGNUM *tmp1_, *tmp2_;
1406         int ret = -1;
1407
1408         if (EC_POINT_is_at_infinity(group, a))
1409                 {
1410                 return EC_POINT_is_at_infinity(group, b) ? 0 : 1;
1411                 }
1412
1413         if (EC_POINT_is_at_infinity(group, b))
1414                 return 1;
1415
1416         if (a->Z_is_one && b->Z_is_one)
1417                 {
1418                 return ((BN_cmp(&a->X, &b->X) == 0) && BN_cmp(&a->Y, &b->Y) == 0) ? 0 : 1;
1419                 }
1420
1421         field_mul = group->meth->field_mul;
1422         field_sqr = group->meth->field_sqr;
1423
1424         if (ctx == NULL)
1425                 {
1426                 ctx = new_ctx = BN_CTX_new();
1427                 if (ctx == NULL)
1428                         return -1;
1429                 }
1430
1431         BN_CTX_start(ctx);
1432         tmp1 = BN_CTX_get(ctx);
1433         tmp2 = BN_CTX_get(ctx);
1434         Za23 = BN_CTX_get(ctx);
1435         Zb23 = BN_CTX_get(ctx);
1436         if (Zb23 == NULL) goto end;
1437
1438         /* We have to decide whether
1439          *     (X_a/Z_a^2, Y_a/Z_a^3) = (X_b/Z_b^2, Y_b/Z_b^3),
1440          * or equivalently, whether
1441          *     (X_a*Z_b^2, Y_a*Z_b^3) = (X_b*Z_a^2, Y_b*Z_a^3).
1442          */
1443
1444         if (!b->Z_is_one)
1445                 {
1446                 if (!field_sqr(group, Zb23, &b->Z, ctx)) goto end;
1447                 if (!field_mul(group, tmp1, &a->X, Zb23, ctx)) goto end;
1448                 tmp1_ = tmp1;
1449                 }
1450         else
1451                 tmp1_ = &a->X;
1452         if (!a->Z_is_one)
1453                 {
1454                 if (!field_sqr(group, Za23, &a->Z, ctx)) goto end;
1455                 if (!field_mul(group, tmp2, &b->X, Za23, ctx)) goto end;
1456                 tmp2_ = tmp2;
1457                 }
1458         else
1459                 tmp2_ = &b->X;
1460
1461         /* compare  X_a*Z_b^2  with  X_b*Z_a^2 */
1462         if (BN_cmp(tmp1_, tmp2_) != 0)
1463                 {
1464                 ret = 1; /* points differ */
1465                 goto end;
1466                 }
1467
1468
1469         if (!b->Z_is_one)
1470                 {
1471                 if (!field_mul(group, Zb23, Zb23, &b->Z, ctx)) goto end;
1472                 if (!field_mul(group, tmp1, &a->Y, Zb23, ctx)) goto end;
1473                 /* tmp1_ = tmp1 */
1474                 }
1475         else
1476                 tmp1_ = &a->Y;
1477         if (!a->Z_is_one)
1478                 {
1479                 if (!field_mul(group, Za23, Za23, &a->Z, ctx)) goto end;
1480                 if (!field_mul(group, tmp2, &b->Y, Za23, ctx)) goto end;
1481                 /* tmp2_ = tmp2 */
1482                 }
1483         else
1484                 tmp2_ = &b->Y;
1485
1486         /* compare  Y_a*Z_b^3  with  Y_b*Z_a^3 */
1487         if (BN_cmp(tmp1_, tmp2_) != 0)
1488                 {
1489                 ret = 1; /* points differ */
1490                 goto end;
1491                 }
1492
1493         /* points are equal */
1494         ret = 0;
1495
1496  end:
1497         BN_CTX_end(ctx);
1498         if (new_ctx != NULL)
1499                 BN_CTX_free(new_ctx);
1500         return ret;
1501         }
1502
1503 int ec_GFp_simple_make_affine(const EC_GROUP *group, EC_POINT *point, BN_CTX *ctx)
1504         {
1505         BN_CTX *new_ctx = NULL;
1506         BIGNUM *x, *y;
1507         int ret = 0;
1508
1509         if (point->Z_is_one || EC_POINT_is_at_infinity(group, point))
1510                 return 1;
1511
1512         if (ctx == NULL)
1513                 {
1514                 ctx = new_ctx = BN_CTX_new();
1515                 if (ctx == NULL)
1516                         return 0;
1517                 }
1518
1519         BN_CTX_start(ctx);
1520         x = BN_CTX_get(ctx);
1521         y = BN_CTX_get(ctx);
1522         if (y == NULL) goto err;
1523
1524         if (!EC_POINT_get_affine_coordinates_GFp(group, point, x, y, ctx)) goto err;
1525         if (!EC_POINT_set_affine_coordinates_GFp(group, point, x, y, ctx)) goto err;
1526         if (!point->Z_is_one)
1527                 {
1528                 ECerr(EC_F_EC_GFP_SIMPLE_MAKE_AFFINE, ERR_R_INTERNAL_ERROR);
1529                 goto err;
1530                 }
1531
1532         ret = 1;
1533
1534  err:
1535         BN_CTX_end(ctx);
1536         if (new_ctx != NULL)
1537                 BN_CTX_free(new_ctx);
1538         return ret;
1539         }
1540
1541
1542 int ec_GFp_simple_points_make_affine(const EC_GROUP *group, size_t num, EC_POINT *points[], BN_CTX *ctx)
1543         {
1544         BN_CTX *new_ctx = NULL;
1545         BIGNUM *tmp0, *tmp1;
1546         size_t pow2 = 0;
1547         BIGNUM **heap = NULL;
1548         size_t i;
1549         int ret = 0;
1550
1551         if (num == 0)
1552                 return 1;
1553
1554         if (ctx == NULL)
1555                 {
1556                 ctx = new_ctx = BN_CTX_new();
1557                 if (ctx == NULL)
1558                         return 0;
1559                 }
1560
1561         BN_CTX_start(ctx);
1562         tmp0 = BN_CTX_get(ctx);
1563         tmp1 = BN_CTX_get(ctx);
1564         if (tmp0  == NULL || tmp1 == NULL) goto err;
1565
1566         /* Before converting the individual points, compute inverses of all Z values.
1567          * Modular inversion is rather slow, but luckily we can do with a single
1568          * explicit inversion, plus about 3 multiplications per input value.
1569          */
1570
1571         pow2 = 1;
1572         while (num > pow2)
1573                 pow2 <<= 1;
1574         /* Now pow2 is the smallest power of 2 satifsying pow2 >= num.
1575          * We need twice that. */
1576         pow2 <<= 1;
1577
1578         heap = OPENSSL_malloc(pow2 * sizeof heap[0]);
1579         if (heap == NULL) goto err;
1580
1581         /* The array is used as a binary tree, exactly as in heapsort:
1582          *
1583          *                               heap[1]
1584          *                 heap[2]                     heap[3]
1585          *          heap[4]       heap[5]       heap[6]       heap[7]
1586          *   heap[8]heap[9] heap[10]heap[11] heap[12]heap[13] heap[14] heap[15]
1587          *
1588          * We put the Z's in the last line;
1589          * then we set each other node to the product of its two child-nodes (where
1590          * empty or 0 entries are treated as ones);
1591          * then we invert heap[1];
1592          * then we invert each other node by replacing it by the product of its
1593          * parent (after inversion) and its sibling (before inversion).
1594          */
1595         heap[0] = NULL;
1596         for (i = pow2/2 - 1; i > 0; i--)
1597                 heap[i] = NULL;
1598         for (i = 0; i < num; i++)
1599                 heap[pow2/2 + i] = &points[i]->Z;
1600         for (i = pow2/2 + num; i < pow2; i++)
1601                 heap[i] = NULL;
1602
1603         /* set each node to the product of its children */
1604         for (i = pow2/2 - 1; i > 0; i--)
1605                 {
1606                 heap[i] = BN_new();
1607                 if (heap[i] == NULL) goto err;
1608
1609                 if (heap[2*i] != NULL)
1610                         {
1611                         if ((heap[2*i + 1] == NULL) || BN_is_zero(heap[2*i + 1]))
1612                                 {
1613                                 if (!BN_copy(heap[i], heap[2*i])) goto err;
1614                                 }
1615                         else
1616                                 {
1617                                 if (BN_is_zero(heap[2*i]))
1618                                         {
1619                                         if (!BN_copy(heap[i], heap[2*i + 1])) goto err;
1620                                         }
1621                                 else
1622                                         {
1623                                         if (!group->meth->field_mul(group, heap[i],
1624                                                 heap[2*i], heap[2*i + 1], ctx)) goto err;
1625                                         }
1626                                 }
1627                         }
1628                 }
1629
1630         /* invert heap[1] */
1631         if (!BN_is_zero(heap[1]))
1632                 {
1633                 if (!BN_mod_inverse(heap[1], heap[1], &group->field, ctx))
1634                         {
1635                         ECerr(EC_F_EC_GFP_SIMPLE_POINTS_MAKE_AFFINE, ERR_R_BN_LIB);
1636                         goto err;
1637                         }
1638                 }
1639         if (group->meth->field_encode != 0)
1640                 {
1641                 /* in the Montgomery case, we just turned  R*H  (representing H)
1642                  * into  1/(R*H),  but we need  R*(1/H)  (representing 1/H);
1643                  * i.e. we have need to multiply by the Montgomery factor twice */
1644                 if (!group->meth->field_encode(group, heap[1], heap[1], ctx)) goto err;
1645                 if (!group->meth->field_encode(group, heap[1], heap[1], ctx)) goto err;
1646                 }
1647
1648         /* set other heap[i]'s to their inverses */
1649         for (i = 2; i < pow2/2 + num; i += 2)
1650                 {
1651                 /* i is even */
1652                 if ((heap[i + 1] != NULL) && !BN_is_zero(heap[i + 1]))
1653                         {
1654                         if (!group->meth->field_mul(group, tmp0, heap[i/2], heap[i + 1], ctx)) goto err;
1655                         if (!group->meth->field_mul(group, tmp1, heap[i/2], heap[i], ctx)) goto err;
1656                         if (!BN_copy(heap[i], tmp0)) goto err;
1657                         if (!BN_copy(heap[i + 1], tmp1)) goto err;
1658                         }
1659                 else
1660                         {
1661                         if (!BN_copy(heap[i], heap[i/2])) goto err;
1662                         }
1663                 }
1664
1665         /* we have replaced all non-zero Z's by their inverses, now fix up all the points */
1666         for (i = 0; i < num; i++)
1667                 {
1668                 EC_POINT *p = points[i];
1669
1670                 if (!BN_is_zero(&p->Z))
1671                         {
1672                         /* turn  (X, Y, 1/Z)  into  (X/Z^2, Y/Z^3, 1) */
1673
1674                         if (!group->meth->field_sqr(group, tmp1, &p->Z, ctx)) goto err;
1675                         if (!group->meth->field_mul(group, &p->X, &p->X, tmp1, ctx)) goto err;
1676
1677                         if (!group->meth->field_mul(group, tmp1, tmp1, &p->Z, ctx)) goto err;
1678                         if (!group->meth->field_mul(group, &p->Y, &p->Y, tmp1, ctx)) goto err;
1679
1680                         if (group->meth->field_set_to_one != 0)
1681                                 {
1682                                 if (!group->meth->field_set_to_one(group, &p->Z, ctx)) goto err;
1683                                 }
1684                         else
1685                                 {
1686                                 if (!BN_one(&p->Z)) goto err;
1687                                 }
1688                         p->Z_is_one = 1;
1689                         }
1690                 }
1691
1692         ret = 1;
1693
1694  err:
1695         BN_CTX_end(ctx);
1696         if (new_ctx != NULL)
1697                 BN_CTX_free(new_ctx);
1698         if (heap != NULL)
1699                 {
1700                 /* heap[pow2/2] .. heap[pow2-1] have not been allocated locally! */
1701                 for (i = pow2/2 - 1; i > 0; i--)
1702                         {
1703                         if (heap[i] != NULL)
1704                                 BN_clear_free(heap[i]);
1705                         }
1706                 OPENSSL_free(heap);
1707                 }
1708         return ret;
1709         }
1710
1711
1712 int ec_GFp_simple_field_mul(const EC_GROUP *group, BIGNUM *r, const BIGNUM *a, const BIGNUM *b, BN_CTX *ctx)
1713         {
1714         return BN_mod_mul(r, a, b, &group->field, ctx);
1715         }
1716
1717
1718 int ec_GFp_simple_field_sqr(const EC_GROUP *group, BIGNUM *r, const BIGNUM *a, BN_CTX *ctx)
1719         {
1720         return BN_mod_sqr(r, a, &group->field, ctx);
1721         }