crypto/bn/bn_lib.c

   1 /* crypto/bn/bn_lib.c */
   2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
   3  * All rights reserved.
   4  *
   5  * This package is an SSL implementation written
   6  * by Eric Young (eay@cryptsoft.com).
   7  * The implementation was written so as to conform with Netscapes SSL.
   8  *
   9  * This library is free for commercial and non-commercial use as long as
  10  * the following conditions are aheared to.  The following conditions
  11  * apply to all code found in this distribution, be it the RC4, RSA,
  12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
  13  * included with this distribution is covered by the same copyright terms
  14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
  15  *
  16  * Copyright remains Eric Young's, and as such any Copyright notices in
  17  * the code are not to be removed.
  18  * If this package is used in a product, Eric Young should be given attribution
  19  * as the author of the parts of the library used.
  20  * This can be in the form of a textual message at program startup or
  21  * in documentation (online or textual) provided with the package.
  22  *
  23  * Redistribution and use in source and binary forms, with or without
  24  * modification, are permitted provided that the following conditions
  25  * are met:
  26  * 1. Redistributions of source code must retain the copyright
  27  *    notice, this list of conditions and the following disclaimer.
  28  * 2. Redistributions in binary form must reproduce the above copyright
  29  *    notice, this list of conditions and the following disclaimer in the
  30  *    documentation and/or other materials provided with the distribution.
  31  * 3. All advertising materials mentioning features or use of this software
  32  *    must display the following acknowledgement:
  33  *    "This product includes cryptographic software written by
  34  *     Eric Young (eay@cryptsoft.com)"
  35  *    The word 'cryptographic' can be left out if the rouines from the library
  36  *    being used are not cryptographic related :-).
  37  * 4. If you include any Windows specific code (or a derivative thereof) from
  38  *    the apps directory (application code) you must include an acknowledgement:
  39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
  40  *
  41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
  42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
  45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  51  * SUCH DAMAGE.
  52  *
  53  * The licence and distribution terms for any publically available version or
  54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
  55  * copied and put under another distribution licence
  56  * [including the GNU Public Licence.]
  57  */
  58
  59 #ifndef BN_DEBUG
  60 # undef NDEBUG /* avoid conflicting definitions */
  61 # define NDEBUG
  62 #endif
  63
  64 #include <assert.h>
  65 #include <limits.h>
  66 #include <stdio.h>
  67 #include "cryptlib.h"
  68 #include "bn_lcl.h"
  69
  70 const char *BN_version="Big Number" OPENSSL_VERSION_PTEXT;
  71
  72 /* For a 32 bit machine
  73  * 2 -   4 ==  128
  74  * 3 -   8 ==  256
  75  * 4 -  16 ==  512
  76  * 5 -  32 == 1024
  77  * 6 -  64 == 2048
  78  * 7 - 128 == 4096
  79  * 8 - 256 == 8192
  80  */
  81 static int bn_limit_bits=0;
  82 static int bn_limit_num=8;        /* (1<<bn_limit_bits) */
  83 static int bn_limit_bits_low=0;
  84 static int bn_limit_num_low=8;    /* (1<<bn_limit_bits_low) */
  85 static int bn_limit_bits_high=0;
  86 static int bn_limit_num_high=8;   /* (1<<bn_limit_bits_high) */
  87 static int bn_limit_bits_mont=0;
  88 static int bn_limit_num_mont=8;   /* (1<<bn_limit_bits_mont) */
  89
  90 void BN_set_params(int mult, int high, int low, int mont)
  91         {
  92         if (mult >= 0)
  93                 {
  94                 if (mult > (sizeof(int)*8)-1)
  95                         mult=sizeof(int)*8-1;
  96                 bn_limit_bits=mult;
  97                 bn_limit_num=1<<mult;
  98                 }
  99         if (high >= 0)
 100                 {
 101                 if (high > (sizeof(int)*8)-1)
 102                         high=sizeof(int)*8-1;
 103                 bn_limit_bits_high=high;
 104                 bn_limit_num_high=1<<high;
 105                 }
 106         if (low >= 0)
 107                 {
 108                 if (low > (sizeof(int)*8)-1)
 109                         low=sizeof(int)*8-1;
 110                 bn_limit_bits_low=low;
 111                 bn_limit_num_low=1<<low;
 112                 }
 113         if (mont >= 0)
 114                 {
 115                 if (mont > (sizeof(int)*8)-1)
 116                         mont=sizeof(int)*8-1;
 117                 bn_limit_bits_mont=mont;
 118                 bn_limit_num_mont=1<<mont;
 119                 }
 120         }
 121
 122 int BN_get_params(int which)
 123         {
 124         if      (which == 0) return(bn_limit_bits);
 125         else if (which == 1) return(bn_limit_bits_high);
 126         else if (which == 2) return(bn_limit_bits_low);
 127         else if (which == 3) return(bn_limit_bits_mont);
 128         else return(0);
 129         }
 130
 131 BIGNUM *BN_value_one(void)
 132         {
 133         static BN_ULONG data_one=1L;
 134         static BIGNUM const_one={&data_one,1,1,0};
 135
 136         return(&const_one);
 137         }
 138
 139 char *BN_options(void)
 140         {
 141         static int init=0;
 142         static char data[16];
 143
 144         if (!init)
 145                 {
 146                 init++;
 147 #ifdef BN_LLONG
 148                 sprintf(data,"bn(%d,%d)",(int)sizeof(BN_ULLONG)*8,
 149                         (int)sizeof(BN_ULONG)*8);
 150 #else
 151                 sprintf(data,"bn(%d,%d)",(int)sizeof(BN_ULONG)*8,
 152                         (int)sizeof(BN_ULONG)*8);
 153 #endif
 154                 }
 155         return(data);
 156         }
 157
 158 int BN_num_bits_word(BN_ULONG l)
 159         {
 160         static const char bits[256]={
 161                 0,1,2,2,3,3,3,3,4,4,4,4,4,4,4,4,
 162                 5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,5,
 163                 6,6,6,6,6,6,6,6,6,6,6,6,6,6,6,6,
 164                 6,6,6,6,6,6,6,6,6,6,6,6,6,6,6,6,
 165                 7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,
 166                 7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,
 167                 7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,
 168                 7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,7,
 169                 8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,
 170                 8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,
 171                 8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,
 172                 8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,
 173                 8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,
 174                 8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,
 175                 8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,
 176                 8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,8,
 177                 };
 178
 179 #if defined(SIXTY_FOUR_BIT_LONG)
 180         if (l & 0xffffffff00000000L)
 181                 {
 182                 if (l & 0xffff000000000000L)
 183                         {
 184                         if (l & 0xff00000000000000L)
 185                                 {
 186                                 return(bits[(int)(l>>56)]+56);
 187                                 }
 188                         else    return(bits[(int)(l>>48)]+48);
 189                         }
 190                 else
 191                         {
 192                         if (l & 0x0000ff0000000000L)
 193                                 {
 194                                 return(bits[(int)(l>>40)]+40);
 195                                 }
 196                         else    return(bits[(int)(l>>32)]+32);
 197                         }
 198                 }
 199         else
 200 #else
 201 #ifdef SIXTY_FOUR_BIT
 202         if (l & 0xffffffff00000000LL)
 203                 {
 204                 if (l & 0xffff000000000000LL)
 205                         {
 206                         if (l & 0xff00000000000000LL)
 207                                 {
 208                                 return(bits[(int)(l>>56)]+56);
 209                                 }
 210                         else    return(bits[(int)(l>>48)]+48);
 211                         }
 212                 else
 213                         {
 214                         if (l & 0x0000ff0000000000LL)
 215                                 {
 216                                 return(bits[(int)(l>>40)]+40);
 217                                 }
 218                         else    return(bits[(int)(l>>32)]+32);
 219                         }
 220                 }
 221         else
 222 #endif
 223 #endif
 224                 {
 225 #if defined(THIRTY_TWO_BIT) || defined(SIXTY_FOUR_BIT) || defined(SIXTY_FOUR_BIT_LONG)
 226                 if (l & 0xffff0000L)
 227                         {
 228                         if (l & 0xff000000L)
 229                                 return(bits[(int)(l>>24L)]+24);
 230                         else    return(bits[(int)(l>>16L)]+16);
 231                         }
 232                 else
 233 #endif
 234                         {
 235 #if defined(SIXTEEN_BIT) || defined(THIRTY_TWO_BIT) || defined(SIXTY_FOUR_BIT) || defined(SIXTY_FOUR_BIT_LONG)
 236                         if (l & 0xff00L)
 237                                 return(bits[(int)(l>>8)]+8);
 238                         else
 239 #endif
 240                                 return(bits[(int)(l   )]  );
 241                         }
 242                 }
 243         }
 244
 245 int BN_num_bits(const BIGNUM *a)
 246         {
 247         BN_ULONG l;
 248         int i;
 249
 250         bn_check_top(a);
 251
 252         if (a->top == 0) return(0);
 253         l=a->d[a->top-1];
 254         assert(l != 0);
 255         i=(a->top-1)*BN_BITS2;
 256         return(i+BN_num_bits_word(l));
 257         }
 258
 259 void BN_clear_free(BIGNUM *a)
 260         {
 261         int i;
 262
 263         if (a == NULL) return;
 264         if (a->d != NULL)
 265                 {
 266                 memset(a->d,0,a->dmax*sizeof(a->d[0]));
 267                 if (!(BN_get_flags(a,BN_FLG_STATIC_DATA)))
 268                         OPENSSL_free(a->d);
 269                 }
 270         i=BN_get_flags(a,BN_FLG_MALLOCED);
 271         memset(a,0,sizeof(BIGNUM));
 272         if (i)
 273                 OPENSSL_free(a);
 274         }
 275
 276 void BN_free(BIGNUM *a)
 277         {
 278         if (a == NULL) return;
 279         if ((a->d != NULL) && !(BN_get_flags(a,BN_FLG_STATIC_DATA)))
 280                 OPENSSL_free(a->d);
 281         a->flags|=BN_FLG_FREE; /* REMOVE? */
 282         if (a->flags & BN_FLG_MALLOCED)
 283                 OPENSSL_free(a);
 284         }
 285
 286 void BN_init(BIGNUM *a)
 287         {
 288         memset(a,0,sizeof(BIGNUM));
 289         }
 290
 291 BIGNUM *BN_new(void)
 292         {
 293         BIGNUM *ret;
 294
 295         if ((ret=(BIGNUM *)OPENSSL_malloc(sizeof(BIGNUM))) == NULL)
 296                 {
 297                 BNerr(BN_F_BN_NEW,ERR_R_MALLOC_FAILURE);
 298                 return(NULL);
 299                 }
 300         ret->flags=BN_FLG_MALLOCED;
 301         ret->top=0;
 302         ret->neg=0;
 303         ret->dmax=0;
 304         ret->d=NULL;
 305         return(ret);
 306         }
 307
 308 /* This is used both by bn_expand2() and bn_dup_expand() */
 309 /* The caller MUST check that words > b->dmax before calling this */
 310 static BN_ULONG *bn_expand_internal(const BIGNUM *b, int words)
 311         {
 312         BN_ULONG *A,*a = NULL;
 313         const BN_ULONG *B;
 314         int i;
 315
 316         if (words > (INT_MAX/(4*BN_BITS2)))
 317                 {
 318                 BNerr(BN_F_BN_EXPAND_INTERNAL,BN_R_BIGNUM_TOO_LONG);
 319                 return NULL;
 320                 }
 321
 322         bn_check_top(b);
 323         if (BN_get_flags(b,BN_FLG_STATIC_DATA))
 324                 {
 325                 BNerr(BN_F_BN_EXPAND_INTERNAL,BN_R_EXPAND_ON_STATIC_BIGNUM_DATA);
 326                 return(NULL);
 327                 }
 328         a=A=(BN_ULONG *)OPENSSL_malloc(sizeof(BN_ULONG)*(words+1));
 329         if (A == NULL)
 330                 {
 331                 BNerr(BN_F_BN_EXPAND_INTERNAL,ERR_R_MALLOC_FAILURE);
 332                 return(NULL);
 333                 }
 334 #if 1
 335         B=b->d;
 336         /* Check if the previous number needs to be copied */
 337         if (B != NULL)
 338                 {
 339                 for (i=b->top>>2; i>0; i--,A+=4,B+=4)
 340                         {
 341                         /*
 342                          * The fact that the loop is unrolled
 343                          * 4-wise is a tribute to Intel. It's
 344                          * the one that doesn't have enough
 345                          * registers to accomodate more data.
 346                          * I'd unroll it 8-wise otherwise:-)
 347                          *
 348                          *              <appro@fy.chalmers.se>
 349                          */
 350                         BN_ULONG a0,a1,a2,a3;
 351                         a0=B[0]; a1=B[1]; a2=B[2]; a3=B[3];
 352                         A[0]=a0; A[1]=a1; A[2]=a2; A[3]=a3;
 353                         }
 354                 switch (b->top&3)
 355                         {
 356                 case 3: A[2]=B[2];
 357                 case 2: A[1]=B[1];
 358                 case 1: A[0]=B[0];
 359                 case 0: /* workaround for ultrix cc: without 'case 0', the optimizer does
 360                          * the switch table by doing a=top&3; a--; goto jump_table[a];
 361                          * which fails for top== 0 */
 362                         ;
 363                         }
 364                 }
 365
 366         /* Now need to zero any data between b->top and b->max */
 367         /* XXX Why? */
 368
 369         A= &(a[b->top]);
 370         for (i=(words - b->top)>>3; i>0; i--,A+=8)
 371                 {
 372                 A[0]=0; A[1]=0; A[2]=0; A[3]=0;
 373                 A[4]=0; A[5]=0; A[6]=0; A[7]=0;
 374                 }
 375         for (i=(words - b->top)&7; i>0; i--,A++)
 376                 A[0]=0;
 377 #else
 378         memset(A,0,sizeof(BN_ULONG)*(words+1));
 379         memcpy(A,b->d,sizeof(b->d[0])*b->top);
 380 #endif
 381
 382         return(a);
 383         }
 384
 385 /* This is an internal function that can be used instead of bn_expand2()
 386  * when there is a need to copy BIGNUMs instead of only expanding the
 387  * data part, while still expanding them.
 388  * Especially useful when needing to expand BIGNUMs that are declared
 389  * 'const' and should therefore not be changed.
 390  * The reason to use this instead of a BN_dup() followed by a bn_expand2()
 391  * is memory allocation overhead.  A BN_dup() followed by a bn_expand2()
 392  * will allocate new memory for the BIGNUM data twice, and free it once,
 393  * while bn_dup_expand() makes sure allocation is made only once.
 394  */
 395
 396 BIGNUM *bn_dup_expand(const BIGNUM *b, int words)
 397         {
 398         BIGNUM *r = NULL;
 399
 400         if (words > b->dmax)
 401                 {
 402                 BN_ULONG *a = bn_expand_internal(b, words);
 403
 404                 if (a)
 405                         {
 406                         r = BN_new();
 407                         if (r)
 408                                 {
 409                                 r->top = b->top;
 410                                 r->dmax = words;
 411                                 r->neg = b->neg;
 412                                 r->d = a;
 413                                 }
 414                         else
 415                                 {
 416                                 /* r == NULL, BN_new failure */
 417                                 OPENSSL_free(a);
 418                                 }
 419                         }
 420                 /* If a == NULL, there was an error in allocation in
 421                    bn_expand_internal(), and NULL should be returned */
 422                 }
 423         else
 424                 {
 425                 r = BN_dup(b);
 426                 }
 427
 428         return r;
 429         }
 430
 431 /* This is an internal function that should not be used in applications.
 432  * It ensures that 'b' has enough room for a 'words' word number number.
 433  * It is mostly used by the various BIGNUM routines. If there is an error,
 434  * NULL is returned. If not, 'b' is returned. */
 435
 436 BIGNUM *bn_expand2(BIGNUM *b, int words)
 437         {
 438         if (words > b->dmax)
 439                 {
 440                 BN_ULONG *a = bn_expand_internal(b, words);
 441
 442                 if (a)
 443                         {
 444                         if (b->d)
 445                                 OPENSSL_free(b->d);
 446                         b->d=a;
 447                         b->dmax=words;
 448                         }
 449                 else
 450                         b = NULL;
 451                 }
 452         return b;
 453         }
 454
 455 BIGNUM *BN_dup(const BIGNUM *a)
 456         {
 457         BIGNUM *r, *t;
 458
 459         if (a == NULL) return NULL;
 460
 461         bn_check_top(a);
 462
 463         t = BN_new();
 464         if (t == NULL) return(NULL);
 465         r = BN_copy(t, a);
 466         /* now  r == t || r == NULL */
 467         if (r == NULL)
 468                 BN_free(t);
 469         return r;
 470         }
 471
 472 BIGNUM *BN_copy(BIGNUM *a, const BIGNUM *b)
 473         {
 474         int i;
 475         BN_ULONG *A;
 476         const BN_ULONG *B;
 477
 478         bn_check_top(b);
 479
 480         if (a == b) return(a);
 481         if (bn_wexpand(a,b->top) == NULL) return(NULL);
 482
 483 #if 1
 484         A=a->d;
 485         B=b->d;
 486         for (i=b->top>>2; i>0; i--,A+=4,B+=4)
 487                 {
 488                 BN_ULONG a0,a1,a2,a3;
 489                 a0=B[0]; a1=B[1]; a2=B[2]; a3=B[3];
 490                 A[0]=a0; A[1]=a1; A[2]=a2; A[3]=a3;
 491                 }
 492         switch (b->top&3)
 493                 {
 494                 case 3: A[2]=B[2];
 495                 case 2: A[1]=B[1];
 496                 case 1: A[0]=B[0];
 497                 case 0: ; /* ultrix cc workaround, see comments in bn_expand_internal */
 498                 }
 499 #else
 500         memcpy(a->d,b->d,sizeof(b->d[0])*b->top);
 501 #endif
 502
 503 /*      memset(&(a->d[b->top]),0,sizeof(a->d[0])*(a->max-b->top));*/
 504         a->top=b->top;
 505         if ((a->top == 0) && (a->d != NULL))
 506                 a->d[0]=0;
 507         a->neg=b->neg;
 508         return(a);
 509         }
 510
 511 void BN_swap(BIGNUM *a, BIGNUM *b)
 512         {
 513         int flags_old_a, flags_old_b;
 514         BN_ULONG *tmp_d;
 515         int tmp_top, tmp_dmax, tmp_neg;
 516
 517         flags_old_a = a->flags;
 518         flags_old_b = b->flags;
 519
 520         tmp_d = a->d;
 521         tmp_top = a->top;
 522         tmp_dmax = a->dmax;
 523         tmp_neg = a->neg;
 524
 525         a->d = b->d;
 526         a->top = b->top;
 527         a->dmax = b->dmax;
 528         a->neg = b->neg;
 529
 530         b->d = tmp_d;
 531         b->top = tmp_top;
 532         b->dmax = tmp_dmax;
 533         b->neg = tmp_neg;
 534
 535         a->flags = (flags_old_a & BN_FLG_MALLOCED) | (flags_old_b & BN_FLG_STATIC_DATA);
 536         b->flags = (flags_old_b & BN_FLG_MALLOCED) | (flags_old_a & BN_FLG_STATIC_DATA);
 537         }
 538
 539
 540 void BN_clear(BIGNUM *a)
 541         {
 542         if (a->d != NULL)
 543                 memset(a->d,0,a->dmax*sizeof(a->d[0]));
 544         a->top=0;
 545         a->neg=0;
 546         }
 547
 548 BN_ULONG BN_get_word(const BIGNUM *a)
 549         {
 550         int i,n;
 551         BN_ULONG ret=0;
 552
 553         n=BN_num_bytes(a);
 554         if (n > sizeof(BN_ULONG))
 555                 return(BN_MASK2);
 556         for (i=a->top-1; i>=0; i--)
 557                 {
 558 #ifndef SIXTY_FOUR_BIT /* the data item > unsigned long */
 559                 ret<<=BN_BITS4; /* stops the compiler complaining */
 560                 ret<<=BN_BITS4;
 561 #else
 562                 ret=0;
 563 #endif
 564                 ret|=a->d[i];
 565                 }
 566         return(ret);
 567         }
 568
 569 int BN_set_word(BIGNUM *a, BN_ULONG w)
 570         {
 571         int i,n;
 572         if (bn_expand(a,sizeof(BN_ULONG)*8) == NULL) return(0);
 573
 574         n=sizeof(BN_ULONG)/BN_BYTES;
 575         a->neg=0;
 576         a->top=0;
 577         a->d[0]=(BN_ULONG)w&BN_MASK2;
 578         if (a->d[0] != 0) a->top=1;
 579         for (i=1; i<n; i++)
 580                 {
 581                 /* the following is done instead of
 582                  * w>>=BN_BITS2 so compilers don't complain
 583                  * on builds where sizeof(long) == BN_TYPES */
 584 #ifndef SIXTY_FOUR_BIT /* the data item > unsigned long */
 585                 w>>=BN_BITS4;
 586                 w>>=BN_BITS4;
 587 #else
 588                 w=0;
 589 #endif
 590                 a->d[i]=(BN_ULONG)w&BN_MASK2;
 591                 if (a->d[i] != 0) a->top=i+1;
 592                 }
 593         return(1);
 594         }
 595
 596 BIGNUM *BN_bin2bn(const unsigned char *s, int len, BIGNUM *ret)
 597         {
 598         unsigned int i,m;
 599         unsigned int n;
 600         BN_ULONG l;
 601
 602         if (ret == NULL) ret=BN_new();
 603         if (ret == NULL) return(NULL);
 604         l=0;
 605         n=len;
 606         if (n == 0)
 607                 {
 608                 ret->top=0;
 609                 return(ret);
 610                 }
 611         if (bn_expand(ret,(int)(n+2)*8) == NULL)
 612                 return(NULL);
 613         i=((n-1)/BN_BYTES)+1;
 614         m=((n-1)%(BN_BYTES));
 615         ret->top=i;
 616         ret->neg=0;
 617         while (n-- > 0)
 618                 {
 619                 l=(l<<8L)| *(s++);
 620                 if (m-- == 0)
 621                         {
 622                         ret->d[--i]=l;
 623                         l=0;
 624                         m=BN_BYTES-1;
 625                         }
 626                 }
 627         /* need to call this due to clear byte at top if avoiding
 628          * having the top bit set (-ve number) */
 629         bn_fix_top(ret);
 630         return(ret);
 631         }
 632
 633 /* ignore negative */
 634 int BN_bn2bin(const BIGNUM *a, unsigned char *to)
 635         {
 636         int n,i;
 637         BN_ULONG l;
 638
 639         n=i=BN_num_bytes(a);
 640         while (i-- > 0)
 641                 {
 642                 l=a->d[i/BN_BYTES];
 643                 *(to++)=(unsigned char)(l>>(8*(i%BN_BYTES)))&0xff;
 644                 }
 645         return(n);
 646         }
 647
 648 int BN_ucmp(const BIGNUM *a, const BIGNUM *b)
 649         {
 650         int i;
 651         BN_ULONG t1,t2,*ap,*bp;
 652
 653         bn_check_top(a);
 654         bn_check_top(b);
 655
 656         i=a->top-b->top;
 657         if (i != 0) return(i);
 658         ap=a->d;
 659         bp=b->d;
 660         for (i=a->top-1; i>=0; i--)
 661                 {
 662                 t1= ap[i];
 663                 t2= bp[i];
 664                 if (t1 != t2)
 665                         return(t1 > t2?1:-1);
 666                 }
 667         return(0);
 668         }
 669
 670 int BN_cmp(const BIGNUM *a, const BIGNUM *b)
 671         {
 672         int i;
 673         int gt,lt;
 674         BN_ULONG t1,t2;
 675
 676         if ((a == NULL) || (b == NULL))
 677                 {
 678                 if (a != NULL)
 679                         return(-1);
 680                 else if (b != NULL)
 681                         return(1);
 682                 else
 683                         return(0);
 684                 }
 685
 686         bn_check_top(a);
 687         bn_check_top(b);
 688
 689         if (a->neg != b->neg)
 690                 {
 691                 if (a->neg)
 692                         return(-1);
 693                 else    return(1);
 694                 }
 695         if (a->neg == 0)
 696                 { gt=1; lt= -1; }
 697         else    { gt= -1; lt=1; }
 698
 699         if (a->top > b->top) return(gt);
 700         if (a->top < b->top) return(lt);
 701         for (i=a->top-1; i>=0; i--)
 702                 {
 703                 t1=a->d[i];
 704                 t2=b->d[i];
 705                 if (t1 > t2) return(gt);
 706                 if (t1 < t2) return(lt);
 707                 }
 708         return(0);
 709         }
 710
 711 int BN_set_bit(BIGNUM *a, int n)
 712         {
 713         int i,j,k;
 714
 715         i=n/BN_BITS2;
 716         j=n%BN_BITS2;
 717         if (a->top <= i)
 718                 {
 719                 if (bn_wexpand(a,i+1) == NULL) return(0);
 720                 for(k=a->top; k<i+1; k++)
 721                         a->d[k]=0;
 722                 a->top=i+1;
 723                 }
 724
 725         a->d[i]|=(((BN_ULONG)1)<<j);
 726         return(1);
 727         }
 728
 729 int BN_clear_bit(BIGNUM *a, int n)
 730         {
 731         int i,j;
 732
 733         i=n/BN_BITS2;
 734         j=n%BN_BITS2;
 735         if (a->top <= i) return(0);
 736
 737         a->d[i]&=(~(((BN_ULONG)1)<<j));
 738         bn_fix_top(a);
 739         return(1);
 740         }
 741
 742 int BN_is_bit_set(const BIGNUM *a, int n)
 743         {
 744         int i,j;
 745
 746         if (n < 0) return(0);
 747         i=n/BN_BITS2;
 748         j=n%BN_BITS2;
 749         if (a->top <= i) return(0);
 750         return((a->d[i]&(((BN_ULONG)1)<<j))?1:0);
 751         }
 752
 753 int BN_mask_bits(BIGNUM *a, int n)
 754         {
 755         int b,w;
 756
 757         w=n/BN_BITS2;
 758         b=n%BN_BITS2;
 759         if (w >= a->top) return(0);
 760         if (b == 0)
 761                 a->top=w;
 762         else
 763                 {
 764                 a->top=w+1;
 765                 a->d[w]&= ~(BN_MASK2<<b);
 766                 }
 767         bn_fix_top(a);
 768         return(1);
 769         }
 770
 771 int bn_cmp_words(const BN_ULONG *a, const BN_ULONG *b, int n)
 772         {
 773         int i;
 774         BN_ULONG aa,bb;
 775
 776         aa=a[n-1];
 777         bb=b[n-1];
 778         if (aa != bb) return((aa > bb)?1:-1);
 779         for (i=n-2; i>=0; i--)
 780                 {
 781                 aa=a[i];
 782                 bb=b[i];
 783                 if (aa != bb) return((aa > bb)?1:-1);
 784                 }
 785         return(0);
 786         }
 787
 788 /* Here follows a specialised variants of bn_cmp_words().  It has the
 789    property of performing the operation on arrays of different sizes.
 790    The sizes of those arrays is expressed through cl, which is the
 791    common length ( basicall, min(len(a),len(b)) ), and dl, which is the
 792    delta between the two lengths, calculated as len(a)-len(b).
 793    All lengths are the number of BN_ULONGs...  */
 794
 795 int bn_cmp_part_words(const BN_ULONG *a, const BN_ULONG *b,
 796         int cl, int dl)
 797         {
 798         int n,i;
 799         n = cl-1;
 800
 801         if (dl < 0)
 802                 {
 803                 for (i=dl; i<0; i++)
 804                         {
 805                         if (b[n-i] != 0)
 806                                 return -1; /* a < b */
 807                         }
 808                 }
 809         if (dl > 0)
 810                 {
 811                 for (i=dl; i>0; i--)
 812                         {
 813                         if (a[n+i] != 0)
 814                                 return 1; /* a > b */
 815                         }
 816                 }
 817         return bn_cmp_words(a,b,cl);
 818         }