Avoid getting warnings about unary - being used on unsigned integer.
[openssl.git] / crypto / bn / bn_exp2.c
1 /* crypto/bn/bn_exp2.c */
2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
3  * All rights reserved.
4  *
5  * This package is an SSL implementation written
6  * by Eric Young (eay@cryptsoft.com).
7  * The implementation was written so as to conform with Netscapes SSL.
8  * 
9  * This library is free for commercial and non-commercial use as long as
10  * the following conditions are aheared to.  The following conditions
11  * apply to all code found in this distribution, be it the RC4, RSA,
12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
13  * included with this distribution is covered by the same copyright terms
14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
15  * 
16  * Copyright remains Eric Young's, and as such any Copyright notices in
17  * the code are not to be removed.
18  * If this package is used in a product, Eric Young should be given attribution
19  * as the author of the parts of the library used.
20  * This can be in the form of a textual message at program startup or
21  * in documentation (online or textual) provided with the package.
22  * 
23  * Redistribution and use in source and binary forms, with or without
24  * modification, are permitted provided that the following conditions
25  * are met:
26  * 1. Redistributions of source code must retain the copyright
27  *    notice, this list of conditions and the following disclaimer.
28  * 2. Redistributions in binary form must reproduce the above copyright
29  *    notice, this list of conditions and the following disclaimer in the
30  *    documentation and/or other materials provided with the distribution.
31  * 3. All advertising materials mentioning features or use of this software
32  *    must display the following acknowledgement:
33  *    "This product includes cryptographic software written by
34  *     Eric Young (eay@cryptsoft.com)"
35  *    The word 'cryptographic' can be left out if the rouines from the library
36  *    being used are not cryptographic related :-).
37  * 4. If you include any Windows specific code (or a derivative thereof) from 
38  *    the apps directory (application code) you must include an acknowledgement:
39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
40  * 
41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
51  * SUCH DAMAGE.
52  * 
53  * The licence and distribution terms for any publically available version or
54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
55  * copied and put under another distribution licence
56  * [including the GNU Public Licence.]
57  */
58 /* ====================================================================
59  * Copyright (c) 1998-2000 The OpenSSL Project.  All rights reserved.
60  *
61  * Redistribution and use in source and binary forms, with or without
62  * modification, are permitted provided that the following conditions
63  * are met:
64  *
65  * 1. Redistributions of source code must retain the above copyright
66  *    notice, this list of conditions and the following disclaimer. 
67  *
68  * 2. Redistributions in binary form must reproduce the above copyright
69  *    notice, this list of conditions and the following disclaimer in
70  *    the documentation and/or other materials provided with the
71  *    distribution.
72  *
73  * 3. All advertising materials mentioning features or use of this
74  *    software must display the following acknowledgment:
75  *    "This product includes software developed by the OpenSSL Project
76  *    for use in the OpenSSL Toolkit. (http://www.openssl.org/)"
77  *
78  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
79  *    endorse or promote products derived from this software without
80  *    prior written permission. For written permission, please contact
81  *    openssl-core@openssl.org.
82  *
83  * 5. Products derived from this software may not be called "OpenSSL"
84  *    nor may "OpenSSL" appear in their names without prior written
85  *    permission of the OpenSSL Project.
86  *
87  * 6. Redistributions of any form whatsoever must retain the following
88  *    acknowledgment:
89  *    "This product includes software developed by the OpenSSL Project
90  *    for use in the OpenSSL Toolkit (http://www.openssl.org/)"
91  *
92  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
93  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
94  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
95  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
96  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
97  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
98  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
99  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
100  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
101  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
102  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
103  * OF THE POSSIBILITY OF SUCH DAMAGE.
104  * ====================================================================
105  *
106  * This product includes cryptographic software written by Eric Young
107  * (eay@cryptsoft.com).  This product includes software written by Tim
108  * Hudson (tjh@cryptsoft.com).
109  *
110  */
111
112 #include <stdio.h>
113 #include "cryptlib.h"
114 #include "bn_lcl.h"
115
116 #define TABLE_SIZE      32
117
118 int BN_mod_exp2_mont(BIGNUM *rr, const BIGNUM *a1, const BIGNUM *p1,
119         const BIGNUM *a2, const BIGNUM *p2, const BIGNUM *m,
120         BN_CTX *ctx, BN_MONT_CTX *in_mont)
121         {
122         int i,j,bits,b,bits1,bits2,ret=0,wpos1,wpos2,window1,window2,wvalue1,wvalue2;
123         int r_is_one=1,ts1=0,ts2=0;
124         BIGNUM *d,*r;
125         const BIGNUM *a_mod_m;
126         BIGNUM val1[TABLE_SIZE], val2[TABLE_SIZE];
127         BN_MONT_CTX *mont=NULL;
128
129         bn_check_top(a1);
130         bn_check_top(p1);
131         bn_check_top(a2);
132         bn_check_top(p2);
133         bn_check_top(m);
134
135         if (!(m->d[0] & 1))
136                 {
137                 BNerr(BN_F_BN_MOD_EXP2_MONT,BN_R_CALLED_WITH_EVEN_MODULUS);
138                 return(0);
139                 }
140         bits1=BN_num_bits(p1);
141         bits2=BN_num_bits(p2);
142         if ((bits1 == 0) && (bits2 == 0))
143                 {
144                 BN_one(rr);
145                 return(1);
146                 }
147         bits=(bits1 > bits2)?bits1:bits2;
148
149         BN_CTX_start(ctx);
150         d = BN_CTX_get(ctx);
151         r = BN_CTX_get(ctx);
152         if (d == NULL || r == NULL) goto err;
153
154         if (in_mont != NULL)
155                 mont=in_mont;
156         else
157                 {
158                 if ((mont=BN_MONT_CTX_new()) == NULL) goto err;
159                 if (!BN_MONT_CTX_set(mont,m,ctx)) goto err;
160                 }
161
162         window1 = BN_window_bits_for_exponent_size(bits1);
163         window2 = BN_window_bits_for_exponent_size(bits2);
164
165         /*
166          * Build table for a1:   val1[i] := a1^(2*i + 1) mod m  for i = 0 .. 2^(window1-1)
167          */
168         BN_init(&val1[0]);
169         ts1=1;
170         if (BN_ucmp(a1,m) >= 0)
171                 {
172                 if (!BN_mod(&(val1[0]),a1,m,ctx))
173                         goto err;
174                 a_mod_m = &(val1[0]);
175                 }
176         else
177                 a_mod_m = a1;
178         if (!BN_to_montgomery(&(val1[0]),a_mod_m,mont,ctx)) goto err;
179         if (window1 > 1)
180                 {
181                 if (!BN_mod_mul_montgomery(d,&(val1[0]),&(val1[0]),mont,ctx)) goto err;
182
183                 j=1<<(window1-1);
184                 for (i=1; i<j; i++)
185                         {
186                         BN_init(&(val1[i]));
187                         if (!BN_mod_mul_montgomery(&(val1[i]),&(val1[i-1]),d,mont,ctx))
188                                 goto err;
189                         }
190                 ts1=i;
191                 }
192
193
194         /*
195          * Build table for a2:   val2[i] := a2^(2*i + 1) mod m  for i = 0 .. 2^(window2-1)
196          */
197         BN_init(&val2[0]);
198         ts2=1;
199         if (BN_ucmp(a2,m) >= 0)
200                 {
201                 if (!BN_mod(&(val2[0]),a2,m,ctx))
202                         goto err;
203                 a_mod_m = &(val2[0]);
204                 }
205         else
206                 a_mod_m = a2;
207         if (!BN_to_montgomery(&(val2[0]),a_mod_m,mont,ctx)) goto err;
208         if (window2 > 1)
209                 {
210                 if (!BN_mod_mul_montgomery(d,&(val2[0]),&(val2[0]),mont,ctx)) goto err;
211
212                 j=1<<(window2-1);
213                 for (i=1; i<j; i++)
214                         {
215                         BN_init(&(val2[i]));
216                         if (!BN_mod_mul_montgomery(&(val2[i]),&(val2[i-1]),d,mont,ctx))
217                                 goto err;
218                         }
219                 ts2=i;
220                 }
221
222
223         /* Now compute the power product, using independent windows. */
224         r_is_one=1;
225         wvalue1=0;  /* The 'value' of the first window */
226         wvalue2=0;  /* The 'value' of the second window */
227         wpos1=0;    /* If wvalue1 > 0, the bottom bit of the first window */
228         wpos2=0;    /* If wvalue2 > 0, the bottom bit of the second window */
229
230         if (!BN_to_montgomery(r,BN_value_one(),mont,ctx)) goto err;
231         for (b=bits-1; b>=0; b--)
232                 {
233                 if (!r_is_one)
234                         {
235                         if (!BN_mod_mul_montgomery(r,r,r,mont,ctx))
236                                 goto err;
237                         }
238                 
239                 if (!wvalue1)
240                         if (BN_is_bit_set(p1, b))
241                                 {
242                                 /* consider bits b-window1+1 .. b for this window */
243                                 i = b-window1+1;
244                                 while (!BN_is_bit_set(p1, i)) /* works for i<0 */
245                                         i++;
246                                 wpos1 = i;
247                                 wvalue1 = 1;
248                                 for (i = b-1; i >= wpos1; i--)
249                                         {
250                                         wvalue1 <<= 1;
251                                         if (BN_is_bit_set(p1, i))
252                                                 wvalue1++;
253                                         }
254                                 }
255                 
256                 if (!wvalue2)
257                         if (BN_is_bit_set(p2, b))
258                                 {
259                                 /* consider bits b-window2+1 .. b for this window */
260                                 i = b-window2+1;
261                                 while (!BN_is_bit_set(p2, i))
262                                         i++;
263                                 wpos2 = i;
264                                 wvalue2 = 1;
265                                 for (i = b-1; i >= wpos2; i--)
266                                         {
267                                         wvalue2 <<= 1;
268                                         if (BN_is_bit_set(p2, i))
269                                                 wvalue2++;
270                                         }
271                                 }
272
273                 if (wvalue1 && b == wpos1)
274                         {
275                         /* wvalue1 is odd and < 2^window1 */
276                         if (!BN_mod_mul_montgomery(r,r,&(val1[wvalue1>>1]),mont,ctx))
277                                 goto err;
278                         wvalue1 = 0;
279                         r_is_one = 0;
280                         }
281                 
282                 if (wvalue2 && b == wpos2)
283                         {
284                         /* wvalue2 is odd and < 2^window2 */
285                         if (!BN_mod_mul_montgomery(r,r,&(val2[wvalue2>>1]),mont,ctx))
286                                 goto err;
287                         wvalue2 = 0;
288                         r_is_one = 0;
289                         }
290                 }
291         BN_from_montgomery(rr,r,mont,ctx);
292         ret=1;
293 err:
294         if ((in_mont == NULL) && (mont != NULL)) BN_MONT_CTX_free(mont);
295         BN_CTX_end(ctx);
296         for (i=0; i<ts1; i++)
297                 BN_clear_free(&(val1[i]));
298         for (i=0; i<ts2; i++)
299                 BN_clear_free(&(val2[i]));
300         return(ret);
301         }