Fix mem leak on error path
[openssl.git] / crypto / srp / srp_lib.c
1 /*
2  * Copyright 2011-2016 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the OpenSSL license (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #ifndef OPENSSL_NO_SRP
11 # include "internal/cryptlib.h"
12 # include <openssl/sha.h>
13 # include <openssl/srp.h>
14 # include <openssl/evp.h>
15 # include "internal/bn_srp.h"
16
17 static BIGNUM *srp_Calc_k(const BIGNUM *N, const BIGNUM *g)
18 {
19     /* k = SHA1(N | PAD(g)) -- tls-srp draft 8 */
20
21     unsigned char digest[SHA_DIGEST_LENGTH];
22     unsigned char *tmp = NULL;
23     EVP_MD_CTX *ctxt = NULL;
24     int longg;
25     int longN = BN_num_bytes(N);
26     BIGNUM *res = NULL;
27
28     if (BN_ucmp(g, N) >= 0)
29         return NULL;
30
31     ctxt = EVP_MD_CTX_new();
32     if (ctxt == NULL)
33         return NULL;
34     if ((tmp = OPENSSL_malloc(longN)) == NULL)
35         goto err;
36     BN_bn2bin(N, tmp);
37
38     if (!EVP_DigestInit_ex(ctxt, EVP_sha1(), NULL)
39         || !EVP_DigestUpdate(ctxt, tmp, longN))
40         goto err;
41
42     memset(tmp, 0, longN);
43     longg = BN_bn2bin(g, tmp);
44     /* use the zeros behind to pad on left */
45     if (!EVP_DigestUpdate(ctxt, tmp + longg, longN - longg)
46         || !EVP_DigestUpdate(ctxt, tmp, longg))
47         goto err;
48
49     if (!EVP_DigestFinal_ex(ctxt, digest, NULL))
50         goto err;
51     res = BN_bin2bn(digest, sizeof(digest), NULL);
52  err:
53     OPENSSL_free(tmp);
54     EVP_MD_CTX_free(ctxt);
55     return res;
56 }
57
58 BIGNUM *SRP_Calc_u(const BIGNUM *A, const BIGNUM *B, const BIGNUM *N)
59 {
60     /* k = SHA1(PAD(A) || PAD(B) ) -- tls-srp draft 8 */
61
62     BIGNUM *u = NULL;
63     unsigned char cu[SHA_DIGEST_LENGTH];
64     unsigned char *cAB = NULL;
65     EVP_MD_CTX *ctxt = NULL;
66     int longN;
67     if ((A == NULL) || (B == NULL) || (N == NULL))
68         return NULL;
69
70     if (BN_ucmp(A, N) >= 0 || BN_ucmp(B, N) >= 0)
71         return NULL;
72
73     longN = BN_num_bytes(N);
74
75     ctxt = EVP_MD_CTX_new();
76     if (ctxt == NULL)
77         return NULL;
78     if ((cAB = OPENSSL_malloc(2 * longN)) == NULL)
79         goto err;
80
81     memset(cAB, 0, longN);
82
83     if (!EVP_DigestInit_ex(ctxt, EVP_sha1(), NULL)
84         || !EVP_DigestUpdate(ctxt, cAB + BN_bn2bin(A, cAB + longN), longN)
85         || !EVP_DigestUpdate(ctxt, cAB + BN_bn2bin(B, cAB + longN), longN))
86         goto err;
87
88     if (!EVP_DigestFinal_ex(ctxt, cu, NULL))
89         goto err;
90
91     if ((u = BN_bin2bn(cu, sizeof(cu), NULL)) == NULL)
92         goto err;
93     if (BN_is_zero(u)) {
94         BN_free(u);
95         u = NULL;
96     }
97
98  err:
99     OPENSSL_free(cAB);
100     EVP_MD_CTX_free(ctxt);
101
102     return u;
103 }
104
105 BIGNUM *SRP_Calc_server_key(const BIGNUM *A, const BIGNUM *v, const BIGNUM *u,
106                             const BIGNUM *b, const BIGNUM *N)
107 {
108     BIGNUM *tmp = NULL, *S = NULL;
109     BN_CTX *bn_ctx;
110
111     if (u == NULL || A == NULL || v == NULL || b == NULL || N == NULL)
112         return NULL;
113
114     if ((bn_ctx = BN_CTX_new()) == NULL || (tmp = BN_new()) == NULL)
115         goto err;
116
117     /* S = (A*v**u) ** b */
118
119     if (!BN_mod_exp(tmp, v, u, N, bn_ctx))
120         goto err;
121     if (!BN_mod_mul(tmp, A, tmp, N, bn_ctx))
122         goto err;
123
124     S = BN_new();
125     if (S != NULL && !BN_mod_exp(S, tmp, b, N, bn_ctx)) {
126         BN_free(S);
127         S = NULL;
128     }
129  err:
130     BN_CTX_free(bn_ctx);
131     BN_clear_free(tmp);
132     return S;
133 }
134
135 BIGNUM *SRP_Calc_B(const BIGNUM *b, const BIGNUM *N, const BIGNUM *g,
136                    const BIGNUM *v)
137 {
138     BIGNUM *kv = NULL, *gb = NULL;
139     BIGNUM *B = NULL, *k = NULL;
140     BN_CTX *bn_ctx;
141
142     if (b == NULL || N == NULL || g == NULL || v == NULL ||
143         (bn_ctx = BN_CTX_new()) == NULL)
144         return NULL;
145
146     if ((kv = BN_new()) == NULL ||
147         (gb = BN_new()) == NULL || (B = BN_new()) == NULL)
148         goto err;
149
150     /* B = g**b + k*v */
151
152     if (!BN_mod_exp(gb, g, b, N, bn_ctx)
153         || (k = srp_Calc_k(N, g)) == NULL
154         || !BN_mod_mul(kv, v, k, N, bn_ctx)
155         || !BN_mod_add(B, gb, kv, N, bn_ctx)) {
156         BN_free(B);
157         B = NULL;
158     }
159  err:
160     BN_CTX_free(bn_ctx);
161     BN_clear_free(kv);
162     BN_clear_free(gb);
163     BN_free(k);
164     return B;
165 }
166
167 BIGNUM *SRP_Calc_x(const BIGNUM *s, const char *user, const char *pass)
168 {
169     unsigned char dig[SHA_DIGEST_LENGTH];
170     EVP_MD_CTX *ctxt;
171     unsigned char *cs;
172     BIGNUM *res = NULL;
173
174     if ((s == NULL) || (user == NULL) || (pass == NULL))
175         return NULL;
176
177     ctxt = EVP_MD_CTX_new();
178     if (ctxt == NULL)
179         return NULL;
180     if ((cs = OPENSSL_malloc(BN_num_bytes(s))) == NULL)
181         goto err;
182
183     if (!EVP_DigestInit_ex(ctxt, EVP_sha1(), NULL)
184         || !EVP_DigestUpdate(ctxt, user, strlen(user))
185         || !EVP_DigestUpdate(ctxt, ":", 1)
186         || !EVP_DigestUpdate(ctxt, pass, strlen(pass))
187         || !EVP_DigestFinal_ex(ctxt, dig, NULL)
188         || !EVP_DigestInit_ex(ctxt, EVP_sha1(), NULL))
189         goto err;
190     BN_bn2bin(s, cs);
191     if (!EVP_DigestUpdate(ctxt, cs, BN_num_bytes(s)))
192         goto err;
193     OPENSSL_free(cs);
194     if (!EVP_DigestUpdate(ctxt, dig, sizeof(dig))
195         || !EVP_DigestFinal_ex(ctxt, dig, NULL))
196         goto err;
197
198     res = BN_bin2bn(dig, sizeof(dig), NULL);
199  err:
200     EVP_MD_CTX_free(ctxt);
201     return res;
202 }
203
204 BIGNUM *SRP_Calc_A(const BIGNUM *a, const BIGNUM *N, const BIGNUM *g)
205 {
206     BN_CTX *bn_ctx;
207     BIGNUM *A = NULL;
208
209     if (a == NULL || N == NULL || g == NULL || (bn_ctx = BN_CTX_new()) == NULL)
210         return NULL;
211
212     if ((A = BN_new()) != NULL && !BN_mod_exp(A, g, a, N, bn_ctx)) {
213         BN_free(A);
214         A = NULL;
215     }
216     BN_CTX_free(bn_ctx);
217     return A;
218 }
219
220 BIGNUM *SRP_Calc_client_key(const BIGNUM *N, const BIGNUM *B, const BIGNUM *g,
221                             const BIGNUM *x, const BIGNUM *a, const BIGNUM *u)
222 {
223     BIGNUM *tmp = NULL, *tmp2 = NULL, *tmp3 = NULL, *k = NULL, *K = NULL;
224     BN_CTX *bn_ctx;
225
226     if (u == NULL || B == NULL || N == NULL || g == NULL || x == NULL
227         || a == NULL || (bn_ctx = BN_CTX_new()) == NULL)
228         return NULL;
229
230     if ((tmp = BN_new()) == NULL ||
231         (tmp2 = BN_new()) == NULL ||
232         (tmp3 = BN_new()) == NULL)
233         goto err;
234
235     if (!BN_mod_exp(tmp, g, x, N, bn_ctx))
236         goto err;
237     if ((k = srp_Calc_k(N, g)) == NULL)
238         goto err;
239     if (!BN_mod_mul(tmp2, tmp, k, N, bn_ctx))
240         goto err;
241     if (!BN_mod_sub(tmp, B, tmp2, N, bn_ctx))
242         goto err;
243     if (!BN_mul(tmp3, u, x, bn_ctx))
244         goto err;
245     if (!BN_add(tmp2, a, tmp3))
246         goto err;
247     K = BN_new();
248     if (K != NULL && !BN_mod_exp(K, tmp, tmp2, N, bn_ctx)) {
249         BN_free(K);
250         K = NULL;
251     }
252
253  err:
254     BN_CTX_free(bn_ctx);
255     BN_clear_free(tmp);
256     BN_clear_free(tmp2);
257     BN_clear_free(tmp3);
258     BN_free(k);
259     return K;
260 }
261
262 int SRP_Verify_B_mod_N(const BIGNUM *B, const BIGNUM *N)
263 {
264     BIGNUM *r;
265     BN_CTX *bn_ctx;
266     int ret = 0;
267
268     if (B == NULL || N == NULL || (bn_ctx = BN_CTX_new()) == NULL)
269         return 0;
270
271     if ((r = BN_new()) == NULL)
272         goto err;
273     /* Checks if B % N == 0 */
274     if (!BN_nnmod(r, B, N, bn_ctx))
275         goto err;
276     ret = !BN_is_zero(r);
277  err:
278     BN_CTX_free(bn_ctx);
279     BN_free(r);
280     return ret;
281 }
282
283 int SRP_Verify_A_mod_N(const BIGNUM *A, const BIGNUM *N)
284 {
285     /* Checks if A % N == 0 */
286     return SRP_Verify_B_mod_N(A, N);
287 }
288
289 static SRP_gN knowngN[] = {
290     {"8192", &bn_generator_19, &bn_group_8192},
291     {"6144", &bn_generator_5, &bn_group_6144},
292     {"4096", &bn_generator_5, &bn_group_4096},
293     {"3072", &bn_generator_5, &bn_group_3072},
294     {"2048", &bn_generator_2, &bn_group_2048},
295     {"1536", &bn_generator_2, &bn_group_1536},
296     {"1024", &bn_generator_2, &bn_group_1024},
297 };
298
299 # define KNOWN_GN_NUMBER sizeof(knowngN) / sizeof(SRP_gN)
300
301 /*
302  * Check if G and N are known parameters. The values have been generated
303  * from the ietf-tls-srp draft version 8
304  */
305 char *SRP_check_known_gN_param(const BIGNUM *g, const BIGNUM *N)
306 {
307     size_t i;
308     if ((g == NULL) || (N == NULL))
309         return 0;
310
311     for (i = 0; i < KNOWN_GN_NUMBER; i++) {
312         if (BN_cmp(knowngN[i].g, g) == 0 && BN_cmp(knowngN[i].N, N) == 0)
313             return knowngN[i].id;
314     }
315     return NULL;
316 }
317
318 SRP_gN *SRP_get_default_gN(const char *id)
319 {
320     size_t i;
321
322     if (id == NULL)
323         return knowngN;
324     for (i = 0; i < KNOWN_GN_NUMBER; i++) {
325         if (strcmp(knowngN[i].id, id) == 0)
326             return knowngN + i;
327     }
328     return NULL;
329 }
330 #endif