b1615bfa6c75c49044a0dd782223778b94d1b26b
[openssl.git] / engines / ccgost / gost_ameth.c
1 /**********************************************************************
2  *                          gost_ameth.c                              *
3  *             Copyright (c) 2005-2006 Cryptocom LTD                  *
4  *         This file is distributed under the same license as OpenSSL *
5  *                                                                    *
6  *       Implementation of RFC 4490/4491 ASN1 method                  *
7  *       for OpenSSL                                                  *
8  *          Requires OpenSSL 0.9.9 for compilation                    *
9  **********************************************************************/
10 #include <string.h>
11 #include <openssl/crypto.h>
12 #include <openssl/err.h>
13 #include <openssl/engine.h>
14 #include <openssl/evp.h>
15 #include <openssl/asn1.h>
16 #ifndef OPENSSL_NO_CMS
17 # include <openssl/cms.h>
18 #endif
19 #include "gost_params.h"
20 #include "gost_lcl.h"
21 #include "e_gost_err.h"
22
23 int gost94_nid_by_params(DSA *p)
24 {
25     R3410_params *gost_params;
26     BIGNUM *q = BN_new();
27     for (gost_params = R3410_paramset; gost_params->q != NULL; gost_params++) {
28         BN_dec2bn(&q, gost_params->q);
29         if (!BN_cmp(q, p->q)) {
30             BN_free(q);
31             return gost_params->nid;
32         }
33     }
34     BN_free(q);
35     return NID_undef;
36 }
37
38 static ASN1_STRING *encode_gost_algor_params(const EVP_PKEY *key)
39 {
40     ASN1_STRING *params = ASN1_STRING_new();
41     GOST_KEY_PARAMS *gkp = GOST_KEY_PARAMS_new();
42     int pkey_param_nid = NID_undef;
43
44     if (!params || !gkp) {
45         GOSTerr(GOST_F_ENCODE_GOST_ALGOR_PARAMS, ERR_R_MALLOC_FAILURE);
46         ASN1_STRING_free(params);
47         params = NULL;
48         goto err;
49     }
50     switch (EVP_PKEY_base_id(key)) {
51     case NID_id_GostR3410_2001:
52         pkey_param_nid =
53             EC_GROUP_get_curve_name(EC_KEY_get0_group
54                                     (EVP_PKEY_get0((EVP_PKEY *)key)));
55         break;
56     case NID_id_GostR3410_94:
57         pkey_param_nid =
58             (int)gost94_nid_by_params(EVP_PKEY_get0((EVP_PKEY *)key));
59         if (pkey_param_nid == NID_undef) {
60             GOSTerr(GOST_F_ENCODE_GOST_ALGOR_PARAMS,
61                     GOST_R_INVALID_GOST94_PARMSET);
62             ASN1_STRING_free(params);
63             params = NULL;
64             goto err;
65         }
66         break;
67     }
68     gkp->key_params = OBJ_nid2obj(pkey_param_nid);
69     gkp->hash_params = OBJ_nid2obj(NID_id_GostR3411_94_CryptoProParamSet);
70     /*
71      * gkp->cipher_params = OBJ_nid2obj(cipher_param_nid);
72      */
73     params->length = i2d_GOST_KEY_PARAMS(gkp, &params->data);
74     if (params->length <= 0) {
75         GOSTerr(GOST_F_ENCODE_GOST_ALGOR_PARAMS, ERR_R_MALLOC_FAILURE);
76         ASN1_STRING_free(params);
77         params = NULL;
78         goto err;
79     }
80     params->type = V_ASN1_SEQUENCE;
81  err:
82     GOST_KEY_PARAMS_free(gkp);
83     return params;
84 }
85
86 /*
87  * Parses GOST algorithm parameters from X509_ALGOR and modifies pkey setting
88  * NID and parameters
89  */
90 static int decode_gost_algor_params(EVP_PKEY *pkey, X509_ALGOR *palg)
91 {
92     ASN1_OBJECT *palg_obj = NULL;
93     int ptype = V_ASN1_UNDEF;
94     int pkey_nid = NID_undef, param_nid = NID_undef;
95     void *_pval;
96     ASN1_STRING *pval = NULL;
97     const unsigned char *p;
98     GOST_KEY_PARAMS *gkp = NULL;
99
100     X509_ALGOR_get0(&palg_obj, &ptype, &_pval, palg);
101     pval = _pval;
102     if (ptype != V_ASN1_SEQUENCE) {
103         GOSTerr(GOST_F_DECODE_GOST_ALGOR_PARAMS,
104                 GOST_R_BAD_KEY_PARAMETERS_FORMAT);
105         return 0;
106     }
107     p = pval->data;
108     pkey_nid = OBJ_obj2nid(palg_obj);
109
110     gkp = d2i_GOST_KEY_PARAMS(NULL, &p, pval->length);
111     if (!gkp) {
112         GOSTerr(GOST_F_DECODE_GOST_ALGOR_PARAMS,
113                 GOST_R_BAD_PKEY_PARAMETERS_FORMAT);
114         return 0;
115     }
116     param_nid = OBJ_obj2nid(gkp->key_params);
117     GOST_KEY_PARAMS_free(gkp);
118     if (!EVP_PKEY_set_type(pkey, pkey_nid)) {
119         GOSTerr(GOST_F_DECODE_GOST_ALGOR_PARAMS, ERR_R_INTERNAL_ERROR);
120         return 0;
121     }
122     switch (pkey_nid) {
123     case NID_id_GostR3410_94:
124         {
125             DSA *dsa = EVP_PKEY_get0(pkey);
126             if (!dsa) {
127                 dsa = DSA_new();
128                 if (!EVP_PKEY_assign(pkey, pkey_nid, dsa))
129                     return 0;
130             }
131             if (!fill_GOST94_params(dsa, param_nid))
132                 return 0;
133             break;
134         }
135     case NID_id_GostR3410_2001:
136         {
137             EC_KEY *ec = EVP_PKEY_get0(pkey);
138             if (!ec) {
139                 ec = EC_KEY_new();
140                 if (!EVP_PKEY_assign(pkey, pkey_nid, ec))
141                     return 0;
142             }
143             if (!fill_GOST2001_params(ec, param_nid))
144                 return 0;
145         }
146     }
147
148     return 1;
149 }
150
151 static int gost_set_priv_key(EVP_PKEY *pkey, BIGNUM *priv)
152 {
153     switch (EVP_PKEY_base_id(pkey)) {
154     case NID_id_GostR3410_94:
155         {
156             DSA *dsa = EVP_PKEY_get0(pkey);
157             if (!dsa) {
158                 dsa = DSA_new();
159                 EVP_PKEY_assign(pkey, EVP_PKEY_base_id(pkey), dsa);
160             }
161             dsa->priv_key = BN_dup(priv);
162             if (!EVP_PKEY_missing_parameters(pkey))
163                 gost94_compute_public(dsa);
164             break;
165         }
166     case NID_id_GostR3410_2001:
167         {
168             EC_KEY *ec = EVP_PKEY_get0(pkey);
169             if (!ec) {
170                 ec = EC_KEY_new();
171                 EVP_PKEY_assign(pkey, EVP_PKEY_base_id(pkey), ec);
172             }
173             if (!EC_KEY_set_private_key(ec, priv))
174                 return 0;
175             if (!EVP_PKEY_missing_parameters(pkey))
176                 gost2001_compute_public(ec);
177             break;
178         }
179     }
180     return 1;
181 }
182
183 BIGNUM *gost_get0_priv_key(const EVP_PKEY *pkey)
184 {
185     switch (EVP_PKEY_base_id(pkey)) {
186     case NID_id_GostR3410_94:
187         {
188             DSA *dsa = EVP_PKEY_get0((EVP_PKEY *)pkey);
189             if (!dsa) {
190                 return NULL;
191             }
192             if (!dsa->priv_key)
193                 return NULL;
194             return dsa->priv_key;
195         }
196     case NID_id_GostR3410_2001:
197         {
198             EC_KEY *ec = EVP_PKEY_get0((EVP_PKEY *)pkey);
199             const BIGNUM *priv;
200             if (!ec) {
201                 return NULL;
202             }
203             if (!(priv = EC_KEY_get0_private_key(ec)))
204                 return NULL;
205             return (BIGNUM *)priv;
206         }
207     }
208     return NULL;
209 }
210
211 static int pkey_ctrl_gost(EVP_PKEY *pkey, int op, long arg1, void *arg2)
212 {
213     switch (op) {
214     case ASN1_PKEY_CTRL_PKCS7_SIGN:
215         if (arg1 == 0) {
216             X509_ALGOR *alg1 = NULL, *alg2 = NULL;
217             int nid = EVP_PKEY_base_id(pkey);
218             PKCS7_SIGNER_INFO_get0_algs((PKCS7_SIGNER_INFO *)arg2,
219                                         NULL, &alg1, &alg2);
220             X509_ALGOR_set0(alg1, OBJ_nid2obj(NID_id_GostR3411_94),
221                             V_ASN1_NULL, 0);
222             if (nid == NID_undef) {
223                 return (-1);
224             }
225             X509_ALGOR_set0(alg2, OBJ_nid2obj(nid), V_ASN1_NULL, 0);
226         }
227         return 1;
228 #ifndef OPENSSL_NO_CMS
229     case ASN1_PKEY_CTRL_CMS_SIGN:
230         if (arg1 == 0) {
231             X509_ALGOR *alg1 = NULL, *alg2 = NULL;
232             int nid = EVP_PKEY_base_id(pkey);
233             CMS_SignerInfo_get0_algs((CMS_SignerInfo *)arg2,
234                                      NULL, NULL, &alg1, &alg2);
235             X509_ALGOR_set0(alg1, OBJ_nid2obj(NID_id_GostR3411_94),
236                             V_ASN1_NULL, 0);
237             if (nid == NID_undef) {
238                 return (-1);
239             }
240             X509_ALGOR_set0(alg2, OBJ_nid2obj(nid), V_ASN1_NULL, 0);
241         }
242         return 1;
243 #endif
244     case ASN1_PKEY_CTRL_PKCS7_ENCRYPT:
245         if (arg1 == 0) {
246             X509_ALGOR *alg;
247             ASN1_STRING *params = encode_gost_algor_params(pkey);
248             if (!params) {
249                 return -1;
250             }
251             PKCS7_RECIP_INFO_get0_alg((PKCS7_RECIP_INFO *)arg2, &alg);
252             X509_ALGOR_set0(alg, OBJ_nid2obj(pkey->type),
253                             V_ASN1_SEQUENCE, params);
254         }
255         return 1;
256 #ifndef OPENSSL_NO_CMS
257     case ASN1_PKEY_CTRL_CMS_ENVELOPE:
258         if (arg1 == 0) {
259             X509_ALGOR *alg = NULL;
260             ASN1_STRING *params = encode_gost_algor_params(pkey);
261             if (!params) {
262                 return -1;
263             }
264             CMS_RecipientInfo_ktri_get0_algs((CMS_RecipientInfo *)arg2, NULL,
265                                              NULL, &alg);
266             X509_ALGOR_set0(alg, OBJ_nid2obj(pkey->type), V_ASN1_SEQUENCE,
267                             params);
268         }
269         return 1;
270 #endif
271     case ASN1_PKEY_CTRL_DEFAULT_MD_NID:
272         *(int *)arg2 = NID_id_GostR3411_94;
273         return 2;
274     }
275
276     return -2;
277 }
278
279 /* --------------------- free functions * ------------------------------*/
280 static void pkey_free_gost94(EVP_PKEY *key)
281 {
282     DSA_free(key->pkey.dsa);
283 }
284
285 static void pkey_free_gost01(EVP_PKEY *key)
286 {
287     EC_KEY_free(key->pkey.ec);
288 }
289
290 /* ------------------ private key functions  -----------------------------*/
291 static int priv_decode_gost(EVP_PKEY *pk, PKCS8_PRIV_KEY_INFO *p8inf)
292 {
293     const unsigned char *pkey_buf = NULL, *p = NULL;
294     int priv_len = 0;
295     BIGNUM *pk_num = NULL;
296     int ret = 0;
297     X509_ALGOR *palg = NULL;
298     ASN1_OBJECT *palg_obj = NULL;
299     ASN1_INTEGER *priv_key = NULL;
300
301     if (!PKCS8_pkey_get0(&palg_obj, &pkey_buf, &priv_len, &palg, p8inf))
302         return 0;
303     p = pkey_buf;
304     if (!decode_gost_algor_params(pk, palg)) {
305         return 0;
306     }
307     if (V_ASN1_OCTET_STRING == *p) {
308         /* New format - Little endian octet string */
309         unsigned char rev_buf[32];
310         int i;
311         ASN1_OCTET_STRING *s = d2i_ASN1_OCTET_STRING(NULL, &p, priv_len);
312         if (!s || s->length != 32) {
313             GOSTerr(GOST_F_PRIV_DECODE_GOST, EVP_R_DECODE_ERROR);
314             return 0;
315         }
316         for (i = 0; i < 32; i++) {
317             rev_buf[31 - i] = s->data[i];
318         }
319         ASN1_STRING_free(s);
320         pk_num = getbnfrombuf(rev_buf, 32);
321     } else {
322         priv_key = d2i_ASN1_INTEGER(NULL, &p, priv_len);
323         if (!priv_key)
324             return 0;
325         ret = ((pk_num = ASN1_INTEGER_to_BN(priv_key, NULL)) != NULL);
326         ASN1_INTEGER_free(priv_key);
327         if (!ret) {
328             GOSTerr(GOST_F_PRIV_DECODE_GOST, EVP_R_DECODE_ERROR);
329             return 0;
330         }
331     }
332
333     ret = gost_set_priv_key(pk, pk_num);
334     BN_free(pk_num);
335     return ret;
336 }
337
338 /* ----------------------------------------------------------------------*/
339 static int priv_encode_gost(PKCS8_PRIV_KEY_INFO *p8, const EVP_PKEY *pk)
340 {
341     ASN1_OBJECT *algobj = OBJ_nid2obj(EVP_PKEY_base_id(pk));
342     ASN1_STRING *params = encode_gost_algor_params(pk);
343     unsigned char *priv_buf = NULL;
344     int priv_len;
345
346     ASN1_INTEGER *asn1key = NULL;
347     if (!params) {
348         return 0;
349     }
350     asn1key = BN_to_ASN1_INTEGER(gost_get0_priv_key(pk), NULL);
351     priv_len = i2d_ASN1_INTEGER(asn1key, &priv_buf);
352     ASN1_INTEGER_free(asn1key);
353     return PKCS8_pkey_set0(p8, algobj, 0, V_ASN1_SEQUENCE, params,
354                            priv_buf, priv_len);
355 }
356
357 /* --------- printing keys --------------------------------*/
358 static int print_gost_94(BIO *out, const EVP_PKEY *pkey, int indent,
359                          ASN1_PCTX *pctx, int type)
360 {
361     int param_nid = NID_undef;
362
363     if (type == 2) {
364         BIGNUM *key;
365
366         if (!BIO_indent(out, indent, 128))
367             return 0;
368         BIO_printf(out, "Private key: ");
369         key = gost_get0_priv_key(pkey);
370         if (!key)
371             BIO_printf(out, "<undefined>");
372         else
373             BN_print(out, key);
374         BIO_printf(out, "\n");
375     }
376     if (type >= 1) {
377         BIGNUM *pubkey;
378
379         pubkey = ((DSA *)EVP_PKEY_get0((EVP_PKEY *)pkey))->pub_key;
380         BIO_indent(out, indent, 128);
381         BIO_printf(out, "Public key: ");
382         BN_print(out, pubkey);
383         BIO_printf(out, "\n");
384     }
385
386     param_nid = gost94_nid_by_params(EVP_PKEY_get0((EVP_PKEY *)pkey));
387     BIO_indent(out, indent, 128);
388     BIO_printf(out, "Parameter set: %s\n", OBJ_nid2ln(param_nid));
389     return 1;
390 }
391
392 static int param_print_gost94(BIO *out, const EVP_PKEY *pkey, int indent,
393                               ASN1_PCTX *pctx)
394 {
395     return print_gost_94(out, pkey, indent, pctx, 0);
396 }
397
398 static int pub_print_gost94(BIO *out, const EVP_PKEY *pkey, int indent,
399                             ASN1_PCTX *pctx)
400 {
401     return print_gost_94(out, pkey, indent, pctx, 1);
402 }
403
404 static int priv_print_gost94(BIO *out, const EVP_PKEY *pkey, int indent,
405                              ASN1_PCTX *pctx)
406 {
407     return print_gost_94(out, pkey, indent, pctx, 2);
408 }
409
410 static int print_gost_01(BIO *out, const EVP_PKEY *pkey, int indent,
411                          ASN1_PCTX *pctx, int type)
412 {
413     int param_nid = NID_undef;
414     if (type == 2) {
415         BIGNUM *key;
416
417         if (!BIO_indent(out, indent, 128))
418             return 0;
419         BIO_printf(out, "Private key: ");
420         key = gost_get0_priv_key(pkey);
421         if (!key)
422             BIO_printf(out, "<undefined)");
423         else
424             BN_print(out, key);
425         BIO_printf(out, "\n");
426     }
427     if (type >= 1) {
428         BN_CTX *ctx = BN_CTX_new();
429         BIGNUM *X, *Y;
430         const EC_POINT *pubkey;
431         const EC_GROUP *group;
432
433         if (!ctx) {
434             GOSTerr(GOST_F_PRINT_GOST_01, ERR_R_MALLOC_FAILURE);
435             return 0;
436         }
437         BN_CTX_start(ctx);
438         X = BN_CTX_get(ctx);
439         Y = BN_CTX_get(ctx);
440         pubkey =
441             EC_KEY_get0_public_key((EC_KEY *)EVP_PKEY_get0((EVP_PKEY *)pkey));
442         group = EC_KEY_get0_group((EC_KEY *)EVP_PKEY_get0((EVP_PKEY *)pkey));
443         if (!EC_POINT_get_affine_coordinates_GFp(group, pubkey, X, Y, ctx)) {
444             GOSTerr(GOST_F_PRINT_GOST_01, ERR_R_EC_LIB);
445             BN_CTX_free(ctx);
446             return 0;
447         }
448         if (!BIO_indent(out, indent, 128))
449             return 0;
450         BIO_printf(out, "Public key:\n");
451         if (!BIO_indent(out, indent + 3, 128))
452             return 0;
453         BIO_printf(out, "X:");
454         BN_print(out, X);
455         BIO_printf(out, "\n");
456         BIO_indent(out, indent + 3, 128);
457         BIO_printf(out, "Y:");
458         BN_print(out, Y);
459         BIO_printf(out, "\n");
460         BN_CTX_end(ctx);
461         BN_CTX_free(ctx);
462     }
463
464     param_nid =
465         EC_GROUP_get_curve_name(EC_KEY_get0_group
466                                 (EVP_PKEY_get0((EVP_PKEY *)pkey)));
467     if (!BIO_indent(out, indent, 128))
468         return 0;
469     BIO_printf(out, "Parameter set: %s\n", OBJ_nid2ln(param_nid));
470     return 1;
471 }
472
473 static int param_print_gost01(BIO *out, const EVP_PKEY *pkey, int indent,
474                               ASN1_PCTX *pctx)
475 {
476     return print_gost_01(out, pkey, indent, pctx, 0);
477 }
478
479 static int pub_print_gost01(BIO *out, const EVP_PKEY *pkey, int indent,
480                             ASN1_PCTX *pctx)
481 {
482     return print_gost_01(out, pkey, indent, pctx, 1);
483 }
484
485 static int priv_print_gost01(BIO *out, const EVP_PKEY *pkey, int indent,
486                              ASN1_PCTX *pctx)
487 {
488     return print_gost_01(out, pkey, indent, pctx, 2);
489 }
490
491 /* ---------------------------------------------------------------------*/
492 static int param_missing_gost94(const EVP_PKEY *pk)
493 {
494     const DSA *dsa = EVP_PKEY_get0((EVP_PKEY *)pk);
495     if (!dsa)
496         return 1;
497     if (!dsa->q)
498         return 1;
499     return 0;
500 }
501
502 static int param_missing_gost01(const EVP_PKEY *pk)
503 {
504     const EC_KEY *ec = EVP_PKEY_get0((EVP_PKEY *)pk);
505     if (!ec)
506         return 1;
507     if (!EC_KEY_get0_group(ec))
508         return 1;
509     return 0;
510 }
511
512 static int param_copy_gost94(EVP_PKEY *to, const EVP_PKEY *from)
513 {
514     const DSA *dfrom = EVP_PKEY_get0((EVP_PKEY *)from);
515     DSA *dto = EVP_PKEY_get0(to);
516     if (EVP_PKEY_base_id(from) != EVP_PKEY_base_id(to)) {
517         GOSTerr(GOST_F_PARAM_COPY_GOST94, GOST_R_INCOMPATIBLE_ALGORITHMS);
518         return 0;
519     }
520     if (!dfrom) {
521         GOSTerr(GOST_F_PARAM_COPY_GOST94, GOST_R_KEY_PARAMETERS_MISSING);
522         return 0;
523     }
524     if (!dto) {
525         dto = DSA_new();
526         EVP_PKEY_assign(to, EVP_PKEY_base_id(from), dto);
527     }
528 #define COPYBIGNUM(a,b,x) if (a->x) BN_free(a->x); a->x=BN_dup(b->x);
529     COPYBIGNUM(dto, dfrom, p)
530         COPYBIGNUM(dto, dfrom, q)
531         COPYBIGNUM(dto, dfrom, g)
532
533         if (dto->priv_key)
534         gost94_compute_public(dto);
535     return 1;
536 }
537
538 static int param_copy_gost01(EVP_PKEY *to, const EVP_PKEY *from)
539 {
540     EC_KEY *eto = EVP_PKEY_get0(to);
541     const EC_KEY *efrom = EVP_PKEY_get0((EVP_PKEY *)from);
542     if (EVP_PKEY_base_id(from) != EVP_PKEY_base_id(to)) {
543         GOSTerr(GOST_F_PARAM_COPY_GOST01, GOST_R_INCOMPATIBLE_ALGORITHMS);
544         return 0;
545     }
546     if (!efrom) {
547         GOSTerr(GOST_F_PARAM_COPY_GOST01, GOST_R_KEY_PARAMETERS_MISSING);
548         return 0;
549     }
550     if (!eto) {
551         eto = EC_KEY_new();
552         if (!eto) {
553             GOSTerr(GOST_F_PARAM_COPY_GOST01, ERR_R_MALLOC_FAILURE);
554             return 0;
555         }
556         if (!EVP_PKEY_assign(to, EVP_PKEY_base_id(from), eto)) {
557             GOSTerr(GOST_F_PARAM_COPY_GOST01, ERR_R_INTERNAL_ERROR);
558             return 0;
559         }
560     }
561     if (!EC_KEY_set_group(eto, EC_KEY_get0_group(efrom))) {
562         GOSTerr(GOST_F_PARAM_COPY_GOST01, ERR_R_INTERNAL_ERROR);
563         return 0;
564     }
565     if (EC_KEY_get0_private_key(eto)) {
566         gost2001_compute_public(eto);
567     }
568     return 1;
569 }
570
571 static int param_cmp_gost94(const EVP_PKEY *a, const EVP_PKEY *b)
572 {
573     const DSA *da = EVP_PKEY_get0((EVP_PKEY *)a);
574     const DSA *db = EVP_PKEY_get0((EVP_PKEY *)b);
575     if (!BN_cmp(da->q, db->q))
576         return 1;
577     return 0;
578 }
579
580 static int param_cmp_gost01(const EVP_PKEY *a, const EVP_PKEY *b)
581 {
582     if (EC_GROUP_get_curve_name
583         (EC_KEY_get0_group(EVP_PKEY_get0((EVP_PKEY *)a))) ==
584         EC_GROUP_get_curve_name(EC_KEY_get0_group
585                                 (EVP_PKEY_get0((EVP_PKEY *)b)))) {
586         return 1;
587     }
588     return 0;
589
590 }
591
592 /* ---------- Public key functions * --------------------------------------*/
593 static int pub_decode_gost94(EVP_PKEY *pk, X509_PUBKEY *pub)
594 {
595     X509_ALGOR *palg = NULL;
596     const unsigned char *pubkey_buf = NULL;
597     unsigned char *databuf;
598     ASN1_OBJECT *palgobj = NULL;
599     int pub_len, i, j;
600     DSA *dsa;
601     ASN1_OCTET_STRING *octet = NULL;
602
603     if (!X509_PUBKEY_get0_param(&palgobj, &pubkey_buf, &pub_len, &palg, pub))
604         return 0;
605     EVP_PKEY_assign(pk, OBJ_obj2nid(palgobj), NULL);
606     if (!decode_gost_algor_params(pk, palg))
607         return 0;
608     octet = d2i_ASN1_OCTET_STRING(NULL, &pubkey_buf, pub_len);
609     if (!octet) {
610         GOSTerr(GOST_F_PUB_DECODE_GOST94, ERR_R_MALLOC_FAILURE);
611         return 0;
612     }
613     databuf = OPENSSL_malloc(octet->length);
614     if (databuf == NULL) {
615         GOSTerr(GOST_F_PUB_DECODE_GOST94, ERR_R_MALLOC_FAILURE);
616         ASN1_OCTET_STRING_free(octet);
617         return 0;
618     }
619     for (i = 0, j = octet->length - 1; i < octet->length; i++, j--) {
620         databuf[j] = octet->data[i];
621     }
622     dsa = EVP_PKEY_get0(pk);
623     dsa->pub_key = BN_bin2bn(databuf, octet->length, NULL);
624     ASN1_OCTET_STRING_free(octet);
625     OPENSSL_free(databuf);
626     return 1;
627
628 }
629
630 static int pub_encode_gost94(X509_PUBKEY *pub, const EVP_PKEY *pk)
631 {
632     ASN1_OBJECT *algobj = NULL;
633     ASN1_OCTET_STRING *octet = NULL;
634     void *pval = NULL;
635     unsigned char *buf = NULL, *databuf, *sptr;
636     int i, j, data_len, ret = 0;
637
638     int ptype = V_ASN1_UNDEF;
639     DSA *dsa = EVP_PKEY_get0((EVP_PKEY *)pk);
640     algobj = OBJ_nid2obj(EVP_PKEY_base_id(pk));
641     if (pk->save_parameters) {
642         ASN1_STRING *params = encode_gost_algor_params(pk);
643         pval = params;
644         ptype = V_ASN1_SEQUENCE;
645     }
646     data_len = BN_num_bytes(dsa->pub_key);
647     databuf = OPENSSL_malloc(data_len);
648     if (databuf == NULL) {
649         GOSTerr(GOST_F_PUB_ENCODE_GOST94, ERR_R_MALLOC_FAILURE);
650         return 0;
651     }
652     BN_bn2bin(dsa->pub_key, databuf);
653     octet = ASN1_OCTET_STRING_new();
654     if (octet == NULL) {
655         GOSTerr(GOST_F_PUB_ENCODE_GOST94, ERR_R_MALLOC_FAILURE);
656         OPENSSL_free(databuf);
657         return 0;
658     }
659     ASN1_STRING_set(octet, NULL, data_len);
660     sptr = ASN1_STRING_data(octet);
661     for (i = 0, j = data_len - 1; i < data_len; i++, j--) {
662         sptr[i] = databuf[j];
663     }
664     OPENSSL_free(databuf);
665     ret = i2d_ASN1_OCTET_STRING(octet, &buf);
666     ASN1_BIT_STRING_free(octet);
667     if (ret < 0)
668         return 0;
669     return X509_PUBKEY_set0_param(pub, algobj, ptype, pval, buf, ret);
670 }
671
672 static int pub_decode_gost01(EVP_PKEY *pk, X509_PUBKEY *pub)
673 {
674     X509_ALGOR *palg = NULL;
675     const unsigned char *pubkey_buf = NULL;
676     unsigned char *databuf;
677     ASN1_OBJECT *palgobj = NULL;
678     int pub_len, i, j;
679     EC_POINT *pub_key;
680     BIGNUM *X, *Y;
681     ASN1_OCTET_STRING *octet = NULL;
682     int len;
683     const EC_GROUP *group;
684
685     if (!X509_PUBKEY_get0_param(&palgobj, &pubkey_buf, &pub_len, &palg, pub))
686         return 0;
687     EVP_PKEY_assign(pk, OBJ_obj2nid(palgobj), NULL);
688     if (!decode_gost_algor_params(pk, palg))
689         return 0;
690     group = EC_KEY_get0_group(EVP_PKEY_get0(pk));
691     octet = d2i_ASN1_OCTET_STRING(NULL, &pubkey_buf, pub_len);
692     if (!octet) {
693         GOSTerr(GOST_F_PUB_DECODE_GOST01, ERR_R_MALLOC_FAILURE);
694         return 0;
695     }
696     databuf = OPENSSL_malloc(octet->length);
697     if (databuf == NULL) {
698         GOSTerr(GOST_F_PUB_DECODE_GOST01, ERR_R_MALLOC_FAILURE);
699         ASN1_OCTET_STRING_free(octet);
700         return 0;
701     }
702     for (i = 0, j = octet->length - 1; i < octet->length; i++, j--) {
703         databuf[j] = octet->data[i];
704     }
705     len = octet->length / 2;
706     ASN1_OCTET_STRING_free(octet);
707
708     Y = getbnfrombuf(databuf, len);
709     X = getbnfrombuf(databuf + len, len);
710     OPENSSL_free(databuf);
711     pub_key = EC_POINT_new(group);
712     if (!EC_POINT_set_affine_coordinates_GFp(group, pub_key, X, Y, NULL)) {
713         GOSTerr(GOST_F_PUB_DECODE_GOST01, ERR_R_EC_LIB);
714         EC_POINT_free(pub_key);
715         BN_free(X);
716         BN_free(Y);
717         return 0;
718     }
719     BN_free(X);
720     BN_free(Y);
721     if (!EC_KEY_set_public_key(EVP_PKEY_get0(pk), pub_key)) {
722         GOSTerr(GOST_F_PUB_DECODE_GOST01, ERR_R_EC_LIB);
723         EC_POINT_free(pub_key);
724         return 0;
725     }
726     EC_POINT_free(pub_key);
727     return 1;
728
729 }
730
731 static int pub_encode_gost01(X509_PUBKEY *pub, const EVP_PKEY *pk)
732 {
733     ASN1_OBJECT *algobj = NULL;
734     ASN1_OCTET_STRING *octet = NULL;
735     void *pval = NULL;
736     unsigned char *buf = NULL, *databuf, *sptr;
737     int i, j, data_len, ret = 0;
738     const EC_POINT *pub_key;
739     BIGNUM *X, *Y, *order;
740     const EC_KEY *ec = EVP_PKEY_get0((EVP_PKEY *)pk);
741     int ptype = V_ASN1_UNDEF;
742
743     algobj = OBJ_nid2obj(EVP_PKEY_base_id(pk));
744     if (pk->save_parameters) {
745         ASN1_STRING *params = encode_gost_algor_params(pk);
746         pval = params;
747         ptype = V_ASN1_SEQUENCE;
748     }
749     order = BN_new();
750     EC_GROUP_get_order(EC_KEY_get0_group(ec), order, NULL);
751     pub_key = EC_KEY_get0_public_key(ec);
752     if (!pub_key) {
753         GOSTerr(GOST_F_PUB_ENCODE_GOST01, GOST_R_PUBLIC_KEY_UNDEFINED);
754         BN_free(order);
755         return 0;
756     }
757     X = BN_new();
758     Y = BN_new();
759     if (!X || !Y) {
760         GOSTerr(GOST_F_PUB_ENCODE_GOST01, ERR_R_MALLOC_FAILURE);
761         if (X)
762             BN_free(X);
763         if (Y)
764             BN_free(Y);
765         BN_free(order);
766         return 0;
767     }
768     if (!EC_POINT_get_affine_coordinates_GFp(EC_KEY_get0_group(ec),
769                                         pub_key, X, Y, NULL)) {
770         GOSTerr(GOST_F_PUB_ENCODE_GOST01, ERR_R_INTERNAL_ERROR);
771         BN_free(X);
772         BN_free(Y);
773         BN_free(order);
774         return 0;
775     }
776     data_len = 2 * BN_num_bytes(order);
777     BN_free(order);
778     databuf = OPENSSL_malloc(data_len);
779     if (databuf == NULL) {
780         GOSTerr(GOST_F_PUB_ENCODE_GOST01, ERR_R_MALLOC_FAILURE);
781         BN_free(X);
782         BN_free(Y);
783         return 0;
784     }
785     memset(databuf, 0, data_len);
786
787     store_bignum(X, databuf + data_len / 2, data_len / 2);
788     store_bignum(Y, databuf, data_len / 2);
789
790     BN_free(X);
791     BN_free(Y);
792     octet = ASN1_OCTET_STRING_new();
793     if (octet == NULL) {
794         GOSTerr(GOST_F_PUB_ENCODE_GOST01, ERR_R_MALLOC_FAILURE);
795         OPENSSL_free(databuf);
796         return 0;
797     }
798     ASN1_STRING_set(octet, NULL, data_len);
799     sptr = ASN1_STRING_data(octet);
800     for (i = 0, j = data_len - 1; i < data_len; i++, j--) {
801         sptr[i] = databuf[j];
802     }
803     OPENSSL_free(databuf);
804     ret = i2d_ASN1_OCTET_STRING(octet, &buf);
805     ASN1_BIT_STRING_free(octet);
806     if (ret < 0)
807         return 0;
808     return X509_PUBKEY_set0_param(pub, algobj, ptype, pval, buf, ret);
809 }
810
811 static int pub_cmp_gost94(const EVP_PKEY *a, const EVP_PKEY *b)
812 {
813     const DSA *da = EVP_PKEY_get0((EVP_PKEY *)a);
814     const DSA *db = EVP_PKEY_get0((EVP_PKEY *)b);
815     if (da && db && da->pub_key && db->pub_key
816         && !BN_cmp(da->pub_key, db->pub_key)) {
817         return 1;
818     }
819     return 0;
820 }
821
822 static int pub_cmp_gost01(const EVP_PKEY *a, const EVP_PKEY *b)
823 {
824     const EC_KEY *ea = EVP_PKEY_get0((EVP_PKEY *)a);
825     const EC_KEY *eb = EVP_PKEY_get0((EVP_PKEY *)b);
826     const EC_POINT *ka, *kb;
827     int ret = 0;
828     if (!ea || !eb)
829         return 0;
830     ka = EC_KEY_get0_public_key(ea);
831     kb = EC_KEY_get0_public_key(eb);
832     if (!ka || !kb)
833         return 0;
834     ret = (0 == EC_POINT_cmp(EC_KEY_get0_group(ea), ka, kb, NULL));
835     return ret;
836 }
837
838 static int pkey_size_gost(const EVP_PKEY *pk)
839 {
840     return 64;
841 }
842
843 static int pkey_bits_gost(const EVP_PKEY *pk)
844 {
845     return 256;
846 }
847
848 /* ---------------------- ASN1 METHOD for GOST MAC  -------------------*/
849 static void mackey_free_gost(EVP_PKEY *pk)
850 {
851     if (pk->pkey.ptr) {
852         OPENSSL_free(pk->pkey.ptr);
853     }
854 }
855
856 static int mac_ctrl_gost(EVP_PKEY *pkey, int op, long arg1, void *arg2)
857 {
858     switch (op) {
859     case ASN1_PKEY_CTRL_DEFAULT_MD_NID:
860         *(int *)arg2 = NID_id_Gost28147_89_MAC;
861         return 2;
862     }
863     return -2;
864 }
865
866 static int gost94_param_encode(const EVP_PKEY *pkey, unsigned char **pder)
867 {
868     int nid = gost94_nid_by_params(EVP_PKEY_get0((EVP_PKEY *)pkey));
869     return i2d_ASN1_OBJECT(OBJ_nid2obj(nid), pder);
870 }
871
872 static int gost2001_param_encode(const EVP_PKEY *pkey, unsigned char **pder)
873 {
874     int nid =
875         EC_GROUP_get_curve_name(EC_KEY_get0_group
876                                 (EVP_PKEY_get0((EVP_PKEY *)pkey)));
877     return i2d_ASN1_OBJECT(OBJ_nid2obj(nid), pder);
878 }
879
880 static int gost94_param_decode(EVP_PKEY *pkey, const unsigned char **pder,
881                                int derlen)
882 {
883     ASN1_OBJECT *obj = NULL;
884     DSA *dsa = EVP_PKEY_get0(pkey);
885     int nid;
886     if (d2i_ASN1_OBJECT(&obj, pder, derlen) == NULL) {
887         return 0;
888     }
889     nid = OBJ_obj2nid(obj);
890     ASN1_OBJECT_free(obj);
891     if (!dsa) {
892         dsa = DSA_new();
893         if (!EVP_PKEY_assign(pkey, NID_id_GostR3410_94, dsa))
894             return 0;
895     }
896     if (!fill_GOST94_params(dsa, nid))
897         return 0;
898     return 1;
899 }
900
901 static int gost2001_param_decode(EVP_PKEY *pkey, const unsigned char **pder,
902                                  int derlen)
903 {
904     ASN1_OBJECT *obj = NULL;
905     int nid;
906     EC_KEY *ec = EVP_PKEY_get0(pkey);
907     if (d2i_ASN1_OBJECT(&obj, pder, derlen) == NULL) {
908         return 0;
909     }
910     nid = OBJ_obj2nid(obj);
911     ASN1_OBJECT_free(obj);
912     if (!ec) {
913         ec = EC_KEY_new();
914         if (!EVP_PKEY_assign(pkey, NID_id_GostR3410_2001, ec))
915             return 0;
916     }
917     if (!fill_GOST2001_params(ec, nid))
918         return 0;
919     return 1;
920 }
921
922 /* ----------------------------------------------------------------------*/
923 int register_ameth_gost(int nid, EVP_PKEY_ASN1_METHOD **ameth,
924                         const char *pemstr, const char *info)
925 {
926     *ameth = EVP_PKEY_asn1_new(nid, ASN1_PKEY_SIGPARAM_NULL, pemstr, info);
927     if (!*ameth)
928         return 0;
929     switch (nid) {
930     case NID_id_GostR3410_94:
931         EVP_PKEY_asn1_set_free(*ameth, pkey_free_gost94);
932         EVP_PKEY_asn1_set_private(*ameth,
933                                   priv_decode_gost, priv_encode_gost,
934                                   priv_print_gost94);
935
936         EVP_PKEY_asn1_set_param(*ameth,
937                                 gost94_param_decode, gost94_param_encode,
938                                 param_missing_gost94, param_copy_gost94,
939                                 param_cmp_gost94, param_print_gost94);
940         EVP_PKEY_asn1_set_public(*ameth,
941                                  pub_decode_gost94, pub_encode_gost94,
942                                  pub_cmp_gost94, pub_print_gost94,
943                                  pkey_size_gost, pkey_bits_gost);
944
945         EVP_PKEY_asn1_set_ctrl(*ameth, pkey_ctrl_gost);
946         break;
947     case NID_id_GostR3410_2001:
948         EVP_PKEY_asn1_set_free(*ameth, pkey_free_gost01);
949         EVP_PKEY_asn1_set_private(*ameth,
950                                   priv_decode_gost, priv_encode_gost,
951                                   priv_print_gost01);
952
953         EVP_PKEY_asn1_set_param(*ameth,
954                                 gost2001_param_decode, gost2001_param_encode,
955                                 param_missing_gost01, param_copy_gost01,
956                                 param_cmp_gost01, param_print_gost01);
957         EVP_PKEY_asn1_set_public(*ameth,
958                                  pub_decode_gost01, pub_encode_gost01,
959                                  pub_cmp_gost01, pub_print_gost01,
960                                  pkey_size_gost, pkey_bits_gost);
961
962         EVP_PKEY_asn1_set_ctrl(*ameth, pkey_ctrl_gost);
963         break;
964     case NID_id_Gost28147_89_MAC:
965         EVP_PKEY_asn1_set_free(*ameth, mackey_free_gost);
966         EVP_PKEY_asn1_set_ctrl(*ameth, mac_ctrl_gost);
967         break;
968     }
969     return 1;
970 }