Use the new non-curve type specific EC functions internally
[openssl.git] / crypto / sm2 / sm2_za.c
1 /*
2  * Copyright 2017-2018 The OpenSSL Project Authors. All Rights Reserved.
3  * Copyright 2017 Ribose Inc. All Rights Reserved.
4  * Ported from Ribose contributions from Botan.
5  *
6  * Licensed under the OpenSSL license (the "License").  You may not use
7  * this file except in compliance with the License.  You can obtain a copy
8  * in the file LICENSE in the source distribution or at
9  * https://www.openssl.org/source/license.html
10  */
11
12 #include "internal/sm2.h"
13 #include "internal/sm2err.h"
14 #include <openssl/err.h>
15 #include <openssl/evp.h>
16 #include <openssl/bn.h>
17 #include <string.h>
18 #include "internal/numbers.h"
19
20 int sm2_compute_userid_digest(uint8_t *out,
21                               const EVP_MD *digest,
22                               const char *user_id,
23                               const EC_KEY *key)
24 {
25     int rc = 0;
26     const EC_GROUP *group = EC_KEY_get0_group(key);
27     BN_CTX *ctx = NULL;
28     EVP_MD_CTX *hash = NULL;
29     BIGNUM *p = NULL;
30     BIGNUM *a = NULL;
31     BIGNUM *b = NULL;
32     BIGNUM *xG = NULL;
33     BIGNUM *yG = NULL;
34     BIGNUM *xA = NULL;
35     BIGNUM *yA = NULL;
36     int p_bytes = 0;
37     uint8_t *buf = NULL;
38     size_t uid_len = 0;
39     uint16_t entla = 0;
40     uint8_t e_byte = 0;
41
42     hash = EVP_MD_CTX_new();
43     ctx = BN_CTX_new();
44     if (hash == NULL || ctx == NULL) {
45         SM2err(SM2_F_SM2_COMPUTE_USERID_DIGEST, ERR_R_MALLOC_FAILURE);
46         goto done;
47     }
48
49     p = BN_CTX_get(ctx);
50     a = BN_CTX_get(ctx);
51     b = BN_CTX_get(ctx);
52     xG = BN_CTX_get(ctx);
53     yG = BN_CTX_get(ctx);
54     xA = BN_CTX_get(ctx);
55     yA = BN_CTX_get(ctx);
56
57     if (yA == NULL) {
58         SM2err(SM2_F_SM2_COMPUTE_USERID_DIGEST, ERR_R_MALLOC_FAILURE);
59         goto done;
60     }
61
62     if (!EVP_DigestInit(hash, digest)) {
63         SM2err(SM2_F_SM2_COMPUTE_USERID_DIGEST, ERR_R_EVP_LIB);
64         goto done;
65     }
66
67     /* ZA = H256(ENTLA || IDA || a || b || xG || yG || xA || yA) */
68
69     uid_len = strlen(user_id);
70     if (uid_len >= (UINT16_MAX / 8)) {
71         /* too large */
72         SM2err(SM2_F_SM2_COMPUTE_USERID_DIGEST, SM2_R_USER_ID_TOO_LARGE);
73         goto done;
74     }
75
76     entla = (uint16_t)(8 * uid_len);
77
78     e_byte = entla >> 8;
79     if (!EVP_DigestUpdate(hash, &e_byte, 1)) {
80         SM2err(SM2_F_SM2_COMPUTE_USERID_DIGEST, ERR_R_EVP_LIB);
81         goto done;
82     }
83     e_byte = entla & 0xFF;
84     if (!EVP_DigestUpdate(hash, &e_byte, 1)
85             || !EVP_DigestUpdate(hash, user_id, uid_len)) {
86         SM2err(SM2_F_SM2_COMPUTE_USERID_DIGEST, ERR_R_EVP_LIB);
87         goto done;
88     }
89
90     if (!EC_GROUP_get_curve(group, p, a, b, ctx)) {
91         SM2err(SM2_F_SM2_COMPUTE_USERID_DIGEST, ERR_R_EC_LIB);
92         goto done;
93     }
94
95     p_bytes = BN_num_bytes(p);
96     buf = OPENSSL_zalloc(p_bytes);
97     if (buf == NULL) {
98         SM2err(SM2_F_SM2_COMPUTE_USERID_DIGEST, ERR_R_MALLOC_FAILURE);
99         goto done;
100     }
101
102     if (BN_bn2binpad(a, buf, p_bytes) < 0
103             || !EVP_DigestUpdate(hash, buf, p_bytes)
104             || BN_bn2binpad(b, buf, p_bytes) < 0
105             || !EVP_DigestUpdate(hash, buf, p_bytes)
106             || !EC_POINT_get_affine_coordinates(group,
107                                                 EC_GROUP_get0_generator(group),
108                                                 xG, yG, ctx)
109             || BN_bn2binpad(xG, buf, p_bytes) < 0
110             || !EVP_DigestUpdate(hash, buf, p_bytes)
111             || BN_bn2binpad(yG, buf, p_bytes) < 0
112             || !EVP_DigestUpdate(hash, buf, p_bytes)
113             || !EC_POINT_get_affine_coordinates(group,
114                                                 EC_KEY_get0_public_key(key),
115                                                 xA, yA, ctx)
116             || BN_bn2binpad(xA, buf, p_bytes) < 0
117             || !EVP_DigestUpdate(hash, buf, p_bytes)
118             || BN_bn2binpad(yA, buf, p_bytes) < 0
119             || !EVP_DigestUpdate(hash, buf, p_bytes)
120             || !EVP_DigestFinal(hash, out, NULL)) {
121         SM2err(SM2_F_SM2_COMPUTE_USERID_DIGEST, ERR_R_INTERNAL_ERROR);
122         goto done;
123     }
124
125     rc = 1;
126
127  done:
128     OPENSSL_free(buf);
129     BN_CTX_free(ctx);
130     EVP_MD_CTX_free(hash);
131     return rc;
132 }