Undo commit d420ac2
[openssl.git] / crypto / asn1 / x_long.c
1 /*
2  * Copyright 2000-2016 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the OpenSSL license (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #include <stdio.h>
11 #include "internal/cryptlib.h"
12 #include <openssl/asn1t.h>
13
14 #if !(OPENSSL_API_COMPAT < 0x10200000L)
15 NON_EMPTY_TRANSLATION_UNIT
16 #else
17 /*
18  * Custom primitive type for long handling. This converts between an
19  * ASN1_INTEGER and a long directly.
20  */
21
22 static int long_new(ASN1_VALUE **pval, const ASN1_ITEM *it);
23 static void long_free(ASN1_VALUE **pval, const ASN1_ITEM *it);
24
25 static int long_i2c(ASN1_VALUE **pval, unsigned char *cont, int *putype,
26                     const ASN1_ITEM *it);
27 static int long_c2i(ASN1_VALUE **pval, const unsigned char *cont, int len,
28                     int utype, char *free_cont, const ASN1_ITEM *it);
29 static int long_print(BIO *out, ASN1_VALUE **pval, const ASN1_ITEM *it,
30                       int indent, const ASN1_PCTX *pctx);
31
32 static ASN1_PRIMITIVE_FUNCS long_pf = {
33     NULL, 0,
34     long_new,
35     long_free,
36     long_free,                  /* Clear should set to initial value */
37     long_c2i,
38     long_i2c,
39     long_print
40 };
41
42 ASN1_ITEM_start(LONG)
43         ASN1_ITYPE_PRIMITIVE, V_ASN1_INTEGER, NULL, 0, &long_pf, ASN1_LONG_UNDEF, "LONG"
44 ASN1_ITEM_end(LONG)
45
46 ASN1_ITEM_start(ZLONG)
47         ASN1_ITYPE_PRIMITIVE, V_ASN1_INTEGER, NULL, 0, &long_pf, 0, "ZLONG"
48 ASN1_ITEM_end(ZLONG)
49
50 static int long_new(ASN1_VALUE **pval, const ASN1_ITEM *it)
51 {
52     *(long *)pval = it->size;
53     return 1;
54 }
55
56 static void long_free(ASN1_VALUE **pval, const ASN1_ITEM *it)
57 {
58     *(long *)pval = it->size;
59 }
60
61 /*
62  * Originally BN_num_bits_word was called to perform this operation, but
63  * trouble is that there is no guarantee that sizeof(long) equals to
64  * sizeof(BN_ULONG). BN_ULONG is a configurable type that can be as wide
65  * as long, but also double or half...
66  */
67 static int num_bits_ulong(unsigned long value)
68 {
69     size_t i;
70     unsigned long ret = 0;
71
72     /*
73      * It is argued that *on average* constant counter loop performs
74      * not worse [if not better] than one with conditional break or
75      * mask-n-table-lookup-style, because of branch misprediction
76      * penalties.
77      */
78     for (i = 0; i < sizeof(value) * 8; i++) {
79         ret += (value != 0);
80         value >>= 1;
81     }
82
83     return (int)ret;
84 }
85
86 static int long_i2c(ASN1_VALUE **pval, unsigned char *cont, int *putype,
87                     const ASN1_ITEM *it)
88 {
89     long ltmp;
90     unsigned long utmp, sign;
91     int clen, pad, i;
92
93     ltmp = *(long *)pval;
94     if (ltmp == it->size)
95         return -1;
96     /*
97      * Convert the long to positive: we subtract one if negative so we can
98      * cleanly handle the padding if only the MSB of the leading octet is
99      * set.
100      */
101     if (ltmp < 0) {
102         sign = 0xff;
103         utmp = 0 - (unsigned long)ltmp - 1;
104     } else {
105         sign = 0;
106         utmp = ltmp;
107     }
108     clen = num_bits_ulong(utmp);
109     /* If MSB of leading octet set we need to pad */
110     if (!(clen & 0x7))
111         pad = 1;
112     else
113         pad = 0;
114
115     /* Convert number of bits to number of octets */
116     clen = (clen + 7) >> 3;
117
118     if (cont != NULL) {
119         if (pad)
120             *cont++ = (unsigned char)sign;
121         for (i = clen - 1; i >= 0; i--) {
122             cont[i] = (unsigned char)(utmp ^ sign);
123             utmp >>= 8;
124         }
125     }
126     return clen + pad;
127 }
128
129 static int long_c2i(ASN1_VALUE **pval, const unsigned char *cont, int len,
130                     int utype, char *free_cont, const ASN1_ITEM *it)
131 {
132     int i;
133     long ltmp;
134     unsigned long utmp = 0, sign = 0x100;
135
136     if (len > 1) {
137         /*
138          * Check possible pad byte.  Worst case, we're skipping past actual
139          * content, but since that's only with 0x00 and 0xff and we set neg
140          * accordingly, the result will be correct in the end anyway.
141          */
142         switch (cont[0]) {
143         case 0xff:
144             cont++;
145             len--;
146             sign = 0xff;
147             break;
148         case 0:
149             cont++;
150             len--;
151             sign = 0;
152             break;
153         }
154     }
155     if (len > (int)sizeof(long)) {
156         ASN1err(ASN1_F_LONG_C2I, ASN1_R_INTEGER_TOO_LARGE_FOR_LONG);
157         return 0;
158     }
159
160     if (sign == 0x100) {
161         /* Is it negative? */
162         if (len && (cont[0] & 0x80))
163             sign = 0xff;
164         else
165             sign = 0;
166     } else if (((sign ^ cont[0]) & 0x80) == 0) { /* same sign bit? */
167         ASN1err(ASN1_F_LONG_C2I, ASN1_R_ILLEGAL_PADDING);
168         return 0;
169     }
170     utmp = 0;
171     for (i = 0; i < len; i++) {
172         utmp <<= 8;
173         utmp |= cont[i] ^ sign;
174     }
175     ltmp = (long)utmp;
176     if (ltmp < 0) {
177         ASN1err(ASN1_F_LONG_C2I, ASN1_R_INTEGER_TOO_LARGE_FOR_LONG);
178         return 0;
179     }
180     if (sign)
181         ltmp = -ltmp - 1;
182     if (ltmp == it->size) {
183         ASN1err(ASN1_F_LONG_C2I, ASN1_R_INTEGER_TOO_LARGE_FOR_LONG);
184         return 0;
185     }
186     *(long*)pval = ltmp;
187     return 1;
188 }
189
190 static int long_print(BIO *out, ASN1_VALUE **pval, const ASN1_ITEM *it,
191                       int indent, const ASN1_PCTX *pctx)
192 {
193     return BIO_printf(out, "%ld\n", *(long *)pval);
194 }
195 #endif