remove malloc casts
[openssl.git] / crypto / asn1 / f_enum.c
1 /* crypto/asn1/f_enum.c */
2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
3  * All rights reserved.
4  *
5  * This package is an SSL implementation written
6  * by Eric Young (eay@cryptsoft.com).
7  * The implementation was written so as to conform with Netscapes SSL.
8  *
9  * This library is free for commercial and non-commercial use as long as
10  * the following conditions are aheared to.  The following conditions
11  * apply to all code found in this distribution, be it the RC4, RSA,
12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
13  * included with this distribution is covered by the same copyright terms
14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
15  *
16  * Copyright remains Eric Young's, and as such any Copyright notices in
17  * the code are not to be removed.
18  * If this package is used in a product, Eric Young should be given attribution
19  * as the author of the parts of the library used.
20  * This can be in the form of a textual message at program startup or
21  * in documentation (online or textual) provided with the package.
22  *
23  * Redistribution and use in source and binary forms, with or without
24  * modification, are permitted provided that the following conditions
25  * are met:
26  * 1. Redistributions of source code must retain the copyright
27  *    notice, this list of conditions and the following disclaimer.
28  * 2. Redistributions in binary form must reproduce the above copyright
29  *    notice, this list of conditions and the following disclaimer in the
30  *    documentation and/or other materials provided with the distribution.
31  * 3. All advertising materials mentioning features or use of this software
32  *    must display the following acknowledgement:
33  *    "This product includes cryptographic software written by
34  *     Eric Young (eay@cryptsoft.com)"
35  *    The word 'cryptographic' can be left out if the rouines from the library
36  *    being used are not cryptographic related :-).
37  * 4. If you include any Windows specific code (or a derivative thereof) from
38  *    the apps directory (application code) you must include an acknowledgement:
39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
40  *
41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
51  * SUCH DAMAGE.
52  *
53  * The licence and distribution terms for any publically available version or
54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
55  * copied and put under another distribution licence
56  * [including the GNU Public Licence.]
57  */
58
59 #include <stdio.h>
60 #include "cryptlib.h"
61 #include <openssl/buffer.h>
62 #include <openssl/asn1.h>
63
64 /* Based on a_int.c: equivalent ENUMERATED functions */
65
66 int i2a_ASN1_ENUMERATED(BIO *bp, ASN1_ENUMERATED *a)
67 {
68     int i, n = 0;
69     static const char *h = "0123456789ABCDEF";
70     char buf[2];
71
72     if (a == NULL)
73         return (0);
74
75     if (a->length == 0) {
76         if (BIO_write(bp, "00", 2) != 2)
77             goto err;
78         n = 2;
79     } else {
80         for (i = 0; i < a->length; i++) {
81             if ((i != 0) && (i % 35 == 0)) {
82                 if (BIO_write(bp, "\\\n", 2) != 2)
83                     goto err;
84                 n += 2;
85             }
86             buf[0] = h[((unsigned char)a->data[i] >> 4) & 0x0f];
87             buf[1] = h[((unsigned char)a->data[i]) & 0x0f];
88             if (BIO_write(bp, buf, 2) != 2)
89                 goto err;
90             n += 2;
91         }
92     }
93     return (n);
94  err:
95     return (-1);
96 }
97
98 int a2i_ASN1_ENUMERATED(BIO *bp, ASN1_ENUMERATED *bs, char *buf, int size)
99 {
100     int ret = 0;
101     int i, j, k, m, n, again, bufsize;
102     unsigned char *s = NULL, *sp;
103     unsigned char *bufp;
104     int num = 0, slen = 0, first = 1;
105
106     bs->type = V_ASN1_ENUMERATED;
107
108     bufsize = BIO_gets(bp, buf, size);
109     for (;;) {
110         if (bufsize < 1)
111             goto err_sl;
112         i = bufsize;
113         if (buf[i - 1] == '\n')
114             buf[--i] = '\0';
115         if (i == 0)
116             goto err_sl;
117         if (buf[i - 1] == '\r')
118             buf[--i] = '\0';
119         if (i == 0)
120             goto err_sl;
121         again = (buf[i - 1] == '\\');
122
123         for (j = 0; j < i; j++) {
124             if (!(((buf[j] >= '0') && (buf[j] <= '9')) ||
125                   ((buf[j] >= 'a') && (buf[j] <= 'f')) ||
126                   ((buf[j] >= 'A') && (buf[j] <= 'F')))) {
127                 i = j;
128                 break;
129             }
130         }
131         buf[i] = '\0';
132         /*
133          * We have now cleared all the crap off the end of the line
134          */
135         if (i < 2)
136             goto err_sl;
137
138         bufp = (unsigned char *)buf;
139         if (first) {
140             first = 0;
141             if ((bufp[0] == '0') && (buf[1] == '0')) {
142                 bufp += 2;
143                 i -= 2;
144             }
145         }
146         k = 0;
147         i -= again;
148         if (i % 2 != 0) {
149             ASN1err(ASN1_F_A2I_ASN1_ENUMERATED, ASN1_R_ODD_NUMBER_OF_CHARS);
150             goto err;
151         }
152         i /= 2;
153         if (num + i > slen) {
154             if (s == NULL)
155                 sp = OPENSSL_malloc((unsigned int)num + i * 2);
156             else
157                 sp = OPENSSL_realloc(s, (unsigned int)num + i * 2);
158             if (sp == NULL) {
159                 ASN1err(ASN1_F_A2I_ASN1_ENUMERATED, ERR_R_MALLOC_FAILURE);
160                 if (s != NULL)
161                     OPENSSL_free(s);
162                 goto err;
163             }
164             s = sp;
165             slen = num + i * 2;
166         }
167         for (j = 0; j < i; j++, k += 2) {
168             for (n = 0; n < 2; n++) {
169                 m = bufp[k + n];
170                 if ((m >= '0') && (m <= '9'))
171                     m -= '0';
172                 else if ((m >= 'a') && (m <= 'f'))
173                     m = m - 'a' + 10;
174                 else if ((m >= 'A') && (m <= 'F'))
175                     m = m - 'A' + 10;
176                 else {
177                     ASN1err(ASN1_F_A2I_ASN1_ENUMERATED,
178                             ASN1_R_NON_HEX_CHARACTERS);
179                     goto err;
180                 }
181                 s[num + j] <<= 4;
182                 s[num + j] |= m;
183             }
184         }
185         num += i;
186         if (again)
187             bufsize = BIO_gets(bp, buf, size);
188         else
189             break;
190     }
191     bs->length = num;
192     bs->data = s;
193     ret = 1;
194  err:
195     if (0) {
196  err_sl:
197         ASN1err(ASN1_F_A2I_ASN1_ENUMERATED, ASN1_R_SHORT_LINE);
198     }
199     return (ret);
200 }