Sanity check EVP_EncodeUpdate buffer len
[openssl.git] / crypto / evp / evp_lib.c
1 /* crypto/evp/evp_lib.c */
2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
3  * All rights reserved.
4  *
5  * This package is an SSL implementation written
6  * by Eric Young (eay@cryptsoft.com).
7  * The implementation was written so as to conform with Netscapes SSL.
8  *
9  * This library is free for commercial and non-commercial use as long as
10  * the following conditions are aheared to.  The following conditions
11  * apply to all code found in this distribution, be it the RC4, RSA,
12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
13  * included with this distribution is covered by the same copyright terms
14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
15  *
16  * Copyright remains Eric Young's, and as such any Copyright notices in
17  * the code are not to be removed.
18  * If this package is used in a product, Eric Young should be given attribution
19  * as the author of the parts of the library used.
20  * This can be in the form of a textual message at program startup or
21  * in documentation (online or textual) provided with the package.
22  *
23  * Redistribution and use in source and binary forms, with or without
24  * modification, are permitted provided that the following conditions
25  * are met:
26  * 1. Redistributions of source code must retain the copyright
27  *    notice, this list of conditions and the following disclaimer.
28  * 2. Redistributions in binary form must reproduce the above copyright
29  *    notice, this list of conditions and the following disclaimer in the
30  *    documentation and/or other materials provided with the distribution.
31  * 3. All advertising materials mentioning features or use of this software
32  *    must display the following acknowledgement:
33  *    "This product includes cryptographic software written by
34  *     Eric Young (eay@cryptsoft.com)"
35  *    The word 'cryptographic' can be left out if the rouines from the library
36  *    being used are not cryptographic related :-).
37  * 4. If you include any Windows specific code (or a derivative thereof) from
38  *    the apps directory (application code) you must include an acknowledgement:
39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
40  *
41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
51  * SUCH DAMAGE.
52  *
53  * The licence and distribution terms for any publically available version or
54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
55  * copied and put under another distribution licence
56  * [including the GNU Public Licence.]
57  */
58
59 #include <stdio.h>
60 #include "cryptlib.h"
61 #include <openssl/evp.h>
62 #include <openssl/objects.h>
63 #ifdef OPENSSL_FIPS
64 # include <openssl/fips.h>
65 # include "evp_locl.h"
66 #endif
67
68 int EVP_CIPHER_param_to_asn1(EVP_CIPHER_CTX *c, ASN1_TYPE *type)
69 {
70     int ret;
71
72     if (c->cipher->set_asn1_parameters != NULL)
73         ret = c->cipher->set_asn1_parameters(c, type);
74     else if (c->cipher->flags & EVP_CIPH_FLAG_DEFAULT_ASN1) {
75         if (EVP_CIPHER_CTX_mode(c) == EVP_CIPH_WRAP_MODE) {
76             ASN1_TYPE_set(type, V_ASN1_NULL, NULL);
77             ret = 1;
78         } else
79             ret = EVP_CIPHER_set_asn1_iv(c, type);
80     } else
81         ret = -1;
82     return (ret);
83 }
84
85 int EVP_CIPHER_asn1_to_param(EVP_CIPHER_CTX *c, ASN1_TYPE *type)
86 {
87     int ret;
88
89     if (c->cipher->get_asn1_parameters != NULL)
90         ret = c->cipher->get_asn1_parameters(c, type);
91     else if (c->cipher->flags & EVP_CIPH_FLAG_DEFAULT_ASN1) {
92         if (EVP_CIPHER_CTX_mode(c) == EVP_CIPH_WRAP_MODE)
93             return 1;
94         ret = EVP_CIPHER_get_asn1_iv(c, type);
95     } else
96         ret = -1;
97     return (ret);
98 }
99
100 int EVP_CIPHER_get_asn1_iv(EVP_CIPHER_CTX *c, ASN1_TYPE *type)
101 {
102     int i = 0;
103     unsigned int l;
104
105     if (type != NULL) {
106         l = EVP_CIPHER_CTX_iv_length(c);
107         OPENSSL_assert(l <= sizeof(c->iv));
108         i = ASN1_TYPE_get_octetstring(type, c->oiv, l);
109         if (i != (int)l)
110             return (-1);
111         else if (i > 0)
112             memcpy(c->iv, c->oiv, l);
113     }
114     return (i);
115 }
116
117 int EVP_CIPHER_set_asn1_iv(EVP_CIPHER_CTX *c, ASN1_TYPE *type)
118 {
119     int i = 0;
120     unsigned int j;
121
122     if (type != NULL) {
123         j = EVP_CIPHER_CTX_iv_length(c);
124         OPENSSL_assert(j <= sizeof(c->iv));
125         i = ASN1_TYPE_set_octetstring(type, c->oiv, j);
126     }
127     return (i);
128 }
129
130 /* Convert the various cipher NIDs and dummies to a proper OID NID */
131 int EVP_CIPHER_type(const EVP_CIPHER *ctx)
132 {
133     int nid;
134     ASN1_OBJECT *otmp;
135     nid = EVP_CIPHER_nid(ctx);
136
137     switch (nid) {
138
139     case NID_rc2_cbc:
140     case NID_rc2_64_cbc:
141     case NID_rc2_40_cbc:
142
143         return NID_rc2_cbc;
144
145     case NID_rc4:
146     case NID_rc4_40:
147
148         return NID_rc4;
149
150     case NID_aes_128_cfb128:
151     case NID_aes_128_cfb8:
152     case NID_aes_128_cfb1:
153
154         return NID_aes_128_cfb128;
155
156     case NID_aes_192_cfb128:
157     case NID_aes_192_cfb8:
158     case NID_aes_192_cfb1:
159
160         return NID_aes_192_cfb128;
161
162     case NID_aes_256_cfb128:
163     case NID_aes_256_cfb8:
164     case NID_aes_256_cfb1:
165
166         return NID_aes_256_cfb128;
167
168     case NID_des_cfb64:
169     case NID_des_cfb8:
170     case NID_des_cfb1:
171
172         return NID_des_cfb64;
173
174     case NID_des_ede3_cfb64:
175     case NID_des_ede3_cfb8:
176     case NID_des_ede3_cfb1:
177
178         return NID_des_cfb64;
179
180     default:
181         /* Check it has an OID and it is valid */
182         otmp = OBJ_nid2obj(nid);
183         if (!otmp || !otmp->data)
184             nid = NID_undef;
185         ASN1_OBJECT_free(otmp);
186         return nid;
187     }
188 }
189
190 int EVP_CIPHER_block_size(const EVP_CIPHER *e)
191 {
192     return e->block_size;
193 }
194
195 int EVP_CIPHER_CTX_block_size(const EVP_CIPHER_CTX *ctx)
196 {
197     return ctx->cipher->block_size;
198 }
199
200 int EVP_Cipher(EVP_CIPHER_CTX *ctx, unsigned char *out,
201                const unsigned char *in, unsigned int inl)
202 {
203     return ctx->cipher->do_cipher(ctx, out, in, inl);
204 }
205
206 const EVP_CIPHER *EVP_CIPHER_CTX_cipher(const EVP_CIPHER_CTX *ctx)
207 {
208     return ctx->cipher;
209 }
210
211 unsigned long EVP_CIPHER_flags(const EVP_CIPHER *cipher)
212 {
213 #ifdef OPENSSL_FIPS
214     const EVP_CIPHER *fcipher;
215     fcipher = evp_get_fips_cipher(cipher);
216     if (fcipher && fcipher->flags & EVP_CIPH_FLAG_FIPS)
217         return cipher->flags | EVP_CIPH_FLAG_FIPS;
218 #endif
219     return cipher->flags;
220 }
221
222 unsigned long EVP_CIPHER_CTX_flags(const EVP_CIPHER_CTX *ctx)
223 {
224 #ifdef OPENSSL_FIPS
225     return EVP_CIPHER_flags(ctx->cipher);
226 #else
227     return ctx->cipher->flags;
228 #endif
229 }
230
231 void *EVP_CIPHER_CTX_get_app_data(const EVP_CIPHER_CTX *ctx)
232 {
233     return ctx->app_data;
234 }
235
236 void EVP_CIPHER_CTX_set_app_data(EVP_CIPHER_CTX *ctx, void *data)
237 {
238     ctx->app_data = data;
239 }
240
241 int EVP_CIPHER_iv_length(const EVP_CIPHER *cipher)
242 {
243     return cipher->iv_len;
244 }
245
246 int EVP_CIPHER_CTX_iv_length(const EVP_CIPHER_CTX *ctx)
247 {
248     return ctx->cipher->iv_len;
249 }
250
251 int EVP_CIPHER_key_length(const EVP_CIPHER *cipher)
252 {
253     return cipher->key_len;
254 }
255
256 int EVP_CIPHER_CTX_key_length(const EVP_CIPHER_CTX *ctx)
257 {
258     return ctx->key_len;
259 }
260
261 int EVP_CIPHER_nid(const EVP_CIPHER *cipher)
262 {
263     return cipher->nid;
264 }
265
266 int EVP_CIPHER_CTX_nid(const EVP_CIPHER_CTX *ctx)
267 {
268     return ctx->cipher->nid;
269 }
270
271 int EVP_MD_block_size(const EVP_MD *md)
272 {
273     return md->block_size;
274 }
275
276 int EVP_MD_type(const EVP_MD *md)
277 {
278     return md->type;
279 }
280
281 int EVP_MD_pkey_type(const EVP_MD *md)
282 {
283     return md->pkey_type;
284 }
285
286 int EVP_MD_size(const EVP_MD *md)
287 {
288     if (!md) {
289         EVPerr(EVP_F_EVP_MD_SIZE, EVP_R_MESSAGE_DIGEST_IS_NULL);
290         return -1;
291     }
292     return md->md_size;
293 }
294
295 #ifdef OPENSSL_FIPS
296
297 const EVP_MD *evp_get_fips_md(const EVP_MD *md)
298 {
299     int nid = EVP_MD_type(md);
300     if (nid == NID_dsa)
301         return FIPS_evp_dss1();
302     else if (nid == NID_dsaWithSHA)
303         return FIPS_evp_dss();
304     else if (nid == NID_ecdsa_with_SHA1)
305         return FIPS_evp_ecdsa();
306     else
307         return FIPS_get_digestbynid(nid);
308 }
309
310 const EVP_CIPHER *evp_get_fips_cipher(const EVP_CIPHER *cipher)
311 {
312     int nid = cipher->nid;
313     if (nid == NID_undef)
314         return FIPS_evp_enc_null();
315     else
316         return FIPS_get_cipherbynid(nid);
317 }
318
319 #endif
320
321 unsigned long EVP_MD_flags(const EVP_MD *md)
322 {
323 #ifdef OPENSSL_FIPS
324     const EVP_MD *fmd;
325     fmd = evp_get_fips_md(md);
326     if (fmd && fmd->flags & EVP_MD_FLAG_FIPS)
327         return md->flags | EVP_MD_FLAG_FIPS;
328 #endif
329     return md->flags;
330 }
331
332 const EVP_MD *EVP_MD_CTX_md(const EVP_MD_CTX *ctx)
333 {
334     if (!ctx)
335         return NULL;
336     return ctx->digest;
337 }
338
339 void EVP_MD_CTX_set_flags(EVP_MD_CTX *ctx, int flags)
340 {
341     ctx->flags |= flags;
342 }
343
344 void EVP_MD_CTX_clear_flags(EVP_MD_CTX *ctx, int flags)
345 {
346     ctx->flags &= ~flags;
347 }
348
349 int EVP_MD_CTX_test_flags(const EVP_MD_CTX *ctx, int flags)
350 {
351     return (ctx->flags & flags);
352 }
353
354 void EVP_CIPHER_CTX_set_flags(EVP_CIPHER_CTX *ctx, int flags)
355 {
356     ctx->flags |= flags;
357 }
358
359 void EVP_CIPHER_CTX_clear_flags(EVP_CIPHER_CTX *ctx, int flags)
360 {
361     ctx->flags &= ~flags;
362 }
363
364 int EVP_CIPHER_CTX_test_flags(const EVP_CIPHER_CTX *ctx, int flags)
365 {
366     return (ctx->flags & flags);
367 }