Check the return values where memory allocation failures may happen.
[openssl.git] / crypto / bio / bf_nbio.c
1 /* crypto/bio/bf_nbio.c */
2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
3  * All rights reserved.
4  *
5  * This package is an SSL implementation written
6  * by Eric Young (eay@cryptsoft.com).
7  * The implementation was written so as to conform with Netscapes SSL.
8  * 
9  * This library is free for commercial and non-commercial use as long as
10  * the following conditions are aheared to.  The following conditions
11  * apply to all code found in this distribution, be it the RC4, RSA,
12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
13  * included with this distribution is covered by the same copyright terms
14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
15  * 
16  * Copyright remains Eric Young's, and as such any Copyright notices in
17  * the code are not to be removed.
18  * If this package is used in a product, Eric Young should be given attribution
19  * as the author of the parts of the library used.
20  * This can be in the form of a textual message at program startup or
21  * in documentation (online or textual) provided with the package.
22  * 
23  * Redistribution and use in source and binary forms, with or without
24  * modification, are permitted provided that the following conditions
25  * are met:
26  * 1. Redistributions of source code must retain the copyright
27  *    notice, this list of conditions and the following disclaimer.
28  * 2. Redistributions in binary form must reproduce the above copyright
29  *    notice, this list of conditions and the following disclaimer in the
30  *    documentation and/or other materials provided with the distribution.
31  * 3. All advertising materials mentioning features or use of this software
32  *    must display the following acknowledgement:
33  *    "This product includes cryptographic software written by
34  *     Eric Young (eay@cryptsoft.com)"
35  *    The word 'cryptographic' can be left out if the rouines from the library
36  *    being used are not cryptographic related :-).
37  * 4. If you include any Windows specific code (or a derivative thereof) from 
38  *    the apps directory (application code) you must include an acknowledgement:
39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
40  * 
41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
51  * SUCH DAMAGE.
52  * 
53  * The licence and distribution terms for any publically available version or
54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
55  * copied and put under another distribution licence
56  * [including the GNU Public Licence.]
57  */
58
59 #include <stdio.h>
60 #include <errno.h>
61 #include "cryptlib.h"
62 #include <openssl/rand.h>
63 #include <openssl/bio.h>
64
65 /* BIO_put and BIO_get both add to the digest,
66  * BIO_gets returns the digest */
67
68 static int nbiof_write(BIO *h,const char *buf,int num);
69 static int nbiof_read(BIO *h,char *buf,int size);
70 static int nbiof_puts(BIO *h,const char *str);
71 static int nbiof_gets(BIO *h,char *str,int size);
72 static long nbiof_ctrl(BIO *h,int cmd,long arg1,void *arg2);
73 static int nbiof_new(BIO *h);
74 static int nbiof_free(BIO *data);
75 static long nbiof_callback_ctrl(BIO *h,int cmd,bio_info_cb *fp);
76 typedef struct nbio_test_st
77         {
78         /* only set if we sent a 'should retry' error */
79         int lrn;
80         int lwn;
81         } NBIO_TEST;
82
83 static BIO_METHOD methods_nbiof=
84         {
85         BIO_TYPE_NBIO_TEST,
86         "non-blocking IO test filter",
87         nbiof_write,
88         nbiof_read,
89         nbiof_puts,
90         nbiof_gets,
91         nbiof_ctrl,
92         nbiof_new,
93         nbiof_free,
94         nbiof_callback_ctrl,
95         };
96
97 BIO_METHOD *BIO_f_nbio_test(void)
98         {
99         return(&methods_nbiof);
100         }
101
102 static int nbiof_new(BIO *bi)
103         {
104         NBIO_TEST *nt;
105
106         if (!(nt=(NBIO_TEST *)OPENSSL_malloc(sizeof(NBIO_TEST)))) return(0);
107         nt->lrn= -1;
108         nt->lwn= -1;
109         bi->ptr=(char *)nt;
110         bi->init=1;
111         bi->flags=0;
112         return(1);
113         }
114
115 static int nbiof_free(BIO *a)
116         {
117         if (a == NULL) return(0);
118         if (a->ptr != NULL)
119                 OPENSSL_free(a->ptr);
120         a->ptr=NULL;
121         a->init=0;
122         a->flags=0;
123         return(1);
124         }
125         
126 static int nbiof_read(BIO *b, char *out, int outl)
127         {
128         NBIO_TEST *nt;
129         int ret=0;
130 #if 0
131         int num;
132         unsigned char n;
133 #endif
134
135         if (out == NULL) return(0);
136         if (b->next_bio == NULL) return(0);
137         nt=(NBIO_TEST *)b->ptr;
138
139         BIO_clear_retry_flags(b);
140 #if 0
141         RAND_pseudo_bytes(&n,1);
142         num=(n&0x07);
143
144         if (outl > num) outl=num;
145
146         if (num == 0)
147                 {
148                 ret= -1;
149                 BIO_set_retry_read(b);
150                 }
151         else
152 #endif
153                 {
154                 ret=BIO_read(b->next_bio,out,outl);
155                 if (ret < 0)
156                         BIO_copy_next_retry(b);
157                 }
158         return(ret);
159         }
160
161 static int nbiof_write(BIO *b, const char *in, int inl)
162         {
163         NBIO_TEST *nt;
164         int ret=0;
165         int num;
166         unsigned char n;
167
168         if ((in == NULL) || (inl <= 0)) return(0);
169         if (b->next_bio == NULL) return(0);
170         nt=(NBIO_TEST *)b->ptr;
171
172         BIO_clear_retry_flags(b);
173
174 #if 1
175         if (nt->lwn > 0)
176                 {
177                 num=nt->lwn;
178                 nt->lwn=0;
179                 }
180         else
181                 {
182                 RAND_pseudo_bytes(&n,1);
183                 num=(n&7);
184                 }
185
186         if (inl > num) inl=num;
187
188         if (num == 0)
189                 {
190                 ret= -1;
191                 BIO_set_retry_write(b);
192                 }
193         else
194 #endif
195                 {
196                 ret=BIO_write(b->next_bio,in,inl);
197                 if (ret < 0)
198                         {
199                         BIO_copy_next_retry(b);
200                         nt->lwn=inl;
201                         }
202                 }
203         return(ret);
204         }
205
206 static long nbiof_ctrl(BIO *b, int cmd, long num, void *ptr)
207         {
208         long ret;
209
210         if (b->next_bio == NULL) return(0);
211         switch (cmd)
212                 {
213         case BIO_C_DO_STATE_MACHINE:
214                 BIO_clear_retry_flags(b);
215                 ret=BIO_ctrl(b->next_bio,cmd,num,ptr);
216                 BIO_copy_next_retry(b);
217                 break;
218         case BIO_CTRL_DUP:
219                 ret=0L;
220                 break;
221         default:
222                 ret=BIO_ctrl(b->next_bio,cmd,num,ptr);
223                 break;
224                 }
225         return(ret);
226         }
227
228 static long nbiof_callback_ctrl(BIO *b, int cmd, bio_info_cb *fp)
229         {
230         long ret=1;
231
232         if (b->next_bio == NULL) return(0);
233         switch (cmd)
234                 {
235         default:
236                 ret=BIO_callback_ctrl(b->next_bio,cmd,fp);
237                 break;
238                 }
239         return(ret);
240         }
241
242 static int nbiof_gets(BIO *bp, char *buf, int size)
243         {
244         if (bp->next_bio == NULL) return(0);
245         return(BIO_gets(bp->next_bio,buf,size));
246         }
247
248
249 static int nbiof_puts(BIO *bp, const char *str)
250         {
251         if (bp->next_bio == NULL) return(0);
252         return(BIO_puts(bp->next_bio,str));
253         }
254
255