Unsigned vs. signed fixed.
[openssl.git] / ssl / s23_lib.c
1 /* ssl/s23_lib.c */
2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
3  * All rights reserved.
4  *
5  * This package is an SSL implementation written
6  * by Eric Young (eay@cryptsoft.com).
7  * The implementation was written so as to conform with Netscapes SSL.
8  * 
9  * This library is free for commercial and non-commercial use as long as
10  * the following conditions are aheared to.  The following conditions
11  * apply to all code found in this distribution, be it the RC4, RSA,
12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
13  * included with this distribution is covered by the same copyright terms
14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
15  * 
16  * Copyright remains Eric Young's, and as such any Copyright notices in
17  * the code are not to be removed.
18  * If this package is used in a product, Eric Young should be given attribution
19  * as the author of the parts of the library used.
20  * This can be in the form of a textual message at program startup or
21  * in documentation (online or textual) provided with the package.
22  * 
23  * Redistribution and use in source and binary forms, with or without
24  * modification, are permitted provided that the following conditions
25  * are met:
26  * 1. Redistributions of source code must retain the copyright
27  *    notice, this list of conditions and the following disclaimer.
28  * 2. Redistributions in binary form must reproduce the above copyright
29  *    notice, this list of conditions and the following disclaimer in the
30  *    documentation and/or other materials provided with the distribution.
31  * 3. All advertising materials mentioning features or use of this software
32  *    must display the following acknowledgement:
33  *    "This product includes cryptographic software written by
34  *     Eric Young (eay@cryptsoft.com)"
35  *    The word 'cryptographic' can be left out if the rouines from the library
36  *    being used are not cryptographic related :-).
37  * 4. If you include any Windows specific code (or a derivative thereof) from 
38  *    the apps directory (application code) you must include an acknowledgement:
39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
40  * 
41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
51  * SUCH DAMAGE.
52  * 
53  * The licence and distribution terms for any publically available version or
54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
55  * copied and put under another distribution licence
56  * [including the GNU Public Licence.]
57  */
58
59 #include <stdio.h>
60 #include <openssl/objects.h>
61 #include "ssl_locl.h"
62
63 static int ssl23_num_ciphers(void );
64 static SSL_CIPHER *ssl23_get_cipher(unsigned int u);
65 static int ssl23_read(SSL *s, void *buf, int len);
66 static int ssl23_peek(SSL *s, void *buf, int len);
67 static int ssl23_write(SSL *s, const void *buf, int len);
68 static long ssl23_default_timeout(void );
69 static int ssl23_put_cipher_by_char(const SSL_CIPHER *c, unsigned char *p);
70 static SSL_CIPHER *ssl23_get_cipher_by_char(const unsigned char *p);
71 const char *SSL23_version_str="SSLv2/3 compatibility" OPENSSL_VERSION_PTEXT;
72
73 static SSL_METHOD SSLv23_data= {
74         TLS1_VERSION,
75         tls1_new,
76         tls1_clear,
77         tls1_free,
78         ssl_undefined_function,
79         ssl_undefined_function,
80         ssl23_read,
81         ssl23_peek,
82         ssl23_write,
83         ssl_undefined_function,
84         ssl_undefined_function,
85         ssl_ok,
86         ssl3_ctrl,
87         ssl3_ctx_ctrl,
88         ssl23_get_cipher_by_char,
89         ssl23_put_cipher_by_char,
90         ssl_undefined_function,
91         ssl23_num_ciphers,
92         ssl23_get_cipher,
93         ssl_bad_method,
94         ssl23_default_timeout,
95         &ssl3_undef_enc_method,
96         ssl_undefined_function,
97         ssl3_callback_ctrl,
98         ssl3_ctx_callback_ctrl,
99         };
100
101 static long ssl23_default_timeout(void)
102         {
103         return(300);
104         }
105
106 SSL_METHOD *sslv23_base_method(void)
107         {
108         return(&SSLv23_data);
109         }
110
111 static int ssl23_num_ciphers(void)
112         {
113         return(ssl3_num_ciphers()
114 #ifndef OPENSSL_NO_SSL2
115                + ssl2_num_ciphers()
116 #endif
117             );
118         }
119
120 static SSL_CIPHER *ssl23_get_cipher(unsigned int u)
121         {
122         unsigned int uu=ssl3_num_ciphers();
123
124         if (u < uu)
125                 return(ssl3_get_cipher(u));
126         else
127 #ifndef OPENSSL_NO_SSL2
128                 return(ssl2_get_cipher(u-uu));
129 #else
130                 return(NULL);
131 #endif
132         }
133
134 /* This function needs to check if the ciphers required are actually
135  * available */
136 static SSL_CIPHER *ssl23_get_cipher_by_char(const unsigned char *p)
137         {
138         SSL_CIPHER c,*cp;
139         unsigned long id;
140         int n;
141
142         n=ssl3_num_ciphers();
143         id=0x03000000|((unsigned long)p[0]<<16L)|
144                 ((unsigned long)p[1]<<8L)|(unsigned long)p[2];
145         c.id=id;
146         cp=ssl3_get_cipher_by_char(p);
147 #ifndef OPENSSL_NO_SSL2
148         if (cp == NULL)
149                 cp=ssl2_get_cipher_by_char(p);
150 #endif
151         return(cp);
152         }
153
154 static int ssl23_put_cipher_by_char(const SSL_CIPHER *c, unsigned char *p)
155         {
156         long l;
157
158         /* We can write SSLv2 and SSLv3 ciphers */
159         if (p != NULL)
160                 {
161                 l=c->id;
162                 p[0]=((unsigned char)(l>>16L))&0xFF;
163                 p[1]=((unsigned char)(l>> 8L))&0xFF;
164                 p[2]=((unsigned char)(l     ))&0xFF;
165                 }
166         return(3);
167         }
168
169 static int ssl23_read(SSL *s, void *buf, int len)
170         {
171         int n;
172
173         clear_sys_error();
174         if (SSL_in_init(s) && (!s->in_handshake))
175                 {
176                 n=s->handshake_func(s);
177                 if (n < 0) return(n);
178                 if (n == 0)
179                         {
180                         SSLerr(SSL_F_SSL23_READ,SSL_R_SSL_HANDSHAKE_FAILURE);
181                         return(-1);
182                         }
183                 return(SSL_read(s,buf,len));
184                 }
185         else
186                 {
187                 ssl_undefined_function(s);
188                 return(-1);
189                 }
190         }
191
192 static int ssl23_peek(SSL *s, void *buf, int len)
193         {
194         int n;
195
196         clear_sys_error();
197         if (SSL_in_init(s) && (!s->in_handshake))
198                 {
199                 n=s->handshake_func(s);
200                 if (n < 0) return(n);
201                 if (n == 0)
202                         {
203                         SSLerr(SSL_F_SSL23_PEEK,SSL_R_SSL_HANDSHAKE_FAILURE);
204                         return(-1);
205                         }
206                 return(SSL_peek(s,buf,len));
207                 }
208         else
209                 {
210                 ssl_undefined_function(s);
211                 return(-1);
212                 }
213         }
214
215 static int ssl23_write(SSL *s, const void *buf, int len)
216         {
217         int n;
218
219         clear_sys_error();
220         if (SSL_in_init(s) && (!s->in_handshake))
221                 {
222                 n=s->handshake_func(s);
223                 if (n < 0) return(n);
224                 if (n == 0)
225                         {
226                         SSLerr(SSL_F_SSL23_WRITE,SSL_R_SSL_HANDSHAKE_FAILURE);
227                         return(-1);
228                         }
229                 return(SSL_write(s,buf,len));
230                 }
231         else
232                 {
233                 ssl_undefined_function(s);
234                 return(-1);
235                 }
236         }