daba6dd7addc6177d1cc465a5b6ea60adc094a13
[openssl.git] / ssl / s2_srvr.c
1 /* ssl/s2_srvr.c */
2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
3  * All rights reserved.
4  *
5  * This package is an SSL implementation written
6  * by Eric Young (eay@cryptsoft.com).
7  * The implementation was written so as to conform with Netscapes SSL.
8  *
9  * This library is free for commercial and non-commercial use as long as
10  * the following conditions are aheared to.  The following conditions
11  * apply to all code found in this distribution, be it the RC4, RSA,
12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
13  * included with this distribution is covered by the same copyright terms
14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
15  *
16  * Copyright remains Eric Young's, and as such any Copyright notices in
17  * the code are not to be removed.
18  * If this package is used in a product, Eric Young should be given attribution
19  * as the author of the parts of the library used.
20  * This can be in the form of a textual message at program startup or
21  * in documentation (online or textual) provided with the package.
22  *
23  * Redistribution and use in source and binary forms, with or without
24  * modification, are permitted provided that the following conditions
25  * are met:
26  * 1. Redistributions of source code must retain the copyright
27  *    notice, this list of conditions and the following disclaimer.
28  * 2. Redistributions in binary form must reproduce the above copyright
29  *    notice, this list of conditions and the following disclaimer in the
30  *    documentation and/or other materials provided with the distribution.
31  * 3. All advertising materials mentioning features or use of this software
32  *    must display the following acknowledgement:
33  *    "This product includes cryptographic software written by
34  *     Eric Young (eay@cryptsoft.com)"
35  *    The word 'cryptographic' can be left out if the rouines from the library
36  *    being used are not cryptographic related :-).
37  * 4. If you include any Windows specific code (or a derivative thereof) from
38  *    the apps directory (application code) you must include an acknowledgement:
39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
40  *
41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
51  * SUCH DAMAGE.
52  *
53  * The licence and distribution terms for any publically available version or
54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
55  * copied and put under another distribution licence
56  * [including the GNU Public Licence.]
57  */
58 /* ====================================================================
59  * Copyright (c) 1998-2001 The OpenSSL Project.  All rights reserved.
60  *
61  * Redistribution and use in source and binary forms, with or without
62  * modification, are permitted provided that the following conditions
63  * are met:
64  *
65  * 1. Redistributions of source code must retain the above copyright
66  *    notice, this list of conditions and the following disclaimer.
67  *
68  * 2. Redistributions in binary form must reproduce the above copyright
69  *    notice, this list of conditions and the following disclaimer in
70  *    the documentation and/or other materials provided with the
71  *    distribution.
72  *
73  * 3. All advertising materials mentioning features or use of this
74  *    software must display the following acknowledgment:
75  *    "This product includes software developed by the OpenSSL Project
76  *    for use in the OpenSSL Toolkit. (http://www.openssl.org/)"
77  *
78  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
79  *    endorse or promote products derived from this software without
80  *    prior written permission. For written permission, please contact
81  *    openssl-core@openssl.org.
82  *
83  * 5. Products derived from this software may not be called "OpenSSL"
84  *    nor may "OpenSSL" appear in their names without prior written
85  *    permission of the OpenSSL Project.
86  *
87  * 6. Redistributions of any form whatsoever must retain the following
88  *    acknowledgment:
89  *    "This product includes software developed by the OpenSSL Project
90  *    for use in the OpenSSL Toolkit (http://www.openssl.org/)"
91  *
92  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
93  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
94  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
95  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
96  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
97  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
98  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
99  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
100  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
101  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
102  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
103  * OF THE POSSIBILITY OF SUCH DAMAGE.
104  * ====================================================================
105  *
106  * This product includes cryptographic software written by Eric Young
107  * (eay@cryptsoft.com).  This product includes software written by Tim
108  * Hudson (tjh@cryptsoft.com).
109  *
110  */
111
112 #include "ssl_locl.h"
113 #ifndef OPENSSL_NO_SSL2
114 # include <stdio.h>
115 # include <openssl/bio.h>
116 # include <openssl/rand.h>
117 # include <openssl/objects.h>
118 # include <openssl/evp.h>
119
120 static const SSL_METHOD *ssl2_get_server_method(int ver);
121 static int get_client_master_key(SSL *s);
122 static int get_client_hello(SSL *s);
123 static int server_hello(SSL *s);
124 static int get_client_finished(SSL *s);
125 static int server_verify(SSL *s);
126 static int server_finish(SSL *s);
127 static int request_certificate(SSL *s);
128 static int ssl_rsa_private_decrypt(CERT *c, int len, unsigned char *from,
129                                    unsigned char *to, int padding);
130 # define BREAK   break
131
132 static const SSL_METHOD *ssl2_get_server_method(int ver)
133 {
134     if (ver == SSL2_VERSION)
135         return (SSLv2_server_method());
136     else
137         return (NULL);
138 }
139
140 IMPLEMENT_ssl2_meth_func(SSLv2_server_method,
141                          ssl2_accept,
142                          ssl_undefined_function, ssl2_get_server_method)
143
144 int ssl2_accept(SSL *s)
145 {
146     unsigned long l = (unsigned long)time(NULL);
147     BUF_MEM *buf = NULL;
148     int ret = -1;
149     long num1;
150     void (*cb) (const SSL *ssl, int type, int val) = NULL;
151     int new_state, state;
152
153     RAND_add(&l, sizeof(l), 0);
154     ERR_clear_error();
155     clear_sys_error();
156
157     if (s->info_callback != NULL)
158         cb = s->info_callback;
159     else if (s->ctx->info_callback != NULL)
160         cb = s->ctx->info_callback;
161
162     /* init things to blank */
163     s->in_handshake++;
164     if (!SSL_in_init(s) || SSL_in_before(s))
165         SSL_clear(s);
166
167     if (s->cert == NULL) {
168         SSLerr(SSL_F_SSL2_ACCEPT, SSL_R_NO_CERTIFICATE_SET);
169         return (-1);
170     }
171
172     clear_sys_error();
173     for (;;) {
174         state = s->state;
175
176         switch (s->state) {
177         case SSL_ST_BEFORE:
178         case SSL_ST_ACCEPT:
179         case SSL_ST_BEFORE | SSL_ST_ACCEPT:
180         case SSL_ST_OK | SSL_ST_ACCEPT:
181
182             s->server = 1;
183             if (cb != NULL)
184                 cb(s, SSL_CB_HANDSHAKE_START, 1);
185
186             s->version = SSL2_VERSION;
187             s->type = SSL_ST_ACCEPT;
188
189             if (s->init_buf == NULL) {
190                 if ((buf = BUF_MEM_new()) == NULL) {
191                     ret = -1;
192                     goto end;
193                 }
194                 if (!BUF_MEM_grow
195                     (buf, (int)SSL2_MAX_RECORD_LENGTH_3_BYTE_HEADER)) {
196                     BUF_MEM_free(buf);
197                     ret = -1;
198                     goto end;
199                 }
200                 s->init_buf = buf;
201             }
202             s->init_num = 0;
203             s->ctx->stats.sess_accept++;
204             s->handshake_func = ssl2_accept;
205             s->state = SSL2_ST_GET_CLIENT_HELLO_A;
206             BREAK;
207
208         case SSL2_ST_GET_CLIENT_HELLO_A:
209         case SSL2_ST_GET_CLIENT_HELLO_B:
210         case SSL2_ST_GET_CLIENT_HELLO_C:
211             s->shutdown = 0;
212             ret = get_client_hello(s);
213             if (ret <= 0)
214                 goto end;
215             s->init_num = 0;
216             s->state = SSL2_ST_SEND_SERVER_HELLO_A;
217             BREAK;
218
219         case SSL2_ST_SEND_SERVER_HELLO_A:
220         case SSL2_ST_SEND_SERVER_HELLO_B:
221             ret = server_hello(s);
222             if (ret <= 0)
223                 goto end;
224             s->init_num = 0;
225             if (!s->hit) {
226                 s->state = SSL2_ST_GET_CLIENT_MASTER_KEY_A;
227                 BREAK;
228             } else {
229                 s->state = SSL2_ST_SERVER_START_ENCRYPTION;
230                 BREAK;
231             }
232         case SSL2_ST_GET_CLIENT_MASTER_KEY_A:
233         case SSL2_ST_GET_CLIENT_MASTER_KEY_B:
234             ret = get_client_master_key(s);
235             if (ret <= 0)
236                 goto end;
237             s->init_num = 0;
238             s->state = SSL2_ST_SERVER_START_ENCRYPTION;
239             BREAK;
240
241         case SSL2_ST_SERVER_START_ENCRYPTION:
242             /*
243              * Ok we how have sent all the stuff needed to start encrypting,
244              * the next packet back will be encrypted.
245              */
246             if (!ssl2_enc_init(s, 0)) {
247                 ret = -1;
248                 goto end;
249             }
250             s->s2->clear_text = 0;
251             s->state = SSL2_ST_SEND_SERVER_VERIFY_A;
252             BREAK;
253
254         case SSL2_ST_SEND_SERVER_VERIFY_A:
255         case SSL2_ST_SEND_SERVER_VERIFY_B:
256             ret = server_verify(s);
257             if (ret <= 0)
258                 goto end;
259             s->init_num = 0;
260             if (s->hit) {
261                 /*
262                  * If we are in here, we have been buffering the output, so
263                  * we need to flush it and remove buffering from future
264                  * traffic
265                  */
266                 s->state = SSL2_ST_SEND_SERVER_VERIFY_C;
267                 BREAK;
268             } else {
269                 s->state = SSL2_ST_GET_CLIENT_FINISHED_A;
270                 break;
271             }
272
273         case SSL2_ST_SEND_SERVER_VERIFY_C:
274             /* get the number of bytes to write */
275             num1 = BIO_ctrl(s->wbio, BIO_CTRL_INFO, 0, NULL);
276             if (num1 > 0) {
277                 s->rwstate = SSL_WRITING;
278                 num1 = BIO_flush(s->wbio);
279                 if (num1 <= 0) {
280                     ret = -1;
281                     goto end;
282                 }
283                 s->rwstate = SSL_NOTHING;
284             }
285
286             /* flushed and now remove buffering */
287             s->wbio = BIO_pop(s->wbio);
288
289             s->state = SSL2_ST_GET_CLIENT_FINISHED_A;
290             BREAK;
291
292         case SSL2_ST_GET_CLIENT_FINISHED_A:
293         case SSL2_ST_GET_CLIENT_FINISHED_B:
294             ret = get_client_finished(s);
295             if (ret <= 0)
296                 goto end;
297             s->init_num = 0;
298             s->state = SSL2_ST_SEND_REQUEST_CERTIFICATE_A;
299             BREAK;
300
301         case SSL2_ST_SEND_REQUEST_CERTIFICATE_A:
302         case SSL2_ST_SEND_REQUEST_CERTIFICATE_B:
303         case SSL2_ST_SEND_REQUEST_CERTIFICATE_C:
304         case SSL2_ST_SEND_REQUEST_CERTIFICATE_D:
305             /*
306              * don't do a 'request certificate' if we don't want to, or we
307              * already have one, and we only want to do it once.
308              */
309             if (!(s->verify_mode & SSL_VERIFY_PEER) ||
310                 ((s->session->peer != NULL) &&
311                  (s->verify_mode & SSL_VERIFY_CLIENT_ONCE))) {
312                 s->state = SSL2_ST_SEND_SERVER_FINISHED_A;
313                 break;
314             } else {
315                 ret = request_certificate(s);
316                 if (ret <= 0)
317                     goto end;
318                 s->init_num = 0;
319                 s->state = SSL2_ST_SEND_SERVER_FINISHED_A;
320             }
321             BREAK;
322
323         case SSL2_ST_SEND_SERVER_FINISHED_A:
324         case SSL2_ST_SEND_SERVER_FINISHED_B:
325             ret = server_finish(s);
326             if (ret <= 0)
327                 goto end;
328             s->init_num = 0;
329             s->state = SSL_ST_OK;
330             break;
331
332         case SSL_ST_OK:
333             BUF_MEM_free(s->init_buf);
334             ssl_free_wbio_buffer(s);
335             s->init_buf = NULL;
336             s->init_num = 0;
337             /*      ERR_clear_error(); */
338
339             ssl_update_cache(s, SSL_SESS_CACHE_SERVER);
340
341             s->ctx->stats.sess_accept_good++;
342             /* s->server=1; */
343             ret = 1;
344
345             if (cb != NULL)
346                 cb(s, SSL_CB_HANDSHAKE_DONE, 1);
347
348             goto end;
349             /* BREAK; */
350
351         default:
352             SSLerr(SSL_F_SSL2_ACCEPT, SSL_R_UNKNOWN_STATE);
353             ret = -1;
354             goto end;
355             /* BREAK; */
356         }
357
358         if ((cb != NULL) && (s->state != state)) {
359             new_state = s->state;
360             s->state = state;
361             cb(s, SSL_CB_ACCEPT_LOOP, 1);
362             s->state = new_state;
363         }
364     }
365  end:
366     s->in_handshake--;
367     if (cb != NULL)
368         cb(s, SSL_CB_ACCEPT_EXIT, ret);
369     return (ret);
370 }
371
372 static int get_client_master_key(SSL *s)
373 {
374     int is_export, i, n, keya, ek;
375     unsigned long len;
376     unsigned char *p;
377     const SSL_CIPHER *cp;
378     const EVP_CIPHER *c;
379     const EVP_MD *md;
380
381     p = (unsigned char *)s->init_buf->data;
382     if (s->state == SSL2_ST_GET_CLIENT_MASTER_KEY_A) {
383         i = ssl2_read(s, (char *)&(p[s->init_num]), 10 - s->init_num);
384
385         if (i < (10 - s->init_num))
386             return (ssl2_part_read(s, SSL_F_GET_CLIENT_MASTER_KEY, i));
387         s->init_num = 10;
388
389         if (*(p++) != SSL2_MT_CLIENT_MASTER_KEY) {
390             if (p[-1] != SSL2_MT_ERROR) {
391                 ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
392                 SSLerr(SSL_F_GET_CLIENT_MASTER_KEY,
393                        SSL_R_READ_WRONG_PACKET_TYPE);
394             } else
395                 SSLerr(SSL_F_GET_CLIENT_MASTER_KEY, SSL_R_PEER_ERROR);
396             return (-1);
397         }
398
399         cp = ssl2_get_cipher_by_char(p);
400         if (cp == NULL) {
401             ssl2_return_error(s, SSL2_PE_NO_CIPHER);
402             SSLerr(SSL_F_GET_CLIENT_MASTER_KEY, SSL_R_NO_CIPHER_MATCH);
403             return (-1);
404         }
405         s->session->cipher = cp;
406
407         p += 3;
408         n2s(p, i);
409         s->s2->tmp.clear = i;
410         n2s(p, i);
411         s->s2->tmp.enc = i;
412         n2s(p, i);
413         if (i > SSL_MAX_KEY_ARG_LENGTH) {
414             ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
415             SSLerr(SSL_F_GET_CLIENT_MASTER_KEY, SSL_R_KEY_ARG_TOO_LONG);
416             return -1;
417         }
418         s->session->key_arg_length = i;
419         s->state = SSL2_ST_GET_CLIENT_MASTER_KEY_B;
420     }
421
422     /* SSL2_ST_GET_CLIENT_MASTER_KEY_B */
423     p = (unsigned char *)s->init_buf->data;
424     if (s->init_buf->length < SSL2_MAX_RECORD_LENGTH_3_BYTE_HEADER) {
425         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
426         SSLerr(SSL_F_GET_CLIENT_MASTER_KEY, ERR_R_INTERNAL_ERROR);
427         return -1;
428     }
429     keya = s->session->key_arg_length;
430     len =
431         10 + (unsigned long)s->s2->tmp.clear + (unsigned long)s->s2->tmp.enc +
432         (unsigned long)keya;
433     if (len > SSL2_MAX_RECORD_LENGTH_3_BYTE_HEADER) {
434         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
435         SSLerr(SSL_F_GET_CLIENT_MASTER_KEY, SSL_R_MESSAGE_TOO_LONG);
436         return -1;
437     }
438     n = (int)len - s->init_num;
439     i = ssl2_read(s, (char *)&(p[s->init_num]), n);
440     if (i != n)
441         return (ssl2_part_read(s, SSL_F_GET_CLIENT_MASTER_KEY, i));
442     if (s->msg_callback) {
443         /* CLIENT-MASTER-KEY */
444         s->msg_callback(0, s->version, 0, p, (size_t)len, s,
445                         s->msg_callback_arg);
446     }
447     p += 10;
448
449     memcpy(s->session->key_arg, &(p[s->s2->tmp.clear + s->s2->tmp.enc]),
450            (unsigned int)keya);
451
452     if (s->cert->pkeys[SSL_PKEY_RSA_ENC].privatekey == NULL) {
453         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
454         SSLerr(SSL_F_GET_CLIENT_MASTER_KEY, SSL_R_NO_PRIVATEKEY);
455         return (-1);
456     }
457     i = ssl_rsa_private_decrypt(s->cert, s->s2->tmp.enc,
458                                 &(p[s->s2->tmp.clear]),
459                                 &(p[s->s2->tmp.clear]),
460                                 (s->s2->ssl2_rollback) ? RSA_SSLV23_PADDING :
461                                 RSA_PKCS1_PADDING);
462
463     is_export = SSL_C_IS_EXPORT(s->session->cipher);
464
465     if (!ssl_cipher_get_evp(s->session, &c, &md, NULL, NULL, NULL)) {
466         ssl2_return_error(s, SSL2_PE_NO_CIPHER);
467         SSLerr(SSL_F_GET_CLIENT_MASTER_KEY,
468                SSL_R_PROBLEMS_MAPPING_CIPHER_FUNCTIONS);
469         return (0);
470     }
471
472     if (s->session->cipher->algorithm2 & SSL2_CF_8_BYTE_ENC) {
473         is_export = 1;
474         ek = 8;
475     } else
476         ek = 5;
477
478     /* bad decrypt */
479 # if 1
480     /*
481      * If a bad decrypt, continue with protocol but with a random master
482      * secret (Bleichenbacher attack)
483      */
484     if ((i < 0) || ((!is_export && (i != EVP_CIPHER_key_length(c)))
485                     || (is_export && ((i != ek)
486                                       || (s->s2->tmp.clear +
487                                           (unsigned int)i != (unsigned int)
488                                           EVP_CIPHER_key_length(c)))))) {
489         ERR_clear_error();
490         if (is_export)
491             i = ek;
492         else
493             i = EVP_CIPHER_key_length(c);
494         if (RAND_pseudo_bytes(p, i) <= 0)
495             return 0;
496     }
497 # else
498     if (i < 0) {
499         error = 1;
500         SSLerr(SSL_F_GET_CLIENT_MASTER_KEY, SSL_R_BAD_RSA_DECRYPT);
501     }
502     /* incorrect number of key bytes for non export cipher */
503     else if ((!is_export && (i != EVP_CIPHER_key_length(c)))
504              || (is_export && ((i != ek) || (s->s2->tmp.clear + i !=
505                                              EVP_CIPHER_key_length(c))))) {
506         error = 1;
507         SSLerr(SSL_F_GET_CLIENT_MASTER_KEY, SSL_R_WRONG_NUMBER_OF_KEY_BITS);
508     }
509     if (error) {
510         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
511         return (-1);
512     }
513 # endif
514
515     if (is_export)
516         i += s->s2->tmp.clear;
517
518     if (i > SSL_MAX_MASTER_KEY_LENGTH) {
519         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
520         SSLerr(SSL_F_GET_CLIENT_MASTER_KEY, ERR_R_INTERNAL_ERROR);
521         return -1;
522     }
523     s->session->master_key_length = i;
524     memcpy(s->session->master_key, p, (unsigned int)i);
525     return (1);
526 }
527
528 static int get_client_hello(SSL *s)
529 {
530     int i, n;
531     unsigned long len;
532     unsigned char *p;
533     STACK_OF(SSL_CIPHER) *cs;   /* a stack of SSL_CIPHERS */
534     STACK_OF(SSL_CIPHER) *cl;   /* the ones we want to use */
535     STACK_OF(SSL_CIPHER) *prio, *allow;
536     int z;
537
538     /*
539      * This is a bit of a hack to check for the correct packet type the first
540      * time round.
541      */
542     if (s->state == SSL2_ST_GET_CLIENT_HELLO_A) {
543         s->first_packet = 1;
544         s->state = SSL2_ST_GET_CLIENT_HELLO_B;
545     }
546
547     p = (unsigned char *)s->init_buf->data;
548     if (s->state == SSL2_ST_GET_CLIENT_HELLO_B) {
549         i = ssl2_read(s, (char *)&(p[s->init_num]), 9 - s->init_num);
550         if (i < (9 - s->init_num))
551             return (ssl2_part_read(s, SSL_F_GET_CLIENT_HELLO, i));
552         s->init_num = 9;
553
554         if (*(p++) != SSL2_MT_CLIENT_HELLO) {
555             if (p[-1] != SSL2_MT_ERROR) {
556                 ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
557                 SSLerr(SSL_F_GET_CLIENT_HELLO, SSL_R_READ_WRONG_PACKET_TYPE);
558             } else
559                 SSLerr(SSL_F_GET_CLIENT_HELLO, SSL_R_PEER_ERROR);
560             return (-1);
561         }
562         n2s(p, i);
563         if (i < s->version)
564             s->version = i;
565         n2s(p, i);
566         s->s2->tmp.cipher_spec_length = i;
567         n2s(p, i);
568         s->s2->tmp.session_id_length = i;
569         n2s(p, i);
570         s->s2->challenge_length = i;
571         if ((i < SSL2_MIN_CHALLENGE_LENGTH) ||
572             (i > SSL2_MAX_CHALLENGE_LENGTH)) {
573             ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
574             SSLerr(SSL_F_GET_CLIENT_HELLO, SSL_R_INVALID_CHALLENGE_LENGTH);
575             return (-1);
576         }
577         s->state = SSL2_ST_GET_CLIENT_HELLO_C;
578     }
579
580     /* SSL2_ST_GET_CLIENT_HELLO_C */
581     p = (unsigned char *)s->init_buf->data;
582     len =
583         9 + (unsigned long)s->s2->tmp.cipher_spec_length +
584         (unsigned long)s->s2->challenge_length +
585         (unsigned long)s->s2->tmp.session_id_length;
586     if (len > SSL2_MAX_RECORD_LENGTH_3_BYTE_HEADER) {
587         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
588         SSLerr(SSL_F_GET_CLIENT_HELLO, SSL_R_MESSAGE_TOO_LONG);
589         return -1;
590     }
591     n = (int)len - s->init_num;
592     i = ssl2_read(s, (char *)&(p[s->init_num]), n);
593     if (i != n)
594         return (ssl2_part_read(s, SSL_F_GET_CLIENT_HELLO, i));
595     if (s->msg_callback) {
596         /* CLIENT-HELLO */
597         s->msg_callback(0, s->version, 0, p, (size_t)len, s,
598                         s->msg_callback_arg);
599     }
600     p += 9;
601
602     /*
603      * get session-id before cipher stuff so we can get out session structure
604      * if it is cached
605      */
606     /* session-id */
607     if ((s->s2->tmp.session_id_length != 0) &&
608         (s->s2->tmp.session_id_length != SSL2_SSL_SESSION_ID_LENGTH)) {
609         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
610         SSLerr(SSL_F_GET_CLIENT_HELLO, SSL_R_BAD_SSL_SESSION_ID_LENGTH);
611         return (-1);
612     }
613
614     if (s->s2->tmp.session_id_length == 0) {
615         if (!ssl_get_new_session(s, 1)) {
616             ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
617             return (-1);
618         }
619     } else {
620         i = ssl_get_prev_session(s, &(p[s->s2->tmp.cipher_spec_length]),
621                                  s->s2->tmp.session_id_length, NULL);
622         if (i == 1) {           /* previous session */
623             s->hit = 1;
624         } else if (i == -1) {
625             ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
626             return (-1);
627         } else {
628             if (s->cert == NULL) {
629                 ssl2_return_error(s, SSL2_PE_NO_CERTIFICATE);
630                 SSLerr(SSL_F_GET_CLIENT_HELLO, SSL_R_NO_CERTIFICATE_SET);
631                 return (-1);
632             }
633
634             if (!ssl_get_new_session(s, 1)) {
635                 ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
636                 return (-1);
637             }
638         }
639     }
640
641     if (!s->hit) {
642         cs = ssl_bytes_to_cipher_list(s, p, s->s2->tmp.cipher_spec_length,
643                                       &s->session->ciphers);
644         if (cs == NULL)
645             goto mem_err;
646
647         cl = SSL_get_ciphers(s);
648
649         if (s->options & SSL_OP_CIPHER_SERVER_PREFERENCE) {
650             prio = sk_SSL_CIPHER_dup(cl);
651             if (prio == NULL)
652                 goto mem_err;
653             allow = cs;
654         } else {
655             prio = cs;
656             allow = cl;
657         }
658         for (z = 0; z < sk_SSL_CIPHER_num(prio); z++) {
659             if (sk_SSL_CIPHER_find(allow, sk_SSL_CIPHER_value(prio, z)) < 0) {
660                 (void)sk_SSL_CIPHER_delete(prio, z);
661                 z--;
662             }
663         }
664         if (s->options & SSL_OP_CIPHER_SERVER_PREFERENCE) {
665             sk_SSL_CIPHER_free(s->session->ciphers);
666             s->session->ciphers = prio;
667         }
668         /*
669          * s->session->ciphers should now have a list of ciphers that are on
670          * both the client and server. This list is ordered by the order the
671          * client sent the ciphers or in the order of the server's preference
672          * if SSL_OP_CIPHER_SERVER_PREFERENCE was set.
673          */
674     }
675     p += s->s2->tmp.cipher_spec_length;
676     /* done cipher selection */
677
678     /* session id extracted already */
679     p += s->s2->tmp.session_id_length;
680
681     /* challenge */
682     if (s->s2->challenge_length > sizeof s->s2->challenge) {
683         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
684         SSLerr(SSL_F_GET_CLIENT_HELLO, ERR_R_INTERNAL_ERROR);
685         return -1;
686     }
687     memcpy(s->s2->challenge, p, (unsigned int)s->s2->challenge_length);
688     return (1);
689  mem_err:
690     SSLerr(SSL_F_GET_CLIENT_HELLO, ERR_R_MALLOC_FAILURE);
691     return (0);
692 }
693
694 static int server_hello(SSL *s)
695 {
696     unsigned char *p, *d;
697     int n, hit;
698
699     p = (unsigned char *)s->init_buf->data;
700     if (s->state == SSL2_ST_SEND_SERVER_HELLO_A) {
701         d = p + 11;
702         *(p++) = SSL2_MT_SERVER_HELLO; /* type */
703         hit = s->hit;
704         *(p++) = (unsigned char)hit;
705 # if 1
706         if (!hit) {
707             if (s->session->sess_cert != NULL)
708                 /*
709                  * This can't really happen because get_client_hello has
710                  * called ssl_get_new_session, which does not set sess_cert.
711                  */
712                 ssl_sess_cert_free(s->session->sess_cert);
713             s->session->sess_cert = ssl_sess_cert_new();
714             if (s->session->sess_cert == NULL) {
715                 SSLerr(SSL_F_SERVER_HELLO, ERR_R_MALLOC_FAILURE);
716                 return (-1);
717             }
718         }
719         /*
720          * If 'hit' is set, then s->sess_cert may be non-NULL or NULL,
721          * depending on whether it survived in the internal cache or was
722          * retrieved from an external cache. If it is NULL, we cannot put any
723          * useful data in it anyway, so we don't touch it.
724          */
725
726 # else                          /* That's what used to be done when cert_st
727                                  * and sess_cert_st were * the same. */
728         if (!hit) {             /* else add cert to session */
729             CRYPTO_add(&s->cert->references, 1, CRYPTO_LOCK_SSL_CERT);
730             if (s->session->sess_cert != NULL)
731                 ssl_cert_free(s->session->sess_cert);
732             s->session->sess_cert = s->cert;
733         } else {                /* We have a session id-cache hit, if the *
734                                  * session-id has no certificate listed
735                                  * against * the 'cert' structure, grab the
736                                  * 'old' one * listed against the SSL
737                                  * connection */
738             if (s->session->sess_cert == NULL) {
739                 CRYPTO_add(&s->cert->references, 1, CRYPTO_LOCK_SSL_CERT);
740                 s->session->sess_cert = s->cert;
741             }
742         }
743 # endif
744
745         if (s->cert == NULL) {
746             ssl2_return_error(s, SSL2_PE_NO_CERTIFICATE);
747             SSLerr(SSL_F_SERVER_HELLO, SSL_R_NO_CERTIFICATE_SPECIFIED);
748             return (-1);
749         }
750
751         if (hit) {
752             *(p++) = 0;         /* no certificate type */
753             s2n(s->version, p); /* version */
754             s2n(0, p);          /* cert len */
755             s2n(0, p);          /* ciphers len */
756         } else {
757             /* EAY EAY */
758             /* put certificate type */
759             *(p++) = SSL2_CT_X509_CERTIFICATE;
760             s2n(s->version, p); /* version */
761             n = i2d_X509(s->cert->pkeys[SSL_PKEY_RSA_ENC].x509, NULL);
762             s2n(n, p);          /* certificate length */
763             i2d_X509(s->cert->pkeys[SSL_PKEY_RSA_ENC].x509, &d);
764             n = 0;
765
766             /*
767              * lets send out the ciphers we like in the prefered order
768              */
769             n = ssl_cipher_list_to_bytes(s, s->session->ciphers, d, 0);
770             d += n;
771             s2n(n, p);          /* add cipher length */
772         }
773
774         /* make and send conn_id */
775         s2n(SSL2_CONNECTION_ID_LENGTH, p); /* add conn_id length */
776         s->s2->conn_id_length = SSL2_CONNECTION_ID_LENGTH;
777         if (RAND_pseudo_bytes(s->s2->conn_id, (int)s->s2->conn_id_length) <=
778             0)
779             return -1;
780         memcpy(d, s->s2->conn_id, SSL2_CONNECTION_ID_LENGTH);
781         d += SSL2_CONNECTION_ID_LENGTH;
782
783         s->state = SSL2_ST_SEND_SERVER_HELLO_B;
784         s->init_num = d - (unsigned char *)s->init_buf->data;
785         s->init_off = 0;
786     }
787     /* SSL2_ST_SEND_SERVER_HELLO_B */
788     /*
789      * If we are using TCP/IP, the performance is bad if we do 2 writes
790      * without a read between them.  This occurs when Session-id reuse is
791      * used, so I will put in a buffering module
792      */
793     if (s->hit) {
794         if (!ssl_init_wbio_buffer(s, 1))
795             return (-1);
796     }
797
798     return (ssl2_do_write(s));
799 }
800
801 static int get_client_finished(SSL *s)
802 {
803     unsigned char *p;
804     int i, n;
805     unsigned long len;
806
807     p = (unsigned char *)s->init_buf->data;
808     if (s->state == SSL2_ST_GET_CLIENT_FINISHED_A) {
809         i = ssl2_read(s, (char *)&(p[s->init_num]), 1 - s->init_num);
810         if (i < 1 - s->init_num)
811             return (ssl2_part_read(s, SSL_F_GET_CLIENT_FINISHED, i));
812         s->init_num += i;
813
814         if (*p != SSL2_MT_CLIENT_FINISHED) {
815             if (*p != SSL2_MT_ERROR) {
816                 ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
817                 SSLerr(SSL_F_GET_CLIENT_FINISHED,
818                        SSL_R_READ_WRONG_PACKET_TYPE);
819             } else {
820                 SSLerr(SSL_F_GET_CLIENT_FINISHED, SSL_R_PEER_ERROR);
821                 /* try to read the error message */
822                 i = ssl2_read(s, (char *)&(p[s->init_num]), 3 - s->init_num);
823                 return ssl2_part_read(s, SSL_F_GET_SERVER_VERIFY, i);
824             }
825             return (-1);
826         }
827         s->state = SSL2_ST_GET_CLIENT_FINISHED_B;
828     }
829
830     /* SSL2_ST_GET_CLIENT_FINISHED_B */
831     if (s->s2->conn_id_length > sizeof s->s2->conn_id) {
832         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
833         SSLerr(SSL_F_GET_CLIENT_FINISHED, ERR_R_INTERNAL_ERROR);
834         return -1;
835     }
836     len = 1 + (unsigned long)s->s2->conn_id_length;
837     n = (int)len - s->init_num;
838     i = ssl2_read(s, (char *)&(p[s->init_num]), n);
839     if (i < n) {
840         return (ssl2_part_read(s, SSL_F_GET_CLIENT_FINISHED, i));
841     }
842     if (s->msg_callback) {
843         /* CLIENT-FINISHED */
844         s->msg_callback(0, s->version, 0, p, len, s, s->msg_callback_arg);
845     }
846     p += 1;
847     if (memcmp(p, s->s2->conn_id, s->s2->conn_id_length) != 0) {
848         ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
849         SSLerr(SSL_F_GET_CLIENT_FINISHED, SSL_R_CONNECTION_ID_IS_DIFFERENT);
850         return (-1);
851     }
852     return (1);
853 }
854
855 static int server_verify(SSL *s)
856 {
857     unsigned char *p;
858
859     if (s->state == SSL2_ST_SEND_SERVER_VERIFY_A) {
860         p = (unsigned char *)s->init_buf->data;
861         *(p++) = SSL2_MT_SERVER_VERIFY;
862         if (s->s2->challenge_length > sizeof s->s2->challenge) {
863             SSLerr(SSL_F_SERVER_VERIFY, ERR_R_INTERNAL_ERROR);
864             return -1;
865         }
866         memcpy(p, s->s2->challenge, (unsigned int)s->s2->challenge_length);
867         /* p+=s->s2->challenge_length; */
868
869         s->state = SSL2_ST_SEND_SERVER_VERIFY_B;
870         s->init_num = s->s2->challenge_length + 1;
871         s->init_off = 0;
872     }
873     return (ssl2_do_write(s));
874 }
875
876 static int server_finish(SSL *s)
877 {
878     unsigned char *p;
879
880     if (s->state == SSL2_ST_SEND_SERVER_FINISHED_A) {
881         p = (unsigned char *)s->init_buf->data;
882         *(p++) = SSL2_MT_SERVER_FINISHED;
883
884         if (s->session->session_id_length > sizeof s->session->session_id) {
885             SSLerr(SSL_F_SERVER_FINISH, ERR_R_INTERNAL_ERROR);
886             return -1;
887         }
888         memcpy(p, s->session->session_id,
889                (unsigned int)s->session->session_id_length);
890         /* p+=s->session->session_id_length; */
891
892         s->state = SSL2_ST_SEND_SERVER_FINISHED_B;
893         s->init_num = s->session->session_id_length + 1;
894         s->init_off = 0;
895     }
896
897     /* SSL2_ST_SEND_SERVER_FINISHED_B */
898     return (ssl2_do_write(s));
899 }
900
901 /* send the request and check the response */
902 static int request_certificate(SSL *s)
903 {
904     const unsigned char *cp;
905     unsigned char *p, *p2, *buf2;
906     unsigned char *ccd;
907     int i, j, ctype, ret = -1;
908     unsigned long len;
909     X509 *x509 = NULL;
910     STACK_OF(X509) *sk = NULL;
911
912     ccd = s->s2->tmp.ccl;
913     if (s->state == SSL2_ST_SEND_REQUEST_CERTIFICATE_A) {
914         p = (unsigned char *)s->init_buf->data;
915         *(p++) = SSL2_MT_REQUEST_CERTIFICATE;
916         *(p++) = SSL2_AT_MD5_WITH_RSA_ENCRYPTION;
917         if (RAND_pseudo_bytes(ccd, SSL2_MIN_CERT_CHALLENGE_LENGTH) <= 0)
918             return -1;
919         memcpy(p, ccd, SSL2_MIN_CERT_CHALLENGE_LENGTH);
920
921         s->state = SSL2_ST_SEND_REQUEST_CERTIFICATE_B;
922         s->init_num = SSL2_MIN_CERT_CHALLENGE_LENGTH + 2;
923         s->init_off = 0;
924     }
925
926     if (s->state == SSL2_ST_SEND_REQUEST_CERTIFICATE_B) {
927         i = ssl2_do_write(s);
928         if (i <= 0) {
929             ret = i;
930             goto end;
931         }
932
933         s->init_num = 0;
934         s->state = SSL2_ST_SEND_REQUEST_CERTIFICATE_C;
935     }
936
937     if (s->state == SSL2_ST_SEND_REQUEST_CERTIFICATE_C) {
938         p = (unsigned char *)s->init_buf->data;
939         /* try to read 6 octets ... */
940         i = ssl2_read(s, (char *)&(p[s->init_num]), 6 - s->init_num);
941         /*
942          * ... but don't call ssl2_part_read now if we got at least 3
943          * (probably NO-CERTIFICATE-ERROR)
944          */
945         if (i < 3 - s->init_num) {
946             ret = ssl2_part_read(s, SSL_F_REQUEST_CERTIFICATE, i);
947             goto end;
948         }
949         s->init_num += i;
950
951         if ((s->init_num >= 3) && (p[0] == SSL2_MT_ERROR)) {
952             n2s(p, i);
953             if (i != SSL2_PE_NO_CERTIFICATE) {
954                 /*
955                  * not the error message we expected -- let ssl2_part_read
956                  * handle it
957                  */
958                 s->init_num -= 3;
959                 ret = ssl2_part_read(s, SSL_F_REQUEST_CERTIFICATE, 3);
960                 goto end;
961             }
962
963             if (s->msg_callback) {
964                 /* ERROR */
965                 s->msg_callback(0, s->version, 0, p, 3, s,
966                                 s->msg_callback_arg);
967             }
968
969             /*
970              * this is the one place where we can recover from an SSL 2.0
971              * error
972              */
973
974             if (s->verify_mode & SSL_VERIFY_FAIL_IF_NO_PEER_CERT) {
975                 ssl2_return_error(s, SSL2_PE_BAD_CERTIFICATE);
976                 SSLerr(SSL_F_REQUEST_CERTIFICATE,
977                        SSL_R_PEER_DID_NOT_RETURN_A_CERTIFICATE);
978                 goto end;
979             }
980             ret = 1;
981             goto end;
982         }
983         if ((*(p++) != SSL2_MT_CLIENT_CERTIFICATE) || (s->init_num < 6)) {
984             ssl2_return_error(s, SSL2_PE_UNDEFINED_ERROR);
985             SSLerr(SSL_F_REQUEST_CERTIFICATE, SSL_R_SHORT_READ);
986             goto end;
987         }
988         if (s->init_num != 6) {
989             SSLerr(SSL_F_REQUEST_CERTIFICATE, ERR_R_INTERNAL_ERROR);
990             goto end;
991         }
992
993         /* ok we have a response */
994         /* certificate type, there is only one right now. */
995         ctype = *(p++);
996         if (ctype != SSL2_AT_MD5_WITH_RSA_ENCRYPTION) {
997             ssl2_return_error(s, SSL2_PE_UNSUPPORTED_CERTIFICATE_TYPE);
998             SSLerr(SSL_F_REQUEST_CERTIFICATE, SSL_R_BAD_RESPONSE_ARGUMENT);
999             goto end;
1000         }
1001         n2s(p, i);
1002         s->s2->tmp.clen = i;
1003         n2s(p, i);
1004         s->s2->tmp.rlen = i;
1005         s->state = SSL2_ST_SEND_REQUEST_CERTIFICATE_D;
1006     }
1007
1008     /* SSL2_ST_SEND_REQUEST_CERTIFICATE_D */
1009     p = (unsigned char *)s->init_buf->data;
1010     len = 6 + (unsigned long)s->s2->tmp.clen + (unsigned long)s->s2->tmp.rlen;
1011     if (len > SSL2_MAX_RECORD_LENGTH_3_BYTE_HEADER) {
1012         SSLerr(SSL_F_REQUEST_CERTIFICATE, SSL_R_MESSAGE_TOO_LONG);
1013         goto end;
1014     }
1015     j = (int)len - s->init_num;
1016     i = ssl2_read(s, (char *)&(p[s->init_num]), j);
1017     if (i < j) {
1018         ret = ssl2_part_read(s, SSL_F_REQUEST_CERTIFICATE, i);
1019         goto end;
1020     }
1021     if (s->msg_callback) {
1022         /* CLIENT-CERTIFICATE */
1023         s->msg_callback(0, s->version, 0, p, len, s, s->msg_callback_arg);
1024     }
1025     p += 6;
1026
1027     cp = p;
1028     x509 = (X509 *)d2i_X509(NULL, &cp, (long)s->s2->tmp.clen);
1029     if (x509 == NULL) {
1030         SSLerr(SSL_F_REQUEST_CERTIFICATE, ERR_R_X509_LIB);
1031         goto msg_end;
1032     }
1033
1034     if (((sk = sk_X509_new_null()) == NULL) || (!sk_X509_push(sk, x509))) {
1035         SSLerr(SSL_F_REQUEST_CERTIFICATE, ERR_R_MALLOC_FAILURE);
1036         goto msg_end;
1037     }
1038
1039     i = ssl_verify_cert_chain(s, sk);
1040
1041     if (i > 0) {                /* we like the packet, now check the chksum */
1042         EVP_MD_CTX ctx;
1043         EVP_PKEY *pkey = NULL;
1044
1045         EVP_MD_CTX_init(&ctx);
1046         if (!EVP_VerifyInit_ex(&ctx, s->ctx->rsa_md5, NULL)
1047             || !EVP_VerifyUpdate(&ctx, s->s2->key_material,
1048                                  s->s2->key_material_length)
1049             || !EVP_VerifyUpdate(&ctx, ccd, SSL2_MIN_CERT_CHALLENGE_LENGTH))
1050             goto msg_end;
1051
1052         i = i2d_X509(s->cert->pkeys[SSL_PKEY_RSA_ENC].x509, NULL);
1053         buf2 = OPENSSL_malloc((unsigned int)i);
1054         if (buf2 == NULL) {
1055             SSLerr(SSL_F_REQUEST_CERTIFICATE, ERR_R_MALLOC_FAILURE);
1056             goto msg_end;
1057         }
1058         p2 = buf2;
1059         i = i2d_X509(s->cert->pkeys[SSL_PKEY_RSA_ENC].x509, &p2);
1060         if (!EVP_VerifyUpdate(&ctx, buf2, (unsigned int)i)) {
1061             OPENSSL_free(buf2);
1062             goto msg_end;
1063         }
1064         OPENSSL_free(buf2);
1065
1066         pkey = X509_get_pubkey(x509);
1067         if (pkey == NULL)
1068             goto end;
1069         i = EVP_VerifyFinal(&ctx, cp, s->s2->tmp.rlen, pkey);
1070         EVP_PKEY_free(pkey);
1071         EVP_MD_CTX_cleanup(&ctx);
1072
1073         if (i > 0) {
1074             if (s->session->peer != NULL)
1075                 X509_free(s->session->peer);
1076             s->session->peer = x509;
1077             CRYPTO_add(&x509->references, 1, CRYPTO_LOCK_X509);
1078             s->session->verify_result = s->verify_result;
1079             ret = 1;
1080             goto end;
1081         } else {
1082             SSLerr(SSL_F_REQUEST_CERTIFICATE, SSL_R_BAD_CHECKSUM);
1083             goto msg_end;
1084         }
1085     } else {
1086  msg_end:
1087         ssl2_return_error(s, SSL2_PE_BAD_CERTIFICATE);
1088     }
1089  end:
1090     sk_X509_free(sk);
1091     X509_free(x509);
1092     return (ret);
1093 }
1094
1095 static int ssl_rsa_private_decrypt(CERT *c, int len, unsigned char *from,
1096                                    unsigned char *to, int padding)
1097 {
1098     RSA *rsa;
1099     int i;
1100
1101     if ((c == NULL) || (c->pkeys[SSL_PKEY_RSA_ENC].privatekey == NULL)) {
1102         SSLerr(SSL_F_SSL_RSA_PRIVATE_DECRYPT, SSL_R_NO_PRIVATEKEY);
1103         return (-1);
1104     }
1105     if (c->pkeys[SSL_PKEY_RSA_ENC].privatekey->type != EVP_PKEY_RSA) {
1106         SSLerr(SSL_F_SSL_RSA_PRIVATE_DECRYPT, SSL_R_PUBLIC_KEY_IS_NOT_RSA);
1107         return (-1);
1108     }
1109     rsa = c->pkeys[SSL_PKEY_RSA_ENC].privatekey->pkey.rsa;
1110
1111     /* we have the public key */
1112     i = RSA_private_decrypt(len, from, to, rsa, padding);
1113     if (i < 0)
1114         SSLerr(SSL_F_SSL_RSA_PRIVATE_DECRYPT, ERR_R_RSA_LIB);
1115     return (i);
1116 }
1117 #else                           /* !OPENSSL_NO_SSL2 */
1118
1119 # if PEDANTIC
1120 static void *dummy = &dummy;
1121 # endif
1122
1123 #endif