Don't use the SSL 2.0 Client Hello format if SSL 2.0 is disabled
[openssl.git] / ssl / ssl_locl.h
1 /* ssl/ssl_locl.h */
2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
3  * All rights reserved.
4  *
5  * This package is an SSL implementation written
6  * by Eric Young (eay@cryptsoft.com).
7  * The implementation was written so as to conform with Netscapes SSL.
8  * 
9  * This library is free for commercial and non-commercial use as long as
10  * the following conditions are aheared to.  The following conditions
11  * apply to all code found in this distribution, be it the RC4, RSA,
12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
13  * included with this distribution is covered by the same copyright terms
14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
15  * 
16  * Copyright remains Eric Young's, and as such any Copyright notices in
17  * the code are not to be removed.
18  * If this package is used in a product, Eric Young should be given attribution
19  * as the author of the parts of the library used.
20  * This can be in the form of a textual message at program startup or
21  * in documentation (online or textual) provided with the package.
22  * 
23  * Redistribution and use in source and binary forms, with or without
24  * modification, are permitted provided that the following conditions
25  * are met:
26  * 1. Redistributions of source code must retain the copyright
27  *    notice, this list of conditions and the following disclaimer.
28  * 2. Redistributions in binary form must reproduce the above copyright
29  *    notice, this list of conditions and the following disclaimer in the
30  *    documentation and/or other materials provided with the distribution.
31  * 3. All advertising materials mentioning features or use of this software
32  *    must display the following acknowledgement:
33  *    "This product includes cryptographic software written by
34  *     Eric Young (eay@cryptsoft.com)"
35  *    The word 'cryptographic' can be left out if the rouines from the library
36  *    being used are not cryptographic related :-).
37  * 4. If you include any Windows specific code (or a derivative thereof) from 
38  *    the apps directory (application code) you must include an acknowledgement:
39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
40  * 
41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
51  * SUCH DAMAGE.
52  * 
53  * The licence and distribution terms for any publically available version or
54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
55  * copied and put under another distribution licence
56  * [including the GNU Public Licence.]
57  */
58 /* ====================================================================
59  * Copyright (c) 1998-2001 The OpenSSL Project.  All rights reserved.
60  *
61  * Redistribution and use in source and binary forms, with or without
62  * modification, are permitted provided that the following conditions
63  * are met:
64  *
65  * 1. Redistributions of source code must retain the above copyright
66  *    notice, this list of conditions and the following disclaimer. 
67  *
68  * 2. Redistributions in binary form must reproduce the above copyright
69  *    notice, this list of conditions and the following disclaimer in
70  *    the documentation and/or other materials provided with the
71  *    distribution.
72  *
73  * 3. All advertising materials mentioning features or use of this
74  *    software must display the following acknowledgment:
75  *    "This product includes software developed by the OpenSSL Project
76  *    for use in the OpenSSL Toolkit. (http://www.openssl.org/)"
77  *
78  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
79  *    endorse or promote products derived from this software without
80  *    prior written permission. For written permission, please contact
81  *    openssl-core@openssl.org.
82  *
83  * 5. Products derived from this software may not be called "OpenSSL"
84  *    nor may "OpenSSL" appear in their names without prior written
85  *    permission of the OpenSSL Project.
86  *
87  * 6. Redistributions of any form whatsoever must retain the following
88  *    acknowledgment:
89  *    "This product includes software developed by the OpenSSL Project
90  *    for use in the OpenSSL Toolkit (http://www.openssl.org/)"
91  *
92  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
93  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
94  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
95  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
96  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
97  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
98  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
99  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
100  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
101  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
102  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
103  * OF THE POSSIBILITY OF SUCH DAMAGE.
104  * ====================================================================
105  *
106  * This product includes cryptographic software written by Eric Young
107  * (eay@cryptsoft.com).  This product includes software written by Tim
108  * Hudson (tjh@cryptsoft.com).
109  *
110  */
111 /* ====================================================================
112  * Copyright 2002 Sun Microsystems, Inc. ALL RIGHTS RESERVED.
113  * ECC cipher suite support in OpenSSL originally developed by 
114  * SUN MICROSYSTEMS, INC., and contributed to the OpenSSL project.
115  */
116
117 #ifndef HEADER_SSL_LOCL_H
118 #define HEADER_SSL_LOCL_H
119 #include <stdlib.h>
120 #include <time.h>
121 #include <string.h>
122 #include <errno.h>
123
124 #include "e_os.h"
125
126 #include <openssl/buffer.h>
127 #include <openssl/comp.h>
128 #include <openssl/bio.h>
129 #include <openssl/stack.h>
130 #include <openssl/rsa.h>
131 #include <openssl/dsa.h>
132 #include <openssl/err.h>
133 #include <openssl/ssl.h>
134 #include <openssl/symhacks.h>
135
136 #ifdef OPENSSL_BUILD_SHLIBSSL
137 # undef OPENSSL_EXTERN
138 # define OPENSSL_EXTERN OPENSSL_EXPORT
139 #endif
140
141 #define PKCS1_CHECK
142
143 #define c2l(c,l)        (l = ((unsigned long)(*((c)++)))     , \
144                          l|=(((unsigned long)(*((c)++)))<< 8), \
145                          l|=(((unsigned long)(*((c)++)))<<16), \
146                          l|=(((unsigned long)(*((c)++)))<<24))
147
148 /* NOTE - c is not incremented as per c2l */
149 #define c2ln(c,l1,l2,n) { \
150                         c+=n; \
151                         l1=l2=0; \
152                         switch (n) { \
153                         case 8: l2 =((unsigned long)(*(--(c))))<<24; \
154                         case 7: l2|=((unsigned long)(*(--(c))))<<16; \
155                         case 6: l2|=((unsigned long)(*(--(c))))<< 8; \
156                         case 5: l2|=((unsigned long)(*(--(c))));     \
157                         case 4: l1 =((unsigned long)(*(--(c))))<<24; \
158                         case 3: l1|=((unsigned long)(*(--(c))))<<16; \
159                         case 2: l1|=((unsigned long)(*(--(c))))<< 8; \
160                         case 1: l1|=((unsigned long)(*(--(c))));     \
161                                 } \
162                         }
163
164 #define l2c(l,c)        (*((c)++)=(unsigned char)(((l)    )&0xff), \
165                          *((c)++)=(unsigned char)(((l)>> 8)&0xff), \
166                          *((c)++)=(unsigned char)(((l)>>16)&0xff), \
167                          *((c)++)=(unsigned char)(((l)>>24)&0xff))
168
169 #define n2l(c,l)        (l =((unsigned long)(*((c)++)))<<24, \
170                          l|=((unsigned long)(*((c)++)))<<16, \
171                          l|=((unsigned long)(*((c)++)))<< 8, \
172                          l|=((unsigned long)(*((c)++))))
173
174 #define l2n(l,c)        (*((c)++)=(unsigned char)(((l)>>24)&0xff), \
175                          *((c)++)=(unsigned char)(((l)>>16)&0xff), \
176                          *((c)++)=(unsigned char)(((l)>> 8)&0xff), \
177                          *((c)++)=(unsigned char)(((l)    )&0xff))
178
179 #define l2n6(l,c)       (*((c)++)=(unsigned char)(((l)>>40)&0xff), \
180                          *((c)++)=(unsigned char)(((l)>>32)&0xff), \
181                          *((c)++)=(unsigned char)(((l)>>24)&0xff), \
182                          *((c)++)=(unsigned char)(((l)>>16)&0xff), \
183                          *((c)++)=(unsigned char)(((l)>> 8)&0xff), \
184                          *((c)++)=(unsigned char)(((l)    )&0xff))
185
186 #define n2l6(c,l)       (l =((BN_ULLONG)(*((c)++)))<<40, \
187                          l|=((BN_ULLONG)(*((c)++)))<<32, \
188                          l|=((BN_ULLONG)(*((c)++)))<<24, \
189                          l|=((BN_ULLONG)(*((c)++)))<<16, \
190                          l|=((BN_ULLONG)(*((c)++)))<< 8, \
191                          l|=((BN_ULLONG)(*((c)++))))
192
193 /* NOTE - c is not incremented as per l2c */
194 #define l2cn(l1,l2,c,n) { \
195                         c+=n; \
196                         switch (n) { \
197                         case 8: *(--(c))=(unsigned char)(((l2)>>24)&0xff); \
198                         case 7: *(--(c))=(unsigned char)(((l2)>>16)&0xff); \
199                         case 6: *(--(c))=(unsigned char)(((l2)>> 8)&0xff); \
200                         case 5: *(--(c))=(unsigned char)(((l2)    )&0xff); \
201                         case 4: *(--(c))=(unsigned char)(((l1)>>24)&0xff); \
202                         case 3: *(--(c))=(unsigned char)(((l1)>>16)&0xff); \
203                         case 2: *(--(c))=(unsigned char)(((l1)>> 8)&0xff); \
204                         case 1: *(--(c))=(unsigned char)(((l1)    )&0xff); \
205                                 } \
206                         }
207
208 #define n2s(c,s)        ((s=(((unsigned int)(c[0]))<< 8)| \
209                             (((unsigned int)(c[1]))    )),c+=2)
210 #define s2n(s,c)        ((c[0]=(unsigned char)(((s)>> 8)&0xff), \
211                           c[1]=(unsigned char)(((s)    )&0xff)),c+=2)
212
213 #define n2l3(c,l)       ((l =(((unsigned long)(c[0]))<<16)| \
214                              (((unsigned long)(c[1]))<< 8)| \
215                              (((unsigned long)(c[2]))    )),c+=3)
216
217 #define l2n3(l,c)       ((c[0]=(unsigned char)(((l)>>16)&0xff), \
218                           c[1]=(unsigned char)(((l)>> 8)&0xff), \
219                           c[2]=(unsigned char)(((l)    )&0xff)),c+=3)
220
221 /* LOCAL STUFF */
222
223 #define SSL_DECRYPT     0
224 #define SSL_ENCRYPT     1
225
226 #define TWO_BYTE_BIT    0x80
227 #define SEC_ESC_BIT     0x40
228 #define TWO_BYTE_MASK   0x7fff
229 #define THREE_BYTE_MASK 0x3fff
230
231 #define INC32(a)        ((a)=((a)+1)&0xffffffffL)
232 #define DEC32(a)        ((a)=((a)-1)&0xffffffffL)
233 #define MAX_MAC_SIZE    20 /* up from 16 for SSLv3 */
234
235 /*
236  * Define the Bitmasks for SSL_CIPHER.algorithms.
237  * This bits are used packed as dense as possible. If new methods/ciphers
238  * etc will be added, the bits a likely to change, so this information
239  * is for internal library use only, even though SSL_CIPHER.algorithms
240  * can be publicly accessed.
241  * Use the according functions for cipher management instead.
242  *
243  * The bit mask handling in the selection and sorting scheme in
244  * ssl_create_cipher_list() has only limited capabilities, reflecting
245  * that the different entities within are mutually exclusive:
246  * ONLY ONE BIT PER MASK CAN BE SET AT A TIME.
247  */
248 #define SSL_MKEY_MASK           0x000000FFL
249 #define SSL_kRSA                0x00000001L /* RSA key exchange */
250 #define SSL_kDHr                0x00000002L /* DH cert RSA CA cert */
251 #define SSL_kDHd                0x00000004L /* DH cert DSA CA cert */
252 #define SSL_kFZA                0x00000008L
253 #define SSL_kEDH                0x00000010L /* tmp DH key no DH cert */
254 #define SSL_kKRB5               0x00000020L /* Kerberos5 key exchange */
255 #define SSL_kECDH               0x00000040L /* ECDH w/ long-term keys */
256 #define SSL_kECDHE              0x00000080L /* ephemeral ECDH */
257 #define SSL_EDH                 (SSL_kEDH|(SSL_AUTH_MASK^SSL_aNULL))
258
259 #define SSL_AUTH_MASK           0x00007F00L
260 #define SSL_aRSA                0x00000100L /* Authenticate with RSA */
261 #define SSL_aDSS                0x00000200L /* Authenticate with DSS */
262 #define SSL_DSS                 SSL_aDSS
263 #define SSL_aFZA                0x00000400L
264 #define SSL_aNULL               0x00000800L /* no Authenticate, ADH */
265 #define SSL_aDH                 0x00001000L /* no Authenticate, ADH */
266 #define SSL_aKRB5               0x00002000L /* Authenticate with KRB5 */
267 #define SSL_aECDSA              0x00004000L /* Authenticate with ECDSA */
268
269 #define SSL_NULL                (SSL_eNULL)
270 #define SSL_ADH                 (SSL_kEDH|SSL_aNULL)
271 #define SSL_RSA                 (SSL_kRSA|SSL_aRSA)
272 #define SSL_DH                  (SSL_kDHr|SSL_kDHd|SSL_kEDH)
273 #define SSL_ECDH                (SSL_kECDH|SSL_kECDHE)
274 #define SSL_FZA                 (SSL_aFZA|SSL_kFZA|SSL_eFZA)
275 #define SSL_KRB5                (SSL_kKRB5|SSL_aKRB5)
276
277 #define SSL_ENC_MASK            0x043F8000L
278 #define SSL_DES                 0x00008000L
279 #define SSL_3DES                0x00010000L
280 #define SSL_RC4                 0x00020000L
281 #define SSL_RC2                 0x00040000L
282 #define SSL_IDEA                0x00080000L
283 #define SSL_eFZA                0x00100000L
284 #define SSL_eNULL               0x00200000L
285 #define SSL_AES                 0x04000000L
286
287 #define SSL_MAC_MASK            0x00c00000L
288 #define SSL_MD5                 0x00400000L
289 #define SSL_SHA1                0x00800000L
290 #define SSL_SHA                 (SSL_SHA1)
291
292 #define SSL_SSL_MASK            0x03000000L
293 #define SSL_SSLV2               0x01000000L
294 #define SSL_SSLV3               0x02000000L
295 #define SSL_TLSV1               SSL_SSLV3       /* for now */
296
297 /* we have used 07ffffff - 5 bits left to go. */
298
299 /*
300  * Export and cipher strength information. For each cipher we have to decide
301  * whether it is exportable or not. This information is likely to change
302  * over time, since the export control rules are no static technical issue.
303  *
304  * Independent of the export flag the cipher strength is sorted into classes.
305  * SSL_EXP40 was denoting the 40bit US export limit of past times, which now
306  * is at 56bit (SSL_EXP56). If the exportable cipher class is going to change
307  * again (eg. to 64bit) the use of "SSL_EXP*" becomes blurred even more,
308  * since SSL_EXP64 could be similar to SSL_LOW.
309  * For this reason SSL_MICRO and SSL_MINI macros are included to widen the
310  * namespace of SSL_LOW-SSL_HIGH to lower values. As development of speed
311  * and ciphers goes, another extension to SSL_SUPER and/or SSL_ULTRA would
312  * be possible.
313  */
314 #define SSL_EXP_MASK            0x00000003L
315 #define SSL_NOT_EXP             0x00000001L
316 #define SSL_EXPORT              0x00000002L
317
318 #define SSL_STRONG_MASK         0x000000fcL
319 #define SSL_STRONG_NONE         0x00000004L
320 #define SSL_EXP40               0x00000008L
321 #define SSL_MICRO               (SSL_EXP40)
322 #define SSL_EXP56               0x00000010L
323 #define SSL_MINI                (SSL_EXP56)
324 #define SSL_LOW                 0x00000020L
325 #define SSL_MEDIUM              0x00000040L
326 #define SSL_HIGH                0x00000080L
327
328 /* we have used 000000ff - 24 bits left to go */
329
330 /*
331  * Macros to check the export status and cipher strength for export ciphers.
332  * Even though the macros for EXPORT and EXPORT40/56 have similar names,
333  * their meaning is different:
334  * *_EXPORT macros check the 'exportable' status.
335  * *_EXPORT40/56 macros are used to check whether a certain cipher strength
336  *          is given.
337  * Since the SSL_IS_EXPORT* and SSL_EXPORT* macros depend on the correct
338  * algorithm structure element to be passed (algorithms, algo_strength) and no
339  * typechecking can be done as they are all of type unsigned long, their
340  * direct usage is discouraged.
341  * Use the SSL_C_* macros instead.
342  */
343 #define SSL_IS_EXPORT(a)        ((a)&SSL_EXPORT)
344 #define SSL_IS_EXPORT56(a)      ((a)&SSL_EXP56)
345 #define SSL_IS_EXPORT40(a)      ((a)&SSL_EXP40)
346 #define SSL_C_IS_EXPORT(c)      SSL_IS_EXPORT((c)->algo_strength)
347 #define SSL_C_IS_EXPORT56(c)    SSL_IS_EXPORT56((c)->algo_strength)
348 #define SSL_C_IS_EXPORT40(c)    SSL_IS_EXPORT40((c)->algo_strength)
349
350 #define SSL_EXPORT_KEYLENGTH(a,s)       (SSL_IS_EXPORT40(s) ? 5 : \
351                                  ((a)&SSL_ENC_MASK) == SSL_DES ? 8 : 7)
352 #define SSL_EXPORT_PKEYLENGTH(a) (SSL_IS_EXPORT40(a) ? 512 : 1024)
353 #define SSL_C_EXPORT_KEYLENGTH(c)       SSL_EXPORT_KEYLENGTH((c)->algorithms, \
354                                 (c)->algo_strength)
355 #define SSL_C_EXPORT_PKEYLENGTH(c)      SSL_EXPORT_PKEYLENGTH((c)->algo_strength)
356
357
358 #define SSL_ALL                 0xffffffffL
359 #define SSL_ALL_CIPHERS         (SSL_MKEY_MASK|SSL_AUTH_MASK|SSL_ENC_MASK|\
360                                 SSL_MAC_MASK)
361 #define SSL_ALL_STRENGTHS       (SSL_EXP_MASK|SSL_STRONG_MASK)
362
363 /* Mostly for SSLv3 */
364 #define SSL_PKEY_RSA_ENC        0
365 #define SSL_PKEY_RSA_SIGN       1
366 #define SSL_PKEY_DSA_SIGN       2
367 #define SSL_PKEY_DH_RSA         3
368 #define SSL_PKEY_DH_DSA         4
369 #define SSL_PKEY_ECC            5
370 #define SSL_PKEY_NUM            6
371
372 /* SSL_kRSA <- RSA_ENC | (RSA_TMP & RSA_SIGN) |
373  *          <- (EXPORT & (RSA_ENC | RSA_TMP) & RSA_SIGN)
374  * SSL_kDH  <- DH_ENC & (RSA_ENC | RSA_SIGN | DSA_SIGN)
375  * SSL_kEDH <- RSA_ENC | RSA_SIGN | DSA_SIGN
376  * SSL_aRSA <- RSA_ENC | RSA_SIGN
377  * SSL_aDSS <- DSA_SIGN
378  */
379
380 /*
381 #define CERT_INVALID            0
382 #define CERT_PUBLIC_KEY         1
383 #define CERT_PRIVATE_KEY        2
384 */
385
386 #ifndef OPENSSL_NO_EC
387 /* From ECC-TLS draft, used in encoding the curve type in 
388  * ECParameters
389  */
390 #define EXPLICIT_PRIME_CURVE_TYPE  1   
391 #define EXPLICIT_CHAR2_CURVE_TYPE  2
392 #define NAMED_CURVE_TYPE           3
393 #endif  /* OPENSSL_NO_EC */
394
395 typedef struct cert_pkey_st
396         {
397         X509 *x509;
398         EVP_PKEY *privatekey;
399         } CERT_PKEY;
400
401 typedef struct cert_st
402         {
403         /* Current active set */
404         CERT_PKEY *key; /* ALWAYS points to an element of the pkeys array
405                          * Probably it would make more sense to store
406                          * an index, not a pointer. */
407  
408         /* The following masks are for the key and auth
409          * algorithms that are supported by the certs below */
410         int valid;
411         unsigned long mask;
412         unsigned long export_mask;
413 #ifndef OPENSSL_NO_RSA
414         RSA *rsa_tmp;
415         RSA *(*rsa_tmp_cb)(SSL *ssl,int is_export,int keysize);
416 #endif
417 #ifndef OPENSSL_NO_DH
418         DH *dh_tmp;
419         DH *(*dh_tmp_cb)(SSL *ssl,int is_export,int keysize);
420 #endif
421 #ifndef OPENSSL_NO_ECDH
422         EC_KEY *ecdh_tmp;
423         /* Callback for generating ephemeral ECDH keys */
424         EC_KEY *(*ecdh_tmp_cb)(SSL *ssl,int is_export,int keysize);
425 #endif
426
427         CERT_PKEY pkeys[SSL_PKEY_NUM];
428
429         int references; /* >1 only if SSL_copy_session_id is used */
430         } CERT;
431
432
433 typedef struct sess_cert_st
434         {
435         STACK_OF(X509) *cert_chain; /* as received from peer (not for SSL2) */
436
437         /* The 'peer_...' members are used only by clients. */
438         int peer_cert_type;
439
440         CERT_PKEY *peer_key; /* points to an element of peer_pkeys (never NULL!) */
441         CERT_PKEY peer_pkeys[SSL_PKEY_NUM];
442         /* Obviously we don't have the private keys of these,
443          * so maybe we shouldn't even use the CERT_PKEY type here. */
444
445 #ifndef OPENSSL_NO_RSA
446         RSA *peer_rsa_tmp; /* not used for SSL 2 */
447 #endif
448 #ifndef OPENSSL_NO_DH
449         DH *peer_dh_tmp; /* not used for SSL 2 */
450 #endif
451 #ifndef OPENSSL_NO_ECDH
452         EC_KEY *peer_ecdh_tmp;
453 #endif
454
455         int references; /* actually always 1 at the moment */
456         } SESS_CERT;
457
458
459 /*#define MAC_DEBUG     */
460
461 /*#define ERR_DEBUG     */
462 /*#define ABORT_DEBUG   */
463 /*#define PKT_DEBUG 1   */
464 /*#define DES_DEBUG     */
465 /*#define DES_OFB_DEBUG */
466 /*#define SSL_DEBUG     */
467 /*#define RSA_DEBUG     */ 
468 /*#define IDEA_DEBUG    */ 
469
470 #define FP_ICC  (int (*)(const void *,const void *))
471 #define ssl_put_cipher_by_char(ssl,ciph,ptr) \
472                 ((ssl)->method->put_cipher_by_char((ciph),(ptr)))
473 #define ssl_get_cipher_by_char(ssl,ptr) \
474                 ((ssl)->method->get_cipher_by_char(ptr))
475
476 /* This is for the SSLv3/TLSv1.0 differences in crypto/hash stuff
477  * It is a bit of a mess of functions, but hell, think of it as
478  * an opaque structure :-) */
479 typedef struct ssl3_enc_method
480         {
481         int (*enc)(SSL *, int);
482         int (*mac)(SSL *, unsigned char *, int);
483         int (*setup_key_block)(SSL *);
484         int (*generate_master_secret)(SSL *, unsigned char *, unsigned char *, int);
485         int (*change_cipher_state)(SSL *, int);
486         int (*final_finish_mac)(SSL *, EVP_MD_CTX *, EVP_MD_CTX *, const char *, int, unsigned char *);
487         int finish_mac_length;
488         int (*cert_verify_mac)(SSL *, EVP_MD_CTX *, unsigned char *);
489         const char *client_finished_label;
490         int client_finished_label_len;
491         const char *server_finished_label;
492         int server_finished_label_len;
493         int (*alert_value)(int);
494         } SSL3_ENC_METHOD;
495
496 /* Used for holding the relevant compression methods loaded into SSL_CTX */
497 typedef struct ssl3_comp_st
498         {
499         int comp_id;    /* The identifier byte for this compression type */
500         char *name;     /* Text name used for the compression type */
501         COMP_METHOD *method; /* The method :-) */
502         } SSL3_COMP;
503
504 extern SSL3_ENC_METHOD ssl3_undef_enc_method;
505 OPENSSL_EXTERN SSL_CIPHER ssl2_ciphers[];
506 OPENSSL_EXTERN SSL_CIPHER ssl3_ciphers[];
507
508
509 SSL_METHOD *ssl_bad_method(int ver);
510 SSL_METHOD *sslv2_base_method(void);
511 SSL_METHOD *sslv23_base_method(void);
512 SSL_METHOD *sslv3_base_method(void);
513
514 void ssl_clear_cipher_ctx(SSL *s);
515 int ssl_clear_bad_session(SSL *s);
516 CERT *ssl_cert_new(void);
517 CERT *ssl_cert_dup(CERT *cert);
518 int ssl_cert_inst(CERT **o);
519 void ssl_cert_free(CERT *c);
520 SESS_CERT *ssl_sess_cert_new(void);
521 void ssl_sess_cert_free(SESS_CERT *sc);
522 int ssl_set_peer_cert_type(SESS_CERT *c, int type);
523 int ssl_get_new_session(SSL *s, int session);
524 int ssl_get_prev_session(SSL *s, unsigned char *session,int len);
525 int ssl_cipher_id_cmp(const SSL_CIPHER *a,const SSL_CIPHER *b);
526 int ssl_cipher_ptr_id_cmp(const SSL_CIPHER * const *ap,
527                         const SSL_CIPHER * const *bp);
528 STACK_OF(SSL_CIPHER) *ssl_bytes_to_cipher_list(SSL *s,unsigned char *p,int num,
529                                                STACK_OF(SSL_CIPHER) **skp);
530 int ssl_cipher_list_to_bytes(SSL *s,STACK_OF(SSL_CIPHER) *sk,unsigned char *p,
531                              int (*put_cb)(const SSL_CIPHER *, unsigned char *));
532 STACK_OF(SSL_CIPHER) *ssl_create_cipher_list(const SSL_METHOD *meth,
533                                              STACK_OF(SSL_CIPHER) **pref,
534                                              STACK_OF(SSL_CIPHER) **sorted,
535                                              const char *rule_str);
536 void ssl_update_cache(SSL *s, int mode);
537 int ssl_cipher_get_evp(const SSL_SESSION *s,const EVP_CIPHER **enc,
538                        const EVP_MD **md,SSL_COMP **comp);
539 int ssl_verify_cert_chain(SSL *s,STACK_OF(X509) *sk);
540 int ssl_undefined_function(SSL *s);
541 int ssl_undefined_void_function(void);
542 int ssl_undefined_const_function(const SSL *s);
543 X509 *ssl_get_server_send_cert(SSL *);
544 EVP_PKEY *ssl_get_sign_pkey(SSL *,SSL_CIPHER *);
545 int ssl_cert_type(X509 *x,EVP_PKEY *pkey);
546 void ssl_set_cert_masks(CERT *c, SSL_CIPHER *cipher);
547 STACK_OF(SSL_CIPHER) *ssl_get_ciphers_by_id(SSL *s);
548 int ssl_verify_alarm_type(long type);
549
550 int ssl2_enc_init(SSL *s, int client);
551 int ssl2_generate_key_material(SSL *s);
552 void ssl2_enc(SSL *s,int send_data);
553 void ssl2_mac(SSL *s,unsigned char *mac,int send_data);
554 SSL_CIPHER *ssl2_get_cipher_by_char(const unsigned char *p);
555 int ssl2_put_cipher_by_char(const SSL_CIPHER *c,unsigned char *p);
556 int ssl2_part_read(SSL *s, unsigned long f, int i);
557 int ssl2_do_write(SSL *s);
558 int ssl2_set_certificate(SSL *s, int type, int len, const unsigned char *data);
559 void ssl2_return_error(SSL *s,int reason);
560 void ssl2_write_error(SSL *s);
561 int ssl2_num_ciphers(void);
562 SSL_CIPHER *ssl2_get_cipher(unsigned int u);
563 int     ssl2_new(SSL *s);
564 void    ssl2_free(SSL *s);
565 int     ssl2_accept(SSL *s);
566 int     ssl2_connect(SSL *s);
567 int     ssl2_read(SSL *s, void *buf, int len);
568 int     ssl2_peek(SSL *s, void *buf, int len);
569 int     ssl2_write(SSL *s, const void *buf, int len);
570 int     ssl2_shutdown(SSL *s);
571 void    ssl2_clear(SSL *s);
572 long    ssl2_ctrl(SSL *s,int cmd, long larg, void *parg);
573 long    ssl2_ctx_ctrl(SSL_CTX *s,int cmd, long larg, void *parg);
574 long    ssl2_callback_ctrl(SSL *s,int cmd, void (*fp)(void));
575 long    ssl2_ctx_callback_ctrl(SSL_CTX *s,int cmd, void (*fp)(void));
576 int     ssl2_pending(const SSL *s);
577
578 SSL_CIPHER *ssl3_get_cipher_by_char(const unsigned char *p);
579 int ssl3_put_cipher_by_char(const SSL_CIPHER *c,unsigned char *p);
580 void ssl3_init_finished_mac(SSL *s);
581 int ssl3_send_server_certificate(SSL *s);
582 int ssl3_get_finished(SSL *s,int state_a,int state_b);
583 int ssl3_setup_key_block(SSL *s);
584 int ssl3_send_change_cipher_spec(SSL *s,int state_a,int state_b);
585 int ssl3_change_cipher_state(SSL *s,int which);
586 void ssl3_cleanup_key_block(SSL *s);
587 int ssl3_do_write(SSL *s,int type);
588 void ssl3_send_alert(SSL *s,int level, int desc);
589 int ssl3_generate_master_secret(SSL *s, unsigned char *out,
590         unsigned char *p, int len);
591 int ssl3_get_req_cert_type(SSL *s,unsigned char *p);
592 long ssl3_get_message(SSL *s, int st1, int stn, int mt, long max, int *ok);
593 int ssl3_send_finished(SSL *s, int a, int b, const char *sender,int slen);
594 int ssl3_num_ciphers(void);
595 SSL_CIPHER *ssl3_get_cipher(unsigned int u);
596 int ssl3_renegotiate(SSL *ssl); 
597 int ssl3_renegotiate_check(SSL *ssl); 
598 int ssl3_dispatch_alert(SSL *s);
599 int ssl3_read_bytes(SSL *s, int type, unsigned char *buf, int len, int peek);
600 int ssl3_write_bytes(SSL *s, int type, const void *buf, int len);
601 int ssl3_final_finish_mac(SSL *s, EVP_MD_CTX *ctx1, EVP_MD_CTX *ctx2,
602         const char *sender, int slen,unsigned char *p);
603 int ssl3_cert_verify_mac(SSL *s, EVP_MD_CTX *in, unsigned char *p);
604 void ssl3_finish_mac(SSL *s, const unsigned char *buf, int len);
605 int ssl3_enc(SSL *s, int send_data);
606 int ssl3_mac(SSL *ssl, unsigned char *md, int send_data);
607 unsigned long ssl3_output_cert_chain(SSL *s, X509 *x);
608 SSL_CIPHER *ssl3_choose_cipher(SSL *ssl,STACK_OF(SSL_CIPHER) *clnt,
609                                STACK_OF(SSL_CIPHER) *srvr);
610 int     ssl3_setup_buffers(SSL *s);
611 int     ssl3_new(SSL *s);
612 void    ssl3_free(SSL *s);
613 int     ssl3_accept(SSL *s);
614 int     ssl3_connect(SSL *s);
615 int     ssl3_read(SSL *s, void *buf, int len);
616 int     ssl3_peek(SSL *s, void *buf, int len);
617 int     ssl3_write(SSL *s, const void *buf, int len);
618 int     ssl3_shutdown(SSL *s);
619 void    ssl3_clear(SSL *s);
620 long    ssl3_ctrl(SSL *s,int cmd, long larg, void *parg);
621 long    ssl3_ctx_ctrl(SSL_CTX *s,int cmd, long larg, void *parg);
622 long    ssl3_callback_ctrl(SSL *s,int cmd, void (*fp)(void));
623 long    ssl3_ctx_callback_ctrl(SSL_CTX *s,int cmd, void (*fp)(void));
624 int     ssl3_pending(const SSL *s);
625
626 void ssl3_record_sequence_update(unsigned char *seq);
627 int ssl3_do_change_cipher_spec(SSL *ssl);
628
629 int dtls1_do_write(SSL *s,int type);
630 int ssl3_read_n(SSL *s, int n, int max, int extend);
631 int dtls1_read_bytes(SSL *s, int type, unsigned char *buf, int len, int peek);
632 int ssl3_do_compress(SSL *ssl);
633 int ssl3_do_uncompress(SSL *ssl);
634 int ssl3_write_pending(SSL *s, int type, const unsigned char *buf,
635         unsigned int len);
636 unsigned char *dtls1_set_message_header(SSL *s, 
637         unsigned char *p, unsigned char mt,     unsigned long len, 
638         unsigned long frag_off, unsigned long frag_len);
639 int dtls1_write_app_data_bytes(SSL *s, int type, const void *buf, int len);
640 int dtls1_write_bytes(SSL *s, int type, const void *buf, int len);
641
642 int dtls1_send_change_cipher_spec(SSL *s, int a, int b);
643 int dtls1_send_finished(SSL *s, int a, int b, const char *sender, int slen);
644 unsigned long dtls1_output_cert_chain(SSL *s, X509 *x);
645 int dtls1_read_failed(SSL *s, int code);
646 int dtls1_buffer_message(SSL *s, int ccs);
647 int dtls1_retransmit_message(SSL *s, unsigned short seq, 
648         unsigned long frag_off, int *found);
649 void dtls1_clear_record_buffer(SSL *s);
650 void dtls1_get_message_header(unsigned char *data, struct hm_header_st *msg_hdr);
651 void dtls1_get_ccs_header(unsigned char *data, struct ccs_header_st *ccs_hdr);
652 void dtls1_reset_seq_numbers(SSL *s, int rw);
653
654
655 /* some client-only functions */
656 int ssl3_client_hello(SSL *s);
657 int ssl3_get_server_hello(SSL *s);
658 int ssl3_get_certificate_request(SSL *s);
659 int ssl3_get_server_done(SSL *s);
660 int ssl3_send_client_verify(SSL *s);
661 int ssl3_send_client_certificate(SSL *s);
662 int ssl3_send_client_key_exchange(SSL *s);
663 int ssl3_get_key_exchange(SSL *s);
664 int ssl3_get_server_certificate(SSL *s);
665 int ssl3_check_cert_and_algorithm(SSL *s);
666
667 int dtls1_client_hello(SSL *s);
668 int dtls1_send_client_certificate(SSL *s);
669 int dtls1_send_client_key_exchange(SSL *s);
670 int dtls1_send_client_verify(SSL *s);
671
672 /* some server-only functions */
673 int ssl3_get_client_hello(SSL *s);
674 int ssl3_send_server_hello(SSL *s);
675 int ssl3_send_hello_request(SSL *s);
676 int ssl3_send_server_key_exchange(SSL *s);
677 int ssl3_send_certificate_request(SSL *s);
678 int ssl3_send_server_done(SSL *s);
679 int ssl3_check_client_hello(SSL *s);
680 int ssl3_get_client_certificate(SSL *s);
681 int ssl3_get_client_key_exchange(SSL *s);
682 int ssl3_get_cert_verify(SSL *s);
683
684 int dtls1_send_hello_request(SSL *s);
685 int dtls1_send_server_hello(SSL *s);
686 int dtls1_send_server_certificate(SSL *s);
687 int dtls1_send_server_key_exchange(SSL *s);
688 int dtls1_send_certificate_request(SSL *s);
689 int dtls1_send_server_done(SSL *s);
690
691
692
693 int ssl23_accept(SSL *s);
694 int ssl23_connect(SSL *s);
695 int ssl23_read_bytes(SSL *s, int n);
696 int ssl23_write_bytes(SSL *s);
697
698 int tls1_new(SSL *s);
699 void tls1_free(SSL *s);
700 void tls1_clear(SSL *s);
701 long tls1_ctrl(SSL *s,int cmd, long larg, void *parg);
702 long tls1_callback_ctrl(SSL *s,int cmd, void (*fp)(void));
703 SSL_METHOD *tlsv1_base_method(void );
704
705 int dtls1_new(SSL *s);
706 int     dtls1_accept(SSL *s);
707 int     dtls1_connect(SSL *s);
708 void dtls1_free(SSL *s);
709 void dtls1_clear(SSL *s);
710 long dtls1_ctrl(SSL *s,int cmd, long larg, void *parg);
711 SSL_METHOD *dtlsv1_base_method(void );
712
713 long dtls1_get_message(SSL *s, int st1, int stn, int mt, long max, int *ok);
714 int dtls1_get_record(SSL *s);
715 int do_dtls1_write(SSL *s, int type, const unsigned char *buf,
716         unsigned int len, int create_empty_fragement);
717 int dtls1_dispatch_alert(SSL *s);
718 int dtls1_enc(SSL *s, int snd);
719
720 int ssl_init_wbio_buffer(SSL *s, int push);
721 void ssl_free_wbio_buffer(SSL *s);
722
723 int tls1_change_cipher_state(SSL *s, int which);
724 int tls1_setup_key_block(SSL *s);
725 int tls1_enc(SSL *s, int snd);
726 int tls1_final_finish_mac(SSL *s, EVP_MD_CTX *in1_ctx, EVP_MD_CTX *in2_ctx,
727         const char *str, int slen, unsigned char *p);
728 int tls1_cert_verify_mac(SSL *s, EVP_MD_CTX *in, unsigned char *p);
729 int tls1_mac(SSL *ssl, unsigned char *md, int snd);
730 int tls1_generate_master_secret(SSL *s, unsigned char *out,
731         unsigned char *p, int len);
732 int tls1_alert_code(int code);
733 int ssl3_alert_code(int code);
734 int ssl_ok(SSL *s);
735
736 int check_srvr_ecc_cert_and_alg(X509 *x, SSL_CIPHER *cs);
737
738 SSL_COMP *ssl3_comp_find(STACK_OF(SSL_COMP) *sk, int n);
739
740
741 #endif