Fix ghastly DES declarations, and all consequential warnings.
[openssl.git] / crypto / des / ede_cbcm_enc.c
1 /* ede_cbcm_enc.c */
2 /* Written by Ben Laurie <ben@algroup.co.uk> for the OpenSSL
3  * project 13 Feb 1999.
4  */
5 /* ====================================================================
6  * Copyright (c) 1999 The OpenSSL Project.  All rights reserved.
7  *
8  * Redistribution and use in source and binary forms, with or without
9  * modification, are permitted provided that the following conditions
10  * are met:
11  *
12  * 1. Redistributions of source code must retain the above copyright
13  *    notice, this list of conditions and the following disclaimer. 
14  *
15  * 2. Redistributions in binary form must reproduce the above copyright
16  *    notice, this list of conditions and the following disclaimer in
17  *    the documentation and/or other materials provided with the
18  *    distribution.
19  *
20  * 3. All advertising materials mentioning features or use of this
21  *    software must display the following acknowledgment:
22  *    "This product includes software developed by the OpenSSL Project
23  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
24  *
25  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
26  *    endorse or promote products derived from this software without
27  *    prior written permission. For written permission, please contact
28  *    licensing@OpenSSL.org.
29  *
30  * 5. Products derived from this software may not be called "OpenSSL"
31  *    nor may "OpenSSL" appear in their names without prior written
32  *    permission of the OpenSSL Project.
33  *
34  * 6. Redistributions of any form whatsoever must retain the following
35  *    acknowledgment:
36  *    "This product includes software developed by the OpenSSL Project
37  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
38  *
39  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
40  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
41  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
42  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
43  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
44  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
45  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
46  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
47  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
48  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
49  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
50  * OF THE POSSIBILITY OF SUCH DAMAGE.
51  * ====================================================================
52  *
53  * This product includes cryptographic software written by Eric Young
54  * (eay@cryptsoft.com).  This product includes software written by Tim
55  * Hudson (tjh@cryptsoft.com).
56  *
57  */
58
59 /*
60
61 This is an implementation of Triple DES Cipher Block Chaining with Output
62 Feedback Masking, by Coppersmith, Johnson and Matyas, (IBM and Certicom).
63
64 */
65
66 #include "des_locl.h"
67
68 void des_ede3_cbcm_encrypt(const unsigned char *in,unsigned char *out,
69                            long length,
70                            des_key_schedule ks1,des_key_schedule ks2,
71                            des_key_schedule ks3,
72                            des_cblock ivec1,des_cblock ivec2,
73                            int enc)
74     {
75     register DES_LONG tin0,tin1;
76     register DES_LONG tout0,tout1,xor0,xor1,m0,m1;
77     register long l=length;
78     DES_LONG tin[2];
79     unsigned char *iv1,*iv2;
80
81     iv1=ivec1;
82     iv2=ivec2;
83
84     if (enc)
85         {
86         c2l(iv1,m0);
87         c2l(iv1,m1);
88         c2l(iv2,tout0);
89         c2l(iv2,tout1);
90         for (l-=8; l>=-7; l-=8)
91             {
92             tin[0]=m0;
93             tin[1]=m1;
94             des_encrypt(tin,ks3,1);
95             m0=tin[0];
96             m1=tin[1];
97
98             if(l < 0)
99                 {
100                 c2ln(in,tin0,tin1,l+8);
101                 }
102             else
103                 {
104                 c2l(in,tin0);
105                 c2l(in,tin1);
106                 }
107             tin0^=tout0;
108             tin1^=tout1;
109
110             tin[0]=tin0;
111             tin[1]=tin1;
112             des_encrypt(tin,ks1,1);
113             tin[0]^=m0;
114             tin[1]^=m1;
115             des_encrypt(tin,ks2,0);
116             tin[0]^=m0;
117             tin[1]^=m1;
118             des_encrypt(tin,ks1,1);
119             tout0=tin[0];
120             tout1=tin[1];
121
122             l2c(tout0,out);
123             l2c(tout1,out);
124             }
125         iv1=ivec1;
126         l2c(m0,iv1);
127         l2c(m1,iv1);
128
129         iv2=ivec2;
130         l2c(tout0,iv2);
131         l2c(tout1,iv2);
132         }
133     else
134         {
135         register DES_LONG t0,t1;
136
137         c2l(iv1,m0);
138         c2l(iv1,m1);
139         c2l(iv2,xor0);
140         c2l(iv2,xor1);
141         for (l-=8; l>=-7; l-=8)
142             {
143             tin[0]=m0;
144             tin[1]=m1;
145             des_encrypt(tin,ks3,1);
146             m0=tin[0];
147             m1=tin[1];
148
149             c2l(in,tin0);
150             c2l(in,tin1);
151
152             t0=tin0;
153             t1=tin1;
154
155             tin[0]=tin0;
156             tin[1]=tin1;
157             des_encrypt(tin,ks1,0);
158             tin[0]^=m0;
159             tin[1]^=m1;
160             des_encrypt(tin,ks2,1);
161             tin[0]^=m0;
162             tin[1]^=m1;
163             des_encrypt(tin,ks1,0);
164             tout0=tin[0];
165             tout1=tin[1];
166
167             tout0^=xor0;
168             tout1^=xor1;
169             if(l < 0)
170                 {
171                 l2cn(tout0,tout1,out,l+8);
172                 }
173             else
174                 {
175                 l2c(tout0,out);
176                 l2c(tout1,out);
177                 }
178             xor0=t0;
179             xor1=t1;
180             }
181
182         iv1=ivec1;
183         l2c(m0,iv1);
184         l2c(m1,iv1);
185
186         iv2=ivec2;
187         l2c(xor0,iv2);
188         l2c(xor1,iv2);
189         }
190     tin0=tin1=tout0=tout1=xor0=xor1=0;
191     tin[0]=tin[1]=0;
192     }