ui_compat cleanup; makefiles and vms
[openssl.git] / crypto / des / cfb64ede.c
1 /* crypto/des/cfb64ede.c */
2 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
3  * All rights reserved.
4  *
5  * This package is an SSL implementation written
6  * by Eric Young (eay@cryptsoft.com).
7  * The implementation was written so as to conform with Netscapes SSL.
8  *
9  * This library is free for commercial and non-commercial use as long as
10  * the following conditions are aheared to.  The following conditions
11  * apply to all code found in this distribution, be it the RC4, RSA,
12  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
13  * included with this distribution is covered by the same copyright terms
14  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
15  *
16  * Copyright remains Eric Young's, and as such any Copyright notices in
17  * the code are not to be removed.
18  * If this package is used in a product, Eric Young should be given attribution
19  * as the author of the parts of the library used.
20  * This can be in the form of a textual message at program startup or
21  * in documentation (online or textual) provided with the package.
22  *
23  * Redistribution and use in source and binary forms, with or without
24  * modification, are permitted provided that the following conditions
25  * are met:
26  * 1. Redistributions of source code must retain the copyright
27  *    notice, this list of conditions and the following disclaimer.
28  * 2. Redistributions in binary form must reproduce the above copyright
29  *    notice, this list of conditions and the following disclaimer in the
30  *    documentation and/or other materials provided with the distribution.
31  * 3. All advertising materials mentioning features or use of this software
32  *    must display the following acknowledgement:
33  *    "This product includes cryptographic software written by
34  *     Eric Young (eay@cryptsoft.com)"
35  *    The word 'cryptographic' can be left out if the rouines from the library
36  *    being used are not cryptographic related :-).
37  * 4. If you include any Windows specific code (or a derivative thereof) from
38  *    the apps directory (application code) you must include an acknowledgement:
39  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
40  *
41  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
42  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
43  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
44  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
45  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
46  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
47  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
48  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
49  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
50  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
51  * SUCH DAMAGE.
52  *
53  * The licence and distribution terms for any publically available version or
54  * derivative of this code cannot be changed.  i.e. this code cannot simply be
55  * copied and put under another distribution licence
56  * [including the GNU Public Licence.]
57  */
58
59 #include "des_locl.h"
60 #include "e_os.h"
61
62 /*
63  * The input and output encrypted as though 64bit cfb mode is being used.
64  * The extra state information to record how much of the 64bit block we have
65  * used is contained in *num;
66  */
67
68 void DES_ede3_cfb64_encrypt(const unsigned char *in, unsigned char *out,
69                             long length, DES_key_schedule *ks1,
70                             DES_key_schedule *ks2, DES_key_schedule *ks3,
71                             DES_cblock *ivec, int *num, int enc)
72 {
73     register DES_LONG v0, v1;
74     register long l = length;
75     register int n = *num;
76     DES_LONG ti[2];
77     unsigned char *iv, c, cc;
78
79     iv = &(*ivec)[0];
80     if (enc) {
81         while (l--) {
82             if (n == 0) {
83                 c2l(iv, v0);
84                 c2l(iv, v1);
85
86                 ti[0] = v0;
87                 ti[1] = v1;
88                 DES_encrypt3(ti, ks1, ks2, ks3);
89                 v0 = ti[0];
90                 v1 = ti[1];
91
92                 iv = &(*ivec)[0];
93                 l2c(v0, iv);
94                 l2c(v1, iv);
95                 iv = &(*ivec)[0];
96             }
97             c = *(in++) ^ iv[n];
98             *(out++) = c;
99             iv[n] = c;
100             n = (n + 1) & 0x07;
101         }
102     } else {
103         while (l--) {
104             if (n == 0) {
105                 c2l(iv, v0);
106                 c2l(iv, v1);
107
108                 ti[0] = v0;
109                 ti[1] = v1;
110                 DES_encrypt3(ti, ks1, ks2, ks3);
111                 v0 = ti[0];
112                 v1 = ti[1];
113
114                 iv = &(*ivec)[0];
115                 l2c(v0, iv);
116                 l2c(v1, iv);
117                 iv = &(*ivec)[0];
118             }
119             cc = *(in++);
120             c = iv[n];
121             iv[n] = cc;
122             *(out++) = c ^ cc;
123             n = (n + 1) & 0x07;
124         }
125     }
126     v0 = v1 = ti[0] = ti[1] = c = cc = 0;
127     *num = n;
128 }
129
130 /*
131  * This is compatible with the single key CFB-r for DES, even thought that's
132  * not what EVP needs.
133  */
134
135 void DES_ede3_cfb_encrypt(const unsigned char *in, unsigned char *out,
136                           int numbits, long length, DES_key_schedule *ks1,
137                           DES_key_schedule *ks2, DES_key_schedule *ks3,
138                           DES_cblock *ivec, int enc)
139 {
140     register DES_LONG d0, d1, v0, v1;
141     register unsigned long l = length, n = ((unsigned int)numbits + 7) / 8;
142     register int num = numbits, i;
143     DES_LONG ti[2];
144     unsigned char *iv;
145     unsigned char ovec[16];
146
147     if (num > 64)
148         return;
149     iv = &(*ivec)[0];
150     c2l(iv, v0);
151     c2l(iv, v1);
152     if (enc) {
153         while (l >= n) {
154             l -= n;
155             ti[0] = v0;
156             ti[1] = v1;
157             DES_encrypt3(ti, ks1, ks2, ks3);
158             c2ln(in, d0, d1, n);
159             in += n;
160             d0 ^= ti[0];
161             d1 ^= ti[1];
162             l2cn(d0, d1, out, n);
163             out += n;
164             /*
165              * 30-08-94 - eay - changed because l>>32 and l<<32 are bad under
166              * gcc :-(
167              */
168             if (num == 32) {
169                 v0 = v1;
170                 v1 = d0;
171             } else if (num == 64) {
172                 v0 = d0;
173                 v1 = d1;
174             } else {
175                 iv = &ovec[0];
176                 l2c(v0, iv);
177                 l2c(v1, iv);
178                 l2c(d0, iv);
179                 l2c(d1, iv);
180                 /* shift ovec left most of the bits... */
181                 memmove(ovec, ovec + num / 8, 8 + (num % 8 ? 1 : 0));
182                 /* now the remaining bits */
183                 if (num % 8 != 0)
184                     for (i = 0; i < 8; ++i) {
185                         ovec[i] <<= num % 8;
186                         ovec[i] |= ovec[i + 1] >> (8 - num % 8);
187                     }
188                 iv = &ovec[0];
189                 c2l(iv, v0);
190                 c2l(iv, v1);
191             }
192         }
193     } else {
194         while (l >= n) {
195             l -= n;
196             ti[0] = v0;
197             ti[1] = v1;
198             DES_encrypt3(ti, ks1, ks2, ks3);
199             c2ln(in, d0, d1, n);
200             in += n;
201             /*
202              * 30-08-94 - eay - changed because l>>32 and l<<32 are bad under
203              * gcc :-(
204              */
205             if (num == 32) {
206                 v0 = v1;
207                 v1 = d0;
208             } else if (num == 64) {
209                 v0 = d0;
210                 v1 = d1;
211             } else {
212                 iv = &ovec[0];
213                 l2c(v0, iv);
214                 l2c(v1, iv);
215                 l2c(d0, iv);
216                 l2c(d1, iv);
217                 /* shift ovec left most of the bits... */
218                 memmove(ovec, ovec + num / 8, 8 + (num % 8 ? 1 : 0));
219                 /* now the remaining bits */
220                 if (num % 8 != 0)
221                     for (i = 0; i < 8; ++i) {
222                         ovec[i] <<= num % 8;
223                         ovec[i] |= ovec[i + 1] >> (8 - num % 8);
224                     }
225                 iv = &ovec[0];
226                 c2l(iv, v0);
227                 c2l(iv, v1);
228             }
229             d0 ^= ti[0];
230             d1 ^= ti[1];
231             l2cn(d0, d1, out, n);
232             out += n;
233         }
234     }
235     iv = &(*ivec)[0];
236     l2c(v0, iv);
237     l2c(v1, iv);
238     v0 = v1 = d0 = d1 = ti[0] = ti[1] = 0;
239 }