crypto/evp/e_rc2.c

   1 /* Copyright (C) 1995-1998 Eric Young (eay@cryptsoft.com)
   2  * All rights reserved.
   3  *
   4  * This package is an SSL implementation written
   5  * by Eric Young (eay@cryptsoft.com).
   6  * The implementation was written so as to conform with Netscapes SSL.
   7  *
   8  * This library is free for commercial and non-commercial use as long as
   9  * the following conditions are aheared to.  The following conditions
  10  * apply to all code found in this distribution, be it the RC4, RSA,
  11  * lhash, DES, etc., code; not just the SSL code.  The SSL documentation
  12  * included with this distribution is covered by the same copyright terms
  13  * except that the holder is Tim Hudson (tjh@cryptsoft.com).
  14  *
  15  * Copyright remains Eric Young's, and as such any Copyright notices in
  16  * the code are not to be removed.
  17  * If this package is used in a product, Eric Young should be given attribution
  18  * as the author of the parts of the library used.
  19  * This can be in the form of a textual message at program startup or
  20  * in documentation (online or textual) provided with the package.
  21  *
  22  * Redistribution and use in source and binary forms, with or without
  23  * modification, are permitted provided that the following conditions
  24  * are met:
  25  * 1. Redistributions of source code must retain the copyright
  26  *    notice, this list of conditions and the following disclaimer.
  27  * 2. Redistributions in binary form must reproduce the above copyright
  28  *    notice, this list of conditions and the following disclaimer in the
  29  *    documentation and/or other materials provided with the distribution.
  30  * 3. All advertising materials mentioning features or use of this software
  31  *    must display the following acknowledgement:
  32  *    "This product includes cryptographic software written by
  33  *     Eric Young (eay@cryptsoft.com)"
  34  *    The word 'cryptographic' can be left out if the rouines from the library
  35  *    being used are not cryptographic related :-).
  36  * 4. If you include any Windows specific code (or a derivative thereof) from
  37  *    the apps directory (application code) you must include an acknowledgement:
  38  *    "This product includes software written by Tim Hudson (tjh@cryptsoft.com)"
  39  *
  40  * THIS SOFTWARE IS PROVIDED BY ERIC YOUNG ``AS IS'' AND
  41  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  42  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  43  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
  44  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  45  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  46  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  47  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  48  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  49  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  50  * SUCH DAMAGE.
  51  *
  52  * The licence and distribution terms for any publically available version or
  53  * derivative of this code cannot be changed.  i.e. this code cannot simply be
  54  * copied and put under another distribution licence
  55  * [including the GNU Public Licence.]
  56  */
  57
  58 #include <stdio.h>
  59 #include "internal/cryptlib.h"
  60
  61 #ifndef OPENSSL_NO_RC2
  62
  63 # include <openssl/evp.h>
  64 # include <openssl/objects.h>
  65 # include "internal/evp_int.h"
  66 # include <openssl/rc2.h>
  67
  68 static int rc2_init_key(EVP_CIPHER_CTX *ctx, const unsigned char *key,
  69                         const unsigned char *iv, int enc);
  70 static int rc2_meth_to_magic(EVP_CIPHER_CTX *ctx);
  71 static int rc2_magic_to_meth(int i);
  72 static int rc2_set_asn1_type_and_iv(EVP_CIPHER_CTX *c, ASN1_TYPE *type);
  73 static int rc2_get_asn1_type_and_iv(EVP_CIPHER_CTX *c, ASN1_TYPE *type);
  74 static int rc2_ctrl(EVP_CIPHER_CTX *c, int type, int arg, void *ptr);
  75
  76 typedef struct {
  77     int key_bits;               /* effective key bits */
  78     RC2_KEY ks;                 /* key schedule */
  79 } EVP_RC2_KEY;
  80
  81 # define data(ctx)       EVP_C_DATA(EVP_RC2_KEY,ctx)
  82
  83 IMPLEMENT_BLOCK_CIPHER(rc2, ks, RC2, EVP_RC2_KEY, NID_rc2,
  84                        8,
  85                        RC2_KEY_LENGTH, 8, 64,
  86                        EVP_CIPH_VARIABLE_LENGTH | EVP_CIPH_CTRL_INIT,
  87                        rc2_init_key, NULL,
  88                        rc2_set_asn1_type_and_iv, rc2_get_asn1_type_and_iv,
  89                        rc2_ctrl)
  90 # define RC2_40_MAGIC    0xa0
  91 # define RC2_64_MAGIC    0x78
  92 # define RC2_128_MAGIC   0x3a
  93 static const EVP_CIPHER r2_64_cbc_cipher = {
  94     NID_rc2_64_cbc,
  95     8, 8 /* 64 bit */ , 8,
  96     EVP_CIPH_CBC_MODE | EVP_CIPH_VARIABLE_LENGTH | EVP_CIPH_CTRL_INIT,
  97     rc2_init_key,
  98     rc2_cbc_cipher,
  99     NULL,
 100     sizeof(EVP_RC2_KEY),
 101     rc2_set_asn1_type_and_iv,
 102     rc2_get_asn1_type_and_iv,
 103     rc2_ctrl,
 104     NULL
 105 };
 106
 107 static const EVP_CIPHER r2_40_cbc_cipher = {
 108     NID_rc2_40_cbc,
 109     8, 5 /* 40 bit */ , 8,
 110     EVP_CIPH_CBC_MODE | EVP_CIPH_VARIABLE_LENGTH | EVP_CIPH_CTRL_INIT,
 111     rc2_init_key,
 112     rc2_cbc_cipher,
 113     NULL,
 114     sizeof(EVP_RC2_KEY),
 115     rc2_set_asn1_type_and_iv,
 116     rc2_get_asn1_type_and_iv,
 117     rc2_ctrl,
 118     NULL
 119 };
 120
 121 const EVP_CIPHER *EVP_rc2_64_cbc(void)
 122 {
 123     return (&r2_64_cbc_cipher);
 124 }
 125
 126 const EVP_CIPHER *EVP_rc2_40_cbc(void)
 127 {
 128     return (&r2_40_cbc_cipher);
 129 }
 130
 131 static int rc2_init_key(EVP_CIPHER_CTX *ctx, const unsigned char *key,
 132                         const unsigned char *iv, int enc)
 133 {
 134     RC2_set_key(&data(ctx)->ks, EVP_CIPHER_CTX_key_length(ctx),
 135                 key, data(ctx)->key_bits);
 136     return 1;
 137 }
 138
 139 static int rc2_meth_to_magic(EVP_CIPHER_CTX *e)
 140 {
 141     int i;
 142
 143     EVP_CIPHER_CTX_ctrl(e, EVP_CTRL_GET_RC2_KEY_BITS, 0, &i);
 144     if (i == 128)
 145         return (RC2_128_MAGIC);
 146     else if (i == 64)
 147         return (RC2_64_MAGIC);
 148     else if (i == 40)
 149         return (RC2_40_MAGIC);
 150     else
 151         return (0);
 152 }
 153
 154 static int rc2_magic_to_meth(int i)
 155 {
 156     if (i == RC2_128_MAGIC)
 157         return 128;
 158     else if (i == RC2_64_MAGIC)
 159         return 64;
 160     else if (i == RC2_40_MAGIC)
 161         return 40;
 162     else {
 163         EVPerr(EVP_F_RC2_MAGIC_TO_METH, EVP_R_UNSUPPORTED_KEY_SIZE);
 164         return (0);
 165     }
 166 }
 167
 168 static int rc2_get_asn1_type_and_iv(EVP_CIPHER_CTX *c, ASN1_TYPE *type)
 169 {
 170     long num = 0;
 171     int i = 0;
 172     int key_bits;
 173     unsigned int l;
 174     unsigned char iv[EVP_MAX_IV_LENGTH];
 175
 176     if (type != NULL) {
 177         l = EVP_CIPHER_CTX_iv_length(c);
 178         OPENSSL_assert(l <= sizeof(iv));
 179         i = ASN1_TYPE_get_int_octetstring(type, &num, iv, l);
 180         if (i != (int)l)
 181             return (-1);
 182         key_bits = rc2_magic_to_meth((int)num);
 183         if (!key_bits)
 184             return (-1);
 185         if (i > 0 && !EVP_CipherInit_ex(c, NULL, NULL, NULL, iv, -1))
 186             return -1;
 187         EVP_CIPHER_CTX_ctrl(c, EVP_CTRL_SET_RC2_KEY_BITS, key_bits, NULL);
 188         EVP_CIPHER_CTX_set_key_length(c, key_bits / 8);
 189     }
 190     return (i);
 191 }
 192
 193 static int rc2_set_asn1_type_and_iv(EVP_CIPHER_CTX *c, ASN1_TYPE *type)
 194 {
 195     long num;
 196     int i = 0, j;
 197
 198     if (type != NULL) {
 199         num = rc2_meth_to_magic(c);
 200         j = EVP_CIPHER_CTX_iv_length(c);
 201         i = ASN1_TYPE_set_int_octetstring(type, num,
 202                                           (unsigned char *)EVP_CIPHER_CTX_original_iv(c),
 203                                           j);
 204     }
 205     return (i);
 206 }
 207
 208 static int rc2_ctrl(EVP_CIPHER_CTX *c, int type, int arg, void *ptr)
 209 {
 210     switch (type) {
 211     case EVP_CTRL_INIT:
 212         data(c)->key_bits = EVP_CIPHER_CTX_key_length(c) * 8;
 213         return 1;
 214
 215     case EVP_CTRL_GET_RC2_KEY_BITS:
 216         *(int *)ptr = data(c)->key_bits;
 217         return 1;
 218
 219     case EVP_CTRL_SET_RC2_KEY_BITS:
 220         if (arg > 0) {
 221             data(c)->key_bits = arg;
 222             return 1;
 223         }
 224         return 0;
 225 # ifdef PBE_PRF_TEST
 226     case EVP_CTRL_PBE_PRF_NID:
 227         *(int *)ptr = NID_hmacWithMD5;
 228         return 1;
 229 # endif
 230
 231     default:
 232         return -1;
 233     }
 234 }
 235
 236 #endif