Raise an error on syscall failure in tls_retry_write_records
[openssl.git] / crypto / evp / p5_crpt.c
1 /*
2  * Copyright 1999-2020 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the Apache License 2.0 (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #include <stdio.h>
11 #include <stdlib.h>
12 #include "internal/cryptlib.h"
13 #include <openssl/x509.h>
14 #include <openssl/evp.h>
15
16 /*
17  * Doesn't do anything now: Builtin PBE algorithms in static table.
18  */
19
20 void PKCS5_PBE_add(void)
21 {
22 }
23
24 int PKCS5_PBE_keyivgen(EVP_CIPHER_CTX *cctx, const char *pass, int passlen,
25                        ASN1_TYPE *param, const EVP_CIPHER *cipher,
26                        const EVP_MD *md, int en_de)
27 {
28     EVP_MD_CTX *ctx;
29     unsigned char md_tmp[EVP_MAX_MD_SIZE];
30     unsigned char key[EVP_MAX_KEY_LENGTH], iv[EVP_MAX_IV_LENGTH];
31     int i, ivl, kl;
32     PBEPARAM *pbe;
33     int saltlen, iter;
34     unsigned char *salt;
35     int mdsize;
36     int rv = 0;
37
38     /* Extract useful info from parameter */
39     if (param == NULL || param->type != V_ASN1_SEQUENCE ||
40         param->value.sequence == NULL) {
41         ERR_raise(ERR_LIB_EVP, EVP_R_DECODE_ERROR);
42         return 0;
43     }
44
45     pbe = ASN1_TYPE_unpack_sequence(ASN1_ITEM_rptr(PBEPARAM), param);
46     if (pbe == NULL) {
47         ERR_raise(ERR_LIB_EVP, EVP_R_DECODE_ERROR);
48         return 0;
49     }
50
51     ivl = EVP_CIPHER_iv_length(cipher);
52     if (ivl < 0 || ivl > 16) {
53         ERR_raise(ERR_LIB_EVP, EVP_R_INVALID_IV_LENGTH);
54         PBEPARAM_free(pbe);
55         return 0;
56     }
57     kl = EVP_CIPHER_key_length(cipher);
58     if (kl < 0 || kl > (int)sizeof(md_tmp)) {
59         ERR_raise(ERR_LIB_EVP, EVP_R_INVALID_KEY_LENGTH);
60         PBEPARAM_free(pbe);
61         return 0;
62     }
63
64     if (pbe->iter == NULL)
65         iter = 1;
66     else
67         iter = ASN1_INTEGER_get(pbe->iter);
68     salt = pbe->salt->data;
69     saltlen = pbe->salt->length;
70
71     if (pass == NULL)
72         passlen = 0;
73     else if (passlen == -1)
74         passlen = strlen(pass);
75
76     ctx = EVP_MD_CTX_new();
77     if (ctx == NULL) {
78         ERR_raise(ERR_LIB_EVP, ERR_R_MALLOC_FAILURE);
79         goto err;
80     }
81
82     if (!EVP_DigestInit_ex(ctx, md, NULL))
83         goto err;
84     if (!EVP_DigestUpdate(ctx, pass, passlen))
85         goto err;
86     if (!EVP_DigestUpdate(ctx, salt, saltlen))
87         goto err;
88     PBEPARAM_free(pbe);
89     pbe = NULL;
90     if (!EVP_DigestFinal_ex(ctx, md_tmp, NULL))
91         goto err;
92     mdsize = EVP_MD_size(md);
93     if (mdsize < 0)
94         goto err;
95     for (i = 1; i < iter; i++) {
96         if (!EVP_DigestInit_ex(ctx, md, NULL))
97             goto err;
98         if (!EVP_DigestUpdate(ctx, md_tmp, mdsize))
99             goto err;
100         if (!EVP_DigestFinal_ex(ctx, md_tmp, NULL))
101             goto err;
102     }
103     memcpy(key, md_tmp, kl);
104     memcpy(iv, md_tmp + (16 - ivl), ivl);
105     if (!EVP_CipherInit_ex(cctx, cipher, NULL, key, iv, en_de))
106         goto err;
107     OPENSSL_cleanse(md_tmp, EVP_MAX_MD_SIZE);
108     OPENSSL_cleanse(key, EVP_MAX_KEY_LENGTH);
109     OPENSSL_cleanse(iv, EVP_MAX_IV_LENGTH);
110     rv = 1;
111  err:
112     PBEPARAM_free(pbe);
113     EVP_MD_CTX_free(ctx);
114     return rv;
115 }