Fix dsaparam -genkey with DER outform
[openssl.git] / crypto / pem / pem_sign.c
1 /*
2  * Copyright 1995-2016 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the OpenSSL license (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #include <stdio.h>
11 #include "internal/cryptlib.h"
12 #include <openssl/evp.h>
13 #include <openssl/objects.h>
14 #include <openssl/x509.h>
15 #include <openssl/pem.h>
16
17 int PEM_SignInit(EVP_MD_CTX *ctx, EVP_MD *type)
18 {
19     return EVP_DigestInit_ex(ctx, type, NULL);
20 }
21
22 int PEM_SignUpdate(EVP_MD_CTX *ctx, unsigned char *data, unsigned int count)
23 {
24     return EVP_DigestUpdate(ctx, data, count);
25 }
26
27 int PEM_SignFinal(EVP_MD_CTX *ctx, unsigned char *sigret,
28                   unsigned int *siglen, EVP_PKEY *pkey)
29 {
30     unsigned char *m;
31     int i, ret = 0;
32     unsigned int m_len;
33
34     m = OPENSSL_malloc(EVP_PKEY_size(pkey) + 2);
35     if (m == NULL) {
36         PEMerr(PEM_F_PEM_SIGNFINAL, ERR_R_MALLOC_FAILURE);
37         goto err;
38     }
39
40     if (EVP_SignFinal(ctx, m, &m_len, pkey) <= 0)
41         goto err;
42
43     i = EVP_EncodeBlock(sigret, m, m_len);
44     *siglen = i;
45     ret = 1;
46  err:
47     /* ctx has been zeroed by EVP_SignFinal() */
48     OPENSSL_free(m);
49     return ret;
50 }