Avoid signed overflow
[openssl.git] / crypto / asn1 / i2d_pr.c
1 /*
2  * Copyright 1995-2016 The OpenSSL Project Authors. All Rights Reserved.
3  *
4  * Licensed under the OpenSSL license (the "License").  You may not use
5  * this file except in compliance with the License.  You can obtain a copy
6  * in the file LICENSE in the source distribution or at
7  * https://www.openssl.org/source/license.html
8  */
9
10 #include <stdio.h>
11 #include "internal/cryptlib.h"
12 #include <openssl/evp.h>
13 #include <openssl/x509.h>
14 #include "internal/asn1_int.h"
15 #include "internal/evp_int.h"
16
17 int i2d_PrivateKey(EVP_PKEY *a, unsigned char **pp)
18 {
19     if (a->ameth && a->ameth->old_priv_encode) {
20         return a->ameth->old_priv_encode(a, pp);
21     }
22     if (a->ameth && a->ameth->priv_encode) {
23         PKCS8_PRIV_KEY_INFO *p8 = EVP_PKEY2PKCS8(a);
24         int ret = 0;
25         if (p8 != NULL) {
26             ret = i2d_PKCS8_PRIV_KEY_INFO(p8, pp);
27             PKCS8_PRIV_KEY_INFO_free(p8);
28         }
29         return ret;
30     }
31     ASN1err(ASN1_F_I2D_PRIVATEKEY, ASN1_R_UNSUPPORTED_PUBLIC_KEY_TYPE);
32     return -1;
33 }