Add AES-NI GCM stitch.
[openssl.git] / crypto / evp / m_sigver.c
index 8fdfe61b3f478071194f906ee5894431864bfa81..664ed0c2122cc716ed7cc8f17d373e1e86bd3722 100644 (file)
@@ -1,5 +1,5 @@
 /* m_sigver.c */
-/* Written by Dr Stephen N Henson (shenson@bigfoot.com) for the OpenSSL
+/* Written by Dr Stephen N Henson (steve@openssl.org) for the OpenSSL
  * project 2006.
  */
 /* ====================================================================
@@ -71,6 +71,24 @@ static int do_sigver_init(EVP_MD_CTX *ctx, EVP_PKEY_CTX **pctx,
                ctx->pctx = EVP_PKEY_CTX_new(pkey, e);
        if (ctx->pctx == NULL)
                return 0;
+
+       if (!(ctx->pctx->pmeth->flags & EVP_PKEY_FLAG_SIGCTX_CUSTOM))
+               {
+
+               if (type == NULL)
+                       {
+                       int def_nid;
+                       if (EVP_PKEY_get_default_digest_nid(pkey, &def_nid) > 0)
+                               type = EVP_get_digestbynid(def_nid);
+                       }
+
+               if (type == NULL)
+                       {
+                       EVPerr(EVP_F_DO_SIGVER_INIT, EVP_R_NO_DEFAULT_DIGEST);
+                       return 0;
+                       }
+               }
+
        if (ver)
                {
                if (ctx->pctx->pmeth->verifyctx_init)
@@ -97,6 +115,8 @@ static int do_sigver_init(EVP_MD_CTX *ctx, EVP_PKEY_CTX **pctx,
                return 0;
        if (pctx)
                *pctx = ctx->pctx;
+       if (ctx->pctx->pmeth->flags & EVP_PKEY_FLAG_SIGCTX_CUSTOM)
+               return 1;
        if (!EVP_DigestInit_ex(ctx, type, e))
                return 0;
        return 1;
@@ -114,17 +134,29 @@ int EVP_DigestVerifyInit(EVP_MD_CTX *ctx, EVP_PKEY_CTX **pctx,
        return do_sigver_init(ctx, pctx, type, e, pkey, 1);
        }
 
-
 int EVP_DigestSignFinal(EVP_MD_CTX *ctx, unsigned char *sigret, size_t *siglen)
        {
        int sctx, r = 0;
-       if (ctx->pctx->pmeth->signctx)
+       EVP_PKEY_CTX *pctx = ctx->pctx;
+       if (pctx->pmeth->flags & EVP_PKEY_FLAG_SIGCTX_CUSTOM)
+               {
+               EVP_PKEY_CTX *dctx;
+               if (!sigret)
+                       return pctx->pmeth->signctx(pctx, sigret, siglen, ctx);
+               dctx = EVP_PKEY_CTX_dup(ctx->pctx);
+               if (!dctx)
+                       return 0;
+               r = dctx->pmeth->signctx(dctx, sigret, siglen, ctx);
+               EVP_PKEY_CTX_free(dctx);
+               return r;
+               }
+       if (pctx->pmeth->signctx)
                sctx = 1;
        else
                sctx = 0;
        if (sigret)
                {
-               MS_STATIC EVP_MD_CTX tmp_ctx;
+               EVP_MD_CTX tmp_ctx;
                unsigned char md[EVP_MAX_MD_SIZE];
                unsigned int mdlen;
                EVP_MD_CTX_init(&tmp_ctx);
@@ -145,25 +177,28 @@ int EVP_DigestSignFinal(EVP_MD_CTX *ctx, unsigned char *sigret, size_t *siglen)
                {
                if (sctx)
                        {
-                       if (ctx->pctx->pmeth->signctx(ctx->pctx, 
-                                               sigret, siglen, ctx) <= 0)
+                       if (pctx->pmeth->signctx(pctx, sigret, siglen, ctx) <= 0)
+                               return 0;
+                       }
+               else
+                       {
+                       int s = EVP_MD_size(ctx->digest);
+                       if (s < 0 || EVP_PKEY_sign(pctx, sigret, siglen, NULL, s) <= 0)
                                return 0;
                        }
-               else if (EVP_PKEY_sign(ctx->pctx, sigret, siglen, NULL,
-                                               EVP_MD_size(ctx->digest)) <= 0)
-                       return 0;
                }
        return 1;
        }
 
 int EVP_DigestVerifyFinal(EVP_MD_CTX *ctx, unsigned char *sig, size_t siglen)
        {
-       MS_STATIC EVP_MD_CTX tmp_ctx;
+       EVP_MD_CTX tmp_ctx;
        unsigned char md[EVP_MAX_MD_SIZE];
        int r;
        unsigned int mdlen;
        int vctx;
-       if (ctx->pctx->pmeth->signctx)
+
+       if (ctx->pctx->pmeth->verifyctx)
                vctx = 1;
        else
                vctx = 0;