Cleanup and improve `tinc fsck`.
[tinc] / src / openssl / rsa.c
1 /*
2     rsa.c -- RSA key handling
3     Copyright (C) 2007-2021 Guus Sliepen <guus@tinc-vpn.org>
4
5     This program is free software; you can redistribute it and/or modify
6     it under the terms of the GNU General Public License as published by
7     the Free Software Foundation; either version 2 of the License, or
8     (at your option) any later version.
9
10     This program is distributed in the hope that it will be useful,
11     but WITHOUT ANY WARRANTY; without even the implied warranty of
12     MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13     GNU General Public License for more details.
14
15     You should have received a copy of the GNU General Public License along
16     with this program; if not, write to the Free Software Foundation, Inc.,
17     51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA.
18 */
19
20 #include "../system.h"
21
22 #include <openssl/pem.h>
23 #include <openssl/err.h>
24 #include <openssl/rsa.h>
25
26 #define TINC_RSA_INTERNAL
27 typedef RSA rsa_t;
28
29 #include "../logger.h"
30 #include "../rsa.h"
31
32 // Set RSA keys
33
34 rsa_t *rsa_set_hex_public_key(char *n, char *e) {
35         BIGNUM *bn_n = NULL;
36         BIGNUM *bn_e = NULL;
37
38         if((size_t)BN_hex2bn(&bn_n, n) != strlen(n) || (size_t)BN_hex2bn(&bn_e, e) != strlen(e)) {
39                 BN_free(bn_e);
40                 BN_free(bn_n);
41                 return false;
42         }
43
44         rsa_t *rsa = RSA_new();
45
46         if(!rsa) {
47                 return NULL;
48         }
49
50         RSA_set0_key(rsa, bn_n, bn_e, NULL);
51
52         return rsa;
53 }
54
55 rsa_t *rsa_set_hex_private_key(char *n, char *e, char *d) {
56         BIGNUM *bn_n = NULL;
57         BIGNUM *bn_e = NULL;
58         BIGNUM *bn_d = NULL;
59
60         if((size_t)BN_hex2bn(&bn_n, n) != strlen(n) || (size_t)BN_hex2bn(&bn_e, e) != strlen(e) || (size_t)BN_hex2bn(&bn_d, d) != strlen(d)) {
61                 BN_free(bn_d);
62                 BN_free(bn_e);
63                 BN_free(bn_n);
64                 return false;
65         }
66
67         rsa_t *rsa = RSA_new();
68
69         if(!rsa) {
70                 return NULL;
71         }
72
73         RSA_set0_key(rsa, bn_n, bn_e, bn_d);
74
75         return rsa;
76 }
77
78 // Read PEM RSA keys
79
80 rsa_t *rsa_read_pem_public_key(FILE *fp) {
81         rsa_t *rsa = PEM_read_RSAPublicKey(fp, NULL, NULL, NULL);
82
83         if(!rsa) {
84                 rewind(fp);
85                 rsa = PEM_read_RSA_PUBKEY(fp, NULL, NULL, NULL);
86         }
87
88         if(!rsa) {
89                 logger(DEBUG_ALWAYS, LOG_ERR, "Unable to read RSA public key: %s", ERR_error_string(ERR_get_error(), NULL));
90         }
91
92         return rsa;
93 }
94
95 rsa_t *rsa_read_pem_private_key(FILE *fp) {
96         rsa_t *rsa = PEM_read_RSAPrivateKey(fp, NULL, NULL, NULL);
97
98         if(!rsa) {
99                 logger(DEBUG_ALWAYS, LOG_ERR, "Unable to read RSA private key: %s", ERR_error_string(ERR_get_error(), NULL));
100         }
101
102         return rsa;
103 }
104
105 size_t rsa_size(const rsa_t *rsa) {
106         return RSA_size(rsa);
107 }
108
109 bool rsa_public_encrypt(rsa_t *rsa, void *in, size_t len, void *out) {
110         if((size_t)RSA_public_encrypt(len, in, out, rsa, RSA_NO_PADDING) == len) {
111                 return true;
112         }
113
114         logger(DEBUG_ALWAYS, LOG_ERR, "Unable to perform RSA encryption: %s", ERR_error_string(ERR_get_error(), NULL));
115         return false;
116 }
117
118 bool rsa_private_decrypt(rsa_t *rsa, void *in, size_t len, void *out) {
119         if((size_t)RSA_private_decrypt(len, in, out, rsa, RSA_NO_PADDING) == len) {
120                 return true;
121         }
122
123         logger(DEBUG_ALWAYS, LOG_ERR, "Unable to perform RSA decryption: %s", ERR_error_string(ERR_get_error(), NULL));
124         return false;
125 }
126
127 bool rsa_active(rsa_t *rsa) {
128         return rsa;
129 }
130
131 void rsa_free(rsa_t *rsa) {
132         if(rsa) {
133                 RSA_free(rsa);
134         }
135 }