Credo che tu abbia bisogno sia di una risposta generale che di una specifica: generale per fornire una visione d'insieme della soluzione e specifica per guidarti verso strumenti particolari. Iniziamo con l'immagine grande.
Quello che stai descrivendo è un messaggio firmato e crittografato che viene realizzato con la crittografia a chiave pubblica. Il messaggio viene crittografato utilizzando la chiave pubblica del destinatario che garantisce che solo il destinatario, utilizzando la propria chiave privata, possa decrittografarlo. Il messaggio viene firmato utilizzando la chiave privata del mittente in modo che il destinatario possa essere sicuro che il messaggio è stato inviato dal mittente. La firma contiene anche un hash crittografico del messaggio (crittografato con la chiave pubblica del mittente) al momento della firma, che garantisce al destinatario che non è stato modificato da quando il mittente l'ha firmato. Se necessario, è possibile utilizzare un server Timestamp attendibile per aggiungere un timestamp all'hash del messaggio e crittografare la combinazione con la sua chiave privata prima che il mittente crittografi la firma in modo che il destinatario sappia anche quando il messaggio è stato firmato dal mittente.
NOTA: ho fornito una spiegazione più lunga e un po 'più chiara di questo processo in altro risposta ieri.
Per quanto riguarda gli algoritmi, per codificarlo a un livello basso è necessario utilizzare un algoritmo chiave asimmetrico (noto anche come chiave pubblica) di cui RSA è sicuramente il più noto, ma sarà necessario altro per completare il processo. Hai bisogno di un algoritmo di hash [ti consiglio SHA-3.] Ma hai anche bisogno di un protocollo di livello superiore che standardizza il modo in cui i pezzi sono messi insieme per garantire coerenza e affidabilità. Questi esistono in un numero di moduli per vari casi d'uso, S / MIME, x509 e TLS sono esempi.
Come accennato, è necessaria un'infrastruttura per generare coppie di chiavi pubbliche e private e distribuirle in modo sicuro, denominato Public Key Infrastructure (PKI). Esistono numerosi approcci a questo che si applicano a diversi casi d'uso. Per l'uso all'interno di una singola organizzazione, il sistema Microsoft Active Directory include un servizio di certificazione che può emettere certificati (che includono le coppie di chiavi e avere una scadenza e un proprietario definito) e confermare la loro validità e proprietà per altri utenti. Nell'ambiente pubblico di Internet, i servizi di certificazione pubblica sono disponibili da aziende come VeriSign, DigiCert, Entrust e molti altri.
Esattamente come questi pezzi sono messi insieme è in qualche modo non banale. Se stai cercando di codificare una soluzione, ti esorto a cercare soluzioni di crittografia off-the-self che forniscano le funzionalità di cui hai bisogno. Costruire in modo affidabile il codice di crittografia non è facile e non è necessario in quasi tutti i casi. Soluzioni solide, sia commerciali che open source sono abbastanza comuni.
Dovrai scegliere un algoritmo di hash. Raccomando il SHA3 pubblicato di recente, se possibile. Molti altri ampiamente usati sono stati incrinati o almeno mostrati come deboli negli ultimi anni, quindi sarebbe saggio usare il più recente.