Se vuoi che Pi sia in grado di accendersi e iniziare a lavorare automaticamente, allora no, non puoi proteggere la chiave. Se è in grado di usare la chiave senza il tuo input, anche l'attaccante sarà in grado di farlo (salvo qualche tipo di hardware a prova di manomissione).
Penso che la tua migliore scommessa sia creare un account sul tuo server per il Pi e poi restringerlo il più possibile, in questo modo se qualcuno ottiene la chiave non sarà in grado di fare il maggior danno prima di revocare esso.
Ancora meglio, non usare ssh affatto. Non entri nei dettagli, ma forse questo è un problema XY . Forse potresti mantenere uno script con i comandi che vuoi eseguire sul server e attivarlo in qualche modo dal Pi senza far in modo che il Pi esegua effettivamente i comandi stessi. Ho visto, per esempio, un cron job che usa curl per inviare un valore segreto a un url per fare in modo che il server esegua uno script. Se qualcuno ottiene questo valore segreto, può eseguire lo script ogni volta che lo desidera, ma non sarà in grado di fare altro con esso.