Sono abbastanza sicuro che OS X non ti consentirà di eliminare Mail.app dall'interno del Finder (anche se potresti essere in grado di forzarlo da Terminal). Non consiglierei di eliminare l'app dalla cartella / Applicazioni, poiché è considerata una parte del sistema operativo.
Tuttavia, non c'è alcun motivo per cui debba vivere sul Dock e, per la maggior parte, se non è da qualche parte dove continui a vederlo, questa è la cosa più importante (a meno che tu non sia veramente premuto per lo spazio su un piccolo SSD, ad esempio).
Puoi cancellare i file di posta (il tuo database di posta, tutte le impostazioni) andando nella cartella ~ / Library e trovandoli. Ti preghiamo di notare che cancellare tutti i tuoi dati di posta cancellerà ovviamente tutti i tuoi dati di posta (un po 'come l'adesivo "avviso: contiene dadi" su un pacchetto di dadi, ma vale la pena menzionarli!).
I file di posta sono tutti in ~ / Library / Mail / V2, ed è possibile che gli allegati di posta siano memorizzati separatamente in ~ / Library / Mail Downloads.