Sembra dipendere da come l'immagine è stata creata in primo luogo, & a cosa è impostato lo sfondo corrente.
Test con esempio dato nei commenti Vedo lo stesso comportamento dell'OP quando uso Anteprima.
Anche in Photoshop accade la stessa cosa ... a meno che non trasformi prima l'immagine in uno strato sbloccato. Dopodiché, la cancellazione verrà quindi cancellata in trasparente.
Ho provato con altre immagini realizzate in Photoshop con trasparenza, quindi salvate come jpg. Ho anche controllato la conversione di jpg in png prima, prima del test.
Sembra che Anteprima non sia l'unica app che eliminerà un colore predeterminato, Photoshop farà lo stesso, a meno che non venga prima convertito in un livello separato. [In Photoshop puoi scegliere il colore, ma "trasparente" non è un'opzione.]
Direi quindi, non è un bug, è un comportamento inteso; una limitazione di un'immagine a singolo strato.
Non vedo in alcun modo questo tranne che per utilizzare un pacchetto di grafica dedicato, come Photoshop o Gimp.