Non può.
Esistono euristiche per sapere se un file è crittografato, ma sono inaffidabili e comunque inutili.
Un file crittografato non è comprimibile perché la crittografia nasconde tutti i pattern. Tranne quando non lo è: se codifichi un file crittografato in esadecimale (con due byte per codificare ogni byte originale), ci vuole il doppio spazio, quindi puoi comprimere la versione esadecimale del 50%, ma la versione esadecimale non è inferiore criptato. Viceversa, se un file è incomprimibile, se può essere crittografato, o può semplicemente essere già compresso con un algoritmo che è almeno buono quanto quello che hai. Quindi in effetti un file crittografato può essere o non essere incomprimibile e un file in chiaro può essere o non essere incomprimibile,
Un file crittografato non contiene pattern riconoscibili. Tranne che ovviamente può contenere, per esempio, un'intestazione che indica il tipo di crittografia. Oppure può contenere solo cifre esadecimali. Di conseguenza, un file crittografato può contenere o meno pattern riconoscibili e un file di testo in chiaro può contenere o meno pattern riconoscibili.
Un file crittografato può benissimo essere un'immagine JPG di una giraffa, con informazioni codificate in (diciamo) bit di basso ordine di ciascun pixel. Vedi steganografia .
Anche se un file è crittografato, non è possibile dire, ad esempio, un file crittografato AES-CBC da un file crittografato con AES-CBC con la chiave anteposta. Tranne che provando ad usare i primi 16 byte come chiave - e poi avresti bisogno di provare tutti gli altri modi in cui la chiave potrebbe essere stata inserita.
Diciamo che il file è veramente crittografato e non può essere decifrato solo con il materiale caricato. Il creatore del file crittografato potrebbe ancora pubblicare la chiave altrove.