Ecco come funziona Mac.
Tutte le finestre appartengono alla stessa istanza della stessa app, a differenza delle finestre in cui è possibile avere ciascuna finestra all'interno di un processo diverso.
La soluzione più semplice è quella di duplicare l'app di cui hai bisogno 2 istanze di & trascina il file che desideri avviare su una specifica copia dell'app.
In alternativa, potresti essere in grado di farlo in terminale o in Applescript / shellscript, ma dovresti passare gli argomenti corretti ad esso al volo ...
do shell script "\"/Applications/myApp.app/Contents/MacOS/myApp\"
+ argomenti [almeno percorso file]
Non sono sicuro che tutte le app funzioneranno con questo metodo, l'ho sempre provato con strutture molto specifiche con le opzioni della riga di comando pubblicate.