Sì.
La sicurezza della rete è meglio eseguita a strati. Hai ragione nel fatto che funziona in modo simile a un ACL.
Se non controlli tutti i dispositivi tra quei server, ricorda che questo non protegge da intercettazioni, MITM o attacchi di spoofing. Per questo, avrai ancora bisogno di crittografia. Se l'hardware del tuo server non lo supporta, potresti prendere in considerazione le appliance VPN.
Detto questo, un ACL limiterà il numero di dispositivi che possono raggiungere E rispondere al tuo servizio ai soli dispositivi tra i due server. IOW, da ogni skiddie su Internet agli unici hacker d'élite, ISP e governo.
Non è l'ideale, ma è meglio che lasciarlo aperto.