Potrebbe essere che hai superato la risoluzione massima supportata dal sottosistema grafico. Dalle specifiche Apple per il tuo Mac:
Video Support
Simultaneously supports full native resolution on the built-in display at millions of colors and:
Up to two displays with 5120-by-2880 resolution at 60Hz at over a billion colors
Up to four displays with 4096-by-2304 resolution at 60Hz at millions of colors
Up to four displays with 3840-by-2160 resolution at 60Hz at over a billion colors
Dovrai mantenere le impostazioni della risoluzione sotto le cifre sopra elencate. La mia ipotesi è che potresti avere uno o più monitor che supera la risoluzione specifica su uno o più schermi.
Se, tuttavia, non superano tali specifiche, direi che dovrebbe garantire una chiamata al supporto tecnico Apple (supporto gratuito per il primo (credo) 90 giorni) e vedere se possono risolvere il problema con te.