I don't want to set all of the root user passwords all the same do I?
no, non :) e si desidera disabilitare anche root-ssh-login e utilizzare un admin-login con diritti sudo per le attività spesso.use tramite ssh e un file di chiavi protetto da password.
con un rack di 40 server dovresti controllare uno strumento di gestione come puppet che crea tutti gli utenti necessari, accessi, gestione delle chiavi ssh, configurazioni, ecc.
If not how do you manage and keep up with all of the passwords?
usa password complesse e cose come keepass o il passaporto menzionato. non utilizzare le password di sicurezza online.
quando hai abilitato ssh + keys, avrai bisogno di password non così spesso, tranne per il tuo ssh-keyfile e alcuni root-tasks, ma hai il tuo pw-manager aperto e basta c & p le password per entrare console-app. se usi linux inserendo una password in un terminale hai solo 3 click; abbastanza comodo per me.
Is an LDAP server a viable option to use with root logins?
non consentirei i login di root tranne che da una console locale. ldap è bello per gli account, ma avrei ancora 1 account locale per l'accesso se ldap fallisce o non è altrimenti disponibile. e impostare tramite pam'n'stuff è 8 era almeno 3 anni fa) grande PITA