Esiste un'opzione -O su nmap che proverà a rilevare quale sistema operativo è in esecuzione sul dispositivo, non è affatto perfetto. Analizza il comportamento dello stack TCP / IP. https://nmap.org/
Se il dispositivo ha la porta 22 (ssh) o 23 (telnet) aperta, puoi provare ad accedere / disconnettersi usando un nome utente e una password predefiniti. (I dispositivi IoT non sono pensati per essere sicuri, sono pensati per essere stupidi, quindi la possibilità di accedere con successo è troppo alta.) E poi eseguire il comando uname come suggerito nel commento.
Ci sono molti molti motori di ricerca che potrebbero aver indicizzato una pagina che capita di menzionare quale sistema operativo è in esecuzione il dispositivo specifico.
Se esiste una porta aperta, puoi scavare e iniziare a cercare indizi. Es: un server web potrebbe inviare l'intestazione Server che potrebbe capitare di nominare il sistema operativo. (Sii consapevole che potrebbe anche mentire).
Se tutto questo non funziona, è probabile che esegua qualcosa con Linux come un kernel o un clone proprietario di BSD.