Minix è un'ottima scelta ed è descritto in una delle altre risposte.
Xinu
Considera anche XINU - XINU non è Unix.
È anche scritto UNIX indietro.
C'è un libro di Douglas Comer che ho pensato fosse ben scritto, ben illustrato e ben definito.
C'è un Xinu incorporato e un sito web sull'insegnamento con Xinu.
link
FreeRTOS
Un altro sistema operativo piccolo che ottiene molto amore in questi giorni è FreeRTOS. Funziona su quasi tutto. Se venissi da Marte e avessi un processore o una scheda di valutazione dove non funziona, potresti leggere circa 10 pagine di documentazione, modificare circa cinque file relativi a interrupt, timer e UART e verrai eseguito.
link
Affermano che supporta 31 architetture e 18 catene di strumenti. La mia esperienza alla fine del 2009 è stata buona, e ho sentito che da allora è stato migliorato molto.
Altri link
Una domanda simile potrebbe avere informazioni utili per te che si trova qui:
link
Linux e molti altri design di sistemi operativi sono influenzati da UNIX, quindi questo video in cui i designer originali (Kernigan, Richie e Thompson e altri) è sia informativo che ottiene le idee di progettazione direttamente dalla fonte.
link
C'è un libro dei sistemi operativi classico ma spesso rivisto:
Silberschatz, Galvin, Gagne: Concetti relativi ai sistemi operativi, 7a edizione
Potrebbero esserci anche nuove versioni. Raramente mi collego ad un libro tramite un venditore di libri, ma l'anteprima è molto generosa, quindi per saperne di più sui sistemi operativi, controlla:
link