C'è un modo per calcolare se generare un nuovo thread o usare il thread corrente

Non a mia conoscenza, sembra estremamente difficile avere ragione. Anche se tu potessi farlo, devi comunque considerare il carico del sistema, il numero di core, altre attività del sistema operativo ecc.

Alcuni approcci alternativi a cui posso pensare:

• Hai considerato un pool di thread o un coda di dispatch ? Almeno questo ti permette di evitare alcuni problemi con il cambio di contesto ecc. E puoi bilanciare il sistema nel suo insieme in modo dinamico in base alla quantità totale di utilizzo e di lavoro.

• È possibile modellare i calcoli come problemi di riduzione della mappa (o altrimenti separare i dati di input dal codice)? Quindi è possibile calcolare quanto sia difficile un problema in base alla dimensione dei dati di input e alla velocità effettiva per ciascun articolo. Dopo un gruppo di campioni dovresti essere in grado di determinare quanto tempo impiegare in totale per il completamento del calcolo, e quindi decidere di eseguirlo localmente o distribuito.

• Sarebbe possibile iniziare il calcolo e aspettare semplicemente fino a quando non è trascorso un certo tempo e allora spostarlo in un thread separato, una volta capito che questo calcolo non è banale?

Il mio pensiero iniziale è che ogni volta che trovi un costrutto parallelo, lo esegui per prima cosa misurando in serie il tempo necessario per completare. Se è necessario molto tempo, passare a parallelo la volta successiva che l'operazione viene eseguita. La teoria è che l'operazione richiede probabilmente una quantità di tempo simile ogni volta che viene eseguita.

Da una prospettiva di alto livello, un thread probabilmente non dovrebbe conoscere abbastanza bene il sistema abbastanza da risolvere questo problema. La solita soluzione a questo problema è utilizzare un pool di thread (molte lingue e sistemi operativi offrono supporto automatico per questo). Passate le attività del pool di thread e alloca i thread secondo necessità, riutilizzando i thread esistenti quando è ragionevole. Ciò offre il vantaggio in termini di prestazioni di evitare l'allocazione di thread sprecati senza aggiungere responsabilità inappropriate ai thread worker.