Creazione di una rete neurale per risolvere la disuguaglianza

Question

Creazione di una rete neurale per risolvere la disuguaglianza

#1 da (3 voti)

2

Sto solo testando una semplice rete neurale con un singolo neurone. Per classificare se un numero X tra 1..10 è maggiore di un numero N. N è una costante per esempio N = 3.

Dato il mio input X e un neurone costante 1. Il mio output è (w1 * X + w2) dove w are weights.

Ma quello che sto scoprendo è che alcuni valori di N portano ad un allenamento più veloce di altri.

In particolare l'allenamento porta a un'equazione w1 * X + w2 > 0 e la rete neurale impara ottenendo gradualmente valori migliori per i pesi. Valori diversi di N daranno differenti rapporti w1 / w2.

Questo rapporto sembra essere correlato alla velocità con cui la rete neurale apprenderà.

Sarà sempre più facile / difficile classificare se un numero N > = 5 di dire N > = 2 o N > = 9?

C'è anche una ridondanza nell'equazione w1 * X + w2 > 0 che, dal momento che possiamo moltiplicare w1 e w2 con una costante. Come possiamo rimuovere questa ridondanza?

neural-networks

posta zooby 19.11.2016 - 16:59

fonte

1 risposta

Leggi altre domande sui tag neural-networks

Vantaggi e svantaggi di creare app web puramente con microservizi e ibridi con framework web Uso di singleton in Python (Django)

score 3 · Answer 1

La cosa fondamentale che stai facendo è cambiare un peso dal valore sbagliato al valore giusto. La cosa fondamentale che rende questo è l'allenamento. Quanta formazione è necessaria dipende da quanto lontano è giusto il tuo peso e da quanto ogni sessione di allenamento cambia.

Ora certo, altri fattori possono oscurarlo, ma se non stai facendo misurazioni e lavori solo su un singolo neurone, non dovresti vedere molto oltre a quello che stai facendo fondamentalmente.

Non aspettarti che rimanga così semplice una volta che inizi a fare un lavoro interessante. Un'enorme complessità emerge da cose semplici come questa.