Domande con tag 'numeric-precision'

domande con tag
2
risposte

Codifica aritmetica rispetto alla precisione numerica della macchina

Quando si suddividono gli intervalli per la codifica aritmetica, lo scenario peggiore è che l'intervallo finale avrà la dimensione 2^(1-n) , dove n è il numero di simboli univoci che si codificano. Questo raggiungerà i limiti della prec...
posta 21.12.2012 - 12:59
2
risposte

Codifica banalmente ordinabile per decimali arbitrari di precisione

Sto cercando un modo ragionevolmente (*) efficiente in termini di spazio per codificare decimali di precisione arbitraria (ad esempio BigDecimal ), in modo tale che quando si ordina il modello di bit delle codifiche lessicograficamente, i numer...
posta 25.06.2014 - 08:24
3
risposte

L'ordine degli argomenti in un'espressione aritmetica è importante per ottenere il risultato più esatto possibile (la velocità non è necessaria)?

In realtà, in questa domanda non chiedo di un particolare linguaggio o architettura, tuttavia capisco che potrebbero esserci alcune differenze. In fisica / ingegneria di solito è meglio gestire numeri più grandi di quelli più piccoli, a causa...
posta 18.09.2015 - 09:45
3
risposte

Come può un computer arrotondare l'ultima cifra in una rappresentazione in virgola mobile?

Sono confuso da come un computer arrotonda l'ultima cifra nella rappresentazione in virgola mobile. Ad esempio, mi viene detto che x=1.24327789 è memorizzato in un computer con una capacità di 6 cifre, quindi la rappresentazione in virgola...
posta 05.06.2015 - 04:15
1
risposta

L'aggiunta di double non è uguale alla somma del doppio nel suo insieme

Sono a conoscenza degli errori in virgola mobile poiché avevo acquisito una certa conoscenza con la mia domanda posta qui in SE Errori in virgola mobile. Quello che trovo difficile da capire è l'output del seguente programma. doub...
posta 18.07.2013 - 23:10
2
risposte

È un buon modo per confrontare due numeri?

Se abbiamo numeri doppi, diciamo che voglio vedere se qualche parametro doppio è uguale a zero che viene passato come doppio: public bool AlmostEqual(double x, double y) { double epsilon = Math.Max(Math.Abs(x), Math.Abs(y)) * 1E-15; re...
posta 21.12.2012 - 16:34
2
risposte

Differenza tra arrotondamento USP e IEEE

Sto cercando di capire la differenza tra i diversi metodi di arrotondamento: la nostra applicazione offre due diversi tipi di arrotondamento: IEEE arrotondamento USP (GMP). link Nei nostri test unitari, sembrano fare la stessa cosa pe...
posta 04.08.2014 - 21:43
4
risposte

Unit test una funzione di uguaglianza in virgola mobile generica

Ho scritto una funzione che testa due numeri in virgola mobile per un'uguaglianza approssimativa (vedi questa domanda di revisione del codice ). Mi piacerebbe testare la mia funzione unitaria, ma non sono sicuro del modo migliore per farlo. Ov...
posta 29.01.2018 - 16:20
3
risposte

Evita errori numerici nel metodo Naive Bayes

Sto implementando il metodo Naive Bayes con distribuzione gaussiana. Il problema che ho è che la varianza usata sulla curva gaussiana (calcolata da un set di allenamento) è VERAMENTE piccola. Sono nell'ordine di e-07. Ciò significa l'intera e...
posta 24.05.2015 - 03:00
2
risposte

Come cambierei la precisione di una variabile in Python?

Sto lavorando a un motore 2D-fisico, e ho bisogno di una certa variabile per essere precisa solo al centesimo. Esistono metodi per eliminare praticamente tutta la precisione non necessaria? Ho provato cose come "{0:.2f}".format(a) ma ovv...
posta 14.06.2014 - 01:16