Domande con tag 'floating-point'

domande con tag
2
risposte

In che modo Lua gestisce sia numeri interi che numeri a virgola mobile?

Per quanto mi ricordo della programmazione mi è stato insegnato a non confrontare i numeri in virgola mobile per l'uguaglianza. Ora, durante la lettura di Programmazione in Lua sul tipo Lua number , ho trovato seguente: The number typ...
posta 29.07.2013 - 05:56
3
risposte

Perché BigDecimal è il miglior tipo di dati per la valuta? [duplicare]

Stavo leggendo questa domanda e la risposta accettata afferma che BigDecimal è il tipo migliore per rappresentare i valori di valuta. Ho anche visto diverse altre domande che supportano l'uso di grandi numeri decimali. Perché BigDeci...
posta 11.02.2014 - 17:50
3
risposte

Devo ancora usare il punto fisso per garantire che i computer ottengano lo stesso risultato per le operazioni matematiche?

Mi è stato detto che i computer più moderni seguono lo stesso standard in virgola mobile, vuol dire che otterranno tutti la stessa risposta flottante per una determinata operazione matematica se gli input sono gli stessi? Chiedo perché sto fa...
posta 10.12.2018 - 05:24
1
risposta

Precisione implicita delle funzioni in virgola mobile

Durante la revisione della implementazione di una funzione per calcolare la normale CDF di distribuzione di un altro programmatore, ho eseguito un suggerimento per sostituire l'intera implementazione con le funzioni built-in di Python o util...
posta 08.08.2014 - 21:04
1
risposta

Come possono gli Unum emulare lo zero negativo di IEEE?

Attualmente sto leggendo "La fine dell'errore - Unum Computing" di John Gustafson ( Youtube ). Quello di cui non sono ancora sicuro è come i casi gestiti in IEEE da zero firmati negativamente vengano gestiti con gli unum. Quindi, prima di t...
posta 23.06.2015 - 17:31
2
risposte

'Vectorfloat.Equals' dovrebbe essere riflessivo o dovrebbe seguire la semantica IEEE 754?

Quando si confrontano i valori in virgola mobile per l'uguaglianza, ci sono due approcci diversi: NaN non è uguale a se stesso, che corrisponde alla specifica IEEE 754 . NaN è uguale a se stesso, che fornisce la proprietà mate...
posta 22.01.2016 - 18:18
11
risposte

Perché usiamo ancora i float? [duplicare]

Capisco perché i float hanno avuto uno scopo in passato. E penso di poter capire perché sono utili in alcuni esempi di simulazione oggi. Ma penso che questi esempi siano più eccezionali del comune. Quindi non capisco perché i float siano più p...
posta 16.01.2014 - 21:59
3
risposte

Quando i problemi di arrotondamento diventano un problema reale? La cifra meno significativa è una tantum davvero un grosso problema? [duplicare]

Se faccio .1 + .1 + .1 in Python, ottengo 0.30000000000000004 . (Non sto chiedendo di Python in particolare, e non voglio risposte specifiche di Python.) L'unico problema che posso vedere con questo è 0.30000000000000004 != 0.3...
posta 20.01.2014 - 23:06
2
risposte

Come rimuovere gli effetti di confine derivanti dall'assenza di padding in scipy / numpy fft?

Ho creato un codice Python per smussare un determinato segnale usando la trasformata di Weierstrass, che è fondamentalmente la convoluzione di un gaussiano normalizzato con un segnale. Il codice è il seguente: #Importing relevant libraries...
posta 03.04.2012 - 18:28
2
risposte

Il calcolo a virgola mobile è troppo esatto

In Java, ho eseguito questo metodo: private static void floatAddition() { float a = 0.1F, b = 0.2F, c = a+b; System.out.println(a + " + " + b + " = " + c); } e il risultato è 0.3 per floatAddition. Ora sto cercando di capire pe...
posta 20.02.2016 - 15:21