Domande con tag 'floating-point'

domande con tag
3
risposte

Perché dati meno precisi come il float possono essere più veloci di dati più grandi e precisi come il doppio?

Attualmente sto leggendo un capitolo in un libro di testo su Processor Architecture e ho visto la seguente dichiarazione: The less precision there is, the less space is occupied by a program variable in memory. Further, there is often a tim...
posta 08.02.2017 - 23:03
4
risposte

Unit test una funzione di uguaglianza in virgola mobile generica

Ho scritto una funzione che testa due numeri in virgola mobile per un'uguaglianza approssimativa (vedi questa domanda di revisione del codice ). Mi piacerebbe testare la mia funzione unitaria, ma non sono sicuro del modo migliore per farlo. Ov...
posta 29.01.2018 - 16:20
1
risposta

Come posso utilizzare l'aritmetica in virgola fissa per convertire da Celsius a Fahrenheit?

Dichiarazione di non responsabilità: mi rendo conto che questo non è il modo più semplice o addirittura migliore per gestirlo e lo chiedo in gran parte per un senso di curiosità, non perché sono convinto che questo sia il modo giusto. È un puzzl...
posta 19.06.2018 - 23:44
2
risposte

Come implementare l'arrotondamento in un linguaggio cumulativo per tutti gli usi utilizzando tipi diversi?

Dichiarazione di non responsabilità: se non sei terribilmente interessato a numeri e processi matematici, questo probabilmente non è niente per te. Al momento sono un po 'bloccato in un processo di sviluppo di un progetto privato che ho segui...
posta 09.05.2015 - 20:08
2
risposte

Implementazione della divisione in virgola mobile in base 10

Sto implementando l'aritmetica in virgola mobile, per un microcontrollore che non supporta numeri in virgola mobile, né nell'hardware né nel software. (Il software viene "scritto" in una sorta di programma di schemi elettrici). Ho finito di codi...
posta 05.04.2013 - 00:45
1
risposta

aggiungendo le cifre di un numero

Sto cercando di scrivere un programma che chiede all'utente un numero decimale e quindi calcola la somma delle sue cifre. per esempio se il numero è 123.25 allora la somma sarà 1 + 2 + 3 + 2 + 5 = 13. Ho deciso di trasformare prima il numero...
posta 10.03.2015 - 19:25
3
risposte

Scegliere un epsilon quando si confrontano numeri in virgola mobile su sistemi diversi

Sto trascrivendo migliaia di righe di codice computazionale da MATLAB a C ++. Non capisco perfettamente la matematica da solo, ma posso eseguirlo con MATLAB, suppongo sia corretto e confrontare i risultati con il mio codice C ++. Il problema...
posta 30.06.2016 - 14:02
2
risposte

Precisione e conversioni in virgola mobile

Sto cercando di creare una classe in cui l'utente possa calcolare le operazioni mobili con una precisione particolare. Ad esempio, se l'utente desidera avere una precisione fino a 4 cifre, tutto inferiore a 0,0001 è zero e tutto ciò che è più gr...
posta 15.03.2016 - 20:52
1
risposta

il numero a virgola mobile memorizzato nella variabile float ha un altro valore [duplicato]

Sto leggendo un libro sulla programmazione in C di "King.K.N" e sto leggendo la seguente dichiarazione: If we store 0.1 in a float variable, we may later find that the variable has a value such as 0.0999999999999999987 Ma non riesco a...
posta 29.06.2015 - 12:28
1
risposta

che cosa * dovrebbe * ottenere quando aggiungi meno-zero a più zero? [chiuso]

questo articolo di Wikipedia non ha risolto questo problema e sto riscontrando problemi nel trovare un documento IEEE-754 definitivo che risolva questo problema .     
posta 14.05.2018 - 22:58