Domande con tag 'numeric-precision'

domande con tag
2
risposte

Precisione e conversioni in virgola mobile

Sto cercando di creare una classe in cui l'utente possa calcolare le operazioni mobili con una precisione particolare. Ad esempio, se l'utente desidera avere una precisione fino a 4 cifre, tutto inferiore a 0,0001 è zero e tutto ciò che è più gr...
posta 15.03.2016 - 20:52
1
risposta

Conversione di un numero da Rappresentazione in virgola mobile a precisione singola in un punto a virgola mobile di precisione [chiuso]

Ho un codice in cui devo lavorare su Rappresentazione a virgola mobile a metà precisione numeri. Per farlo ho creato la mia classe C ++ fp16 con tutti gli operatori (aritmetici logici, relazionali) relativi a questo tipo sovraccarico delle mie...
posta 15.09.2011 - 12:47
1
risposta

La creazione di nuovi oggetti è necessaria con BigDecimal?

Descrizione del problema: Sto eseguendo il test delle prestazioni del calcolo del PI numero con primitives e con BigDecimal class. Il calcolo di PI con le primitive è circa 5-6 volte più veloce dello stesso algoritmo,...
posta 09.09.2017 - 20:53
1
risposta

Date storiche (e preistoriche) in Ruby [chiuso]

In Ruby, c'è una classe o una gemma standard per lavorare con date che possono essere - ma non sono obbligatorie - di natura storica? Le date hanno precisione (per il prossimo milione di anni, decennio, secolo, anno, mese, secondo, ecc.). Ad ese...
posta 05.06.2016 - 22:39
0
risposte

BCMath vs MySQL: prestazioni

Scenario Sto lavorando su un'applicazione web che gestisce le transazioni finanziarie e il mio codice dovrà essere riutilizzabile per tutto, dai carrelli dei consumatori alle spedizioni di produttori / distributori. Il progetto utilizza Larav...
posta 25.06.2015 - 21:11
0
risposte

evita nan e inf in moltiplicazione e divisione in virgola mobile

Ho la seguente ipotesi: È meglio riordinare le operazioni mult e div in modo tale da poter fare del nostro meglio per evitare nan, inf e operare con i subnormali. Il riordino dovrebbe seguire questa idea ... operare in coppia in modo tale che...
posta 23.01.2016 - 06:54
1
risposta

Fenomeni di assorbimento del punto fluttuante e ULP

I libri di testo di analisi numerica parlano dei fenomeni di assorbimento (Introduzione all'analisi numerica e calcolo scientifico, Nabil Nassif, Dolly Khoueiri Fayyad, CRC Press, 2014) quando si aggiungono numeri in virgola mobile con una grand...
posta 15.02.2016 - 18:16
1
risposta

moltiplicazione con registri insufficientemente lunghi [duplicato]

Voglio moltiplicare due numeri, ma dal momento che non ho abbastanza registri nell'architettura corrente ho bisogno di "scomporli" in quelli più corti e in qualche modo eseguire il calcolo. Ad esempio: 2048.125 x 2048.125 (2048.125 = >...
posta 02.10.2015 - 11:55