Domande con tag 'floating-point'

domande con tag
1
risposta

Conversione di un numero da Rappresentazione in virgola mobile a precisione singola in un punto a virgola mobile di precisione [chiuso]

Ho un codice in cui devo lavorare su Rappresentazione a virgola mobile a metà precisione numeri. Per farlo ho creato la mia classe C ++ fp16 con tutti gli operatori (aritmetici logici, relazionali) relativi a questo tipo sovraccarico delle mie...
posta 15.09.2011 - 12:47
1
risposta

Come posso gestire le lancette dell'orologio usando il doppio che soffre al massimo di O (log n) bit corrotti all'ennesimo fotogramma del display?

Attualmente ho un'app di orologio che calcola da zero ad ogni iterazione. Ciò significa O (1) bit corrotti nella mia creazione di doppi e oggetti pesanti e cancellazione anche. Sono diffidente nell'eseguire calcoli indefiniti con doppi o altr...
posta 13.10.2013 - 00:30
0
risposte

evita nan e inf in moltiplicazione e divisione in virgola mobile

Ho la seguente ipotesi: È meglio riordinare le operazioni mult e div in modo tale da poter fare del nostro meglio per evitare nan, inf e operare con i subnormali. Il riordino dovrebbe seguire questa idea ... operare in coppia in modo tale che...
posta 23.01.2016 - 06:54
1
risposta

Questa affermazione è corretta per i numeri in virgola mobile?

The decimal point can "float" to accommodate larger numbers while staying in 32-bits which is why float is considered "in-accurate" Questa è una dichiarazione accurata? Voglio sapere se capisco i numeri in virgola mobile.     
posta 26.02.2015 - 22:00
1
risposta

Fenomeni di assorbimento del punto fluttuante e ULP

I libri di testo di analisi numerica parlano dei fenomeni di assorbimento (Introduzione all'analisi numerica e calcolo scientifico, Nabil Nassif, Dolly Khoueiri Fayyad, CRC Press, 2014) quando si aggiungono numeri in virgola mobile con una grand...
posta 15.02.2016 - 18:16
2
risposte

in Objective-C, il valore di tipo double / float può essere solo NAN, INFINITY e numero normale?

Sapevo che il valore double o float può essere non solo il valore normale (-1.3, 0, 1.0, 2.3) ma anche NAN e INFINITY in Objective-C. Esistono altri valori speciali ad eccezione di NAN e INFINITY per il valore doppio / float in Objective-C?...
posta 13.07.2012 - 16:23
1
risposta

Come convertire l'array di byte (4 byte) in float? [chiuso]

Un pezzo di codice che sto cercando di eseguire il debug ha generato una sequenza di 4 byte da un numero float noto. Sto cercando di verificare il numero float dato i quattro byte. Il (noto) float 8.03 ha generato i byte 56,46,48,51 (qui è el...
posta 30.11.2015 - 11:02