Domande con tag 'numeric-precision'

domande con tag
2
risposte

Perché alcune lingue arrotondano al numero intero EVEN più vicino?

Linguaggi di programmazione come Scheme (R5RS) e Python ( vedi questa domanda ) round verso il numero intero pari più vicino quando il valore è esattamente tra gli interi circostanti. Qual è il ragionamento alla base di questo? C'è un'idea m...
posta 14.09.2014 - 17:34
9
risposte

Perché i numeri in virgola mobile sono usati spesso in Scienze / Ingegneria?

Mentre analizzavo la precisione dei numeri in virgola mobile, ho visto in alcuni punti un'affermazione simile a " float e double sono ( progettati per / usati spesso ) calcolo tecnico e scientifico " Da quanto ho capito, la forza dei f...
posta 21.10.2014 - 20:40
5
risposte

Soluzioni per errori di arrotondamento in virgola mobile

Nella creazione di un'applicazione che si occupa di molti calcoli matematici, ho riscontrato il problema che alcuni numeri causano errori di arrotondamento. Pur comprendendo che floating point non è esatto , il problema è come gestisco i n...
posta 26.06.2013 - 18:38
4
risposte

Gestire numeri estremamente grandi in una lingua che non può?

Sto cercando di pensare a come fare i calcoli su numeri estremamente grandi (all'infinito - non interpone alcuno float) se il costrutto del linguaggio non è in grado di gestire numeri più grandi di un certo valore. Sono sicuro di non essere i...
posta 20.01.2012 - 21:46
4
risposte

Come identificare i calcoli in virgola mobile instabili?

In numeri, è molto importante essere in grado di identificare instabile schemi e migliorare la loro stabilità. Come identificare instabile calcoli in virgola mobile? Sto lavorando a una simulazione molto complessa in cui molti schemi numerici...
posta 11.12.2013 - 10:50
1
risposta

Precisione implicita delle funzioni in virgola mobile

Durante la revisione della implementazione di una funzione per calcolare la normale CDF di distribuzione di un altro programmatore, ho eseguito un suggerimento per sostituire l'intera implementazione con le funzioni built-in di Python o util...
posta 08.08.2014 - 21:04
11
risposte

Perché usiamo ancora i float? [duplicare]

Capisco perché i float hanno avuto uno scopo in passato. E penso di poter capire perché sono utili in alcuni esempi di simulazione oggi. Ma penso che questi esempi siano più eccezionali del comune. Quindi non capisco perché i float siano più p...
posta 16.01.2014 - 21:59
1
risposta

Perché la normalizzazione migliora la precisione numerica?

Stavo leggendo il seguente articolo: Interpolazione polinomiale del satellite GPS coordinate , Milan Horemuz e Johan Vium Andersson 2006 e afferma quanto segue: "La procedura di stima dei coefficienti ai è fatta con la funzione di Matl...
posta 23.09.2013 - 16:50
5
risposte

Come gestire numeri grandi? [duplicare]

Bene, ho appena iniziato a fare i puzzle ed è così fastidioso vedere i puzzle facili da fare ma anche gestire numeri molto grandi. Questo è il problema. Dire che devo occuparmi di numeri come 10 ^ 6/2147483647 / ecc. Devo fare operazioni ar...
posta 05.01.2012 - 17:16
5
risposte

Perché la precisione numerica di SQL è specificata come numero di cifre?

Capisco che questa potrebbe essere una domanda caricata. Ad esempio, in Sql Server 2008, facendo DECLARE @someNum NUMERIC(10); significa che l'intervallo della variabile sarà limitato di 10 cifre. In altri linguaggi come C, Java, ecc., Gli...
posta 10.06.2011 - 00:41