Differenza tra arrotondamento USP e IEEE

Naviga le tue risposte
2

Sto cercando di capire la differenza tra i diversi metodi di arrotondamento: la nostra applicazione offre due diversi tipi di arrotondamento:

  • IEEE
  • arrotondamento USP (GMP). link

Nei nostri test unitari, sembrano fare la stessa cosa per i casi sottoposti a test. Tuttavia, non ho trovato nessuno in ufficio che possa spiegare cosa si intende quando si seleziona la modalità di arrotondamento di IEEE

    
posta Juan Mendes 04.08.2014 - 21:43
fonte

2 risposte

2

Secondo wikipedia , IEEE 754 specifica round fino a quando la cifra successiva è 5, mentre la carta che citi dice che una cifra di 5 significa aggiungere uno alla cifra precedente.

    
risposta data 04.08.2014 - 22:03
fonte
1

Non l'ho capito del tutto. Tuttavia, so abbastanza per continuare a lavorare. L'arrotondamento IEEE ha 5 diverse modalità. link

Nella nostra applicazione, stiamo usando il metodo predefinito di C #, Math.round() che usa MidpointRounding.ToEven , cioè 4,5 round a 4 e 5,5 round a 6. Quindi quando le nostre applicazioni dicono di arrotondare IEEE, significano link

    
risposta data 04.08.2014 - 22:09
fonte

Leggi altre domande sui tag

Funzionalità di esternalizzazione dalla vista Django a C / C ++ Qual è il nome di questa categoria di variabili (NEW, OLD, ecc.) disponibile nei trigger?