Domande con tag 'arithmetic'

5
risposte

Un computer tenterà di dividere per zero?

Sappiamo tutti che 0/0 è Undefined e restituisce un errore se dovessi inserirlo in una calcolatrice, e se dovessi creare un programma (almeno in C) il sistema operativo lo interromperà quando provo a dividi per zero. Ma quello che m...
posta 26.02.2016 - 08:33
3
risposte

Quale logica viene utilizzata quando si programmano i progettisti di linguaggio per decidere quale segnale prende il risultato dell'operazione modulo?

Passando attraverso Operazione modulo (la strada che ho inserito esplorando la differenza tra rem e mod ) Mi sono imbattuto in: In mathematics the result of the modulo operation is the remainder of the Euclidean division. However...
posta 30.01.2014 - 23:05
2
risposte

Nome del problema round Countdown Numbers - e soluzioni algoritmiche?

Per i non britannici del pubblico, c'è un segmento di uno spettacolo di gioco diurno in cui i concorrenti hanno un set di 6 numeri e un numero di destinazione generato casualmente. Devono raggiungere il numero di destinazione usando qualsiasi (m...
posta 09.10.2013 - 22:07
3
risposte

C'è qualcosa di speciale nel numero 65535?

2¹⁶-1 & 2⁵ = 2⁵ (o? Ovviamente?) Uno sviluppatore mi ha chiesto oggi cosa è il bit a bit 65535 & 32 cioè 2¹⁶-1 & 2⁵ =? All'inizio ho pensato spontaneamente, ma mi è sembrato facile, ma ho pensato per diversi minuti e poi ho rispos...
posta 22.11.2012 - 20:49
2
risposte

Moltiplicazione e divisione delle matrici

Mi sono imbattuto in una domanda che (alla fine) mi ha portato a chiedermi dell'aritmetica dell'array. Sto pensando specificamente a Ruby, ma penso che i concetti siano indipendenti dal linguaggio. Quindi, addizione e sottrazione sono definit...
posta 19.06.2013 - 19:59
2
risposte

Prestazioni e altri problemi nell'utilizzo di tipi in virgola mobile in C ++

Essendo interessato alla programmazione delle prestazioni in C ++, c'è un aspetto di cui non ho davvero idea - e questo è il significato dell'uso di calcoli in virgola mobile contro il doppio rispetto alla matematica normale intera? Quali pro...
posta 12.03.2013 - 22:59
2
risposte

Codifica aritmetica rispetto alla precisione numerica della macchina

Quando si suddividono gli intervalli per la codifica aritmetica, lo scenario peggiore è che l'intervallo finale avrà la dimensione 2^(1-n) , dove n è il numero di simboli univoci che si codificano. Questo raggiungerà i limiti della prec...
posta 21.12.2012 - 12:59
2
risposte

Che cosa ottieni quando attraversi un numero a precisione multipla con un numero a virgola mobile?

Sto lavorando per aggiungere interi multiprecisione alla suite di tipi numerici nel mio interprete APL , ma io Non sono sicuro di cosa fare riguardo alle strane combinazioni di tipi che ora si presentano. Ora ho i seguenti tipi: IMM "atomic"...
posta 28.04.2015 - 07:52
3
risposte

L'ordine degli argomenti in un'espressione aritmetica è importante per ottenere il risultato più esatto possibile (la velocità non è necessaria)?

In realtà, in questa domanda non chiedo di un particolare linguaggio o architettura, tuttavia capisco che potrebbero esserci alcune differenze. In fisica / ingegneria di solito è meglio gestire numeri più grandi di quelli più piccoli, a causa...
posta 18.09.2015 - 09:45
4
risposte

Perché i decimali a precisione arbitraria sono usati in pratica su numeri razionali?

L'aritmetica di base di un chip di computer può funzionare solo su numeri (interi o in virgola mobile) di una dimensione fissa. Ci sono molti algoritmi che potrebbero essere estesi per lavorare su numeri di dimensioni arbitrarie (e alcuni li...
posta 25.08.2016 - 12:58