flyttalsaritmetik
flyttalsaritmetik, metod för att utföra datorberäkningar med reella tal. Representation av tal i en dator sker i regel med ett fixt antal siffror, ett ord. För att kunna representera både små och stora reella tal (exempelvis 0,000 000 345 678 respektive −987 654 000 000) med god noggrannhet skriver man dem på exponentform (3,45678·10−7 och −9,87654·1011).
Om b är basen i talsystemet skrivs allmänt ett reellt tal a på formen a=m·be, där taldelen (mantissan)
(74 av 500 ord)
Vill du få tillgång till hela artikeln?
Medverkande
Litteraturanvisning
Binary Floating Point
Arithmetic, ANSI/IEEE 754;
L. Eldén & L.
Wittmeyer-Koch, Numerisk analys – en
introduktion (2:a upplagan 1991).
Källangivelse
Nationalencyklopedin,
flyttalsaritmetik.
http://www.ne.se/uppslagsverk/encyklopedi/lång/flyttalsaritmetik