4.4.3 Tarkkuudesta

Liukuluvuille voidaan käyttää erilaisia esitystarkkuuksia eri tilanteita ja eri sovelluksia varten. Kun puhutaan yksinkertaisesta tarkkuudesta, tarkoitetaan yleensä 32 bitin esitystä (4 tavua), jossa etumerkille on varattu oma bittinsä, mantissalle esim. 23 bittiä ja eksponentille 8 bittiä. Tällöin saavutetaan laskennassa noin 7 numeron tarkkuus. Tätä suuremman laskentatarkkuuden saavuttamiseksi käytetään kaksinkertaisen tarkkuuden lukuja, joille yleensä varataan 64 bittiä (8 tavua). Tarkkuus on tällöin noin 15 numeroa.

Myös liukuluvuilla voidaan laskennassa joutua sellaiseen tilanteeseen, että luvun itseisarvo kasvaa niin suureksi, ettei eksponentti (positiivinen luku) mahdu sille varattuun tilaan. Tällöin puhutaan lukualueen ylityksestä (floating overflow). Vastaavasti luvun itseisarvo voi mennä niin pieneksi, että sen eksponentti (negatiivinen luku) ei mahdu sille varattuun tilaan. Tällöin puhutaan lukualueen alituksesta (floating underflow).