ARYTMETYKA KOMPUTEROWA
Różne operacje arytmetyczne wykonywane na liczbach mogą powodować powstanie sytuacji wyjątkowych, ponieważ liczby zapisywane są przy użyciu określonej odgórnie, skończonej liczby bitów.
Spróbujmy na sam początek obliczyć sumę 255+1 w systemie dwójkowym, używając do zapisu poszczególnych liczb 8 bitów, jak to było dla przykładu w trzeciej generacji konsol do gier wideo:
255 = 11111111(2)
11111111(2)+00000001(2)=100000000(2)
Jak widać, wynik przekracza wartość, jaką mamy do dyspozycji, gdyż nie jesteśmy w stanie zapisać liczby 256 za pomocą tylko 8 bitów. Wartość najstarszego bitu zostanie utracona, przez co wynikiem działania będzie liczba 0. Sytuacja ta wprowadzała wiele problemów np. w grach komputerowych, gdzie przekroczenie wartości powodowało w produkcji różnorakie błędy.
Sytuacja tutaj przytoczona ma miejsce, gdy dochodzi do przekroczenia dopuszczalnego zakresu danych i nie może on być prawidłowo wyrażony. Sytuację taką nazywamy nadmiarem (overflow).
Podobna sytuacja ma miejsce, gdy liczby, które chcemy obliczyć sięgają zbyt niskich potęg. Dla przykładu spróbujmy obliczyć poniższym programem wartość Program nie mógł przez swoje ograniczenia podać poprawnej wartości tego równania, więc zaokrąglił cały wynik do zera. Sytuacja ta nazywana jest niedomiarem (underflow) liczby 10-399-10-400, która powinna wynieść 9 * 10-400