Ogni volta che un numero reale viene rappresentato in virgola mobile con precisione finita (t fissato), se questo non appartiene all’insieme si ha una perdita di informazione, ovvero si commente un errore.
Con numero reale, l’errore si divide in due tipi: errore assoluto e relativo.
Errore assoluto
Errore commesso approssimando con un altro numero reale .
Errore relativo
Per si può definire l’errore relativo come:
Teorema dell’errore di rappresentazione
Teorema
Sia un numero reale e la sua rappresentazione in virgola mobile in base con cifre di precisione per la mantissa. L’errore relativo commesso approssimando con soddisfa la seguente disuguaglianza dove se ottenuta per arrotondamento o se ottenuta per troncamento.
è anche detto Precisione di macchina.