Kaikissa mittauksissa, laskelmien tuloksia pyöristämällä, melko monimutkaisia laskelmia suoritettaessa syntyy väistämättä tätä tai tätä poikkeamaa. Tällaisen epätarkkuuden arvioimiseksi on tapana käyttää kahta indikaattoria - nämä ovat absoluuttisia ja suhteellisia virheitä.
Jos vähennämme tuloksen luvun tarkasta arvosta, saamme absoluuttisen poikkeaman (lisäksi laskettaessa pienempi luku vähennetään suuremmasta). Jos esimerkiksi pyöristät luvun 1370 arvoon 1400, absoluuttinen virhe on 1400-1382=18. Jos pyöristät arvoon 1380, absoluuttinen poikkeama on 1382-1380=2. Absoluuttinen virhekaava on:
Δx=|x – x|, tässä
x - todellinen arvo, x on likiarvo.
Tämä indikaattori ei kuitenkaan selvästikään yksin riitä kuvaamaan tarkkuutta. Päättele itse, jos painovirhe on 0,2 grammaa, niin mikrosynteesiin tarkoitettuja kemikaaleja punnittaessa se on paljon, 200 grammaa makkaraa punnittaessa se on aivan normaalia ja junavaunun painoa mitattaessa sitä ei ehkä huomaa. ollenkaan. Niinusein absoluuttisen virheen ohella osoitetaan tai lasketaan myös suhteellinen virhe. Tämän indikaattorin kaava näyttää tältä:
δx=Δx/|x|.
Katsotaanpa esimerkkiä. Olkoon koulun oppilaiden kokonaismäärä 196. Pyöristä tämä luku 200:aan.
Absoluuttinen poikkeama on 200 – 196=4. Suhteellinen virhe on 4/196 tai pyöristetty, 4/196=2 %.
Jos siis tiedetään tietyn suuren todellinen arvo, niin hyväksytyn likimääräisen arvon suhteellinen virhe on likimääräisen arvon absoluuttisen poikkeaman suhde tarkkaan arvoon. Useimmissa tapauksissa todellisen tarkan arvon paljastaminen on kuitenkin erittäin ongelmallista ja joskus jopa mahdotonta. Ja siksi on mahdotonta laskea virheen tarkkaa arvoa. Aina on kuitenkin mahdollista määrittää jokin luku, joka on aina hieman suurempi kuin suurin absoluuttinen tai suhteellinen virhe.
Esimerkiksi myyjä painaa melonia pannuvaakalla. Tässä tapauksessa pienin paino on 50 grammaa. Vaaka näytti 2000 grammaa. Tämä on likimääräinen arvo. Melonin tarkkaa painoa ei tiedetä. Tiedämme kuitenkin, että absoluuttinen virhe ei voi olla suurempi kuin 50 grammaa. Tällöin painonmittauksen suhteellinen virhe ei ylitä 50/2000=2,5%.
Arvoa, joka on alun perin suurempi kuin absoluuttinen virhe tai pahimmassa tapauksessa yhtä suuri, kutsutaan yleensä rajoittavaksi absoluuttiseksi virheeksi tai absoluuttisen virheen rajaksi.virheitä. Edellisessä esimerkissä tämä luku on 50 grammaa. Rajoittava suhteellinen virhe määritetään samalla tavalla, joka yllä olevassa esimerkissä oli 2,5%.
Rajavirheen arvoa ei ole määritelty tarkasti. Voisimme siis ottaa 50 gramman sijasta minkä tahansa luvun, joka on suurempi kuin pienimmän painon paino, vaikkapa 100 g tai 150 g. Käytännössä kuitenkin valitaan pienin arvo. Ja jos se voidaan määrittää tarkasti, se toimii samalla rajavirheenä.
Sattuu niin, että absoluuttista rajavirhettä ei ole määritetty. Tällöin on katsottava, että se on yhtä suuri kuin puolet viimeisen määritetyn numeron yksiköstä (jos se on numero) tai vähimmäisjakoyksiköstä (jos se on instrumentti). Esimerkiksi millimetriviivaimella tämä parametri on 0,5 mm ja likimääräiselle luvulle 3,65 absoluuttinen rajapoikkeama on 0,005.