Navigation:  Výpočty > Přesnost výpočtů v programu GEUS

Obecně je většina výpočtů v programu GEUS prováděna v proměnných typu real, který uchovává svoji hodnotu v 8 bytech, tedy maximální možný počet platných míst je 15-16. To je rozdíl proti DOS verzi, kde typ real uchovává svoji hodnotu v 6 bytech, tedy maximálně na 11-12 platných míst. Z toho snad mohou vzniknout rozdíly ve výsledcích obou verzí, pokud by se potřeby výpočtu blížily uvedému počtu 11-12 cifer. Taková situace by však v běžné praxi při meření maximálně na mm, neměla nastat. Může tím však dojít k rozdílům při zaokrouhlování na posledním zobrazeném místě.

 

V některých citlivých místech je použito ukládání mezivýsledků na 19-20 platných míst.

 

Souřadnice jsou však nadále uchovávány v seznamu souřadnic v 6 bytovém formátu, tedy na 11-12 platných cifer. To platí i v případě, že je zapnuto zaokrouhlování souřadnic před uložením do seznamu souřadnic, souřadnice jsou pouze zaokrouhleny, ale uloženy jsou stále na 11-12 platných cifer.