Błędy przekształcenia danych wejściowych na postać binarną we współrzędnościowej technice pomiarowej

摘要

The article presents the problem of inaccurate conversion from a decimal number to binary. Considerations were based on the example coordinate measuring technique (CMT). In this technique is essential the fractional number. Presents the limitations of the 32-bit system (including the standard IEEE745 - single precision, too). Conversion errors on example of three CMT solutions are shown.%W artykule przedstawiono problem niedokładnego przekształcenia liczby z postaci dziesiętnej na postać binarną. Rozważania oparto na przykładzie współrzędnościowej techniki pomiarowej (w tej technice istotna jest część ułamkowa liczby). Przedstawiono ograniczenia systemu 32-bitowego (w tym również standardu IEEE745 - single precision). Pokazano błędy, jakie mogą pojawić się w rzeczywistych warunkach pomiarowych na przykładzie trzech konkretnych rozwiązań.