eGospodarka.pl
eGospodarka.pl poleca

eGospodarka.plGrupypl.misc.elektronikaoperacje na liczbach całkowitych a dokładnośćRe: operacje na liczbach całkowitych a dokładność
  • Data: 2012-09-20 21:15:57
    Temat: Re: operacje na liczbach całkowitych a dokładność
    Od: Jakub Rakus <s...@o...pl> szukaj wiadomości tego autora
    [ pokaż wszystkie nagłówki ]

    J.F wrote:

    > Tylko ze robisz mnozenie z wynikiem 32-bit, z ktorego wybierasz dalej
    > tylko starsze slowo.
    > Bo 65536*0.32=20971.52

    Będę marudził, ale nie chce liczb 32-bitowych :P więc to odpada.

    > jesli te wspolczynniki sa tego rzedu, to mozesz rozlozyc
    > 0.32=0.0101001...b
    > a wiec x*0.32 = x>>2 + x>>4 + x>>7 ...

    Ale za to to rozwiązanie mi się podoba :) Przeliczenie współczynnika na
    liczbę 8 czy nawet 16-bitową i tak będzie wykonane tylko raz na jakiś czas
    podczas procedury kalibracji, a trochę przesunięć bitowych nie zeżre mi dużo
    cennego czasu i kodu programu.

    --
    Pozdrawiam
    Jakub Rakus
    s...@o...pl

Podziel się

Poleć ten post znajomemu poleć

Wydrukuj ten post drukuj


Następne wpisy z tego wątku

Najnowsze wątki z tej grupy


Najnowsze wątki

Szukaj w grupach

Eksperci egospodarka.pl

1 1 1

Wpisz nazwę miasta, dla którego chcesz znaleźć jednostkę ZUS.

Wzory dokumentów

Bezpłatne wzory dokumentów i formularzy.
Wyszukaj i pobierz za darmo: