eGospodarka.pl
eGospodarka.pl poleca

eGospodarka.plGrupypl.misc.elektronikaoperacje na liczbach całkowitych a dokładność › operacje na liczbach całkowitych a dokładność
  • Data: 2012-09-19 19:25:51
    Temat: operacje na liczbach całkowitych a dokładność
    Od: Jakub Rakus <s...@o...pl> szukaj wiadomości tego autora
    [ pokaż wszystkie nagłówki ]

    Witam,

    Trochę już minęło czasu od zajęć z metod numerycznych... więc jak najlepiej
    wykonać taką operację:

    Mam liczbę całkowitą która maksymalnie osiąga wartość 2^13, ale muszę ją
    pomnożyć przez niecałkowity współczynnik, który będzie wynosił około 0,3.
    Zmienne wykorzystywane w obliczeniach są 16 bitowe (nie mam tyle mocy
    obliczeniowej żeby przejść na liczby zmiennoprzecinkowe). Ponieważ 0,3 to to
    samo co 3/10, to mogę sobie rozbić moje działanie na mnożenie przez 3 i
    dzielenie bez reszty przez 10.

    Pytanie - jaka kolejność zapewnia większą dokładność? Najpierw mnożyć czy
    lepiej najpierw dzielić? Co w przypadku gdy mój współczynnik wyniesie np.
    0,32 - wykonanie jako pierwszego mnożenia przez 32 (a potem dzielenia przez
    100) da mi pośredni wynik większy niż zakres mojej 16-bitowej zmiennej.

    --
    Pozdrawiam
    Jakub Rakus
    s...@o...pl

Podziel się

Poleć ten post znajomemu poleć

Wydrukuj ten post drukuj


Następne wpisy z tego wątku

Najnowsze wątki z tej grupy


Najnowsze wątki

Szukaj w grupach

Eksperci egospodarka.pl

1 1 1

Wpisz nazwę miasta, dla którego chcesz znaleźć jednostkę ZUS.

Wzory dokumentów

Bezpłatne wzory dokumentów i formularzy.
Wyszukaj i pobierz za darmo: