eGospodarka.pl
eGospodarka.pl poleca

eGospodarka.plGrupypl.misc.elektronikaoperacje na liczbach całkowitych a dokładnośćRe: operacje na liczbach całkowitych a dokładność
  • Data: 2012-09-19 19:29:48
    Temat: Re: operacje na liczbach całkowitych a dokładność
    Od: "Grzegorz Niemirowski" <g...@p...onet.pl> szukaj wiadomości tego autora
    [ pokaż wszystkie nagłówki ]

    Jakub Rakus <s...@o...pl> napisał(a):
    > Witam,
    > Trochę już minęło czasu od zajęć z metod numerycznych... więc jak
    > najlepiej wykonać taką operację:
    > Mam liczbę całkowitą która maksymalnie osiąga wartość 2^13, ale muszę ją
    > pomnożyć przez niecałkowity współczynnik, który będzie wynosił około 0,3.
    > Zmienne wykorzystywane w obliczeniach są 16 bitowe (nie mam tyle mocy
    > obliczeniowej żeby przejść na liczby zmiennoprzecinkowe). Ponieważ 0,3
    > to to samo co 3/10, to mogę sobie rozbić moje działanie na mnożenie
    > przez 3 i dzielenie bez reszty przez 10.
    > Pytanie - jaka kolejność zapewnia większą dokładność? Najpierw mnożyć czy
    > lepiej najpierw dzielić?

    Najpierw mnożyć, żebyś błędu zaokrąglenia nie mnożył.

    > Co w przypadku gdy mój współczynnik wyniesie np.
    > 0,32 - wykonanie jako pierwszego mnożenia przez 32 (a potem dzielenia
    > przez 100) da mi pośredni wynik większy niż zakres mojej 16-bitowej
    > zmiennej.

    Mnóż przez 8 a potem dziel przez 25.

    --
    Grzegorz Niemirowski
    http://www.grzegorz.net/
    OE PowerTool i Outlook Express: http://www.grzegorz.net/oe/
    Uptime: 0 days, 1 hours, 59 minutes and 47 seconds

Podziel się

Poleć ten post znajomemu poleć

Wydrukuj ten post drukuj


Następne wpisy z tego wątku

Najnowsze wątki z tej grupy


Najnowsze wątki

Szukaj w grupach

Eksperci egospodarka.pl

1 1 1

Wpisz nazwę miasta, dla którego chcesz znaleźć jednostkę ZUS.

Wzory dokumentów

Bezpłatne wzory dokumentów i formularzy.
Wyszukaj i pobierz za darmo: