eGospodarka.pl
eGospodarka.pl poleca

eGospodarka.plGrupypl.misc.elektronikaoperacje na liczbach całkowitych a dokładność › operacje na liczbach całkowitych a dokładność
  • Path: news-archive.icm.edu.pl!agh.edu.pl!news.agh.edu.pl!newsfeed2.atman.pl!newsfeed.
    atman.pl!.POSTED!not-for-mail
    From: Jakub Rakus <s...@o...pl>
    Newsgroups: pl.misc.elektronika
    Subject: operacje na liczbach całkowitych a dokładność
    Date: Wed, 19 Sep 2012 19:25:51 +0200
    Organization: ATMAN - ATM S.A.
    Lines: 21
    Message-ID: <k3cv72$2hn$1@node1.news.atman.pl>
    NNTP-Posting-Host: user-164-126-40-126.play-internet.pl
    Mime-Version: 1.0
    Content-Type: text/plain; charset="UTF-8"
    Content-Transfer-Encoding: 8Bit
    X-Trace: node1.news.atman.pl 1348075554 2615 164.126.40.126 (19 Sep 2012 17:25:54
    GMT)
    X-Complaints-To: u...@a...pl
    NNTP-Posting-Date: Wed, 19 Sep 2012 17:25:54 +0000 (UTC)
    User-Agent: KNode/4.8.5
    Xref: news-archive.icm.edu.pl pl.misc.elektronika:635755
    [ ukryj nagłówki ]

    Witam,

    Trochę już minęło czasu od zajęć z metod numerycznych... więc jak najlepiej
    wykonać taką operację:

    Mam liczbę całkowitą która maksymalnie osiąga wartość 2^13, ale muszę ją
    pomnożyć przez niecałkowity współczynnik, który będzie wynosił około 0,3.
    Zmienne wykorzystywane w obliczeniach są 16 bitowe (nie mam tyle mocy
    obliczeniowej żeby przejść na liczby zmiennoprzecinkowe). Ponieważ 0,3 to to
    samo co 3/10, to mogę sobie rozbić moje działanie na mnożenie przez 3 i
    dzielenie bez reszty przez 10.

    Pytanie - jaka kolejność zapewnia większą dokładność? Najpierw mnożyć czy
    lepiej najpierw dzielić? Co w przypadku gdy mój współczynnik wyniesie np.
    0,32 - wykonanie jako pierwszego mnożenia przez 32 (a potem dzielenia przez
    100) da mi pośredni wynik większy niż zakres mojej 16-bitowej zmiennej.

    --
    Pozdrawiam
    Jakub Rakus
    s...@o...pl

Podziel się

Poleć ten post znajomemu poleć

Wydrukuj ten post drukuj


Następne wpisy z tego wątku

Najnowsze wątki z tej grupy


Najnowsze wątki

Szukaj w grupach

Eksperci egospodarka.pl

1 1 1

Wpisz nazwę miasta, dla którego chcesz znaleźć jednostkę ZUS.

Wzory dokumentów

Bezpłatne wzory dokumentów i formularzy.
Wyszukaj i pobierz za darmo: