eGospodarka.pl
eGospodarka.pl poleca

eGospodarka.plGrupypl.misc.elektronikaoperacje na liczbach całkowitych a dokładnośćRe: operacje na liczbach całkowitych a dokładność
  • Path: news-archive.icm.edu.pl!agh.edu.pl!news.agh.edu.pl!newsfeed2.atman.pl!newsfeed.
    atman.pl!.POSTED!not-for-mail
    From: Jakub Rakus <s...@o...pl>
    Newsgroups: pl.misc.elektronika
    Subject: Re: operacje na liczbach całkowitych a dokładność
    Date: Thu, 20 Sep 2012 21:15:57 +0200
    Organization: ATMAN - ATM S.A.
    Lines: 21
    Message-ID: <k3fq1g$9a4$1@node2.news.atman.pl>
    References: <k3cv72$2hn$1@node1.news.atman.pl>
    <505a0fe2$0$1231$65785112@news.neostrada.pl>
    NNTP-Posting-Host: user-46-113-214-17.play-internet.pl
    Mime-Version: 1.0
    Content-Type: text/plain; charset="UTF-8"
    Content-Transfer-Encoding: 8Bit
    X-Trace: node2.news.atman.pl 1348168560 9540 46.113.214.17 (20 Sep 2012 19:16:00 GMT)
    X-Complaints-To: u...@a...pl
    NNTP-Posting-Date: Thu, 20 Sep 2012 19:16:00 +0000 (UTC)
    User-Agent: KNode/4.8.5
    Xref: news-archive.icm.edu.pl pl.misc.elektronika:635796
    [ ukryj nagłówki ]

    J.F wrote:

    > Tylko ze robisz mnozenie z wynikiem 32-bit, z ktorego wybierasz dalej
    > tylko starsze slowo.
    > Bo 65536*0.32=20971.52

    Będę marudził, ale nie chce liczb 32-bitowych :P więc to odpada.

    > jesli te wspolczynniki sa tego rzedu, to mozesz rozlozyc
    > 0.32=0.0101001...b
    > a wiec x*0.32 = x>>2 + x>>4 + x>>7 ...

    Ale za to to rozwiązanie mi się podoba :) Przeliczenie współczynnika na
    liczbę 8 czy nawet 16-bitową i tak będzie wykonane tylko raz na jakiś czas
    podczas procedury kalibracji, a trochę przesunięć bitowych nie zeżre mi dużo
    cennego czasu i kodu programu.

    --
    Pozdrawiam
    Jakub Rakus
    s...@o...pl

Podziel się

Poleć ten post znajomemu poleć

Wydrukuj ten post drukuj


Następne wpisy z tego wątku

Najnowsze wątki z tej grupy


Najnowsze wątki

Szukaj w grupach

Eksperci egospodarka.pl

1 1 1

Wpisz nazwę miasta, dla którego chcesz znaleźć jednostkę ZUS.

Wzory dokumentów

Bezpłatne wzory dokumentów i formularzy.
Wyszukaj i pobierz za darmo: