-
Path: news-archive.icm.edu.pl!agh.edu.pl!news.agh.edu.pl!newsfeed2.atman.pl!newsfeed.
atman.pl!.POSTED!not-for-mail
From: Jakub Rakus <s...@o...pl>
Newsgroups: pl.misc.elektronika
Subject: operacje na liczbach całkowitych a dokładność
Date: Wed, 19 Sep 2012 19:25:51 +0200
Organization: ATMAN - ATM S.A.
Lines: 21
Message-ID: <k3cv72$2hn$1@node1.news.atman.pl>
NNTP-Posting-Host: user-164-126-40-126.play-internet.pl
Mime-Version: 1.0
Content-Type: text/plain; charset="UTF-8"
Content-Transfer-Encoding: 8Bit
X-Trace: node1.news.atman.pl 1348075554 2615 164.126.40.126 (19 Sep 2012 17:25:54
GMT)
X-Complaints-To: u...@a...pl
NNTP-Posting-Date: Wed, 19 Sep 2012 17:25:54 +0000 (UTC)
User-Agent: KNode/4.8.5
Xref: news-archive.icm.edu.pl pl.misc.elektronika:635755
[ ukryj nagłówki ]Witam,
Trochę już minęło czasu od zajęć z metod numerycznych... więc jak najlepiej
wykonać taką operację:
Mam liczbę całkowitą która maksymalnie osiąga wartość 2^13, ale muszę ją
pomnożyć przez niecałkowity współczynnik, który będzie wynosił około 0,3.
Zmienne wykorzystywane w obliczeniach są 16 bitowe (nie mam tyle mocy
obliczeniowej żeby przejść na liczby zmiennoprzecinkowe). Ponieważ 0,3 to to
samo co 3/10, to mogę sobie rozbić moje działanie na mnożenie przez 3 i
dzielenie bez reszty przez 10.
Pytanie - jaka kolejność zapewnia większą dokładność? Najpierw mnożyć czy
lepiej najpierw dzielić? Co w przypadku gdy mój współczynnik wyniesie np.
0,32 - wykonanie jako pierwszego mnożenia przez 32 (a potem dzielenia przez
100) da mi pośredni wynik większy niż zakres mojej 16-bitowej zmiennej.
--
Pozdrawiam
Jakub Rakus
s...@o...pl
Następne wpisy z tego wątku
- 19.09.12 19:29 Grzegorz Niemirowski
- 19.09.12 20:08 Slawek Maculewicz
- 19.09.12 20:20 Jakub Rakus
- 19.09.12 20:33 J.F
- 19.09.12 22:32 Mario
- 20.09.12 09:49 Waldemar Krzok
- 20.09.12 11:57 Mario
- 20.09.12 21:15 Jakub Rakus
- 20.09.12 22:30 bartekltg
- 21.09.12 20:56 Marek Wodzinski
Najnowsze wątki z tej grupy
- Głośnik piezoelektryczny
- Mala autonomiczna kamera monitoringu
- czas na emeryturę i EB
- Generowanie sumy kontrolnej z fragmentu pliku bin
- Re: Mala autonomiczna kamera monitoringu
- HDMI
- Re: Mala autonomiczna kamera monitoringu
- Kamera monitoringu z kartą SIM
- Re: Kamera monitoringu z kartą SIM
- Re: Kamera monitoringu z kartą SIM
- skąd my to znamy
- Re: Kamera monitoringu z kartą SIM
- Re: Kamera monitoringu z kartą SIM
- Re: Kamera monitoringu z kartą SIM
- antena gsm
Najnowsze wątki
- 2024-06-27 SAMOCHODY ELEKTRYCZNE: EKOLOGICZNA HIPOKRYZJA CZY EKONOMICZNA GŁUPOTA? | GOSPODARCZE ZERO #21
- 2024-06-27 Głośnik piezoelektryczny
- 2024-06-23 Mala autonomiczna kamera monitoringu
- 2024-06-26 czas na emeryturę i EB
- 2024-06-26 Wyjścia video kart graficznych (NVIDIA)
- 2024-06-27 Warszawa => Key Account Manager <=
- 2024-06-27 Bażanowice => Expert Migration Architect (Azure) <=
- 2024-06-27 Ulm => IT Netzwerktechniker (m/w/d) <=
- 2024-06-27 Warszawa => Kierownik Działu Spedycji Międzynarodowej <=
- 2024-06-27 Warszawa => Head of International Freight Forwarding Department <=
- 2024-06-26 Kraków => International freight forwarder <=
- 2024-06-26 Częstochowa => Marketing Specialist (E-Commerce) <=
- 2024-06-26 Warszawa => Fullstack Java Developer <=
- 2024-06-26 Warszawa => React Native Developer <=
- 2024-06-26 Rzeszów => Frontend Developer (React) <=