-
Data: 2012-09-19 19:25:51
Temat: operacje na liczbach całkowitych a dokładność
Od: Jakub Rakus <s...@o...pl> szukaj wiadomości tego autora
[ pokaż wszystkie nagłówki ]Witam,
Trochę już minęło czasu od zajęć z metod numerycznych... więc jak najlepiej
wykonać taką operację:
Mam liczbę całkowitą która maksymalnie osiąga wartość 2^13, ale muszę ją
pomnożyć przez niecałkowity współczynnik, który będzie wynosił około 0,3.
Zmienne wykorzystywane w obliczeniach są 16 bitowe (nie mam tyle mocy
obliczeniowej żeby przejść na liczby zmiennoprzecinkowe). Ponieważ 0,3 to to
samo co 3/10, to mogę sobie rozbić moje działanie na mnożenie przez 3 i
dzielenie bez reszty przez 10.
Pytanie - jaka kolejność zapewnia większą dokładność? Najpierw mnożyć czy
lepiej najpierw dzielić? Co w przypadku gdy mój współczynnik wyniesie np.
0,32 - wykonanie jako pierwszego mnożenia przez 32 (a potem dzielenia przez
100) da mi pośredni wynik większy niż zakres mojej 16-bitowej zmiennej.
--
Pozdrawiam
Jakub Rakus
s...@o...pl
Następne wpisy z tego wątku
- 19.09.12 19:29 Grzegorz Niemirowski
- 19.09.12 20:08 Slawek Maculewicz
- 19.09.12 20:20 Jakub Rakus
- 19.09.12 20:33 J.F
- 19.09.12 22:32 Mario
- 20.09.12 09:49 Waldemar Krzok
- 20.09.12 11:57 Mario
- 20.09.12 21:15 Jakub Rakus
- 20.09.12 22:30 bartekltg
- 21.09.12 20:56 Marek Wodzinski
Najnowsze wątki z tej grupy
- e-paper
- 60 mA dużo czy spoko?
- Dziwne zachowanie magistrali adresowej w 8085
- Współczesne mierniki zniekształceń nieliniowych THD audio, produkują jakieś?
- Jaki silikon lub może klej?
- Smar do video
- Litowe baterie AA Li/FeS2 a alkaliczne
- "ogrodowa linia napowietrzna"
- jaki zasilacz laboratoryjny
- jaki zasilacz laboratoryjny
- Puszka w ziemię
- T-1000 was here
- Ściąganie hasła frezem
- Koszyk okrągły, walec 3x AA, na duże paluszki R6
- Brak bolca ochronnego ładowarki oznacza pożar
Najnowsze wątki
- 2025-02-17 Kraków => MS Dynamics 365BC/NAV Developer <=
- 2025-02-17 Chrzanów => Programista NodeJS <=
- 2025-02-17 Warszawa => Node.js / Fullstack Developer <=
- 2025-02-17 Białystok => System Architect (Java background) <=
- 2025-02-17 Białystok => Solution Architect (Java background) <=
- 2025-02-17 Gliwice => Team Lead / Tribe Lead FrontEnd <=
- 2025-02-17 Gdańsk => PHP Developer <=
- 2025-02-17 Warszawa => Senior ASP.NET Developer <=
- 2025-02-17 Gliwice => Business Development Manager - Network and Network Security
- 2025-02-17 Mińsk Mazowiecki => Area Sales Manager OZE <=
- 2025-02-17 Odśnieżanie samochodu
- 2025-02-17 Katowice => Regionalny Kierownik Sprzedaży (OZE) <=
- 2025-02-17 Dęblin => JavaScript / Node / Fullstack Developer <=
- 2025-02-17 Pompiarze...
- 2025-02-16 PV teraz