-
Data: 2012-09-19 19:29:48
Temat: Re: operacje na liczbach całkowitych a dokładność
Od: "Grzegorz Niemirowski" <g...@p...onet.pl> szukaj wiadomości tego autora
[ pokaż wszystkie nagłówki ]Jakub Rakus <s...@o...pl> napisał(a):
> Witam,
> Trochę już minęło czasu od zajęć z metod numerycznych... więc jak
> najlepiej wykonać taką operację:
> Mam liczbę całkowitą która maksymalnie osiąga wartość 2^13, ale muszę ją
> pomnożyć przez niecałkowity współczynnik, który będzie wynosił około 0,3.
> Zmienne wykorzystywane w obliczeniach są 16 bitowe (nie mam tyle mocy
> obliczeniowej żeby przejść na liczby zmiennoprzecinkowe). Ponieważ 0,3
> to to samo co 3/10, to mogę sobie rozbić moje działanie na mnożenie
> przez 3 i dzielenie bez reszty przez 10.
> Pytanie - jaka kolejność zapewnia większą dokładność? Najpierw mnożyć czy
> lepiej najpierw dzielić?
Najpierw mnożyć, żebyś błędu zaokrąglenia nie mnożył.
> Co w przypadku gdy mój współczynnik wyniesie np.
> 0,32 - wykonanie jako pierwszego mnożenia przez 32 (a potem dzielenia
> przez 100) da mi pośredni wynik większy niż zakres mojej 16-bitowej
> zmiennej.
Mnóż przez 8 a potem dziel przez 25.
--
Grzegorz Niemirowski
http://www.grzegorz.net/
OE PowerTool i Outlook Express: http://www.grzegorz.net/oe/
Uptime: 0 days, 1 hours, 59 minutes and 47 seconds
Następne wpisy z tego wątku
- 19.09.12 20:08 Slawek Maculewicz
- 19.09.12 20:20 Jakub Rakus
- 19.09.12 20:33 J.F
- 19.09.12 22:32 Mario
- 20.09.12 09:49 Waldemar Krzok
- 20.09.12 11:57 Mario
- 20.09.12 21:15 Jakub Rakus
- 20.09.12 22:30 bartekltg
- 21.09.12 20:56 Marek Wodzinski
Najnowsze wątki z tej grupy
- Koszyk okrągły, walec 3x AA, na duże paluszki R6
- Brak bolca ochronnego ładowarki oznacza pożar
- AMS spalony szybkim zasilaczem USB
- stalowe bezpieczniki
- Wyświtlacz ramki cyfrowej
- bateria na żądanie
- pradnica krokowa
- Nieustający podziw...
- Coś dusi.
- akumulator napięcie 12.0v
- Podłączenie DMA 8257 do 8085
- pozew za naprawę sprzętu na youtube
- gasik
- Zbieranie danych przez www
- reverse engineering i dodawanie elementów do istniejących zamkniętych produktów- legalne?
Najnowsze wątki
- 2025-01-27 OT musk
- 2025-01-27 Bydgoszcz => Specjalista ds. Sprzedaży (transport drogowy) <=
- 2025-01-27 Warszawa => Java Developer <=
- 2025-01-27 Warszawa => Data Engineer (Tech Lead) <=
- 2025-01-27 Warszawa => Programista Full Stack (.Net Core) <=
- 2025-01-27 Kto ma PRAWNĄ rację? poseł KO mec. R. Giertych v. mec. B. Lewandowski
- 2025-01-27 Gliwice => IT Expert (Network Systems area) <=
- 2025-01-27 Koszyk okrągły, walec 3x AA, na duże paluszki R6
- 2025-01-27 Warszawa => QA Engineer <=
- 2025-01-27 Warszawa => Analityk Biznesowo-Systemowy <=
- 2025-01-27 Mińsk Mazowiecki => Area Sales Manager OZE <=
- 2025-01-27 Bieruń => Team Lead / Tribe Lead FrontEnd <=
- 2025-01-27 Katowice => Regionalny Kierownik Sprzedaży (OZE) <=
- 2025-01-27 Kraków => User Experience Designer <=
- 2025-01-27 Kraków => iOS Developer (Swift experience) <=