-
Data: 2012-09-20 21:15:57
Temat: Re: operacje na liczbach całkowitych a dokładność
Od: Jakub Rakus <s...@o...pl> szukaj wiadomości tego autora
[ pokaż wszystkie nagłówki ]J.F wrote:
> Tylko ze robisz mnozenie z wynikiem 32-bit, z ktorego wybierasz dalej
> tylko starsze slowo.
> Bo 65536*0.32=20971.52
Będę marudził, ale nie chce liczb 32-bitowych :P więc to odpada.
> jesli te wspolczynniki sa tego rzedu, to mozesz rozlozyc
> 0.32=0.0101001...b
> a wiec x*0.32 = x>>2 + x>>4 + x>>7 ...
Ale za to to rozwiązanie mi się podoba :) Przeliczenie współczynnika na
liczbę 8 czy nawet 16-bitową i tak będzie wykonane tylko raz na jakiś czas
podczas procedury kalibracji, a trochę przesunięć bitowych nie zeżre mi dużo
cennego czasu i kodu programu.
--
Pozdrawiam
Jakub Rakus
s...@o...pl
Następne wpisy z tego wątku
- 20.09.12 22:30 bartekltg
- 21.09.12 20:56 Marek Wodzinski
Najnowsze wątki z tej grupy
- e-paper
- 60 mA dużo czy spoko?
- Dziwne zachowanie magistrali adresowej w 8085
- Współczesne mierniki zniekształceń nieliniowych THD audio, produkują jakieś?
- Jaki silikon lub może klej?
- Smar do video
- Litowe baterie AA Li/FeS2 a alkaliczne
- "ogrodowa linia napowietrzna"
- jaki zasilacz laboratoryjny
- jaki zasilacz laboratoryjny
- Puszka w ziemię
- T-1000 was here
- Ściąganie hasła frezem
- Koszyk okrągły, walec 3x AA, na duże paluszki R6
- Brak bolca ochronnego ładowarki oznacza pożar
Najnowsze wątki
- 2025-02-17 Kraków => MS Dynamics 365BC/NAV Developer <=
- 2025-02-17 Chrzanów => Programista NodeJS <=
- 2025-02-17 Warszawa => Node.js / Fullstack Developer <=
- 2025-02-17 Białystok => System Architect (Java background) <=
- 2025-02-17 Białystok => Solution Architect (Java background) <=
- 2025-02-17 Gliwice => Team Lead / Tribe Lead FrontEnd <=
- 2025-02-17 Gdańsk => PHP Developer <=
- 2025-02-17 Warszawa => Senior ASP.NET Developer <=
- 2025-02-17 Gliwice => Business Development Manager - Network and Network Security
- 2025-02-17 Mińsk Mazowiecki => Area Sales Manager OZE <=
- 2025-02-17 Odśnieżanie samochodu
- 2025-02-17 Katowice => Regionalny Kierownik Sprzedaży (OZE) <=
- 2025-02-17 Dęblin => JavaScript / Node / Fullstack Developer <=
- 2025-02-17 Pompiarze...
- 2025-02-16 PV teraz