-
Data: 2012-09-20 21:15:57
Temat: Re: operacje na liczbach całkowitych a dokładność
Od: Jakub Rakus <s...@o...pl> szukaj wiadomości tego autora
[ pokaż wszystkie nagłówki ]J.F wrote:
> Tylko ze robisz mnozenie z wynikiem 32-bit, z ktorego wybierasz dalej
> tylko starsze slowo.
> Bo 65536*0.32=20971.52
Będę marudził, ale nie chce liczb 32-bitowych :P więc to odpada.
> jesli te wspolczynniki sa tego rzedu, to mozesz rozlozyc
> 0.32=0.0101001...b
> a wiec x*0.32 = x>>2 + x>>4 + x>>7 ...
Ale za to to rozwiązanie mi się podoba :) Przeliczenie współczynnika na
liczbę 8 czy nawet 16-bitową i tak będzie wykonane tylko raz na jakiś czas
podczas procedury kalibracji, a trochę przesunięć bitowych nie zeżre mi dużo
cennego czasu i kodu programu.
--
Pozdrawiam
Jakub Rakus
s...@o...pl
Następne wpisy z tego wątku
- 20.09.12 22:30 bartekltg
- 21.09.12 20:56 Marek Wodzinski
Najnowsze wątki z tej grupy
- Rapsberry Pi i synchronizacja plików
- RCD 300 mA
- rpi i moduł przekaźników
- Falownik do pompy CO
- Lampa ogrodowa rozłączała różnicówkę
- Inteligentne oświetlenie schodów
- Pytanie do Użytkownika
- Emanuel kiedyś szukał gotowca do chłodzenia leków
- Sprzęty z Lidl-a
- idzie nowe
- Wybuchające pagery
- Jak shakować windę
- Sterowanie bezprzewodowe do wbudowania
- NC vs NO
- Jak dzięki mojemu pomysłowi amerykańce z Google przyspieszyli TV
Najnowsze wątki
- 2024-10-03 Warszawa => OpenText ECM Specialist <=
- 2024-10-03 Blokowanie informacji - test
- 2024-10-02 Warszawa => Fullstack Developer <=
- 2024-10-02 Katowice => QA Engineer <=
- 2024-10-02 Gdynia => Data Scientist <=
- 2024-10-02 Warszawa => Sales Development Representative (in German) <=
- 2024-10-02 Warszawa => SAP HANA Developer (Middle) <=
- 2024-10-02 Warszawa => SAP S/4HANA FI/CO Senior Consultant <=
- 2024-10-02 Warszawa => Senior SAP HANA Developers <=
- 2024-10-02 Warszawa => Senior PHP Laravel Developer (e-commerce) <=
- 2024-10-02 Warszawa => Programista Full Stack (.Net Core) <=
- 2024-10-02 Warszawa => Software .Net Developer <=
- 2024-10-02 Warszawa => Programista Full Stack .Net <=
- 2024-10-01 Katowice => Head of Virtualization Platform Management and Operating S
- 2024-10-02 GODZINA ZERO #48 - KRZYSZTOF STANOWSKI I ZBIGNIEW KAPIŃSKI PREZES IZBY KARNEJ SĄDU NAJWYŻSZEGO