-
Path: news-archive.icm.edu.pl!agh.edu.pl!news.agh.edu.pl!newsfeed2.atman.pl!newsfeed.
atman.pl!.POSTED!not-for-mail
From: Jakub Rakus <s...@o...pl>
Newsgroups: pl.misc.elektronika
Subject: Re: operacje na liczbach całkowitych a dokładność
Date: Thu, 20 Sep 2012 21:15:57 +0200
Organization: ATMAN - ATM S.A.
Lines: 21
Message-ID: <k3fq1g$9a4$1@node2.news.atman.pl>
References: <k3cv72$2hn$1@node1.news.atman.pl>
<505a0fe2$0$1231$65785112@news.neostrada.pl>
NNTP-Posting-Host: user-46-113-214-17.play-internet.pl
Mime-Version: 1.0
Content-Type: text/plain; charset="UTF-8"
Content-Transfer-Encoding: 8Bit
X-Trace: node2.news.atman.pl 1348168560 9540 46.113.214.17 (20 Sep 2012 19:16:00 GMT)
X-Complaints-To: u...@a...pl
NNTP-Posting-Date: Thu, 20 Sep 2012 19:16:00 +0000 (UTC)
User-Agent: KNode/4.8.5
Xref: news-archive.icm.edu.pl pl.misc.elektronika:635796
[ ukryj nagłówki ]J.F wrote:
> Tylko ze robisz mnozenie z wynikiem 32-bit, z ktorego wybierasz dalej
> tylko starsze slowo.
> Bo 65536*0.32=20971.52
Będę marudził, ale nie chce liczb 32-bitowych :P więc to odpada.
> jesli te wspolczynniki sa tego rzedu, to mozesz rozlozyc
> 0.32=0.0101001...b
> a wiec x*0.32 = x>>2 + x>>4 + x>>7 ...
Ale za to to rozwiązanie mi się podoba :) Przeliczenie współczynnika na
liczbę 8 czy nawet 16-bitową i tak będzie wykonane tylko raz na jakiś czas
podczas procedury kalibracji, a trochę przesunięć bitowych nie zeżre mi dużo
cennego czasu i kodu programu.
--
Pozdrawiam
Jakub Rakus
s...@o...pl
Następne wpisy z tego wątku
- 20.09.12 22:30 bartekltg
- 21.09.12 20:56 Marek Wodzinski
Najnowsze wątki z tej grupy
- DS1813-10 się psuje
- Taki tam szkolny problem...
- LIR2032 a ML2032
- SmartWatch Multimetr bezprzewodowy
- olej psuje?
- Internet w lesie - Starlink
- Opis produktu z Aliexpress
- No proszę, a śmialiście się z hindusów.
- Zewnętrzne napięcie referencyjne LM385 1,2V -> 100mV dla ICL7106, Metex M-3800
- karta parkingowa
- Wl/Wyl (On/Off) bialy/niebieski
- I3C
- Pytanie o transformator do dzwonka
- międzymordzie USB 3.2 jako 2.0
- elektronicy powinni pomysleć o karierze elektryka
Najnowsze wątki
- 2024-11-25 Karty przedpłacone (podarunkowe) Google Play - pytanie do korzystających
- 2024-11-26 wina Tóska
- 2024-11-26 Rewolucja/Rewelacja!
- 2024-11-25 grupa ożyła ;)
- 2024-11-24 Być jak Clint
- 2024-11-24 Rura kanalizacja konceptu Franke = problem
- 2024-11-25 Wrocław => Lead Java EE Developer <=
- 2024-11-25 Warszawa => Business Development Manager - Network and Network Securit
- 2024-11-25 Kraków => Programista Full Stack (.Net Core) <=
- 2024-11-25 Lublin => Senior PHP Developer <=
- 2024-11-25 Karlino => Konsultant wewnętrzny SAP (FI/CO) <=
- 2024-11-25 Warszawa => ECM Specialist / Consultant <=
- 2024-11-25 Katowice => Regionalny Kierownik Sprzedaży (OZE) <=
- 2024-11-25 Warszawa => Senior Frontend Developer (React + React Native) <=
- 2024-11-25 Lublin => Inżynier Serwisu Sprzętu Medycznego <=