-
Data: 2012-09-19 20:20:31
Temat: Re: operacje na liczbach całkowitych a dokładność
Od: Jakub Rakus <s...@o...pl> szukaj wiadomości tego autora
[ pokaż wszystkie nagłówki ]Grzegorz Niemirowski wrote:
>
> Najpierw mnożyć, żebyś błędu zaokrąglenia nie mnożył.
Faktycznie, wykonałem wcześniej kilka obliczeń "na kartce" na losowo
wymyślonych liczbach i tak też mi się wydawało.
>
> Mnóż przez 8 a potem dziel przez 25.
>
Też nad tym myślałem, tylko jeszcze nie bardzo wiem jak programowo rozwiązać
zamianę liczby z zakresu 0.20-0.50 na najbliższy jej ułamek zwykły o
liczniku nie większym od 8. Mój współczynnik będzie najpierw ustawiany
podczas procesu automatycznej kalibracji - całość bowiem dotyczy
przeliczenia wartości uzyskanej z przetwornika A/C.
--
Pozdrawiam
Jakub Rakus
s...@o...pl
Następne wpisy z tego wątku
- 19.09.12 20:33 J.F
- 19.09.12 22:32 Mario
- 20.09.12 09:49 Waldemar Krzok
- 20.09.12 11:57 Mario
- 20.09.12 21:15 Jakub Rakus
- 20.09.12 22:30 bartekltg
- 21.09.12 20:56 Marek Wodzinski
Najnowsze wątki z tej grupy
- Problem z odczytem karty CF
- 74F vs 74HCT
- Newag ciąg dalszy
- Digikey, SN74CBT3253CD, FST3253, ktoś ma?
- Szukam: czujnik ruchu z możliwością zaączenia na stałe
- kabelek - kynar ?
- Podnieść masę o 0.6V
- Moduł BT BLE 5.0
- Pomiar amplitudy w zegarku mechanicznym
- ale zawziętość i cierpliwość
- Chiński elektrolizer tester wody
- Dzisiaj Bentlejem czyli przybieżeli sześciu Króli do Rysia na kasie
- ciekawy układ magnetofonu
- Mikroskop 3D
- Jak być bezpiecznym z Li-Ion?
Najnowsze wątki
- 2025-01-04 Katowice => Key Account Manager (ERP) <=
- 2025-01-03 Problem z odczytem karty CF
- 2025-01-03 Jazda z Warszawy do Krakowa teslą
- 2025-01-03 Wrocław => Konsultant Wdrożeniowy Comarch XL/Optima (Księgowość i
- 2025-01-03 Warszawa => International Freight Forwarder <=
- 2025-01-03 Mińsk Mazowiecki => Area Sales Manager OZE <=
- 2025-01-03 Warszawa => Spedytor Międzynarodowy <=
- 2025-01-03 Beztłumikowcy
- 2025-01-03 Lublin => Delphi Programmer <=
- 2025-01-03 Lublin => Programista Delphi <=
- 2025-01-03 [OT] nowe osoby w grupach?
- 2025-01-03 Gdańsk => Specjalista ds. Sprzedaży <=
- 2025-01-03 Warszawa => Developer .NET (mid) <=
- 2025-01-03 Katowice => Administrator IT - Systemy Operacyjne i Wirtualizacja <=
- 2025-01-03 Warszawa => DevOps Engineer <=