eGospodarka.pl
eGospodarka.pl poleca

eGospodarka.plGrupypl.comp.programmingPocedura całkowaniaRe: Pocedura całkowania
  • Data: 2009-07-13 06:26:06
    Temat: Re: Pocedura całkowania
    Od: Tomasz Kaczanowski <kaczus@dowyciecia_poczta.onet.pl> szukaj wiadomości tego autora
    [ pokaż wszystkie nagłówki ]

    slawek pisze:
    >

    > Wic w tym, że ja zbieram wyniki z 8 cyframi znaczącymi, a liczę z... 64
    > bitami, czyli mantysa 52 bity czyli nieco ponad 15 cyfr po przecinku

    Błąd - maksymalnie tyle - nazwa zmiennoprzecinkowe pochodzi stąd, że
    dokładność sie zmienia.

    > (choć FPU ma 80 bitów i niektóre rzeczy liczy wewnętrznie nieco
    > dokładniej).

    nie każdy FPU - z tym jest różnie - w zależności od rodziny procesorów.
    Dodatkowo - wykonując operacje na tych liczbach, będziesz miał kolejne
    błędy - po za dzieleniem, duże błędy uzyskuje się przy dodawaniu, jeśli
    liczby są różnej wielkości.


    --
    Kaczus
    http://kaczus.republika.pl

Podziel się

Poleć ten post znajomemu poleć

Wydrukuj ten post drukuj


Następne wpisy z tego wątku

Najnowsze wątki z tej grupy


Najnowsze wątki

Szukaj w grupach

Eksperci egospodarka.pl

1 1 1

Wpisz nazwę miasta, dla którego chcesz znaleźć jednostkę ZUS.

Wzory dokumentów

Bezpłatne wzory dokumentów i formularzy.
Wyszukaj i pobierz za darmo: