-
Data: 2016-04-04 21:46:12
Temat: Re: Jak dobrze uwarunkować metodę najmniejszych kwadratów
Od: "M.M." <m...@g...com> szukaj wiadomości tego autora
[ pokaż wszystkie nagłówki ]On Monday, April 4, 2016 at 6:54:22 PM UTC+2, slawek wrote:
> On Mon, 4 Apr 2016 04:57:56 -0700 (PDT), "M.M." <m...@g...com>
> wrote:
> > ( Sum_1^N abs( uzyskany_i - pożądany_i ) ^ 0.5 ) / N
>
> Zwróć uwagę, że dobra metoda powinna być niezmiennicza wobec
> transformacji. Tzn. najlepsze dopasowanie nie może się zmieniać przy
> zamianie osi, przy obrocie itd. Zwykła regresja tego nie potrafi, bo
> wagi są tylko w y.
O ile się nie mylę, odporna na transformacje będzie każda metoda, w której
funkcja błędu jest oparta nie na rzucie pionowym, ale na rzucie ortogonalnym.
Niestety rzut ortogonalny wymaga iterowania. Czyli znowu lepsza metoda
kosztem większego nakładu obliczeniowego. Rzut ortogonalny również/przynajmniej
nie ma minimów lokalnych, więc metoda w miarę wdzięczna.
> Z kolei dopasowanie minimalizujące sumę odległości od prostej (w X i
> Y) nie ma uzasadnienia statystycznego.
Zależy od zadania. Jeśli mamy dużo danych, jeśli te dane są dokładne, ale
obarczone losowym-niewielkim szumem, jeśli znamy całym model i jeśli tylko
nie znamy współczynników liniowych - to co można zrobić lepszego, niż
właśnie ułożyć układ równań normalnych i rozwiązać?
Pewnie zarzucisz mi, że powyżej opisałem rzadką sytuację, cóż, masz
rację. Ale ponadto, gdy nie wiemy z czym mamy do czynienia, to na
początek też warto spróbować dobrać liniowe współczynniki metodą
najmniejszych kwadratów. Warto choćby dlatego, że jest w miarę szybka i
daje dobry punkt wyjścia dla dalszych przemyśleń. Więc są przynajmniej
dwie sytuacje w których uzasadnienie użycia jest, choć nie zawsze jest
to uzasadnienie statystyczne.
W pracy Cichosza jest cały rozdział poświęcony 'reprezentacji rozszerzonej',
która zwiększa możliwości 'metody liniowej'. Czasami to daj dobre rezultaty.
> Wprowadzenie wag dla X daje problem nieliniowy.
Nie wiem o jakie wprowadzenie wag chodzi, jest sposób na dodanie
wag, który nie wpływa na utratę liniowości, ale pewnie masz na
myśli coś innego.
> No i można próbować mediany zamiast sumy.
Mediana to jest wartość która dzieli posortowany ciąg na pół. Jeśli
chodzi o to, aby sumę funkcji błędu zastąpić medianą, to... nigdy
nie stosowałem tego w praktyce. Wydaje się ryzykowne, bo zbiór
z małą medianą może mieć bardzo duże maksimum.
Pozdrawiam
Następne wpisy z tego wątku
- 04.04.16 21:55 slawek
- 04.04.16 21:59 slawek
- 04.04.16 22:08 M.M.
- 04.04.16 22:08 slawek
- 04.04.16 22:09 M.M.
- 04.04.16 22:20 RW
- 05.04.16 00:05 slawek
- 05.04.16 16:09 bartekltg
- 05.04.16 20:26 slawek
- 05.04.16 20:42 bartekltg
- 05.04.16 21:54 RW
- 05.04.16 21:56 RW
- 05.04.16 23:07 slawek
- 06.04.16 01:55 Roman W
- 06.04.16 01:59 Roman W
Najnowsze wątki z tej grupy
- 7. Raport Totaliztyczny: Sprawa Qt Group wer. 424
- TCL - problem z escape ostatniego \ w nawiasach {}
- Nauka i Praca Programisty C++ w III Rzeczy (pospolitej)
- testy-wyd-sort - Podsumowanie
- Tworzenie Programów Nieuprzywilejowanych Opartych Na Wtyczkach
- Do czego nadaje się QDockWidget z bibl. Qt?
- Bibl. Qt jest sztucznie ograniczona - jest nieprzydatna do celów komercyjnych
- Co sciaga kretynow
- AEiC 2024 - Ada-Europe conference - Deadlines Approaching
- Jakie są dobre zasady programowania programów opartych na wtyczkach?
- sprawdzanie słów kluczowych dot. zła
- Re: W czym sie teraz pisze programy??
- Re: (PDF) Surgical Pathology of Non-neoplastic Gastrointestinal Diseases by Lizhi Zhang
- CfC 28th Ada-Europe Int. Conf. Reliable Software Technologies
- Młodzi programiści i tajna policja
Najnowsze wątki
- 2024-12-12 Autocom CAN CDP+ wysokie kody błędów
- 2024-12-13 termostat do lodowki
- 2024-12-13 Gdańsk => Inżynier bezpieczeństwa aplikacji <=
- 2024-12-13 Warszawa => Head of International Freight Forwarding Department <=
- 2024-12-13 Poznań => Employer Branding Specialist <=
- 2024-12-13 Kraków => Business Development Manager - Dział Sieci i Bezpieczeńst
- 2024-12-13 Kraków => Business Development Manager - Network and Network Security
- 2024-12-13 Katowice => Regionalny Kierownik Sprzedaży (OZE) <=
- 2024-12-13 Gdańsk => Programista Full Stack .Net <=
- 2024-12-13 Warszawa => Analityk Biznesowo-Systemowy <=
- 2024-12-13 Białystok => Architekt rozwiązań (doświadczenie w obszarze Java, A
- 2024-12-13 Wrocław => Application Security Engineer <=
- 2024-12-13 Katowice => Head of Virtualization Platform Management and Operating S
- 2024-12-13 Lublin => Programista Delphi <=
- 2024-12-13 Chrzanów => Specjalista ds. public relations <=