-
11. Data: 2010-07-21 00:54:59
Temat: Re: Metody genetyczne a minimum funkcji
Od: Roman Werpachowski <r...@g...com>
On Jul 20, 10:33 pm, "Borneq" <b...@a...hidden.pl> wrote:
> Użytkownik "Mariusz Marszałkowski" <m...@g...com> napisał w
wiadomościnews:933d3ab8-6a72-4a90-800a-26e59db7f62f@
s9g2000yqd.googlegroups.com...
>
> > Może zastosuj symulowane wychładzanie? To taki algorytm
> > genetyczny w którym jest tylko jeden osobnik i tylko mutacja :)
> > Dla niektórych funkcji sprawuje się bardzo dobrze.
>
> Chyba całkowicie zrezygnuję z algorytmów genetycznych i problem może da się
> rozwiązać przy pomocy iterowanych metod znajdowania ekstremów jak metody
> zmiennej metryki. Przyglądam się metodzie BFGS i zastanawiam nad znajdowanie
> długości kroku alfa, musi spełnić warunek
Wolfa.http://en.wikipedia.org/wiki/Wolfe_conditions
> Nie bardzo wiem jak z tych warunków obliczyć Alfa, przy czym warunek IIa nie
> wygląda jak uściślenie II a jak zupełnie przeciwny.
Jeśli tylko możesz, użyj gotowej implementacji. Napisanie dobrego
nieliniowego optymalizatora jest bardzo trudne.
Roman
-
12. Data: 2010-07-21 01:41:37
Temat: Re: Metody genetyczne a minimum funkcji
Od: Mariusz Marszałkowski <m...@g...com>
On 21 Lip, 02:54, Roman Werpachowski <r...@g...com>
wrote:
> On Jul 20, 10:33 pm, "Borneq" <b...@a...hidden.pl> wrote:
>
> Jeśli tylko możesz, użyj gotowej implementacji. Napisanie dobrego
> nieliniowego optymalizatora jest bardzo trudne.
Nigdy nie dowiedziałem się, czym różni się "dobra implementacja" od
prostej i poprawnej implementacji na podstawie wzoru z książki.
Kiedyś
napisałem BGFS do uczenia sieci neuronowych w C++. Nie
robiłem dokładnych benchmarków, a z pobieżnych wynikło że działa o
wiele szybciej niż metoda gradientów sprzężonych. W porównaniu do
excela działało to jakieś 100-1000 razy szybciej.
Pozdrawiam
-
13. Data: 2010-07-21 04:55:15
Temat: Re: Metody genetyczne a minimum funkcji
Od: "Borneq" <b...@a...hidden.pl>
Użytkownik "Mariusz Marszałkowski" <m...@g...com> napisał w wiadomości
news:706e899d-b1f9-4a2a-8601-555a4e53cc19@y11g2000yq
m.googlegroups.com...
> Nigdy nie dowiedziałem się, czym różni się "dobra implementacja" od
> prostej i poprawnej implementacji na podstawie wzoru z książki.
Chyba warto użyć którejś metody bezgradientowej Hooke'a-Jeevesa, Rosenbrocka
i.in. bo znam tylko funkcję straty a nie jej pochodne.
-
14. Data: 2010-07-21 05:26:41
Temat: Re: Metody genetyczne a minimum funkcji
Od: Maciej Pilichowski <P...@g...com>
On Tue, 20 Jul 2010 07:53:47 -0700 (PDT), Mariusz Marszałkowski
<m...@g...com> wrote:
>Aby algorytm genetyczny
>zadziałał, trzeba użyć takiego kodowania które zwiększy
>prawdopodobieństwo
>że dobrze przystosowani rodzice będ? mili dobrze przystosowane
>potomstwo. Naiwne kodowanie da taki efekt, że skrzyżowanie
>dwóch dobrych rozwi?zań daje fatalne potomstwo :)
To wcale nie oznacza, ze potrzebne jest krzyzowanie. Alg. genetyczny z
krzyzowaniem jest mocno CPU-zerny, a to tez (glownie) ma znaczenie.
milego dnia, hej
--
Moja wyprzedaz wszystkiego: ksiazki, plyty, filmy.
http://www.garaz.pol.pl/
-
15. Data: 2010-07-21 07:45:50
Temat: Re: Metody genetyczne a minimum funkcji
Od: "slawek" <s...@h...pl>
Użytkownik "Mariusz Marszałkowski" <m...@g...com> napisał w wiadomości
grup
dyskusyjnych:3dc4027b-5344-4d66-8935-6c1248fc4049@l1
4g2000yql.googlegroups.com...
> potomstwo. Naiwne kodowanie da taki efekt, że skrzyżowanie
> dwóch dobrych rozwiązań daje fatalne potomstwo :)
Nie.
> to tak trudne, że rezygnuje się z algorytmów genetycznych. Algorytmy
> genetyczne z powodzeniem można zastosować jedynie tam gdzie
> nie ma nadziei na jakikolwiek inni algorytm.
Nieprawda.
> Algorytm genetyczny można z powodzeniem zastosować do dobrania punktu
> początkowego i długości kroku.
Też nie.
-
16. Data: 2010-07-21 07:47:28
Temat: Re: Metody genetyczne a minimum funkcji
Od: "slawek" <s...@h...pl>
Użytkownik "Roman Werpachowski" <r...@g...com> napisał w
wiadomości grup
dyskusyjnych:157aa68a-cd04-48f3-9fa2-3d4110cecdcd@q3
5g2000yqn.googlegroups.com...
> Jeśli tylko możesz, użyj gotowej implementacji. Napisanie dobrego
> nieliniowego optymalizatora jest bardzo trudne.
Nie.
Trudne może być tylko napisanie sprawnego.
-
17. Data: 2010-07-21 12:26:23
Temat: Re: Metody genetyczne a minimum funkcji
Od: Segmentation Fault <c...@o...eu>
On 07/20/2010 01:02 PM, Borneq wrote:
> Nie zajmowałem się nigdy algorytmami genetycznymi. Czy można za ich
> pomocą wyszukać minimum (globalne) funkcji trzech i więcej zmiennych?
Teoretycznie można, ale w tym wypadku "teoretycznie" znaczy "zupełnie
nie praktycznie". Algorytmy genetyczne to algorytmy randomizacyjne,
szuka się przy ich pomocy rozwiązań "dość dobrych".
Alogrytmy genetyczne to nie są też magicznym rozwiązaniem do znajdowania
minimum funkcji. Napisz coś więcej o funkcjach, które chcesz
minimalizować.
Może jest rozwiązanie analityczne?
Może programowanie liniowe?
Może zadziałają jakieś metody gradientowe?
-
18. Data: 2010-07-21 12:53:22
Temat: Re: Metody genetyczne a minimum funkcji
Od: Mariusz Marszałkowski <m...@g...com>
On 21 Lip, 09:45, "slawek" <s...@h...pl> wrote:
> > potomstwo. Naiwne kodowanie da taki efekt, że skrzyżowanie
> > dwóch dobrych rozwiązań daje fatalne potomstwo :)
>
> Nie.
Tak. Wystarczy wziąć funkcję xor jako przykład.
Mamy dwóch rodziców:
10 => 1
01 => 1
Jakby ich nie skrzyżować, dadzą zero.
Pozdrawiam
-
19. Data: 2010-07-21 12:57:17
Temat: Re: Metody genetyczne a minimum funkcji
Od: Mariusz Marszałkowski <m...@g...com>
On 21 Lip, 09:45, "slawek" <s...@h...pl> wrote:
> > potomstwo. Naiwne kodowanie da taki efekt, że skrzyżowanie
> > dwóch dobrych rozwiązań daje fatalne potomstwo :)
>
> Nie.
Tak. Wystarczy wziąć funkcję xor jako przykład.
Mam dwóch rodziców:
10 => 1
01 => 1
Jakby ich nie skrzyżować, dadzą zero.
Pozdrawiam
> > to tak trudne, że rezygnuje się z algorytmów genetycznych. Algorytmy
> > genetyczne z powodzeniem można zastosować jedynie tam gdzie
> > nie ma nadziei na jakikolwiek inni algorytm.
>
> Nieprawda.
Więc gdzie z powodzeniem zastosowano naiwny algorytm genetyczny?
> > Algorytm genetyczny można z powodzeniem zastosować do dobrania punktu
> > początkowego i długości kroku.
>
> Też nie.
Dlaczego nie?
-
20. Data: 2010-07-21 13:26:32
Temat: Re: Metody genetyczne a minimum funkcji
Od: Daniel Janus <d...@d...pl>
Dnia 21.07.2010 Mariusz Marszałkowski <m...@g...com> napisał/a:
>> > to tak trudne, że rezygnuje się z algorytmów genetycznych. Algorytmy
>> > genetyczne z powodzeniem można zastosować jedynie tam gdzie
>> > nie ma nadziei na jakikolwiek inni algorytm.
>>
>> Nieprawda.
>
> Więc gdzie z powodzeniem zastosowano naiwny algorytm genetyczny?
http://www-personal.umich.edu/~axe/research/Evolving
.pdf
pozdrawiam,
Daniel