-
11. Data: 2013-11-01 13:55:45
Temat: Re: Sieci neuronowe a OCR [cross]
Od: "Borneq" <b...@a...hidden.pl>
Użytkownik "A.L." <a...@a...com> napisał w wiadomości
news:gv95191m641fh723q0nsh0vl2bjd7omo1p@4ax.com...
>>To jest właśnie problem z algorytmami które mają działać "same" a nawet
>>nie
>>wiadomo jak działają, jedynie się je uczy.
>
> Doskonale wiadomo jak dzialaja NN. A zeby uzywac NN, tzreba miec
> chociaz zgrubne pojecie jak one dzialaja. Chocby po to zeby nie
> wypisywac bzdur jak wyzej.
Wiadomo (w ogólności) i nie wiadomo (w szczegółach) jak działają. Ostatnio
zainteresowałem się Maszyną Wektorów Podpierających. Służy do klasyfikacji
danych na dwie klasy (choć są przeróbki aby była większa ilość niż dwie - do
OCR). Jeżeli mamy płaszczyznę i tam dwa zgrupowania punktów, dobiera się
taką linię, która je dobrze oddziela. Dla trzech wymiarów oddzielamy
płaszczyzną, a w ogólności w realnych przypadkach liczba wymiarów jest
bardzo duża i chodzi o znalezienie hiperpłaszczyzny oddzielającej, I tu
wiadomo jak to działa. Teraz możemy wyuczyć znajdowania twarzy na podstawie
zbioru piskeli - i to działa. Być może da się wyuczyć klasyfikacji twarzy:
mężczyzna - kobieta, starszy - młodszy, Czarny-Biały, ładny-brzydki.
Wszystko zależy od uczenia.I tu działamy na wielowymiarowej przestrzeni,
Przetwarzamy megabajty danych i przypuśćmy że nauczyliśmy rozpoznawać po
pikselach twarze kobiet od mężczyzn, działa nie na podstawie algorytmu ale
na podstawie danych uzyskanych z uczenia. I chyba nie da się określić jakie
cechy musi mieć dany zestaw pikseli aby został odpowiednio zaklasyfikowany.
Gdy mamy punkty na płaszczyźnie, to widać dwa zgrupowania oddzielone prostą,
ale gdy mamy tysiące wymiarów, jest to dla człowieka zupełnie nieczytelne. I
to chodziło gdy pisałem że mają działać same a nie wiadomo jak działają.
-
12. Data: 2013-11-01 18:09:18
Temat: Re: Sieci neuronowe a OCR [cross]
Od: A.L. <a...@a...com>
On Fri, 1 Nov 2013 13:55:45 +0100, "Borneq"
<b...@a...hidden.pl> wrote:
>Użytkownik "A.L." <a...@a...com> napisał w wiadomości
>news:gv95191m641fh723q0nsh0vl2bjd7omo1p@4ax.com...
>>>To jest właśnie problem z algorytmami które mają działać "same" a nawet
>>>nie
>>>wiadomo jak działają, jedynie się je uczy.
>>
>> Doskonale wiadomo jak dzialaja NN. A zeby uzywac NN, tzreba miec
>> chociaz zgrubne pojecie jak one dzialaja. Chocby po to zeby nie
>> wypisywac bzdur jak wyzej.
>
>Wiadomo (w ogólności) i nie wiadomo (w szczegółach) jak działają. Ostatnio
>zainteresowałem się Maszyną Wektorów Podpierających. Służy do klasyfikacji
>danych na dwie klasy (choć są przeróbki aby była większa ilość niż dwie - do
>OCR). Jeżeli mamy płaszczyznę i tam dwa zgrupowania punktów, dobiera się
>taką linię, która je dobrze oddziela. Dla trzech wymiarów oddzielamy
>płaszczyzną, a w ogólności w realnych przypadkach liczba wymiarów jest
>bardzo duża i chodzi o znalezienie hiperpłaszczyzny oddzielającej, I tu
>wiadomo jak to działa. Teraz możemy wyuczyć znajdowania twarzy na podstawie
>zbioru piskeli - i to działa. Być może da się wyuczyć klasyfikacji twarzy:
>mężczyzna - kobieta, starszy - młodszy, Czarny-Biały, ładny-brzydki.
>Wszystko zależy od uczenia.I tu działamy na wielowymiarowej przestrzeni,
>Przetwarzamy megabajty danych i przypuśćmy że nauczyliśmy rozpoznawać po
>pikselach twarze kobiet od mężczyzn, działa nie na podstawie algorytmu ale
>na podstawie danych uzyskanych z uczenia. I chyba nie da się określić jakie
>cechy musi mieć dany zestaw pikseli aby został odpowiednio zaklasyfikowany.
>Gdy mamy punkty na płaszczyźnie, to widać dwa zgrupowania oddzielone prostą,
>ale gdy mamy tysiące wymiarów, jest to dla człowieka zupełnie nieczytelne. I
>to chodziło gdy pisałem że mają działać same a nie wiadomo jak działają.
Support Machines nic nie maja wspolnego z Neural Networks.
Co do reszty, nei chce mi sie odpisywac, bo musialbym napisac 50
stronicowy esej.
A.L.
-
13. Data: 2013-11-02 17:52:54
Temat: Re: Sieci neuronowe a OCR [cross]
Od: Piotrne <p...@p...onet.pl>
W dniu 2013-11-01 13:55, Borneq pisze:
>
> gdy mamy tysiące wymiarów, jest to dla człowieka
> zupełnie nieczytelne. I to chodziło gdy pisałem
> że mają działać same a nie wiadomo jak działają.
>
Bez wstępnego przetworzenia danych raczej będzie trudno uzyskać
efekty, o których piszesz, tj. np. odróżnianie stary / młody
na podstawie bezpośrednio podawanej na wejście NN (lub SVM)
bitmapy z jasnościami pikseli. To podobne zadanie
do nauczenia sieci NN rozpoznawania, czy wiersz jest
smutny czy wesoły - na podstawie pliku GIF z zeskanowanym
wydrukiem wiersza (podając na wejście wszystkie bity z pliku GIF).
Rozpoznawanie twarzy poprzedzane jest zwykle wykryciem twarzy
w całym obrazie, normalizacją: dwuwymiarową (obrotem do "pionu",
skalowaniem i wykadrowaniem twarzy według przyjętych założeń)
i jeśli uda się zaimplementować, trójwymiarową - likwidującą efekty
obrotów, perspektywy itp. Przy okazji może udać się korekcja
oświetlenia twarzy. Następnie realizuje się etap wyznaczania cech
- wektora liczb, zwykle zawierającego ich znacznie mniej, niż jest
pikseli na obrazie. Dopiero ten wektor jest podawany na wejście
algorytmu klasyfikującego.
Podejście całkowicie ogólne (jasności pikseli -> NN -> imię i nazwisko)
jest teoretycznie możliwe, ale praktycznie tylko wtedy, kiedy dane
będą skrajnie uproszczone.
P.
-
14. Data: 2013-11-02 19:25:33
Temat: Re: Sieci neuronowe a OCR [cross]
Od: "Borneq" <b...@a...hidden.pl>
Użytkownik "Piotrne" <p...@p...onet.pl> napisał w wiadomości
news:l53al1$9i1$1@node1.news.atman.pl...
> Bez wstępnego przetworzenia danych raczej będzie trudno uzyskać
> efekty, o których piszesz, tj. np. odróżnianie stary / młody
> na podstawie bezpośrednio podawanej na wejście NN (lub SVM)
SVM jest używana do detekcji twarzy. A odróżnianie stary/młody -
zasugerowałem się ludzką siecią neuronową która to potrafi.
Będę musiał poczytać o systemach uczących się - takich jak SVM,
klasyfikatory bayesowskie czy sieci neuronowe - mam na oku książkę "Systemy
uczące się" Krzyśko,Wołyński, Górecki,Skorzybut.
-
15. Data: 2013-11-03 00:54:15
Temat: Re: Sieci neuronowe a OCR [cross]
Od: A.L. <a...@a...com>
On Sat, 2 Nov 2013 19:25:33 +0100, "Borneq"
<b...@a...hidden.pl> wrote:
>Użytkownik "Piotrne" <p...@p...onet.pl> napisał w wiadomości
>news:l53al1$9i1$1@node1.news.atman.pl...
>> Bez wstępnego przetworzenia danych raczej będzie trudno uzyskać
>> efekty, o których piszesz, tj. np. odróżnianie stary / młody
>> na podstawie bezpośrednio podawanej na wejście NN (lub SVM)
>
>SVM jest używana do detekcji twarzy. A odróżnianie stary/młody -
>zasugerowałem się ludzką siecią neuronową która to potrafi.
>Będę musiał poczytać o systemach uczących się - takich jak SVM,
>klasyfikatory bayesowskie czy sieci neuronowe - mam na oku książkę "Systemy
>uczące się" Krzyśko,Wołyński, Górecki,Skorzybut.
To zle masz na oku. Na oku nalezy miec ksiazke "Systemy uczace sie",
Pawel Cichosz. Najlepsza polska ksiazka na ten temat
A.L.
P.S> Drugie wydanie bylo w roku 2007. Nie wiem czy sa nowsze
-
16. Data: 2013-11-03 12:37:47
Temat: Re:systemy uczące się (było: Sieci neuronowe a OCR) [cross]
Od: "Borneq" <b...@a...hidden.pl>
Użytkownik "A.L." <a...@a...com> napisał w wiadomości
news:b24b79174p7m5nkdkm3ph84m7o8am14tuk@4ax.com...
> To zle masz na oku. Na oku nalezy miec ksiazke "Systemy uczace sie",
> Pawel Cichosz. Najlepsza polska ksiazka na ten temat
Ja zamówiłem ksiązkę Krzyśko przed świętem na Allegro i jeszcze nie
przyszła. Tytuł ten znalazłem w pracy
http://www.ifj.edu.pl/publ/hab/Wolter.pdf?lang=pl
Natomiast książka Cichosza chyba rzeczywiście jest lepsza ale dwa razy
droższa, za to dwa razy obszerniejsza.
-
17. Data: 2013-11-03 20:24:20
Temat: Re: systemy uczące się (było: Sieci neuronowe a OCR) [cross]
Od: A.L. <a...@a...com>
On Sun, 3 Nov 2013 12:37:47 +0100, "Borneq"
<b...@a...hidden.pl> wrote:
>Użytkownik "A.L." <a...@a...com> napisał w wiadomości
>news:b24b79174p7m5nkdkm3ph84m7o8am14tuk@4ax.com...
>> To zle masz na oku. Na oku nalezy miec ksiazke "Systemy uczace sie",
>> Pawel Cichosz. Najlepsza polska ksiazka na ten temat
>
>Ja zamówiłem ksiązkę Krzyśko przed świętem na Allegro i jeszcze nie
>przyszła. Tytuł ten znalazłem w pracy
>http://www.ifj.edu.pl/publ/hab/Wolter.pdf?lang=pl
>Natomiast książka Cichosza chyba rzeczywiście jest lepsza ale dwa razy
>droższa, za to dwa razy obszerniejsza.
Ksiazka Krzysko (i innych) tez jest OK, ale ona ma bardziej charakter
"recepturowy" niz wyjasniajacy. Da sie skopiowac wzorki i napisac
program, ale dlaczego te wzorki sa takie jakie sa - to juz nie jest
zbyt dokladnie wyjasnione. Ale na pierwsze zapoznanie sie z tematem
jest OK.
A.L.
-
18. Data: 2013-11-05 09:20:10
Temat: Re: Sieci neuronowe a OCR [cross]
Od: Andrzej Jarzabek <a...@g...com>
On 02/11/2013 16:52, Piotrne wrote:
>
> Rozpoznawanie twarzy poprzedzane jest zwykle wykryciem twarzy
> w całym obrazie, normalizacją: dwuwymiarową (obrotem do "pionu",
> skalowaniem i wykadrowaniem twarzy według przyjętych założeń)
> i jeśli uda się zaimplementować, trójwymiarową - likwidującą efekty
> obrotów, perspektywy itp. Przy okazji może udać się korekcja
> oświetlenia twarzy. Następnie realizuje się etap wyznaczania cech
> - wektora liczb, zwykle zawierającego ich znacznie mniej, niż jest
> pikseli na obrazie. Dopiero ten wektor jest podawany na wejście
> algorytmu klasyfikującego.
BTW w ostatnim New Scientist jest artykuł o startupie (o nazwie
Vicarious) który ponoć zbudował sieć neuronową rozwiązującą ten problem,
konkretnie w tej chwili mają program łamiący CAPTCHA z obróconymi i
zniekształconymi literkami. Nie jest to jeszcze niezależnie
potwierdzone, ale byłoby ciekawe, gdyby okazało się prawdą.
-
19. Data: 2013-11-08 12:41:25
Temat: Re: systemy uczące się (było: Sieci neuronowe a OCR) [cross]
Od: Roman W <b...@g...pl>
On Sun, 03 Nov 2013 13:24:20 -0600, A.L. <a...@a...com> wrote:
> Ksiazka Krzysko (i innych) tez jest OK, ale ona ma bardziej
charakter
> "recepturowy" niz wyjasniajacy. Da sie skopiowac wzorki i napisac
> program, ale dlaczego te wzorki sa takie jakie sa - to juz nie jest
> zbyt dokladnie wyjasnione. Ale na pierwsze zapoznanie sie z tematem
> jest OK.
A książka "Pattern recognition and machine learning" Bishopa?
Jest tez obecnie internetowy wyklad o machine learning na Coursera.
RW
-
20. Data: 2013-11-08 20:01:15
Temat: Re: systemy ucz?ce si? (by?o: Sieci neuronowe a OCR) [cross]
Od: A.L. <a...@a...com>
On Fri, 08 Nov 2013 11:41:25 +0000, Roman W
<b...@g...pl> wrote:
>On Sun, 03 Nov 2013 13:24:20 -0600, A.L. <a...@a...com> wrote:
>> Ksiazka Krzysko (i innych) tez jest OK, ale ona ma bardziej
>charakter
>> "recepturowy" niz wyjasniajacy. Da sie skopiowac wzorki i napisac
>> program, ale dlaczego te wzorki sa takie jakie sa - to juz nie jest
>> zbyt dokladnie wyjasnione. Ale na pierwsze zapoznanie sie z tematem
>> jest OK.
>
>A książka "Pattern recognition and machine learning" Bishopa?
>
Doskonala ksiazka. Polecam!
A.L.