Fraktale , Sieci neuronowe ,Algorytmy genetyczne...

[LesioS]

Błąd na wyjściu wynosi x, a więc błędy na wyjściach meuronów ostatniej wartswy są odpowiednio x przemnożone przez wagi (na rysunku) -0.3 i -0.4. To daje Ci błędy na wyjściach neuronów (2, 1) i (2, 2). Błędy te przepuszczasz przez odwrotność funkcji aktywacji i otrzymujesz zsumowane różnice wejść neuronów, czyli błędy. I dalej tak samo...
Piszę to z głowy, więc nie do końca jest to tak prosto. Pamiętam, że wzory były dużo bardziej skomplikowane, pojawiały się w nim pochodne funkcji aktywacji. Radzę poczytać np. Tadeusiewicza.

[Matteo]

Radzę poczytać np. Tadeusiewicza.

Czytam jego ksiazke 'sieci neuronowe', ale nie jest ona napisana przystepnym jezykiem. Po kazdym matematycznym wywodzie brakuje mi jakiegos prostego nawet przykladu

Sorry LesioS, moze wydac Ci sie teraz, ze sie czepiam, ale tak nie jest. Starajac sie zrozumiec ten algorytm, czytam bardzo uwaznie Twoje posty i trafiam w moim odczuciu na pewne niescislosci, ktore zamazuja mi obraz Bede wdzieczny jesli odniesiesz sie do moich uwag.

Błąd na wyjściu wynosi x, a więc błędy na wyjściach meuronów ostatniej wartswy są odpowiednio x przemnożone przez wagi (na rysunku) -0.3 i -0.4.

Nie wiem w ktorym momencie odnosisz sie do mojego rysunku, a w ktorym nie, bo jesli w calej swej wypowiedzi nawiazujesz do niego, to w mojej ostatniej warstwie wyjsciowej jest jeden neuron, a nie kilka, ale faktycznie, na jego blad skladaja sie w pewnym stopniu wagi -0.3 i -0.4.

To daje Ci błędy na wyjściach neuronów (2, 1) i (2, 2).

Tzn co mi daje te bledy? Blad wyliczam dla wyjscia, a dla warstwy przedostatniej (czyli warstwa z neuronami, gdzie wyjscia wynioslo odpowiednio 0.7624 i 0.7329) nie potrafie go wyliczyc! Do tej wlasnie warstwy, jak sam pisales, blad trzeba propagowac.

Błędy te przepuszczasz przez (...)

Blad czy bledy? Bo na razie umiem tylko wyliczyc ten z ostatniego neuronu

Siec zwrocila nam wartosc 0.2604 [tu jest blad w oryginale, zaraz go poprawie]. Docelowym wyjsciem mialo byc 1. Wyliczamy blad:
1 - 0.2604 = 0.7396

Błędy te przepuszczasz przez odwrotność funkcji aktywacji i otrzymujesz zsumowane różnice wejść neuronów, czyli błędy

odwrotnosc funkcji, chodzi Ci o pochodna funkcji aktywacji?

Wybacz moja dociekliwosc. Gdybym znalazl konkretna odpowiedz zakonczylbym ta dyskusje (a z mojej strony pewnie bardziej dywagacje ;]). Zrobilem rysunek przykladowej sieci i podalem wzory z ktorych korzystalem z nadzieja, ze ktos mi to policzy, nawet dla jednego neuronu. Nie ma nigdzie przykladu, wszedzie same wzory... Jak cos jest niejasnego na moim schemacie moge raz dwa wyjasnic. Jednym slowem potrzeba mi konkretnego rozwiazania (liczb i jednoznacznego wzoru).

Pozdrawiam

[Matteo]

Pomoglem sam sobie ;]
Moze sie jeszcze komus przyda. Nie wiem, jak moglem to przeoczyc...

http://home.agh.edu.pl/~vlsi/AI/backp_t/backprop.html

pozdrawiam

[lolek]

Matteo A rozumiesz te zakręcone wzory matematyczne ? Bo to moja pięta achillesowa że ja rozumiem tylko algorytmy. A widziałem wiele ciekawych sieci i tylko wzory były i to mnie hamuje.

[Matteo]

Jesli chodzi Ci o wzory z linku, ktory podalem w poprzednim poscie, to tak. I do tego te rysunki
Jesli o cos innego, to zamiesc tutaj, zobaczymy

[lolek]

http://aragorn.pb.bialystok.pl/~gkret/SNN/SSN_w10.PDF
http://kik.pcz.pl/nn/samoorg.php?art=2
Chodzi mi na przykład o Sieć Kohonena.
Podobno daje dobre rezultaty na Forex ale same wzory mi nic nie mówią.
Nie mogę się doszukać na czym polega ta przewaga sieci.
Po algorytmach mogę wywnioskować ale po wzorach nie

[LesioS]

Sieć Kohonenna jest siecią samoorganizującą się. Oznacza to, że do "wypracowania" sobie wzorców klasyfikacyjnych wymaga danych, ale nie wymaga porządanych odpowiedzi na te dane. Odpowiedzi te są niejako kreowane przez samą sieć. Zdolność ta wynika ze specyficznej konstrukcji sieci.

[lolek]

Ja rozumiem tylko żeby stworzyć algorytm trzeba rozumieć wzory i tu mam problem. Wtedy można zrozumieć na czym polega ta samoorganizacja bo mam algorytm i widzę jak zmieniają się liczby.

[LesioS]

Niestety, sieci neuronowe to matematyka i wbrew pozorom również fizyka... Bez umiejętności czytania i interpretowania wzorów nie da się

[Greg68E]

Niestety, sieci neuronowe to matematyka i wbrew pozorom również fizyka... Bez umiejętności czytania i interpretowania wzorów nie da się

moze jednak sprobowac, zrobic tak jak wlosi, wytlumaczyc krok po kroku jak zainstalowac program (nawet tak prymitywny jak neuroshell) ktory ma cos tam wspolnego z sieciami, jak tym programem sie poslugiwac, i wtedy skoncentrowac sie tylko na tym co wrzucam do srodka (input) i co ze srodka wyciagac (output). Jesli jacys zwykli smiertelnicy sa zainteresowani taka wspolpraca moze warto pomyslec o stworzeniu grupy ktora by sie tym zajela. Ja wspolpracuje z wlochami i mam dostep do przeroznych materialow, jesli sa chetni, czekam na propozycje.