Neuronale Netze - Benötige Hilfe für Formeln!

renel

Hallo,
bin schon seit einigen Tagen dabei mir die Formeln und Techniken für neuronale Netze reinzuprügeln. Ich hole mir die Infos von diesem Kurs: http://wwwmath.uni-muenster.de/SoftComputing/lehre/material/wwwnnscript/startseite.html

Habe gerade mein Fachabi gemacht und das letzte, was ich gemacht habe, waren Differentialgleichungen und Exponentialfunktionen.

Habe mir vor einigen Tagen so simple Dinge wie das Summenzeichen eingetrichtert (wieso hab ich das nie in der Schule gelernt?).

Wie bereits erkennbar, habe ich aber noch ein paar Fragen. Zum Beispiel würde ich gern wissen, was ein Pfeil (→) nach rechts über einem Variablennamen bedeutet. Beispiel: http://wwwmath.uni-muenster.de/SoftComputing/lehre/material/wwwnnscript/bilder/formeln/image1.gif
Und wieso hat diese Funktion noch ein tiefergestelltes "a" vorne mit dranhängen? Die Grafik ist von einer Transferfunktion.

Die Schwellenwertfunktion hab ich einigermaßen kapiert (http://wwwmath.uni-muenster.de/SoftComputing/lehre/material/wwwnnscript/bilder/formeln/image4.gif).

Problem gibts hierbei: http://wwwmath.uni-muenster.de/SoftComputing/lehre/material/wwwnnscript/bilder/formeln/image5.gif - leider weiß ich absolut nicht, woher a und s kommen und wieso in der Mitte vor die Klammer ein s geschrieben wird.

Ein weiteres Problem: http://wwwmath.uni-muenster.de/SoftComputing/lehre/material/wwwnnscript/bilder/formeln/image47.gif - dort versteh ich nur noch Bahnhof - scheint irgendeine Regel für eine sigmoide Funktion zu sein.

Diese Gleichung (http://wwwmath.uni-muenster.de/SoftComputing/lehre/material/wwwnnscript/bilder/formeln/image7.gifwäre bis zum Summenzeichen verständlich. Alles was danach kommt erscheint mir irgendwie komisch zusammengewürfelt -> das in deutscher Sprache wäre nicht schlecht.

---------------

Grundsätzlich könnte ich ein neuronales Netz bauen - lediglich die Ausgabe der Neuronen ist mir noch nicht klar: Wie das errechnet wird usw.

---------------

Das letzte große Problem ist das Backpropagations-Verfahren zum Lernen innerhalb des Netzes. Forward Pass ist kein Problem. Fehlerbestimmung und Backward Pass erschlagen mich dann schlussendlich. Ohne Lernverfahren ist das Netz nutzlos! Hier steht, wie das implementiert werden kann: http://wwwmath.uni-muenster.de/SoftComputing/lehre/material/wwwnnscript/implement1.html - allerdings sind da viele Zeichen unverständlich und manches kapier ich einfach nicht. Dieses oft verwendete "lim" - steht das für Limes? Kann man das ausrechnen?

Ist das ein Teilgebiet der Mathematik? Was würdet Ihr empfehlen, was ich als nächstes in Mathe lernen sollte (hab alles inklusive Analysis im Moment - gibts auch Mathe-eBooks oder gute Internetseiten wie mathe-online.at - nur eben mit mehr fortgeschrittenen Themen?). Mein Uni-Besuch ist leider noch ein bisschen hin, aber Mathe find ich gut und wenn ich was zu lernen bekomme, dann pack ich das auch! Schule ist leider rum und ich muss zuhause rumhocken.

Ich hoffe Ihr könnt mir wenigstens in Teilfragen helfen. Den ganzen Beitrag möchte mir bestimmt niemand beantworten. Ein Stückchen würde mir auch schon genügen. Ich danke für Eure Aufmerksamkeit!

renel

renel schrieb:

Habe gerade mein Fachabi gemacht und das letzte, was ich gemacht habe, waren Differentialgleichungen und Exponentialfunktionen.

Habe mir vor einigen Tagen so simple Dinge wie das Summenzeichen eingetrichtert (wieso hab ich das nie in der Schule gelernt?).

hm, ich hab das im zusammenhang mit der integralrechnung mitbekommen- die hast du ja nicht gehabt.... vielleicht liegts daran.

renel schrieb:

Wie bereits erkennbar, habe ich aber noch ein paar Fragen. Zum Beispiel würde ich gern wissen, was ein Pfeil (→) nach rechts über einem Variablennamen bedeutet. Beispiel: http://wwwmath.uni-muenster.de/SoftComputing/lehre/material/wwwnnscript/bilder/formeln/image1.gif
Und wieso hat diese Funktion noch ein tiefergestelltes "a" vorne mit dranhängen?

hm...
der pfeil ist ein vektoerpfeil. die so bezeichnete größe ist ein vektor, hat also nicht nur betrag, sondern auch richtung.
das tiefergestellte a ist ein parameter in der funktion, wodurch eine sogenannte funktionenschar entsteht- für jeden wert von a gibt es also eine funktion f.

lim

steht wirklich für limes, es wird der Grenzwert berechnet. Also der Wert, den eine Funktion z.B. für den Parameter annimmt, wenn er gegen unendlich läuft.
Müsstest du gehabt haben, wie habt ihr sonst den Differenzenquotienten eingeführt ?

renel

Tjo,
mein Physiklehrer war bis vor kurzem auch sehr erstaunt darüber. Hat das mit diesem Quotienten etwas mit Tangenten zu tun? Die hab ich immer über eine lineare Funktion mit einem Punkt und der Steigung aus der ersten Ableitung errechnet.

Hi,

Pfeil heißt hier Vektor. a deutet hier Aktivierungsfunktion an
(entspricht je nach Literatur einer Transferfunktion).

2)a und s sind Konstanten mit denen man festlegt, wie stark
die Semilinearefunktion steigen soll (ist ja nicht immer gleich).

Deine Link's sind bescheiden. Da ich das Skript aber kenne...

Ist einfach die Definition (zumindest teilweise) für sigmoide Funktionen.

Beschreibt Ausgabe des j-ten Neurons, also gewichte Summe der
vorgänger Neuronen.
Keine konkrete Frage, aber ja, "lim" heisst limes.

Jockelx

Nochmal die anderen Antworten gelesen.
Zur Sicherheit:

f_a hat (hier) nix mit Funktionschar zu tun. Sonst würde das a
ja auch auf der rechten Seite auftauchen. Ist einfach ein Name,
heisst oft auch f_act, bzw. f_akt (für Aktivierung).
Und das mit der Richtung ist verwirrend.
Der Pfeil soll heissen, dass x und w nicht nur aus einem Wert
bestehen, sondern viele Komponenten haben, also Vektoren sind.

Jockelx

renel

Vielen Dank - ich habe gestern ein paar Scripts zum Thema Mathematik aufgetrieben. Ich denke, ich werde mich da mal reinlesen. Zwei mal ein Vorkurs-Script und mehrere komplette Scripts für Mathematik I. Da hab ich auch schon einige Dinge entdeckt.

Vielen Dank für die Hilfe!